Question

Arquivos são sempre compostos de sequências de bits. Como então o software que os usa sabe como interpretá-los?

Answer 1

através de uma codificação, ou adiçao de um semantico ao dado.

Por exemplo, podemos considerar que o primeiro bit representará o sexo de uma pessoa. 0 = feminino, 1 = masculino

Podemos também definir que o segundo bit representará a nacionalidade 
0 = brasileiro, 1 = estrangeiro

Então dependendo da natureza do dado, podemos interpretá-lo de acordo com a codificação que for criada para tal dado.
No exemplo acima, um bit pode servir para gravar o sexo ou a nacionalidade , 0's e 1's da mesma forma só que com interpretaçào diferente.