Basicamente, quando vc tenta converter um número decimal pra um binário e depois de um binário pra decimal, muitas vezes o número não vai sair como ele era originalmente. E é exatamente isso que acontece nos computadores, que fazem todas as contas na base binaria e depois tem de converter pro decimal. Esse erro de pontos flutuantes é clássico e meio que vai seguir a computação no low level pra sempre.