Digite 0.1 + 0.2 e a tela responde 0.3. Digite 0.1 + 0.2 − 0.3 e ela responde 5.5511151231258⋅10−17. A subtração é a honesta: a soma armazenada fica umas unidades acima de 0.3 na décima sétima casa decimal, e a soma pura só parece correta porque a impressão arredonda para menos dígitos do que o erro precisa para aparecer.
Nem 0.1 nem 0.2 têm uma forma binária exata: são desenvolvimentos periódicos, como 1/3 em decimal, então a máquina guarda o valor representável mais próximo de cada um, e os dois arredondamentos não se cancelam. Por isso o dinheiro é tratado como centavos inteiros, por isso os testes de igualdade sobre decimais calculados são um erro, e por isso o resíduo é de uns 5.6 × 10⁻¹⁷ e não dos 2.2 × 10⁻¹⁶ que o épsilon de máquina sozinho preveria: dois arredondamentos, uma subtração.
Resposta
5.5511151231258⋅10−17
Como ler
O resíduo depois de 0.1 + 0.2 − 0.3. A versão de dois termos imprime 0.3 porque a tela arredonda antes que você possa ver a diferença.
Fonte
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
Resolva na calculadora
Estes links abrem a calculadora adequada com os números deste problema já escritos. A linha de cima é o que a tela deveria mostrar: confira você mesmo.