Teclea 0.1 + 0.2 y la pantalla responde 0.3. Teclea 0.1 + 0.2 − 0.3 y responde 5.5511151231258⋅10−17. La resta es la honesta: la suma almacenada queda unas unidades por encima de 0.3 en el decimoséptimo lugar decimal, y la suma a secas solo parece correcta porque la impresión redondea a menos dígitos de los que el error necesita para mostrarse.
Ni 0.1 ni 0.2 tienen una forma binaria exacta: son desarrollos periódicos, como lo es 1/3 en decimal, así que la máquina guarda el valor representable más cercano de cada uno, y los dos redondeos no se cancelan. Por eso el dinero se maneja como centavos enteros, por eso las pruebas de igualdad sobre decimales calculados son un error, y por eso el residuo es de unos 5.6 × 10⁻¹⁷ y no de los 2.2 × 10⁻¹⁶ que predeciría el épsilon de máquina por sí solo: dos redondeos, una resta.
Respuesta
5.5511151231258⋅10−17
Cómo leerla
El residuo después de 0.1 + 0.2 − 0.3. La versión de dos términos imprime 0.3 porque la pantalla redondea antes de que puedas ver la diferencia.
Fuente
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
Resuélvelo en la calculadora
Estos enlaces abren la calculadora adecuada con los números de este problema ya escritos. La línea de arriba es lo que debería mostrar la pantalla: compruébalo tú mismo.