Wpisz 0.1 + 0.2, a wyświetlacz odpowie 0.3. Wpisz 0.1 + 0.2 − 0.3, a odpowie 5.5511151231258⋅10−17. Odejmowanie jest tym uczciwym: zapisana suma siedzi kilka jednostek powyżej 0.3 na siedemnastym miejscu dziesiętnym, a zwykła suma wygląda poprawnie tylko dlatego, że wydruk zaokrągla do mniejszej liczby cyfr, niż błąd potrzebuje, by się pokazać.
Ani 0.1, ani 0.2 nie ma dokładnej postaci binarnej — to rozwinięcia okresowe, tak jak 1/3 dziesiętnie — więc maszyna trzyma najbliższą reprezentowalną wartość każdej z nich i dwa zaokrąglenia się nie znoszą. Dlatego pieniądze obsługuje się jako całkowite grosze, dlatego testy równości na obliczonych ułamkach dziesiętnych są błędem, i dlatego reszta wynosi około 5.6 × 10⁻¹⁷, a nie 2.2 × 10⁻¹⁶, które przewidziałby sam epsilon maszynowy: dwa zaokrąglenia, jedno odejmowanie.
Odpowiedź
5.5511151231258⋅10−17
Jak to czytać
Reszta po 0.1 + 0.2 − 0.3. Wersja dwuskładnikowa wypisuje 0.3, bo wyświetlacz zaokrągla, zanim zdążysz zobaczyć lukę.
Źródło
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
Rozwiąż w kalkulatorze
Te linki otwierają właściwy kalkulator z już wpisanymi liczbami tego zadania. Powyższa linia to to, co powinien pokazać ekran — sprawdź sam.