0.1 + 0.2 tuşlayın; ekran 0.3 yanıtını verir. 0.1 + 0.2 − 0.3 tuşlayın; 5.5511151231258⋅10−17 yanıtını verir. Dürüst olan çıkarmadır: saklanan toplam, on yedinci ondalık basamakta 0.3'ün birkaç birim üzerindedir ve düz toplam yalnızca, basım hatanın kendini göstermesi için gerekenden daha az basamağa yuvarladığı için doğru görünür.
Ne 0.1'in ne de 0.2'nin tam bir ikilik biçimi vardır — onlar, 1/3'ün ondalıktaki hali gibi yineleyen açılımlardır — dolayısıyla makine her birinin en yakın temsil edilebilir değerini tutar ve iki yuvarlama birbirini götürmez. Paranın tamsayı kuruşlarla ele alınmasının, hesaplanmış ondalıklar üzerindeki eşitlik testlerinin bir hata olmasının ve artığın yalnızca makine epsilonunun öngöreceği 2.2 × 10⁻¹⁶ yerine yaklaşık 5.6 × 10⁻¹⁷ olmasının nedeni budur: iki yuvarlama, bir çıkarma.
Cevap
5.5511151231258⋅10−17
Nasıl okunur
0.1 + 0.2 − 0.3'ten sonraki artık. İki terimli sürüm 0.3 basar, çünkü ekran siz farkı göremeden yuvarlar.
Kaynak
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
Hesap makinesinde çözün
Bu bağlantılar, bu problemin sayıları zaten yazılmış olarak doğru hesap makinesini açar. Yukarıdaki satır, ekranın göstermesi gereken şeydir — kendiniz kontrol edin.