Nhiều người kết luận máy tính không chính xác, trong khi thực ra chế độ hiển thị đang bị để ở số chữ số thập phân cố định. Fix 2 hiển thị 1/3 thành 0.33 nhưng bên trong vẫn giữ một giá trị chính xác cao hơn, và nhân nó với 3 sẽ cho 0.99 hoặc 1 tùy bạn dùng giá trị hiển thị hay giá trị được lưu.
Khác biệt phân tách ba chế độ
| Chế độ | Ý nghĩa | Cách dùng điển hình |
|---|---|---|
| Fix | Số chữ số thập phân cố định | Tài chính; báo cáo dữ liệu phòng thí nghiệm theo số chữ số ấn định |
| Sci | Số chữ số có nghĩa cố định, vượt quá thì chuyển sang ký hiệu khoa học | Chữ số có nghĩa trong vật lý và hóa học |
| Norm | Tự chọn ký hiệu thường hoặc khoa học theo chữ số có nghĩa | Mặc định chung cho việc hằng ngày và kỳ thi |
Cái bẫy hầu như ai cũng mắc
Fix rất tốt khi báo cáo theo số chữ số ấn định. Chỉ cần nhớ quay lại Norm trước khi tính tiếp. Nếu bạn mang trạng thái Fix sang câu kế, kết quả trung gian bị cắt sớm và sai số lớn dần ở bước cuối.
Thử trong máy tính
Các liên kết này mở công cụ web. Khi bài viết đã giải một ví dụ cụ thể, công cụ sẽ mở với ví dụ đó được điền sẵn, để bạn kiểm chứng thay vì chỉ tin vào lời khẳng định.