很多人以为计算器「算不准」,其实是显示模式被设成了固定小数位。Fix 2 会把 1/3 显示成 0.33,而内部仍保存更高精度的值;把它乘 3 会得到 0.99 还是 1,取决于你用的是显示值还是内部值。
三种模式的差别
| 模式 | 含义 | 典型场景 |
|---|---|---|
| Fix | 固定小数位数 | 财务、实验数据按位报告 |
| Sci | 固定有效数字位数,超出自动转科学计数法 | 物理、化学的有效数字 |
| Norm | 按有效数字自动选择普通或科学计数法 | 日常计算、考试通用 |
最容易踩的坑
按位报告时用 Fix 没问题,但别忘了切回 Norm 再做后续计算。把 Fix 状态带进下一题,会让中间结果被提前截断,误差在最后一步放大。
在计算器中试试
下面的链接直接打开网页工具;凡是文中算过的具体例子,链接都会把那组示例一并带进去——点开就能自己验证,不用只听我们说。