很多人以為計算機「算不準」,其實是顯示模式被設成了固定小數位。Fix 2 會把 1/3 顯示成 0.33,而內部仍保存更高精度的值;把它乘 3 會得到 0.99 還是 1,取決於你用的是顯示值還是內部值。
三種模式的差別
| 模式 | 意義 | 典型場景 |
|---|---|---|
| Fix | 固定小數位數 | 財務、實驗資料按位報告 |
| Sci | 固定有效數字位數,超出自動轉科學記號 | 物理、化學的有效數字 |
| Norm | 按有效數字自動選擇普通或科學記號 | 日常計算、考試通用 |
最容易踩的坑
按位報告時用 Fix 沒問題,但別忘了切回 Norm 再做後續計算。把 Fix 狀態帶進下一題,會讓中間結果被提前截斷,誤差在最後一步放大。
在計算機中試試
下面的連結直接開啟網頁工具;凡是文中算過的具體範例,連結都會把那組範例一併帶進去——點開就能自己驗證,不用只聽我們說。