有効数字を数えて丸める
精度を担う桁と詰め物の桁の区別を付け、書かれた数の有効数字を数えて任意の桁数に丸めます。
このガイドで使う道具
やりたいこと
12.4389025gという実験の答えは精密そうですが、天秤は0.01gまでしか読めません。有効数字は書かれた数のどこまでが実測かを記録し、残りは計算ノイズです。
数えて丸める
小数または指数表記で数を入れると、桁数とどの桁が有効かが出ます。目標桁数を設定すれば丸め結果と適用ルールも出ます。
- 先頭のゼロは数えません。0.0031の有効数字は2桁。
- 小数点なしの末尾ゼロは曖昧です。1500は2桁と報告され、正確にするなら1.5e3や1.50e3と書きます。
具体例
0.020450の有効数字は5桁(小数点があるので末尾ゼロも有効)。3桁に丸めると0.0204です。
対応範囲
1つの数を数えて丸めるだけです。計算を通じた有効数字の伝播や不確かさの追跡はしません。曖昧な末尾ゼロは黙って数えず警告します。3人のような数え切りの数や定義定数は扱いません。