有効数字を数えて丸める

精度を担う桁と詰め物の桁の区別を付け、書かれた数の有効数字を数えて任意の桁数に丸めます。

このガイドで使う道具

やりたいこと

12.4389025gという実験の答えは精密そうですが、天秤は0.01gまでしか読めません。有効数字は書かれた数のどこまでが実測かを記録し、残りは計算ノイズです。

数えて丸める

小数または指数表記で数を入れると、桁数とどの桁が有効かが出ます。目標桁数を設定すれば丸め結果と適用ルールも出ます。

  • 先頭のゼロは数えません。0.0031の有効数字は2桁。
  • 小数点なしの末尾ゼロは曖昧です。1500は2桁と報告され、正確にするなら1.5e3や1.50e3と書きます。

具体例

0.020450の有効数字は5桁(小数点があるので末尾ゼロも有効)。3桁に丸めると0.0204です。

対応範囲

1つの数を数えて丸めるだけです。計算を通じた有効数字の伝播や不確かさの追跡はしません。曖昧な末尾ゼロは黙って数えず警告します。3人のような数え切りの数や定義定数は扱いません。