検査と技術12巻1号

1983年12月発行

ザ・トレーニング

有効数字と計算値の出し方

著者： 溝口香代子¹ 芳賀敏郎²

所属機関： ¹慶応義塾大学病院中央臨床検査部 ²慶応義塾大学病院情報システム部

ページ範囲：P.67 - P.69

文献概要

　数値計算を行うにあたっては，常に誤差を考慮する必要があり，"有効数字"もこの誤差についての考え方が基本になります．特に最近は電卓やマイコンの普及が著しく，これらにプログラムされている数値計算パッケージを用いれば，多量の数値の処理がいとも簡単に行え，見かけ上もっともらしい解が得られてきますが，その計算に用いられた個々のデータの誤差を考慮に入れない場合には，求められた数値の信頼性は保障されません．すなわち，計算機は見かけ上多数桁の結果を出しますが，もとデータの精度以上の意味を持っていないという事実が忘れられがちになっているのではないかと思われます．
　本欄で既に平均値，標準偏差，検定などについては勉強してきたので，ここでは"丸め"による誤差を基本に，有効数字について解説してみます．