データ処理／物理学実験
想い出の名古屋工業大学

こひつじの家



　名古屋工業大学(名工大)に勤務していたときに授業を担当した「物理学実験」の参考資料です。
　【注】実験内容等が変わっている可能性がありますので，あくまでも参考程度に見てください。
最終更新：2007-10-11

「参考資料」メニューページ 「こひつじの家」トップページ


計算結果の有効数字
乗除算の場合（オリジナル）
(1) 演算前後の各数の小数点を取り去って整数として考える。
(2) 演算前の各数のうちで最も小さい数以上の数になるところまでを演算結果として残しておく。
【例題】
　8.64×12.68／5.623 ＝ 19.48340743
を計算する。
【解】
　演算結果は，864，1268，5623 のうちで最も小さい864よりも大きくなる1948までを残す。すなわち
　8.64×12.68／5.623 ＝ 19.48
までを残しておく。
【解説】
　有効数字が問題になる数値について考えると，その数値よりも次に大きい数値は，最小桁の数字を＋1した数値になる。たとえば8.64の次に大きい数値は8.65である。整数化した数でいうと8.64は最大で864種類の数を区別できる情報量をもっている。そこで演算結果としての数値は，それだけの情報量を入れるだけの容量をそなえる必要がある。さきほどの例でいうと，演算結果を19.48とすれば整数化して1948≧864であるので情報が正しく伝えられるが，結果を四捨五入して19.5とすると整数化して195＜864であるので情報が失われてしまう。
【シミュレーション】
　8.64×12.68／5.623 ＝ 19.4834
であるが，8.64に次に大きな数8.65を代入して計算すると，
　8.65×12.68／5.623 ＝ 19.5060
となる。19.48まで残しておけば次に大きい19.51と区別できるので情報が伝わっている。しかし4桁目を四捨五入して19.5とすると，演算前が8.64でも8.65でも結果は19.5となってしまうので，情報が失われたことになる。

　書物などに「演算結果の有効数字は，演算前の最も桁数の少ない数値と同じ桁数になる」と書いてあるものがあるが，明らかに誤りである。
　日常用いている10進法では，同じ桁の有効数字であっても，数値がもつことのできる情報量は最大で10倍近くも違う。たとえば9.9と10.0はそれぞれ2桁と3桁であるが，大きさは非常に近い。それに対して10.0と99.9はどちらも3桁であるが，大きさは10倍ほども違う。有効数字を桁数だけで扱うと危険である。

データ処理についての書き方
　データ処理の過程をノートやレポートに示すときは，次の例のように「データ処理についての説明」，「用いた実験式」，「測定値や定数等を代入した数値式」，「演算の結果」を書く。

【ノートに記録する例】
ヤング率を式(2)から求める
データ処理の式
　ノートの場合，説明はあっさりと書けばよい。

【レポートに書く例】
各測定値を式(2)に代入することにより，ヤング率 E として，
データ処理
が求められた。
　レポートの場合は式も含めて文章で書く必要がある。

　特に代入する数値を記録しておくことは大切だ。代入する数値を書いておくと，電卓等に数値を入力するときに楽であるし，有効数字の確認もしやすい。またレポート等をチェックする側からみると，「有効数字について理解しているかどうか」なども把握しやすい。たとえば「e が 0.83 の桁までしか用いてなかった」，「重力加速度が 9.7974584 と不必要な桁まで用いてあった」などのチェックができる。

記：2004-11-06


「参考資料」メニューページ 「こひつじの家」トップページ