丸め誤差
読み:まるめごさ
コンピューター
における演算で、小数点以下の小さな値を丸めて計算した結果、本来期待される正しい値とわずかにずれる現象のこと。
概要
10進数
では
有限小数
であっても、
2進数
(
基数
が2)では
無限小数
となり、内部で正確に値を表現できないことがある。
このような場合、設計上の桁数以上の精度の値は端数として処理され、四捨五入、切り上げ、切り捨てといったような処理が2進数で行なわれる。
このため、計算結果は、10進数で計算した場合には起こりえない誤差が生じることになる。
再検索