丸め誤差
読み:まるめごさ

 コンピューターにおける演算で、小数点以下の小さな値を丸めて計算した結果、本来期待される正しい値とわずかにずれる現象のこと。

概要
 10進数では有限小数であっても、2進数(基数が2)では無限小数となり、内部で正確に値を表現できないことがある。
 このような場合、設計上の桁数以上の精度の値は端数として処理され、四捨五入、切り上げ、切り捨てといったような処理が2進数で行なわれる。
 このため、計算結果は、10進数で計算した場合には起こりえない誤差が生じることになる。

再検索