ア | イ | ウ | エ | オ |
カ | キ | ク | ケ | コ |
サ | シ | ス | セ | ソ |
タ | チ | ツ | テ | ト |
ナ | ニ | ヌ | ネ | ノ |
ハ | ヒ | フ | ヘ | ホ |
マ | ミ | ム | メ | モ |
ヤ | ユ | ヨ | ||
ラ | リ | ル | レ | ロ |
ワ | ヰ | ヴ | ヱ | ヲ |
ン |
A | B | C | D | E |
F | G | H | I | J |
K | L | M | N | O |
P | Q | R | S | T |
U | V | W | X | Y |
Z | 数字 | 記号 |
コンピューター内部における数値演算の方法の一つで、数値の精度が、メモリーの容量(と演算するプロセッサーの処理速度)のみに制限される手法。
一般的な整数演算、実数演算は、プロセッサーがハードウェアとして持つ計算機の性能に依存する。
この手法はハードウェアで処理するため高速であるが、桁数や精度には大きな制限が存在する。
また、プロセッサーが持つ計算機は基数を2とするため、10進数(基数10)では有限小数である0.1のような値でも基数2では無限小数となってしまい正確に表現できず、結果として誤差が生じるなどの問題もある。
そこで、処理速度は非常に遅くなるが、必要な桁数や精度を得るためこの演算処理をソフトウェアで実装したものが使われており、そのうちの一つが任意精度の演算である。演算速度を重視せず、大きな数の演算や演算精度が要求される分野で用いられている。
10進数演算での精度を維持するため、基数を10として実装するものが多い。
このため、基数を2としてハードウェアで演算していた場合に生じていた丸め誤差などが生じない。
コメントなどを投稿するフォームは、日本語対応時のみ表示されます