NaN

IEEE 754では、次のように数値を表わす。

(−1)^s × m × b^e

それぞれに数ビットずつ割り当てて、32ビット長あるいは64ビット長などの一定の長さにして内部で演算をしている。

この時、eが全ビットが1で、mの最上位ビットを除いた値が1以上の時、NaNであると定義されている。この場合でもsが有効なため、NaNには+NaNと−NaNが存在する。

更に、NaNにはQuiet NaN(qNaN)とSignaling NaN(sNaN)があり、mの最上位ビットが0ならSignaling ±NaN、1ならQuiet ±NaN、である。いずれの場合も、mの余剰ビットを用いて情報の伝達をすることが可能となっている。

NaNに対する演算は、基本的には無効である。

数値演算を行なったときはNaNが得られる。比較演算も、それがNaN同士であってもfalse(偽、不一致)が得られる。なぜならNaNは特定の値を表わすものではないため、NaN同士の比較自体意味を持たないためである。

従って、単純な比較演算で値がNaNかどうかを判断することはできず、ビット列の解読が必要である。そこで、プログラミング言語によってはisNaN()などの判断用関数が用意されていることがある。

但し例外はあり、NaNに対する冪乗、つまりpow(x, y) = x ** y の演算である。幾つかの数学では、任意の実数の0乗を1と定義し、かつまた1の任意の実数乗も1と定義している。その数が極限であったとしても、ロピタルの定理によってこれが成り立つ。

そこでIEEE 754-2008では、pow(1, qNaN) および pow(qNaN, 0) は、いずれも 1 を返すことを推奨している。