Skip to content

計算範囲、計算桁数、精度について

本機の計算範囲、内部計算桁数、および精度は、下表の通りです。

計算範囲と精度

計算範囲 ±1 × 10-99 ~ ±9.999999999 × 1099 または 0
内部計算桁数 23桁
精度 原則として1回の計算につき10桁目の誤差が±1となります。指数で表示する場合には誤差は表示されている仮数表示の最下位桁において±1となります。連続した計算では、この誤差が累積されます。

関数計算時の入力範囲と精度

関数 入力範囲
sinx
cosx
度数法(D) 0 ≤ |x| < 9 × 109
弧度法(R) 0 ≤ |x| < 157079632.7
グラード(G) 0 ≤ |x| < 1 × 1010
tanx 度数法(D) sinxと同様、ただし、|x| = (2n - 1) × 90を除く
弧度法(R) sinxと同様、ただし、|x| = (2n - 1) × π/2を除く
グラード(G) sinxと同様、ただし、|x| = (2n - 1) × 100を除く
sin-1x, cos-1x 0 ≤ |x| ≤ 1
tan-1x 0 ≤ |x| ≤ 9.999999999 × 1099
sinhx, coshx 0 ≤ |x| ≤ 230.2585092
sinh-1x 0 ≤ |x| ≤ 4.999999999 × 1099
cosh-1x 1 ≤ x ≤ 4.999999999 × 1099
tanhx 0 ≤ |x| ≤ 9.999999999 × 1099
tanh-1x 0 ≤ |x| ≤ 9.999999999 × 10-1
logx, lnx 0 < x ≤ 9.999999999 × 1099
10x -9.999999999 × 1099x ≤ 99.99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x は整数)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r は整数)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r は整数)

1 ≤ n!/r! < 1 × 10100 または 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≤ 9.999999999 × 1099

x2 + y2 ≤ 9.999999999 × 1099
Rec(r, θ)

0 ≤ r ≤ 9.999999999 × 1099

θ: sinxと同様
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
秒表示の小数第2位の桁±1の誤差となります。

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
上記の範囲を超える60進数は、10進数として扱われます。

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n は整数)

ただし、-1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n は整数)

ただし、-1 × 10100 < 1/x log |y| < 100
a b/c 整数、分子、分母の合計が10桁以内(区切りマーク含む)
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
GCD(a, b) |a|, |b| < 1 × 1010 (a, b は整数)
LCM(a, b) 0 ≤ a, b < 1 × 1010 (a, b は整数)

計算の精度は、基本的には「計算範囲と精度」で示しているとおりです。

xyxyx!、nPrnCr など、内部で連続して計算するタイプの関数では、内部での1回の計算ごとに発生した誤差が累積されます。

関数の特異点や変曲点の近傍で、誤差が累積されて大きくなることがあります。

SETTINGS メニューの「入力/出力」で「数学自然表示入出力」が選択されているとき、計算結果を π 形式で表示できる数値は、|x| < 106 の範囲です。ただし内部計算の誤差により、π 形式で表示できない場合があります。また、小数になるはずの計算結果が π 形式になってしまう場合があります。

ページの
トップへ