User manual - fx-5800P
– 108 –
■ 演算範囲・演算桁数・精度について
本機の演算範囲（入出力が可能な数値の範囲）、内部演算桁数、および精度は、一般に下表の通りです。
演算範囲 ±1
×
10
–99
∼ ±9.999999999
×
10
99
および 0
内部演算桁数 15 桁
精度
原則として 1 回の計算につき 10 桁目の誤差が± 1 となります。計算結果が指数方式の数値と
なった場合の誤差は、仮数部の最下位桁において± 1 となります。連続して計算を行った場合は、
この誤差が累積されます。
"
関数計算時の入力範囲
関数 入力範囲
sin
x
DEG 0
\
x
\
< 9
×
10
9
RAD 0
\
x
\
< 157079632.7
GRA 0
\
x
\
< 1
×
10
10
cos
x
DEG 0
\
x
\
< 9
×
10
9
RAD 0
\
x
\
< 157079632.7
GRA 0
\
x
\
< 1
×
10
10
tan
x
DEG sin
x
と同様、ただし、
\
x
\
= (2
n
–1)
×
90 を除く
RAD sin
x
と同様、ただし、
\
x
\
= (2
n
–1)
×
P / 2 を除く
GRA sin
x
と同様、ただし、
\
x
\
= (2
n
–1)
×
100 を除く
sin
–1
x
0
\
x
\
1
cos
–1
x
tan
–1
x
0
\
x
\
9.999999999
×
10
99
sinh
x
0
\
x
\
230.2585092
cosh
x
sinh
–1
x
0
\
x
\
4.999999999
×
10
99
cosh
–1
x
1
x
4.999999999
×
10
99
tanh
x
0
\
x
\
9.999999999
×
10
99
tanh
–1
x
0
\
x
\
9.999999999
×
10
–1
log
x
/ ln
x
0
<
x
9.999999999
×
10
99
10
x
–9.999999999
×
10
99
x
99.99999999
e
x
–9.999999999
×
10
99
x
230.2585092
x
0
x
<
1
×
10
100
x
2
\
x
\
< 1
×
10
50
1/
x
\
x
\
< 1
×
10
100
;
x
&
0
3
x
\
x
\
< 1
×
10
100
x
!0
x
69（
x
: 整数）
n
P
r
0
n
< 1
×
10
10
, 0
r
n
, 1 {
n
!/(
n
–
r
)!} < 1
×
10
100
（
n
,
r
: 整数）
n
C
r
0
n
< 1
×
10
10
, 0
r
n
, 1
n
!/
r
! < 1
×
10
100
または 1
n
!/(
n
–
r
)! < 1
×
10
100
（
n
,
r
: 整数）
Pol(
x
,
y
)
\
x
\
,
\
y
\
9.999999999
×
10
99
,
x
2
y
2
+
'
9.999999999
×
10
99
Rec(
r
,Q)0
r
9.999999999
×
10
99
,
θ
: sin
x
と同じ
°’”
\
a
\
,
b
,
c
< 1
×
10
100
; 0
b
,
c
\
x
\
< 1
×
10
100
, 60 進数表示は 0
˚
0
´
0
˝
\
x
\
9999999
˚
59
´
59
˝
^(
x
y
)
x
>
0: –1
×
10
100
<
y
log
x
<
100;
x
=
0:
y
>
0;
x
<
0:
y
=
n
,
m
2
n
+1
（
m
,
n
: 整数）
ただし、–1
×
10
100
<
y
log
\
x
\
< 100
x
y
y
>
0:
x
&
0, –1
×
10
100
<
1/
x
log
y
<
100;
y
=
0:
x
>
0;
y
<
0:
x
=
2
n
+
1,
2
n+
1
m
（
m
&
0;
m
,
n
: 整数）
ただし、–1
×
10
100
< 1/
x
log
\
y
\
< 100
a
b
/
c
整数・分子・分母の合計が 10 桁以内（ただし、区切りマークを含む）
● ^(
x
y
),
x
y
,
3
,
x
!,
n
P
r
,
n
C
r
など内部で連続演算を行うタイプの関数では、内部での 1 回の計算ごとに発生した
誤差が累積されることがあります。
● 関数の特異点や変曲点の近傍で、誤差が累積されて大きくなることがあります。