User manual - fx-5800P
S-135
k
Rangos de cálculo, número de dígitos y precisión
En la siguiente tabla se muestra el rango general de cálculo (rango de entrada y de salida), el
número de dígitos usados para los cálculos internos y la precisión de los cálculos.
Rango de cálculo ±1×10
–99
a ±9,999999999×10
99
y 0
Cálculo interno 15 dígitos
Precisión
En general, ±1 en el 10mo. dígito para un cálculo simple. Error en el
caso de que el resultado de un cálculo en formato exponencial sea
±1 en el dígito menos signifi cativo de la mantisa. Los errores son
acumulativos en el caso de cálculos consecutivos.
A
Rangos de entrada y precisión de los cálculos con funciones
Funciones Rango de entrada
sin
x
DEG 0
<
|
x
|
< 9×10
9
RAD 0
<
|
x
|
< 157079632,7
GRA 0
<
|
x
|
< 1×10
10
cos
x
DEG 0
<
|
x
|
< 9×10
9
RAD 0
<
|
x
|
< 157079632,7
GRA 0
<
|
x
|
< 1×10
10
tan
x
DEG Igual que sin
x
, salvo que
|
x
|
= (2
n
–1)×90.
RAD Igual que sin
x
, salvo que
|
x
|
= (2
n
–1)×
π
/2.
GRA Igual que sin
x
, salvo que
|
x
|
= (2
n
–1)×100.
sin
–1
x
0
<
|
x
|
<
1
cos
–1
x
tan
–1
x
0
<
|
x
|
<
9,999999999×10
99
sinh
x
0
<
|
x
|
<
230,2585092
cosh
x
sinh
–1
x
0
<
|
x
|
<
4,999999999×10
99
cosh
–1
x
1
<
x
<
4,999999999×10
99
tanh
x
0
<
|
x
|
<
9,999999999×10
99
tanh
–1
x
0
<
|
x
|
<
9,999999999×10
–1
log
x
/ln
x
0 <
x
<
9,999999999×10
99
10
x
–9,999999999×10
99
<
x
<
99,99999999
e
x
–9,999999999×10
99
<
x
<
230,2585092
'
x
0
<
x
< 1×10
100
x
2
|
x
|
< 1×10
50
1/
x
|
x
|
< 1×10
100
;
x
G
0
3
'
x
|
x
|
< 1×10
100