Programvaruversion 3.00 Instruktionshäfte

α-15
Funktion
Indata-intervall för
reella nummerlösningar
Interna
siffror
Noggrannhet Notes
°
°
| a |, b , c < 1 × 10
100
0 < b , c
15 siffror
Generellt är
noggrannheten
± 1 vid den
10:e siffran.*
| x | < 1 × 10
100
Sexagesimalt resultat:
|
x | < 1 × 10
7
^( x
y
)
x > 0:
–1 × 10
100
< y log x < 100
x = 0 : y > 0
x < 0 : y = n ,
m
––––
2
n
+1
( m , n är heltal)
Däremot;
–1 × 10
100
< y log | x | < 100
" "
Komplexa tal kan användas
som argument.
x
'
y
y > 0 : x 0
–1 × 10
100
<
1
x
log y < 100
y = 0 : x > 0
y < 0 : x = 2 n +1,
2
n
+1
––––
m
( m 0; m , n är heltal)
Däremot;
–1 × 10
100
<
1
x
log | y | < 100
" "
Komplexa tal kan användas
som argument.
a
b
/ c
Heltalsdel, täljare och
nämnare kan bestå
av maximalt 10 siffror
(inklusive divisionsstreck).
" "
* För enstaka beräkningar är noggrannheten ± 1 vid den 10:e siffran. (Om resultatet visas på
exponentialform är beräkningsfelet ± 1 vid den minst signifikanta siffran.) Vid beräkningar i följd
fortplantas felen, vilket gör att noggrannheten kan bli dålig vid långa beräkningsföljder. (Detta är
också sant om interna konsekutiva beräkningar som utförs i fallet ^(
x
y
),
x
'
y
, x ! ,
3
'
x
, n P r , n C r ,
osv.)
I närheten av en funktions singularitet och inflexionspunkt kan felet bli mycket stort då de är
kumulativa.
Funktion Indataområde
Binär, oktal,
decimal och
hexadecimal
heltals-
aritmetik
Värden ligger inom följande intervall efter konvertering:
DEC: –2147483648 <
x < 2147483647
BIN: 1000000000000000 <
x < 1111111111111111 (negativt)
0 <
x < 111111111111111 (0, positivt)
OCT: 20000000000 < x < 37777777777 (negativt)
0 < x < 17777777777 (0, positivt)
HEX: 80000000 < x < FFFFFFFF (negativt)
0 < x < 7FFFFFFF (0, positivt)