User Manual
20110901
4 Número de dígitos e precisão
k
Número de dígitos
Modo Normal
O seguinte é aplicável quando a caixa de seleção próxima a Decimal Calculation na caixa
de diálogo Basic Format não está marcada.
• Até 611 dígitos são armazenados na memória para valores inteiros.
• Os valores decimais até 15 dígitos são convertidos para o formato fracionário e
armazenados na memória. Quando uma expressão matemática não pode ser convertida
para o formato fracionário, o resultado é exibido no formato decimal.
• Os valores armazenados na memória são exibidos como são, independentemente de
como as definições Number Format (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) estiverem
configuradas (exceto quando um valor decimal for exibido).
Modo Decimal
O seguinte é aplicável quando a caixa de seleção próxima a Decimal Calculation na caixa
de diálogo Basic Format está marcada.
• Os valores armazenados na memória Ans e os valores atribuídos às variáveis têm o
mesmo número de dígitos conforme definido para os valores do modo Normal.
• Os valores são exibidos de acordo com as definições Number Format (Normal 1, Normal 2,
Fix 0 – 9, Sci 0 – 9).
• Os valores exibidos são arredondados para o número apropriado de casas decimais.
• Alguns aplicativos armazenam os valores usando uma mantissa de até 15 dígitos e um
expoente de 3 dígitos.
k
Precisão
• Os cálculos internos são realizados usando 15 dígitos.
• O erro para uma única expressão matemática (erro de cálculo do modo Decimal) é
±
1 no 10
e
dígito. No caso da exibição exponencial, o erro de cálculo é
±
1 no dígito menos
significativo. Repare que realizar cálculos consecutivos torna o erro cumulativo. O erro
também é cumulativo para cálculos internos consecutivos realizados para: ^(
x
y
),
x
'
,
x
!,
n
P
r
,
n
C
r
, etc.
• O erro é cumulativo e tende a ser maior na proximidade de (um) ponto(s) singular(es) e
ponto(s) de inflexão das funções, e na proximidade de zero. Com sinh(
x
) e tanh(
x
), por
exemplo, o ponto de inflexão ocorre quando
x
= 0. Nesta proximidade, o erro é cumulativo
e a precisão é inferior.
α
-4-1
Número de dígitos e precisão