Operation Manual

Anhang: Funktionen und Anweisungen 951
Das Berechnungsziel sind sechs signifikante
Stellen. Der angewendete Algorithmus beendet die
Weiterberechnung, wenn das Ziel hinreichend
erreicht ist oder wenn weitere Stichproben
wahrscheinlich zu keiner sinnvollen Verbesserung
führen.
Wenn es scheint, daß das Berechnungsziel nicht
erreicht wurde, wird die Meldung "Genauigkeit
zweifelhaft" (
“Questionable accuracy”)
angezeigt.
nInt(cos(x),x,ë p,p+1íë12) ¸
ë 1.041...íë12
‰(cos(x),x,ë p,p+10^(ë 12)) ¸
ë sin(
1
1000000000000
)
ans(1)
¥¸ ë 1.íë12
Sie können nInt() verschachteln, um mehrere
numerische Integrationen durchzuführen. Die
Integrationsgrenzen können von außerhalb
liegenden Integrationsvariablen abhängen.
nInt(nInt( e ^(ë xù y)/‡(x^2ì y^2),
y,
ë x,x),x,0,1) ¸ 3.304...
Hinweis: Siehe auch ‰().
norm() MATH/Matrix/Norms-Menü
norm( Matrix ) ⇒
⇒⇒
⇒ Term
Gibt die Frobeniusdeterminante zurück.
norm([a,b;c,d]) ¸
añ +bñ +cñ +dñ
norm([1,2;3,4])
¸
30
not MATH/Test-Menü
not Boolescher Term1 ⇒
⇒⇒
⇒ Boolescher Term
Gibt wahr, falsch oder einen vereinfachten
Booleschen Term1 zurück.
not 2>=3 true
not x<2
¸ x ‚ 2
not not innocent
¸ innocent
not Ganze_Zahl1 ⇒
⇒⇒
⇒ Ganze_Zahl
Gibt das Einerkomplement einer reellen ganzen Zahl
zurück. Intern wird
Ganze_Zahl1 in eine 32-Bit-
Dualzahl mit Vorzeichen umgewandelt. Für das
Einerkomplement werden die Werte aller Bits
umgekehrt (so dass 0 zu 1 wird und umgekehrt).
Die Ergebnisse werden gemäß dem
Base-Modus
angezeigt.
Sie können die ganzen Zahlen mit jeder Basis
eingeben. Für eine binäre oder hexadezimale
Eingabe muß das Präfix 0b bzw. 0h verwendet
werden. Ohne Präfix wird die ganze Zahl als
dezimal behandelt (Grundzahl 10).
Geben Sie eine dezimale ganze Zahl ein, die für
eine 32-Bit-Dualform mit Vorzeichen zu groß ist,
dann wird eine symmetrische Modulo-Operation
ausgeführt, um den Wert in den erforderlichen
Bereich zu bringen.
Im Modus Hex base:
not 0h7AC36
¸ 0hFFF853C9
Im Modus Bin base:
0b100101
4 dec ¸ 37
not 0b100101
¸
0b11111111111111111111111111011010
ans(1)
4 dec ¸ ë 38
Hinweis: Eine binäre Eingabe kann bis
zu 32 Stellen haben (das Präfix 0b
wird nicht mitgezählt). Eine
hexadezimale Eingabe kann bis zu 8
Stellen aufweisen.
Hinweis: Drücken Sie 4
44
4 zur Eingabe
des Umwandlungs-Operators
2 . Sie
können auch im Menü
MATH/Base
Basiskonversionen wählen.
Wichtig: Null, nicht Buchstabe O.