Numerik I für Maschinenbauer - SS 2009
Infos zur aktuellen Woche
In der 1. Woche sollen die Rundung und daraus resultierende Instabilitäten
sowie Auslöschung und Kondition behandelt werden.
Wir betrachten dazu:
-
(1/3)*(3/7)*21 in vierstelliger Gleitpunktarithmetik.
-
(a+b)*(a-b)=?a^2-b^2
(z.B. 7 stellige Rechnung mit a = 5789.576, b = 5784.075 oder a = 5459.376,
b = 5459.373 - Random-Zahlen ) oder a = 1234.56 und b = 1234.55.
-
Berechnung von (f1*f2-f3*f4)*f5 in 9 - stelliger Gleitpunktarithmetik mit
f1 = 230.3416189; f2 = 229.0267673; f3 = 426.8256715; f4 = 123.5970558; f5 = 52676.47893;
Hausaufgabe(n) (vorbereiten zum Vorrechnen)
-
(a+b)*(a-b)=?a^2-b^2
7 stellige Rechnung und Taschenrechnergenauigkeit:
- a=1.54322 und b=1.54321
- a=1.23456789 und b=1.23456788
Erkläre die Ergebnisse!
-
(f1*f2-f3*f4)*f5 und zwar 7,8 und 10 - stellig (Programmierer auch mit double)
Letzte Bearbeitung: 16. April 2009