Rundungsfehler

Rundungsfehler, Auslöschung

Situation: In einem Institut für physikalische Anwendungen werden hochgenaue Berechnungen benötigt. Dazu genügt die normale Arithmetik oftmals nicht. Oft treten Auslöschungen oder Rundungsfehler auf.

Aufgabe: Der Auszubildende entwickelt eine Software-Lösung für genauere bzw. exakte Rechnungen.

Arbeitsschritte:

1. Erzeugung von 10000 sehr unterschiedlich großen Werten und Ablage in einer Datei
2. Speicherung dieser Werte in unterschiedlichen elementaren Datentypen
3. Summation und Vergleich der Ergebnisse auch unter Einfluss der Reihenfolge der Summanden
4. Sensibilisierung für ungenaue Berechnungen bei Auslöschung bzw. Rundungsfehlern
5. Einsatz komplexer Datentypen
6. Optional:
   1. Einsatz spezieller Software für Langzahlarithmetik
   2. Recherche zum Thema Intervallarithmetik
   3. Anwendung von Spezialsoftware zur Intervallarithmetik

Ergebnis: Der Auszubildende hat die Problematik von numerischen Einflüssen bei der Auswertung von Daten verstanden und kennt geeignete Hilfsmittel zur genaueren Berechnung.

Zeitpunkt: 1. Ausbildungsjahr

Dauer: 10 Tage

Betrieb
Berufsbildposition A 1.2 g)

Berufsschule
Lernfelder 2, 3, 4