Rundungsfehler, Auslöschung
Situation: In einem Institut für physikalische Anwendungen werden hochgenaue Berechnungen benötigt. Dazu genügt die normale Arithmetik oftmals nicht. Oft treten Auslöschungen oder Rundungsfehler auf.
Aufgabe: Der Auszubildende entwickelt eine Software-Lösung für genauere bzw. exakte Rechnungen.
Arbeitsschritte:
- Erzeugung von 10000 sehr unterschiedlich großen Werten und Ablage in einer Datei
- Speicherung dieser Werte in unterschiedlichen elementaren Datentypen
- Summation und Vergleich der Ergebnisse auch unter Einfluss der Reihenfolge der Summanden
- Sensibilisierung für ungenaue Berechnungen bei Auslöschung bzw. Rundungsfehlern
- Einsatz komplexer Datentypen
- Optional:
- Einsatz spezieller Software für Langzahlarithmetik
- Recherche zum Thema Intervallarithmetik
- Anwendung von Spezialsoftware zur Intervallarithmetik
Ergebnis: Der Auszubildende hat die Problematik von numerischen Einflüssen bei der Auswertung von Daten verstanden und kennt geeignete Hilfsmittel zur genaueren Berechnung.
Zeitpunkt: 1. Ausbildungsjahr
Dauer: 10 Tage
Betrieb
Berufsbildposition A 1.2 g)
Berufsschule
Lernfelder 2, 3, 4