Auf Thema antworten

Die rechnen schon genau, und zwar so genau wie es ihre Spezifikation vorsieht, der Fehler ist nicht zufällig. Um damit aber gut bzgl. numerischer Algorithmen umgehen zu können muss man schon tief in die Spezifikation von floats/doubles abtauchen. Ein kurzer Text ist What Every Computer Scientist Should Know About Floating-Point Arithmetic und wer sich die volle Packung geben möchte kann z.B. zum "Handbook of Floating-Point Arithmetic" greifen.



Oben