Float/Gleitkommadarstellung

mihe7

Top Contributor
da soll wohl 0.00000001 raus kommen, aber wie das geht das weiß ich leider nicht
Wie @httpdigest geschrieben hat: die Zahl 0.00000001 ist 1e-8. 1e-11 bräuchte 11 führende Nullen.

"Wie das geht": das Problem ist, dass sich - im Gegensatz zu Ganzzahlen - dezimale Gleitkommazahlen binär nicht exakt darstellbar sind. Dadurch ergeben sich Rundungsfehler, die man berücksichtigen muss.
 
X

Xyz1

Gast
Verstehst Du das oben kurz angerissene Newtonsche Intervallhalbierungsverfahren (Bisektion)? :oops:
 

Neue Themen


Oben