Modulo

[Guest]

Hi Leute,
mal ne wirklich "doofe" Frage....
Wollte heut ein "Automaten" programmieren und versuchte mittels Modulo den Restbetrag herauszufinden.
Die eingaben sind double-Werte.

Wenn ich mittels System.out.println(0.25/0.20) ausgebe erhalte ich 0.049999999999... .
Der Rest dieser Division ist jedoch 0.05.
Was geht hier falsch?

MfG
Miklo

 

[JPKI]

Tja, das ist double... Probier's mal mit float!

 

[Marco13]

Mit float wird es ganusowenig funktionieren. Das ist einfach ein Rundungsfehler, wie er bei IEEE-754-Gleitkommazahlen immer auftritt. Für weiteres: Foren- oder Websuche!

 

[benders]

Falls die Zahlen immer im gleichen Format sind (2-Nachkommastellten) hilft vielleicht dies:

BigDecimal a = new BigDecimal(0.25);
BigDecimal b = new BigDecimal(0.20);
BigDecimal d = a.remainder(b);
System.out.println(d.round(new MathContext(1,RoundingMode.HALF_UP)));

 

[SlaterB]

oder mit was hohem wie 1000 multiplizieren, auf long casten,
dort genau rechnen und wieder durch 1000 teilen,
wobei meist exakt gerundet oder zumindest dargestellt wird,

oder double so runden lassen wie es will
und nur die Darstellung mit NumberFormat anpassen