Fehler in WindowsXP oder Java? - double in int konvertieren

[Reth]

Hallo allerseits,

habe ein seltsames Phänomen festgestellt.

Der folgende Code liefert unter WindowsXP Pro und Java1.3.1 bzw. unter WindowsXP Home und Java 5.0 ein falsches Ergebnis:

        double d = 4.10;
        System.out.println("WERT: " + (d*100) + " CAST: " + (int)(d*100));

Ergebnis:

WERT: 409.99999999999994 CAST: 409

Wie kann das denn sein?

Und wie konvertiert man denn dann fehlerfrei?

Danke schon mal
Ciao

 

[Roar]

wo is das ergebnis falsch?
wenn du erwartest, dass ein cast nach int 410 ergibt: der cast schneidet nru die nachkommastellen ab, gerunden wird da nix das musst du mit Math.round() machen

 

[Beni]

Willkommen in der Welt der Gleitkommazahlen... und nein, das 409.99999... ist eine grundlegende Eigenschaft deines Computers, keine Fehler von irgendwem.

Zähl einfach vor dem Casten 0.5 zu deinem Double, dann wird "normal" gerundet.

Guckst du hier.

 

[Reth]

wo is das ergebnis falsch?

Bei der Multiplikation!

wenn du erwartest, dass ein cast nach int 410 ergibt: der cast schneidet nru die nachkommastellen ab, gerunden wird da nix das musst du mit Math.round() machen

Nein, ich erwarte, dass 4.10 * 100 = 410 ergibt!

 

[Reth]

Willkommen in der Welt der Gleitkommazahlen... und nein, das 409.99999... ist eine grundlegende Eigenschaft deines Computers, keine Fehler von irgendwem.

Danke für den Tip. Aber wo liegt dann der Fehler? Im Prozessor?

Zähl einfach vor dem Casten 0.5 zu deinem Double, dann wird "normal" gerundet.

Guckst du hier.

Dann ist aber Math.round() doch besser, oder (wie roar schon schrieb)?!

 

[Roar]

Willkommen in der Welt der Gleitkommazahlen... und nein, das 409.99999... ist eine grundlegende Eigenschaft deines Computers, keine Fehler von irgendwem.

Danke für den Tip. Aber wo liegt dann der Fehler? Im Prozessor?

computer können halt mit fließkommazahlen nicht 100prozentig genau arbeiten, aber 409.99999999 is doch shcon bemerkenswert nah am ergebnis dran

 

[Beni]

Rat mal was Math.round() macht :wink:

Reth: ein Computer verwendet eine andere Mathematik als man in der Schule lernt. Er arbeitet mit diskreter, endlicher Mathematik (da ein PC nur endlich viele Zustände haben kann), im gegesatz zu der normalen, kontinuierliche, unendlichen Mathe.

Das 409.99 ist nach PC-Mathe kein Fehler, sondern korrekt. Je eher du das akzeptierst, desto eher kannst du das ausnutzen (und mit Maschinengenauigkeit rechnen).

Wurzel von 2, ist mit Schulmathematik unmöglich zu berechnen, hier ganz einfach:

		double a = 1;
        double b = 2;
        double m = (a+b)/2;
        
        do{
            if( m*m > 2 )
                b = m;
            else
                a = m;
            
            m = (a+b)/2;
        }while( m != a && m != b );
        // weil es nicht unendlich viele Zahlen zwischen a und b gibt
        
        System.out.println( m );

 

[Zilchinger]

Hallo Reth,
wenn du mehr darüber erfahren willst, warum der Computer "falsch rechnet" solltes du dir mal anschauen, wie so eine Gleitkommazahl (zb double) intern dargestellt wird. Hier mal ein link:
www.computerbase.de/lexikon/Gleitkommazahl

Sieht schwer aus, ist es aber nicht

 

[Reth]

Hi nochmals

und danke für die vielen Tips.

Hab mir den Wikipedia-Link angesehen, bis auf die mathematischen Sachen am Schluss.
Das mit der internen Darstellung von Zahlen hatte ich nicht mehr in Erinnerung. Zudem dachte ich, dass die Implementierung der entsprechenden Typen und Klassen bei Java dem evtl. bereits Rechnung trägt.
Und ich dachte nicht, dass es sich bereits bei 1 bzw. 2 Nachkommastellen auswirkt.

Bekommt man einen Fall hin, bei dem das Ergebnis am unteren Ende nicht stimmt (also in der Art 4.00000000001) z.B. durch Division? Bisher konnte ich nur Beispiele in der Art meines ersten Posts konstruieren.

Bei der umgekehrten Vorgehensweise (also einen int durch Division mit 100 in einen double zu verwandeln: 410/100) hab ich bisher noch kein solches Verhalten bemerkt. Wieso klappt das hier? Oder ist das nur Zufall und es gibt dabei auch solche "Ungenauigkeiten"?

Danke nochmals
Ciao

 

[Luma]

Ich glaub du hast das Casten noch nicht verstanden. Im Java-Kompedium-Buch gab's da ne schöne Grafik die das genau gezeigt hat. Wenn du einen double in einen int-Wert castes gehen alle Zahlen nach dem Komma verloren, wenn du aber zwei ints dividierst und das Ergebnis in einem double speicherst gehen aber natürlich "keine" Zahlen verloren. (Integer steht für Ganzzahl und die haben nunmal keine Kommastellen).

 

[Reth]

Ich glaub du hast das Casten noch nicht verstanden. Im Java-Kompedium-Buch gab's da ne schöne Grafik die das genau gezeigt hat. Wenn du einen double in einen int-Wert castes gehen alle Zahlen nach dem Komma verloren, wenn du aber zwei ints dividierst und das Ergebnis in einem double speicherst gehen aber natürlich "keine" Zahlen verloren. (Integer steht für Ganzzahl und die haben nunmal keine Kommastellen).

Nein, das Casten hab ich wohl verstanden. Mir geht es hier um die Ungenauigkeit, welche beim Rechnen mit Gleitkommazahlen auftritt (aufgrund der diskreten, endlichen Darstellung innerhalb des Rechners).
Das bei nem Cast von double nach int die Nachkommastellen wegfallen und ein double das nicht-ganzzahlige Ergebnis aus einer Integerdivision aufnehmen kann war mir bekannt.