Vergleich Float-, Doublewert

[Marcel_Handball]

Hi,

hab eine Verständnisfrage: Wieso gilt folgende Aussage

0.5f != 0.5d

?

 

[Landei]

Weil das eine ein float ist und das andere ein double

Prinzipiell sollte man bei Fließkommazahlen sowieso nicht == und != nutzen, sondern eine "Genauigkeit" mit einbeziehen:

if (Math.abs(a-b) < 0.0000001) { /*de facto "gleich" */ }

 

[Civilazi]

Das gilt gar nicht

 

[Spacerat]

...selbst wenn die Werte gleich sind, so sind sie doch in der Bitlänge verschieden. Vorstellbar, wenn der Datentyp explizit angegeben wird, das die kürzeren Bitlängen nicht erweitert werden. Schreibt man hingegen:

float a = 0.5f;
double b = 0.5;
boolean test = a == b;

sollte "test" jedenfalls wahr werden.

 

[Civilazi]

...selbst wenn die Werte gleich sind, so sind sie doch in der Bitlänge verschieden. Vorstellbar, wenn der Datentyp explizit angegeben wird, das die kürzeren Bitlängen nicht erweitert werden. Schreibt man hingegen:

float a = 0.5f;
double b = 0.5;
boolean test = a == b;

sollte "test" jedenfalls wahr werden.

Genau das wollte ich damit sagen Natürlich sind beide Zahlen als Objekt nicht das gleiche, wenn man sie aber vergleicht, wobei ich denke, dass der TO genau dies machen will, kommt doch true heraus

 

[Marcel_Handball]

Ihr habt recht, bei 0.5 stimmt der Ausdruck. Hatte mich doch an das genaue Beispiel halten sollen.

0.2f == 0.2 --> false

Ich hatte mich gefragt, ob generell bei einem Vergleich von Float und Doublewerten die "überstehenden" Bits entscheidend sind auch bei scheinbar gleichen Weten.

Aber wenn ich euch richtig verstanden habe, ist dies auf die generelle Ungenauigkeit zurückzuführen.

 

[Civilazi]

Versuch mal 0.2 in binärdarstellung umzurechnen --> Da kann sich Double einfach mehr stellen merken, weshalb die dann ungleich sind.

 

[Leroy42]

... genau! Und das vor allem, weil 0.2 in der binären
Darstellung keine so ganze Repräsentation wie im
Dezimalen hat.

 

[Spacerat]

Aber meine Annahme, das wenn man Float- mit Double-Variablen vergleicht, die Floats auf Double "geboxt" werden ist doch richtig, oder nicht? Das bedeutet, das es in meinem Beispiel völlig beliebige Flieskommazahlen (in den jeweiligen Wertebereichen natürlich) sein dürfen und "test" wahr wird, solange beide objektiv gleich sind (z.B. 0.2).

 

[Leroy42]

Ich denke schon!

Aber sicher bin ich mir allerdings nicht!

 

[Ark]

0.5 ist genau (-1)^0 * 2^(-1) * 1, und da die fett hervorgehobenen Zahlen problemlos in Bits gespeichert werden können, so wie es bei Gleitkommazahlen der Fall ist, ist 0.5 auch exakt darstellbar. Eine Zahl wie 0.2 ist dagegen im Zweiersystem periodisch und deshalb nicht exakt speicherbar. Es gibt keine generelle Ungenauigkeit, sondern es hängt alles mit der Darstellung der Gleitkommazahlen zusammen.

Ark