Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder ein alternativer Browser verwenden.
Fließkommazahlen können intern nur mit ner endlichen Genauigkeit gespeichert werden, deswegen kann es bei float/double zu diesen "ungenauigkeiten" kommen.
Für die Ausgabe kannst du dann z.b. mit dem NumberFormat runden.
[OT]*hatten wir nicht mal diskusion über die angebliche sinnlosigkeit dieser klasse ? hier hätten wir mal ein beispiel dafür das diese klasse durchaus wichtig sein kann*[/OT]
[OT]*hatten wir nicht mal diskusion über die angebliche sinnlosigkeit dieser klasse ? hier hätten wir mal ein beispiel dafür das diese klasse durchaus wichtig sein kann*[/OT]
Naja, BigDecimal ist IMHO eher für zu grosse Zahlen gedacht.
Ich würd im Fall von tester01 eher die formatierte Ausgabe ([c]printf()[/c]) verwenden. Oder alternativ kann man natürlich noch auf eine gewisse Stelle runden. Dazu einfach [c]* Math.pow(10, n)[/c], dann [c]Math.round()[c] und wieder durch die multiplizierte Zahl rechnen (gibt das Ergebnis für [c]n[/c] Nachkommastellen).
vielen Dank für eure Tips. Ich werde die formatierte Ausgabe versuchen.
Bei der Berechnung eines Ergebnisses verstehe ich die "Rundungsfehler" bzw. "Ungenauigkeiten".
Bei einer expliziten Zuweisung eines Wertes noch immer nicht wirklich. Wenn der Wert 0.3 zugewiesen wird sollten die nachfolgenden Stellen mit 0 aufgefüllt werden?
Oder man initialisiert immer mit der kompletten Genauigkeit, und schreibt bei double einfach die 17 Nachkommastellen:
Naja, BigDecimal ist IMHO eher für zu grosse Zahlen gedacht.
Ich würd im Fall von tester01 eher die formatierte Ausgabe ([c]printf()[/c]) verwenden. Oder alternativ kann man natürlich noch auf eine gewisse Stelle runden. Dazu einfach [c]* Math.pow(10, n)[/c], dann [c]Math.round()[c] und wieder durch die multiplizierte Zahl rechnen (gibt das Ergebnis für [c]n[/c] Nachkommastellen).
das wäre echt super ... wenn du division am ende nicht wieder alles kaputt machen würde ...
ich erinnere mal an das beispiel von wikipedia ... 129/40 sind für einen menschen glatt 12,45 ... für den rechner wäre es eine unendliche binär-darstellung ... wesshalb dann nicht 12,45 rauskommt .. sondern alles andere *was halt am nächsten endlich binär darstellbar ist*
von daher würde ich BigDecimal nicht nur für beliebig große zahlen verwenden ... sondern auch für beliebig genaue ...
Eigentlich sollte das ohne Probleme funktionieren, da x/10 IMHO sowohl als double als auch als float ohne Wertverlust gespeichert werden sollte!? Die exakten "Einschränkungen" bzw. Definitionen der Datentypen sind mir aber ehrlich gesagt nicht bekannt.
Eigentlich sollte das ohne Probleme funktionieren, da x/10 IMHO sowohl als double als auch als float ohne Wertverlust gespeichert werden sollte!? Die exakten "Einschränkungen" bzw. Definitionen der Datentypen sind mir aber ehrlich gesagt nicht bekannt.
hmm ... x/10 ist für den rechner aber weit aufwändiger als für uns menschen einfach die letzte stelle zu entfernen *falls "0"* bzw das komma eine stelle nach links zu rücken
für den rechner ist x/2 sehr viel einfacher da er dabei nur bit-shifting machen muss
soweit würde ich noch nicht mal gehen ...
ich würde es schon einsetzen wenn ich wüsste das z.b. 0.3 nicht richtig dargestellt werden kann obwohl ich es so deklariert habe ...
es kommt also nicht nur darauf an wie genau es sein muss *also 100 nachkommastellen* sondern auch darauf ob ein primitiver datentyp in der lage ist einen gewissen wert richtig darzustellen ... was bei TO bei 0.3 nicht der fall zu sein scheint ...