Signifikante Stellen einschränken

[faladu]

Guten Tag

Mein Problem ist folgendes. Ich soll ein Tool das auf einer anderen Plattform bereits exisitert in Java nachbilden. Der Java double gibt mir aber bis zu 17 Stellen aus, das vorhandene Tool hat nur 15 Stellen und es ist ausdrücklich verlangt worden, dass die selben Werte rauskommen.

Das andere Tool schneidet die Zahlen einfach nach den 15 gültigen Ziffern ab (Wenns nur Nachkommastellen wären wäre mir die Lösung bekannt aber bei gültigen Ziffern nicht).

Wie kann ich Java dazu bringen auch nur 15 gültige/signifikante Ziffern beim double zu verwenden, bzw. eine andere Variablenart finden/erzeugen die nur 15 signifikante Ziffern hat

Viele Grüße
Max

 

[SlaterB]

double kannst du nicht ändern, eine allzu praktikable Alternative gibt es nicht,
wenn es dir nur um die Ausgabe auf dem Bildschirm geht, dann kannst du den Weg von double nach String kontrollieren,
DecimalFormat

 

[faladu]

Leider muss ich mit den Werten weiterrechnen. Da die Zahlen mit 100.000 multipliziert werden und dann relativ oft aufsummiert werden, spielen diese Ziffern am Ende auch eine gewisse Rolle

 

[Gast2]

Runde die entsprechenden Stellen einfach weg.

 

[faladu]

Um das zu machen bräuchte ich aber die Information wieviele Stellen vor dem double sind. Und ich wollte ungern für jeden Wert eine Abfrage machen ob er > 10^1 > 10^2 >10^3 etc. ist um dann die Abfrage zu machen. Oder hast du mir eine Funktion die die Anzahl der Stellen vor dem Komma angibt und ggf. schneller arbeitet.

 

[faladu]

Sollte "Stellen vor dem Komma" heißen im ersten Satz

 

[SlaterB]

verwende BigDecimal setScale()

edit: ok, passt auch nicht zu Stellen vor dem Komma.., dann muss es wirklich was kompliziertes werden,
aber sich auf diese Weise bei wichtigen Berechnungen auf den Datentyp festzulegen..

 

[faladu]

Hatte gehofft es gäb einen einfachen Befehl dafür und dann funktioniert das so :x
Es führt halt atm zu unangenehmen Abweichungen und in dem anderem Programm hat ein double nur 15 gültige Stellen. Das dort zu ändern dürfte wohl auch nicht gehen und Abweichungen zwischen den Programmen sind bisher leider nicht erwünscht. Also muss ich mir wohl doch eine Funktion schreiben die die Stellen vor dem Komma ermittelt und dann entsprechend rundet.

Was wäre für die Stellen vor dem Komma für den Pc denn schneller.
Eine Verschachtelung von ifs mit >10^15 sonst falls >10^14 .... oder umwandeln in einen String und die Anzahl der Zeichen vor dem Punkt nehmen?

Danke schonmal für die Hilfe.

 

[SlaterB]

bei solchen Dingen rate ich dazu, nicht auf die Performance zu achten,
du musst wahrscheinlich eh auf krumme Werte runden wenn es um Bits geht, nicht auf 10er-Stellen?
also ein double hat jedenfalls auch nicht exakt 17 Stellen genau, sondern eben 52 Bits für die Mantisse
Galileo Computing :: Java ist auch eine Insel (8. Auflage) – 5.2 Fließkommaarithmetik in Java

wie es in dem anderen Programm ist wäre dann noch genau zu testen bevor da was zu machen ist..,
vielleicht ist es eine günstige Richtung, den double in eine Binärdarstellung zu überführen und da etwas zu ändern,

schaue dir Doube.toHexString() an, parseDouble() gibts dazu

> Das andere Tool schneidet die Zahlen einfach nach den 15 gültigen Ziffern ab
nun gut, mag so sein

 

[faladu]

Dass es in Java nicht immer 17 Stellen sondern manchmal auch nur 16 sind ist mir aufgefallen, dass es an den Bit liegt war mir nicht klar. In dem anderem Tool sind es immer 15, das habe ich mir schon angeschaut bzw. nochmal nachgefragt.

Ich danke für eure Hilfe und mach mich an die Arbeit.