Hallo,
ich wusste nicht genau wo ich das hinschreiben sollte, kann ja noch verschoben werden.
Im Parser für mathematische Formeln in der zweiten Variante für BigDecimal gibt es ein kleines Problem bei der Behandlung der Division.
Wenn man z.B. nur 1/3 eingibt bekommt man eine java.lang.ArithmeticException da BigDecimal scheinbar von Haus aus versucht so genau wie möglich zu sein aber bei 1/3 eine irrationale Zahl entsteht.
Fixen kann man das Problem indem man die Zeile
ein
d.h. die Genauigkeit und den Rundungsmodus festlegt.
Gruß
ich wusste nicht genau wo ich das hinschreiben sollte, kann ja noch verschoben werden.
Im Parser für mathematische Formeln in der zweiten Variante für BigDecimal gibt es ein kleines Problem bei der Behandlung der Division.
Wenn man z.B. nur 1/3 eingibt bekommt man eine java.lang.ArithmeticException da BigDecimal scheinbar von Haus aus versucht so genau wie möglich zu sein aber bei 1/3 eine irrationale Zahl entsteht.
Fixen kann man das Problem indem man die Zeile
Java:
return a.divide(b);
Java:
return a.divide(b , 20 , RoundingMode.HALF_UP);
Gruß