kleiner Fehler im FAQ Parser für mathematische Formeln

Jookie

Mitglied
Hallo,

ich wusste nicht genau wo ich das hinschreiben sollte, kann ja noch verschoben werden.

Im Parser für mathematische Formeln in der zweiten Variante für BigDecimal gibt es ein kleines Problem bei der Behandlung der Division.

Wenn man z.B. nur 1/3 eingibt bekommt man eine java.lang.ArithmeticException da BigDecimal scheinbar von Haus aus versucht so genau wie möglich zu sein aber bei 1/3 eine irrationale Zahl entsteht.

Fixen kann man das Problem indem man die Zeile
Java:
return a.divide(b);
ein
Java:
return a.divide(b , 20 , RoundingMode.HALF_UP);
d.h. die Genauigkeit und den Rundungsmodus festlegt.

Gruß
 
Sehr schön die Sache mit der Potenzfunktion hätte ich selber sicher nicht hinbekommen. Was noch eine schöne Sache wäre, wären Funktionen wie sin, cos, tan etc ich habe die bei mir auch schon hinzugefügt ist ja in der fertigen Umgebung kein großes Problem mehr nur so zur Vollständigkeit.
Ansonsten echt gute Arbeit :toll:
 

Zurück
Oben