exe Anwendung CPU-/Speicherverbauch

[J90]

Hallo,

ich möchte den CPU- und Speicherverbauch meiner Anwendung reduzieren( welche auf einem VPS-Server laufen soll) und wollte wissen, was die beste Art ist (unabhängig vom Codeaufbau, Annahme, dass dieser optimiert sei).
Aktuell ist meine bisherige Erkenntnis/Erfahrung, dass ein AOT-kompilierte Exe-Datei (also nativer Code) besser läuft und weniger verbraucht (mittels Excelsior JET).
Ich habe nun das Problem, dass ich aktuell bei einer Anwendung sehr viele Jar-Dateien zur Laufzeit lade(und vermute, dass dies der Grund ist für eine schlechtere Performance) und wollte fragen, ob beispielsweise ein Erzeugen von dll-Dateien möglich und effektiv ist?
Müssten die Jar Dateien nicht einen negativen Einfluss haben, da es sich um Class Dateien handelt?
Hilfe und Anregungen wären nett, da ich in diesem Thema nicht stark bewandert bin und ich erstmal dem Herumprobieren das Fragen vorziehe...

 

[mrBrown]

ich möchte den CPU- und Speicherverbauch meiner Anwendung reduzieren( welche auf einem VPS-Server laufen soll) und wollte wissen, was die beste Art ist (unabhängig vom Codeaufbau, Annahme, dass dieser optimiert sei).

Üblicherweise sind genau diese Dinge die, mit denen man am meisten bewirken kann. Codeaufbau und Algorithmen optimieren.

Wenn du schon Server ansprichst, in was für eine Richtung geht die Anwendung denn?
Eher typische Server-Anwendung oder eher "Number-Crunching"?
Lange am Stück laufend oder häufige Kaltstarts?
Viel "dynamischer" Code oder eher statisch?

Aktuell ist meine bisherige Erkenntnis/Erfahrung, dass ein AOT-kompilierte Exe-Datei (also nativer Code) besser läuft und weniger verbraucht (mittels Excelsior JET).

Hast du das über einen längeren Zeitraum getestet, ob es wirklich besser läuft? JITs brauchen einige Zeit, können damit aber besser optimieren.

Ich habe nun das Problem, dass ich aktuell bei einer Anwendung sehr viele Jar-Dateien zur Laufzeit lade(und vermute, dass dies der Grund ist für eine schlechtere Performance) und wollte fragen, ob beispielsweise ein Erzeugen von dll-Dateien möglich und effektiv ist?

Mit Excelsior JET müsstest du das alles AOT-compilieren können. Sehr Performance-kritischen Code kann man natrolch auch in einer System-näheren Sprache schreiben und aus dem Java-Code aufrufen.

Müssten die Jar Dateien nicht einen negativen Einfluss haben, da es sich um Class Dateien handelt?

Wenn du die Klassen brauchst und die irgendwas machen, hat das natürlich negativen Einfluss auf die Performance (weil "irgendwas machen" nunmal teurer ist als "nichts machen"). Wenn du sie brauchst, führt aber eben auch kein Weg dran vorbei.

Hilfe und Anregungen wären nett, da ich in diesem Thema nicht stark bewandert bin und ich erstmal dem Herumprobieren das Fragen vorziehe...

Der erste Schritt wäre viel Profiling - was braucht viel RAM und CPU (und was heißt überhaupt "viel" und was wäre passend).
Wenn man das weiß, kann man da gezielt optimieren, zB mit besserer Struktur und Algorithmen oder nativem Code oder GC, passenderer JVM/JIT.

Die Laufzeitumgebung (JIT/AOT, Jars die viel kosten, ...) hat meistens deutlich weniger Einfluss, als die eigentliche Anwendung.
Grad wenn man da nicht bewandert ist (wie du sagst), übersieht man dabei oft die eigentlichen Performance-Killer.

 

[J90]

Ist eine typische Serveranwendung, welche durchgehend läuft ohne Unterbrechung (ganzjährig, außer sie wird manuell neu gestartet).
Das Programm stellt eine Netzwerkverbindung über das FIX Protokoll her (Trading), was sehr viele Jars benötigt. Verglichen mit meinen
anderen Anwendungen existieren hier daher sehr viele Imports aus Jars anstelle von eigenem Code
(da eben nur lauffähig mit angebotenen Libraries).

Im Code wird relativ häufig Reflection verwendet, um bestimmten externen Code, welcher zur Laufzeit über den Classloader geladen wird,
auszuführen. Dies ist notwendig, um beim lauffenden Programm externen Code einbinden zu können (d.h. ohne Neustart der Anwendung).
Alternative wären vll auch dlls, aber erstmal muss ich die anderen Teile deswegen testen.

Die Frage ist nur, ob sich der Code noch verbessern lässt, wovon ich eher weniger ausgehe (mit Ausnahme des Einbauens von kleinen Thread.sleep() zu
bestimmten Zeitpunkten, um die CPU Auslastung zu verringern).

Beispielsweise mit VisualVM liegt der Speicherbedarf beim Used Heap bei 60-70 MB und der Heap Size bei 100MB, allerdings verändert sich dies
im Task Manager auf einem Betriebssystem zu 500MB(..).
Eine vergleichsweise ähnliche Anwendung (in C++ geschrieben) braucht nur 50MB.
Vermutlich ist mein Code nicht total perfekt, aber ich würde eher vermuten, dass diese Auslastung sehr stark daher kommt, dass
die Anwendung auf Java basiert (wobei durch Optimierung eigentlich eine zu C++ annähernd performante Anwendung entstehen sollte).
Deswegen auch meine Vermutung eher möglichst viel nativen Code zu verwenden (zumindest wird auf der Excelsior Website auch davon gesprochen,
dass vieles Class-Laden zur Laufzeit bei einem AOT compilierten Programm dieser stark verlangsamen kann)

 

[mrBrown]

Wenn das eine Anwendung mit viel Netzwerk-Kommunikation ist, gibt es überhaupt Performance-Probleme oder verbringt die die meiste Zeit mit warten?
Wenn du sleep als Lösung ansprichst, scheint es eher so, als gibt es absolut kein Performance-Problem.


Der RAM-Verbrauch wird bei Programmen mit GC nahezu immer höher sein als ohne, und weniger RAM führt dabei meist zu mehr GC-Aktivität und damit schlechterer Performace. Das Task-Manager mehr RAM-Verbrauch als Profiler zeigen, ist normal, da sie andere Werte messen.


Alternative ist wie gesagt nativer Code, bei den bisher von dir genannten Informationen kann man da nicht viel anderes sagen.

Braucht es denn zu viel RAM und CPU oder willst du nur, dass es weniger ist?
In beiden Fällen: profilen und mit den gewonnenen Informationen optimieren. Ohne weitere Informationen ist das ein Schuss ins Blaue.

 

[J90]

Für mein Empfinden ist die Ram und zeitweise die CPU Belastung viel zu hoch, wenn ich sie mit anderer Software vergleiche. Habe nun aber vermutlich herausgefunden, wie ich jars, welche ich bisher zur laufzeit manuell geladen habe,
in eine AOT anwendung integrieren kann, sodass diese Werte auch in nativen Code verwandelt werden.
Excelsior bietet dafür keine GUI Oberfläche (und auch kein Tutorial), weswegen es mir bisher unbekannt war.

 

[mrBrown]

Java-Anwendungen brauchen nahezu immer mehr RAM und CPU als native Programme, bedingt durch JIT und GC.


Hast du denn mal ein richtiges Profiling gemacht, und rausgefunden was viel CPU und RAM kostet,


Wie viel gewinnst du denn durch AOT, hast du das mal gemessen?
Und verglichen mit Hotspot, OpenJ9 und Graal? Mit unterschiedlichen GC-Konfigurationen?