Micro-benchmark für parallel vs. sequentiell erzeugt unerwartetes Ergebnis

Antoras

Top Contributor
Hi,

ich bin mir nicht sicher ob ich einen Fehler im Programm habe oder ob ich bloß eine Optimierungsstrategie übersehe:

Java:
import java.util.ArrayList;
import java.util.List;
import java.util.Random;
import java.util.concurrent.BrokenBarrierException;
import java.util.concurrent.CyclicBarrier;


public class ArraySummer {

	public static void main(final String[] args) {
		final int[] array = new int[200000000];

		final Random r = new Random();
		for (int i = 0; i < array.length; i++) {
			array[i] = Math.abs(r.nextInt() / 2);
		}

		for (int i = 0; i < 20; ++i) {
			parallSummer(array);
			sequentiellSummer(array);
		}

		System.out.println("start");
		for (int i = 0; i < 10; ++i) {
			testPar(array);
			testSeq(array);
			System.out.println();
		}
	}
	
	final static void testSeq(final int[] array) {
		final long s = System.nanoTime();
		sequentiellSummer(array);
		System.out.println("s:" + (System.nanoTime() - s) / 1e6 + "ms");
	}
	
	final static void testPar(final int[] array) {
		final long s = System.nanoTime();
		parallSummer(array);
		System.out.println("p:" + (System.nanoTime() - s) / 1e6 + "ms");
	}

	public static void sequentiellSummer(final int[] array) {
		new SeqSummer(array).calc();
	}

	public static void parallSummer(final int[] array) {
		final int processors = 2; // Runtime.getRuntime().availableProcessors();

		final List<Long> longs = new ArrayList<Long>();

		final Runnable merger = new Runnable() {

			@Override
			public void run() {
				calc();
			}

			long calc() {
				long sum = 0;
				for (final long i : longs) {
					sum += i;
				}
				return sum;
			}
		};

		final CyclicBarrier barrier = new CyclicBarrier(processors, merger);

		for (int part = 0; part < processors; part++) {
			new Thread(new AtomarSummer(barrier, array, processors, part, longs)).start();
		}
	}
}

class SeqSummer {

	private final int[] array;

	public SeqSummer(final int[] array) {
		this.array = array;
	}

	public long calc() {
		long sum = 0;
		for (int i = 0; i < array.length; ++i) {
			sum += array[i];
		}
		return sum;
	}
}

class AtomarSummer implements Runnable {

	private final CyclicBarrier barrier;
	private final int[] array;
	private final List<Long> longs;
	private final int start, end;

	public AtomarSummer(final CyclicBarrier barrier, final int[] array, final int maxPart,
			final int currentPart, final List<Long> longs) {
		this.barrier = barrier;
		this.array = array;
		this.longs = longs;

		start = (int) ((double) array.length / maxPart * currentPart);
		end = (int) ((double) array.length / maxPart * (currentPart + 1) - 1);
	}

	@Override
	public void run() {
		long sum = 0;

		for (int i = start; i < end; i++) {
			sum += array[i];
		}
		longs.add(sum);

		try {
			barrier.await();
		} catch (final InterruptedException e) {
			e.printStackTrace();
		} catch (final BrokenBarrierException e) {
			e.printStackTrace();
		}
	}
}

Output:

start
p:0.942543ms
s:378.924406ms

p:0.173262ms
s:322.728754ms

p:2.065446ms
s:320.918554ms

p:0.209188ms
s:292.466057ms

p:6.518078ms
s:343.991192ms

p:0.228163ms
s:332.049146ms

p:0.197921ms
s:330.990676ms

p:0.17808ms
s:325.774824ms

p:0.230276ms
s:325.778092ms

p:0.216491ms
s:362.563178ms

Das stimmt doch so nicht? Wiese benötigt der parallel ausgeführte Code praktisch keine Zeit?
 

xehpuk

Top Contributor
Wenn ich das richtig sehe, flitzt der Main-Thread bei der parallelen Ausführung einfach durch und liefert daher diese Zeit.

Diese Änderung bringt realistische Ergebnisse (parallel etwa halb so lang wie seriell):
[JAVA=68]final CyclicBarrier barrier = new CyclicBarrier(processors + 1, merger); // + 1 für Main-Thread

for (int part = 0; part < processors; part++) {
new Thread(new AtomarSummer(barrier, array, processors, part, longs)).start(); // keine Änderung
}

try {
barrier.await(); // Main-Thread warten lassen
} catch (final InterruptedException e) {
e.printStackTrace();
} catch (final BrokenBarrierException e) {
e.printStackTrace();
}[/code]
Übrigens:
[JAVA=117]longs.add(sum);[/code]
Das ist nicht gerade thread-safe. ;)
 

Antoras

Top Contributor
An den Main-Thread hatte ich überhaupt nicht gedacht. Funktioniert prächtig nun, danke!

Nur der erwartetet Leistungsschub hab sich noch nicht erfüllt. Auf meiner 2-Kern CPU gibt es praktisch keinen Unterschied in der Laufzeit - erst mit 4 Kernen konnte ich die 50% Leistungsgewinn feststellen.

Das ist nicht gerade thread-safe.
Stimmt, ist mir auch schon aufgefallen. Darum werde ich mich als nächstes kümmern.
 

xehpuk

Top Contributor
Mal getestet.

Intel(R) Core(TM)2 CPU 6320 @ 1.86GHz (2 Kerne):
Code:
p:312.727203ms
s:608.075777ms

p:309.608603ms
s:607.162109ms

p:310.647995ms
s:616.149362ms

p:310.580618ms
s:607.285416ms

p:312.999849ms
s:606.686449ms

p:317.859892ms
s:606.391413ms

p:312.53914ms
s:605.666813ms

p:312.262934ms
s:617.720498ms

p:311.720795ms
s:606.32457ms

p:309.291956ms
s:606.809437ms

Intel(R) Xeon(R) CPU X5670 @ 2.93GHz (4 Kerne):
Code:
p:132.549492ms
s:523.114756ms

p:153.491066ms
s:527.948164ms

p:132.757456ms
s:531.88554ms

p:140.850768ms
s:532.233419ms

p:135.681888ms
s:528.016683ms

p:170.084038ms
s:522.371119ms

p:132.910986ms
s:558.306694ms

p:132.090935ms
s:533.973896ms

p:132.870298ms
s:526.224823ms

p:139.975441ms
s:521.964137ms
 
M

MicroBenchmark

Gast
@TO
Ganz erlich : lass die Finger von Micro-Benchmarks.

Wir alle wissen das Micro-Benchmarks weder aussagekräftig noch überhaupt sinnvoll sind (zumindest in fast allen Fällen). Daher sollte man hier eher weniger darüber diskutieren wie man diesen Benchmark nun richtig zum Laufen bekommt sondern eher darauf hinweisen das es so eigentlich recht wenig Sinn macht.

Nebenbei wurde mal irgendwo erwähnt das die VM in der Lage ist eine Leistungssteigerung zu erzielen so lange man CORE * 2 Threads verwendet. Also sind auf einem Dual-Core 4 Threads unter bestimmten Vorraussetzungen teilweise schneller als nur 2, 8 Threads hingegen wären aber wieder langsamer. Genau Erklärung findet man hier i-wo im Forum.
 

Marco13

Top Contributor
Micro-Benchmarks sind schwierig, können aber schon eine Tendenz liefern. Immer mit einer Prise Salz, aber wenn man ein paar Sachen beachtet (mehrere Durchläufe, Verfahren Abwechselnd mit steigender Problemgröße, genug Duchläufe damit die relevante Teile geJITtet werden, Dinge messen, die hinreichend kompliziert sind) kann man schon ganz passable Infos rausziehen. Mehr dazu steht in der Serie AngelikaLanger.com - Java Performance - Micro-Benchmarking - Angelika Langer Training/Consulting (mehrere, ausführliche Artikel - Links zu den anderen Teilen und weiterführende Links gibt's unten)
 

Antoras

Top Contributor
MicroBenchmark hat gesagt.:
Ganz erlich : lass die Finger von Micro-Benchmarks.
Wie soll ich herausfinden ob ein Algorithmus funktioniert bzw. besser ist als ein anderer wenn nicht durch Micro-Benchmarks? Dass die ungenau sind - vor allem innerhalb von VMs - weiß ich selber. Dennoch liefern sie Anhaltspunkte ob ich etwas richtig gemacht habe oder nicht.
 
M

MicroBenchmark

Gast
Wie soll ich herausfinden ob ein Algorithmus funktioniert bzw. besser ist als ein anderer wenn nicht durch Micro-Benchmarks? Dass die ungenau sind - vor allem innerhalb von VMs - weiß ich selber. Dennoch liefern sie Anhaltspunkte ob ich etwas richtig gemacht habe oder nicht.

Wenn du wissen willst ob ein Algo performant ist oder nicht dann lass diesen ein paar Milliarden mal mit relativ viel Payload laufen das 1) JIT genug Zeit hat den Code soweit zu optimieren und 2) durch den längeren Zeitraum (du solltest auf 5min im "Idealfall" kommen) wird schneller ersichtlich wie performant etwas ist, denn der unterschied 100ms zu 150ms sagt noch nicht viel aus ... aber 3min vs 5min ist schon ein deutlicher anhaltspunkt. Wenn du also Benchmarken willst dann mit entsprechend viel Payload und möglichst vielen Durchläufen über eine möglichst lange Zeit. Micro-Benchmarking im ms oder ns bereich sind aussagelos.
 

timbeau

Gesperrter Benutzer
Kann man denke ich so stehen lassen. Die Idee ist aber auf jeden Fall richtig. In einem größeren Programm ist es vor allem wichtig den Flaschenhals zu identifizieren. Es bringt nichts bei 90% des Codes paar ms rauszuschlagen in dem man irgendwelche Bitvergewaltigungen macht, wenn 10% des Code durch z.B. I/O Operationen die meiste Zeit kosten. Dann bei diesem langsamen Code ansetzen und dort versuchen z.B. durch Multithreading zu optimieren.
 
Ähnliche Java Themen
  Titel Forum Antworten Datum
P Micro- Benchmark Allgemeine Java-Themen 5
D Java - AudioInputStream zum Micro herstellen Allgemeine Java-Themen 10
D Die Versionen Standard, Enterprise und Micro Allgemeine Java-Themen 3
S Intressante Benchmark-Ergebnisse mit Listen. Weiss jemand wie man diese erklaeren kann? Allgemeine Java-Themen 15
X Lotto - google caliper Benchmark Allgemeine Java-Themen 4
C Benchmark: ArrayList<Integer>, Integer[], int[] Allgemeine Java-Themen 10
G Mysteriöser Benchmark: For-Loop Allgemeine Java-Themen 14
B Algorithmus für Arbeit mit fehlenden Listenelementen? Allgemeine Java-Themen 1
kodela Eingabe für TextArray bedingt sperren Allgemeine Java-Themen 3
Karl_Der_Nette_Anfänger Hat wer ne Lösung für verknüpfte Postleitzahlen? (Baum/Wurzel Struktur) Allgemeine Java-Themen 11
R 11 GB File lesen ohne zu extrahieren Filedaten Bereich für Bereich adressieren dann mit Multi-Thread id die DB importieren Allgemeine Java-Themen 3
G KeyListener für JTextField Allgemeine Java-Themen 5
webracer999 Library für Textsuche (z. B. include/exclude, and/or)? Allgemeine Java-Themen 5
I Module-Info für Jar erzeugen Allgemeine Java-Themen 7
krgewb Java-Bibliothek für ONVIF Allgemeine Java-Themen 1
B Simpler Eventlistener für Tastaturtaste bauen? Allgemeine Java-Themen 13
_user_q Eingegebenen Text Zeile für Zeile ausgeben lassen Allgemeine Java-Themen 11
E Key für TOTP Algorythmus(Google Authentificator) Allgemeine Java-Themen 0
S Formel für Sonnenwinkel in ein Programm überführen Allgemeine Java-Themen 11
M pfx-Zertifikat in Tomcat für SSL-Verschlüsselung nutzen Allgemeine Java-Themen 14
R Best Practice Erfahrungswerte für eine Migration von JSF nach Angular (oder anderes JS-Framework) Allgemeine Java-Themen 1
B HeapSort für Array of Strings funktioniert nur teilweise Allgemeine Java-Themen 3
jhCDtGVjcZGcfzug Klassen Was genau passiert hier? Kann mir das jemand bitte Zeile für Zeile erklären? Allgemeine Java-Themen 1
rosima26 Bester Sortieralgorithmus für kurze Arrays Allgemeine Java-Themen 40
S Mit Methoden kann man definieren für was <T> steht. Geht das auch irgendwie für Variablen? Allgemeine Java-Themen 12
MangoTango Operatoren while-Schleife für Potenz Allgemeine Java-Themen 3
B Lottospiel, genug Reihen tippen für 3 Richtige (Spaß mit Arrays)? Allgemeine Java-Themen 46
B Mit welchen Datentypen und Strukturierung am Besten dutzende Baccaratspiele Shcritt für Schritt durchsimulieren? Allgemeine Java-Themen 26
D Klassendesign für einen Pascal Interpreter Allgemeine Java-Themen 6
I OCR Library für Belegerkennung Allgemeine Java-Themen 7
farah GetterMathod für Farbkanäle Allgemeine Java-Themen 6
B Welcher Datentyp für sehr große Zahlenbereiche? Allgemeine Java-Themen 1
S Webservices für binäre Daten? Allgemeine Java-Themen 5
G Licence-Header für InHouse entwickelten Source Allgemeine Java-Themen 8
M Schleife für einen TicTacToe Computer Allgemeine Java-Themen 5
O git ignore für Intellji braucht es die .idea Dateien? Allgemeine Java-Themen 8
F Java Script für das Vorhaben das richtige? Allgemeine Java-Themen 9
M wiviel Java muss ich für die Berufswelt können ? Allgemeine Java-Themen 5
Robertop Datumsformat für GB ab Java 16 Allgemeine Java-Themen 1
Thallius Verschiedene entities für gleichen Code…. Allgemeine Java-Themen 8
OnDemand Zentrale "Drehscheibe" für verschiedene APIs Allgemeine Java-Themen 14
S Übergabe eines Sortierkriteriums für ein Artikel Array mittels BiPredicate<Artikel, Artikel> Allgemeine Java-Themen 13
F Streams als Alternative für dieses Problem ? Allgemeine Java-Themen 15
D SHA-3 für Java-version 1.8 Allgemeine Java-Themen 1
N Validator für einen SQL-Befehl Allgemeine Java-Themen 22
Muatasem Hammud Erstellung von Testdaten für Arrays Allgemeine Java-Themen 6
B Logikfehlersuche, das perfekte Lottosystem für 3 Richtige mit Arraylists? Allgemeine Java-Themen 61
G Methoden für die Zukunft sinnvoll? Allgemeine Java-Themen 4
M API für PLZ Umkreissuche Allgemeine Java-Themen 3
1Spinne JDK 8 für Eclipse installieren Allgemeine Java-Themen 5
Tobero Meine Funktion für das beinhalten eines Punktes in einem Kreis funktioniert nicht Allgemeine Java-Themen 5
L Methoden Parser für gängige Datumsformate? Allgemeine Java-Themen 1
H Interface PluginSystem ClassNotFound exception für library Klassen Allgemeine Java-Themen 10
N relativier Pfad für sqlite-Datenbank in Gradle/IntelliJ Allgemeine Java-Themen 2
buchfrau Anagram für beliebiges Wort Allgemeine Java-Themen 2
TonioTec Api für Datenaustausch zwischen Client und Server Allgemeine Java-Themen 0
W Suche Ursache für NPE - woher kommt sie? (Hilfe beim Debugging) Allgemeine Java-Themen 19
Kirby.exe Distanz Map für die Distanztransformation erstellen Allgemeine Java-Themen 1
F PI Regler für Heizung Allgemeine Java-Themen 7
8u3631984 Generelle Log4j.xml für alle Module Allgemeine Java-Themen 5
M Wie übergebe ich den Zähler für die Anzahl Rekursionsschritte korrekt? Allgemeine Java-Themen 2
B Login für User, der im Hintergrund Schedules ausführt Allgemeine Java-Themen 16
L RegEx für Teile einer Berechnung Allgemeine Java-Themen 14
S Java-Task-Management-Tool für Windows und Mac selber programmieren Allgemeine Java-Themen 4
M Java 2D Array für ein Grid erstellen ? Allgemeine Java-Themen 2
Z Welches GUI Framework für Java ist aktuell? Allgemeine Java-Themen 16
N Convert.FromBase64 von C# für Java Allgemeine Java-Themen 11
N fixed-keyword von C# für Java Allgemeine Java-Themen 6
O Suche Scripter für alt:V Project! Allgemeine Java-Themen 0
S Interface Design von HookUp oder Callback Methoden für eigenes Framework Allgemeine Java-Themen 9
O Suche Unterstützung für ein OpenSource-Projekt (grafischer Editor) Allgemeine Java-Themen 13
Kirby.exe Software für Graphische Visualisierung Allgemeine Java-Themen 20
B OOP Auslöser für NullPointerException Allgemeine Java-Themen 3
L Generator für einen Parser implementieren Allgemeine Java-Themen 13
DonMalte Ambitioniertes Projekt für Einsteiger & Motivierte Allgemeine Java-Themen 0
Kirby.exe Movement System für Spiel Allgemeine Java-Themen 13
Kirby.exe Framework für Game Design Allgemeine Java-Themen 8
W Alternative für Threads Allgemeine Java-Themen 6
S Rückgabe einer HttpURLConnection für eine Seite einlesen bei der man eingeloggt ist..? Allgemeine Java-Themen 5
Elyt Compiler-Fehler Datei kann nicht erstellt werden. Die Syntax für den Dateinamen etc. ist falsch. Allgemeine Java-Themen 2
Thallius Rätsel für Windows Profis Allgemeine Java-Themen 8
D OOP Gemeinsamen ID-Raum für zwei Klassen implementieren Allgemeine Java-Themen 7
D Input/Output Implementierung eines CommandHandlers/Parsers für viele Eingaben Allgemeine Java-Themen 26
Thallius Alternative für SwingWorker Allgemeine Java-Themen 5
I Lohnt sich heutzutage der Aufwand einer Portierung für MacOS Allgemeine Java-Themen 8
L Klassen Algorithmus für das folgende Problem entwickeln? Allgemeine Java-Themen 30
J Datenstruktur für eine Map erstellen Allgemeine Java-Themen 2
H OOP Setting(config) für Applikation sicheren? Allgemeine Java-Themen 9
OnDemand PDF Libary für Formulare Allgemeine Java-Themen 7
S Warmup für Lineare-Suche mit Zeitmessung Allgemeine Java-Themen 2
T Allgemeine Frage: GUI für 3D-Visualisierung Allgemeine Java-Themen 5
M Brainstorming für mein Projekt Allgemeine Java-Themen 30
K OOP Suche Hilfe + Erklärung für eine Hausaufgabe Allgemeine Java-Themen 1
F Was ist der Dateityp meines Parameters für die Main Methode. Allgemeine Java-Themen 6
C Bibliotheken für Algorithmische Geometrie Allgemeine Java-Themen 2
C Daten für Klassifikationsverfahren gewinnen Allgemeine Java-Themen 6
C code oder Bibliotheken für 2-Center Problem Allgemeine Java-Themen 4
I Overlay für Spiele Allgemeine Java-Themen 5
B Suche nach einem Testprogramm für meine BA Allgemeine Java-Themen 0
I GUI für kleine Pop-Ups unter Windows Allgemeine Java-Themen 1

Ähnliche Java Themen

Neue Themen


Oben