Wenn ich das problem richtig verstehe, mit winrun4j kannst du einen exe wrapper bauen, und dem kannst
du sagen, von dem programm darf nur eine instanz gestartet sein.
Das einzige was man noch machen kann, wäre ein direktes starten einer jar, aber durch geschickte einstellungen
durch libs, kannst du verhindern dass die jar ohne launcher gestartet werden kann/darf.