Ich habe mir mittlerweile alles dazu selbst gebaut.
Ich kann die Lösung leider nicht wirklich anbieten für andere, da sie auf meinen speziellen Kontext zugeschnitten ist.
Ich arbeite in einem Korrdinatensystem und kann mir die Koordinatenpunkte in Pixel und andersrum umrechnen, die Linien entsprechen Geraden für die eine Gleichung vorliegt mit der ich überprüfen kann ob der MouseCursor an dieser Position ist.
Das Ganze läuft dann mit MouseListener, wer anders arbeitet wird mit dieser Lösung wohl nicht weiter kommen.