Also nur noch mal zum Verständnis: JavaFX ist ein Clientseitiges UI-Framework. Mit JavaEE hat es per se erst einmal nichts zu tun.
Man kann ein Applet in JavaFX (aber auch Swing/AWT) einfach von einem beliebigen Server (Apache, ...) anbieten lassen. Wenn du ein Applet lädst, rufst du eine Webseite mit einem eingebettenen Applet (wird bei JavaFX über JavaScript geregelt), benötigt auf Client-Seite aber ein installiertes Java-Plugin. Das Plugin ist in einem schlechten Zustand und ist eines der Opfer von Googles Chrome - dort werden bald nicht mal mehr im Legacy-Modus diese Art von Plugins möglich sein (Ausnahme: Flash, das basteln die Chrome-Jungs extra so um, dass es gleich mit dem Browser ausgeliefert wird). Das betrifft übrigens auch Silverlight.
Du solltest also *nicht* auch JavaFX setzen, wenn du eine im Browser laufenden Web-Anwendung entwickeln möchtest. Wenn du allerdings eine auf einem Client laufende "stink-normale", aber modern wirkende, und wenn ordentlich gestaltete auch vernünftig animierte, Desktopanwendung entwickeln möchtest, steht dem nichts im Weg. (Wie du die Anwendung dann auslieferst, ist dein Bier - wie oben beschrieben: Download eines Jar-Files, einer fertig "gebundelten" Anwendung inkl. Java-Runtime oder per Web-Start.)
Wegen JavaEE - das ist für die eventuell nötige Serverseitige Logik (z.B. REST-, oder Soap-Services) zuständig, hat aber nichts mit GUI zu tun.
Wenn du ein JavaEE-Backend mit einer rein im Browser laufenden Anwendung möchtest, musst du dich dann noch wohl oder übel mit HTML5 (HTML, CSS, JavaScript) beschäftigen - wobei dir CSS auch bei JavaFX enorm weiterhilft (Stichworte: Theme, Styling).
Wie du die GUI baust, bleibt deinem Geschack überlassen. Es ist auf jeden Fall hilfreich auch den rein in Java geschriebenen Ansatz zu kennen, aber besser ist der Deklarative - mit FXML. Ob die dabei aus dem SceneBuilder oder von Hand geschrieben werden... Geschmackssache. Ich würde SceneBuilder nehmen, weil ich persönlich mit dem XML-Format nicht so gut klar komme. Oder man verwendet - wie ich sonst auch - E(fx)clipse mit seiner JSON-ähnlichen DSL...