Eine eigene Engine zu programmieren, wäre für ihn viel zu kompliziert, falls er sich noch nicht genug mit 3D auskennt.
Die jMonkeyEngine ist wohl die einzige gute Java 3D Engine, aber auch nicht so performant, wie z.B. Source 2 oder die CryTek Engine o.ä.
Was willst du denn mit der Engine anstellen? Das ist die entscheidende Frage!