Was auch immer ein Kioskmode ist.
Du könntest dem Frame einen KeyListener zuweisen und eben die entsprechenden Keys berücksichtigen.
Allerdings denk ich das du die Tasten nicht nur für deine Anwendung, sondern für das System sperren willst. Das sollte für eine Java-Anwendung dann schon aufwendiger sein, du müsstest deine Anwendung im Fullscreenmode starten (also auch ohne Startleiste etc.) Dann könntest du versuchen ob du auch Events wie Strg-Alt-Entf oder Alt-Tab abfangen kannst.