Danke für Deine Antwort! AutoClosable gibt's leider erst ab Java 7, ich arbeite noch mit 6. Daher fällt diese Variante leider schon mal weg.
Aber Closeable sollte es doch auch schon vorher gegeben haben? Ist schon so lange her, dass ich mich nicht erinnere....
Ansonsten einfach ohne Interface ein close() anbieten und in der Doku entsprechend beschreibe...
Letztendlich wird's wohl darauf hinauslaufen (müssen), dass ich die Datei bei Zugriff immer wieder neu öffne und anschließend wieder schließe. Nicht 100%ig befriedigend, aber besser so, als die Datei gar nicht zu löschen und damit auf Dauer unnötig den Festplattenplatz vollzumüllen.
Da bin ich jetzt nicht sicher, ob und wie das Dein Problem löst (Was aber natürlich auch nicht wichtig ist. Wenn Du eine Lösung hast, mit der Du arbeiten kannst, dann ist es super. Mir muss das auch nicht erläutert werden, aber ich bin halt ein neugieriger Mensch

): Geschlossen wird die Datei ja. So Inhalte fehlen, dann wäre ein regelmäßiges flushen evtl. zielführend. So wie ich dich verstanden hatte, ist ja das Problem, dass die Datei beim Schließen der Applikation nicht gelöscht wird.
Oder meinst Du damit, dass z.B. mit Speichern der Datei der undo Speicher gelöscht wird, d.h. beim Speichern wird die Datei geschlossen und damit gelöscht? (Das würde dann natürlich funktionieren und wäre eine Lösung für das Problem aber halt auf Kosten der Undo-Funktionalität).
Eine andere Idee könnte evtl. sein, dass die Datei(en) geöffnet bleiben und bei Programmstart ein "cleanup" durchgeführt wird. (Das wäre das, was man z.B. von Tools wie notepad++ kennt. Ich liebe es für Notizen auf Arbeit: Einfach neues Tab und reinschreiben. Wird nie gespeichert und ist bei jedem Neustart halt direkt wieder da... Sprich: So ein cleanup kann ja beliebig definiert werden: Verwendung der Dateien soweit möglich oder einfaches löschen von alten, nicht mehr verwendeten Dateien..)
Das wären einfach nur meine Gedanken dazu. Keine Ahnung, ob sie hilfreich für Dich sind, denn ich bin mir sicher, dass du das Alles und noch mehr bestimmt schon in der Tiefe alles durchdacht hast.