Datei Suche: Multi Threaded

Status
Nicht offen für weitere Antworten.

Dunedain

Mitglied
Hallo,

habe mal, um den Umgang mit Threads zu lernen, versucht, eine Multi Threading Dateisuche zu schreiben.

Der Informationsaustausch läuft über eine BlockedQueue, in welche die zu durchsuchenden Verzeichnisse (durch die Threads) eingetragen werden.

1. Benutzer legt das Suchverzeichnis und die Suchmaske fest
2. Threads werden erstellt und beginnen, die in der Queue definierten Verzeichnisse zu durchsuchen und mit dem Filter abzugleichen.
3. Falls ein Thread ein Verzeichnis findet, trägt er dieses in die Queue ein.
4. Ist das Verzeichnis vollständig analysiert worden, holt sich der Thread, sofern vorhanden, dass nächste Verzeichnis aus der Queue, sonst wartet er auf neue Verzeichnisse.

5. PROBLEM: Wie stelle ich fest, wann die Suche abgeschlossen ist (Ist ja eigentlich der Fall, wenn ALLE Threads am warten sind...?). Habs mit nem Zähler versucht, welcher in der Queue für jeden wartenden Thread incrementiert und für jedes entfernte Verzeichnis wieder decrementiert wird. Hat aber nicht funktioniert...
6. FEHLER: Das Ergebnis der Suche ist unvollständig. In einem TestCase habe ich meine OS Partition durchsucht (ca 23000) Dateien, die Suche findet aber maximal 3000 Elemente. Außerdem variiert die Anzahl der gefundenen Dateien erheblich zwischen 15 und den angesprochenen 3000 (immer noch die OS Partition). (Möglicherweise ein Synchronisationsproblem???)

btw. es treten keine Exceptions auf...


Und nun ein bischen QT :)


Die Benutzerschnittstelle:
Code:
package net.aragorn.nio;

import java.io.File;
import java.io.FileFilter;
import java.util.ArrayList;
import java.util.Queue;

/**
 *
 * @author Aragorn
 */
public class DirectoryScanner
{
    
/* ========================================================================== *
 *                               Konstanten
 * ========================================================================== */
    
    /** Minimale Worker-Thread Anzahl */
    public static final int MIN_THREADS =  2;
    
    /** Maximale Worker-Thread Anzahl */
    public static final int MAX_THREADS = 10;
    
    
/* ========================================================================== *
 *                                Attribute
 * ========================================================================== */
    
    /** Gruppiert alle Such-Threads in einer eigenen Thread Gruppe*/
    private ThreadGroup SearchGroup;
    
    /** Anzahl aktiver Threads zu Beginn der Suche */
    private int InitiationThreadCount;
    
    /** Anzahl der Worker-Threads */
    private int ThreadCount;
    
    
/* ========================================================================== *
 *                               Konstruktor
 * ========================================================================== */
    
    
    /**
     * Erstellt einen neuen DirectoryScanner und speichert die übergebenen
     * Parameter für die Suche
     * @param ThreadCount Die Anzahl der Worker Threads
     */
    public DirectoryScanner (
            int ThreadCount )
    {
        
        setThreadCount ( ThreadCount );        
        
        SearchGroup = new ThreadGroup ( "DirectoryScanner" );
        
    }
    
    
/* ========================================================================== *
 *                          Worker/Schnittstellen
 * ========================================================================== */
    
    
    /**
     * Startet die Suche. Erstellt die zuvor definierte Anzahl an Worker-Threads
     * und beginnt damit, die Aufgabenliste abzuarbeiten.

     * Die Funktion kehrt erst nach abgeschlossener Suche zurück
     * @param Filter Der Datei Filter
     */
    public void startSearch (
            DirectoryQueue Queue,
            FileFilter Filter )
    {
        
        InitiationThreadCount = SearchGroup.activeCount ();
        
        
        for( int i = 0 ; i < ThreadCount ; i = i + 1 )
        {
            new DirectoryThread (SearchGroup,"Thread-"+i,Queue,Filter);
        }
        

//        Versuch, das Ende der Suche herauszufinden...        
//        while( InitiationThreadCount != SearchGroup.activeCount () )
//            ;
        
    }    
    
/* ========================================================================== *
 *                            Accessor/Modifier
 * ========================================================================== */
    
    
    public void setThreadCount (int WorkerThreadCount)
    {
        
        if( WorkerThreadCount < MIN_THREADS )
            WorkerThreadCount = MIN_THREADS;
        else if( WorkerThreadCount > MAX_THREADS )
            WorkerThreadCount = MAX_THREADS;
        
        this.ThreadCount = WorkerThreadCount;
        
    }
    
}


Die Queue
Code:
package net.aragorn.nio;

import java.io.File;
import java.util.ArrayList;
import java.util.LinkedList;

/**
 *
 * @author Aragorn
 */
public class DirectoryQueue
{
    
/* ========================================================================== *
 *                               Konstanten
 * ========================================================================== */
    
    public static final File QUEUE_DELEMITER = new File ( "://queueeueuq\\:" );
    
    
/* ========================================================================== *
 *                                Attribute
 * ========================================================================== */
    
    /**
     * Enthält alle noch zu durchsuchenden Verzeichnisse
     */
    private LinkedList<File> Queue;
    
    /**
     * Enthält alle mit dem Filter übereinstimmenden Dateien
     */
    private ArrayList<File> Result;
    
    
/* ========================================================================== *
 *                               Konstruktor
 * ========================================================================== */
    
    /**
     * <u>Konstruktor</u>
     * Erstellt und initialisiert eine DirectoryQueue
     * @param ThreadCount Die Anzahl der Threads, welche die Queue bearbeiten
     */
    public DirectoryQueue ()
    {
        
        Queue  = new LinkedList<File> ();
        Result = new ArrayList<File> ( 50 );
        
    }
    
    
/* ========================================================================== *
 *                          Worker/Schnittstellen
 * ========================================================================== */
    
    /**
     * Hängt einen neuen Arbeitsauftrag an die Queue an. Es wird ein wartender
     * Thread über "neue" Arbeit informiert.
     * @param Directory Das hinzuzufügende Verzeichnis, welches durchsucht werden
     * soll
     */
    public synchronized void addDirectory (
            File Directory )
    {
        
        /** Verzeichnis in die Queue eintragen */
        Queue.add ( Directory );
        
        /** Einen wartenden Thread benachrichtigen */
        notify ();
        
    }
    
    
    /**
     * Hängt das ENDE Flag an die Queue an. Es werden ALLE wartenden Threads
     * informiert.
     */
    public synchronized void terminateQueue ()
    {
        
        /** Ende Flag in die Queue eintragen */
        Queue.add ( QUEUE_DELEMITER );
        
        /** Alle wartenden Threads informieren */
        notifyAll ();
        
    }
    
    
    /**
     * Holt den nächsten Arbeitsauftrag aus der Queue. Falls die Queue leer
     * sein sollte, wartet der Thread auf das "eintreffen" eines neuen Arbeits-
     * auftrages
     * @return Das zu durchsuchende Verzeichnis
     */
    public synchronized File nextDirectory ()
    throws InterruptedException
    {
        
        /** Falls die Queue leer ist, auf neue Aufgaben warten */
        while( Queue.isEmpty () )
        {
            wait ();
        }
        
        /**
         * Prüfen, ob das nächste Element das Ende Flag ist. Dieses darf NICHT
         * entfernt werden.
         */
        if( Queue.getFirst ().equals ( DirectoryQueue.QUEUE_DELEMITER ) )
            return DirectoryQueue.QUEUE_DELEMITER;
        else
            return Queue.removeFirst ();
        
    }
    
    
//    /**
//     * Hängt den übergebenen Parameter an die Ergebnisliste an
//     * @param Name Der einzufügende Name
//     */
//    public synchronized void mergeResult (
//            File Name )
//    {
//        
//        getResult ().add ( Name );
//        
//    }
    
    
    /**
     * Hängt die übergebene Liste an die Ergebnisliste an.
     * @param List Die anzuhängende Teilliste
     */
    public synchronized void mergeResult (
            ArrayList<File> List )
    {
        
        getResult ().addAll ( List );
        
    }
    
    
/* ========================================================================== *
 *                            Accessor/Modifier
 * ========================================================================== */
    
    public ArrayList<File> getResult ()
    {
        return Result;
    }
    
}

Und der Thread
Code:
package net.aragorn.nio;

import java.io.File;
import java.io.FileFilter;
import java.util.ArrayList;

/**
 *
 * @author Aragorn
 */
public class DirectoryThread
        extends Thread
{
    
/* ========================================================================== *
 *                                Attribute
 * ========================================================================== */
    
    /** Die zu bearbeitende Queue */
    private DirectoryQueue Queue;
    
    /** Das interne Ergebnisfeld */
    private ArrayList<File> InternalResult;
    
    /** Filter zum Dateivergleich */
    private FileFilter Filter;
    
    
/* ========================================================================== *
 *                               Konstruktor
 * ========================================================================== */
    
    /**
     * Erstellt einen neuen Thread in der Gruppe [b]Group[/b] mit dem Namen
     * [b]Name[/b] und übergibt ihm die Aufgabenliste
     * @param Group Die Threadgroup, welcher der Thread zugeordnet werden soll
     * @param Name Der Name des Threads
     * @param Queue Die abzuarbeitende Aufgabenliste
     */
    public DirectoryThread (
            ThreadGroup Group,
            String Name,
            DirectoryQueue Queue,
            FileFilter Filter )
    {
        
        /** Thread initialisieren */
        super ( Group, Name );        
        
        
        /** Queue speichern (!Referenz) */
        setQueue ( Queue );
        setFilter ( Filter );
        
        /** Listen Speicher anfordern */
        InternalResult = new ArrayList<File> ( 50 );
        
                
        start ();
        
    }
    
    
/* ========================================================================== *
 *                          Worker/Schnittstellen
 * ========================================================================== */
    
    public void run ()
    {
        
        /** Deklaration */
        File Dir;
        File Content[];
        
        
        /** ...wegen getWork () */
        try
        {
            
// // // // // // // // // // // // // // // // // // // // // // // // // // //
            
            /** Thread Endlosschleife */
            while( true )
            {

                /** Zu durchsuchendes Verzeichnis holen */
                Dir = Queue.nextDirectory ();

                
                /** Queue wurde terminiert */
                if( Dir == Queue.QUEUE_DELEMITER )
                    break;
                
                
                /** Verzeichnis durchsuchen */
                Content = Dir.listFiles ( Filter );
                
                /** Prüfen, ob die Suche erfolgreich war */
                if( Content == null || Content.length < 1 )
                    break;
                
                
                /** Gefundene Dateien weiterverarbeiten */
                for( int i = 0 ; i < Content.length ; i = i + 1 )
                {
                    
                    if( Content[ i ].isDirectory () )
                    {
                        Queue.addDirectory ( Content[ i ] );
                    }
                    else
                    {
                        InternalResult.add ( Content[ i ] );
                    }
                    
                }
                
                
                /**
                 * Sucheergebnis dieser Session in das Gesamtergebnis kopieren.
                 * Danach das interne Suchergebnis zurücksetzten
                 */
                Queue.mergeResult ( InternalResult );
                InternalResult.clear ();
                
            }
            
// // // // // // // // // // // // // // // // // // // // // // // // // // //
            
        }
        catch( InterruptedException ex )
        {
            
            ex.printStackTrace ();
            
        }
        
    }
    
    
/* ========================================================================== *
 *                            Accessor/Modifier
 * ========================================================================== */
    
    public DirectoryQueue getQueue ()
    {
        return Queue;
    }
    
    public void setQueue (DirectoryQueue Queue)
    {
        this.Queue = Queue;
    }

    public FileFilter getFilter ()
    {
        return Filter;
    }

    public void setFilter (FileFilter Filter)
    {
        this.Filter = Filter;
    }
    
    
}
 
G

Guest

Gast
Nein, nicht wirklich ;)

Mir geht es erstens um eine spürbare Verkürzung der Suchdauer und zweitens hab ich ne Möglichkeit gesucht, einen Dateibrowser bzw. eine Dateiliste in einem Programm durch eine Art Warteliste (die Queue) zu befüllen.
 

AlArenal

Top Contributor
Bei einer Live-Suche dürfte der Durchsatz der Festplatte der Bottleneck sein. Wenn du nicht total ürre codest, kannst du da im Code nicht mehr viel Zeit gewinnen...
 

Dunedain

Mitglied
Wenns nur um ein Verzeichnis geht, ist die Zeit sicherlich nicht spürbar, aber ab einer gewissen Verzeichnistiefe oder einer kompletten Partition macht sich das, zumindest in anderen Programmiersprachen, doch positiv bermerkbar.

Ist ja sowieso "nur" ne übung für den Umgang mit Threads...

Keine Idee, woher das unvollständige Suchergebnis kommt oder wie ich am "geschicktesten" das Ende der Thread-basierten Suche feststellen kann?
 

Wildcard

Top Contributor
Dunedain hat gesagt.:
Wenns nur um ein Verzeichnis geht, ist die Zeit sicherlich nicht spürbar, aber ab einer gewissen Verzeichnistiefe oder einer kompletten Partition macht sich das, zumindest in anderen Programmiersprachen, doch positiv bermerkbar.
Im schlechtesten Fall sind es zu viele Threads und die Festplatte mehr mit dem justieren des Lesekopfs bschäftigt als mit Leseoperationen und dann wird's deutlich langsamer als ohne Threads.
 
G

Guest

Gast
Ist ja alles schön und gut, die Argumente für und gegen Threads... Bringt mich aber leider der Lösung meines Problemes nicht näher.

Hat den keiner ne Idee, wie ich zum richtigen Suchergebnis komme?
 
Status
Nicht offen für weitere Antworten.
Ähnliche Java Themen
  Titel Forum Antworten Datum
BinaryLogic Input/Output Suche Wörterbuch-Datei Einzahl/Mehrzahl Allgemeine Java-Themen 2
G Perfomante Suche in grosser Datei Allgemeine Java-Themen 6
E Suche nach der jüngsten Datei. Allgemeine Java-Themen 19
kodela StatusBar-Anzeigen auch in Log-Datei ausgeben Allgemeine Java-Themen 3
G Maven Projekt JAR-Datei Allgemeine Java-Themen 6
E XML - Datei Darstellung in IntelliJ als Baum Allgemeine Java-Themen 2
Thomasneuling Java Jar datei erstellen, von Projekt, dass auch Javafx Dateien, FXML Dateien und CSS Dateien, sowie Bilder enthält? Allgemeine Java-Themen 14
D Erste Schritte Mp3 Datei kann nicht von der Festplatte geöffnet werden - mit ChatGPT erstellt Allgemeine Java-Themen 7
J Filenotfoundexception obwohl Datei existiert Allgemeine Java-Themen 6
M Java Überprüfen ob .exe-Datei bereits ausgeführt wird Allgemeine Java-Themen 2
S .exe Datei/Programm auslesen? Allgemeine Java-Themen 2
E Datei verschoben Event Allgemeine Java-Themen 3
D Datei mit "Kohsuke GitHub API" in Repository hochladen Allgemeine Java-Themen 2
S Bookmark HTML Datei einlesen, alle Links erhalten und manche editieren..? (aktuell JSoup) Allgemeine Java-Themen 4
melaniemueller Einzelne Zeile aus einer txt Datei in einem String speichern Allgemeine Java-Themen 12
G JavaFX Maven Projekt als .exe Datei exportieren Allgemeine Java-Themen 10
J (Geplante) Änderungen an einer Datei vorübergehend speichern und anwenden? Allgemeine Java-Themen 12
Neumi5694 Datei komprimiert Allgemeine Java-Themen 6
_user_q Obfuscate einer .jar-Datei mit ProGuard? Allgemeine Java-Themen 2
_user_q Verknüpfung einer .jar-Datei (liegt z. B. auf dem Desktop) im Autostart-Ordner erstellen? Allgemeine Java-Themen 20
E java mithilfe url .jar datei öffnen Allgemeine Java-Themen 9
E Java .exe Datei mit args starten Allgemeine Java-Themen 2
W Bilder werden in App mit Jar-Datei nicht angezeigt Allgemeine Java-Themen 15
Master3000 Java Datei mehrmals einlesen Allgemeine Java-Themen 4
M Excel Datei Erstellen Allgemeine Java-Themen 2
E Input/Output Eigene Datei mit java öffnen Allgemeine Java-Themen 9
R Sonderzeichen aus Datei einlesen und in Datei ausgeben. Allgemeine Java-Themen 17
Tobero Download .jar von github lädt kaputte Datei runter Allgemeine Java-Themen 3
P Bat Datei in Java ausführen Allgemeine Java-Themen 2
S Verwendet Programmiersprache aus Quellcode - Datei ermitteln Allgemeine Java-Themen 6
T Problem beim Umwandeln in eine Jar-Datei Allgemeine Java-Themen 3
J Jar-Datei ausführen Allgemeine Java-Themen 7
C Outlook msg-Datei Anhänge extrahieren Allgemeine Java-Themen 2
G Datei aus Ordner wählen, ohne den Dateinamen im Pfad angeben zu müssen Allgemeine Java-Themen 4
G Datei senden via Xmodem an Serial-Port Allgemeine Java-Themen 35
C Wav-Datei aus Jar laden? Allgemeine Java-Themen 11
L Best Practice Zip Datei aktualisieren Allgemeine Java-Themen 1
N Speicherort einer Datei im Explorer ändern Allgemeine Java-Themen 8
H Mehrere PNG-Files in einer Datei Allgemeine Java-Themen 9
Gaudimagspam CSV-Datei auslesen in Java Allgemeine Java-Themen 7
S createTempFile erstellt keine temporäre Datei Allgemeine Java-Themen 13
Hatsi09 Jar datei ausführen verursacht NumberFormatException Allgemeine Java-Themen 9
kodela bestimmten Dateityp immer mit jar-Datei öffnen Allgemeine Java-Themen 17
N Arrayliste in eine Datei speichern Allgemeine Java-Themen 4
B .txt Datei erstellen und auslesen bzw. schreiben Allgemeine Java-Themen 6
J Öffnen eine jar-Datei Allgemeine Java-Themen 11
Dann07 MP3 Datei abspielen funktioniert nicht Allgemeine Java-Themen 6
H ArrayListe in CSV Datei speichern Allgemeine Java-Themen 6
O Aus JAR-Datei erstellte EXE-Datei funktioniert nicht Allgemeine Java-Themen 10
N Txt Datei auslesen. Allgemeine Java-Themen 5
B Datei/Ordner auf Server zugreifen/erstellen Allgemeine Java-Themen 2
MiMa Datei verschieben hat einen Fehler?? Allgemeine Java-Themen 20
MiMa Erstellungsdatum einer Datei Allgemeine Java-Themen 10
O xlsx Datei auslesen mit POI Apache liest keine LEERZELLEN Allgemeine Java-Themen 6
P Input/Output entfernte Datei mit Java öffnen ohne Download Allgemeine Java-Themen 5
O xlsx Datei auslesen mit POI von Apache wirft seltsamen Fehler. Allgemeine Java-Themen 11
J Hilfe, Jar Datei kann nicht ausgeführt werden Allgemeine Java-Themen 2
M Programm erkennt String aus .txt Datei nicht Allgemeine Java-Themen 3
O Java-Applikation tut in Netbeans, als JAR nicht, wegen Pfadangaben einer benötigten Datei Allgemeine Java-Themen 8
J Fehlermeldung bei Ausführung von .jar-Datei Allgemeine Java-Themen 9
J Die Letzte Zahl aus einer Text datei lesen Allgemeine Java-Themen 8
Elyt Compiler-Fehler Datei kann nicht erstellt werden. Die Syntax für den Dateinamen etc. ist falsch. Allgemeine Java-Themen 2
M Probleme jar datei. Allgemeine Java-Themen 2
F Datei in String-Array einlesen Allgemeine Java-Themen 8
O docx-Datei erzeugung mit DocXStamper funktioniert nicht Allgemeine Java-Themen 2
T Objekt mit String und Int aus TxT Datei erstellen Allgemeine Java-Themen 23
Bluedaishi Prüfen ob Datei noch geöffnet ist Allgemeine Java-Themen 59
I Temp-Datei wird nicht gelöscht Allgemeine Java-Themen 12
D ODS.Datei öffnet leider in Excel Allgemeine Java-Themen 3
L JavaFX JavaFX Chart in Apache Poi Excel Datei Allgemeine Java-Themen 2
D .txt Datei in .jar Datei speichern Allgemeine Java-Themen 3
ralfb1105 Blöcke aus Datei filtern/suchen und in neue Datei schreiben Allgemeine Java-Themen 10
M Daten aus MatLab Datei lesen Allgemeine Java-Themen 8
L SQL Datei in Eclipse erstellen Allgemeine Java-Themen 3
Drachenbauer Wie sorge ich dafür, dass mein Spiel die ini-Datei in der Resourcen-ordner des Projektes schreibt? Allgemeine Java-Themen 5
Trèfle Excel-Datei nicht speicherbar, da von Java zum Bearbeiten gesperrt. Allgemeine Java-Themen 3
N Datei Zeilenweise Einlesen, Versteckte Zeichen Allgemeine Java-Themen 5
L Excel Datei löscht sich selbst im Programm - Java Allgemeine Java-Themen 3
G Workupload datei mit Java Downloaden Allgemeine Java-Themen 6
H .jar Datei startet nicht richtig bei Doppelklick Allgemeine Java-Themen 11
S Hilfe bei dem Auslesen einer YAML Datei Allgemeine Java-Themen 8
M Java Eclipse- Datei exportieren Allgemeine Java-Themen 5
R jar-Datei funktioniert nicht Allgemeine Java-Themen 2
R .txt Datei einlesen und auf der Konsole ausgeben lassen Allgemeine Java-Themen 11
T Jar Datei nicht ausführbar Allgemeine Java-Themen 6
H jar-Datei mit java.exe anstatt mit javaw.exe ausführen Allgemeine Java-Themen 9
S Datei wird nicht gefunden Thread.currentThread().getContextClassLoader().getResourceAsStream() Allgemeine Java-Themen 1
A Steuerung von Spiel aus Datei lesen Allgemeine Java-Themen 0
Javafan01 .sh datei in Java ausführen Allgemeine Java-Themen 1
MiMa Speichern von Programmeinstellungen in Datei Allgemeine Java-Themen 7
J Ordner und Datei Struktur einer War Datei Allgemeine Java-Themen 1
J XML Datei mit installiertem Programm öffnen Allgemeine Java-Themen 7
L Weg um Datei zuzuordnen? Allgemeine Java-Themen 3
MiMa Datei kann nicht umbenannt oder verschoben werden ?? Allgemeine Java-Themen 17
S Input/Output Beste Möglichkeit einen String in einen Datei zu Schreiben Allgemeine Java-Themen 2
K Erste Schritte Start einer JAR Datei 2 Wege aber einmal nicht die volle Funktionlität Allgemeine Java-Themen 20
J Datei löschen, die Leerzeichen im Pfad hat Allgemeine Java-Themen 5
Aruetiise " in Datei schreiben Allgemeine Java-Themen 2
K Datei (CSV-ähnlich) in Java einlesen & mit teil der Daten Graphen erstellen Allgemeine Java-Themen 9
S Korrekte Pfadangaben damit eine .jar Datei unter Windwos läuft. Allgemeine Java-Themen 24

Ähnliche Java Themen

Neue Themen


Oben