Daten schneller aus einer DB auslesen

Status
Nicht offen für weitere Antworten.

Generic1

Top Contributor
Hallo,

ich habe folgende Schwierigkeit und zwar habe ich eine menge von Daten in meiner Datenbank (um die 3 Mill) welche geordnet nach einem Timestamp in der Datenbank gespeichert sind,

meine Frage wäre nun, wie ich das lesen aus der Datenbank schneller machen kann, meine bedenken sind, dass ich immer alle 3 Mill Datensätze durchlaufen muss obwohl ich vielleicht nur die Daten von 10-10-2003 bis 11- 03-2005 benötige,

Gibt es irgend eine Möglichkeit, die Abfrage schneller zu machen?

schönes Wochenende,

lg
 
S

SlaterB

Gast
select * from .. where time > 10-10-2003 and time < 11- 03-2005
+ evtl. Index auf der Zeit in der DB benötigt
 

Generic1

Top Contributor
SlaterB hat gesagt.:
select * from .. where time > 10-10-2003 and time < 11- 03-2005
+ evtl. Index auf der Zeit in der DB benötigt


das ist schon klar, so mach ichs eh, aber es müssen trotzdem alle Dupel angesehen werden und das möchte ich vermeiden um zeit zu sparen, Mir gehts rein um das Sparen von Zeit,
gibts da irgendwas?
 
S

SlaterB

Gast
mit einem Index müssen nicht alle angesehen werden,

noch ein bisschen läßt es sich vielleicht tunen, wenn du alternativ/ parallel zu den Dates einfache int-Werte einfügst
(Tag 17, Tag 18, .., ab besten individuelle Werte wie Zeitraum 1, 2, 3 statt Begin + Ende),
vielleicht sind die ja von der DB schneller zu verarbeiten,

aber im Allgemeinen wird die hoffentlich auch mit Dates sehr effizient umgehen

(naja, ich erzähl grad nur ein bisschen, zur DB-Optimierung nicht auf mich hören ;) )
 

robertpic71

Bekanntes Mitglied
Das Wichtigste wurde eh schon mehrmals erwähnt: Über das Datums bzw. Timestampfeld sollte ein Index liegen.

Weiters sollte dein Vergleichsparameter als (Datenbanktyp) Datum vorliegen, als z.B. Date('2005-10-10'). Ich hatte mal vor Jahren genau diesen unerwünschten Effekt, dass die DB meinte, die ganze Tabelle lesen zu müssen, damit das Datum als Zeichenkette verglichen werden kann. Am besten man arbeitet mit einem preparedStatement um solchen Problemen aus dem Weg zu gehen.

Bei komplexen Select's passiert mir das bei Datenbanken aller Preisklassen, dass ein "Fulltablescan" angeworfen wird.

/Robert
 

Generic1

Top Contributor
HAllo

> Weiters sollte dein Vergleichsparameter als (Datenbanktyp) Datum vorliegen, als z.B. Date('2005-10-10')

das verstehe ich nicht ganz, ich hab in meinen Tabellen eine Timestamp- Spalte und die Abfrage geht wie oben beschrieben "... zeitstempel Between 'zeit1' And 'zeit2'
 

robertpic71

Bekanntes Mitglied
Generic1 hat gesagt.:
das verstehe ich nicht ganz, ich hab in meinen Tabellen eine Timestamp- Spalte und die Abfrage geht wie oben beschrieben "... zeitstempel Between 'zeit1' And 'zeit2'

Ich bin jetzt vom schlimmsten anzunehmenden SQL-Parser ausgegangen, du hast ja keine Datenbank angegeben.

Es hängt davon ab, wie "schlau" die Datenbank bzw. der Parser ist. Wenn er die Konstante 'zeit1' als Timestamp erkennt und zum Starten in den Index verwendet ist alles im grünen Bereich. Wenn der aber meint 'zeit1' ist eine Stringkonstante, dann die komplette Tabelle liest um für jeden Satz den Timestamp (für den Vergleich) in eine Zeichenkette umwandelt, hast du genau das, was du nicht wolltest.

Ich gehe davon aus, dass die meisten Parser das jetzt checken. Aber ich hatte vor ein paar Jahren genau diese konkrete Problem (bin mir mit der Datenbank nicht mehr sicher).

Den Unterschied solltest du eigentlich sofort merken. Wenn man z.B. nur einen Tag (mit wenigen Sätzen) rausholt, dürfte das nur im Zehntelsekundenbereich (auf Serverhardware) liegen, wenn die Datenbank mit einem Index arbeitet.

/Robert
 

Generic1

Top Contributor
ich verwende Firebird aber was haltet ihr eigentlich von der JavaDB, ist die um viel langsamer als eine andere DB oder liegt die Performance ok? (Java DB is ja glaub ich zur gänze in Java geschrieben)
 

geraldf

Mitglied
Wenn du die obigen Tipps berücksichtigst, sollte jeder DB-Server schnell genug sein.

Gut sollte es z. B. mit MySQL funktionieren. Am Schnellsten mit der MyISAM-Engine.

Betr. Derby ... weiß ich nicht.

Beste Grüße
Gerald
 
Status
Nicht offen für weitere Antworten.
Ähnliche Java Themen
  Titel Forum Antworten Datum
D Alte Daten ins neue Modell quetschen Datenbankprogrammierung 6
R Mongodb Daten werden immer überschrieben Datenbankprogrammierung 7
R Mongodb Daten in einem bestimmten Document speichern Datenbankprogrammierung 1
OnDemand Daten auf mehrere Tabellen aufteilen oder Spalten nutzen Datenbankprogrammierung 2
B Daten HSQL-DB Datenbankprogrammierung 2
V H2 ManyToMany wie speichere ich die Daten? Datenbankprogrammierung 10
thobren Projekt SQlite! Wie kann ich auf auf SQlite Daten zugreifen? Datenbankprogrammierung 4
OnDemand Daten verschlüsseln Datenbankprogrammierung 42
L Oracle Daten in Häppchen selektieren Datenbankprogrammierung 5
L Oracle Daten von Oracle zu MSSQL übertragen Datenbankprogrammierung 4
D Daten aus der Firebase-Echtzeitdatenbank abfragen und in Variablen speichern (JAVA) Datenbankprogrammierung 0
Z Ausgabe nur bestimmter Daten Datenbankprogrammierung 6
E netbeans - jsp Daten in Datenbank hinzufügen Datenbankprogrammierung 2
N Java Abfrage über GUI, Daten hinzufügen Datenbankprogrammierung 54
Kirby.exe Vorschläge zur Verschlüsselung von Daten in der DB Datenbankprogrammierung 2
T Java Spiel Daten speichern Datenbankprogrammierung 1
LimDul H2 Embedded DB und Gigabytes an Daten Datenbankprogrammierung 0
C Datenbank anlegen und über eine Website mit Daten füllen? Datenbankprogrammierung 25
R Wie mit zu viele Daten umgehen? Datenbankprogrammierung 2
F MySQL Wie speichere ich Daten zeitlich abhängig? Datenbankprogrammierung 4
T Oracle Normalisierung und Daten splitten Datenbankprogrammierung 1
JG12111989 DB-Daten werden falsch dargestellt Datenbankprogrammierung 7
K H2 Daten in die H2 console DB eintragen Datenbankprogrammierung 2
L SQLite Ändern der Daten in einem UNIQUE Feld Datenbankprogrammierung 1
S Daten von SQLite Datenbank nutzen Datenbankprogrammierung 5
P JSP - Daten aus 2 Tabellen in eine neue Tabelle einfügen Datenbankprogrammierung 1
L Oracle Daten von einem Server zum andere kopieren Datenbankprogrammierung 24
P Daten in eine mySQL Datenbank einfügen Datenbankprogrammierung 4
L MySQL Vergleichen von Array-Inhalt, Ausgabe gleicher Daten Datenbankprogrammierung 3
W Daten in Java intern abfragen Datenbankprogrammierung 1
G MySQL Java Problem: Nullpointer Exception obwohl Daten vorhanden sind? Datenbankprogrammierung 2
W Daten aus einer Datei von einem VServer auslesen Datenbankprogrammierung 1
I MySQL Datenbankstruktur angleichen - Daten behalten Datenbankprogrammierung 7
O JDBC Daten in zwei Tabellen mit zwei foreach-Schleifen einfügen (insert into) Datenbankprogrammierung 1
P LDAP: Daten eintragen funktioniert nicht Datenbankprogrammierung 7
B MySQL LogIn Daten im Code verstecken Datenbankprogrammierung 3
O mit Multi-Thread Daten aus Datenbank lesen und schreiben Datenbankprogrammierung 22
F Daten verdichten Datenbankprogrammierung 0
Z Finde den Fehler: Daten aus einer Access-Datenbank lesen Datenbankprogrammierung 12
B Daten aus DB in Word Dokument Datenbankprogrammierung 2
D Aktualisierung einer ListView mit Daten aus MySQL-DB Datenbankprogrammierung 5
D Daten posten auf RestApi (Mongodb/NoSQL) Datenbankprogrammierung 0
I Fehler bei Ausgabe der Daten aus der DB Datenbankprogrammierung 3
OnDemand MySQL Daten aktualisieren Datenbankprogrammierung 6
D Daten von einem Server in eigenem Java-Programm benutzen Datenbankprogrammierung 6
M Vergleich von Daten in verschiedenen Tabellen Datenbankprogrammierung 1
S Daten aus Form in Datenbank nur einmal eintragen Datenbankprogrammierung 2
6 JBDC Daten verschlüsseln? Datenbankprogrammierung 2
F MySQL Daten ändern über Java Datenbankprogrammierung 3
G SQLite Daten aus SQLite DB in andere SQLite DB importieren Datenbankprogrammierung 4
H Grosse Menge an Daten in eine Datenbank Datenbankprogrammierung 32
M Daten nachträglich hinzufügen Datenbankprogrammierung 6
2 MySQL Daten aus einer Array auslesen und MySQL Statment erstellen. Datenbankprogrammierung 5
E Daten einer SQL-Datenbank aus Combobox in labels schreiben Datenbankprogrammierung 6
N HSQLDB Daten Auslesen Datenbankprogrammierung 3
O Viele Verbindungen-Exception bei insert Daten zur MySQL-Datenbank Datenbankprogrammierung 2
P MySql daten in leeren jtable übertragen Datenbankprogrammierung 5
SexyPenny90 SQL Daten sortieren und top 5 ausgeben Datenbankprogrammierung 7
L Hibernat will Daten nicht einfügen??? Datenbankprogrammierung 2
B MySQL DB Daten aktualisieren Datenbankprogrammierung 9
D MySQL Daten werden aus Datenbank gelesen, obwohl sie dort gar nicht angekommen sind Datenbankprogrammierung 8
Kenan89 Oracle Daten einer Tabelle in Array speichern Oracle Datenbankprogrammierung 10
L SQLite Daten werden nicht in die Tabelle eingefügt Datenbankprogrammierung 7
D Übersichtliche Zuweisung von Daten in Tabellen Datenbankprogrammierung 17
C ResultSet enthält nicht alle Daten Datenbankprogrammierung 4
A Problem mit Eintragen von Daten in eine Datenbank mittels DAO Datenbankprogrammierung 4
J Daten synchronisieren in Multi-Client-Anwendungen (Hibernate) Datenbankprogrammierung 6
S JPA: DB Schema ändern und Daten nicht verlieren - wie? Datenbankprogrammierung 5
T MySQL Select: Zusammenfassen von Daten und bilden von Durchschnitt? Datenbankprogrammierung 4
F Daten in die DB hinzufügen Datenbankprogrammierung 7
H Klasse welche Mysql Daten zurück gibt Datenbankprogrammierung 18
S JPA: Problem mit Update von Daten Datenbankprogrammierung 7
H Daten in/aus Datenbank schreiben Datenbankprogrammierung 2
M DropDownBoxen mit MySQL Daten füllen Datenbankprogrammierung 3
E MySQL Daten in die Datenbank eingeben via Java Programm Datenbankprogrammierung 3
F ORA 17410 Keine weiteren Daten aus Socket zu lesen Datenbankprogrammierung 2
B Daten aus Datenbank holen Datenbankprogrammierung 6
T Problem beim schreiben von daten Datenbankprogrammierung 4
N Daten aus Datenbank abfragen und anzeigen in der Praxis?? Datenbankprogrammierung 2
G MySQL Bekomme keine Daten. Datenbankprogrammierung 7
L CLOB-Daten werden beim Einfügen in die Datenbank geändert? Datenbankprogrammierung 5
G Daten aggregieren Datenbankprogrammierung 11
Gossi Oracle 2 Daten (Datum) vergleichen Datenbankprogrammierung 6
W MySQL Daten aus bestimmter Spalte lesen Datenbankprogrammierung 2
E MySQL Befüllen einer MySQL DB mit großen Daten Datenbankprogrammierung 6
J Doppelte Daten in Spalte, nur die erste abrufen wie? Datenbankprogrammierung 15
P Daten aus MySql Datenbank lesen??? Datenbankprogrammierung 6
J Daten vergleichen Datenbankprogrammierung 10
S Daten einer Tabelle vergleichen und ggs neuen Wert einfügen Datenbankprogrammierung 8
X Daten einer DatenbankTabelle in JTable darstellen Datenbankprogrammierung 13
T Designfrage: DB-Daten direkt oder verzögert speichern Datenbankprogrammierung 2
Dragonfire Daten aus jsp Datei in datenbank speichern Datenbankprogrammierung 15
A Daten von Webshop einlesen Datenbankprogrammierung 5
S Daten aus jTextfiled in DB schreiben - SQL Befehl Datenbankprogrammierung 2
T Daten aus DB in variable Zahl an Variablen speichern Datenbankprogrammierung 18
A Datenbankanbindung an mySQL und Ein-/Auslesen der Daten Datenbankprogrammierung 4
D Vector mit Daten aus der Datenbank füllen Datenbankprogrammierung 7
G Daten aus ResultSet in String-Liste Datenbankprogrammierung 13
S Fehler beim Auslesen von Daten Datenbankprogrammierung 6
D Keine Ausgabe der Daten Datenbankprogrammierung 3

Ähnliche Java Themen

Neue Themen


Oben