Die Suche ergab 32 Treffer

von Killver
Donnerstag 16. September 2010, 09:59
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Re: Sehr große Datenbank

Nein, nein.

Zwei Tabellen in einer Datenbank.
von Killver
Mittwoch 15. September 2010, 19:40
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Re: Sehr große Datenbank

Die Idee hatte ich auch schon aber das wird sich nicht lösen lassen. Ich habe in der ersten Tabelle gewisser IDs und ind er zweiten riesigen Tabelle ebenfalls ids und zugehörige Daten und ich muss dann eben ein join auf die IDs machen, jedoch kann ich dasd nicht händisch amchen.... Edith: nochne Anm...
von Killver
Mittwoch 15. September 2010, 18:41
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Re: Sehr große Datenbank

RAM sollten ausreichend sein. Abfragen auf eine einzelne Tabelle, die viel viel größer ist, gehen auch deutlich flotter.

Andere Datenbank ist leider keine Alternative.
von Killver
Mittwoch 15. September 2010, 12:33
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Re: Sehr große Datenbank

Hallo nochmal! Habe ein neues Problem bezüglich Abfrage Geschwindigkeit. Und zwar brauche ich derzeit eine Abfrage die über zwei Tabellen geht. habe es einmal mit einem INNER JOIN und einmal mit einem normalen SELECT (WHERE a.x = b.x) probiert. Bei größeren Daten dauert die Abfrage aber unglaublich ...
von Killver
Montag 23. August 2010, 10:13
Forum: Allgemeine Fragen
Thema: Twitter API - Follower + Datenbank
Antworten: 7
Zugriffe: 785

Re: Twitter API - Follower + Datenbank

Deine Tabelle anscheinend nicht in Normalform. Die Follower-Beziehungen sind doch nicht von den Tweets abhängig. Oder willst Du die Veränderungen über die Zeit erfassen? Also sowas wie: bei Tweet X ist Benutzer A noch nicht Benutzer B gefolgt, aber bei Tweet Y war das der Fall. Wenn Du diese Fragen...
von Killver
Montag 23. August 2010, 09:33
Forum: Datenbankprogrammierung mit Python
Thema: MySql MemoryError
Antworten: 12
Zugriffe: 2088

Re: MySql MemoryError

Ich habe das jetzt so probiert, wenn ich den cursor schrittweise durchgehe, anstatt ein fetchall zu machen scheint es zu funktionieren. Hoffe nur es ist dadurch nicht langsamer.
von Killver
Montag 23. August 2010, 09:25
Forum: Datenbankprogrammierung mit Python
Thema: MySql MemoryError
Antworten: 12
Zugriffe: 2088

Re: MySql MemoryError

Das hab ich auch shcon gefunden. Liegt glaub ich am Mysqldb modul. WÜrde mir das überhaupt was helfen, wenn die DB lokal ist? Warum swappt python eigentlich nicht?
von Killver
Montag 23. August 2010, 09:20
Forum: Datenbankprogrammierung mit Python
Thema: MySql MemoryError
Antworten: 12
Zugriffe: 2088

Re: MySql MemoryError

Ja genau ein fetch_all()
von Killver
Montag 23. August 2010, 08:56
Forum: Datenbankprogrammierung mit Python
Thema: MySql MemoryError
Antworten: 12
Zugriffe: 2088

Re: MySql MemoryError

Weniger Daten Abfragen geht nicht. Mache ich dasselbe in sqlite gibt es kein Problem.

Source hilft hier auch nix, is ne einfache mysql SELECT WHERE Abfrage.
von Killver
Montag 23. August 2010, 00:01
Forum: Datenbankprogrammierung mit Python
Thema: MySql MemoryError
Antworten: 12
Zugriffe: 2088

MySql MemoryError

Hallo!

Ich mache einige mysql calls auf meiner lokalen Datenbank von sehr großen Tabellen und erhalte jetzt immer einen MemoryError.

Irgendeine Idee wie ich das lösen kann?

lg
killver
von Killver
Sonntag 22. August 2010, 21:52
Forum: Allgemeine Fragen
Thema: Twitter API - Follower + Datenbank
Antworten: 7
Zugriffe: 785

Twitter API - Follower + Datenbank

Hallo! Ich bin derzeit dabei via der Twitter API sehr, sehr viele Follower von sehr, sehr vielen Usern abzufragen. Ich benutze für die API calls derzeit die Twitter Library für Python (welche teilweise leider bisschen sehr lange braucht). Nun folgendes Problem, ich möchte die Tabelle in meiner Daten...
von Killver
Freitag 20. August 2010, 17:28
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Re: Sehr große Datenbank

Sorry Leute, hatte das Thema aus den AUgen verloren.

Ja es hat sehr viel gebracht.

Ich habe aber meine Datenbank wieder über den Haufen geworfen und werde jetzt dann nochmal viel mehr Einträge haben. Ich berichte dann wie viele und opb es performant ist :)

lg
von Killver
Freitag 6. August 2010, 19:10
Forum: Allgemeine Fragen
Thema: Type Error
Antworten: 1
Zugriffe: 599

Type Error

Hallo! Ich habe wiedermal ein Problem :) Und zwar folgende Zeile im Code: nonpldata = self.data[self.data<xmin] Wobei self.data folgendermaßen aussieht: list: [35125, 3042, 2783, 1478, 1347, 1034, 893, 818, 729, 716, 696, 568, 542, 479, 471, 423, 404, 368, 319, ......] xmin ist in diesem Fall 2 jetz...
von Killver
Freitag 6. August 2010, 16:31
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Re: Sehr große Datenbank

Ah okay. Und wie mach ich das dann genau? Nehmen wir an die Tabelle schaut so aus: id text other_id Meine Abfragen beschränken sich immer auf eine "Where other_id = ???" Klausel. D.h. ich amche jetzt folgendes: CREATE UNIQUE INDEX the_index ON tbale_name (other_id) Und meine WHERE Abfragen...
von Killver
Freitag 6. August 2010, 16:15
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Re: Sehr große Datenbank

Was meinst du damit genau?
von Killver
Freitag 6. August 2010, 16:06
Forum: Allgemeine Fragen
Thema: Sehr große Datenbank
Antworten: 21
Zugriffe: 3704

Sehr große Datenbank

Hallo! Ich Arbeite derzeit mit einer sqlite Datenbank. In dieser hab ich eine Tabelle, welche mehr als 330 Millionen Einträge hat. Jetzt muss ich hier aber öfter auf diese Daten zugreifen. Dies dauert aber eine Ewigkeit. Gibt es hier irgendeine Möglichkeit dies deutlich zu beschleunigen? Danke und l...
von Killver
Donnerstag 15. Juli 2010, 18:52
Forum: Allgemeine Fragen
Thema: Python SQL OR Abfrage
Antworten: 3
Zugriffe: 512

Re: Python SQL OR Abfrage

Danke vielmals. jetzt crasht python.exe nicht mehr :)
von Killver
Donnerstag 15. Juli 2010, 18:34
Forum: Allgemeine Fragen
Thema: Python SQL OR Abfrage
Antworten: 3
Zugriffe: 512

Python SQL OR Abfrage

Hey! Ich habe folgendes SQL problem: Ich lese zuerst verschieden IDs aus, welche ich dann in einer Liste habe, also z.B: list = [10, 56, 87, ...] Die Liste kann sehr lang sein. Nun möchte ich in einer neuen Abfrage alle Ergebnise erhalten, die diese IDs beinhalten. Also so in der Art: SELECT ... WHE...
von Killver
Mittwoch 14. Juli 2010, 21:43
Forum: Allgemeine Fragen
Thema: Sehr großes File lesen
Antworten: 18
Zugriffe: 1262

Re: Sehr großes File lesen

Im grunde is es ja keine Binärdatei sondern nur Text, aber anscheinend haben sich Binärelemente darin evrsteckt. jetzt liest er jedenfalls alle Zeilen ein. Danke nochmals!
von Killver
Mittwoch 14. Juli 2010, 19:56
Forum: Allgemeine Fragen
Thema: Sehr großes File lesen
Antworten: 18
Zugriffe: 1262

Re: Sehr großes File lesen

Das wars tatsächlich... nun funktionierts, danke :)

Hätte ich mir 5 studnen herumprobieren sparen können ^^