parsen oder filtern

[The Hit-Man]

Der Weg mit dem Zählen der <td> ist aber recht unpraktisch, weil er vermutlich schon bei kleineren Änderungen an der Seite nicht funktioniert.

die könnten auch eben nen anderen namen, für das bildchen nehmen, würde mein messenger auch nicht mehr gehen. leider muß man damit rechnen allerdings habe ich bis jetzt noch nicht gesehen, das die an dem source was geändert hätten. ich denke auch mal, werden sie auch erst mal nicht machen, weil lohnt auch nicht weiter. der chat rennt ja.

[Leonidas]

die könnten auch eben nen anderen namen, für das bildchen nehmen, würde mein messenger auch nicht mehr gehen.

Natürlich. Beim scrapen geht es eben um Warscheinlichkeiten. Es ist wohl warscheinlicher, dass sie ein weiteres <td> einfügen (etwa um eine Box mit Breaking News einzufügen, irgendwie so etwas) als dass sie das Bild umbenennen. Kann natürlich beides vorkommen - scraping funktioniert eben nur so lange gut, bis die Seite die gescraped wird geändert wird.

[The Hit-Man]

@Leondias
wäre es auch möglich, das ich beautifulsoup für das suchen nehmen könnte? und wenn, wird es genau so einfach benutzt wie die html5lib. hatte mir die doku zu beautifulsoup mal angeschaut, allerdings fand ich kein gutes beispiel, wie hier, mit der html5lib.

EDIT:

Code: Alles auswählen

soup = BeautifulSoup(page)
print soup.html.findAll('td')

habs so erst mal versucht. nur jetzt bekomme ich ja alle tags angezeigt, ich möchte aber nur einen bestimmten, am besten das ich ihm sagen könnte, den 21zigste.

[BlackJack]

Na das wäre dann

Code: Alles auswählen

print soup.html.findAll('td')[20]

Ist aber wahrscheinlich nicht so besonders robust. Ich würde versuchen das etwas genauer zu beschreiben. Also zum Beispiel erst einmal die Tabelle identifizieren und dabei auch Gebrauch von eventuellen IDs machen.

[The Hit-Man]

habs jetzt so hinbekommen, das mir auch der wert gleich ausgelesen wird

Code: Alles auswählen

soup = BeautifulSoup(page)
extract1 = soup.html.findAll('td')
print extract1[31].contents[0]

[Leonidas]

wäre es auch möglich, das ich beautifulsoup für das suchen nehmen könnte?

Ja, kannst du aber für mich verhält sich das zu "seltsam", dss dann Sachen manchmal schlichtweg nicht funktionieren und es dann seltsame Hacks braucht. Außerdem ist eben das Ablaufen der Indizes nicht wirklich robust, da nehme ich mir lieber einen Selektor oder ein XPath-Query gegen ein Objekt von dem ich meine dass es eher beständig ist.

[The Hit-Man]

@Leondias

Code: Alles auswählen

soup = BeautifulSoup(page)
extract1 = soup.html.findAll('td')
print extract1[31].contents[0]

so bekomme ich das 30zigste Element angezeigt, aber wie kann ich feststellen, wieviele Elemente jetzt vorhanden sind, im extract1 ??? Muß das wissen, da ich ein Listfeld füllen möchte.

[Leonidas]

Code: Alles auswählen

print len(extract1)

Also etwas Eigeninitiative würde dir nicht schaden

[The Hit-Man]

argh, und ich google mich dumm und dämlich. Also in der Doku habe ich nichts darüber gefunden.

[Leonidas]

Also in der Doku habe ich nichts darüber gefunden.

Tutorial: Lists. Die meisten Dinge auf die du per Index zugreifen kannst, können dir auch ihre Länge sagen, indem du mit ``len()`` auf ihr ``__len__`` zugreifst.

[The Hit-Man]

naja, das wird schon. ich mache ja eher learning by doing. Denk mal ein paar Monate zurück, da konnte ich ja mal gar nichts. Deshalb noch mal vielen Dank an das Forum und die Leute die mir immer helfen. Ich werde bestimmt noch ganz viele Fragen haben.

[The Hit-Man]

da stehe ich schon wieder. hab so weit geschafft, eine seite parsen, um mir anzeigen zu lassen, welche Leute gerade online sind. Jetzt bekomme ich eine Liste mit solchen Einträgen zurück.

Code: Alles auswählen

</tr>, <tr onclick="open_profil_by_id(1152110);"><td width="20"></td><td width="15" class="norm">20</td><td class="pic" onmouseover="mouseIn(this)" onmouseout="mouseOut(this)">nomani</td>

Jetzt brauche ich nur hinten das nmani, denn das sind die reinen Benutzernamen, die ich in mein Listfeld unterbringen möchte, mein bisheriger Befehl zum filtern lautete:

Code: Alles auswählen

result = soup.html.findAll('tr')

Gibt es da ne Möglichkeit, nur den Nicknamen auszulesen, unter BeautifulSoup? Oder eine Komination, mit meiner Suche?

[BlackJack]

Natürlich gibt's da eine Möglichkeit, aber Du solltest vielleicht wirklich mal HTML und BeautifulSoup lernen, dann wüsstest Du das auch. Ein HTML-Dokument kann man sich als Baum mit Knoten und Attributen vorstellen, viele HTML-Editoren und auch Browser haben auch eine entsprechende Darstellung, und mit BeatifulSoup kann man sich daraus Knoten heraus filtern und von Knoten zu Eltern oder Kindknoten navigieren. Das heisst Du musst Dir nur anschauen wie man die gewünschten Knoten am besten und sichersten ansteuern kann.

Bei den gegebenen Informationen scheinen das also <tr>-Knoten zu sein, deren `onclick`-Attribut mit 'open_profil_by_id' beginnt. Und wenn man die hat, kann man bei jedem dieser Knoten den <td>-Knoten mit dem `class`-Attribut 'pic' identifizieren und dessen Kindknoten, den Text, auslesen.

Code: Alles auswählen

    rows = soup('tr', onclick=lambda v: v.startswith('open_profil_by_id'))
    names = [row.find('td', 'pic').contents[0] for row in rows]

Man sollte vielleicht nicht beim `soup`-Objekt beginnen, sondern erst einmal die Tabelle ansteuern.

[The Hit-Man]

stecke leider noch in den Anfängen und habe mir auch die Doku auf der Homepage durchgelesen. Irgendwie immer alle zu trocken. Ihr erkärt es irgendwie besser. Klar weiß ich wie eine HTML Seite ungefähr aufgebaut ist, und kann mir auch den Baum vorstellen, wie eine XML Datei, nur eben mit Tabellen und so weiter. Ist nicht so, das ich hier wegen jeder kleinen Sache eine Frage stellen würde ( vielleicht sieht es für Euch so aus, da ihr ja bei weitem mehr Ahnung davon habt, wie ich ). Bevor ich Frage, google ich und suche erst im Forum nach, was passen könnte. Ich denke mal meine Fragen, sind irgendwie zu speziell

EDIT:
by the way, das lambda verwirrt mich.

[BlackJack]

Das ist einfach eine Funktion ohne Namen. Man hätte auch extra eine Funktion mit ``def`` vorher definieren können und dann beim Aufruf den Namen angeben.

[The Hit-Man]

Habe mich ne Zeit lang, gerade mit C++ beschäftigt und mit der wxwidgets Lib. Ich suchte ja mal was zum parsen von HTML Seiten. Auf der Projektseite von wxwidgets ist mir aufgefallen, das die ja auch ne Parser-Klasse mit eingebaut haben. Verstehe ich das richtig, das wxwidgets fast ein komplettes FrameWork ist? Es sind ja unmengen an Klassen da drin. Wäre es also möglich, auch den HTM Parser von wxwidgets nutzen zu können?

Des weiteren, habe ich leider noch immer die Fragen, wie ich aus meinem fertigen Projekt, ein ausführbares Programm unter Windows machen kann. Wäre mir jetzt egal, ob ich die ganzen Runtimes von Python, mit installieren müßte. Es sollte einfach nur ein Installer sein, in dem mein Programm, dann auch schon mit drin wäre. Kann ich die wxwidgets einfach mit installieren?

Stelle mir das so vor, nehme die komplette Umgebung ( habe etwas im Netz gefunden, das sich stand alone Python nennt ), mein Programm in ein Unterverzeichnis+wxwidgets und machen nen Installer draus. Ist das möglich?

[Leonidas]

Wäre es also möglich, auch den HTM Parser von wxwidgets nutzen zu können?

Sofern wxPython den wrappt schon - ansonsten müsstest du den Wrapper selbst schreiben. Halte aber beides für wenig sinnvoll, weil Python doch schon Parser hat.

Stelle mir das so vor, nehme die komplette Umgebung ( habe etwas im Netz gefunden, das sich stand alone Python nennt ), mein Programm in ein Unterverzeichnis+wxwidgets und machen nen Installer draus. Ist das möglich?

Ja. Das ist so ähnlich wie pylite.

[The Hit-Man]

Das mit pylite hat super geklappt, alle Module laufen sogar damit Jetzt noch mal ne kleine Frage. Da man ja erst die Python Applikation mit pythonw, verbinden muß. Gibt es so was ähnliches, wie nen Launcher, der das Python Programm startet? Wie ungefähr bei Java? Oder kann man mit dem NSIS, nen Installer schreiben, der ne Verknüpfung auf das pythonw macht?
Oder wäre es OK, wenn man das Hauptprogramm in C++ schreibt und dann nur auf Sachen von Python zugreift, die ich mit C++ nicht henbekommen würde. Wie zum Beispiel, mechanize und beautiful soup. Denn solche AddOns habe ich für C++ leider nicht gefunden
Also das ich unter C++ nur die GUI mit wxWidgets mache, und die Programmlogik, Python überlasse? Wird so etwas gemacht?

[Leonidas]

Das mit pylite hat super geklappt, alle Module laufen sogar damit Jetzt noch mal ne kleine Frage. Da man ja erst die Python Applikation mit pythonw, verbinden muß. Gibt es so was ähnliches, wie nen Launcher, der das Python Programm startet? Wie ungefähr bei Java? Oder kann man mit dem NSIS, nen Installer schreiben, der ne Verknüpfung auf das pythonw macht?

Naja, du kannst durchaus mit pyw-Dateien mit pythonw verknüpfen. Dazu brauchst du nicht einmal NSIS, das kannst du von Python aus mit ``_winreg`` machen.

Oder wäre es OK, wenn man das Hauptprogramm in C++ schreibt und dann nur auf Sachen von Python zugreift, die ich mit C++ nicht henbekommen würde. Wie zum Beispiel, mechanize und beautiful soup. Denn solche AddOns habe ich für C++ leider nicht gefunden
Also das ich unter C++ nur die GUI mit wxWidgets mache, und die Programmlogik, Python überlasse? Wird so etwas gemacht?

Welchen Vorteil, außer zusätzlichen Schmerz und Memory Leaks hat das gegenüber dem Schreiben des ganzen Programms in Python?

[The Hit-Man]

nen Launcher wäre nicht schlecht. Habe mir mal eben einen zusammengetickert. Ist ja nur ein C++ Befehl . Und auch nur für Windows. Für Linux braucht man ja keinen.