Mechanize: robots.txt ignorierbar?
Verfasst: Freitag 8. August 2008, 07:42
Hi!
Ich habe beim Testen eines Skriptes, das ich vor ein paar Wochen geschrieben habe, eine Exception entdeckt, die ich vorher nicht hatte:
Das ganze passiert in der Funktion "login", welche die Userdaten einträgt und dann "submitted". Gibt es eine Möglichkeit, die Anweisungen aus der robots.txt zu ignorieren (auch wenn es nicht die feine Art ist)?
Gruß
Sebastian
Ich habe beim Testen eines Skriptes, das ich vor ein paar Wochen geschrieben habe, eine Exception entdeckt, die ich vorher nicht hatte:
Code: Alles auswählen
mechanize._response.httperror_seek_wrapper: HTTP Error 403: request disallowed by robots.txt
Gruß
Sebastian