Verarbeiten einer Datei mit Python3 und Bottle

Django, Flask, Bottle, WSGI, CGI…
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Sonntag 5. Februar 2017, 12:14

Vielen Dank euch beiden für die Antworten. Ja Sirius3, du hattest recht. Mit einem frischen Blick auf die Dinge habe ich es doch geschafft. Auch habe ich die Anmerkungen von BlackJack berücksichtigt, danke dafür nochmal.
"If ext not in" damit Überprüfe ich zumindest vom Dateinamen das Format der Datei und lasse nicht zu, dass außer fastq-Dateien Dateien hochgeladen werden. Stimmt das nicht?
Den selbstgebastelten new_key behalte ich fürs erste (kann man ja später noch rel. einfach abändern).
Ich habe es sogar schon geschafft eine beispielhafte Plotgrafik einzubinden. Somit stehen mir hoffentlich keine allzu großen Hürden im Weg. :D Ich werde mich nun der Ausarbeitung des eigentlichen Inhalts zuwenden.
Ich muss es einfach nochmal loswerden: Dieses Forum ist absolut spitze und die Helfer einfach fantastisch. Ich fand die schrittweise Heranführung an die Lösung sehr amüsant und vor allem äußerst hilfreich. An dieser Stelle ein großes Lob und Dankeschön für eure Geduld.

P.S.
Sirius3 hat geschrieben: Normalerweise hat man nur eine Route zu den statischen Dateien und nicht eine pro Dateityp.
Anders habe ich es leider nicht hinbekommen. Ich war schon glücklich, dass es so funktioniert hat ^^ .

Hier nochmal der verbesserte Code:

Code: Alles auswählen

@route('/upload', method='POST')
def do_upload():
    new_key=''.join(random.choice(string.ascii_uppercase + string.digits) for _ in range(8))
    upload = request.files.get('upload')
    name, ext = os.path.splitext(upload.filename)
    if ext not in ('.fastq'):
        return 'File extension not allowed.'

    save_path = '/tmp/fastq_prog'
    if not os.path.exists(save_path):
        os.makedirs(save_path)

    file_path = "{path}/{file}".format(path=save_path, file=new_key)
    upload.save(file_path, overwrite=True)

    return template('upload', new_key=new_key)

@route('/analyse', method='POST')
def analyse():
    key = request.forms.get('new_key')

    filename = open(os.path.join('/tmp/fastq_prog/',key), 'r')
    count = 0
    for rec in SeqIO.parse(filename, 'fastq'):
        count += 1
#plot 1
    plt.ioff() # turn of interactive plotting mode
    x = [1,2,3]
    y = [5,7,4]

    x2 = [1,2,3]
    y2 = [14,10,12]

    plt.plot(x,y, label='first Line')
    plt.plot(x2,y2, label='second Line')
    plt.xlabel('Plot Number')
    plt.ylabel('Important var')
    plt.legend()

    plt.title('Interesting Graph\nSubtitle')


    plt.savefig('static/sonstige-bilder/plot1.png', bbox_inches='tight')


    return template('result1', count=count)

Code: Alles auswählen

<form action="/analyse" method="post" enctype="multipart/form-data">
         <input type='hidden' name='new_key' value='{{new_key}}'/>
      <p><input value='Analyse' type="submit" name='analyse' /></p>
         </form>
Sirius3
User
Beiträge: 5925
Registriert: Sonntag 21. Oktober 2012, 17:20

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Sirius3 » Sonntag 5. Februar 2017, 13:31

@Mars_ars: Du hast das mit der Static Route nicht einfach hinbekommen und hast es deshalb kompliziert gemacht? Blind irgendwelche „Lösungen“ von StackOverflow abzuschreiben ist so, wie wenn man Geschäftsbriefe von Google-Translate übersetzen läßt. »ext not in ".fastq"« läßt Dateien ohne Endung und mit den Endungen ., .f, .fa, .fas, .fast, und .fastq zu. Wenn ein Fehler auftritt, solltest Du »abort« benutzen und nicht einfach nur einen String zurückschicken. Auch in upload solltest Du os.path.join benutzen. Konstanten, wie hier '/tmp/fastq_prog' sollten nicht mehrmals im Programm auftauchen. Dateiobjekte sollten nicht filename heißen und auch wieder geschlossen werden, am einfachsten mit Hilfe des with-Statements. Nutzereingaben sollte man nicht blind übernehmen, vor allem nicht, wenn man damit Systemfunktionen aufruft. Dynamische Daten sollten nicht nach /static geschrieben werden.

  1. import os
  2. import uuid
  3. from bottle import route, template, static_file, request
  4.  
  5. STATIC_ROOT = os.path.join(os.path.dirname(os.path.abspath(__file__)), 'static')
  6. UPLOAD_PATH = '/tmp/fastq_prog'
  7.  
  8. @route('/')
  9. def index():
  10.     return template('main_template')
  11.  
  12. @route('/static/<filepath:path>')
  13. def server_static(filepath):
  14.     return static_file(filepath, root=STATIC_ROOT)
  15.  
  16. @route('/analyse/<filepath:path>')
  17. def server_analyse(filepath):
  18.     return static_file(filepath, root=UPLOAD_PATH)
  19.  
  20. @route('/upload', method='POST')
  21. def do_upload():
  22.     new_key = str(uuid.uuid1())
  23.     upload = request.files.get('upload')
  24.     name, ext = os.path.splitext(upload.filename)
  25.     if ext != '.fastq':
  26.         abort(400, 'File extension not allowed.')
  27.  
  28.     if not os.path.exists(UPLOAD_PATH):
  29.         os.makedirs(UPLOAD_PATH)
  30.  
  31.     filename = os.path.join(UPLOAD_PATH, new_key + '.fastq')
  32.     upload.save(file_path, overwrite=True)
  33.     return template('upload', new_key=new_key)
  34.  
  35. @route('/analyse', method='POST')
  36. def analyse():
  37.     key = request.forms.get('new_key')
  38.     try:
  39.         # check for valid ID
  40.         uuid.UUID(key)
  41.     except ValueError:
  42.         abort(400, 'Invalid key.')
  43.     filename = os.path.join(UPLOAD_PATH, key) + '.fastq'
  44.     with open(filename):
  45.         count = 0
  46.         for rec in SeqIO.parse(filename, 'fastq'):
  47.             count += 1
  48.  
  49.     os.mkdir(os.path.join(UPLOAD_PATH, key))
  50.  
  51.     x = [1,2,3]
  52.     y = [5,7,4]
  53.     x2 = [1,2,3]
  54.     y2 = [14,10,12]
  55.     plt.plot(x,y, label='first Line')
  56.     plt.plot(x2,y2, label='second Line')
  57.     plt.xlabel('Plot Number')
  58.     plt.ylabel('Important var')
  59.     plt.legend()
  60.     plt.title('Interesting Graph\nSubtitle')
  61.  
  62.     imagefilename = os.path.join(UPLOAD_PATH, key, 'plot1.png')
  63.     plt.savefig(imagefilename, bbox_inches='tight')
  64.     return template('result', count=count, image='/analyse/{}/plot1.png'.format(key))
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Montag 6. Februar 2017, 19:01

@Sirius3 Vielen herzlichen Dank! Das hatte ich nun wirklich nicht erwartet. :D Es ist fantastisch von einem Profi zu lernen. Ich werde versuchen deine Kritikpunkte auch weiterhin zu beachten.
Herzliche Grüße
Mars_ars
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Dienstag 7. Februar 2017, 16:38

@Sirius3 ich habe leider damit ein Problem aus deinem Code:
  1. try:
  2. # check for valid ID
  3.     uuid.UUID(key)
  4. except ValueError:
  5.     abort(400, 'Invalid key.')

Einerseits kommt ein ValueError, weil 'abort' nicht definiert ist (Das allererste abort habe ich durch return ersetzt und ein Fehlertemplate erstellt.). Andererseits, wenn ich 'abort' durch 'return 'Invalid key' ersetze, bekomme ich immer diesen Fehler. Anscheinend klappt die Überprüfung nicht. Ich konnte auch nichts passendes dazu finden außer https://docs.python.org/3.5/library/uuid.html. Hast du einen Tipp für mich?
Gruß
Mars_ars
Zuletzt geändert von BlackJack am Dienstag 7. Februar 2017, 16:57, insgesamt 1-mal geändert.
Grund: Quelltext in Python-Codebox-Tags gesetzt.
Sirius3
User
Beiträge: 5925
Registriert: Sonntag 21. Oktober 2012, 17:20

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Sirius3 » Dienstag 7. Februar 2017, 17:04

@Mars_ars: beim Aufräumen der Importe ist das abort verloren gegangen:
  1. from bottle import route, template, static_file, request, abort
Benutzeravatar
BlackJack
Moderator
Beiträge: 32452
Registriert: Dienstag 25. Januar 2005, 23:29
Wohnort: Berlin
Kontaktdaten:

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon BlackJack » Dienstag 7. Februar 2017, 17:10

@Mars_ars: Wenn der `ValueError` immer kommt, dann geht irgendwo auf dem Weg der Schlüssel kaputt, denn das sollte funktionieren:
  1. In [7]: u = uuid.uuid1()
  2.  
  3. In [8]: str(u)
  4. Out[8]: '9477da1c-ed4f-11e6-a1cf-901b0e8d499b'
  5.  
  6. In [9]: uuid.UUID(str(u))
  7. Out[9]: UUID('9477da1c-ed4f-11e6-a1cf-901b0e8d499b')
  8.  
  9. In [10]: uuid.UUID(str(u) + 'z')
  10. ---------------------------------------------------------------------------
  11. ValueError                                Traceback (most recent call last)
  12. <ipython-input-10-ec471a35591a> in <module>()
  13. ----> 1 uuid.UUID(str(u) + 'z')
  14.  
  15. /usr/lib/python2.7/uuid.pyc in __init__(self, hex, bytes, bytes_le, fields, int, version)
  16.     134             hex = hex.strip('{}').replace('-', '')
  17.     135             if len(hex) != 32:
  18. --> 136                 raise ValueError('badly formed hexadecimal UUID string')
  19.     137             int = long(hex, 16)
  20.     138         if bytes_le is not None:
  21.  
  22. ValueError: badly formed hexadecimal UUID string
“There are only two industries that refer to their customers as users.” — Edward Tufte
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Dienstag 7. Februar 2017, 17:41

Herzlichen Dank, beides hat weitergeholfen :D
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Mittwoch 15. Februar 2017, 15:43

Hallo liebe Community,
ich bin nun mit dem Projekt größtenteils bzw. ganz fertig und habe heute an den Rechnern der Uni einen merkwürdigen bug entdeckt, der bei mir bisher nicht vorkam:
der User lädt eine Datei hoch, kann diese Bearbeiten und am Ende des Prozesses bekommt er eine graphische Auswertung der Datei (matplotlib). wenn der Benutzer nun wieder zur Startseite geht und erneut eine Datei hochlädt, werden die Graphen stark zerschoßen angezeigt (z.b. werden jeweils die Werte und die Legenden miteinander verwurschtelt bzw. werden doppelt so lang). Ich habe festgestellt, dass es mit dem Serverneustart zutun hat. Damit alles richtig angezeigt wird, muss der Server mit strg+c neugestartet werden. Irgendwie macht das doch keinen Sinn in der Praxis, da man ja einen Server nicht nach jeder Benutzereingabe neu startet/ starten kann.

Code: Alles auswählen

run(reloader=True)
ist im code drin. was könnte schief gehen?
Benutzeravatar
BlackJack
Moderator
Beiträge: 32452
Registriert: Dienstag 25. Januar 2005, 23:29
Wohnort: Berlin
Kontaktdaten:

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon BlackJack » Mittwoch 15. Februar 2017, 15:53

@Mars_ars: Du operierst da mit *einem* Plot. Du musst für jede Anfrage einen neuen erstellen und nicht auf dem einen globalen operieren.
“There are only two industries that refer to their customers as users.” — Edward Tufte
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Mittwoch 15. Februar 2017, 16:24

Das verstehe ich leider nicht ganz. Der Plot/ die Plots sind doch in einer eigenen Funktion, müssen doch jedesmal die Werte aus der neue hochgeladenen Datei verwenden. Wird etwa nicht für jede Anfrage ein eigener Plot generiert?
Benutzeravatar
BlackJack
Moderator
Beiträge: 32452
Registriert: Dienstag 25. Januar 2005, 23:29
Wohnort: Berlin
Kontaktdaten:

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon BlackJack » Mittwoch 15. Februar 2017, 17:06

@Mars_ars: Nein es wird nicht für jede Anfrage ein neuer Plot generiert. Wo sollte das denn aus welchem Grund auf magische Weise passieren? Der Plot ist kein lokaler Wert in der Funktion. Du rufst da ausschliesslich Funktionen auf denen Du nie irgendwie angibst *auf welchen Plot* die sich eigentlich beziehen. Das ist halt der eine globale den `matplotlib` für diese Funktionen erstellt, die für die interaktive Nutzung gedacht, und da auch praktisch sind.
“There are only two industries that refer to their customers as users.” — Edward Tufte
Sirius3
User
Beiträge: 5925
Registriert: Sonntag 21. Oktober 2012, 17:20

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Sirius3 » Mittwoch 15. Februar 2017, 17:31

@Mars_ars: Du rufst plt.plot auf, das in ein globales Diagramm etwas einzeichnet. Und was da gezeichnet wurde, wird über mehrere Anfragen hinweg auch gespeichert. Was Du brauchst, ist für jede Anfrage eine eigene Figure, in die Du dann z.B. per fig.plot etwas zeichnen kannst.
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Mittwoch 15. Februar 2017, 18:25

ich hatte eigentlich schon davor jedem plot eine Nr. zugewiesen: z.b.

Code: Alles auswählen

plt.figure(1)

nun habe ich

Code: Alles auswählen

fig1=plt.figure()
fig1.plot(x_range, n, label='N %')
und so weiter... quasi überall plt durch fig1 ersetzt :D

doch hat ein Figure-object kein attribut plot.

in dem Tutorial zu matplotlib verwendeten sie einfach nur zahlen. ich hätte nicht erwartet, dass alles so kompliziert ist^^ (http://matplotlib.org/users/pyplot_tutorial.html)

Soll ich vielleicht die Plots nach plt.safig() mit clear() bereinigen?
Benutzeravatar
BlackJack
Moderator
Beiträge: 32452
Registriert: Dienstag 25. Januar 2005, 23:29
Wohnort: Berlin
Kontaktdaten:

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon BlackJack » Mittwoch 15. Februar 2017, 19:00

@Mars_ars: Dann kümmert sich ein globaler „FigureManager“ um die Plots, das heisst die werden wohl nie wieder aus dem Speicher entfernt. Ungünstig für einen Server. Ich würde `pyplot` ganz weg lassen. Das ist ja eigentlich nur dazu da um interaktiv so was ähnliches wie Matlab zu haben. Wo der Benutzer die Funktionen direkt aufruft, oder für kleine Skripte die einfach nur mal einen Plot erstellen und danach beendet sind.

Wenn man etwas lang laufendes hat, sollte man IMHO die normale `matlotlib`-API verwenden. Also sich beispielsweise den `FigureCanvasAgg` aus dem Agg-Backend-Modul holen, damit ein `Figure`-Objekt erstellen, darauf dann einen Subplot, und auf dem kann man dann fröhlich plotten. Die Objekte werden bei jeder Anfrage neu erstellt, und wenn die Funktion wo die an lokale Namen gebunden sind, abgearbeitet ist, dann können die Objekte von Python auch wieder abgeräumt werden.
“There are only two industries that refer to their customers as users.” — Edward Tufte
Mars_ars
User
Beiträge: 16
Registriert: Freitag 3. Februar 2017, 12:09

Re: Verarbeiten einer Datei mit Python3 und Bottle

Beitragvon Mars_ars » Mittwoch 15. Februar 2017, 19:49

Vielen Herzlichen Dank euch beiden. Diesmal insbesondere BlackJack für die sehr ausführliche Antwort.
Da am Freitag schon die Abgabe ist und ich eh sehr viel neues Wissen angeeignet habe (dank euch), ist es nicht zielführend jetzt auf die Schnelle zu versuchen sich krampfartig in das Agg_Backend Modul einzuarbeiten (habe es mir kurz angeschaut und es sieht recht komplex aus). Ich habe das Problem folgendermaßen "lösen" können:

Code: Alles auswählen

plt.figure(1)
        plt.clf()
        und dann den eigentlichen plot


Aus eurer Antwort weiß ich nun, was ich beachten muss, wenn ich mal tatsächlich so etwas auf die Beine stelle. Anscheinend sind solche tiefen Kenntnisse, wie ihr sie versucht zu vermitteln, in dem Einführungsmodul Bioinformatik leider nicht erforderlich. (Die sind schon froh, wenn jeder Depp dem Stoff folgen kann. Soviel zum Pädagogischen^^) Habe mich aber riesig über eure Hilfe zu bottle gefreut, da ich alleine wohl damit gescheitert wäre. Damit habe ich die Mindestanforderungen, die an uns gestellt wurden, fröhlich hinter mir gelassen. Zitat vom Professor: "Mensch, die anderen werden weinen, wenn du denen das vorstellst." :D Ein wunderhübsches und elegantes (selbsterstelltes) Design der Templates war sehr förderlich. :mrgreen:

Liebe Grüße
Mars_ars

Zurück zu „Webframeworks“

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder