Hallo Forum,
ich stehe ganz am Anfang, lerne gerade die Basics von Python.
Warum gibt mir 18446744073709551615 / 3 einen falschen Wert aus, wo doch die einzige Grenze mein (RAM - Win) sei?
Der Win-Taschenrechner gibt 6.148.914.691.236.517.205, Python jedoch 6148914691236516864.
long() gibt es nicht mehr.
Danke schon Mal
18446744073709551615 / 3
Das nennt sich Rechenungenauigkeit. Die Grenze bei Fließkommazahlen sind ungefähr 15 Dezimalstellen, Deine Zahl hat aber 20. Also werden die letzten 5 Ziffern nicht exakt gespeichert.
Was Du meinst ist Ganzzahlberechnung:
Dort hat mal beliebig viele Stellen, aber halt keine hinter dem Komma.
Was Du meinst ist Ganzzahlberechnung:
Code: Alles auswählen
18446744073709551615 // 3-
__blackjack__
- User
- Beiträge: 14330
- Registriert: Samstag 2. Juni 2018, 10:21
- Wohnort: 127.0.0.1
- Kontaktdaten:
Also bei mir wird das Ergebnis als 6.148914691236517e+18 dargestellt, es wäre also auch interessant bei so etwas zu zeigen was genau gemacht wurde.
„Debugging is twice as hard as writing the code in the first place. Therefore, if you write the code as cleverly as possible, you are, by definition, not smart enough to debug it.“ — Brian W. Kernighan
-
pommesMajo
- User
- Beiträge: 2
- Registriert: Dienstag 19. April 2022, 09:16
ganz am AnfangDanke!!!
