Hi Leute,
1.
hier findet ihr eine Seite mit dem bezeichnenden Namen
"What Every Computer Scientist Should Know About Floating Point Arithmetic",
vielleicht hilft euch das ja weiter.
2. Und lieber auf Papier liest, dem hilft vielleicht:
Randal E. Bryant and David R. O'Hallaron,
Computer Systems: A Programmer's Perspective (CS:APP),
Prentice Hall, 2003, ISBN 0-13-034074-X
Zumindest ist das genau das, was wir gerade in Rechnerorganisation durchnemhen.
Danach bestehen dann wirklich keine Fragen mehr.
3. Floating-Point Zahlen sind immer ungenau. Ist ja auch klar, mit einer endlichen Zahl von Bits
kann man auch nur eine endliche Anzahl von Zahlen darstellen.
Was problematisch zu sein scheint ist, dass
ergibt, aber
Die erste Zahl schein die interne genauigkeit zu sein, die zweite die angezeigte. Falls das so ist wie beim
Taschenrechner (da heißt es ja auch 8+2 oder 10+3 Stellen), dann gibt das erste die
berechneten Stellen an, das zweite die signifikanten, d.h. die Stellen, bei der sich Python
einigermaßen sicher ist, sich nicht verrechnet zu haben.
Vielleicht hilft's weiter. Ansonsten klingt mir das jetzt für einen Sonntag eindeutig zu sehr nach Uni
Gruss,
kasimon