Re: Hilfe beim nachvollziehen vom komischen floats Rundungen
Verfasst: Freitag 21. Juni 2024, 11:35
@Sirius3:
immerhin hat Microsoft ein Blog-Artikel geschrieben, dass es in Excel auch zu Problemen kommen kann, wenn sehr große oder sehr kleine Gleitkommazahlen verwendet werden hahah Aber PostGres oder GNU Octave sind schon anders als Excel.
Muss mich da jetzt durchbeissen und mit try & error die Regeln brute-forcen. Zum Glück ist das Verhalten deterministisch und keine Halswender-Tricks sind ersichtlich.. (zum beispiel könnten double floats als Ersatz für bigINT herangezogen werden, um "kostenlos" und huckepack bigINT zu *nutzen*.. Halswender-Trick! -> https://stackoverflow.com/questions/184 ... n-a-double Antwort des Users "RARE Kpop Manifesto". In Python existiert dieses Problem ja fast gar nicht dank der Implemetierung des int(). Habe aber ein kompiliertes C++ Programm, ob das nun bigINT nutzt?? Mit try & error: Tut es nicht. 
Nichts gegen ExcelWenn man die Liste der Links-assoziativen Programme anschaut, dann sind das Excel und Matlab. Beide bekannt für kreative Interpretation von Mathematik.

Das berücksichtige ich auch. Hier ist zum Beispiel meine floor():Es ist gute Praxis, dass wenn etwas schief geht, eine Exception geworfen wird
Code: Alles auswählen
def floor(x):
x = x.real if x.imag == 0 else x.imag # if x < 2**(-1024) while nested, use imag-part
try:
if x - int(x) < 0:
return int(x) - 1
else:
return int(x)
except ValueError: # handle nans
return np.nan
except OverflowError: # handle overflow while nested, x <0 = -inf, x > 0 = +inf
return -np.inf if x < 0 else np.inf
return math.floor(x.real)
Was aber nicht bedeutet, dass "wenn es so gut wie keine Regel ist" es keine Regeln gibt und alles gemacht werden kannWenn die Regeln nicht bekannt sind, dann ist das so gut wie keine Regel.

