Seite 1 von 1
Dezimalstellen genau ausgeben
Verfasst: Samstag 3. September 2011, 17:46
von Newcomer
also ich hab da mal ne Frage:
bei
74/8972837489323
kommt
8.247112475630415e-12 raus
ich will aber, dass der das ganz genau ausgibt also hab ich gegoogelt:
format(74/8972837489323,".200f")
klappt ganz gut, ich will aber, dass es mir alles genau bis auf den punkt ausgibt(:
Wie könnte ich das machen
danke im voraus
Re: Dezimalstellen genau ausgeben
Verfasst: Samstag 3. September 2011, 18:39
von cofi
decimal Modul verwenden oder alles nur nicht FP-Arithmetik. FP-Arithmetik ist schlichtweg nicht genau.
Re: Dezimalstellen genau ausgeben
Verfasst: Samstag 3. September 2011, 20:32
von Newcomer
Ahh danke, aber wie bekomm ich das jetzt hin mit Dezimal ?
Re: Dezimalstellen genau ausgeben
Verfasst: Samstag 3. September 2011, 20:36
von cofi
Code: Alles auswählen
In [2]: import decimal
In [3]: decimal.Decimal(74) / decimal.Decimal(8972837489323)
Out[3]: Decimal('8.247112475630414559753916891E-12')
Re: Dezimalstellen genau ausgeben
Verfasst: Samstag 3. September 2011, 20:45
von Newcomer
ja schon danke, aber ich will,dass er mir das dann in etwa so ausgibt:
0.0000000000000000000000000000000000002370256825304...
und nicht mit potenzen (:
danke
Re: Dezimalstellen genau ausgeben
Verfasst: Sonntag 4. September 2011, 10:15
von Gregorrr
Ist das decimal Modul eigentlich das gleiche wie BigNum in Java?
Re: Dezimalstellen genau ausgeben
Verfasst: Sonntag 4. September 2011, 10:17
von Newcomer
Danke cofi habs jetzt geschafft (-;
Re: Dezimalstellen genau ausgeben
Verfasst: Sonntag 4. September 2011, 12:12
von cofi
Gregorrr hat geschrieben:Ist das decimal Modul eigentlich das gleiche wie BigNum in Java?
Meine Java-Api-Docs kennt kein BigNum, dafuer aber BigDecimal und hier geht es zumindest um dasselbe Konzept: Beliebig genaue reelle Zahlen.
@Newcomer: Vllt solltest du noch das Snippet hinschreiben, falls nochmal jemand danach sucht?
Re: Dezimalstellen genau ausgeben
Verfasst: Sonntag 4. September 2011, 15:30
von Gregorrr
cofi hat geschrieben:Gregorrr hat geschrieben:Ist das decimal Modul eigentlich das gleiche wie BigNum in Java?
Meine Java-Api-Docs kennt kein BigNum, dafuer aber BigDecimal und hier geht es zumindest um dasselbe Konzept: Beliebig genaue reelle Zahlen.
@Newcomer: Vllt solltest du noch das Snippet hinschreiben, falls nochmal jemand danach sucht?
Ohja, ich meinte eigentlich auch BigDecimal, sorry. Danke.