Ruby-float-Präzision

Wie ich es verstehe, Ruby (1.9.2) Schwimmer haben eine Genauigkeit von 15 Dezimalstellen. Daher würde ich erwarten, dass die Rundung float x zu 15 Dezimalstellen würde gleich x. Für diese Berechnung ist dies nicht der Fall.

x = (0.33 * 10)
x == x.round(15) # => false

Übrigens, Rundung auf 16 stellen den Wert true zurück.

Können Sie bitte erklären mir das an?

  • Aller Wahrscheinlichkeit nach, Ihre Sprache verwendet IEEE 754 double-precision-floating-point-zahlen intern. Die "15 Dezimalstellen" ist nur eine Annäherung, da floating-point-zahlen sind tatsächlich dargestellt in der Basis 2, nicht 10.
  • float-zahlen sind so schweben 🙂
  • Eine Frage zu floating-Genauigkeit, die ich nicht schließen wollen-hammer! +1.000000000001!
  • Ich Frage mich, warum können Sie == Fließkomma-zahlen, es ist eine Falle.
InformationsquelleAutor | 2011-09-05
  1. 9

    Teil des Problems ist, dass bei 0,33 nicht eine genaue Darstellung der zugrunde liegenden format, weil es nicht ausgedrückt werden kann durch eine Reihe von 1 /2n Bedingungen. Also, wenn es ist, multipliziert mit 10 eine Zahl, die etwas anders als 0.33 wird multipliziert.

    Für diese Angelegenheit, 3.3 nicht eine genaue Darstellung entweder.

    Teil Einer

    Wenn die zahlen nicht exakt Basis-10-Darstellung, dort wird der Rest bei der Umwandlung der am wenigsten signifikante Ziffer, für die es Informationen in der Mantisse. Dieser Rest wird sich ausbreiten auf der rechten Seite, vielleicht auch für immer, aber es ist weitgehend sinnlos. Die scheinbare Zufälligkeit dieser Fehler ist wegen dem gleichen Grund, der erklärt, das scheinbar inkonsistente Rundung Sie und Matchu bemerkt. Das ist in Teil zwei.

    Teil Zwei

    Und diese information (ganz rechts bits) ist nicht ordentlich ausgerichtet mit der information, vermittelt durch eine einzelne Ziffer ist, also die Nachkommastelle wird in der Regel etwas kleiner als der Wert gewesen wäre, wenn die ursprüngliche Präzision hatte, wurde größer.

    Dies ist der Grund, warum eine Umwandlung könnte die Runde 1 an 15-stellig und 0.x 16-stellig: da eine längere Konvertierung hat keinen Wert für die bits rechts vom Ende der Mantisse.

    • Vielen Dank für Ihre Hilfe so weit. Ich bekomme die Allgemeine Vorstellung, aber ich bin immer noch versuchen, es zu beweisen mich. Wenn Ruby nur hält ca 15 signifikanten stellen warum sprintf("%.50f",1.1) print non-Nullen nach der 15ten Nachkommastelle? Wo sind diese Werte her?
    • +1 Juhu, jemand kennt die details! Die Tatsache, dass Ruby ist bereit zu zeigen, andere Dezimalstellen, wenn gezwungen, in die es scheint, um anzugeben, dass es einige Runden in to_s und, in der Tat, hält andere info über das hinaus, was es zeigt standardmäßig.
    • George ... die Art wie die Konvertierung funktioniert, ist, dass der Wert geteilt wird und dann der Rest wird umgewandelt für die Ziffern weiter rechts. Also, wenn dies zufällig auf null geht, kann die Konvertierung Erzeugung von nicht-null-Ziffern, die für einige Zeit nach dem Auslaufen der Mantisse bits. Es kann ewig so weitergehen für die Wiederholung von Quotienten. Ich vermuten Sie, dass jemand kommen könnte mit einem Algorithmus Auslaufen zu null bewusst, aber beachten Sie, dass die so umgewandelten zahlen werden weiter von der "realen" Zahl als diejenigen, die mit den nachlaufenden Rest-bits. Es ist am besten, nur nicht zu konvertieren, die zusätzlichen Ziffern in den ersten Platz.
    • Ich sollte auch hinzufügen, dass dieses problem tritt auch für irrationale zahlen und zahlen, haben tatsächlich mehr Präzision als die Mantisse angeben können.
    • Danke, ich bekomme es jetzt. Ich entschied mich zu sehen, was C# nicht; es weigert sich zu zeigen, mehr als 17 Dezimalstellen, auch wenn Sie aufgefordert werden, 50. 1.1 es zeigt nur 16 Nachkommastellen. (1.1 D).ToString("G50").Länge == 18
    InformationsquelleAutor DigitalRoss
  2. 2

    Gut, obwohl ich nicht sicher bin, auf die details, wie Ruby Griffe schwimmt intern, glaube ich zu wissen, warum dieses bestimmte bit der code ist fehlerhaft auf meine box:

     > x = (0.33 * 10)
=> 3.3000000000000003
 > x.round(15)
=> 3.300000000000001

    Der erste Schwimmer hält 16 Dezimalstellen für insgesamt 17 Ziffern, die, aus welchem Grund auch immer. So, Rundung auf 15 verwirft diese stellen.

    • Warum 3.3000000000000003.Runde(15) == 3.300000000000001 und nicht 3.3? Ist das nur auf binäre Darstellung und floating-point-Rundungsfehler?
    • Ja, in der Tat, es ist bis auf die Binärdarstellung von 0,1 (oder ein Vielfaches davon) nicht als eine endliche Reihe von 1 / 2^n Bedingungen.
    InformationsquelleAutor Matchu
Schreibe einen Kommentar