Tag: floating-point-precision
Alles, was mit der Präzision einer Gleitkommazahl-Darstellung. Der Begriff Genauigkeit bezieht sich auf die Anzahl der signifikanten stellen einer Darstellung enthalten sein können. Dies ist NICHT das gleiche wie die „Genauigkeit“, das sich Fehler in den Berechnungen verwendet werden, obwohl es vielleicht manchmal Verwandte.
Formatierung von Fließkomma-Zahl in der java-bis zu 3 Dezimalstellen Präzision
4 Antworten
Habe ich eine variable Typ float.Ich wollte drucken, die es bis zu 3 Genauigkeit der Dezimalstellen einschließlich Nullen. Beispiel : 2.5 >> 2.500 1.2 >> 1.200 1.3782 >> 1.378 2 >> 2.000 Ich versuche es mit DecimalFormat
Wie bekomme ich Python zum anzeigen von mehr als 50 Dezimalstellen?
2 Antworten
Ich geschrieben habe, dieses Programm zu berechnen pi. Es gibt mir 50 Dezimalstellen. Wie bekomme ich mehr Präzision? # pi.py - arctan(1) * 4 = pi from math import * from decimal import * err = 0.0000000000000001
Temperatur-Konvertierung für python
3 Antworten
Ich bin dabei ein kostenloses online-Python-Tutorials, die will mich zu: Erstellen einer Temperatur converter, die konvertieren Fahrenheit-Werte Celsius und Umgekehrt mit Hilfe der folgenden beiden Formeln, welche sich die Temperatur f in Grad Fahrenheit die Temperatur c
Wie java speichert float v double
4 Antworten
Erkenne ich eine Dezimalzahl kann nur so präzise gespeichert, wie ein Schwimmer in einem binären system, aber was ich nicht verstehe ist, was an den 7 Dezimalstelle in meiner Ausgabe von 10/7. In meinem ersten Ausgabe zu
Was wäre die kleinste positive Wert eines IEEE-24-bit-float werden?
1 Antworten
Die kleinste positive Wert eines IEEE-754 32-bit float ist 2^−149 und das von einem 16-bit-float ist 2^-14. , Wenn der IEEE-754 standardisierten 24-bit-float", was wäre die kleinste positive Wert sein? Entschuldigen Sie mich, wenn dies ausdrücklich irgendwo
epsilon für verschiedene float-Werte
1 Antworten
Es ist FLT_MIN Konstante nahe null ist. Wie man am nächsten some number Wert? Als Beispiel: float nearest_to_1000 = 1000.0f + epsilon; //epsilon must be the smallest value satisfying condition: //nearest_to_1000 > 1000.0f Ich würde es vorziehen,
Griff von Dezimalzahlen in mysqli
1 Antworten
Ich die Preise für einige Einträge in einer mysql-Tabelle. Beim erstellen der Tabelle bin ich mit DECIMAL(10,2) wie ich brauchen nicht mehr als 2 Ziffern nach dem Komma (z.B.: 123,45 akzeptiert werden würde als ein Eingang aber
Wie zu vermeiden, floating-point-Fehler?
1 Antworten
War ich zu schreiben versucht, eine Funktion zu approximieren, die Quadrat-Wurzeln (ich weiß, es gibt die Mathematik-Modul...ich will es selbst zu tun), und ich war immer über geschraubt durch die floating point Arithmetik. Wie kann man das
Warum macht MySQL Runde schwimmt Weg, mehr als erwartet?
2 Antworten
UPDATE some_table SET some_float_field=1919.987 WHERE id=123 SELECT * FROM some_table WHERE id=123 wo some_float_field ein Feld ist definiert als "float" (ohne bestimmten Werten für die Größe). Den erwarteten Ergebniswert wäre 1919.987; stattdessen ist es abgerundet, um 1919.99
PostgreSQL: was ist der Unterschied zwischen float(1) und float(24)?
1 Antworten
Ich habe eine harte Zeit-Verständnis der parameter precision p für float(p) in PostgreSQL. Zum Beispiel float(1) und float(24) scheinen genau das gleiche zu mir. Kann jemand mir einige Beispiele Ihrer Unterschiede, bitte? InformationsquelleAutor Xin | 2013-06-03
Wie Sie angeben, Gleitkomma Nachkommastellen aus variable?
3 Antworten
Habe ich folgende sich wiederholende einfachen code, der mehrmals wiederholt, dass ich möchte, um eine Funktion für: for i in range(10): id = "some id string looked up in dict" val = 63.4568900932840928 # some floating point
Objective-C Float / Double-precision
1 Antworten
Ich war Herumspielen mit der Speicherung floats und doubles mit NSUserDefaults für den Einsatz in einer iPhone-Anwendung, und ich stieß auf einige Ungereimtheiten, wie die Genauigkeit arbeitet mit Ihnen und wie ich es verstanden habe funktioniert. Dies
In Java, wenn eine Gleitkommazahl ist gleich null?
3 Antworten
Für welche Werte von x macht den test (x == 0) return true? Gibt es irgendeine Art von Rand oder sieht der test true zurück, wenn und nur wenn der Wert von x = 0? Sie fragte,
PostgreSQL: was ist der Unterschied zwischen float(1) und float(24)?
1 Antworten
Ich habe eine harte Zeit-Verständnis der parameter precision p für float(p) in PostgreSQL. Zum Beispiel float(1) und float(24) scheinen genau das gleiche zu mir. Kann jemand mir einige Beispiele Ihrer Unterschiede, bitte? InformationsquelleAutor Xin | 2013-06-03
parseDecimal in JavaScript?
1 Antworten
Ich habe einige JS-Berechnungen geht. Da die Gleitkomma-Arithmetik benutzt oft in der Nähe Näherungen zu zahlen, anstatt genaue Werte, wenn Sie, um diese floating-point-Zahl zu festen Präzision, oft leichte Unterschiede. Wenn Sie den Umgang mit Geld, Menschen
Erhöhung der floating-point-Präzision in Python
4 Antworten
Ich war an einem Projekt arbeiten, um zu berechnen, Leibniz-Näherung für pi mit dem folgenden code: def pi(precision): sign = True ret = 0 for i in range(1,precision+1): odd = 2 * i - 1 if sign:
Java float genauer als das doppelte?
3 Antworten
Code: class Main { public static void main (String args) { System.out.print("float: "); System.out.println(1.35f-0.00026f); System.out.print("double: "); System.out.println(1.35-0.00026); } } Ausgabe: float: 1.34974 double: 1.3497400000000002 ??? Schwimmer bekam die richtige Antwort, aber doppelt ist das hinzufügen von zusätzlichen
C++ - Wie Sie vermeiden, floating-point-Arithmetik-Fehler
6 Antworten
Ich Schreibe eine Schleife, die-Schritten mit einem Schwimmer, aber ich bin gekommen, über eine floating-point-Arithmetik-Problem im folgenden Beispiel dargestellt: for(float value = -2.0; value <= 2.0; value += 0.2) std::cout << value << std::endl; Hier ist die
python konvertieren einer Liste von float zu string
3 Antworten
Habe ich eine Liste, der Schwimmer in Python und wenn ich es konvertieren in einen string, bekomme ich die folgende [1883.95, 1878.3299999999999, 1869.4300000000001, 1863.4000000000001] Diese Bojen haben 2 Ziffern nach dem Dezimalzeichen fest, wenn ich Sie erstellt
Risiko der Verwendung von float-Variablen als Schleifenzähler und Ihre Bruch-Inkrement/Dekrement für nicht "= = " - Bedingungen?
4 Antworten
Sind wir sicher zu verwenden schwebt als loop-Schalter und zum erhöhen/verringern Sie durch Spitzenbeträge, die sich bei jeder iteration,wie in den scheinbar Risiko-frei Programm unter?Natürlich weiß ich, dass mit Schwimmern als Operanden für die == Betreiber ist
Kann ich angeben, ein numpy dtype beim generieren von zufälligen Werten?
3 Antworten
Ich bin erstellen einer numpy array mit zufälligen Werten und hinzufügen zu einem bestehenden array mit 32-bit floats. Ich möchte zum erzeugen der random-Werte mit dem gleichen dtype als Ziel-array, so dass ich nicht zu konvertieren, die
Wie zu verwenden Gcc 4.6.0 libquadmath-und __float128 auf x86-und x86_64
1 Antworten
Ich habe die mittlere Größe C99-Programm, das verwendet long double Typ (80bit) für die floating-point-Berechnung. Ich möchte verbessern die Präzision mit der neuen GCC-4.6 Erweiterung __float128. Wie ich bekomme, es ist eine software-emulierte 128-bit-Präzisions-math. Wie sollte ich
Warum die Konvertierung von float zu double, ändert sich der Wert?
9 Antworten
Ich habe versucht, den Grund herauszufinden, aber ich konnte nicht. Kann mir keiner helfen? Blick auf das folgende Beispiel. float f; f = 125.32f; System.out.println("value of f = " + f); double d = (double) 125.32f; System.out.println("value
Korrekte Verwendung von std::cout.Präzision ( - ) - drucken nicht nachgestellte Nullen
3 Antworten
Ich sehe viele Fragen über die Genauigkeit Zahl für floating-point-zahlen, aber speziell möchte ich wissen, warum dieser code #include <iostream> #include <stdlib.h> int main() { int a = 5; int b = 10; std::cout.precision(4); std::cout << (float)a/(float)b
Wie kann man einen CGFloat sicher in den Boden stellen?
3 Antworten
Brauche ich oft bis zum Boden oder ceil eine CGFloat zu einem intfür die Berechnung des array-index. Das problem, das ich dauerhaft sehen mit floorf(theCGFloat) oder ceilf(theCGFloat) ist, dass es Probleme mit floating-point-Ungenauigkeiten. Also was ist, wenn
Warum sind Fließkommazahlen ungenau?
4 Antworten
Warum haben manche Nummern verlieren an Genauigkeit, wenn gespeichert als floating-point-zahlen? Beispielsweise die dezimale Zahl 9.2 exakt dargestellt werden können als ein Verhältnis von zwei dezimale Ganzzahlen (92/10), die beide exakt dargestellt werden können im Binär -
Was ist das C ++ - Suffix für lange doppelte Literale?
3 Antworten
In C++ (und C), eine floating-point-literal ohne suffix ist standardmäßig doublewährend das suffix f impliziert eine float. Aber was ist der suffix zu bekommen long double? Ohne zu wissen würde ich definieren, sagen, const long double x
Legen Sie die spezifische Genauigkeit eines BigDecimal fest
4 Antworten
Ich habe eine XSDdie erfordert, dass Sie mich eine BigDecimal für ein lat/lon. Momentan habe ich die lat/lon als verdoppelt, und konvertieren Sie Sie in BigDecimal, aber ich bin nur benötigt, um rund 12 stellen Genauigkeit. Ich
Printf width specifier, um die Genauigkeit des Gleitkommawerts beizubehalten
6 Antworten
Gibt es eine printf Breite Bezeichner, die angewendet werden können, um eine floating-point-Bezeichner, der automatisch formatieren Sie die Ausgabe, um die notwendige Anzahl von signifikante Ziffernso dass beim Scannen der string wieder in die ursprüngliche floating-point-Wert ermittelt?
Ist parseDouble in JavaScript vorhanden?
1 Antworten
In JavaScript, ich habe eine Zahl, die 21 Ziffern, und ich möchte zu analysieren. Macht einen parseDouble-Methode existieren in JavaScript? InformationsquelleAutor der Frage Priyesh Shah | 2014-01-22