Tag: floating-point

Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.

SQL set-floating-point-Präzision

Anzahl der Antworten 2 Antworten
Für eine SQL-int, der konvertiert wird an einem Schwimmer, wie kann ich die Genauigkeit der floating-point-Zahl? Dies ist die Auswahl möchte ich abschneiden, um zwei oder 3 Dezimalstellen: AVG(Cast(e.employee_level as Float))avg_level, Dank! InformationsquelleAutor CodeKingPlusPlus | 2012-06-20

Wie man ein bestimmter Typ-Objekt aus einem Objekt Vector in Java

Anzahl der Antworten 6 Antworten
Habe ich Folgendes Vector und zur Laufzeit möchte ich weitergeben es eine Integer, Character oder Float: public static Vector<Object> interestingValues = new Vector<Object>(); Gleichzeitig möchte ich, um eine Integer, Float oder Character aus, so gibt es zwei

Die Multiplikation von zwei floats nicht geben genaue Ergebnis

Anzahl der Antworten 4 Antworten
Ich versuche multiplizieren von zwei floats wie folgt: float number1 = 321.12; float number2 = 345.34; float rexsult = number1 * number2; Den Ergebnissen, die ich sehen wollen, ist 110895.582, aber wenn ich den code ausführen, es

Wie Berechnen Double + Float-Präzision

Anzahl der Antworten 4 Antworten
Habe ich versucht zu finden, wie die Berechnung der Floating - /Double precision/- Bereich zahlen -3.402823e38 .. 3.402823e38 und -1.79769313486232e308 .. 1.79769313486232e308. Für int32 Sie tun würde 2^32=4294967296/2 erhält man einen Bereich von -2147483648 bis 2147483647. Also,

int() vs float() Eingaben in Python 3 und Ihr nutzen?

Anzahl der Antworten 3 Antworten
Das bezieht sich nicht auf einen bestimmten code von mir, so dass ich hoffe, dies wird nicht trotzen community-standards, Fragen zu stellen. Ich bin immer noch lernen, also bitte lassen Sie mich wissen, wenn diese Art der

Konvertieren von float in string mit Präzision & Anzahl der Nachkommastellen angegeben?

Anzahl der Antworten 5 Antworten
Wie rechnet man einen float in einen string in C++ unter Angabe der Präzision & Anzahl der Nachkommastellen)? Beispiel: 3.14159265359 -> "3.14" warum nicht erstellen eine temp float mit der angegebenen Genauigkeit, die Sie wollen und konvertieren

Floating-point-Formatierungen in printf()

Anzahl der Antworten 4 Antworten
Ich habe ein array von floats, wo die Daten gespeichert sind, mit unterschiedlichen Dezimalstellen, so sind einige 123.40000, 123.45000, 123.45600...jetzt wenn ich drucken möchte, werden diese Werte in den string ohne die 0 am Ende in printf()

Wie stellen Gleitkommazahl in Binärdatei. IEEE

Anzahl der Antworten 2 Antworten
Ähnlich wie dezimal-Binär-zahlen können haben vertreten schwimmt auch. Jetzt lese ich, dass es haben kann, die Schwimmer von der Art 0.5:0.1 , 0.25:0.01 , 0.125:0.001 ... und so weiter. Aber dann, zum Beispiel, wie ist die 0.1(dezimal)

Konvertieren Python-strings in floats explizit mit dem Komma oder der Punkt als Trennzeichen

Anzahl der Antworten 3 Antworten
Wie kann ich explizit sagen, python zu Lesen, eine Dezimalzahl mit Punkt oder Komma als dezimal-Trennzeichen? Ich weiß nicht, die lokalen Einstellungen des PC, wird mein Skript auszuführen, und dies sollte keinen Einfluss auf meine Bewerbung, ich

Wie kann ich die Anzahl Nachkommastellen in der SQL?

Anzahl der Antworten 6 Antworten
Ich habe eine Spalte X, die ist voll von Schwimmern mit decimals stellen im Bereich von 0 (keine Dezimalstellen) bis 6 (maximum). Ich kann zählen auf die Tatsache, dass es keine Schwimmer, die mehr als 6 Dezimalstellen.

Zum ermitteln der max-Genauigkeit für double

Anzahl der Antworten 4 Antworten
Ich versuche zu bestimmen, was die höchste Präzision für eine doppelte ist. In den Kommentaren für die akzeptierte Antwort in diesem link Behalten Präzision, mit double in Java @PeterLawrey Staaten max Präzision in der 15. Wie bestimmen

PostgreSQL: was ist der Unterschied zwischen float(1) und float(24)?

Anzahl der Antworten 1 Antworten
Ich habe eine harte Zeit-Verständnis der parameter precision p für float(p) in PostgreSQL. Zum Beispiel float(1) und float(24) scheinen genau das gleiche zu mir. Kann jemand mir einige Beispiele Ihrer Unterschiede, bitte? InformationsquelleAutor Xin | 2013-06-03

Python, drucken möchten, schweben Sie in genaue format +-00.00

Anzahl der Antworten 3 Antworten
Muss ich formatieren einer float-format +-00.00, versucht die basic-string-Formatierung, kann aber nicht die führenden Zeichen + oder - oder zwei führende 0EN wenn der Wert auf Bruch, alle Zeiger? InformationsquelleAutor fred basset | 2012-01-31

C printf () mit %d und %f

Anzahl der Antworten 4 Antworten
Ich arbeitete an diesem Programm, und ich bemerkte, dass die Verwendung von %f für einen double und %d für die float gibt mir etwas ganz anderes. Niemand weiß, warum dies passiert? int main () { float a

Ändern int-array an float-array in C

Anzahl der Antworten 2 Antworten
Weiß jemand, wie man ein integer-array in ein float-array? Verwenden Sie eine Schleife? ... -1: Zeigen Sie uns, was Sie getan haben, und sagen Sie uns, was Schwierigkeiten, die Sie haben in Ihrem Ansatz? Hi Sorry für

Umwandlung einer Liste von strings(csv), um eine Liste von floats

Anzahl der Antworten 1 Antworten
Ich habe einige Probleme beim konvertieren dieser Liste von strings in eine Liste von Fließkommazahlen. Ich habe versucht, diese beiden Wege und jeder kehrte unterschiedliche Fehler. import csv import math unemp_reader = csv.reader(open('unemp.csv', 'rU')) unemp_lines = list(unemp_reader)

Double, float und long-Erklärung

Anzahl der Antworten 4 Antworten
Ich würde gerne wissen, warum in Java gibt es einen compilation error, indem Sie die folgenden Operationen: double d34324.34; //error float f3342.34; //error Auf der anderen Seite: long L32423424; //works fine double D32432424; //works fine Also grundsätzlich

Division durch null - c-Programmierung

Anzahl der Antworten 3 Antworten
Ich habe eine Frage zu folgenden code: int main { double x = 0; double y = 0/x; if(y==1) {.....} .... .... return 0; } Wenn ich den code auf meinem computer, ich bekomme kein runtime error

Die Bestimmung, wenn ein Schwimmer hat eine gebrochene Teil?

Anzahl der Antworten 5 Antworten
Hier ist das problem: Das Spiel Summen gespielt werden kann von einer beliebigen Anzahl von Menschen. Es beginnt mit einer Gesamtfläche von 100 und jeder Spieler macht eine ganzzahlige Verschiebung zwischen -20 und 20 zu, dass insgesamt.

Formatierung von float in python auch vor dem Dezimaltrennzeichen

Anzahl der Antworten 3 Antworten
Ich bin Formatierung schwimmt Sie wie folgt vor: logFile.write("Loadcase: %6i %2i %4i %2.2f %2.2f %4f + %4f -> " %(i, freq, amp, cutoff, end_time, penalty_inc, stab_inc)) und das Ergebnis ist, wie: Loadcase: 5001 1 50 19.00 20.00

Präzision in C schwimmt

Anzahl der Antworten 4 Antworten
Allgemein sagen wir, dass ein float hat eine Genauigkeit von 6 stellen nach dem Dezimalpunkt. Aber wenn wir speichern eine große Anzahl von um die 10^30 werden wir nicht bekommen, die 6 Ziffern nach dem Dezimalpunkt. So

Verhindern, dass Runden in der Zeichenkette.format(“%.2f", doubleValue) in Java

Anzahl der Antworten 4 Antworten
Wie kann ich verhindern, dass String.format("%.2f", doubleValue); von Abrundung (Runde die Hälfte bis-Algorithmus) und nicht nur mit dem abschneiden von es? z.B. doubleValue = 123.459 nach der Formatierung doubleValue = 123.46 Ich will einfach nur, um Sie

Python-floating-point-precision-format-Bezeichner

Anzahl der Antworten 2 Antworten
Sagen wir, ich habe einige 32-bit-zahlen und einige 64-bit-zahlen: >>> import numpy as np >>> w = np.float32(2.4) >>> x = np.float32(4.555555555555555) >>> y = np.float64(2.4) >>> z = np.float64(4.555555555555555) Kann ich drucken Sie Sie aus mit

Multiplizieren numpy int und float arrays: können Nicht umgewandelt ufunc multiplizieren Ausgabe von "dtype"

Anzahl der Antworten 3 Antworten
Möchte ich vermehren ein int16 array, sondern ein float array mit automatischer Rundung, aber das schlägt fehl : import numpy A = numpy.array([1, 2, 3, 4], dtype=numpy.int16) B = numpy.array([0.5, 2.1, 3, 4], dtype=numpy.float64) A *= B

Warum “dtoa.c" enthalten so viel code?

Anzahl der Antworten 5 Antworten
Ich werde die erste zugeben, dass meine umfassenden Kenntnisse von low-level-Programmierung ist ein bisschen spärlich. Ich verstehe viele der grundlegenden Konzepte, aber ich benutze Sie nicht regelmäßig. Die being said, war ich absolut erstaunt, wie viel code

C++ - Funktion zu finden, der max-Wert in einem array von doubles?

Anzahl der Antworten 1 Antworten
Ich Häufig selbst schreiben max-Wert-Funktionen, die Suche durch eine Reihe von Doppel-ich benutze solche Funktionen zum normalisieren von Daten vor der grafischen Anzeige. Gibt es einen besseren Weg zu finden, der max-Wert oder ein array von doubles?

Konvertieren von float[] byte[] float[] wieder

Anzahl der Antworten 7 Antworten
Also, was ich versuche zu tun ist, erhalten eine float, konvertieren Sie es in byte, senden Sie über das Netzwerk als ein Datagramm Paket und konvertieren Sie es dann zurück, um einen byte am empfangenden terminal. Jetzt

Wie Sie angeben, Gleitkomma Nachkommastellen aus variable?

Anzahl der Antworten 3 Antworten
Habe ich folgende sich wiederholende einfachen code, der mehrmals wiederholt, dass ich möchte, um eine Funktion für: for i in range(10): id = "some id string looked up in dict" val = 63.4568900932840928 # some floating point

Warum funktioniert die Python-hash der Unendlichkeit haben die Ziffern von π?

Anzahl der Antworten 3 Antworten
Den hash der Unendlichkeit in Python hat digits matching pi: >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 Ist das nur Zufall oder ist es gewollt? Nicht sicher, aber meine Vermutung wäre, dass es als

Modulus/Rest-Funktion für nicht-Ganzzahlen

Anzahl der Antworten 1 Antworten
rem gibt diese: Prelude> rem 9 8 1 Wollte ich so etwas wie dieses: Prelude> nonIntRem 9.1 8 1.0999999999999996 Implementiert habe ich es so: nonIntRem x y = x - (y * (fromIntegral $ truncate (x/y))) Meine

Swift-Extrakt eine Int -, Float-oder Double-Wert aus einer Zeichenfolge (Typ-Konvertierung)

Anzahl der Antworten 5 Antworten
Bitte könnten Sie mir hier helfen? Ich brauche, um zu verstehen, wie konvertiert einen String in ein Int, Float oder Double! Dieses problem tritt auf, wenn ich versuche, den Wert aus einem UITextField und brauchen diese Art

Die Konvertierung von float zu double

Anzahl der Antworten 6 Antworten
Wie teuer ist die Umwandlung von einer float zu einem double? Ist es so trivial, wie ein int zu long Konvertierung? EDIT: ich gehe davon aus, dass eine Plattform, wo float 4 bytes und double 8 bytes

TypeError: float erforderlich ist

Anzahl der Antworten 1 Antworten
Nicht post-image, also: a[i]={(-1)^(i+1)*sin(x)*ln(x)}/{i^2*(i+1)!} Aufgabe: Finden müssen a1,a2,...,an. n ist natürlich und es ist gegeben. So, ich habe versucht, dies zu tun: import math a= k=0 p=0 def factorial(n): f=1 for i in range(1,n+1): f=f*i return f

Ist floating point math kaputt?

Anzahl der Antworten 29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in

So erhalten Sie eine Zufallszahl zwischen einem float-Bereich?

Anzahl der Antworten 3 Antworten
randrange(start, stop) nimmt nur integer-Argumente. Also wie kann ich eine zufällige Zahl zwischen zwei float-Werte? InformationsquelleAutor Mantis Toboggan | 2011-05-22

Warum wird einer float-Variablen stop increment bei 16777216 in C#?

Anzahl der Antworten 4 Antworten
float a = 0; while (true) { a++; if (a > 16777216) break; //Will never break... a stops at 16777216 } Kann jemand erklären mir das an, warum ein float-Wert, Stoppt das Inkrementieren bei 16777216 in diesem

Ist floating point math kaputt?

Anzahl der Antworten 29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in

Wie am besten in der Summe viele floating-point-zahlen?

Anzahl der Antworten 5 Antworten
Stellen Sie sich vor Sie haben ein großes array von floating-point-zahlen, aller Arten und Größen. Was ist die richtige Art und Weise zu berechnen, die Summe, mit der die wenigsten Fehler? Zum Beispiel, wenn das array sieht

Ist floating point math kaputt?

Anzahl der Antworten 29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in

Was definiert floating-point-Präzision in python?

Anzahl der Antworten 2 Antworten
Lernte ich von "genau gleich" - operator in Erlang, die vergleicht nicht nur die Werte, aber auch Datentypen von zahlen, und ich war neugierig, wie die Dinge funktionieren in Python und seine Einzelkämpfer "ist gleich" - operator.

Was ist der beste Weg, um zu vergleichen Schwimmer für fast-Gleichheit in Python?

Anzahl der Antworten 14 Antworten
Es ist bekannt, dass der Vergleich von Schwimmern für die Gleichstellung ist ein wenig fummelig aufgrund der Rundung und Genauigkeit Probleme. Zum Beispiel: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Was ist der empfohlene Weg, um mit diesem in Python? Sicherlich gibt es

bytes konvertieren float (php)

Anzahl der Antworten 3 Antworten
Wie kann ich umwandeln von bytes zu float in php? Wie in Java int i = (byte3 & 0xff) << 24 | (byte2 & 0xff) << 16 | (byte1 & 0xff) << 8 | byte0 & 0xff;

Ist floating point math kaputt?

Anzahl der Antworten 29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in

Wie Drucke ich einen double-Wert mit vollständiger Genauigkeit mit cout?

Anzahl der Antworten 11 Antworten
So, ich habe die Antwort auf meine Letzte Frage (ich weiß nicht, warum ich nicht glaube). Ich war drucken ein double mit cout dass gerundeten wenn ich nicht erwartet. Wie kann ich cout drucken double mit voller

Was ist der effektivste Weg für float-und double-Vergleich?

Anzahl der Antworten 27 Antworten
Was wäre die effizienteste Methode zum vergleichen von zwei double oder zwei float Werte? Einfach, dies zu tun ist nicht richtig: bool CompareDoubles1 (double A, double B) { return A == B; } Aber so etwas wie:

Warum ist 24.0000 nicht gleich 24.0000 in MATLAB?

Anzahl der Antworten 6 Antworten
Schreibe ich ein Programm, wo ich brauche, um doppelte Punkte gespeichert, die in einer matrix. Das problem ist, dass, wenn es darum geht zu überprüfen, ob diese Punkte werden in der matrix mit MATLAB kann nicht erkennen,

Ist floating point math kaputt?

Anzahl der Antworten 29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in

Wie behebe ich dieses Perl-code, so dass 1.1 + 2.2 == 3.3?

Anzahl der Antworten 8 Antworten
Wie behebe ich diesen code, so dass 1.1 + 2.2 == 3.3? Was ist eigentlich hier passiert, was dieses Verhalten? Ich bin mir vage vertraut mit der Rundung Probleme und floating point math, aber ich dachte, das

Abschneiden der Schwimmer in Python

Anzahl der Antworten 27 Antworten
Möchte ich entfernen Ziffern von einem Schwimmer haben eine Feste Anzahl von Ziffern nach dem Punkt, wie: 1.923328437452 -> 1.923 Ich ausgeben muss als string an eine andere Funktion, nicht drucken. Will auch ich zu ignorieren, die

Ist floating point math kaputt?

Anzahl der Antworten 29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in