Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
2
Antworten
Für eine SQL-int, der konvertiert wird an einem Schwimmer, wie kann ich die Genauigkeit der floating-point-Zahl? Dies ist die Auswahl möchte ich abschneiden, um zwei oder 3 Dezimalstellen: AVG(Cast(e.employee_level as Float))avg_level, Dank! InformationsquelleAutor CodeKingPlusPlus | 2012-06-20
6
Antworten
Habe ich Folgendes Vector und zur Laufzeit möchte ich weitergeben es eine Integer, Character oder Float: public static Vector<Object> interestingValues = new Vector<Object>(); Gleichzeitig möchte ich, um eine Integer, Float oder Character aus, so gibt es zwei
4
Antworten
Ich versuche multiplizieren von zwei floats wie folgt: float number1 = 321.12; float number2 = 345.34; float rexsult = number1 * number2; Den Ergebnissen, die ich sehen wollen, ist 110895.582, aber wenn ich den code ausführen, es
4
Antworten
Habe ich versucht zu finden, wie die Berechnung der Floating - /Double precision/- Bereich zahlen -3.402823e38 .. 3.402823e38 und -1.79769313486232e308 .. 1.79769313486232e308. Für int32 Sie tun würde 2^32=4294967296/2 erhält man einen Bereich von -2147483648 bis 2147483647. Also,
3
Antworten
Das bezieht sich nicht auf einen bestimmten code von mir, so dass ich hoffe, dies wird nicht trotzen community-standards, Fragen zu stellen. Ich bin immer noch lernen, also bitte lassen Sie mich wissen, wenn diese Art der
5
Antworten
Wie rechnet man einen float in einen string in C++ unter Angabe der Präzision & Anzahl der Nachkommastellen)? Beispiel: 3.14159265359 -> "3.14" warum nicht erstellen eine temp float mit der angegebenen Genauigkeit, die Sie wollen und konvertieren
4
Antworten
Ich habe ein array von floats, wo die Daten gespeichert sind, mit unterschiedlichen Dezimalstellen, so sind einige 123.40000, 123.45000, 123.45600...jetzt wenn ich drucken möchte, werden diese Werte in den string ohne die 0 am Ende in printf()
2
Antworten
Ähnlich wie dezimal-Binär-zahlen können haben vertreten schwimmt auch. Jetzt lese ich, dass es haben kann, die Schwimmer von der Art 0.5:0.1 , 0.25:0.01 , 0.125:0.001 ... und so weiter. Aber dann, zum Beispiel, wie ist die 0.1(dezimal)
3
Antworten
Wie kann ich explizit sagen, python zu Lesen, eine Dezimalzahl mit Punkt oder Komma als dezimal-Trennzeichen? Ich weiß nicht, die lokalen Einstellungen des PC, wird mein Skript auszuführen, und dies sollte keinen Einfluss auf meine Bewerbung, ich
6
Antworten
Ich habe eine Spalte X, die ist voll von Schwimmern mit decimals stellen im Bereich von 0 (keine Dezimalstellen) bis 6 (maximum). Ich kann zählen auf die Tatsache, dass es keine Schwimmer, die mehr als 6 Dezimalstellen.
4
Antworten
Ich versuche zu bestimmen, was die höchste Präzision für eine doppelte ist. In den Kommentaren für die akzeptierte Antwort in diesem link Behalten Präzision, mit double in Java @PeterLawrey Staaten max Präzision in der 15. Wie bestimmen
1
Antworten
Ich habe eine harte Zeit-Verständnis der parameter precision p für float(p) in PostgreSQL. Zum Beispiel float(1) und float(24) scheinen genau das gleiche zu mir. Kann jemand mir einige Beispiele Ihrer Unterschiede, bitte? InformationsquelleAutor Xin | 2013-06-03
3
Antworten
Muss ich formatieren einer float-format +-00.00, versucht die basic-string-Formatierung, kann aber nicht die führenden Zeichen + oder - oder zwei führende 0EN wenn der Wert auf Bruch, alle Zeiger? InformationsquelleAutor fred basset | 2012-01-31
4
Antworten
Ich arbeitete an diesem Programm, und ich bemerkte, dass die Verwendung von %f für einen double und %d für die float gibt mir etwas ganz anderes. Niemand weiß, warum dies passiert? int main () { float a
2
Antworten
Weiß jemand, wie man ein integer-array in ein float-array? Verwenden Sie eine Schleife? ... -1: Zeigen Sie uns, was Sie getan haben, und sagen Sie uns, was Schwierigkeiten, die Sie haben in Ihrem Ansatz? Hi Sorry für
1
Antworten
Ich habe einige Probleme beim konvertieren dieser Liste von strings in eine Liste von Fließkommazahlen. Ich habe versucht, diese beiden Wege und jeder kehrte unterschiedliche Fehler. import csv import math unemp_reader = csv.reader(open('unemp.csv', 'rU')) unemp_lines = list(unemp_reader)
4
Antworten
Ich würde gerne wissen, warum in Java gibt es einen compilation error, indem Sie die folgenden Operationen: double d34324.34; //error float f3342.34; //error Auf der anderen Seite: long L32423424; //works fine double D32432424; //works fine Also grundsätzlich
3
Antworten
Ich habe eine Frage zu folgenden code: int main { double x = 0; double y = 0/x; if(y==1) {.....} .... .... return 0; } Wenn ich den code auf meinem computer, ich bekomme kein runtime error
5
Antworten
Hier ist das problem: Das Spiel Summen gespielt werden kann von einer beliebigen Anzahl von Menschen. Es beginnt mit einer Gesamtfläche von 100 und jeder Spieler macht eine ganzzahlige Verschiebung zwischen -20 und 20 zu, dass insgesamt.
3
Antworten
Ich bin Formatierung schwimmt Sie wie folgt vor: logFile.write("Loadcase: %6i %2i %4i %2.2f %2.2f %4f + %4f -> " %(i, freq, amp, cutoff, end_time, penalty_inc, stab_inc)) und das Ergebnis ist, wie: Loadcase: 5001 1 50 19.00 20.00
4
Antworten
Allgemein sagen wir, dass ein float hat eine Genauigkeit von 6 stellen nach dem Dezimalpunkt. Aber wenn wir speichern eine große Anzahl von um die 10^30 werden wir nicht bekommen, die 6 Ziffern nach dem Dezimalpunkt. So
4
Antworten
Wie kann ich verhindern, dass String.format("%.2f", doubleValue); von Abrundung (Runde die Hälfte bis-Algorithmus) und nicht nur mit dem abschneiden von es? z.B. doubleValue = 123.459 nach der Formatierung doubleValue = 123.46 Ich will einfach nur, um Sie
2
Antworten
Sagen wir, ich habe einige 32-bit-zahlen und einige 64-bit-zahlen: >>> import numpy as np >>> w = np.float32(2.4) >>> x = np.float32(4.555555555555555) >>> y = np.float64(2.4) >>> z = np.float64(4.555555555555555) Kann ich drucken Sie Sie aus mit
3
Antworten
Möchte ich vermehren ein int16 array, sondern ein float array mit automatischer Rundung, aber das schlägt fehl : import numpy A = numpy.array([1, 2, 3, 4], dtype=numpy.int16) B = numpy.array([0.5, 2.1, 3, 4], dtype=numpy.float64) A *= B
5
Antworten
Ich werde die erste zugeben, dass meine umfassenden Kenntnisse von low-level-Programmierung ist ein bisschen spärlich. Ich verstehe viele der grundlegenden Konzepte, aber ich benutze Sie nicht regelmäßig. Die being said, war ich absolut erstaunt, wie viel code
1
Antworten
Ich Häufig selbst schreiben max-Wert-Funktionen, die Suche durch eine Reihe von Doppel-ich benutze solche Funktionen zum normalisieren von Daten vor der grafischen Anzeige. Gibt es einen besseren Weg zu finden, der max-Wert oder ein array von doubles?
7
Antworten
Also, was ich versuche zu tun ist, erhalten eine float, konvertieren Sie es in byte, senden Sie über das Netzwerk als ein Datagramm Paket und konvertieren Sie es dann zurück, um einen byte am empfangenden terminal. Jetzt
3
Antworten
Habe ich folgende sich wiederholende einfachen code, der mehrmals wiederholt, dass ich möchte, um eine Funktion für: for i in range(10): id = "some id string looked up in dict" val = 63.4568900932840928 # some floating point
3
Antworten
Den hash der Unendlichkeit in Python hat digits matching pi: >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 Ist das nur Zufall oder ist es gewollt? Nicht sicher, aber meine Vermutung wäre, dass es als
1
Antworten
rem gibt diese: Prelude> rem 9 8 1 Wollte ich so etwas wie dieses: Prelude> nonIntRem 9.1 8 1.0999999999999996 Implementiert habe ich es so: nonIntRem x y = x - (y * (fromIntegral $ truncate (x/y))) Meine
5
Antworten
Bitte könnten Sie mir hier helfen? Ich brauche, um zu verstehen, wie konvertiert einen String in ein Int, Float oder Double! Dieses problem tritt auf, wenn ich versuche, den Wert aus einem UITextField und brauchen diese Art
6
Antworten
Wie teuer ist die Umwandlung von einer float zu einem double? Ist es so trivial, wie ein int zu long Konvertierung? EDIT: ich gehe davon aus, dass eine Plattform, wo float 4 bytes und double 8 bytes
1
Antworten
Nicht post-image, also: a[i]={(-1)^(i+1)*sin(x)*ln(x)}/{i^2*(i+1)!} Aufgabe: Finden müssen a1,a2,...,an. n ist natürlich und es ist gegeben. So, ich habe versucht, dies zu tun: import math a= k=0 p=0 def factorial(n): f=1 for i in range(1,n+1): f=f*i return f
29
Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in
3
Antworten
randrange(start, stop) nimmt nur integer-Argumente. Also wie kann ich eine zufällige Zahl zwischen zwei float-Werte? InformationsquelleAutor Mantis Toboggan | 2011-05-22
4
Antworten
float a = 0; while (true) { a++; if (a > 16777216) break; //Will never break... a stops at 16777216 } Kann jemand erklären mir das an, warum ein float-Wert, Stoppt das Inkrementieren bei 16777216 in diesem
29
Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in
5
Antworten
Stellen Sie sich vor Sie haben ein großes array von floating-point-zahlen, aller Arten und Größen. Was ist die richtige Art und Weise zu berechnen, die Summe, mit der die wenigsten Fehler? Zum Beispiel, wenn das array sieht
29
Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in
2
Antworten
Lernte ich von "genau gleich" - operator in Erlang, die vergleicht nicht nur die Werte, aber auch Datentypen von zahlen, und ich war neugierig, wie die Dinge funktionieren in Python und seine Einzelkämpfer "ist gleich" - operator.
14
Antworten
Es ist bekannt, dass der Vergleich von Schwimmern für die Gleichstellung ist ein wenig fummelig aufgrund der Rundung und Genauigkeit Probleme. Zum Beispiel: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Was ist der empfohlene Weg, um mit diesem in Python? Sicherlich gibt es
3
Antworten
Wie kann ich umwandeln von bytes zu float in php? Wie in Java int i = (byte3 & 0xff) << 24 | (byte2 & 0xff) << 16 | (byte1 & 0xff) << 8 | byte0 & 0xff;
29
Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in
11
Antworten
So, ich habe die Antwort auf meine Letzte Frage (ich weiß nicht, warum ich nicht glaube). Ich war drucken ein double mit cout dass gerundeten wenn ich nicht erwartet. Wie kann ich cout drucken double mit voller
27
Antworten
Was wäre die effizienteste Methode zum vergleichen von zwei double oder zwei float Werte? Einfach, dies zu tun ist nicht richtig: bool CompareDoubles1 (double A, double B) { return A == B; } Aber so etwas wie:
6
Antworten
Schreibe ich ein Programm, wo ich brauche, um doppelte Punkte gespeichert, die in einer matrix. Das problem ist, dass, wenn es darum geht zu überprüfen, ob diese Punkte werden in der matrix mit MATLAB kann nicht erkennen,
29
Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in
8
Antworten
Wie behebe ich diesen code, so dass 1.1 + 2.2 == 3.3? Was ist eigentlich hier passiert, was dieses Verhalten? Ich bin mir vage vertraut mit der Rundung Probleme und floating point math, aber ich dachte, das
27
Antworten
Möchte ich entfernen Ziffern von einem Schwimmer haben eine Feste Anzahl von Ziffern nach dem Punkt, wie: 1.923328437452 -> 1.923 Ich ausgeben muss als string an eine andere Funktion, nicht drucken. Will auch ich zu ignorieren, die
29
Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in