Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
3
Antworten
Wie kann ich geben Sie eine floating-point-infinity-literal in python? Ich habe gehört, inf = float('inf') ist nicht tragbar. So, ich habe die folgenden empfohlen: inf = 1e400 Entweder diesen standard oder portable? Was ist beste Praxis? InformationsquelleAutor
4
Antworten
Ich habe ein array von Floats, die müssen umgewandelt werden in ein byte-array und wieder in einen float... kann mir jemand helfen, tun Sie dies richtig? Arbeite ich mit der bitConverter Klasse und fand mich zu stecken
12
Antworten
Ich mache einige numerische Optimierung auf eine wissenschaftliche Anwendung. Eine Sache, die ich bemerkt ist, dass GCC optimiert das call pow(a,2) durch kompilieren in a*aaber der Anruf pow(a,6) ist nicht optimiert und wird tatsächlich rufen Sie die
10
Antworten
Bin ich eine Anwendung schreiben, die liest große arrays mit Fließkommazahlen und führt einige einfache Operationen mit Ihnen. Ich bin mit Schwimmern, weil ich dachte, es wäre schneller als verdoppelt, aber nach einigen Forschung, ich habe festgestellt,
7
Antworten
Wie erklären Sie sich, floating-point-Ungenauigkeit an die frische Programmierer und Laien, die immer noch denken, Computer sind unendlich Weise und korrekt? Haben Sie eine Lieblings-Beispiel oder eine Anekdote, die scheint, auf die Idee kommen über viel besser,
8
Antworten
Ich bin ziemlich Formatierung eine floating-point-Zahl, aber will es scheinen, als ganze Zahl, wenn es keine entsprechenden floating-point-Zahl. I. e. 1.20 -> 1.2 x 1.78 -> 1.78 x 0.80 -> 0,8 x 2.00 -> 2x Kann ich
4
Antworten
Welche Bibliotheken für Java gibt es, dass eine schnelle Umsetzung für floating point oder fixed-point-Operationen mit einer Genauigkeit von einigen tausend stellen? Wie leistungsfähig sind Sie? Voraussetzung für mich ist, dass es implementiert eine Multiplikation Algorithmus, der
12
Antworten
Wie kann ich Runde Zahl (floating point), um die nächste Ganzzahl? z.B. 1.2 = 1 1.7 = 2 InformationsquelleAutor der Frage Ranguard | 2008-10-07
12
Antworten
Es ist bekannt, dass der Vergleich von Schwimmern für die Gleichstellung ist ein wenig fummelig aufgrund der Rundung und Genauigkeit Probleme. Zum Beispiel: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Was ist der empfohlene Weg, um mit diesem in Python? Sicherlich gibt es
13
Antworten
Habe ich den Wert 25.00 im floataber wenn ich drucken Sie es auf dem Bildschirm es ist 25.0000000. Wie kann ich den Wert anzeigen mit nur zwei Nachkommastellen? InformationsquelleAutor der Frage | 2009-02-18
1
Antworten
Habe ich gelesen, über floating-point und ich verstehe, dass NaN könnte die Ergebnisse von Operationen. aber ich kann nicht verstehen, was diese Konzepte genau. Was ist der Unterschied? Welche produziert werden können, während C++ Programmierung? Als Programmierer
5
Antworten
Ich bin nicht vertraut mit PHP und hatte eine kurze Frage. Habe ich 2 Variablen @pricePerUnit und @invoicedUnits. Hier ist der code, ist die Festlegung dieser Werte: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Wenn ich
4
Antworten
float a = 0; while (true) { a++; if (a > 16777216) break; //Will never break... a stops at 16777216 } Kann jemand erklären mir das an, warum ein float-Wert, Stoppt das Inkrementieren bei 16777216 in diesem
7
Antworten
Wie drucken Sie eine doppelte in einem stream, so dass, wenn es gelesen wird, die du nicht verlieren Präzision? Habe ich versucht: std::stringstream ss; double v = 0.1 * 0.1; ss << std::setprecision(std::numeric_limits<T>::digits10) << v << "
9
Antworten
Also sagen wir ich habe 100.000 für float-arrays mit 100 Elementen je. Ich brauche die höchste X Anzahl der Werte, ABER nur, wenn Sie größer als Y. Jedes element nicht entspricht, dieser sollte auf 0 gesetzt werden.
3
Antworten
Arbeite ich mit Kunden, die mit einem alten GCC-version (3.2.3 um genau zu sein), aber aktualisieren will und einen Grund, der gegeben als Stein des Anstoßes, um ein Upgrade auf eine neuere version ist, Unterschiede in der
6
Antworten
Will ich speichern 3.50 in eine mysql-Tabelle. Ich habe einen float, der ich es speichern, aber es speichert als 3,5, nicht 3.50. Wie bekomme ich es auf die abschließenden null? InformationsquelleAutor der Frage David | 2010-02-12
10
Antworten
Was ist der Schnellste Weg, wissen Sie zum konvertieren einer Gleitkommazahl in eine int auf einem x86-CPU. Vorzugsweise in C oder assembly (in-gefüttert in C) für eine beliebige Kombination der folgenden: 32/64/80-bit-float -> 32/64-bit-Ganzzahl Ich bin auf
30
Antworten
Gibt es einen Weg zwischen 0 und 1 um 0,1? Dachte ich, ich könnte es tun, wie die folgenden, aber es ist fehlgeschlagen: for i in range(0, 1, 0.1): print i Stattdessen sagt er, dass die Schritt-argument
7
Antworten
Muss ich rechnen einige floating-point-Variablen und mein Kollege mir empfehlen zu verwenden BigDecimal statt double da wird es genauer sein. Aber ich will wissen, was es ist und wie man am meisten aus BigDecimal? InformationsquelleAutor der Frage
2
Antworten
Wenn ich arbeite mit einem doubleund ich es konvertieren zu einem floatwie funktioniert das genau? Auch der Wert abgeschnitten, so dass es passt in eine float? Oder ist der Wert abgerundete anders? Sorry, wenn dies klingt ein
5
Antworten
Was ist der inklusiven Bereich von float und double in Java? Warum sind Sie nicht zur Verwendung empfohlen float-oder double-für etwas, wo Präzision entscheidend ist? InformationsquelleAutor der Frage |
5
Antworten
Jeder weiß, Sie sind eigentlich nicht zu vergleichen schwimmt direkt auf, sondern mit einer Toleranz: float a,b; float epsilon = 1e-6f; bool equal = (fabs(a-b) < epsilon); Ich Frage mich, ob das gleiche gilt für den Vergleich
8
Antworten
Jedes mal, wenn ich ein neues Projekt starten, und wenn ich vergleichen müssen einige float-oder double-Variablen Schreibe ich den code wie diesen: if (fabs(prev.min[i] - cur->min[i]) < 0.000001 && fabs(prev.max[i] - cur->max[i]) < 0.000001) { continue; }
8
Antworten
Während der Arbeit an einem Projekt, stieß ich auf eine JS-Skript, erstellt von einem ehemaligen Mitarbeiter, der im Grunde wird ein Bericht erstellt, in form von Name : Value Name2 : Value2 etc. Das peoblem ist, dass
19
Antworten
Möchte ich a werden gerundet, um 13.95. >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Den round Funktion nicht so funktioniert wie ich es erwartet habe. InformationsquelleAutor der Frage | 2009-01-18
13
Antworten
Warum Vergleiche von NaN-Werte Verhalten sich anders als alle anderen Werte? Das heißt, alle Vergleiche mit den Operatoren ==, <=, >=, <, > wo einer oder beide Werte NaN false zurückgibt, im Gegensatz zu dem Verhalten aller
9
Antworten
Ich weiß, Sie können nicht Sie verlassen sich auf die Gleichstellung von Doppel-oder decimal-Datentyp Werte normal, aber ich wundere mich, wenn 0 ist ein besonderer Fall. Ich kann zwar verstehen, imprecisions zwischen 0.00000000000001 und 0.00000000000002, 0 selbst
6
Antworten
Möchte ich generieren, die eine zufällige Gleitkomma-Zahl zwischen 2 Werten. Was ist der beste Weg, dies zu tun in C#? InformationsquelleAutor der Frage lillq | 2008-09-04
7
Antworten
Wie könnte ich eine Runde schwimmen, um die nächste Ganzzahl in Objective-C: Beispiel: float f = 45.698f; int rounded = _______; NSLog(@"the rounded float is %i",rounded); gedruckt werden sollen "die abgerundeten Schwimmer 46" InformationsquelleAutor der Frage CodeGuy
13
Antworten
Was ich meine, ist das folgende: double d1 =555; double d2=55.343 Ich möchte in der Lage sein zu sagen, dass d1 ist eine ganze Zahl, während die d2 nicht. Gibt es eine einfache Möglichkeit, es zu tun
6
Antworten
Ich habe eine float a = 1412.244019; brauchen und ich ein zu sein, gerundet auf die nächste zweite Dezimalstelle wie 1412.24000000. Ich verstehe, dass wenn ich eine mit nur zwei Nachkommastellen benutze ich %.2f, aber das ist
2
Antworten
Beim Vergleich von Schwimmern, die zu ganzen zahlen, einige Paare der Werte dauert aber viel länger evaluiert werden als andere Werte in einer ähnlichen Grössenordnung bewegen. Beispiel: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1
2
Antworten
Ich habe eine binäre Datei, die ich analysieren und ich bin mit Python. Gibt es einen Weg, um 4 bytes und wandelt es in eine single precision Gleitkommazahl? InformationsquelleAutor der Frage Cristian | 2008-08-07
3
Antworten
assert(0.1 + 0.2 != 0.3); //shall be true ist mein Lieblings-prüfen, dass eine Sprache verwendet native Fließkomma-Arithmetik. C++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Ausgabe: 1 http://ideone.com/ErBMd Python print(0.1
5
Antworten
In dem folgenden Programm kann man sehen, dass jeder Wert auf etwas weniger als .5 ist abgerundet, außer für 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double
14
Antworten
Wie erstelle ich zufällige schwimmt in C++? Dachte ich, ich könnte die ganze Zahl rand und teilen Sie es durch etwas, wäre das ausreichend genug? InformationsquelleAutor der Frage hasen | 2009-03-26
10
Antworten
Kann ich nicht finden, diese in den Apple-docs so: was bedeutet das "f" nach den zahlen hier zeigen? Ist das von C oder Objective-C? Gibt es einen Unterschied zwischen nicht hinzufügen, um eine Konstante Anzahl? CGRect frame
1
Antworten
Da es nicht stark typisierte ich dachte, es nahm nur die richtige Größe des Arbeitsspeichers und interpretiert es auf der Grundlage der Art der Argumentation. Aber float und double beide verwenden Sie "%f", und Sie sind in
7
Antworten
Im Gebäude web-app, die vor allem für mobile Browser. Im mit-input-Felder mit Typ Zahl, so dass (die meisten) mobilen Browser ruft nur die Nummer-Tastatur für eine bessere Benutzer-Erfahrung. Diese web-app wird vor allem in Regionen, in denen
5
Antworten
Bekam ich eine timedelta-Objekt aus der Subtraktion von zwei datetimes. Ich brauche diesen Wert als floating-Punkt für weitere Berechnungen. Alle, die ich gefunden habe können die Berechnung mit floating-points, aber das Ergebnis noch eine timedelta-Objekt. time_d =
12
Antworten
Diesem code zu arbeiten (C# 3) double d; if(d == (double)(int)d) ...; Gibt es einen besseren Weg, dies zu tun? Für unwesentliche Gründe will ich vermeiden, doppelt wirken also; was für schöne Wege gibt andere als diese?
5
Antworten
Ich weiß, es ist wirklich blöde Frage, aber ich weiß nicht, wie Sie dazu in der bash: 20 / 30 * 100 Sollte es 66.67 aber expr sagen 0weil es nicht unterstützt float. Welcher Befehl im Linux
4
Antworten
Schrieb ich diesen code: float b = 3.6; und ich bekomme diese: Error:Unresolved compilation problem: Type mismatch: cannot convert from double to float Warum? Was ist die definition von float? InformationsquelleAutor der Frage t0mkaka | 2011-02-22
5
Antworten
Was ist der Unterschied zwischen NaN und Infinity? Wenn nicht NaN erscheinen? Was ist es? InformationsquelleAutor der Frage Levi H | 2011-11-13
6
Antworten
Ich mache Multiplikation und division von floats und ints und ich vergesse die implizite Konvertierung Regeln (und die Wörter in der Frage scheinen zu vage, um google schneller als die Frage hier). Wenn ich zwei ints, aber
5
Antworten
John Carmack hat eine Besondere Funktion in der Quake-III-Quellcode berechnet die inverse Quadratwurzel aus einem Schwimmer, 4x schneller als die normale (float)(1.0/sqrt(x))darunter eine seltsame 0x5f3759df konstant. Siehe code unten. Kann mir jemand erklären, Zeile für Zeile, was
7
Antworten
Habe ich eine Gleitkomma-Zahl, die wollt ich abschneiden um 3 Plätze, aber ich will nicht zu Runden. Zum Beispiel, konvertieren 1.0155555555555555 zu 1.015 (nicht 1.016). Wie würde ich gehen über das tun dies in Ruby? InformationsquelleAutor der
3
Antworten
wollte ich zum konvertieren von double zu float in C, wollte sich aber zur Erhaltung der Dezimalpunkt genau wie möglich sein, ohne änderungen... zum Beispiel, sagen wir, ich habe double d = 0.1108; double dd = 639728.170000;
3
Antworten
Ich weiß, die 0.1 dezimal-Zahl nicht exakt dargestellt werden mit einer endlichen binären Zahl (Erklärung), so double n = 0.1 verlieren manche präzise und nicht genau 0.1. Auf der anderen Seite 0.5 können exakt dargestellt werden, weil