Tag: floating-point

Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.

Wie gebe ich ein Gleitkomma-Unendlichkeits-Literal in Python ein?

Anzahl der Antworten 3 Antworten
Wie kann ich geben Sie eine floating-point-infinity-literal in python? Ich habe gehört, inf = float('inf') ist nicht tragbar. So, ich habe die folgenden empfohlen: inf = 1e400 Entweder diesen standard oder portable? Was ist beste Praxis? InformationsquelleAutor

Wie konvertiere ich ein Array von Floats in ein Byte [] und zurück?

Anzahl der Antworten 4 Antworten
Ich habe ein array von Floats, die müssen umgewandelt werden in ein byte-array und wieder in einen float... kann mir jemand helfen, tun Sie dies richtig? Arbeite ich mit der bitConverter Klasse und fand mich zu stecken

Warum optimiert GCC nicht a * a * a * a * a * a bis (a * a * a) * (a * a * a)?

Anzahl der Antworten 12 Antworten
Ich mache einige numerische Optimierung auf eine wissenschaftliche Anwendung. Eine Sache, die ich bemerkt ist, dass GCC optimiert das call pow(a,2) durch kompilieren in a*aaber der Anruf pow(a,6) ist nicht optimiert und wird tatsächlich rufen Sie die

Sind Doppelpunkte schneller als in C #?

Anzahl der Antworten 10 Antworten
Bin ich eine Anwendung schreiben, die liest große arrays mit Fließkommazahlen und führt einige einfache Operationen mit Ihnen. Ich bin mit Schwimmern, weil ich dachte, es wäre schneller als verdoppelt, aber nach einigen Forschung, ich habe festgestellt,

Gleitkomma-Ungenauigkeit Beispiele

Anzahl der Antworten 7 Antworten
Wie erklären Sie sich, floating-point-Ungenauigkeit an die frische Programmierer und Laien, die immer noch denken, Computer sind unendlich Weise und korrekt? Haben Sie eine Lieblings-Beispiel oder eine Anekdote, die scheint, auf die Idee kommen über viel besser,

Nur Dezimalpunkt zeigen, wenn die Gleitkomma-Komponente nicht .00 sprintf / printf ist

Anzahl der Antworten 8 Antworten
Ich bin ziemlich Formatierung eine floating-point-Zahl, aber will es scheinen, als ganze Zahl, wenn es keine entsprechenden floating-point-Zahl. I. e. 1.20 -> 1.2 x 1.78 -> 1.78 x 0.80 -> 0,8 x 2.00 -> 2x Kann ich

Java Fließkomma-Bibliothek mit hoher Präzision

Anzahl der Antworten 4 Antworten
Welche Bibliotheken für Java gibt es, dass eine schnelle Umsetzung für floating point oder fixed-point-Operationen mit einer Genauigkeit von einigen tausend stellen? Wie leistungsfähig sind Sie? Voraussetzung für mich ist, dass es implementiert eine Multiplikation Algorithmus, der

Wie rundet man eine Gleitkommazahl in Perl?

Anzahl der Antworten 12 Antworten
Wie kann ich Runde Zahl (floating point), um die nächste Ganzzahl? z.B. 1.2 = 1 1.7 = 2 InformationsquelleAutor der Frage Ranguard | 2008-10-07

Was ist der beste Weg, um Floats für fast-Gleichheit in Python zu vergleichen?

Anzahl der Antworten 12 Antworten
Es ist bekannt, dass der Vergleich von Schwimmern für die Gleichstellung ist ein wenig fummelig aufgrund der Rundung und Genauigkeit Probleme. Zum Beispiel: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Was ist der empfohlene Weg, um mit diesem in Python? Sicherlich gibt es

Stellen Sie ein float nur zwei Dezimalstellen zeigen

Anzahl der Antworten 13 Antworten
Habe ich den Wert 25.00 im floataber wenn ich drucken Sie es auf dem Bildschirm es ist 25.0000000. Wie kann ich den Wert anzeigen mit nur zwei Nachkommastellen? InformationsquelleAutor der Frage | 2009-02-18

Was ist der Unterschied zwischen ruhigem NaN und signalisierendem NaN?

Anzahl der Antworten 1 Antworten
Habe ich gelesen, über floating-point und ich verstehe, dass NaN könnte die Ergebnisse von Operationen. aber ich kann nicht verstehen, was diese Konzepte genau. Was ist der Unterschied? Welche produziert werden können, während C++ Programmierung? Als Programmierer

PHP String zum Floaten

Anzahl der Antworten 5 Antworten
Ich bin nicht vertraut mit PHP und hatte eine kurze Frage. Habe ich 2 Variablen @pricePerUnit und @invoicedUnits. Hier ist der code, ist die Festlegung dieser Werte: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Wenn ich

Warum hört eine float-Variable auf, bei 16777216 in C # inkrementiert zu werden?

Anzahl der Antworten 4 Antworten
float a = 0; while (true) { a++; if (a > 16777216) break; //Will never break... a stops at 16777216 } Kann jemand erklären mir das an, warum ein float-Wert, Stoppt das Inkrementieren bei 16777216 in diesem

Doppelt drucken ohne Genauigkeit zu verlieren

Anzahl der Antworten 7 Antworten
Wie drucken Sie eine doppelte in einem stream, so dass, wenn es gelesen wird, die du nicht verlieren Präzision? Habe ich versucht: std::stringstream ss; double v = 0.1 * 0.1; ss << std::setprecision(std::numeric_limits<T>::digits10) << v << "

Der schnellste Weg, um niedrige Werte im Array auf Null zu setzen?

Anzahl der Antworten 9 Antworten
Also sagen wir ich habe 100.000 für float-arrays mit 100 Elementen je. Ich brauche die höchste X Anzahl der Werte, ABER nur, wenn Sie größer als Y. Jedes element nicht entspricht, dieser sollte auf 0 gesetzt werden.

Was ist der Sinn von float_t und wann sollte es verwendet werden?

Anzahl der Antworten 3 Antworten
Arbeite ich mit Kunden, die mit einem alten GCC-version (3.2.3 um genau zu sein), aber aktualisieren will und einen Grund, der gegeben als Stein des Anstoßes, um ein Upgrade auf eine neuere version ist, Unterschiede in der

Speichern von Geldbeträgen in mysql

Anzahl der Antworten 6 Antworten
Will ich speichern 3.50 in eine mysql-Tabelle. Ich habe einen float, der ich es speichern, aber es speichert als 3,5, nicht 3.50. Wie bekomme ich es auf die abschließenden null? InformationsquelleAutor der Frage David | 2010-02-12

Was ist der schnellste Weg, float nach int auf x86 zu konvertieren?

Anzahl der Antworten 10 Antworten
Was ist der Schnellste Weg, wissen Sie zum konvertieren einer Gleitkommazahl in eine int auf einem x86-CPU. Vorzugsweise in C oder assembly (in-gefüttert in C) für eine beliebige Kombination der folgenden: 32/64/80-bit-float -> 32/64-bit-Ganzzahl Ich bin auf

Wie verwende ich einen Dezimalbereich () Schritt Wert?

Anzahl der Antworten 30 Antworten
Gibt es einen Weg zwischen 0 und 1 um 0,1? Dachte ich, ich könnte es tun, wie die folgenden, aber es ist fehlgeschlagen: for i in range(0, 1, 0.1): print i Stattdessen sagt er, dass die Schritt-argument

Doppel gegen BigDecimal?

Anzahl der Antworten 7 Antworten
Muss ich rechnen einige floating-point-Variablen und mein Kollege mir empfehlen zu verwenden BigDecimal statt double da wird es genauer sein. Aber ich will wissen, was es ist und wie man am meisten aus BigDecimal? InformationsquelleAutor der Frage

Konvertieren von Double in Float in Java

Anzahl der Antworten 2 Antworten
Wenn ich arbeite mit einem doubleund ich es konvertieren zu einem floatwie funktioniert das genau? Auch der Wert abgeschnitten, so dass es passt in eine float? Oder ist der Wert abgerundete anders? Sorry, wenn dies klingt ein

Was ist die Inklusivbreite von Float und Double in Java?

Anzahl der Antworten 5 Antworten
Was ist der inklusiven Bereich von float und double in Java? Warum sind Sie nicht zur Verwendung empfohlen float-oder double-für etwas, wo Präzision entscheidend ist? InformationsquelleAutor der Frage |

Kann ein Gleitkommawert von nahezu Null einen Fehler durch Division durch Null verursachen?

Anzahl der Antworten 5 Antworten
Jeder weiß, Sie sind eigentlich nicht zu vergleichen schwimmt direkt auf, sondern mit einer Toleranz: float a,b; float epsilon = 1e-6f; bool equal = (fabs(a-b) < epsilon); Ich Frage mich, ob das gleiche gilt für den Vergleich

Wie man Floats richtig und standardmässig vergleicht?

Anzahl der Antworten 8 Antworten
Jedes mal, wenn ich ein neues Projekt starten, und wenn ich vergleichen müssen einige float-oder double-Variablen Schreibe ich den code wie diesen: if (fabs(prev.min[i] - cur->min[i]) < 0.000001 && fabs(prev.max[i] - cur->max[i]) < 0.000001) { continue; }

Wie rundee ich eine Zahl in JavaScript?

Anzahl der Antworten 8 Antworten
Während der Arbeit an einem Projekt, stieß ich auf eine JS-Skript, erstellt von einem ehemaligen Mitarbeiter, der im Grunde wird ein Bericht erstellt, in form von Name : Value Name2 : Value2 etc. Das peoblem ist, dass

Begrenzung auf zwei Dezimalstellen

Anzahl der Antworten 19 Antworten
Möchte ich a werden gerundet, um 13.95. >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Den round Funktion nicht so funktioniert wie ich es erwartet habe. InformationsquelleAutor der Frage | 2009-01-18

Was ist der Grund dafür, dass alle Vergleiche für IEEE754-NaN-Werte falsch sind?

Anzahl der Antworten 13 Antworten
Warum Vergleiche von NaN-Werte Verhalten sich anders als alle anderen Werte? Das heißt, alle Vergleiche mit den Operatoren ==, <=, >=, <, > wo einer oder beide Werte NaN false zurückgibt, im Gegensatz zu dem Verhalten aller

Ist es sicher, Gleitkommawerte für die Gleichheit auf 0 zu prüfen?

Anzahl der Antworten 9 Antworten
Ich weiß, Sie können nicht Sie verlassen sich auf die Gleichstellung von Doppel-oder decimal-Datentyp Werte normal, aber ich wundere mich, wenn 0 ist ein besonderer Fall. Ich kann zwar verstehen, imprecisions zwischen 0.00000000000001 und 0.00000000000002, 0 selbst

Wie generieren Sie eine Zufallszahl in C #?

Anzahl der Antworten 6 Antworten
Möchte ich generieren, die eine zufällige Gleitkomma-Zahl zwischen 2 Werten. Was ist der beste Weg, dies zu tun in C#? InformationsquelleAutor der Frage lillq | 2008-09-04

Ziel-C-Float-Rundung

Anzahl der Antworten 7 Antworten
Wie könnte ich eine Runde schwimmen, um die nächste Ganzzahl in Objective-C: Beispiel: float f = 45.698f; int rounded = _______; NSLog(@"the rounded float is %i",rounded); gedruckt werden sollen "die abgerundeten Schwimmer 46" InformationsquelleAutor der Frage CodeGuy

Überprüfen Sie die doppelte Variable, wenn sie eine Ganzzahl und nicht Gleitkomma enthält

Anzahl der Antworten 13 Antworten
Was ich meine, ist das folgende: double d1 =555; double d2=55.343 Ich möchte in der Lage sein zu sagen, dass d1 ist eine ganze Zahl, während die d2 nicht. Gibt es eine einfache Möglichkeit, es zu tun

iOS Objective-C Wie erhält man 2 dezimale Float-Werte?

Anzahl der Antworten 6 Antworten
Ich habe eine float a = 1412.244019; brauchen und ich ein zu sein, gerundet auf die nächste zweite Dezimalstelle wie 1412.24000000. Ich verstehe, dass wenn ich eine mit nur zwei Nachkommastellen benutze ich %.2f, aber das ist

Warum sind einige float & lt; Ganzzahlvergleiche vier Mal langsamer als andere?

Anzahl der Antworten 2 Antworten
Beim Vergleich von Schwimmern, die zu ganzen zahlen, einige Paare der Werte dauert aber viel länger evaluiert werden als andere Werte in einer ähnlichen Grössenordnung bewegen. Beispiel: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1

Konvertieren von Bytes in Gleitkommazahlen in Python

Anzahl der Antworten 2 Antworten
Ich habe eine binäre Datei, die ich analysieren und ich bin mit Python. Gibt es einen Weg, um 4 bytes und wandelt es in eine single precision Gleitkommazahl? InformationsquelleAutor der Frage Cristian | 2008-08-07

Warum 0,1 + 0,2 == 0,3 in D?

Anzahl der Antworten 3 Antworten
assert(0.1 + 0.2 != 0.3); //shall be true ist mein Lieblings-prüfen, dass eine Sprache verwendet native Fließkomma-Arithmetik. C++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Ausgabe: 1 http://ideone.com/ErBMd Python print(0.1

Warum gibt Math.round (0.49999999999999994) 1 zurück?

Anzahl der Antworten 5 Antworten
In dem folgenden Programm kann man sehen, dass jeder Wert auf etwas weniger als .5 ist abgerundet, außer für 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double

C ++ zufällige Gleitkommazahlgenerierung

Anzahl der Antworten 14 Antworten
Wie erstelle ich zufällige schwimmt in C++? Dachte ich, ich könnte die ganze Zahl rand und teilen Sie es durch etwas, wäre das ausreichend genug? InformationsquelleAutor der Frage hasen | 2009-03-26

"F" nach Nummer / float in Objective-C / C

Anzahl der Antworten 10 Antworten
Kann ich nicht finden, diese in den Apple-docs so: was bedeutet das "f" nach den zahlen hier zeigen? Ist das von C oder Objective-C? Gibt es einen Unterschied zwischen nicht hinzufügen, um eine Konstante Anzahl? CGRect frame

Wie unterscheiden printf und co zwischen float und double?

Anzahl der Antworten 1 Antworten
Da es nicht stark typisierte ich dachte, es nahm nur die richtige Größe des Arbeitsspeichers und interpretiert es auf der Grundlage der Art der Argumentation. Aber float und double beide verwenden Sie "%f", und Sie sind in

Wie man Floats und Dezimaltrennzeichen mit der Eingabeart html5 behandelt

Anzahl der Antworten 7 Antworten
Im Gebäude web-app, die vor allem für mobile Browser. Im mit-input-Felder mit Typ Zahl, so dass (die meisten) mobilen Browser ruft nur die Nummer-Tastatur für eine bessere Benutzer-Erfahrung. Diese web-app wird vor allem in Regionen, in denen

Wandle Timedelta in Gleitkomma um

Anzahl der Antworten 5 Antworten
Bekam ich eine timedelta-Objekt aus der Subtraktion von zwei datetimes. Ich brauche diesen Wert als floating-Punkt für weitere Berechnungen. Alle, die ich gefunden habe können die Berechnung mit floating-points, aber das Ergebnis noch eine timedelta-Objekt. time_d =

Testen Sie, ob eine Fließkommazahl eine Ganzzahl ist

Anzahl der Antworten 12 Antworten
Diesem code zu arbeiten (C# 3) double d; if(d == (double)(int)d) ...; Gibt es einen besseren Weg, dies zu tun? Für unwesentliche Gründe will ich vermeiden, doppelt wirken also; was für schöne Wege gibt andere als diese?

Wie verwende ich expr auf float?

Anzahl der Antworten 5 Antworten
Ich weiß, es ist wirklich blöde Frage, aber ich weiß nicht, wie Sie dazu in der bash: 20 / 30 * 100 Sollte es 66.67 aber expr sagen 0weil es nicht unterstützt float. Welcher Befehl im Linux

Was ist Float in Java?

Anzahl der Antworten 4 Antworten
Schrieb ich diesen code: float b = 3.6; und ich bekomme diese: Error:Unresolved compilation problem: Type mismatch: cannot convert from double to float Warum? Was ist die definition von float? InformationsquelleAutor der Frage t0mkaka | 2011-02-22

Was bedeutet NaN für Doppelgänger?

Anzahl der Antworten 5 Antworten
Was ist der Unterschied zwischen NaN und Infinity? Wenn nicht NaN erscheinen? Was ist es? InformationsquelleAutor der Frage Levi H | 2011-11-13

float / int implizite Konvertierung

Anzahl der Antworten 6 Antworten
Ich mache Multiplikation und division von floats und ints und ich vergesse die implizite Konvertierung Regeln (und die Wörter in der Frage scheinen zu vage, um google schneller als die Frage hier). Wenn ich zwei ints, aber

John Carmacks ungewöhnliche Fast Inverse Quadratwurzel (Quake III)

Anzahl der Antworten 5 Antworten
John Carmack hat eine Besondere Funktion in der Quake-III-Quellcode berechnet die inverse Quadratwurzel aus einem Schwimmer, 4x schneller als die normale (float)(1.0/sqrt(x))darunter eine seltsame 0x5f3759df konstant. Siehe code unten. Kann mir jemand erklären, Zeile für Zeile, was

Truncate eine Gleitkommazahl ohne aufzurunden

Anzahl der Antworten 7 Antworten
Habe ich eine Gleitkomma-Zahl, die wollt ich abschneiden um 3 Plätze, aber ich will nicht zu Runden. Zum Beispiel, konvertieren 1.0155555555555555 zu 1.015 (nicht 1.016). Wie würde ich gehen über das tun dies in Ruby? InformationsquelleAutor der

C: wandle double in float, wobei die Dezimalpunktpräzision erhalten bleibt

Anzahl der Antworten 3 Antworten
wollte ich zum konvertieren von double zu float in C, wollte sich aber zur Erhaltung der Dezimalpunkt genau wie möglich sein, ohne änderungen... zum Beispiel, sagen wir, ich habe double d = 0.1108; double dd = 639728.170000;

Warum bleibt das mehrfache Hinzufügen von 0,1 verlustfrei?

Anzahl der Antworten 3 Antworten
Ich weiß, die 0.1 dezimal-Zahl nicht exakt dargestellt werden mit einer endlichen binären Zahl (Erklärung), so double n = 0.1 verlieren manche präzise und nicht genau 0.1. Auf der anderen Seite 0.5 können exakt dargestellt werden, weil