Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
Verwendet für die negative null-floating-point-Wert?
5 Antworten
Betrachten Sie die folgenden C++ code: double someZero = 0; std::cout << 0 - someZero << '\n'; //prints 0 std::cout << -someZero << std::endl; //prints -0 Stellt sich die Frage: was ist negativ null, und sollte es
Warum sind diese zahlen nicht gleich sind?
6 Antworten
Folgende code ist natürlich falsch. Was ist das problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
Was ist der Grund für alle Vergleiche false zurückgeben, für IEEE754 NaN-Werte?
13 Antworten
Warum Vergleiche von NaN-Werte Verhalten sich anders als alle anderen Werte? Das heißt, alle Vergleiche mit den Operatoren ==, <=, >=, <, > wo einer oder beide Werte NaN false zurückgibt, im Gegensatz zu dem Verhalten aller
Ist floating point math kaputt?
29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in
Wie hinzufügen von integer-und float mit javascript?
3 Antworten
Bin ich unter den unten angegebenen code und fügen integer-und float-Wert mit JavaScript. Aber ich kann das nicht tun, gibt es NaN. Ich bin neu in Entwicklung. Bitte helfen Sie mir, dieses zu lösen. lbl_bal_total.value = Numbers(lbl_bal_total.innerHTML)
Das Verständnis, wie zu zählen-FLOPs
1 Antworten
Ich habe eine harte Zeit greifen, wie zu zählen-FLOPs. Einen moment denke ich, dass ich es bekommen und der nächste macht es für mich keinen Sinn. Einige helfen, zu erklären, dies würde sehr geschätzt werden. Ich habe
Umwandlung von BigDecimal zu verdoppeln
1 Antworten
Während die Umwandlung von BigDecimal -, Doppel -, extra-Genauigkeiten werden immer Hinzugefügt. Könnten Sie bitte vorschlagen. Für Ex: BigDecimal deci= new BigDecimal(1.23456789123457E+17); double value = deci.doubleValue(); System.out.println(value); Und Wert druckt - 1.23456789123456992E17. Wie kommen die Letzte Ziffer
Erhalten Schwimmer von der Eingabe über den Scanner Java
1 Antworten
Brauche ich eine Methode, die überprüfen soll, ob die Eingabe des Benutzers ist ein Schwimmer, und wenn es string oder int es sollte eine Ausnahme ausgelöst werden. Ich erkläre der Scanner außerhalb der Methode: Scanner sc =
Konvertieren von int zu float in C (kein casting)
2 Antworten
Wie konvertiere ich ein int in einen float (zurückgegeben unsigned, sondern interpretiert als float)? Ich kann nicht mit jedem high-level-Sprachkonstrukte wie die Gewerkschaften, nur bitweise ops, Kontrolle Logik (if/while), + und -, etc. Ist das eine Hausaufgabe?
ValueError: could not convert string to float": '" "'
4 Antworten
Habe ich einige Werte ist die csv-Datei und csv-Datei einige Werte numerisch sind und einige sind string-Anzahl. Beispiel csv-Datei: 1,"1151226468812.22",100,1,467,999.00,999.95,15,1,999.00,999.95,998.50,999.95,15,999.01,1396,34,06092016091501.444,1394627.25 2,"1151226468812.11",100,1,467,999.00,1000.00,1605,3,999.00,1000.00,998.50,1000.00,5,999.03,1426,37,06092016091502.111,1424626.50 Also ich wnated zum konvertieren von string zu float. So, hier ist mein code: datareader =
VHDL: Wie konvertiert eine Fließkomma-Zahl in integer
2 Antworten
Möchte ich zum übergeben eines von einer Fließkommazahl zu einer integer-Zahl. Im Grunde habe ich eine Gleitkomma-Zahl zwischen 1 und 0, mit drei Dezimalstellen, und ich möchte, um es zu übergeben, um eine integer-Zahl, als wenn ich
Verwenden Sie sprintf formatieren Schwimmer, die keine Dezimalstellen, wenn integer
2 Antworten
Ursprünglich war ich mit sprintf mit floats immer mit 2 Nachkommastellen verwenden Sie den folgenden code: static void MyFunc(char* buffer, const float percentage) { sprintf(buffer, "%.2f", percentage); } Einer der Prozentwerte übergeben wurde 0x419FFFFF 20 (debugger-Ansicht), diese
pandas: Dataframe.replace() mit regex
1 Antworten
Ich habe eine Tabelle die wie folgt aussieht: df_raw = pd.DataFrame(dict(A = pd.Series(['1.00','-1']), B = pd.Series(['1.0','-45.00','-']))) A B 0 1.00 1.0 1 -1 -45.00 2 NaN - Möchte ich ersetzen Sie '-' , '0.00' mit dataframe.ersetzen (),
Floating Point Division im System Verilog
1 Antworten
Wollte ich mit floating point-zahlen im System Verilog mit der real Daten geben. Ich habe versucht den folgenden code, aber es scheint nicht zu funktionieren. Ich bin immer 2.000000 wo ich erwarten 2.500000. Modul: module real_check(input [31:0]a,
float zahlen in c [Xcode IDE]
2 Antworten
Ich habe angefangen c zu lernen die Sprache, aber das problem ist, dass ich bin verwirrt über die Verwendung von float-zahlen. Ich bin mit Xcode als IDE. Hier sind die Ergebnisse, dass hat mich verwirrt: float x1
Wie kann ich konvertieren eines Tupels in einen float in python?
2 Antworten
Sagen, dass ich erstellt ein Tupel wie das mit einem byte-array: import struct a = struct.unpack('f', 'helo') Wie kann ich jetzt konvertieren a in einen float? Irgendwelche Ideen? a ist ein 1-Tupel mit einem float-Wert... Wert bekommen...
sprintf() abschneiden und nicht rund, ein schweben, auf x Nachkommastellen?
1 Antworten
Bei der Berechnung ein golf-handicap-differential soll man abschneiden die Antwort auf 1 Dezimalstelle ohne Rundung gestrichen. Keine Ahnung, warum, aber... Ich wissen, wie das mit TRUNCATE() in mySQL SELECT TRUNCATE( 2.365, 1 ); //outputs 2.3 aber ich
JavaScript für float-und integer-Zahl validation
4 Antworten
Ich habe versucht, eine javascript-Funktion, um validate integer values aus einem Textfeld. Was ist der beste Weg, zu überprüfen, so dass nur integer and float Werte sind akzeptabel? Benötigten java-script-Funktion für die Anzahl der Validierung. stackoverflow.com/questions/3885817/... noch
PostgreSQL: was ist der Unterschied zwischen float(1) und float(24)?
1 Antworten
Ich habe eine harte Zeit-Verständnis der parameter precision p für float(p) in PostgreSQL. Zum Beispiel float(1) und float(24) scheinen genau das gleiche zu mir. Kann jemand mir einige Beispiele Ihrer Unterschiede, bitte? InformationsquelleAutor Xin | 2013-06-03
Was sind die tatsächlichen Wertebereiche von Gleitkomma-und double-Datentypen in C#?
2 Antworten
Lerne ich C# und zu versuchen, eine logische visuelle Darstellung der tatsächlichen Reihe von Datentypen in C#. Habe ich verschoben durch die ganzen zahlen und bin jetzt auf float-und double-Datentypen. 8 bits (1 byte), sbyte, von -128
Wie groß eine Zahl kann Sie speichern in double und float in c?
6 Antworten
Ich versuche, genau herauszufinden, wie groß die Zahl, die ich verwenden kann als Gleitkommazahl mit und double. Aber es speichert nicht den Weg, den ich erwartet außer integer-Wert. double halten sollte 8 bytes von Informationen, die genügend
Rundung von Gleitkommazahlen in C++ auf eine Dezimalstelle
5 Antworten
Habe ich eine float-Zahl in c++ und die Nummer kann in verschiedenen Formen, z.B. 355.5 oder 9,9 (dies ist die Eingabe von test-code). Ich habe eine Funktion, die float return_max(angle_set_t *angles) { float val; float max; max=
Konvertieren von float zu double
3 Antworten
Ich versuche zu konvertieren Single zu Double unter Beibehaltung des ursprünglichen Wertes. Ich habe festgestellt, das folgende Methode: Single f = 5.2F; Double d1 = f; //5.19999980926514 Double d2 = Double.Parse(f.ToString()); //5.2 (correct) Ist diese Praxis zu
Format schwebt mit standard-json-Modul
12 Antworten
Ich bin mit dem standard - json-Modul in python 2.6 zum serialisieren einer Liste von Fließkommazahlen. Jedoch erhalte ich Ergebnisse wie dieses: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Möchte ich den Wagen formatiert
Wie fülle ich ein array mit zufälligen Gleitkommazahlen?
5 Antworten
Ich bin der Hoffnung, einen Weg zu finden, füllen Sie ein array mit zufälligen Gleitkommazahlen. Mein array ist in Größe 50 und ich bin der Hoffnung, diese zu füllen array mit random float-zahlen aus dem Bereich 1
Bestimmung Ausgabe (Druck) der Schwimmer mit %f in C/C++
8 Antworten
I have gone through earlier discussions on floating point numbers in SO but that didn't clarified my problem,I knew this floating point issues may be common in every forum but my question in not concerned about Floating
input-output in C
2 Antworten
double d; scanf("%f", &d); printf("%f", d); Ergebnis: Eingang: 10.3 Ausgabe: 0.00000 Warum? ich denke, Ausgang auf 10.3 visual studio 2008. jetzt, dass Ihr problem gelöst ist, stackoverflow.com/questions/2377733/how-does-this-program-work kann klären, die Dinge ein bisschen mehr! InformationsquelleAutor Sergey |
Wie Sie die Speicherung von mehr als 4 Dezimalstellen in ein array in MATLAB
2 Antworten
Will ich speichern 6 Dezimalstellen in ein array, aber wenn ich Speichere es in ein array, es speichert nur bis zu 4 Dezimalstellen anstelle von 6. Wie kann ich das speichern von bis zu 6 Ziffern in
Verwenden von floating-point in den Linux-kernel
2 Antworten
Lese ich Robert Liebe ist "Linux Kernel Development", und stieß ich auf folgende passage: Keine (Einfache) Verwendung von Floating-Point - Wenn ein user-space Prozess verwendet floating-point-Anweisungen, die der kernel verwaltet den übergang von integer -, floating-point-Modus. Was
Zulassen/überprüfen integer, decimal, float-Werte in jquery
4 Antworten
Hatte ich ein html-Feld wie unten <input type="text" name="price" class="validate_price" id="price"/> Also das Feld sollte nur akzeptieren, float, decimal, integer-Werte aus dem input. jQuery-code <script> function isFloat(value) { return value!= "" && !isNaN(value) && Math.round(value) != value;
Wie Sie festlegen, floating-point-Präzision innerhalb einer Variablen
4 Antworten
Ich bin momentan ein Programm, wo ich berechnen, ein gerundeter Wert auf nur noch 2 Ziffern nach einer Gleitkommazahl. Sagen, ich habe erklärt float a; Wenn a = 3.555 dann würde es speichern a = 3.56 ab,
Java Parsen einen string, der schwimmt, um ein float-array?
5 Antworten
Gibt es eine einfache Möglichkeit, eine Zeichenfolge zu analysieren mit Wagen auf ein float-array? Ich Schreibe ein Importeur die Anforderungen zu analysieren, eine ascii-Datei zu erhalten einige Werte heraus, und ich Frage mich nur, ob es ist
Doppel-und Float-format die Anzeige verschiedener Ergebnisse
5 Antworten
Dachte ich, dass der Unterschied zwischen double und float wurden die Genauigkeit der Nachkommastellen. Allerdings bin ich immer seltsame Ergebnisse bei der Verwendung von double und float, und Sie sind nicht, wo in der Nähe eine andere.
C++ - Währung
6 Antworten
Nehme ich einen C++ - Kurs jetzt und haben bereits meine endgültige Zuordnung. Allerdings gibt es eine Sache, die mich Lauschangriff: Obwohl ich die richtigen Ausgänge für die Tests auf eine bestimmte Ausgabe, die basepay sollte 133.20
C - Wie um zu überprüfen, ob die Anzahl ist integer oder float?
4 Antworten
Übung 30 Schreiben Sie ein Programm, das liest float-Wert entwickelt als dezimal-Erweiterung und Wenn es integer ist, es sagt, dass es integer auf der anderen Seite rundet auf ganze Zahl und schreibt das Ergebnis. Denken Sie daran,
Wie schön format Fließkomma-zahlen auf String-ohne unnötige dezimal 0?
22 Antworten
Einem 64-bit-double-integer darstellen kann +/- 253 genau Angesichts dieser Tatsache, die ich wählen zu verwenden einen double-Typ, wie ein einziger Typ für alle meine Arten, da meine größte Ganzzahl ohne Vorzeichen 32-bit. Aber jetzt habe ich zum
Division durch Null Fehler
2 Antworten
Ich habe ein problem mit diese Frage von meinem professor. Hier ist die Frage: Schreiben Sie die definition einer Funktion typing_speed , erhält zwei Parameter. Die erste ist die Anzahl der Wörter, die eine person eingegeben hat
Der Umgang mit floating-point-Zahl Präzision in JavaScript?
28 Antworten
Habe ich folgenden dummy-test-Skript: function test(){ var x = 0.1 * 0.2; document.write(x); } test(); Dies wird drucken Sie das Ergebnis 0.020000000000000004 zwar sollte es nur drucken 0.02 (wenn Sie mit Ihrem Rechner). Soweit ich verstanden habe
Ist floating point math kaputt?
29 Antworten
Betrachten Sie den folgenden code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum diese Ungenauigkeiten passieren? Floating-point-Variablen haben in der Regel dieses Verhalten. Sie wird verursacht durch, wie Sie gespeichert sind, in
Konvertieren von float auf double ohne an Präzision zu verlieren
10 Antworten
Habe ich eine primitive float und brauche ich so einen primitiven double. Einfach Gießen Sie das float auf double gibt mir seltsam zusätzliche Präzision. Zum Beispiel: float temp = 14009.35F; System.out.println(Float.toString(temp)); //Prints 14009.35 System.out.println(Double.toString((double)temp)); //Prints 14009.349609375 Jedoch,
Große zahlen fälschlicherweise Runden in JavaScript
6 Antworten
Finden Sie diesen code: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(jsonString); console.log(jsonString, jsonParsed); </script> </head> <body> </body> </html> Wenn ich sehe, meine Konsole in Firefox 3.5 den Wert jsonParsed
Warum ist Double.MIN_VALUE in nicht negativen
6 Antworten
Kann jemand etwas Licht auf, warum Double.MIN_VALUE ist nicht wirklich der minimale Wert, Verdoppelt sich nehmen kann? Es ist ein positiver Wert ist, und ein Doppel kann natürlich negativ sein. Verstehe ich, warum es eine nützliche Zahl,
Warum kann ich nicht mit float-Wert als parameter template angegeben?
9 Antworten
Wenn ich versuche, mit float als template-parameter, die der compiler ruft für diesen code, während int funktioniert einwandfrei. Ist es, weil ich nicht verwenden können float als template-parameter? #include<iostream> using namespace std; template <class T, T defaultValue>
C# Float-Ausdruck: seltsames Verhalten beim Gießen das Ergebnis float zu int
7 Antworten
Ich habe folgenden einfachen code : int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1 und speed2 sollte den gleichen Wert haben, aber in der Tat, ich habe :
Warum sind Gleitkommazahlen ungenau?
6 Antworten
Warum haben manche Nummern verlieren an Genauigkeit, wenn gespeichert als floating-point-zahlen? Beispielsweise die dezimale Zahl 9.2 exakt dargestellt werden können als ein Verhältnis von zwei dezimale Ganzzahlen (92/10), die beide exakt dargestellt werden können im Binär -
Wie um zu überprüfen, ob ein float-Wert ist eine ganze Zahl
11 Antworten
Ich bin auf der Suche nach der größten cube-root, dass ist eine ganze Zahl, die weniger als 12.000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see
'numpy.ndarray' - Objekt hat kein Attribut 'entfernen'
3 Antworten
Ich habe ein array von arrays, und ich bin versucht zu finden, die niedrigsten nicht-null-Wert unter Sie alle. minima = for array in K: #where K is my array of arrays (all floats) if 0.0 in
In der BASH konvertieren eine Zeichenfolge mit . im float
1 Antworten
Ich habe einen string darstellen float: echo $NUM 5.03 Muss ich multiplizieren Sie diese Zahl für MEGA. Wenn ich es direkt tun: MEGA="1000" result=$(($NUM*$MEGA)) Erhalte ich eine Fehlermeldung: syntax error: invalid arithmetic operator (error token is ".03
Konvertieren von Binär-nach-IEEE-floating-point
3 Antworten
Muss ich konvertieren Sie die binäre Zahl 0000 0110 1101 1001 1111 1110 1101 0011 IEEE-floating-point. Die Antwort ist 1.10110011111111011010011 x 2^-114, aber wie ist der exponent abgeleitet? Was endianness? InformationsquelleAutor Carlos | 2011-03-13
32-bit hex 32-bit floating point (IEEE 754) Umwandlung in matlab
1 Antworten
Wie kann ich die 32-bit-hex-Wert in eine Gleitkommazahl nach IEEE 754? EDIT: ... data = fread(fid,1,'float32'); disp(data); ... Bekomme ich diese Antwort: 4.2950 e+009 1.6274 e+009 ... Aber wie bekomme ich 32 bit floating point (IEEE 754)