Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
1
Antworten
Ich weiß, das wurde vorher gefragt, aber die Antworten haben mir nicht geholfen :/ Ich wurde eine Funktion erstellt, läuft eine for-Schleife über die quadrierte max der Eingänge, und von allen Konten, mein code ist korrekt...und doch
8
Antworten
Möchte ich number_format - Funktion in PHP. Zum Beispiel: $number = 234.51; echo number_format($number,2); Dies funktioniert mit float-zahlen, aber ich möchte es verwenden für verschiedene zahlen. Wenn eine Zahl als Dezimalzahl und nicht alle schwebenden Punkte, es
2
Antworten
War ich marshaling und unmarshaling JSONs mit golang und wenn ich will, es zu tun mit der Anzahl Felder golang verwandelt es in floating-point-zahlen anstelle von langen Nummern, zum Beispiel. Habe ich folgenden JSON: { "id": 12423434,
4
Antworten
Acually ich habe versucht, hinzufügen von zwei float-Werte in Java so: import java.text.DecimalFormat; class ExactDecimalValue { final strictfp static public void main(String... arg) { float f1=123.00000f; float f2=124.00000f; float f3=f1+f2; System.out.println(f1+f2); System.out.println("sum of two floats:"+f3); /*my expected
5
Antworten
Ich soll zur Kontrolle der Präzision für ein Doppelzimmer bei einem Vergleich, und dann kommen Sie wieder auf die default-Präzision mit C++. Ich beabsichtige zu verwenden setPrecision() zu setzen Präzision. Was ist denn die syntax, wenn vorhanden,
4
Antworten
Habe ich den folgenden code spaltet einen string von zahlen (getrennt durch ein Leerzeichen) und dann erstellt ein array mit Fließkommazahlen : //Split the string and then build a float array with the values. String tabOfFloatString =
2
Antworten
So, ich erhalte eine Schnittstelle{}, aber ich möchte in jeder möglichen Weise zu konvertieren, um ein float64 oder einen Fehler zurückgeben, falls nicht möglich. Hier ist, was ich Tue: func getFloat(unk interface{}) (float64, error) { if v_flt,
4
Antworten
Blick auf die drei Zeilen code unter. float f = 1; float g = 1.1; float h = 1.1f; Zweite Zeile hat Kompilierungsfehler, während die anderen Linien haben keine Kompilierungsfehler auftreten. Erste Zeile ist in Ordnung, die
3
Antworten
Kann mir jemand erklären, wie ich konvertiert eine 32-bit-floating-point-Wert in eine 16-bit-floating-point-Wert? (s = Vorzeichen e = exponent und m = Mantisse) Wenn 32-bit float ist 1s7e24m Und 16-bit-float ist 1s5e10m Dann ist es so einfach wie
9
Antworten
Nur mit ANSI-C, was ist der beste Weg, um mit ziemlicher Sicherheit zu bestimmen, wenn ein C-Stil-string ist entweder eine ganze Zahl oder eine reelle Zahl (ich.e float/double)? InformationsquelleAutor Christopher Dolan | 2008-09-16
2
Antworten
Ich habe zum Beispiel 0 100 1110 sign exponent mantisa dies ist gleich 3.75. Wie konvertieren Sie es in hexadezimale oder oktale form? Gesucht hab ich wirklich hart für ein paar Stunden. Bitte helfen Sie. Könnten Sie
2
Antworten
Gibt es wahrscheinlich andere kleine Formatierungsfehler hier, die werde ich brauchen, um zu beheben, etc. was ich aber brauche Hilfe mit dem ist, was mit den folgenden: Lab8pt1.cpp: In function 'float Gehalt(float, float)': Lab8pt1.cpp:48: Fehler: Zuweisung der
1
Antworten
Ich bin vor ein ziemlich seltsames problem mitawk wo ich will, zu berechnen den Durchschnitt einer Spalte. Dies ist der test-Eingang mit meinem Datei: 1 2 0.4 0.250 0.225 0.221 0.220 0.218 - Und dies ist das
4
Antworten
Ich habe eine Funktion, die die Annahme kann entweder eine Liste oder ein numpy-array. In jedem Fall, die Liste/array hat ein element (immer). Ich muss nur return float. So, z.B., die ich empfangen konnte: list_ = [4]
6
Antworten
Ich bin mit dem HIDAPI, um Daten zu senden, um ein USB-Gerät. Diese Daten können nur gesendet werden, als byte array und muss ich senden Sie ein paar float zahlen in das Daten-array. Ich weiß, schwimmt haben
6
Antworten
Wie können wir Sie nutzen in unserer codes, und was wird die Ursache NaN(not a number)? InformationsquelleAutor Johanna | 2009-06-17
5
Antworten
Ich versuche zu bauen, ein 32-bit-float-out der 4 composite-bytes. Gibt es eine bessere (oder mehr tragbare) Weg, dies zu tun, als mit der folgenden Methode? #include <iostream> typedef unsigned char uchar; float bytesToFloat(uchar b0, uchar b1, uchar
3
Antworten
Stehe ich vor einem Problem beim teilen einer double mit einem int. Code-snippet : double db = 10; int fac = 100; double res = db / fac; Den Wert von res wird 0.10000000000000001 statt 0.10. Weiß
3
Antworten
Nun, hier ist die header-Funktion von der Funktion bin ich soll zu implementieren: /* * float_from_int - Return bit-level equivalent of expression (float) x * Result is returned as unsigned int, but * it is to be
8
Antworten
In Java der Gleitkomma-Arithmetik ist nicht vertreten, genau. Zum Beispiel dieser java-code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not
3
Antworten
Ich habe ein Skript, das generiert zwei zufällige 32-bit-floating-point-zahlen a und b, und teilt Sie, um eine Ausgabe c. Ich würde gerne speichern, alle 3 dieser floating-point-zahlen in hexadezimal-format als eine Zeichenfolge mit 8 Zeichen. Fand ich
5
Antworten
Sagen wir, ich habe zwei floating-point-zahlen, und ich will um Sie zu vergleichen. Wenn einer größer ist als der andere, sollte das Programm nehmen Sie eine Gabel. Wenn das Gegenteil wahr ist, es sollte einen anderen Weg
4
Antworten
Konvertierung einer Gleitkommazahl in eine ganze Zahl entweder CInt oder CType verursachen wird, der Wert, die Zahl gerundet werden soll. Die Int Funktion und Math.Floor kann verwendet werden, zum konvertieren einer Gleitkommazahl in eine ganze Zahl und
4
Antworten
Las ich heute über Forscher entdecken, dass NVidia Phys-X-Bibliotheken verwenden, x87-FP vs. SSE2. Natürlich wird dies suboptimal für die parallele Datensätze, wo Geschwindigkeit Trumpf Präzision. Allerdings, der Autor des Artikels geht auf Zitat: Intel begonnen, entmutigt die
1
Antworten
Ich will ein paar maths float operation(+,-,x,/) auf float32 eher als float64. Ich brauche diese Operationen auf number oder numpy.array. Und einige mathematische Funktionen von numpy, wie sqrt mean http://docs.scipy.org/doc/numpy/user/basics.types.html InformationsquelleAutor Samuel | 2013-12-25
6
Antworten
Mein code liest ein RGB-Bild, die Verarbeitung zu produzieren floating-point-Ergebnisse. Wie kann ich schreiben Sie diese Werte als Bild, die Aufrechterhaltung dieser floating-point-Werten in Matlab 7.6.0 (R2008a)? InformationsquelleAutor Student | 2012-12-22
1
Antworten
.data time: .float 310.4, 390.8 miles: .float 12.0, 96.2 .text li $t0, 3 #terminating value li $t1, 4 #byte shifting li $t2, 1 #i increments by 1 la $a1, time # put address of time into $a1
5
Antworten
In C, gibt es einen Unterschied in der format-Spezifizierer %f, %e, %g, %E und %G, wenn verwendet, zu Lesen in einer float-Variablen mit scanf? Das heißt, wird das Verhalten der code-snippet float x; scanf("%<one of f, e,
5
Antworten
Ich habe den folgenden code: String curDir = "."; File fileObject = new File(curDir); File fileList = fileObject.listFiles(); float fileLengthMegabytes = (float)fileList[i].length() / 1000000; Die Methode fileList[i].Länge() gibt 311 Byte als Typ Long. Den vorherigen code ergibt
4
Antworten
Gibt es eine Java-Bibliothek überall ausführen können Berechnungen auf IEEE 754 halb-Präzision zahlen oder konvertieren Sie Sie in und aus double-precision? Ansätze geeignet wären: Halten Sie die zahlen in der Hälfte-precision-format und berechnen unter Verwendung der integer-Arithmetik
3
Antworten
Habe ich den Wert 1555.4899999999998 gespeichert float Spalte mit Standard-Genauigkeit (53). Wenn ich eine einfache select, SSMS Runden die Ausgabe anstatt Druck mit allen zur Verfügung stehenden Präzision. Es verursacht einige Probleme für mich vor kurzem, da
3
Antworten
Ich habe gerade berechnet, die gleiche Anzahl auf zwei verschiedene Arten, aber in numpy, macht es ein Fehler [[ 0.910221324013388510820732335560023784637451171875]] [[-0.9102213240133882887761274105287156999111175537109375]] diese Zahl ist die gleiche bis zu e^(-15), unterscheidet sich aber danach. Wie behandle ich diesen
1
Antworten
Ich die Preise für einige Einträge in einer mysql-Tabelle. Beim erstellen der Tabelle bin ich mit DECIMAL(10,2) wie ich brauchen nicht mehr als 2 Ziffern nach dem Komma (z.B.: 123,45 akzeptiert werden würde als ein Eingang aber
2
Antworten
Fand ich viele Sachen zu formatieren schwimmt auf bekannte zahlen, aber wie kann ich formatieren Sie ein Schwimmer an maximal 2 Nachkommastellen, aber nur, wenn die Nachkommastellen werden benötigt? Beispiele: 1.11 # not 1.111 1.12 # it
2
Antworten
NSString *timerend = [[NSString alloc] initWithFormat:@"%.0f:%.0f:%02d", hours, minutes, seconds]; Also ich habe diese Zeichenfolge und einer Reihe von Schwimmern. Zum Beispiel, sagen Sekunden = 6.54. Es wird angezeigt, wie, dass. Ich will, dass es zur Anzeige wie
6
Antworten
Einen echten Wert gegeben, können wir prüfen, ob eine float Datentyp ist genug, um die Nummer zu speichern, oder eine double erforderlich ist? Ich weiß, Präzision variiert von Architektur zu Architektur. Gibt es eine C/C++ - Funktion,
15
Antworten
Wie kann ich das format ein float, so dass es nicht enthalten nachfolgende Nullen? In anderen Worten, ich möchte die resultierende Zeichenfolge so kurz wie möglich. Beispiel: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1
7
Antworten
Laut html5.org, die "Anzahl" input type "value-Attribut, wenn angegeben und nicht leer ist, muss über einen Wert verfügen, der eine gültige floating point Zahl." Aber es ist einfach (in der neuesten version von Chrome, sowieso), ein "updown"
2
Antworten
'43.005895','-71.013202' Versuchen, zu verwenden: INSERT INTO table(fanDetLocZip, fanDetLocCity, fanDetLocState, fanDetLocLat, fanDetLocLong, fanDetLocTZ, fanDetLocDST) VALUES(00210, 'Portsmouth', 'NH', '43.005895', '-71.013202', -5, 1); Ich bin derzeit mit dem Datentyp SPATIAL, GEOMETRY. Sein gibt mir Fehler wie: Nicht bekommen geometry-Objekt aus
7
Antworten
Derzeit habe ich diese Methode: static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d * multiplier; check = Math.round(check); check = check/multiplier; return (d==check); } Aber diese
1
Antworten
War ich zu schreiben versucht, eine Funktion zu approximieren, die Quadrat-Wurzeln (ich weiß, es gibt die Mathematik-Modul...ich will es selbst zu tun), und ich war immer über geschraubt durch die floating point Arithmetik. Wie kann man das
7
Antworten
Habe ich eine Gleitkomma-Zahl, sagen 135.12345678910. Ich verketten möchten, dass der Wert ein string ist, sondern nur 135.123456789. Mit drucken, kann ich dies ganz einfach indem Sie etwas wie: print "%.9f" % numvar mit numvar meine ursprüngliche
2
Antworten
Was ist die effizienteste Methode zum ändern der Rundung-Modus* IEEE 754 floating-point-zahlen? Eine portable C-Funktion wäre schön, aber eine Lösung mit x86-assembly ist auch ok. *Ich bin auf die standard-Modi Rundung zum nächsten, in Richtung null, und
5
Antworten
Frage Ist es möglich, an eine float-Präzision, die speziell für jede Spalte gedruckt werden soll, indem Sie das Python - pandas Paket-Methode pandas.DataFrame.to_csv? Hintergrund Wenn ich eine pandas dataframe, angeordnet ist, wie dies: In [53]: df_data[:5] Out[53]:
3
Antworten
Was ist die beste Methode, um die Maske ein Eingabefeld, um nur erlauben, float/double, ohne jquery-plugin. Eigentlich mache ich es so: $("#defaultvalue").bind("keypress", function(e) { if (e.which != 8 && e.which != 0 && (e.which < 48 ||
5
Antworten
Ich Frage mich, wie kann ich subtrahieren zwei negative Floating-Point-zahlen in javascript. Ich habe versucht: alert(-0.2-0.1); und das Ergebnis ist -0.30000000000000004. Mache ich etwas falsch? Was muss ich tun, um -0.3 ? Ihr nicht die Subtraktion von
4
Antworten
Wie rechnen mit Gleitkomma-zahlen wie 1.503923 in einem shell-Skript aus? Die floating-point-zahlen sind, gezogen aus einer Datei als string. Das format der Datei ist wie folgt: 1.5493482,3.49384,33.284732,23.043852,2.2384... 3.384,3.282342,23.043852,2.23284,8.39283... . . . Hier ist etwas Vereinfachtes Beispiel-code, den
3
Antworten
Ich habe float-Zahl in string. es gibt ein problem. Number verwendet "." nicht "," als Dezimaltrennzeichen. Dieser code funktioniert nicht: MyNumber = float.Parse("123.5"); Weiß ich, dass ich die Verwendung von string-ersetzen-Funktion "reparieren" in diesem string vor dem
3
Antworten
Fehlermeldung geworfen
4
Antworten
Gibt es einen einfachen Weg, um echo eine float-Zahl mit einer bestimmten Anzahl von Ziffern nach dem Komma? Beispiel: $sum = 3.1234566768; ich möchte echo $Summe ein und erhalten: 3.12. InformationsquelleAutor Nayish | 2012-03-06