Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
Umwandeln unbekannte Schnittstelle zu float64 in Golang
2 Antworten
So, ich erhalte eine Schnittstelle{}, aber ich möchte in jeder möglichen Weise zu konvertieren, um ein float64 oder einen Fehler zurückgeben, falls nicht möglich. Hier ist, was ich Tue: func getFloat(unk interface{}) (float64, error) { if v_flt,
Vertretung der float-Werte in Java
4 Antworten
Blick auf die drei Zeilen code unter. float f = 1; float g = 1.1; float h = 1.1f; Zweite Zeile hat Kompilierungsfehler, während die anderen Linien haben keine Kompilierungsfehler auftreten. Erste Zeile ist in Ordnung, die
Float32 zu Float16
3 Antworten
Kann mir jemand erklären, wie ich konvertiert eine 32-bit-floating-point-Wert in eine 16-bit-floating-point-Wert? (s = Vorzeichen e = exponent und m = Mantisse) Wenn 32-bit float ist 1s7e24m Und 16-bit-float ist 1s5e10m Dann ist es so einfach wie
Bestimmen, ob ein string, ein integer oder ein float in ANSI-C
9 Antworten
Nur mit ANSI-C, was ist der beste Weg, um mit ziemlicher Sicherheit zu bestimmen, wenn ein C-Stil-string ist entweder eine ganze Zahl oder eine reelle Zahl (ich.e float/double)? InformationsquelleAutor Christopher Dolan | 2008-09-16
Konvertierung binary floating-point floating-point in hex
2 Antworten
Ich habe zum Beispiel 0 100 1110 sign exponent mantisa dies ist gleich 3.75. Wie konvertieren Sie es in hexadezimale oder oktale form? Gesucht hab ich wirklich hart für ein paar Stunden. Bitte helfen Sie. Könnten Sie
FEHLER "cannot convert 'float' in 'float...'..."
2 Antworten
Gibt es wahrscheinlich andere kleine Formatierungsfehler hier, die werde ich brauchen, um zu beheben, etc. was ich aber brauche Hilfe mit dem ist, was mit den folgenden: Lab8pt1.cpp: In function 'float Gehalt(float, float)': Lab8pt1.cpp:48: Fehler: Zuweisung der
Warum AWK verweigern Summe bis schwebt
1 Antworten
Ich bin vor ein ziemlich seltsames problem mitawk wo ich will, zu berechnen den Durchschnitt einer Spalte. Dies ist der test-Eingang mit meinem Datei: 1 2 0.4 0.250 0.225 0.221 0.220 0.218 - Und dies ist das
Konvertieren Liste oder numpy-array aus single-element auf float in python
4 Antworten
Ich habe eine Funktion, die die Annahme kann entweder eine Liste oder ein numpy-array. In jedem Fall, die Liste/array hat ein element (immer). Ich muss nur return float. So, z.B., die ich empfangen konnte: list_ = [4]
Wie man float in Byte?
6 Antworten
Ich bin mit dem HIDAPI, um Daten zu senden, um ein USB-Gerät. Diese Daten können nur gesendet werden, als byte array und muss ich senden Sie ein paar float zahlen in das Daten-array. Ich weiß, schwimmt haben
Was haben diese drei spezielle floating-point-Werte bedeuten: positive Unendlichkeit, negative Unendlichkeit, NaN?
6 Antworten
Wie können wir Sie nutzen in unserer codes, und was wird die Ursache NaN(not a number)? InformationsquelleAutor Johanna | 2009-06-17
Aufbau einer 32-bit-float-out der 4 composite bytes
5 Antworten
Ich versuche zu bauen, ein 32-bit-float-out der 4 composite-bytes. Gibt es eine bessere (oder mehr tragbare) Weg, dies zu tun, als mit der folgenden Methode? #include <iostream> typedef unsigned char uchar; float bytesToFloat(uchar b0, uchar b1, uchar
Division ein double mit integer
3 Antworten
Stehe ich vor einem Problem beim teilen einer double mit einem int. Code-snippet : double db = 10; int fac = 100; double res = db / fac; Den Wert von res wird 0.10000000000000001 statt 0.10. Weiß
Wie Sie manuell (bitweise) durchführen (float)x?
3 Antworten
Nun, hier ist die header-Funktion von der Funktion bin ich soll zu implementieren: /* * float_from_int - Return bit-level equivalent of expression (float) x * Result is returned as unsigned int, but * it is to be
Die Manipulation und Vergleich von floating-points in java
8 Antworten
In Java der Gleitkomma-Arithmetik ist nicht vertreten, genau. Zum Beispiel dieser java-code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not
Hexadezimal-Darstellungen der 32-bit-zahlen
3 Antworten
Ich habe ein Skript, das generiert zwei zufällige 32-bit-floating-point-zahlen a und b, und teilt Sie, um eine Ausgabe c. Ich würde gerne speichern, alle 3 dieser floating-point-zahlen in hexadezimal-format als eine Zeichenfolge mit 8 Zeichen. Fand ich
Floating Point, wie viel kann ich Vertrauen, kleiner als / größer als-Vergleiche?
5 Antworten
Sagen wir, ich habe zwei floating-point-zahlen, und ich will um Sie zu vergleichen. Wenn einer größer ist als der andere, sollte das Programm nehmen Sie eine Gabel. Wenn das Gegenteil wahr ist, es sollte einen anderen Weg
Sauberste Weg, um konvertieren von einem `Doppel - ` oder `Single` auf `Integer`, ohne Rundung
4 Antworten
Konvertierung einer Gleitkommazahl in eine ganze Zahl entweder CInt oder CType verursachen wird, der Wert, die Zahl gerundet werden soll. Die Int Funktion und Math.Floor kann verwendet werden, zum konvertieren einer Gleitkommazahl in eine ganze Zahl und
Extended (80 bit) double floating-point-in-x87, nicht SSE2 - wir verpassen Sie es nicht?
4 Antworten
Las ich heute über Forscher entdecken, dass NVidia Phys-X-Bibliotheken verwenden, x87-FP vs. SSE2. Natürlich wird dies suboptimal für die parallele Datensätze, wo Geschwindigkeit Trumpf Präzision. Allerdings, der Autor des Artikels geht auf Zitat: Intel begonnen, entmutigt die
Wie zu zwingen, python-float-Betrieb auf float32 eher als float64
1 Antworten
Ich will ein paar maths float operation(+,-,x,/) auf float32 eher als float64. Ich brauche diese Operationen auf number oder numpy.array. Und einige mathematische Funktionen von numpy, wie sqrt mean http://docs.scipy.org/doc/numpy/user/basics.types.html InformationsquelleAutor Samuel | 2013-12-25
Schreiben Sie ein Bild mit floating-point-Werte
6 Antworten
Mein code liest ein RGB-Bild, die Verarbeitung zu produzieren floating-point-Ergebnisse. Wie kann ich schreiben Sie diese Werte als Bild, die Aufrechterhaltung dieser floating-point-Werten in Matlab 7.6.0 (R2008a)? InformationsquelleAutor Student | 2012-12-22
Drucken Sie ein Schwimmer nach Multiplikation in MIPS
1 Antworten
.data time: .float 310.4, 390.8 miles: .float 12.0, 96.2 .text li $t0, 3 #terminating value li $t1, 4 #byte shifting li $t2, 1 #i increments by 1 la $a1, time # put address of time into $a1
Gibt es einen Unterschied in der Verwendung von %f, %e, %g, %E oder %G mit scanf?
5 Antworten
In C, gibt es einen Unterschied in der format-Spezifizierer %f, %e, %g, %E und %G, wenn verwendet, zu Lesen in einer float-Variablen mit scanf? Das heißt, wird das Verhalten der code-snippet float x; scanf("%<one of f, e,
Lange float-Zahl Ausgabe zeigt Buchstaben
5 Antworten
Ich habe den folgenden code: String curDir = "."; File fileObject = new File(curDir); File fileList = fileObject.listFiles(); float fileLengthMegabytes = (float)fileList[i].length() / 1000000; Die Methode fileList[i].Länge() gibt 311 Byte als Typ Long. Den vorherigen code ergibt
Half-precision floating-point in Java
4 Antworten
Gibt es eine Java-Bibliothek überall ausführen können Berechnungen auf IEEE 754 halb-Präzision zahlen oder konvertieren Sie Sie in und aus double-precision? Ansätze geeignet wären: Halten Sie die zahlen in der Hälfte-precision-format und berechnen unter Verwendung der integer-Arithmetik
Volle Genauigkeit der Ausgabe von Gleitkomma-Datentypen in SQL Server Management Studio
3 Antworten
Habe ich den Wert 1555.4899999999998 gespeichert float Spalte mit Standard-Genauigkeit (53). Wenn ich eine einfache select, SSMS Runden die Ausgabe anstatt Druck mit allen zur Verfügung stehenden Präzision. Es verursacht einige Probleme für mich vor kurzem, da
wie setzen numpy floating-point-Genauigkeit?
3 Antworten
Ich habe gerade berechnet, die gleiche Anzahl auf zwei verschiedene Arten, aber in numpy, macht es ein Fehler [[ 0.910221324013388510820732335560023784637451171875]] [[-0.9102213240133882887761274105287156999111175537109375]] diese Zahl ist die gleiche bis zu e^(-15), unterscheidet sich aber danach. Wie behandle ich diesen
Griff von Dezimalzahlen in mysqli
1 Antworten
Ich die Preise für einige Einträge in einer mysql-Tabelle. Beim erstellen der Tabelle bin ich mit DECIMAL(10,2) wie ich brauchen nicht mehr als 2 Ziffern nach dem Komma (z.B.: 123,45 akzeptiert werden würde als ein Eingang aber
PowerShell-Round & Format Float max 2 Nachkommastellen?
2 Antworten
Fand ich viele Sachen zu formatieren schwimmt auf bekannte zahlen, aber wie kann ich formatieren Sie ein Schwimmer an maximal 2 Nachkommastellen, aber nur, wenn die Nachkommastellen werden benötigt? Beispiele: 1.11 # not 1.111 1.12 # it
Format float, um die Anzeige in einen string mit zwei Ziffern?
2 Antworten
NSString *timerend = [[NSString alloc] initWithFormat:@"%.0f:%.0f:%02d", hours, minutes, seconds]; Also ich habe diese Zeichenfolge und einer Reihe von Schwimmern. Zum Beispiel, sagen Sekunden = 6.54. Es wird angezeigt, wie, dass. Ich will, dass es zur Anzeige wie
Reelle zahlen - wie Sie feststellen, ob float oder double ist erforderlich?
6 Antworten
Einen echten Wert gegeben, können wir prüfen, ob eine float Datentyp ist genug, um die Nummer zu speichern, oder eine double erforderlich ist? Ich weiß, Präzision variiert von Architektur zu Architektur. Gibt es eine C/C++ - Funktion,
Formatierung Schwimmer in Python ohne nachfolgende Nullen
15 Antworten
Wie kann ich das format ein float, so dass es nicht enthalten nachfolgende Nullen? In anderen Worten, ich möchte die resultierende Zeichenfolge so kurz wie möglich. Beispiel: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1
Ist es ein float input type HTML5?
7 Antworten
Laut html5.org, die "Anzahl" input type "value-Attribut, wenn angegeben und nicht leer ist, muss über einen Wert verfügen, der eine gültige floating point Zahl." Aber es ist einfach (in der neuesten version von Chrome, sowieso), ein "updown"
Datentyp zum Speichern von Längen - /Breitengrad in Mysql
2 Antworten
'43.005895','-71.013202' Versuchen, zu verwenden: INSERT INTO table(fanDetLocZip, fanDetLocCity, fanDetLocState, fanDetLocLat, fanDetLocLong, fanDetLocTZ, fanDetLocDST) VALUES(00210, 'Portsmouth', 'NH', '43.005895', '-71.013202', -5, 1); Ich bin derzeit mit dem Datentyp SPATIAL, GEOMETRY. Sein gibt mir Fehler wie: Nicht bekommen geometry-Objekt aus
Wie um zu überprüfen, ob Sie ein Doppel maximal n Nachkommastellen?
7 Antworten
Derzeit habe ich diese Methode: static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d * multiplier; check = Math.round(check); check = check/multiplier; return (d==check); } Aber diese
Wie zu vermeiden, floating-point-Fehler?
1 Antworten
War ich zu schreiben versucht, eine Funktion zu approximieren, die Quadrat-Wurzeln (ich weiß, es gibt die Mathematik-Modul...ich will es selbst zu tun), und ich war immer über geschraubt durch die floating point Arithmetik. Wie kann man das
Convert floating-point-Zahl auf eine bestimmte Genauigkeit, und kopieren Sie dann auf Zeichenfolge
7 Antworten
Habe ich eine Gleitkomma-Zahl, sagen 135.12345678910. Ich verketten möchten, dass der Wert ein string ist, sondern nur 135.123456789. Mit drucken, kann ich dies ganz einfach indem Sie etwas wie: print "%.9f" % numvar mit numvar meine ursprüngliche
Ändern Gleitkomma-Rundung-Modus
2 Antworten
Was ist die effizienteste Methode zum ändern der Rundung-Modus* IEEE 754 floating-point-zahlen? Eine portable C-Funktion wäre schön, aber eine Lösung mit x86-assembly ist auch ok. *Ich bin auf die standard-Modi Rundung zum nächsten, in Richtung null, und
Ausgabe unterschiedliche Präzision bei der Spalte mit den pandas.DataFrame.to_csv()?
5 Antworten
Frage Ist es möglich, an eine float-Präzision, die speziell für jede Spalte gedruckt werden soll, indem Sie das Python - pandas Paket-Methode pandas.DataFrame.to_csv? Hintergrund Wenn ich eine pandas dataframe, angeordnet ist, wie dies: In [53]: df_data[:5] Out[53]:
jQuery input-Validierung für double/float
3 Antworten
Was ist die beste Methode, um die Maske ein Eingabefeld, um nur erlauben, float/double, ohne jquery-plugin. Eigentlich mache ich es so: $("#defaultvalue").bind("keypress", function(e) { if (e.which != 8 && e.which != 0 && (e.which < 48 ||
Javascript float subtrahieren
5 Antworten
Ich Frage mich, wie kann ich subtrahieren zwei negative Floating-Point-zahlen in javascript. Ich habe versucht: alert(-0.2-0.1); und das Ergebnis ist -0.30000000000000004. Mache ich etwas falsch? Was muss ich tun, um -0.3 ? Ihr nicht die Subtraktion von
Floating-point-Arithmetik in UNIX-shell-Skript
4 Antworten
Wie rechnen mit Gleitkomma-zahlen wie 1.503923 in einem shell-Skript aus? Die floating-point-zahlen sind, gezogen aus einer Datei als string. Das format der Datei ist wie folgt: 1.5493482,3.49384,33.284732,23.043852,2.2384... 3.384,3.282342,23.043852,2.23284,8.39283... . . . Hier ist etwas Vereinfachtes Beispiel-code, den
Parsen von string zu float-Zahl in C#
3 Antworten
Ich habe float-Zahl in string. es gibt ein problem. Number verwendet "." nicht "," als Dezimaltrennzeichen. Dieser code funktioniert nicht: MyNumber = float.Parse("123.5"); Weiß ich, dass ich die Verwendung von string-ersetzen-Funktion "reparieren" in diesem string vor dem
Drucken, PHP float mit 2 Ziffern nach dem Komma?
4 Antworten
Gibt es einen einfachen Weg, um echo eine float-Zahl mit einer bestimmten Anzahl von Ziffern nach dem Komma? Beispiel: $sum = 3.1234566768; ich möchte echo $Summe ein und erhalten: 3.12. InformationsquelleAutor Nayish | 2012-03-06
SQL set-floating-point-Präzision
2 Antworten
Für eine SQL-int, der konvertiert wird an einem Schwimmer, wie kann ich die Genauigkeit der floating-point-Zahl? Dies ist die Auswahl möchte ich abschneiden, um zwei oder 3 Dezimalstellen: AVG(Cast(e.employee_level as Float))avg_level, Dank! InformationsquelleAutor CodeKingPlusPlus | 2012-06-20
Wie man ein bestimmter Typ-Objekt aus einem Objekt Vector in Java
6 Antworten
Habe ich Folgendes Vector und zur Laufzeit möchte ich weitergeben es eine Integer, Character oder Float: public static Vector<Object> interestingValues = new Vector<Object>(); Gleichzeitig möchte ich, um eine Integer, Float oder Character aus, so gibt es zwei
Die Multiplikation von zwei floats nicht geben genaue Ergebnis
4 Antworten
Ich versuche multiplizieren von zwei floats wie folgt: float number1 = 321.12; float number2 = 345.34; float rexsult = number1 * number2; Den Ergebnissen, die ich sehen wollen, ist 110895.582, aber wenn ich den code ausführen, es
Wie Berechnen Double + Float-Präzision
4 Antworten
Habe ich versucht zu finden, wie die Berechnung der Floating - /Double precision/- Bereich zahlen -3.402823e38 .. 3.402823e38 und -1.79769313486232e308 .. 1.79769313486232e308. Für int32 Sie tun würde 2^32=4294967296/2 erhält man einen Bereich von -2147483648 bis 2147483647. Also,
int() vs float() Eingaben in Python 3 und Ihr nutzen?
3 Antworten
Das bezieht sich nicht auf einen bestimmten code von mir, so dass ich hoffe, dies wird nicht trotzen community-standards, Fragen zu stellen. Ich bin immer noch lernen, also bitte lassen Sie mich wissen, wenn diese Art der
Konvertieren von float in string mit Präzision & Anzahl der Nachkommastellen angegeben?
5 Antworten
Wie rechnet man einen float in einen string in C++ unter Angabe der Präzision & Anzahl der Nachkommastellen)? Beispiel: 3.14159265359 -> "3.14" warum nicht erstellen eine temp float mit der angegebenen Genauigkeit, die Sie wollen und konvertieren