Tag: floating-point

Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.

Umwandeln unbekannte Schnittstelle zu float64 in Golang

Anzahl der Antworten 2 Antworten
So, ich erhalte eine Schnittstelle{}, aber ich möchte in jeder möglichen Weise zu konvertieren, um ein float64 oder einen Fehler zurückgeben, falls nicht möglich. Hier ist, was ich Tue: func getFloat(unk interface{}) (float64, error) { if v_flt,

Vertretung der float-Werte in Java

Anzahl der Antworten 4 Antworten
Blick auf die drei Zeilen code unter. float f = 1; float g = 1.1; float h = 1.1f; Zweite Zeile hat Kompilierungsfehler, während die anderen Linien haben keine Kompilierungsfehler auftreten. Erste Zeile ist in Ordnung, die

Float32 zu Float16

Anzahl der Antworten 3 Antworten
Kann mir jemand erklären, wie ich konvertiert eine 32-bit-floating-point-Wert in eine 16-bit-floating-point-Wert? (s = Vorzeichen e = exponent und m = Mantisse) Wenn 32-bit float ist 1s7e24m Und 16-bit-float ist 1s5e10m Dann ist es so einfach wie

Bestimmen, ob ein string, ein integer oder ein float in ANSI-C

Anzahl der Antworten 9 Antworten
Nur mit ANSI-C, was ist der beste Weg, um mit ziemlicher Sicherheit zu bestimmen, wenn ein C-Stil-string ist entweder eine ganze Zahl oder eine reelle Zahl (ich.e float/double)? InformationsquelleAutor Christopher Dolan | 2008-09-16

Konvertierung binary floating-point floating-point in hex

Anzahl der Antworten 2 Antworten
Ich habe zum Beispiel 0 100 1110 sign exponent mantisa dies ist gleich 3.75. Wie konvertieren Sie es in hexadezimale oder oktale form? Gesucht hab ich wirklich hart für ein paar Stunden. Bitte helfen Sie. Könnten Sie

FEHLER "cannot convert 'float' in 'float...'..."

Anzahl der Antworten 2 Antworten
Gibt es wahrscheinlich andere kleine Formatierungsfehler hier, die werde ich brauchen, um zu beheben, etc. was ich aber brauche Hilfe mit dem ist, was mit den folgenden: Lab8pt1.cpp: In function 'float Gehalt(float, float)': Lab8pt1.cpp:48: Fehler: Zuweisung der

Warum AWK verweigern Summe bis schwebt

Anzahl der Antworten 1 Antworten
Ich bin vor ein ziemlich seltsames problem mitawk wo ich will, zu berechnen den Durchschnitt einer Spalte. Dies ist der test-Eingang mit meinem Datei: 1 2 0.4 0.250 0.225 0.221 0.220 0.218 - Und dies ist das

Konvertieren Liste oder numpy-array aus single-element auf float in python

Anzahl der Antworten 4 Antworten
Ich habe eine Funktion, die die Annahme kann entweder eine Liste oder ein numpy-array. In jedem Fall, die Liste/array hat ein element (immer). Ich muss nur return float. So, z.B., die ich empfangen konnte: list_ = [4]

Wie man float in Byte?

Anzahl der Antworten 6 Antworten
Ich bin mit dem HIDAPI, um Daten zu senden, um ein USB-Gerät. Diese Daten können nur gesendet werden, als byte array und muss ich senden Sie ein paar float zahlen in das Daten-array. Ich weiß, schwimmt haben

Was haben diese drei spezielle floating-point-Werte bedeuten: positive Unendlichkeit, negative Unendlichkeit, NaN?

Anzahl der Antworten 6 Antworten
Wie können wir Sie nutzen in unserer codes, und was wird die Ursache NaN(not a number)? InformationsquelleAutor Johanna | 2009-06-17

Aufbau einer 32-bit-float-out der 4 composite bytes

Anzahl der Antworten 5 Antworten
Ich versuche zu bauen, ein 32-bit-float-out der 4 composite-bytes. Gibt es eine bessere (oder mehr tragbare) Weg, dies zu tun, als mit der folgenden Methode? #include <iostream> typedef unsigned char uchar; float bytesToFloat(uchar b0, uchar b1, uchar

Division ein double mit integer

Anzahl der Antworten 3 Antworten
Stehe ich vor einem Problem beim teilen einer double mit einem int. Code-snippet : double db = 10; int fac = 100; double res = db / fac; Den Wert von res wird 0.10000000000000001 statt 0.10. Weiß

Wie Sie manuell (bitweise) durchführen (float)x?

Anzahl der Antworten 3 Antworten
Nun, hier ist die header-Funktion von der Funktion bin ich soll zu implementieren: /* * float_from_int - Return bit-level equivalent of expression (float) x * Result is returned as unsigned int, but * it is to be

Die Manipulation und Vergleich von floating-points in java

Anzahl der Antworten 8 Antworten
In Java der Gleitkomma-Arithmetik ist nicht vertreten, genau. Zum Beispiel dieser java-code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not

Hexadezimal-Darstellungen der 32-bit-zahlen

Anzahl der Antworten 3 Antworten
Ich habe ein Skript, das generiert zwei zufällige 32-bit-floating-point-zahlen a und b, und teilt Sie, um eine Ausgabe c. Ich würde gerne speichern, alle 3 dieser floating-point-zahlen in hexadezimal-format als eine Zeichenfolge mit 8 Zeichen. Fand ich

Floating Point, wie viel kann ich Vertrauen, kleiner als / größer als-Vergleiche?

Anzahl der Antworten 5 Antworten
Sagen wir, ich habe zwei floating-point-zahlen, und ich will um Sie zu vergleichen. Wenn einer größer ist als der andere, sollte das Programm nehmen Sie eine Gabel. Wenn das Gegenteil wahr ist, es sollte einen anderen Weg

Sauberste Weg, um konvertieren von einem `Doppel - ` oder `Single` auf `Integer`, ohne Rundung

Anzahl der Antworten 4 Antworten
Konvertierung einer Gleitkommazahl in eine ganze Zahl entweder CInt oder CType verursachen wird, der Wert, die Zahl gerundet werden soll. Die Int Funktion und Math.Floor kann verwendet werden, zum konvertieren einer Gleitkommazahl in eine ganze Zahl und

Extended (80 bit) double floating-point-in-x87, nicht SSE2 - wir verpassen Sie es nicht?

Anzahl der Antworten 4 Antworten
Las ich heute über Forscher entdecken, dass NVidia Phys-X-Bibliotheken verwenden, x87-FP vs. SSE2. Natürlich wird dies suboptimal für die parallele Datensätze, wo Geschwindigkeit Trumpf Präzision. Allerdings, der Autor des Artikels geht auf Zitat: Intel begonnen, entmutigt die

Wie zu zwingen, python-float-Betrieb auf float32 eher als float64

Anzahl der Antworten 1 Antworten
Ich will ein paar maths float operation(+,-,x,/) auf float32 eher als float64. Ich brauche diese Operationen auf number oder numpy.array. Und einige mathematische Funktionen von numpy, wie sqrt mean http://docs.scipy.org/doc/numpy/user/basics.types.html InformationsquelleAutor Samuel | 2013-12-25

Schreiben Sie ein Bild mit floating-point-Werte

Anzahl der Antworten 6 Antworten
Mein code liest ein RGB-Bild, die Verarbeitung zu produzieren floating-point-Ergebnisse. Wie kann ich schreiben Sie diese Werte als Bild, die Aufrechterhaltung dieser floating-point-Werten in Matlab 7.6.0 (R2008a)? InformationsquelleAutor Student | 2012-12-22

Drucken Sie ein Schwimmer nach Multiplikation in MIPS

Anzahl der Antworten 1 Antworten
.data time: .float 310.4, 390.8 miles: .float 12.0, 96.2 .text li $t0, 3 #terminating value li $t1, 4 #byte shifting li $t2, 1 #i increments by 1 la $a1, time # put address of time into $a1

Gibt es einen Unterschied in der Verwendung von %f, %e, %g, %E oder %G mit scanf?

Anzahl der Antworten 5 Antworten
In C, gibt es einen Unterschied in der format-Spezifizierer %f, %e, %g, %E und %G, wenn verwendet, zu Lesen in einer float-Variablen mit scanf? Das heißt, wird das Verhalten der code-snippet float x; scanf("%<one of f, e,

Lange float-Zahl Ausgabe zeigt Buchstaben

Anzahl der Antworten 5 Antworten
Ich habe den folgenden code: String curDir = "."; File fileObject = new File(curDir); File fileList = fileObject.listFiles(); float fileLengthMegabytes = (float)fileList[i].length() / 1000000; Die Methode fileList[i].Länge() gibt 311 Byte als Typ Long. Den vorherigen code ergibt

Half-precision floating-point in Java

Anzahl der Antworten 4 Antworten
Gibt es eine Java-Bibliothek überall ausführen können Berechnungen auf IEEE 754 halb-Präzision zahlen oder konvertieren Sie Sie in und aus double-precision? Ansätze geeignet wären: Halten Sie die zahlen in der Hälfte-precision-format und berechnen unter Verwendung der integer-Arithmetik

Volle Genauigkeit der Ausgabe von Gleitkomma-Datentypen in SQL Server Management Studio

Anzahl der Antworten 3 Antworten
Habe ich den Wert 1555.4899999999998 gespeichert float Spalte mit Standard-Genauigkeit (53). Wenn ich eine einfache select, SSMS Runden die Ausgabe anstatt Druck mit allen zur Verfügung stehenden Präzision. Es verursacht einige Probleme für mich vor kurzem, da

wie setzen numpy floating-point-Genauigkeit?

Anzahl der Antworten 3 Antworten
Ich habe gerade berechnet, die gleiche Anzahl auf zwei verschiedene Arten, aber in numpy, macht es ein Fehler [[ 0.910221324013388510820732335560023784637451171875]] [[-0.9102213240133882887761274105287156999111175537109375]] diese Zahl ist die gleiche bis zu e^(-15), unterscheidet sich aber danach. Wie behandle ich diesen

Griff von Dezimalzahlen in mysqli

Anzahl der Antworten 1 Antworten
Ich die Preise für einige Einträge in einer mysql-Tabelle. Beim erstellen der Tabelle bin ich mit DECIMAL(10,2) wie ich brauchen nicht mehr als 2 Ziffern nach dem Komma (z.B.: 123,45 akzeptiert werden würde als ein Eingang aber

PowerShell-Round & Format Float max 2 Nachkommastellen?

Anzahl der Antworten 2 Antworten
Fand ich viele Sachen zu formatieren schwimmt auf bekannte zahlen, aber wie kann ich formatieren Sie ein Schwimmer an maximal 2 Nachkommastellen, aber nur, wenn die Nachkommastellen werden benötigt? Beispiele: 1.11 # not 1.111 1.12 # it

Format float, um die Anzeige in einen string mit zwei Ziffern?

Anzahl der Antworten 2 Antworten
NSString *timerend = [[NSString alloc] initWithFormat:@"%.0f:%.0f:%02d", hours, minutes, seconds]; Also ich habe diese Zeichenfolge und einer Reihe von Schwimmern. Zum Beispiel, sagen Sekunden = 6.54. Es wird angezeigt, wie, dass. Ich will, dass es zur Anzeige wie

Reelle zahlen - wie Sie feststellen, ob float oder double ist erforderlich?

Anzahl der Antworten 6 Antworten
Einen echten Wert gegeben, können wir prüfen, ob eine float Datentyp ist genug, um die Nummer zu speichern, oder eine double erforderlich ist? Ich weiß, Präzision variiert von Architektur zu Architektur. Gibt es eine C/C++ - Funktion,

Formatierung Schwimmer in Python ohne nachfolgende Nullen

Anzahl der Antworten 15 Antworten
Wie kann ich das format ein float, so dass es nicht enthalten nachfolgende Nullen? In anderen Worten, ich möchte die resultierende Zeichenfolge so kurz wie möglich. Beispiel: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1

Ist es ein float input type HTML5?

Anzahl der Antworten 7 Antworten
Laut html5.org, die "Anzahl" input type "value-Attribut, wenn angegeben und nicht leer ist, muss über einen Wert verfügen, der eine gültige floating point Zahl." Aber es ist einfach (in der neuesten version von Chrome, sowieso), ein "updown"

Datentyp zum Speichern von Längen - /Breitengrad in Mysql

Anzahl der Antworten 2 Antworten
'43.005895','-71.013202' Versuchen, zu verwenden: INSERT INTO table(fanDetLocZip, fanDetLocCity, fanDetLocState, fanDetLocLat, fanDetLocLong, fanDetLocTZ, fanDetLocDST) VALUES(00210, 'Portsmouth', 'NH', '43.005895', '-71.013202', -5, 1); Ich bin derzeit mit dem Datentyp SPATIAL, GEOMETRY. Sein gibt mir Fehler wie: Nicht bekommen geometry-Objekt aus

Wie um zu überprüfen, ob Sie ein Doppel maximal n Nachkommastellen?

Anzahl der Antworten 7 Antworten
Derzeit habe ich diese Methode: static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d * multiplier; check = Math.round(check); check = check/multiplier; return (d==check); } Aber diese

Wie zu vermeiden, floating-point-Fehler?

Anzahl der Antworten 1 Antworten
War ich zu schreiben versucht, eine Funktion zu approximieren, die Quadrat-Wurzeln (ich weiß, es gibt die Mathematik-Modul...ich will es selbst zu tun), und ich war immer über geschraubt durch die floating point Arithmetik. Wie kann man das

Convert floating-point-Zahl auf eine bestimmte Genauigkeit, und kopieren Sie dann auf Zeichenfolge

Anzahl der Antworten 7 Antworten
Habe ich eine Gleitkomma-Zahl, sagen 135.12345678910. Ich verketten möchten, dass der Wert ein string ist, sondern nur 135.123456789. Mit drucken, kann ich dies ganz einfach indem Sie etwas wie: print "%.9f" % numvar mit numvar meine ursprüngliche

Ändern Gleitkomma-Rundung-Modus

Anzahl der Antworten 2 Antworten
Was ist die effizienteste Methode zum ändern der Rundung-Modus* IEEE 754 floating-point-zahlen? Eine portable C-Funktion wäre schön, aber eine Lösung mit x86-assembly ist auch ok. *Ich bin auf die standard-Modi Rundung zum nächsten, in Richtung null, und

Ausgabe unterschiedliche Präzision bei der Spalte mit den pandas.DataFrame.to_csv()?

Anzahl der Antworten 5 Antworten
Frage Ist es möglich, an eine float-Präzision, die speziell für jede Spalte gedruckt werden soll, indem Sie das Python - pandas Paket-Methode pandas.DataFrame.to_csv? Hintergrund Wenn ich eine pandas dataframe, angeordnet ist, wie dies: In [53]: df_data[:5] Out[53]:

jQuery input-Validierung für double/float

Anzahl der Antworten 3 Antworten
Was ist die beste Methode, um die Maske ein Eingabefeld, um nur erlauben, float/double, ohne jquery-plugin. Eigentlich mache ich es so: $("#defaultvalue").bind("keypress", function(e) { if (e.which != 8 && e.which != 0 && (e.which < 48 ||

Javascript float subtrahieren

Anzahl der Antworten 5 Antworten
Ich Frage mich, wie kann ich subtrahieren zwei negative Floating-Point-zahlen in javascript. Ich habe versucht: alert(-0.2-0.1); und das Ergebnis ist -0.30000000000000004. Mache ich etwas falsch? Was muss ich tun, um -0.3 ? Ihr nicht die Subtraktion von

Floating-point-Arithmetik in UNIX-shell-Skript

Anzahl der Antworten 4 Antworten
Wie rechnen mit Gleitkomma-zahlen wie 1.503923 in einem shell-Skript aus? Die floating-point-zahlen sind, gezogen aus einer Datei als string. Das format der Datei ist wie folgt: 1.5493482,3.49384,33.284732,23.043852,2.2384... 3.384,3.282342,23.043852,2.23284,8.39283... . . . Hier ist etwas Vereinfachtes Beispiel-code, den

Parsen von string zu float-Zahl in C#

Anzahl der Antworten 3 Antworten
Ich habe float-Zahl in string. es gibt ein problem. Number verwendet "." nicht "," als Dezimaltrennzeichen. Dieser code funktioniert nicht: MyNumber = float.Parse("123.5"); Weiß ich, dass ich die Verwendung von string-ersetzen-Funktion "reparieren" in diesem string vor dem

"ist kein Gültiger Gleitkommawert delphi

Anzahl der Antworten 3 Antworten
Fehlermeldung geworfen

Drucken, PHP float mit 2 Ziffern nach dem Komma?

Anzahl der Antworten 4 Antworten
Gibt es einen einfachen Weg, um echo eine float-Zahl mit einer bestimmten Anzahl von Ziffern nach dem Komma? Beispiel: $sum = 3.1234566768; ich möchte echo $Summe ein und erhalten: 3.12. InformationsquelleAutor Nayish | 2012-03-06

SQL set-floating-point-Präzision

Anzahl der Antworten 2 Antworten
Für eine SQL-int, der konvertiert wird an einem Schwimmer, wie kann ich die Genauigkeit der floating-point-Zahl? Dies ist die Auswahl möchte ich abschneiden, um zwei oder 3 Dezimalstellen: AVG(Cast(e.employee_level as Float))avg_level, Dank! InformationsquelleAutor CodeKingPlusPlus | 2012-06-20

Wie man ein bestimmter Typ-Objekt aus einem Objekt Vector in Java

Anzahl der Antworten 6 Antworten
Habe ich Folgendes Vector und zur Laufzeit möchte ich weitergeben es eine Integer, Character oder Float: public static Vector<Object> interestingValues = new Vector<Object>(); Gleichzeitig möchte ich, um eine Integer, Float oder Character aus, so gibt es zwei

Die Multiplikation von zwei floats nicht geben genaue Ergebnis

Anzahl der Antworten 4 Antworten
Ich versuche multiplizieren von zwei floats wie folgt: float number1 = 321.12; float number2 = 345.34; float rexsult = number1 * number2; Den Ergebnissen, die ich sehen wollen, ist 110895.582, aber wenn ich den code ausführen, es

Wie Berechnen Double + Float-Präzision

Anzahl der Antworten 4 Antworten
Habe ich versucht zu finden, wie die Berechnung der Floating - /Double precision/- Bereich zahlen -3.402823e38 .. 3.402823e38 und -1.79769313486232e308 .. 1.79769313486232e308. Für int32 Sie tun würde 2^32=4294967296/2 erhält man einen Bereich von -2147483648 bis 2147483647. Also,

int() vs float() Eingaben in Python 3 und Ihr nutzen?

Anzahl der Antworten 3 Antworten
Das bezieht sich nicht auf einen bestimmten code von mir, so dass ich hoffe, dies wird nicht trotzen community-standards, Fragen zu stellen. Ich bin immer noch lernen, also bitte lassen Sie mich wissen, wenn diese Art der

Konvertieren von float in string mit Präzision & Anzahl der Nachkommastellen angegeben?

Anzahl der Antworten 5 Antworten
Wie rechnet man einen float in einen string in C++ unter Angabe der Präzision & Anzahl der Nachkommastellen)? Beispiel: 3.14159265359 -> "3.14" warum nicht erstellen eine temp float mit der angegebenen Genauigkeit, die Sie wollen und konvertieren