Tag: ieee-754

IEEE-754 das Institute of Electrical and Electronics Engineers standard for floating-point-Berechnung, und ist die häufigste & weit verbreitet-floating-point-standard.

Wie um zu überprüfen, ob C++ - compiler verwendet IEEE 754 floating point standard

Anzahl der Antworten 2 Antworten
Ich würde gerne eine Frage zu stellen, folgt diese eine das ist ziemlich gut beantwortet, durch das definieren, prüfen Sie, ob der compiler benutzt den standard. Doch diese woks für C nur. Gibt es eine Möglichkeit, das

Wie Sie sich richtig zu normalisieren, eine floating-point-Wert in C++?

Anzahl der Antworten 5 Antworten
Vielleicht verstehe ich nicht die IEEE754-standard, der viel, aber da eine Reihe von floating-point-Werte float oder double zum Beispiel : 56.543f 3238.124124f 121.3f ... sind Sie in der Lage, konvertieren Sie Sie in Werten von 0 zu

Gibt es eine open-source c/c++ - Implementierung von IEEE-754-Operationen?

Anzahl der Antworten 4 Antworten
Ich bin auf der Suche nach einer Referenz-Implementierung von IEEE-754-Operationen. Gibt es so etwas? Meinst du mit "Referenz-Implementierung" im Sinne von "etwas, was ich kopieren kann, und sicher sein, es werden Recht", oder im Sinne von "etwas

Was ist der größte denormalisierte und normalisierten Zahl?(64bit, IEE 754-1985)

Anzahl der Antworten 1 Antworten
Ich bin struggeling mit floating-point-Arithmetik, weil ich wirklich wollen, um dieses Thema zu verstehen! Ich weiß, dass die zahlen in wissenschaftlicher Schreibweise dargestellt. Also für beide zahlen die Exponenten Aussehen sollte: Denormalisierte Zahl: 11....11 so (1+1/2 +

Python-float - str - float-Verrücktheit

Anzahl der Antworten 4 Antworten
>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Was ist hier Los? Wie kann ich umwandeln 0.47000000000000003 string-und die sich ergebenden Wert zurück zu schwimmen? Ich bin mit Python 2.5.4 auf Windows. Hinzugefügt ieee-754-tag RC: ich denke, dass

Wie die Ausgabe IEEE-754-format integer als float

Anzahl der Antworten 5 Antworten
Habe ich eine unsigned long-integer-Wert, der darstellt ein float mit der IEEE-754-format. Was ist der Schnellste Weg, drucken Sie es aus, wie ein float in C++? Ich kenne einen Weg, aber ich Frage mich, ob es ist

Math.pow mit negativen zahlen und nicht-ganzzahlige Potenzen

Anzahl der Antworten 2 Antworten
Der ECMAScript-Spezifikation für Math.pow hat folgende eigenartige Regel: Wenn x < 0 und x endlich ist und y endlich ist und y ist keine ganze Zahl, ist das Ergebnis NaN. (http://es5.github.com/#x15.8.2.13) Als Ergebnis Math.pow(-8, 1 /3) gibt

Warum ist die Zahl.MAX_SAFE_INTEGER 9,007,199,254,740,991 und nicht 9,007,199,254,740,992?

Anzahl der Antworten 2 Antworten
ECMAScript 6 ist Number.MAX_SAFE_INTEGER angeblich repräsentiert der numerische Höchstwert, den JavaScript speichern kann, bevor Sie Probleme mit floating-point-Präzision. Aber es ist eine Anforderung, dass die Zahl 1 addiert zu diesem Wert muss auch darstellbar als Number. Number.MAX_SAFE_INTEGER

Warum sind c/c++ - floating-point-Typen, so seltsam benannt?

Anzahl der Antworten 12 Antworten
C++ bietet drei Fließkomma-Typen: float, double und long double. Ich habe selten mit floating-point in meinem code, aber wenn ich das mache, ich bin immer wieder gefangen von Warnungen auf harmlosen Zeilen wie float PiForSquares = 4.0;

Was ist ein long double ist auf x86-64?

Anzahl der Antworten 3 Antworten
Jemand hat mir gesagt, dass: Unter x86-64, FP-Arithmetik erfolgt mit SSE, und somit long double ist 64 bit. Aber in der x86-64-ABI sagt, dass: C type | sizeof | alignment | AMD64 Architecture long double | 16

Portabilität der binären Serialisierung von double - /float-Typ in C++

Anzahl der Antworten 9 Antworten
Den C++ - standard behandelt nicht die zugrunde liegenden layout von float-und double-Typen, nur der Bereich der Werte, die Sie repräsentieren sollten. (Dies gilt auch für signed-Typen, ist es zwei s Kompliment oder etwas anderes) Meine Frage

Ist es möglich auf 0 durch Subtraktion zwei ungleiche floating-point-zahlen?

Anzahl der Antworten 12 Antworten
Ist es möglich, dass die division durch 0 (oder unendlich) in dem folgenden Beispiel? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b);

IEEE-float-hex 424ce027 zu schweben?

Anzahl der Antworten 6 Antworten
Wenn ich ein IEEE float-hex 424ce027, wie kann ich in das Dezimalformat konvertieren? unsigned char ptr = {0x42,0x4c,0xe0,0x27}; wie zu tun ? float tmp = 51.218899; InformationsquelleAutor golabb | 2011-03-02

Was wäre die kleinste positive Wert eines IEEE-24-bit-float werden?

Anzahl der Antworten 1 Antworten
Die kleinste positive Wert eines IEEE-754 32-bit float ist 2^−149 und das von einem 16-bit-float ist 2^-14. , Wenn der IEEE-754 standardisierten 24-bit-float", was wäre die kleinste positive Wert sein? Entschuldigen Sie mich, wenn dies ausdrücklich irgendwo

In Scala, warum NaN nicht abgeholt wird durch pattern-matching?

Anzahl der Antworten 3 Antworten
Meine Methode ist wie folgt def myMethod(myDouble: Double): Double = myDouble match { case Double.NaN => ... case _ => ... } Den IntelliJ-debugger zeigt NaN aber das ist nicht abgeholt wird, die in mein Suchmuster. Gibt

Wie zu subtrahieren IEEE-754-zahlen?

Anzahl der Antworten 1 Antworten
Wie ziehe ich die IEEE-754-zahlen? Beispiel: 0,546875 - 32.875... -> 0,546875 0 01111110 10001100000000000000000 in IEEE-754 -> -32.875 1 10000111 01000101111000000000000 in IEEE-754 Also wie mache ich die Subtraktion? Ich weiß, dass ich, um die beiden Exponenten

Umwandlung von Int in Float oder Float zu Int Bitweise Operationen (software-floating-point)

Anzahl der Antworten 3 Antworten
Ich Frage mich, ob Sie könnte helfen, erklären, den Prozess der Umwandlung eines integer zu float oder float zu einem integer. Für meine Klasse, wir sind zu diesem Zweck mit nur bitweise Operatoren, aber ich denke, dass

Half-precision floating-point in Java

Anzahl der Antworten 4 Antworten
Gibt es eine Java-Bibliothek überall ausführen können Berechnungen auf IEEE 754 halb-Präzision zahlen oder konvertieren Sie Sie in und aus double-precision? Ansätze geeignet wären: Halten Sie die zahlen in der Hälfte-precision-format und berechnen unter Verwendung der integer-Arithmetik

Verwendet für die negative null-floating-point-Wert?

Anzahl der Antworten 5 Antworten
Betrachten Sie die folgenden C++ code: double someZero = 0; std::cout << 0 - someZero << '\n'; //prints 0 std::cout << -someZero << std::endl; //prints -0 Stellt sich die Frage: was ist negativ null, und sollte es

Was ist der Grund für alle Vergleiche false zurückgeben, für IEEE754 NaN-Werte?

Anzahl der Antworten 13 Antworten
Warum Vergleiche von NaN-Werte Verhalten sich anders als alle anderen Werte? Das heißt, alle Vergleiche mit den Operatoren ==, <=, >=, <, > wo einer oder beide Werte NaN false zurückgibt, im Gegensatz zu dem Verhalten aller

So konvertieren Sie ein IEEE 754-single-precision binary floating-point-zu-dezimal?

Anzahl der Antworten 2 Antworten
Arbeite ich an einem Programm, das konvertieren muss eine 32-bit-Zahl in eine dezimale Zahl. Die Nummer, die ich vom Eingang ist ein 32-bit-Zahl dargestellt, die als floating point. Das erste bit ist das Vorzeichen, die nächsten 8

Große zahlen fälschlicherweise Runden in JavaScript

Anzahl der Antworten 6 Antworten
Finden Sie diesen code: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(jsonString); console.log(jsonString, jsonParsed); </script> </head> <body> </body> </html> Wenn ich sehe, meine Konsole in Firefox 3.5 den Wert jsonParsed

Konvertieren von Binär-nach-IEEE-floating-point

Anzahl der Antworten 3 Antworten
Muss ich konvertieren Sie die binäre Zahl 0000 0110 1101 1001 1111 1110 1101 0011 IEEE-floating-point. Die Antwort ist 1.10110011111111011010011 x 2^-114, aber wie ist der exponent abgeleitet? Was endianness? InformationsquelleAutor Carlos | 2011-03-13

32-bit hex 32-bit floating point (IEEE 754) Umwandlung in matlab

Anzahl der Antworten 1 Antworten
Wie kann ich die 32-bit-hex-Wert in eine Gleitkommazahl nach IEEE 754? EDIT: ... data = fread(fid,1,'float32'); disp(data); ... Bekomme ich diese Antwort: 4.2950 e+009 1.6274 e+009 ... Aber wie bekomme ich 32 bit floating point (IEEE 754)

SPS-Strukturierter text, konvertieren von dezimal-zu-real(float). Nicht immer den Wert, den ich erwarten. (IEEE-754)

Anzahl der Antworten 5 Antworten
Ich habe eine hardware die Kommunikation mit der SPS über Profibus DP, sendet mir 4 Datenbytes in hex ist "44 79 FF FF" und im SPS-Programm, das ich erklärt haben ein BYTE-array für diese input-Daten. Das problem

MATLAB: Umwandlung einer uint32 (4-byte -) Wert der entsprechenden IEEE-single-precision-floating-point-form

Anzahl der Antworten 2 Antworten
In MATLAB (r2009b) habe ich eine uint32 variable, die den Wert 2147484101. Diese Nummer (4-Byte) extrahiert worden, die von einer digitalen Maschine-vision-Kamera in einem Kopierprozess. Nach dem, was ich verstehe, hält es die single-precision-form der shutter-Geschwindigkeit der

Wie Speichere ich eine Gleitkomma-Zahl in 2-bytes?

Anzahl der Antworten 6 Antworten
Ja ich bin mir bewusst, dass der IEEE-754-halb-Präzision standard, und ja, ich bin mir bewusst, der Arbeit im Feld. Sehr einfach ausgedrückt, ich bin versucht zu retten, eine einfache floating-point-Zahl (wie 52.1 oder 1.25) in nur 2

Rundung von Gleitkommazahlen nach Zusatz (Wache, klebrig und Runden bits)

Anzahl der Antworten 1 Antworten
Ich habe nicht in der Lage zu finden eine gute Erklärung dafür, das überall auf der web noch, also hoffe ich jemand hier kann es erklären, für mich. Möchte ich hinzufügen, dass zwei binäre zahlen von hand:

Floating-Point-zu-Binär-Wert(C++)

Anzahl der Antworten 11 Antworten
Möchte ich eine floating-point-Zahl in C++, wie 2.25125, und ein int-array, gefüllt mit den binären Wert, der verwendet wird zum speichern der float im Speicher (IEEE 754). So konnte ich eine Zahl nehmen, und am Ende mit

Denormalisierten Zahlen IEEE-754-Floating-Point

Anzahl der Antworten 1 Antworten
So, ich bin versucht zu lernen, mehr über die Denormalisierten zahlen gemäß der Definition in der IEEE-754 standard für Gleitkommazahlen. Hab ich auch schon gelesen mehrere Artikel, die Dank Google-Suchergebnissen, und ich habe mich durch einige StackOverFlow-posts.

Warum die Konvertierung von float zu double, ändert sich der Wert?

Anzahl der Antworten 9 Antworten
Ich habe versucht, den Grund herauszufinden, aber ich konnte nicht. Kann mir keiner helfen? Blick auf das folgende Beispiel. float f; f = 125.32f; System.out.println("value of f = " + f); double d = (double) 125.32f; System.out.println("value

Konvertieren ieee 754 float in hex mit c - printf

Anzahl der Antworten 8 Antworten
Idealerweise den folgenden code würde ein float im IEEE-754-Darstellung und konvertieren Sie es in hexadezimale void convert() //gets the float input from user and turns it into hexadecimal { float f; printf("Enter float: "); scanf("%f", &f); printf("hex

Wie man das IEEE-754 binären Darstellung eines float in C#

Anzahl der Antworten 2 Antworten
Habe ich einige single-und double-precision-floats, die ich will schreiben und Lesen aus einem byte. Gibt es irgendetwas in .Ich kann Net verwenden, konvertieren Sie zu und von Ihren 32-und 64-bit-IEEE-754 Darstellungen? InformationsquelleAutor der Frage SpaceghostAli | 2010-11-22

Große Zahlen fälschlicherweise in Javascript gerundet

Anzahl der Antworten 6 Antworten
Finden Sie diesen code: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(jsonString); console.log(jsonString, jsonParsed); </script> </head> <body> </body> </html> Wenn ich sehe, meine Konsole in Firefox 3.5 den Wert jsonParsed

Welches ist die erste Ganzzahl, die ein IEEE 754 Float nicht genau darstellen kann?

Anzahl der Antworten 2 Antworten
Für Klarheit, wenn ich mich mit einer Sprache, die implementiert IEE 754 floats und ich erkläre: float f0 = 0.f; float f1 = 1.f; ...und dann drucken Sie Sie zurück, ich werde und 0.0000 1.0000 - genau.

Warum funktioniert NaN - NaN == 0.0 mit dem Intel C ++ Compiler?

Anzahl der Antworten 3 Antworten
Es ist bekannt, dass NaNs zu propagieren, in der Arithmetik, aber ich konnte nicht finden alle Vorführungen, also schrieb ich einen kleinen test: #include <limits> #include <cstdio> int main(int argc, char* argv) { float qNaN = std::numeric_limits<float>::quiet_NaN();

größte Ganzzahl, die in einem Double gespeichert werden kann

Anzahl der Antworten 7 Antworten
Was ist das größte "no-floating" - Ganzzahl gespeichert werden können in eine IEEE 754 double-Typ ohne an Präzision zu verlieren ? InformationsquelleAutor der Frage Franck Freiburger | 2009-12-04

Die Double Byte Size in 32 Bit und 64 Bit Betriebssystem

Anzahl der Antworten 3 Antworten
Gibt es einen Unterschied in Doppel Größe, wenn ich meine app auf 32-und 64-bit-Umgebung? Wenn ich mich nicht täusche hat der Doppel-32 bit-Umgebung dauert bis 16 Ziffern nach der 0, während das Doppel in 64 bit bis

Konvertierung von 32 Bit zu 16 Bit Fließkomma

Anzahl der Antworten 12 Antworten
Brauche ich ein cross-Plattform-Bibliothek/- Algorithmus, konvertieren zwischen 32-bit und 16-bit-floating-point-zahlen. Ich nicht brauchen, um ausführen Mathe mit dem 16-bit-zahlen; ich brauche nur um die Größe zu verringern des 32-bit-floats, so können Sie über das Netzwerk gesendet werden.

Lesen 32 Bit signiert ieee 754 Fließkommawerte aus einer Binärdatei mit Python?

Anzahl der Antworten 3 Antworten
Ich habe eine binäre Datei, die wird einfach eine Liste der signierten 32-bit-ieee754-Fließkomma-zahlen. Sie sind nicht getrennt von irgendetwas, und einfach erscheinen einer nach dem anderen, bis EOF. Wie würde ich aus dieser Datei eingelesen und interpretiert

Ist Gleitkomma-Mathematik in C # konsistent? Kann es sein?

Anzahl der Antworten 10 Antworten
Nein, dies ist nicht ein "Warum ist (1/3.0)*3 != 1" Frage. Ich ve wurde Lesen über floating-Punkte in letzter Zeit viel; insbesondere, wie die gleichen Berechnung zu unterschiedlichen Ergebnissen führen auf verschiedenen Architekturen oder die Optimierung der

Warum sieht der Gleitkommawert von 4 * 0,1 in Python 3 gut aus, aber 3 * 0.1 nicht?

Anzahl der Antworten 4 Antworten
Ich weiß, dass die meisten Dezimalzahlen weiß jetzt nicht die genaue Gleitkomma-Darstellung (Ist floating point math kaputt?). Aber ich sehe nicht ein, warum 4*0.1 gedruckt schön, wie 0.4aber 3*0.1 nicht, wenn beide Werte haben tatsächlich hässlich dezimal-Darstellungen:

Float und Double Datentyp in Java

Anzahl der Antworten 6 Antworten
Der float-Datentyp ist ein single-precision 32-bit IEEE 754 floating-point und der Datentyp double ist ein double-precision 64-bit IEEE 754-floating-point. Was bedeutet es? Und Wann sollte ich float statt double oder Umgekehrt? InformationsquelleAutor der Frage Leo | 2014-12-22

Lesen / Schreiben von Bytes von float in JS

Anzahl der Antworten 6 Antworten
Gibt es eine Möglichkeit, ich kann Lesen die bytes des float-Wert in JS? Was ich brauche, ist das schreiben einer raw-FLOAT-oder DOUBLE-Wert in eine binäre format, das ich machen muss, so gibt es einen Weg, um einen

Doppelte Genauigkeit - Nachkommastellen

Anzahl der Antworten 7 Antworten
Von dem, was ich gelesen habe, ist ein Wert des Datentyps double hat eine Ungefähre Genauigkeit von 15 Dezimalstellen. Allerdings, wenn ich eine Zahl, deren Dezimaldarstellung wiederholt, wie 1.0/7.0, finde ich, dass die variable enthält den Wert

Welcher Zahlenbereich kann in einem 16-, 32- und 64-Bit-IEEE-754-System dargestellt werden?

Anzahl der Antworten 7 Antworten
Ich weiß ein bisschen darüber, wie floating-point-zahlen dargestellt werden, aber nicht genug, fürchte ich. Sich die generelle Frage ist: Für eine bestimmte Genauigkeit (für meine Zwecke, die Anzahl der genauen Nachkommastellen Basis 10), welche Reihe von zahlen,

Was ist der Unterschied zwischen ruhigem NaN und signalisierendem NaN?

Anzahl der Antworten 1 Antworten
Habe ich gelesen, über floating-point und ich verstehe, dass NaN könnte die Ergebnisse von Operationen. aber ich kann nicht verstehen, was diese Konzepte genau. Was ist der Unterschied? Welche produziert werden können, während C++ Programmierung? Als Programmierer

Was ist der Grund dafür, dass alle Vergleiche für IEEE754-NaN-Werte falsch sind?

Anzahl der Antworten 13 Antworten
Warum Vergleiche von NaN-Werte Verhalten sich anders als alle anderen Werte? Das heißt, alle Vergleiche mit den Operatoren ==, <=, >=, <, > wo einer oder beide Werte NaN false zurückgibt, im Gegensatz zu dem Verhalten aller

Double vs Float auf dem iPhone

Anzahl der Antworten 3 Antworten
Ich habe gerade gehört, dass das iphone nicht das doppelte nativ wodurch Sie viel langsamer, dass regelmäßige Schwimmer. Ist das wahr? Beweise? Ich bin sehr interessiert an dem Thema, weil mein Programm braucht eine hohe Präzision der

Wie konvertiere ich von einer Dezimalzahl in ein Fließkommaformat mit einfacher Genauigkeit nach IEEE 754?

Anzahl der Antworten 3 Antworten
Wie würde ich mich über manuell zu ändern, eine Dezimalzahl (Basis 10) Zahl in IEEE 754 single-precision floating-point-format? Ich verstehe, dass es aus drei teilen, einem Schild, einem Exponenten und einer Mantisse. Ich weiß nur nicht ganz