Tag: floating-point

Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.

Konvertieren Float Dezimalstellen ohne Rundung

Anzahl der Antworten 5 Antworten
Habe ich eine Liste, und Sie enthält eine gewisse Anzahl '5.74536541' in dem ich eine Konvertierung in eine float. Ich bin drucken Sie es aus in Python 3 mit ("%0.2f" % (variable)) aber druckt er immer aus

Wie kann ich verhindern, dass csv.DictWriter() oder writerow() Rundung meiner schwimmt?

Anzahl der Antworten 3 Antworten
Ich habe ein Wörterbuch, das ich schreiben will in eine csv-Datei, aber die schwimmt im Wörterbuch abgerundet sind, wenn ich Sie Schreibe in die Datei. Ich will, dass die maximale Genauigkeit. Wo kommt die Rundung auftreten, und

C++ 32-bit vs 64-bit floating-limit

Anzahl der Antworten 2 Antworten
Gegeben das code-segment wie folgt, ich möchte nur wissen, warum der maximale Wert von long double ist kleiner in der 64bit als in 32bit? warum 64-bit-version erweitern können, wie viel stellen, wie in 32-bit-version zu füllen, die

Wie zu Lesen, schweben Sie mit der wissenschaftlichen notation aus der Datei C++?

Anzahl der Antworten 2 Antworten
Ich habe eine Datei mit diesem format: -0.0064785667 0.73900002 0.028505694 4.7858757e-39 315 218 -0.0051828534 0.73900002 0.028505694 4.6936954e-39 316 218 -0.0038818798 0.73799998 0.028467119 5.1546736e-39 317 218 -0.0025879198 0.73799998 0.028467119 5.6160217e-39 318 218 -0.0012939599 0.73799998 0.028467119 6.4461411e-39 319 218

wie berechnet sich die Schwimmer Erinnerung für die beiden float-Werte

Anzahl der Antworten 4 Antworten
Habe ich zwei float-Werte, 'a' und 'b' . Brauche ich zur Berechnung der Erinnerung an diese zwei float-Werte, und es muss ein float-Wert. Lassen float a = 1.1; float b = 0.5; So der Rest " r

Wie funktioniert ein AVR führen Gleitkomma-Arithmetik

Anzahl der Antworten 3 Antworten
Ich versuche zu implementieren, die eine Unterstützung für double und float und entsprechende grundlegende arithmetische Operationen auf eine CPU ohne FPU. Ich weiß, dass es möglich ist, auf alle AVR ATmega controllers. Ein ATmega hat auch keine

postgresql Runde Hälfte nach unten Funktion

Anzahl der Antworten 6 Antworten
die Runde(numeric,integer) - Funktion in PostgreSQL nur Runden bis: round(cast (41.0255 as numeric),3) ==> 41.026 Da brauchen wir ein round-Funktion gibt 41.025 und (ganz überraschend) gibt es nicht so eine Funktion in PostgreSQL (wir verwenden 9.1.5), wir

Format float-Variablen die Ausgabe in c++ mit std::ofstream

Anzahl der Antworten 1 Antworten
Ich habe den folgenden code: std::ofstream myfile; std::stringstream filename3; myfile.open("results.txt"); myfile << "precision= " << precision << "\n"; Und die Ausgabe in der Datei ist wie folgt formatiert: precision= 5.96e-07... Wie kann ich drucken Sie den numerischen

Konvertieren Sie wav-audio-format byte-array floating point

Anzahl der Antworten 1 Antworten
Ich lese ein .wav-audio-Datei mit Java-AudioInputStream.Die audio-Datei ist 16 bit PCM unterzeichnet, mit samplerate = 44100, framesize = 2, framelength= 114048. Ich es geschafft, die Audio Daten in form eines byte-array, aber ich bin nicht sicher, wie

Wie funktioniert Double.isNaN() arbeiten?

Anzahl der Antworten 2 Antworten
Das sun-jdk-Implementierung sieht wie folgt aus: return v != v; Kann mir jemand erklären wie das funktioniert? InformationsquelleAutor whiskeysierra | 2010-04-20

NSTimeInterval in lesbaren NSNumber

Anzahl der Antworten 7 Antworten
NSTimeInterval == double; (z.B. 169.12345666663) Wie kann ich Runde diese verdoppeln, so dass es nur 2 Ziffern Links nach der "dot"? Es wäre sehr gut, wenn das Ergebnis ist ein NSNumber. InformationsquelleAutor papr | 2009-02-22

Berechnen Sie die Anzahl der Dezimalstellen für float-Wert OHNE Bibliotheken?

Anzahl der Antworten 3 Antworten
Brauche ich, um berechnen Sie die Anzahl der Dezimalstellen für float-Wert, z.B. 1234.567 -> 3 2.1233 -> 4 4.2432 -> 4 Meine erste Idee war: number = 1234.567; ... while (number - (int)number > 0.0) { //Count

Wie um zu überprüfen, ob C++ - compiler verwendet IEEE 754 floating point standard

Anzahl der Antworten 2 Antworten
Ich würde gerne eine Frage zu stellen, folgt diese eine das ist ziemlich gut beantwortet, durch das definieren, prüfen Sie, ob der compiler benutzt den standard. Doch diese woks für C nur. Gibt es eine Möglichkeit, das

Konstante gekürzt auf integer

Anzahl der Antworten 1 Antworten
Folgenden GEHEN Programm gibt die Fehlermeldung: ./fft.go:13: constant -6.28319 truncated to integer ./fft.go:13: cannot use -7 * k / N (type int) as type float64 in assignment Programm: package main import ( "math" "fmt" ) func main()

Wie Sie sich richtig zu normalisieren, eine floating-point-Wert in C++?

Anzahl der Antworten 5 Antworten
Vielleicht verstehe ich nicht die IEEE754-standard, der viel, aber da eine Reihe von floating-point-Werte float oder double zum Beispiel : 56.543f 3238.124124f 121.3f ... sind Sie in der Lage, konvertieren Sie Sie in Werten von 0 zu

Gibt es eine open-source c/c++ - Implementierung von IEEE-754-Operationen?

Anzahl der Antworten 4 Antworten
Ich bin auf der Suche nach einer Referenz-Implementierung von IEEE-754-Operationen. Gibt es so etwas? Meinst du mit "Referenz-Implementierung" im Sinne von "etwas, was ich kopieren kann, und sicher sein, es werden Recht", oder im Sinne von "etwas

Zuweisen double-Konstante float-Variablen ohne Warnung in C?

Anzahl der Antworten 3 Antworten
In der Programmiersprache C, die Gleitkomma-Konstante double-Typ standardmäßig so 3.1415 ist doppelter Art, es sei denn, verwenden Sie 'f' oder 'F' suffix angeben, float-Typ. Ich gehe davon aus const float pi = 3.1415 wird zu einer Warnung

Algorithmus für die Suche nach dem Verhältnis von zwei floating-point-zahlen?

Anzahl der Antworten 5 Antworten
Brauche ich, um das Verhältnis von einer Gleitkommazahl in eine andere, und das Verhältnis benötigt werden zwei Ganzzahlen. Zum Beispiel: Eingang: 1.5, 3.25 Ausgabe: "6:13" Kennt jemand eine? Die Suche im internet, fand ich keinen solchen Algorithmus

GLSL, Wie zu gewährleisten größtmögliche float-Wert, ohne überlauf

Anzahl der Antworten 3 Antworten
Von dem, was ich verstehe, gibt es keine FLT_MAX Typ von Konstanten in GLSL. Gibt es eine Möglichkeit, um sicherzustellen, dass ein Schwimmer stellt den größten möglichen Wert, ohne überlauf? EDIT: Da er gefragt wurde, was ich

python-Struktur "packen erfordert ein bytes-Objekt-Länge 8", während die Umwandlung von binay zu schweben

Anzahl der Antworten 3 Antworten
Ich bin derzeit versuchen, um Binärdateien in den Wagen und Umgekehrt über das struct-Modul. Meine Funktion arbeitet mit bestimmten Werten, wie 2.0 oder 14.0, aber es funktioniert nicht mit Werten wie 1.0. Ich habe den code aus

Warum Klang optimieren Weg x * 1.0, aber NICHT x + 0.0?

Anzahl der Antworten 2 Antworten
Warum Klappern-Optimierung entfernt die Schleife in diesem code #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start

Was ist der größte denormalisierte und normalisierten Zahl?(64bit, IEE 754-1985)

Anzahl der Antworten 1 Antworten
Ich bin struggeling mit floating-point-Arithmetik, weil ich wirklich wollen, um dieses Thema zu verstehen! Ich weiß, dass die zahlen in wissenschaftlicher Schreibweise dargestellt. Also für beide zahlen die Exponenten Aussehen sollte: Denormalisierte Zahl: 11....11 so (1+1/2 +

Überraschend float-int-Umwandlung in PHP

Anzahl der Antworten 5 Antworten
Nachdem er eine Stunde versucht, herauszufinden, warum ein PHP-Skript gab mir falsche Ausgabe, es stellte sich heraus, dass eine Schleife lief eine iteration kurzen in einem bestimmten Fall. Um zu erklären, was Los ist: eine version-Nummer (2-stellig,

Python-float - str - float-Verrücktheit

Anzahl der Antworten 4 Antworten
>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Was ist hier Los? Wie kann ich umwandeln 0.47000000000000003 string-und die sich ergebenden Wert zurück zu schwimmen? Ich bin mit Python 2.5.4 auf Windows. Hinzugefügt ieee-754-tag RC: ich denke, dass

Überprüfen Sie, ob Schwimmer ist in der Nähe float gespeichert in array

Anzahl der Antworten 2 Antworten
Ich brauche, um zu überprüfen, ob ein bestimmter float ist zu schließen, innerhalb einer gegebenen Toleranz zu jeder float - in ein array von floats. import numpy as np # My float a = 0.27 # The

Unterschied in der floating-point-Arithmetik zwischen x86 und x64

Anzahl der Antworten 2 Antworten
Stolperte ich über einen Unterschied in der Art floating-point-Arithmetik getan werden zwischen MS VS 2010 baut für x86 und x64 (sowohl ausgeführt auf die gleiche 64-bit-Maschine). Dies ist ein reduziertes Codebeispiel: float a = 50.0f; float b

logit-und inverse logit-Funktionen für extreme Werte

Anzahl der Antworten 4 Antworten
Brauche ich logit-und inverse logit-Funktionen, so dass logit(inv_logit(n)) == n. Ich benutze numpy und hier ist was ich habe: import numpy as np def logit(p): return np.log(p) - np.log(1 - p) def inv_logit(p): return np.exp(p) / (1

Die Multiplikation eines float-und int in PHP

Anzahl der Antworten 1 Antworten
Iam ein Anfänger in php. Wenn ich versuchte, Sie zu vermehren, ein integer-Wert mit einer Dezimalstelle ,die Ergebnisse wie folgt. 1.00 * 5 = 0 . Ich will die Ausgabe als 5.00 Wie kann man mittels php?

32-bit-oder 64-bit-floating-point-performance

Anzahl der Antworten 3 Antworten
Habe ich lief in einem kuriosen problem. Ein Algorithmus, an dem ich arbeite besteht aus vielen Berechnungen wie diese q = x(0)*y(0)*z(0) + x(1)*y(1)*z(1) + ... wobei die Länge der Summe zwischen 4 und 7. Den ursprünglichen

floating-point-zahlen in ASM

Anzahl der Antworten 2 Antworten
In den letzten Tagen spielte ich mit C++, ASM und inline-ASM. Ich weiß, wie ich access basic-Variablen im Speicher und ähnliche Dinge. Jetzt versuche ich, die Arbeit mit floating-point-zahlen in ASM. Ich habe zerlegt diesen code: float

schreiben/Lesen von float-array in java schnell Weg

Anzahl der Antworten 3 Antworten
Ich versuche, das Lesen und schreiben von float Arrays(ziemlich groß eigentlich, 640*480) in android-Geräte mit java-codes. wie diese eine DataOutputStream out = ...; for (int i=0; i<floatarray.length; ++i) out.writeFloat(floatarray[i]); ist sehr langsam und ich habe versucht es

konvertieren von float-zu kurz-mit minimalem Verlust an Genauigkeit

Anzahl der Antworten 4 Antworten
Habe ich diese Sinus-Welle, die erzeugt floating-point-Werte (z.B. 0.37885), aber ich will Sie als shorts. Direkte Umwandlung mit kurzen gibt mir einen Wert von 0. also, was ist die Lösung? Kann mir jemand sagen, wie es zu

"Konvertieren von float zu double in C#

Anzahl der Antworten 1 Antworten
Habe ich die Eigenschaft für das Leben eines Teilchens (ich bin die Simulation von Partikel-Systemen), die einen float-Wert, weil ich es auch für Transparenz (alpha, float). Ich habe gelesen, Fragen über die Konvertierung von float zu double

Senden floating-point-Zahl von server zu client

Anzahl der Antworten 3 Antworten
Ich bin mit TCP/IP - socket-Programmierung. Ich habe eine floating-point-Wert in einer Variablen gespeichert ret_val in meinem server-code, die ich senden möchten, um die Kunden wartet, Sie zu empfangen. Wie kann ich es tun? Es könnte hilfreich

Math.pow mit negativen zahlen und nicht-ganzzahlige Potenzen

Anzahl der Antworten 2 Antworten
Der ECMAScript-Spezifikation für Math.pow hat folgende eigenartige Regel: Wenn x < 0 und x endlich ist und y endlich ist und y ist keine ganze Zahl, ist das Ergebnis NaN. (http://es5.github.com/#x15.8.2.13) Als Ergebnis Math.pow(-8, 1 /3) gibt

Definition der Präzision von floating-point-Zahl in Python

Anzahl der Antworten 3 Antworten
Ich habe einige python-code hier Code: t = 1 xt = array([ -1.,-1. ]) xt[0] = theta[0][0]* P_all_States[t-1][0] + theta[1][0]*P_all_States[t-1][1] xt[1] = theta[0][1]* P_all_States[t-1][0] + theta[1][1]*P_all_States[t-1][1] P_all_States[t][0] = xt[0] P_all_States[t][1] = xt[1] print ("Added probability distribution for

Wie bekomme ich Python zum anzeigen von mehr als 50 Dezimalstellen?

Anzahl der Antworten 2 Antworten
Ich geschrieben habe, dieses Programm zu berechnen pi. Es gibt mir 50 Dezimalstellen. Wie bekomme ich mehr Präzision? # pi.py - arctan(1) * 4 = pi from math import * from decimal import * err = 0.0000000000000001

SQL server 2005 numerische Präzision Verlust

Anzahl der Antworten 3 Antworten
Debuggen einige Finanz-bezogene SQL-code gefunden, der ein seltsames Problem mit numerischen(24,8) Mathematik Präzision. Ausführen der folgenden Abfrage auf Ihre MSSQL, Sie würden Holen Sie sich A + B * C-Ausdruck Ergebnis 0.123457 WÄHLEN SIE EIN, B, C,

Die Division durch null nicht werfen SIGFPE

Anzahl der Antworten 3 Antworten
Habe ich ein kleines Programm durchführen Fließkomma-division durch null, also erwarte ich SIGFPE. #include <sys/types.h> #include <signal.h> #include <stdio.h> #include <stdlib.h> #include <iostream> void signal_handler (int signo) { if(signo == SIGFPE) { std::cout << "Caught FPE\n"; }

Was sind die tatsächlichen min/max-Werte für float und double (C++)

Anzahl der Antworten 4 Antworten
Habe ich gelesen, die Empfehlungen zur Nutzung der "FLT_MIN" und "FLT_MAX" Werte für float. Immer wenn ich dies tun, codeblocks sagt mir seine max: 3.40282 e+038 min: 1.17549 e-038 Nicht zu wissen, was damit gemeint ist ich

Wie schalte ich einen Binär-string in einen float oder double?

Anzahl der Antworten 4 Antworten
In dieser Frage, Bill, Die Eidechse fragt,so zeigen Sie die binäre Darstellung von float oder double. Was ich wissen möchte ist, gegeben eine binäre Zeichenfolge die geeignete Länge, wie konnte ich führen Sie die umkehroperation durch (in

Was sind alle möglichen Berechnungen, die bewirken könnten, dass ein NaN in Python?

Anzahl der Antworten 1 Antworten
Ich habe gewesen suchend um, und es scheint verstreut Diskussionen über NaNs in verschiedenen Programmiersprachen, darunter auch einige spezifische Fälle, aber nichts vollständig oder klar. Was sind die häufigsten Operationen, die dazu führen würde, dass ein NaN

Binäre Darstellung einer Zahl in Matlab

Anzahl der Antworten 3 Antworten
Gibt es eine Matlab-Funktion, die liefert die binäre Darstellung einer float-Zahl? InformationsquelleAutor Academia | 2011-12-20

Erstellen einer festen Länge Ausgabe-string mit sprintf mit floats

Anzahl der Antworten 3 Antworten
Ich versuche, eine Datei zu erstellen, die die folgende Struktur hat: - Jede Zeile hat 32 bytes - Jede Zeile sieht wie folgt aus format-string: "%10i %3.7 f %3.7 f\n" Mein Problem ist Folgendes: Wenn ich eine

Convert floating-Zahl binäre Darstellung Programm in C

Anzahl der Antworten 2 Antworten
#include "ieee754.h" #include <stdio.h> #include <math.h> //This program convert a floating number to its binary representation (IEEE754) in computer memory int main() { long double f, binaryTotal, binaryFrac = 0.0, frac, fracFractor = 0.1; long int integer,

Konnte nicht finden, eine überlastung für '*' akzeptiert, dass das übergebene argument

Anzahl der Antworten 1 Antworten
Ich habe Umgerechnet ein String zu einem Int durch mithilfe toInt(). Dann habe ich versucht, multipliziert mit 0.01, aber ich bekomme eine Fehlermeldung, die sagt Could not find an overload for '*' that accepts the supplied argument.

Link libquadmath mit c++ unter linux

Anzahl der Antworten 1 Antworten
Habe ich ein Beispiel-code: #include <quadmath.h> int main() { __float128 foo=123; cosq(foo); return 0; } Habe ich versucht zu kompilieren Sie es mit den folgenden Befehlen: g++ f128.cpp -lquadmath g++ f128.cpp /usr/lib64/gcc/x86_64-suse-linux/4.6/libquadmath.a g++ f128.cpp /usr/lib64/gcc/x86_64-suse-linux/4.6/libquadmath.a /usr/lib64/libquadmath.so.0 g++

Perl: Wie vergleichen Fließkomma-zahlen

Anzahl der Antworten 4 Antworten
Schrieb ich das folgende Perl-Skript. Es wird jedoch nicht gedruckt "1". Ich habe einige der Forschung, und es scheint, dass es ist, weil der IEEE Darstellung Fließkomma-Zahl. Also, gibt es eine bessere Möglichkeit zum Vergleich von floating-point-zahlen

Warum sind c/c++ - floating-point-Typen, so seltsam benannt?

Anzahl der Antworten 12 Antworten
C++ bietet drei Fließkomma-Typen: float, double und long double. Ich habe selten mit floating-point in meinem code, aber wenn ich das mache, ich bin immer wieder gefangen von Warnungen auf harmlosen Zeilen wie float PiForSquares = 4.0;

64-bit floating-point-Portierungen

Anzahl der Antworten 10 Antworten
Ich bin der Portierung meiner Anwendung von 32 bit auf 64 bit. Derzeit ist der code kompiliert unter beiden Architekturen, aber die Ergebnisse sind unterschiedlich. Aus verschiedenen Gründen, ich bin mit Schwimmern statt verdoppelt. Ich gehe davon