Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
Konvertieren Float Dezimalstellen ohne Rundung
5 Antworten
Habe ich eine Liste, und Sie enthält eine gewisse Anzahl '5.74536541' in dem ich eine Konvertierung in eine float. Ich bin drucken Sie es aus in Python 3 mit ("%0.2f" % (variable)) aber druckt er immer aus
Wie kann ich verhindern, dass csv.DictWriter() oder writerow() Rundung meiner schwimmt?
3 Antworten
Ich habe ein Wörterbuch, das ich schreiben will in eine csv-Datei, aber die schwimmt im Wörterbuch abgerundet sind, wenn ich Sie Schreibe in die Datei. Ich will, dass die maximale Genauigkeit. Wo kommt die Rundung auftreten, und
C++ 32-bit vs 64-bit floating-limit
2 Antworten
Gegeben das code-segment wie folgt, ich möchte nur wissen, warum der maximale Wert von long double ist kleiner in der 64bit als in 32bit? warum 64-bit-version erweitern können, wie viel stellen, wie in 32-bit-version zu füllen, die
Wie zu Lesen, schweben Sie mit der wissenschaftlichen notation aus der Datei C++?
2 Antworten
Ich habe eine Datei mit diesem format: -0.0064785667 0.73900002 0.028505694 4.7858757e-39 315 218 -0.0051828534 0.73900002 0.028505694 4.6936954e-39 316 218 -0.0038818798 0.73799998 0.028467119 5.1546736e-39 317 218 -0.0025879198 0.73799998 0.028467119 5.6160217e-39 318 218 -0.0012939599 0.73799998 0.028467119 6.4461411e-39 319 218
wie berechnet sich die Schwimmer Erinnerung für die beiden float-Werte
4 Antworten
Habe ich zwei float-Werte, 'a' und 'b' . Brauche ich zur Berechnung der Erinnerung an diese zwei float-Werte, und es muss ein float-Wert. Lassen float a = 1.1; float b = 0.5; So der Rest " r
Wie funktioniert ein AVR führen Gleitkomma-Arithmetik
3 Antworten
Ich versuche zu implementieren, die eine Unterstützung für double und float und entsprechende grundlegende arithmetische Operationen auf eine CPU ohne FPU. Ich weiß, dass es möglich ist, auf alle AVR ATmega controllers. Ein ATmega hat auch keine
postgresql Runde Hälfte nach unten Funktion
6 Antworten
die Runde(numeric,integer) - Funktion in PostgreSQL nur Runden bis: round(cast (41.0255 as numeric),3) ==> 41.026 Da brauchen wir ein round-Funktion gibt 41.025 und (ganz überraschend) gibt es nicht so eine Funktion in PostgreSQL (wir verwenden 9.1.5), wir
Format float-Variablen die Ausgabe in c++ mit std::ofstream
1 Antworten
Ich habe den folgenden code: std::ofstream myfile; std::stringstream filename3; myfile.open("results.txt"); myfile << "precision= " << precision << "\n"; Und die Ausgabe in der Datei ist wie folgt formatiert: precision= 5.96e-07... Wie kann ich drucken Sie den numerischen
Konvertieren Sie wav-audio-format byte-array floating point
1 Antworten
Ich lese ein .wav-audio-Datei mit Java-AudioInputStream.Die audio-Datei ist 16 bit PCM unterzeichnet, mit samplerate = 44100, framesize = 2, framelength= 114048. Ich es geschafft, die Audio Daten in form eines byte-array, aber ich bin nicht sicher, wie
Wie funktioniert Double.isNaN() arbeiten?
2 Antworten
Das sun-jdk-Implementierung sieht wie folgt aus: return v != v; Kann mir jemand erklären wie das funktioniert? InformationsquelleAutor whiskeysierra | 2010-04-20
NSTimeInterval in lesbaren NSNumber
7 Antworten
NSTimeInterval == double; (z.B. 169.12345666663) Wie kann ich Runde diese verdoppeln, so dass es nur 2 Ziffern Links nach der "dot"? Es wäre sehr gut, wenn das Ergebnis ist ein NSNumber. InformationsquelleAutor papr | 2009-02-22
Berechnen Sie die Anzahl der Dezimalstellen für float-Wert OHNE Bibliotheken?
3 Antworten
Brauche ich, um berechnen Sie die Anzahl der Dezimalstellen für float-Wert, z.B. 1234.567 -> 3 2.1233 -> 4 4.2432 -> 4 Meine erste Idee war: number = 1234.567; ... while (number - (int)number > 0.0) { //Count
Wie um zu überprüfen, ob C++ - compiler verwendet IEEE 754 floating point standard
2 Antworten
Ich würde gerne eine Frage zu stellen, folgt diese eine das ist ziemlich gut beantwortet, durch das definieren, prüfen Sie, ob der compiler benutzt den standard. Doch diese woks für C nur. Gibt es eine Möglichkeit, das
Konstante gekürzt auf integer
1 Antworten
Folgenden GEHEN Programm gibt die Fehlermeldung: ./fft.go:13: constant -6.28319 truncated to integer ./fft.go:13: cannot use -7 * k / N (type int) as type float64 in assignment Programm: package main import ( "math" "fmt" ) func main()
Wie Sie sich richtig zu normalisieren, eine floating-point-Wert in C++?
5 Antworten
Vielleicht verstehe ich nicht die IEEE754-standard, der viel, aber da eine Reihe von floating-point-Werte float oder double zum Beispiel : 56.543f 3238.124124f 121.3f ... sind Sie in der Lage, konvertieren Sie Sie in Werten von 0 zu
Gibt es eine open-source c/c++ - Implementierung von IEEE-754-Operationen?
4 Antworten
Ich bin auf der Suche nach einer Referenz-Implementierung von IEEE-754-Operationen. Gibt es so etwas? Meinst du mit "Referenz-Implementierung" im Sinne von "etwas, was ich kopieren kann, und sicher sein, es werden Recht", oder im Sinne von "etwas
Zuweisen double-Konstante float-Variablen ohne Warnung in C?
3 Antworten
In der Programmiersprache C, die Gleitkomma-Konstante double-Typ standardmäßig so 3.1415 ist doppelter Art, es sei denn, verwenden Sie 'f' oder 'F' suffix angeben, float-Typ. Ich gehe davon aus const float pi = 3.1415 wird zu einer Warnung
Algorithmus für die Suche nach dem Verhältnis von zwei floating-point-zahlen?
5 Antworten
Brauche ich, um das Verhältnis von einer Gleitkommazahl in eine andere, und das Verhältnis benötigt werden zwei Ganzzahlen. Zum Beispiel: Eingang: 1.5, 3.25 Ausgabe: "6:13" Kennt jemand eine? Die Suche im internet, fand ich keinen solchen Algorithmus
GLSL, Wie zu gewährleisten größtmögliche float-Wert, ohne überlauf
3 Antworten
Von dem, was ich verstehe, gibt es keine FLT_MAX Typ von Konstanten in GLSL. Gibt es eine Möglichkeit, um sicherzustellen, dass ein Schwimmer stellt den größten möglichen Wert, ohne überlauf? EDIT: Da er gefragt wurde, was ich
python-Struktur "packen erfordert ein bytes-Objekt-Länge 8", während die Umwandlung von binay zu schweben
3 Antworten
Ich bin derzeit versuchen, um Binärdateien in den Wagen und Umgekehrt über das struct-Modul. Meine Funktion arbeitet mit bestimmten Werten, wie 2.0 oder 14.0, aber es funktioniert nicht mit Werten wie 1.0. Ich habe den code aus
Warum Klang optimieren Weg x * 1.0, aber NICHT x + 0.0?
2 Antworten
Warum Klappern-Optimierung entfernt die Schleife in diesem code #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start
Was ist der größte denormalisierte und normalisierten Zahl?(64bit, IEE 754-1985)
1 Antworten
Ich bin struggeling mit floating-point-Arithmetik, weil ich wirklich wollen, um dieses Thema zu verstehen! Ich weiß, dass die zahlen in wissenschaftlicher Schreibweise dargestellt. Also für beide zahlen die Exponenten Aussehen sollte: Denormalisierte Zahl: 11....11 so (1+1/2 +
Überraschend float-int-Umwandlung in PHP
5 Antworten
Nachdem er eine Stunde versucht, herauszufinden, warum ein PHP-Skript gab mir falsche Ausgabe, es stellte sich heraus, dass eine Schleife lief eine iteration kurzen in einem bestimmten Fall. Um zu erklären, was Los ist: eine version-Nummer (2-stellig,
Python-float - str - float-Verrücktheit
4 Antworten
>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Was ist hier Los? Wie kann ich umwandeln 0.47000000000000003 string-und die sich ergebenden Wert zurück zu schwimmen? Ich bin mit Python 2.5.4 auf Windows. Hinzugefügt ieee-754-tag RC: ich denke, dass
Überprüfen Sie, ob Schwimmer ist in der Nähe float gespeichert in array
2 Antworten
Ich brauche, um zu überprüfen, ob ein bestimmter float ist zu schließen, innerhalb einer gegebenen Toleranz zu jeder float - in ein array von floats. import numpy as np # My float a = 0.27 # The
Unterschied in der floating-point-Arithmetik zwischen x86 und x64
2 Antworten
Stolperte ich über einen Unterschied in der Art floating-point-Arithmetik getan werden zwischen MS VS 2010 baut für x86 und x64 (sowohl ausgeführt auf die gleiche 64-bit-Maschine). Dies ist ein reduziertes Codebeispiel: float a = 50.0f; float b
logit-und inverse logit-Funktionen für extreme Werte
4 Antworten
Brauche ich logit-und inverse logit-Funktionen, so dass logit(inv_logit(n)) == n. Ich benutze numpy und hier ist was ich habe: import numpy as np def logit(p): return np.log(p) - np.log(1 - p) def inv_logit(p): return np.exp(p) / (1
Die Multiplikation eines float-und int in PHP
1 Antworten
Iam ein Anfänger in php. Wenn ich versuchte, Sie zu vermehren, ein integer-Wert mit einer Dezimalstelle ,die Ergebnisse wie folgt. 1.00 * 5 = 0 . Ich will die Ausgabe als 5.00 Wie kann man mittels php?
32-bit-oder 64-bit-floating-point-performance
3 Antworten
Habe ich lief in einem kuriosen problem. Ein Algorithmus, an dem ich arbeite besteht aus vielen Berechnungen wie diese q = x(0)*y(0)*z(0) + x(1)*y(1)*z(1) + ... wobei die Länge der Summe zwischen 4 und 7. Den ursprünglichen
floating-point-zahlen in ASM
2 Antworten
In den letzten Tagen spielte ich mit C++, ASM und inline-ASM. Ich weiß, wie ich access basic-Variablen im Speicher und ähnliche Dinge. Jetzt versuche ich, die Arbeit mit floating-point-zahlen in ASM. Ich habe zerlegt diesen code: float
schreiben/Lesen von float-array in java schnell Weg
3 Antworten
Ich versuche, das Lesen und schreiben von float Arrays(ziemlich groß eigentlich, 640*480) in android-Geräte mit java-codes. wie diese eine DataOutputStream out = ...; for (int i=0; i<floatarray.length; ++i) out.writeFloat(floatarray[i]); ist sehr langsam und ich habe versucht es
konvertieren von float-zu kurz-mit minimalem Verlust an Genauigkeit
4 Antworten
Habe ich diese Sinus-Welle, die erzeugt floating-point-Werte (z.B. 0.37885), aber ich will Sie als shorts. Direkte Umwandlung mit kurzen gibt mir einen Wert von 0. also, was ist die Lösung? Kann mir jemand sagen, wie es zu
"Konvertieren von float zu double in C#
1 Antworten
Habe ich die Eigenschaft für das Leben eines Teilchens (ich bin die Simulation von Partikel-Systemen), die einen float-Wert, weil ich es auch für Transparenz (alpha, float). Ich habe gelesen, Fragen über die Konvertierung von float zu double
Senden floating-point-Zahl von server zu client
3 Antworten
Ich bin mit TCP/IP - socket-Programmierung. Ich habe eine floating-point-Wert in einer Variablen gespeichert ret_val in meinem server-code, die ich senden möchten, um die Kunden wartet, Sie zu empfangen. Wie kann ich es tun? Es könnte hilfreich
Math.pow mit negativen zahlen und nicht-ganzzahlige Potenzen
2 Antworten
Der ECMAScript-Spezifikation für Math.pow hat folgende eigenartige Regel: Wenn x < 0 und x endlich ist und y endlich ist und y ist keine ganze Zahl, ist das Ergebnis NaN. (http://es5.github.com/#x15.8.2.13) Als Ergebnis Math.pow(-8, 1 /3) gibt
Definition der Präzision von floating-point-Zahl in Python
3 Antworten
Ich habe einige python-code hier Code: t = 1 xt = array([ -1.,-1. ]) xt[0] = theta[0][0]* P_all_States[t-1][0] + theta[1][0]*P_all_States[t-1][1] xt[1] = theta[0][1]* P_all_States[t-1][0] + theta[1][1]*P_all_States[t-1][1] P_all_States[t][0] = xt[0] P_all_States[t][1] = xt[1] print ("Added probability distribution for
Wie bekomme ich Python zum anzeigen von mehr als 50 Dezimalstellen?
2 Antworten
Ich geschrieben habe, dieses Programm zu berechnen pi. Es gibt mir 50 Dezimalstellen. Wie bekomme ich mehr Präzision? # pi.py - arctan(1) * 4 = pi from math import * from decimal import * err = 0.0000000000000001
SQL server 2005 numerische Präzision Verlust
3 Antworten
Debuggen einige Finanz-bezogene SQL-code gefunden, der ein seltsames Problem mit numerischen(24,8) Mathematik Präzision. Ausführen der folgenden Abfrage auf Ihre MSSQL, Sie würden Holen Sie sich A + B * C-Ausdruck Ergebnis 0.123457 WÄHLEN SIE EIN, B, C,
Die Division durch null nicht werfen SIGFPE
3 Antworten
Habe ich ein kleines Programm durchführen Fließkomma-division durch null, also erwarte ich SIGFPE. #include <sys/types.h> #include <signal.h> #include <stdio.h> #include <stdlib.h> #include <iostream> void signal_handler (int signo) { if(signo == SIGFPE) { std::cout << "Caught FPE\n"; }
Was sind die tatsächlichen min/max-Werte für float und double (C++)
4 Antworten
Habe ich gelesen, die Empfehlungen zur Nutzung der "FLT_MIN" und "FLT_MAX" Werte für float. Immer wenn ich dies tun, codeblocks sagt mir seine max: 3.40282 e+038 min: 1.17549 e-038 Nicht zu wissen, was damit gemeint ist ich
Wie schalte ich einen Binär-string in einen float oder double?
4 Antworten
In dieser Frage, Bill, Die Eidechse fragt,so zeigen Sie die binäre Darstellung von float oder double. Was ich wissen möchte ist, gegeben eine binäre Zeichenfolge die geeignete Länge, wie konnte ich führen Sie die umkehroperation durch (in
Was sind alle möglichen Berechnungen, die bewirken könnten, dass ein NaN in Python?
1 Antworten
Ich habe gewesen suchend um, und es scheint verstreut Diskussionen über NaNs in verschiedenen Programmiersprachen, darunter auch einige spezifische Fälle, aber nichts vollständig oder klar. Was sind die häufigsten Operationen, die dazu führen würde, dass ein NaN
Binäre Darstellung einer Zahl in Matlab
3 Antworten
Gibt es eine Matlab-Funktion, die liefert die binäre Darstellung einer float-Zahl? InformationsquelleAutor Academia | 2011-12-20
Erstellen einer festen Länge Ausgabe-string mit sprintf mit floats
3 Antworten
Ich versuche, eine Datei zu erstellen, die die folgende Struktur hat: - Jede Zeile hat 32 bytes - Jede Zeile sieht wie folgt aus format-string: "%10i %3.7 f %3.7 f\n" Mein Problem ist Folgendes: Wenn ich eine
Convert floating-Zahl binäre Darstellung Programm in C
2 Antworten
#include "ieee754.h" #include <stdio.h> #include <math.h> //This program convert a floating number to its binary representation (IEEE754) in computer memory int main() { long double f, binaryTotal, binaryFrac = 0.0, frac, fracFractor = 0.1; long int integer,
Konnte nicht finden, eine überlastung für '*' akzeptiert, dass das übergebene argument
1 Antworten
Ich habe Umgerechnet ein String zu einem Int durch mithilfe toInt(). Dann habe ich versucht, multipliziert mit 0.01, aber ich bekomme eine Fehlermeldung, die sagt Could not find an overload for '*' that accepts the supplied argument.
Link libquadmath mit c++ unter linux
1 Antworten
Habe ich ein Beispiel-code: #include <quadmath.h> int main() { __float128 foo=123; cosq(foo); return 0; } Habe ich versucht zu kompilieren Sie es mit den folgenden Befehlen: g++ f128.cpp -lquadmath g++ f128.cpp /usr/lib64/gcc/x86_64-suse-linux/4.6/libquadmath.a g++ f128.cpp /usr/lib64/gcc/x86_64-suse-linux/4.6/libquadmath.a /usr/lib64/libquadmath.so.0 g++
Perl: Wie vergleichen Fließkomma-zahlen
4 Antworten
Schrieb ich das folgende Perl-Skript. Es wird jedoch nicht gedruckt "1". Ich habe einige der Forschung, und es scheint, dass es ist, weil der IEEE Darstellung Fließkomma-Zahl. Also, gibt es eine bessere Möglichkeit zum Vergleich von floating-point-zahlen
Warum sind c/c++ - floating-point-Typen, so seltsam benannt?
12 Antworten
C++ bietet drei Fließkomma-Typen: float, double und long double. Ich habe selten mit floating-point in meinem code, aber wenn ich das mache, ich bin immer wieder gefangen von Warnungen auf harmlosen Zeilen wie float PiForSquares = 4.0;
64-bit floating-point-Portierungen
10 Antworten
Ich bin der Portierung meiner Anwendung von 32 bit auf 64 bit. Derzeit ist der code kompiliert unter beiden Architekturen, aber die Ergebnisse sind unterschiedlich. Aus verschiedenen Gründen, ich bin mit Schwimmern statt verdoppelt. Ich gehe davon