floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die "info" - Seite (Link unten vor der Buchung.
Konvertieren Float Dezimalstellen ohne Rundung
Habe ich eine Liste, und Sie enthält eine gewisse Anzahl '5.74536541' in dem ich eine Konvertierung in eine float.
Ich...
Wie kann ich verhindern, dass csv.DictWriter() oder writerow() Rundung meiner schwimmt?
Ich habe ein Wörterbuch, das ich schreiben will in eine csv-Datei, aber die schwimmt im Wörterbuch abgerundet sind, wenn ich Sie...
C++ 32-bit vs 64-bit floating-limit
Gegeben das code-segment wie folgt, ich möchte nur wissen,
warum der maximale Wert von long double ist kleiner in der...
Wie zu Lesen, schweben Sie mit der wissenschaftlichen notation aus der Datei C++?
Ich habe eine Datei mit diesem format:
-0.0064785667 0.73900002 0.028505694 4.7858757e-39 315 218
-0.0051828534 0.73900002 0.028505694 4.6936954e-39 316 218
-0.0038818798 0.73799998 0.028467119 5.1546736e-39...
wie berechnet sich die Schwimmer Erinnerung für die beiden float-Werte
Habe ich zwei float-Werte, 'a' und 'b' .
Brauche ich zur Berechnung der Erinnerung an diese zwei float-Werte, und es muss...
Wie funktioniert ein AVR führen Gleitkomma-Arithmetik
Ich versuche zu implementieren, die eine Unterstützung für double und float und entsprechende grundlegende arithmetische Operationen auf eine CPU ohne FPU....
postgresql Runde Hälfte nach unten Funktion
die Runde(numeric,integer) - Funktion in PostgreSQL nur Runden bis:
round(cast (41.0255 as numeric),3) ==> 41.026
Da brauchen wir ein round-Funktion gibt...
Format float-Variablen die Ausgabe in c++ mit std::ofstream
Ich habe den folgenden code:
std::ofstream myfile;
std::stringstream filename3;
myfile.open("results.txt");
myfile << "precision= " << precision << "n";
Und die Ausgabe in der Datei...
Konvertieren Sie wav-audio-format byte-array floating point
Ich lese ein .wav-audio-Datei mit Java-AudioInputStream.Die audio-Datei ist 16 bit PCM unterzeichnet, mit samplerate = 44100, framesize = 2, framelength= 114048....