Dienstag, Dezember 10, 2019

floating-point

Konvertieren Float Dezimalstellen ohne Rundung

Habe ich eine Liste, und Sie enthält eine gewisse Anzahl '5.74536541' in dem ich eine Konvertierung in eine float. Ich...

Wie kann ich verhindern, dass csv.DictWriter() oder writerow() Rundung meiner schwimmt?

Ich habe ein Wörterbuch, das ich schreiben will in eine csv-Datei, aber die schwimmt im Wörterbuch abgerundet sind, wenn ich Sie...

C++ 32-bit vs 64-bit floating-limit

Gegeben das code-segment wie folgt, ich möchte nur wissen, warum der maximale Wert von long double ist kleiner in der...

Wie zu Lesen, schweben Sie mit der wissenschaftlichen notation aus der Datei C++?

Ich habe eine Datei mit diesem format: -0.0064785667 0.73900002 0.028505694 4.7858757e-39 315 218 -0.0051828534 0.73900002 0.028505694 4.6936954e-39 316 218 -0.0038818798 0.73799998 0.028467119 5.1546736e-39...

wie berechnet sich die Schwimmer Erinnerung für die beiden float-Werte

Habe ich zwei float-Werte, 'a' und 'b' . Brauche ich zur Berechnung der Erinnerung an diese zwei float-Werte, und es muss...

Wie funktioniert ein AVR führen Gleitkomma-Arithmetik

Ich versuche zu implementieren, die eine Unterstützung für double und float und entsprechende grundlegende arithmetische Operationen auf eine CPU ohne FPU....

postgresql Runde Hälfte nach unten Funktion

die Runde(numeric,integer) - Funktion in PostgreSQL nur Runden bis: round(cast (41.0255 as numeric),3) ==> 41.026 Da brauchen wir ein round-Funktion gibt...

Format float-Variablen die Ausgabe in c++ mit std::ofstream

Ich habe den folgenden code: std::ofstream myfile; std::stringstream filename3; myfile.open("results.txt"); myfile << "precision= " << precision << "n"; Und die Ausgabe in der Datei...

Konvertieren Sie wav-audio-format byte-array floating point

Ich lese ein .wav-audio-Datei mit Java-AudioInputStream.Die audio-Datei ist 16 bit PCM unterzeichnet, mit samplerate = 44100, framesize = 2, framelength= 114048....

Kostenlose Online-Tests