Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
5
Antworten
Habe ich eine Liste, und Sie enthält eine gewisse Anzahl '5.74536541' in dem ich eine Konvertierung in eine float. Ich bin drucken Sie es aus in Python 3 mit ("%0.2f" % (variable)) aber druckt er immer aus
3
Antworten
Ich habe ein Wörterbuch, das ich schreiben will in eine csv-Datei, aber die schwimmt im Wörterbuch abgerundet sind, wenn ich Sie Schreibe in die Datei. Ich will, dass die maximale Genauigkeit. Wo kommt die Rundung auftreten, und
2
Antworten
Gegeben das code-segment wie folgt, ich möchte nur wissen, warum der maximale Wert von long double ist kleiner in der 64bit als in 32bit? warum 64-bit-version erweitern können, wie viel stellen, wie in 32-bit-version zu füllen, die
2
Antworten
Ich habe eine Datei mit diesem format: -0.0064785667 0.73900002 0.028505694 4.7858757e-39 315 218 -0.0051828534 0.73900002 0.028505694 4.6936954e-39 316 218 -0.0038818798 0.73799998 0.028467119 5.1546736e-39 317 218 -0.0025879198 0.73799998 0.028467119 5.6160217e-39 318 218 -0.0012939599 0.73799998 0.028467119 6.4461411e-39 319 218
4
Antworten
Habe ich zwei float-Werte, 'a' und 'b' . Brauche ich zur Berechnung der Erinnerung an diese zwei float-Werte, und es muss ein float-Wert. Lassen float a = 1.1; float b = 0.5; So der Rest " r
3
Antworten
Ich versuche zu implementieren, die eine Unterstützung für double und float und entsprechende grundlegende arithmetische Operationen auf eine CPU ohne FPU. Ich weiß, dass es möglich ist, auf alle AVR ATmega controllers. Ein ATmega hat auch keine
6
Antworten
die Runde(numeric,integer) - Funktion in PostgreSQL nur Runden bis: round(cast (41.0255 as numeric),3) ==> 41.026 Da brauchen wir ein round-Funktion gibt 41.025 und (ganz überraschend) gibt es nicht so eine Funktion in PostgreSQL (wir verwenden 9.1.5), wir
1
Antworten
Ich habe den folgenden code: std::ofstream myfile; std::stringstream filename3; myfile.open("results.txt"); myfile << "precision= " << precision << "\n"; Und die Ausgabe in der Datei ist wie folgt formatiert: precision= 5.96e-07... Wie kann ich drucken Sie den numerischen
1
Antworten
Ich lese ein .wav-audio-Datei mit Java-AudioInputStream.Die audio-Datei ist 16 bit PCM unterzeichnet, mit samplerate = 44100, framesize = 2, framelength= 114048. Ich es geschafft, die Audio Daten in form eines byte-array, aber ich bin nicht sicher, wie
2
Antworten
Das sun-jdk-Implementierung sieht wie folgt aus: return v != v; Kann mir jemand erklären wie das funktioniert? InformationsquelleAutor whiskeysierra | 2010-04-20
7
Antworten
NSTimeInterval == double; (z.B. 169.12345666663) Wie kann ich Runde diese verdoppeln, so dass es nur 2 Ziffern Links nach der "dot"? Es wäre sehr gut, wenn das Ergebnis ist ein NSNumber. InformationsquelleAutor papr | 2009-02-22
3
Antworten
Brauche ich, um berechnen Sie die Anzahl der Dezimalstellen für float-Wert, z.B. 1234.567 -> 3 2.1233 -> 4 4.2432 -> 4 Meine erste Idee war: number = 1234.567; ... while (number - (int)number > 0.0) { //Count
2
Antworten
Ich würde gerne eine Frage zu stellen, folgt diese eine das ist ziemlich gut beantwortet, durch das definieren, prüfen Sie, ob der compiler benutzt den standard. Doch diese woks für C nur. Gibt es eine Möglichkeit, das
1
Antworten
Folgenden GEHEN Programm gibt die Fehlermeldung: ./fft.go:13: constant -6.28319 truncated to integer ./fft.go:13: cannot use -7 * k / N (type int) as type float64 in assignment Programm: package main import ( "math" "fmt" ) func main()
5
Antworten
Vielleicht verstehe ich nicht die IEEE754-standard, der viel, aber da eine Reihe von floating-point-Werte float oder double zum Beispiel : 56.543f 3238.124124f 121.3f ... sind Sie in der Lage, konvertieren Sie Sie in Werten von 0 zu
4
Antworten
Ich bin auf der Suche nach einer Referenz-Implementierung von IEEE-754-Operationen. Gibt es so etwas? Meinst du mit "Referenz-Implementierung" im Sinne von "etwas, was ich kopieren kann, und sicher sein, es werden Recht", oder im Sinne von "etwas
3
Antworten
In der Programmiersprache C, die Gleitkomma-Konstante double-Typ standardmäßig so 3.1415 ist doppelter Art, es sei denn, verwenden Sie 'f' oder 'F' suffix angeben, float-Typ. Ich gehe davon aus const float pi = 3.1415 wird zu einer Warnung
5
Antworten
Brauche ich, um das Verhältnis von einer Gleitkommazahl in eine andere, und das Verhältnis benötigt werden zwei Ganzzahlen. Zum Beispiel: Eingang: 1.5, 3.25 Ausgabe: "6:13" Kennt jemand eine? Die Suche im internet, fand ich keinen solchen Algorithmus
3
Antworten
Von dem, was ich verstehe, gibt es keine FLT_MAX Typ von Konstanten in GLSL. Gibt es eine Möglichkeit, um sicherzustellen, dass ein Schwimmer stellt den größten möglichen Wert, ohne überlauf? EDIT: Da er gefragt wurde, was ich
3
Antworten
Ich bin derzeit versuchen, um Binärdateien in den Wagen und Umgekehrt über das struct-Modul. Meine Funktion arbeitet mit bestimmten Werten, wie 2.0 oder 14.0, aber es funktioniert nicht mit Werten wie 1.0. Ich habe den code aus
2
Antworten
Warum Klappern-Optimierung entfernt die Schleife in diesem code #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start
1
Antworten
Ich bin struggeling mit floating-point-Arithmetik, weil ich wirklich wollen, um dieses Thema zu verstehen! Ich weiß, dass die zahlen in wissenschaftlicher Schreibweise dargestellt. Also für beide zahlen die Exponenten Aussehen sollte: Denormalisierte Zahl: 11....11 so (1+1/2 +
5
Antworten
Nachdem er eine Stunde versucht, herauszufinden, warum ein PHP-Skript gab mir falsche Ausgabe, es stellte sich heraus, dass eine Schleife lief eine iteration kurzen in einem bestimmten Fall. Um zu erklären, was Los ist: eine version-Nummer (2-stellig,
4
Antworten
>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Was ist hier Los? Wie kann ich umwandeln 0.47000000000000003 string-und die sich ergebenden Wert zurück zu schwimmen? Ich bin mit Python 2.5.4 auf Windows. Hinzugefügt ieee-754-tag RC: ich denke, dass
2
Antworten
Ich brauche, um zu überprüfen, ob ein bestimmter float ist zu schließen, innerhalb einer gegebenen Toleranz zu jeder float - in ein array von floats. import numpy as np # My float a = 0.27 # The
2
Antworten
Stolperte ich über einen Unterschied in der Art floating-point-Arithmetik getan werden zwischen MS VS 2010 baut für x86 und x64 (sowohl ausgeführt auf die gleiche 64-bit-Maschine). Dies ist ein reduziertes Codebeispiel: float a = 50.0f; float b
4
Antworten
Brauche ich logit-und inverse logit-Funktionen, so dass logit(inv_logit(n)) == n. Ich benutze numpy und hier ist was ich habe: import numpy as np def logit(p): return np.log(p) - np.log(1 - p) def inv_logit(p): return np.exp(p) / (1
1
Antworten
Iam ein Anfänger in php. Wenn ich versuchte, Sie zu vermehren, ein integer-Wert mit einer Dezimalstelle ,die Ergebnisse wie folgt. 1.00 * 5 = 0 . Ich will die Ausgabe als 5.00 Wie kann man mittels php?
3
Antworten
Habe ich lief in einem kuriosen problem. Ein Algorithmus, an dem ich arbeite besteht aus vielen Berechnungen wie diese q = x(0)*y(0)*z(0) + x(1)*y(1)*z(1) + ... wobei die Länge der Summe zwischen 4 und 7. Den ursprünglichen
2
Antworten
In den letzten Tagen spielte ich mit C++, ASM und inline-ASM. Ich weiß, wie ich access basic-Variablen im Speicher und ähnliche Dinge. Jetzt versuche ich, die Arbeit mit floating-point-zahlen in ASM. Ich habe zerlegt diesen code: float
3
Antworten
Ich versuche, das Lesen und schreiben von float Arrays(ziemlich groß eigentlich, 640*480) in android-Geräte mit java-codes. wie diese eine DataOutputStream out = ...; for (int i=0; i<floatarray.length; ++i) out.writeFloat(floatarray[i]); ist sehr langsam und ich habe versucht es
4
Antworten
Habe ich diese Sinus-Welle, die erzeugt floating-point-Werte (z.B. 0.37885), aber ich will Sie als shorts. Direkte Umwandlung mit kurzen gibt mir einen Wert von 0. also, was ist die Lösung? Kann mir jemand sagen, wie es zu
1
Antworten
Habe ich die Eigenschaft für das Leben eines Teilchens (ich bin die Simulation von Partikel-Systemen), die einen float-Wert, weil ich es auch für Transparenz (alpha, float). Ich habe gelesen, Fragen über die Konvertierung von float zu double
3
Antworten
Ich bin mit TCP/IP - socket-Programmierung. Ich habe eine floating-point-Wert in einer Variablen gespeichert ret_val in meinem server-code, die ich senden möchten, um die Kunden wartet, Sie zu empfangen. Wie kann ich es tun? Es könnte hilfreich
2
Antworten
Der ECMAScript-Spezifikation für Math.pow hat folgende eigenartige Regel: Wenn x < 0 und x endlich ist und y endlich ist und y ist keine ganze Zahl, ist das Ergebnis NaN. (http://es5.github.com/#x15.8.2.13) Als Ergebnis Math.pow(-8, 1 /3) gibt
3
Antworten
Ich habe einige python-code hier Code: t = 1 xt = array([ -1.,-1. ]) xt[0] = theta[0][0]* P_all_States[t-1][0] + theta[1][0]*P_all_States[t-1][1] xt[1] = theta[0][1]* P_all_States[t-1][0] + theta[1][1]*P_all_States[t-1][1] P_all_States[t][0] = xt[0] P_all_States[t][1] = xt[1] print ("Added probability distribution for
2
Antworten
Ich geschrieben habe, dieses Programm zu berechnen pi. Es gibt mir 50 Dezimalstellen. Wie bekomme ich mehr Präzision? # pi.py - arctan(1) * 4 = pi from math import * from decimal import * err = 0.0000000000000001
3
Antworten
Debuggen einige Finanz-bezogene SQL-code gefunden, der ein seltsames Problem mit numerischen(24,8) Mathematik Präzision. Ausführen der folgenden Abfrage auf Ihre MSSQL, Sie würden Holen Sie sich A + B * C-Ausdruck Ergebnis 0.123457 WÄHLEN SIE EIN, B, C,
3
Antworten
Habe ich ein kleines Programm durchführen Fließkomma-division durch null, also erwarte ich SIGFPE. #include <sys/types.h> #include <signal.h> #include <stdio.h> #include <stdlib.h> #include <iostream> void signal_handler (int signo) { if(signo == SIGFPE) { std::cout << "Caught FPE\n"; }
4
Antworten
Habe ich gelesen, die Empfehlungen zur Nutzung der "FLT_MIN" und "FLT_MAX" Werte für float. Immer wenn ich dies tun, codeblocks sagt mir seine max: 3.40282 e+038 min: 1.17549 e-038 Nicht zu wissen, was damit gemeint ist ich
4
Antworten
In dieser Frage, Bill, Die Eidechse fragt,so zeigen Sie die binäre Darstellung von float oder double. Was ich wissen möchte ist, gegeben eine binäre Zeichenfolge die geeignete Länge, wie konnte ich führen Sie die umkehroperation durch (in
1
Antworten
Ich habe gewesen suchend um, und es scheint verstreut Diskussionen über NaNs in verschiedenen Programmiersprachen, darunter auch einige spezifische Fälle, aber nichts vollständig oder klar. Was sind die häufigsten Operationen, die dazu führen würde, dass ein NaN
3
Antworten
Gibt es eine Matlab-Funktion, die liefert die binäre Darstellung einer float-Zahl? InformationsquelleAutor Academia | 2011-12-20
3
Antworten
Ich versuche, eine Datei zu erstellen, die die folgende Struktur hat: - Jede Zeile hat 32 bytes - Jede Zeile sieht wie folgt aus format-string: "%10i %3.7 f %3.7 f\n" Mein Problem ist Folgendes: Wenn ich eine
2
Antworten
#include "ieee754.h" #include <stdio.h> #include <math.h> //This program convert a floating number to its binary representation (IEEE754) in computer memory int main() { long double f, binaryTotal, binaryFrac = 0.0, frac, fracFractor = 0.1; long int integer,
1
Antworten
Ich habe Umgerechnet ein String zu einem Int durch mithilfe toInt(). Dann habe ich versucht, multipliziert mit 0.01, aber ich bekomme eine Fehlermeldung, die sagt Could not find an overload for '*' that accepts the supplied argument.
1
Antworten
Habe ich ein Beispiel-code: #include <quadmath.h> int main() { __float128 foo=123; cosq(foo); return 0; } Habe ich versucht zu kompilieren Sie es mit den folgenden Befehlen: g++ f128.cpp -lquadmath g++ f128.cpp /usr/lib64/gcc/x86_64-suse-linux/4.6/libquadmath.a g++ f128.cpp /usr/lib64/gcc/x86_64-suse-linux/4.6/libquadmath.a /usr/lib64/libquadmath.so.0 g++
4
Antworten
Schrieb ich das folgende Perl-Skript. Es wird jedoch nicht gedruckt "1". Ich habe einige der Forschung, und es scheint, dass es ist, weil der IEEE Darstellung Fließkomma-Zahl. Also, gibt es eine bessere Möglichkeit zum Vergleich von floating-point-zahlen
12
Antworten
C++ bietet drei Fließkomma-Typen: float, double und long double. Ich habe selten mit floating-point in meinem code, aber wenn ich das mache, ich bin immer wieder gefangen von Warnungen auf harmlosen Zeilen wie float PiForSquares = 4.0;
10
Antworten
Ich bin der Portierung meiner Anwendung von 32 bit auf 64 bit. Derzeit ist der code kompiliert unter beiden Architekturen, aber die Ergebnisse sind unterschiedlich. Aus verschiedenen Gründen, ich bin mit Schwimmern statt verdoppelt. Ich gehe davon