Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
In welcher Reihenfolge sollten Floats hinzugefügt werden, um das genaueste Ergebnis zu erhalten?
11 Antworten
Dies war eine Frage, die ich gefragt wurde, in meinem letzten interview und ich möchte wissen (ich weiß nicht wirklich erinnern, die Theorie der numerischen Analyse, also bitte helft mir 🙂 Wenn wir eine Funktion zu haben,
Fügen Sie den Android-Ressourcen / Werten Gleitkommawerte hinzu
8 Antworten
Ich versuche, fügen Sie ein wenig Platz zwischen den Zeilen, um meine TextViews mit android:lineSpacingMultiplier aus der Dokumentation: Zusätzliche Abstand zwischen den Zeilen des Textes, als Multiplikator. Muss ein Fließkomma-Wert, Z als "1.2". So, ich bin mit
Warum sind diese Zahlen nicht gleich?
3 Antworten
Folgende code ist natürlich falsch. Was ist das problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
C #: Konvertiere Byte-Array in einen Float
1 Antworten
Ich habe ein byte-array der Größe 4 byte source = new byte[4]; Nun wollte ich konvertieren diese Quelle in einen 4-byte float-Wert... Kann mir jemand sagen, wie dies zu tun... Kommentar zu dem Problem In welche numerische
Wie kann ich sicherstellen, dass ein Float immer mit PHP aufgerundet wird?
6 Antworten
Möchte ich sicherstellen, dass ein Schwimmer in PHP aufgerundet wird, wenn alle dezimal vorhanden ist, ohne sich Gedanken über den mathematischen Rundungsregeln. Diese Funktion würde wie folgt funktionieren: 1.1 to 2 1.2 to 2 1.9 to 2
C ++ Int Float Casting
7 Antworten
Warum ist m immer = 0? Die x-und y-Mitglieder someClass ganze zahlen sind. float getSlope(someClass a, someClass b) { float m = (a.y - b.y) / (a.x - b.x); cout << " m = " << m
Druck unterschiedliche Genauigkeit nach Spalte mit pandas.DataFrame.to_csv ()?
5 Antworten
Frage Ist es möglich, an eine float-Präzision, die speziell für jede Spalte gedruckt werden soll, indem Sie das Python - pandas Paket-Methode pandas.DataFrame.to_csv? Hintergrund Wenn ich eine pandas dataframe, angeordnet ist, wie dies: In [53]: df_data[:5] Out[53]:
Wie kann ein primitiver Gleitkommawert -0.0 sein? Was bedeutet das?
5 Antworten
Kommen, wie eine primitive float-Wert -0.0? Was bedeutet das? Kann ich stornieren, die Funktion? Wenn ich: float fl; Dann fl == -0.0 zurück true und so funktioniert fl == 0. Aber wenn ich es ausdrucken, er druckt
Verwenden von "double" als Zählervariablen in Schleifen
6 Antworten
In einem Buch, das ich derzeit lese, gibt es diesen Auszug: Kann auch ein floating-point Wert als Zählvariable. Hier ist ein Beispiel einer for Schleife mit dieser Art Zähler: double a(0.3), b(2.5); for(double x = 0.0; x
String in Float in C # konvertieren
7 Antworten
Ich bin der Konvertierung einer Zeichenfolge wie "41.00027357629127", und ich bin mit; Convert.ToSingle("41.00027357629127"); oder float.Parse("41.00027357629127"); Diese Methoden geben 4.10002732 E+15. Wenn ich konvertieren zu schweben ich will "41.00027357629127". Dieser Wert sollte der gleiche sein... Kommentar zu dem
Wert für Epsilon in Python
3 Antworten
Gibt es einen standard-Wert für (oder Methode für den Erhalt) epsilon in Python? Ich muss vergleichen, floating-point-Werte und vergleichen wollen gegen die kleinste mögliche Differenz. In C++ gibt es eine Funktion, numeric_limits::epsilon( ) gibt die den epsilon-Wert
Runden von Float-Werten
2 Antworten
Habe ich die double Wert wie 12.256852651 und ich möchte, um es anzuzeigen als 12.257 als float-Zahl, ohne Konvertierung in einen string-Typ. Wie kann ich es in C# ? Kommentar zu dem Problem - Öffnen Math.Round(Wert, 3)
Hat es einen Vorteil, pow (x, 2) anstelle von x * x zu verwenden, mit x double?
8 Antworten
gibt es einen Vorteil, mit diesem code double x; double square = pow(x,2); statt? double x; double square = x*x; Ich ziehe x*x und betrachten meine Anwendung (Microsoft) finde ich auch keine Vorteile im pow, weil x*x
In JavaScript, warum gibt Null geteilt durch Null Rückkehr NaN, aber jede andere durch Null geteilt Rückkehr Infinity?
3 Antworten
Scheint es mir, dass der code console.log(1 / 0) zurückkehren sollte NaN, aber stattdessen gibt es zurück Infinity. Aber dieser code: console.log(0 / 0) hat zurück NaN. Kann mir jemand helfen zu verstehen die Gründe für diese
PHP: Unformatiertes Geld
8 Antworten
Gibt es einen Weg, um den float Wert von einer Zeichenfolge wie diese: 75,25 € andere als parsefloat(str_replace(',', '.', $var))? Möchte ich, dass dies abhängig von der aktuellen Sprache der Website, und manchmal sind die Komma ersetzt
Erhalte den Dezimalteil einer Zahl mit JavaScript
16 Antworten
Ich habe float-zahlen wie 3.2 und 1.6. Muss ich trennen Sie die Zahl in der ganzzahligen und dezimalen Teil. Zum Beispiel, ein Wert von 3.2 würde aufgeteilt werden in zwei Nummern, D. H. 3 und 0.2 Immer
Was repräsentiert die Konstante 0.0039215689?
2 Antworten
Sehe ich diese ständige pop-up in verschiedenen Grafiken header-Dateien 0.0039215689 Scheint es, haben etwas zu tun mit der Farbe vielleicht? Hier ist der erste Treffer auf Google: void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f;
Wie unterdrücke ich die wissenschaftliche Notation in Python?
8 Antworten
Hier ist mein code: x = 1.0 y = 100000.0 print x/y Mein quotient zeigt, wie 1.00000e-05 Gibt es eine Möglichkeit zu unterdrücken, wissenschaftliche notation und anzeigen lassen, wie 0.00001? Wie konvertiert man die wissenschaftliche Schreibweise in
Gibt es eine Funktion um einen Float in C zu runden oder muss ich meine eigene schreiben?
7 Antworten
Gibt es eine Funktion um eine float in C oder muss ich schreiben, dass meine eigenen? float conver = 45.592346543; Möchte ich Runde der tatsächliche Wert auf eine Dezimalstelle, conver = 45.6. InformationsquelleAutor der Frage T.T.T. |
Truncating schwebt in Python
22 Antworten
Möchte ich entfernen Ziffern von einem Schwimmer haben eine Feste Anzahl von Ziffern nach dem Punkt, wie: 1.923328437452 -> 1.923 Ich ausgeben muss als string an eine andere Funktion, nicht drucken. Will auch ich zu ignorieren, die
Wie konvertiert man String in Float in JavaScript?
7 Antworten
Ich versuche zu analysieren, zwei Werte aus einer datagrid. Die Felder sind numerisch, und wenn Sie ein Komma (ex. 554,20), ich kann nicht die zahlen nach dem Komma. Ich habe versucht parseInt und parseFloat. Wie kann ich