Tag: double-precision

Alles rund um die double-precision-floating-point Arithmetik und Daten-Typen. Oft mit Verweis auf IEEE754 double-precision-floating-point-Darstellung.

host-zu-Netz doppelt?

Anzahl der Antworten 3 Antworten
Ich würde gerne einige double-precision-floating-point-zahlen über das Netzwerk. (standard C, standard-buchsen) Es gibt keine htond oder ntohd konvertieren der Daten in und aus der Netzwerk-byte-Reihenfolge. Was soll ich tun? Ich habe ein paar Lösungen in meinem Kopf,

Vergleicht man double-Werte auf Gleichheit in Java.

Anzahl der Antworten 3 Antworten
Ich würde gerne ein paar Ratschläge von Leuten die mehr Erfahrung haben, arbeiten mit primitiven double Gleichheit in Java. Mit d1 == d2 für zwei Doppelzimmer d1 und d2 ist nicht ausreichend, aufgrund möglicher Rundungsfehler. Meine Fragen

Function return type mismatch

Anzahl der Antworten 3 Antworten
Versuche ich zu recode ein altes C++ Programm in Fortran zu machen Verwendung von LAPACK (ich bin mir bewusst, dass C++ nicht haben, LAPACK++, aber ich habe eine Menge Probleme mit der Installation, so dass ich aufgab).

C++ schreiben und Lesen doubles aus einer binären Datei

Anzahl der Antworten 4 Antworten
Ich möchte disk-I/O-Operationen für ein Programm, das braucht zu viel RAM. Ich benutze Matrizen verdoppelt und denke, dass das schreiben auf die Festplatte als "Byte" ist der Schnellste Weg (ich muss zur Wahrung der double-precision). Wie es

MATLAB: Umwandlung einer uint32 (4-byte -) Wert der entsprechenden IEEE-single-precision-floating-point-form

Anzahl der Antworten 2 Antworten
In MATLAB (r2009b) habe ich eine uint32 variable, die den Wert 2147484101. Diese Nummer (4-Byte) extrahiert worden, die von einer digitalen Maschine-vision-Kamera in einem Kopierprozess. Nach dem, was ich verstehe, hält es die single-precision-form der shutter-Geschwindigkeit der

Java float genauer als das doppelte?

Anzahl der Antworten 3 Antworten
Code: class Main { public static void main (String args) { System.out.print("float: "); System.out.println(1.35f-0.00026f); System.out.print("double: "); System.out.println(1.35-0.00026); } } Ausgabe: float: 1.34974 double: 1.3497400000000002 ??? Schwimmer bekam die richtige Antwort, aber doppelt ist das hinzufügen von zusätzlichen

Java BigDecimal Präzision Probleme

Anzahl der Antworten 5 Antworten
Ich weiß, das folgende Verhalten ist ein altes problem, aber ich kann Sie nicht verstehen. System.out.println(0.1 + 0.1 + 0.1); Oder obwohl ich BigDecimal System.out.println(new BigDecimal(0.1).doubleValue() + new BigDecimal(0.1).doubleValue() + new BigDecimal(0.1).doubleValue()); Warum dieses Ergebnis: 0.30000000000000004 statt:

Sollte ich double oder float?

Anzahl der Antworten 11 Antworten
Was sind die Vorteile und Nachteile der Verwendung von nur einer statt des anderen in C++? InformationsquelleAutor der Frage AraK | 2009-07-02

Hat JavaScript doppelte Gleitkommazahlgenauigkeit?

Anzahl der Antworten 2 Antworten
Ich weiß, es ist eine seltsame Frage, aber hat JavaScript die Fähigkeit zur Arbeit mit Doppel-s im Gegensatz zu einzelnen schwimmt? (64-bit-floats vs. 32 bits.) InformationsquelleAutor der Frage Travis | 2010-08-31

Wie man Floats richtig und standardmässig vergleicht?

Anzahl der Antworten 8 Antworten
Jedes mal, wenn ich ein neues Projekt starten, und wenn ich vergleichen müssen einige float-oder double-Variablen Schreibe ich den code wie diesen: if (fabs(prev.min[i] - cur->min[i]) < 0.000001 && fabs(prev.max[i] - cur->max[i]) < 0.000001) { continue; }