Tag: rounding-error
Rundungsfehler sind, wenn die Nummer gespeichert ist, ist nicht genau die Zahl erwartet
Die Angabe DPI von einem GDI-Gerätekontext
4 Antworten
Ich habe eine Anwendung, die generiert metafiles (EMF). Es verwendet das Referenz-Gerät (aka dem Bildschirm), um diese Metadateien, also die DPI der Metadatei ändert sich abhängig davon, auf welcher Maschine der code ausgeführt wird. Let ' s
php intval() und floor() return-Wert zu niedrig?
5 Antworten
Weil der float-Datentyp in PHP ist ungenau, und ein SCHWIMMER in MySQL nimmt mehr Platz als ein INT (und ungenau), die ich immer store-Preise wie INTs, multipling von 100 vor dem speichern, um sicherzustellen, dass wir haben
Rundung auf 2 Dezimalstellen mithilfe von VBA
1 Antworten
Ich Schreibe ein Programm, das Summen Informationen, die ich geben Sie nach dem Monat (Spalte) und von der person (Zeile), aber ich habe ein Problem mit einer Rundung Problem. Ich habe gesehen, andere Orte, dass es möglich
Verhinderung Von R Durch Rundung
3 Antworten
Wie kann ich verhindern, dass R von der Rundung? Beispielsweise > a<-893893084082902 > a [1] 8.93893e+14 Ich bin zu verlieren eine Menge von Informationen gibt. Ich habe versucht, signif() und es scheint nicht das zu tun, was
C# Rundung MidpointRounding.ToEven vs MidpointRounding.AwayFromZero
1 Antworten
In C# gibt es einen Unterschied in der Genauigkeit von zwei Dezimalstellen Rundung Strategien MidpointRounding.ToEven und MidpointRounding.AwayFromZero? Ich meine, beide sorgen für eine gleichmäßige Verteilung unter den zahlen, die gerundet werden, oder ist eine Rundung Strategie über
Welche Klasse für Geld Darstellung?
6 Antworten
Welche Klasse soll ich verwenden für die Darstellung von Geld zu vermeiden, die meisten Rundungsfehler? Sollte ich Decimal oder eine einfache built-in number? Ist es bereits Money - Klasse mit Unterstützung für die Währungsumrechnung, die ich verwenden
Rundung, Standards, Finanzielle Berechnungen
4 Antworten
Ich bin gespannt auf die Existenz einer "Rundung" standards", wenn es um die Berechnung der finanziellen Daten. Meine ersten Gedanken sind zu erfüllen Rundung nur, wenn die Daten dem Benutzer präsentiert (presentation layer). Wenn "gerundeten" Daten können
Wie wird Gleitkomma gespeichert? Wann ist es wichtig?
10 Antworten
Im follow-up zu diese Fragescheint es, dass einige zahlen nicht dargestellt werden kann durch floating-point auf, und statt angenähert. Wie werden floating-point-zahlen gespeichert? Ist es, einen gemeinsamen standard für die verschiedenen Größen? Welche Fallstricke muss ich achten,