Tag: rounding
Runden eines numerischen Wertes bedeutet ersetzt Sie durch eine andere Wert, der ungefähr gleich, hat aber eine kürzere, einfachere oder klarere Darstellung.
Wie kann ich verhindern, dass csv.DictWriter() oder writerow() Rundung meiner schwimmt?
3 Antworten
Ich habe ein Wörterbuch, das ich schreiben will in eine csv-Datei, aber die schwimmt im Wörterbuch abgerundet sind, wenn ich Sie Schreibe in die Datei. Ich will, dass die maximale Genauigkeit. Wo kommt die Rundung auftreten, und
Warum gibt C# Konvertieren.ToDouble(5/100) 0.0 und 0.05 nicht
7 Antworten
double variable = Convert.ToDouble(5/100); Zurück 0.0 aber ich erwartete 0.05 Was kann /muss ich ändern um 0.05 weil die 5 in diesem Beispiel wird eine variable Können wir einen größeren Teil des Codes, für mich funktioniert es.
postgresql Runde Hälfte nach unten Funktion
6 Antworten
die Runde(numeric,integer) - Funktion in PostgreSQL nur Runden bis: round(cast (41.0255 as numeric),3) ==> 41.026 Da brauchen wir ein round-Funktion gibt 41.025 und (ganz überraschend) gibt es nicht so eine Funktion in PostgreSQL (wir verwenden 9.1.5), wir
Hysterese Runde zu lösen "flackern" die Werte aufgrund von Rauschen
3 Antworten
Hintergrund: Wir haben ein embedded system und wandelt die lineare Positionen (0 mm - 40 mm) aus einem potentiometer-Spannung zu seiner digitalen Wert mit einer 10-bit-analog-zu-digital-Wandler. ------------------------ 0mm | | 40 mm ------------------------ Zeigen wir dem Benutzer
BigDecimal Boden Rundung schief geht
5 Antworten
Ich habe vor kurzem eine Frage über komische java-doppelter Boden Runden, und bekam Antworten zu verwenden BigDecimals statt, so versuchte Sie den folgenden code: BigDecimal velocity = new BigDecimal(-0.07); BigDecimal afterMultiplyingBy200 = velocity.multiply( new BigDecimal(200.0) ); BigDecimal
NSTimeInterval in lesbaren NSNumber
7 Antworten
NSTimeInterval == double; (z.B. 169.12345666663) Wie kann ich Runde diese verdoppeln, so dass es nur 2 Ziffern Links nach der "dot"? Es wäre sehr gut, wenn das Ergebnis ist ein NSNumber. InformationsquelleAutor papr | 2009-02-22
Abgerundet wird ein Doppel auf die nächste Ganzzahl
1 Antworten
Wie kann ich umwandeln eines double in einen int, aber stellen Sie sicher, es rundet unabhängig von der dezimal-Wert (wie lange als dezimal-Wert ist nicht 0)? InformationsquelleAutor Backwards_Dave | 2015-04-23
Einfügen von DECIMAL-Datentyp Oracle-DB mit SQL Developer
2 Antworten
Freunde, ich bin neu in SQL und ich finde keine Antwort auf meine Frage Ich versuche zu legen Dezimalzahl mit SQL Developer (version 4 build 15), aber SQL Developer automatisch die Rundung meiner Nummer. Meine test-DB ist
Rundung eine Java BigDecimal zum nächsten Intervall
2 Antworten
Habe ich einen BigDecimal-Berechnung Ergebnis, das ich brauche, um Runden auf den nächsten angegebenen Intervall (in diesem Fall ist es der financial market tick size). z.B. Preis [Tick Size] -> Gerundet Preis 100.1 [0.25] -> 100 100.2
ios-double von string ohne abgerundete
2 Antworten
Code unten ist die Rundung meiner latitude-string. ich nicht wollen, es zu bekommen, gerundet werden. double lat muss 41.04546. NSString *latitude= @"41.04546"; double lat= latitude.doubleValue; //it gives 41.0455 CLLocationCoordinate2D coordinat; coordinat.latitude= lat; Präzise koordinieren muss nicht gerundet
Rundung von Dezimalzahlen mit toFixed
2 Antworten
Habe ich kleines Problem mit der JavaScript-Funktion toFixed(2). Wenn ich diese Runde Dezimalzahl 45.24859 bekomme ich 45.25 mit dieser Funktion. Aber mein problem ist, wenn ich Runde 10 hat (ohne Nachkommastellen), die Funktion gibt eine Dezimalzahl 10.00.
PHP Undefined Constant PHP_ROUND_HALF_DOWN
7 Antworten
Ich habe einige PHP-code in einem Projekt an dem ich arbeite, verwendet der PHP-Funktion round. Auf meinem localhost, ich weiß nicht sämtliche Angebote rund um die mein Modus-argument, das besagt, es ist eben PHP_ROUND_HALF_DOWN. Allerdings, wenn man
Wie Runde ein DateTime in MySQL?
6 Antworten
Möchte ich die Diskretisierung der Zeit mit der Auflösung von 5 Minuten. Ich habe es in C#, aber wie konvertieren Sie den folgenden code, um die MySQL? DateTime Floor(DateTime dateTime, TimeSpan resolution) { return new DateTime (
Wie Sie angeben, RoundingMode für dezimal-zahlen in Jasper Reports
2 Antworten
Bin ich mit Java mit Jasper Reports und würde gerne format ein decimal-Wert mit diesem format Maske "#,##0.00". Auf den ersten Blick sieht alles in Ordnung, aber ich fand, dass mein dezimal Werte sind gerundet mit RoundingMode.HALF_EVEN
Befestigung Sub-Pixel-Rundung-Problem in einem CSS-Fluid Grid
2 Antworten
Ich versuche zu schaffen, ein flüssiges CSS-grid, es funktioniert in Firefox und IE8+, aber NICHT in Safari/Chrome/Opera, wo die sub-pixel-Rundung-Problem wird sichtbar: http://jsfiddle.net/bJKQ6/2/ .column { float: left; width: 25%; } Den main-container eine Breite von 100%, und
Math.Runde mit negativen parameter
3 Antworten
ALLE, Ich versuche zu konvertieren Borland C++ - code in C#. In den alten code sehe ich Folgendes: double a = RoundTo( b, -2 ); Blick auf Borland-Dokumentation sehe ich, dass RoundTo() akzeptieren sowohl positive als auch
Rund die Hälfte noch für das doppelte
3 Antworten
Muss ich Runde auf die nächste 0,5 wenn möglich. 10.4999 = 10.5 Hier ist quick code: import java.text.DecimalFormat; import java.math.RoundingMode; public class DecimalFormat { public static void main(String args) { DecimalFormat dFormat = new DecimalFormat("#.0"); dFormat.setRoundingMode(RoundingMode.HALF_EVEN); final
Wie schreibt man einen Prototyp für Anzahl.toFixed in JavaScript?
5 Antworten
Muss ich Runde dezimale zahlen um sechs Plätze mit Hilfe von JavaScript, aber ich muss noch überlegen, älteren Browsern, so dass ich können nicht Sie verlassen sich auf die Nummer.toFixed Den großen Fang mit toExponential, toFixed, und
Aufrunden auf die nächste ganze Zahl
2 Antworten
Ich habe Suche für eine ganze Weile und kann nicht scheinen, nichts zu finden auf dieser. Wie Runde ich eine Zahl bis auf die nächste ganze Zahl? Ich bin mit der Anzahl der Objekte in einem array
iTextSharp-A4-Größe Rundung
2 Antworten
Gemäß dem ISO-standard, A4 210x297 mm, oder etwa 595.2756x841.8898 Punkte. Gibt es einen Grund, warum in iTextSharp, die Punkt-Werte sind gerundet, dh. 595x842, auch wenn Sie schwimmt? InformationsquelleAutor fejesjoco | 2015-04-12
Runde auf die nächste höhere Zahl
4 Antworten
Möchte ich Runde einen Wert (double) an den nächsten (immer aufgerundet) Anzahl. Die Rundung kann definiert werden, indem eine beliebige Anzahl. Exp.: Runde bis zu den nächsten 2.50 0.00 --> 0.00 0.01 --> 2.50 2.49 --> 2.50
Ruby Big Dezimalen Rundung mit fester Nummer
2 Antworten
Möchte ich um eine BigDecimal in ruby. Ich weiß, dass ich kann verwenden Sie die Funktion round aber die round-Funktion gibt (3.2).round(2) => 3.2 Möchte ich (3.2).round(2) => 3.20 (3.20).round(2) => 3.20 (3).round(2) => 3.00 (3.578).round(2) =>
number_format rundet Letzte dezimale zahlen und steigt in die nächste Runde Dezimalzahl ist
4 Antworten
Habe ich einen DOUBLE-Datentyp Spalte in meiner MySQL-Tabelle, und ich habe einen Wert von: 14.5299 Aber PHP number_format Runden Sie diesen Wert auf: 14.5300 Und wenn ich nur echo 14.5299 es Ausgänge: 14.53 Wie kann ich die
Wie Runde richtig SQL Geld geben?
1 Antworten
Brauche ich Hilfe von SQL-Experten. Ich versuche, Daten mit 4 Nachkommastellen. Ich bin dabei einige Berechnung auf Typ "Geld". Aber die Berechnung nicht Runde zu mine Vorliebe. Unten ist ein Beispiel mit regelmäßigen zahlen und die gleichen
Wie Runde Zahl, um die nächsten 50 in Javascript
3 Antworten
Ich brauche Hilfe bei der folgenden. Ich würde gerne Runde berechneten zahlen auf diese Weise: Beispiel: 132 geht bis 150, 122 geht zu 100 0-24,99 0 25-74,99 geht zu 50 75-124,99 geht zu 100 und so weiter..
Unerwünschte Rundung von DateTime in SQL Server
1 Antworten
Ich lief in etwas, das scheint seltsam. SQL Server scheint zu sein, die Rundung einige DateTime Werte unangemessen, wenn ich speichern Sie Sie auf datetime Spalten. Ich vermute, ich bin etwas fehlt, aber ich kann nicht finden
Wie eine Runde schwimmen, um die nächsten Viertel
3 Antworten
Manchmal muss ich eine Runde schwimmen, um die nächste Viertel und manchmal auf die nächste Hälfte. Für die Hälfte, die ich verwenden Math.round(myFloat*2)/2f Kann ich verwenden Math.round(myFloat*4)/4f. aber gibt es irgendwelche anderen Vorschläge? Ich sehe nicht das
Runden schwimmt mit ostringstream
4 Antworten
Ich habe eine Frage in Bezug auf die Konvertierung von float in c++ - string mit ostringstream. Hier ist meine Zeile: void doSomething(float t) { ostringstream stream; stream << t; cout << stream.str(); } wenn t den
sed Rundung einer Zahl auf 2 Dezimalstellen
3 Antworten
Habe ich eine Reihe also 123.456789 und meine Frage ist, wie diese Runde auf zwei Dezimalstellen nach dem Punkt, so dass es Aussehen wie 123.46 mit sed? Irgendwelche Ideen? Alternativ dazu, wie schneidet der rest nach 2
Rundung einer Zahl auf die nächste 5 oder 10 oder X
13 Antworten
Gegebenen zahlen wie 499, 73433, 2348, was VBA kann ich verwenden, um die Runde auf die nächsten 5 oder 10? oder eine willkürliche Zahl? Durch 5: 499 -> 500 2348 -> 2350 7343 -> 7345 Um 10:
Wie rundet parseFloat Ergebnisse in Jquery/Javascript?
1 Antworten
Wie würde ich abrunden einen Wert aus einem Textfeld mit einem parseFloat führen? Diese Anwendung im Grunde fasst den Wert aller radio-buttons, wenn Sie angeklickt wird und zeigt die Summe in einem Textfeld. Den code unten funktioniert
Der name `Mathe' existiert nicht im aktuellen Kontext
3 Antworten
Ich habe den Code unten und ich bin zu versuchen, um die PerlinNoise(x,z), so habe ich ihn auch gleich Yscale und versuchte um Sie herum. das Problem ist, ich bekomme die Fehlermeldung "Der name `Mathe' existiert nicht
Runden Sie eine Zahl auf die nächst höhere 10
5 Antworten
Ich muß ein Diagramm erstellen, wo die Skalierung der Y-Achse ändert sich je nach Eingabe der Daten in das system. Denkbar, diese Skala könnte überall von 0-10, 0-100 oder sogar untere Grenze von tausend und einer oberen
C: Wie mache ich eine Zahl immer aufrunden
2 Antworten
Ich bin zu wollen eine Funktion, die berechnet die Kosten auf Grundlage der Zeit. Für jede Zeit weniger als drei Stunden würde es wieder eine Flatrate-Gebühr von $2. Für jede Stunde oder einen Teil einer Stunde über
konvertieren verdoppeln, auf zwei Dezimalstellen
4 Antworten
Hallo ich bin ein c# Anfänger wäre jemand so höflich mir sagen, wie zu konvertieren Sie die Werte von diesem Stück code, um ein Doppel - /dezimale gerundet.. vielen Dank im Voraus DataTable dtValues = new DataTable("GetValues");
Holen Sie sich die Letzten 2 Dezimalstellen Ohne Rundung
5 Antworten
In C#, ich versuche, die letzten zwei Dezimalstellen der Doppel OHNE Rundung gestrichen. Ich habe alles versucht, von Math.Floor zu Math.Truncate und nichts funktioniert. Proben von den Ergebnissen, die ich möchte: 1,424.2488298 -> 1,424.24 53.5821 -> 53.58
Wie Runde double-Werte, aber halten Sie nachfolgende Nullen
5 Antworten
In C# ich möchte eine Funktion, die Runden einer bestimmten verdoppeln, um eine bestimmte Menge von Nachkommastellen. Ich will immer meine Funktion einen Wert zurückgeben (das kann ein string) mit der angegebenen Menge der Dezimalzahlen. Wenn notwendig,
Rundung Problem mit SQL-Server und REAL-Datentyp
2 Antworten
Ich sehe etwas seltsames Verhalten beim Runden in SQL Server 2008. Die folgenden code: DECLARE @Value REAL SELECT @Value = .35 SELECT ROUND(@Value, 1) Ich würde erwarten, dass der Wert zu sein, .4, jedoch gibt es .3.
Einschränkung auf einen Datumsbereich mit Genauigkeit im MS SQL / SQL Server 2005
5 Antworten
Möchte ich einen Bericht so einschränken, um Datensätze zurückzugeben, die von Datum A bis Datum B Dies ist, was ich Tue: declare @startDate varchar(20) declare @endDate varchar(20) set @startDate = '01/01/2008' set @endDate = '04/01/2008' -- test
zurück Standard precision C++
5 Antworten
Ich soll zur Kontrolle der Präzision für ein Doppelzimmer bei einem Vergleich, und dann kommen Sie wieder auf die default-Präzision mit C++. Ich beabsichtige zu verwenden setPrecision() zu setzen Präzision. Was ist denn die syntax, wenn vorhanden,
Runde ein Schwimmer auf einem regelmäßigen raster mit vordefinierten Punkte
10 Antworten
Möchte ich um eine float-Zahl um eine gegebene Genauigkeit, zum Beispiel : 0.051 i want to convert it to 0.1 0.049 i want to convert it to 0.0 0.56 i want to convert it to 0.6 0.54
Runde bis zur Zweiten Dezimalstelle in Python
9 Antworten
Wie kann ich das Runden einer Zahl auf die zweite Nachkommastelle in python? Zum Beispiel: 0.022499999999999999 Sollte die Runde bis zu 0.03 0.1111111111111000 Sollte die Runde bis zu 0.12 Wenn es irgendeinen Wert in der Dritten Dezimalstelle,
Rundung BigDecimal mit setScale () - Methode: unerwartetes Ergebnis
2 Antworten
Um eine Nummer, die ich den folgenden code verwenden: public static roundBd(BigDecimal bd){ BigDecimal result1 = bd.setScale(0, RoundingMode.HALF_UP); return result1; } Eingang 1.50 --> Ausgang 2 Eingang 1.499 --> Ausgang 1 Das erste Ergebnis ist für mich
Abrundung von Dezimalzahlen in SQL Server 2008
3 Antworten
Lese ich alle Runden-Funktionen von T-SQL wie Round, Floor, und Ceil, aber keiner von Ihnen hat abgerundet Dezimalzahlen richtig für mich. Ich habe 2 Fragen: Wie abrunden einer Zahl (3.69 ==> 3.5)? Wie Sie in der Runde
Rundung auf eine Leistung von 10
3 Antworten
Ich habe eine variable, tauMax, möchte ich Runde bis auf die nächste Zehnerpotenz(1, 10, 100, 1000...). Ich bin unter den unten angegebenen Ausdruck zu finden, den nächsten ganzzahligen Wert der max-Wert in der tau-array. Ich finde den
Wie formatiere ich eine Doppel-Währung gerundet auf den nächsten dollar?
6 Antworten
Nun habe ich double numba = 5212.6312 String.Format("{0:C}", Convert.ToInt32(numba) ) Das wird mir $5,213.00 aber ich will nicht die ".00". Ich weiß, ich kann einfach die letzten drei Zeichen der Zeichenfolge jedes mal um den Effekt zu
WENN-Funktion in Kombination mit einer Runden-Funktion von Excel
1 Antworten
Ich versuche zu kombinieren IF - Funktion mit einer Funktion Runden, um zu versuchen, um eine bestimmten Wert. In diesem Fall ist der Wert in Zelle H2. E2=Dezimalstellen. Also, wenn E2=9 es gibt 9 Dezimalstellen. Ich versuche
Swift aufrunden Doppel
4 Antworten
Ich bin zu versuchen, um eine doppelte einer ganzen Zahl, var numberOfBottles = totalVolume / volumeEachBottles beispielsweise numberOfBottles = 275.0 /250.0 das würde mir 1.1, ich brauche es, um Runde bis zu 2 Wollen Sie die 2
Um eine Antwort auf 2 Nachkommastellen in Python
4 Antworten
Das Problem, das ich habe, ist meine Rundungen, meine Ergebnisse auf 2 Dezimalstellen. Meine app bekommt das richtige Ergebnis, aber ich bin mir Schwierigkeiten machen die app Runde auf die nächste dezimale, wie Sie mit der Währung
Warum Konvertieren.ToInt32() Runde auf die nächste gerade Zahl, statt die nächste ganze Zahl?
4 Antworten
Blick auf die msdn-Dokumentation für Convert.ToInt32() heißt es: Wenn der Wert auf halbem Weg zwischen zwei ganzen zahlen, die gerade Zahl ist zurückgegeben; das heißt, 4.5 umgewandelt, 4 und 5.5 umgewandelt wird, 6. http://msdn.microsoft.com/en-us/library/ffdk7eyz.aspx Warum ist das