Tag: decimal

Dezimal ist der name für unsere gemeinsame Basis-zehn-Ziffern-system. Es kann auch beziehen sich auf nicht-ganzzahlige Werte ausgedrückt mit Dezimalpunkt.

Print Zahl im engineering-format

4 Antworten

Ich versuche, drucken Sie eine Zahl in das engineering-format mit python, aber ich kann nicht scheinen, um es zu arbeiten. Die syntax SCHEINT einfach genug, aber es funktioniert einfach nicht. >>> import decimal >>> x = decimal.Decimal(1000000)

C# - Prüfen ob eine Dezimalzahl mit mehr als 3 Nachkommastellen?

12 Antworten

Habe ich eine situation, die ich nicht ändern kann: eine Datenbank-Tabelle (Tabelle A) akzeptiert 6 Nachkommastellen, während eine verknüpfte Spalte in einer anderen Tabelle (Tabelle B) nur 3 Dezimalstellen. Brauche ich zum kopieren von A nach B,

c#decimal

Konvertieren von dezimal -, Prozent-oder Umschalt-Dezimalstellen. Wie

2 Antworten

Ich habe eine, die erzeugt wird von den diference von 2 zahlen, aber zurück zum Beispiel 0,07 für 7% und 0,5 für 50% will ich einfach nur fix zu erreichen, diese goar, wie auf 15,2% 13% und

c#decimal

Rundung einer Zahl in Python, aber halten endende Nullen

3 Antworten

Ich arbeite schon an einem Skript nimmt die Daten aus einer Excel-Kalkulationstabelle, Runden die zahlen, und entfernt das Komma, zum Beispiel, 2606.89579999999 wird 26069. Allerdings muss ich die Zahl Runden auf zwei Dezimalstellen, auch wenn es wäre

decimal floating-point python rounding

Entfernen Sie unnütze null-Ziffern von Dezimalzahlen in PHP

19 Antworten

Ich bin auf der Suche nach einem schnellen Weg, um zu entfernen zero decimals aus Anzahl Werte wie diese: echo cleanNumber('125.00'); //125 echo cleanNumber('966.70'); //966.7 echo cleanNumber(844.011); //844.011 Existiert einige optimierte Art und Weise, das zu tun?

decimal numbers php

Konvertieren Sie eine Dezimalzahl auf einen Bruchteil / rationale Zahl

11 Antworten

In JavaScript gibt es eine Möglichkeit zur Konvertierung einer Dezimalzahl (wie 0.0002) zu einem Bruchteil dargestellt als Zeichenfolge (zum Beispiel "2/10000")? Wenn eine Funktion aufgerufen decimalToFraction geschrieben worden war, für diesen Zweck, dann decimalToFraction(0.0002) würde den string

decimal fractions javascript rational-numbers

Wie eine Konstante dezimal-Wert

4 Antworten

Bin ich C# verwenden, um einen Standardwert für einen decimal-Wert in meinem config-Klasse public class ConfigSection : ConfigurationSection { [ConfigurationProperty("paymentInAdvanceAmount", **DefaultValue = 440m**)] public decimal PaymentInAdvanceAmount { get { return (decimal)base["paymentInAdvanceAmount"]; } set { base["paymentInAdvanceAmount"] = value;

c#decimal

Abschneiden einer decimal-Wert in Python

12 Antworten

Ich versuche abzuschneiden, einen decimal-Wert in Python. Ich will nicht um ihn, sondern nur die Anzeige der dezimal-Werte bis zu der angegebenen Genauigkeit. Ich habe versucht, die folgenden: d = 0.989434 '{:.{prec}f}'.format(d, prec=2) Diese Runden es auf

decimal formatting python truncate

Wie Runde dezimal-Wert bis zum nächsten 0.05 Wert?

5 Antworten

Gibt es eine Möglichkeit, Runden decimal-Wert auf seinen nächsten Wert 0.05 in .Net? Ex: 7.125 -> 7.15 6.66 -> 6.7 Wenn Ihr nun verfügbar kann jemand mir den algo? InformationsquelleAutor der Frage Prashant C | 2009-09-19

.net algorithm c#decimal rounding

Konvertieren von hex zu dezimal in R

4 Antworten

Fand ich heraus, dass es ist die Funktion, die aufgerufen wird .hex.to.dec im fBasics Paket. Wenn ich .hex.to.dec(a) es funktioniert. Habe ich einen Daten-frame mit einer Spalte samp_column aus solchen Werten: a373, 115c6, a373, 115c6, 176b3 Wenn

decimal hex r

Wie Sie Runden Sie eine Zahl auf zwei Nachkommastellen in C#?

13 Antworten

Ich möchte dies tun, indem Sie die Math.Round Funktion InformationsquelleAutor der Frage | 2008-11-02

bankers-rounding c#decimal rounding

Aufrunden float-point-zahlen bash

4 Antworten

Ok, ich versuche also zu Runde bis eine Eingabe 17.92857so dass es erhält einen input von 17.929 in der bash. Mein code bisher ist: read input echo "scale = 3; $input" | bc -l Jedoch, wenn ich

bash decimal floating-point number-rounding shell

Teilt man eine ganze Zahl in Ziffern zu berechnen ISBN-Prüfsumme

15 Antworten

Ich Schreibe ein Programm, das berechnet die Prüfziffer einer ISBN-Nummer. Ich habe zu Lesen die Eingabe des Benutzers (neun stellen einer ISBN) in eine integer-variable, und dann multipliziere die Letzte Ziffer mit 2, die zweite Letzte Ziffer

decimal integer python

Dezimal-zu-Hexadezimal-Konverter in Java

12 Antworten

Ich habe eine Hausaufgabe, wo ich zu tun drei-Wege-Konvertierung zwischen dezimal -, Binär-und hexadezimal. Die Funktion brauche ich Hilfe mit der Konvertierung von dezimal in hexadezimal. Ich habe fast kein Verständnis, hexadezimal, dennoch so konvertieren Sie eine

converter decimal hex java

Umwandlung von hex zu dezimal in awk oder sed

7 Antworten

Habe ich eine Liste von zahlen, durch Komma getrennt: 123711184642,02,3583090366663629,639f02012437d4 123715942138,01,3538710295145500,639f02afd6c643 123711616258,02,3548370476972758,639f0200485732 Muss ich split der 3. Säule in die drei wie folgt: 123711184642,02,3583090366663629,639f02,0124,37d4 123715942138,01,3538710295145500,639f02,afd6,c643 123711616258,02,3548370476972758,639f02,0048,5732 Umwandeln und die Ziffern der beiden letzten Spalten in dezimal: 123711184642,02,3583090366663629,639f02,292,14292

awk decimal hex sed

Runden auf .5 oder 1.0 in SQL

1 Antworten

Ich freue mich auf Runde Werte wie 2.3913 -> 2.5 4.6667 -> 4.5 2.11 -> 2 Wie Schaffe ich das in SQL? Dank InformationsquelleAutor der Frage Sandeep Bansal | 2012-03-26

decimal numbers rounding sql tsql

SQL Server decimal scale length - kann oder muss?

1 Antworten

Habe ich wirklich einfach die Frage über DECIMAL (und vielleicht NUMERIC) - Datentyp in SQL Server 2008 R2. MSDN sagte: (Skala) Die maximale Anzahl der Dezimalstellen, die gespeichert werden können, um die rechts vom Dezimaltrennzeichen. Maßstab muss

decimal precision scale sql-server

Ist SQL Server 'GELD' - Datentyp einem decimal-floating-point-oder binary floating point?

3 Antworten

Konnte ich nicht finden alles, was Sie ablehnt oder bestätigt, ob der SQL-Server 'GELD' Datentyp eine dezimale Gleitkomma-oder Binär-Gleitkommazahl. In der Beschreibung heißt es, dass GELD zu geben reicht von -2^63 bis 2^63 - 1 so dass

currency decimal floating-point sql-server

C# - dezimal-Trennzeichen?

4 Antworten

Habe ich eine Methode, die zurückgibt, zahlen wie diese: public decimal GetNumber() { return 250.00m; } Wenn jetzt dieser Wert wird auf der Konsole ausgegeben zum Beispiel, es hat ein Komma (250,00) anstelle eines Punktes (250.00). Ich

c#decimal separator

NSNumberFormatter mit Komma Dezimaltrennzeichen

5 Antworten

Ich habe versucht, zu konvertieren, ein NSString wie "12000.54" in "12.000,54". Ich schrieb einen NSNumberFormatter Instanz. NSNumberFormatter *formatter = [[[NSNumberFormatter alloc] init] autorelease]; [formatter setFormatterBehavior:NSNumberFormatterBehavior10_4]; [formatter setNumberStyle:NSNumberFormatterDecimalStyle]; [formatter setGroupingSeparator:@"."]; [formatter setDecimalSeparator:@","]; Aber wenn ich NSLog : NSLog(@"%@",[formatter

decimal ios nsnumberformatter objective-c separator

Klärung der Decimal-Typ in Python

4 Antworten

Jeder wissen, oder zumindest, jeder Programmierer wissen solltedass die Verwendung der float Typ könnte dazu führen, Präzision Fehler. In einigen Fällen jedoch, eine exakte Lösung wäre toll und es gibt Fälle, wo der Vergleich mit einen epsilon-Wert

decimal floating-point python python-3.x

BESETZUNG-zu-DEZIMAL-in MySQL

3 Antworten

Ich versuche zu werfen, um Dezimal-in MySQL so: CAST((COUNT(*) * 1.5) AS DECIMAL(2)) Ich versuche, konvertieren Sie die Anzahl der Zeilen in einer Tabelle (mal 1.5), um eine Gleitkommazahl mit zwei stellen nach dem Komma. SQL-code: SELECT

casting decimal mysql

konvertieren von Decimal-array Double array

2 Antworten

Was ist eine effiziente und hoffentlich elegant Zauberformel konvertieren decimal zu double? Ich arbeite mit einige ziemlich große arrays. InformationsquelleAutor der Frage I. J. Kennedy | 2010-11-14

arrays c#decimal double

ASP.NET MVC-Bindung decimal-Wert

4 Antworten

Ich versuche, herauszufinden, warum framework-weigert sich zu binden "1,234.00" - Wert auf dezimal. Was kann der Grund dafür sein? Werte wie "123.00" oder "123.0000" binden erfolgreich. Ich habe den folgenden code-Einstellung meine Kultur config im Globalen.asax public

asp.net-mvc c#decimal

Python Dezimal zu String

4 Antworten

Es gibt Unmengen von Themen hier, die erklären, wie zu konvertieren eine Zeichenfolge in eine Dezimalzahl, aber wie wandle ich eine Dezimalzahl wieder in einen string? Wie wenn ich dies getan habe: import decimal dec = decimal.Decimal('10.0')

decimal python string

Speicherung der negative Wert in der mysql

1 Antworten

Wie kann ich die Speicherung negativer Wert in mysql decimal? Ich habe Daten aus DMS-zu-Dezimal-negative Werte, so ist es dezimal und negativ. Also, was kann ich verwenden, um zu speichern Wert? InformationsquelleAutor der Frage Hafiz | 2011-12-27

decimal mysql mysql5 negative-number

Visual basic handle decimal comma

4 Antworten

Ich versuche zu speichern, Variablen in text-Dateien und der Tschechischen typografische Regeln, die treibt mich verrückt. Das Programm, das ich bin tuning gewidmet ist die Arbeit an der Tschechischen lokalisierten Computern, auf denen dezimal-Komma verwendet wird, aber

decimal internationalization vb6

Split-dezimal-Variablen in fester und Fraktion Teile

6 Antworten

Ich versuche, zu extrahieren, integral-und Bruch-Teile von einem decimal-Wert (beide Teile sollten ganze zahlen sein): decimal decimalValue = 12.34m; int integral = (int) decimal.Truncate(decimalValue); int fraction = (int) ((decimalValue - decimal.Truncate(decimalValue)) * 100); (für meine Zwecke, dezimal-Variablen

c#decimal fractions integral

Java BigDecimal können Komma statt Punkt?

3 Antworten

Ich habe einen string-Wert, den ich zuordnen möchten, BigDecimal. Wenn ich ein update der dezimal-Wert mit einer Zahl wie 100.23es funktioniert gut, aber wenn ich ein update mit einer Zahl wie 100,23 den code löst eine Ausnahme

bigdecimal decimal java

Dezimal-ToString () - Konvertierung-Problem in C#

7 Antworten

Stehe ich vor einem problem, wenn ich versuche, Sie zu konvertieren decimal? zu string. Szenario ist decimal decimalValue = .1211; string value = (decimalValue * 100).ToString(); Aktuelle Ergebnis : Wert = 12.1100 Erwartete Ergebnis : Wert =

c#decimal string

C# wie immer abgerundet auf die nächste 50

3 Antworten

Ich habe eine Suche auf C# Runden, aber nicht in der Lage zu finden, die Antwort auf mein Aktuelles problem. Was ich tun möchte, ist immer abgerundet auf die nächsten 50. Alle Werte will ich Runde unten

c#decimal function math rounding

Warum verwenden hexadezimale Konstanten?

11 Antworten

Manchmal sehe ich Integer-Konstanten definiert in hexadezimal statt dezimal-zahlen. Dies ist ein kleiner Teil, den ich nahm aus einem GL10 Klasse: public static final int GL_STACK_UNDERFLOW = 0x0504; public static final int GL_OUT_OF_MEMORY = 0x0505; public static

decimal hex java opengl

Wie geben Sie die dezimale Genauigkeit in einem simple_form Zahl-Feld (Rails)

1 Antworten

Also ich habe ein decimal-Feld mit Präzision 2, die in der Datenbank verwendet werden soll für die Währung. Es funktioniert gut, es sei denn, die Letzte Dezimalstelle endet in 0, dh. 799.90. Es wird stattdessen-strip es zu

decimal ruby-on-rails simple-form

Rundung von DecimalFormat

2 Antworten

Hier ist der kleine code um zu veranschaulichen, was ich sehe float floater = 59.999f; DecimalFormat df = new DecimalFormat("00.0"); System.out.println(df.format(floater)); Diese Drucke: 60.0 Ich würde es gerne drucken 59.9 Was muss ich tun? InformationsquelleAutor der Frage

decimal floating-point java

Bewegen Dezimalstellen über in ein Doppel

9 Antworten

Also ich habe ein Doppel-set gleich zu 1234, ich will zu bewegen, eine Stelle zu machen, es 12.34 Damit zu tun das ich multiplizieren .1 1234 zwei mal, ein bisschen wie diese double x = 1234; for(int

decimal double java

Python: Entfernen division dezimal

4 Antworten

Ich habe ein Programm, das teilt die Nummern und gibt dann die Nummer, Aber die Sache ist, dass, wenn es gibt die Zahl, decimal, wie diese: 2.0 Aber ich will es mir geben: 2 so ist es

decimal division python

Django: Wie Lagere ich ein Geld Wert?

8 Antworten

Ich in einem Paradigma problem hier. Ich weiß nicht, ob ich speichern soll Geld als Dezimal - (), oder wenn ich speichern Sie es als string und konvertieren es in eine Dezimalzahl selbst. Meine Argumentation ist diese:

currency decimal django django-models python

Doppelzimmer, Kommas und Punkte

7 Antworten

Mache ich eine Android-Java-Programm, das double-Werte durch den Benutzer. Wenn ich das Programm auf dem computer, es funktioniert großartig, weil die locale auf meinem computer, DE. Aber wenn ich es auf meinem Handy mit FI_FI locale, es

android decimal java

C/C++ zählen die Anzahl der Nachkommastellen?

11 Antworten

Können sagen, dass die Eingabe vom Benutzer ist eine Dezimalzahl, ex. 5.2155 (mit 4 Nachkommastellen). Es kann gespeichert werden, frei (int,double) etc. Ist es clever (oder sehr einfach) Weg, um herauszufinden, wie viele Dezimalstellen die Zahl hat?

c c++decimal

Begrenzen Sie die Menge der angegebenen Nummer, nach einer Dezimalstelle in javascript

5 Antworten

Hay, ich habe einige floats wie diese 4.3455 2.768 3.67 und ich will zeigen Sie Sie wie in diesem 4.34 2.76 3.67 Ich nicht wollen, Runden die Zahl nach oben oder unten, nur begrenzen Sie die Menge

decimal floating-point javascript limit

Die Berechnung der erforderlichen bits zum speichern von Dezimalzahlen

10 Antworten

Dies ist eine Hausaufgaben-Frage, ich bin stecken mit. Betrachten unsigned integer Darstellung. Wie viele bits werden benötigt zur Speicherung einer Dezimalzahl mit: i) 3 digits ii) 4 digits iii) 6 digits iv) n digits Ich weiß, dass

decimal unsigned unsigned-integer

Anteil in StringFormat

4 Antworten

Ich habe ein technisches problem mit der Prozentsatz in StringFormat Methode. Ergebnis String.Format("{0:P}", 0.8526) ist 85.26% aber ich denke, es sollte 0.8526% Ist es richtig ? Wenn ja , Wie bekomme ich 0.8526% ? InformationsquelleAutor der Frage

c#decimal string-formatting

Python-Format Decimal-Objekt zu einem angegebenen Genauigkeit

2 Antworten

Ich habe unzählige Stunden damit verbracht, zu forschen, zu Lesen, zu testen und letztendlich verwirrt und bestürzt Python ' s Decimal-Objekt, das fehlen der grundlegendsten Konzept: Formatierung des Dezimal-Ausgabe in einen string. Nehmen wir an, wir haben

decimal python python-2.7 python-3.x

Durchführung mathematischer Operationen, die auf decimal-Datentyp in C#?

5 Antworten

Ich Frage mich, ob das oben war gar nicht möglich ist. Zum Beispiel: Math.Sqrt(myVariableHere); Wenn man die überlastung, es ist ein doppelter parameter, so bin ich nicht sicher, ob es eine andere Art zu replizieren diese mit

c#decimal double math types

Wie vermehre in Javascript? Probleme mit Dezimalzahlen

9 Antworten

habe ich den folgenden code in Javascript: var m1 = 2232.00; var percent = (10/100); var total = percent*m1; alert(total); Das problem ist, dass die variable "total" gibt mir "223.20000000000002" und es sollte "223.2", was soll ich

decimal javascript multiplying

php float-Berechnung 2 Dezimalpunkt

7 Antworten

Bekam eine andere mathematische Berechnung problem wieder. $a = 34.56 $b = 34.55 $a einige Berechnung zu erhalten diese Zahl $b tut Rundung nächste 0.05 um diese Abbildung was geschehen ist $c = $b - $a angeblich

decimal floating-point php rounding

Umwandlung von Dezimal-zu-Binär-Java

26 Antworten

Ich versuche zu konvertieren dezimal zu Binär-zahlen aus der Eingabe des Benutzers mit Java. Bin ich immer Fehler. package reversedBinary; import java.util.Scanner; public class ReversedBinary { public static void main(String args) { int number; Scanner in =

binary decimal java

MongoDB - Was ist mit den Decimal-Datentyp von Wert?

6 Antworten

Ich bin derzeit am erlernen und anwenden von MongoDB für eine kleine finanzielle zugehörige Projekt. Wenn ich lese MongoDB in Actiones sagt: Das einzige andere Problem, das Häufig entsteht, mit BSON-numerischen Typen ist das fehlen von dezimal-Unterstützung.

bigdecimal bson decimal mongodb

Warum c# Dezimalzahlen können nicht initialisiert werden, ohne M-suffix?

6 Antworten

public class MyClass { public const Decimal CONSTANT = 0.50; //ERROR CS0664 } produziert diesen Fehler: Fehler CS0664: Literale des Typs "double" können nicht implizit konvertiert Typ 'decimal'; ein " M " - suffix zu erstellen, die

.net c#decimal double

Problem Parsen Währung text-zu-dezimal-Typ

2 Antworten

Ich versuche zu Parsen einen string wie "$45.59" in eine Dezimalzahl. Aus irgendeinem Grund bin ich immer der Ausnahme, dass die Eingabe nicht im richtigen format. Ich Sorge mich über alle die Lokalisierung Zeug, weil dies nicht

c#decimal number-formatting parsing