Tag: decimal
Dezimal ist der name für unsere gemeinsame Basis-zehn-Ziffern-system. Es kann auch beziehen sich auf nicht-ganzzahlige Werte ausgedrückt mit Dezimalpunkt.
Benutzerdefinierte Währungs-symbol und Dezimalstellen mit Dezimalstellen.ToString("C") und CultureInfo
5 Antworten
Ich habe ein problem mit decimal.ToString("C") überschreiben. Im Grunde, was ich tun möchte ist wie folgt: CultureInfo usCulture = new CultureInfo("en-US"); Thread.CurrentThread.CurrentCulture = usCulture; NumberFormatInfo LocalFormat = (NumberFormatInfo)NumberFormatInfo.CurrentInfo.Clone(); LocalFormat.CurrencySymbol = "RM"; Ich machen will, obigen code eine
Angleichung der Dezimalpunkt von zahlen in einer Tabelle, mit dem erscheinen der pseudo-"Zentrum" Ausrichtung in der Zelle
4 Antworten
Möchte ich eine Tabelle mit einer Spalte mit dezimal-zahlen, von unterschiedlicher Länge vor und nach dem Komma, mit dem Nachkommastellen alle ausgerichtet. Die Breite der Spalte muss eine "Flüssigkeit" Größe, ausbau wie nötig, um Platz für ENTWEDER
Drucken, PHP float mit 2 Ziffern nach dem Komma?
4 Antworten
Gibt es einen einfachen Weg, um echo eine float-Zahl mit einer bestimmten Anzahl von Ziffern nach dem Komma? Beispiel: $sum = 3.1234566768; ich möchte echo $Summe ein und erhalten: 3.12. InformationsquelleAutor Nayish | 2012-03-06
Konvertieren hex-str-zu-dezimal-Wert in delphi
4 Antworten
Ich hab ein problem zum umwandeln einer string-Darstellung eines hex-Wert in integer-Wert mit Delphi. Beispiel: $FC75B6A9D025CB16 mir 802829546 wenn ich die Funktion: Abs(StrToInt64('$FC75B6A9D025CB16')) aber wenn ich die calc-Programm von Windows, das Ergebnis ist: 18191647110290852630 Also meine Frage
MATLAB: ??? Undefinierte Funktion oder Methode 'sprint' for input arguments of type 'char'
3 Antworten
Ich versuche zu zeigen, 16 Dezimalstellen eines Ergebnisses. Der code, den ich lege, ist dieser clear x; x = 0.245; 1-x+1/2*x.^2-1/6*x.^3+1/24*x.^4 sprint('%0.16f', ans) Matlab geben Sie mir diese Antwort ans = 0.7827 ??? Undefined function or method
Wie stellen Gleitkommazahl in Binärdatei. IEEE
2 Antworten
Ähnlich wie dezimal-Binär-zahlen können haben vertreten schwimmt auch. Jetzt lese ich, dass es haben kann, die Schwimmer von der Art 0.5:0.1 , 0.25:0.01 , 0.125:0.001 ... und so weiter. Aber dann, zum Beispiel, wie ist die 0.1(dezimal)
Abschneiden einer decimal-Wert in C++
9 Antworten
Was ist der einfachste Weg abschneiden eine C++ float variable, der ein Wert von 0.6000002 auf einen Wert von 0.6000 und speichern Sie es zurück in die variable? InformationsquelleAutor BeachRunnerFred | 2008-11-20
SQL Server 2005 varchar verliert Dezimalstellen umwandeln in eine Dezimalzahl
4 Antworten
Declare @BadDecimal varchar(5) Set @BadDecimal = '4.5' Declare @GoodDecimal Decimal Set @GoodDecimal = @BadDecimal Select @GoodDecimal --Outputs 5 Warum? InformationsquelleAutor digiguru | 2008-12-24
Mit DEC2BIN() mit großen zahlen
6 Antworten
Ich versuche zu konvertieren 4503599627370495 in Binärdatei in Excel. DEC2BIN() liefert #NUM! Fehler, weil DEC2BIN nicht mit so einer großen Anzahl. Irgendwelche Gedanken auf, wie ich vielleicht in der Lage, damit es funktioniert? Im Allgemeinen Fall, nicht
Wie kann ich die Anzahl Nachkommastellen in der SQL?
6 Antworten
Ich habe eine Spalte X, die ist voll von Schwimmern mit decimals stellen im Bereich von 0 (keine Dezimalstellen) bis 6 (maximum). Ich kann zählen auf die Tatsache, dass es keine Schwimmer, die mehr als 6 Dezimalstellen.
DB2-casting für DECIMAL
1 Antworten
Bin ich versucht zu werfen, eine Zahl auf DECIMAL(10,2). Wenn ich verstehe gut, eine Nummer wie "1234567890" sollte eine gültige DECIMAL(10,2). Aber wenn ich versuche, zu wirken, gibt es eine -413 Fehler: "ÜBERLAUF ODER UNTERLAUF AUFGETRETEN IST,
Wie konvertieren von Zeit-zu-Dezimal-in SQL mit einem integer
3 Antworten
Habe ich ein paar Fragen der Umwandlung von Zeit-zu-dezimal -... Im wesentlichen habe ich DATEDIFF zu identifizieren, die die Stunden und Minuten zwischen zwei Terminen. Dies führt zu einem Ergebnis von 5.45, jedoch möchte ich das Ergebnis
Wie erstellen Sie eine binary-Decimal-Konvertierung-Programm? (format)
3 Antworten
War ich zufällig platziert Programmierung Klasse eher als intro. zu Computer. Alles ist komplett über meinen Kopf. Weiß jemand, wie dies zu tun? Muss ich code ein dezimal-Binär-Zahl-Konvertierung Programm in Python (Dezimalzahl in binäre und Umgekehrt). Die
Wie Sie verhindern, dass Benutzer von der Eingabe von Dezimalzahlen?
3 Antworten
Habe ich eine Bestell-Seite auf meiner Website. Einige Artikel bestellen können dezimale Mengen, manche nicht. Was ist der beste Weg, um zu verhindern, dass die Benutzer die Eingabe von dezimal-Mengen? (Abgesehen von einer alert-box und das Feld
java - how zu generieren, die eine zufällige hexadezimale Wert im angegebenen Bereich von Werten
6 Antworten
Habe ich ein Szenario in einer java web-app, wo eine zufällige hexadezimale Wert generiert werden. Dieser Wert sollte in einem Bereich der angegebenen Werte von mir. (Die Werte werden hexadezimal-oder integer-Werte). Was ist der effizienteste Weg, dies
Microsoft Excel 2013 - entfernen Sie dot in dezimal, aber der Wert null bleiben
1 Antworten
Ich bin mit Microsoft Excel 2013 Wie zu entfernen dot in dezimal-Punkt, sondern der Wert nach dem Punkt bleiben? Lassen Sie uns sagen, ich habe diesen Wert "789.00" . wie konvertieren Sie diesen Wert auf "78900" ?
C: 0x11 in Dezimal
7 Antworten
Sorry für diese grundlegende Frage, aber warum 0x11 ist 17 in dezimal (print(%d, 0x11)=17? Ich Suche Informationen über das konvertieren von hex in dec, aber es spricht nicht über diese Art von zahlen. en.wikipedia.org/wiki/Hexadecimal: 0x11 -> 1*16^0
Überlauf-Ausnahme beim Lesen von decimal-Werten aus SQL Server
1 Antworten
Frage ich mich, ob das ein bug ist oder falls ich etwas falsch. Bin ich be-Werte mit einem SqlDataReader aus einer SQL Server 2008 Datenbank, aber unter Umständen nicht konvertiert die SQL-Werte in .Netto-Werte. (.NET 4.0) Habe
Excel-automatisches umwandeln von Zellwerten in Lakh dezimal
3 Antworten
Möchte ich zum auto konvertieren Zelle Werte zu lakh(Indische Einheit) dezimal 1) 120212 1,20 2) 898982 bis 8.98 Ist das möglich mit format-Zelle? ja, es ist 120213! aber wir müssen Anzeige 1.20 InformationsquelleAutor TidyWay | 2015-09-24
Gibt es eine Möglichkeit zu bekommen, die sich wiederholenden dezimal Abschnitt ein Bruchteil in Python?
3 Antworten
Arbeite ich mit Fraktionen mit Python decimal-Modul und ich würde gerne nur die sich wiederholenden Teil einer bestimmten Fraktion. Zum Beispiel: wenn ich 1/3 ich hätte gerne 3, wenn ich 1/7 ich würde gerne 142857. Gibt es
OverflowError: (34, "Ergebnis zu groß")
4 Antworten
Ich bin immer ein überlauf-Fehler(OverflowError: (34, "Ergebnis zu groß") Ich möchte, um zu berechnen pi auf 100 Nachkommastellen hier ist mein code: def pi(): pi = 0 for k in range(350): pi += (4./(8.*k+1.) - 2./(8.*k+4.) -
Machen Sie einen input-Wert in einen decimal (Python 3)
4 Antworten
Derzeit habe ich dieses: gpa = input("Enter your gpa: ") gpa = int(gpa) print("This is your current gpa:" , gpa) Wie schalte ich die gpa in eine Dezimalzahl, so wird der Ausdruck als Dezimalzahl? Verwenden float(gpa). InformationsquelleAutor
Format Dezimalzahl als Prozent mit bestimmten Nachkommastellen
2 Antworten
<%= Model.STPData.InitialRateSetting.HasValue ? Model.STPData.InitialRateSetting.Value.ToString() : "" %> Den Model.STPData.InitialRateSetting ist eine Dezimalzahl. Ich möchte-format, die als Prozentsatz, und dann um ihn zu 5 Dezimalstellen. Wie soll ich das tun? InformationsquelleAutor slandau | 2011-03-03
Wie kann ich das limit die Anzahl der angezeigten stellen von printf nach dem Komma?
1 Antworten
Ich habe ein kleines Programm geschrieben, das liest zwei ganze zahlen mit scanf und dann führt verschiedene arithmetische Berechnungen. Ich bin mit printf um die Ergebnisse anzuzeigen. Wie kann ich printf Anzeige nur zwei stellen nach dem
In Python, wie Sie die decimal-Modul in einem Skript anstatt der Dolmetscher?
2 Antworten
Ich bin mit Python 2.5.4 und versuchen, verwenden Sie den decimal-Modul. Wenn ich es in der Dolmetscher, habe ich kein problem. Zum Beispiel, das funktioniert: >>> from decimal import * >>> Decimal('1.2')+ Decimal('2.3') Decimal("3.5") Aber, wenn ich
Rundung auf 6 Nachkommastellen mit Math.Runde-Methode in Java, android
3 Antworten
Ich bin mit double i2 = value * 2.23694; i2 = (double)(Math.round(i2 * 100)) / 100; zur Rundung verdoppelt. Aber es rundet nur auf 2 Dezimalstellen. Ich will es werden 6 Nachkommastellen. Gibt es eine Möglichkeit zu
Python Decimal - engineering-notation für mili (10e-3) und micro (10e-6)
5 Antworten
Hier ist das Beispiel, das mich stört: >>> x = decimal.Decimal('0.0001') >>> print x.normalize() >>> print x.normalize().to_eng_string() 0.0001 0.0001 Gibt es eine Möglichkeit zu haben, engineering notation für die Darstellung von mili (10e-3) und micro (10e-6)? Ist
Wie um zu überprüfen, die eine Zeichenfolge enthält nur Ziffern und ein vorkommen von dezimal-Punkt?
8 Antworten
Meine Idee ist so etwas wie das, aber ich weiß nicht, die richtigen Codes if (mystring.matches("[0-9.]+")){ //do something here }else{ //do something here } Ich glaube, ich bin fast da. Das problem ist nur, mehrere Dezimalstellen vorhanden
Dezimaltrennzeichen oracle
2 Antworten
Muss ich ersetzen Komma durch Punkt und dann brauche ich meinen Wert eine Zahl sein. Also schrieb ich dies: select replace('12345,6789', ',' , '.') from dual --it works fine aber dann will ich konvertieren to_number Wert und
Was ist die maximale Präzision mit Dezimal-in SQL server 2005
1 Antworten
Muss ich behalten bis zu 17 Dezimalstellen. Was ist die angemessene Genauigkeit mit Dezimal-in SQL server 2005 ? InformationsquelleAutor Relativity | 2010-11-18
Numpy hohe Präzision
1 Antworten
Ich bin mit numpy und pyfits zu manipulieren Spektren und I erfordern eine hohe Präzision (sowas wie 8-10 Dezimalstellen auf einen Wert, der gehen könnte so hoch wie 10^12). Für die, die den Datentyp "decimal" wäre perfekt
Wie bekomme ich ein dezimalfeld zu zeigen, mehr Dezimalstellen in einer Vorlage?
1 Antworten
price_a = models.DecimalField(max_digits=5, decimal_places=3) Beispiel Preis: 95,90 In meinem template: {{ price_a }} es nur die Anzeige 95,9. Wie bekomme ich es zum vollen Preis (mit einem extra trailing 0: 95,90)? InformationsquelleAutor user1745580 | 2012-10-15
Wie konvertiert Python decimal SQLite numerische?
4 Antworten
Ich habe ein Programm zum Lesen von finanziellen Daten im JSON-Format und fügt es in eine SQLite-Datenbank. Das problem ist, wenn ich dem einlegen in die SQLite-numeric-Spalte, und es scheint nicht, wie die dezimal Objekt. Ich gefunden
swift, wie konvertieren von Decimal-Typ String-Typ
4 Antworten
Wie konvertiert Decimal zu String im swift? Beispielsweise let de = Decimal(string: "123") dann, wie zu konvertieren de String. de.description aber Sie möglicherweise verwenden müssen as NSDecimalNumber Zugang description(withLocale:). Sie könnten auch verwenden NumberFormatter obwohl es immer
C++ Wie konvertieren von dezimal-Zahl in eine Binärzahl um?
3 Antworten
Ich wurde beauftragt, einige code schreiben, der eine Benutzer-Eingabe und wandelt die Zahl um eine Binär-Zahl. Ich habe geschrieben einige code so weit, aber ich habe ein Problem. Ich habe eine for-Schleife verwenden und den Quotienten-Rest-Methode. Wenn
drop Nullen von dezimal
9 Antworten
Ich habe eine lange Liste von Dezimalzahlen und, dass muss ich noch einstellen um Faktoren von 10, 100, 1000,..... 1000000 abhängig von bestimmten Bedingungen. Wenn ich diese multiplizieren es ist manchmal eine nutzlose nachgestellte null (wenn auch
Wie behebe ich dieses Perl-code, so dass 1.1 + 2.2 == 3.3?
8 Antworten
Wie behebe ich diesen code, so dass 1.1 + 2.2 == 3.3? Was ist eigentlich hier passiert, was dieses Verhalten? Ich bin mir vage vertraut mit der Rundung Probleme und floating point math, aber ich dachte, das
Konvertieren von Binär-nach-Zahl-string zu dezimal-Zahl in C
5 Antworten
Ich habe ein Programm geschrieben, fordert den Benutzer zur Eingabe einer Zahl unter Verwendung von Zeichenfolgen, das Programm wird dann konvertieren Sie die Anzahl an Dezimalstellen, aber ich habe ein problem mit ihm, wenn ich kompilieren (-
Open Com-port und senden Sie Hexadezimal-Bytes von windows-Eingabeaufforderung
1 Antworten
Schreiben brauche ich eine batch Datei zum öffnen eines com-port und senden dezimal-oder hexadezimal-Befehle an einen com-port. Ich kann schreiben, diese Datei, wenn ich weiß die Befehle und Formate für die windows-Eingabeaufforderung zu öffnen, com-port und senden
Hinzufügen von Dezimalstellen mit SQL Server 2008 R2
5 Antworten
Bin ich auf SQL-Server 2008 R2 und ich brauchen 3 Nachkommastellen in der 1 Spalte meiner Tabelle. Der Datentyp ist float. Ich habe zum Beispiel 193,2 8223,36 2559,796 ... dass ich möchte, um zu verwandeln in 193,200
NASM Montage der Konvertierung von ASCII nach dezimal
1 Antworten
Ich weiß, Sie können hinzufügen, 48 umwandeln von dezimal in ascii-oder subtrahieren 48 konvertieren von ascii nach dezimal, aber warum funktioniert der folgende code auch ausführen, das gleiche Konvertierung? ; moving the first number to eax register
wie set-tausend-Trennzeichen (Leerzeichen) und Dezimaltrennzeichen (Komma) und nehmen Sie die Anzahl der Dezimalstellen aus der Datenbank ein Feld in ssrs?
4 Antworten
Bereite ich einen Bericht in MS SQL Report Builder. Ich habe Daten Felder: Value Decimals 12345.3456 3 3455.34 3 654677 0 145.4565727 6 Muss ich Runde Wert nach Dezimalzahlen und ändern tausend Trennzeichen Leerzeichen und Komma zu
laden Dezimalstellen in oracle-Tabelle mit sql loader
1 Antworten
Habe ich diese Tabelle in oracle : CREATE TABLE mytable ( TSTAMP Date, prmc1 VARCHAR2(30), prmc2 VARCHAR2(30), prmc3 VARCHAR2(30), prmc4 VARCHAR2(30), prmc5 NUMBER, prmc5 NUMBER, prmc6 NUMBER ) der control-Datei ist unter : load data append into
asp.net c# - dezimal-Formatierung Geld
4 Antworten
Habe ich eine dezimale Wert db als "12.3456" ich will es zu zeigen, dass es Kunden als "12.34" Ich bin mit dem code unten . <%# DataBinder.Eval(Container.DataItem, "Price", "{0:c}")%> Möchte ich das format so zu sein 12.3456
Geben Sie die genaue Anzahl von Dezimalstellen durch Benutzereingaben , Java
1 Antworten
Schreibe ich ein Rechner-Programm, wo der Benutzer in der letzten Eingabe-prompt schreibt die Anzahl der Dezimalstellen (1, 2 ,3...), dass der Ausgang der zum Beispiel die Summe von 2 zahlen haben sollte. import java.util.Scanner; import java.util.Formatter; public
SQL multiplizieren und Runden in select-Anweisung
1 Antworten
Teil meiner select-Anweisung, will ich Runde den Wert auf zwei Dezimalstellen. Der select hat eine Multiplikation, in der ich eine Spalte, die den Wert und multiplizieren Sie mit anderen und teilen Sie durch 100. Ich möchte diesen
SQL Server 2008 varchar in decimal Ergebnisse: "Fehler beim konvertieren von Datentyp varchar in numeric"
2 Antworten
Ich versuche zu speichern, einen gespeicherten Wert als varchar in decimal-Feld. Die folgenden Beispiele werden alle Ergebnisse in: "Fehler beim konvertieren von Datentyp varchar in numeric." was vermisse ich hier ? SELECT CONVERT(decimal(11,2), '6.999,50') SELECT CONVERT(decimal(11, 2),
Was ist die maximale Präzision mit Dezimal-in SQL server 2005
1 Antworten
Muss ich behalten bis zu 17 Dezimalstellen. Was ist die angemessene Genauigkeit mit Dezimal-in SQL server 2005 ? InformationsquelleAutor Relativity | 2010-11-18
Zählen Sie die Anzahl der Dezimalstellen in pascal
3 Antworten
Ich habe gerade angefangen zu studieren, pascal und ich muss ein pascal Programm, das als Hausaufgabe. Ich machte es, aber ich weiß nicht , wie die Anzahl der Nachkommastellen einer reellen Zahl (die Anzahl der Ziffer nach
Konvertieren hex-Zeichen zu Dezimalzahl in MIPS
3 Antworten
Wie nehme ich ein einzelnes ASCII-Zeichen und konvertieren in decimal-equivelant in MIPs? Muss ich einfach haben, um einige Bedingungen zu subtrahieren eine bestimmte Menge von den ascii-code zu machen, wird die dezimale Darstellung? InformationsquelleAutor | 2009-05-03