Tag: decimal

Dezimal ist der name für unsere gemeinsame Basis-zehn-Ziffern-system. Es kann auch beziehen sich auf nicht-ganzzahlige Werte ausgedrückt mit Dezimalpunkt.

C# - dezimal tostring format

Anzahl der Antworten 4 Antworten
Möchte ich einen string aus einer Dezimalzahl, ohne das Dezimaltrennzeichen; 1,500.00 sollte sich "150000". Was ist das richtige format dafür? (Ohne string.ersetzen , und .) Danke! Dies ist eine seltsame Anfrage; warum tust du das? Ein payment-Anbieter

Jquery hinzufügen Kommas Eingabe-Zahl mit den Dezimalstellen bei der Eingabe

Anzahl der Antworten 2 Antworten
Ich versuche, fügen Sie Kommas, um eine Eingabe von text ermöglicht, dass eine Anzahl während der Eingabe. Sollte aber auch Dezimalzahlen erlauben. Hier ist mein code für die zahlen, nur kann einfach nicht herausfinden, die dezimal Sache.

Konvertieren Sie einzelne hexadezimale Ziffer Dezimalwert Intel 8086 Assembler

Anzahl der Antworten 1 Antworten
Hallo, ich habe Probleme mit diesem code. Es wird gedruckt, 0-9 fein, aber A-F oder a-f es macht mir einfach ein smiley-Gesicht, das ist nicht einmal ein ASCII-symbol mindestens entsprechend der Liste der Symbole, meine Professorin hat

Die Bash-shell-Dezimal zu Binär Basis 2-Konvertierung

Anzahl der Antworten 5 Antworten
Ich bin auf der Suche nach einer einfachen Möglichkeit in der Bash konvertieren Sie eine Dezimalzahl in eine binäre Zahl ist. Ich habe Variablen, die konvertiert werden müssen: $ip1 $ip2 $ip3 $ip4 Gibt es eine einfache Methode,

MS SQL Server-Datentyp decimal rundet

Anzahl der Antworten 1 Antworten
Ich muss in der Lage zum speichern von zahlen wie 3,5 in meiner Tabelle. So habe ich die decimal-Datentyp Feld. Aber wenn ich enter 3.5 er Runde es bis zu 4. Bin ich blöd oder ist es

Die Begrenzung der Anzahl der Dezimalstellen in einen dataframe (R)

Anzahl der Antworten 3 Antworten
Ich möchte, um die Anzahl der Dezimalstellen, wenn ein Daten-frame importiert. Meine .txt-Eingang 16 Nachkommastellen für jede Zeile in collumn "Wert". Mein dataframe Aussehen: Value 0.202021561664556 0.202021561664556 0.202021561664556 0.202021561664556 ... Voraussichtlich meine dataframe Value 0.20202156 0.20202156 0.20202156

Wie konvertieren von Hexadezimal zu Dezimal?

Anzahl der Antworten 5 Antworten
Ich habe verschiedene Hex-Daten kommen und die gespeicherte in ein integer-Typ zu registrieren. Wenn ich fprint kann ich das folgende sehen: 0x3076 0x307c . . . Allerdings würde ich mag, um zu zeigen, eine Dezimale version der

Konvertiert long decimal oder float varchar in SQL Server

Anzahl der Antworten 2 Antworten
Einem der Tisch, an dem ich versuche, die Abfrage hat ein Feld mit dem Typ decimal(38,19). Muss ich es konvertieren zu varchar um für meine perl-DBI-Modul zu verarbeiten. Wie soll ich schreiben, die Konvertierung in SQL zu

Die Dezimalstellen auf 2 stellen für Geld in Python 3

Anzahl der Antworten 5 Antworten
Wie bekomme ich meine Nachkommastellen zu bleiben, an 2 Orten, die für die Darstellung von Geld durch die decimal Modul? Habe ich die Einstellung der Präzision und verdammt in der Nähe alles, und scheiterte. InformationsquelleAutor Musaab |

c# - textbox-dezimal-Formatierung

Anzahl der Antworten 4 Antworten
Ich möchte, dass meine Textfelder sind gebunden, um Geld (SqlServer) entity-Felder, zeigen nur zwei Dezimalstellen anstelle von vier stellen. Ich verwende DevExpress textEdit und CalcEdit Boxen mit folgenden anzeigen und Bearbeiten format : "#,##0.00#;(#,##0.00#)"; Aber ich bekomme

Mathematische Operationen mit System.Decimal in C#

Anzahl der Antworten 4 Antworten
Ich müssen zu können, verwenden Sie die standard-Mathematik-Funktionen auf Dezimalzahlen. Genauigkeit ist sehr wichtig. double ist kein akzeptabler Ersatz. Wie können mathematische Operationen realisiert werden mit dezimal-zahlen in C#? Bearbeiten Ich bin mit der System.Decimal. Mein Problem

C# XML-Serialisierung und-Dezimal-Wert

Anzahl der Antworten 3 Antworten
Bin ich mit dem XmlSerializer zu serialisieren eines C# - Objekt, das enthält eine Dezimalzahl, um eine xml-Zeichenfolge z.B. AnObject.ADecimalValue Ich finde die Präzision variiert insbesondere auch dann, wenn ich explizit die Runde, wie unten einige Werte

Falsche dezimal (integer) - Wert: '' mySQL

Anzahl der Antworten 1 Antworten
In mySQL-workbench-Datenbank, Tabellen der Breite, der Länge und Bezirk Attribute lat: decimal (10,8) lng: decimal (11,8) Bezirk: int(4) Ich versuche, Daten importieren aus .csv-Datei in diese Tabelle ERROR 1366: 1366: Incorrect decimal value: '' for column 'lat'

Warum Konvertieren.ToInt32() Runde auf die nächste gerade Zahl, statt die nächste ganze Zahl?

Anzahl der Antworten 4 Antworten
Blick auf die msdn-Dokumentation für Convert.ToInt32() heißt es: Wenn der Wert auf halbem Weg zwischen zwei ganzen zahlen, die gerade Zahl ist zurückgegeben; das heißt, 4.5 umgewandelt, 4 und 5.5 umgewandelt wird, 6. http://msdn.microsoft.com/en-us/library/ffdk7eyz.aspx Warum ist das

Ist es eine dezimal-Mathematik-Bibliothek für JavaScript?

Anzahl der Antworten 3 Antworten
Ist es eine ausgereifte Bibliothek für tun dezimal-basierte Mathematik, die möglicherweise eine beliebige Präzision, in JavaScript? Edit: möchte ich diese Informationen für eine Referenz-Seite, auf floating-point-Probleme und alternativen zu verwenden, wenn die binary floating-point ist unangemessen: http://floating-point-gui.de/

Regex für eine Zahl mit Nachkommastellen und Tausendertrennzeichen

Anzahl der Antworten 6 Antworten
Brauche ich regex zu validieren, eine Zahl, die enthalten könnte Tausendertrennzeichen oder Dezimalzahlen mit javascript. Max-Wert wird 9,999,999.99 Min-Wert 0.01 Andere gültige Werte: 11,111 11.1 1,111.11 UNGÜLTIGE Werte: 1111 1111,11 ,111 111, Ich habe gesucht alle über

Warum nicht .NETTO Dezimalstellen.ToString(string) - Runde Weg von null, anscheinend unvereinbar mit der Sprache Skillung?

Anzahl der Antworten 3 Antworten
Sehe ich, dass in C#, Rundung eine decimal verwendet standardmäßig MidpointRounding.ToEven. Dies ist zu erwarten und ist das, was die C# - Spezifikation vorschreibt. Angesichts der folgenden: Eine decimal dVal Ein format string sFmt dass, wenn übergeben

MySQL out-of-range-Wert für decimal-Spalte

Anzahl der Antworten 2 Antworten
Nach der Suche, fand ich viel aus dem Bereich Probleme mit Leuten, die nicht wissen, dass die erste Ziffer, m, in decimal(m,n) ist die Summe der Ziffern. Das ist aber nicht mein problem. Für die Spalte, in

Java-negative int nach hex und wieder ausfällt

Anzahl der Antworten 6 Antworten
public class Main3 { public static void main(String args) { Integer min = Integer.MIN_VALUE; String minHex = Integer.toHexString(Integer.MIN_VALUE); System.out.println(min + " " + minHex); System.out.println(Integer.parseInt(minHex, 16)); } } Gibt -2147483648 80000000 Exception in thread "main" java.lang.NumberFormatException: For

Oracle-Nummer C# - dezimal

Anzahl der Antworten 2 Antworten
Ich weiß, es gibt etliche threads und Beiträge zu diesem Thema im internet und ich habe gelesen (nicht jeder Artikel muss ich zugeben), aber keiner von Ihnen hat vollständig befriedigt mich. Meine situation: Ich bin mit ODP.net

Konvertieren von Dezimal zu Binär mit Rekursion Java

Anzahl der Antworten 14 Antworten
Ich versuche einfach in Binary konvertieren mit Rekursion. Ich habe Probleme mit der return-Anweisung. Dies stellt aber einen überlauffehler geben, wenn Sie ausgeführt wird. Ich weiß nicht, was zum zurückgeben (oder, wenn meine Aussage falsch ist) um

die Multiplikation von Dezimalzahlen in java

Anzahl der Antworten 6 Antworten
Ich habe den folgenden code der funktioniert, wenn ich die Multiplikation von ganzen zahlen jedoch, wenn ich versuche zu multiplizieren Dezimalzahlen und die Antwort erscheint wie eine decimal-Zahl, die ich erhalte eine Fehlermeldung public void actionPerformed(ActionEvent e)

SQL-server integer vs decimal SUM

Anzahl der Antworten 3 Antworten
Dies ist wahrscheinlich eine Anfänger Frage, aber...ich arbeite an einer db in SQSH und es war vom Typ Ganzzahl Werte large (Bevölkerung Attribut). Wenn ich wollte, diese Summe bekam ich einen Arithmetik-überlauf Ausnahme. Dann warf ich die

Effizient konvertieren zwischen Hex, Binär und Dezimal in C/C++

Anzahl der Antworten 7 Antworten
Ich habe 3 base-Darstellungen für positive ganze zahlen: Dezimal, in unsigned long-variable (z.B. unsigned long int NumDec = 200). Hex in string-variable (z.B. string NumHex = "C8") Binäre string-variable (z.B. string NumBin = "11001000") Ich möchte in

In SQL wie kann ich umwandeln einer Geld-Datentyp einem decimal?

Anzahl der Antworten 4 Antworten
Ich konvertieren möchten, eine Geld-Datentyp einem decimal, denn ich will aufnehmen und das Ergebnis auf 8 Dezimalstellen. Beispielsweise in einem Kurs, mit dem Tisch sehe ich die rate gespeichert 2871047428.20 als Geld datatype; die Verwendung von Microsoft

Spalte decimal point Wert

Anzahl der Antworten 5 Antworten
Ich führen Sie die folgenden Abfrage..... SELECT SUM(PAPostedTotalCostN) AS Total_Cost FROM PA01201 WHERE PA01201.PAcontid = '00900' gibt den Wert 12169298.25000 was ist der einfachste Weg, um die Abfrage einer Zahl mit zwei Nachkommastellen? mit den gleichen Rückgabewert

Beste Weg, um mit großen (UUID) als eine MySQL-Tabelle, Primärschlüssel

Anzahl der Antworten 3 Antworten
Habe ich eine UUID-Zeichenfolge, die ich als verwenden möchten meine MySQL-Tabellen mit Primärschlüssel, die UUID ist eine 32-stellige, hexadezimale Zeichenfolge (nach dem ' - ' - Zeichen entfernt werden). Aufgrund der Tatsache, dass es besser ist die

Legen Sie dezimal mit Komma interpretiert wird, als zwei Werte

Anzahl der Antworten 2 Antworten
Ich bin momentan dabei, ein ssrs report und die Schaffung eines mockdata sql-Skript. In dem script, das ich einfügen möchte, die einen decimal-Wert etwa so: declare @tempTable table( aString varchar(50), aDecimal decimal(5,2) ) insert into @tempTable values

"Die angegebene Umwandlung ist ungültig", wenn das Auffüllen der Datentabelle aus OracleDataAdapter.Fill()

Anzahl der Antworten 3 Antworten
Ich kann nicht scheinen, um herauszufinden, diese Frage überall auf Google (oder StackOverflow), die mich wirklich überrascht, also ich bin setzen Sie auf hier, um anderen zu helfen in der gleichen situation. Ich habe eine SQL-Abfrage, die

So formatieren Sie eine Dezimalzahl ohne nachfolgende Nullen

Anzahl der Antworten 2 Antworten
Ich habe gerade gelernt, dass eine Dezimalzahl irgendwie erinnert sich, wie viel trailaing zero ' s waren nötig, um eine Nummer zu speichern. Mit anderen Worten: es erinnert sich an die Größe der Fraktion. Beispiel: 123M.ToString() ==>

Wie truncate Zahl auf 2 Dezimalstellen in ColdFusion?

Anzahl der Antworten 2 Antworten
Wie kann ich einige Variablen und Ausgabe diese nur zu zwei Dezimalstellen, aber lassen Sie die Variablen selbst unverändert? Versuchte ich NumberFormat(reportData, '0,00') Aber die zahlen blieben die gleichen. InformationsquelleAutor blarg | 2013-02-11

Umwandlung von string zu dezimal

Anzahl der Antworten 2 Antworten
Ich bin über serielle RS232-Kommunikation, um den motor drehen lassen. Die serielle Kommunikation erfolgt in strings, aber ich brauche decimal-Wert. Irgendwelche Hinweise, wie Sie Vorgehen.Ich bin Programmierung in c Sprache.ich habe versucht, mit atoi-Funktion, aber es funktioniert

Wie um zu überprüfen, ob Sie ein Doppel maximal n Nachkommastellen?

Anzahl der Antworten 7 Antworten
Derzeit habe ich diese Methode: static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d * multiplier; check = Math.round(check); check = check/multiplier; return (d==check); } Aber diese

Montage: Wie konvertieren von hex-auf dezimal?

Anzahl der Antworten 2 Antworten
Habe ich gefunden, dass viele Fragen zu diesem Thema, jedoch habe ich nicht in der Lage, mein code ausgeführt werden. Mein Programm sollte einen hex-Wert überprüfen, um zu sehen, ob es einen gültigen hex-Zeichen, dann Anzeige der

Wie Runde float-Zahl in Android

Anzahl der Antworten 5 Antworten
Ich bin stecken in der nachfolgenden Szenario: Falls x 1,5 oder niedriger, dann wird das Endergebnis x = 1. Wenn x ist großer als 1,5 dann x = 2. Den Eingang Nummer x/100. Zum Beispiel: input =

ClosedXML: Arbeiten mit Prozenten, 1 Dezimalstellen und Rundung?

Anzahl der Antworten 1 Antworten
Ich bin versucht zu verwenden, C# und ClosedXML zur Eingabe von Daten in ein excel-sheet. Ich habe gefunden, die meisten der Dinge, die ich Suche, aber ich habe einige Probleme bekommen ClosedXML kümmern sich um die Anzahl

Wie man einen dezimal-zu-hexadezimal-Konverter in C

Anzahl der Antworten 5 Antworten
So, ich bin ein absoluter Anfänger in C und ich habe einen dezimal-zu-hexadezimal-Konverter. Also ich denke, dass ich brauchen würde, um eine Schleife, Schleifen, bis das Ergebnis 0 ist. Aber wie kann ich es machen, denken Sie

Dezimalzahlen in Crystal Reports

Anzahl der Antworten 2 Antworten
Verbrachte ich ein paar Tage mit einem problem, das nicht so ist, wie es zu lösen. Ich bin dabei einen Bericht in Crystal Reports mit Visual Studio 2010 und es funktioniert einwandfrei, bisher habe ich alle, um

Wie konvertieren von ASCII-Zeichen Dezimalzahl in Android?

Anzahl der Antworten 3 Antworten
Arbeite ich an einer Android app. Ich habe eine TextView enthält ein ASCII-Zeichen. Dieser Charakter ändert sich alle 2 Stunden. Ich muss in der Lage sein, dies zu Lesen-Zeichen und wandelt Sie in eine dezimal-Zahl vor, und

Benutzerdefinierte Währungs-symbol und Dezimalstellen mit Dezimalstellen.ToString("C") und CultureInfo

Anzahl der Antworten 5 Antworten
Ich habe ein problem mit decimal.ToString("C") überschreiben. Im Grunde, was ich tun möchte ist wie folgt: CultureInfo usCulture = new CultureInfo("en-US"); Thread.CurrentThread.CurrentCulture = usCulture; NumberFormatInfo LocalFormat = (NumberFormatInfo)NumberFormatInfo.CurrentInfo.Clone(); LocalFormat.CurrencySymbol = "RM"; Ich machen will, obigen code eine

Angleichung der Dezimalpunkt von zahlen in einer Tabelle, mit dem erscheinen der pseudo-"Zentrum" Ausrichtung in der Zelle

Anzahl der Antworten 4 Antworten
Möchte ich eine Tabelle mit einer Spalte mit dezimal-zahlen, von unterschiedlicher Länge vor und nach dem Komma, mit dem Nachkommastellen alle ausgerichtet. Die Breite der Spalte muss eine "Flüssigkeit" Größe, ausbau wie nötig, um Platz für ENTWEDER

Drucken, PHP float mit 2 Ziffern nach dem Komma?

Anzahl der Antworten 4 Antworten
Gibt es einen einfachen Weg, um echo eine float-Zahl mit einer bestimmten Anzahl von Ziffern nach dem Komma? Beispiel: $sum = 3.1234566768; ich möchte echo $Summe ein und erhalten: 3.12. InformationsquelleAutor Nayish | 2012-03-06

Konvertieren hex-str-zu-dezimal-Wert in delphi

Anzahl der Antworten 4 Antworten
Ich hab ein problem zum umwandeln einer string-Darstellung eines hex-Wert in integer-Wert mit Delphi. Beispiel: $FC75B6A9D025CB16 mir 802829546 wenn ich die Funktion: Abs(StrToInt64('$FC75B6A9D025CB16')) aber wenn ich die calc-Programm von Windows, das Ergebnis ist: 18191647110290852630 Also meine Frage

MATLAB: ??? Undefinierte Funktion oder Methode 'sprint' for input arguments of type 'char'

Anzahl der Antworten 3 Antworten
Ich versuche zu zeigen, 16 Dezimalstellen eines Ergebnisses. Der code, den ich lege, ist dieser clear x; x = 0.245; 1-x+1/2*x.^2-1/6*x.^3+1/24*x.^4 sprint('%0.16f', ans) Matlab geben Sie mir diese Antwort ans = 0.7827 ??? Undefined function or method

Wie stellen Gleitkommazahl in Binärdatei. IEEE

Anzahl der Antworten 2 Antworten
Ähnlich wie dezimal-Binär-zahlen können haben vertreten schwimmt auch. Jetzt lese ich, dass es haben kann, die Schwimmer von der Art 0.5:0.1 , 0.25:0.01 , 0.125:0.001 ... und so weiter. Aber dann, zum Beispiel, wie ist die 0.1(dezimal)

Abschneiden einer decimal-Wert in C++

Anzahl der Antworten 9 Antworten
Was ist der einfachste Weg abschneiden eine C++ float variable, der ein Wert von 0.6000002 auf einen Wert von 0.6000 und speichern Sie es zurück in die variable? InformationsquelleAutor BeachRunnerFred | 2008-11-20

SQL Server 2005 varchar verliert Dezimalstellen umwandeln in eine Dezimalzahl

Anzahl der Antworten 4 Antworten
Declare @BadDecimal varchar(5) Set @BadDecimal = '4.5' Declare @GoodDecimal Decimal Set @GoodDecimal = @BadDecimal Select @GoodDecimal --Outputs 5 Warum? InformationsquelleAutor digiguru | 2008-12-24

Mit DEC2BIN() mit großen zahlen

Anzahl der Antworten 6 Antworten
Ich versuche zu konvertieren 4503599627370495 in Binärdatei in Excel. DEC2BIN() liefert #NUM! Fehler, weil DEC2BIN nicht mit so einer großen Anzahl. Irgendwelche Gedanken auf, wie ich vielleicht in der Lage, damit es funktioniert? Im Allgemeinen Fall, nicht

Wie kann ich die Anzahl Nachkommastellen in der SQL?

Anzahl der Antworten 6 Antworten
Ich habe eine Spalte X, die ist voll von Schwimmern mit decimals stellen im Bereich von 0 (keine Dezimalstellen) bis 6 (maximum). Ich kann zählen auf die Tatsache, dass es keine Schwimmer, die mehr als 6 Dezimalstellen.

DB2-casting für DECIMAL

Anzahl der Antworten 1 Antworten
Bin ich versucht zu werfen, eine Zahl auf DECIMAL(10,2). Wenn ich verstehe gut, eine Nummer wie "1234567890" sollte eine gültige DECIMAL(10,2). Aber wenn ich versuche, zu wirken, gibt es eine -413 Fehler: "ÜBERLAUF ODER UNTERLAUF AUFGETRETEN IST,