Tag: decimal

Dezimal ist der name für unsere gemeinsame Basis-zehn-Ziffern-system. Es kann auch beziehen sich auf nicht-ganzzahlige Werte ausgedrückt mit Dezimalpunkt.

Wie kann ich das umwandeln, dezimal in Binär?

Anzahl der Antworten 7 Antworten
Alles, was ich wirklich weiß, ist PHP und ich habe die decbin - Funktion etc, Es war ziemlich einfach zu tun. In diesem C++ - Programm, das ich will, das gleiche zu tun, nur eine einfache Zahl

Casting für Decimal nicht unterstützt LINQ to Entities-Abfragen

Anzahl der Antworten 4 Antworten
Ich habe eine Datenbank-Tabelle-Transaktion (Transaktions-id, LocalAmount...). wo Datentyp für Localamount Eigenschaft ist float. AUF die UI-ich bin versucht, um wieder eine SUMME der Spalte (Localamount) in eine Zeile auf eine Schaltfläche click-Ereignis. Habe ich verwendet dezimal statt

Safe casting VARCHAR in DECIMAL in Teradata

Anzahl der Antworten 3 Antworten
In Teradata-DB habe ich Quelltabelle create set table SRC_TABLE ( Some_Id varchar(2O) not null ); Diese Tabelle wurde mit Daten aus einem externen system. Ich habe Zieltabelle create set table DST_TABLE ( Some_Id decimal(4,0) not null );

konvertieren verdoppeln, auf zwei Dezimalstellen

Anzahl der Antworten 4 Antworten
Hallo ich bin ein c# Anfänger wäre jemand so höflich mir sagen, wie zu konvertieren Sie die Werte von diesem Stück code, um ein Doppel - /dezimale gerundet.. vielen Dank im Voraus DataTable dtValues = new DataTable("GetValues");

Holen Sie sich die Letzten 2 Dezimalstellen Ohne Rundung

Anzahl der Antworten 5 Antworten
In C#, ich versuche, die letzten zwei Dezimalstellen der Doppel OHNE Rundung gestrichen. Ich habe alles versucht, von Math.Floor zu Math.Truncate und nichts funktioniert. Proben von den Ergebnissen, die ich möchte: 1,424.2488298 -> 1,424.24 53.5821 -> 53.58

Konvertieren einer Liste von string schwebt eine Liste von floats mit 2 Kommastellen

Anzahl der Antworten 4 Antworten
Habe meine Forschung gemacht und einige Verbesserungen, sehr nahe an der Lösung dieses Problem, aber jetzt bin ich stecken und Hilfe brauchen, bitte. Aufgabe: umwandeln einer Liste von strings schwimmt schwimmt mit 2 Kommastellen Original-Liste: mylist =

Die korrekte Anzahl von Dezimalstellen Lesen .csv

Anzahl der Antworten 1 Antworten
Habe ich eine .csv, wo eine der Spalten enthält zahlen, die 7 Nachkommastellen, z.B.: -117.2403266. Wenn ich lese das .csv in R es immer nur zeigt 4 Nachkommastellen für die Spalte, z.B.: -117.2403. Oder vielleicht sind Sie

Konvertieren von String zu Dezimal-Geheimnis

Anzahl der Antworten 5 Antworten
Ich bin mit einem problem konfrontiert, über die Konvertierung von string zu dezimal mit C# .NET. Das problem ist, dass ich schrieb den folgenden code und funktioniert gut auf meine Entwicklung auf Windows 7 .NET Framework 3.5-system.

DisplayFormat nicht immer angewendet auf Dezimalwert

Anzahl der Antworten 3 Antworten
Habe ich ein Modell Eigenschaft, die ich versuche zu Rendern, mit einem "EditorFor" - Vorlage, und ich bin versucht zu formatieren mit dem DisplayFormat Attribut. Es ist jedoch überhaupt nicht-es ist völlig wird ignoriert. Hier ist meine

Vergleichen Dezimalzahlen in python

Anzahl der Antworten 4 Antworten
Ich möchte in der Lage sein zu vergleichen, die Dezimalstellen in Python. Im Interesse der Berechnungen mit Geld, kluge Leute mir zu Dezimalzahlen anstelle von floats, also Tat ich es. Jedoch, wenn ich will, um zu überprüfen,

Binärer String zu Integer mit 'atoi()'

Anzahl der Antworten 2 Antworten
Ich habe eine Zeichenfolge von binären, die ich dann umwandeln in einen integer mit atoi(). Wenn ich dies Tue, scheint es, um automatisch konvertiert die Binär-zu dezimal. Das Problem ist, dass die resultierende ganze Zahl ist negativ

C# - dezimal tostring format

Anzahl der Antworten 4 Antworten
Möchte ich einen string aus einer Dezimalzahl, ohne das Dezimaltrennzeichen; 1,500.00 sollte sich "150000". Was ist das richtige format dafür? (Ohne string.ersetzen , und .) Danke! Dies ist eine seltsame Anfrage; warum tust du das? Ein payment-Anbieter

Jquery hinzufügen Kommas Eingabe-Zahl mit den Dezimalstellen bei der Eingabe

Anzahl der Antworten 2 Antworten
Ich versuche, fügen Sie Kommas, um eine Eingabe von text ermöglicht, dass eine Anzahl während der Eingabe. Sollte aber auch Dezimalzahlen erlauben. Hier ist mein code für die zahlen, nur kann einfach nicht herausfinden, die dezimal Sache.

Konvertieren Sie einzelne hexadezimale Ziffer Dezimalwert Intel 8086 Assembler

Anzahl der Antworten 1 Antworten
Hallo, ich habe Probleme mit diesem code. Es wird gedruckt, 0-9 fein, aber A-F oder a-f es macht mir einfach ein smiley-Gesicht, das ist nicht einmal ein ASCII-symbol mindestens entsprechend der Liste der Symbole, meine Professorin hat

Die Bash-shell-Dezimal zu Binär Basis 2-Konvertierung

Anzahl der Antworten 5 Antworten
Ich bin auf der Suche nach einer einfachen Möglichkeit in der Bash konvertieren Sie eine Dezimalzahl in eine binäre Zahl ist. Ich habe Variablen, die konvertiert werden müssen: $ip1 $ip2 $ip3 $ip4 Gibt es eine einfache Methode,

MS SQL Server-Datentyp decimal rundet

Anzahl der Antworten 1 Antworten
Ich muss in der Lage zum speichern von zahlen wie 3,5 in meiner Tabelle. So habe ich die decimal-Datentyp Feld. Aber wenn ich enter 3.5 er Runde es bis zu 4. Bin ich blöd oder ist es

Die Begrenzung der Anzahl der Dezimalstellen in einen dataframe (R)

Anzahl der Antworten 3 Antworten
Ich möchte, um die Anzahl der Dezimalstellen, wenn ein Daten-frame importiert. Meine .txt-Eingang 16 Nachkommastellen für jede Zeile in collumn "Wert". Mein dataframe Aussehen: Value 0.202021561664556 0.202021561664556 0.202021561664556 0.202021561664556 ... Voraussichtlich meine dataframe Value 0.20202156 0.20202156 0.20202156

Wie konvertieren von Hexadezimal zu Dezimal?

Anzahl der Antworten 5 Antworten
Ich habe verschiedene Hex-Daten kommen und die gespeicherte in ein integer-Typ zu registrieren. Wenn ich fprint kann ich das folgende sehen: 0x3076 0x307c . . . Allerdings würde ich mag, um zu zeigen, eine Dezimale version der

Konvertiert long decimal oder float varchar in SQL Server

Anzahl der Antworten 2 Antworten
Einem der Tisch, an dem ich versuche, die Abfrage hat ein Feld mit dem Typ decimal(38,19). Muss ich es konvertieren zu varchar um für meine perl-DBI-Modul zu verarbeiten. Wie soll ich schreiben, die Konvertierung in SQL zu

Die Dezimalstellen auf 2 stellen für Geld in Python 3

Anzahl der Antworten 5 Antworten
Wie bekomme ich meine Nachkommastellen zu bleiben, an 2 Orten, die für die Darstellung von Geld durch die decimal Modul? Habe ich die Einstellung der Präzision und verdammt in der Nähe alles, und scheiterte. InformationsquelleAutor Musaab |

c# - textbox-dezimal-Formatierung

Anzahl der Antworten 4 Antworten
Ich möchte, dass meine Textfelder sind gebunden, um Geld (SqlServer) entity-Felder, zeigen nur zwei Dezimalstellen anstelle von vier stellen. Ich verwende DevExpress textEdit und CalcEdit Boxen mit folgenden anzeigen und Bearbeiten format : "#,##0.00#;(#,##0.00#)"; Aber ich bekomme

Mathematische Operationen mit System.Decimal in C#

Anzahl der Antworten 4 Antworten
Ich müssen zu können, verwenden Sie die standard-Mathematik-Funktionen auf Dezimalzahlen. Genauigkeit ist sehr wichtig. double ist kein akzeptabler Ersatz. Wie können mathematische Operationen realisiert werden mit dezimal-zahlen in C#? Bearbeiten Ich bin mit der System.Decimal. Mein Problem

C# XML-Serialisierung und-Dezimal-Wert

Anzahl der Antworten 3 Antworten
Bin ich mit dem XmlSerializer zu serialisieren eines C# - Objekt, das enthält eine Dezimalzahl, um eine xml-Zeichenfolge z.B. AnObject.ADecimalValue Ich finde die Präzision variiert insbesondere auch dann, wenn ich explizit die Runde, wie unten einige Werte

Falsche dezimal (integer) - Wert: '' mySQL

Anzahl der Antworten 1 Antworten
In mySQL-workbench-Datenbank, Tabellen der Breite, der Länge und Bezirk Attribute lat: decimal (10,8) lng: decimal (11,8) Bezirk: int(4) Ich versuche, Daten importieren aus .csv-Datei in diese Tabelle ERROR 1366: 1366: Incorrect decimal value: '' for column 'lat'

Warum Konvertieren.ToInt32() Runde auf die nächste gerade Zahl, statt die nächste ganze Zahl?

Anzahl der Antworten 4 Antworten
Blick auf die msdn-Dokumentation für Convert.ToInt32() heißt es: Wenn der Wert auf halbem Weg zwischen zwei ganzen zahlen, die gerade Zahl ist zurückgegeben; das heißt, 4.5 umgewandelt, 4 und 5.5 umgewandelt wird, 6. http://msdn.microsoft.com/en-us/library/ffdk7eyz.aspx Warum ist das

Ist es eine dezimal-Mathematik-Bibliothek für JavaScript?

Anzahl der Antworten 3 Antworten
Ist es eine ausgereifte Bibliothek für tun dezimal-basierte Mathematik, die möglicherweise eine beliebige Präzision, in JavaScript? Edit: möchte ich diese Informationen für eine Referenz-Seite, auf floating-point-Probleme und alternativen zu verwenden, wenn die binary floating-point ist unangemessen: http://floating-point-gui.de/

Regex für eine Zahl mit Nachkommastellen und Tausendertrennzeichen

Anzahl der Antworten 6 Antworten
Brauche ich regex zu validieren, eine Zahl, die enthalten könnte Tausendertrennzeichen oder Dezimalzahlen mit javascript. Max-Wert wird 9,999,999.99 Min-Wert 0.01 Andere gültige Werte: 11,111 11.1 1,111.11 UNGÜLTIGE Werte: 1111 1111,11 ,111 111, Ich habe gesucht alle über

Warum nicht .NETTO Dezimalstellen.ToString(string) - Runde Weg von null, anscheinend unvereinbar mit der Sprache Skillung?

Anzahl der Antworten 3 Antworten
Sehe ich, dass in C#, Rundung eine decimal verwendet standardmäßig MidpointRounding.ToEven. Dies ist zu erwarten und ist das, was die C# - Spezifikation vorschreibt. Angesichts der folgenden: Eine decimal dVal Ein format string sFmt dass, wenn übergeben

MySQL out-of-range-Wert für decimal-Spalte

Anzahl der Antworten 2 Antworten
Nach der Suche, fand ich viel aus dem Bereich Probleme mit Leuten, die nicht wissen, dass die erste Ziffer, m, in decimal(m,n) ist die Summe der Ziffern. Das ist aber nicht mein problem. Für die Spalte, in

Java-negative int nach hex und wieder ausfällt

Anzahl der Antworten 6 Antworten
public class Main3 { public static void main(String args) { Integer min = Integer.MIN_VALUE; String minHex = Integer.toHexString(Integer.MIN_VALUE); System.out.println(min + " " + minHex); System.out.println(Integer.parseInt(minHex, 16)); } } Gibt -2147483648 80000000 Exception in thread "main" java.lang.NumberFormatException: For

Oracle-Nummer C# - dezimal

Anzahl der Antworten 2 Antworten
Ich weiß, es gibt etliche threads und Beiträge zu diesem Thema im internet und ich habe gelesen (nicht jeder Artikel muss ich zugeben), aber keiner von Ihnen hat vollständig befriedigt mich. Meine situation: Ich bin mit ODP.net

Konvertieren von Dezimal zu Binär mit Rekursion Java

Anzahl der Antworten 14 Antworten
Ich versuche einfach in Binary konvertieren mit Rekursion. Ich habe Probleme mit der return-Anweisung. Dies stellt aber einen überlauffehler geben, wenn Sie ausgeführt wird. Ich weiß nicht, was zum zurückgeben (oder, wenn meine Aussage falsch ist) um

die Multiplikation von Dezimalzahlen in java

Anzahl der Antworten 6 Antworten
Ich habe den folgenden code der funktioniert, wenn ich die Multiplikation von ganzen zahlen jedoch, wenn ich versuche zu multiplizieren Dezimalzahlen und die Antwort erscheint wie eine decimal-Zahl, die ich erhalte eine Fehlermeldung public void actionPerformed(ActionEvent e)

SQL-server integer vs decimal SUM

Anzahl der Antworten 3 Antworten
Dies ist wahrscheinlich eine Anfänger Frage, aber...ich arbeite an einer db in SQSH und es war vom Typ Ganzzahl Werte large (Bevölkerung Attribut). Wenn ich wollte, diese Summe bekam ich einen Arithmetik-überlauf Ausnahme. Dann warf ich die

Effizient konvertieren zwischen Hex, Binär und Dezimal in C/C++

Anzahl der Antworten 7 Antworten
Ich habe 3 base-Darstellungen für positive ganze zahlen: Dezimal, in unsigned long-variable (z.B. unsigned long int NumDec = 200). Hex in string-variable (z.B. string NumHex = "C8") Binäre string-variable (z.B. string NumBin = "11001000") Ich möchte in

In SQL wie kann ich umwandeln einer Geld-Datentyp einem decimal?

Anzahl der Antworten 4 Antworten
Ich konvertieren möchten, eine Geld-Datentyp einem decimal, denn ich will aufnehmen und das Ergebnis auf 8 Dezimalstellen. Beispielsweise in einem Kurs, mit dem Tisch sehe ich die rate gespeichert 2871047428.20 als Geld datatype; die Verwendung von Microsoft

Spalte decimal point Wert

Anzahl der Antworten 5 Antworten
Ich führen Sie die folgenden Abfrage..... SELECT SUM(PAPostedTotalCostN) AS Total_Cost FROM PA01201 WHERE PA01201.PAcontid = '00900' gibt den Wert 12169298.25000 was ist der einfachste Weg, um die Abfrage einer Zahl mit zwei Nachkommastellen? mit den gleichen Rückgabewert

Beste Weg, um mit großen (UUID) als eine MySQL-Tabelle, Primärschlüssel

Anzahl der Antworten 3 Antworten
Habe ich eine UUID-Zeichenfolge, die ich als verwenden möchten meine MySQL-Tabellen mit Primärschlüssel, die UUID ist eine 32-stellige, hexadezimale Zeichenfolge (nach dem ' - ' - Zeichen entfernt werden). Aufgrund der Tatsache, dass es besser ist die

Legen Sie dezimal mit Komma interpretiert wird, als zwei Werte

Anzahl der Antworten 2 Antworten
Ich bin momentan dabei, ein ssrs report und die Schaffung eines mockdata sql-Skript. In dem script, das ich einfügen möchte, die einen decimal-Wert etwa so: declare @tempTable table( aString varchar(50), aDecimal decimal(5,2) ) insert into @tempTable values

"Die angegebene Umwandlung ist ungültig", wenn das Auffüllen der Datentabelle aus OracleDataAdapter.Fill()

Anzahl der Antworten 3 Antworten
Ich kann nicht scheinen, um herauszufinden, diese Frage überall auf Google (oder StackOverflow), die mich wirklich überrascht, also ich bin setzen Sie auf hier, um anderen zu helfen in der gleichen situation. Ich habe eine SQL-Abfrage, die

So formatieren Sie eine Dezimalzahl ohne nachfolgende Nullen

Anzahl der Antworten 2 Antworten
Ich habe gerade gelernt, dass eine Dezimalzahl irgendwie erinnert sich, wie viel trailaing zero ' s waren nötig, um eine Nummer zu speichern. Mit anderen Worten: es erinnert sich an die Größe der Fraktion. Beispiel: 123M.ToString() ==>

Wie truncate Zahl auf 2 Dezimalstellen in ColdFusion?

Anzahl der Antworten 2 Antworten
Wie kann ich einige Variablen und Ausgabe diese nur zu zwei Dezimalstellen, aber lassen Sie die Variablen selbst unverändert? Versuchte ich NumberFormat(reportData, '0,00') Aber die zahlen blieben die gleichen. InformationsquelleAutor blarg | 2013-02-11

Umwandlung von string zu dezimal

Anzahl der Antworten 2 Antworten
Ich bin über serielle RS232-Kommunikation, um den motor drehen lassen. Die serielle Kommunikation erfolgt in strings, aber ich brauche decimal-Wert. Irgendwelche Hinweise, wie Sie Vorgehen.Ich bin Programmierung in c Sprache.ich habe versucht, mit atoi-Funktion, aber es funktioniert

Wie um zu überprüfen, ob Sie ein Doppel maximal n Nachkommastellen?

Anzahl der Antworten 7 Antworten
Derzeit habe ich diese Methode: static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d * multiplier; check = Math.round(check); check = check/multiplier; return (d==check); } Aber diese

Montage: Wie konvertieren von hex-auf dezimal?

Anzahl der Antworten 2 Antworten
Habe ich gefunden, dass viele Fragen zu diesem Thema, jedoch habe ich nicht in der Lage, mein code ausgeführt werden. Mein Programm sollte einen hex-Wert überprüfen, um zu sehen, ob es einen gültigen hex-Zeichen, dann Anzeige der

Wie Runde float-Zahl in Android

Anzahl der Antworten 5 Antworten
Ich bin stecken in der nachfolgenden Szenario: Falls x 1,5 oder niedriger, dann wird das Endergebnis x = 1. Wenn x ist großer als 1,5 dann x = 2. Den Eingang Nummer x/100. Zum Beispiel: input =

ClosedXML: Arbeiten mit Prozenten, 1 Dezimalstellen und Rundung?

Anzahl der Antworten 1 Antworten
Ich bin versucht zu verwenden, C# und ClosedXML zur Eingabe von Daten in ein excel-sheet. Ich habe gefunden, die meisten der Dinge, die ich Suche, aber ich habe einige Probleme bekommen ClosedXML kümmern sich um die Anzahl

Wie man einen dezimal-zu-hexadezimal-Konverter in C

Anzahl der Antworten 5 Antworten
So, ich bin ein absoluter Anfänger in C und ich habe einen dezimal-zu-hexadezimal-Konverter. Also ich denke, dass ich brauchen würde, um eine Schleife, Schleifen, bis das Ergebnis 0 ist. Aber wie kann ich es machen, denken Sie

Dezimalzahlen in Crystal Reports

Anzahl der Antworten 2 Antworten
Verbrachte ich ein paar Tage mit einem problem, das nicht so ist, wie es zu lösen. Ich bin dabei einen Bericht in Crystal Reports mit Visual Studio 2010 und es funktioniert einwandfrei, bisher habe ich alle, um

Wie konvertieren von ASCII-Zeichen Dezimalzahl in Android?

Anzahl der Antworten 3 Antworten
Arbeite ich an einer Android app. Ich habe eine TextView enthält ein ASCII-Zeichen. Dieser Charakter ändert sich alle 2 Stunden. Ich muss in der Lage sein, dies zu Lesen-Zeichen und wandelt Sie in eine dezimal-Zahl vor, und