Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
Wie legen Sie eine float-Zahl mit Anführungszeichen in ein numerisches Feld?
4 Antworten
Ich habe einen langen script, dass versucht fügen Sie float-Werte mit Anführungszeichen (ie. '15.6') im float-Felder mithilfe von T-SQL. Ich habe Gründe zu glauben, dass dieses Skript funktioniert in seiner Entwickler-Maschine, die aber wegen der Anführungszeichen, es
sscanf zu schweben mit c
1 Antworten
Also ich habe eine Datei mit mehreren strings. Und das soll ich verwenden fgets zu Lesen, jede Zeile dann verwenden sscanf zu brechen, die die Zeichenfolge auf und verarbeiten Sie in mein struct. Hier ist ein Beispiel.
Android/SQLite : Speichern/Abrufen von Daten vom Typ REAL
1 Antworten
Ich habe eine SQLDB mit Tabelle von Feld REAL. In meinem layout habe ich seine Feldgröße, dass nur 8+2 Ziffern. In meinem Objekt habe ich die Daten-Typ des Feldes als "float". qs[0] = "CREATE TABLE " +
num2str mit einem bestimmten format in MATLAB
1 Antworten
>> x = 14.021 >> num2str(x,'%4.5f') Möchte ich, um dies als Ergebnis: 0014.02100 Aber, MATLAB, nur Antworten mir mit: 14.02100 InformationsquelleAutor Academia | 2012-01-12
die Speicherung von float-Wert auf ein unsigned char-array
2 Antworten
Tut mir Leid das zu Fragen aber ich habe gesucht für dieses kleine Ding und fand etwas im Zusammenhang auf das link unten, aber nicht bekommen jede Idee Wie bewahren Sie schwebt in der Reihe, die später
Wie um zu überprüfen, ob ein Benutzer eine Eingabe ein float
5 Antworten
Ich mache, Lernen Python the Hard Way übung 35. Unten ist der original-code, und wir sind aufgefordert, es zu ändern, so kann es akzeptieren zahlen, die haben nicht nur 0 und 1 in. def gold_room(): print "This
MySQL: Konvertiert String zu Float/Decimal in deutscher Sprache
2 Antworten
In einer MySQL-Tabelle habe ich eine VARCHAR-Spalte mit verschiedenen Werten, die darstellen können String-, Integer-, Float-, Whatever-Werte. Diese Werte werden so geschrieben, wie eine sprachspezifische String in die Datenbank, dies bedeutet, dass ein float-Wert von 123.45 kann
SQL Server-Datentyp Float Berechnung vs decimal
2 Antworten
In der folgenden Abfrage declare @a float(23) declare @b float(23) declare @c float(53) set @a = 123456789012.1234 set @b = 1234567.12345678 set @c = @a * @b select @c select LTRIM(STR((@c),32,12)) declare @x decimal(16,4) declare @y decimal(16,8)
Float32 und UInt32?
3 Antworten
Ich bin auf der Suche einige ältere Apple-code für C++ bin ich vertraut mit float aber nicht, Float32 und Uint32 Arten sind Sie die gleichen wie standard-float-und int-Werte? Dank InformationsquelleAutor Dixon Steel | 2011-10-29
Zählt die Anzahl der Ziffern nach". " im floating-point-zahlen?
7 Antworten
Dies ist eine interview-Frage. Wie berechnest du die Anzahl der Ziffer nach . im floating-point-Zahl. z.B. gegeben, wenn 3.554 Ausgabe=3 für 43.000 Ausgang=0. Mein Codeausschnitt ist hier double no =3.44; int count =0; while(no!=((int)no)) { count++; no=no*10;
Warum sehe ich ein double-Variablen initialisiert, die auf einen Wert wie von 21,4 als 21.399999618530273?
14 Antworten
double r = 11.631; double theta = 21.4; In den debugger, diese werden dargestellt, als 11.631000000000000 und 21.399999618530273. Wie kann ich diese vermeiden? InformationsquelleAutor |
Dezimalstelle Probleme mit float und decimal.Dezimal
6 Antworten
Scheine ich zu verlieren eine Menge Präzision mit Schwimmern. Ich zum Beispiel zum lösen einer matrix: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0 Dies ist der code, den ich verwenden, um importieren
Wie konvertieren von binary floating-point-Zahl, dezimal Zahl
4 Antworten
Habe ich genutzt, Website: http://sandbox.mc.edu/~bennet/cs110/flt/dtof.html Sie sagen, dass 2.625 ist 0_100_0101 basiert auf, der exponent ist 4 und mantisa ist 5/16. Also die Zahl ist (5/16) * 2^4 - und das ist definitiv nicht 2.625. So, wie
Umwandlung von exponentieller zu schweben
6 Antworten
Dies ist mein code, versuchen, zu konvertieren das zweite Feld der Zeile aus der exponentiellen in float. outputrrd = processrrd.communicate() (output, error) = outputrrd output_lines = output.split('\n') for line in output_lines: m = re.search(r"(.*): ", line) if
Limit Dezimalstellen im Double-Precision-oder float8 Typ in postgresql
1 Antworten
Ich habe eine postgresql-Datenbank und verwende für ein Projekt die Griffe monetären Wert. Meine Frage ist: Wie kann ich begrenzen Sie die Anzahl der Nachkommastellen auf zwei für eine Double-Precision-oder float8 type-Spalte in einer postgresql-Tabelle? InformationsquelleAutor saurjk
Wie kann ich umwandeln uint8_t und uint16_t in schwebt in c++?
2 Antworten
Ich erstellt uint8_t und uint16_t-Variablen-Typen und Lesen von Werten in die Sie von einigen Registern. Aber, ich bin mir nicht sicher, ob ich einfach cast in float, und wenn die Konvertierung wird numerischen Sinn. Was ist der
Wie kann ich umwandeln Binärzahl mit 32 bit floating point Zahl?
2 Antworten
Habe ich diese 32-bit binäre Zahl (00111111010000000000000000000000) und ich möchte wissen, wie ich gehen kann über die Konvertierung in eine Fließkommazahl. Ohne über Programmier-oder einen Konverter, wie kann ich manuell konvertieren Sie das 32-bit-Binär-Zahl in eine Gleitkomma-Zahl?
Java-auf der Suche float-Zahl in String
7 Antworten
sagen wir, ich habe Zeichenfolge wie: eXamPLestring>1.67>>ReSTOfString meine Aufgabe ist das extrahieren nur 1.67 von Zeichenfolge vor. Nehme ich an regex wird nützlich sein, aber ich kann nicht herausfinden, wie zu schreiben propper Ausdruck. ALSO Frage: stackoverflow.com/questions/6807433/...
Wie konvertiere ich einen string in einen float mit Perl?
2 Antworten
Gibt es eine Funktion wie int() was kann konvertieren einen string zu float-Wert? Derzeit bin ich über den folgenden code: $input=int(substr($line,1,index($line,",")-1)); Muss ich konvertieren Sie die Zeichenfolge zurückgegeben substr zu schweben. können Sie ein Beispiel geben, wie
Warum wirkt sich das hinzufügen von 0,1 mehrmals bleiben verlustfrei?
3 Antworten
Ich weiß, die 0.1 dezimal-Zahl nicht exakt dargestellt werden mit einer endlichen binären Zahl (Erklärung), so double n = 0.1 verlieren manche präzise und nicht genau 0.1. Auf der anderen Seite 0.5 können exakt dargestellt werden, weil
Was ist der Unterschied zwischen " float "1" und " float "1f" in Java?
6 Antworten
Ist, gibt es einen Unterschied in Java zwischen der Definition von float-Variablen wie z.B. dieses: 1 und so: 1f? Ist die JVM tut jeder wirft zur Laufzeit, wenn ich Schreibe 1 oder etwas verlangsamen könnte meine app?
parseDecimal in JavaScript?
1 Antworten
Ich habe einige JS-Berechnungen geht. Da die Gleitkomma-Arithmetik benutzt oft in der Nähe Näherungen zu zahlen, anstatt genaue Werte, wenn Sie, um diese floating-point-Zahl zu festen Präzision, oft leichte Unterschiede. Wenn Sie den Umgang mit Geld, Menschen
Anzeige ein Schwimmer an ein Textfeld, Typ "Zahl"
5 Antworten
Es gibt eine Menge von Fragen über die Umwandlung einer Textbox-string zu einem float-Wert, oder was ein Textfeld vom Typ="Zahl" hinter dem Komma, aber ich kann nicht scheinen, etwas zu finden, in Bezug auf die Anzeige einen
float* array, NSArray, iOS
1 Antworten
Ich habe einen float-Zeiger-array und ich möchte konvertieren es in ein NSArray. Gibt es einen besseren Weg, es zu tun, als zum Durchlaufen der float*, und fügen Sie jedem Eintrag im NSArray? Habe ich: float* data =
Runde mit Stock problem in Objective-C
3 Antworten
Ich bin die Berechnung von g mit e und s, die sind alle verdoppelt. Danach möchte ich abgeschnitten alle Ziffern nach dem zweiten und speichern Sie das Ergebnis in x, zum Beispiel: g = 2.123 => x
Konvertiert einen Hexadezimalwert in einen float und Umgekehrt in C
5 Antworten
Bin ich zu schreiben versucht, einen Algorithmus für die Umwandlung einer hexadezimalen Zahl in eine Gleitkomma-Zahl und Umgekehrt. Dies ist Teil einer Aufgabe ist, das Programm soll entweder erhalten eine 8-stellige hexadezimale Zahl, die beginnt mit '0x'
Invalid literal for float(): 0.000001, wie zu beheben Fehler?
2 Antworten
Habe ich eine .csv-Datei mit 3 Spalten von Daten. Ich brauche zum erstellen einer neuen Ausgabedatei, enthält einen bestimmten Satz von Daten aus der ersten und Dritten Spalte aus der ursprünglichen Datei. Die Dritte Spalte enthält die
Konvertieren von string zu float in Python
2 Antworten
Ich habe eine csv-Datei, und ich versuche, zu zeichnen einige der Inhalte und konvertieren müssen, die Saiten schwebt. Mein problem ist Folgendes: Wenn ich den code unten, with open('meteors.csv', 'rU') as csvfile: reader=csv.reader(csvfile) for row in reader:
SQL Konvertieren float Komma mit Nachkommastellen varchar
2 Antworten
Ich habe ein paar Schwimmer, die sind ein bisschen groß. Sie sind auf etwa 100 Millionen. Ich würde gerne diese Nummer, um zu zeigen, wie die folgenden 123,456,789.01234 License Habe ich gefunden, dass ich verwenden können, zu
Konvertieren von float zu string ohne sprintf()
5 Antworten
Ich bin der Codierung für eine mikrocontroller-basierte Anwendung, und ich brauchen, um zu konvertieren eine float zu einer Zeichenfolge, aber ich brauche das nicht schwer overhead im Zusammenhang mit sprintf(). Gibt es eine eloquente Art und Weise,
Nicht umwandeln kann eine Liste von strings, floats
3 Antworten
Mein Programm soll zu Lesen, ein text-Dokument mit einer Reihe von zahlen und machen Sie eine Liste, die nur die positiven zahlen. Ich kann nicht konvertieren der Zeichenfolgen im text-Dokument in ein float, so dass ich nicht
Rückkehr einen float-Wert beim schreiben einer Funktion in C
2 Antworten
Schreibe ich eine einfache Funktion in c, die Rückkehr der Mitte der 2 float-Werte. Meine Funktion sieht wie folgt aus: float mid(float a, float b) { return (a + b)*0.5; } Das problem ist, dass diese Funktion
Javascript Regex: Validierung einer double/float
3 Antworten
Hier ist das Muster, das ich auf Arbeit bin: var re = /(\d{1,2}\.(?=\d{1,2}))/; Was möchte ich für diese Rückkehr ist eine ein-oder zweistellige Nummer (die ist nie größer als 24, da ist es für ein Zeit-Management-app), die
math.Mod in Go gibt integer-Teil anstelle von floating-point-Rest
1 Antworten
Golang ist math.Mod(10, 4) gibt 2 -- ie. der ganzzahlige Teil der division Ergebnis 2.5 -- aber sollte es nicht "den floating point Rest", also 0.5? InformationsquelleAutor metaleap | 2012-05-18
Wie teilen floating-point-Zahl in x86 Assembler?
3 Antworten
Wenn ich versuche zu schreiben, Heron-Algorithmus zum zählen sqrt von ECX-register, dann funktioniert es nicht. Wie es aussieht, das problem ist die Aufteilung Fließkomma-zahlen, denn das Ergebnis ist integer. Mein Algorithmus: sqrtecx: MOV EDX, 10 ; loop
C# Input-Validierung für ein Textfeld: float
2 Antworten
Diese vermeintlich leichte Aufgabe hat mir einige Kopfschmerzen. Ich möchte einfach, damit der Benutzer geben Sie einen beliebigen text, der es schafft float.TryParse in eine Textboxish Kontrolle. Könnte ich mit einem normalen Textfeld ein und überprüfen Sie
Java - int/long, float/double
4 Antworten
Ich verstehe, dass "2.5" wird automatisch ein double und float, die ich tun müssen, "2,5 F" (oder sollte das F klein geschrieben sein?), und dass ich verwenden soll, ein float, sagen, wenn ich eine Konstante, die immer
Konvertierung zwischen Datentypen in Objective-C
2 Antworten
Wird ein Start-Objective-C-Entwickler, und nicht die Geduld, um tatsächlich etwas zu studieren, anstatt nur Tauchen in die Dinge hinein, ich lief in die folgenden: Ich habe eine CGFloat, und ich möchte teilen Sie es etwas durch, und
Wie um zu überprüfen, ob Zahl ist teilbar in c#?
2 Antworten
Muss ich wissen, wie dies zu tun Verfahren. calculation1: 1/4 = 0,25 calculation2: 1/8 = 0,125 calculation3: 47/183 = 0,25683060109289617486338797814207...... calculation4: 58/889 = 0,06524184476940382452193475815523...... calculation5: 1/5 = 0,2 Die Ergebnisse der Berechnungen 1, 2 und 5 geben
Warum bin ich immer "AttributeError: 'module' Objekt hat kein Attribut 'ersetzen'" auf der Schnur.ersetzen()
3 Antworten
Die Zeile die den Fehler verursacht ist totalR = totalR + (float(string.replace(contri[0][5],",","")) + float(string.replace(contri[0][6],",",""))) bei[0][5] und [6] sind strings, die zahlen enthalten, formatiert als 1.000.00. Ich bin das entfernen des Kommas vor und ich warf die Saiten
Division von float-zahlen in JavaScript
5 Antworten
Ich versuche zu teilen "screenwidth" durch eine variable in der Reihenfolge zu zeichnen, in gleichem Abstand UI-Teile in webview. Jedoch, wenn die variable 3 ist, 100 /3 Ergebnisse 33.3333333333333336 in JavaScript, und der Dritte Teil kann nicht
Beschränken Float-Präzision in JavaScript
4 Antworten
Arbeite ich an einer Funktion in JavaScript. Ich nehme zwei Variablen x und y. Muss ich teilen zwei Variablen und Anzeige Ergebnis auf dem Bildschirm: x=9; y=110; x/y; bin ich dann immer das Ergebnis : 0.08181818181818181 Ich
Unerwartete float-Verhalten in C mit AVR atmega8
3 Antworten
Ich habe versucht, herauszufinden, warum ich nicht bekommen kann einen vernünftigen Wert aus der Multiplikation ein unsigned int mit einem float-Wert. Etwas wie 65535*0.1 funktioniert wie erwartet, aber die Multiplikation eines float mit einem uint-aus dem Gedächtnis
Android-Float Zu Int
4 Antworten
Warum ist das so schwer herauszufinden? public boolean onTouch(View v, MotionEvent event) Muss ich konvertieren float event.getY() zu einer int. Ist das möglich? event.getY().intValue() wird überhaupt nicht funktionieren. Irgendwelche Ideen? InformationsquelleAutor shaneburgess | 2010-06-11
PHP float/double gespeichert, MySQL DECIMAL
2 Antworten
lief ich in ein wirklich komisches problem mit dem speichern von Werten in MySQL. Die Prämisse: Ich habe eine Tabelle, die verwendet DECIMAL(15,8) zum speichern von monetären Werten (wie die gesamte Bestellung), aber wenn ich versuche, einfügen,
Konvertieren von float in string mit Komma und Punkt
6 Antworten
Habe ich eine null zu schweben. Die interne Dezimalstellen abgetrennt werden kann mit Punkt oder Komma als Trennzeichen, z.B. 1.2 oder 1,2. Ich brauche diese float als string zu vergleichen, um ein Regex. Wenn ich das Konvertieren.toString-Methode,
Quadrat einer float-Zahl in C
2 Antworten
Ich geschrieben habe ein code in C, die funktioniert gut für int, aber wenn ich versuche, dies zu tun mit float es zeigt Fehler, was kann ich tun, um es zu korrigieren. #include<stdio.h> int main() { float
Konvertieren eines double-Arrays um einen float-array
6 Antworten
Habe ich ein double - array, und möchte ich, um eine Zeile in einen float array. Gießen hat nicht geklappt auf den ersten, so suchte ich nach etwas anderes. Fand ich hier bei stackoverflow eine
Zum drucken von formatierten float in obj-c?
2 Antworten
So drucken Sie eine float in Objective-C, als, zum Beispiel, 3.45 statt 3.45555555555? möglich, Duplikat der wie setzt man den float-Wert auf zwei Dezimalstellen Zahl in objective-C InformationsquelleAutor | 2012-03-02
Java: gewusst Wie: konvertieren einer Zeichenfolge von Binären Werte in einen Float und Umgekehrt?
4 Antworten
Wie kann ich umwandeln der float-Wert der 12345.12346 f eine Zeichenfolge von binären Werten, d.h. "0011010101010101", und vice-versa? möchten Sie die Darstellung der float im Speicher ? Weil float nicht wirklich eine binäre Darstellung, int sicher haben,