Tag: floating-point
Floating point zahlen sind Näherungen der reellen zahlen, darstellen können größere Bereiche als ganze zahlen, sondern verwenden Sie die gleiche Menge an Speicher, die auf Kosten geringerer Präzision. Wenn Ihre Frage über klein-arithmetische Fehler (z.B. warum tut 0.2 + 0.1 gleich 0.300000001?) oder zu-dezimal-Konvertierung, Fehler, Lesen Sie bitte die „info“ – Seite (Link unten vor der Buchung.
warum kann ich nicht zuordnen 1.2 Wert auf float-Variablen in C#? Ich Tat das gleiche in C und C++, und es funktionierte
2 Antworten
warum kann ich nicht zuordnen 1.2 Wert auf float-Variablen in C#? Ich Tat das gleiche in C und C++, und es funktionierte. class Program { private readonly int a = 20; private readonly float b; public Program(float
Wie man den genauen Bruchteil von einer Gleitkommazahl als ganze Zahl?
3 Antworten
Es gibt eine Menge von Fragen und Antworten über dezimal & integer Gewinnung von floating-point-zahlen und die Einnahme-Ausgabe für bestimmte Nachkommastellen. Aber keiner konnte mein problem lösen. Bitte, wenn jemand kann mir helfen, mein problem zu lösen-
Tut setprecision in c++ - Runde? Wenn dem so ist, warum sehe ich das?
2 Antworten
Dem folgenden snippet Ausgänge 0.29847 als ich erwartet hätte 0.29848: double f = 0.298475; cout << setprecision(5) << f << endl; Andere Beispiele, aber ich beobachte Rundung: double f = 0.123459; cout << setprecision(5) << f <<
Rails 3 Float-oder Dezimalzahl GPS-Koordinaten
4 Antworten
Brauche ich zum speichern von GPS Koordinaten in einer Datenbank. Ich habe gehört, dass die Schwimmer sind weniger genau als Dezimalzahlen. Ist das wahr? Wenn dem so ist, welchen Grund gibt es immer benutzen schwimmt? InformationsquelleAutor jac
Variable Funktion (va_arg) funktioniert nicht mit schwimmen?
2 Antworten
Habe ich eine Variable Funktion, die einen float-parameter. Warum geht es nicht? va_arg(arg, float) Kannst du die volle Funktion? Sie haben Glück, Sie waren in der Lage, eine Antwort zu bekommen, dass ist wohl richtig, angesichts der
Zufällige Auswahl von float in Objective C?
1 Antworten
für ein im ich bin, dies zu tun: int randomRange(int min, int max) { int range = max - min; if (range == 0) return min; return (arc4random() % range) + min; } aber wie kann ich
Was ist ein long double ist auf x86-64?
3 Antworten
Jemand hat mir gesagt, dass: Unter x86-64, FP-Arithmetik erfolgt mit SSE, und somit long double ist 64 bit. Aber in der x86-64-ABI sagt, dass: C type | sizeof | alignment | AMD64 Architecture long double | 16
"Ungefähre" größten gemeinsamen Teiler
8 Antworten
Angenommen, Sie haben eine Liste von floating-point-zahlen, die etwa Vielfache einer gemeinsamen Menge, zum Beispiel 2.468, 3.700, 6.1699 welche ungefähr alle vielfachen von 1.234. Wie würden Sie charakterisieren das "approximate gcd", und wie würdest du Vorgehen, um
In laymans Begriffe, was bedeutet das Python-string-format "g" eigentlich bedeuten?
2 Antworten
Ich fühle mich ein bisschen albern, zu Fragen, was ich bin sicher, dass ist eine ziemlich grundlegende Frage, aber ich habe das lernen von Python und ich habe Schwierigkeiten zu verstehen, was genau das "g" und "G"
Hexadezimal Fließkomma-Konstanten in C
2 Antworten
Habe ich einen hexadezimal Fließkomma-Konstante, die möchte ich erklären, direkt in mein C-Programm ein, und vermeiden Sie die Konvertierung. Ich glaube, es muss normalisiert werden, zuerst, richtig? Wie kann ich normalisieren und es erklären? //hex constant 0xDE.488631
Tut Arithmetik mit bis zu zwei Dezimalstellen in Python?
5 Antworten
Ich habe zwei Schwimmer in Python, dass ich möchte, um zu subtrahieren, d.h. v1 = float(value1) v2 = float(value2) diff = v1 - v2 Ich soll "diff" berechnet werden, bis zu zwei Dezimalstellen, d.h. berechnen Sie mit
Die Berechnung von e (Basis des natürlichen log), um eine hohe Präzision in Python?
6 Antworten
Ist es möglich zu berechnen, der Wert der mathematischen Konstanten, e mit hoher Präzision (2000+ Dezimalstellen) mit Python? Bin ich besonders an einer Lösung interessiert, die entweder in oder integriert mit NumPy oder SciPy. Hinweis: mathworld.wolfram.com/e.html und
Pi in der Programmiersprache C
1 Antworten
War ich also versuchen, den Wert von pi in c (IDE = DEV-C++) also ich bin mit long double ist, in diesem und dem Ergebnis ist es mir ein komplettes set von Nullen hier ist das Programm
Float - /double-precision-in debug/release Modi
5 Antworten
C#/.NET-floating-point Operationen unterscheiden sich in der Genauigkeit zwischen den debug-Modus und release-Modus? Warum denken Sie, dass Sie sich unterscheiden? Ja, ich bin daran interessiert, herauszufinden, Ihre Denkprozess zu. Danke Jungs, ich fand ein paar Artikel, die was
Ist es möglich auf 0 durch Subtraktion zwei ungleiche floating-point-zahlen?
12 Antworten
Ist es möglich, dass die division durch 0 (oder unendlich) in dem folgenden Beispiel? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b);
MySQL "größer als" - Bedingung manchmal kehrt Zeile mit gleichem Wert
3 Antworten
Ich in ein Unverständliches Problem mit einem basic-MySQL-Abfrage. Dies ist meine Tabelle: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88 Nun, ich bin versucht zu finden, die alle Zeilen, in
Wie drucken Sie den GENAUEN Wert einer gleitpunktzahl?
10 Antworten
Zuerst von allen, ist dies nicht eine floating-point-newbie-Frage. Ich kenne Ergebnisse von floating-point-Arithmetik (nicht zu erwähnen, transzendente Funktionen) in der Regel nicht exakt dargestellt werden, und dass die meisten beenden Dezimalzahlen dargestellt werden können, exakt als binäre
VHDL: zum konvertieren von zahlen? real nach std_logic_vector
2 Antworten
Mein Aktuelles Projekt beinhaltet eine Adresse, Zähler-Einheit, Ausgänge 7-bit-Vektor und, output (m) geht in eine Sinus-lookup-Tabelle Entität. Also im Grunde, möchte ich m werden die x und die Ausgabe des Sinus-Einheit an der y -. Aber mein
Wie behandeln gleitkommaunterlauf?
2 Antworten
Ich versuche zu verstehen, C++ numerische Eigenschaften. Also, ich bin interessiert an den Unterlauf Phänomen. Kann mir jemand ein Beispiel für einen Unterlauf und wie es zu handhaben? 0U-1. Durch das setzen eines UB-tag, obwohl, ich nehme
C: ich habe unterschiedliche Ergebnisse mit pow(10,2) und pow(10,j), j=2;
3 Antworten
dies einem Drucke von 100: int j=2; int i= pow(10,2); printf("%d\n", i); und dieser druckt 99: int j=2; int i= pow(10,j); printf("%d\n", i); warum? Welchen compiler benutzt du und welches system? Sowohl 100 für mich. Meine Vermutung
Was wäre die kleinste positive Wert eines IEEE-24-bit-float werden?
1 Antworten
Die kleinste positive Wert eines IEEE-754 32-bit float ist 2^−149 und das von einem 16-bit-float ist 2^-14. , Wenn der IEEE-754 standardisierten 24-bit-float", was wäre die kleinste positive Wert sein? Entschuldigen Sie mich, wenn dies ausdrücklich irgendwo
Konvertierung von double nach unsigned int
3 Antworten
Stehe ich vor einem problem mit der Umwandlung der Wert von Double in int. Ich versuche, führen Sie den folgenden code : int main() { double val_d= 6.25e-05; cout << (1/val_d) << endl; unsigned int val_ui =
Ruby-float-Präzision
2 Antworten
Wie ich es verstehe, Ruby (1.9.2) Schwimmer haben eine Genauigkeit von 15 Dezimalstellen. Daher würde ich erwarten, dass die Rundung float x zu 15 Dezimalstellen würde gleich x. Für diese Berechnung ist dies nicht der Fall. x
Python Präzision in der string-Formatierung mit float-zahlen
2 Antworten
Ich verstehe nicht, warum so formatiert ein string, der einen float-Wert, die Genauigkeit von diesem letzten ist nicht eingehalten. Ie: '%f' % 38.2551994324 gibt: '38.255199' (4 Zeichen verloren!) In dem moment löste ich die Angabe: '%.10f' %
Python-output-komplexe Linie mit schwimmt gefärbte Wert
1 Antworten
Dies ist mein erstes python-Programm und meine erste Frage auf stack overflow, so dass ich entschuldige mich, wenn mein code ist ein Chaos, und oder wenn ich meine Frage schlecht formatiert. Möchte ich drucken Sie die gleiche
problem Umwandlung von 4-Byte-array, float in C#
2 Antworten
Ich bin mit C# und Lesen von Byte-Arrays von einigen controller und konvertieren Sie Ihre Typen. alle Werte (int,string) OK außer die float-Werte. Der Wert, angenommen zu bekommen, ist 533174.1. aber beim Lesen der array - byteArr[0]=2
Sünde v/s sinf-Funktion in C
3 Antworten
Ich versuche, mit der sinf Funktion in meinem C-Programm, aber es gibt mir ein undefined reference-Fehler unter MSVC 6.0, jedoch sin funktioniert einwandfrei. Diese machen mich neugierig auf die Differenz zwischen sin und sinf. Was ist der
C - wie teilen Sie schwimmt?
4 Antworten
Bekomme ich input von der command line als int-d.... Jetzt bin ich mit diesem problem konfrontiert: float a,b; int d; float piece; printf("Please enter the parts to divide the interval: "); scanf("%d", &d); a=0; b=1; piece=b-a/(float)d; printf("%f\n",piece);
Limit-floating-point-Präzision?
9 Antworten
Gibt es eine Möglichkeit, Runde schwimmende Punkte 2 Punkte? E. g.: 3576.7675745342556 wird 3576.76. Meinst du für die Anzeige oder Berechnung? 3576.7675745342556 wird 3576.77, nicht wahr? Nicht nesacerily. Rundung ist eine vage Bezeichnung, kapselt verschiedene Vorgänge, die
Was ist die maximale Größe für diese Art von schwimmen?
4 Antworten
In C++, unter Verwendung eines float-Variablen unter einem 32-bit-OS, was ist der maximale reelle Zahl, die Sie kriegen konnte, ein schweben, eine zusätzliche Nachkommastellen? Beispiel: 1000.2 Was bedeutet "eine zusätzliche dezimale Genauigkeit" bedeuten? Es ist schon unmöglich,
Wie parse float mit zwei Nachkommastellen in javascript?
14 Antworten
Ich habe den folgenden code. Ich möchte es so, dass wenn price_result gleich eine ganze Zahl, sagen wir 10, dann würde ich gerne hinzufügen zwei Dezimalstellen. Also 10 wäre 10.00 Uhr. Oder wenn es gleich 10.6 wäre
Swift - Wie Sie eine Dezimalzahl aus einem Schwimmer, wenn die Dezimalzahl gleich 0 ist?
12 Antworten
Ich bin die Anzeige der Entfernung mit einer Dezimalstelle, und ich möchte, um diese zu entfernen dezimal in Fall ist es gleich 0 (ex: 1200.0 Km), wie kann ich tun, dass in swift? Ich bin das anzeigen
Random float-Zahl generation
14 Antworten
Wie erstelle ich zufällige schwimmt in C++? Dachte ich, ich könnte die ganze Zahl rand und teilen Sie es durch etwas, wäre das ausreichend genug? Es hängt vielmehr das, was Sie möchten, die Anzahl, und wie zufällig.
Wie ist arctan umgesetzt?
3 Antworten
Viele Umsetzung der Bibliothek geht tief hinab zum FPATAN instuction für alle arc-Funktionen. Wie ist FPATAN umgesetzt? Angenommen, wir haben 1 bit Vorzeichen, M bits Mantisse und N bits für exponent, wie ist der Algorithmus um den
Konvertiert einen float in einen string in c
1 Antworten
Schreibe ich eine Funktion übergeben wird ein Schwimmer in der form eines void-Zeiger. Was ich bin versucht zu tun, ist zu konvertieren, dass die float in einen string gleich so, dass ich sparen kann, binäre Daten im
So drucken Sie ein Doppelzimmer mit einem Komma
6 Antworten
In C++ ich habe eine float/double variable. Wenn ich drucken Sie diese zum Beispiel mit cout die resultierende Zeichenfolge ist Zeit-begrenzt. cout << 3.1415 << endl $> 3.1415 Gibt es eine einfache Möglichkeit zu zwingen, die doppelt
Der name `Mathe' existiert nicht im aktuellen Kontext
3 Antworten
Ich habe den Code unten und ich bin zu versuchen, um die PerlinNoise(x,z), so habe ich ihn auch gleich Yscale und versuchte um Sie herum. das Problem ist, ich bekomme die Fehlermeldung "Der name `Mathe' existiert nicht
float/double Gleichstellung mit genau null
8 Antworten
Habe ich einen Algorithmus, der verwendet floats oder doubles um einige Berechnungen auszuführen. Beispiel: double a; double b; double c; ... double result = c / (b - a); if ((result > 0) && (result < small_number))
Wie gerundet wird, eine floating-point-Zahl bis zu einer bestimmten Nachkommastelle?
12 Antworten
Angenommen ich habe 8.8333333333333339, und ich will es konvertieren zu 8.84. Wie kann ich dies in Python? round(8.8333333333333339, 2) gibt 8.83 und nicht 8.84. Ich bin neu in Python oder Programmierung im Allgemeinen. Ich nicht wollen, drucken
Wie zu subtrahieren IEEE-754-zahlen?
1 Antworten
Wie ziehe ich die IEEE-754-zahlen? Beispiel: 0,546875 - 32.875... -> 0,546875 0 01111110 10001100000000000000000 in IEEE-754 -> -32.875 1 10000111 01000101111000000000000 in IEEE-754 Also wie mache ich die Subtraktion? Ich weiß, dass ich, um die beiden Exponenten
Beste/Schnellste Weg, um konvertieren zu schweben
3 Antworten
So, ich bin versucht, die input-und output-in float-Zahl. Console.WriteLine("Enter float number: "); float number = Console.ReadLine(); Console.WriteLine("{0}", number); Sehe ich das problem, dass ReadLine haben format-Zeichenfolge, die bewirkt, dass "Error CS0029: Cannot implizit konvertieren Typ 'string' in
Wie drucken Sie jedes bit der Gleitkommazahl?
9 Antworten
Ich versuche, drucken Sie jedes bit der Gleitkommazahl in C. Ich bin in der Lage, es zu tun für Ganzzahlen mit diesem: int bit_return(int a, int loc) //Bit returned at location { int buf = a &
Konvertierung von SQL FLOAT SQL INT, verlorene Daten
2 Antworten
Ich habe einige Probleme mit der Konvertierung von einigen Daten, die in einen FLOAT-Datentyp gespeicherten Daten in einem INT-Datentyp. Das folgende Beispiel zeigt mein problem: DECLARE @data TABLE ( id INT, weight FLOAT ) INSERT INTO @data
Konvertieren von float in string mit dem schneiden der null Dezimalstellen afer Punkt in Python
6 Antworten
Ich habe Schwierigkeiten mit der Konvertierung von float zu string in der folgenden Art und Weise: 20.02 --> 20.02 20.016 --> 20.02 20.0 --> 20 Scheint es, dass%g format ist das beste, aber ich bin immer seltsame
Umwandlung von Int in Float oder Float zu Int Bitweise Operationen (software-floating-point)
3 Antworten
Ich Frage mich, ob Sie könnte helfen, erklären, den Prozess der Umwandlung eines integer zu float oder float zu einem integer. Für meine Klasse, wir sind zu diesem Zweck mit nur bitweise Operatoren, aber ich denke, dass
C# float-zu-dezimal-Konvertierung
4 Antworten
Jeder intelligente Weg, um konvertieren von float wie diese: float f = 711989.98f; in eine Dezimalzahl (oder Doppel) ohne an Präzision zu verlieren? Ich versucht habe: decimal d = (decimal)f; decimal d1 = (decimal)(Math.Round(f,2)); decimal d2 =
Floating Point in Python
7 Antworten
Ich bin zu lernen, über das Lernen-Python The Hard Way, und ich bin gekommen über: Beachten Sie die Mathematik scheint "falsch" ist? Es gibt keine Brüche, nur ganze zahlen. Finden Sie heraus, warum Sie mit der Erforschung
ERLANG - Binär-string in integer oder float
4 Antworten
Habe ich binäre Zeichenfolgen in der form von entweder: <<"5.7778345">> oder <<"444555">> Ich weiß nicht, vor der hand, ob es eine float-oder integer. Ich habe versucht zu tun, eine überprüfung, um zu sehen, wenn es eine Ganzzahl
finden, wenn eine Zahl float64
3 Antworten
Ich habe eine Reihe z.B. a = 1.22373 type(a) is float Wie Weise ich die herausfinden wollen, ob eine Zahl float64 ist oder nicht. Wie ich finde mit python, numpy? Verwandte: Wie zu prüfen, ob eine Zahl
Konvertieren einer Liste von string schwebt eine Liste von floats mit 2 Kommastellen
4 Antworten
Habe meine Forschung gemacht und einige Verbesserungen, sehr nahe an der Lösung dieses Problem, aber jetzt bin ich stecken und Hilfe brauchen, bitte. Aufgabe: umwandeln einer Liste von strings schwimmt schwimmt mit 2 Kommastellen Original-Liste: mylist =