Tag: fixed-point
Zwei verschiedene Konzepte:
– **Festkomma-Arithmetik** erfolgt mit einer festgelegten Anzahl von Dezimalstellen. Es kann schneller und ist, innerhalb seines Regimes, noch genauer als die floating-point.
– **Fixed-point-combinators** finden Sie die Fixpunkte von Funktionen, D. H. Werte `x`, so dass `f(x) = x`.
Fixed-point-unsigned-division C
2 Antworten
Brauche ich einen Algorithmus, um zu tun, unsigned fixed point division in C kann ich verwenden bei den meisten 32-bit-Worten. Möchte ich minimieren die Anzahl der bits, die benötigt werden, um stellen den ganzzahligen Teil, während in
16-bit fixed-point Arithmetik Multiplikation
3 Antworten
Habe ich 2 Daten-Werte (A = 0.00537667139546100 und B = -0.0182905843325460) und ich möchten, multiplizieren Sie Sie mit 16-bit-fixed-point Arithmetik mithilfe von round-off-Methode. Wie soll ich das machen? Wie soll ich das definieren, das sowohl Daten? Ist
Beschränken Float-Präzision in JavaScript
4 Antworten
Arbeite ich an einer Funktion in JavaScript. Ich nehme zwei Variablen x und y. Muss ich teilen zwei Variablen und Anzeige Ergebnis auf dem Bildschirm: x=9; y=110; x/y; bin ich dann immer das Ergebnis : 0.08181818181818181 Ich
fixed-point-Arithmetik in java mit schneller performance
4 Antworten
Muss ich repräsentieren einige zahlen in Java mit perfekter Präzision und eine Feste Anzahl von Dezimalstellen nach dem Komma, nach dem Komma, ist mir egal. (Konkret - Geld und Prozente.) Verwendete ich Java-eigenen BigDecimal jetzt, aber ich
Vorteile und Nachteile von floating-point und fixed-point-Darstellungen
4 Antworten
Ich habe versucht, für die letzten drei Tage zu verstehen, die genauen Unterschiede zwischen floating-und fixed-point Darstellungen. Ich bin verwirrt, Lesen das material, und ich bin nicht in der Lage zu entscheiden, was richtig und was falsch
Signiert & unsigned integer-Multiplikation
1 Antworten
In fixed point math ich benutze eine Menge von 16-bit-Signale und führen Sie die Multiplikation mit 32bit Zwischenergebnisse. Zum Beispiel: int16_t a = 16384; //-1.0q14 or 1.0*2^14 int16_t b = -24576; //-1.4q14 or 1.4*2^14 int16_t c; //result
Oracle Schwimmt vs-Nummer
5 Antworten
Ich sehe widersprüchliche Verweise in Orakel-Dokumentation. Gibt es einen Unterschied zwischen dem, wie Dezimalzahlen gespeichert werden, in einer FLOAT-und einer ANZAHL von Typen in der Datenbank? Daran erinnern, wie ich aus C, et al, ein Schwimmer hat
Wie konvertiert verpackt integer (16.16) fixed-point schweben?
3 Antworten
Gewusst wie: konvertieren eine "vorzeichenbehaftete 32-bit-fixed-point number (16.16)" zu einem float? Ist (fixed >> 16) + (fixed & 0xffff) /65536.0 ok? Was ist mit -2.5? Und -0.5? Oder ist fixed /65536.0 den richtigen Weg? (PS: Wie funktioniert
Konvertierung von floating-point zu fixed-point
6 Antworten
In C++, was ist der Allgemeine Weg, um zu konvertieren jede Gleitkommazahl (float) in Fixpunkt (int, 16:16 und 24:8)? EDIT: Für die Klärung, fixed-point-Werte bestehen aus zwei teilen: einem ganzzahligen Teil und einen gebrochenen Teil. Der ganzzahlige
Schnelle festen Punkt, pow, log, exp und sqrt
4 Antworten
Habe ich eine fixed-point-Klasse (10.22) und ich habe gebraucht, pow, sqrt, exp und log-Funktion. Ach ich habe keine Ahnung, wo Sie überhaupt anfängt. Kann jemand mir einige links zu nützlichen Artikeln und bettter noch, geben Sie mir
Wie konvertiere ich eine floating-point-C-code zu festen Punkt?
5 Antworten
Ich habe einen C-code verwendet verdoppelt. Ich möchte in der Lage sein, um den code auszuführen, der auf einem DSP (TMS320). Aber der DSP nicht unterstützt, verdoppelt sich, nur mit fixed-point zahlen. Was ist der beste Weg,
Fixpunkt Mathematik in c #?
5 Antworten
Ich Frage mich, ob jemand hier weiß jeder gute Ressourcen für fixed point math, die in c#? Ich habe gesehen, Dinge wie diese (http://2ddev.72dpiarmy.com/viewtopic.php?id=156) und diese (Was ist der beste Weg, dies zu tun Festkomma-Mathematik?), und eine
Speichern von Geldbeträgen in mysql
6 Antworten
Will ich speichern 3.50 in eine mysql-Tabelle. Ich habe einen float, der ich es speichern, aber es speichert als 3,5, nicht 3.50. Wie bekomme ich es auf die abschließenden null? InformationsquelleAutor der Frage David | 2010-02-12
C ++ Festpunktbibliothek?
7 Antworten
Suche ich einen freien C++ - fixed-point-Bibliothek (Hauptsächlich für den Einsatz mit embedded-Geräte, nicht für die beliebiger Genauigkeit Mathematik). Im Grunde sind die Anforderungen: Keine unnötigen Laufzeit-overhead: was kann getan werden zur compile-Zeit, sollte getan werden zur
Wie verwende ich expr auf float?
5 Antworten
Ich weiß, es ist wirklich blöde Frage, aber ich weiß nicht, wie Sie dazu in der bash: 20 / 30 * 100 Sollte es 66.67 aber expr sagen 0weil es nicht unterstützt float. Welcher Befehl im Linux
Festkommaarithmetik in C-Programmierung
3 Antworten
Ich versuche, eine Anwendung zu erstellen, die speichert Aktienkurse mit hoher Präzision. Derzeit bin ich mit einem doppelten zu tun. Zu sparen, bis auf den Speicher kann ich mit jedem anderen Datentyp? Ich weiß, das hat etwas