Tag: precision
Für Fragen rund um die numerische Präzision in der Programmierung.
Tiefe neuronale Netzwerk, das die Genauigkeit für die Bilderkennung, float oder double?
2 Antworten
Neural networks for image recognition) können sehr groß werden. Es kann Tausende von ein - /hidden-Neuronen, Millionen von verbindungen, welche kann bis eine Menge von computer-Ressourcen. Während float allgemein 32bit und Doppel 64bit in c++, Sie haben
32-bit-oder 64-bit-floating-point-performance
3 Antworten
Habe ich lief in einem kuriosen problem. Ein Algorithmus, an dem ich arbeite besteht aus vielen Berechnungen wie diese q = x(0)*y(0)*z(0) + x(1)*y(1)*z(1) + ... wobei die Länge der Summe zwischen 4 und 7. Den ursprünglichen
Eine bessere approximation von e mit Java
7 Antworten
Ich würde gerne annähernd den Wert von e zu jeder gewünschten Präzision. Was ist der beste Weg, dies zu tun? Die meisten habe ich in der Lage zu bekommen, ist e = 2.7182818284590455. Alle Beispiele, die auf
Wie schreibt man einen Prototyp für Anzahl.toFixed in JavaScript?
5 Antworten
Muss ich Runde dezimale zahlen um sechs Plätze mit Hilfe von JavaScript, aber ich muss noch überlegen, älteren Browsern, so dass ich können nicht Sie verlassen sich auf die Nummer.toFixed Den großen Fang mit toExponential, toFixed, und
Polsterung-null-auf floating-point-bash printf
2 Antworten
Ich würde gerne eine Gleitkommazahl gedruckt in der bash mit aufgefüllten Nullen zu füllen, eine Reihe %5.3 f. Ich weiß, der printf-Funktion. Mein problem ist Folgendes: printf "0%5.3f\n" 3.00 gibt, wie erwartet, 03.000 aber die Linie printf
Definition der Präzision von floating-point-Zahl in Python
3 Antworten
Ich habe einige python-code hier Code: t = 1 xt = array([ -1.,-1. ]) xt[0] = theta[0][0]* P_all_States[t-1][0] + theta[1][0]*P_all_States[t-1][1] xt[1] = theta[0][1]* P_all_States[t-1][0] + theta[1][1]*P_all_States[t-1][1] P_all_States[t][0] = xt[0] P_all_States[t][1] = xt[1] print ("Added probability distribution for
Integer-zahlen und float-Präzision
9 Antworten
Dies ist mehr eine numerische Analyse eher als Programmier-Frage, aber ich nehme an, einige von Euch werden in der Lage sein, Sie zu beantworten. In der Summe zwei Schwimmern, ist es die Präzision verloren? Warum? In der
So ändern Sie Preis-format-oder Gebietsschema-Optionen in Magento 1.5?
1 Antworten
Werde ich schreiben ein häufiges problem in magento eine Lösung, die am besten zu mir passen. Ich habe schon gesucht im Netz und reflektieren magento code für die Stunden zu finden, Lösung der oben genannten problem. Ich
MS SQL-datetime-Präzisions-problem
6 Antworten
Habe ich eine situation, in der zwei Personen könnte die Arbeit auf der gleichen Auftrag (gespeichert in einer MS SQL-Datenbank) von zwei verschiedenen Computern. Um Datenverlust zu vermeiden in dem Fall, wo man sparen würde, seine Kopie
Was ist der standard (oder am besten unterstützt) große Anzahl (beliebiger Genauigkeit) - Bibliothek für Lua?
5 Antworten
Ich arbeite mit großen zahlen, die ich nicht haben kann, abgerundet. Mithilfe von Lua-standard-math-Bibliothek, es scheint kein bequemer Weg, zu bewahren Präzision Vergangenheit einige interne Grenze. Ich sehe auch, es gibt mehrere Bibliotheken, die geladen werden können,
Der Verlust der Genauigkeit auf hinzufügen verdoppelt?
3 Antworten
Leute! Ich angetroffen habe ein kleines problem: ich mache eine einfache addition mit drei double-Werte. Das Ergebnis ist ungenauer als die verwendeten Werte. double minutes = 3; minutes = minutes / (24.0*60.0); //contains 0.00208333 double hours =
Festlegung von Mindestanforderungen an die Anzahl der Dezimalstellen für std::ostream Präzision
2 Antworten
Gibt es eine Möglichkeit, um die "minimale" Anzahl der Dezimalstellen, die eine std::ostream ausgegeben wird? Sagen wir zum Beispiel, ich habe zwei unbekannten double-Variablen, die ich drucken möchte (Werte Hinzugefügt, hier zur illustration): double a = 0;
C++ : das Schreiben verdoppelt sich in einer Datei mit mehr Präzision als Standard
4 Antworten
Möchte ich schreiben verdoppelt, um eine Datei, aber die string-Umwandlung verringert die Präzision. Edit : ich weiß nicht wirklich gewirkt und die verdoppelt sich in einem ostringstream. Gibt es einen anderen Weg als die Analyse der einzelnen
Java Veränderlich BigInteger-Klasse
3 Antworten
Ich mache Berechnungen mit BigIntegers verwendet eine Schleife, die fordert, multiply() etwa 100 Milliarden mal, und das neue Objekt Schöpfung aus dem BigInteger macht es sehr langsam. Ich hatte gehofft, jemand hatte geschrieben oder gefunden MutableBigInteger Klasse.
Warum ist 199.96 - 0 = 200 in SQL?
2 Antworten
Habe ich einige clients, die sich seltsam Rechnungen. Ich war in der Lage zu isolieren den Kern des Problems: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the?
Scikit: berechnen Sie precision und recall mit cross_val_score Funktion
4 Antworten
Ich bin mit scikit zur Durchführung einer logistischen regression auf spam - /ham-Daten. X_train ist meine Trainings-Daten und y_train die Etiketten('spam' oder 'ham') und ich trainierte mein LogisticRegression diese Weise: classifier = LogisticRegression() classifier.fit(X_train, y_train) Wenn ich
Warum bean-Validierung Min/Max-constraints nicht unterstützt double-Typ?
1 Antworten
Könnte jemand bitte erklären Sie mir, warum die JPA unterstützt die double Typ als Feld-Typ, aber das bean-validation-constaints in javax.validation.constraints (d.h. @Min/@Max) nicht unterstützen? Ich weiß, die Dokumentation sagt, dass dies aufgrund von Rundungsfehlern, aber wenn ich
ostream entspricht %.2f oder %.2lf
3 Antworten
double d = 1/2.; printf("%.2lf\n", d); Dieser druckt 0.50. Dies ist, was ich will zu replizieren mithilfe ostream Manipulatoren. Aber keiner von den offensichtlichen iomanip Manipulatoren lassen Sie mich setzen Sie den Minimalwert der gewünschten Nachkommastellen (wenn
C# float-zu-dezimal-Konvertierung
4 Antworten
Jeder intelligente Weg, um konvertieren von float wie diese: float f = 711989.98f; in eine Dezimalzahl (oder Doppel) ohne an Präzision zu verlieren? Ich versucht habe: decimal d = (decimal)f; decimal d1 = (decimal)(Math.Round(f,2)); decimal d2 =
QString:Anzahl mit maximal 2 Nachkommastellen ohne schließende null
1 Antworten
Habe ich eine Abteilung wie diese: number / 1000.0 Manchmal gibt es Antworten wie 96.0000000001, manchmal ist die division funktioniert wie erwartet. Möchte ich einschränken, meine Nummer zu maximal zwei Dezimalstellen hinter dem Komma ohne nachfolgende Nullen.
C++ - Berechnung genauer ist als double oder long double
2 Antworten
Bringe ich mir C++ und auf diese Praxis Frage fragt es, code zu schreiben, der kann berechnen, PI >30-stellig. Ich habe gelernt, dass double /long double sind beide 16 Ziffern präzise auf meinem computer. Ich denke, die
zurück Standard precision C++
5 Antworten
Ich soll zur Kontrolle der Präzision für ein Doppelzimmer bei einem Vergleich, und dann kommen Sie wieder auf die default-Präzision mit C++. Ich beabsichtige zu verwenden setPrecision() zu setzen Präzision. Was ist denn die syntax, wenn vorhanden,
gnuplot alternative mit höhere Präzision
4 Antworten
Derzeit bin ich mit gnuplot zu Plotten und Daten mit einer time-line. Jedoch ist die Genauigkeit der Zeitachse ist in Millisekunden, aber gnuplot scheint nur in der Lage sein zu handhaben Sekunden. Ich habe ein paar alternativen,
Warum ist es notwendig, Präzision für den fragment-shader?
2 Antworten
Ich lernen WebGL. Neben Shader funktionieren: //vertex.shader //precision mediump float; attribute vec4 a_Position; attribute float a_PointSize; void main(){ gl_Position = a_Position; gl_PointSize = a_PointSize; } und //fragment.shader precision mediump float; uniform vec4 u_FragColor; void main(){ gl_FragColor =
Division ein double mit integer
3 Antworten
Stehe ich vor einem Problem beim teilen einer double mit einem int. Code-snippet : double db = 10; int fac = 100; double res = db / fac; Den Wert von res wird 0.10000000000000001 statt 0.10. Weiß
Wie zu zwingen, python-float-Betrieb auf float32 eher als float64
1 Antworten
Ich will ein paar maths float operation(+,-,x,/) auf float32 eher als float64. Ich brauche diese Operationen auf number oder numpy.array. Und einige mathematische Funktionen von numpy, wie sqrt mean http://docs.scipy.org/doc/numpy/user/basics.types.html InformationsquelleAutor Samuel | 2013-12-25
Half-precision floating-point in Java
4 Antworten
Gibt es eine Java-Bibliothek überall ausführen können Berechnungen auf IEEE 754 halb-Präzision zahlen oder konvertieren Sie Sie in und aus double-precision? Ansätze geeignet wären: Halten Sie die zahlen in der Hälfte-precision-format und berechnen unter Verwendung der integer-Arithmetik
SQL set-floating-point-Präzision
2 Antworten
Für eine SQL-int, der konvertiert wird an einem Schwimmer, wie kann ich die Genauigkeit der floating-point-Zahl? Dies ist die Auswahl möchte ich abschneiden, um zwei oder 3 Dezimalstellen: AVG(Cast(e.employee_level as Float))avg_level, Dank! InformationsquelleAutor CodeKingPlusPlus | 2012-06-20
Generierung von pi auf N-te Ziffer java
3 Antworten
Wollte ich wissen, wie ich die erzeugen kann pi der N-TEN Ziffer. Ich habe ein paar grundlegende Ideen. Verwenden Math.PI und erhöhen die Präzision (wenn das überhaupt möglich ist) Verwenden Sie die Eulersche Formel zu generieren, die
BigDecimal Präzision nicht dauerhaft mit JPA-Annotationen
2 Antworten
Ich bin mit dem javax.persistence API und Hibernate mit Anmerkungen versehen und speichern von Entitäten und Ihre Attribute in einer Oracle 11g Express-Datenbank. Habe ich das folgende Attribut in einer Entität: @Column(precision = 12, scale = 9)
Zum ermitteln der max-Genauigkeit für double
4 Antworten
Ich versuche zu bestimmen, was die höchste Präzision für eine doppelte ist. In den Kommentaren für die akzeptierte Antwort in diesem link Behalten Präzision, mit double in Java @PeterLawrey Staaten max Präzision in der 15. Wie bestimmen
PostgreSQL: was ist der Unterschied zwischen float(1) und float(24)?
1 Antworten
Ich habe eine harte Zeit-Verständnis der parameter precision p für float(p) in PostgreSQL. Zum Beispiel float(1) und float(24) scheinen genau das gleiche zu mir. Kann jemand mir einige Beispiele Ihrer Unterschiede, bitte? InformationsquelleAutor Xin | 2013-06-03
Wie kann ich das beheben Fehler code C4146 “unäre minus-operator angewendet vorzeichenlosen Typ.Ergebnis noch unsigned"?
2 Antworten
Daten Typ int's minimum-Wert liegt zwischen-2.147.483.648. So, ich tippte int val = -2147483648; Aber es hat einen Fehler: unary minus operator applied to unsigned type.result still unsigned Wie kann ich es beheben? stackoverflow.com/questions/14695118/... Eine Möglichkeit dieses Problem
Präzision in C schwimmt
4 Antworten
Allgemein sagen wir, dass ein float hat eine Genauigkeit von 6 stellen nach dem Dezimalpunkt. Aber wenn wir speichern eine große Anzahl von um die 10^30 werden wir nicht bekommen, die 6 Ziffern nach dem Dezimalpunkt. So
Gibt es eine Möglichkeit zu bekommen, die sich wiederholenden dezimal Abschnitt ein Bruchteil in Python?
3 Antworten
Arbeite ich mit Fraktionen mit Python decimal-Modul und ich würde gerne nur die sich wiederholenden Teil einer bestimmten Fraktion. Zum Beispiel: wenn ich 1/3 ich hätte gerne 3, wenn ich 1/7 ich würde gerne 142857. Gibt es
Python-floating-point-precision-format-Bezeichner
2 Antworten
Sagen wir, ich habe einige 32-bit-zahlen und einige 64-bit-zahlen: >>> import numpy as np >>> w = np.float32(2.4) >>> x = np.float32(4.555555555555555) >>> y = np.float64(2.4) >>> z = np.float64(4.555555555555555) Kann ich drucken Sie Sie aus mit
Kann C# speichern, genauere Daten als verdoppelt?
3 Antworten
double in C# nicht, halten Sie genügend Präzision für meine Bedürfnisse. Ich Schreibe ein fraktal-Programm, und nach dem Zoomen in ein paar Male, die ich laufen aus Präzision. Ich da einen Datentyp, der mehr präzise Gleitkomma-Daten (ich.e
Was ist die maximale Präzision mit Dezimal-in SQL server 2005
1 Antworten
Muss ich behalten bis zu 17 Dezimalstellen. Was ist die angemessene Genauigkeit mit Dezimal-in SQL server 2005 ? InformationsquelleAutor Relativity | 2010-11-18
Wie am besten in der Summe viele floating-point-zahlen?
5 Antworten
Stellen Sie sich vor Sie haben ein großes array von floating-point-zahlen, aller Arten und Größen. Was ist die richtige Art und Weise zu berechnen, die Summe, mit der die wenigsten Fehler? Zum Beispiel, wenn das array sieht
Was definiert floating-point-Präzision in python?
2 Antworten
Lernte ich von "genau gleich" - operator in Erlang, die vergleicht nicht nur die Werte, aber auch Datentypen von zahlen, und ich war neugierig, wie die Dinge funktionieren in Python und seine Einzelkämpfer "ist gleich" - operator.
Wie Drucke ich einen double-Wert mit vollständiger Genauigkeit mit cout?
11 Antworten
So, ich habe die Antwort auf meine Letzte Frage (ich weiß nicht, warum ich nicht glaube). Ich war drucken ein double mit cout dass gerundeten wenn ich nicht erwartet. Wie kann ich cout drucken double mit voller
Warum ist 24.0000 nicht gleich 24.0000 in MATLAB?
6 Antworten
Schreibe ich ein Programm, wo ich brauche, um doppelte Punkte gespeichert, die in einer matrix. Das problem ist, dass, wenn es darum geht zu überprüfen, ob diese Punkte werden in der matrix mit MATLAB kann nicht erkennen,
Umwandlung von BigDecimal zu verdoppeln
1 Antworten
Während die Umwandlung von BigDecimal -, Doppel -, extra-Genauigkeiten werden immer Hinzugefügt. Könnten Sie bitte vorschlagen. Für Ex: BigDecimal deci= new BigDecimal(1.23456789123457E+17); double value = deci.doubleValue(); System.out.println(value); Und Wert druckt - 1.23456789123456992E17. Wie kommen die Letzte Ziffer
Was ist die maximale Präzision mit Dezimal-in SQL server 2005
1 Antworten
Muss ich behalten bis zu 17 Dezimalstellen. Was ist die angemessene Genauigkeit mit Dezimal-in SQL server 2005 ? InformationsquelleAutor Relativity | 2010-11-18
Wie legen Sie die Genauigkeit und die Dezimalstellen in ALTER TABLE
2 Antworten
Ich habe funktionierenden code mit PostgreSQL 9.3: ALTER TABLE meter_data ALTER COLUMN w3pht TYPE float USING (w3pht::float); aber nicht wissen, wie man Präzision und Skala. InformationsquelleAutor Akash Kumar | 2014-05-28
Objective-C Float / Double-precision
1 Antworten
Ich war Herumspielen mit der Speicherung floats und doubles mit NSUserDefaults für den Einsatz in einer iPhone-Anwendung, und ich stieß auf einige Ungereimtheiten, wie die Genauigkeit arbeitet mit Ihnen und wie ich es verstanden habe funktioniert. Dies
Rundung float/decimal gerundet auf 3 Dezimalstellen genau?
2 Antworten
Ich weiß, es gibt viele Fragen, die danach Fragen, aber ich habe versucht, ganz wenige, die Lösungen aber keines scheint zu funktionieren genau so, wie ich es brauche! Meisten Lösungen arbeiten, aber in meinem test-Daten habe ich
PostgreSQL: was ist der Unterschied zwischen float(1) und float(24)?
1 Antworten
Ich habe eine harte Zeit-Verständnis der parameter precision p für float(p) in PostgreSQL. Zum Beispiel float(1) und float(24) scheinen genau das gleiche zu mir. Kann jemand mir einige Beispiele Ihrer Unterschiede, bitte? InformationsquelleAutor Xin | 2013-06-03
Warum sind Gleitkommazahlen ungenau?
6 Antworten
Warum haben manche Nummern verlieren an Genauigkeit, wenn gespeichert als floating-point-zahlen? Beispielsweise die dezimale Zahl 9.2 exakt dargestellt werden können als ein Verhältnis von zwei dezimale Ganzzahlen (92/10), die beide exakt dargestellt werden können im Binär -
Hibernate-mapping ist BigDecimal falsch
1 Antworten
Habe ich zwei @Entitys, beide mit einem BigDecimal Feld wie folgt: in einem Modul: @Entity @Table(name = "price_range") public class PriceRange extends AbstractPersistable<Long> { @Column(name = "price", precision = 19, scale = 4) private BigDecimal price; und