wie setzen numpy floating-point-Genauigkeit?

Ich habe gerade berechnet, die gleiche Anzahl auf zwei verschiedene Arten, aber in numpy, macht es ein Fehler

[[ 0.910221324013388510820732335560023784637451171875]]
[[-0.9102213240133882887761274105287156999111175537109375]]

diese Zahl ist die gleiche bis zu e^(-15), unterscheidet sich aber danach. Wie behandle ich diesen Fehler?

Gibt es eine Möglichkeit, zu begrenzen, floating-point-Genauigkeit?

Da ich die Berechnung exponentiell mit diesen zahlen, können selbst kleine Unterschiede ergeben sich in frustrierenden Fehler...

  • können Sie nach dem code?
  • Was ist der "dtype" der Elemente in einem array? Das ist eine wahnsinnige Anzahl von Ziffern ausgegeben.
  • float64. da nur Druck Nummer nicht zeigen einen Unterschied von python-print funciton, ich habe np.set_printoptions(precision=70)
InformationsquelleAutor user42298 | 2014-08-07
Schreibe einen Kommentar