Volle Genauigkeit der Ausgabe von Gleitkomma-Datentypen in SQL Server Management Studio

Habe ich den Wert 1555.4899999999998 gespeichert float Spalte mit Standard-Genauigkeit (53). Wenn ich eine einfache select, SSMS Runden die Ausgabe anstatt Druck mit allen zur Verfügung stehenden Präzision. Es verursacht einige Probleme für mich vor kurzem, da der Wert gedruckt, nicht wie ein float wörtliche übereinstimmung der tatsächlich gespeicherten Wert.

Beispiel (beachten Sie, dass diese beiden zahlen haben eine exakte Darstellung in der Standard -float), 

declare @f1 float
declare @f2 float
set @f1 = 1555.49
set @f2 = 1555.4899999999998
select @f1, @f2
select STR(@f1,30,15), STR(@f2,30,15)

Ausgänge:

1555.49 1555.49
1555.490000000000000    1555.489999999999800

In Query Analyzer, das erste select Ausgänge:

1555.49 1555.4899999999998

Das ist das Verhalten, das ich will, um von Management Studio. Gibt es eine Möglichkeit zu verhindern, dass SSMS durch Rundung in dessen Ergebnis anzeigen?

InformationsquelleAutor Simon | 2011-11-11
  1. 7

    Keine.

    SQL Server Management Studio Runden floating-point-Werte für die Anzeige; es ist ein Verbinden Sie Vorschlag, um dieses Verhalten zu ändern, aber es ist geschlossen "Durch Design".

    Jedoch SQLCMD, osql und den Query Analyzer nicht.

    SQLCMD -E -S server -Q"SELECT CONVERT(FLOAT, 1555.4899999999998)"
    • Ich Folgen Sie dem link und Lesen: Microsoft Connect Has Been Retired
    InformationsquelleAutor gonsalu
  2. 0

    Gibt es einen Grund, warum man sich lieber einen float-Typ als ein decimal-Typ? Floats gespeichert sind, als Fraktionen, die bewirkt, dass Sie oft leicht innacurate, wenn Operationen auf Ihnen. Das ist okay, wenn Sie eine Grafik-Anwendung, wo die innaccuracy ist viel weniger bedeutend als die Größe von einem pixel, aber es ist ein riesiges Problem in so etwas wie eine Buchhaltung Anwendung, wo man mit Geld zu tun.

    Ich würde Wagen zu sagen, dass die Genauigkeit von einer dezimale wichtiger ist für die meisten Anwendungen als Vorteil in der Geschwindigkeit oder Größe, Sie würden von mit einem Schwimmer.

    • Das Datenbank-schema ist außerhalb meiner Kontrolle, leider. Ich bin 100% einverstanden, dass float ist eine schlechte Wahl für diese Anwendung, aber wenn es der richtige Typ wäre ich immer noch erwarten, eine genauere Darstellung in Management Studio.
    InformationsquelleAutor Brandon Moore
  3. -1

    Edit zu meinem ursprünglichen post. Ich war versucht zu lösen ein etwas anderes problem, wenn ich lief über diese Seite. Ich wollte nur einen float-Typ, um wieder eine "normale" Zahl, keine wissenschaftliche notation.

    Vorgeschlagen, zwei Bekehrte ursprünglich. Wunde mit diesem dann Ende. Die 7 unten verändert werden könnte, um zu zeigen, wie viele Dezimalstellen, wie Sie möchten. Ersetzen und Borten loszuwerden, führende und nachgestellte Nullen.

    REPLACE(RTRIM(LTRIM(REPLACE(STR(x, 20, 7),'0',' '))),' ','0')

    • Das Ziel ist nicht, zu konvertieren, zu VARCHAR. Die STR () - Aufrufe in meinem Beispiel schon tun. Ich hatte gehofft, um das Standardverhalten ändern, SSMS, ohne dass Sie Umbauten auf meine Anfrage. Übrigens, die 5 stellen nach dem Komma ist nicht genug, um keine Verwechslungen der Werte, in meinem Beispiel, entweder. Sie müssten mindestens DECIMAL(28,13) für, die.
    • Ich bearbeitet meine Antwort. Immer noch nicht hilft mit SSMS. Nur gibt die string-Darstellung, die ich wollte. Vielleicht eine nützliche Abhilfe.
    InformationsquelleAutor user600410
Schreibe einen Kommentar