Einfaches Beispiel mit BernoulliNB (naiver bayes-classifier) scikit-learn, die in python kann nicht erklären, Klassifizierung

Mit scikit-learn 0.10

Warum hat die folgenden trivialen code-snippet:

from sklearn.naive_bayes import *

import sklearn
from sklearn.naive_bayes import *

print sklearn.__version__

X = np.array([ [1, 1, 1, 1, 1], 
               [0, 0, 0, 0, 0] ])
print "X: ", X
Y = np.array([ 1, 2 ])
print "Y: ", Y

clf = BernoulliNB()
clf.fit(X, Y)
print "Prediction:", clf.predict( [0, 0, 0, 0, 0] )

Drucken Sie die Antwort "1" ? Trainiert hat das Modell auf [0,0,0,0,0] => 2 ich rechne auch mit einer "2" als Antwort.

Und warum ersetzen von Y mit

Y = np.array([ 3, 2 ])

Geben, eine andere Klasse "2" als Antwort (die richtige) ? Dies ist nicht nur ein Klasse Etikett?

Kann jemand etwas Licht in diese Schuppen?

  • Du hast Recht, die änderung Y sollte sich daran nichts ändern. Konnte ich reproduzieren mit dem aktuellen master. Ich denke, das hat zu tun mit der Klassifizierer als unentschlossen.
  • Mit 0.18.2, ich bin immer 2 ohne änderung alpha.
InformationsquelleAutor MalteseUnderdog | 2012-08-04
  1. 8

    Standardmäßig alpha, der smoothing-parameter. Als msw sagte, Ihre Ausbildung ist sehr klein. Aufgrund der Glättung, ohne Informationen gelassen wird. Setzen Sie alpha auf einen sehr kleinen Wert, Sie sollten sehen, das Ergebnis, das Sie erwartet.

    InformationsquelleAutor Andreas Mueller
  2. 5

    Ihre Trainings-set ist zu klein, da können angezeigt werden, indem

    clf.predict_proba(X)

    ergibt 

    array([[ 0.5,  0.5],
       [ 0.5,  0.5]])

    was zeigt, dass der Klassifikator Blick auf alle Klassifizierungen wie gleichwahrscheinlichen. Sie vergleichen mit dem Beispiel in der Dokumentation für BernoulliNB für die predict_proba() ergibt:

    array([[ 2.71828146,  1.00000008,  1.00000004,  1.00000002,  1.        ],
       [ 1.00000006,  2.7182802 ,  1.00000004,  1.00000042,  1.00000007],
       [ 1.00000003,  1.00000005,  2.71828149,  1.        ,  1.00000003],
       [ 1.00000371,  1.00000794,  1.00000008,  2.71824811,  1.00000068],
       [ 1.00000007,  1.0000028 ,  1.00000149,  2.71822455,  1.00001671],
       [ 1.        ,  1.00000007,  1.00000003,  1.00000027,  2.71828083]])

    wo ich angewendet numpy.exp() um Ergebnisse, um Sie leichter lesbar. Offensichtlich ist, werden die Wahrscheinlichkeiten sind nicht einmal annähernd gleich und in der Tat gut klassifizieren der Ausbildung festgelegt.

    InformationsquelleAutor msw
Schreibe einen Kommentar