support-Vektor-Maschinen in matlab

Können Sie uns ein Beispiel der Klassifikation von 4-Klassen verwenden von Support-Vektor-Maschinen (SVM) in matlab so etwas wie:

atribute_1  atribute_2 atribute_3 atribute_4 class
1           2          3           4             0
1           2          3           5             0
0           2          6           4             1
0           3          3           8             1
7           2          6           4             2
9           1          7           10            3

InformationsquelleAutor cMinor | 2011-02-12

  1. 14

    MATLAB nicht unterstützt multiclass SVM im moment. Könnten Sie svmtrain (2-Klassen) um dies zu erreichen, aber es wäre viel einfacher, zu verwenden eine standard-SVM-Paket.

    Habe ich verwendet LIBSVM und kann bestätigen, dass es sehr einfach zu bedienen.

    %%# Your data
D = [
1           2          3           4             0
1           2          3           5             0
0           2          6           4             1
0           3          3           8             1
7           2          6           4             2
9           1          7           10            3];
%%# For clarity
Attributes = D(:,1:4);
Classes = D(:,5);
train = [1 3 5 6];
test = [2 4];

%%# Train
model = svmtrain(Classes(train),Attributes(train,:),'-s 0 -t 2');

%%# Test
[predict_label, accuracy, prob_estimates] = svmpredict(Classes(test), Attributes(test,:), model);
    ein beliebiges Beispiel zu klassifizieren obigen Beispiel?
    Wenn ich ausführen-Modell = svmtrain(Klassen(Zug),Attribute(Zug,:),'-s 0 -t 2'); erhalte ich: ??? Error using ==> svmtrain bei 172 Gruppe muss ein Vektor.
    Hast du copy-paste die alle der code, den ich zur Verfügung gestellt? Es funktioniert für mich.
    ja,klar, Wiederverkäufer und alle, vielleicht ist dis etwas falsch, sorry.,
    In Fall, dass Sie noch auf der Suche für eine Lösung: stackoverflow.com/questions/15619584/...

    InformationsquelleAutor Jacob

  2. 25

    SVMs wurden ursprünglich für die binäre Klassifikation. Später wurden Sie erweitert zu behandeln multi-Klassen-Probleme. Die Idee ist, zerlegen Sie das problem in viele binäre-Klasse Probleme und dann kombinieren Sie erhalten die Vorhersage.

    Einem Ansatz namens einer-gegen-alle, baut so viele binäre Klassifikatoren, da gibt es Klassen, die jeweils ausgebildet zum trennen einer Klasse vom rest. Voraussagen einer neuen Instanz, die wir wählen, der Klassifikator mit der größten Entscheidung, die Funktion Wert.

    Anderen Ansatz namens eins-gegen-eins - (was ich glaube, ist verwendet in LibSVM), baut k(k-1)/2 binäre Klassifikatoren, ausgebildet zum trennen jedes paar von Klassen gegeneinander an und nutzt eine Mehrheit Schema (max-win-Strategie), um zu bestimmen, die Ausgabe-prediction.

    Gibt es auch andere Ansätze, wie die Verwendung von Error Correcting Output Codes (ECOC) bauen viele etwas redundant binary-Klassifikatoren, und verwenden Sie diese Redundanz zu erhalten robuster Klassifikationen (verwendet die gleiche Idee wie Hamming-codes).

    Beispiel (one-against-one):

    %# load dataset
load fisheriris
[g gn] = grp2idx(species);                      %# nominal class to numeric

%# split training/testing sets
[trainIdx testIdx] = crossvalind('HoldOut', species, 1/3);

pairwise = nchoosek(1:length(gn),2);            %# 1-vs-1 pairwise models
svmModel = cell(size(pairwise,1),1);            %# store binary-classifers
predTest = zeros(sum(testIdx),numel(svmModel)); %# store binary predictions

%# classify using one-against-one approach, SVM with 3rd degree poly kernel
for k=1:numel(svmModel)
    %# get only training instances belonging to this pair
    idx = trainIdx & any( bsxfun(@eq, g, pairwise(k,:)) , 2 );

    %# train
    svmModel{k} = svmtrain(meas(idx,:), g(idx), ...
        'BoxConstraint',2e-1, 'Kernel_Function','polynomial', 'Polyorder',3);

    %# test
    predTest(:,k) = svmclassify(svmModel{k}, meas(testIdx,:));
end
pred = mode(predTest,2);   %# voting: clasify as the class receiving most votes

%# performance
cmat = confusionmat(g(testIdx),pred);
acc = 100*sum(diag(cmat))./sum(cmat(:));
fprintf('SVM (1-against-1):\naccuracy = %.2f%%\n', acc);
fprintf('Confusion Matrix:\n'), disp(cmat)

    Hier ist ein Beispiel für die Ausgabe:

    SVM (1-against-1):
accuracy = 93.75%
Confusion Matrix:
    16     0     0
     0    14     2
     0     1    15
    Sehr gut erklären und Beispiel.
    ist es richtig, nehmen die durchschnittlichen Genauigkeit von k Falten, wenn ich mich mit k-Falten in cvpartition?
    ja, Sie berichten über die Durchschnittliche Genauigkeit über die k-Falten, dann wieder das Modell gelernt, aus den gesamten Trainingsdaten
    Aber die Genauigkeit ist unterschiedlich, jedes mal wenn ich den code ausführen, ist dies nicht der Fall ist, wenn ich berechnen Fehler mit der eingebauten Funktion von cvpartition.
    Ich denke, das ist, weil die Daten partitioniert ist anders, jedes mal, wenn Sie führen Sie den code. Wenn Sie möchten, um die Ergebnisse reproduzieren, erwägen Sie, ein seed für den Zufallszahlengenerator (siehe rng - Funktion)

    InformationsquelleAutor Amro

Schreibe einen Kommentar