So erhöhen Sie die Validierung der Genauigkeit, mit tief in das neuronale Netz?

Ich versuche zu bauen, ein 11 Klasse Bild Klassifizierer mit 13000 training Bilder und 3000 Validierung Bilder. Ich bin mit tiefen neuronalen Netzes, welches trainiert mit mxnet. Ausbildung Genauigkeit nimmt zu und erreicht oberhalb von 80% aber die Validierung der Genauigkeit wird im Bereich von 54-57%, und Ihr nicht erhöht werden.
Was kann hier das Problem? Sollte ich erhöhen, die keine Bilder?

  • Hat der Validierung die Genauigkeit erhöhen, Schritt für Schritt, bis es behoben haben bei 54-57%. Oder war es fast das gleiche von Anfang an?
  • Keine überprüfung der Genauigkeit wurde die Erhöhung Schritt für Schritt und dann wurde es behoben, bei 54-57%
  • wie hast du die Berechnung der Trainings-Genauigkeit? Hast du berechnen für jede Partie, die Sie mit Ihnen trainiert? Oder für das gesamte training gesetzt?
InformationsquelleAutor sau | 2016-05-04
  1. 29

    Das Problem hier ist, dass Ihr Netzwerk stoppen Sie lernen nützliche Allgemeine Funktionen irgendwann auf und beginnen die Anpassung an den Besonderheiten Ihres Trainings-set (overfitting es in Folge). Sie wollen 'Kraft' Ihrem Netzwerk zu halten, lernen nützliche Funktionen und Sie haben einige Möglichkeiten hier:

    1. Verwenden Gewicht Regularisierung. Es wird versucht zu halten, die GEWICHTE niedrig ist, was sehr oft dazu führt, um eine bessere Generalisierung. Experimentieren Sie mit verschiedenen Regularisierung Koeffizienten. Versuchen Sie, 0.1, 0.01, 0.001 und sehen, welche Auswirkungen Sie haben auf die Genauigkeit.
    2. Beschädigt Ihre Eingabe (z.B., zufällig ersetzen einige Pixel mit schwarz oder weiß). Auf diese Weise entfernen Sie Daten von Ihrer Eingabe und 'Kraft' das Netz zu Holen, auf wichtige Allgemeine Funktionen. Experimentieren Sie mit lärmend Koeffizienten, die bestimmt, wie viel von Ihrem Eingang beschädigt. Forschung zeigt, dass nichts im Bereich von 15% - 45% gut funktioniert.
    3. Erweitern Sie Ihr training legen Sie. Da bist du im Umgang mit Bildern können Sie erweitern Sie Ihr set durch drehen /skalieren etc. Ihre vorhandenen Bilder (wie vorgeschlagen). Sie können auch Experimentieren mit pre-Bearbeitung Ihrer Bilder (z.B., ordne Sie schwarz und weiß, Graustufen etc. aber die Effektivität dieser Technik hängt von Ihren genauen Abbildungen und Klassen)
    4. Pre-trainieren Sie Ihre Schichten mit Rauschunterdrückung Kriterien. Hier finden Sie pre-train jede Schicht der Ihr Netzwerk individuell vor dem fine-tuning der gesamten Netzwerk. Pre-training 'Kräfte' Schichten aufzunehmen, wichtige Allgemeine Funktionen, die nützlich sind für die Rekonstruktion des Eingangssignals. Schauen Sie in die auto-Encoder zum Beispiel (habe Sie angewandt, um Bild-Klassifizierung in der Vergangenheit).
    5. Experiment mit Netzwerk-Architektur. Ihrem Netzwerk möglicherweise nicht über ausreichend Lernfähigkeit. Experimentieren Sie mit verschiedenen Arten von Neuronen, die Anzahl der Schichten und die Anzahl der versteckten Neuronen. Stellen Sie sicher, um zu versuchen, komprimieren Architekturen (weniger Neuronen als Eingänge) und sparse-Architekturen (mehr Neuronen als Eingänge).

    Leider ist der Prozess der Ausbildung Netzwerk, das verallgemeinert auch mit viel Experimentieren und fast brute-force-exploration des parameterraums mit ein bisschen menschlicher Aufsicht (du wirst sehen, viele Forschungsarbeiten mit Hilfe dieses Ansatzes). Es ist gut, zu versuchen 3-5 Werte für die einzelnen parameter und sehen, wenn es führt Sie irgendwo.

    Wenn Sie Experimentieren Grundstück Genauigkeit /Kosten /f1 als Funktion der Anzahl der Iterationen und sehen, wie es sich verhält. Oft werden Sie feststellen, ein Höhepunkt in der Genauigkeit für Ihr test-set, und nach, dass eine kontinuierliche drop. So sind neben guter Architektur, Regularisierung, Korruption usw. du bist auch auf der Suche nach einer guten Anzahl von Iterationen, das ergibt die besten Ergebnisse.

    One mehr Hinweis: stellen Sie sicher, dass jede Ausbildung Epochen, mischen Sie die Reihenfolge der Bilder.

    • Danke für die Antwort. Ich bin mit Gewicht Regularisierung mit 0.0001. Jetzt sollte ich umschulen, das Modell mit anderen Werten starten oder fortsetzen der Ausbildung mit einem Modell gespeichert, bei einigen Zeitalter mit geänderten Regularisierung Wert. Ich werde versuchen, einige Dinge und spielen mit einigen parameter-Werten auch ich werde zu erhöhen mein training Bilder.
    • Probieren Sie verschiedene Werte aus starten, nicht mit dem gespeicherten Modell. Und versuchen Sie auch größere Werte für die Regulation Koeffizient: 0.001, 0.01, 0.1.
    • Ich habe versucht mit 0.001, aber jetzt ist das Modell nicht konvergieren. Letzte 10 Epochen-Modell trianing und der Validierung der Genauigkeit und kommen zwischen 9-10% . Auch ich bin mit dropout in meinem neuronalen Netz-das ist die Art der Regularisierung .
    • Bitte beantworten Sie diese, wenn Sie wollen, stackoverflow.com/questions/44469083/training-accuracy-on-sgd
    InformationsquelleAutor krychu
  2. 2

    Dies deutlich sieht aus wie ein Fall, wo das Modell overfitting der Ausbildung festlegen, wie die Validierung der Genauigkeit-Verbesserung Schritt für Schritt, bis es behoben haben zu einem bestimmten Wert. Wenn die learning-rate war ein wenig mehr hoch, Sie würde haben landete er Bestätigung Genauigkeit abnimmt, mit Zunehmender Genauigkeit, die für die Ausbildung eingestellt.

    Erhöhung der Anzahl der training-set ist die beste Lösung für dieses problem. Sie könnten auch versuchen, die Anwendung verschiedener Transformationen (spiegeln, zuschneiden zufällige Teile von einem etwas größeren Bild), um das vorhandene Bild legen und sehen, ob das Modell das lernen besser.

    • Ich denke, mit hoher Lern-rate-training Genauigkeit zu verringern. Ich habe es bestätigt. Aber ja, es ist ein Fall von überanpassung und ich Frage mich nur, warum Ihr passiert, als ich ausgewählt habe, jedes Bild selbst und wenn es erkennen kann, ob eine Ausbildung Bild genau es sollte auch erkennen, Validierung Bild auch mit der Art der gleichen Genauigkeit. Training und Validierung Bilder sind sehr ähnlich.
    • Vorausgesetzt, training und Validierung der Bilder "sehr ähnlich" ist eine vage Idee, interpretting Dinge. Wie, um zu versuchen, halten Sie die exakt gleiche Ausbildung Bild für die Validierung? Nicht, dass die gleiche Genauigkeit wie die von der Ausbildung?
    InformationsquelleAutor Anoop K. Prabhu
Schreibe einen Kommentar