Was ist Zug-Verlust, Gilt der Verlust und die Zug/Val Mittelwert in NNs
Ich bin derzeit lernen über Convolutional Neural Networks durch das Studium Beispiele wie die MNIST Beispiele. Während des Trainings eines neuronalen Netzes, ich sehe Häufig, Ausgabe:
Epoch | Train loss | Valid loss | Train /Val
-------- | -------------- | -------------- | ---------------
50 | 0.004756 | 0.007043 | 0.675330
100 | 0.004440 | 0.005321 | 0.834432
250 | 0.003974 | 0.003928 | 1.011598
500 | 0.002574 | 0.002347 | 1.096366
1000 | 0.001861 | 0.001613 | 1.153796
1500 | 0.001558 | 0.001372 | 1.135849
2000 | 0.001409 | 0.001230 | 1.144821
2500 | 0.001295 | 0.001146 | 1.130188
3000 | 0.001195 | 0.001087 | 1.099271
Neben den Epochen, kann mir jemand eine Erklärung, was genau stellt jede Spalte und was bedeuten die Werte? Ich sehe eine Menge von tutorials auf grundlegende cnn, aber ich habe nicht eine, die erklärt, im detail.
Du musst angemeldet sein, um einen Kommentar abzugeben.
Scheint es, dass ein held-out-Menge von Daten verwendet wird, zusätzlich zum Training im Netzwerk. Ausbildung Verlust ist der Fehler auf der trainingsmenge von Daten. Validierung Verlust ist der Fehler nach dem ausführen der überprüfung einen Satz von Daten durch das ausgebildete Netzwerk. Zug/gilt, ist das Verhältnis zwischen den beiden.
Unerwartet, wie die Epochen Anstieg sowohl der Validierung und training Fehler ablegen. An einem bestimmten Punkt, während die Ausbildung der Fehler weiterhin rückläufig ist (das Netzwerk lernt, die Daten besser und besser) den Validierungsfehler zu steigen beginnt-das ist
overfitting
!