Generalisierung

Generalisierung ist das eigentliche Ziel des maschinellen Lernens: Ein Modell soll aus Beispielen eine Regel lernen, die auch für neue Fälle gilt, statt die Beispiele auswendig zu lernen. Ob das gelungen ist, zeigt sich nur auf Daten, die im Training nicht vorkamen, etwa Validierungs- oder Testdaten.

Generalisierung liegt zwischen zwei Fehlern: Beim Underfitting ist das Modell zu grob und liegt schon auf den Trainingsdaten daneben. Beim Overfitting ist es zu fein, lernt Zufälligkeiten mit und wird auf neuen Daten deutlich schlechter. Ein gut generalisierendes Modell erzielt im Training und auf neuen Daten ähnlich gute Ergebnisse.

Erkennen lässt sich das nur mit zwei Zahlen: dem Ergebnis auf den Trainingsdaten und dem auf Validierungsdaten. Ist der Abstand klein und sind beide Werte gut, generalisiert das Modell. Hilfreich sind ausreichend und vielfältige Daten, eine passende Modellkomplexität, Regularisierung und Kreuzvalidierung.