Overfitting
Overfitting tritt auf, wenn ein ML-Modell die Trainingsdaten so gut anpasst (einschließlich Rauschen und irrelevanter Details), dass es auf neuen, unbekannten Daten schlecht generalisiert. Symptome: sehr niedriger Trainingsfehler, hoher Test- / Validierungsfehler.
Ursachen: zu komplexes Modell (zu viele Parameter), unzureichende Trainingsdaten, Rauschen in den Daten, zu langes Training. Erkennung: Vergleich Trainings- vs. Validierungsfehler, Lernkurvenanalyse, Kreuzvalidierung.
Gegenmaßnahmen: Regularisierung (L1/L2, Dropout), Early Stopping, Data Augmentation, Vereinfachung des Modells, Kreuzvalidierung. Overfitting ist eines der häufigsten Probleme beim Training von KI-Modellen und das Gegenteil von Underfitting.
Beispiel
Ein Kreditscoring-Modell erkennt in den Trainingsdaten perfekt alle Fälle, macht aber bei neuen Antragstellern viele Fehler, weil es Zufälligkeiten auswendig gelernt hat.