Hyperparameter

Hyperparameter sind vordefinierte Konfigurationsvariablen, die das Verhalten eines KI-Modells bestimmen und nicht während des Trainings, sondern vorab festgelegt werden.

Unterschied zu Modellparametern (die beim Training gelernt werden): Hyperparameter steuern den Lernprozess selbst.

Arten: Modellarchitektur-Hyperparameter (Anzahl Schichten, Neuronen), Optimierungsparameter (Lernrate, Batchgröße), Regularisierungshyperparameter (Dropout-Rate, L1/L2). Falsch gewählte Hyperparameter führen zu Overfitting, Underfitting oder ineffizientem Training.

Optimierungsstrategien: manuelle Anpassung (Trial-and-Error), Grid Search (systematisch alle Kombinationen), Random Search (zufällige Kombinationen), Bayessche Optimierung (probabilistisches Modell für die Suche). Hyperparameter-Tuning ist ein wichtiger Schritt in der KI-Entwicklung.