Bias (Verzerrung)
Bias in der KI bezeichnet systematische Verzerrungen in Algorithmen, die bestimmte Gruppen oder Ergebnisse bevorzugen oder benachteiligen. Arten: Datenbias (Verzerrungen in Trainingsdaten), algorithmischer Bias (durch die Modellstruktur), Interaktionsbias (durch Nutzerverhalten).
Ursachen: unrepräsentative Trainingsdaten, historische Vorurteile in Daten, fehlerhafte Datenannotation, algorithmisches Design und Nutzerinteraktionen. Bekanntes Beispiel: Gesichtserkennungssoftware, die bei dunkleren Hauttönen schlechter funktioniert.
Warum Bias problematisch ist: Diskriminierung (z. B. in Kreditvergabe, Personalauswahl), Vertrauensverlust, rechtliche Risiken und ethische Bedenken. Gegenmaßnahmen: diverse Trainingsdaten, Bias-Tests, regelmäßige Audits und transparente Modellentwicklung.
Beispiel
Ein KI-Modell zur Kreditvergabe lehnt überdurchschnittlich viele Anträge aus einem bestimmten Stadtteil ab, weil die historischen Trainingsdaten diese Gruppe benachteiligt haben.