Blackbox
KI-System, dessen interne Entscheidungslogik nicht nachvollziehbar ist, wodurch Empfehlungen schwer prüf- und korrigierbar werden.
Beispiel
Ein tiefes neuronales Netz lehnt einen Kreditantrag ab, ohne dass die Sachbearbeiterin die konkreten Gründe der Entscheidung nachvollziehen kann.