Recht & RegulatorikBuchstabe E

Erklärbare KI

Ansätze, die Entscheidungen von KI-Systemen nachvollziehbar und für Menschen verständlich machen.

Erklärbare KI (Explainable AI, XAI) bezeichnet Technologien und Methoden, die die Funktionsweise von KI-Systemen transparent machen. Ziel ist es, Entscheidungsprozesse so darzustellen, dass Menschen sie verstehen können. Beispiel: Ein KI-Kreditsystem erklärt, warum ein Antrag abgelehnt wurde.

Methoden: Modellinterpretation, Feature-Wichtigkeit (welche Eingaben waren entscheidend), lokale Erklärungen (für einzelne Fälle), Visualisierungen (Diagramme, Heatmaps), Post-hoc-Analyse. Bekannte Methoden: LIME, SHAP.

Warum wichtig: Vertrauen stärken, Verantwortung und Haftung klären, ethische Entscheidungen fördern, gesetzliche Vorgaben einhalten (besonders relevant für EU AI Act). XAI ist eine Kernforderung verantwortungsvoller KI-Entwicklung.

Beispiel

Ein Kreditinstitut nutzt erklärbare KI, um jedem abgelehnten Antragsteller die ausschlaggebenden Faktoren der Entscheidung zu nennen.

Synonyme

Erklärbare KI (Explainable AI)Explainable AIXAIErklaerbare KIerklärbare künstliche Intelligenz

Erklärbare KI

Beispiel

Synonyme

Verwandte Begriffe