Halluzination

Eine Halluzination in der Künstlichen Intelligenz tritt auf, wenn ein KI-System etwas generiert, das plausibel klingt, aber nicht auf Fakten basiert oder schlichtweg falsch ist. Beispiele: Ein

Chatbot behauptet, die Erde habe 10 Monde; eine generative KI erstellt ein Bild mit einer Person mit drei Händen.

Ursachen: fehlerhafte oder unvollständige Trainingsdaten, probabilistische Textgenerierung (das Modell wählt das wahrscheinlichste nächste Wort, nicht das korrekteste), fehlende Faktenbindung, kein Echtzeitwissen. KI-Modelle haben kein Bewusstsein für Wahrheit.

Risiken: fehlerhafte medizinische oder rechtliche Informationen, falsche Faktendarstellung in der Öffentlichkeit, Vertrauensverlust. Gegenmaßnahmen: RAG (Retrieval Augmented Generation), bessere Trainingsdaten, RLHF, Fact-Checking-Systeme, Nutzeraufklärung.