Halluzination
TL;DR
Wenn KI überzeugend klingende, aber falsche Informationen generiert.
Was bedeutet das?
Eine Halluzination tritt auf, wenn ein KI-Modell Fakten erfindet, die plausibel klingen, aber nicht stimmen. Das passiert, weil das Modell auf Wahrscheinlichkeiten basiert – nicht auf Wahrheit.
So funktioniert es
LLMs generieren immer die „wahrscheinlichste Fortsetzung”. Wenn das Modell keine echte Antwort kennt, füllt es die Lücke mit plausibel klingendem Text – ohne zu wissen, dass er falsch ist.
Beispiel
Ein Chatbot erfindet eine Paragraphennummer in einem Gesetz, die gar nicht existiert, oder zitiert ein nicht existierendes Forschungspapier.
Warum es wichtig ist
Halluzinationen sind das größte Vertrauensrisiko beim KI-Einsatz. Gegenmaßnahmen wie Grounding und RAG sind daher essentiell.
Verwandte Begriffe