Halluzination (KI)
Auch: KI-Halluzination, Halluzinationsrate, Konfabulation
Eine Halluzination ist eine Aussage einer KI, die überzeugend klingt, aber falsch oder frei erfunden ist, zum Beispiel ein nicht existierendes Zitat, eine falsche Zahl oder eine erfundene Quelle.
Wie Halluzinationen entstehen
Sprachmodelle erzeugen Texte, indem sie die wahrscheinlich passende Fortsetzung berechnen. Sie prüfen dabei nicht automatisch, ob eine Aussage stimmt. Fehlen Informationen oder sind sie widersprüchlich, kann das Modell plausibel klingende, aber falsche Inhalte erzeugen.
Typische Beispiele
- Erfundene Quellen oder Studien
- Falsche Zahlen, Preise oder Daten
- Zitate, die die genannte Person nie gesagt hat
- Veraltete Informationen, die als aktuell dargestellt werden
- Falsche Angaben zu Unternehmen, etwa Leistungen oder Standorte
Was hilft gegen Halluzinationen?
- Quellen prüfen: Antworten mit Quellenangaben lassen sich nachvollziehen.
- Websuche nutzen: Verfahren wie RAG stützen Antworten auf abgerufene Dokumente.
- Präzise fragen: Klare Prompts mit Kontext verringern Spielraum für Fehler.
Halluzinationen über Ihre Marke
KI-Systeme können auch über Unternehmen Falsches behaupten. Das beste Gegenmittel sind klare, aktuelle und überall einheitliche Angaben auf der eigenen Website und in Profilen sowie Erwähnungen auf vertrauenswürdigen Seiten. Ob KIs Ihre Marke korrekt beschreiben, zeigt das Monitoring der Markenerwähnungen.
Wie häufig halluzinieren KI-Modelle?
Das Unternehmen Vectara misst die Halluzinationsrate in einem öffentlichen Vergleich: Modelle fassen über 7.700 Artikel zusammen, und ein Prüfmodell bewertet, ob die Zusammenfassung Aussagen enthält, die nicht im Text stehen. Im November 2025 reichten die Werte von rund 3,3 % beim besten Modell bis über 10 % bei mehreren bekannten Reasoning-Modellen. Die Werte gelten nur für diese Aufgabe, zeigen aber: Auch starke Modelle erfinden regelmäßig Details.
Was Sie tun können, wenn eine KI Falsches über Ihr Unternehmen behauptet, zeigt der Artikel Falsche KI-Aussagen korrigieren.
Häufige Fragen
Warum halluziniert ChatGPT?
Weil Sprachmodelle wahrscheinliche Wortfolgen erzeugen und nicht automatisch die Wahrheit prüfen. Fehlen passende Informationen, kann eine plausibel klingende, aber falsche Antwort entstehen.