Das Wichtigste in Kürze
- Eine Halluzination ist eine plausibel klingende, aber falsche oder unbelegte KI-Aussage.
- Sie entsteht, weil Sprachmodelle wahrscheinliche Formulierungen erzeugen, nicht geprüftes Wissen.
- Eigene Quellen, klare Prompts und Quellenangaben senken das Risiko.
- Bei wichtigen Inhalten bleibt die menschliche Prüfung Pflicht.
Inhalt
Was ist eine KI-Halluzination?
Von einer Halluzination spricht man, wenn ein KI-Modell eine Aussage erzeugt, die plausibel klingt, aber falsch ist oder sich nicht belegen lässt. Beispiele sind erfundene Zahlen, nicht existierende Gesetzesparagrafen, falsch zugeordnete Zitate oder Quellenangaben, die es gar nicht gibt.
Das Tückische: Halluzinationen sind sprachlich nicht von korrekten Antworten zu unterscheiden. Das Modell formuliert sie mit derselben Sicherheit. Die OWASP-Liste der wichtigsten Risiken für LLM-Anwendungen führt Fehlinformationen deshalb ausdrücklich als eigenes Risiko auf.
Warum Sprachmodelle halluzinieren
Ein großes Sprachmodell erzeugt Text, indem es Schritt für Schritt wahrscheinliche Fortsetzungen berechnet. Es schlägt nicht in einer geprüften Datenbank nach. Ein Überblicksartikel der Forschung zu Halluzinationen nennt als Ursachen unter anderem:
- Lücken und Fehler in den Trainingsdaten: Was das Modell nie oder falsch gelernt hat, kann es nicht korrekt wiedergeben.
- Veraltetes Wissen: Das Modell kennt nur den Stand seiner Trainingsdaten.
- Die Art der Texterzeugung: Das Modell ist darauf trainiert, flüssige Antworten zu liefern – auch dann, wenn es eigentlich „nicht weiß“.
- Unklare Anfragen: Fehlt Kontext, füllt das Modell die Lücken mit Vermutungen.
Wie Sprachmodelle grundsätzlich arbeiten, erklärt der Beitrag Was ist ein LLM?.
Wo das Risiko besonders hoch ist
- exakte Zahlen, Daten, Preise und Statistiken
- Quellenangaben, Zitate und Literaturverweise
- Rechtsvorschriften, Urteile und Normen
- seltene Fachthemen und Nischenwissen
- aktuelle Ereignisse nach dem Trainingsstand des Modells
- Aussagen über konkrete Personen oder Unternehmen
Sieben Wege, Halluzinationen zu reduzieren
- Eigene Quellen mitgeben: Lassen Sie die KI mit Ihren Dokumenten arbeiten, statt aus dem Gedächtnis zu antworten. Dieses Verfahren heißt Retrieval-Augmented Generation, siehe RAG: KI mit Unternehmenswissen.
- Quellenangaben verlangen: Bitten Sie um Belege mit Fundstelle – und prüfen Sie, ob die Quelle existiert und die Aussage wirklich stützt.
- Präzise fragen: Je klarer Aufgabe und Kontext, desto weniger muss das Modell raten. Mehr im Beitrag Was ist ein Prompt?.
- Unsicherheit erlauben: Schreiben Sie in den Prompt: „Wenn du etwas nicht sicher weißt, sag es.“
- Aufgaben aufteilen: Lassen Sie komplexe Fragen in Schritten bearbeiten und prüfen Sie die Zwischenergebnisse.
- Passendes Werkzeug wählen: Für aktuelle Informationen eignet sich eine KI mit Websuche besser als ein Modell, das nur aus seinem Training antwortet.
- Menschliche Prüfung festlegen: Definieren Sie, welche Inhalte vor der Verwendung fachlich geprüft werden müssen.
Eine einfache Prüfregel für Ihr Team
Legen Sie in Ihrer KI-Richtlinie fest, wann geprüft wird. Eine praxistaugliche Faustregel lautet: Je größer die Folgen eines Fehlers, desto gründlicher die Prüfung.
| Einsatz | Prüfung |
|---|---|
| Ideen, Gliederungen, interne Entwürfe | Plausibilität durch die nutzende Person |
| Texte an Kunden und Partner | Fakten, Zahlen und Zusagen prüfen |
| Verträge, Recht, Finanzen, Gesundheit | Fachliche Prüfung durch zuständige Person |
Eine Vorlage für solche Regeln finden Sie im Beitrag KI-Richtlinie für Unternehmen.
Halluzinationen und KI-Kompetenz
Seit Februar 2025 verlangt Artikel 4 des EU AI Act Maßnahmen, damit Mitarbeitende KI kompetent nutzen. Die EU-Kommission nennt dabei ausdrücklich das Wissen um Risiken wie Halluzinationen für alle, die Chatbots verwenden. Eine kurze Schulung mit Beispielen aus dem eigenen Arbeitsalltag ist dafür ein guter Anfang.
Häufige Fragen
Kann man Halluzinationen komplett verhindern?
Nein. Nach heutigem Forschungsstand lassen sie sich deutlich reduzieren, aber nicht vollständig ausschließen. Deshalb gehören Prüfschritte zu jedem Einsatz, bei dem Fehler Folgen haben.
Sind neuere Modelle zuverlässiger?
Oft ja, aber nicht fehlerfrei. Auch leistungsfähige Modelle halluzinieren, insbesondere bei seltenen Themen, exakten Zahlen und Quellenangaben.
Hilft es, die KI zu fragen, ob ihre Antwort stimmt?
Nur begrenzt. Eine Selbstprüfung kann Fehler aufdecken, ist aber kein Beleg. Verlässlicher ist der Abgleich mit einer unabhängigen Quelle.
Müssen Mitarbeitende über Halluzinationen informiert werden?
Die EU-Kommission empfiehlt im Rahmen der KI-Kompetenz nach Artikel 4 des EU AI Act, dass Mitarbeitende, die Chatbots nutzen, über Risiken wie Halluzinationen Bescheid wissen.
Quellen
- A Survey on Hallucination in Large Language Models (Huang et al., ACM TOIS) arXiv
- OWASP Top 10 for LLM Applications 2025 OWASP Foundation
- Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden Bundesamt für Sicherheit in der Informationstechnik (BSI)
- AI Literacy – Questions & Answers Europäische Kommission
Erstellt von der Lurus Redaktion nach unserem Quellenstandard. Redaktionsrichtlinie