Zum Inhalt springen

Grundlagen

KI-Halluzinationen: Ursachen erkennen und vermeiden

KI-Modelle können Fakten, Zahlen und Quellen erfinden – und klingen dabei völlig überzeugt. Das nennt man Halluzination. Ganz verhindern lässt sie sich nicht, aber mit den richtigen Methoden deutlich seltener machen und sicher abfangen.

Lurus Redaktion Veröffentlicht Geprüft 3 Min. Lesezeit
Gemalte Szene: Ein aufgeschlagenes Notizbuch mit Skizzen am Fenster mit Seeblick.

Das Wichtigste in Kürze

  • Eine Halluzination ist eine plausibel klingende, aber falsche oder unbelegte KI-Aussage.
  • Sie entsteht, weil Sprachmodelle wahrscheinliche Formulierungen erzeugen, nicht geprüftes Wissen.
  • Eigene Quellen, klare Prompts und Quellenangaben senken das Risiko.
  • Bei wichtigen Inhalten bleibt die menschliche Prüfung Pflicht.
Inhalt
  1. Was ist eine KI-Halluzination?
  2. Warum Sprachmodelle halluzinieren
  3. Wo das Risiko besonders hoch ist
  4. Sieben Wege, Halluzinationen zu reduzieren
  5. Eine einfache Prüfregel für Ihr Team
  6. Halluzinationen und KI-Kompetenz

Was ist eine KI-Halluzination?

Von einer Halluzination spricht man, wenn ein KI-Modell eine Aussage erzeugt, die plausibel klingt, aber falsch ist oder sich nicht belegen lässt. Beispiele sind erfundene Zahlen, nicht existierende Gesetzesparagrafen, falsch zugeordnete Zitate oder Quellenangaben, die es gar nicht gibt.

Das Tückische: Halluzinationen sind sprachlich nicht von korrekten Antworten zu unterscheiden. Das Modell formuliert sie mit derselben Sicherheit. Die OWASP-Liste der wichtigsten Risiken für LLM-Anwendungen führt Fehlinformationen deshalb ausdrücklich als eigenes Risiko auf.

Warum Sprachmodelle halluzinieren

Ein großes Sprachmodell erzeugt Text, indem es Schritt für Schritt wahrscheinliche Fortsetzungen berechnet. Es schlägt nicht in einer geprüften Datenbank nach. Ein Überblicksartikel der Forschung zu Halluzinationen nennt als Ursachen unter anderem:

  • Lücken und Fehler in den Trainingsdaten: Was das Modell nie oder falsch gelernt hat, kann es nicht korrekt wiedergeben.
  • Veraltetes Wissen: Das Modell kennt nur den Stand seiner Trainingsdaten.
  • Die Art der Texterzeugung: Das Modell ist darauf trainiert, flüssige Antworten zu liefern – auch dann, wenn es eigentlich „nicht weiß“.
  • Unklare Anfragen: Fehlt Kontext, füllt das Modell die Lücken mit Vermutungen.

Wie Sprachmodelle grundsätzlich arbeiten, erklärt der Beitrag Was ist ein LLM?.

Wo das Risiko besonders hoch ist

  • exakte Zahlen, Daten, Preise und Statistiken
  • Quellenangaben, Zitate und Literaturverweise
  • Rechtsvorschriften, Urteile und Normen
  • seltene Fachthemen und Nischenwissen
  • aktuelle Ereignisse nach dem Trainingsstand des Modells
  • Aussagen über konkrete Personen oder Unternehmen

Sieben Wege, Halluzinationen zu reduzieren

  1. Eigene Quellen mitgeben: Lassen Sie die KI mit Ihren Dokumenten arbeiten, statt aus dem Gedächtnis zu antworten. Dieses Verfahren heißt Retrieval-Augmented Generation, siehe RAG: KI mit Unternehmenswissen.
  2. Quellenangaben verlangen: Bitten Sie um Belege mit Fundstelle – und prüfen Sie, ob die Quelle existiert und die Aussage wirklich stützt.
  3. Präzise fragen: Je klarer Aufgabe und Kontext, desto weniger muss das Modell raten. Mehr im Beitrag Was ist ein Prompt?.
  4. Unsicherheit erlauben: Schreiben Sie in den Prompt: „Wenn du etwas nicht sicher weißt, sag es.“
  5. Aufgaben aufteilen: Lassen Sie komplexe Fragen in Schritten bearbeiten und prüfen Sie die Zwischenergebnisse.
  6. Passendes Werkzeug wählen: Für aktuelle Informationen eignet sich eine KI mit Websuche besser als ein Modell, das nur aus seinem Training antwortet.
  7. Menschliche Prüfung festlegen: Definieren Sie, welche Inhalte vor der Verwendung fachlich geprüft werden müssen.

Eine einfache Prüfregel für Ihr Team

Legen Sie in Ihrer KI-Richtlinie fest, wann geprüft wird. Eine praxistaugliche Faustregel lautet: Je größer die Folgen eines Fehlers, desto gründlicher die Prüfung.

EinsatzPrüfung
Ideen, Gliederungen, interne EntwürfePlausibilität durch die nutzende Person
Texte an Kunden und PartnerFakten, Zahlen und Zusagen prüfen
Verträge, Recht, Finanzen, GesundheitFachliche Prüfung durch zuständige Person

Eine Vorlage für solche Regeln finden Sie im Beitrag KI-Richtlinie für Unternehmen.

Halluzinationen und KI-Kompetenz

Seit Februar 2025 verlangt Artikel 4 des EU AI Act Maßnahmen, damit Mitarbeitende KI kompetent nutzen. Die EU-Kommission nennt dabei ausdrücklich das Wissen um Risiken wie Halluzinationen für alle, die Chatbots verwenden. Eine kurze Schulung mit Beispielen aus dem eigenen Arbeitsalltag ist dafür ein guter Anfang.

Häufige Fragen

Kann man Halluzinationen komplett verhindern?

Nein. Nach heutigem Forschungsstand lassen sie sich deutlich reduzieren, aber nicht vollständig ausschließen. Deshalb gehören Prüfschritte zu jedem Einsatz, bei dem Fehler Folgen haben.

Sind neuere Modelle zuverlässiger?

Oft ja, aber nicht fehlerfrei. Auch leistungsfähige Modelle halluzinieren, insbesondere bei seltenen Themen, exakten Zahlen und Quellenangaben.

Hilft es, die KI zu fragen, ob ihre Antwort stimmt?

Nur begrenzt. Eine Selbstprüfung kann Fehler aufdecken, ist aber kein Beleg. Verlässlicher ist der Abgleich mit einer unabhängigen Quelle.

Müssen Mitarbeitende über Halluzinationen informiert werden?

Die EU-Kommission empfiehlt im Rahmen der KI-Kompetenz nach Artikel 4 des EU AI Act, dass Mitarbeitende, die Chatbots nutzen, über Risiken wie Halluzinationen Bescheid wissen.

Quellen

  1. A Survey on Hallucination in Large Language Models (Huang et al., ACM TOIS) arXiv
  2. OWASP Top 10 for LLM Applications 2025 OWASP Foundation
  3. Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden Bundesamt für Sicherheit in der Informationstechnik (BSI)
  4. AI Literacy – Questions & Answers Europäische Kommission

Erstellt von der Lurus Redaktion nach unserem Quellenstandard. Redaktionsrichtlinie

Kostenlose Erstberatung

Ihr KI-Start, gemeinsam geplant.

Zeigen Sie uns Ihre Aufgaben. Wir besprechen Datenwege, Regeln und den passenden Einstieg für Ihr Team – ohne Feature-Tour.

Die Erstberatung ist kostenlos. Eine Telefonnummer ist nicht erforderlich.