Wie erkennt und misst man Halluzinationen in LLM-Antworten?
Direkte Antwort
Halluzinationen lassen sich systematisch erkennen, indem jede Aussage einer Antwort gegen die tatsächlich abgerufenen Quellen geprüft wird (Faithfulness-Check), Zitationspflicht mit prüfbaren Quellenverweisen erzwungen wird, und ein Teil der Antworten stichprobenartig durch ein zweites Modell oder Menschen gegengeprüft wird, statt sich auf das subjektive Gefühl "klingt plausibel" zu verlassen.
"Eine Halluzination klingt in der Regel genauso selbstsicher wie eine korrekte Antwort — Selbstsicherheit ist deshalb kein brauchbares Erkennungsmerkmal.
Halluzinationen sind kein Randfall, sondern ein strukturelles Merkmal von Sprachmodellen — die Frage ist nicht, ob sie auftreten, sondern wie zuverlässig ein System sie erkennt, bevor sie beim Nutzer ankommen.
Warum Halluzinationen technisch entstehen
Ein LLM generiert Text token-für-token nach Wahrscheinlichkeit, nicht nach einer internen Datenbankabfrage von Fakten. Fehlt relevantes Wissen im Trainingskorpus oder im bereitgestellten Kontext, füllt das Modell die Lücke mit dem statistisch plausibelsten Text — der faktisch falsch sein kann, ohne dass sich das sprachlich bemerkbar macht.
Das gilt besonders bei Fragen zu wenig repräsentierten Themen, bei Zahlen und Daten sowie bei Fragen nach Dingen, die es schlicht nicht gibt, etwa erfundenen Funktionsnamen in einer API.
Faithfulness-Checks als Kernmechanismus
Bei RAG-Systemen lässt sich jede Aussage der generierten Antwort automatisiert gegen den tatsächlich abgerufenen Kontext prüfen — stimmt die Aussage mit einer Textstelle im Kontext überein, gilt sie als "grounded", andernfalls als potenzielle Halluzination.
Diese Prüfung läuft meist durch ein zweites LLM als Judge, was selbst fehleranfällig ist, aber in der Praxis deutlich mehr Fälle abfängt als gar keine automatisierte Prüfung.
Zitationspflicht und menschliche Stichproben als zweite Verteidigungslinie
Wird jede Antwort verpflichtet, konkrete Quellenverweise zu liefern, die sich gegen das Originaldokument prüfen lassen, wird eine Halluzination für den Nutzer selbst erkennbar, statt sich hinter einer selbstbewussten Formulierung zu verstecken.
Bei geschäftskritischen Anwendungen bleibt zusätzlich eine stichprobenartige menschliche Prüfung nötig, weil automatisierte Checks bestimmte, subtile Fehlerarten regelmäßig übersehen.
Wann passt es — wann nicht?
Passt gut
- ✓Die Anwendung liefert Fakten, Zahlen oder Zitate, die überprüfbar sein müssen
- ✓Falsche Antworten haben spürbare geschäftliche oder rechtliche Konsequenzen
Passt nicht
- ✗Die Anwendung dient rein kreativem Brainstorming ohne Faktenanspruch