RAG & LLM Engineering
Wie erkennt und misst man Halluzinationen in LLM-Antworten?
Halluzinationen sind kein Randfall, sondern ein strukturelles Merkmal von Sprachmodellen — die Frage ist nicht, ob sie auftreten, sondern wie zuverlässig ein System sie erkennt, bevor sie beim Nutzer ankommen.
Nextise Wissen · · 6 Minuten Lesezeit
Direkte Antwort
Halluzinationen lassen sich systematisch erkennen, indem jede Aussage einer Antwort gegen die tatsächlich abgerufenen Quellen geprüft wird (Faithfulness-Check), Zitationspflicht mit prüfbaren Quellenverweisen erzwungen wird, und ein Teil der Antworten stichprobenartig durch ein zweites Modell oder Menschen gegengeprüft wird, statt sich auf das subjektive Gefühl "klingt plausibel" zu verlassen.
Eine Halluzination klingt in der Regel genauso selbstsicher wie eine korrekte Antwort — Selbstsicherheit ist deshalb kein brauchbares Erkennungsmerkmal.
Warum Halluzinationen technisch entstehen
Ein LLM generiert Text token-für-token nach Wahrscheinlichkeit, nicht nach einer internen Datenbankabfrage von Fakten. Fehlt relevantes Wissen im Trainingskorpus oder im bereitgestellten Kontext, füllt das Modell die Lücke mit dem statistisch plausibelsten Text — der faktisch falsch sein kann, ohne dass sich das sprachlich bemerkbar macht.
Das gilt besonders bei Fragen zu wenig repräsentierten Themen, bei Zahlen und Daten sowie bei Fragen nach Dingen, die es schlicht nicht gibt, etwa erfundenen Funktionsnamen in einer API.
Faithfulness-Checks als Kernmechanismus
Bei RAG-Systemen lässt sich jede Aussage der generierten Antwort automatisiert gegen den tatsächlich abgerufenen Kontext prüfen — stimmt die Aussage mit einer Textstelle im Kontext überein, gilt sie als "grounded", andernfalls als potenzielle Halluzination.
Diese Prüfung läuft meist durch ein zweites LLM als Judge, was selbst fehleranfällig ist, aber in der Praxis deutlich mehr Fälle abfängt als gar keine automatisierte Prüfung.
Zitationspflicht und menschliche Stichproben als zweite Verteidigungslinie
Wird jede Antwort verpflichtet, konkrete Quellenverweise zu liefern, die sich gegen das Originaldokument prüfen lassen, wird eine Halluzination für den Nutzer selbst erkennbar, statt sich hinter einer selbstbewussten Formulierung zu verstecken.
Bei geschäftskritischen Anwendungen bleibt zusätzlich eine stichprobenartige menschliche Prüfung nötig, weil automatisierte Checks bestimmte, subtile Fehlerarten regelmäßig übersehen.
Wann passt es — wann nicht?
Passt gut, wenn …
- Die Anwendung liefert Fakten, Zahlen oder Zitate, die überprüfbar sein müssen
- Falsche Antworten haben spürbare geschäftliche oder rechtliche Konsequenzen
Ein anderer Ansatz ist nötig, wenn …
- Die Anwendung dient rein kreativem Brainstorming ohne Faktenanspruch
Wissen allein reicht nicht — wir zeigen, wie es im Betrieb funktioniert.
Unsere Seminare verbinden die Konzepte aus dem Wissen-Hub mit konkreter Praxis. Ihr Team lernt direkt an eigenen Aufgaben — praxisnah, kompakt, sofort anwendbar.
Schulungen entdeckenLassen Sie uns über Ihr nächstes Training sprechen.
Unser Team steht Ihnen rund um die Uhr zur Verfügung und freut sich auf Ihre Anfrage. Einfach anrufen oder eine Nachricht hinterlassen – wir kümmern uns schnellstmöglich um Ihre Anfrage, ob es um eine Schulung, einen Vortrag oder eine Präsentation geht. Jetzt loslegen!
Selina Schmid
Leiterin Kodschul