Von einer Halluzination spricht man, wenn ein KI-Modell Informationen erfindet und sie überzeugend als Fakt präsentiert. Das Modell erfindet dann etwa Zitate, Quellen, Zahlen oder Ereignisse, die es gar nicht gibt – und formuliert sie oft so selbstsicher wie eine korrekte Antwort.
Der Grund liegt in der Funktionsweise: Sprachmodelle sagen das jeweils wahrscheinlichste nächste Wort voraus, sie haben kein echtes Verständnis von «wahr» oder «falsch». Klingt eine erfundene Aussage sprachlich plausibel, gibt das Modell sie trotzdem aus. Für dich heisst das: Faktische Angaben aus einer KI solltest du bei wichtigen Entscheidungen immer gegenprüfen. Techniken wie RAG oder das Angeben von Quellen können Halluzinationen reduzieren, aber nicht vollständig ausschliessen.