Halluzination (KI)

Als Halluzination bezeichnet man eine von einem KI-Sprachmodell erzeugte Aussage, die zwar überzeugend und sprachlich korrekt wirkt, inhaltlich aber falsch, unbelegt oder vollständig erfunden ist. Das reicht von falschen Zahlen und Daten über erdachte Zitate bis hin zu nicht existierenden Quellen oder Studien.

Halluzinationen entstehen, weil Sprachmodelle Wahrscheinlichkeiten für die nächste Wortfolge berechnen, statt Fakten nachzuschlagen. Fehlt verlässliches Wissen oder ist die Anfrage unklar, füllt das Modell die Lücke mit einer plausibel klingenden Erfindung. Das macht sie tückisch, weil die Aussagen selbstsicher und glaubwürdig formuliert sind.

Verfahren wie Retrieval-Augmented Generation und Grounding sollen Halluzinationen verringern, indem sie Antworten an überprüfbare Quellen binden. Für die KI-Suche ergibt sich daraus ein Hebel: gut strukturierte, eindeutige und faktentreue Inhalte mit klaren Belegen senken das Risiko, dass ein Modell ein Thema falsch wiedergibt, und erhöhen die Chance, korrekt zitiert zu werden.