Halluzination

Ein Sprachmodell erzeugt plausiblen Text, keine geprüften Fakten. Dabei können falsche Aussagen, erfundene Quellen oder falsch zugeordnete Zitate entstehen, selbstsicher formuliert. Das US-Institut NIST spricht von Konfabulation.

RAG und Quellenbelege senken das Risiko, beseitigen es aber nicht. In einer Vergleichsstudie versuchte ein KI-Assistent auch bei unpassenden Treffern zu antworten und zwängte die Quellen ins Thema. Für Bibliotheken ist das heikel, weil Nutzer ihnen besonders vertrauen. Hinweise auf mögliche Fehler und ein leichter Weg zur Originalquelle gehören deshalb zur Gestaltung.

Weiterlesen

• NIST AI 600-1: Generative AI Profile (PDF)
• Ji u. a. (2022): Survey of Hallucination in Natural Language Generation
• Galbreath u. a. (2025): AI-Infused Discovery Environments (ITAL)