Halluzination

Halluzinationen entstehen, weil LLMs Wahrscheinlichkeiten für Wortfolgen berechnen, ohne echtes Faktenwissen zu besitzen. Sie können überzeugende, aber falsche Aussagen generieren. Gegenmassnahmen sind Retrieval-Augmented Generation (RAG), Quellenverweise und menschliche Überprüfung.