Hallucination
En hallucination i AI er, når en sprogmodel genererer tekst, der er faktuel forkert, opdigtet eller meningsløs, men som præsenteres med selvsikkerhed.
Kort fortalt
En hallucination er, når AI'en 'digter' noget, der lyder sandt, men er forkert.
- Kategori
- begreb
- Niveau
- begynder
- Udtale
- /həˌluːsɪˈneɪʃən/
Betydninger
1- 1
Fænomenet hvor en AI-model, typisk en sprogmodel, producerer output der er inkonsistent med træningsdataene eller faktuel virkelighed, men som fremstår plausibelt.
- ChatGPT hallucinerede en detaljeret men opdigtet artikel om en ikke-eksisterende historisk begivenhed. — Brugerrapport, 2023
- I RAG-systemer kan hallucinationer opstå, hvis modellen ignorerer den hentede kontekst og i stedet støtter sig til sin egen 'viden'.
Hvornår bruges det
Begrebet hallucination bruges især i forbindelse med store sprogmodeller, hvor modellen kan finde på fakta, citater eller referencer. Det er et centralt problem i applikationer, der kræver høj nøjagtighed, som medicinsk rådgivning eller juridisk analyse.
Oprindelse
Termen hallucination er lånt fra psykologien, hvor det betegner en sanseoplevelse uden ydre stimulus. I AI bruges det metaforisk om modellers tendens til at 'se' ting, der ikke er der.