hallucinationstendens
Hallucinationstendens betegner en sprogmodels tilbøjelighed til at generere falsk, men plausibelt klingende information.
Kort fortalt
Kort fortalt: Hallucinationstendens er, når en AI finder på ting, der lyder sandt, men ikke er det.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- [halusinaˈʃonsˌtendens]
Betydninger
1- 1
En sprogmodels tilbøjelighed til at generere overbevisende, men faktuel ukorrekt tekst.
- Modelens hallucinationstendens gjorde, at den opdigtede kilder i sit svar.
- Forskere arbejder på at reducere hallucinationstendens gennem bedre træningsdata.
Hvornår bruges det
Begrebet bruges især til at beskrive en svaghed ved store sprogmodeller og til at evaluere modellers pålidelighed. Det anvendes ofte i diskussioner om model-evaluering og risikostyring.
Oprindelse
Sammensat af 'hallucination' (fra latin 'hallucinari' = at drømme, vildfarelse) og 'tendens' (fra latin 'tendere' = at stræbe efter).
Kilder
2- Survey of Hallucination in Natural Language Generation
- TruthfulQA: Measuring How Models Mimic Human Falsehoods