hallucinere

At hallucinere er når en AI-model producerer falsk eller meningsløs information, der præsenteres som fakta.

Kort fortalt

At hallucinere betyder, at en AI finder på ting, der ikke passer.

Kategori
begreb
Niveau
begynder
Udtale
/halusiˈneːʌ/

Betydninger

1
  1. 1

    Om en kunstig intelligens, især en sprogmodel: at generere indhold der er faktuelt forkert, usammenhængende eller opdigtet, ofte med selvsikker præsentation.

    • Modellen hallucinerede og opdigtede en hel række referencer.
    • Det er svært at forhindre store sprogmodeller i at hallucinere.

Hvornår bruges det

Begrebet bruges især om sprogmodeller, der genererer plausible, men ukorrekte svar. Det kan være farligt i kritiske applikationer som sundhed eller jura.

Oprindelse

Fra engelsk 'hallucinate' via latin 'hallucinari' (drømme, fantasere). Oprindeligt om menneskelige hallucinationer. Overført til AI af forskere i 2010'erne.

Afledte ord

1
hallucination

Kilder

1
  • Survey of Hallucination in Natural Language Generation

Mere

Flere i begreb →Tilfældigt opslag →