Hallucination detection
Hallucination detection er processen med at identificere eller kvantificere hallucinationer i output fra sprogmodeller.
Kort fortalt
En metode til at tjekke, om en AI's svar indeholder falske eller opdigtede oplysninger.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Automatisk eller manuel identifikation af faktuelle fejl, opdigtede oplysninger eller logiske uoverensstemmelser i genereret tekst fra en sprogmodel.
- Hallucination detection viste, at modellen opfandt en kildehenvisning i svaret. — forskningsartikel, 2023
- Ved at anvende et eksternt vidensgrundlag kan hallucination detection forbedres.
Hvornår bruges det
Hallucination detection anvendes i evaluering og kvalitetssikring af LLM-baserede systemer, fx i kundesupport eller medicinsk rådgivning, for at sikre faktuel korrekthed. Det kan gøres automatisk via verifikationsmodeller eller manuelt.
Oprindelse
Fra engelsk 'hallucination' (forestilling om noget, der ikke er til stede) kombineret med 'detection' (opdagelse).
Afledte ord
1Kilder
1- SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models