model reliability
En models evne til at levere stabile, korrekte og forudsigelige resultater under varierende betingelser og over tid.
Kort fortalt
Hvor pålidelig en AI-model er, altså om den giver samme gode svar hver gang, også når data ændrer sig lidt.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
En models evne til at opretholde nøjagtighed og konsistens på tværs af forskellige datasæt, miljøer og tidspunkter, samt at være robust over for støj, outlier og distribution shift.
- Før udrulning i klinisk praksis skal modellens reliability dokumenteres gennem omfattende validering på tværs af hospitaler og patientgrupper.
- Model reliability omfatter både prædiktiv nøjagtighed og kalibrering, så modellen ikke kun er korrekt men også velkalibreret i sine usikkerhedsestimater.
Hvornår bruges det
Model reliability vurderes typisk gennem stresstest, robusthedsanalyse og overvågning i produktion. Det er afgørende i kritiske applikationer som sundhedsdiagnostik, autonome køretøjer og finansielle systemer, hvor fejl kan få alvorlige konsekvenser.
Oprindelse
Termen stammer fra reliabilitetsteori i ingeniørvidenskab, hvor det betegner et systems evne til at fungere uden fejl over tid. I maskinlæring blev det overtaget til at beskrive forudsigeligheden og stabiliteten af modeller.