Robustness
En models evne til at opretholde sin ydeevne under forstyrrelser, såsom støj, modifikationer af input eller ændringer i datafordelingen.
Kort fortalt
Robusthed handler om, hvor godt en AI-model klarer sig, når den bliver udsat for uventede eller forstyrrede input.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- /roˈbʌstnəs/
Betydninger
3- 1
Generel robusthed: modellens evne til at modstå tilfældig støj eller små variationer i input uden væsentlig forringelse af præstationen.
- Modellen udviste høj robusthed over for Gaussisk støj i testdataene.
- 2
Adversarial robusthed: modellens modstandsdygtighed over for bevidst forvanskede input (adversarial attacks) designet til at narre den.
- Adversarial træning forbedrede modellens robusthed mod pgd-angreb markant.
- 3
Distributionsrobusthed: modellens evne til at generalisere på data fra en anden fordeling end træningsfordelingen (distribution shift).
- Distributionsrobusthed er afgørende for, at modellen virker i den virkelige verden, hvor datafordelingen ofte ændrer sig.
Hvornår bruges det
Robusthed er central i sikkerhedskritiske applikationer som selvkørende biler og medicinsk diagnostik. Det testes ofte med adversarial attacks eller stresstests, og forbedres via teknikker som adversarial træning og dataaugmentering.
Oprindelse
Fra latin 'robustus' (stærk, solid) og engelsk '-ness' (en egenskab).