AI-sikkerhedsingeniør
En ingeniør med speciale i at identificere, analysere og afbøde sikkerhedsrisici ved AI-systemer.
Kort fortalt
En AI-sikkerhedsingeniør arbejder på at gøre kunstig intelligens sikker og pålidelig.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
En rolle eller stillingsbetegnelse for en person, der professionelt beskæftiger sig med at sikre, at AI-systemer er pålidelige, robuste og ikke udgør en risiko for mennesker eller samfund.
- Virksomheden ansatte en AI-sikkerhedsingeniør til at gennemgå deres sprogmodels adfærd.
Hvornår bruges det
AI-sikkerhedsingeniører ansættes ofte i virksomheder, der udvikler avancerede AI-systemer, for at forebygge utilsigtede skader og sikre, at systemerne opfører sig i overensstemmelse med menneskelige værdier. De kan arbejde med teknikker som 'red teaming', robusthedstestning og alignment-forskning.
Oprindelse
Sammensat af 'AI' (kunstig intelligens), 'sikkerhed' og 'ingeniør'.
Kilder
2- Concrete Problems in AI Safety (Amodei et al., 2016)
- AI Safety: A Survey of the Field (Russell, 2022)