AI-sikkerhedsforskning
Forskning, der fokuserer på at sikre, at kunstig intelligens-systemer er pålidelige, sikre og i overensstemmelse med menneskelige værdier.
Kort fortalt
AI-sikkerhedsforskning handler om at forebygge utilsigtede eller skadelige konsekvenser af kunstig intelligens.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- /aj sjɛkərhedsforskniŋ/
Betydninger
1- 1
Tværfagligt forskningsfelt, der undersøger og udvikler metoder til at minimere utilsigtede skader fra AI-systemer, især i forbindelse med stærk AI.
- AI-sikkerhedsforskning omfatter både teknisk alignment og governance-forskning. — Forskningsfeltet, 2023
- Investeringer i AI-sikkerhedsforskning er steget markant de seneste år. — Rapport, 2024
Hvornår bruges det
AI-sikkerhedsforskning anvendes til at identificere risici ved avancerede AI-systemer, udvikle tekniske løsninger som robusterhed, overvågning og værdialignment, samt informere politik og regulering.
Oprindelse
Sammensætning af 'AI' (kunstig intelligens) og 'sikkerhedsforskning'. Begrebet opstod i 2010'erne som reaktion på bekymringer om fremtidige superintelligente systemer.