transparens

Transparens i AI refererer til graden, hvor et AI-systems funktion, beslutningsprocesser og data er åbne, forståelige og forklarbare for interessenter.

Kort fortalt

Kort fortalt betyder transparens, at man kan se og forstå, hvordan en AI-model træffer sine beslutninger.

Kategori
begreb
Niveau
begynder
Udtale
tʁɑns.pʰɑˈʁɛns

Betydninger

2
  1. 1

    Evnen for et AI-system til at gøre dets interne funktion, data og beslutningsgrundlag tilgængeligt for inspektion og forståelse.

    • Virksomheden publicerede en transparensrapport, der detaljerede datasæt og modelarkitektur. — Eksempel
  2. 2

    Kvaliteten ved at et AI-systems forudsigelser eller beslutninger kan forklares på en måde, der er forståelig for mennesker.

    • Transparens i beslutningsprocessen er afgørende for tillid til AI-systemer i sundhedssektoren. — Eksempel

Hvornår bruges det

Transparens bruges som et kvalitetskrav i ansvarlig AI-udvikling og regulering. Det omfatter dokumentation af datasæt, modelarkitektur, træningsprocesser og outputforklaringer. Praktisk implementering kan involvere forklarbare AI-metoder (XAI) og åbne rapporter.

Oprindelse

Fra latin 'transparens', nutidsord af 'transparere' (lyse igennem).

Afledte ord

2
Forklarbar AItransparensrapport

Kilder

1
  • Barredo Arrieta et al., Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges, 2020

Se også

Mere

Flere i begreb →Tilfældigt opslag →