content moderation
Processen med at overvåge, filtrere og håndtere brugergenereret indhold for at sikre overholdelse af retningslinjer og love.
Kort fortalt
Indholdsmoderering handler om at fjerne eller markere upassende indhold som hadtale, vold eller spam på platforme som sociale medier.
- Kategori
- teknik
- Niveau
- begynder
Betydninger
2- 1
Manuel gennemgang af indhold udført af menneskelige moderatorer, der vurderer indhold op mod retningslinjer.
- Platformen ansætter tusindvis af moderatorer til manuel indholdsmoderering. — eget eksempel
- 2
Automatiseret process ved hjælp af maskinlæring og AI til at detektere og filtrere indhold i realtid.
- AI-drevet indholdsmoderering kan skaleres til at behandle millioner af opslag dagligt. — eget eksempel
Hvornår bruges det
Indholdsmoderering bruges i stor skala på sociale medier, forummer og deleplatforme, ofte med hjælp fra AI til at opdage overtrædelser automatisk.
Kodeeksempel
import openai
response = openai.Moderation.create(
input="This is hateful content"
)
print(response)Eksempel på brug af OpenAI's moderations-API til at vurdere tekst.
Oprindelse
Udtrykket stammer fra engelsk 'content moderation', hvor 'moderation' betyder regulering eller tøjling.