downstream task

En opgave, der løses ved at finjustere en forudtrænet model på en specifik datamængde.

Kort fortalt

En downstream task er den specifikke opgave (f.eks. sentimentanalyse), du vil løse, efter at have taget en forudtrænet model som udgangspunkt.

Kategori
begreb
Niveau
øvet

Betydninger

1
  1. 1

    En maskinlæringsopgave, der udnytter repræsentationer fra en forudtrænet model, typisk via finjustering eller feature extraction.

    • BERT's evne til at blive overført til en række downstream tasks som NER og tekstklassifikation har gjort den til en standard i NLP.Devlin et al., 2018
    • Ved evaluering af sprogmodeller måles præstationen ofte på flere downstream tasks.

Hvornår bruges det

Begrebet bruges i overført læring og finjustering: en generel model (f.eks. BERT) trænes først på et stort korpus, og derefter tilpasses en downstream task som spørgsmål-besvarelse eller tekstklassifikation ved at finjustere på en mindre, opgavespecifik datasæt.

Oprindelse

'Downstream' kommer fra databehandling, hvor det henviser til senere trin i en pipeline; her betegner det den specifikke opgave, der følger efter forudtræning.

Afledte ord

2

Kilder

1
  • BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding