Curriculum scheduler

En strategi under træning, der bestemmer rækkefølgen og tempoet for præsentationen af træningseksempler, typisk fra let til svært.

Kort fortalt

En curriculum scheduler styrer, i hvilken rækkefølge en model lærer – først nemme eksempler, senere sværere – for at forbedre læringseffektiviteten.

Kategori
teknik
Niveau
øvet
Udtale
/ˈkɜrɪkjʊləm ˈʃɛdjuːlər/

Betydninger

1
  1. 1

    En komponent i curriculum learning, der definerer en progressionsplan for træningsdata, ofte baseret på sværhedsgrad eller en læringskurve.

    • Curriculum scheduleren starter med at præsentere korte sætninger og gradvist introducere længere og mere komplekse sætninger under træning af sprogmodellen.e.g., Platanios et al., 2019
    • I reinforcement learning anvendes en curriculum scheduler til at øge sværhedsgraden af miljøets udfordringer i takt med agentens forbedrede præstation.e.g., Florensa et al., 2017

Hvornår bruges det

Bruges i curriculum learning til at definere en progressiv læringsplan. Scheduleren kan være baseret på eksempel-sværhedsgrad, modelens performance eller en fast tidsplan. Metoden anvendes især i sprogmodeller og reinforcement learning for at undgå overfitting og accelerere træning.

Oprindelse

Udtrykket kombinerer 'curriculum' (pensum/læreplan) fra pædagogik og 'scheduler' (planlægger) fra datalogi. Konceptet blev formaliseret af Bengio et al. i 2009.

Afledte ord

2

Kilder

2
  • Curriculum Learning, Bengio et al., 2009
  • Self-Paced Curriculum Learning, Jiang et al., 2015