self-paced learning

1. 1

   Træningsstrategi hvor modellen selektivt vælger træningseksempler baseret på en scoringsfunktion, der måler hvor 'let' et eksempel er for den nuværende model. Modellen starter med de nemmeste eksempler og inkluderer gradvist sværere, efterhånden som den lærer.

   • Self-paced learning har vist sig effektiv til at træne dybe neurale netværk på støjende datasæt, da modellen undgår at lære af misvisende eksempler tidligt i træningen.
   • Ved at anvende en self-paced læringskurve opnåede modellen bedre generalisering sammenlignet med standard træning.

Self-paced learning anvendes ofte i kombination med curriculum learning for at forbedre generalisering og undgå overfitting, især i computer vision og naturlig sprogbehandling. Det er særligt nyttigt ved træning på støjende eller ubalancerede datasæt.

import numpy as np

def self_paced_loss(model, X, y, scorer, threshold):
    losses = np.array([model.loss(x, y_i) for x, y_i in zip(X, y)])
    weights = (losses < threshold).astype(float)
    return np.mean(weights * losses)

# Eksempel på adaptive threshold (simpel)
threshold = 0.5
for epoch in range(num_epochs):
    loss = self_paced_loss(model, X_train, y_train, scorer, threshold)
    optimizer.step(loss)
    if epoch % 10 == 0:
        threshold = np.percentile(losses, 80)

Simpel Python-kode der illustrerer self-paced learning ved at vægte tab baseret på en tærskel; eksempler med tab under tærsklen bidrager, mens sværere eksempler ignoreres.

Begrebet er inspireret af pædagogisk teori, hvor elever lærer bedst i eget tempo. Introduceret i maskinlæring af Kumar et al. (2010).

• Self-Paced Learning for Latent Variable Models (Kumar et al., 2010)
• Self-Paced Curriculum Learning (Jiang et al., 2015)