meta learning

1. 1

   Det overordnede koncept, hvor en maskinlæringsmodel optimeres til hurtigt at lære nye opgaver fra få eksempler ved at udnytte erfaring fra tidligere opgaver.

   • Meta learning gør det muligt for en robot at lære at gribe nye genstande efter kun få demonstrationer.
   • I few-shot klassifikation trænes en meta-læringsmodel på mange forskellige opgaver for at generalisere til usete klasser.
2. 2

   En specifik algoritmisk tilgang inden for meta learning, såsom Model-Agnostic Meta-Learning (MAML), der optimerer en models initialisering, så den med få gradientopdateringer kan tilpasse sig en ny opgave.

   • MAML er en populær meta-læringsalgoritme, der træner en model til at have en initialisering, der er let at finjustere.
   • Meta learning via gradientbaserede metoder som Reptile opdaterer modelparametre på tværs af opgaver.

Meta learning anvendes især inden for few-shot learning, hvor målet er at generalisere til nye opgaver med minimal træning. Teknikken bruges i områder som robotstyring, naturlig sprogbehandling og adaptiv medicinsk diagnostik.

# Pseudo-code for MAML outer loop
for meta_iteration in range(meta_iters):
    meta_grad = 0
    for task in sampled_tasks:
        # inner adaptation
        theta_task = theta.clone()
        for step in inner_steps:
            theta_task -= inner_lr * gradient(L_task, theta_task)
        meta_grad += gradient(L_task, theta_task)  # at adapted point
    theta -= outer_lr * meta_grad

Eksempel på meta-læring med MAML-algoritmen, der viser den indre og ydre løkke.

Fra græsk 'meta' (ud over, over) og 'learning', dvs. at lære om læring.

• Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks (Finn et al., 2017)
• Meta-Learning: A Survey (Hospedales et al., 2021)