incremental learning

Incremental learning er en maskinlæringsteknik, hvor en model opdateres løbende med nye data uden at blive genoptrænet fra bunden, samtidig med at den bevarer tidligere erhvervet viden.

Kort fortalt

Incremental learning gør det muligt for en AI-model at lære nyt uden at glemme det gamle, ligesom mennesker gør.

Kategori
træning
Niveau
øvet

Betydninger

2
  1. 1

    Generel teknik hvor en model lærer fra et strømmende datasæt og tilpasser sig nye mønstre uden at tabe tidligere indlært viden.

    • Modellen anvender incremental learning til at opdatere sine parametre i takt med at nye kundeadfærdsdata indsamles.
  2. 2

    Specifikke tilgange til incremental learning, herunder task-incremental (nye opgaver), class-incremental (nye klasser) og data-incremental (nye data i samme distribution).

    • Ved class-incremental learning skal modellen genkende nye objekter uden at glemme de gamle.

Hvornår bruges det

Bruges i situationer hvor data ankommer over tid, fx i overvågningssystemer, personlige assistenter eller robotter, der skal tilpasse sig nye miljøer uden at stoppe driften.

Kodeeksempel

import numpy as np
from collections import deque

class IncrementalLearner:
    def __init__(self, model, buffer_size=1000):
        self.model = model
        self.buffer = deque(maxlen=buffer_size)

    def update(self, X_new, y_new):
        self.buffer.extend(zip(X_new, y_new))
        indices = np.random.choice(len(self.buffer), size=min(32, len(self.buffer)), replace=False)
        batch = [self.buffer[i] for i in indices]
        X_batch, y_batch = zip(*batch)
        self.model.partial_fit(X_batch, y_batch)

Simpel incremental learner med erfaringsbuffer til at modvirke katastrofal forglemmelse.

Oprindelse

Incremental learning har rødder i psykologisk forskning om kontinuerlig læring og blev introduceret i maskinlæring i 1990'erne som svar på katastrofal forglemmelse.

Afledte ord

2

Kilder

2
  • iCaRL: Incremental Classifier and Representation Learning (Rebuffi et al., 2017)
  • Learning without Forgetting (Li & Hoiem, 2017)