glidende vindue

En teknik, hvor et vindue af fast størrelse glider over en sekvens for at udføre en operation på hvert delafsnit.

Kort fortalt

En metode, hvor man tager et vindue af fast størrelse og flytter det hen over data for at behandle små bidder ad gangen.

Kategori
teknik
Niveau
øvet

Betydninger

1
  1. 1

    En operation eller algoritme, hvor et vindue af fast størrelse bevæges trinvist over en datasekvens, således at hver position i sekvensen indgår i et antal på hinanden følgende delsekvenser.

    • I en konvolutionsmodel anvendes et glidende vindue til at udtrække lokale træk fra teksten.
    • Glidende vindue bruges til at beregne moving average i tidsserieanalyse.

Hvornår bruges det

Bruges i NLP til at skabe kontekst for token-embeddinger (fx i konvolutionsnet eller som en simpel positionsmekanisme), i tidsserieanalyse til at beregne glidende gennemsnit, og i LLM'er til at begrænse kontekstlængde i opmærksomhedsmekanismer.

Kodeeksempel

def sliding_window(seq, window_size):
    return [seq[i:i+window_size] for i in range(len(seq)-window_size+1)]

Simpel Python-implementering af et glidende vindue over en liste.

Oprindelse

Direkte oversættelse af engelsk 'sliding window', som stammer fra signalbehandling og datastrukturer.

Afledte ord

2

Kilder

2
  • Longformer: The Long-Document Transformer
  • Big Bird: Transformers for Longer Sequences