latent space arithmetic
Latent space arithmetic betegner teknikken at udføre vektoraritmetik (addition, subtraktion) på repræsentationer i et latent rum for at manipulere eller kombinere begreber.
Kort fortalt
Du kan lægge vektorer for ord eller billeder sammen og trække fra for at få nye betydninger, ligesom 'konge - mand + kvinde = dronning'.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- /ˈleɪtənt speɪs əˈrɪθmətɪk/
Betydninger
1- 1
Evnen til at udføre addition, subtraktion og andre aritmetiske operationer på punkter (vektorer) i et latent rum for at opnå semantisk eller visuel manipulation, fx analogislutning eller style transfer.
- Med latent space arithmetic kan vi beregne, at 'Paris - Frankrig + Italien ≈ Rom'. — Forskningsartikel, 2013
- I generative modeller bruges latent space arithmetic til at justere billedegenskaber som 'smilende person + solbriller'.
Hvornår bruges det
Anvendes ofte i word embedding-modeller (fx Word2Vec, GloVe) til at finde analogier og i generative modeller (fx GANs) til at styre genererede egenskaber. Det udnytter, at latente rum er struktureret med lineære relationer.
Formel
Analogien findes som: vektor(b) ≈ vektor(a) - vektor(a*) + vektor(b*)Kodeeksempel
import numpy as np
# Eksempel: find analogi 'king - man + woman'
king = np.array([0.5, 0.2, -0.1])
man = np.array([0.3, 0.1, 0.0])
woman = np.array([0.4, 0.3, 0.1])
result = king - man + woman
print(result) # Tilnærmelsesvis queen-vektorSimpelt eksempel på vektoraritmetik i latent rum med numpy.
Oprindelse
Sammensat af 'latent space' (det skjulte rum af repræsentationer) og 'arithmetic' (aritmetik), inspireret af lineære relationer opdaget i ordvektorer af Mikolov m.fl. (2013).
Afledte ord
2Kilder
2- Linguistic Regularities in Continuous Space Word Representations (Mikolov et al., 2013)
- Skip-Thought Vectors (Kiros et al., 2015)