CVAE

1. 1

   En generativ model, der udvider variational autoencoder (VAE) ved at betinge den latente repræsentation på en ekstra inputvariabel, så den kan generere data, der opfylder specifikke betingelser.

   • CVAE'en blev trænet til at generere håndskrevne cifre af en bestemt klasse ved at betinge på cifferets label. — Sohn et al., 2015
   • Ved at betinge på en delvis observation kan CVAE bruges til dataimputation. — Sohn et al., 2015

CVAE bruges i opgaver som billedgenerering med klassebetingelse, dataimputation og domænetilpasning. Den udvider VAE ved at inkludere betingelsesinformation i både encoder og decoder, hvilket gør det muligt at styre generationen.

class CVAE(nn.Module):
    def __init__(self, input_dim, cond_dim, latent_dim):
        super().__init__()
        self.encoder = nn.Sequential(
            nn.Linear(input_dim + cond_dim, 256),
            nn.ReLU(),
            nn.Linear(256, latent_dim * 2)
        )
        self.decoder = nn.Sequential(
            nn.Linear(latent_dim + cond_dim, 256),
            nn.ReLU(),
            nn.Linear(256, input_dim)
        )
    def forward(self, x, c):
        xc = torch.cat([x, c], dim=-1)
        params = self.encoder(xc)
        mu, logvar = params.chunk(2, dim=-1)
        z = reparameterize(mu, logvar)
        zc = torch.cat([z, c], dim=-1)
        return self.decoder(zc), mu, logvar

Eksempel på en CVAE i PyTorch, hvor både encoder og decoder modtager betingelsesvektoren c.

CVAE er en forkortelse for 'Conditional Variational Autoencoder', introduceret af Sohn et al. (2015) som en udvidelse af variational autoencoder (VAE) af Kingma og Welling (2014).

• Auto-Encoding Variational Bayes (Kingma & Welling, 2014)
• Learning Structured Output Representation using Deep Conditional Generative Models (Sohn et al., 2015)