discriminator loss

1. 1

   Standard discriminator loss i et GAN, defineret som binær krydsentropi mellem diskriminatorens forudsigelser og de sande etiketter (1 for ægte, 0 for falsk).

   • Under træning minimeres discriminator loss for at få diskriminatoren til at klassificere ægte billeder som ægte og genererede som falske. — forskningsartikel, 2014
2. 2

   Wasserstein discriminator loss (også kaldet critic loss) bruges i WGAN, hvor diskriminatoren (critic) forsøger at maksimere forskellen mellem gennemsnitlige score for ægte og falske data.

   • I WGAN trænes critic'en ved at minimere Wasserstein-tabet, hvilket giver en mere stabil træning. — forskningsartikel, 2017
3. 3

   Hinge loss-disktiminator loss bruges i nogle GAN-varianter som SNGAN, hvor tabet er defineret som max(0, 1 - D(x)) for ægte data og max(0, 1 + D(G(z))) for falske.

   • SNGAN anvender hinge loss for at forbedre træningsstabiliteten. — forskningsartikel, 2018

Bruges under træning af GAN'er. Diskriminator-tabet opdaterer diskriminatorens vægte for at forbedre dens evne til at klassificere, mens det indirekte påvirker generatorens træning.

L_D = -𝔼_x[log D(x)] - 𝔼_z[log(1 - D(G(z)))]

import torch
import torch.nn as nn

def discriminator_loss(real_pred, fake_pred):
    criterion = nn.BCEWithLogitsLoss()
    real_labels = torch.ones_like(real_pred)
    fake_labels = torch.zeros_like(fake_pred)
    real_loss = criterion(real_pred, real_labels)
    fake_loss = criterion(fake_pred, fake_labels)
    return real_loss + fake_loss

Eksempel i PyTorch på standard discriminator loss med binær krydsentropi.

Sammensat af 'discriminator' (fra latin 'discriminare', at adskille) og 'loss' (fra oldengelsk 'los', ødelæggelse). Introduceret i GAN-litteraturen af Goodfellow et al. (2014).

• Generative Adversarial Nets (Goodfellow et al., 2014)
• Wasserstein GAN (Arjovsky et al., 2017)
• Spectral Normalization for Generative Adversarial Networks (Miyato et al., 2018)