variansreduktion

Sæt af metoder til at mindske variansen af en estimator uden at øge bias.

Kort fortalt

Metoder der gør statistiske estimater mere præcise ved at mindske tilfældige udsving.

Kategori
teknik
Niveau
øvet

Betydninger

1
  1. 1

    Samlebetegnelse for teknikker der mindsker variansen af en estimator.

    • Ved brug af control variates opnås en markant variansreduktion i Monte Carlo-estimater.
    • Variansreduktionsteknikker er afgørende for effektiv reinforcement learning.

Hvornår bruges det

Variansreduktion anvendes især i Monte Carlo-simulationer og machine learning for at forbedre nøjagtigheden af estimater med færre prøver. Typiske teknikker inkluderer control variates, antithetic variates og importance sampling.

Formel

θ̂_CV = θ̂ - c(φ̂ - E[φ])

Kodeeksempel

import numpy as np
def estimate_with_cv(n):
    x = np.random.normal(0,1,n)
    f = x**2
    g = x  # control: known mean 0
    c = -np.cov(f,g)[0,1]/np.var(g)
    cv = f + c*(g - 0)
    return np.mean(cv)

Simpel implementering af control variate-estimator for E[X^2] med X ~ N(0,1). Variansen reduceres ved at inkludere en kovariabel med kendt forventning.

Oprindelse

Sammensat af 'varians' og 'reduktion', lånt fra engelsk variance reduction.

Afledte ord

1