Elastic Net-regression

Elastic Net-regression er en lineær regressionsmodel, der kombinerer L1- og L2-regulering for at opnå både variabelselektion og håndtering af multikollinearitet.

Kort fortalt

En metode til at træne lineære modeller, der både kan udvælge vigtige variable og håndtere stærkt korrelerede forklarende variable.

Kategori
teknik
Niveau
øvet
Udtale
[eˈlæstik nɛt ʁeɡʁɛˈɕoːn]

Betydninger

1
  1. 1

    En reguleret regressionsmetode, der tilføjer en lineær kombination af L1- og L2-straf til tabsfunktionen, hvilket muliggør variabelselektion samtidig med at den håndterer korrelation mellem variable.

    • Elastic Net-regression blev anvendt til at identificere biomarkører i et højdimensionelt genomisk datasæt.Eksempel baseret på typisk anvendelse
    • Ved at justere l1_ratio-parameteren kan man kontrollere balancen mellem Lasso og Ridge i Elastic Net-modellen.Eksempel baseret på typisk anvendelse

Hvornår bruges det

Bruges når man har mange korrelerede prædiktorvariable og ønsker en model, der er både sparsommelig og stabil. Anvendes typisk inden for genomik, økonomi og signalbehandling.

Formel

min_β (1/(2n)) ||y - Xβ||_2^2 + λ (α ||β||_1 + (1-α)/2 ||β||_2^2)

Kodeeksempel

from sklearn.linear_model import ElasticNet
model = ElasticNet(alpha=0.1, l1_ratio=0.5)
model.fit(X_train, y_train)

Træning af en Elastic Net-model med scikit-learn. α styrer reguleringsstyrken, l1_ratio balancen mellem L1 og L2.

Oprindelse

Termen 'elastic net' (elastisk net) refererer til den fleksible balance mellem L1- og L2-regulering. Introduceret af Hui Zou og Trevor Hastie i 2005.

Kilder

1
  • Regularization and Variable Selection via the Elastic Net (Zou & Hastie, 2005)