hyperparametersøgning
En systematisk metode til at finde optimale hyperparametre til en maskinlæringsmodel.
Kort fortalt
En teknik til at finde de bedste indstillinger for en model ved at prøve forskellige kombinationer af hyperparametre.
- Kategori
- teknik
- Niveau
- øvet
- Udtale
- /ˈhypɐpɐɑˌmɛtɐˌsøjneŋ/
Betydninger
1- 1
Systematisk gennemsøgning af et hyperparameterrum for at identificere den kombination, der giver den bedste modelperformance på en valideringsmængde.
- Systematisk hyperparametersøgning er afgørende for at opnå state-of-the-art resultater.
- Vi brugte random search til hyperparametersøgning og fandt en markant bedere konfiguration.
Hvornår bruges det
Anvendes under modeltræning til at optimere ydeevnen, typisk ved at udforske et parameterrum med metoder som grid search, random search eller Bayesiansk optimering.
Kodeeksempel
from sklearn.model_selection import GridSearchCV
from sklearn.ensemble import RandomForestClassifier
param_grid = {'n_estimators': [100, 200], 'max_depth': [10, 20]}
grid = GridSearchCV(RandomForestClassifier(), param_grid, cv=5)
grid.fit(X_train, y_train)
print(grid.best_params_)Eksempel på grid search med scikit-learn til at finde de bedste hyperparametre for en Random Forest.
Oprindelse
Sammensat af 'hyperparameter' og 'søgning', fra engelsk 'hyperparameter search'.
Kilder
1- Random Search for Hyper-Parameter Optimization (Bergstra & Bengio, 2012)