early stopping
Early stopping er en reguleringsteknik, hvor træningen afbrydes, når modellens ydeevne på en valideringsmængde ikke længere forbedres.
Kort fortalt
Kort fortalt: Stop træningen, når modellen begynder at overtilpasse, så du sparer tid og får en bedre generalisering.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Teknik hvor træningen afbrydes, når en monitoreringsmetrik (typisk valideringstab) ikke forbedres over et vist antal epoker (patience).
- Vi anvendte early stopping med en patience på 5 epoker for at undgå overfitting.
- Early stopping reducerede træningstiden med 30% uden at gå på kompromis med modellens nøjagtighed.
Hvornår bruges det
Early stopping anvendes under træning af neurale netværk og andre maskinlæringsmodeller for at undgå overfitting. Det er især nyttigt ved store modeller, der trænes over mange epoker, da det både reducerer træningstiden og forbedrer modellens evne til at generalisere til nye data.
Kodeeksempel
from tensorflow.keras.callbacks import EarlyStopping
early_stop = EarlyStopping(monitor='val_loss', patience=3, restore_best_weights=True)
model.fit(X_train, y_train, validation_data=(X_val, y_val), epochs=100, callbacks=[early_stop])Eksempel på early stopping med Keras, der monitorerer valideringstab og stopper efter 3 epoker uden forbedring.
Oprindelse
Udtrykket 'early stopping' opstod i maskinlæringsmiljøet som en beskrivelse af metoden til at standse træning tidligt.