beskæringsrate

Den andel af parametre eller forbindelser i et neuralt netværk der fjernes under beskarring for at reducere modelstørrelse uden væsentligt tab af nøjagtighed.

Kort fortalt

Kort fortalt: Beskæringsrate angiver hvor stor en del af netværkets vægte der skæres væk for at gøre modellen mindre og hurtigere.

Kategori
teknik
Niveau
øvet

Betydninger

1
  1. 1

    Den andel af vægte eller neuroner der fjernes fra et neuralt netværk under en beskarringsprocedure, ofte udtrykt som en decimal eller procent.

    • En beskæringsrate på 0,3 betyder, at 30 % af vægtene fjernes.
    • For at undgå for stor nøjagtighedsnedgang anvendes ofte en gradvis stigende beskæringsrate.

Hvornår bruges det

Beskæringsraten vælges typisk som en hyperparameter i beskarringsprocessen. For eksempel kan man anvende en rate på 0,5 for at fjerne halvdelen af vægtene. Ratens valg afvejer komprimering mod nøjagtighed.

Oprindelse

Dannet af 'beskæring' (beskære, at skære af) og 'rate' (andel). Termen er lånt fra engelsk 'pruning rate'.

Kilder

1
  • Learning both Weights and Connections for Efficient Neural Networks (Han et al., 2015)