modelkompleksitet

Modelkompleksitet betegner en models kapacitet til at indfange mønstre i data, ofte målt ved antal parametre eller modelarkitekturens dybde.

Kort fortalt

Hvor avanceret en model er, fx hvor mange parametre den har — jo højere kompleksitet, desto mere detaljeret kan den lære, men risikoen for overfitting stiger.

Kategori
begreb
Niveau
øvet

Betydninger

1
  1. 1

    En models evne til at udtrykke komplicerede funktioner, typisk korreleret med antallet af trænede parametre eller lag.

    • En lineær regressionsmodel har lav modelkompleksitet, mens en dyb neural netværk kan have meget høj modelkompleksitet.
    • Ved at øge modelkompleksiteten kan træningsfejlen reduceres, men testfejlen kan stige på grund af overfitting.

Hvornår bruges det

Modelkompleksitet er centralt ved valg af arkitektur for en given opgave. Man ønsker typisk den lavest mulige kompleksitet, der stadig kan løse opgaven tilfredsstillende (Occams rageblad). I praksis reguleres kompleksiteten gennem hyperparametre som antal lag, neuroner eller regulariseringsstyrke.

Oprindelse

Sammensat af 'model' (af latin modulus, 'mål') og 'kompleksitet' (af latin complexus, 'omfattende').

Afledte ord

1