sparsomhed
Egenskaben ved at have mange nullelementer eller ubenyttede parametre i en vektor, matrix eller model.
Kort fortalt
Sparsomhed betyder, at de fleste værdier i en model eller data er nul, hvilket kan gøre beregninger og lagring mere effektive.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- spɑˈsʌmˌheð
Betydninger
2- 1
Egenskaben ved en datarepræsentation (vektor, matrix) at have et stort antal nullelementer.
- En sparsom vektor har over 90 % nuller.
- 2
Induceret sparsomhed: en teknik i maskinlæring, hvor modellens vægte tvinges til at være nul eller tæt på nul via regularisering (fx L1-regularisering) for at forbedre generalisering og fortolkning.
- L1-regularisering anvendes til at fremme sparsomhed i neurale netværk.
Hvornår bruges det
Sparsomhed udnyttes til at reducere beregningsomkostninger og hukommelsesforbrug i store modeller, fx ved at anvende sparsomme repræsentationer eller regularisering. I deep learning bruges sparsomhed ofte aktivt via teknikker som dropout eller L1-regularisering for at fremme generalisering.
Formel
Sparsitetsgrad = (antal nuller) / (total antal elementer)Oprindelse
Fra latin sparsus, spredt, via engelsk sparsity.