Fra et praktisk synspunkt har L1 en tendens til å krympe koeffisientene til null, mens L2 har en tendens til å krympe koeffisientene jevnt. L1 er derfor nyttig for funksjonsvalg, ettersom vi kan droppe alle variabler knyttet til koeffisienter som går til null. L2, på den annen side, er nyttig når du har kollineære/samavhengige funksjoner.
Hva er bruken av regularisering Hva er L1- og L2-regularisering?
L1-regularisering gir utdata i binære vekter fra 0 til 1 for modellens funksjoner og brukes for å redusere antall funksjoner i et enormt dimensjon alt datasett. L2-regularisering sprer feiltermene i alle vektene som fører til mer nøyaktige tilpassede endelige modeller.
Hva er forskjellene mellom L1- og L2-regularisering?
Den viktigste intuitive forskjellen mellom L1- og L2-regulariseringen er at L1-regulariseringen prøver å estimere medianen av dataene, mens L2-regulariseringen prøver å estimere gjennomsnittet av dataene for å unngå overtilpasning. … Den verdien vil også være medianen av datadistribusjonen matematisk.
Hva er L1- og L2-regularisering i dyp læring?
L2-regularisering er også kjent som vektnedgang da den tvinger vektene til å falle mot null (men ikke akkurat null). I L1 har vi: I dette,, straffer vi den absolutte verdien av vektene. I motsetning til L2 kan vektene reduseres til null her. Derfor er det veldig nyttig når vi prøver å komprimerevår modell.
Hvordan fungerer L1- og L2-regularisering?
En regresjonsmodell som bruker L1-regulariseringsteknikk kalles Lasso-regresjon og modell som bruker L2 kalles Ridge-regresjon. Den viktigste forskjellen mellom disse to er straffetiden. Ridge-regresjon legger til «kvadratstørrelse» av koeffisienten som straffeledd til tapsfunksjonen.
