Logo nl.boatexistence.com

Waarom neigt lasso naar nulcoëfficiënten?

Inhoudsopgave:

Waarom neigt lasso naar nulcoëfficiënten?
Waarom neigt lasso naar nulcoëfficiënten?

Video: Waarom neigt lasso naar nulcoëfficiënten?

Video: Waarom neigt lasso naar nulcoëfficiënten?
Video: Why is lasso coefficients usually 0, but not ridge 2024, Mei
Anonim

De lasso krimpt zodat er "hoeken" in de beperking zijn, wat in twee dimensies overeenkomt met een ruit. Als de som van de vierkanten een van deze hoeken "raakt", dan wordt de coëfficiënt die overeenkomt met de as tot nul teruggebracht. … Vandaar dat de lasso krimp en (effectief) subsetselectie uitvoert.

Waarom geeft de lasso nulcoëfficiënten?

De lasso krimpt zodat er "hoeken" in de beperking zijn, wat in twee dimensies overeenkomt met een ruit. Als de som van de vierkanten een van deze hoeken "raakt", dan wordt de coëfficiënt die overeenkomt met de as tot nul verkleind.

Waarom krimpt lasso tot nul, maar Ridge niet?

Er wordt gezegd dat omdat de vorm van de beperking in LASSO een diamant is, de verkregen kleinste-kwadratenoplossing de hoek van de diamant zou kunnen raken, zodat dit leidt tot een krimp van een variabele. Echter, in nokregressie, omdat het een cirkel is, zal het de as vaak niet raken

Waarom krimpt nokregressie coëfficiënten?

Ridge-regressie verkleint alle regressiecoëfficiënten naar nul; de lasso heeft de neiging om een reeks regressiecoëfficiënten van nul te geven en leidt tot een schaarse oplossing. Merk op dat voor zowel nokregressie als de lasso de regressiecoëfficiënten van positieve naar negatieve waarden kunnen gaan als ze naar nul worden gekrompen.

Zijn lasso-coëfficiënten bevooroordeeld?

…de lasso-krimp zorgt ervoor dat de schattingen van de niet-nul-coëfficiënten vertekend zijn richting nul en in het algemeen zijn ze niet consistent [Toegevoegde opmerking: dit betekent dat, aangezien de steekproefomvang groeit, de coëfficiëntschattingen convergeren niet].

Aanbevolen: