Lasso(Least absolute shrinkage and selection operator, Tibshirani(1996))
方法是一种压缩估计,它通过构造一个罚函数得到一个较为精炼的模型,使得它压缩一些系数,同时设定一些系数为零。因此保留了子集收缩的优点,是一种处理具有复共线性数据的有偏估计。Lasso
的基本思想是在回归系数的绝对值之和小于一个常数的约束条件下,使残差平方和最小化,从而能够产生某些严格等于
0
的回归系数,得到可以解释的模型。lasso通过参数缩减达到降维的目的;