您的位置：首页 > 编程技术 > R语言  >  R语言实现LASSO回归的方法

R语言实现LASSO回归的方法

 更新时间：2021年5月6日 13:50  点击：2422

Lasso回归又称为套索回归，是Robert Tibshirani于1996年提出的一种新的变量选择技术。Lasso是一种收缩估计方法，其基本思想是在回归系数的绝对值之和小于一个常数的约束条件下，使残差平方和最小化，从而能够产生某些严格等于0的回归系数，进一步得到可以解释的模型。R语言中有多个包可以实现Lasso回归，这里使用lars包实现。

1.利用lars函数实现lasso回归并可视化显示

x = as.matrix(data5[, 2:7]) #data5为自己的数据集
y = as.matrix(data5[, 1])
lar1 <-lars(x,y,type = "lasso")
lar1 #查看得到的结果

在这里插入图片描述

从图1可以看出通过lasso回归得到的R^2为0.426，较低。标红的部分是在进行lasso回归时，自变量被选入的顺序。下面用图表的形式显示。

plot(lar1)

在这里插入图片描述

可以看到图2中的竖线对应于lasso中迭代的次数，对应的系数值不为0的自变量即为选入的，竖线的标号与图1中的step相对应。

2.选取cp值最小时对应的模型，获取模型对应系数

对于选取最小cp值对应的模型可以通过两种方式实现：
（1）显示所有cp值，从中挑选最小的

summary(lar1) #输出lasso对象的细节，包括Df、RSS和Cp，其中Cp是MallowsCp统计量，通常选取Cp最小的那个模型

在这里插入图片描述

图3显示了lasso回归中所有的cp值，选择最小的，即上图标红的部分，对应的df=3,最前面一列对应迭代次数（即步数），step=2 。

（2）直接选取最小的cp值

lar1$Cp[which.min(lar$Cp)] #选择最小Cp，结果如下：

在这里插入图片描述

与图3中标红的部分结果一样，但是要注意，2表示的是step大小。

3.选取cp值最小时对应的模型系数

（1）获取所有迭代系数，根据step大小选择cp值最小对应的自变量系数值

lar1$beta #可以得到每一步对应的自变量对应的系数

在这里插入图片描述

图4标红的部分就是step=2对应的cp值最小时对应的模型的自变量的系数

（2）获取指定迭代次数（即步数）对应的自变量的系数，可以通过下面的代码实现：

coef <-coef.lars(lar,mode="step",s=3) #s为step+1，也比图2中竖线为2的迭代次数对应，与图3中df值相等；s取值范围1-7.
coef[coef!=0] #获取系数值不为零的自变量对应的系数值

在这里插入图片描述

与图4中标红部分一样。

4.获取截距的系数

通过第4部分可以获取cp值最小时对应的自变量的系数，但是没有办法获取对应模型的截距值，下面的代码可以获取对应模型的截距值。

上面的代码就是求取cp值最小时对应的模型的截距值，结果如下：

在这里插入图片描述

总结：

通过上面的4步可以利用R语言实现Lasso回归，并可以获取模型相应的系数和截距值。

到此这篇关于R语言实现LASSO回归的方法的文章就介绍到这了,更多相关R语言LASSO回归内容请搜索猪先飞以前的文章或继续浏览下面的相关文章希望大家以后多多支持猪先飞！

[!--infotagslink--]

相关文章

  • R语言作图:坐标轴的设置方式

    这篇文章主要介绍了R语言作图:坐标轴的设置方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言 如何删除指定变量或对象

    这篇文章主要介绍了R语言删除指定变量或对象的操作方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言基本画图函数与多图多线的用法

    这篇文章主要介绍了R语言基本画图函数与多图多线的用法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言-如何将list转换为向量

    这篇文章主要介绍了R语言-将list转换为向量的操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言-如何切换科学计数法和更换小数点位数

    这篇文章主要介绍了R语言-切换科学计数法和更换小数点位数的操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言创建矩阵的实现方法

    这篇文章主要介绍了R语言创建矩阵的实现方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧...2021-05-06

  • R语言运算符知识点讲解

    在本篇文章里小编给大家分享了一篇关于R语言运算符知识点讲解内容，有兴趣的朋友们可以参考下。...2021-05-06

  • R语言中的因子类型详解

    这篇文章主要介绍了R语言中的因子类型详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言-使用快捷键快速注释的实现

    这篇文章主要介绍了R语言-使用快捷键快速注释的实现方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言中quantile()函数的用法说明

    这篇文章主要介绍了R语言中quantile()函数的用法说明，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • 如何改变R语言默认存储包的路径

    这篇文章主要介绍了改变R语言默认存储包的路径操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言导入导出数据的几种方法汇总

    这篇文章主要给大家总结介绍了R语言导入导出数据的几种方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧...2021-05-06

  • R语言 install.packages 无法读取索引的解决方案

    这篇文章主要介绍了R语言 install.packages 无法读取索引的解决方案，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言关于“包”的知识点总结

    在本篇文章里小编给大家分享的是一篇关于R语言“包”的知识点总结内容，有兴趣的朋友们可以学习下。...2021-05-06

  • R语言逻辑回归、ROC曲线与十折交叉验证详解

    这篇文章主要给大家介绍了关于R语言逻辑回归、ROC曲线与十折交叉验证的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧...2021-05-06

  • R语言学习ggplot2绘制统计图形包全面详解

    这篇文章主要为大家详细介绍了R语言学习ggplot2绘制统计图形包的全面知识讲解，有需要的朋友可以借鉴参考下，希望能够有所帮助...2021-11-06

  • R语言关于随机森林算法的知识点详解

    在本篇文章里小编给大家整理的是一篇关于R语言关于随机森林算法的知识点详解内容，有兴趣的朋友们可以跟着学习下。...2021-05-13

  • R语言-t分布正态分布分位数图的实例

    这篇文章主要介绍了R语言-t分布正态分布分位数图的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言-在一张图上显示多条线的实现

    这篇文章主要介绍了R语言-在一张图上显示多条线的实现，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-06

  • R语言开发之CSV文件的读写操作实现

    这篇文章主要介绍了R语言开发之CSV文件的读写操作实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧...2021-05-06