首页时事民生政务教育文化科技财富体娱健康情感

旅行百科职场楼市企业乐活学术汽车时尚创业美食幽默美体文摘

深度好文：详解用线性回归模型做数据分析，数据分析师进阶必看!

教育 2024-12-19 16:20 黑龙江

写在前面的话：

很多同学目前所做的业务分析工作，徒手分析即可cover业务需求，较少用到一些高阶的统计模型和机器学习上面的东西。渐渐的便会产生一种感觉，即数据分析满足业务需求即可，不需要会机器学习。

但我认为

1、目前的工作不需要，不代表之后的工作不需要，我们应该着眼于我们整个数据分析生涯 ；

2、掌握一些模型可以高效做一些定量分析，较徒手分析效率更高，更准；

3、我们觉得一些东西没用，很可能是因为我们还没有发现如何去用；

4、我们对自己的要求不应该止于满足业务需求，一些探索性专题非常依赖于机器学习 ；

基于以上，我尝试开始更新一些机器学习方面的文章，从较基础的线性回归、决策树等开始，希望大家可以跟着小洛一起学习，有疑问大家可以随时在交流群提～

什么是线性回归

线性回归是利用线性的方法，模拟因变量与一个或多个自变量之间的关系。对于模型而言，自变量是输入值，因变量是模型基于自变量的输出值，适用于x和y满足线性关系的数据类型的应用场景。

线性回归应用于数据分析的场景主要有两种：

驱动力分析：某个因变量指标受多个因素所影响，分析不同因素对因变量驱动力的强弱（驱动力指相关性，不是因果性）；
预测：自变量与因变量呈线性关系的预测；

模型数学形式：𝑦=𝑎0+𝑎1𝑥1+𝑎2𝑥2+⋯+𝑎𝑛𝑥𝑛

例如要衡量不同的用户特征对满意分数的影响程度，转换成线性模型的结果可能就是：分数=-2.1+0.56*年龄

线性回归模型分为一元线性回归与多元线性回归：区别在于自变量的个数

线性系数的计算-最小二乘法

我们知道了模型的公式，那么模型的系数是如何得来呢？我们用最小二乘法来确定模型的系数。最小二乘法，它通过最小化误差的平方和寻找数据的最佳函数匹配，利用最小二乘法可以求得一条直线，并且使得拟合数据与实际数据之间误差的平方和为最小。

将上述模型公式简化成一个四个点的线性回归模型来具体看：分数=-2.1+0.56*年龄

最小二乘法选取能使模型 误差平方和= 𝒆1𝟐+ 𝒆2𝟐+ 𝒆3𝟐+ 𝒆4𝟐最小化的直线，生成直线后即可得出模型自变量的系数和截距。

决定系数R方（R-squared）与调整R方

R方(适用一元线性回归)

R方也叫决定系数，它的主要作用是衡量数据中的因变量有多准确可以被某一模型所计算解释。公式：

离差平方和：代表因变量的波动，即因变量实际值与其平均值之间的差值平方和

误差平方和：代表因变量实际值与模型拟合值之间的误差大小

故R方可以解释因变量波动中，被模型拟合的百分比，即R方可以衡量模型拟合数据的好坏程度；R方的取值范围<=1，R方越大，模型对数据的拟合程度越好；

使用不同模型拟合自变量与因变量之间关系的R方举例，

R方=1 模型完美的拟合数据(100%)

R方=0.91 模型在一定程度较好的拟合数据(91%)

R方<0 拟合直线的趋势与真实因变量相反

调整R方(适用多元线性回归)

一般的R方会存在一些问题，即把任意新的自变量加入到线性模型中，都可能会提升R方的值，模型会因加入无价值的变量导致R方提升，对最终结果产生误导。

故在建立多元线性回归模型时，我们把R方稍稍做一些调整，引进数据量、自变量个数这两个条件，辅助调整R方的取值，我们把它叫调整R方，调整R方值会因为自变量个数的增加而降低(惩罚)，会因为新自变量带来的有价值信息而增加(奖励)；可以帮助我们筛选出更多有价值的新自变量。

n：数据量大小（行数）->数据量越大，新自变量加入所影响越小；

p：自变量个数->自变量个数增加，调整R方变小，对这个量进行惩罚；

一句话，调整R方不会因为模型新增无价值变量而提升，而R方会因为模型新增无价值变量而提升！通过观测调整R方可以在后续建模中去重多重共线性的干扰，帮助我们选择最优自变量组合。

R方/调整R方值区间经验判断

<0.3->非常弱的模型拟合
0.3-0.5->弱的模型拟合
0.5-0.7->适度的模型拟合
>0.7->较好的模型拟合

线性回归在数据分析中的实战流程

我们以共享单车服务满意分数据为案例进行模型实战，想要去分析不同的特征对满意分的影响程度，模型过程如下：

1、读取数据

2、切分因变量和自变量、分类变量转换哑变量

3、使用VIF去除多重共线性

多重共线性：就是在线性回归模型中，存在一对以上强相关变量，多重共线性的存在，会误导强相关变量的系数值。

强相关变量：如果两个变量互为强相关变量，当一个变量变化时，与之相应的另一个变量增大/减少的可能性非常大。

当我们加入一个年龄强相关的自变量车龄时，通过最小二乘法所计算得到的各变量系数如下，多重共线性影响了自变量车龄、年龄的线性系数。

这时候，可以使用VIF消除多重共线性：VIF=1/(1-R方)，R方是拿其他自变量去线性拟合此数值变量y得到的线性回归模型的决定系数。某个自变量造成强多重共线性判断标准通常是：VIF>10

我们发现，年龄的VIF远大于10，故去除年龄这一变量，去除后重新计算剩余变量VIF发现所有均<10，即可继续。

4、计算调整R方

5、数据标准化

我们希望不同自变量的线性系数，相互之间有可比性，不受它们取值范围影响

6、拟合模型，计算回归系数

共享单车分数案例，因变量是分数，自变量是年龄、组别、城区，线性回归的结果为：分数 = 5.5 + 2.7 * 年龄 +0.48 * 对照组 + 0.04 * 朝阳区 + 0.64 * 海淀区 + 0.19 * 西城区

7、生成分析洞见-驱动力因素

最终产出不同用户特征对用户调研分数的驱动性排名。驱动力分数反应各个变量代表因素，对目标变量分数的驱动力强弱，驱动力分数绝对值越大，目标变量对因素的影响力越大，反之越小，驱动力分数为负时，表明此因素对目标变量的影响为负向。

8、根据回归模型进行预测

至此，回归模型已经建好，预测就不写了，把要预测的数据x自变量导入模型即可预测y。

相信大家读完这篇文章，对线性回归模型已经有了一些了解，大家快快动起手来把模型应用到自己的实际工作中吧！

-END-

爱数据福利放送

《机器学习资料包》

（机器学习图谱+机器学习十大算法）

扫描/识别下方二维码后

回复【226】即可领取

《机器学习资料包》概览

《机器学习技能图谱》

点击阅读原文，了解数据分析课程

爱数据LoveData

国内领先数据分析社区，专注数据分析知识分享及求职辅导。爱数据作为一线数据厂商（帆软、观远、永洪等）培训合作伙伴，曾联合阿里、美团、滴滴等一线公司开展数据领域专题分享会。积累10年+行业经验，链接千人数据分析高端人脉，累计服务15w+用户。

最新文章

7个回归分析方法！数据分析师必须掌握

3个面试常见的SQL数据分析题（含数据和代码）

数据分析面试必看！某指标下降了，应该怎么办？

数据分析·业务面试班

7张图总结：SQL数据分析常用语句，一定要收藏！

深度好文：详解用线性回归模型做数据分析，数据分析师进阶必看!

数据分析·就业实战班，0基础高薪入职必备！

36个 Excel 函数！数据分析师常见必备法器！

数据分析前置工作指南 | 超详细版本

盘点数据分析必备的5大核心能力

全网最高性价比的「数据分析」课程，0基础到进阶！

数据清洗超详细概述！含实战演练！

数据分析面试题集锦(一)

数据分析面试题集锦(二)

4000字干货!「数据指标体系」搭建方法详解，赶紧收藏！

数据分析项目，这样做能满足运营的需求

10张图，详解「用户分层」怎么做！

月薪8K，15K，20K数据分析师简历，有哪些区别？

最硬核的数据领域课程，学完就能拿高薪！

一文读懂，数据分析综合评价方法——层次分析法！

分享6款超实用的抖音数据分析工具！助你成为运营高手！

超强干货—SQL语法大合集！看这一篇就够了！

9大「SQL面试题」常见知识点汇总！

5分钟「小红书」关键业务指标说明！数据分析师必看！

35岁后，互联网数据分析人的出路在哪里？

52个数据可视化图表鉴赏，收藏！

拒绝月薪18K的数据分析工作，为什么？

小白看过来！零基础转行数据分析攻略！

8步教你最有效的数据分析方法

如何在工作中快速提升数据分析能力？这五个习惯可以帮助到你！

10个顶级实用的Python库！

数据分析·就业实战班，0基础高薪入职必备！

数据分析规范总结，建议收藏！

10个顶级实用的Python库！

【逻辑思维】数据分析师必备

数据分析·就业实战班，0基础高薪入职必备！

涨薪：9种最常用数据分析方法！

Excel数据分析基础知识大盘点

数据分析师求职：薪资和行业，哪个更重要？

数据分析报告模板来啦！手把手教你做数据分析

转行跳槽，我如何做到成功入职字节跳动

数据分析·就业陪跑，0基础高薪入职必备！

史上最全SQL基础知识总结！

史上最全！数据分析进阶教程，看这一篇就够了！

MySQL导入SQL文件的三种方法！

8个必知必会的统计学基础概念，让你的数据分析更“精准”！

大厂SQL面试常考知识点总结，附真题！

干货|如何构建业务数据分析体系？

数据分析案例分享：1个完整的聚类分析怎么做？

微博商业分析师JD拆解，还有这些隐藏要求？

分类

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉