FWL定理：残差能否作为被解释变量？

👇 连享会 · 推文导航 | www.lianxh.cn

• 🍎 Stata：Stata基础 | Stata绘图 | Stata程序 | Stata新命令
• 📘 论文：数据处理 | 结果输出 | 论文写作 | 数据分享
• 💹 计量：回归分析 | 交乘项-调节  | IV-GMM | 时间序列 | 面板数据  | 空间计量 | Probit-Logit | 分位数回归
• ⛳ 专题：SFA-DEA | 生存分析  | 爬虫 | 机器学习 | 文本分析
• 🔃 因果：DID | RDD | 因果推断 | 合成控制法 | PSM-Matching
• 🔨 工具：工具软件 | Markdown | Python-R-Stata
• 🎧 课程：最新专题 |  计量专题 | 关于连享会

🍓 课程推荐：2024 机器学习与因果推断专题
主讲老师：司继春 (上海对外经贸大学) ；张宏亮（浙江大学）
课程时间：2024 年 11 月 9-10 日 ；16-17日
课程咨询：王老师 18903405450（微信）

 课程特色 · 2024机器学习与因果推断：

• 懂原理、会应用。本次课程邀请了两位老师合作讲授，目的在于最大限度地实现理论与应用的有机结合。为期四天的课程，分成两个部分：第一部分讲解常用的机器学习算法和适用条件，以及文本分析和大语言模型；第二部分通过精讲 4-6 篇发表于 Top 期刊的论文，帮助大家理解各类机器学习算法的应用场景，以及它们与传统因果推断方法的巧妙结合。
• 以 Top 期刊论文为范例。目前多数人的困惑是不清楚如何将传统因果推断方法与机器学习结合起来。事实上，即便是 MIT 和 Harvard 的大牛们也都在「摸着石头过河」。为此，通过论文精讲和复现来学习这部分内容或许是目前最有效的方式了。张宏亮老师此前在浙江大学按照这一模式教授了「因果推断和机器学习」课程，效果甚佳：学生们能够逐渐建立起研究设计的理念，并在构造识别策略时适当地嵌入机器学习方法。  

作者：韩杰 (暨南大学)、唐奕可 (湖南大学)
邮箱：han_ovetk@foxmail.com

编者按：本文主要摘译自下文，特此致谢!
Source：Chen W E I, Hribar P, Melessa S. Incorrect inferences when using residuals as dependent variables[J]. Journal of Accounting Research, 2018, 56(3): 751-796. -PDF-

温馨提示： 文中链接在微信中无法生效。请点击底部「阅读原文」。或直接长按/扫描如下二维码，直达原文：

目录

• 1. 引言

• 2. 会计研究中的两步回归框架

• 2.1 会计研究中的两步回归框架

• 2.2 两步法在会计研究中的应用

• 3. 两步回归分析的结果

• 4. 解决方案

• 5. 相关推文

两步回归法是实证会计与金融研究中的常用手段。研究人员通常使用普通最小二乘法将一个因变量分解为预测和残差两部分，并将残差部分作为第二次回归的因变量。然而这一方法计算的系数和标准误是有偏的，并且偏差的大小是模型中回归变量相关性的函数。

1. 引言

会计和金融的许多研究检查了各种变量的异常的决定因素，或无法解释的组成部分。例如，可操控性应计利润、超额薪酬、异常股票回报等。这些研究的典型做法是，先进行第一步 OLS 回归，然后将残差 (未预期部分) 作为第二步的因变量回归。

当第二步回归中包括许多控制变量时，上述做法是有问题的。这主要是因为偏差的性质 (膨胀、衰减或符号变化) 取决于第一步和第二步中回归变量相关性的符号和强度。通过模拟分析，作者认为当回归变量之间存在更强的相关性时，偏差可能更加严重。

2. 会计研究中的两步回归框架

2.1 会计研究中的两步回归框架

首先，使用 OLS 将给定变量划分为解释和未解释两部分：

其中， 可以是审计费用、高管薪酬、应计利润总额或其他因变量， 是 的可预期部分， 是 的未预测部分。然后，将 对感兴趣变量 ，或 加一组控制变量回归。

研究人员将 解释为 对 的单位异常影响。

需要注意的是，本文的研究结果不适用于：

• 两阶段最小二乘 (2SLS) 方法：该方法将第一阶段回归的预测值作为第二阶段回归的自变量，以解决内生性问题；
• 不适用于第一步回归的残差作为第二步回归的自变量。

2.2 两步法在会计研究中的应用

Beaver (1987) 回顾了两步法的使用情况，并指出在这段时间内 (20 世纪 60 年代至 80 年代中期)，两步法在剩余证券收益的研究中最为普遍。与此同时，Beaver (1987) 认为在这些两步回归中，式 (2) 中 的系数估计偏向于零。尽管 Beaver (1987) 证明了衰减偏差，但两步回归方法的使用自那以后越来越受欢迎，并扩展到会计研究的各个领域。

据作者统计，在 2011 年至 2015 年期间，CAR、JAE、JAR、RAS 和 TAR 等期刊发表了 61 篇采用这一方法的论文。其中，最多被分解的变量是应计项目，共有 24 项研究。除此之外，被分解变量还包括：实际活动管理 (7 项)、永久账面税差异 (4 项)、审计费用 (4 项)、收益 (4 项)、薪酬 (3 项) 和投资 (2 项)。

3. 两步回归分析的结果

首先，使用 FWL 定理 (Frisch–Waugh–Lovell) 来证明一个简单两步模型产生的系数偏差。为了便于理解，这里先假设只有两个独立变量，总体回归方程如下：

上述方程的 OLS 回归可以写成：

其中， 是 或感兴趣的变量。在高斯-马尔科夫假设下，系数 、、 是 、、 的无偏估计。FWL 定理证明了 的无偏估计不仅可以通过式 (5) 得到，而且还可以通过一个简单的两步回归得到。第一步，估计模型如下：

第二步，将式 (6) 的残差  对「 对 回归的残差」进行回归，估计模型如下：

其中， 为 对 回归的残差，估计模型如下：

在这里，式 (7) 得到的 系数和标准误差与式 (5) 几乎相同，因此这两种方法是等价的。式 (7) 中 可以表示为 ，用 替换 ，由于 正交于 ，分子可以简化为 。因此， 可以重新表示为 。

在实证会计和金融研究中，常用的两步估计方法包括一个类似于式 (6) 的第一步回归，以及一个如下形式的第二步回归：

式 (9) 的 可以表示为 。这个表达式的分子与式 (7) 中 表达式的分子相同，分母 至少与表达式 的分母 一样大。特别地，由于 为式 (8) 的残差，当 和 之间的协方差不为零时， 将大于 。因此，给定 和 之间的非零协方差，常见的两步法在估计 时会产生衰减偏差，并且这个偏差随着 和 之间协方差变动。

请注意，当使用第一步回归产生残差，并在第二步使用 检验观察对照组和处理组之间的平均值差异时，这个简单模型产生的偏差也适用 (例如，检验参与增发股票的公司和控制组公司的异常应计利润的平均水平是否不同)。这里，均值t检验等价于第二步回归，其中第一步回归的残差在识别两组样本的指标变量上回归。如果指标或划分变量与任何一个第一步回归变量相关，指标变量的系数估计和 统计量将会有偏差。

由于两步法产生的系数偏差是衰减偏差， 和 之间关系的大小是被低估了。同时，两步法计算的标准误差和 统计量也是有偏差的。综上所述，当第二步回归中没有控制变量时 (正如 60—80 年代会计研究中常见的那样)，系数估计、标准误差和检验统计量都会偏向于零。进一步，本文也证实了当控制变量包含在第二步回归中时 (这在最近几十年变得流行)，两步法依旧会造成偏差。

4. 解决方案

有几个简单的方法可以缓解两步回归中产生的偏差：

• 在一个单步回归中估计所有变量的系数，而不是两步回归；
• 根据 FWL 定理，第一步利用式 (6) 和式 (8) 得到残差，第二步利用式 (7) 来估计系数；
• 利用第一阶段的回归残差，对第二阶段所有协变量和第一阶段所有协变量进行回归。

5. 相关推文

Note：产生如下推文列表的 Stata 命令为：
  lianxh 回归 盈余, m
安装最新版 lianxh 命令：
  ssc install lianxh, replace

• 专题：回归分析
• Stata：回归后假设检验一览
• Stata：滚动回归的五个命令-rolling
• 正确姿势：回归系数的解释与评估
• 多元回归系数：我们都解释错了？
• 图示线性回归系数：Frisch-Waugh定理与部分回归图
• Stata: 如何检验分组回归后的组间系数差异？
• Stata: 获取分组回归系数的三种方式
• 专题：数据处理
• 穿透财务障眼法：盈余管理指标测算及 Stata 实操
• 专题：回归分析
• Stata：各类盈余管理指标估算方法
• 残差是个宝：盈余管理、过度投资、超额收益怎么算？