线性代数中的二次型(Quadratic Forms)是一个我接触了很久但是一直没有掌握要领的计算方法,之前我一直不太明白我该怎么将一个二次型多项式转化成矩阵形式,或者怎么将一个二次型的矩阵形式转化成多项式形式。
今天在一次具体演算中突然发现了一个比较好的小技巧,我也在这里总结出来分享给大家!当然,有可能你对二次型的掌握已经很好,那么可以看看我的技巧和你是否一样。如果不一样的话,欢迎你在评论区分享你的计算技巧!
先简要介绍一下什么是二次型,对于一个如下的多项式:
我们可以将它写成矩阵的形式:
这一矩阵的形式可以进一步地简化表达为:
因此,二次型帮助我们更加简化地表示多项式。上例只有两个变量x和y,所以简化效果不明显。我们后面会有一个二次型应用的例子,能够帮助大家看到二次型的好处。
我们再回过头来讲二次型的转化小技巧,我的这个转化小技巧是我在计算三变量情况下发现,假如我们有如下二次型的矩阵形式:
假如我们对其进行计算,并且将计算结果按照一定的格式写好:
相信大家和我一样都发现了一些端倪!最后结果中每一项的系数恰好对应了矩阵中的系数,而第一行的未知数分别为x与x,y,z的组合,第二行的未知数分别为y与x,y,z的组合……
因此,我想到一个比较好的办法,帮助我们从一个矩阵形式的二次型迅速看出其多项式形式,如下图:
如图,假如我们想知道多项式中xy项对应的系数,我们可以先找到x行y列,记下第一个系数b,再找到y行x列,记下第二个系数b,两者相加即为xy项对应的系数2b。
这个方法也能够帮助我们快速将二次多项式转化为矩阵形式,假如我们有如下的二次多项式:
我们可以先画一个3*3的空矩阵,然后把x,y,z标在矩阵的左侧和上方:
假如我们想要一个对称矩阵,那么接下来要做的就是填数字:
是不是很简单?但是如果没有学习过或者发现这样的规律的话,你肯定会和我以前一样,看到二次型就一头包。当然,也有可能是我太笨了,到现在才明白!但那又怎样呢?自己探索出来的知识,不管高级与否,都使我感到快乐!
令我更快乐的是,这个二次型的转化技巧可以帮助我推导出一个困扰了我一个下午的公式。今天下午在看主成分分析(PCA)数学推导的材料,里面提到一个这样的公式:
我来解释一下这个公式的意思,公式中的α是一个p*1的已知向量,X是一个p*n的矩阵,Σ是X的协方差矩阵:
在实践中,p就是随机变量的个数,n就是被试数,而αTx代表了将p个变量的数值按照α的配比进行线性组合,它会产生一个如下n*1的向量:
这个向量的方差是多少呢?就是前面这个公式在说的,那么我们如何获得这个公式呢?
先绕回去,用多个随机变量线性组合的方差公式,我们可以得出:
进一步地,由于两个相同随机变量的协方差即为方差,所以我们将其改写为:
可以看到,这其实就是一个关于多个α系数的二次多项式,我们可以遵照上面的方法,画一个空矩阵,再把这些系数标在空矩阵的左侧和上方:
剩下要做的就是把对应的系数逐一填上去:
填完以后我们惊喜地发现,我们填出来的就是X的协方差矩阵,大功告成!
如上,就是本文所有的内容。如果对你有帮助的话,麻烦点一下赞和在看支持一下我哦!
--------------------------------
我的统计学提高班近期正在公开招生,欢迎你点击以下推文查看详情:《12周统计提高班公开招生》
如果你对统计学的资料感兴趣,也欢迎考虑购买我的统计学讲义: