【线性装逼】全网最强奇异值分解证明

文摘   2024-07-12 07:22   比利时  

差不多一年前的时候结合MIT的线性代数公开课,以及一些英文统计论坛的帖子,自己拟过一份关于奇异值分解(Singular Value Decomposition,简称SVD)的证明。

最近开始温习这部分内容,一方面发现自己去年写这些证明的时候更多只是做了一些整合工作,理解程度可能还不深,另一方面又惊叹自己一年前就可以写出全部的证明哈哈……

由于最近也在适应TexStudio的写作(之后要做免费系统的统计学基础课程,得用它写工整全面的Course Notes),所以根据自己现在的理解,又将整个证明用LaTex重新码了一遍。证明最后部分的全零行和全零列部分加入了一些自己新的理解,但是这部分理解更像是一种直觉,没有被充分证明,一方面是篇幅关系,另一方面自己也没有完全想好怎么去写。

我把Compile出的PDF证明文档导出为图片放在下面,大家有兴趣可以看。非粉丝群的读者如果想要证明的PDF文档可以打赏任意金额后留下邮箱,粉丝群的读者应该很快可以群文档分享中看到PDF文档的下载链接,在上传前我还要抽时间再看一遍检查typo,可能也再做一些小改进(比如补全最后部分的完整证明)。有发现typo的朋友也可以评论区提醒我一下!

整份证明用的Notation和Gilbert Strang的Introduction to Linear Algebra是一致的,我没有接受过专业的数学训练,所以写的证明格式肯定也有很多不符合数学论文的写作规范,所以它只是A proof。我相信肯定存在写得更好更严谨的证明,所以标题的“全网最强”就是放个屁,大家把我当个主业在马戏团表演业余学数学的小丑就行。

如下是SVD的证明:

最后的全零行和全零列的理解,还可以扩展到对Eckart-Young Theorem以及PCA的理解方面,这个我之后可能再找文章分享。

这篇文章你们肯定懒得看,所以不用点赞和在看,让我默默地装逼就好了,谢谢大家配合!

PsychoStatisticia
一个统计学研究者的个人天地
 最新文章