文章来源:中国光学
原文作者:Light科普坊
电影《三大队》
小百科:什么是“贝叶斯推理”
贝叶斯推理是一种在不确定情况下进行概率判断和决策的数学方法,它源于18世纪英国数学家托马斯·贝叶斯的研究。
贝叶斯推理的核心原理是:根据已知信息得出一个“先验概率”,然后每获取一条新证据,就利用贝叶斯公式,结合新线索对先验概率进行修正,得到"后验概率"的更新值。这一修正过程会不断重复,持续引入新信息,使概率估计值逐步向真实概率靠拢。
具体来说,贝叶斯公式运用了条件概率的乘法法则,将后验概率表示为:后验概率=先验概率*似然函数/证据概率。其中似然函数描述了新证据发生的概率,证据概率是一个归一化因子。这样就能通过简单的概率乘除法,将先验概率与新证据整合,得到修正后的后验概率估计。
通过循环迭代,贝叶斯推理让我们在不断吸收新信息的同时,动态调整对事件可能性的判断。最终不仅给出最有可能的结论选择,还能量化出对这个选择的确信程度有多高。
贝叶斯推理都发挥着重要作用,帮助我们在不确定的世界中作出明智的判断和决策。
图1:贝叶斯定理的提出者英国数学家托马斯·贝叶斯(1702-1761)
美国辛普森杀妻案
图2:1995年法庭上的辛普森
贝叶斯推理的应用
贝叶斯推理应用范围广泛,包括二战密码破译、医学诊断、电商推荐、垃圾邮件识别、金融投资决策、剧本杀游戏等。在人工智能和计算光学成像领域也扮演重要角色。
我们拍照片时,相机记录完整光场数据,可直接获得清晰图像。但在很多情况下,相机只能获取有限的数据,却需重建出清晰照片。一个典型例子是2019年发布的首张黑洞照片。由于黑洞在遥远的宇宙深处,理想条件是建造一个地球大小的射电望远镜,但现实中只有分布在全球各处的8个普通大小望远镜采集数据。尽管数据有限,但通过对黑洞的科学认知,从中猜测出一张“合理的”照片成为可能。
图3:2019年发布的历史上第一张黑洞照片
重建照片既需要理想化地满足各种约束条件,又需现实化地拟合测量数据。在贝叶斯框架下,可将这两方面需求量化为概率值,并将它们结合为总体概率值,以此为目标寻找最佳重建结果。研究者历时两年,综合多种算法,最终才获得了那张被广为传播的黑洞照片,尽管无法百分百保证与真实一致,但已是正确可能性最大的猜测结果。
不止在宇宙探索中需要考虑照片真相的不确定性,我们日常应用中也是如此。例如普通相机只能拍摄平面图像,要测量物体的三维形状,需结合投影仪和相机共同实现。通常需多次投射不同结构光条纹图案才能获取足够数据,如果只有单张条纹图案,数据不足会导致重建结果的不唯一性。在这种情况下,如何顺利重建三维模型[2]?
图4:结构光三维测量:通常需要依次投影多张不同的条纹图案[3]
图5:在差分相衬和傅里叶叠层显微成像相结合的方案中,将不同照明模式下光强度的照片数量从173张至185张降低到仅为5张,输入经数据训练的贝叶斯神经网络,仍然可以预测出显微镜下微小生物样本的高分辨率相位图像,并且同时附带生成一张不确定概率图,表示预测结果中各个不同部分的可信程度[4,5]
普通相机所使用的图像传感器通常是一个由很多微小单元组成的阵列,每个小单元用于记录照片中每个像素的信息,然而在可见光以外的一些波段,比如红外,X光和太赫兹,这种阵列传感器难以制造出来,或者价格非常昂贵,研究者转而尝试另一种称为单像素成像(Single-pixel Imaging, SPI)的替代方案。这种特殊的相机中,传感器只有一个像素,每次只能记录物体场景整体的光强弱,拍摄者需要每次把不同的投影图案照射到物体表面,经过很多次不同图案的照射,单像素探测器收集到足够多的数据,也可以计算重建出物体图像来。但同样这里的关键词是“足够多”,如果我们只希望照射很少量的投影图案,记录下很少的数据,能否依旧重建出清晰的物体图像呢[6]?
普通深度学习模型虽能给出预测结果,但无法量化该结果的可信程度。我们希望人工智能不仅能猜出答案,还要“有自知之明”,给出答案的可信度。
贝叶斯深度学习就可以满足了这一需求,它将神经网络当前的连接权重值视为先验概率模型,每个训练样本相当于一条新线索,可以不断将先验概率更新为后验概率。如此一来,神经网络不再固定不变,能同时给出预测结果及其不确定性估计。
举例来说,在计算成像任务中,普通神经网络只能输出重建的图像,而贝叶斯神经网络不仅能重建图像,还能为每个像素值附加一个不确定度评估。这就展现了不确定世界的更完整图景。
总结
参考资料
[1]Leonard Mlodinow著,郭斯羽译,醉汉的脚步:随机性如何主宰我们的生活,湖南科学技术出版社(2010)
[2]S. Feng, C. Zuo, Y. Hu, Y. Li, and Q. Chen, "Deep-learning-based fringe-pattern analysis with uncertainty estimation," Optica 8(12), 1507-1510 (2021)
[3]左超,张晓磊,胡岩,尹维,沈德同,钟锦鑫,郑晶,陈钱, "3D真的来了吗?——三维结构光传感器漫谈," 红外与激光工程, 49(3), 45 (2020).
[4]Y. Xue, S. Cheng, Y. Li, and L. Tian, "Reliable deep-learning-based phase imaging with uncertainty quantification," Optica 6(5), 618-629 (2019)
[5]L. Tian, X. Li, K. Ramchandran, and L. Waller, "Multiplexed coded illumination for Fourier Ptychography with an LED array microscope," Biomed. Opt. Express 5(7), 2376-2389 (2014)
[6]R. Shang, M. A. O’Brien, F. Wang, G. Situ, and G. P. Luke, “Approximating the uncertainty of deep learning reconstruction predictions in single-pixel imaging,” Commun. Eng. 2, 53 (2023).
END
转载内容仅代表作者观点
不代表中国科学院半导体所立场
编辑:柚子露
责编:六块钱的鱼
投稿邮箱:weixin@semi.ac.cn