引言
基于可编程马赫-曾德干涉仪(MZI)网格实现的光神经网络(ONN)已成为加速机器学习计算的方法。本文概述了基于MZI的光处理器,重点介绍了两种关键架构 - Reck网格和Diamond网格,并分析了实现ONN的性能。
MZI光处理器基础
光处理器的基本构建模块是2x2可重构MZI,如图11所示。由两个3-dB耦合器组成,带有可调相移器θ和φ,用于控制功率分配比和两个输出之间的相对相位。
图1:具有可调相移器θ和φ的2x2可重构MZI示意图。
单个MZI的单一转移矩阵由下式给出:
通过在网格中级联多个MZI,可以实现更大的单一变换。图2所示的4x4处理器的Reck网格是一种三角形排列,可使用6个MZI实现任何4x4单一矩阵。
图2:由6个MZI组成的4x4 Reck网格光处理器示意图。
完整4x4 Reck处理器的单一矩阵由各个MZI矩阵的乘积给出:
光处理器编程
要对光处理器进行编程以实现所需的单一变换,必须确定每个MZI所需的相移。这是通过分解过程完成的,该过程将目标矩阵依次乘以逆MZI矩阵:
通过在每个步骤中将非对角元素设置为零,可以提取所需的相移。图3显示了4x4 Reck网格在此分解过程中考虑MZI的顺序。
图3:4x4 Reck网格中用于编程的MZI分解顺序。
光神经网络
ONN利用这些可编程光处理器来实现神经网络层中的线性变换。图4显示了单层ONN的结构。
图4:光学实现的单层神经网络示意图。
光处理器实现权重矩阵W,而非线性激活函数通常以电子方式应用。对于分类任务,网络接受多维输入I0并为每个类别产生输出概率。
网络使用反向传播进行训练,通过最小化均方误差等损失函数来优化权重矩阵:
图5显示了4类数据集示例和4x4 ONN的训练过程。
图5:(a)4类高斯数据集和(b)显示4x4 ONN的损失和准确度与训练周期的关系的训练过程。
Diamond网格架构
Reck网格可以实现任何单一矩阵,但对制造误差和光损耗很敏感。为解决这个问题,提出了一种替代的Diamond网格架构,如图6所示的4x4处理器。
图6:具有9个MZI的4x4 Diamond网格光处理器示意图。
与相同大小的Reck网格相比,Diamond网格使用额外的N(N-1)(N-2)/2个MZI。这提供了几个优点:
更对称的拓扑结构,具有平衡的光路
能够将不需要的光重定向到额外的输出
优化权重矩阵的额外自由度
4x4 Diamond处理器的单一矩阵由下式给出:
可以使用与Reck网格类似的分解过程对其进行编程,遵循图7所示的顺序。
图7:4x4 Diamond网格中用于编程的MZI分解顺序。
性能比较
为比较Reck和Diamond架构,分析了各种大小的单层ONN的实现性能。图8显示了4x4处理器的分类准确度与相位误差的关系。
图8:4x4 Reck和Diamond ONN的分类准确度与相位误差的关系,每个MZI的损耗为(a)0 dB和(b)1 dB。
Diamond网格对相位误差表现出更好的鲁棒性,尤其是在存在光损耗的情况下。这种优势在更大的网络规模中变得更加明显。
图9比较了不同大小处理器(最大64x64)的准确度与相位误差的关系。
图9:不同大小(a-d)Reck和(e-h)Diamond ONN的分类准确度与相位误差的关系。
对于较大的网络,高精度区域缩小,但Diamond网格在所有尺寸上都保持更好的性能。
图10将此分析扩展到包括每个MZI的光损耗影响。
图10:不同大小(a-d)Reck和(e-h)Diamond ONN的分类准确度与损耗和相位误差的关系。
再次,Diamond网格在所有网络规模上表现出更优的鲁棒性。
最后,图11总结了不同网络规模的两个关键性能指标 - 性能指标(>75%准确度的区域)和训练期间达到的最终损失值。
图11:不同大小的Reck和Diamond ONN的(a)性能指标和(b)最终损失值比较。
Diamond网格在这两个指标上始终优于Reck网格,优势随网络规模增大而增加。
结论
基于可编程MZI的光处理器为实现ONN和加速机器学习计算提供了有前途的平台。Reck网格提供了可实现任何单一变换的紧凑设计,但Diamond网格提高了对制造误差和光损耗的鲁棒性。这使Diamond架构更适合实际的大规模ONN。硅基光电子制造和架构设计的持续进步可能会进一步提高这些光处理器的性能,有望实现新一类超快速、节能的机器学习加速器。
参考文献
[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.
点击左下角"阅读原文"马上申请
欢迎转载
转载请注明出处,请勿修改内容和删除作者信息!
关注我们
关于我们:
深圳逍遥科技有限公司(Latitude Design Automation Inc.)是一家专注于半导体芯片设计自动化(EDA)的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件,提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio,分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务,广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作,推动特色工艺半导体产业链发展,致力于为客户提供前沿技术与服务。
http://www.latitudeda.com/
(点击上方名片关注我们,发现更多精彩内容)