2024 Hot Chips ｜博通展示重要技术突破：AI计算ASIC
科技
科技
2024-09-03 08:14
上海
![]()
芝能智芯出品
在今年的Hot Chips 2024大会上，博通公司展示了一项突破性的技术进展：带有光学附件的AI计算ASIC，硅光子学和共封装光学器件（CPO）在高性能计算和AI领域中的重要应用，并揭示了博通在推动未来计算技术方面的雄心。光学互连技术的出现旨在解决传统电气I/O传输面临的一些关键挑战，如在通过PCB传输时损耗高、距离短和带宽受限。光学技术，特别是硅光子学，提供了一种更高效、更低能耗的替代方案。相比于电连接，光连接在传输速度和信号完整性方面具有显著优势。博通公司正是基于这一优势，将其应用于超大规模数据中心和高性能计算系统中。博通的展示不仅仅是AI加速器的一次升级，而是硅光子学和CPO技术的融合。博通已经在其Tomahawk系列交换机中使用了硅光子学，这些交换机被广泛用于高性能网络连接。新一代的Tomahawk 5 Bailly交换机采用了共封装光学器件，这种设计使得光学模块能够直接集成到芯片封装中，显著减少了系统延迟，并提高了数据传输速度和能效。博通在其设计中采用了可插拔激光器的策略，这与英特尔等公司有所不同。可插拔激光器的设计提高了系统的可维护性，因为激光器是光学模块中最容易失效的部分，能够更换激光器显然降低了整个系统的维护成本。博通在Hot Chips 2024上的展示特别强调了AI计算ASIC中光学互连的潜力。通过结合CPO技术，博通展示了如何将计算ASIC与光学模块和高带宽内存（HBM）封装在一起，从而提供更高的计算密度和更低的功耗。在新的Tomahawk 5 Bailly设计中，光学模块的功耗已经从传统的13-15W降至4.8W以下，这是通过消除DSP的复杂性和直接光学连接实现的。博通的设计理念还包括从xPU（如GPU）中移除光学元件的策略。这样做的好处在于将光学引擎从发热的计算单元中移开，保证光学元件的稳定和可靠运行，光学元件不仅仅是互连的工具，还需要在整个系统设计中考虑其热管理和可靠性。光学互连技术具有许多优势，但也面临着一些挑战，特别是在确保无错误数据传输和模块集成的可靠性方面。博通在其演讲中提到，正在进一步优化解决方案，以确保其光学模块的性能能够与传统的可插拔光学器件相媲美，并提供大规模生产所需的可靠性和一致性。光学互连技术的推广不仅仅是硬件上的革新，更是对整个计算架构的重新思考。博通的展示为行业指明了一个未来的方向，即通过光学I/O技术的引入，AI计算和数据中心的性能和能效将得到前所未有的提升。博通在Hot Chips 2024上的展示是对未来计算技术的前瞻性探索。通过将硅光子学和共封装光学器件应用于AI计算ASIC，博通正在计算技术前沿。
