利用光电子技术降低人工智能和数据中心的能源成本

文摘   科技   2024-09-03 08:02   四川  
引言
随着人工智能(AI)持续革新生活的各个方面,数据中心的能源需求正在急剧增加。本文探讨光电子技术如何帮助缓解AI和数据中心日益增长的能源危机,重点关注三个关键领域:光子处理器、光开关和光存储[1]。


日益增长的能源挑战

以ChatGPT为代表的生成式AI的兴起,大幅增加了数据中心的能源需求。根据国际能源署的数据,一次ChatGPT查询消耗约2.9瓦时的电力,几乎是传统谷歌搜索的十倍。预计到本十年末,AI数据中心可能消耗美国20%到25%的电力需求,而目前这一比例为4%。

图1:数据中心的服务器。


能源消耗的激增不仅影响电力使用,还影响用于冷却的水资源消耗。为应对这些挑战,研究人员正转向基于光电子技术的解决方案,这些方案有望提供更高的效率和更低的能耗。


光电子处理器:用光进行计算

光电子处理器使用光而不是电进行计算,相比传统电子处理器具有几个优势:

  1. 更高的信息承载带宽

  2. 传输高频数据时对噪声的敏感度更低

  3. 有潜力实现更快的计算速度和更低的能耗


来自巴伊兰大学的Zeev Zalevsky等研究人员正在开发可以与光通信系统集成的独立光电子处理器。这些处理器使用多核光纤,其中光在核心之间交换,以执行神经网络计算所需的加权求和。

图2:光电子处理器[2]。


光电子处理器的主要优势包括:
  • 更快的计算速度
  • 更低的能耗
  • 通过增加更多光纤核心实现可扩展性

虽然光电子处理器显示出巨大潜力,但将其与现实世界系统对接仍面临挑战。

光开关:提高数据中心效率

光开关为降低数据中心能耗提供了另一种途径。谷歌等公司已经在数据中心网络中实施光线路开关来替代电子开关。

图3:将光学与微机电系统(MEMS)相结合可能实现能够使用现有基础设施生产的节能微芯片。图片来源:悉尼大学


光学微机电系统(MEMS)开关使用微镜阵列重定向光束,实现高效的数据路由。例如,谷歌的Palomar单元使用136个可单独控制的微镜来路由光信号,仅消耗108瓦的功率,而标准电子开关消耗3,000瓦。

研究人员正在进行进一步改进:
  • 将光学和MEMS技术集成到光电子集成芯片(PIC)中
  • 开发无需持续供电即可保持连接的开关
  • 提高光开关的可靠性和可扩展性

光存储:大数据的长期解决方案

随着AI数据集持续增长,对高效、长期数据存储的需求变得越来越关键。光存储技术为管理PB级和EB级数据提供了有前途的解决方案。


光存储技术的主要发展包括:

  1. 5D光存储:南安普顿大学的研究人员展示了一种技术,通过光物理修改二氧化硅玻璃,创建用于数据存储的纳米结构。这种方法允许在单个磁盘内实现多维数据存储。

  2. 3D高密度存储:上海科技大学的一个团队开发了具有PB容量的3D版本,使用双数据写入激光和新型光敏材料。

这些光存储技术具有几个优势:

  • 比传统硬盘和磁带寿命更长

  • 更高的存储密度

  • 有潜力实现更节能的长期数据管理


图4:5D光学数据存储盘


挑战和未来方向
光电子技术在降低AI和数据中心能源成本方面展现出巨大潜力,但仍然存在几个挑战:
  1. 将光电子处理器与现有系统对接
  2. 提高光开关的可靠性和可扩展性
  3. 开发光存储介质的成本效益生产工艺

随着研究的进展,我们可以预期这些技术在数据中心和AI基础设施中的应用将更加广泛。

结论
AI的快速增长及其相关的能源需求为科技行业带来了重大挑战。然而,基于光电子技术的解决方案为更可持续和高效的数据处理和存储提供了途径。通过利用光进行计算、数据路由和存储,我们可以努力减少不断扩展的数字基础设施对环境的影响。

随着这些技术不断成熟,可以期待一个AI和数据中心以显著降低的能源足迹运营的未来,为更可持续的数字增长奠定基础。

参考文献
[1]SPIE, "Powering Down Data Center Energy Usage," Photonics Focus, Jul./Aug. 2024. [Online]. Available: https://spie.org/news/photonics-focus/julyaug-2024/powering-down-data-center-energy-usage?utm_campaign=linkedin&utm_medium=social_networking&utm_source=customer_centric_multi_product#_=_. [Accessed: Aug. 25, 2024].
[2]W. Zhang, J. C. Lederman, T. F. de Lima, J. Zhang, S. Bilodeau, L. Hudson, A. Tait, B. J. Shastri, and P. R. Prucnal, “A system-on-chip microwave photonic processor solves dynamic RF interference in real time with picosecond latency,” Light: Science & Applications, vol. 13, no. 14, Jan. 2024.


- END -



软件申请
我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用,PIC Studio都可提升您的工作效能。

点击左下角"阅读原文"马上申请


欢迎转载


转载请注明出处,请勿修改内容和删除作者信息!




关注我们



                      




关于我们:

深圳逍遥科技有限公司(Latitude Design Automation Inc.)是一家专注于半导体芯片设计自动化(EDA)的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件,提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio,分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务,广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作,推动特色工艺半导体产业链发展,致力于为客户提供前沿技术与服务。


http://www.latitudeda.com/

(点击上方名片关注我们,发现更多精彩内容)




逍遥设计自动化
分享特色工艺半导体(PIC/Power/MEMS)设计自动化解决方案及行业技术资讯,与广大业界朋友、专家共同交流!
 最新文章