APL Machine Learning 主编力作
近日AIP出版社期刊APL Machine Learning主编、来自英国UCL 的 Adnan Mehonic在APL Materials撰写重磅Roadmap文章，综述新兴技术推动下神经形态计算的发展，分析了当前面临的计算挑战、神经形态计算的基本原理、成熟和新兴技术，并探讨了材料挑战和新型计算概念。
文章标题：Roadmap to neuromorphic computing with emerging technologies
https://doi.org/10.1063/5.0179424
扫描二维码 查看原文
数据驱动的应用，特别是人工智能（AI）的日益普及，正在改变我们与技术的互动方式，也引发了人们对其进一步研究、开发和应用的浓厚兴趣，从而有效解决许多长期未解的复杂问题。AI和机器学习的广泛应用推动了科学研究、教育、交通、智慧城市、电子健康和元宇宙等领域的发展。然而，过度关注性能有时忽视了重要问题，例如，我们对即时信息获取的依赖，可能忽略了支持这一过程的计算系统带来的能源消耗和环境影响。因此，平衡性能与可持续性对于技术发展至关重要，AI对环境的影响也日益受到关注。
图1(a)显示了过去40年算力需求的变化，近年来每两个月需求大约翻倍。智能架构和硬件与软件协同设计取得了显著进展，例如，NVIDIA （GPU）在2012至2021年间性能提升了317倍，超出了摩尔定律的预测。然而，传统计算方法在长期内难以满足需求，尤其是考虑到训练深度学习模型时的高成本（图1(b)）。因此，探索替代方法以确保AI可持续发展至关重要。除了全球能源消耗，另一个挑战是低功耗系统在不依赖云计算的情况下执行复杂AI算法的能力。这两个独立的问题，可能需要不同的解决策略。
图1(a) 运行最先进人工智能模型所需的算力需求增加。
图1(b) 训练人工智能模型所需的成本。
经A. Mehonic和A. J. Kenyon授权改编并转载，Nature 604, 255 (2022).（2022）。版权所有 © 2022 Springer Nature Limited。
计算的能效和性能可以通过模仿大脑的生物机制来提升。生物系统通常高度专业化，不同任务需要不同计算方案，但我们仍可从其通用特征中汲取灵感，单一架构难以适用于所有应用场景。通过跨学科合作，材料科学、器件工程、系统设计以及算法开发的专家们共同推动神经形态计算的发展。这种合作对于促进生物系统与人工智能的结合至关重要。"神经形态"一词最早由Mead在20世纪80年代提出，指模仿生物神经系统特征的器件和系统。如今，这一术语涵盖了具有脑启发特性的系统，如存内计算、硬件学习、脉冲处理、细粒度并行处理和减精度计算。生物单元（如神经元）和电子元件（如忆阻器）也有相似之处。值得注意的是，许多与神经形态计算相关的范式也已单独研究，如存内计算，它是提升AI硬件和一般计算能效的重要途径，并突破了传统冯·诺依曼架构。
神经形态研究可分为三个主要领域：“神经形态工程”利用CMOS技术（如亚阈值晶体管）或后CMOS技术复制大脑的计算单元和机制；“神经形态计算”借鉴生物系统，探索新型数据处理方法，如基于脉冲的计算；以及“神经形态器件”开发创新的纳米器件，通常模拟生物组件（如神经元和突触）或实现存内计算等功能。神经形态研究方法可按研究目标分为两类：一类专注于开发高效硬件平台，帮助理解生物神经系统；另一类则借鉴大脑原理，创造创新计算应用。本文重点讨论后一类，尽管已有许多综述文章全面概述了神经形态技术，本文特别强调材料工程在推进CMOS和后CMOS技术中的关键作用，并提供计算系统面临挑战的整体视角，解释选择神经形态方法的原因。本文还简要总结了当前技术，以帮助理解材料工程在神经形态领域中的作用。
图2 神经形态计算主要硬件技术的示意演变图（年代仅代表时间框架）
本文首先介绍了当前数字计算的概况，聚焦摩尔定律缩放和冯·诺依曼架构，并讨论了保持摩尔定律有效性面临的挑战。随后分析了后CMOS技术和架构的重要性及其在计算和存储整合中的潜力。接着，回顾了神经形态方法的历史背景和应用前景。本文全面回顾了新兴技术的最新进展，并进行了批判性比较，讨论了它们在未来计算系统构建中的作用。同时，讨论了静态随机存储器（SRAM）和闪存等成熟技术。新兴技术概述包括：阻变材料、忆阻器、相变材料、铁电材料、磁性材料、自旋电子材料、光电材料、二维器件等。文章还讨论了材料面临的挑战、解决方案及研究方法，并探索了新颖的计算概念，重点关注器件和系统的变化性、基于脉冲的计算系统、线性代数的模拟计算，以及在存内计算和优化求解器中使用模拟内容可寻址存储器（CAM）。最后，文章评估了这些技术的成熟度和未来发展方向。
随着对晶体管依赖的电子技术数十年发展，我们正迎来纳米电子技术的新纪元，其中基于功能材料的纳米电子技术变得尤为重要。纳米级忆阻器，作为这一领域的明星，以其直接堆叠结构、多样化功能和特定优势——如可扩展性、温度稳定性、抗干扰能力——在众多应用中扮演着关键角色。忆阻器及其类似技术已成为下一代神经形态计算架构的基础单元，从20世纪60年代的阻变存储器发展至今，已成为人工神经元和突触的关键技术。
材料科学的基础原理对于开发新型纳米电子技术至关重要。忆阻器的吸引力源于其所具备的多种优势，这些优势受到材料及工艺的影响和调节。阻变薄膜的材料种类繁多，包括一维、二维和三维材料，涵盖无机、有机及生物材料。忆阻行为的物理现象包括相变、氧化还原反应、离子传输、电子效应、范德华力，以及磁性和磁阻变化。这些现象强烈依赖于所使用的材料，而主要挑战在于正确选择适当材料组合及其尺寸。
图3 当前忆阻器技术中使用的材料系统示例
神经形态硬件技术未来发展的关键步骤，包括短期目标（2-3年）是将新型非易失性存储器与数字系统集成，并在同一芯片上制造。中期目标（3-5年）涉及模拟计算，而长期目标则是实现真正的神经形态功能。尽管预测这些目标的实现时间存在不确定性，但MRAM、RRAM和PCM等技术已经在产品中得到应用。近期研究成果表明，在未来3-5年内，某些模拟系统可能会被更广泛地应用，而真正的神经形态技术可能率先在特定场景中实施。
推荐最有前景的材料系统是一项复杂的任务。RRAM技术因其简单性和与CMOS的兼容性可能具有优势。基于HfO2的FeRAMs和MRAM技术也展现出活跃的发展前景。二维材料有望与这些技术集成，进一步提升器件性能。不同的应用对材料的要求不同，从嵌入式系统的集成便利性到非易失性存储器超越闪存的性能需求，以及对非传统模拟或神经形态功能的需求，都在不断发展中。
神经形态技术无疑是未来计算领域的有力竞争者，无论是基于传统的数字、模拟计算，还是基于概念上不同的计算和信号处理范式，它都展现出巨大的潜力。随着研究的深入和技术的发展，神经形态计算将在未来发挥重要作用，特别是在解决长期未解的复杂问题和推动科学研究、教育、交通等领域的发展中。
引用此文献：
A. Mehonic, D. Ielmini, K. Roy, O. Mutlu, S. Kvatinsky, T. Serrano-Gotarredona, B. Linares-Barranco, S. Spiga, S. Savel’ev, A. G. Balanov, N. Chawla, G. Desoli, G. Malavena, C. Monzio Compagnoni, Z. Wang, J. J. Yang, S. G. Sarwat, A. Sebastian, T. Mikolajick, S. Slesazeck, B. Noheda, B. Dieny, T.-H. Hou, A. Varri, F. Brückerhoff-Plückelmann, W. Pernice, X. Zhang, S. Pazos, M. Lanza, S. Wiefels, R. Dittmann, W. H. Ng, M. Buckwell, H. R. J. Cox, D. J. Mannion, A. J. Kenyon, Y. Lu, Y. Yang, D. Querlioz, L. Hutin, E. Vianello, S. S. Chowdhury, P. Mannocci, Y. Cai, Z. Sun, G. Pedretti, J. P. Strachan, D. Strukov, M. Le Gallo, S. Ambrogio, I. Valov and R. Waser, APL Materials 12 (10) (2024).
期刊介绍
APL Materials聚焦材料科学领域内的重要主题的原创性和实验性研究。为突出材料科学前沿性研究，本刊强调质量和及时性。当研究特别及时且与应用相关时，期刊考虑理论或计算。
关于AIP出版社
美国物理联合会出版社（AIP 出版社）是美国物理联合会（AIP）旗下的非营利独资出版社。AIP 出版社的使命是在物理和相关科学领域开展学术出版活动，以支持AIP的慈善、科学和教育目标。我们也代表出版合作伙伴进行出版活动，以帮助其积极推进自身的使命。
访问主页：https://publishing.aip.org/
相关文章推荐
APM |《应用物理快报-材料》——促进知识共享与创新思维碰撞
