根据2024研究前沿报告显示*，类脑计算硬件创新设计方面有两个热点前沿方向，利用忆阻器实现高效的神经网络硬件加速首次成为今年的热点前沿，神经形态计算的硬件设计、算法创新与应用延续了去年脉冲神经网络及其神经形态芯片继续受全球广泛关注，成为今年的热点前沿主题。近日，来自 APL Machine Learning主编、来自英国UCL 的 Adnan Mehonic及其合作者们及时捕捉到了这一热点前沿方向，并在APL Materials撰写重磅Roadmap文章，综述新兴技术推动下神经形态计算的发展，分析了当前面临的计算挑战、神经形态计算的基本原理、成熟和新兴技术，并探讨了材料挑战和新型计算概念。
（*内容来源：科睿唯安2024研究前沿报告）
文章标题：Roadmap to neuromorphic computing with emerging technologies
https://doi.org/10.1063/5.0179424
扫描二维码 查看原文
数据驱动的应用，特别是人工智能（AI）的日益普及，正在改变我们与技术的互动方式，也引发了人们对其进一步研究、开发和应用的浓厚兴趣，从而有效解决许多长期未解的复杂问题。AI和机器学习的广泛应用推动了科学研究、教育、交通、智慧城市、电子健康和元宇宙等领域的发展。然而，过度关注性能有时忽视了重要问题，例如，我们对即时信息获取的依赖，可能忽略了支持这一过程的计算系统带来的能源消耗和环境影响。因此，平衡性能与可持续性对于技术发展至关重要，AI对环境的影响也日益受到关注。
图1(a)显示了过去40年算力需求的变化，近年来每两个月需求大约翻倍。智能架构和硬件与软件协同设计取得了显著进展，例如，NVIDIA （GPU）在2012至2021年间性能提升了317倍，超出了摩尔定律的预测。然而，传统计算方法在长期内难以满足需求，尤其是考虑到训练深度学习模型时的高成本（图1(b)）。因此，探索替代方法以确保AI可持续发展至关重要。除了全球能源消耗，另一个挑战是低功耗系统在不依赖云计算的情况下执行复杂AI算法的能力。这两个独立的问题，可能需要不同的解决策略。
图1(a) 运行最先进人工智能模型所需的算力需求增加。
图1(b) 训练人工智能模型所需的成本。
经A. Mehonic和A. J. Kenyon授权改编并转载，Nature 604, 255 (2022).（2022）。版权所有 © 2022 Springer Nature Limited。
计算的能效和性能可以通过模仿大脑的生物机制来提升。生物系统通常高度专业化，不同任务需要不同计算方案，但我们仍可从其通用特征中汲取灵感，单一架构难以适用于所有应用场景。通过跨学科合作，材料科学、器件工程、系统设计以及算法开发的专家们共同推动神经形态计算的发展。这种合作对于促进生物系统与人工智能的结合至关重要。"神经形态"一词最早由Mead在20世纪80年代提出，指模仿生物神经系统特征的器件和系统。如今，这一术语涵盖了具有脑启发特性的系统，如存内计算、硬件学习、脉冲处理、细粒度并行处理和减精度计算。生物单元（如神经元）和电子元件（如忆阻器）也有相似之处。值得注意的是，许多与神经形态计算相关的范式也已单独研究，如存内计算，它是提升AI硬件和一般计算能效的重要途径，并突破了传统冯·诺依曼架构。
神经形态研究可分为三个主要领域：“神经形态工程”利用CMOS技术（如亚阈值晶体管）或后CMOS技术复制大脑的计算单元和机制；“神经形态计算”借鉴生物系统，探索新型数据处理方法，如基于脉冲的计算；以及“神经形态器件”开发创新的纳米器件，通常模拟生物组件（如神经元和突触）或实现存内计算等功能。神经形态研究方法可按研究目标分为两类：一类专注于开发高效硬件平台，帮助理解生物神经系统；另一类则借鉴大脑原理，创造创新计算应用。本文重点讨论后一类，尽管已有许多综述文章全面概述了神经形态技术，本文特别强调材料工程在推进CMOS和后CMOS技术中的关键作用，并提供计算系统面临挑战的整体视角，解释选择神经形态方法的原因。本文还简要总结了当前技术，以帮助理解材料工程在神经形态领域中的作用。
图2 神经形态计算主要硬件技术的示意演变图（年代仅代表时间框架）
本文首先介绍了当前数字计算的概况，聚焦摩尔定律缩放和冯·诺依曼架构，并讨论了保持摩尔定律有效性面临的挑战。随后分析了后CMOS技术和架构的重要性及其在计算和存储整合中的潜力。接着，回顾了神经形态方法的历史背景和应用前景。本文全面回顾了新兴技术的最新进展，并进行了批判性比较，讨论了它们在未来计算系统构建中的作用。同时，讨论了静态随机存储器（SRAM）和闪存等成熟技术。新兴技术概述包括：阻变材料、忆阻器、相变材料、铁电材料、磁性材料、自旋电子材料、光电材料、二维器件等。文章还讨论了材料面临的挑战、解决方案及研究方法，并探索了新颖的计算概念，重点关注器件和系统的变化性、基于脉冲的计算系统、线性代数的模拟计算，以及在存内计算和优化求解器中使用模拟内容可寻址存储器（CAM）。最后，文章评估了这些技术的成熟度和未来发展方向。
随着对晶体管依赖的电子技术数十年发展，我们正迎来纳米电子技术的新纪元，其中基于功能材料的纳米电子技术变得尤为重要。纳米级忆阻器，作为这一领域的明星，以其直接堆叠结构、多样化功能和特定优势——如可扩展性、温度稳定性、抗干扰能力——在众多应用中扮演着关键角色。忆阻器及其类似技术已成为下一代神经形态计算架构的基础单元，从20世纪60年代的阻变存储器发展至今，已成为人工神经元和突触的关键技术。
材料科学的基础原理对于开发新型纳米电子技术至关重要。忆阻器的吸引力源于其所具备的多种优势，这些优势受到材料及工艺的影响和调节。阻变薄膜的材料种类繁多，包括一维、二维和三维材料，涵盖无机、有机及生物材料。忆阻行为的物理现象包括相变、氧化还原反应、离子传输、电子效应、范德华力，以及磁性和磁阻变化。这些现象强烈依赖于所使用的材料，而主要挑战在于正确选择适当材料组合及其尺寸。
图3 当前忆阻器技术中使用的材料系统示例
神经形态硬件技术未来发展的关键步骤，包括短期目标（2-3年）是将新型非易失性存储器与数字系统集成，并在同一芯片上制造。中期目标（3-5年）涉及模拟计算，而长期目标则是实现真正的神经形态功能。尽管预测这些目标的实现时间存在不确定性，但MRAM、RRAM和PCM等技术已经在产品中得到应用。近期研究成果表明，在未来3-5年内，某些模拟系统可能会被更广泛地应用，而真正的神经形态技术可能率先在特定场景中实施。
推荐最有前景的材料系统是一项复杂的任务。RRAM技术因其简单性和与CMOS的兼容性可能具有优势。基于HfO2的FeRAMs和MRAM技术也展现出活跃的发展前景。二维材料有望与这些技术集成，进一步提升器件性能。不同的应用对材料的要求不同，从嵌入式系统的集成便利性到非易失性存储器超越闪存的性能需求，以及对非传统模拟或神经形态功能的需求，都在不断发展中。
神经形态技术无疑是未来计算领域的有力竞争者，无论是基于传统的数字、模拟计算，还是基于概念上不同的计算和信号处理范式，它都展现出巨大的潜力。随着研究的深入和技术的发展，神经形态计算将在未来发挥重要作用，特别是在解决长期未解的复杂问题和推动科学研究、教育、交通等领域的发展中。
引用此文献：
A. Mehonic, D. Ielmini, K. Roy, O. Mutlu, S. Kvatinsky, T. Serrano-Gotarredona, B. Linares-Barranco, S. Spiga, S. Savel’ev, A. G. Balanov, N. Chawla, G. Desoli, G. Malavena, C. Monzio Compagnoni, Z. Wang, J. J. Yang, S. G. Sarwat, A. Sebastian, T. Mikolajick, S. Slesazeck, B. Noheda, B. Dieny, T.-H. Hou, A. Varri, F. Brückerhoff-Plückelmann, W. Pernice, X. Zhang, S. Pazos, M. Lanza, S. Wiefels, R. Dittmann, W. H. Ng, M. Buckwell, H. R. J. Cox, D. J. Mannion, A. J. Kenyon, Y. Lu, Y. Yang, D. Querlioz, L. Hutin, E. Vianello, S. S. Chowdhury, P. Mannocci, Y. Cai, Z. Sun, G. Pedretti, J. P. Strachan, D. Strukov, M. Le Gallo, S. Ambrogio, I. Valov and R. Waser, APL Materials 12 (10) (2024).
期刊介绍
APL Materials聚焦材料科学领域内的重要主题的原创性和实验性研究。为突出材料科学前沿性研究，本刊强调质量和及时性。当研究特别及时且与应用相关时，期刊考虑理论或计算。
关于AIP出版社
美国物理联合会出版社（AIP 出版社）是美国物理联合会（AIP）旗下的非营利独资出版社。AIP 出版社的使命是在物理和相关科学领域开展学术出版活动，以支持AIP的慈善、科学和教育目标。我们也代表出版合作伙伴进行出版活动，以帮助其积极推进自身的使命。
访问主页：https://publishing.aip.org/
