Transformer模型作为一种先进的序列数据分析架构,因其具有强大的序列建模功能,能够敏锐地捕获生物医学数据中普遍存在的复杂时空关系和远程依赖性,这一点对于理解大脑不同区域间的复杂互动尤为关键。随着高通量生物医学数据采集技术的迅速发展,Transformer模型已被广泛应用于探索和治疗各种神经和精神疾病,例如阿尔茨海默病(AD)和帕金森病(PD)等,展现了Transformer模型在脑科学领域的科学研究和临床应用中的极大潜力,为探索和应对复杂的神经科学现象开辟了新的技术途径。
近期,由哈尔滨工程大学姚晓辉课题组,联合加拿大工程院杨春生院士、哈尔滨医科大学附属肿瘤医院周洋教授和北京大学王征研究员在Brain-X(交叉脑科学)发表了题为“Comprehensive review of Transformer‐based models in neuroscience, neurology, and psychiatry”的综述论文。该文章全面探讨了Transformer模型在神经科学、神经病学和精神病学领域的设计和应用。文中详细介绍了这些模型如何适应并处理多种复杂数据类型,从而有效提高疾病诊断的准确性。此外,文章还展示了Transformer模型在生物标志物的挖掘、神经解码、研究脑功能机制、疾病预后评估以及病变定位等方面的应用,充分证明了其在医学研究和临床应用中的广泛潜力。
该文深入分析了Transformer架构的原理和结构,强调了其在进行神经影像分析、脑网络神经科学分析以及时空序列分析中的应用(图1)。特别是在不同应用场景下对模型具体设计调整及其对模型性能的影响进行了系统总结。此外,文章还探讨了如何根据不同生物医学数据的类型和特质对Transformer模型进行适配性的设计。值得注意的是,文章对模型的可解释性问题给予了高度重视。在神经科学领域,模型的可解释性对于深入理解大脑功能、揭示神经和精神疾病的潜在机制,以及促进早期诊断和预防具有重要意义。因此,研究者提出了若干策略以增强Transformer模型的可解释性。最后,该文讨论了Transformer模型在神经科学、神经病学和精神病学领域的潜在贡献,并指出了目前存在的局限性和未来面临的挑战。该文章中具有启发式的讨论为从事相关研究领域的科学家、临床医生及专业人士从不同的角度提供了宝贵的参考,并为Transformer模型在智能医疗领域的未来发展和应用提供了指导和启示。
图1. 本篇综述详尽介绍了Transformer模型在神经科学、神经病学与精神病学领域中的重要作用。文中详细分析了这些模型最初是如何针对序列数据分析而设计的,并进一步探讨了它们如何适配和分析多种复杂的生物医学数据。随着模型的发展,现今已能有效处理复杂的生物医学数据,极大地促进了我们对大脑功能及其失调状态的深入理解。
本文作者介绍:
丛山,哈尔滨工程大学副教授。主要研究方向为开发和利用人工智能算法解决公共健康和医疗问题,围绕着阿尔兹海默症等复杂脑疾病,通过医学图像分析、影像遗传分析、脑联通与脑网络分析等研究,探究脑认知障碍的深层致病机理,以及对脑结构的特异性影响。目前发表SCI论文10余篇,参与出版英文专著2部,目前主持国家自然科学基金青年项目1项、省部级自然科学基金项目1项,入选青岛市西海岸新区“基础研究顶尖人才团队”。
姚晓辉,哈尔滨工程大学副教授。主要研究方向为结合脑科学、认知科学与人工智能,开发大数据挖掘、机器学习等计算模型,并应用于神经退行性疾病机制研究。近五年发表学术论文70余篇。主持国自然、山东省海外优青等多项科研项目,入选青岛市西海岸新区“基础研究顶尖人才团队”、青岛市“未来之星”培育计划。
杨春生,加拿大工程院院士,亚太地区人工智能学会会士,加拿大Carleton大学兼职教授。曾任加拿大国家科学院首席科学家。长期从事机器学习、混合推理以及智能系统等研究开发工作。
本文链接:
https://onlinelibrary.wiley.com/doi/full/10.1002/brx2.57
Shan Cong, Hang Wang, Yang Zhou, Zheng Wang, Xiaohui Yao, Chunsheng Yang. Comprehensive review of Transformer-based models in neuroscience, neurology, and psychiatry. Brain-X. 2024; 2:e57. https://doi.org/10.1002/brx2.57
投稿指南链接:
https://onlinelibrary.wiley.com/page/journal/28353153/homepage/author-guidelines
欢迎交叉脑科学领域同行投稿!
投稿:(仅限投稿)
合作:(期刊合作、编委、青委等)
期刊官网(WILEY):
https://onlinelibrary.wiley.com/journal/28353153
期刊网址(Owner):
http://www.brain-x.science
微信公众号(WeChat):
更多期刊内容,请点击阅读:
2、征稿:Brain-X (交叉脑科学),免版面费,编辑部负责润色!
4、Brain-X (交叉脑科学):Volume 2 Issue 1,正式上线!
5、Brain-X (交叉脑科学):Volume 1 Issue 4,正式上线!
6、Brain-X (交叉脑科学):Volume 1 Issue 3,正式上线!
7、Brain-X (交叉脑科学):Volume 1 Issue 2,正式上线!