Cell Research | 李鑫研究员团队合作发布 GeneCompass:解析基因调控密码,打造干湿实验融合新范式

学术   2024-10-08 10:01   北京  

近年来,大语言模型(LLMs)已在自然语言、计算机视觉等通用领域引发了新一轮技术革命,通过大规模语料和模型参数进行预训练,LLMs 能够掌握语言的共性规律,能够对多种下游任务产生质的提升,已经形成了新的人工智能范式。在生命科学领域,单细胞组学技术的突破产生了大量不同物种细胞的基因表达谱数据,形成了海量的生命“语料”。利用 LLMs 相关技术有望构建系统精准破解基因密码的生命基础大模型,探索生命普遍存在的非线性基因调控机制,增进理解生命底层共性规律并创新各种重大疾病的诊疗手段。


对此,中国科学院多个院所(包括中国科学院动物研究所、中国科学院计算技术研究所、中国科学院计算机网络信息中心、中国科学院自动化研究所、中国科学院数学与系统科学研究院等)组成多学科交叉研究团队“指南针联盟”(Xcompass Consortium),在生命科学人工智能(AI for Life Science)研究方面取得了重要突破,于 2024 年 10 月在 Cell Research 上发表了 GeneCompass: Deciphering Universal Gene Regulatory Mechanisms with a Knowledge-Informed Cross-Species Foundation Model 的研究论文。


DOI https://doi.org/10.1038/s41422-024-01034-y

论文介绍了团队构建的世界首个知识与数据联合驱动的多物种生命基础大模型 GeneCompass,该模型同时处理了人类和小鼠两个物种的转录组数据,包含了超过 1.26 亿个单细胞并覆盖 3.6 万个基因,融合了启动子序列、基因共表达关系、基因家族标注和基因调控关系等四种先验知识,基础大模型参数量达到 1.3 亿,实现了对基因表达调控规律的全景式学习理解,同时支持细胞状态变化预测及多种生命过程的精准分析,展示了人工智能赋能生命科学研究的巨大潜力。



数据集:多物种单细胞数据

目前,全世界范围内在单一物种上已获得的单细胞转录组数据规模为千万级别,研究团队从美国(NCBI)、欧洲(EMBL-EBI)和中国(CNCB)等公开数据中收集了不同物种的单细胞转录组数据,人类和小鼠的同源基因采用相同的 Ensembl ID 表示,非同源基因则采用各自的 Ensembl ID。经过筛选、清洗、均一化等预处理流程,建立了已知最大规模、包含人类和小鼠的超过 1.26 亿细胞、覆盖两个物种 3.6 万个基因、几乎全部已知细胞类型的高质量数据集 scCompass-126M。


研究人员收集了 1.26 亿人类和小鼠的单细胞转录组数据


研究涉及人类和小鼠共 3.6 万个基因


模型架构:知识嵌入的生命基础大模型 GeneCompass

研究人员开发的 GeneCompass 模型参数量超过 1.3 亿,是国际上首个融入先验知识的预训练基础大模型,探索了知识与数据联合驱动的新范式。GeneCompass 采用 gene2vec、DNABert 等工具将启动子序列、已知基因调控网络、基因家族信息和基因共表达关系四种生物学先验知识进行编码,在单细胞转录组的基因 ID 和表达值基础上加入人类注释信息编码,提高了对生物数据间复杂特征关联关系的理解。通过训练整合不同物种的数据信息及先验知识,GeneCompass 显著提升了多种下游任务的性能,有望进一步提高传统生物学研究的效率和精准性,为尚无法突破的复杂生命科学难题带来新的切入点。


GeneCompass 融入四种生物学先验知识


GeneCompass 显著提升多种下游任务的性能


GeneCompass 采用基于 Transformer 的深度学习架构,扩展传统的掩码语言模型 Masked Auto Encoder(MAE)方式进行预训练,根据单细胞转录组的上下文同时预测掩码的基因及其基因表达,捕获不同基因之间在不同细胞背景下的长程动态关联,通过多任务联合预训练形成更加细粒度的生命基础大模型。预训练完成后,GeneCompass 进一步应用于多种下游任务,用于对单细胞转录组数据进行编码,支撑细胞类型标注、基因扰动预测、药物反应预测和基因调控关系预测等任务。


GeneCompass 模型架构


规模效应:

多物种联合训练捕获生物进化保守规律

研究人员发现对大规模跨物种数据所获得的预训练模型对于单物种的子任务符合尺度定律(scaling law):即较大规模的多物种预训练数据量较单一物种数据量产生更优异的预训练表征,并进一步提高下游任务的性能。这一发现显示了物种间存在保守的基因调控规律,并且这些规律能够被预训练模型学习理解。这同时预示着随物种和数据的扩展,模型性能有望不断提升。


增加跨物种数据规模可提升模型性能


研究结果:

GeneCompass 具有跨物种表征能力

研究人员对人类和小鼠同一细胞类型(心肌细胞)中同源基因和非同源基因的 GeneCompass 编码进行了相似性分析,可以看出相较于非同源基因,不同物种的同源基因具有更相似的编码,同源基因在人类和小鼠之间也具有相似的基因调控关系。


不同物种的同源基因具有更相似的 GeneCompass 编码


人类和小鼠心肌细胞中 GATA4 基因具有相似的调控关系


研究人员将 GeneCompass 编码后的基因嵌入与跨物种细胞类型标注的 SOTA 方法 CAME 进行结合,发现在多种细胞尤其是视网膜细胞中,GeneCompass 能够显著提升跨物种细胞类型标注的精度。这些结果都展示了 GeneCompass 通过多物种联合预训练获得了生命底层的共性规律,增强了基因表征的能力。


跨物种细胞类型标注


下游任务:基因扰动预测任务

研究人员利用 GeneCompass 编码的基因嵌入来预测由基因扰动所导致的全局基因表达变化,将其与现有工作 GEARS 结合起来,替换了原始从共表达知识图谱中学习到的基因嵌入。在前20个差异表达基因(DEG)的均方误差(MSE)平均降低了 15.4%,使单基因扰动的偏差减少了 5.9%,双基因扰动的偏差减少了 12.5%。下图展示了双基因扰动 TGFBR2+PRTG 前 20 个基因表达变化, GeneCompass 的 17/20 DEG 预测结果比 GEARS 的预测结果更准确。



下游任务:

药物反应预测、基因调控预测、药物剂量反应预测、基因表达谱预测

GeneCompass 作为生命基础大模型,支持直接使用(zero-shot)和微调(fine-tune)两种模式。基于此,研究人员在药物反应预测、基因调控预测、药物剂量反应预测、基因表达谱预测等多种下游任务上进行了充分实验,验证了 GeneCompass 在不同任务中的适配性。实验结果表明,GeneCompass 在不同下游任务中均可达到 SOTA 水平,相比于传统生物学方法对生命底层规律具有更深的理解。



下游任务:

细胞命运预测和关键基因筛选

由于基因及其表达值在自监督预训练过程中同时被掩码和重建,GeneCompass 能够捕捉复杂的调控机制,实现定量的模拟基因扰动。为了验证这种能力,研究人员构建 iPSC 模拟诱导实验,在人类成纤维细胞中模拟两个水平的 OSKM 基因(Oct4、Sox2、Klf4 和 c-Myc)过表达。通过对比细胞状态嵌入的相似性可以看出,随着过表达水平的提高,成纤维细胞逐渐向 iPSC 细胞发育。这与现有结论是一致的,说明 GeneCompass 具有用于细胞命运预测的潜力。



此外,GeneCompass 可通过模拟基因扰动分析预测细胞命运转变中的关键调控因子,有望提高湿实验的效率并揭示新机制。研究人员进行了人类 ESC 细胞向性腺细胞分化的实验,利用 GeneCompass 在 ESC 细胞上开展广泛的单基因模拟过表达。通过比较初始、模拟和目标细胞嵌入之间的余弦相似度,研究人员确定了五个潜在基因,即 NR2F1、NR5A1、WT1、TCF21 和 GATA4。其中三个( WT1、NR5A1 和 NR2F1)已有研究成果验证对小鼠体内性腺发育至关重要。进而,研究人员在 ESC  中分别过表达 NR5A1 和 GATA4,免疫荧光结果表明,在人类 ESC 中单独过表达任一基因均可诱导性腺基因。


GeneCompass 可用于模拟基因扰动以挖掘关键调控因子


免疫荧光结果表明,在人类 ESC 中单独过表达任一基因均可诱导性腺基因


综上所述,作为迄今为止最大规模的、具有知识嵌入的跨物种预训练生命基础大模型,GeneCompass 可实现多个跨物种下游任务的迁移学习,并在细胞类型注释、定量基因扰动预测、药物敏感性分析等方面,相比已有方法取得更优性能。这充分展示了基于多物种无标注大数据预训练,再利用不同子任务数据进行模型微调的策略优势,有望成为实现基因-细胞特征相关联的各种生物问题分析预测的通用解决方案。


上述研究由“指南针联盟”团队完成,“指南针联盟”团队目前由北京干细胞与再生医学研究院/中国科学院动物研究所李鑫团队联合计算机网络信息中心,自动化研究所,计算技术研究所,数学与系统科学研究院等组成,联盟的目标是建立数智驱动的生命科学研究新范式,解析生命的本质规律。


加入我们



北京干细胞与再生医学研究院/中国科学院动物研究所干细胞微环境与细胞命运决定研究组(李鑫研究组)长期招聘博士后若干名,助理研究员 1 名,科研助理(行政岗)1 名。


实验室将为申请人提供浓厚的学术氛围、专注的科研环境和良好的合作平台,并有机会参与国内外著名实验室的合作项目,拓展学术视野,在学术界及工业界筑造良好的职业前景基础。


有意者请将相关材料以附件形式发送到 

E-mail:xinli@ioz.ac.cn,

抄送 zhang_jie0115@163.com。

邮件及附件名称为:

应聘岗位+个人姓名+最后学历专业。


联系人及联系电话:

李老师,010-64807060

张老师,18920027879(同微信)

欢迎来电或者邮件咨询!




编辑: 刘智清

本文为原创,未经允许不得擅自转载、引用

注:部分图片来自网络,版权属于原作者


北京干细胞与再生医学研究院
开展干细胞与再生医学研究,促进生命与健康科技发展,生命交叉前沿技术与装备研发,相关成果转化与推广。
 最新文章