腾讯研究院AI速递 20250106

学术   2025-01-06 00:01   广东  

生成式AI

一、  突破算力限制!Meta开源“记忆层”,重塑Transformer架构?

1. Meta推出的“记忆层”通过高效查询机制,显著减少了大模型对算力的需求,使得在不增加算力的情况下可以增加模型参数;

2. Product-Key Lookup算法通过分而治之策略提高了查询效率,优化了内存和带宽使用,适用于大规模数据集和复杂任务;

3. 并行记忆层和共享记忆参数设计优化了GPU使用和参数利用率,支持模型扩展到更大规模而不受单个计算单元限制。

https://mp.weixin.qq.com/s/Zv2oyzLb4bIaq9FrzK3GXw

二、  Anthropic 发布 MCP 路线图,AI的下一个「TCP/IP」协议?

1. Anthropic的MCP路线图强调社区驱动和开放协作,目标是成为AI模型与客户端的连接桥梁;

2. MCP的首要任务是实现远程连接,支持OAuth 2.0认证、服务发现和无状态操作,以提升安全性和可访问性;

3. MCP扩展复杂代理工作流支持,推动社区主导的标准开发,并计划增加多模态支持,涵盖文本、音频和视频。

https://mp.weixin.qq.com/s/gCIwFeY3KKC-5Ve29nuOoA

三、  马斯克宣布 Grok 3 预训练已经完成,计算量比Grok 2多十倍

1. Grok 3在计算资源和性能上大幅提升,使用约10万台英伟达H100 GPU进行训练,支持更复杂任务和大规模数据集;

2. 实现多模态融合和实时信息获取,增强跨媒体理解能力和即时资讯获取,提升人机交互界面自然流畅度;

3. 在逻辑推理、创造力和用户体验方面优化,提供更精确问题解答和个性化推荐,同时加强隐私保护和安全性。

https://mp.weixin.qq.com/s/KWmyFS5DivkgBFmZ4hYofw

四、  首个由o1 pro指导诈骗案开庭!原告被骗,利用AI绝地反击

1. Steve Sokolowski利用OpenAI o1 pro指导诉讼,成功打破法律闭环,准备开庭,显示AI在法律领域的潜力;

2. 兄弟俩通过AI创建证据数据库和模拟法庭,评估胜诉几率,AI帮助他们制定详细的诉讼计划;

3. AI的参与使得原本因高额费用无法进行的诉讼成为可能,展示了AI在降低法律诉讼门槛方面的作用。

https://mp.weixin.qq.com/s/KVrbt--jOc6X3JWRKpZsTg

五、  思维链作者Jason Wei剖析LLM扩展范式:Just keep scaling!

1. 扩展是AI进步的关键,通过增加模型规模和数据量来提升能力,但需克服技术和心理挑战;

2. 下一词预测是大规模多任务学习,通过扩展可提升模型在语法、知识等多方面的能力,但对复杂任务有局限;

3. 思维链和强化学习扩展范式让模型展示推理过程,提升解决复杂问题的能力,推动AI在科学、医疗等领域的应用。

https://mp.weixin.qq.com/s/72aE44W-APiP2OMatDUCdw

六、  科技向善,用AI降低自闭症康复成本,让孩子们不再“孤独”

1. AI技术在孤独症康复领域的应用正在降低康复成本,使更多家庭能够负担得起治疗,从而帮助孤独症儿童更好地融入社会;

2. 早期干预对于孤独症儿童的康复效果至关重要,但许多家庭仍面临认知障碍和康复资源不足的问题;

3. 社会康复机构和AI技术的结合,为孤独症儿童提供了更多个性化和高效的干预方案,但康复师和督导人才的短缺仍是挑战。

https://mp.weixin.qq.com/s/EDGd1u-ltId6b5HdCPF6zQ

前沿科技

七、  2025全球航天新年首飞,SpaceX将阿联酋通信卫星送入轨道

1. SpaceX成功发射阿联酋通信卫星Thuraya 4-NGS,这是2025年全球首次航天发射;

2. Thuraya 4-NGS由空客制造,具备高网络路由灵活性,将服务非洲、中亚、欧洲和中东地区至少15年;

3. SpaceX 2024年完成134次发射,2025年计划超过200次,显示其在全球航天领域的主导地位。

https://mp.weixin.qq.com/s/pK5qmiecxwyBIw1yx5LE6A

八、  动物版谷歌翻译来了?Nature新研究:用AI解码野性的呼唤!

1. AI技术正在帮助科学家解码动物的声音模式,揭示不同物种间的复杂交流方式,例如鲸鱼的尾音和大象的隆隆声;

2. 通过AI分析,研究人员发现动物可能具备类似人类的命名和复杂思维能力,这为理解动物行为提供了新视角;

3. 尽管AI在动物交流研究中取得进展,但实现真正的“动物版谷歌翻译”仍面临挑战,需结合人类观察和理解。

https://mp.weixin.qq.com/s/KCcmSyddqQjBOmv2zv32lQ

报告观点

九、  硅谷著名 VC总结2024年AI现状:应用层的价值被低估了

1. 底层模型竞争加剧,开源模型进步迅速,小模型性价比提升,应用层价值被重新认识;

2. 多模态技术突破,语音、视频等新交互模式兴起,Scaling Law 面临挑战;

3. AI 投资环境趋于理性,应用层创新潜力巨大,创业公司在新范式下具备竞争优势。

https://mp.weixin.qq.com/s/gEJ0M84PuGveuFMjodl3Cw

十、  Sam Altman六字故事:暗示人类接近奇点,不确定是否可控

1. Sam Altman 通过六字故事表达对技术奇点的紧张感和不确定性,暗示人类可能面临被技术控制或无法预知的未来;

2. 他提出模拟假说,认为我们可能生活在高级文明创造的模拟中,接近奇点时或许能揭示真相但仍不明确角色;

3. 强调技术奇点的不可预测性,反映对人工智能快速发展中不确定性的哲学思考。

https://mp.weixin.qq.com/s/Q2ZCMtJ4aEQtdZT0auYAtw

👇订阅下方合集,获取每日推送

腾讯研究院
腾讯公司设立的社会科学研究机构,依托腾讯公司多元的产品、丰富的案例和海量的数据,围绕产业发展的焦点问题,通过开放合作的研究平台,汇集各界智慧,共同推动互联网产业健康、有序的发展,致力于成为现代科技与社会人文交叉汇聚的研究平台。\x0d\x0a
 最新文章