腾讯研究院AI速递 20241021

学术   2024-10-21 00:01   广东  

生成式AI

一、  OpenAI的算力焦虑养活了一家 20 亿美元算力租赁+能源公司

1. Crusoe, 原为加密货币数据中心提供商,转向AI业务,与CoreWeave路径相似;

2. Crusoe与Oracle合作,拟建全球最大数据中心之一,出租场地及GPU给OpenAI;

3. Crusoe计划扩展能源供应,到2026年中提供1千兆瓦电力,支持OpenAI运行数十万AI芯片。

https://mp.weixin.qq.com/s/Ga5kwM_rRZ77YVnk2m7OGg

二、  SAM 2.1上新、Lingua代码库发布,一大波Meta开源工具来袭

1. Meta推出SAM 2.1,增强视觉识别和遮挡处理能力,支持多学科应用;

2. 新发布的Spirit LM模型实现了语音和文本的无缝集成,优化了跨模态生成;

3. Layer Skip技术加速大型语言模型在新数据上的处理时间,提升性能高达1.7倍。

https://mp.weixin.qq.com/s/xOuQGnrdhGlItcs3xlA5ig

三、  英伟达nGPT,重塑Transformer,使AI训练速度暴增20倍!

1. 英伟达推出新的归一化Transformer (nGPT),训练速度比传统Transformer快20倍,特别是在处理长上下文时;

2. nGPT通过在超球面上进行表示学习和优化网络参数,有效提升了模型的训练效率和精度保持;

3. 随着上下文长度增加,nGPT训练速度的提升更加显著,例如1k上下文提速4倍,8k上下文则达到20倍。

https://mp.weixin.qq.com/s/zCPuR_cj50McBeFkKgTNBA

四、  OpenAI开放ChatGPT Windows版本,可像Office那样使用了

1. OpenAI发布了ChatGPT的Windows桌面应用,支持ChatGPT Plus、Enterprise、Team和Edu用户下载使用;

2. 应用提供文件分析、搜索对话和文本生成等功能,操作便捷,体验类似Microsoft Office;

3. 虽然Mac和Windows版本已发布,OpenAI尚未宣布Linux版本的具体发布日期。

https://mp.weixin.qq.com/s/SqQbI05zUkuNO92aDt0iEg

五、  OpenAI将同步发布GPT系列和o1系列,o1正式版即将推出

1. OpenAI宣布将持续开发GPT和o1系列模型,两者优势互补,专注于不同类型的任务;

2. o1正式版即将推出,预计将提供更强大的性能,特别是在编程和数学推理方面;

3. o1系列模型强调深度思考和逻辑推理,适用于复杂问题解决,已集成至ChatGPT的各个企业和教育版中。

https://mp.weixin.qq.com/s/ASEObu1txvGrktcLtHYJjg

六、  132年的李雅普诺夫函数谜题,被Symbolic Transformer攻克了

1. 研究人员使用Symbolic Transformer解决了132年的李雅普诺夫函数问题,该问题关键于判断动力系统的全球稳定性;

2. 该研究通过生成训练数据并使用序列到序列的Transformer模型达到了高准确性,特别是在分布外测试集上;

3. 该项技术为未来解决复杂数学问题提供了一个AI驱动的方法,其解决方案的正确性可以通过数学验证。

https://mp.weixin.qq.com/s/fE7EvpsKy-VK5P1YtuXStg

七、  Anthropic的财务分析师:用AI洞悉数据一键生成可视化报告

1. Anthropic发布了一个由AI驱动的财务数据分析师,可自动从上传的文件提取数据并生成可视化报告;

2. 该项目的源代码已在GitHub上开源,支持多种文件格式和图表类型,易于部署和定制;

3. 应用基于Claude构建,使用NextJS框架和ShadcnUI设计,确保高功能性和可定制性。

https://mp.weixin.qq.com/s/krbZsPlm59yHRhwK1jc7mA

前沿科技

八、  AlphaFold再立功!Cell文章破解精子与卵子结合的“神秘仪式”

1. AlphaFold AI帮助科学家揭开精子与卵子结合的复杂过程,发现需要三个关键蛋白Izumo1、Spaca6和Tmem81共同作用;

2. 敲除实验表明Tmem81对雄性生育至关重要,缺失该基因会导致雄性不育;

3. 研究通过AI预测蛋白质相互作用,并结合实验验证,为理解受精机制及治疗不孕不育提供新思路。

https://mp.weixin.qq.com/s/_EJjYibR6T4yVbu1l5j33A

报告观点

九、  OpenAI新董事:数据有限不会让AI性能停滞不前,行业将整合

1. AI的性能将继续提升,尽管可用数据有限,因为现有算法尚未最大限度地利用现有数据;

2. AI对信息真实性的影响造成了公众对客观现实的信任缺失,人们趋向于不信任与自身信念不符的信息;

3. LLM行业可能会整合,因为现有的高质量数据已大量被使用,而模型的发展可能需要新形式的数据支持。

https://mp.weixin.qq.com/s/Gj0e_nFmuKrIxmOJWQQeVQ

十、  微软AI CEO:AI 的最大挑战在于如何打造一种值得信任的技术

1. AI面临的最大挑战是建立一种值得信任的技术,以便用户能与之形成亲密且个人化的互动体验;

2. AI发展将经历三个阶段:处理与用户相同的信息、建立持久记忆、与第三方互动实现具体行动;

3. 诺贝尔奖对AI的高度认可表明AI技术的进步及其对人类社会经济发展的推动作用。

https://mp.weixin.qq.com/s/vTLoqu-VwE0KHpn4oLae7A

👇订阅下方合集,获取每日推送

腾讯研究院
腾讯公司设立的社会科学研究机构,依托腾讯公司多元的产品、丰富的案例和海量的数据,围绕产业发展的焦点问题,通过开放合作的研究平台,汇集各界智慧,共同推动互联网产业健康、有序的发展,致力于成为现代科技与社会人文交叉汇聚的研究平台。\x0d\x0a
 最新文章