腾讯研究院AI速递 20241113

学术   2024-11-13 00:01   广东  

生成式AI

一、  Scaling Law继续?MIT发现还有把「测试时训练」的路可走

1. OpenAI的Scaling Law面临挑战,数据供应减少影响了模型质量提升;

2. MIT研究了测试时训练(TTT),发现其在few-shot学习和抽象推理中效果显著;

3. TTT结合增强的数据生成和模型适应器,显著提高了语言模型在ARC任务中的表现,突破了现有技术水平。

https://mp.weixin.qq.com/s/tfrG21mfteVAkjqYx5mDsQ

二、  港中文、上海AI Lab、腾讯两张3090跑SearchGPT并开源

1. Vision Search Assistant(VSA)结合视觉语言模型和Web搜索技术,可回答关于未见图像或新概念的问题;

2. VSA在图像描述、Web知识检索和推理方面表现出色,超过了现有技术如Perplexity.ai Pro和GPT-4-Web;

3. 开源版本可通过两张RTX3090复现,潜力广泛,包括在视频、3D模型和声音等领域的应用。

https://mp.weixin.qq.com/s/xa0oS-LPnZAQqEyUozf_eg

三、  开源代码模型更新,320亿参数Qwen2.5-Coder新模型发布

1. Qwen2.5-Coder-32B新开源编程模型发布,在多个基准测试中超越GPT-4o;

2. 该模型支持92种编程语言,并在代码生成、修复、推理等方面表现出色;

3. 开源版本提供多种尺寸,适合开发者微调或直接使用,具有高易用性,受到广泛关注。

https://mp.weixin.qq.com/s/K55WD7466VMTGiYJVsMZUA

四、  苹果也在押注的智能眼镜正在爆发,百度发布小度 AI 眼镜

1. 百度发布了首款搭载中文大模型的AI眼镜,具备多种实用功能,如边走边问、实时翻译等;

2. 小度AI眼镜强调长时间佩戴的舒适性与高硬件规格,目标成为智能眼镜市场的竞争者;

3. 另外还展示了智能体技术的应用,强调无代码工具、智能体协作等新兴AI技术。

https://mp.weixin.qq.com/s/Y6iiGLG6lFlk22WtQWSKyg

五、  AI辅助披头士乐队《Now and Then》获得格莱美奖两项提名

1. 披头士乐队的《Now and Then》获得了2025年格莱美奖两项提名,分别为年度唱片和最佳摇滚表演;

2. AI技术帮助从约翰·列侬的原始录音中提取嗓音,成功重制了这首曲目;

3. 这是披头士乐队几十年来首次获得格莱美提名,也是乐队第四次进入年度唱片提名名单。

https://mp.weixin.qq.com/s/kvsNJVgK6-lpwCdgJfFjag

六、  扩散模型失宠?端侧、非自回归图像基础模型Meissonic登场

1. Meissonic是一款新型非自回归掩码图像生成模型,旨在高效生成高分辨率图像并超越传统扩散模型SDXL;

2. 该模型通过创新的Transformer架构、位置编码和特征压缩层,提升生成效率和图像质量,适配消费级硬件;

3. Meissonic在图像质量、生成速度和推理效率上超越了现有技术,特别适合端侧设备应用。

https://mp.weixin.qq.com/s/pYZxK3OFV8CH4VQET4_rLg

前沿科技

七、  DeepMind突然开源AlphaFold 3,加速科学发现与药物研发

1. DeepMind开源了其最新AI蛋白质预测工具AlphaFold 3,推动科学发现与药物研发;

2. AlphaFold 3能够模拟蛋白质、DNA、RNA和小分子间的复杂相互作用,显著提升预测效率与准确性;

3. 尽管仍存在一些局限,AlphaFold 3的开源为全球科研加速提供了强大工具,将推动计算生物学的新应用。

https://mp.weixin.qq.com/s/pFmkY42eTQ0RVYDOmWwL-A

报告观点

八、  英国20%医生正使用ChatGPT,获取医疗诊断、医疗建议等

1. 20%的英国医生正在使用生成式AI工具,ChatGPT使用率最高,主要用于鉴别诊断和治疗建议;

2. 生成式AI在医疗领域的应用广泛,涵盖诊断、治疗方案建议、文档总结等多场景;

3. 使用生成式AI存在风险,如信息错误、算法偏见和患者隐私问题,需制定法规确保其安全应用。

https://mp.weixin.qq.com/s/LoHf552jAZj48UT-e3Kb3g                      

九、  工资“白菜价”,但特斯拉仍能吸引10万打工人奔赴的秘密

1. 特斯拉提供低基本工资,但通过丰厚的股票奖励吸引员工,部分员工获得百万美元奖励;

2. 特斯拉的招聘侧重筛选“死忠”员工,薪酬结构以股票奖励为主,员工需押注公司未来前景;

3. 股票奖励制度激励员工长期留任,但股价波动带来不确定性,部分员工视股票为“金手铐”。

https://mp.weixin.qq.com/s/fXpxbvjD_Fjbzl6csMdsBw

十、  普林斯顿深度揭秘CoT:大模型既有记忆推理、也有概率推理

1. CoT提示提升了大型语言模型的推理能力,但表现出记忆推理和概率推理的混合特性;

2. 影响CoT性能的因素包括任务的预期输出、模型的隐性记忆以及推理过程中可能的噪声;

3. 在移位密码解码中,概率推理和记忆策略显著提升模型表现,而符号推理并未完全达到完美效果。

https://mp.weixin.qq.com/s/PtuCL1WBRvrFr7nkJaKgrQ

👇订阅下方合集,获取每日推送

腾讯研究院
腾讯公司设立的社会科学研究机构,依托腾讯公司多元的产品、丰富的案例和海量的数据,围绕产业发展的焦点问题,通过开放合作的研究平台,汇集各界智慧,共同推动互联网产业健康、有序的发展,致力于成为现代科技与社会人文交叉汇聚的研究平台。\x0d\x0a
 最新文章