腾讯两大重磅开源：混元Large和Hunyuan3D-1.0背后的生态布局
科技
2024-11-06 23:59
上海
![]()
11月5日，腾讯混元实验室宣布开源两款最新的大模型产品——“混元Large”和“Hunyuan3D-1.0”，这一举措不仅标志着腾讯在人工智能领域的技术实力，也预示着开源大模型对整个行业生态的深远影响。混元Large，作为MoE架构的大语言模型，以其3890亿的总参数量和520亿的激活参数量，成为业界参数规模最大的开源模型之一。它不仅在多学科评测集和多种语言的NLP任务中展现出卓越的性能，还支持高达256K的上下文长度，极大地扩展了模型的应用范围。Hunyuan3D-1.0则是业界首个同时支持文字、图像生成3D的开源大模型，它的出现为3D内容的快速生成提供了新的解决方案，无论是在游戏、影视还是工业设计领域，都具有革命性的潜力。开源这两款大模型，腾讯不仅展示了其在AI技术上的领导地位，也为全球的开发者和企业提供了一个免费的、可商用的平台，进一步推动了人工智能技术的普及和创新。开源大模型的共享，将促进技术的快速迭代，降低研发成本，加速行业应用的落地，对整个AI行业的生态布局产生积极而深远的影响。混元Large模型是腾讯混元实验室推出的基于MoE架构的大语言模型，具有以下关键技术参数：- 参数量：混元Large共拥有3890亿个参数，其中激活参数为520亿。
- 上下文长度：该模型支持高达256K的文本序列处理能力，相当于一本《三国演义》的长度，能够一口气处理多达10个文档。
与业界其他模型相比，混元Large在多学科综合评测集、中英文NLP任务、代码、数学等9大维度上实现全面领先，超越了Llama3.1-405B、Mixtral-8x22B等主流开源模型。- 高质量合成数据：通过使用合成数据增强训练，混元Large可以学习更丰富的表示，处理长上下文输入，并更好地推广到看不见的数据。
- 专家特定的学习率缩放：为不同的专家设置不同的学习率，以确保每个子模型有效地从数据中学习并有助于整体性能。
- KV缓存压缩：利用分组查询注意（GQA）和跨层注意（CLA）策略显著减少KV缓存的内存使用量和计算开销，提高推理吞吐量。
混元Large模型在以下领域展现出巨大的应用潜力：- 多学科综合评测集：混元Large在CMMLU、MMLU等测试集中的表现超越了国际前沿开源模型，显示出其在多学科综合任务中的卓越能力。
- 中英文NLP任务：混元Large在中英文自然语言处理任务中表现出色，能够处理复杂的语言理解和生成任务。
- 代码：混元Large能够理解和生成代码，为软件开发和维护提供支持。
- 数学：混元Large在数学问题解决和逻辑推理方面展现出强大的能力，可以应用于教育和研究领域。
02 Hunyuan3D-1.0模型的创新与市场定位Hunyuan3D-1.0是腾讯混元推出的3D生成模型，具备以下技术特点- 文本和图像输入条件：Hunyuan3D-1.0支持根据文本提示或单张/多张图像生成3D资产，这使得用户可以根据自己的需求灵活地指导3D生成过程。
- 两阶段生成方法：该模型采用两阶段方法进行3D生成。第一阶段是多视角扩散模型，能在大约4秒内生成多视角RGB图像；第二阶段是基于Transformer的稀疏视角大规模重建模型，能在大约7秒内将这些图像转换为3D资产。
- 高质量3D资产生成：Hunyuan3D-1.0能够生成高质量、多样化的3D资产，包括复杂的结构和细节。
- 快速生成：与其他模型相比，Hunyuan3D-1.0在生成速度上有显著提升，减少了3D资产生产的耗时。
Hunyuan3D-1.0包含轻量版和标准版，以满足不同用户的需求：- 轻量版：轻量版生成速度快，适用于需要快速3D建模的场景，如快速原型设计和概念验证。
- 标准版：标准版则生成更高质量的3D模型，适合对模型细节和质量有更高要求的应用，如高端游戏开发和电影特效制作。
Hunyuan3D-1.0的3D资产生成技术在多个行业中有广泛的应用案例：- 游戏：游戏开发公司可以使用Hunyuan3D-1.0生成逼真的3D角色和场景，提升游戏的视觉效果。
- 影视：在影视行业，Hunyuan3D-1.0可以用于生成高质量的3D特效和动画，提高制作效率。
- 工业设计：工业设计领域可以利用Hunyuan3D-1.0进行产品设计和虚拟展示，缩短产品开发周期，降低设计成本。
- 教育：教育机构可以利用Hunyuan3D-1.0生成虚拟实验室中的3D模型，帮助学生更好地理解复杂的科学概念。
- 医疗健康：在医疗健康领域，Hunyuan3D-1.0可以生成高质量的3D解剖模型，用于教学和手术模拟，提升医生的培训效果。
Hunyuan3D-1.0的这些应用案例展示了其在不同行业中的巨大潜力，为各行业的创新和发展提供了新的思路和方向。对于头部大厂来说，巨额投资用于训练大型AI模型是可行的，它们将商业战略的焦点放在云计算服务上。这些公司旨在通过吸引更多使用大型AI模型的客户，来增加自家云服务的业务量和市场占比。腾讯云的即时通讯云服务商业模式主要分为免费和收费两种模式。在免费模式下，腾讯云提供基础的即时通讯服务，以吸引用户和开发者使用其平台。而在收费模式下，腾讯云通过以下几种方式实现盈利：- 按用户数量级别收费：超过既定数量级按阶梯收费，这种模式适用于用户规模较大的企业。
- 按日活用户数收费：超过既定数量级按阶梯收费，适合对日活跃用户数有特定需求的客户。
- 按用户离线存储空间收费：根据用户数据存储的需求进行收费，适合数据存储需求较大的应用。
- 推送其他业务进行收费：对于提供成熟即时通讯工具的用户，腾讯云以即时通信为端口推送其他业务进行收费。
此外，腾讯云还提供按量计费和竞价实例等灵活的计费方式，以适应不同用户的需求。腾讯云通过混元大模型吸引新客户，提升订单量和市场份额的策略主要包括：- 提供有竞争力的产品和方案：腾讯云提供丰富的PaaS和SaaS产品，为伙伴创利增收，PaaS、SaaS业务去年相比同期增长超过50%。
- 线索商机支持：腾讯云预计未来一年将有20多万线索商机给到伙伴，并在80多个城市做600多场活动支持伙伴获客。
- 服务团队投入：腾讯云增加了30%的架构师、渠道经理等专业人员，在支持合作伙伴开拓市场。
腾讯云的合作伙伴计划和MSP服务商认证体系对渠道生态的影响显著- 四大合作策略升级：腾讯云从代理合作、行业合作、产品合作、服务合作四个方面介绍了产业生态战略的升级。
- MSP服务商认证体系：腾讯云参与了中国信通院发布的国内首个云MSP能力要求标准，旨在规范云MSP厂商的能力和服务水平。
- 渠道营收增速：腾讯云渠道营收增速跑赢大盘，显示出合作伙伴生态战略的有效性。
通过这些策略，腾讯云不仅提升了自身的市场份额，也为合作伙伴提供了更多的商业机会，共同推动了云计算行业的发展。腾讯云在中国云服务市场中占据重要地位。根据市场咨询公司Canalys公布的数据，近两年腾讯云与阿里云、华为云占据国内云厂商前三名，市场份额均在16%以上。这显示了腾讯云在中国云服务市场中的强大竞争力和增长潜力。行业大模型在金融、法律、教育等领域的应用现状和未来趋势表现为：- 金融：腾讯云自身的大模型技术应用如数字人、智能客服等已经在金融行业有落地应用，优化供应链及产品研发效率等专业领域也在尝试应用大模型。
- 法律：大模型技术可以帮助法律行业进行案例分析、合同审查等，提高法律服务的效率和准确性。
- 教育：在教育领域，大模型可以辅助教学，提供个性化的学习资源和教学支持，改善教育体验。
随着技术的不断进步，预计大模型将在这些领域发挥更大的作用，推动行业的数字化转型和智能化升级。国产大模型行业中，开源和闭源模式共存。阿里和腾讯等云大厂更倾向于开源模型路线，而月之暗面和智谱AI等创业公司选择的是闭源路线。开源模型可以促进技术的快速迭代和创新，降低研发成本，加速行业应用的落地。闭源模型则主要依靠API调用来向开发者收费，在C端则主要依靠会员费来变现。尽管业内关于开闭源的讨论持续不断，但从目前市面上的产品表现来看，开源模型并未显示出落后的趋势。腾讯的开源大模型混元Large在多个评测集和任务中超过了主流开源大模型，显示出开源模型的强大竞争力。未来，随着技术的不断发展和市场需求的变化，开源与闭源的竞争格局可能会发生变化，但目前开源模型在推动行业发展和创新方面发挥着重要作用。腾讯加大开源力度，坚持自主可控的战略意义主要体现在以下几个方面：- 推动技术创新：开源可以促进技术的快速迭代和创新，降低研发成本，加速行业应用的落地。
- 构建开放生态：开源战略有助于构建开放的技术生态，吸引更多的开发者和企业参与到大模型的研发和应用中来。
- 提升国际竞争力：通过开源，腾讯可以在全球范围内提升其大模型技术的竞争力和影响力。
- 实现降本普惠：开源生态可以实现降本普惠，推进外脑共享和迭代，让更多的企业和开发者受益于大模型技术。
腾讯计划开源的大模型工程框架Angle PTM和Angle HCF的技术布局包括：- 系统性优化：通过系统性优化平衡模型复杂度与通信开销，如ScMoE12使用通信重叠并行策略，实现训练和推理速度的提升。
- 共享专家方法：利用共享专家方法减少分布式系统之间的数据传输，解决参数冗余、路由崩溃等问题。
- 通信结构设计：通过通信结构设计提升通信效率，如SCoMoE通过结构化全连接通信，鼓励数据跨设备通信。
腾讯大模型在AI行业的长期发展和技术创新的展望如下：- 智能制造：大模型有望与工业制造的各个环节深度融合，推动生产制造的提质增效。
- 游戏环境：大模型与游戏环境结合，为AI Agent打造最佳训练场，推动游戏AI的发展。
- 移动革命：端侧模型优化带来应用入口变革，操作系统可能会发展成API直接调用的模式，减少对传统图形用户界面的依赖。
- 具身智能：人型机器人与大模型共同进化，为外脑提供“躯体”，使物理动作更加细腻和灵巧。
- 云服务集成：腾讯云可以集成AI编程助手，提高编码效率，自动生成代码片段、调试代码、编写文档等。
腾讯大模型的开源战略和技术创新将推动AI行业的发展，为各行各业带来深远的影响。通过开源，腾讯不仅降低了行业的研发门槛，还促进了技术的共享与创新，加速了AI技术的普及和应用。这些大模型的开源，为全球的开发者和企业提供了强大的工具，使得他们能够更加便捷地开发和部署AI应用，推动了人工智能技术的民主化和产业化进程。开源合作在推动AI技术发展和应用中扮演着至关重要的角色。它不仅能够加速技术的迭代和创新，还能够构建一个更加开放和协作的生态系统，让不同背景的开发者和企业能够共同参与到AI技术的发展中来。腾讯的开源战略，展现了其对于推动AI技术发展的承诺和对行业生态负责任的态度。腾讯开源大模型将为AI行业带来更多的创新和突破，同时也将为全球的AI技术发展贡献中国智慧和中国方案。让我们共同期待腾讯开源大模型在未来能够激发更多的创新火花，推动AI技术走向更加广阔的应用前景。![]()
欢迎添加勇敢姐咨询企业培训![]()
勇敢姐飙AI
一起探索AI赋能千行百业的解决方案、场景和案例。
