自 23 年 3 月份百度智能云千帆大模型平台发布以来,到今天为止,千帆所服务的企业客户越来越多,同时大模型落地的行业场景也越来越丰富。
在过去这一年多的时间里,百度智能云千帆大模型平台也经历了几个阶段:
在大模型刚刚起步萌芽的时期,我们发布了千帆 1.0 版本,帮助客户调用模型服务与模型的开发部署。
随着大模型的不断进步与发展,AI 原生应用也迎来了爆发。随之,我们推出千帆 2.0,即在模型服务、模型开发的基础上,进一步为用户提供非常易用的 AI 原生应用开发工具。它可以帮助广大的客户和开发者不断降低应用开发门槛,支撑 AI 原生应用的繁荣。
时至今日,百度智能云千帆调用量不断攀升,呈指数级增长,各行各业都在尝试通过大模型来重构业务。
今年我们发现行业场景渗透更加广泛和深入,从教育、电商、企业服务到社交文娱、硬件、座舱等等非常多的领域,也更下沉到业务开发场景和实际使用的每个环节。
为了更好的满足企业客户复杂业务场景的需求,今天千帆正式迈入 3.0 时代,提供面向生产力场景的企业级服务。
百度智能云千帆 3.0 为大家提供了一整套的从模型开发、模型服务再到应用开发的全流程工具,层层结合,每一层都迎来了全新的能力升级。
在应用开发层,提供企业级智能体开发平台和端到端的应用开发工具,满足企业客户各类应用开发需求;
在模型服务层:通过大模型与传统模型协同,来灵活满足用户需求;
在模型开发层:提供业界领先的模型开发工具链,支持一站式模型开发,实现数据、模型、算力资源的统一纳管和调度,提升模型开发的效率,提高资源利用率。
在应用开发层,我们为用户提供最专业的应用开发工具。第一个是千帆 AppBuilder,可以帮助用户快速的开发企业级 RAG 和企业级 Agent。
企业级 RAG 支持更加专业的服务于企业的使用场景。
首先建立在百度智能云的云原生底座之上。对于企业私域数据来说,可扩展性增强,资源上传没有限制,可随业务扩缩容;同时,整个策略更具开放性,包括支持各种解析、切片、检索、召回策略等;另外,基于云的安全与稳定性,包括百度智能云的 BES( Baidu Elasticsearch) 和对象存储 BOS 的支撑,保证生产级的使用,充分满足企业客户知识库容量大、速度快、效果好、更灵活、更安全的需求。
在企业级 Agent 开发上,千帆 AppBuilder 提供了最丰富的模型选择,比如文心系列大模型、垂类场景模型、丰富的开源模型,同时还支持用户自己训练的模型;内置的 80 多个像百度搜索这样的高质量官方组件,进一步加强应用在特定任务上的能力。
第二个是端到端的应用开发工具「AI 速搭」。首先它可以通过自然语言创建应用,也可以上传 PRD 生成应用,修改过程中可以支持自然语言和图形界面交互,短时间内就可以创建一个包含前端、后端、数据模型、流程、报表等多模块的应用,极大地降低了成本缩短了周期。即使是不懂开发的业务人员,也可以通过这种零/低代码的方式打造企业级应用,真正实现人人都是开发者。
接下来,我再向大家介绍千帆模型服务层面的一些能力升级。
过去一年,文心系列模型持续不断的更新升级,旗舰版文心大模型升级到了 4.0。今年 7 月我们还发布了文心 4.0 Turbo,在保持文心 4.0 模型效果的同时,极大降低了模型的推理成本和延迟,更好地满足业务多样化的需求。
主力大模型 ERNIE Speed、ERNIE Lite 也推出了升级版 ERNIE Speed Pro、 ERNIE Lite Pro,适用于更广泛的生产力场景。
此外,我们还不断的推出针对特定场景专项优化的垂直场景大模型 ERNIE Character、ERNIE Functions、ERNIE Novel。
除了这些大模型,我们把百度在过去十多年中积累的,同时也经过业务反复锤炼,在企业应用占据举足轻重地位的垂直能力模型,比如语音系列能力模型、视觉系列模型,融入到千帆上,通过这种大模型与传统模型结合的方式,来满足企业用户复杂的需求。
在我们接触的很多客户实际业务场景中,往往需要同时用到大模型和语音、视觉等传统模型,利用垂类模型针对场景打造的最优效果,升级后的百度智能云千帆 3.0 在模型开发层能够同时支持大模型和传统模型的开发。
基于百度多年在 AI 方面的积累,已经针对特定场景开发过 1000 多个效果好、成本低的传统小模型,支持各类场景的应用。
同时支持定制模型更多的训练(如 DPO、KTO)和量化算法(如 PTQ 等),推理规模增加到万卡级别。
通过业界领先的模型开发工具链,支持一站式模型开发,实现数据、模型、算力资源的统一纳管和调度,提升模型开发的效率,提高资源利用率。
此外,在百度智能云千帆上沉淀下来的「数据飞轮」解决方案,可以帮助企业持续迭代更新模型效果,最终形成企业的独有资产、提升价值和竞争优势。
除了平台全新升级之外,我们也在产业实践方面也取得了突破性进展,与客户一起落地多个行业场景,比如教育、招聘、企业服务、社交文娱、电商等等,沉淀了非常多的行业场景解决方案。
我们希望通过这些解决方案,进一步降低大家在使用大模型过程中的门槛,赋能千行百业进行智能化的转型升级与高效运营。
今天我的分享就到这里,后面我的同事会就每一层的能力及行业场景方案为大家带来详细的讲解。
革新启航,千帆齐扬。希望千帆大模型平台能为更多的企业在大模型的浪潮里保驾护航。
- - - - - - - - - - END - - - - - - - - - -