11月28-29日,由江苏省人工智能学会主办的“第七届江苏人工智能大会”在扬州举办。会上,2024年度江苏省人工智能学会“科技成果奖”同期发布,星环科技星环大模型运营平台荣获人工智能应用创新奖(产品)二等奖,和南京邮电大学联合申报的《基于数据与模型双驱动的多源信息融合技术解决方案》获人工智能应用创新奖项目(解决方案)三等奖。
大模型全生命周期运营管理平台
星环大模型运营平台(Transwarp Sophon LLMOps)是星环科技推出的企业级大模型全生命周期运营管理平台,旨在赋能企业用户能敏捷、高效、有闭环地将大模型落地到生产和业务中去。具备一站式AI开发、支持丰富的应用开发方式、支撑构建高质量知识库、灵活开放的平台使用、全方位的安全防护等优势。
星环大模型运营平台Sophon LLMOps作为一款企业级大模型全生命周期运营管理平台,涵盖了大模型深度学习任务中从数据准备、模型训练、推理部署到监控优化的整个流程,能够帮助数据科学家解决优化训练推理过程中遇到的复杂工程性问题,使得数据科学家能够将注意力集中在训练数据准备、建模微调以及提升业务效果本身,从而更加高效地完成端到端的LLM机器学习任务。同时,该平台还融合了星环自研的向量/文本/图数据库以及分布式文件系统、数据处理和数据中台以及智能分析工具,可以统一管理、分析和应用智能分析前、中、后的多来源、多模态的数据。这有助于用户解决数据的采集整合、处理清洗、标注增强、提示生成、提示评估、业务效果对齐等问题,从而缩短业务落地观察周期,加速业务提升效果。
多模架构下的大数据与大模型融合
星环科技从2020年实现了多模型数据的统一处理技术,支持统一的接口层,统一的计算引擎层,统一的分布式存储管理层和统一的资源管理层,并对多模型处理能力逐步加强,目前已支持关系型、图、时序、时空、向量、键值等11种模型数据的统一存储管理,帮助用户简化系统架构,减少开发运维成本,高效实现数据跨模型融合分析,具有复杂度低、开发成本低、运维成本低、数据处理效率高等优点。
同时,星环科技将大数据技术和AI大模型技术深度融合,通过自动化语料开发工具将文档、图片、音视频等海量多模态语料转换为高质量的专业领域知识,通过多模型统一技术架构实现统一存储管理,帮助企业低成本、高效构建一体化知识体系,全面发挥数据价值。同时,通过数据和智能的融合,重塑企业应用中人与数据的交互方式,使得非专业用户无需掌握数据库编程语言,也能通过自然语言轻松进行数据分析,有效解决取数需求开发链路长、指标二义性、缺乏数据挖掘能力、数据分析高度依赖人工经验等传统数据分析痛点,大幅降低数据开发应用成本,加速数据价值进一步释放。