OpenCSG传神社区月度功能更新

文摘 2024-10-08 14:10 中国台湾

9月社区ReleaseNote

在9月的社区更新中，我们继续秉持开放与创新的精神，推出了一系列新功能和技术升级。这些更新不仅扩展了社区的技术支持范围，还为用户提供了更多资源，助力其在人工智能、大数据处理和推理加速等领域的创新。通过与知名企业的合作、引入具身智能的专区以及不断提升存储系统的性能，传神社区致力于为开发者、研究人员和企业提供一个全面、开放、易于使用的平台。

本次更新包括以下几大亮点：

01 具身智能专区🧠

02 Dataflow平台上线🌐

03 支持NVIDIA推理引擎NIM🤖

04 支持昇腾推理引擎MINDIE⚙️

05 提示工程专区📋

06 数据集预览功能增强👀

07 后端存储系统升级📦

来源：传神社区

具身智能专区

基于8月推出的“开源项目”模块，本次新增了“知名企业”专区，进一步拓展了具身智能领域的内容，为用户提供了更广泛的行业视角和信息资源。该专区汇集了全球在具身智能领域中具有重要影响力的企业，涵盖了机器人、人工智能技术研发及应用等多个方向。

在这个专区中，用户可以方便地浏览并深入了解与具身智能技术紧密相关的领先企业，如Neura Robotics、Sanctuary AI和Figure AI等。这些企业的资料包括它们的成立时间、主要技术方向、产品和服务，以及最新的技术动态。通过访问这些企业的介绍页面，用户能够了解行业内的最新进展、技术革新以及不同企业在具身智能领域的研究和开发重点。

此外，专区不仅是行业信息的展示窗口，也是一个交流与合作的平台。通过这一模块，用户能够掌握最新的前沿技术趋势，并有机会与这些领先企业建立合作或获取技术支持，进一步推动具身智能在各行业中的应用与创新。

您可以在传神社区首页导航栏 -> 专区 -> 具身智能 -> 找到“知名企业”专区

02 Dataflow平台上线

DataFlow平台是基于Agentic架构理念设计的，专门应对复杂的数据处理任务。这个平台通过高度动态且可定制化的架构，为用户提供了一站式的数据处理体验，极大地简化了各类复杂的数据操作过程。无论是大规模数据清洗、分析，还是多种格式的文件处理，DataFlow都能够灵活适应不同场景的需求。它不仅为用户提供了高效的数据流管理和任务自动化工具，还具备良好的扩展性，能够轻松应对不断增长的业务需求。

平台支持多种数据处理模块，涵盖从数据清洗、转换到复杂的机器学习模型部署的全流程。用户可以通过直观的界面创建并管理自己的数据任务，实时查看任务状态和处理进度。同时，DataFlow还集成了丰富的数据源接口，支持对不同类型的文件格式进行快速处理，如PDF、CSV、HTML等，帮助用户轻松应对多样化的数据处理需求。

DataFlow平台的最大优势在于其高度定制化的解决方案。用户可以根据具体的业务需求，灵活调整数据处理流程、配置参数，并通过平台提供的API接口与现有系统无缝集成。这一切都极大提升了数据处理的效率与灵活性，使用户能够专注于更具战略性的数据分析和决策。

您可以在传神社区首页导航栏 -> 产品 -> 找到 DataFlow 智能数据平台

详情请点击卡片内容查看

我们欢迎用户随时与我们联系，以获取更多关于DataFlow平台的详细信息和定制化咨询服务。我们的团队将为用户提供个性化的解决方案，帮助其充分利用平台的强大功能，满足各种数据处理的需求。

03 支持NVIDIA推理引擎NIM

NVIDIA 推出的 NIM（NVIDIA Inference Microservices） 是一款基于 NVIDIA 推理软件的微服务预构建容器，包含了 Triton 推理服务器™ 和 TensorRT™-LLM，为开发者提供强大的推理加速能力。借助高性能显卡如 A100 和 H800，NIM 能显著缩短 AI 模型的部署时间，从传统的几周减少到几分钟，为企业带来极大的效率提升。

通过 OpenCSG，用户可以轻松实现 NIM 容器的部署，快速优化模型推理，加速大模型应用的落地。

这一解决方案不仅为用户提供了高效、安全的推理应用环境，还通过与阿里云计算巢的结合，提供了企业级私有化部署选项，满足企业在数字化转型中的不同场景需求。

详情请点击卡片内容查看

API 测试

UI测试

性能测试（2GPU in A10）

支持昇腾推理引擎MINDIE

OpenCSG 平台现已全面支持 昇腾推理引擎 MindIE，为开发者提供了强大的推理加速工具。通过集成 MindIE，OpenCSG 用户可以充分利用昇腾硬件的高效算力，快速部署并优化基于昇腾平台的 AI 应用。MindIE 的引入不仅提升了 AI 推理任务的处理效率，还让用户能够通过分层开放的 AI 能力设计多样化的推理方案，满足各类复杂应用场景的需求。

在 OpenCSG 中，用户可以轻松选择 MindIE 作为运行时框架，并根据具体业务需求动态调整资源配置，例如选择不同的 NPU、vCPU 及内存，确保推理任务在最优配置下高效运行。MindIE 的多层次编程接口还允许开发者根据不同的推理任务灵活调用底层 API，极大提升了开发的灵活性和效率。

MindIE 支持多个昇腾处理器，如 NPU 910B，能够提供卓越的推理加速效果。结合 OpenCSG 平台的高可扩展性，用户可以在该平台上轻松部署 AI 模型，实现从开发、测试到生产环境的一站式服务，进一步优化推理性能并缩短项目的上线周期。

通过 MindIE 的支持，OpenCSG 不仅进一步扩展了其 AI 推理能力，还为广大的昇腾平台用户提供了更加灵活、高效的开发环境，助力他们在各类 AI 任务中获得更出色的表现。

您可以在个人中心-> 资源控制台-> 新建实例 -> 运行时框架 -> 选择 MindIE

05 提示工程专区

社区上线了全新的提示工程专区，旨在为用户提供丰富的提示词相关工具和资源，助力大家更高效地开发和优化提示工程。这个专区涵盖了多个模块，方便用户在不同应用场景下灵活使用。

在“提示词库”模块，用户不仅可以浏览社区中已经共享的优质提示词，还可以根据自己的需求搜索特定领域的提示词，或者通过模型查看关联的提示词。这些提示词由社区用户共同贡献，涵盖了各类AI应用场景，如自然语言处理、生成式模型、图像识别等。用户还可以对自己常用或创造的提示词进行标注和分享，进一步丰富提示词库的内容，同时帮助其他用户加速模型开发。

“优化助手”模块是提示工程专区的另一大亮点，专为提示词优化而设计。通过这个模块，用户可以将自己的提示词输入,OpenCSG提供优化服务，对提示词进行微调。

您可以在传神社区首页导航栏 -> 专区 -> 提示工程 -> 找到提示词库和优化助手

06 数据集预览功能增强

针对parquet格式的数据集，平台支持子数据集及用途数据集的智能识别与切换功能。用户可在数据预览界面中查看并管理不同的子数据集，如训练集、验证集和测试集。通过选择用途（例如train, validation, test），用户能够快速切换数据的使用场景，以满足不同的实验需求。此外，系统能够自动识别并展示parquet文件中的行数，方便用户了解数据集的规模。该功能有效简化了数据集管理流程，增强了多场景下的灵活性与便捷性。

07 后端存储系统升级

OpenCSG 的后端存储系统通过 Gitaly 进行了全面升级，显著提升了模型同步的性能。借助这一升级，用户能够体验到更高的可用性，系统在处理大规模模型时表现更加稳定。同时，响应速度大幅提升，用户可以更快速地完成模型的上传、下载和更新操作。升级后的系统还加强了稳定性，即使在高并发情况下，存储系统也能保持平稳运行，为用户提供更加流畅的操作体验。

欢迎加入传神社区

•贡献代码，与我们一同共建更好的OpenCSG

•Github主页

欢迎🌟：https:// github.com/OpenCSGs

•Huggingface主页

欢迎下载:https://huggingface.co/opencsg

•加入我们的用户交流群，分享经验

扫描上方二维码添加传神小助手

“ 关于OpenCSG

开放传神（OpenCSG）成立于2023年，是一家致力于大模型生态社区建设，汇集人工智能行业上下游企业链共同为大模型在垂直行业的应用提供解决方案和工具平台的公司。

关注OpenCSG

加入传神社区

http://mp.weixin.qq.com/s?__biz=Mzg3Nzk0NDE2NA==&mid=2247485485&idx=2&sn=1f2ea58749e4b8d1adac10d5a262b013

OpenCSG

最新文章

【公司新闻】实力出圈！开放传神（OpenCSG）登上《IT时报》！

OpenCSG与传神社区的创新瞬间

OpenCSG传神社区月度功能更新

大厂安全事件引发关注，OpenCSG如何构筑软件安全防线？

OpenCSG与传神社区的创新瞬间

OpenCSG传神社区月度功能更新

OpenCSG DataFlow：锻造大模型智慧的炼金术，开启数据集Agentic新范式

OpenCSG推出StarShip SecScan：AI驱动的软件安全革新

《降本增效双赢之道——OpenCSG系列产品白皮书》正式发布

CSGHub携手Nvidia NIM、阿里计算巢打造企业级私有化部署解决方案

8月聚焦 | OpenCSG与传神社区的创新瞬间

开启智能编程新时代：StarShip CodeSouler SaaS版重磅发布！

你有GitHub Models，我有CSGHub和StarShip

7月聚焦 | OpenCSG与传神社区的创新瞬间

创新突破 | OpenCSG发布StarShip CodeReview v1.0.0 Beta版

深度洞察 | OpenCSG带你探索具身智能的前沿

CodeSouler：AI赋能，编程效率的革命性飞跃！

线上线下一体开源的Hugging Face？| 这些问题不可不看……

6月回顾｜OpenCSG 与传神社区的精彩时刻

半年估值数亿，1000亿美元超级赛道跑出“AI猛兽”

化茧成蝶 | 继HuggingFace首家落地大模型具身智能场景

邀请函｜StarShip创新黑客松｜降本增效

5月｜OpenCSG和传神社区的满分答卷

超越Devin，姚班带队 OpenCSG创造大模型编程新世界纪录

StarCloud开源启航：释放算力调度潜能

OpenCSG携手博云科技助力DevOps AI化

喜讯｜OpenCSG的CSGCoder代码生成算法通过国家级算法安全备案

免费+薅羊毛｜ OpenCSG上线企业知识库平台助力企业数字资产价值最大化

开源来袭｜ OpenCSG再次推出开源大模型 LLM-Finetune项目

全球开发者先锋大会圆满落幕，OpenCSG引领大模型时代变革

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉