OpenCSG传神社区月度功能更新

2024-10-08 08:14 上海

9月社区ReleaseNote

在9月的社区更新中，我们继续秉持开放与创新的精神，推出了一系列新功能和技术升级。这些更新不仅扩展了社区的技术支持范围，还为用户提供了更多资源，助力其在人工智能、大数据处理和推理加速等领域的创新。通过与知名企业的合作、引入具身智能的专区以及不断提升存储系统的性能，传神社区致力于为开发者、研究人员和企业提供一个全面、开放、易于使用的平台。

本次更新包括以下几大亮点：

01 具身智能专区🧠

02 Dataflow平台上线🌐

03 支持NVIDIA推理引擎NIM🤖

04 支持昇腾推理引擎MINDIE⚙️

05 提示工程专区📋

06 数据集预览功能增强👀

07 后端存储系统升级📦

来源：传神社区

具身智能专区

基于8月推出的“开源项目”模块，本次新增了“知名企业”专区，进一步拓展了具身智能领域的内容，为用户提供了更广泛的行业视角和信息资源。该专区汇集了全球在具身智能领域中具有重要影响力的企业，涵盖了机器人、人工智能技术研发及应用等多个方向。

在这个专区中，用户可以方便地浏览并深入了解与具身智能技术紧密相关的领先企业，如Neura Robotics、Sanctuary AI和Figure AI等。这些企业的资料包括它们的成立时间、主要技术方向、产品和服务，以及最新的技术动态。通过访问这些企业的介绍页面，用户能够了解行业内的最新进展、技术革新以及不同企业在具身智能领域的研究和开发重点。

此外，专区不仅是行业信息的展示窗口，也是一个交流与合作的平台。通过这一模块，用户能够掌握最新的前沿技术趋势，并有机会与这些领先企业建立合作或获取技术支持，进一步推动具身智能在各行业中的应用与创新。

您可以在传神社区首页导航栏 -> 专区 -> 具身智能 -> 找到“知名企业”专区

02 Dataflow平台上线

DataFlow平台是基于Agentic架构理念设计的，专门应对复杂的数据处理任务。这个平台通过高度动态且可定制化的架构，为用户提供了一站式的数据处理体验，极大地简化了各类复杂的数据操作过程。无论是大规模数据清洗、分析，还是多种格式的文件处理，DataFlow都能够灵活适应不同场景的需求。它不仅为用户提供了高效的数据流管理和任务自动化工具，还具备良好的扩展性，能够轻松应对不断增长的业务需求。

平台支持多种数据处理模块，涵盖从数据清洗、转换到复杂的机器学习模型部署的全流程。用户可以通过直观的界面创建并管理自己的数据任务，实时查看任务状态和处理进度。同时，DataFlow还集成了丰富的数据源接口，支持对不同类型的文件格式进行快速处理，如PDF、CSV、HTML等，帮助用户轻松应对多样化的数据处理需求。

DataFlow平台的最大优势在于其高度定制化的解决方案。用户可以根据具体的业务需求，灵活调整数据处理流程、配置参数，并通过平台提供的API接口与现有系统无缝集成。这一切都极大提升了数据处理的效率与灵活性，使用户能够专注于更具战略性的数据分析和决策。

您可以在传神社区首页导航栏 -> 产品 -> 找到 DataFlow 智能数据平台

详情请点击卡片内容查看

我们欢迎用户随时与我们联系，以获取更多关于DataFlow平台的详细信息和定制化咨询服务。我们的团队将为用户提供个性化的解决方案，帮助其充分利用平台的强大功能，满足各种数据处理的需求。

03 支持NVIDIA推理引擎NIM

NVIDIA 推出的 NIM（NVIDIA Inference Microservices） 是一款基于 NVIDIA 推理软件的微服务预构建容器，包含了 Triton 推理服务器™ 和 TensorRT™-LLM，为开发者提供强大的推理加速能力。借助高性能显卡如 A100 和 H800，NIM 能显著缩短 AI 模型的部署时间，从传统的几周减少到几分钟，为企业带来极大的效率提升。

通过 OpenCSG，用户可以轻松实现 NIM 容器的部署，快速优化模型推理，加速大模型应用的落地。

这一解决方案不仅为用户提供了高效、安全的推理应用环境，还通过与阿里云计算巢的结合，提供了企业级私有化部署选项，满足企业在数字化转型中的不同场景需求。

详情请点击卡片内容查看

API 测试

UI测试

性能测试（2GPU in A10）

支持昇腾推理引擎MINDIE

OpenCSG 平台现已全面支持 昇腾推理引擎 MindIE，为开发者提供了强大的推理加速工具。通过集成 MindIE，OpenCSG 用户可以充分利用昇腾硬件的高效算力，快速部署并优化基于昇腾平台的 AI 应用。MindIE 的引入不仅提升了 AI 推理任务的处理效率，还让用户能够通过分层开放的 AI 能力设计多样化的推理方案，满足各类复杂应用场景的需求。

在 OpenCSG 中，用户可以轻松选择 MindIE 作为运行时框架，并根据具体业务需求动态调整资源配置，例如选择不同的 NPU、vCPU 及内存，确保推理任务在最优配置下高效运行。MindIE 的多层次编程接口还允许开发者根据不同的推理任务灵活调用底层 API，极大提升了开发的灵活性和效率。

MindIE 支持多个昇腾处理器，如 NPU 910B，能够提供卓越的推理加速效果。结合 OpenCSG 平台的高可扩展性，用户可以在该平台上轻松部署 AI 模型，实现从开发、测试到生产环境的一站式服务，进一步优化推理性能并缩短项目的上线周期。

通过 MindIE 的支持，OpenCSG 不仅进一步扩展了其 AI 推理能力，还为广大的昇腾平台用户提供了更加灵活、高效的开发环境，助力他们在各类 AI 任务中获得更出色的表现。

您可以在个人中心-> 资源控制台-> 新建实例 -> 运行时框架 -> 选择 MindIE

05 提示工程专区

社区上线了全新的提示工程专区，旨在为用户提供丰富的提示词相关工具和资源，助力大家更高效地开发和优化提示工程。这个专区涵盖了多个模块，方便用户在不同应用场景下灵活使用。

在“提示词库”模块，用户不仅可以浏览社区中已经共享的优质提示词，还可以根据自己的需求搜索特定领域的提示词，或者通过模型查看关联的提示词。这些提示词由社区用户共同贡献，涵盖了各类AI应用场景，如自然语言处理、生成式模型、图像识别等。用户还可以对自己常用或创造的提示词进行标注和分享，进一步丰富提示词库的内容，同时帮助其他用户加速模型开发。

“优化助手”模块是提示工程专区的另一大亮点，专为提示词优化而设计。通过这个模块，用户可以将自己的提示词输入,OpenCSG提供优化服务，对提示词进行微调。

您可以在传神社区首页导航栏 -> 专区 -> 提示工程 -> 找到提示词库和优化助手

06 数据集预览功能增强

针对parquet格式的数据集，平台支持子数据集及用途数据集的智能识别与切换功能。用户可在数据预览界面中查看并管理不同的子数据集，如训练集、验证集和测试集。通过选择用途（例如train, validation, test），用户能够快速切换数据的使用场景，以满足不同的实验需求。此外，系统能够自动识别并展示parquet文件中的行数，方便用户了解数据集的规模。该功能有效简化了数据集管理流程，增强了多场景下的灵活性与便捷性。

07 后端存储系统升级

OpenCSG 的后端存储系统通过 Gitaly 进行了全面升级，显著提升了模型同步的性能。借助这一升级，用户能够体验到更高的可用性，系统在处理大规模模型时表现更加稳定。同时，响应速度大幅提升，用户可以更快速地完成模型的上传、下载和更新操作。升级后的系统还加强了稳定性，即使在高并发情况下，存储系统也能保持平稳运行，为用户提供更加流畅的操作体验。

欢迎加入传神社区

•贡献代码，与我们一同共建更好的OpenCSG

•Github主页

欢迎🌟：https:// github.com/OpenCSGs

•Huggingface主页

欢迎下载:https://huggingface.co/opencsg

•加入我们的用户交流群，分享经验

扫描上方二维码添加传神小助手

“ 关于OpenCSG

开放传神（OpenCSG）成立于2023年，是一家致力于大模型生态社区建设，汇集人工智能行业上下游企业链共同为大模型在垂直行业的应用提供解决方案和工具平台的公司。

关注OpenCSG

加入传神社区

http://mp.weixin.qq.com/s?__biz=MzkxNTYxMjU1Mw==&mid=2247486871&idx=1&sn=f85c26e4e63c98d6258654f028c03cb9

传神社区

该账号是开放传神（OpenCSG）分享大模型的技术、见解、传神开放社区等方面的内容！

最新文章

OpenCoder：开源代码大模型，推动编程AI的未来

CodeSouler v1.11.0 版本更新

倒计时2天！大模型全生命周期管理与AI应用的全栈可观测性圆桌议题公布

CSGHub All-in-One Docker 快速部署

重磅揭秘！Auto CSGHub内测视频曝光 | 国产版 HuggingFace+ 引领智能化升级

算力补贴累计超亿元！模速空间“浓缩”上海大模型产业链

报名开始｜《大模型全生命周期管理与AI应用的全栈可观测性》上海站

微软OmniParser：一切皆文档，OCR驱动智能操作

从文本到动态视频：Allegro模型让创意更轻松

传神论文中心｜第30期人工智能领域论文推荐

超快速，高性能！Meta发布移动端MobileLLM

DataFlow v202410 版本更新一站式数据处理平台

OpenCSG与传神社区的创新瞬间

OpenCSG传神社区月度功能更新

突破语言壁垒：Cohere 发布多语言大模型 Aya Expanse

Stable Diffusion 3.5震撼发布：三大版本满足多层次AI图像生成需求

OpenCSG携手书生·浦语：InternLM2.5-20B-Chat 正式上线，共建AI未来新生态

课程升级、资源加码！万人共学的书生大模型实战营第4期正式起航！

无需依赖闭源模型！司南CompassJudger为AI评测带来新选择

CSGHub SaaS快速入门指南

Mochi 1视频生成模型亮相：动作流畅，开放源代码

课程升级、资源加码！万人共学的书生大模型实战营第4期正式起航！

传神论文中心｜第29期人工智能领域论文推荐

重磅升级 | OpenCSG开源中文版fineweb edu v2数据集

英伟达推出Nemotron-70B：强大开源语言模型，基准测试中全面领先！

直播预告｜未来视界：多模态AI的创新与挑战

苹果开源Depth Pro：0.3秒实现从2D图像到3D深度图的革命性突破

传神论文中心｜第28期人工智能领域论文推荐

2B参数搞定高质量视频！北大&快手携手打造Pyramid Flow

直播预告｜当A股疯涨挑战经典金额理论，大模型能否作为一个“理性投资人”？

CodeSouler v1.0.8 版本更新

传神论文中心｜第27期人工智能领域论文推荐

OpenCSG传神社区月度功能更新

OpenCSG开源数据集再次登顶HF数据榜

OpenCSG DataFlow：锻造大模型智慧的炼金术，开启数据集Agentic新范式

微软推出GRIN-MoE：开创专家路由新范式

Llama 3.2：轻量级设计与多模态能力

英伟达发布NVLM 1.0：屠榜多模态任务，纯文本性能逆势提升

高效、精准、智能：GOT-OCR2.0引领OCR 2.0时代

传神论文中心｜第26期人工智能领域论文推荐

超越极限！Qwen2.5 助力多领域智能应用

年度巨献 | OpenCSG开源最大中文合成数据集Chinese Cosmopedia

CSGHub开源版本v0.9.0更新

传神论文中心｜第25期人工智能领域论文推荐

Mistral AI再创新高，Pixtral 12B多模态模型强势来袭

CodeSouler v1.0.7 版本更新

重磅发布！DeepSeek-V2.5：融合通用与代码能力的全新开源模型

小而强大！零一万物 Yi-Coder 模型震撼发布！

国产“小钢炮”MiniCPM3-4B：小参数，大能量！

国内独家首发 | OpenCSG开源中文版fineweb edu数据集

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉