Meetup回顾 | 大模型全生命周期管理与AI应用的全栈可观测性

2024-11-22 15:09   上海  


记得关注我们哦!


11.16日下午,以“大模型全生命周期管理与AI应用的全栈可观测性”为核心议题的 Meetup 盛会圆满落幕。本次活动由OpenCSG与DeepFlow联合举办,汇聚了来自 OpenCSG、宝尊电商、信也科技、DeepFlow 等多家科技企业的技术领军人物与行业精英参与,围绕着“大模型开源与管理”主题展开,为参会者带来了一场知识与灵感的盛宴。这不仅是一场技术的交流,更是智慧的碰撞。众多行业精英齐聚一堂,共同探讨行业的未来发展。

大咖云集,精彩分享



在分享环节,多位技术领域的大咖轮番上阵,发表了深刻又富有启发性的精彩演讲,将整个活动的氛围推向了高潮。他们分别探讨了开源新商业文明的广阔前景、Hugging Face+ 在线上线下融合方面的创新实践、信也科技在可观测性领域的成功应用案例,以及利用 eBPF 与 Wasm 技术为 AI 应用打造强大的可观测性能力。这些演讲不仅基于丰富的实践经验,更融入了深刻的行业见解,为现场的每一位听众带来了宝贵的技术启迪与行业前瞻。

分享嘉宾
01

张国锋

上海开源信息技术协会 创始人


第一位分享嘉宾是上海开源信息技术协会的创始人张国锋老师,他带来了主题为《开源新商业文明》的精彩分享。张老师以其独到的视角和深刻的行业洞察,深入阐述了开源技术如何驱动商业模式的变革,并在新时代背景下,帮助企业通过拥抱开源文化,打造更加开放、协同、创新的商业生态系统。他的分享不仅全面剖析了开源技术背后的商业逻辑,还为与会者提供了在开源浪潮中抓住机遇、应对挑战的深刻思考和实践路径。




分享嘉宾
02

陈冉

OpenCSG 创始人&CEO

第二位分享嘉宾是 OpenCSG 的创始人兼 CEO 陈冉,他带来的主题为《模型天天变,不变的是数据沉淀》。从大模型生态发展的角度,深入介绍了 CSGHub 的强大功能。该平台不仅能帮助用户高效管理 LLM 及其全生命周期中的核心资产(如数据集、模型文件和代码),还为用户提供了系统化的工具与方法,以便紧跟开源大模型快速迭代的步伐,安全构建并不断扩展私有数据集,从而为数字人应用的发展提供了坚实且具有长远价值的资产基础。
此外,陈冉老师还特别分享了 CSGHub 在实际应用中的灵活性与适用性,例如如何通过平台实现对复杂数据资产的高效整理与沉淀,优化模型迭代效率,并确保企业在数据与模型管理中保持领先地位。在分享的最后,他详细展示了多个成功的客户案例,包括企业如何利用 CSGHub 打造智能化应用、优化工作流和降低开发成本,为与会者带来了实操性强的实践经验与宝贵的应用启发。他的分享不仅展现了 CSGHub 的广阔潜力,也为大家提供了有关大模型时代数据管理与价值挖掘的全新视角。



分享嘉宾
03

朱荣松

信也科技 基础组件团队负责人

第三位分享嘉宾是信也科技基础组件团队负责人朱荣松,他的分享主题为《信也科技可观测性实践》。详细介绍了可观测性平台的建设经验,从如何设计先进的平台架构到实现统一告警功能,全面解析了这一平台如何整合指标、链路和日志等多维度数据,为系统监控提供了全方位支持。在此基础上,他进一步展示了可观测性平台在多个场景中的成功应用,包括CPU和内存类问题的根因定位、慢请求场景的性能分析、网络异常的精准定界,以及多泳道环境和双活场景的部署实践。这些经验不仅显著提升了系统运维的效率,也极大地提高了问题排查的准确性,为与会者带来了宝贵的实战启发。


分享嘉宾
04

向阳

云杉 总裁

第四位分享嘉宾是云杉网络的总裁向阳,他的分享主题为《使用 eBPF 和 Wasm 实现 AI 应用的可观测性》。向阳老师介绍了 DeepFlow 在 AI 应用可观测性领域的实践,解决了如 GPU/HBM 资源消耗大、LLM Token 响应慢、Token 使用量高等常见问题。他展示了如何利用 eBPF 和 WebAssembly 技术以零侵扰的方式实现全栈可观测性,帮助开发者提升系统效能,为 AI 应用的稳定高效运行提供了有力支持。


圆桌论坛,深度探讨




在圆桌论坛环节,多位嘉宾齐聚一堂,分别是:陈冉,OpenCSG创始人&CEO;刘峰,中国SRE社区发起人,可观测性国际讲师;赵宸毅,JetBrains中国业务拓展总监;向阳,云杉总裁;易俊,宝尊电商运维技术总监。嘉宾们共同探讨了《从 eBPF 到大语言模型:跨越技术栈的创新与应用》这一热门话题。他们首先讨论了人工智能的商业化路径和开源策略,探讨了其在技术实践上的成熟度和商业化路径。

嘉宾们还探讨了企业服务价值量化与成本分摊的问题,提出通过可观测性等技术手段客观量化业务团队的服务依赖和价值,以实现成本的有效分摊。此外,他们深入讨论了大模型对行业的影响及可观测性的重要性,强调了确保个体行为合规的必要性,以及 AI 代码在实际业务中的挑战和未来发展方向。最后,他们还对企业技术选择与未来交互方式进行了探讨,强调了技术兜底的重要性。

轻松交流,收获满满




在茶歇期间,现场人员热烈交流,大家对本次活动充满期待。参与者来自不同行业、公司和团队,通过交流结识新朋友,建立新合作关系。他们互相学习、互相帮助,促进了技术知识的共享与传播。


特别感谢DeepFlow的支持与合作,本次活动不仅让大家汲取到新颖的技术和实战经验,还为推动技术创新与产业升级注入了新的活力与动力。这不仅是一次对前沿技术的深度剖析,更是对未来技术发展的前瞻布局,相信未来这些智慧的火花将推动相关技术不断进步,为人们带来更便捷、智能和高效的体验。

欢迎加入OpenCSG社区



•贡献代码,与我们一同共建更好的OpenCSG


•Github主页

欢迎🌟:https:// github.com/OpenCSGs


•Huggingface主页

欢迎下载:https://huggingface.co/opencsg


•加入我们的用户交流群,分享经验


扫描上方二维码添加传神小助手






“      关于OpenCSG

开放传神(OpenCSG)成立于2023年,是一家致力于大模型生态社区建设,汇集人工智能行业上下游企业链共同为大模型在垂直行业的应用提供解决方案和工具平台的公司。


关注OpenCSG

加入传神社区


传神社区
该账号是开放传神(OpenCSG)分享大模型的技术、见解、传神开放社区等方面的内容!
 最新文章