阿里云 2024 KCD 雅加达之旅精彩回顾

科技 2024-12-21 09:02 浙江

2024年11月30日，Kubernetes Community Day（KCD）在印度尼西亚雅加达顺利开展。本场科技盛宴涵盖了Kubernetes生态的主题演讲与动手实践，吸引了来自各行各业的开发者与技术达人。阿里云作为本场活动的赞助商之一，在「分享知识、激发创意」的主旨下，与印尼蓬勃发展的科技生态体系链接，由4位来自阿里云的容器及可观测专家，分别为350余名与会者带来了1场主论坛演讲和3场分论坛技术分享。

接下来让我们一起回顾精彩演讲！

主论坛上，容器技术专家徐之浩分享了在Kubernetes上使用开源项目弹性扩展生成式AI应用的最佳实践。

随着生成式AI（Generative AI）新晋为当下网络的热词，其影响力逐步拓展到诸多行业，以Kubernetes作为管理GPU实例的编排平台已是企业及开发者的主流选择。然而，在Kubernetes上运行生成式AI应用仍面临诸多挑战，包括可扩展性、模型管理、用户体验和数据访问等问题。本次演讲分享了如何使用阿里云容器服务Kubernetes版ACK（以下简称ACK），和开源项目解决上述挑战。

使用ACK+Kubeflow/Arena，可支持数据科学家、机器学习工程师轻松管理所有AI训练和推理的工作负载；使用ACK+Kserve可实现生成式AI推理业务编排和扩展；使用ACK+MLflow模型仓库允许用户使用额外的元数据（如versions、alias、lineage等）来管理模型；而通过ACK+Fluid可以缩短Kubernetes环境访问云端数据的时间，并大幅缩短生成式AI应用的启动过程。

分论坛上，容器技术专家李博康分享了阿里云弹性RDMA网络产品力为用户所带来灵活且强大的网络加速功能。

eRDMA（Elastic Remote Direct Memory Access），是阿里云自研的云上弹性RDMA网络，其兼具传统RDMA网络高吞吐、低延迟的特性，同时支持秒级的大规模RDMA组网。随着eRDMA在阿里云服务器的广泛应用和普及，其高性能、普惠性以及与RDMA生态系统的良好兼容性已经受到了广大用户的一致好评。eRDMA提供的巨大优势，包含但不仅限于加速数据传输并降低延迟，这对于高性能应用和服务起到了至关重要的作用。而eRDMA Controller作为专为阿里云容器服务Kubernetes版（ACK）设计的一个组件，它负责在容器环境中管理eRDMA，实现Pod网络配置的eRDMA功能，其现已由阿里云开源。该组件简化了用户在ACK环境中调用eRDMA能力的过程，同时eRDMA Controller提供的简便管理和配置体验，可大幅提高用户在ACK集群中有效利用eRDMA，从而增强整体应用的性能和可扩展性。

随后，阿里云容器技术专家伍恒昱就容器安全问题展开技术分享。

随着云原生时代下容器技术的普及与广泛应用，容器安全已是行业内关注的焦点。基于阿里云容器服务ACK的安全管理能力，阿里云构建了一个综合的OCI制品签名验证解决方案，该方案结合了Gatekeeper策略控制器、Ratify组件以及Notation-AlibabaCloud-Secret-Manager插件，以确保容器应用镜像的完整性和安全性。

在该解决方案中，阿里云容器服务开源了Notation-AlibabaCloud-Secret-Manager插件，并将其与阿里云KMS（密钥管理服务）集成，以完成对容器镜像的签名。该方案还结合了Gatekeeper和Ratify实现了签名验证和准入控制的能力，使用户能够在部署工作负载时动态验证容器镜像的完整性并进行实时准入控制，从而提升用户软件供应链安全水位。

阿里云可观测高级产品专家曹剑围绕容器可观测能力，在分论坛上对阿里云可观测链路OpenTelemetry版作出能力分享。

在Kubernetes的传统监控方式存中，仅拥有对于已知问题的报警能力已无法满足日益壮大的生产需求。而从传统监控面向全面可观测性的转变，离不开一个高成熟度的模型：OpenTelemetry。该模型不仅拥有传统监控中的系统健康追踪能力，还能凭借AI的敏锐洞察力，在问题造成大范围影响之前做出准确预测并迅速处理，帮助开发者更好地理解复杂系统的行为，快速定位和解决问题。

为应对在管理复杂Kubernetes集群过程中所面临的诸多挑战，阿里云提出了统一数据摄取、处理和存储的方法，即利用OpenTelemetry标准，并结合现有的工具Jaeger、Prometheus（如利用Jaeger进行追踪，使用Prometheus进行度量集成），共同构成了现代云原生应用的可观测性能力。这一战略的根基是部署一个智能的可观测性代理，它不仅能收集遥测数据，同时还能应用AI算法进行异常检测、根本原因分析和采取自动补救措施。由Qwen提供支持的语义搜索能力，进一步赋予开发人员和运维人员轻松查询和解释庞大数据集的能力，这标志着我们向完全自动化的云操作迈出了重要一步。

精彩瞬间

阿里云云原生

发布云原生技术资讯、汇集云原生技术详细内容，定期举办云原生活动、直播，阿里产品及用户实战发布。与你并肩探索云原生技术点滴，分享你需要的云原生内容。

面向 Workload 级别的灵活可配置 Serverless 弹性解决方案

Spring AI 智能体通过 MCP 集成本地文件数据

网络分析与监控：阿里云拨测方案解密

阿里云容器服务 AI 助手 2.0：新一代容器智能运维能力

ACK One 多集群网关：实现高效容灾方案

阿里云 Serverless 助力盟主直播：高并发下的稳定性和成本优化

让跨 project 联查更轻松，SLS StoreView 查询和分析实践

Qwen2.5 的云端新体验，5 分钟完成极速部署

云消息队列 Kafka 版 V3 系列荣获信通院“云原生技术创新标杆案例”

GitLab 国际站中国大陆等地区停服，如何将数据快速迁移到云效

链路诊断最佳实践：1 分钟定位错慢根因

云原生 Meetup，AI 应用工程化专场·广州站

Envoy 开启 HTTP2 后偶现 404 如何解决？

5 分钟复刻你的声音，一键实现 GPT-Sovits 模型部署

OpenAI 宕机思考丨Kubernetes 复杂度带来的服务发现系统的风险和应对措施

恭喜 Apache RocketMQ、Apache Seata 荣获 2024 开源创新榜单“年度开源项目”

阿里云 2024 KCD 雅加达之旅精彩回顾

道旅科技借助云消息队列 Kafka 版加速旅游大数据创新发展

7分钟玩转 AI 应用，函数计算一键部署 AI 生图大模型

日志服务 SQL 引擎全新升级

函数计算助您 7 分钟极速部署开源对话大模型

CAP：Serverless + AI 让应用开发更简单

今晚围观—>安全运维工程师现场直播用通义灵码发现和修复代码漏洞

杭州铭师堂的云原生升级实践

活动速递丨AI 原生应用开发实战营·上海站邀您参会

阿里云 SAE 邀您参加 Serverless 高可用架构挑战赛，赢取精美礼品

MSE Nacos 2.3.2.0 发布，性能最多提升三倍，支持操作审计等安全特性

上千人挑战，用通义灵码从 0 开始打造一款 App 爆火 | 第二课：搭建本机服务

10 分钟打造你的专属 AI 客服

Nacos 3.0 Alpha 发布，在安全、泛用、云原生更进一步

邀您参加云原生高可用技术沙龙丨云上高可用体系构建：从理论到实践

云上数据安全保护：敏感日志扫描与脱敏实践详解

数百名研发人员使用通义灵码，33% 新增代码由 AI 生成，信也科技研发模式焕新升级

基于云效 Windows 构建环境和 Nuget 制品仓库进行 .Net 应用开发

SpringCloud 应用 Nacos 配置中心注解

有奖调研：通义灵码邀请您填写信通院 2024 年度智能化软件工程现状调研问卷

更快、更灵活、场景更丰富，云效镜像构建能力升级啦！

两招玩转阿里云系统事件监控

荣获 2024 年 AI Cloud Native 典型案例，阿里云容器产品技术能力获认可

ARMS 用户体验监控正式发布原生鸿蒙应用 SDK

阿里云联合中国信通院等单位发布首个云计算智能化可观测性能力成熟度模型标准

C5GAME 游戏饰品交易平台借助 RocketMQ Serverless 保障千万级玩家流畅体验

阿里云可观测 2024 年 11 月产品动态

不写一行代码，通义灵码 5 分钟“手撕”年会抽奖程序

智保未来：国泰产险的 AI 网关革新之旅

函数计算 FC 诚邀您参加【Cloud Up 挑战赛】赢取丰厚奖品！

通义灵码，让梦想照进现实更快一点

一行代码都不改，Golang 应用链路指标日志全知道！

通义灵码 x 函数计算：构建高效开发流程，加速项目交付

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉