8月21日至23日,由Linux基金会、云原生计算基金会(CNCF)联合主办的全球顶级开源盛会KubeCon + CloudNativeCon + Open Source Summit + AI_Dev China 2024, 在中国香港盛大举行。作为全球云原生企业的先锋,同时也是开源理念的忠实推动者,华为重磅参会,携手云原生开源项目十多位技术大咖,带来实践分享、案例剖析、前瞻探索等一系列干货,为全球开源开发者奉上一场技术盛宴。
云原生与AI融合持续深化
华为推动全球智能化新浪潮
“从2023年开始,AI再次爆发,云原生进入AI算力阶段,CNCF基金会推出了Cloud native AI 工作组,开始给出了云原生AI的参考架构。”任旭东表示,开放正让云原生和AI两大技术方向逐渐走向融合,从Cloud Native for AI和AI for Cloud Native 两个方向双向演进。
华为首席开源联络官 CNCF基金会董事 任旭东
· 华为 Cloud Native for AI 实践
近年来,华为云陆续开源了KubeEdge、Volcano、Karmada等项目,受到业界的广泛关注支持及落地使用。例如,彭博社旗舰产品彭博终端采用了Karmada来管理多个数据中心的计算资源,大幅提高计算资源的利用率、增强业务敏捷性。而Bilibili使用了Volcano作为AI/Big Data/编解码任务的调度器进行作业和资源管理,提升了AI训练任务效率,大幅降低了Job的更新频率,提高了视频编解码任务的吞吐量。
· 华为AI for Cloud Native 实践
华为持续开源创新,与全球云原生社区共同发展。作为中国生态领先的开源AI框架MindSpore,基于MindSpore的LLMOps为云原生带来更多创新。同时,作为目前中国领先的开源服务器操作系统,openEuler带来了与AI结合的全新智能方案升级,大模型智能体EulerCopilot为操作系统开发运维带来全新智能体验,而智能操作系统进一步使能云原生的全面创新。
在现场,任旭东宣布openEuler开源社区与CNCF基础设施团队合作、基于openEuler的CNCF CI/CD已经正式上线,将为CNCF开发者带来更多的OS选择及更多算力资源,为CNCF社区带来更加智能的基础设施,并鼓励CNCF社区项目体验。
未来无法预测,但可以被创造,任旭东表示:“一方面,CloudNative For AI ,从训练走向推理,我们坚信云原生是AI的最佳底座,必将加速AI的应用创新。另一方面,AI For CloudNative,AI将从Devops到LLMOPS,使能云原生开发新范式,加速云原生行业落地。”
驱动变革
云原生技术加速行业创新升级
会上,华为云云原生开源负责人王泽锋联合蔚来汽车战略新业务数字系统架构师蒋旭辉发表“云原生技术加速电动汽车创新”主题演讲,深入探讨云原生技术在汽车软件领域中的转变影响和未来前景。
王泽锋提到了云原生技术在各行各业软件应用构建中的技术与生态双重优势,并与蔚来汽车的架构师联合讲解了以KubeEdge为核心构建蔚来整套车云协同平台的产业代表方案,该方案首次搭载于量产车型,是云原生生态领域中一次全新的尝试,为车企带来开发交付效率、团队协作等方面的巨大提升。
华为云云原生开源负责人王泽锋
开源创新促进了行业解决方案的升级与快速落地,帮助企业实现敏捷开发和高效运营,开源社区的活跃交流也为企业提供了丰富的技术支持和资源共享,为行业带来了新的发展机遇和竞争优势,云原生技术正深入应用于各行各业。本次大会上,华为云云原生多个开源社区,联合伙伴带来行业案例分享,共同探索云原生开源技术发展与产业智能化升级。
多领域技术分享
与业界共探前沿科技
Kuasar社区负责人和WasmEdge社区Committer进行了“使用WasmEdge和Kuasar在Kubernetes上部署LLM工作负载”主题演讲,分享在Kubernetes集群里运行大模型负载的实践,解决了大模型应用开发和部署的两个痛点问题,一方面是通过WebAssembly技术解决传统PyTorch复杂依赖和跨平台兼容性问题,另一方面Kubernetes集群提供丰富的打包部署、资源管理、自动扩缩容、监控运维和服务发现能力,这些都将提高大模型应用的开发效率,加速云原生与AI生态的融合发展。
Kuasar社区负责人(华为云)和WasmEdge社区Committer演讲中
同时,Kuasar社区Maintainer和Containerd 社区Maintainer共同分享了Sandbox沙箱在云原生领域的发展历程与前沿实现,社区围绕Sandbox概念衍生发展出了一套新的API,Kuasar作为首个API实现者,已经构建出基于MicroVM、App kernel、WebAssembly和runC等形式的Sandbox容器,可以在轻量级安全容器、公有云远程Sandbox以及基于wasm运行LLM推理场景下发挥着巨大的架构优势。本次大会期间,社区同步正式发布v1.0.0版本。
KubeEdge社区技术专家分享了KubeEdge 在多个行业和场景中的用户案例展示,结合智能交通、智慧城市、智慧园区、智能能源、智能工厂、智能银行、智能工地、CDN等一系列行业用例,探讨KubeEdge与行业特定用例的关系。在当前用户愈加关心云原生安全的趋势下,来自华为云云原生团队的KubeEdge社区专家们也联合社区伙伴,带来云原生边缘计算场景中的安全威胁模型分析和保护实践等安全话题的技术分享。社区技术专家也进一步介绍了KubeEdge技术和社区治理方面的进展,未来,社区也将继续探索赋能多领域、多场景边云协同AI智算。
Volcano云原生批量计算社区在本次大会上带来了利用拓扑建模和拓扑感知调度加速LLM训练、Volcano 激活下一波智能应用、通过Volcano增强的智能基础设施优化LLM工作流程等云原生AI领域的热门话题分享,同时社区专家与调度领域技术专家深入研讨Kubernetes调度社区碎片化现状及如何应对AI/ML工作负载带来的挑战。作为业界首个云原生批量计算引擎,Volcano由华为云发起,主要用于 AI、大数据、基因、渲染等诸多高性能计算场景,对主流通用计算框架均有很好的支持,目前在人工智能、大数据、基因测序等海量数据计算和分析场景已得到广泛应用。
Karmada社区在本次大会上联合社区伙伴,带来1场Keynote主题演讲并在7场相关分论坛中发表技术分享。其中,来自京东云和小红书的Karmada用户伙伴,分别带来京东云的大规模无服务器实践(在Karmada上的应用管理和弹性扩展),小红书利用多集群架构打造弹性和弹性混合云的落地实践案例分享。Karmada社区负责人与技术专家向参会者们分享了项目最新进展,并带来使用Karmada和PipeCD解锁可扩展性并简化多云管理,Karmada和Istio提高生产分布式云负载与流量韧性等多个议题分享。社区同时与多位云原生多集群领域专家展开SIG-Multicluster、开发标准的多集群Inventory API等深入探讨,为与会者带来多集群领域的崭新观点与启发。
华为服务治理专家在本届大会上带来4场服务治理技术演讲,探讨Istio 数据平面架构创新带来的全新性能体验,Karmada 和 Istio 提高生产分布式云负载与流量的韧性,服务网格的未来是边车还是无边车,用内核原生无边车架构彻底改变服务网格等流量治理前沿话题。团队重点介绍了Kmesh内核级流量治理引擎给服务治理带来的创新升级,期望借助在Istio社区长期的积累,打造Sidecarless服务网格业界标杆方案,促进服务网格健康有序的发展。
昇思MindSpore布道师Selina发表了《提升大模型开发和训练效率:昇思MindSpore自动并行技术应用详解》的主题演讲,深入浅出讲解了昇思MindSpore如何通过自动并行技术,显著提高大模型的开发和训练效率,为AI创新使能加速的实践。
同时,10个云原生、明星开源项目(KubeEdge、Volcano、Karmada、Kuasar、Kmesh、Sermant、开发者计划、昇思MindSpore、openEuler、openGauss)的参展,不仅彰显了华为在云原生、开源技术领域的深厚实力,也吸引了现场全球开发者的驻足交流体验。
滑动查看更多展区现场
未来,华为将继续与全球企业和开发者携手,共同应对当前的挑战,推动AI和云原生技术的创新与应用,为构建全球智能化的未来贡献力量。