深度对话:边缘计算下的算力与能效挑战

科技   2024-12-17 15:33   广东  
“寻找算力与能效的极限”,很像中国哲学思想里对“知”和“行”的一些认识,毕竟“极限”是目标,是要寻找和前行的方向。在2024全球CEO峰会的圆桌论坛环节中,与会嘉宾围绕该主题展开了深入讨论。

作为2024全球CEO峰会的重要环节,今年的圆桌论坛将主题选定为“边缘:寻找算力和能效的极限”。这一议题不仅触及了当前科技发展的前沿,更引发了对未来技术走向的无限遐想,与会嘉宾也围绕该主题展开了深入讨论。

圆桌讨论嘉宾,从左至右依次为:
周正宇,炬芯科技董事长兼CEO
熊文,英诺达(成都)电子科技有限公司副总经理
郑魁,Imagination产品总监
毕超博士,峰岹科技CTO
贾德生,图灵量子华南区总经理

其实,“寻找算力与能效的极限”,很像中国哲学思想里对“知”和“行”的一些认识,无论是“知易行难”、“知难行易”,还是“知行合一”。毕竟“极限”是目标,是要寻找和前行的方向,我们肯定需要对目标有比较充分的了解,比如它是什么?在哪里?能不能到达?需要多久才能到达?等等,这就是“知”的范畴。至于接下来如何“寻找”,显而易见属于“行”的范畴。与会嘉宾也分享了各自对“边缘”和“算力与能效的极限”这两个概念的理解。

极限,只有更高,没有最高

周正宇博士认为,在追求能效比和算力的道路上,只有更高,没有最高。他以自己年轻时的工作经历为例,指出每当人们认为已经达到极限时,总会有新的技术突破。“我坚信,边缘计算的能效比和算力同样没有极限,就像摩尔定律一样,总是不断在人们的质疑中持续演进。”他说。

熊文对周正宇的观点表示了赞同,认为未来的技术发展是难以预测的,因此极限的位置同样无法确定。他强调称,算力是一种工具,而边缘是应用。随着工具的不断进步,新的应用也会不断涌现。因此,我们应该做的工作是不断优化工具,同时保持对新应用的开放态度。

作为来自一家致力于研发芯片和软件知识产权(IP)公司的代表,郑魁从半导体设计和IP的角度,提出了对算力与能效极限的看法。他指出,在追求性能和功耗时,需要针对特定的应用类型,综合考量芯片或计算架构的表现。而且,讨论极限应该有一个好的应用背景,毕竟不同的应用会对芯片的性能和功耗提出不同的要求。

“随着技术的发展,芯片上单位算力的能耗应该是不断下降的。另一方面,算法本身也在不断进步,这对于提高算力同样具有重要意义。”毕超博士以大模型训练为例,说明了算法突破对于算力提升的巨大推动作用。他还对数据中心能耗的快速增长表示了担忧,并提出了在边缘计算和中心处理之间进行权衡的必要性。

贾德生带来了量子计算和光子芯片领域的独特视角。他认为,量子计算对于传统的经典计算有着越级的提升,这也是国家对量子技术给予大力支持的原因。具体到边缘计算领域,云、边、端三个场景不但有着各自不同的分工,而且“极限是一个平衡的过程”,意味着我们需要在硬件性能和应用需求之间找到最佳的平衡点。

最难的技术突破点是什么?

不断提升算力和有效控制、优化能耗,永远是一对矛盾体,所以业界才会将能效比、PPA作为衡量边缘设备性能的重要指标之一,所以我们也一直在平衡,在妥协,在优化。那么在这一过程中,最难的技术突破点是什么?

而且前文谈论的能效比、PPA都还是传统半导体行业关心的指标,当前,另一个无论如何也绕不开的话题就是AI,可AI与边缘设备融合在一起时,能给我们带来哪些具体的改变?AI是如何帮助我们在边缘设备上实现更高效的算力利用和能耗管理的?也不见得人人都能讲清楚。

毕超博士对此回应称,AI正在不断推动电机控制等传统行业的变革,这个过程是AI与算力相互角逐、螺旋上升的过程,需要不断推动算法与算力的协同发展。同时,尽管算力提升对于满足新应用需求的重要性不言而喻,但无论对数据中心还是边缘设备,能耗始终是要优先考虑的问题。

例如,从目前情况来看,随着技术的发展,芯片上单位算力的能耗是不断下降的。然而,数据中心的整体能耗却在不断增加,这是一个需要关注的问题,我们需要在边缘计算和数据中心处理之间进行必要的权衡。

郑魁则结合Imagination在CPU、GPU方面的领导地位,分享了AI算法快速迭代对计算架构的挑战。他强调,处理器计算架构需要不断适应未来算法快速迭代的需求,并提出了模块化、可配置化的解决方案来应对这一挑战。

在谈到量子计算与AI的结合时指出,贾德生表示,量子计算对于传统的经典计算有着越级的提升,这也是国家对量子技术给予大力支持的原因,他们正在打造混合型的平台架构,能够更好的将传统AI模型与量子模块相结合。但光量子计算在实现结果输出、输入方面有属于自己的特殊性和挑战性,目前来看,通过模型转换和光输出捕捉等方式来解决会是较为有效的解决途径。

全面向系统方案商转型

除了技术本身,边缘计算/设备部署的多样性和系统的复杂性也在挑战着半导体行业。有数据显示,到2030年,全球预计将有超过500亿台智能互联设备。对企业个体来说,仅仅聚焦于产品层面肯定是行不通的,致力于提供更多、更全面的系统级解决方案,才是正确的转型之道。

周正宇分享了炬芯在低延迟、低功耗、高性能音频产品方面的特色经验,并强调指出,PPA(Performance, Power, Area)不仅在AI时代重要,在整个电子行业中都贯穿了这三个要素之间的矛盾和统一,因此制造工艺、架构性创新和算法与软件优化在提高算力与能效比方面扮演着重要角色。同时,要从产品公司向系统型公司转型,打造出色生态系统、降低客户差异化开发门槛尤为关键。

熊文在分享英诺达在低功耗EDA工具方面的经验时指出,低功耗的实现不仅是工具问题,更是整个生态系统的问题。他强调了晶圆厂(foundry)在优化制程和提供低功耗模型方面的重要作用,同时也提到了系统级设计在降低功耗方面的巨大潜力。

毕超博士认为,随着边缘设备复杂性的不断增加,单纯停留在产品层面已经无法满足客户的需求。因此,企业需要提供更多更全面的系统级解决方案来应对这一挑战。同时,在转型过程中需要保持灵活性、模块化和可配置化的特点,以更好地满足客户的定制化需求。

“开放标准和良好的生态系统对于边缘计算的发展十分重要。”贾德生认为,制定开放标准有助于促进不同企业之间的合作与竞争,推动整个行业的健康发展。他还特别提到了打造“小生态”和“大生态”的必要性,主张通过强强联合和优势互补来形成更具竞争力的产品或解决方案。

结语

正如屈原所说,“路漫漫其修远兮,吾将上下而求索”,对于算力和能效的探索之路显然不会停止。整场的圆桌讨论中,各位嘉宾以深邃的洞察力和丰富的实践经验为我们呈现了一幅未来科技发展的宏伟蓝图,希望今后会有更多的讨论能够激发更多的灵感,让边缘计算能够迈上新的高度,为社会带来更多更智能绿色的计算。


热点文章推荐

电子工程专辑
中国版创建于1993年,致力于为中国的设计、研发、测试工程师及技术管理社群提供资讯服务。
 最新文章