Gartner:未来三年代理型AI、AI治理平台和虚假信息安全技术加速崛起

科技   2024-11-22 20:41   北京  

最近《Gartner十大战略技术趋势报告(2025)》正式出炉,人工智能众望所归成为焦点,在多个趋势中得到了充分体现。

作者 | 王聪彬
来源 | 至顶网

最近《Gartner十大战略技术趋势报告(2025)》正式出炉,人工智能众望所归成为焦点,在多个趋势中得到了充分体现。

“每年Gartner都会从2000位分析师处收集各自研究领域的重要趋势,并成立技术委员会和筛选委员会对其进行评审。”Gartner研究副总裁高挺说道。

为了确保选出的趋势具有前瞻性,Gartner设定了六大评选标准:第一,需要能获得CXO,尤其是CIO们的关注;第二,具有全球性和跨行业的影响;第三,具有颠覆性的影响;第四,活跃的实验室研究和开发;第五,活跃的VC资金用于研究或初创企业启动;第六,影响倍数为 10(GoogleX 思维模式)。

今年十个趋势被分为三个主题:人工智能的必要性和风险、计算的新前沿以及人机协同。

代理型AI



代理型AI是一个比较广的概念,在国内经常被翻译为AI智能体,除了AI智能体以外,代理型AI还包括了“代理型搜索”或“多代理的系统”,以及Gartner提出的“机器客户”等概念。

Gartner认为,未来每个人都会有一个AI代理。正是因为大语言模型的出现让代理型AI

成为现实,具备语言和推理能力。代理型AI不仅能与我们对话,还能替代人类完成任务,AI会把复杂的目标拆解成不同的任务,然后调用不同的工具实现任务。

代理型AI的两个明显特点是,第一,目标驱动,自动进行任务的计划和执行;第二,具备至少记忆模块、计划模块、感知模块、调用工具模块。Gartner认为,代理型AI的终局是人类和AI形成融合团队。

AI治理平台



AI逐渐融入社会,提高整体生产力,必然会引发AI治理问题。信任就包括信任AI生成的内容、做出的决策、完成的任务等,AI治理平台指可以从法律、伦理道德方面帮助组织管理和监督AI系统的解决方案。

AI治理平台是Gartner提出的“AI信任、风险和安全管理”(AI TRiSM)框架的一部分。高挺说,AI治理平台主要包括模型的生命周期管理、模型的透明度和解释性、模型验证、AI系统监控、AI系统相关法律政策合规管理。

目前已经有厂商可以提供“一站式的AI治理能力”,并且企业也开始建立数字合规部门,把AI合规纳入到日常运用中。

虚假信息安全



生成式AI的出现让制造虚假信息的成本变得非常低,虚假信息安全”指的是应用在信息传播中确保它的完整性、评估它的真实性,以及防止冒充和追踪有害信息传播的一系列的技术。

“魔高一尺道高一丈”,要用AI对抗AI,去发现它、识别它,然后去阻止它,比如“深度伪造的检测”技术,可以检测出深度伪造的内容。

后量子密码学



量子计算以后,量子叠加的效应使得破解非对称的加密变得非常容易。传统方法可能需要一百年,量子计算方法只需要几分钟,这就意味着不久的将来现有所有加密机制都会失效。

企业需要把一些核心数据的加密算法替换,或者找到替代方案。后量子密码学或者说后量子密码加密将成为未来的解决办法。

环境隐形智能



环境隐形智能是通过低成本、小巧的智能标签和传感器实现。这些低功耗、无线设备(如低功耗蓝牙)能够从环境中收集射频能量,实现自我驱动,具有几乎无限的使用寿命。

低成本的特性将催生新的应用场景,如仓库中数百万商品的实时库存盘点、食品运输过程中实时追踪路径和温度,减少运输损耗。而且在每个物品上嵌入环境隐形智能标签,将创造新的客户互动方式。例如,优衣库自动结账系统正是利用智能标签进行价格计算。

节能计算



节能计算是以更低的能耗实现更高效的计算,随着AI对算力需求的增加,全球许多地区因数据中心扩展导致电力不足,难以平衡计算需求与电力供应。

节能计算不是一蹴而就,分为短期、中期和长期策略:

短期策略:采用绿色能源,淘汰低能效硬件,优化计算资源利用率,例如将工作负载转移到低碳排放的云计算区域;

中期策略:通过更高效的编码架构和算法提高能效比,并将计算任务迁移到专用的高效硬件上。

长期策略:光学计算、DNA存储、陶瓷存储、量子计算等技术也有望显著降低能耗。这些技术虽处于早期阶段,也在关注范围之内。

混合计算



传统计算的未来并非量子计算,而是混合型计算。混合计算结合了不同的计算、存储和网络技术,通过多种方法解决不同问题。它可以结合神经形态、量子计算、光计算以及生物和碳计算等技术,利用各自优势和能力去解决不同问题。例如,光计算在复杂优化问题上具有优势,量子计算则在药物发现和材料科学中表现突出。

混合计算的愿景是将这些计算范式融合,通过编排系统实现协同工作。这一过程面临的挑战是涉及许多新兴技术,如神经形态计算和量子计算等。目前混合计算主要限于小规模的异构资源整合(如CPU和GPU),要在更大规模上实现协调,预计需要3至10年的发展时间。

空间计算



空间计算指将物理世界与数字世界融合,创建一个共享的框架,超越传统屏幕显示。这涉及到将物理世界中的人、地点和物体映射到数字空间中,典型技术包括AR/VR/XR,其中新型头戴式显示器,如苹果的Vision Pro、Meta的Quest 3推动了这一趋势的实际应用。

然而,空间计算仍面临高成本、佩戴不舒适、续航和操作、缺乏杀手级应用、碎片化等诸多挑战。

多功能机器人



多功能机器人是用于执行多种任务的机器人,核心特性是能够在多个应用场景中发挥作用,尤其是在人形机器人中尤为突出。

Gartner预测,到2030年,80%的人类将每天与智能机器人互动。实现商业化的关键在于机器人能否提供足够的投资回报,如家庭中既能做饭又能洗碗、拖地等。目前,国内一些工业机器人价格已降至10万元,预计五到十年内,家庭可购买10万元的机器人来完成多项任务。

多功能机器人也带来隐私和人际关系问题,尤其在家庭和办公环境中。例如,机器人可能被视为“电子同事”或“监控工具”。

神经增强



神经增强技术,即脑机接口,通过读取和解码大脑活动提高人类认知能力。它通过单向或双向脑机接口等方法,用信号的方法反映大脑的思维活动。神经增强技术不仅能读取大脑信息,还能将信息写入大脑,增强其功能。当前,该领域正快速发展,例如马斯克的Neuralink已获得FDA批准进行人体植入实验,并在2024年完成了首例手术。

神经增强技术有三个主要潜力:增强人类能力:提高记忆力、注意力等,帮助人类赶上AI发展步伐;创新营销体系:通过植入芯片,直接通过大脑信号识别用户偏好,为营销提供更精准的数据;提升性能和健康:增强人类神经能力,预防工业事故、老龄化及疲劳驾驶,延长大脑健康和寿命。

高挺谈到,相比前几年报告强调技术架构的变化,今年的显著变化在于注重技术本身。过去几年信息技术的突破程度较低,但从去年开始随着AI技术持续迭代,进入到技术发展的加速期,所以今年的技术趋势更为“硬核”。

未来三年代理型AI、AI治理平台、虚假信息安全会成为发展最快的技术,多功能机器人虽然不会在短期内普及,但会是应用效果最明显的技术
作者投稿邮箱:

marketing@zhiding.cn

千人聚会、50万人围观,2024 AI创新者大会暨PEC·提示工程峰会顺利召开

2024全球AIGC产业全景图谱及报告重磅发布

至顶头条
至顶网,一个谈新技术和新商业模式的信息服务平台,致力于记录和推动数字化创新,服务CIO、CTO等技术和商业的决策者、从业者。
 最新文章