2025年人工智能产业/安全趋势

科技   2025-01-20 07:58   山东  

微信公众号:计算机与网络安全
加入知识星球:人工智能、算力算网 下载文件

| 2025年人工智能产业趋势

随着全球科技竞赛的加剧,人工智能已成为大国竞争的新焦点。在国际舞台上,各国纷纷将AI视为提升国家竞争力、保障国家安全以及推动经济转型的关键战略资源。2024年7月,工业和信息化部、中央网络安全和信息化委员会办公室、国家发展和改革委员会、国家标准化管理委员会发布《国家人工智能产业综合标准化体系建设指南(2024版)》,进一步加速“人工智能+”在各行业的深度融合与创新应用,为传统产业的转型升级提供强有力的技术支撑,促进形成新的经济增长点和竞争优势。站在2025年的起点,展望未来,赛迪顾问认为2025年人工智能产业发展将呈现如下十大趋势:

趋势一:全球人工智能发展路径分化,差距在特定领域拉大,但在应用落地方面逐渐缩小

美国聚焦技术创新,欧洲则强调规范制定,中国深耕市场需求。不同国家和地区在AI发展战略上各有侧重,但并非完全孤立,而是相互关联、互为补充。

趋势二:中国人工智能产业将迎来爆发式增长,增速领跑全球

中国人工智能产业在未来10年将呈现出显著的增长趋势,并在全球市场中占据重要地位。从2025年到2035年,中国人工智能产业规模预计将从3985亿元增长至17295亿元,复合年增长率为15.6%。

趋势三:AI行业渗透率提升,智能驾驶和具身智能处于第一梯队

人工智能(AI)技术在各行业的渗透和带来的影响力呈现出三个清晰的生态位,智能驾驶和具身智能处于AI应用的第一梯队,这两个领域对AI技术具有紧密需求和强伴生性,显示出强关联。

趋势四:大模型推动多模态交互,文生视频加速内容生成创新

2025年将成为多模态融合的爆发之年,尤其是文生视频技术的突破,将彻底改变内容创作的方式,推动AI从单一任务处理向全方位智能交互迈进。

趋势五:端侧AI与新一代语音助手的发展标志智能边缘计算崛起

2024年是端侧AI爆发元年,AI手机、AIPC以及智能汽车等消费电子产品能够提供更加个性化的服务,比如实时翻译、智能驾驶辅助等功能。新一代语音助手则代表了人机交互方式的重大革新。

趋势六:AI Agent市场发展潜力巨大,将迎来商用爆发元年

AI Agent正逐渐成为科技领域的新焦点,众多企业布局AI Agent产品和生态,预计2025年有望成为AI Agent商用爆发元年。AI Agent已经从实验室走向了商业应用的前沿,全球AI Agent市场未来将保持高速增长。

趋势七:AI芯片计算架构加速变革,中国芯片迎来发展机遇

未来AI芯片计算架构将经历快速变革,包括实现计算存储一体化、稀疏计算以及支持更复杂的AI算子。此外,全球科技巨头英伟达因涉嫌违反《中华人民共和国反垄断法》被国家市场监管总局调查的背景下,中国芯片产业带来了新的发展机遇。

趋势八:智算需求保持高速增长,智算中心迎来发展关键窗口期

智算中心作为集中提供高性能计算、存储、网络及人工智能服务等关键资源的基础设施,其重要性日益凸显,即将迎来发展的关键窗口期。未来3年中国在建和拟建智算中心规模至少为截至2023年底投产规模的5倍。

趋势九:AI Infra持续降低大模型部署成本,将加快扩展AI应用场景

中国的AI算力获取成本高,而且算力训练慢、部分GPU芯片长期处于限制状态,降低算力成本成为有效提升大模型性能的关键,AI Infra把各类模型同各种芯片解耦适配,可减少算力资源闲置现象,实现模型发展的提速降本。

趋势十:构建人工智能立法与监管体系建设安全可信的AI生态系统

欧洲议会于2024年3月审议通过了全球首部人工智能监管法规《人工智能法》,掀起了对人工智能监管路径选择与具体方案建构的新一轮讨论。未来中国人工智能立法成为必选项,人工智能立法应同时兼顾发展和安全两个方面,构建安全可信的AI生态。

| 来源:赛迪顾问




| 2025年人工智能安全趋势


2025 年将是网络安全防御史上最具挑战性的一年,人工智能、地缘政治不稳定和不断演变的攻击面交汇,呈现出更加复杂的威胁环境。

值得一提的是,人工智能的迅猛发展正在重新定义网络安全的边界。随着技术的进步,威胁的复杂性和多样性也在不断升级,勒索软件不再仅仅是为了经济利益,而是成为破坏和操控的工具;人工智能驱动的攻击以超越人类防御的速度和精准度展开。

基于当前的威胁情报和新兴的攻击模式,以下是2025年人工智能带来的五个重要网络安全趋势预测。

1

勒索软件将变为数据破坏和操控工具

勒索软件不再仅仅是敲诈工具,它正成为系统性破坏的工具。

勒索软件攻击已成为网络安全威胁格局中的长期存在,组织为恢复被加密的数据支付数百万美元。不仅如此,这些攻击的性质正在发生变化。今年,勒索软件团伙将超越加密和数据盗窃,直接针对关键数据的完整性。

这种演变可能包括破坏敏感数据库、修改财务记录或干扰整个行业的运营。想象一下医院地医疗记录或跨国银行的财务数据被篡改的后果。风险不仅限于经济损失,还威胁到生命安全并破坏对机构的信任。

Broadcom的Symantec Threat Hunter Team首席情报分析师Dick O'Brien指出,勒索软件的有效载荷本身并没有太大变化,只能看到一些小的调整和改进,然而勒索软件攻击链中确实发生了真正的创新。“普通的成功勒索软件攻击是一个复杂的多阶段过程,涉及广泛的工具和相当多的攻击者手动操作。” O'Brien认为。

O'Brien将这种变化归因于工具和战术的演变。在许多攻击中,攻击者使用的大多数工具都是合法软件,唯一恶意软件就是勒索软件,而且是在最后一刻引入和运行的。

网络安全和基础设施安全局(CISA)等机构的最新研究强调,勒索软件运营者正利用人工智能和自动化技术发起更快、更有针对性的攻击。


应对措施建议:

  • 实施先进的备份和灾难恢复策略; 

  • 优先进行数据完整性检查,以确保检测到被篡改的数据;

  • 投资于端点检测和响应(EDR)工具,以快速识别和隔离威胁。 

 

2

人工智能驱动的攻击将超越人类防御

人工智能正在革新各个行业,包括网络犯罪。到2025年,敌对者将利用人工智能制定高度针对性的网络钓鱼活动,开发先进的恶意软件,并以前所未有的速度识别系统漏洞。这些人工智能驱动的攻击将挑战是包括最先进的网络安全团队在内的网安人员,因为威胁的数量和复杂性将超越手动防御。

这种新兴威胁的一个典型案例是,使用生成式人工智能创建深度伪造音频和视频,用来绕过身份验证系统或传播错误信息。在2024年,几起引人注目的事件展示了深度伪造技术的可信度,以及其在网络攻击中滥用的潜力正在不断增长。

LastPass的信息安全总监Alex Cox指出,攻击者迅速采用和部署新技术,使用深度伪造、人工智能和大语言模型(LLMs),试图在攻击的初始阶段通过社会工程与受害者建立信任;攻击者通常通过假装是目标公司的决策者,为攻击者的请求提供已知的权威支持。

人工智能驱动的攻击的危险性还在于它们可以轻松扩展。攻击者可以编程一个人工智能系统,在几分钟内识别数千个账户中的弱密码,或比人类更快地扫描整个企业网络以寻找漏洞。

应对措施建议:

  • 部署人工智能驱动的防御工具,实时监控网络;

  • 培训员工识别复杂的网络钓鱼尝试,即使是人工智能制作的; 

  • 与行业合作伙伴合作,分享有关新兴人工智能驱动威胁的情报。 


3

关键基础设施将成为早期目标

在2024年,针对关键基础设施的攻击成为头条新闻,从欧洲的能源网到美国的水系统。这一趋势将在2025年进一步加速,因为国家和网络犯罪团伙将重点放在破坏社会最依赖的系统上。这些攻击通常旨在以最小的努力造成最大的混乱,并在地缘政治冲突中越来越多地被武器化。

老化的系统和碎片化的安全协议加剧了关键基础设施的风险。例如,许多能源网依赖于从未设计用于抵御现代网络攻击的传统技术;操作技术(OT)和信息技术(IT)之间日益增长的互联性创造了新的漏洞。

Black & Veatch全球工业网络安全副总裁Ian Bramson透露,他在与水务公司和公用事业公司交谈时发现,许多公司的工业网络安全项目基础缺乏,尚未建立对其OT网络的可见性,也没有控制其环境以防止、检测或响应攻击。 

Bramson敦促领导者将工业网络安全视为安全问题,因为“对这些的虚拟攻击可能会产生重大的现实物理影响。”因此他认为,应该将网络安全视为安全问题,紧急采取行动并优先分配资源。


应对措施建议:

  • 与相关政府机构合作,识别和缓解漏洞;

  • 对OT和IT网络进行分段,以限制泄露的影响; 

  • 投资于关键系统的持续监控和实时威胁检测。 


4

供应链攻击将升级 

全球商业的互联性为供应链攻击创造了完美的风暴。这些漏洞利用第三方供应商的弱点,使攻击者能够通过单一入口点渗透多个组织。专家预测,到2025年这些攻击的频率和复杂性将增加。

一个显著的例子是SolarWinds网络攻击,它通过针对一家广泛使用的软件供应商,影响了数千个组织。同样,Kaseya勒索软件攻击突显了小型供应商如何成为大型企业的入口。供应链攻击是隐蔽的,因为它们利用公司与其供应商之间的信任关系,往往在数月内未被发现。

政府和监管机构正在关注这一问题。在2024年,美国和欧盟都推出了新的供应链安全指南,强调透明度和问责制的必要性。然而,仅仅遵守规定不足以阻止不断演变的方法的攻击者。

Absolute Security的信息安全、风险和合规副总裁Matti Pearce指出,首席信息安全官(CISO)需要创新的检测和监控技术,以发现可能在网络流量中不直接可见的未经授权的人工智能应用。关注用户教育并提供安全、经过批准的人工智能工具将是缓解这些风险的核心策略;人工智能的使用增长已经超过了对人工智能的安全保护,人工智能将攻击人工智能,从而为企业用户创造一个完美的威胁风暴。

但是,今年安全行业仍然不知道如何有效保护人工智能。Pearce分析说,人类错误,而非恶意对手,将是导致这一预期冲突的原因。随着人工智能的普及,在脆弱的供应链中可能会出现人工智能中毒。关键的人工智能缺陷可能成为潜在的新型攻击的切入点,造成重大经济干扰。”


应对措施建议:

  • 对所有第三方供应商进行全面的安全审计;

  • 实施零信任原则,以限制受损合作伙伴的影响;

  • 利用威胁情报主动识别和响应供应链漏洞。 


5

 网络安全工作场所的技能差距将加深

网络安全行业面临的人才短缺问题将进一步加剧。根据ISC²的一份报告,2024年全球未填补的网络安全职位超过340万个,预计在2025年将继续增长。这一劳动力差距在专业人才需求上呈现出显著挑战。

这种短缺不仅仅是数字问题——更是专业知识的问题。许多组织在寻找具备威胁情报、人工智能驱动防御和云安全等专业技能的员工时面临困难。因此,过于繁忙的团队面临更大的倦怠风险,导致更高的员工流失率,进一步加剧这一问题。

O'Brien认为,勒索软件组织商业模式的变化亟需创新的人类解决方案。大型勒索软件家族的运营者正在通过勒索软件即服务(RaaS)商业模式特许经营他们的业务,“加盟”攻击者租用他们的工具和基础设施,以换取赎金支付的一部分。这一商业模式的意外使得更多权力置于加盟商手中,如果一个运营被关闭,他们可以迅速转移到竞争对手的运营。


应对措施建议:

  • 投资培训和指导项目,培养内部人才;

  • 与大学和编码训练营合作,建立可用人才的管道; 

  • 拥抱多样性倡议,吸引弱势群体作为候选人。 

 

2025年的网络安全挑战令人望而生畏,但并非不可逾越。组织可以通过结合技术解决方案与人类专业知识的多层次方法,抵御创新的网络威胁。只有超越传统的防御策略,拥抱创新和技术的力量,组织才能更好地应对日益复杂的威胁和不断演变的攻击手段。


| 来源:安全牛

计算机与网络安全
帮助网络安全从业者学习与成长
 最新文章