看阿里云、京东云、移动云、腾讯云论生成式AI在云安全的应用与风险管理

文摘   2024-11-29 17:55   广东  
第八届云安全联盟大中华区大会期间,“生成式AI在云安全的应用与风险管理”圆桌论坛由CSA大中华区研究院执行院长吕鹂啸主持,嘉宾分别是阿里云安全产品负责人祝建跃、京东安全AI安全负责人Sunny Duan、移动云安全产品主要负责人王浩硕,腾讯云应用安全负责人李瑞。圆桌聚焦生成式AI在云安全领域的应用与风险管理,专家们讨论了AIGC在提升安全防御能力、大数据安全和AI智能体应用等领域的创新价值,以及生成式AI带来的隐私数据、版权侵犯、虚假信息传播等安全风险与应对策略。

Q


AIGC在云安全中的创新应用?

A

祝建跃(阿里云): 

祝建跃分享了阿里云在内容安全领域的应用,强调了通过大模型对“意图型识别”的创新。他指出,大模型可以通过泛化能力较强的方式,识别生成式AI和用户生成内容中的潜在威胁,并且能够在内容生成过程中识别不易察觉的安全风险。他还提到,AI的泛化能力是确保模型准确性的关键,但要避免过度拟合,保持高效的安全威胁检测能力

Sunny Duan(京东云):

Sunny Duan分享了京东云在大模型安全方面的应用,特别是在对抗AI模型的鲁棒性问题和幻觉现象(即AI误生成内容)。他提到,京东云通过建立多层次的防线,包括对大模型训练阶段数据的脱敏处理、数据“去毒”处理以及生成内容的安全检测。她强调,在上线前会进行全面的安全评测,并通过样本生成技术持续改进大模型的检测能力,确保在大模型运行过程中能够有效检测出潜在的安全风险

王浩硕(移动云):

王浩硕谈到了移动云在云安全中结合大模型的创新实践,尤其是在安全运营方面。他提到,通过引入大模型和云原生安全架构,移动云能够高效处理海量日志并简化安全策略配置。他指出,大模型在“安全云脑”平台的应用,能够自动分析安全威胁,识别攻击源,并提高整体安全响应效率。此外,他还强调了数据安全在大模型应用中的重要性,特别是在确保敏感数据的保护、脱敏处理及数据生命周期管理方面的应用。

李瑞(腾讯云):

李瑞总结了腾讯云在AI与云安全结合方面的实践,重点介绍了情报收集和安全威胁响应。他指出,AI技术在云安全中的应用,能够有效提升事件响应效率(MTTD和MTDI),通过提前收集和判断威胁情报,帮助安全团队更迅速地识别是否存在漏洞或安全威胁。他提到,AI模型需要不断优化,以确保对安全威胁的识别能力不受过度拟合影响,并能够快速适应新的威胁环境

Q


AI带来的风险,

您认为最大的风险是什么?为什么?

A

李瑞(腾讯云):

李瑞借用李雨航老师提到的“坏人、坏厂商、坏孩子”的案例,强调了AI在国内场景下带来的最大风险是“伪造身份”相关的安全问题。特别是利用AI进行人脸和声音伪造的诈骗行为,这些技术正被黑灰产利用进行活体诈骗,对民生造成威胁。李瑞表示,腾讯在这一领域进行了实践,例如增强人脸识别的验活功能,关注人脸的纹理、面部表情和互动等细节,以提高伪造者的成本。同时,他也提到视频和照片的伪造以及通过声音、空间和时序不一致性来判断伪造行为。他强调,这是一场持续的对抗,AI可以用来对抗AI,推动“科技向善”

王浩硕(移动云):

王浩硕谈到的风险主要是数据真实性和隐私保护。随着AI技术的普及,越来越多的敏感数据被用于训练模型,这就带来了数据隐私泄露的风险。他认为,数据真实性和有效性是解决AI带来的风险的关键。移动云在数据安全方面的工作包括从数据入口进行管控,确保数据合规、算法不被滥用以及防止“数据投毒”。此外,王浩硕还提到模型的监控和算法的认证标准的重要性,强调数据在训练和使用过程中都需要严格管控,确保不会泄露隐私或侵犯版权。

Sunny Duan(京东云):

Sunny Duan从两个维度分析了AI带来的风险:风险的危害性和行业安全水位。他认为,AI滥用是当前最大的问题,尤其是诈骗活动的增加。例如,有诈骗分子利用DeepMind技术,创建虚假的会议并转账巨额资金,造成了严重的经济损失。他还提到,虚假信息的传播也是一个重要的安全隐患,被列入2025年技术趋势报告的第三大技术风险。关于行业安全水位,段阳阳指出,目前的技术防护手段仍然不足以应对黑灰产的快速变化,行业整体的安全防护能力相对较低,需要加大技术投入以提高防御能力

祝建跃(阿里云):

祝建跃从服务提供商的角度分析了AI带来的风险,强调了投资与收益之间的平衡。他表示,尽管AI技术特别是大模型在市场上非常火爆,很多公司都在追逐这种技术,但企业必须谨慎决策,避免盲目跟风。他提到,阿里云在采用大模型时,始终从实际的业务需求和客户痛点出发,避免单纯为了“AI热”而盲目投入。祝建跃提醒企业,不应将所有资源投入到大模型的开发中,而是要根据自身的业务需求,逐步尝试和探索,避免高风险投资


Q


AI在未来三年内可能面临的

挑战发展趋势?

A

祝建跃(阿里云):

祝建跃指出,虽然目前大家关注的是AI在信息层面的应用,尤其是人脸伪造、虚假信息和数据泄露等,但他认为,未来的安全挑战可能会出现在传统的安全攻防领域。AI可能生成恶意脚本或勒索病毒,而现有的检测引擎可能会难以识别这些新的威胁,尤其是在网络安全和系统防御方面。这种情况会对现有的防御机制造成冲击,使得原本的安全检测机制可能无法识别一些新的攻击形式,导致基础设施被攻破,进而影响整个系统的安全性。
祝建跃进一步提到,在厂商和服务提供商的角度,AI的普及将推动新的产品形态的出现。他认为,未来云安全服务将朝着更加灵活和精细化的方向发展,可能会采用API模式来提供服务。这将推动商业模式的变革,从传统的硬件、软件销售转向更具灵活性的计费模式。比如,AI驱动的安全产品可能会基于性能或使用量计费,而不是传统的一次性硬件购买。这种变化将推动行业朝着更加模块化和定制化的方向发展。

Sunny Duan(京东云):

Sunny Duan提出,随着AI大模型的不断发展,未来的安全防御系统可能不再依赖单一的大模型,而是通过大模型与小模型的结合来提高系统的精准度和安全性。大模型可以提高召回率,即能覆盖更多的潜在安全问题;而小模型则能提高检测的精确度,确保防御的针对性和准确性。他认为,这种“大模型+小模型”的方式将大幅提升安全防御能力,特别是在应对复杂的网络攻击和威胁时
Sunny Duan还提到,AI的未来发展将推动“Agent+模型”的结合,这种方式不仅能够提升安全防御能力,还能大幅提升自动化程度和响应速度。通过将Agent(自动化程序)与AI模型结合,安全响应系统能够更加快速、智能地识别并应对安全威胁。她举例说明,当前很多企业在响应安全威胁时,仍然依赖人工操作或传统的手动流程,而AI与Agent的结合则能实现更加高效的自动化响应,减少人力投入并提升安全运营的效率

王浩硕(移动云):

王浩硕指出,AI将降低安全运营的门槛,特别是对于那些没有足够专业安全人员的中小型企业来说,AI将使其能够更有效地开展安全工作。AI技术将通过自动化和智能化的方式,帮助普通IT运维人员也能完成复杂的安全任务,从而减轻企业的安全服务压力。他认为,AI的加入将使得安全产品的使用变得更加简单,用户不需要过多的专业知识即可有效运用,安全运营的效率将得到显著提升
在谈到云安全的未来时,王浩硕提到,AI将推动云安全从传统的硬件设备走向更加灵活的虚拟化和智能化服务。他认为,AI赋能的云安全将不再依赖传统的“安全盒子”产品,而是通过智能编排、云原生服务等方式,满足用户根据实际业务需求定制的安全保护。这种转变意味着,未来的安全服务将不再局限于购买具体的硬件或固定的产品,而是根据用户的不同需求,动态调整安全策略,提供更加灵活的防护能力。

李瑞(腾讯云):

李瑞同样赞同AI与云安全结合的观点。他强调,随着云计算和AI技术的结合,防御的主战场正在从传统的PC、手机平台转移到云端,特别是在多云环境下,AI能够极大地提升云安全管理的效率。他提到,AI可以通过自动化日志管理和安全事件响应,帮助企业更高效地处理海量的云安全数据。通过标准化接口和统一的日志管理,AI将能够在多云环境中快速识别安全问题并自动修复,提升整体安全防护能力。
李瑞进一步补充说,在云安全的应用中,AI将使得云安全中心不再依赖人工操作,而是通过智能算法自动化地发现并解决安全问题。他强调,数据和日志处理将成为云安全的关键要素,AI将推动这种数据驱动的自动化进程,帮助企业更高效地识别潜在威胁并进行快速响应。

推荐阅读

国际云安全联盟CSA
国际云安全联盟(CSA)是世界领先的中立权威的国际标准组织,创立于2009年,致力于定义和提高业界对云计算和下一代数字技术安全最佳实践的认识。CSA大中华区在中国注册备案,立足于中国,在全球范围与其他国际组织、政府、高校、企业等广泛合作。
 最新文章