【网安动态·第59期】美国防部抓紧推进零信任落地； “五眼”国家发布AI安全部署指南

【网安动态】往期回顾

1.美国防部抓紧推进零信任落地

据美国Meritalk网站4月16日消息，美国国防部副首席信息安全官葛普瑞特·巴蒂亚（Gurpreet Bhatia）当天在华盛顿的一次会议上披露了国防部各部门推进零信任的情况。他称，为实现到2027年全部落实零信任的战略目标，美国防部正在推进39项实施计划，包括为各部门筹措必要资金，也包括确保各部门之间的互操作性。在资金方面，受预算拨款流程等方面的限制，还有不少困难，必须认真规划相关工作；在技术方面，各部门已经明确了相关工作的进度指标，国防部也在关注各部门对相关能力和技术的部署落实情况，其中有些技术和能力对在国防部内外安全共享信息构成挑战。在信息共享方面，需符合零信任原则，不仅要考虑美国防部下属各部门的情况，而且要考虑盟友的情况，包括在零信任方面处于起步阶段的盟友。

2.美网络司令部司令总结网军工作并展望未来趋势‍‍

据美国网络司令部官网4月12日消息，美军网络司令部司令蒂莫西·霍于4月10日向美参议院军事委员会提交证词，总结阐述了美网络司令部在2023年的工作情况，并对当前网络空间格局、未来发展趋势进行分析。蒂莫西·霍表示，2023年，网络司令部围绕保护网络和关键基础设施安全、打击恶意网络活动、情报共享以及保护选举安全开展了大量工作。其中，在防御方面，网络司令部扩大了“设置战场”（Set the Theater）工作，以保护军事系统及其传输和存储的数据，从而为其他作战司令部在各自的地理和职能责任区域提供警告、态势感知、同步和保障；在作战方面，网络国家任务部队（CNMF）继续执行打击恶意网络空间活动的任务，年内在17个国家开展22次 “前出狩猎”行动，曝光了90多个恶意软件样本。未来，美网络司令部将以“网络司令部2.0”规划为牵引，在人工智能和大数据变革的环境中，持续推进联合网络作战架构（JCWA）、作战指挥支持代理（CCSA）等重点工作，同时加强与各部门合作，共同创造美军网络空间优势。

3.美网络司令部成立AI特别工作组

据美国Defensescoop网站4月17日消息，美国网络司令部成立了人工智能特别工作组，旨在推动网络安全技术的应用，并根据国会批准的人工智能路线图，将其作为2023财年国防政策法案的一部分。根据该法案，各部门将制定五年指南，加速采用人工智能系统、应用程序和数据管理流程。网络司令部司令蒂莫西·霍表示，该工作组将利用人工智能识别和消除国防部网络漏洞，并与合作伙伴一道，重点提升技术能力、解决政策问题和并应对威胁。这一举措是网络司令部和国家安全局共同应对人工智能挑战的一部分，旨在保障国家利益。此外，在众议院军事委员会听证会上，蒂莫西·霍表示，网络司令部已在整个任务中使用机器学习模型，并正在使用人工智能进行操作。

4. “五眼”国家联合发布AI安全部署指南文件

据美国国防部网站4月15日消息，美、英、加、澳、新等“五眼”联盟国家当天共同发布题为《安全部署人工智能系统》的指南文件，阐述了用于部署安全且有韧性的人工智能系统的最佳实践。该文件对前期发布的《人工智能系统安全开发指南》中的“安全部署”和“安全运维”部分进行了扩展，称为了安全地部署人工智能系统，必须根据人工智能系统本身的复杂性、所需资源（资金、技术等）、所用基础设施（内网部署、云部署等）等进行认真设置和配置。该文件的主要目的有三个：一是提高人工智能系统的机密性、完整性和可用性；二是确保有效防范人工智能系统的已知安全问题；三是为防范、检测和响应针对人工智能系统及其数据、服务的恶意行为提供方法和措施。该文件特别指出，人工智能的安全威胁在快速演变，必须密切关注并及时更新系统。

5.美与三星电子就在美建立半导体工厂达成初步协议

据美国商务部官网4月15日消息，美商务部签署备忘录（PMT），将根据美《芯片与科学法案》为韩国三星电子提供高达64亿美元的直接资金补贴，帮助其在德克萨斯州兴建半导体工厂，以加强美国半导体供应链的弹性和全球竞争力。据悉，拟议的投资将资助德克萨斯州泰勒和奥斯汀两个半导体生态项目群，其中泰勒地区将构建全面的先进制造生态系统，涵盖研发、生产和封装环节，将从2026年起大规模生产4纳米和2纳米制程芯片；奥斯汀地区则是扩大现有设施，以支持领先的全耗尽绝缘体上硅 （FD-SOI）工艺技术的生产，适用于航空航天、国防和汽车等美国关键行业。

6.麻省理工学院与IBM公司合作研发AI红队技术

据美国麻省理工学院（MIT）网站4月10日消息，MIT与MIT-IBM Watson AI实验室的研究人员合作开发了自动红队技术，以保护大语言模型尤其是聊天机器人模型免受安全威胁。这项研究利用机器学习技术，训练红队模型自动生成多样的提示，以触发正在测试的聊天机器人产生更广泛的有害响应。红队模型在训练过程中，在生成提示方面保持敏感度，并专注于引发目标模型产生负面反应的新颖提示。与人类测试人员和其他机器学习方法相比，这种技术显著提高了覆盖范围，并能够从已经内置人类专家保护措施的聊天机器人中提取负面反应。该研究的主要作者张伟洪表示，每个大型语言模型都需要经历漫长的红队检查以确保安全，但在快速变化的环境中，这种方式不可持续。该研究团队提供了一种更快、更有效的质量保证方式。据悉，这项研究得到了现代汽车公司、广达计算机公司、亚马逊网络服务MLRA研究资助，以及美国陆军研究办公室、美国国防高级研究计划局Machine Common Sense计划、美国海军研究办公室、美国空军研究实验室和美国空军人工智能加速器的部分支持。

据美国OpenAI公司网站4月14日消息，OpenAI宣布在日本成立亚洲首个办事处，并推出了经过日语优化的GPT-4自定义模型，以更好地满足当地用户的需求。该公司任命长崎忠雄为OpenAI Japan的总裁，负责公司在日本的商业拓展和市场推广。GPT-4针对日语进行了优化，提供更快速、更准确的翻译和总结功能，受到了日本企业如Speak、大金、乐天和丰田Connected的青睐。此外，OpenAI的AI技术也在日本地方政府中得到应用，如横须贺市利用ChatGPT提高公共服务效率。OpenAI公司表示将继续与日本政府和企业合作，探索人工智能在服务社会中的更多可能性。

8.英特尔公司拟将推出“特供版”Gaudi 3 AI 芯片

据TrendForce网站4月15日消息，迫于美国政府限制压力，英特尔公司正准备向“特定国家”市场开发“特供版”人工智能加速芯片Gaudi 3。据英特尔披露，“特供版”Gaudi 3包括名为HL-328的OAM兼容夹层卡（Mezzanine Card），和名为HL-388的PCle两种型号，其中HL-328将于6月24日推出，HL-388将于9月24日推出。据悉，根据美国政府要求，高性能AI芯片的综合计算性能（TPP）需要低于4800才可出口到中国，这表明Gaudi 3“特供版”的16位性能不能超过150 TFLOPS（每秒万亿次浮点运算），而原版Gaudi 3人工智能芯片在FP16/BF16上的性能可以达到1835 TFLOPS，因此“特供版”Gaudi 3人工智能芯片最终可能需要将其性能降低约92%。

9.第27届联合国科技大会聚焦塑造AI的未来

据Linkedin网站4月16日消息，4月15日至19日，第27届联合国科技大会于在瑞士日内瓦举行，主题是“塑造人工智能的未来”。此次大会由世界数字技术学院（WDTA）和云安全联盟大中华区（CSA GCR）共同主办，重点探讨生成式人工智能推动人类可持续发展的作用，以及人工智能自我意识、信任和安全等问题。WDTA发布了《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准，这是首次在大模型安全领域发布的国际标准，为全球人工智能安全评估和测试提供了新的基准。会议吸引了来自50多个国家百余位专家和决策者参加，美国商务部标准与技术副部长劳瑞·洛卡西奥、谷歌DeepMind总监苏珊·米勒、非洲联盟人工智能经济委员会主席达林顿·阿科戈等联合主持了讨论。

10.韩英将联合举办第二届全球AI峰会

（全文完）