到2024年底，我们已经到达人工智能 (AI) 发展的关键时刻，政府的参与可以帮助塑造这项极为普及的技术的发展轨迹。
最近的一个例子是，美国国土安全部 (DHS) 发布了所谓的“首创”框架，旨在确保人工智能在关键基础设施领域安全可靠地部署。该框架可能会成为一套全面监管措施的催化剂，因为它突出了人工智能在保护关键基础设施系统方面将发挥的重要作用。
正如部长亚历杭德罗·N·马约卡斯所说，“人工智能提供了千载难逢的机会来提高美国关键基础设施的强度和弹性，我们必须抓住这个机会，同时尽量减少其潜在危害。如果该框架得到广泛采用，将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全性。”
马约卡斯的声明强调了做出正确决定的紧迫性，因为今天的决定将深刻影响人工智能未来如何影响重要系统。
DHS AI框架的主要特点
该框架为参与关键基础设施人工智能开发和部署的各方明确了角色和职责。
风险管理指导：国土安全部建议采用一种包含持续风险管理的方法，建议利益相关者不断识别、评估和减轻潜在的人工智能风险。该建议包括采用透明机制来跟踪可能影响基本服务的人工智能决策。
开发人员的道德标准：该指南强调将道德考虑纳入人工智能设计的重要性，并推动负责任的做法，以最大限度地减少伤害并确保公平对待。
跨部门协作：认识到基础设施的互联性，国土安全部正在推动公共和私营部门之间的协作，以有效分享最佳实践和漏洞。信息共享始终是将蓄意攻击和意外故障带来的风险降至最低的好方法。
事件响应准备：该框架还概述了人工智能开发人员和运营商应如何为潜在事件做好准备；必须制定明确的协议，以便在问题升级之前快速解决问题。
人工智能开发人员的职责是什么？
国土安全部报告最引人注目的方面之一是明确关注人工智能开发人员的责任。
该指南开创了新的先例，概述了明确的期望，特别是对于那些创建旨在在关键基础设施中运行或与关键基础设施交互的人工智能工具的人而言。
关注开发人员尤为重要，因为他们是创造直接影响关键系统的技术的先锋。在设计、开发和部署阶段做出的决策可能会产生重大影响，影响从公共安全到国家安全等各个方面。通过赋予开发人员一套结构化的责任，国土安全部希望在人工智能社区中营造一种责任感和远见卓识的文化。
因此，鼓励人工智能开发人员采取以下行动以符合新指南。
设计时考虑风险：我们敦促开发人员从一开始就构建优先考虑安全性和弹性的人工智能系统，尤其是当该技术旨在与电网或通信网络等关键服务交互时。这意味着在设计阶段集成故障保险装置、进行压力测试并模拟潜在故障场景。
采用可解释的人工智能实践：透明度对于人工智能开发者来说至关重要。该框架敦促采用可解释的人工智能技术，使人类操作员能够理解做出某些决定的原因。这种做法可以增强信任，同时提供审计线索，有助于识别出现的任何问题的根本原因。
合作以产生更广泛的影响：开发人员不应只是单独工作，而应积极与更广泛的利益相关者社区互动，包括政策制定者、用户和其他技术创造者。毕竟，合作有助于确保人工智能工具安全、可靠并可在现实条件下运行。
通过遵循这些准则，开发人员可以帮助构建符合技术标准并符合社会价值观和安全要求的 AI 系统。对可解释的 AI、基于风险的设计和协作的关注创造了一种平衡的方法，可以最大限度地发挥 AI 的优势并最大限度地减少其潜在的负面影响。
为什么现在这很重要？
人工智能框架的发布很好地提醒了我们，人工智能技术并非在真空中发展。如今，人工智能比以往任何时候都更加普及，但其在关键基础设施中的使用需要最高级别的谨慎和责任。国土安全部将开发人员视为降低风险的重要参与者，正在创造一个人工智能可以蓬勃发展而不会损害基本公共服务的环境。
值得注意的是，确保人工智能安全的责任不仅限于开发人员阶段。技术组织也将发挥关键作用。IBM 董事长兼首席执行官 Arvind Krishna 表示：“国土安全部关键基础设施人工智能角色和职责框架是一个强大的工具，有助于指导人工智能在美国关键基础设施中的负责任部署，IBM 很自豪能够支持其发展。我们期待继续与该部门合作，促进可信人工智能系统发展中的共同责任和个人责任。”
马约卡斯部长对此表示赞同，并补充道：“参与创造人工智能的组织和个人今天所做的选择将决定这项技术明天对我们关键基础设施的影响。”
部长的话抓住了这一框架重要性的本质：我们需要以保护和增强社会基础服务的方式来塑造人工智能的未来。
— 欢迎关注 往期回顾 —
>>>网络安全等级保护<<<
>>>关键信息基础设施安全保护<<<
>>>数据安全系列<<<
因侵犯公民个人信息罪 深圳一人被判一年三个月 售卖他人求职简历
公安部网安局：河南开展整治网络谣言专项行动 查处造谣传谣3000余人
一公司高管为泄愤攻击智慧停车收费系统，致上千家停车场无法自动抬杆
上海4人被判刑：5元掌握明星偶像行程？贩卖明星信息4人被判刑！
假期内，网络主播直播约架？郑州警方迅速控制，刑拘十人！网络空间不是法外之地！
网络水军团灭记：“转评赞”狂刷单 上百人“网络水军”团伙落网
北京多家公司因不履行网络安全保护义务被处罚！“两高一弱”仍然是安全隐患重点
>>>其他<<<
网络安全知识：什么是CIA三要素 (机密性、完整性、可用性)？
网络安全知识：什么是基于域的消息认证、报告和一致性 (DMARC)？
