第一作者：Catherine E. Richards
通讯作者：ZAsaf Tzachor
DOI:https://doi.org/10.1038/s44221-023-00069-6
摘要：人工智能（AI）正日益被提议用于解决水系统中存在的不足，这些问题目前导致全球约25%的人口无法获得清洁水源，约50%的人口缺乏卫生设施服务，约30%的人口没有卫生设施。AI有潜力增强供水洞察力、流域管理和应急响应，改善水处理厂及分配网络的设计、运营与维护，并推进服务可得性、需求管理以及水资源公平性。然而，这一新兴技术的普及可能会引发严重的且难以预料的问题，包括因设计错误、功能故障和网络攻击导致的系统性风险，以及社会生态连锁反应、水-能源-食物纽带关系和耦合关键基础设施失效带来的暴露风险。对此，作者提出了三项建议，以确保AI在饮用水供应和污水排放系统中的安全与负责任部署：弥补基础设施数字化及数字素养方面的差距；建立机构、软件和硬件层面的信任机制以确保AI的可靠性；依据作者提出的一套系统性利益与风险评估框架来优先考虑应用领域。
如今，全球约有 25% 的人口无法获得清洁水，50% 的人口无法获得卫生服务，30% 的人口无法获得卫生设施。人类活动引起的气候变化有可能加剧这些问题，气温升高加剧了全球水资源短缺，风暴、洪水和干旱等极端事件破坏了发达国家的水系统基础设施，并削弱了发展中国家的水、卫生和个人卫生 (WASH) 工作。
在此背景下，人工智能 (AI) 及其分支机器学习 (ML) 是最新提出的技术干预措施，旨在通过提高气候适应能力、增强基础设施性能以及在有限情况下协助水和卫生工作来解决整个水系统的问题。然而，人工智能的蓬勃发展的应用可能会引发严重且意想不到的问题，这些问题尚未得到充分重视，必须负责任地、先发制人地加以管理，以免无意中破坏实现可持续发展目标的努力。
在本期《展望》中，作者对水系统中的人工智能进行了均衡的考量。作者调查了人工智能应用从集水区到最终用户可能带来的全系统效益。然后，作者强调了潜在的系统性障碍、直接风险和连锁故障风险，这些可能对社区造成灾难性的影响。最后，作者提出了一种三层风险缓解方法，这对于防止这种目前尚处于萌芽阶段的技术扩散并延续进步陷阱现象是必不可少的。
在这里，作者将人工智能定义为一种基于机器的“智能代理”，它能够借助传感器与环境交互，解释信息以进行决策，并通过人或机器人执行器自主采取行动以实现面向目标的结果，而机器学习是指通过被动观察环境来学习和预测结果的算法模型子集。
作者在该观点论文中提供了大量案例研究，并对相关方面和议题提出了新颖且富有启发性的观点，聚焦在（节标题）：
Benefits from catchment to end-user Barriers and systemic risks Responsible AI to prevent progress traps
障碍和系统性风险
历史经验表明，技术问题解决可能会带来意想不到的后果，这可能比原始问题更具挑战性。鉴于人工智能在水系统中的潜在扩散，如上所述，了解风险状况非常重要。为此，作者强调了可能破坏人工智能在水系统中潜在有益应用的问题，包括：与基础设施和人力资本相关的障碍；与设计错误和恶意使用相关的直接风险；以及间接暴露于连锁故障（图2）。
效益与风险评估框架
水行业必须建立一个透明的框架，负责任地部署人工智能，以控制其基础设施和服务，从而提供对收益和风险的平衡评估。人工智能本身并不是最终目标，而应该被视为对明确定义的问题的技术回应：整体方法必须包括彻底了解水系统的缺陷、对可以安全解决这些缺陷的典型人工智能系统的评估，以及分阶段的原型设计、试点和推广过程。为此，作者提出了一个典型的六层框架（表1），该框架阐述了可信 AI 指南中关于技术稳健性、治理和道德的一般概念，解决了在水系统中部署 AI 的理论筛选、概念验证和实际扩大规模的考虑。此处提供的示例考虑旨在以“实时记分卡”为基础激励水务行业从业者，以在现实世界中实施前、实施中和实施后确定给定 AI 应用的净价值主张。
点击“原文链接”，查看论文
声明：本公众号分享的前沿学术成果来源于各学术网站，不依法享有其所有权。若原作者发现本次分享中的文字及图片涉及侵权，请立刻联系公众号后台或发送邮件，我们将及时修改或删除！
邮箱：environmodel@sina.com
若您认为有用，欢迎
将Environmodel设为星标，或
点击“在看”或“分享”给他人
