在当今数字化转型的浪潮中，人工智能（AI）技术正以前所未有的速度改变全球社会与经济格局。然而，随着技术的发展，AI带来的安全、隐私与伦理问题也愈发复杂化。2024年外滩大会的圆桌对话聚焦于“AI治理：平衡发展与风险，迈向全球共治”这一主题，汇聚了全球专家的智慧，共同探讨如何通过国际合作和标准化治理确保AI技术造福全人类。
此次对话由国家信息技术安全研究中心总师郭晓雷主持，嘉宾包括云安全联盟大中华区主席李雨航、蚂蚁集团安全实验室首席科学家王维强、全国网络安全标准化技术委员会委员闵京华，以及公安部第三研究所数据安全中心副主任盛小宝。各位专家分享了对全球AI治理与合作的见解，并就面临的挑战提出了独到的解决思路。
云安全联盟大中华区主席李雨航表示：“生成式AI技术的快速发展带来了巨大的创新机遇，但也伴随着难以预见的安全风险，尤其是在大模型技术的安全治理方面。”去年WDTA世界数字技术院发布的《2023全球人工智能治理宣言》是由云安全联盟CSA大中华区作为主要推动者和起草者完成。这是全球首个AI治理倡议书，旨在为全球AI技术发展设立标准和准则，并已获得联合国的认可与支持。这一宣言为全球AI治理指明了方向，致力于通过国际合作应对AI带来的复杂挑战。
此外，李雨航特别提到了今天发布的WDTA AI-STR-03号标准，该标准在推动AI大模型供应链安全治理中取得了重大进展，为全球大模型技术的安全保障提供了坚实的框架。他指出：“AI大模型的全生命周期，从设计、开发到测试和运维，都面临着巨大的安全风险。行业必须采取全面的标准化措施，确保技术的可靠性和安全性。”全球合作是确保AI技术造福全人类的唯一途径。通过联合国等国际机构的协调，全球各国应共同努力，平衡技术创新与安全风险，推动AI技术健康发展。
报告下载链接：https://wdtacademy.org/publications
全国网络安全标准化技术委员会委员闵京华则从标准化的角度探讨了AI治理的核心问题。他强调，AI治理的根本在于平衡发展与风险，而实现这一平衡的关键在于标准化。他表示：“AI不仅带来了数据安全挑战，还引发了伦理和精神层面的风险，这些问题需要通过标准化治理来应对。”
公安部第三研究所数据安全中心副主任盛小宝从法律和标准的角度出发，讨论了公安机关对AI技术发展的立场。他指出：“公安机关在AI技术发展上持开放和包容的态度，鼓励技术创新，但也坚守国家安全和社会稳定的底线。”他还提到，强制性标准与推荐性标准的结合，既确保了技术的合规性，又为创新留出了空间。他表示：“AI技术的发展需要在法律框架下进行，但标准化治理能够更快速、更灵活地为技术创新提供指导。”
蚂蚁集团安全实验室首席科学家王维强分享了蚂蚁集团在AI安全领域的实践经验。他指出，蚂蚁集团推出的可信AI框架，为大模型技术的安全评测和防护提供了全面的解决方案。这一框架不仅有助于提升技术的性能，还确保了其安全性、可控性和可解释性。并介绍蚂蚁集团在大模型安全测试中的实践，强调了与云安全联盟的紧密合作，共同推动AI安全标准的制定。他指出：“我们致力于为全球AI治理提供技术支持，通过标准化治理，确保技术既能推动行业发展，又能控制风险。”
国家信息技术安全研究中心总师郭晓雷最后表示：AI技术已经成为推动全球经济发展的重要引擎，但技术的飞速发展也带来了前所未有的安全挑战。他强调：“AI治理不仅是技术问题，还涉及法律、伦理和社会价值的系统性挑战。全球合作与标准化治理是确保AI技术健康发展的核心路径。”
此次外滩大会的圆桌对话展示了全球科技界在AI治理问题上的深刻共识。通过标准化治理与国际合作，AI技术的安全性、透明性和公平性将得到进一步保障。全球合作不仅是推动AI技术发展的重要力量，也是确保AI技术为全人类服务、造福社会的根本途径。AI治理之路已经开启，全球共治将成为应对技术风险与推动创新的关键动力。
阅读推荐
CSA大中华区发布《AI可信度分析》报告，中国电信、广州大学、蚂蚁集团、西安电子科技大学等单位参编
CSA大中华区在外滩大会上发布AI标准报告，启动AI攻防赛事
