2024年11月20日下午，上海市科学学研究所李辉研究员受邀为应用伦理专业硕士研究生分享人工智能治理的现状、经验和成果，交流分享活动于华东师范大学人文楼2402室顺利举行，由应用伦理中心张容南教授主持。
李辉研究员首先回顾了上海科学学所在支持国家人工智能规则制定和实施方面的贡献。自2016年起，该研究所就参与了人工智能国家规划的制定，作为智库研究人工智能的社会影响，并在学术探讨与政策制定之间架起了桥梁，为相关治理规定的出台提供了预先研究。2019年，上海成为全国第二个新一代人工智能创新发展试验区，上海科学学所在承担市委任务的过程中取得了显著成果。
李辉研究员指出，人工智能治理作为一个新兴的全球性议题，已经成为全球治理体系的重要组成部分。目前，对于全球人工智能治理的对象（治理什么）、主体（谁来治理）和规则（用什么治理），人们的认识正在不断深化。在治理对象方面，全球人工智能治理涉及七大议题，包括数据治理、算法治理、智能产品的可靠性与安全、工作岗位和税收的转移、数字鸿沟、深度造假等恶意应用，以及技术的不成熟性。在治理主体方面，全球人工智能治理涉及多元主体，如各国政府、国际组织、行业组织、企业和技术社群。在治理方式上，全球人工智能治理包括伦理、法律和政策领域，涉及规范、宣言、倡议、原则、标准等多维规则，核心问题的复杂性为建立全球人工智能治理体系带来了新的困难和挑战。
上海科学学所聚焦于人工智能治理的年度进展，并寻求思想众筹。该研究所连续四年举办世界人工智能大会治理论坛，邀请全球不同领域的专家共同探讨人工智能治理的新方案。论坛综合了人工智能科学家的思考与倡议、人文社会科学专家的关注与进展、产业界的实践和探索、国际组织的相关政策进展以及重要国家和地球相关政策的进展。此外，上海科学学所还与德国高校联合研究“人工智能社会评估”项目，基于计算社会学对人工智能进行评估，并提出中国的举措和声音，为全球人工智能治理体系的形成贡献了中国智慧。
李辉研究员在全球人工智能大会治理论坛上分享了宝贵的经验。他从众多人工智能治理研究中提炼出了每年的“显著特征”和“主要进展”。在上海科学学所的积极推动下，越来越多的专家学者参与到这一领域的研究和供稿中。李辉研究员表示，在他们的报告发布后，收到了大量积极的反馈。这些正面的激励让他们更加坚信，为了有效推进全球人工智能治理，需要一份能够促进交流和共享的年度观察报告。随着人工智能安全峰会和南非金砖国家对人工智能治理的关注，全球人工智能治理报告已经成为发展的新趋势。这份报告在全球范围内产生了广泛的影响，获得了同行的高度评价，并受到了联合国大会主席办公室的邀请，前往联合国总部进行交流。最后，李辉研究员总结说，人工智能治理在未来将始终是一个高度需求的领域，但至今还没有一个完整的答案。对伦理的讨论一直在不断发展，我们始终在探索的路上。
在交流讨论环节，有同学提问全球人工智能治理是否具有中国特色的问题时，李辉研究员指出，全球人工智能治理是全人类共同面临的未来挑战。他强调，随着伦理问题的讨论越来越多地涉及意识形态，争论的焦点已经从人与技术的关系转变为人与人之间的关系。张教授也表达了类似的观点，她认为不同群体对于伦理治理规则的理解可能会存在冲突，不同国家和群体的价值观难以达成一致，这导致分歧加剧，对抗性风险增加。李辉特别指出，要警惕一些国家将伦理治理作为意识形态工具，因为它可能加剧话语权的争夺。
文/图：王圣昊
