11月22日，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题的2024年世界互联网大会乌镇峰会完成各项议程，落下帷幕。

本次峰会围绕全球互联网合作与发展、技术与产业、治理与安全、人文与社会等相关前沿热点领域，举办了24场分论坛。同时，还举办了首期全球互联网人才卓越计划研修班，吸引了32个发展中国家政府机构和企业的40名学员参加，着力将数字经济发展相关技术和经验推向更多国家和人民。

在网络空间国际规则分论坛，来自上海社会科学院等15家中国智库和高校的专家，联合发布《全球人工智能治理研究报告》，在系统分析全球人工智能治理现状，提炼全球人工智能治理10大议题的基础上，提出了进一步推动和完善全球人工智能治理体系的目标宗旨、原则共识以及行动路径，为全球人工智能治理贡献新动能，持续呈现推进全球人工智能治理良性变革的中国智慧与中国方案。

这些年来最热门的科技类评论议题莫过于人工智能，如23年深圳大学AI作画，24年吉林大学AI孙燕姿，南京财经、郑州大学、北京外国语“人工智能全球治理”相关材料。因而非常有必要积累相关评论素材。

思路一：防范人工智能被滥用，推动科技向善

2024年世界互联网大会乌镇峰会以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题，具有重要现实意义。近年来，人工智能等新技术方兴未艾，赋能千行百业，大幅提升了人类认识世界和改造世界的能力；同时也带来侵犯数据隐私、冲击就业、扩大数字鸿沟、加剧贫富差距等一系列风险挑战。以新技术推动实现更好的发展，避免人工智能技术被滥用恶用，推动科技向善，增进各国人民福祉，这是国际社会的普遍期待。

思路二：创新、安全、普惠

习近平主席向2024年世界互联网大会乌镇峰会开幕作视频致贺，深刻把握新一轮科技革命和产业变革给人类社会带来的机遇和挑战，着眼于让互联网发展成果更好造福人民、造福世界，突出强调“创新”“安全”“普惠”在推动网络空间发展中的关键作用，为各方携手构建网络空间命运共同体提供了重要指引、注入了强大正能量。

创新是第一动力。网络空间是一个快速发展、日新月异的领域，只有将创新置于突出位置，才能紧跟时代潮流，增添新的动力。各方应秉持开放合作的理念，加强在网络技术、数字经济等方面的交流，加速科技成果转化，通过持续创新，不断催生新的业态、模式和应用，不断挖掘网信巨大的潜力，使其更好地服务于国家发展、社会进步和人民生活改善。

安全是底线要求，是发展的前提。网络安全是全球性挑战，没有哪个国家能够置身事外。我们要努力构建更加和平安全的网络空间，尊重网络主权，遵守网络空间国际规则，不搞网络霸权，深化网络安全务实合作，有力打击网络违法犯罪行为。

普惠是习近平主席反复强调的价值理念。在刚刚结束的二十国集团领导人第十九次峰会上，习主席明确指出：“要加强人工智能国际治理和合作，确保人工智能向善、造福全人类，避免其成为‘富国和富人的游戏’。”我们应加快信息化服务普及，缩小数字鸿沟，在互联网发展中保障和改善民生，让更多国家和人民共享互联网发展成果，构建更加普惠繁荣的网络空间。

（来源：央视网）

十年来，中国一直致力于建设和平、安全、开放、合作、有序的网络空间，积极深化数字领域国际交流合作，坚持共享数字发展成果。中国积极促进全球网络基础设施互联互通，搭建多个国际交流对话平台，推动科技向善，缩小数字鸿沟，努力让世界各国人民共享互联网发展成果，以实际行动推动各国特别是发展中国家把握数字技术变革机遇、推动数字红利普惠共享，为全球数字发展创造新机遇，凸显中国负责任大国的道义和担当。

中国积极参与全球互联网治理，深化数字领域国际合作。十年来，构建网络空间命运共同体理念深入人心，一系列务实举措和卓有成效的合作项目稳步推进。中国先后提出全球发展倡议、全球安全倡议、全球文明倡议，倡导发展优先、安危与共、文明互鉴，推动建设一个更加普惠繁荣、和平安全、平等包容的网络空间。中国发布《携手构建网络空间命运共同体白皮书》，并积极参与联合国框架下的网络空间全球治理机制，推动《全球数字契约》等框架文件加快落地。2024年7月4日，上海世界人工智能大会向全球发布《人工智能全球治理上海宣言》，成为中国引领AI全球治理的又一里程碑。从概念构思到行动倡议，再到实践案例，一幅共谋全球互联网发展、构建网络空间命运共同体的美好画卷徐徐展开，思想共识不断化为具体行动。

（来源：中国网）

2023年1月10日起施行的《互联网信息服务深度合成管理规定》中明确， 任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

2023年8月15日起施行的《生成式人工智能服务管理暂行办法》也明确，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

针对生成式人工智能发展带来的风险，“清朗·规范生成合成内容标识”专项行动提到，要落实《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》相关要求，督促生成合成服务提供者、网络信息内容服务平台落实主体责任，规范开展生成合成内容标识，清理未有效标识、易造成公众混淆误认的生成合成信息内容，处置利用生成合成技术制造谣言、营销炒作的违规账号。 

国家互联网信息办公室9月14日就《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见。根据征求意见稿，网络信息服务提供者应当按照有关强制性国家标准的要求进行标识。服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。 

相约乌镇峰会，共话数字未来

宣讲家网

2024年世界互联网大会乌镇峰会全面聚焦人工智能，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题，于11月19日至22日在中国浙江省乌镇举行。

背景分析：时代潮流浩荡前行，网络空间命运与共。作为中国举办的规模最大、层次最高的互联网盛会，也是世界互联网领域盛况空前的重磅会议，乌镇峰会已迈入第11个年头。回首“网事”，以峰会为媒，世界互联网大会广泛凝聚力量，搭建网络空间国际交流合作新平台，推动构建网络空间命运共同体迈向新阶段。从提出关于全球互联网发展治理的“四项原则”“五点主张”“四个共同”等中国方案，到探讨数字发展之路、网络安全之理、文明互鉴之道，再到开展技术交流、项目合作、成果展示……从乌镇走向世界的中国经验、中国方案与中国智慧，不断彰显出造福人类、影响世界、引领未来的强大力量。相约乌镇峰会，“老朋友”来了又来，“新面孔”接踵而至，共同见证“下一个十年”的华彩序章，共同“拥抱以人为本、智能向善”的数字未来。

意义分析：凡益之道，与时偕行。当前，全球人工智能技术发展风起云涌，成为新一轮科技革命和产业变革的重要力量。但与此同时，人工智能技术伴生诸多风险挑战，已成为全球性的关键议题。善治才能有“善智”，发展负责任的人工智能，避免人工智能技术滥用恶用，事关全人类共同福祉，需要国际社会群策群力。本届乌镇峰会，聚焦人工智能技术、产业发展及其对人类经济社会的影响，回应各方对人工智能发展与治理的关切。值得一提的是，在分论坛设置上，特别增设人工智能板块，围绕人工智能技术创新与治理、人工智能赋能新质生产力、人工智能负责任开发与应用等议题展开讨论，无疑将凝聚各方共同期盼。可以预见，当“乌镇时间”再启，群贤毕至、交流碰撞，必将引领人工智能朝着向上向善的方向发展，开创更加美好的智能未来。

价值判断：中国搭台，全球共享。相约乌镇峰会，拥抱数字未来。从一枕临流水，到一网通天下，乌镇峰会正不断扩展着与世界的“对话”。全新设立“世界互联网大会杰出贡献奖”，成立世界互联网大会人工智能专业委员会，启动世界互联网大会智库合作计划……在往年特色基础上，乌镇“网事”将以更精彩的方式续写，着力推动构建网络空间命运共同体迈向新阶段。与此同时，今年“互联网之光”博览会，将以人工智能为重点，全方位展示中外数字经济领域新技术新业态新模式，打造全球数字经济产业合作交流的重要窗口。走出乌镇、走向世界，中国将携手国际社会，积极拥抱智能变革，大力推进人工智能创新发展，全方位守护人工智能安全，演绎智能向善的精彩“网事”，为推动全球互联网治理变革提供新方案，为促进全球经济发展提供新动力，共筑网络空间命运共同体。

“信息革命时代潮流浩荡前行，网络空间承载着人类对美好未来的无限憧憬。”站在正式开启“下一个十年”的新起点，从乌镇向外传递的思想、倡议、展望与实践，必将乘着乌镇之水，汇入江河、涌进大海、浸润全世界，为构建网络空间命运共同体注入澎湃动能，让互联网更好造福世界各国人民。

今年与AI滥用相关新闻事件还不少，考察的可能性都很高，让我们一起来学习了解。

强化监管，斩断AI造谣利益链条

新华社、北京青年报

现象分析：近期，多地公安机关公布多起利用AI工具实施造谣的相关案件。6月20日，上海市公安局城市轨道和公交总队发布警情通报：有营销人员为博取关注，使用AI软件生成“上海地铁行凶”虚假视频在网上发布，造成恶劣社会影响。此外，“西安突发爆炸”“济南一高层住宅楼起火，多人跳楼逃生”等耸人听闻又广泛传播的“新闻”，均被查实是AI软件炮制的谣言。在不断迭代的生成式AI技术面前，“眼见为实”“有图有真相”正在被挑战。从相关案件看，不法分子利用最新AI技术生产的谣言，足可“以假乱真”，迷惑性极强。人工智能还能根据传播渠道特征，实施个性化的谣言生成，并面向特定受众快速、精准投放，由此造成针对个人或特定群体的诽谤中伤、信息泄露、危害人身安全等事件时有发生。

原因分析：网络不是法外之地。当前，利用AI进行网络造谣的成本仍然太低。之前有媒体报道，有机构最高峰一天能生成4000至7000篇，最高的一条收入700元，初步估算每天收入1万元以上，但相关责任人仅被处以行政拘留5日。因此，除了治安处罚之外，情节严重的应该追究刑事责任，切实提高其造谣成本，方能以儆效尤。《刑法》第291条规定：“编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处3年以下有期徒刑、拘役或者管制；造成严重后果的，处3年以上7年以下有期徒刑。”同时，我国也已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律，加快落实才能从源头防范风险，避免“先污染后治理”的被动局面。

措施分析：针对当前AI造谣呈现出门槛低、批量化、识别难等特点，亟待加强监管，斩断背后利益链条。线下的惩处力度固然要加强，线上的技术监管和追踪也要更新迭代。利用AI技术批量造谣往往涉及大量的网络活动和数据传输，相关部门应加强对网络空间的监管和追踪，及时发现和处置谣言信息。对于涉及的网络平台，也应追究其监管责任。用技术解决技术，在大数据和新技术面前，识别利用AI炮制的垃圾信息，并没有那么困难。如果平台未能有效监管和清理谣言信息，应依法对其进行处罚，并责令其加强内容审核和管理。此外，网络平台、媒体机构等应加强自律，遵守法律法规，不传播未经证实的信息。各行业之间也应加强合作，共同打击利用AI批量造谣的行为。

“雷军”一边骂人一边要捐款？AI“恶搞”不可为所欲为

极目新闻

就事分析：这一类的AI名人配音视频，往往会挂着“恶搞”的名头，很多人也将之当作娱乐消遣，觉得不必太认真。但实际上，这绝对不是一件可以一笑而过的事。对于很多熟悉网络环境的人来说，这些“雷军AI配音”视频可能是“一眼假”，但雷军的名气太大，影响力也很大，难免会有人当真。毕竟，在短视频平台上，那些甚至都没有用AI配音，只是用剪辑的影像配文字字幕的“假靳东”视频，都有不少人上当。在雷军的微博评论区，也有部分网友对此信以为真，还质问雷军为什么要说那些话。这充分表明，这类AI配音视频，尤其是恶搞名人的视频，会捏造言论，混淆视听，给当事人带来极大困扰。

深挖原因：使用AI技术，编辑合成他人的声音影像，其法律风险和社会危害不容忽视。在技术手段日益成熟的今天，几乎可以以假乱真的AI合成技术让普通人难以分辨真伪。一旦这些合成内容被恶意传播，不仅会对当事人的名誉造成损害，还可能引发一系列的法律纠纷，可能涉及侵犯他人的肖像权、名誉权等。对于明星、名人而言，名誉是他们在商业领域和社会中的重要资产，被恶意诋毁和恶搞可能影响他们的商业形象，进而导致经济损失，而对于普通大众来说，如果这种现象泛滥，每个人都可能成为下一个被恶搞的对象，社会秩序和公序良俗将受到挑战。更为严重的是，如果这些内容被用于造谣传谣、诈骗等违法活动，将对社会秩序造成极大的破坏，引发难以预料的严重后果。

措施分析：AI技术理应给生活带来更多惊喜和美好，而不是成为某些人恶意编造、传播不实信息的工具。近日，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》，已面向社会公开征求意见，希望通过专门性法规，加强对AI生成技术的约束和规范，督促服务提供者和网络平台承担起应有的法律责任，为AI生成内容添加显著提示标识，禁止生成和发布涉及违法违规、侵权欺诈的内容，提高受众的警惕性，防范虚假信息的传播，在保障民众合法权益的基础上激励技术发展，从根源上消除可能造成的危害和不良影响。唯有给迅猛发展的AI技术套上法律的缰绳，大力降低AI生成的内容所隐藏的种种风险，让AI演绎必须在合法合规的框架内进行，而不是胡编乱造、为所欲为，我们才能真正享受新兴技术带来的便利，推动人工智能产业的良性健康发展。

“AI伴侣”不能忽视情感伦理、违反法律法规

人民时评

让步分析：“AI伴侣”是具有一定程度的智能和自主性以及社交技能的机器人或虚拟对象。它们展现出非凡的现实性、适应性和互动性，富有同情心，擅长开放式对话，能够与客户建立愉快且相互理解的关系。这种关系可以说是信任、兼容、相互熟悉的，用户通常更容易向人工智能敞开心扉谈论恐惧和不安全感。在互动过程中，AI会通过观察用户的过去经历来嵌入其人际关系网络，通过对话逐步进化，微调其反应以匹配用户的兴趣、需求和沟通风格，让使用者感到安全和幸福。一些研究表明，“AI伴侣”能够减轻个人的孤独感。

我方观点：单凡事都具有两面性。“AI伴侣”一经出现，就引起了有关道德伦理和法律风险的担忧。“AI伴侣”可以提供个性化情感体验和精神慰藉，但并非真实的“完美恋人”。“AI伴侣”的体贴和顺从，让人如沐春风的感受背后，隐藏着一种伦理危机，即对现实情感关系的背离倾向。现实亲密关系的建构过程往往伴随着羁绊、纷争和挫败感，这正是人机交往中所缺乏的。长期沉溺于“人机之恋”，用户可能产生不健康的情感依赖，忽视现实世界的关系或失去处理人际交往的能力。通过这些互动收集的大量个人数据也引发了隐私问题，谁也不能保证个人秘密、图片和视频不会被泄露出去。部分“AI伴侣”可能程序会出现漏洞或被不法分子恶意利用，就可能传播虚假新闻、暴力色情、恐怖主义等不良内容，甚至向用户输出色情、低俗、淫秽的聊天内容。这不仅违反了道德规范，更会对社会秩序和公共安全造成危害，尤其是对青少年的身心健康危害极大。

措施分析：“AI伴侣”还是个新事物，必须划出一条明确的界限，哪些是可能的，哪些是禁止的。虽然已发布有《生成式人工智能服务管理暂行办法》，但人工智能+情感的“AI伴侣”又不同于一般意义上的生成式AI。在鼓励和支持AI技术创新应用于情感交流、心理健康等领域的同时，一方面要明确“AI伴侣”在数据保护、内容审核、商业行为规范等方面的法律责任与义务，一方面也要加强伦理审查和监管，提高“AI伴侣”的安全性能与信息筛选能力，采用加密技术保护用户数据，建立智能的内容审核系统，对信息进行语义分析，精准识别不良信息并予以屏蔽。虽然人工智能可以提供有价值的支持，但真实人际关系的复杂性和不可预测性仍然具有独特的价值。正确的选择在于将这些数字关系视为人类互动的补充，而不是替代。

AI面试成求职新关卡？要精度速度更要有温度

中国城市报

让步分析：作为新兴的面试方式，AI可以节约企业筛选人才的时间和人力成本，能够突破时间和空间的限制。点击企业发来的AI面试链接后，电脑屏幕上立即出现一个虚拟人物以及一行文字：欢迎参加此次AI面试，面试共有4道题目，准备好后请点击“开始”按钮作答……随着AI技术日益广泛地嵌入日常生活，AI面试成为招聘企业的新宠，AI面试官逐渐走上人力资源管理的前台，不少企业选择采用AI面试筛选求职者，由人工智能结合视频分析技术、语音分析技术对面试者进行全面评估，决定求职者是否可以进入下一轮。不少求职者也对此进行针对性准备，主动了解AI面试考察的内容，以适应AI面试。　　

我方观点：然而，找工作是双向选择的过程。模式化提问无法发现求职者的潜力和价值，而在需要互动交流才能做出判断的招聘中，AI面试往往无力无心。AI面试官无法感知求职者情绪和心理上的细微变化，求职者也无法通过面试官的态度、情绪，改变表达方式和表达重点，进而更好地展现自己。《2023年中国网络招聘市场发展研究报告》显示，AI面试已应用的场景占31.8%。但是，求职者们对AI面试官的机械评判标准以及考察能力普遍有所质疑，比如，机械统一的问题是否能真正考察求职者的能力？是否可以作为评价求职者与岗位匹配度的标准？是否真正可以为企业筛选出适合岗位的人才？

措施分析：这些求职者关心的问题必须要引起企业的关注。现阶段AI面试技术缺少个性化、针对性设计，AI面试产品的应用范围和行业贴近性不强，无法根据具体行业提出针对性问题，无法取代真人面试。因此，现阶段的AI面试更适合多轮面试中的初面，侧重了解求职者的基本信息，考察求职者的表达能力、求职意愿等。为避免“不近人情”的求职面试，企业也要主动采取措施改进完善，比如为应聘者录制欢迎视频、讲解岗位特点，采用AI面试辅助人工决策的方式等。更重要的是，企业不能过度依赖AI，在注重技术运用的同时，兼顾情感等要素，让求职者有更多的表达空间，实现企业和求职者的双向奔赴。