点击蓝字
关注我们
2024 年 12 月 3 日上午，由清华大学、新加坡国立大学、香港科技大学联合主办的 2024 人
工智能合作与治理国际论坛“人工智能产业发展与治理”专题论坛，在新加坡国立大学耶鲁
-新加坡国立大学学院礼堂（Yale-NUS College Hall）成功举办。风投公司 Infinity Ventures
联合创始人兼普通合伙人赛勒斯·霍德斯（Cyrus HODES），新加坡科技工程有限公司首席技术官兼首席数字官李香龙（LEE Shiang Long），萨里大学协理副校长熊榆（XIONG Yu），智谱 AI 高级研究员赖韵洁，瑞莱智慧（Real AI）CEO田天，腾讯研究院高级研究员曹建峰应邀出席专题论坛并作精彩发言。本场专题论坛由清华大学计算机科学与技术系长聘副教授王宏宁主持。
王宏宁主持
赛勒斯·霍德斯（Cyrus HODES）演讲
李香龙（LEE Shiang Long）介绍了新加坡科技工程有限公司在人工智能、网络安全、卫星通信、机器人技术等多个领域的创新实践，并表示公司推出“研究转化（Research Translation）”工程以旨在将研发生态系统的研究成果转化为产业解决方案。同时，他也介绍了公司在人工智能安全领域的产业实践，并指出AI网络分析师可从现有工具的简化和集成、减少误报、警报关联、检测规则生成、自动化报告生成、事件响应与精准建议等多方面增强网络安全态势。
李香龙（LEE Shiang Long）演讲
熊榆（XIONG Yu）作了题为《人工智能产业发展：GPU资源分配、能源基础设施与国际合作》的演讲。首先，他从学科发展、知名校友等多方面介绍了萨里大学发展情况。然后，他表示，人工智能快速发展导致全球算力需求激增，或将引致世界面临能源危机。能源供应和GPU供应，已成为目前人工智能发展的两大关键议题。他还强调，人工智能基础设施消耗大量能源，迫切需要开发可持续的能源解决方案以支持其发展。
熊榆（XIONG Yu）演讲
赖韵洁演讲
田天以《瑞莱智慧（RealAI）在大模型时代的 AI 安全实践》为题进行了演讲。他提出将人工智能安全分为增强人工智能的鲁棒性、防止人工智能滥用、确保通用人工智能的安全等三个层级，并介绍了RealAI的最新产品以及产业生态伙伴情况。他表示，针对关键场景中的大模型应用，RealAI提出了将人工智能安全平台作为产业新型基础设施，进而支持多层次安全可信模型的实施。
田天演讲
曹建峰分享了AI行业发展和治理的一些新趋势。AI技术创新和行业应用仍在快速发展，诸如多模态AI、端侧大模型、行业大模型（聚焦特定行业的或定制化的大模型）、AI agent、大模型与游戏AI结合、大模型与机器人结合、AI陪伴应用等。在商业化应用方面，特定应用场景与大模型价值链的距离、对AI幻觉的容忍程度、是否需要定制化开发等，是大模型商业应用落地需要考虑的重要因素。此外，曹建峰指出，一方面，AI领域需要重视福祉型人工智能的开发和部署，用人工智能支持、促进个人和社会福祉，为此需要探索和福祉型人工智能相关的数据集、测评、标准等，如腾讯联合多方发起的“AI向善语料库”共创行动；另一方面，人机对齐作为AI伦理治理的新的理念和实践，能够有效平衡创新和伦理，促进负责任的AI发展。
曹建峰演讲
圆桌讨论环节，与会专家围绕AI产业发展、AI产业治理、AI产业发展与治理的平衡关系等三大议题展开了讨论。赛勒斯·霍德斯（Cyrus HODES）在圆桌讨论中指出，监管和创新是相辅相成的，不能把二者分开来看，并强调AI领域需要有一个被全球接受的治理框架且这依赖于多方共同努力推进；他还指出，能够进行训练和微调模型的个性化代理开发组件，将成为未来AI发展趋势。李香龙（LEE Shiang Long）表示，当前大多数人工智能公司还没有实现商业盈利，尤其是那些花费大量算力和硬件资源的公司，但在有强烈客户需求的地方（比如聊天机器人在消防部门的应用），将成为人工智能真正能够有所突破的领域方向；同时，人工智能治理机制有利于保护创新者且当前治理仍在发展之中，我们应积极参与投入其中，并可采取预防性方法，对人工智能风险进行分级分类、渐进式处理应对。熊榆（XIONG Yu）认为，互联网时代主要是针对静态的、用户创建内容的治理，但人工智能时代将意味着治理对象可能比人类更聪明、更强大；同时，应当让人工智能服务于人类，且人工智能可以帮助人类实现更多连接。赖韵洁指出，治理与发展正如两个轮子一样推动着历史向前发展，且我们应与政策制定者紧密合作，以确保我们的模型安全且可持续地应用；同时，模型即服务的资本化趋势已初现端倪，一些小公司正通过提供特定功能来提高生产效率并获得利润。田天表示，人工智能公司大多数还没有赚钱，但在部分领域已经初步取得成效；应当鼓励建立第三方人工智能安全公司，提供更通用、更便宜的人工智能安全平台。曹建峰认为，当前最成功的人工智能解决方案是用人工智能赋能现有的社交和软件，比如搜索、阅读应用和在线会议；人工智能面临决策替代、情感替代、脑机接口入侵等风险，需要加强行业与监管机构之间的交流，多方利益相关者都应积极参与，并应在人工智能部署过程中促进用户负责任地使用这些技术。
圆桌讨论
嘉宾合影留念
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
微信视频号：THU-AIIG
Bilibili：清华大学AIIG
