IPP评论是华南理工大学公共政策研究院(IPP)官方微信平台。
9月21日至22日,以“人工智能与未来世界”为主题的华南理工大学公共政策研究院(简称“IPP”)第十一届国际会议在广州南沙举行。
在国际会议第二天的议程中,华南理工大学公共政策研究院学术委员会主席、香港中文大学(深圳)前海国际事务研究院院长郑永年教授发表了题为“人工智能的竞争合作与未来国际秩序”的主旨演讲,深刻解析了人工智能竞合对大国博弈以及全球秩序的深远影响。澳门大学全球法律研究教授兼系主任罗斯坦·J. 纽沃斯(Rostam J. Neuwirth)、伯明翰大学研究员英加·乌尔尼坎(Inga Ulnicane)、东京大学工程院先端科学技术研究中心教授元桥一之(Kazuyuki Motohashi)等与会专家学者以及行业精英分别就“AI时代的国际竞争”“AI与社会风险”等议题展开对话交流。华南理工大学公共政策研究院学术委员会主席、香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长在国际会议第二天议程中,华南理工大学公共政策研究院学术委员会主席、香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年教授发表了题为“人工智能的竞争合作与未来国际秩序”的主旨演讲。郑永年教授从国际关系的角度探讨了人工智能对国际政治的深远影响,他表示,人类正进入第四次工业革命,人工智能注定成为这一新时代的核心驱动力。人工智能不仅是经济发展的引擎,更是重塑国际秩序的基础。他指出,今天全球的竞争核心无疑是围绕着人工智能展开的,尤其是中美两国的竞争。这两大经济体是世界秩序的支柱,其在人工智能领域的较量,将决定未来的国际格局。如果中美两国发生冲突,全球秩序将面临毁灭性的威胁;但如果两国能够合作,全球或将迎来更安全、稳定的未来秩序。他进一步指出,目前,全球对于人工智能的监管仍不完善。尽管美国、中国等国家都在积极推进AI发展,但在监管层面仍存在巨大空白。各国对AI的态度也存在差异,有些国家选择不监管或不发展,而有些国家则在积极探索如何应对这一新技术带来的挑战。从现实主义角度来看,中美要避免冲突并实现合作,首先要在技术上达到平衡。在人工智能领域,中美需要旗鼓相当的技术实力,才能促成合作谈判。同时,中美在人工智能领域既有竞争也有合作空间。美国注重商用,侧重于发展技术、算法、算力等领域;而中国则更重视监管与安全,特别是在可视化监控和无人驾驶等领域走在世界前列。两国在发展模式上的差异,使其既有竞争,也有合作的可能。美国可以从中国的监管经验中借鉴,而中国则需在技术方面加速赶超美国。他强调,尽管中美在AI领域的竞争日益激烈,但如果两国能够达成合作,世界将受益匪浅。人工智能的发展不仅关乎第四次工业革命的核心,更将决定未来世界秩序的走向。中国应在保持自身监管优势的同时,努力缩小与美国的技术差距,并确保在未来的全球人工智能竞争中占据一席之地。英加·乌尔尼坎(Inga Ulnicane):重新构想负责任人工智能的全球竞争与合作
▲英加·乌尔尼坎(Inga Ulnicane)
在议题三“AI时代的国际竞争”中,伯明翰大学研究员英加·乌尔尼坎(Inga Ulnicane)博士发表了题为“重新构想负责任人工智能的全球竞争与合作”的演讲。英加·乌尔尼坎(Inga Ulnicane)博士提出了两个主要范式来分析技术发展对全球格局的影响:传统经济竞争范式和宏大挑战范式。她认为,传统经济竞争范式是一个已存在数十年的范式,强调技术推动国家经济竞争力的发展。根据这一观点,技术进步是全球零和竞争的关键,国家必须快速发展技术以在全球舞台上占据领先地位。技术被视为是提升生产力、降低成本的工具,各国都在争夺人工智能的领导权,类似于20世纪的“太空竞赛”。这一范式仍主导着许多国家的AI政策。然而,过度强调竞争的弊端逐渐显现。许多国家和地区,如欧盟,虽然努力追赶美国等技术强国,但往往面临技术差距扩大的现实。批评者指出,单纯追求竞争力的思维有其局限性,可能导致全球问题被忽视。她进一步指出,近年来,随着全球气候变化、社会不平等问题加剧,宏大挑战范式逐渐兴起。这一范式认为技术发展不应仅仅服务于经济竞争,而应更好地解决全球性问题,如环境保护、性别平等和健康危机。人工智能在这些方面的潜力巨大,尤其是在促进可持续发展目标的实现上,AI技术可以为全球带来深远的变革。但我们也不能忽视,AI有时不仅不能解决这些问题,反而可能加剧现有的不平等。她认为,当前的人工智能发展,既有竞争的需要,也面临全球性问题的挑战。在当今的国际合作与竞争格局中,技术不仅应该帮助国家提升经济地位,还应当致力于解决世界范围内的重大社会问题。人工智能应被视为一种工具,帮助我们应对气候变化、性别不平等等全球挑战。我们的责任不仅是研究技术如何增强国家竞争力,更要跳出竞争的思维框架,关注如何让技术真正造福全球,尤其是在解决全球性挑战上发挥更大的作用。复旦大学社会科学高等研究院助理研究员孟维瞻博士发表了题为“大国人工智能竞争如何塑造美国的政治变化?”的演讲。孟维瞻博士从政治学角度讨论人工智能对美国和中国政治的影响。他指出,人工智能企业不仅在技术和财富资源上处于强势地位,它们还直接影响着国家之间的竞争关系以及国内的政治结构。从长期看,科技进步有助于社会财富的增加,缓解社会矛盾;但从短期来看,尤其在美国,人工智能加剧了国内的政治极化。他进一步指出,中国的人工智能发展呈现出自上而下和自下而上相结合的模式。中国的人工智能计划常被视为政府、地方政府和私营部门共同努力的结果。近年来,中国民营企业在AI领域的投资有所降温,这与政府的监管力度有关。中国的监管和发展之间一直在寻找平衡点,而美国在这方面则有所不同,美国的科技公司拥有更多的自主权,监管相对松动,虽然近期有所变化。他认为,美国的科技巨头如脸书、谷歌等不仅塑造了技术竞争格局,还深度介入国内政治。人工智能技术背后的算法加剧了信息茧房效应,推动了人们在特定观点上的极端化。民主党关注反垄断,认为大型科技公司垄断资源会削弱创新能力,因此推动对脸书、微软等巨头的监管。共和党则较为维护大公司利益,认为拆分大型公司可能削弱美国在全球的竞争力。近年来,硅谷的政治倾向发生了变化。过去一度支持民主党的科技公司现在有一部分转向支持共和党,这种科技界的政治干预正加剧美国的分裂。他指出,中美在人工智能领域的竞争对美国的政治有深远影响。随着中美关系的恶化,科技公司在全球竞争中面临更复杂的局面。尽管美国两党对中国的政策不同,但美国的对华竞争策略已使国内政治形成明显的分裂。过度对抗中国不仅消耗美国的内部资源,也损害美国的全球领导力。因此,未来中美两国之间的对话与合作至关重要。只有通过对话消弭冲突,中美才能在竞争中维持一定的合作,避免加剧国内外的紧张局势。▲李孜腾讯研究院高级专家(科技与可持续发展)李孜博士发表了题为“展望人工智能与全球可持续发展”的演讲。李孜博士从人机共生和可持续发展的角度进行了分析。他指出,在AI时代,重新定义可持续发展目标尤为重要,这对于亚洲尤其是中国具有重大的现实意义。我们需要构建一个新的决策支持框架,以规划AI如何与可持续发展目标相结合。他提出了“人机共生的新框架”,这个框架关注不同层次的综合影响,尤其是人工智能在人机交互层面所带来的技术和产品的影响。从上往下看,人类的行为模式、社会的伦理价值观和技术之间存在着深刻的互动关系,AI不仅仅改变了人们的行为方式,也正在改变我们如何看待数据、能源和社会分配体系。他进一步指出,随着技术的快速发展,我们也面临一些挑战。AI的自我迭代能力会逐步提升,这意味着全球对技术的控制可能面临极大的不确定性。特别是在涉及先进AI技术的工程师群体较为有限的情况下,AI的自我进化和潜在的失控风险需要被高度重视。此外,具身智能的兴起也带来了新的命题。未来AI不仅仅是计算和推理工具,它有可能具备超越人类感知的能力,这就像进入了万物有灵的时代。AI可能会通过技术手段“读取”物质世界的语言,带来无法预知的结果。他认为,对于中国来说,AI和可持续发展也带来了新的发展契机。通过技术推动城乡教育、医疗和农业普惠化,中国有机会通过AI技术提升社会福祉和经济效率。这与美国高度依赖精英阶层的AI发展路径不同,中国可以通过普惠性的技术创新,实现社会的整体跃升。这种差异化的发展模式,可能会成为中国在全球竞争中的独特优势。总的来说,AI和可持续发展需要在一个全新的情景框架下进行规划和评估。我们要做好最坏的打算,同时也要为最好的未来做好准备。特别是对于亚洲地区,我们需要提前布局,通过政策导引和技术创新抓住未来的机遇,同时应对可能出现的极端情况。▲姚志强
在议题四“亚洲的AI发展”中,云从科技联合创始人姚志强博士发表了题为“人工智能新范式引领企业智能变革”的演讲。姚志强主要从产业实践的角度进行了演讲。他指出,OpenAI的突破性技术无疑为大模型领域开辟了新的路径,揭示了人工智能未来的巨大潜力。如今,几乎无人质疑通用人工智能(AGI)的到来。然而,尽管前景光明,实际应用中却遇到了不少问题。在技术应用于企业时,许多企业发现,尽管投入了大量资源和成本,但收益并不明显,盈利模式也不清晰。相反,最赚钱的似乎是那些提供硬件、算力服务的公司,而不是应用技术的企业。技术在不断迭代,尤其是大模型技术。但是,作为产品导向的企业,应该更加关注如何将这些技术转化为实际应用,而不是单纯追逐技术前沿。自主研发的成本非常高,如果企业只专注于追随技术而忽略了产品创新,那么它们将很难在激烈的市场竞争中获益。他以公司在视觉领域的实践为例,分享大模型在实际应用中所面临的挑战以及他的解决思路。他表示,使用大模型带来了新的挑战,尤其是在处理海量实时视频流时,当前的算力和成本问题依然是瓶颈。为了解决这一问题,他的公司设计了一种两层架构。第一层使用小模型进行初步筛查,对视频流进行实时扫描,快速过滤出可能存在风险的场景;第二层引入大模型,对筛选出的图像进行更深入的场景分析和语义理解,通过语言模型来判断是否存在真正的安全风险。这种方式模仿了人类的行为模式——先粗略观察,再深入分析,有效降低了系统的运行成本,同时提升了检测的准确性。这个架构不仅解决了原本小模型时代难以解决的问题,还克服了大模型的实时处理挑战。他认为,虽然大模型技术的发展已经改变了游戏规则,但要实现真正的落地,还需要解决实际应用中的算力、成本、场景复杂性等问题。我们需要从实际需求出发,将技术应用于具体场景,通过合理的架构设计和创新思维,实现技术和产品的有机结合,相信随着大模型技术的不断成熟,我们会看到更多落地场景和创新应用的出现。元桥一之(Kazuyuki Motohashi):人类与人工智能怎样互补以促进创新?
▲元桥一之(Kazuyuki Motohashi)
东京大学工程院先端科学技术研究中心教授元桥一之(Kazuyuki Motohashi)发表了题为“人类与人工智能怎样互补以促进创新?”的演讲。元桥一之(Kazuyuki Motohashi)教授认为,AI无法取代人类,特别是在需要创造力的工作中,AI无法超越人类。尽管在某些特定行业,如制药业,AI确实推动了创新,例如,它能够加速药物靶点的识别、筛选和临床试验,优化制药流程,从而显著提高效率;但某些创造性和决策性工作仍然需要人类的参与。他进一步指出,AI无法代替人类的情感、情商以及动机。因为创新的背后往往是研究人员的好奇心和激情,而这些情感因素是AI无法复制的。AI没有灵机一动的时刻,也缺乏人类在情感驱动下的潜意识思考。在创意和创新过程中,AI可以协助人类完成许多繁重的推理和数据处理工作,但它无法完全取代人类的创造力和情感驱动。AI的随机性虽然能够生成一些有用的想法,但真正的创新仍需要人类的洞察力和灵感。他认为,AI与人类在创新中的角色是互补的。人类擅长情景化思考和处理外在知识,而AI则能够在内部知识和数据积累方面为人类提供支持。两者相结合,可以实现更高效的创新过程。AI在技术到产品的转化方面非常有潜力,它能够帮助企业更好地识别创新机会。然而,在科学研究到技术突破,以及创造力和灵感驱动的领域,AI目前仍无法完全取代人类。我们需要充分利用AI的优势,同时保持对人类创新能力的重视,这样才能在AI时代实现可持续的创新与发展。李根(LEE Keun):半导体与AI芯片的全球竞争
▲李根(LEE Keun)首尔国立大学经济学教授、比较经济研究中心主任李根(LEE Keun)教授发表了题为“半导体与AI芯片的全球竞争”的演讲。李根(LEE Keun)教授指出,从经济角度来看,中国正在追赶美国,尤其在技术创新和半导体领域的投入显著。尽管中国在过去高速发展,但未来可能需要更多时间才能在经济体量上赶上美国。然而,从长期来看,中美仍然是全球主导经济体。他进一步指出,半导体是现代经济和技术竞争的核心。美国对半导体产业的控制和封锁,尤其是在高端芯片领域,对中国的发展构成了严峻挑战。尤其是高端芯片和半导体设备,如14纳米以下的芯片以及先进的光刻机,都是中国亟需突破的领域。全球半导体价值链中,美国占据了绝对的主导地位,特别是在芯片设计和关键技术领域。中国的策略是逐步在每个环节上实现自主可控,比如在DRAM(动态随机存取存储器)、闪存和逻辑芯片(logic chip)领域的追赶。尽管中国在一些领域取得了显著进展,但在高端逻辑芯片上仍面临较大挑战。美国的制裁措施确实减缓了中国在一些高端芯片技术上的追赶速度,但中国通过加强国内市场的生产能力和自主研发,依然在快速发展。他认为,未来的AI芯片是一个至关重要的发展方向,尤其是在当前AI技术对全球科技产业的深刻影响下。当前,AI芯片面临的最大挑战之一是能源消耗问题。现有的AI模型和计算设备的能耗过高,制约了其大规模商业化应用。未来的AI芯片需要在提高计算效率的同时,大幅降低能耗,才能真正普及和推广应用。中国在AI芯片领域的专利数量增长迅猛,特别是在第二代AI芯片的研发上,已经超越美国,占据了全球47%的专利。但在第三代类脑芯片上,中国仍然落后于美国、韩国等国。这是未来中国在AI芯片技术发展中的一个关键挑战。中国在保持第二代AI芯片领先优势的同时,必须加大在第三代芯片上的投入和创新,才能在未来的科技竞争中占据一席之地。罗斯坦·J. 纽沃斯(Rostam J. Neuwirth):人工智能的潜在危险与人类思维的未来
▲罗斯坦·J. 纽沃斯(Rostam J. Neuwirth)澳门大学全球法律研究教授兼系主任罗斯坦·J. 纽沃斯(Rostam J. Neuwirth)发表了题为“人工智能的潜在危险与人类思维的未来”的演讲。罗斯坦·J. 纽沃斯(Rostam J. Neuwirth)教授指出,我们在思考AI潜在影响的时候,不能只看到技术层面的应用,而要思考技术对我们的作用。AI不只是在接受我们的指令,实际上它也开始影响和塑造我们的思维方式,它通过广告、应用甚至更隐秘的方式影响着我们。而这些潜意识技术在市场营销、选举操控等方面早已开始发挥作用,法律法规需要努力规范这些领域。他进一步指出,因为不同个体之间的意识阈值不同,因此,单一的标准很难适用于所有人。AI技术的发展速度非常快,法律和政策常常难以跟上。尽管制定了法律来限制AI的某些应用,但这些法律在面对技术的快速进化时可能显得过于狭窄。比如,技术的发展很可能使得潜意识操控更为复杂,而现有的法律框架无法完全涵盖这些新兴技术。未来技术可能通过与我们的感官深度交互,对我们的思维产生更大的影响,这种技术的潜力和风险使得对AI的监管变得更加紧迫。他认为,为了有效监管新兴技术,我们需要提高自身的认知和知识水平,寻找切实可行的解决方案。我们不能单纯依赖现有的法律体系,而应该创新思维,探索新的治理方法。同时,我们还需要重新审视思想自由的概念。他强调,我们不仅要关注AI对人类的影响,更要关注人类如何提升自身智慧以适应AI的发展。这要求我们从新的角度思考问题,打破现有的二元对立思维,寻求创新的解决方案。胡延平:2020—2050:超级人工智能的50个问题
▲胡延平未来实验室(FutureLabs)首席专家、信息社会50人论坛成员胡延平认为,AI的发展必然带来更多的社会成本,虽然算力、电力等成本将随着时间的推移下降,但AI的隐性社会成本会持续上升。未来,我们需要在智能普惠与社会分配之间找到平衡。在演讲中,他对“关于超级智能的50个问题”作了以下解答:可以明确地说,不可以复制。当前的AI模型已经进入超级智能阶段,所形成的生态差距在不断扩大,而不是缩小。底层能力的提升才是真正推动AI长期发展的关键,聚焦底层模型更有效。这个问题是一个伪命题。电力无法替代算力在AI核心迭代中的作用,算力只是AI发展的必要条件。当前存在结构性资源错配,有些地区算力过剩,有些地方却存在算力短缺。尽管我们看到大规模算力建设,但仍需解决这些结构性问题。中美AI差距在扩大,未来可能会形成两个独立的生态体系,而不是相互融合的单一全球生态。从文本模型到多模态模型,再到具身智能和世界模型的发展,AI的发展方向是有规律可循的。是可以消除的。随着技术的进步,AI的“黑箱”逐步被打开,未来的AI将会更加透明。虽然无法做到完全防范,但可以通过法律和技术手段来减少这些风险。当前的趋势显示,虽然能效在提升,但高消耗将会持续一段时间。随着AI技术和应用生态的进一步成熟,用户活跃度将重新回到高增长轨道。短期内OpenAI主导地位不可撼动,但长期来看,多平台的竞争格局将逐渐成型。闭源仍然具备明显的优势,但开源在特定领域,尤其是个人用户和中小企业中,依然有重要市场。目前,中心化的趋势在加速,AI能力的集中化会对生态产生深远影响。14. Scaling Law是否会继续主导AI发展?是的,Scaling Law仍然是主导大模型发展的原则,虽然小模型的使用在某些场景中也会流行。不会完全取代,但自学习和合成数据的比例在不断增长。短期内,Nvidia的地位难以撼动,但专用芯片的研发可能为AI芯片带来新的竞争格局。预计未来10—15年,算力将增长数十倍,为AI模型的发展提供动力。Transformer作为基础模型不会被完全取代,但其各种变种将推动AI的进一步发展。AI将成为操作系统的核心组成部分,未来的操作系统将以AI为基础。传统智能将在AI的推动下发生巨大变化,将更加依赖数据和算力支持。文本AGI接近实现,而多模态AGI和具身智能还需要更多时间。至于世界模型的构建,还有很长的路要走。未来几十年,AI发展将经历若干重要节点,特别是算力和能源效率的突破。CPU的摩尔定律已逐步放缓,但GPU的摩尔定律仍在继续,特别是在AI芯片领域,光计算和量子计算将引领未来。AI的治理必须以人为中心,但需要为创新留出足够的空间。智能普惠和数字平权仍是挑战,智能鸿沟的扩大趋势可能不可逆。卓睿(Jacob Dreyer):中国人工智能五论
帕尔格雷夫·麦克米伦(Palgrave Macmillan)出版公司高级编辑卓睿(Jacob Dreyer)发表了题为“中国人工智能五论”的演讲。▲卓睿(Jacob Dreyer)帕尔格雷夫·麦克米伦(Palgrave Macmillan)出版公司高级编辑卓睿(Jacob Dreyer)认为,人工智能(AI)作为一项技术本身是没有国籍的,作为科学的产物,它遵循全球通用的科学方法,无论在何处都能得到验证。然而,使用AI的用户和AI的应用场景可以决定AI的特点,在中国和美国,AI的使用背景和需求非常不同,这直接导致了两国AI应用的差异。中国的AI更多地应用在生产领域,而美国则主要面向消费领域。美国的GDP结构中,消费占据70%以上,而中国更注重政府投资和生产力提升。中国的AI更倾向于服务企业,帮助优化物流、交通和制造业流程,而美国的AI更多面向个人用户,提供便利和娱乐。中国面临着人口老龄化的巨大挑战,预计到2035年,将有4亿65岁以上的人口。为了应对劳动力减少的问题,AI和自动化在中国有着更广泛的应用。中国在使用AI技术来替代传统的劳动力,而这在美国并不是迫切问题。AI还可以用于健康数据分析,帮助应对老龄化带来的健康问题。美国的AI研究和发展是由资本市场驱动的,主要目标是利润最大化。马斯克等科技巨头主导着技术方向。而在中国,AI更多是由政府主导,带有强烈的社会责任感。中国的AI应用更多地用于提升公共服务,如远程医疗、教育普及等。比如,中国政府在偏远地区推动的AI应用,旨在改善当地人民的生活质量,这与资本驱动的美国AI模式形成鲜明对比。气候变化是中国面临的一项重大挑战。中国的AI被广泛应用于绿色能源和气候管理领域,例如清华大学正在利用AI研究生态系统如何影响城市气候。这些研究有助于中国更好地适应气候变化,而美国的AI在这一领域的应用相对较少,因为气候变化并不是美国科技公司当前的主要焦点。中国的AI不仅适应国内市场,还被应用于许多发展中国家。与高成本的美国AI解决方案不同,中国的AI产品在成本控制方面更具优势。例如,比亚迪等公司生产的电动汽车配备了本土研发的芯片,更符合全球南方国家的需求。而美国的高科技产品如特斯拉和苹果,往往不适合这些市场。如需了解发言嘉宾完整观点,敬请期待IPP即将推出的“2024年IPP国际会议”嘉宾发言完整版。
会议首日综述
每年一届的国际学术研讨会是IPP国际学术交流的重要平台。IPP围绕中国及世界的治理与改革问题,邀请国内外学者齐聚广州,讨论重大公共政策议题,共谋中国与世界改革发展之路。从2013年至今,IPP国际学术研讨会已成功举办十届,目前已是中国南方最具社会影响力的国际学术盛宴之一。关于IPP
华南理工大学公共政策研究院(IPP)是一个独立、非营利性的知识创新与公共政策研究平台。IPP围绕中国的体制改革、社会政策、中国话语权与国际关系等开展一系列的研究工作,并在此基础上形成知识创新和政策咨询协调发展的良好格局。IPP的愿景是打造开放式的知识创新和政策研究平台,成为领先世界的中国智库。