2024年11月6日,thebulletin.org发表了一篇评论文章,采访美国的相关专家,对特朗普对新兴和颠覆性技术的潜在影响做了分析。The Information Technology and Innovation Foundation(ITIF)发表了一篇声明“前总统特朗普的连任为美国数字经济的新目标打开了大门”。
ITIF的评论指出:
在这场重要的选举中,选民们已经明确表示,经济是他们的首要任务。美国面临的最大挑战之一是扭转其技术经济实力被中国夺走的局面,这使得恢复美国在先进产业中的领导地位对下一任总统至关重要。鉴于数字创新在美国经济中的核心作用,当选总统特朗普政府有责任制定一项经济议程,以加速公共和私营部门的数字化转型,最大限度地提高增长和生产力。
为了实现这一目标,政府应该专注于创造一个支持人工智能采用的有利于创新的监管环境,与国会合作,通过一个宽松的消费者数据保护监管框架,并制定立法,抢先于各州努力制定阻碍州际贸易的数字政策,例如数字税收、内容监管和儿童在线安全。
早在2024年6 月,ITIF 为即将上任的政府发布了技术经济议程,强调在经济政策中优先考虑创新、生产力和竞争力的必要性。为了帮助指导这些优先事项,该报告围绕13个关键政策领域提出了82条可操作的建议,包括预算政策、税收政策、贸易扩张和执法、反垄断政策和数字政策。其中特别强调,最关键的第一步是在白宫内成立一个国家竞争力委员会,类似于 NSC 和 NEC。没有这一点,政府就没有这个议程的“神经中枢”。我们不排除特朗普政府的相关举措。
以下为thebulletin.org刊发的全文:
在惊人的复出中,唐纳德·特朗普(Donald Trump)赢得了2024年总统大选,并将成为美国第47任总统。与所有总统一样,特朗普的(第二个)任期将影响政策和经济的许多方面。这包括技术领域,当选总统肯定会从盟友那里获得意见——其中,硅谷巨头埃隆·马斯克(Elon Musk)和彼得·蒂尔(Peter Thiel)尤为突出,他们都有自己的动机。
未来四年,在一系列与技术相关的问题和政策上——包括人工智能、自动驾驶车辆(即无人机)以及基于网络的虚假信息和误导信息——究竟会发生什么,仍有待观察。但鉴于特朗普的言论和以往记录,颠覆性技术领域的专家对这些可能发生的事情有了一些想法。我们邀请了几位这样的专家发表意见,并将陆续发布他们的回应。
Bulletin 的颠覆性技术副主编萨拉·古达尔齐(Sara Goudarzi)长期关注科技评论,她的作品发表在《科学美国人》、《纽约时报》和《国家地理新闻》等杂志上,本文是他采访相关专家所作的评论文章。
人工智能监管
在特朗普的第二任期中,我们应该期待什么样的人工智能监管?以下是与此问题相关的三个证据来源。首先,考虑特朗普竞选团队自己的声明。特朗普曾表示,他将在上任第一天就废除拜登“激进的左翼”人工智能行政命令。目前尚不清楚这将产生什么实质性影响:联邦机构将继续在正常业务过程中对人工智能的部署进行监督。但反监管的言论非常明确,而且这个问题正慢慢变得具有党派性,尽管在共和党人中也有对有意义监管的广泛公众支持。然而,广泛的公众支持并不足以推动监管行动:过去十年来,大多数美国人都一直希望实行更严格的枪支管控。
其次,考虑可能的机构人员配置。特朗普还没有透露他将在第二个任期中让谁来负责国家人工智能政策,但在他最坚定的支持者(和资助者)中,有硅谷的风险投资家,如马克·安德森(Marc Andreessen),他自称是“技术乐观主义者”和“人工智能加速主义者”,希望将人类改造成“技术超人”。当特朗普政府决定谁有权决定大型科技公司可以多快发展,以及它们可以打破哪些规则时,这种关联不太可能完全不被咨询。
即使你认为人工智能加速是个好主意(实际上可能并非如此),目前也不清楚特朗普的第二任期是否能有效地配置机构人员,以有效地促进这一目标。特朗普曾表示,他将任命认为疫苗导致自闭症且(大多数)无效的罗伯特·弗朗西斯·肯尼迪(RFK)Jr.来负责传染病事务。很难想象RFK Jr.能在疾病控制与预防中心(Centers for Disease Control and Prevention)成为一个有效的领导者。如果特朗普决定让那些错误地认为大型垄断科技公司关心美国公众利益的人来负责旨在保护美国免受高级人工智能伤害的机构(如最近成立的人工智能安全研究所),同样难以想象他们能在这些机构中成为有效的领导者。
最后,考虑最高法院最近决定推翻四十年先例所带来的影响,根据该先例,法院在解释其必然宽泛的立法授权时,通常(在正常情况下)会尊重监管机构的意见。法院拒绝这一学说(“谢弗林尊重原则(Chevron deference)”)标志着联邦监管机构行使有意义监督能力的重大转变。特别是,在关于如何准确解释联邦机构的法律授权存在合理分歧的情况下,这一决定将使有效的规则制定变得代价高昂。
不幸的是,我们预计人工智能监管将充满这种合理分歧。因此,最高法院广受批评的决定——推翻谢弗林尊重原则(Chevron)——可能成为决定特朗普第二任期人工智能监管性质和范围的最重要因素。特朗普已经有效地束缚了自己的手脚:在他的第一个任期内,他任命了具有非常具体且往往反监管法律意识形态的最高法院大法官,因此,只要他的政府有兴趣通过联邦机构监管人工智能,这些机构现在就会面临行使有效监督的系统性障碍。
——内特·沙拉丁(Nate Sharadin),人工智能安全中心研究员,致力于人工智能对齐、研究以及有效监管高级人工智能系统方面的伦理问题
特朗普与人工智能防御生态系统
特朗普的胜利可能给军事人工智能的负责任发展以及与之相关的国际规范或法律的制定带来一段不确定的时期。虽然细节有时不够详尽,但拜登政府确实在努力为国防机构制定和整合人工智能的途径方面取得进展。此外,该政府还致力于促进国际人工智能治理制度的发展。
美国国防部(Department of Defense)发布的《负责任人工智能战略与实施途径》等文件阐述了该部门使用人工智能技术的伦理原则,而最近的政策(如《数据、分析与人工智能采用战略》)则在此基础上进行了构建。
在国防部之外,拜登政府于10月发布了一份关于国家安全人工智能用途的备忘录;该备忘录明确将促进负责任和值得信赖的人工智能以及促进国际人工智能治理作为优先事项。问题在于,特朗普政府是否会寻求背离拜登政府促进国防人工智能负责任发展的倾向,无论是在国内还是国外。考虑到特朗普、J.D.万斯(JD Vance)以及像彼得·蒂尔这样的大科技玩家之间的密切关系,似乎很可能特朗普会追求一个对人工智能不那么严格的监管环境,这种趋势很容易蔓延到政府与参与国防技术开发的私人组织之间的关系中。
此外,由于与美国国际盟友和合作伙伴的关系预计会紧张,因此在国防人工智能治理方面进行国际合作的前景也可能黯淡。在与俄罗斯和中国等大国进行国防技术竞争的压力下,这种情况可能会进一步加剧,从而限制美国在全球国防人工智能治理中的参与度,以避免对军事技术发展的任何国际限制。
——伊恩·雷诺兹(Ian Reynolds),斯坦福大学国际安全与合作中心及斯坦福以人为本人工智能研究所的博士前研究员,美国大学国际服务学院博士生
虚假信息、误导信息及社交媒体
鉴于特朗普竞选团队在传播政治虚假信息方面的历史、他们对因传播新冠疫情虚假信息和选举否认内容而被社交媒体平台封禁的用户的长期不满(他们声称这是试图审查保守派),以及国会共和党人对社交媒体研究人员的打击,任何涉及政治敏感话题的有害内容改革在未来四年都可能无法实现。
从短期来看,联邦持续不作为的影响在很大程度上取决于社交媒体公司本身;虽然我们可以预计,由于老板埃隆·马斯克与特朗普竞选团队的密切关系,X(前身为Twitter)将继续成为阴谋论和其他有害内容的温床,但其他平台可能会选择坚守其内容审核政策,因为这符合良好的商业利益。正如X的财务崩溃所表明的那样,广告商不希望他们的广告被夹在有害帖子之间。
从长远来看,很大程度上取决于特朗普政府和国会如何选择挑战社交媒体公司的内容审核政策。在他的第一个任期内,特朗普总统对1996年《通信规范法》第230条感到不满,该条规定在线平台不被视为出版商,因此不对用户生成的内容承担法律责任;他签署了一项行政命令,试图以平台因政治原因进行审查为由,重新解释第230条,使平台承担法律责任。
任何试图限制平台审核自身内容能力的新尝试都可能在联邦法院中进行多年的斗争。但是,在针对外国势力影响活动和平台对非政治化有害内容的责任方面,仍有可能达成两党一致的改革。外国势力影响活动为两党达成共识提供了明确的机会;中国、伊朗等地缘政治对手传播的虚假信息构成了国家安全风险,这令许多共和党人和民主党人都感到担忧,两党可以合作推进立法来应对这一威胁。同样,第230条的改革也可以以积极、两党合作的方式进行,使平台不仅对外国势力影响活动负责,还对一系列不涉及党派政治的有害内容(如宣扬暴力、饮食失调或自杀的内容)负责。
提高我们理解网络危害的能力是另一个可能达成两党共识的领域;信息环境研究人员迫切需要大量投资于科学基础设施,以加速与政策相关的研究,创建一致的测量标准,并提供保护隐私的数据访问。此外,其他地方的监管行动也有望对美国的信息环境产生积极影响。
2024年2月生效的《欧盟数字服务法案》包含了一系列旨在保护用户免受有害内容(包括虚假/误导性信息)侵害的规定,以及解放研究人员数据以识别并减轻系统性网络危害的规定。同样,美国各州也开始在信息环境监管方面发挥更积极的作用;纽约州就是两个这样的例子:该州最近通过了《儿童数据保护法》,限制在未获得父母同意的情况下处理18岁以下未成年人的个人信息(高于联邦规定的13岁限制),还通过了《停止向儿童推送成瘾内容法案》,要求社交媒体公司在向18岁以下儿童展示算法生成的内容之前获得父母同意。
鉴于在不同国家和美国各州之间协调平台政策的难度,其他地方的监管可能会促使平台事实上在美国境内也采取相同的政策响应——即使在联邦层面没有采取重大监管行动的情况下也是如此。虽然两党改革和非联邦监管行动可能无法达到那些关注信息生态的人所希望的程度,但在未来四年内,朝着更健康的信息环境迈出有限的一步仍然是可能的。
——肖恩·诺顿(Sean Norton),普林斯顿公共事务与国际关系学院博士后研究员
科技政策:创新还是企业越权?
在他的第二个任期内,唐纳德·特朗普承诺将为科技领域带来一波放松管制,依靠企业利益来推动美国的创新。取决于他的内阁任命(可能不会像传统的官僚群体那样),新政府的方法可能包括减少对人工智能的监管,放宽反垄断规则,以及对加密货币减少监管。这种不干预的方法引发了一个重要问题:创新、追求利润和公共利益之间如何才能取得平衡?
特朗普的人工智能政策将优先考虑私营部门的收益。在新的国会帮助下,新政府可能会将重点放在快速进步而非严格监管上。这种监管宽松的环境可能有助于公司快速发展,但没有足够的保障措施。相信企业能够自我监管是天真且危险的;在没有监管和道德约束的情况下,优先考虑速度和与中国竞争可能会牺牲消费者安全和隐私。
在反垄断问题上,特朗普政府可能会采取比拜登政府更为宽松的立场,从而允许大型科技公司进一步整合。针对谷歌和苹果等主要企业的诉讼可能会继续进行,但特朗普对并购的看法可能会使这些企业巨头能够在较少干预的情况下进行扩张。然而,市场多样性的减少可能会使小型企业更难参与竞争。垄断往往会通过抑制竞争来阻碍创新,而新政府中有许多人与该行业关系密切,预计他们会认为这些科技巨头仍将推动经济增长。这一重大盲点忽视了垄断企业如何优先考虑市场份额和利润增长,而非真正的技术进步。
贸易和关税政策增加了另一层复杂性。特朗普已表示将对中国科技进口产品征收高额关税,以减少对北京的依赖并支持国内制造业。然而,新政府对中国的态度越强硬,消费者成本就越可能受到影响,从而加剧经济不平等。最终,任何关税的大幅上涨都将由普通美国家庭承担。
强制投票之路
至于加密货币,特朗普预期中的监管放松可能是该行业的福音,鼓励投资。但这也存在风险:放松监管的金融产品往往引发消费者保护和金融稳定的担忧。金融放松监管在过去曾引发危机,而相信私人利益能够自我监管对普通投资者来说并不总是奏效。
这种自由放任政策的支持者认为,它将开启美国创新的新时代,但如此信任企业利益会以公众的最大利益行事,这是充满风险的。不受约束的企业权力一直表现出优先考虑股东利润而非公共利益的倾向。在科技行业,风险尤其高,从数字隐私恶化到金融世界动荡不安。
最终,特朗普的承诺能在多大程度上实现,部分取决于他的内阁人选。相互冲突的利益——如埃隆·马斯克(Elon Musk)的雄心与传统石油政策或对中国的强硬政策——可能会争夺优先权。放松监管可能会带来增长(这本身就是一个值得质疑的论点),但如果没有保障措施,就有可能让美国人在追求利润的企业面前失去保护。
——尤素夫·坎(Yusuf Can),威尔逊中心(Wilson Center)中东项目(MEP)协调员
人工智能治理
人工智能(AI)的治理和监管可能不是特朗普第二任期政府的首要政策优先事项,但政府很可能会在国际技术竞争中寻求以自己的方式塑造美国政府应对AI风险的方法。美国在AI方面的战略目标在特朗普政府下不太可能改变:美国仍将专注于在全球AI发展、军事应用以及与中国的竞争中保持领先地位。然而,特朗普政府推进治理的手段尚待观察。
行政部门的努力可能看起来似曾相识。在大型语言模型取得重大突破并引发关注之前,特朗普政府就已离职,但特朗普总统确实签署了行政命令,要求开发AI技术标准并进行测试,责成行政管理和预算办公室(Office of Management and Budget)为机构监管AI提供指导,并推广在联邦政府中使用值得信赖的AI。拜登政府延续了这一思路,但在其关于AI的行政命令和10月的《国家安全备忘录》中提供了更具体的细节,指示机构利用现有权力控制AI应用。特朗普政府可能会取消拜登的行政命令和关于AI的国家安全备忘录,但可能会允许机构和组织,如人工智能安全研究所(AI Safety Institute)或国家技术与标准研究所(National Institute of Technology and Standards),继续实施拜登的详细计划。这些计划是否能保持必要的政治(和实际)资本以取得成功,尚待确定。
州级监管举措和公司的自愿标准可能对于解决AI带来的近期危害变得更加重要,这取决于政府是否选择为私营部门设定界限(特朗普第一届政府和拜登政府主要采取了与领先AI公司合作的自愿措施)。人员将决定政策:优先考虑解决基础模型带来的长期风险,可能会以牺牲解决偏见或虚假信息等短期挑战为代价。最主要的问题是,特朗普2.0版本是会在现有人工智能治理进展的基础上发展,还是会破坏这一进展。
——欧文·丹尼尔斯(Owen Daniels),乔治城安全与新兴技术中心(Georgetown Center for Security and Emerging Technology, CSET)分析部副主任兼安德鲁·W·马歇尔学者(Andrew W. Marshall Fellow)
军用无人机
我认为,下一任美国总统会关注保持并进一步发展军用无人机的技术优势。因此,我预计美国会致力于拓展无人机在所有作战领域的能力。特别是在海域无人机方面,这似乎有着广泛的应用前景。新美国政府也很可能对进一步试验人工智能以增强无人驾驶车辆的自主性充满热情。如果美国不认可太多的国际监管,无人机成为算法战的工具将不会让我感到惊讶。然而,在应对小型无人机方面存在着重大挑战。美国武装部队将需要保持对对手的领先,并加强对美国和海外美军基地的保护,以防范无人机威胁——无论是用于侦察还是用于杀戮的无人机。同时,保持新型无人机低成本的压力将迫使新总统创建更多类似“复制者”的项目。这还需要了解新兴国防技术产业的复杂性,并调整软件密集型无人机技术创新的采购流程。
——多米尼卡·库内尔托娃(Dominika Kunertova),国际安全与新兴技术研究科学家
对科技政策和监管的宽松态度
我认为,我们有充分的理由认为,特朗普政府将在科技政策和监管方面采取宽松态度。他得到了科技加速主义者的支持,副总统曾是一位硅谷风险投资家,并且他的顾问中还有像埃隆·马斯克这样对监管对创新的沉重性表示担忧的人。这些支持者受到拜登政府的刺激,他们认为拜登政府对科技持怀疑态度,无论是通过联邦贸易委员会(FTC)主席莉娜·汗(Lina Khan)的管辖范围、证券交易委员会(SEC)主席加里·根斯勒(Gary Gensler)对加密货币的监管,还是拜登关于人工智能的行政命令。我怀疑特朗普会任命更多对科技友好的人士担任这些职位,并且他已表示将废除拜登的行政命令。然而,我认为我们有理由认为,他将保留对中国半导体芯片的出口管制,这是科技领域和地缘政治竞争的中心,并将继续像他在第一任期和拜登政府期间那样,利用关税鼓励国内制造业,包括科技领域的制造业。总体而言,我预测特朗普政府对科技行业将更加友好,表现为更少的监管和对科技行业的反垄断案件减少。
——莎拉·克雷普斯(Sarah Kreps),康奈尔大学(Cornell University)政府系约翰·L·韦瑟里尔(John L. Wetherill)教授、法学兼职教授、科技政策研究所所长