2024年11月21日，themarkup.org发表了一篇评论文章，在候任总统特朗普已发誓要废除拜登对人工智能技术实施限制的行政命令，并可能利用技术来实现大规模驱逐移民。加利福尼亚州会朝相反的方向走多远？
文章指出，加利福尼亚州州长加文·纽森正准备对候任总统唐纳德·特朗普发起一场法律战，计划下个月召开特别立法会议，试图让该州“免受特朗普影响”。但看起来，人工智能保障措施最初并不会被纳入这场战斗中，尽管加州立法机构今年一直将重点放在人工智能监管上。特朗普已承诺立即废除乔·拜登总统的行政命令，该命令曾对科技公司和联邦机构施加了自愿性的人工智能限制。移民倡导者表示，候任总统的政府还可能利用人工智能技术来协助其已承诺实施的大规模驱逐移民行动。今年早些时候，加州立法者通过了十几项规范人工智能的法案，限制在儿童身上使用算法、限制使用深度伪造技术等等。但纽森州长否决了最具野心——也是最具争议——的一项法案，该法案要求测试人工智能模型，以确定它们是否可能导致大规模死亡、危及公共基础设施或引发严重网络攻击。然而，有迹象表明，在不久的将来，人工智能可能会从抽象的担忧变成特朗普政府和加州民主党领导人之间显著的政治斗争工具。这可能是挑战特朗普及其新晋科技盟友的另一种备受瞩目的方式，其中一些盟友欣然宣称人工智能产品将迎来一个新的、放松管制的时代。“我认为，纽森和加州立法机构有机会填补联邦政府留下的空白——创造一个安全、尊重权利的技术开发和部署的模范环境，”数据与社会研究所执行主任珍妮特·海文说，该非营利组织研究人工智能和其他技术的社会影响。“另一方面，不可回避的事实是，大型科技公司就在那里，将是加州立法机构和纽森想要推进的任何人工智能立法中的巨大影响因素。”人工智能安全倡导者告诉CalMatters，他们并不一定像一些末日预言者所想象的那样担心人工智能带来的世界末日般的噩梦。相反，他们关注的是人工智能工具在医疗、住房、劳动力、执法、移民、军事以及其他容易出现歧视、监控和侵犯公民权利的行业和领域中的日益广泛应用。“我们有证据表明，这些人工智能系统可能会做各种各样的事情——它们是模式制造系统，而不是真正的决策者，但私营部门和公共部门正在将它们作为决策者的替代品来使用，”TechEquity首席项目官萨曼莎·戈登说。“这是不明智的。”圣塔安娜民主党参议员汤姆·昂伯格告诉CalMatters，2024年是人工智能法案的“一次测试年”。加州立法者禁止了性暗示性的深度伪造内容和某些与选举相关的深度伪造内容，要求科技公司提供免费的人工智能检测工具，并规定科技公司必须公开其人工智能训练工具的数据。纽森州长最终签署了大约20项人工智能法案，使其成为法律。但他也颇具争议地否决了旧金山民主党参议员斯科特·维纳提出的一项重要法案，该法案本将对人工智能工具实施重大测试要求，以确保其不会引发灾难性后果。纽森在否决信息中表示，该法案有可能阻碍创新，但他补充说，他希望“找到适当的前进道路，包括立法和监管”。维纳告诉CalMatters，他正在制定更新后的立法，可能会获得“更广泛的支持”。这样的法案可能会包括来自科技行业的更多支持，加州依赖该行业获取税收，而该行业在萨克拉门托也有显著的游说力量——谷歌刚刚创下了十年来最大的季度游说支出记录。当被问及是否预计大型科技公司会加大对加州监管努力的游说力度时，帕洛阿尔托民主党众议员马克·伯尔曼表示：“这将是一个成为说客的好时机。他们会过得很好。”尽管维纳的人工智能测试法案被否决，还有其他一些值得注意的人工智能法案也未能走出立法机构，但加州在“美国的人工智能监管方面仍然遥遥领先”，斯坦福大学研究员阿肖克·阿亚尔说，他与他人合作撰写了一份分析报告，将维纳的法案与欧盟更全面的人工智能工作进行了比较。缺乏联邦监管和立法
加州在人工智能方面处于领先地位，很大程度上是因为几乎没有竞争对手。
国会尚未通过有意义的人工智能立法。当被问及特朗普和即将到来的共和党多数时，圣拉蒙民主党众议员丽贝卡·鲍尔-卡恩说：“说实话，没有什么监管可以解除。”
在没有联邦立法的情况下，拜登总统于2023年10月发布了一项行政命令，旨在对人工智能的使用设置限制。该命令基于五项政策原则，涉及“自动化系统的设计、使用和部署，以保护美国公众”。拜登指示联邦机构“制定计划，说明他们将如何在政府使用人工智能方面推进创新，同时防止已知的伤害和权利侵犯”，海文说。拜登的行政命令发布后不久，其政府成立了美国人工智能安全研究所，隶属于商务部。
拜登的行政命令依赖于科技公司（其中许多公司总部位于加州）自愿接受政府的建议；它还依赖于国土安全部等机构——包括移民和海关执法局以及海关与边境管理局——在使用人工智能技术时保持透明和诚实，不侵犯人们的公民权利。
与大多数行政命令一样，拜登的人工智能法令执行起来较为宽松，且很容易逆转。
特朗普已经承诺，在他上任的第一天就废除拜登的行政命令；2024年共和党纲领认为，该行政命令“阻碍了人工智能创新，并将激进左翼思想强加于这项技术的发展上”。特朗普上任后，国土安全部和其他行政机构可能会获得更大的灵活性，尽管倡导者表示，标准本来就很低；非营利组织Mijente 2024年6月的一份报告《自动化驱逐》认为，该部门甚至没有遵守拜登政府已经相对吝啬的要求。
特朗普在2024年总统大选中获胜后，科技行业的某些部分对于人工智能行业的未来前景感到欢欣鼓舞——包括政府合同即将增加。“插根叉子进去吧，结束了，”风险投资公司安德列森·霍洛维茨的亿万富翁普通合伙人马克·安德列森在X上写道。“美国终将成为世界上首屈一指的人工智能超级大国。”
完全放任的联邦机构
如果特朗普承诺的大规模驱逐非法移民得以实现，那将需要各种各样的技术，包括人工智能工具。国土安全部已经使用了一个名为“虚拟化环境中的分析存储库”（RAVEn）的人工智能系统，这是一项价值九位数的政府合同。该部门还可以访问一个广泛的生物识别数据库，并通过一种利用人工智能算法进行监控的工具来监控某些拘留中心外的非法移民，试图确定这些移民是否可能潜逃。
“我们从特朗普的第一届政府中就知道，对这项技术的使用将会有更少的限制，而且特工们将会更加肆无忌惮，”专注于移民、刑事司法和监控问题的法律倡导组织Just Futures Law的联合创始人兼法律总监塞贾尔·佐塔说。“这是我们将看到人工智能被越来越多地用于支持大规模驱逐移民议程的一个领域。”
据佐塔所知，加州立法者或法院几乎没有什么办法可以阻止联邦机构对弱势群体——包括非法移民——使用人工智能技术。“这是一个问题吗？绝对是，”昂伯格参议员说。“我们能做些什么？我们能对联邦机构使用人工智能技术做些什么？我们无能为力。”
据估计，加州至少有180万非法移民。
如果国会采取行动会怎样？
对加州人工智能法规构成的另一个潜在威胁是，占多数的共和党国会可能会通过更宽松的人工智能规则，从而取代州法律。包括众议员Bauer-Kahan（鲍尔-卡恩）和参议员昂伯格（Umberg）在内的加州立法者表示，他们认为重要的人工智能立法不会提交给特朗普总统签署。
由于国会僵局，参议员Wiener表示，他首先在加州立法机构寻求人工智能监管：“我非常清楚，如果（这个问题）在联邦层面通过法定程序处理，我会很高兴地关门大吉回家，”他说。“但当时并没有发生，而且在特朗普治下肯定不会发生。”
然而，并非所有人都认为国会在这个问题上会保持停滞不前，特别是在一个政党现在在华盛顿占据主导地位的情况下。“我不会低估这届新政府的创造力，”Just Futures Law执行主任帕罗米塔·沙阿（ Paromita Shah）说。
纽森（Newsom）迄今已签署了许多人工智能（AI）法案，但驳回了其他一些他认为过于激进、有可能抑制他作为政府合作伙伴所寻求培养的产业的法案。纽森的一位发言人没有直接回答《CalMatters》就本文提出的问题，而是提供了一份声明，强调了该州在塑造所谓“生成式人工智能”（GenAI）未来方面的作用，生成式人工智能是ChatGPT、DALL-E和Midjourney等工具背后最新且具创新性的技术形式：“加利福尼亚州在保护民众免受生成式人工智能伤害的同时，利用其潜在益处方面一直领先全国。”发言人亚历克斯·斯塔克（Alex Stack）说。候任总统特朗普的团队未回复CalMatters的书面问题。加州大学伯克利分校（UC Berkeley）及其他校区的政治分析师、教授丹·施努尔（Dan Schnur）预测，纽森将保留其政治资本以应对其他冲突。“纽森加强与硅谷关系的动力可能比他再与唐纳德·特朗普争斗一个问题的需求更强烈，”施努尔说。斯坦福大学网络政策中心的客座教授弗洛伦斯·杰塞尔（Florence G’Sell）警告纽森不要一味迎合硅谷的去监管立场。“有一股非常强大的势力想要强调人工智能的风险、安全问题，”杰塞尔说。“如果我是州长，我不会对这种势头和警告无动于衷。”立法者们正着眼于其他途径来加强加利福尼亚州民众对人工智能技术的防御。州议员鲍尔-卡恩（Bauer-Kahan）此前告诉CalMatters，她计划重新提出一项更强有力的法案，该法案在上届会议中未能获得立法机构的通过，旨在打击歧视性人工智能行为。门洛帕克民主党参议员乔希·贝克尔（Josh Becker）提到的另一项人工智能优先事项虽不那么引人注目，但同样重要：“密切监督我们刚刚通过的今年监管框架的实施情况，”他写道。加利福尼亚州接下来的人工智能监管步骤一直都会受到密切关注。随着特朗普重返政坛，这一情况更是如此——州立法者们正迎接着这一挑战。“让我觉得有点好笑的是，有人来找我说，‘你们在加利福尼亚州做的任何事情都将为这个国家树立标准，’”参议员安伯格（Umberg）说。“作为政策制定者，这就像catnip（猫薄荷）一样吸引人。这就是我竞选公职的原因。”原文作者：Alex Shultz
