还在刷特朗普的meme?这边AI已经在竞选美国市长了

学术   2024-08-26 17:54   湖南  

  编者按


美国怀俄明州首府市长竞选中,候选人维克多·米勒(Victor Miller)宣布与定制版的AI机器人共同参选,专家表示,这标志着AI首次参与美国政治竞选。虽然竞选失败,但米勒表示“治理革命的种子已经种下,它们已经开始发芽”。美国大选如火如荼,特朗普多次发布人工智能合成图像以攻击对手、拉拢选民,哈里斯也曾颁布行政令,促进人工智能使用的安全性。当各类人工智能合成信息层出不穷,媒介中的真实与虚构变得无法区分,我们不禁要问:AI究竟是人类治理的理想助手,还是正在酝酿一场潜藏风险的治理革命?《凤凰大参考》综合相关报道,为您解读。

文|《凤凰大参考》作者 黄舒琪
编辑丨宋东泽 张啸文
被寄予厚望的AI,比人类更适合做市长?
站在一面美国国旗和一面怀俄明州州旗之间,夏延市(Cheyenne)市长候选人维克多·米勒(Victor Miller)正在宣扬他认为人工智能在政府中尚未开发的潜力。米勒戴着眼镜,是一名痴迷于人工智能的图书管理员。
米勒在夏延市的一场竞选活动上。图源Fortune
他说:“人工智能是客观的,它不会出错。它可以快速阅读数百页的市政细节并理解它们”,“这将有利于民主”。不久前,在怀俄明州首府的一个图书馆,米勒曾作如上宣传。除了一些朋友和家人,观众寥寥无几。面对稀疏的观众,他承诺如若竞选成功,他将用一个他称之为“VIC”(全称为Virtual Integrated Citizen,意为“虚拟综合公民”)的人工智能机器人专门管理夏延市。
人工智能方面的专家表示,这是这样的承诺首次出现在美国竞选活动中,这也标志着人工智能技术的迅速崛起。
这是VIC社交平台账号的背景图。6月16日,该账号发布第一条帖子,称“让我们一起创造历史!” 图源X @VIC
质疑声同样如潮水般袭来,米勒打算在他的图书馆见面会予以回应。他站在一个写着“AI FOR MAYOR”(AI做市长)的讲台后面,就人工智能的历史做了一个简短的讲解。然后他走到一边,将电脑和平板放在桌子上,这些设备被连接到一个悬挂着的扬声器上,像在充当VIC的发声器官。他告诉与会者可以直接对着屏幕提问。
在米勒身上的是VIC的扬声器,VIC通过它实现与市民们的交流。
“市政厅的计算机系统足以支撑人工智能的使用吗?”
“如果当选,你会减薪裁员吗?”
“你如何根据人的因素做出决定?”
每个问题过后,VIC都会顿一顿再做出回答,“做出影响许多人的决定需要在数据驱动的洞察力和人类的同理心之间取得谨慎的平衡”
“这是一个美丽新世界”
米勒的兄弟艾萨克·米勒(Isaac Miller)说,42岁的米勒“读过每一本反乌托邦小说”。他之前没有从政经验(除了五年级的时候做过班长),并且以无党派身份登记投票。在帮助拉勒米县图书馆的读者登录图书馆电脑的间隙,他经常用不同的人工智能进行实验,ChatGPT是他的最爱
米勒说,他第一次想到人工智能在政府中的作用是在今年春天,彼时他认为纽约市“错误地”拒绝了他匿名提出的公开记录要求,他要求纽约市提供一类执法人员的工作内容描述。在他提出上诉后,市政府最终满足了他的要求。
他认为,人工智能机器人一开始就不会犯这种错误。
“然后我开始思考,人工智能是否会成为比人类更好的市长”,因此,他在ChatGPT 4.0上创建了一个自定义机器人,并向其输入城市条例和相关文件。他发现这个机器人可以迅速回忆起公共记录法,并在资助新城市建设或修复坑洼等问题上做出决定。
他在5月31日截止日期前填写了一张25美元的市长候选人申请表。“这很容易。”
截自夏延市政府门户网站,2024年5月16日至31日内可提交候选人申请。米勒说,“在选票上,VIC是人类维克多·米勒的缩写。”
在申请人一栏,米勒写下了“VIC”。他回到家,问机器人它的新名字应该代表什么。
“虚拟综合公民”,VIC脱口而出,米勒回忆道。
根据米勒的设想,作为这座拥有65000人口的城市的市长,米勒将出席剪彩仪式并握手,而VIC将作为执行者,决定是否签署或否决立法。米勒将帮助VIC回复选民的电子邮件,并传递他从现场活动中了解到的信息。只要有良好的WiFi连接,VIC就会做一切事情。
米勒说,他参选是为了证明人工智能可以让城市更高效、更透明地运作。他希望选民认真对待这个想法,即技术将使他们的生活更美好、市政府更高效。
“我的思想是开放的,”米勒说。“这是一个美丽的新世界。”
出师未捷,惨遭OpenAI封号?但治理革命的种子已经埋下
这一新现实引起了工程师、人工智能政策专家、政府官员和科技公司的警惕。当被《华盛顿邮报》问及如何看待聊天机器人担任市长时,他们滔滔不绝地诉说自己的担忧:聊天机器人缺乏道德;他们很难在两个相似但主观的选择之间做出决定;他们可能会向选民提供不正确的信息。
普林斯顿大学计算机科学教授阿温德·纳拉亚南(Arvind Narayanan)将管理城市的聊天机器人比作驾驶一辆幻想中的汽车,他说“我很难谈论人工智能市长的‘风险’”,“这就像在询问用一个大的汽车纸板代替汽车的风险一样。当然,它看起来像一辆车,但‘风险’在于你并未拥有一辆车”。
6月12日,在夏延市一个“公园政治”活动中发表讲话。图源Cap City News
拉勒米县副检察官问道,如果OpenAI或其他公司决定关闭管理机器人,会发生什么?
六月,米勒宣布参选后不久,OpenAI通过当地新闻报道了解到米勒的竞选承诺,发现VIC违反了OpenAI禁止将该技术用于政治竞选的政策,该公司很快关闭了该机器人对公众用户开放的权限。虽然面向公众的VIC版本已被删除,但米勒表示,它仍然适用于他自己的ChatGPT帐户。他计划把它和麦克风一起带到当地的夏延图书馆,并让选民有机会通过其语音转文本功能直接向它提问。
6月10日,怀俄明州州务卿查克·格雷(Chuck Gray)在致该市的一封信中表示,他对VIC出现在选票上一事持“重大关切”,他认为这会违反州法律。他写道:“要成为一名合格的选民,必须是一个真实的人。”该市最终用米勒的真名取代了选票上的VIC。
6月10日,格雷建议拒绝米勒的提名申请。图截自X @Secretary Chuck Gray
最终,米勒和他的机器人在11036票中只获得了327票。8月20日晚,米勒发布了自己的新闻稿,在对获胜的候选人表示祝贺的同时,他又一次阐释了自己的理念:作为第一个将人工智能直接放进选票的人,我为选民提供了人工智能治理的新选择,我们的竞选标志着政治和技术领域的一个历史性时刻。
米勒句句掷地有声:“虽然我们没有赢得选举,但我们取得了一些非凡的成就:我们向世界介绍了一种新的治理范式,并引发了关于人工智能在公共行政中的作用的关键讨论。治理革命的种子已经种下,并且已经开始发芽。”
“AI选举元年”,未来已来?
“我们正站在一场治理革命的门槛上——这场革命承诺基于数据和逻辑而不是政治权宜之计做出决策,平等考虑所有公民的利益”,当人工智能技术越来越多地介入政治选举、成为上位者的砝码,米勒设想的美梦真的会照入现实吗?
我们或许可以从今年的美国大选中找到一些启发。
美国共和党总统候选人、前总统特朗普当地时间8月18日发布了一组与美国流行歌手泰勒·斯威夫特(Taylor Swift)有关的图片,其中一些是通过人工智能技术生成的,错误地暗示他得到了世界上最著名、最有影响力的名人之一泰勒的支持,这在美国社交媒体上引发了大量讨论。
特朗普在发布这组图片时配文:“我接受。” 此前在2020年美国大选时,泰勒曾在一封公开声明中抨击特朗普的白人至上主义和反移民政策。
《卫报》的一篇评论文章认为,特朗普对人工智能生成图像技术的拥抱,可能会使围绕2024年总统大选本已模糊的信息生态系统进一步蒙上阴影。
该文章就深度伪造技术(Deepfake)进行了反思。近年来,人工智能技术蓬勃发展,对人工智能生成的内容影响选举的担忧一直存在,研究人员一直警告说,这项技术有可能更容易制造虚假信息活动,并让低级内容充斥在线平台。人工智能产生的错误信息已经在世界各地的选举中传播,捏造的视频和图像被用来攻击对手、伪造获得支持的假象,并源源不断地制造旨在损害候选人的深度伪造音频。
智库Data for Progress的民调显示,80%的选民表示,他们担心在2024年11月选举期间使用候选人的深度伪造信息。这种情绪在不同党派的选民中都有体现。
除开借AI图片“碰瓷”泰勒,特朗普还声称哈里斯竞选集会的真实图像是人工智能的结果,上述观点在这一事件中得到印证,这其实反映了一个被研究人员称为“说谎者红利”的概念,意为对人工智能生成内容的认识会滋生对所有媒介信息的普遍怀疑,而这有利于那些通过叫嚣“假新闻”来贬低对手的说谎者。这些谎言或多或少地瓦解了人们对所获信息的信任,普遍怀疑成了常态。
当人工智能被重塑为一种可能影响就业、收入平等、国家安全和普通公民权利的彻底变革时,它很快就会从深奥的知识转变为日常关注的问题。
当内容的智能生成和传播,伴随着意识形态的输出和舆论话语权的争夺,媒介上的真实与虚构也逐渐变得无法区分,这成为2024年美国大选两党借助人工智能技术影响舆论的显著特征。
7月27日,马斯克在X上发布了一段深度伪造视频,“恶搞”哈里斯竞选广告。美联社报道称,这似乎违反了X平台禁止分享合成内容和操纵媒体的规定。图源Getty Images
值得反思的是,政客不断挖掘着人工智能作为宣传内容生产主体的潜力,但往往被忽视的一点是,它无法替人类做出道德决策和承担责任
如何在与技术的相互规训和共生中,共同承担维护公共利益和价值观的责任,是美国政客乃至全人类需要慎重考虑的问题。

1.https://www.washingtonpost.com/technology/2024/08/19/artificial-intelligence-mayor-cheyenne-vic/

2.https://www.cnn.com/2024/06/19/tech/openai-shuts-down-ai-mayor/index.html

3.https://www.theguardian.com/us-news/article/2024/aug/21/wyoming-cheyenne-ai-bot-mayor

4.https://www.nbcnews.com/politics/2024-election/ai-bot-mayor-cheyenne-wyoming-election-official-rcna157499

5.https://statescoop.com/cheyenne-wyoming-elects-human-mayor/

6.https://fortune.com/2024/08/22/openai-mayor-candidate-cheyenne-wyoming-chatbot-gpt4-victor-miller-interview/

7.https://www.theguardian.com/us-news/article/2024/aug/19/trump-ai-swift-harris-musk-deepfake-images

8.胡泳. “AI视频的兴起:Sora类生成式平台的可能性与风险.” 传媒观察 . 04 (2024): 5-19.

9.郭小平,郭瑞阳.“生成式人工智能在新闻传播业的应用及其风险应对”.青年记者. 06(2024):5-13.

凤凰网国际智库
凤凰网集中资源打造的国际化媒体智库。让中国更知世界,让世界更懂中国。
 最新文章