首页时事民生政务教育文化科技财富体娱健康情感

旅行百科职场楼市企业乐活学术汽车时尚创业美食幽默美体文摘

能把话胡乱塞进某人嘴里？　防止人工智能深伪对选举公平很重要

文摘 2024-09-10 23:52 新加坡

新加坡最迟将在明年11月举行大选。（联合早报）

作者李国豪

想象一下，选举白热化阶段，网络上如果突然开始流传一部视频或录音档，内容是某个候选人发表疑似违法或可能流失选票的言论。

这会不会影响到你的投票意愿？

或者说，这会不会影响到广大选民的投票意愿？

如果内容是真的也就罢了，若内容是伪造的，候选人岂不吃了“死猫”，输得不明不白？

新加坡政府昨日（9日）正式在国会提出选举（维护网络广告诚信）（修正）法案（Elections (Integrity of Online Advertising) (Amendment) Bill）一读。

要针对的，就是上述情形。

该法案将修改国会选举法令和总统选举法令，在选举期间，禁止发布由包括AI技术在内的数码技术所生成或篡改的网络竞选广告。

上述网络竞选广告，指的是那些鱼目混珠，以假乱真，逼真描绘某个候选人未曾说过或做过的事的内容。

简单来说，就是那些把别人没说过的话塞进别人嘴里的深伪视频。

法案将赋予选举官向违例内容发布者、社交媒体服务和互联网服务提供者发出更正指示的权力，让他们撤下相关内容，或禁止新加坡用户在选举期间访问违例内容。

受影响的候选人和公众皆可举报涉嫌违例的内容。

若违例内容发布者或相关服务提供商拒绝遵从更正指示，一旦定罪，社交媒体服务商最高可被罚款100万元，其他涉事者则可被罚款不超过1000元、监禁最长12个月，或两者兼施。

根据数码发展及新闻部的说法，相关内容一旦符合以下三种条件，发布、转发、分享的行为就会触法：

内容是经由AI技术生成或篡改，或经由修图、配音或拼接等数码技术所产生的；
内容被认定为网络竞选广告，目的是为了让某个政党或候选人的选情更有利或更不利；
内容必须以假乱真、煞有其事地描绘出某位候选人说着或做着他们从不曾说过的话或做过的事。

值得一提的是，除了利用深伪内容让人扣分不行，以虚假内容来帮人加分也属违例。

例如，若某位候选人明明完全不会说福建话，却用深伪视频把自己描绘成流利福建话流利的人，其逼真程度也足以说服某些选民，那这不符合事实的描绘就属于违例。

无论如何，动画、卡通人物、娱乐内容、迷因和竞选海报，只要不符合几可乱真的条件，即不会让人对内容信以为真，那就不在法案的禁止范围。

例如下面这张梗图，一看就知道是为了娱乐大众，而非诋毁候选人，因此不属于违例。

妈妈：你们有没有把鸡肉拿出来解冻？

我和兄弟姐妹们的表情……

（SGAG）

此外，个人聊天或在私聊群组所传送的内容，也不受法案规范。

深伪内容已在多国选举“发威”

自生成式AI技术问世以来，近年来不少国家的选举，已然可以见到深伪内容影响选举的蛛丝马迹。

去年9月，在斯洛伐克大选投票日前夕，当地社群媒体突然出现一段听起来像是该国政党进步党领袖希梅奇卡（Michal Simecka）和一名记者讨论收买选票的语音档。

经过核实后，才发现该语音档原来是AI工具搜集希梅奇卡真实谈话录音后，加以变造合成。

当时，亲欧洲的希梅奇卡和对手，亲俄罗斯的前总理费佐（Robert Fico）所领导的政党竞争激烈，上述深伪录音对最终选举结果有多大影响不得而知，但费佐最终成功当选总理。

印尼和印度则出现“死人复生帮忙拉票”的乱象。印尼政党戈尔卡党在选举期间，以AI技术“复活”前总统苏哈多，并借“假苏哈多”之口为自己拉票。

已故苏哈多在竞选视频中“复活”。（互联网）

在语言非常多样且复杂的印度，印度执政党人民党则透过AI技术，让印度总理莫迪除了用印地语说话，还用包括淡米尔语在内的其他八种语言发表演说（在新加坡，这类以假乱真的配音在新法上路后属于违法，请参考前文所述的“福建话”案例）。

新加坡政治人物也无可幸免。新加坡总理黄循财和国务资政李显龙都曾遭不法分子“深伪”，内容是推销诈骗投资平台。

李显龙还一度被有心人攫取过去的访谈画面，深伪假造他谈论台湾及菲律宾等敏感国际议题的内容，在TikTok和小红书流传的相关内容取得了数十万观看次数。

李显龙遭假造谈论敏感议题的内容。（李显龙脸书）

人们辨识能力有限

虽说谨慎的选民或能识破深伪内容，将其影响降至最低，但研究显示，现实中人们对深伪内容的辨识能力恐怕不那么令人乐观。

伦敦大学学院去年8月公布的一项研究结果发现，人类识别AI声称语音的准确率只有73%。

必须强调的是，当时这份研究的语音样本采用的是比较旧的AI工具，这意味着随着AI技术的仿真度越来越高，人类的识别成功率只会更低。

另外一份澳洲国立大学去年11月所发布的调查则指出，被AI人脸蒙骗的人，往往对自己的判断最有信心。

这意味着，以假乱真的深伪内容“取信于人”的可能性不小，其影响选民投票行为的风险不可忽视。

因此，不少国家已在思考落实相关法律，以降低AI技术生成内容可能对选举带来的干扰。

随着AI技术持续精进，人们或将愈来愈难分辨真伪。（路透社）

新加坡最晚将在明年11月举行大选。在选举到来之前，有必要防范于未然，尤其得避免整个舆论环境被各种深伪内容搞得乌烟瘴气，令人真假难辨。

这点红蚂蚁颇有感触，最近公司的IT部门为测试员工预防网络诈骗的能力，连续发出钓鱼邮件，一旦被“钓到”就得去补上网络安全课程，搞得大家人心惶惶，甚至连看到真实的邮件也要犹豫再三，才敢点开。

将这种可能的心态放到现实场域，若未来AI深伪的虚假内容满天飞，人们面临的，便可能是没有任何人、事、物能相信的世界。这对需要基于事实进行讨论，并作出决定的公共事务，将会是一大打击。

除了好人可能被诬赖，真正的坏人也可能藉着舆论环境遭深伪内容污染，谎称不利于自己的真实内容是由AI所生成或篡改，以此获得“说谎者红利”（liar’s dividend）。

因此，在新加坡的防深伪选举内容的法案中，当局也加上了一个但书，若候选人向当局谎称某个真实内容是虚假的，那他也同样会受到法律制裁，包括被罚款乃至丧失议席。

更多好读

▼

印尼前总统“借AI还魂”帮人助选？　各国是时候行动避免深伪内容影响选举

▼

新加坡正副总理先后“被深伪”　想辨别真假这几招相当好用

▼

诈骗集团学会用深伪技术勒索　新加坡警方反守为攻“狩猎”骗子

"阅读原文"不翻墙就能大咬特咬

日行一善点个

http://mp.weixin.qq.com/s?__biz=Mzg3MDIwOTEwNw==&mid=2247623368&idx=1&sn=68c6ca3c0d2af3b1885703639bfc7c2e

新加坡红蚂蚁

红蚂蚁立足于新加坡，触角伸向海外，以生动笔调撰写独立观点，以新颖手法呈现新闻，随意钻、认真咬。官网：www.redants.sg

最新文章

《太阳的后裔》日后也有狮城版？　新加坡应急医疗团队获世卫认证

在新加坡报名学驾车竟要等两个月！　看驾驶中心如何对付用“机器人”抢名额的学员

【视频】新加坡Uncle们退休后　每天无事忙？

“霉霉”影响力不容小觑　她的表态是否足以将哈里斯送进白宫？

美国即将降息关新加坡人什么事？　别的不说，工作可能更多

人体在这两个节点衰老最快！　觉得体力不如前的你可能刚过了一个

除了出狱一年内不能捐血，新加坡还有哪些情况暂时不能献血？

新加坡德士和私召车多了，乘客却少了　司机还有赚头吗？

新加坡高才教育改革和一段“共生关系”引议　原因离不开“印象”二字

一场电视辩论后　特朗普应该会很想念拜登

跟四岁孩子一样重！　俄罗斯“肥猫”被令减肥

能把话胡乱塞进某人嘴里？　防止人工智能深伪对选举公平很重要

教宗方济各即将到访狮城　新加坡元素隐藏在这些环节

把佛像当垃圾丢弃？　网民：这人别想发财了！

月饼奢华包装又被吐槽　但高档品牌用“寒酸”包装你能不能接受？

新加坡政府准备发放“失业救济金”？　有一类失业者绝对拿不到

被家长报警投诉恋童癖！　幼儿园男教师心事谁人知

新加坡的新住宅区　要让居民不只住在公园里而是住在童话世界？

新加坡组屋的“贵宾楼”可能就在你身旁　它们的电梯多了这个装置

新元兑换率创十年新高　出国的开怀大笑，开店的强颜欢笑

紧随中国步伐　新加坡也要开始“用手掌付钱”了？

“找人跟我一起申请组屋”　这是变相征婚启事，还是给自己找事？

越年轻越避忌？　65岁以下新加坡人近半不敢接受早发失智症筛查

【独家视频】“时尚奶奶”68岁当模特　一头银发让人一眼就记住她！

新加坡组屋是安乐窝也是考察对象　中国一位前总理就曾到访过

不是全天下的男人都会犯错　数据显示新加坡男人“很乖很专情”

新加坡小孩七岁就拥有借记卡　还没学会赚钱就先学会刷卡？

“别以相同方式应战！”　新加坡应对猴痘的措施与冠病有这些不同

新马非法跨境包车“抓不胜抓”　何不将它们纳入“圈内”监管？

“节约消费”成为最新潮流　新加坡年轻人终于懂事了？

喜欢吃“辛奇”就多吃点儿　韩国高地数十年后可能无法再种大白菜

原因虽然略有不同　新加坡不分老少都有个“私宅梦”

组屋解除禁猫令却要求猫咪有“身份证”并植入芯片　猫主会弃养吗？

意外吗？　疫情后新加坡员工平均每周进办公室工作3.2天

一个曾毁约离职，一个没上大学　却借助这些“秘诀”擢升为高管

富翁变“负翁”！　今年上半年新加坡有2334人申请破产

医生骗取国家津贴的案件频传　新加坡政府的钱有这么好骗？

新马古迹建筑风格太相似？　马国槟城宣传海报竟出现新加坡街景

取缔犯罪温床还是侵犯言论自由，Telegram创办人被捕意味着什么？

新加坡环球小姐年龄不设限　最“年长”佳丽却只有34岁？

比起巴黎奥运会，残奥会更精彩？　只因选手们太厉害感动了你我

旅行是最好的“试婚石”？　17%新加坡情侣出国一次就分手

澳洲立法让员工下班后不必接听老板电话　新加坡有必要跟风吗？

让乐龄人士继续在社会占有一席之地　“特慢收银处”给新加坡的启示

这只猴子魅力无法挡？　《黑神话：悟空》在东西方爆红靠四个字

马来西亚吉隆坡地陷频传　新加坡有没有这类风险？

新加坡护士的收入是印尼的七倍！　越来越多印尼护士跳槽到狮城

体育明星就一定要树立榜样？　墨士廉与全红婵奥运夺牌后评价大不同

【视频】新加坡的歌台有够赞　非华族也爱看！

新加坡转售组屋市场红红火火　把剩余屋契卖回给政府套现划算吗？

分类

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉