从假“雷军”到诺贝尔奖——AI再亮双刃剑|荔枝时评

文化 2024-10-10 17:29 江苏

进入10月的这几天，人工智能再次亮出了双刃剑。

一面是凭借为人工智能奠定理论基础、用AI模型精准预测蛋白质复杂精妙的结构，几位科学家分获诺贝尔物理学奖和诺贝尔化学奖。

图源：诺贝尔官网

另一面，则是黄金周期间出现大量AI配音的冒牌“雷军”，在短视频平台上“怼天骂地”，对调休、堵车等话题犀利点评还爆粗口。

从AI推动科学探索到AI造假恶搞传播，人工智能的安全性和伦理问题又一次引发关注，AI这柄双刃剑，究竟该如何在使用与监管中把握平衡？

很多人工智能领域的先驱都曾获得图灵奖。这个奖项通常被比作计算机领域的诺贝尔奖。而今年的诺贝尔奖直接“抢戏”，褒奖了在人工智能理论奠基和探索应用方面建功卓著的科学家。有评论认为，这次诺奖对AI技术的肯定，凸显了AI作为科学研究“助手”的强大潜力。

人工智能善于处理海量数据、发现复杂规律，帮助研究人员进行前沿突破。比如AI已经被应用于癌症筛查、基因分析、药物研发等关键领域，极大加速了医学研究的进展，展示了它在改善人类健康福祉方面的广阔前景。

而AI伪造出的假冒“雷军”们，则在警告我们：AI的创造力与风险并存。人工智能生成技术近两年突飞猛进，在图像、音视频生成和信息传播中有着令人惊叹的巨大潜力，同时也带来了真假难辨的巨大风险，很容易成为不法分子操控和误导公众的工具。

如果说当年文字配图的大量“鲁迅说”还是移花接木的1.0版本，今天直接让某位公众人物用几乎天衣无缝的声音、口型、形象、动作进行“名人说”，恐怕已经是3.0、4.0的高阶版本。

在这个信息爆炸的时代，如何甄别真伪，防范虚假信息的传播，本就是各国正在头痛的治理难题，当AI技术进场加持，只会让“后真相”变成更为艰巨的挑战。

AI造假并非新鲜事，但是当其恶意利用的成本不断降低，威胁则愈发增强。AI造假不仅仅与个人隐私和名誉问题有关，更关乎公众信任和社会的基本秩序。科技的进步本应为社会带来便利，但如果被恶意使用，势必产生负面影响。如何有效防范和管理其负面效应，是一个亟需解决的问题。

为了用法律对AI技术应用加以规范，欧盟已经陆续出台了《人工智能法案》《一般数据保护条例》《数字服务法案》等一系列法规。我国《网络安全法》《数据安全法》《个人信息保护法》等法规也已陆续颁布执行。2023年8月15日起，国家网信办等七部门联合公布并施行的《生成式人工智能服务管理暂行办法》，专门对侵害个人信息权益的人工智能进行责任界定。

今年9月14日，国家互联网信息办公室就《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，旨在“规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益”。

也就是说，AI内容生成可以应用在在娱乐、教育等领域，但是在传播中必须加以明确标识，防止人工智能变成加了氪金装备的人工欺诈。

加强对AI生成内容的识别与标定，也算是用技术迎战技术，用魔法打败魔法。

今年颁发诺贝尔物理学奖的过程中，也提到了要对AI技术加以肯定，更要重申科技伦理与责任的重要性。在享受科技突破带来的便利时，我们不能忽视科技滥用的风险。正如获奖者杰佛里·辛顿说的，科技界与社会必须共同思考，如何在推动AI技术进步的同时，确保它被负责任地使用。

对了，这句话是他本人获奖后的亲口回应，并非AI生成。完

http://mp.weixin.qq.com/s?__biz=MzI1NTI5ODMyOQ==&mid=2247503808&idx=1&sn=2495a2576e81560b835599f177dacad5

荔枝锐评

江苏广电荔枝新闻、荔枝网旗下评论专栏，理性不偏激，温和有锋芒

最新文章

卫生巾长短之争：在产品标准和客户服务上不能做“草台班子”|荔枝时评

学校10元配餐遭吐槽，校园餐 “信任危机” 要有更走心的解法|荔枝时评

防鸟撞贴纸：生态保护的生动注脚|荔枝时评

“在外互助父母协议”：年轻人最温暖的约定|青年说

古装剧“收腰囚服”引争议：真实性与艺术性如何兼得?|青年说

新换井盖一碰就碎？别让责任心涣散成为安全陷阱|荔枝时评

4S店关了，消费者权益不能随意“关”|荔枝时评

抗癌者平台筹款5天后晒新房照：别让欺骗玩弄善意|荔枝时评

李子柒回归：温暖而有力|荔枝时评

在自习室里“摸鱼”，是青春和人才的双重浪费|青年说

幼儿园开设“理科班”？不只是卷不卷的问题|荔枝时评

《我在岛屿读书》为什么在年轻人里火爆出圈?|青年说

轻装上阵，告别“数字囤积”|青年说

多位财经荐股博主被封，市场哪有那么多“股神”？|荔枝时评

扯掉“工厂直播”的假背景|荔枝时评

看到美颜直播干部背后的真实“颜值”|荔枝时评

考研照片禁用“海马体”：“理想自我”别超越“现实自我”|青年说

大粉骗小粉350多万元，饭圈生态真得净化了|荔枝时评

在这儿领证，情绪价值拉满！|荔枝时评

良品铺子被举报？食品安全非小事|荔枝时评

夜骑开封：青春就是一场充满passion的旅行|青年说

“死亡游戏”卷土重来：生命不是儿戏|荔枝时评

卤菜“阴阳标签”，坏了市场诚信|荔枝时评

婚恋平台岂能有“局中局”？|青年说

尾款没付定金不退？多一些透明，就少一些纠纷|荔枝时评

语言通货膨胀后，如何衡量话语的“重量”？|青年说

羽绒服洋品牌与国货之争，品质才是核心竞争力|荔枝时评

莫让剑走偏锋的“寻宝”“鉴宝”野蛮生长|荔枝时评

“双十一”明降暗升不可取，惠及消费者才是正道|青年说

酒店“订后即焚”功能，真能保护隐私？|荔枝时评

孩子被黑话烂梗“围猎”，要拔“毒草”也要种“繁花”|青年说

破解“护学岗”难题，需要厘清职责、做好统筹|荔枝时评

“代炒”服务火爆，释放传统菜市场新活力|荔枝时评

“低累点”也是年轻一代的自我修复方式|青年说

给无良商家“解套 ”给消费者“下套”的幕后黑手，严惩！|荔枝时评

机动车道变赛场：暴骑热如何刹住车？|青年说

严惩高空抛物，防止悲剧不能仅靠事后追责|荔枝时评

臭肉事件刺痛人心，亡羊补牢如何开启？|荔枝时评

直播“黑手”伸向银发群体：老年人触网需加道“防火墙”|青年说

医学生“有所敬畏”比“无所畏惧”更重要|青年说

博导“举铁”招生：这样的“硬核”方式可以再多些|青年说

网红闹机场：流量的背后是责任，不是特权|荔枝时评

“人工耳蜗”入医保，让听障人士“心声”变“新声”|青年说

警惕新型“特药”骗保，筑牢医保防线|荔枝时评

干部酒后狂言为哪般？|荔枝时评

“东北雨姐”带货翻车，再次为网红主播带货敲响警钟|荔枝时评

老年人深陷直播间消费骗局：监管与关爱需双管齐下|荔枝时评

发展“代际融合”模式，让“养老”变“享老”|青年说

从假“雷军”到诺贝尔奖——AI再亮双刃剑|荔枝时评

不保分还不退款，考研“保分班”岂能成为“坑班”？|荔枝时评

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉