▼
不得不说,这年头为了利益,人是可以没有底线的。
昨天的一条热搜,看得让人既生气又害怕:
浙江杭州的虞某接触到“AI换脸”软件,为吸引流量,他利用该软件制作大量淫秽视频并传播,被换脸的有不少是女明星。
虞某称,“只要能看到脸的都能换。”
有人甚至要定制暗恋女生的换脸视频。
虞某最终因犯制作、传播淫秽物品牟利罪,被判有期徒刑七年三个月,并处罚金6万元。
恶行得到惩罚,是好事。
科技不断发展,AI技术应用在各行各业,也是好事。
可,一旦人心变坏,“虞某”遍地都是。
再好的事,也只能是坏事。
01
▼
AI复活技术
让思念变得触手可及
▼
AI复活技术
让思念变得触手可及
1月19日那天,台湾知名音乐人包小柏在个人社交平台上分享了AI生成的逝去的女儿的视频。
并写道:
“亲爱的Feli,欢迎从数位世界回来。”
在和数字女儿对话的那一刻,这位中年丧女的父亲,所有的遗憾和思念都变得具体。
患上罕见病的女儿,在2021年12月离开,年仅22岁。
从那以后,包小柏和妻子便将自己封闭了起来。
甚至,包小柏再也没有理过发。
因为他的头发曾经触碰过女儿的额头。
只要留着头发,就等于留住了女儿的温度。
他不愿、也不敢面对“女儿已经离开”的事实。
直到他接触到了AI技术。
思女心切的他,决定攻读博士,希望女儿能在数字世界里复活。
“晚饭时间到了,待会儿你要吃什么?”
“我打算吃披萨。”
“别总吃快餐,对身体不好。”
经过反复训练和大量的投入后,包小柏终于如愿和AI“复活”的女儿,进行了第一次对话。
他把这段对话录了下来,想起来了就要听一听。
除了简单对话,妻子生日当天,“女儿”还录制了一首生日歌为妈妈送上了祝福。
人生有三大幸事:虚惊一场、久别重逢、失而复得。
包小柏当然知道,这份幸运不是百分百的圆满,它更像是编织出来的一场梦。
但,当思念无处寄托,悲伤没有出口的时候,一个可以见面的机会,足以填补太多遗憾和空白。
AI技术的成熟,让这样的温情片段,不断上演。
辽宁抚顺的孙先生用AI换脸技术,“复活”了病逝的父亲。
并以父亲的口吻,向91岁的奶奶报平安。
他说:
“我把这段经历记录下来,就像是和过去告别。
尽管现在我依然无法接受父亲的离世,但我相信生活总会有新的开始。”
前不久,AI还重现了雷锋的声音,来了一场穿越时空的对话。
如网友所说:
这才是AI的正确打开方式。
才是科技发展的初心。
02
▼
再牛的技术
也会沦为利益的工具
▼
再牛的技术
也会沦为利益的工具
可惜,总有人能以一己之力将美好粉得稀碎。
前段时间,“李玟”出现在各大社交平台。
一开始我以为就是她生前的某个视频,又被拿出来做文章了。
没想到听到的声音,却真的是她本人:
“在我离开这个世界的那一刻起,我一直能感受到你们无尽的爱和支持。”
不光是李玟,这位博主利用AI复活技术,再现了高以翔、乔任梁等多位已逝的明星。
配合上类似“我的心与你们同在”这些温情文案,的确能瞬间勾起不少回忆。
但很快,舆论就开始反转。
高以翔的家人和乔任梁的父亲,强烈要求下架相关视频。
“他们未征求我们同意,这是在揭伤疤,不尊重我们。”
同样是AI复活,包小柏制造的这场“重逢”,是一个父亲的思念和不舍。
但作为局外人,去操作这样一场“回忆杀”,只有四个字:有利可图。
如江歌妈妈所说:
“如果能复活,也仅限于我亲自来做这件事。
你们懂得我们(痛失挚爱的人)逝去的亲人吗?
你们不懂我们,又凭什么为我们(我与女儿)做决定?”
他们要的,不是真正的“科技暖人心”。
而是利用复活已逝明星的噱头,去赚流量和实打实的利益。
翻开这些博主的主页,能看到清晰的价目表:
逝者照片说话视频(AI配音),1分钟,198元;
逝者照片说话视频(逝者的声音),1分钟,398元。
......
亲人的离世,不是暴雨,而是一生的潮湿。
对于李玟、乔任梁还有高以翔的家人来说:
接受失去,是一个无比漫长且揪心的过程。
每一次提起,都是一次阵痛。
他们不需要一场突如其来的互联网回忆杀,硬生生地撕开伤疤。
有时候,不去触碰,就是最好的保护。
强行帮痛苦的人回忆痛苦,不是蠢,就是坏。
03
▼
AI诈骗
成功率99.9%
▼
AI诈骗
成功率99.9%
而以上这些操作,还不是最坏的。
前段时间,中国驻新加坡大使馆发布了一条关于AI诈骗的公益广告。
一对母女通过微信视频对话:
“妈,我太倒霉了,我飞机延误了,还丢了部手机。”
“你把护照也丢了才好呢。”
“你不是亲妈,我要跟你断交。”
“断交好啊,挂了。”
“不嘛,给我转钱。”
在女儿的撒娇攻势下,这位母亲打开了电脑登陆网银准备转账。
就在这时,门铃响了。
打开一看,竟然是女儿回来了。
而此时视频里的“女儿”还在一个劲洗脑:
“妈,快给我转钱啊,我最爱你了。”
看到这,大家也明白了:
视频里的女儿是用AI模拟的人脸和人声。
你看,自打有了AI技术,“眼见为实”变得没有了说服力。
警方也发出警告:AI诈骗潮真的来了,成功率接近100%。
恐怖吗?
央视新闻曾报道过一起典型的诈骗案例:
陕西西安财务人员张女士与老板视频通话,老板要求她转账186万到一个指定账号。
视频是老板,声音也是老板,老板也明确表示很着急。
作为打工人当然是按指令行事。
结果,当张女士汇完款把汇款单发到公司财务群时,老板却问她这笔资金的用途。
张女士这才意识到被骗了,幸好警方及时介入,才保住了大部分被骗资金。
这不是个例。
当AI换脸,以各种形式中伤我们的生活,我们需要几百个心眼子,才能与之周旋?
一条曾采访过一家人工智能工作室。
针对“换脸技术是否会被人利用”,负责人是这么说的:
“现在也没有行业标准,没有相关的法律法规。
没办法百分百去防范,只能尽力去约束。
就像你是卖菜刀的,你也没办法知道对方买了菜刀会去做什么。”
很清楚了,真正用AI技术解决陪伴问题的,不需要约束。
带着其他目的去的人,你也约束不了。
一句话,防君子防不了小人。
如今,也只有欧盟出台了相关约束方案:
要求开发人员实施技术保障措施,防止技术的滥用。
但请注意,是约束,是预防,并没有实际的惩罚措施。
面对那些消费逝者谋利益的博主,我们能做的只有谴责。
他们的损失,也只是在家属的要求下下架视频。
这并不妨碍,其他人成为他们赚流量的对象。
对于那些利用AI换脸诈骗、制作淫秽视频的行为,我们能做的也只有防范。
这才是最让人觉得无力的地方。
20世纪技术哲学奠基者弗里德里奇·德绍尔说:
“现代技术改变世界,也见证了其超出经验的道德价值。
人类创造了技术,但它的力量就像一座山,一条河,一个冰川纪或行星,它超过了世界上本来的各种力量。”
人与人之间最大的差别是什么?
是对于技术工具的使用。
在有底线、有道德的人手里,工具能撬动一切出奇迹。
在利益至上,人性低劣的人手里,工具只能变凶器。
所以啊,错的从来不是技术,而是用技术的人。
在此,益美君只想呼吁:
严格规范AI技术从业者及行业规则,要预防,更要严惩。
纸上谈兵,事后补救,毫无意义。
也想送给那些在利益边缘游走的人,一句话:
你希望生活在一个什么样的世界,就选择去做什么样的事情。
当世界上有了千千万万个“虞某”,那你也逃无可逃。
出品 | 益美传媒
作者 | 山山而川
近期微信公众号改版啦
⭐星标「益美传媒」
第一时间获取更新文章
欢迎关注智体双百计划
👇👇👇
不要坏了人心