这能力,太吓人了

科技   2024-10-12 13:05   湖南  

昨天晚上没事在电视上看新闻1+1,里面有一条数据让我比较惊讶。


从 2023 年到现在,利用 AI 技术造假诈骗的案例增长率达到了 3000%,着实有点吓人了。


具体来说,有不法分子利用 AI 声纹和图像视频合成能力伪造成他人进行行骗。


有个案子挺玄乎,一母亲在家里正在跟女儿视频通话,对方以生活费为由要求打钱,结果女儿开门回家了。


骗子们钻了年纪大的人对新技术和手机研究不透的空子,专挑他们下手。


还有一个老爷爷去银行要把全部继续打给孙子,说是孙子工作遇上难题欠债了,现在着急要还。


银行工作人员发现不对劲进行劝阻,结果老爷爷电话打过去确实是孙子的声音,但银行工作人员发现电话号码和孙子的真实号码对不上。


老爷爷并不相信,执意要打钱,银行工作人员无奈之下叫来了警察,经过仔细盘查和说明才相信这是骗局。


包括我自己也遇到过类似的骗局,有人在网上拿我的头像合成了一张不雅照,然后威胁我让我打钱,要不然就把这事儿公开出去。


但骗子不太聪明,可能手抖把另一个人的威胁信也发了过来,一样的照片,就是头像不一样。


还别说,头像合成后还真有点以假乱真。


AI 技术狂奔这两年,除了正规的产品创新和迭代之外,也有不少坏人利用新技术牟利的,骗局类居多。


技术、产品、治理,这是螺旋式增长的铁三角。


新技术出现带来产品创新机会,同时也为不法分子提供了可乘之机,此时治理就得跟上了。


但这事儿也得看平台态度,很多平台早期会采用睁一只眼闭一只眼的方式推动发展,因为这是一股暗流。


早年淘宝假货泛滥,其实也是一个道理。


包括现在抖音上有很多假视频不知道你们发现没,一些权威专家竟然在视频里公开卖书卖保健品,实际上都是 AI 合成的。


前两天流传的雷军在网上骂人的视频不知道你们看了没,后来经过证实也是 AI 合成的。


以前有句话叫耳听为虚眼见为实,在 AI 时代,这个逻辑似乎也不成立了。


换个更准确的说法,得当面耳听,当面眼见,才有可能为实。


昨天马斯克开了场发布会,发布了完全自动驾驶的的士和巴士,但我最有印象的还是那个人形机器人 Optimus。



且不说技术成熟度怎么样,但这个头一旦开了,就势必会带来技术迭代后的产品升级。


现在这个机器人能跳舞、调酒、和人聊天,未来能干的事会更多。


根据马首富的介绍,这个机器人未来价格如果在 3 万美元左右,全球 80 亿人都会想要它。


假设某一天的未来,你回家后 Optimus 已经把饭做好了,卫生打扫了,水果切好了,甚至把你洗澡水都放好了。而且,它还能帮你遛狗、带孩子、取快递,以及陪你谈天说地。


20 万人民币,买一个全能保姆,也不用考虑保姆能力怎么样,性格怎么样,更不用频繁换人,估计很多人觉得很香。


但是,如果 Optimus 发生 bug,或者遭到黑客攻击,它可能会从「家里人」变成「叛徒」。


到那时候,想想也挺吓人的。


从现在各方面趋势来看,AI 发展是不可逆的,即便有很多反对,但技术带来的生产力变革机会让很多人都眼红。


我一直觉得,这是一次生产力变革机会,不同于 PC 互联网到移动互联网的转变,而是类比于互联网的出现。


能力强了,机会多了,也更吓人了。


不过我还是很期待技术的继续发展和迭代,人类的每一次进步都是在混乱中逐渐回归平衡的。


这既是历史,也是未来!


推荐阅读:《我讨厌的一家公司
················· 唐韧出品 ·················

▲ 点击上方卡片进入发消息回复“w”,可加我个人微信
关注唐韧,用产品思维洞察现象背后的逻辑

安可时刻

下周在上海的星球 7 周年聚会安排了两场分享,我有一场聊聊 AI 时代的产品机会,也邀请了嘉宾分享 AI 实践落地方面的经验。


另外,下周六 19 号的产品训练营还有最后几个座位,这也是今年上海最后一场,跟我学一套体系化的产品方法论,提升工作能力和表现,冲刺年底升职加薪。


老规矩,要来的加我报名:tangren0517

唐韧
关注我,用产品思维洞察现象背后的逻辑。前非著名程序员,现不知名产品人,只工作不上班的自由职业者。
 最新文章