Sora爆火,已有人靠其狂揽百万元!AI等新型网络诈骗如何防范?

文摘   2024-03-08 17:16   美国  



PART.
01
Sora是何方神圣?

为何刷爆科技圈?

仅仅是发布了一些示例视频,便引发了:


互联网科技大佬的追捧称赞(包括不限于:周鸿祎、马斯克、Runway联合创始人兼CEO Cris Valenzuela、前阿里总裁贾扬清等);


多家重磅媒体的跟进报道(包括不限于中央电视台、央视网、新华社、钛媒体等);


一众科技迷、博主的解读、技术分析、视频传播


多家券商的行业报告分析;


能引起如此阵仗的sora究竟是何方神圣?


简单来说,“Sora”是美国开放人工智能研究中心OpenAI发布的首个视频生成模型,该模型通过接收文本指令,即可生成60秒的短视频。而OpenAI公司在之前发布的ChatGPT,同样引起了不小的震撼

(以上是由Sora生成的视频


Sora为何能引爆科技圈?

Sora并不是第一个视频生成器,在它之前,谷歌、百度、腾讯、阿里等互联网大厂都有推出相关的产品。


但是,它能:


真正实现由文字生成视频;


快速生成超过60秒的视频,将视频时长提高了几十倍(此前众多视频生成器最多只能生成几秒钟的视频);


生成的视频更加逼真,难以辨别虚拟与现实(它的视频是基于对真实物理世界部分规律的理解基础上产生的,所以真实度、还原度都更高。)

(相同的文字提示词,左边是由Pika生成的视频截图,右边是Sora。图片来源于贝壳财经)


换句话说,如果Sora成熟后并被投入使用,几乎任何人都可以快速、低成本、高质量制作想要的任何视频,任何特效(略有夸张)。


Sora可以使用了吗?

现阶段,Sora尚未对公众开放,仅仅是陆续发布了一些生成的视频示例,在AI圈引起不小的震撼。同时,也让磨刀霍霍的诈骗分子蠢蠢欲动。




PART.
02
永远要相信骗子的速度

卖课/卖账号已完成“割韭菜”

同一个世界,不同的热点,同一个套路!


我们永远要相信骗子收割的速度!


据传,已有人借着Sora噱头卖课程、卖账号狂揽百万!


ChatGPT-4刚推出那会,网上就导出充斥着卖课、代注册账号、账号出租/出售的骗局(详情请戳:GPT-4炸裂升级背后暗藏风险,需警惕这些借着ChatGPT名义的诈骗新手段)。


而一年后Sora都还只是发了生成视频的示例,都还尚未对外开放,那些“闻着味儿”的骗子已经开始“割韭菜”了。还是同样的套路,同样的配方。


在某些电商平台、小某书、某音、某星球,关于Sora的教程、解读,内侧账号、内侧账号代申请等售价在几元至几百元不等。
据说有课程刚上线时卖99,后竟然涨到了999,依然有人购买。另有业内人士爆料,一份售价为99元的Sora的课程,一天就卖了2万多份(真实性待考证)。


(图片来源于网络)


更离谱的是,据说“所谓的教程”就只是Sora官方的文档介绍、视频案例翻译、搬运的互联网Sora解读文章等,完全没有实操干货,还美其名曰“给自己一个机会”。

请问:是给自己一个被骗的机会吗?


这韭菜割的都惊动OpenAI官方了,赶紧出来辟谣说:自家的Sora还没对外开放呢,如果有人说可以搞到Sora账号,那就纯纯的是诈骗呀!

更有甚者,人家官方都说Sora还没对外开放呢,骗子还说要用熟悉了再给大家培训。


请问你是自己打造了一个Sora吗?
目前看来,利用Sora卖课、卖账号诈骗主要有以下几个套路:

①自称有内部渠道,能搞到Sora内测账号

诈骗说辞不可信:人家都还没对外开放呢,哪有那么多内测账号?

②售卖Sora实操课程

诈骗说辞不可信同样的,都没对外开放呢,哪来的账号实操?

③售卖Sora独家学习教程

诈骗说辞不可信都是网上公开资讯、资料,说“独家”就有点虚假宣传了。但是你要不想花时间自己去搜集也不是不可以花钱购买。

④教授如何通过Sora赚钱的渠道

诈骗说辞不可信所谓的方法就有卖课程、卖账号、套壳引流等。难道你真不怕刑啊?


总之,如果当下有人给你说,可以提供Sora账号、内侧名额、实操教程等千万别信就对了。当然,如果你愿意花钱购买那些所谓的学习教程(公开资料)就另当别论了。




PART.
03

眼见不一定“为实”

Sora引发的AI诈骗恐慌

除了上述卖课、卖账号的诈骗外,Sora等视频生成器更大的威胁是其可能沦为AI诈骗帮凶


这并不是危言耸听!


利用AI进行诈骗的例子已经屡见不鲜。


香港1.8亿AI视频会议诈骗

前段时间,香港警方就透露一家跨国公司的香港办事处遭受了高达1.8亿元的AI视频诈骗。香港分公司的财务人员按照视频会议中“CFO”的指令给对方指定账户共计转账2亿港币(约合1.8亿人民币)。据该被骗人员透露,他们当时并不是一对一的视频会议,参会的有好几个熟面孔,无论是脸还是声音都很真实。

包头430万AI微信视频电话诈骗

无独有偶,2023年包头警方也发布了一起利用AI实施电信诈骗的典型案例,诈骗分析通过微信视频骗取了受害人430万元


QQ视频被“假领导”骗走40万

受害人被备注领导名字的骗子添加微信后,又要求添加其QQ,并在QQ中发起视频通话,虽然视频图像显示是领导“本人”,但“领导”并未说话,后以信号不好为由关闭视频通话,并要求受害人向其转账共计40余万元。


而Sora将文生视频推进了一大步。

它生成的视频,无论是细节呈现、还是理解物体在物理世界中的真实存在状态、角色情感都做的非常真实,比起以往的AI换脸可能更让人很难分辨真伪。真正的让大众体会到了“眼见不一定为实”,也真正让我们意识到AI视频生成的威胁和危险。

试想一下,假如Sora等视频生成软件被不法分子利用可能造成:

SCAM①
冒充类诈骗视频更难甄别
利用Sora等视频生成软件制造出,亲朋“出事故的”的现场视频;冒充公检法/工作人员/公司领导,让受害者转账,提供身份信息的视频;不雅照/视频等将会更加“真实、可信”,受害者在着急、恐慌的情绪下还能不被骗吗?

SCAM②

加密骗局更加“真实可靠”

而在加密领域,以往很多诈骗项目都只有白皮书,或者拼凑的项目实地图片,而有了Sora后,诈骗团伙可以轻松地生成“真实的”项目实地视频,让项目看起来更加的“可信”,让不明真伪的投资者更加难以辨别了。


另外,诈骗分子还可能利用名人效应,为加密货币项目制作名人站台/代言的视频,以吸引更多人进行收割。


SCAM③

假新闻更加泛滥

Sora可能会改变新闻的生产制作。眼下,用技术炮制的“假新闻”层出不穷。而如果Sora如果被滥用,则可直接用人工智能生成视频,甚至不需要原始素材。


SCAM③

低成本诈骗视频病毒式传播

此外,诈骗者还可以低成本的自动生成大量诈骗视频,并在社交平台上病毒式传播,让人防不胜防。



PART.
04

AI等新型网络诈骗盛行

应如何防范?
随着AI、区块链、物联网、大数据等新技术、新业态、新应用发展,加剧了各类新型网络犯罪的爆发。例如AI技术常被不法分子用于:

盗窃、欺诈、伪造等犯罪活动的工具。如制造网络攻击,侵犯隐私,破坏系统,制造生成虚假新闻、证据、证明,等来进行破坏、获取他人隐私、误导欺骗大众;

进行深度伪造(Deepfake),创建虚假身份进行诈骗。目前常见的通过AI生成诈骗的方式主要有“拟声”和“换脸”。诈骗分子通过微信、QQ、电话、网络渠道、社交媒体等方式,采集受害者发音、语句或面部信息,再利用“拟声”“换脸”等技术合成受害者虚假音频、视频、图像,或者直接进行视频通话,让受害者转账、提供隐私信息等。

除了AI技术,近年来,区块链技术也被频繁应用于各类新型网络犯罪活动。

以区块链、虚拟货币为噱头、犯罪工具、犯罪目标的诈骗、传销、洗钱、网赌、侵公、盗币等各类犯罪活动频发为民众的财产安全和社会稳定带来极大的威胁,更为案件的侦办带来了极大的挑战。

利用AI、区块链、虚拟货币等进行的诈骗活动迷惑性强,诈骗金额高,侦查难度大,我们应如何防范呢?

TIPS①

多重验证,确认身份

眼见不一定为实,耳听不一定为真。再遇到亲朋好友、领导通过语音、电话、视频向你借钱、要你转账、敲诈勒索或者让你提供隐私信息时,一定要提高警惕,多方验证其身份,避免被骗。


TIPS②
保护好自己的隐私

新型网络诈骗实施也需基于我们的基础信息,因此在网络上不随意下载陌生软件、注册陌生平台、添加陌生好友、点击不明链接,尽量避免在互联网过多暴露个人照片、声音、视频等信息,保护好个人的隐私信息。


TIPS③
拒绝诱惑,克服“贪欲”

各类诈骗活动之所以屡禁不止,愈发猖獗,很大一部分原因就是受害者的“贪心”,追求“免费”、“高回报”、“高利润”,总想着天上可以掉馅饼。亏钱了也总是不甘心,一心想着下次赚回来……殊不知这正中了诈骗分子的下怀。天下没有免费的午餐,所有的“馈赠”都已经在暗中标好了价格。


写在最后

科技发展日新月异,科技向善,但也是双刃剑。我们在享受AI、区块链、物联网、大数据等新技术带来的便利时,也要警惕其可能引发的各类新型网络犯罪风险。当然,不管技术如何发展,很多诈骗的套路都是大同小异的,时刻保持警惕,拒绝诱惑,多学点防骗知识,才能避免上当受骗






参考资料:

1、关于警惕利用AI新型技术实施诈骗的风险提示

2、299卖Sora内测账号?中文互联网的创造力全拿来骗钱了。。。

3、如果不法分子利用Sora造谣传谣,我们该如何识别?

4、警惕“AI诈骗”:智能威胁下的警醒与防范

5、从Sora爆火看AI圈的乱象 - 不要当新时代的“韭菜”

6、开年1.8亿骗局!AI改变犯罪手段,Sora可能沦为诈骗工具?

7、OpenAI新模型Sora影响加密市场:AI相关代币暴涨,但或被用于加密诈骗

8、全网刷屏的Sora,有多可怕?

9、Sora爆火100小时:核心团队被扒,卖课狂割韭菜,虚假视频泛滥

10、SORA刚放几个demo,有人已经开始磨镰刀

11、图片来源于网络,侵删



七星实验室
区块链当下热点跟踪器,网罗区块链行业第一手消息;虚拟货币犯罪最新图鉴;反诈防诈,无限流骗局研究知识盲盒,拆出新世界!
 最新文章