耳听眼见≠实！半数受访大学生曾遭遇疑似AI诈骗，专家呼吁关注大模型安全

财富 2024-11-13 12:06 北京

关注 ▲财经新一线▲ 一起聊聊财经这点事儿

伴随生成式AI的迅猛发展，普通人应用的门槛越来越低：10秒就能克隆声音，复刻你的照片，甚至能生成“你”的视频。这为新型的诈骗提供了技术土壤，AI诈骗成为社会关注热点。

日前，一项由媒体机构发起的大学生调研，在回收的近1500份有效调查问卷中，半数受访大学生本人或身边的人曾遭遇疑似AI诈骗，7成大学生对AI诈骗感到恐慌，表示自己会被AI诈骗。调研结果显示，不少受访大学生认为高校可以设置AI课程、大模型攻防比赛等科普教育活动，让大家提升AI反诈意识。

由于大模型在与用户交互过程中，涉及大量个人信息和数据，AI诈骗的背后关乎着用户隐私，业内专家呼吁应提高自身安全意识、保护个人信息安全，同时业界共同关注大模型安全刻不容缓。

半数受访大学生曾遭遇疑似AI诈骗

该调查样本选取了四川、北京、上海等地近10所大学的近1500名大学生。数据显示，半数的受访大学生本人或身边的人曾遭遇疑似AI诈骗，不乏硕士及博士等学历的学生。诈骗形式最多的是电话，同时也包括AI换脸、AI音频伪造、视频造假、AI投资顾问骗局等，其中一半以上受访大学生，表示接到过疑似诈骗的机器人电话。高达77%的受访大学生会因为AI诈骗方式层出不穷感到恐慌。

在媒体实地走访高校过程中，不少大学生表示，对于当下的AI诈骗手段，自己没有绝对把握识别骗局；对于媒体展示的某著名企业家的AI合成音频，近8成大学生无法分辨是真人还是AI制作。不少大学生表达了他们的担心，如若父母辈遭遇诈骗，后果不堪设想。

AI诈骗相比传统诈骗，技术手段更高级、诈骗手段更隐蔽，也更容易引起信任。此外，有74%的受访大学生认为自己有可能会被AI诈骗，防不胜防和容易被骗成为他们在形容自己AI诈骗意识时候的关键词。

不少受访大学生认为高校可以设置大模型攻防等相关比赛或其他科普活动，让大家提升AI反诈意识，关注大模型安全。

02‍

专家呼吁攻坚大模型安全

“当下AI诈骗主要分为语音诈骗、文本诈骗、视频诈骗等几种类型。AI拟音、换脸，是基于真人信息，这也意味着AI诈骗背后是用户隐私的泄漏。”

蚂蚁集团安全实验室首席科学家、全球AI大模型攻防挑战赛评审委员会委员王维强在接受采访时指出，保护大模型与保障用户隐私紧密相连。大模型在与用户交互的过程中，不可避免地会涉及大量的个人信息和数据，一旦存在各种漏洞和缺陷，极有可能引发严重后果。只有切实保障大模型安全，才能为用户的合法权益筑起坚固的防护墙。“安全，是大模型技术持续发展的坚实地基。”王维强总结。

如何守护大模型安全？王维强建议，不能仅仅依赖技术手段，还需要加强安全规范和安全意识。只有当技术、规范和意识三者协同发力，我们才能真正守护好大模型的安全，为其持续健康发展创造良好的条件。

基于此，由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，联合清华大学、上海交通大学、浙江大学等高校及多家产学研组织共同发起的，国内首个AI大模型攻防挑战赛，通过大模型技术攻防实战演练，助力 AI反诈，保护大模型安全。

王维强介绍，大赛的举办，第一可以寻找优秀技术方案，为选手们提供相互交流的平台，第二是可以遴选优秀人才，为行业的未来发展储备智力资源。据了解，赛事启动至今，吸引了全球范围内2700多个赛队、3200余名技术精英参与，覆盖中国、美国、英国、印度、韩国等18个国家和地区。参赛选手分别来自清华大学、北京大学、中国科学院、上海交通大学、南洋理工大学、约翰霍普金斯大学、香港科技大学、悉尼大学等290多个国内外高校。该赛事将在乌镇世界互联网大会公布其全球十强。

文/北京商报记者董晗萱

END

最近文章回顾：

点“知道”直接扣款，揭秘助贷平台“会员费” 猫腻

央行超预期宽松：降准又降息，创新工具支持股市！平准基金正在研究

【金融观察】房贷利率调整不必等一年，是将让利进行到底

http://mp.weixin.qq.com/s?__biz=MzI0MDE2ODY4Nw==&mid=2651686766&idx=1&sn=9c37b7b0b620874be2e15773d7f6efff

财经新一线

北京商报旗下新媒体。即时、深度、专业 —— 一线报道，把握金融最前沿

最新文章

国际金价又飙升！国内黄金饰品价格突破800元

国家开发银行原党委委员、副行长李吉平被提起公诉

工商银行山东省分行原党委委员、副行长李明被调查

央行再次定调！人民币汇率将在合理均衡水平上保持基本稳定

比特币暴涨，矿机商嘉楠科技为何一直亏？

【金融观察】赌汇率单边行情不可取

中小银行“海选”行长，这类人才更受“偏爱”！

被查、失联、辞职，如何打破券商高管“一键三连”

再迎进展！国泰君安、海通证券发布合并重组报告书草案

比特币涨破9.8万美元，刷新历史新高

再加码！人民银行开展4701亿元逆回购操作

超200家银行改制背后：合并与解散并行，化险驶入“快车道”

嘉银科技2024年第三季度营收约14.4亿元

国泰君安与海通证券重组事项获上海国资委批复

幻方量化员工因涉券商返佣被抓？公司：个人事务

【财经观察】没必要看不起企业家直播带货

农业银行原党委委员、副行长楼文龙严重违纪违法被开除党籍

贷款利率维持低位，LPR报价保持不变

中国证监会科技监管司原司长姚前被“双开”

中国证监会原法律部副主任吴国舫被调查

11月LPR按兵不动

财付通小贷百亿ABN获批，头部小贷融资火热

谁是科技金融的排头兵？第十届北京金融业十大品牌投票启动

人民银行连续千亿逆回购操作，流动性管理更为高效

受贿超1亿元！浙江省政协原党组成员、副主席朱从玖被判无期

金价回涨！现货黄金突破2621美元/盎司

人民银行开展2883亿元逆回购操作

利好！北京取消普通住房和非普通住房标准

【财经观察】慢牛并非要为市场降温

银行股飘红！A+H均普涨，上行动力能否延续

汇潮支付牌照中止又被罚，中小支付机构反洗钱怎么做？

建设银行400亿元无固定期限资本债券赎回完成

张辉任中国银行党委副书记

现货黄金站上2590美元

北京银联商务支付牌照正式注销！

“新帅”就位，广州银行何以解忧？

【财经观察】大厂熬过了苦日子

资产破27万亿！上半年信托规模增长背后的营收净利“双降”

易宝支付、理房通增资获批

金融壹账通三季度归母净亏损0.3亿元，同比收窄41.9%

被贩毒集团掠走3吨黄金？矿业巨头回应：确切数量尚需核实

【财经观察】李子柒兜住了大网红们的脸面

现货黄金失守2600美元关口！11月以来跌超7%

又有支付机构“黯然退场”，行业尾部加速出清

年内10余家增资扩股获批，中小银行密集“补血”

受贿超1.77亿！工商银行原副行长张红力案一审开庭

磐松资产严正声明：创始人张潇被起诉为不实指控

国家开发银行总务部高级经理刘猛被查

人民银行开展3282亿元逆回购操作

在岸、离岸人民币对美元汇率小幅走贬

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉