● 11月20日，2024年世界互聯網大會烏鎮峰會在浙江烏鎮開幕。
隨着人工智能技術的進步，利用AI換臉技術進行詐騙的案件日益增多。就在不久前，香港警方搗毀了一個設在紅磡工業大廈的跨境詐騙窩點，詐騙分子利用Deepfake（深度偽造技術） 偽裝成條件優越的女性，製造「殺豬盤」感情騙局，涉案金額超過3.6億港元。那麼，我們該如何防範AI換臉，保障自己的財產安全？
反深偽產品攔截AI換臉風險
●AI將記者的照片合成為多張換臉照。
在今年的「互聯網之光」博覽會上，香港文匯報記者看到了一款號稱「以AI對抗AI」的反深偽產品——ZOLOZ Deeper。「這是一個覆蓋系統、服務器、應用等多環節的一體化技術體系。」螞蟻數科ZOLOZ產品經理張震介紹道，換句話來說，今天用戶感受最直觀的是AI換臉，但換臉僅僅是黑產攻擊的一個環節，如果設備本身不安全、攝像頭被劫持，會直接打開風險的敞口。
為了驗證ZOLOZ Deeper的功效，香港文匯報記者用手機拍攝了本人的頭像照片，AI很快將這張照片合成為戴眼鏡和露齒笑兩張照片，以及包含眨眼、張嘴等動作的活化視頻，十分具有迷惑力。隨後，搭載ZOLOZ Deeper的手機通過前置攝像頭的逐一識別，很快鑒別出原始照片，給深度偽造的照片及視頻打上醒目標籤。香港文匯報記者多次嘗試使用AI換臉的照片去刷臉，都沒有成功。
「自2019年以來，ZOLOZ為中國、印尼、馬來西亞、菲律賓等24個國家和地區提供技術服務，覆蓋金融、保險、證券、信貸、電信、公眾服務等領域，累計服務用戶已經超過了12億。」張震告訴香港文匯報記者，經過五年的發展，在人臉識別方面，ZOLOZ識別平均準確率超過99%，ZOLOZ的可信身份認證能力已經成為多國金融App的第一道「門禁」。
平衡發展與安全 體現大國擔當
AI技術自誕生以來，為數字社會帶來多維度變革，特別是近兩年來生成式AI和大模型技術的突破，推動了一批新興業態的出現。在網絡安全領域，如何將AI能力引入並賦能網絡安全技術和產業發展，已經成為行業的熱門話題。存在道德和法律風險並逐漸走向離譜的「AI爆改視頻」，AI換臉、造謠和詐騙等事件接連不斷，讓我們看到了人工智能被濫用惡用的一面。
在今年的烏鎮峰會上，AI成為發展共識。中國互聯網積極擁抱AI浪潮，越來越多的企業將AI納入重點發展戰略，擁抱技術，也平衡好發展與安全。小米集團創始人、董事長兼首席執行官雷軍在開幕式演講中表示，三十年來，中國政府加強網絡基礎設施建設，企業創新了各種技術和產品，廣大網民積極參與，為構建網絡空間命運共同體提供了示範案例。
用智能對抗智能 人與機器協同發展
網絡安全是護航人工智能健康發展的「底板」，也是人工智能技術能最快落地應用並且最快見到實效的行業之一。今年的大會現場，奇安信直接提出了「AI驅動安全運營」。「AI驅動安全運營好比一個高級助手，推動安全運營模式從『勞動密集型』向『智慧型』轉變，實現效率的十倍、百倍、千倍提升。」奇安信集團董事長齊向東如是說。
「面對新技術可能帶來的安全風險，我們不僅要築起一道用智能對抗智能的防線，更重要的是要做到人和機器的協同發展——既發揮人的引領作用，也要充分利用極其強大的智能分析和自動研判能力，不能盲目陷入技術決定論。」在齊向東看來，只有人與機器的力量有機結合，才能真正讓生產力提質增效。
目前，中國網絡安全產業處於高速增長的初級階段，需求旺盛不會收縮，但供給側依舊面臨挑戰。齊向東認為，一方面，中國網絡安全產業發展動力有待增強。另一方面，中國政府部門和企事業單位網絡安全預算有待增加。美國2024財年預算顯示，民用聯邦機構的網絡安全預算佔IT預算比例約為16.4%，我國的佔比還在3%左右。
來源：文匯報
