澳城大首成為國家自然科學基金依託單位 青年項目取得突破

文摘   2024-09-05 18:43   中国澳门  

■ #  青年項目取得突破

澳門城市大學近年來全面提升科研水平,在學術論文發表、科研平台建設、產學研合作發展方面均取得豐碩成果,進一步擴大學術影響力。今年,城大成為國家自然科學基金港澳地區高校依託單位,來自數據科學學院的青年教師劉馳與張樂峰喜獲國家自然科學基金青年科學基金項目,獲批項目分別為《面向複雜開放交互環境中AI圖像合成的防禦技術研究》與《面向大模型的無參化可認證機器遺忘與隱私平衡研究》。

劉馳 助理教授

 數據科學學院


《面向複雜開放交互環境中AI圖像合成的防禦技術研究》項目介紹

AI圖像合成技術的迅猛發展極大地豐富了數字內容的創造,但其與複雜開放交互環境的新興交互方式帶來了前所未有的信息安全和數字版權風險。目前圍繞AI圖像合成的防禦技術無法滿足開放交互環境中差異化的防禦需求。因此,本項目將面向開放交互環境中的AI圖像合成研究新型的“防禦分析、防禦實施、防禦驗證”系統級防禦技術,構建以用戶為中心、安全與可用性均衡、具有分級機制、主動性的防禦策略,以增強對真實應用場景中AI圖像合成應用的安全防護,解決現實開放交互環境中AI圖像合成防禦技術的關鍵挑戰,為AI時代下的信息安全管理和數字版權提供新策略。

張樂峰 助理教授

數據科學學院


《面向大模型的無參化可認證機器遺忘與隱私平衡研究》項目介紹

計算能力的提升與模型架構的改進使現代人工智能模型向大型化、複雜化發展。但大模型的運用與普及為信息安全、內容審查、法律監管帶來了一系列挑戰。機器遺忘旨在移除模型中包含的特定信息,是對大模型進行管理約束的重要手段。大模型複雜的結構與海量的參數使傳統依賴參數修改的遺忘策略不再高效甚至失效;信息移除帶來的模型變化為用戶帶來潛在的隱私泄露風險;模型內部的可解釋性不足使機器遺忘的認證變得更加困難。本項目擬針對大模型中的機器遺忘,利用知識過濾與相對熵技術構建無參化的機器遺忘算法,解除機器遺忘對模型參數的依賴;利用博弈論與納什均衡提出機器遺忘中的隱私保護策略,實現遺忘與隱私保護的平衡;利用影響力函數與梯度匹配機制尋找共軛數據,設計用戶可信的機器遺忘認證方案。相關研究成果豐富了機器遺忘理論和方法體系,可用於信息過濾、模型更新等需要從模型中快速移除信息的領域,為保護用戶權益、實現大模型監管提供方法與技術支撐。

劉馳助理教授與張樂峰助理教授後續將代表城大參加中國科學技術協會與國家自然科學基金委員會聯合主辦的港澳青年科技人才國情研習班。城大將繼續圍繞國家與區域發展所需,積極融入國家研發體系,踐行高校賦能產業發展和經濟社會重大問題的使命。

資料來源:科研管理處

掃碼了解學院資訊  


澳城大官微
關注校園生活,傳播校園文化,發佈澳門城市大學資訊。
 最新文章