强大美军仍担心深度造假,何况平民乎?

文摘   2024-06-18 22:07   北京  

技术向善,亦可作恶

面对深度造假,强大如斯的美军都意识到威胁,何况平民乎?

深度造假(图源:DARPA)



复杂技术生成的深度造假日益普遍、可信,给美国防部构成严重威胁,尤其深度造假被对手用于发布虚假信息或其他恶意活动时。

随着合成多媒体内容的激增,美国防部需要具备快速检测与归因能力,以应对生成深度造假的工具、技术和模型的快速发展。

为此,DIU发布征询文件,寻求检测深度造假的能力。

DIU要求相关能力需要满足以下要求:

①对大规模检测和归因深度造假的方法进行评估

②检测最先进深度造假生成技术的能力

③归因运用日益精细方法创造的深度造假的能力

DIU优先资助以下解决方案:

①提供活体检测与归因能力

②能够在离线环境运行

③提供深度造假示例、算法以及生成程序的数据库,用于评估自身系统

④能够以满足作战所需的速度和精度检测深度造假

⑤将深度造假生成归因到特定算法、用户或地理位置的能力

此外,DIU寻求能够利用不同深度造假检测模型的接口,支持用户完成以下任务:

①根据媒体类型/模式以及任务需求,选择、交互并实施最佳活体检测和归因模型

②开展模型结果的试验鉴定

③在离线、断开连接的环境中访问、交互并测试最佳活体检测和归因模型

“语义取证”项目(图源:DARPA)

巡天鼠评

美军也担心深度造假。

DARPA“媒体取证”、“语义取证”等项目自然难以完全满足要求,需要持续研发对策。

巡天鼠在4年多之前就判断:

深度造假——2020年代棘手的难题


坚持理解,坚持原创。
尚未倚此谋生,得闲随性发布。

欢迎关注宣传,他日或能合作。

DARPA全书
关注DARPA、AFRL等战略性科研机构。追踪前沿动向,支撑技术突袭。
 最新文章