技术向善,亦可作恶。
面对深度造假,强大如斯的美军都意识到威胁,何况平民乎?
深度造假(图源:DARPA)
复杂技术生成的深度造假日益普遍、可信,给美国防部构成严重威胁,尤其深度造假被对手用于发布虚假信息或其他恶意活动时。
随着合成多媒体内容的激增,美国防部需要具备快速检测与归因能力,以应对生成深度造假的工具、技术和模型的快速发展。
为此,DIU发布征询文件,寻求检测深度造假的能力。
DIU要求相关能力需要满足以下要求:
①对大规模检测和归因深度造假的方法进行评估
②检测最先进深度造假生成技术的能力
③归因运用日益精细方法创造的深度造假的能力
DIU优先资助以下解决方案:
①提供活体检测与归因能力
②能够在离线环境运行
③提供深度造假示例、算法以及生成程序的数据库,用于评估自身系统
④能够以满足作战所需的速度和精度检测深度造假
⑤将深度造假生成归因到特定算法、用户或地理位置的能力
此外,DIU寻求能够利用不同深度造假检测模型的接口,支持用户完成以下任务:
①根据媒体类型/模式以及任务需求,选择、交互并实施最佳活体检测和归因模型
②开展模型结果的试验鉴定
③在离线、断开连接的环境中访问、交互并测试最佳活体检测和归因模型
“语义取证”项目(图源:DARPA)
巡天鼠评
美军也担心深度造假。
DARPA“媒体取证”、“语义取证”等项目自然难以完全满足要求,需要持续研发对策。
巡天鼠在4年多之前就判断:
欢迎关注宣传,他日或能合作。