AI Agent 2.0 时代 Claude Computer Use 提示词注入攻击演示 --模拟真实攻击场景

文摘   2024-11-02 00:27   湖南  

前面Claude Computer Use刚发布的时候,就同步404 AI安全群里就提到这个估计会通过提示词注入被反制

果不其然今天看到有个国外团队做了尝试:

https://embracethered.com/blog/posts/2024/claude-computer-use-c2-the-zombais-are-coming/

但是总觉得没有还原真实攻击场景,所以让兄弟充个值做个演示 :


前面《大模型时代已经来临!AI Agent 进入2.0时代,然而我发现我错了... 》文里说Computer Use标志着AI Agent 2.0时代来临,这个也意味着提示词攻击有了新的攻击场景!而且可能是影响广泛应用的"拦路虎" ...

另外再次说明下Cursor真好用,最近有更新了,更加丝滑!视频里那个留言板的应用就是Cursor一键生成的,另外Claude的API老限制,而且老贵,这个视频演示一共花了我差不多快2美刀了!


黑哥虾撩
古典过期黑客,江湖人称苏坡黑、黑锅、黑大壮等,自称黑哥尔!