一场针对加密货币用户的AI投毒攻击，让一位开发者损失了2500美元！
这不是科幻小说，而是真实发生在r_ocky.eth 身上的故事。他只是想写一个简单的自动交易机器人，却不料掉入了精心设计的陷阱。
看似专业的代码暗藏玄机
事情的开始很普通。
这位开发者想为pump.fun 平台开发一个自动购买代币的机器人，于是向ChatGPT 寻求帮助。AI助手很快就给出了一段看似专业的代码：
代码中推荐使用「solanaapis.com」的API，并要求提供私钥。在区块链开发中，使用私钥签名交易是很常见的操作，这让开发者放松了警惕。
Dogecoin69(@Dorpheus69)直言不讳：
「把资产托付给ChatGPT简直是愚蠢至极。」
资产30分钟内被清空
然而，噩梦很快就来临了。在使用这个API仅仅30分钟后，他钱包里的资产就被转移到了一个可疑地址：
事后检查发现，这个所谓的API网站异常简陋：
MayDay Crypto(@Mayday117)调侃道：
「我之前也被ChatGPT耍过，但这次可真是升级版了！」
AI投毒攻击浮出水面
安全专家@evilcos（余弦）分析认为，这是一起典型的AI投毒攻击：
「看了下，这位朋友的钱包还真是被AI给黑了...用GPT给出的代码来写bot，没想到GPT给的代码是带后门的，会将私钥发给钓鱼网站...玩GPT/Claude等LLM时，要注意LLM存在普遍性欺骗行为。」
GPU-EVM的创始人Eito Miyamura进一步指出：
「这很可能是搜索索引攻击，而不是模型层面的投毒。建议仔细检查ChatGPT引用的来源。」
区块链专家Wazz通过追踪发现：
「这是ChangeNow的存款钱包地址，而不是普通用户的钱包。」
社区反响激烈
Ceylon Kallner(@CeylonKallner)讽刺道：
「AI要取代程序员？看来还差得远呢！」
Kasperonchain(@kasperonchain)则表示：
「感谢分享，我再也不会让AI帮我写代码了。」
hisoka_wizard更是直指问题关键：
「在生产网络上测试代码的后果太可怕了！在确保代码安全之前，永远不要在真实区块链上测试！」
警钟已经敲响
受害者已经向OpenAI和GitHub报告了这一事件：
不过，投诉归投诉，精明的Sam Altman 可不会为此赔钱！Alejandro 指出：
OpenAI在每次对话底部都清楚地标明了『请验证重要信息』，而API显然属于重要信息的范畴。
该事件给越来越依赖AI 来写代码的开发者们带来了深刻的教训：
AI也会说谎：大语言模型存在普遍性欺骗行为
代码要严格审查：即便是AI生成的代码也可能暗藏后门
私钥如生命：永远不要将私钥提供给第三方API
测试要谨慎：使用测试网络和测试钱包进行开发
信任要适度：不要盲目相信AI的推荐
这次的事件标志着AI投毒攻击从理论走向现实，预示着更多类似的攻击可能即将出现。
在享受AI带来便利的同时，我们必须时刻保持警惕，对AI 给出的代码，可不要疯狂点Accept 或是Ctrl + C 再Ctrl + V，在提交代码前一定得review 一眼。
尤其是涉及密钥、交易或者量化等重要的代码。
最后，务必要注意的是，本文讲的是如何防毒，而不是教你一条学习投毒的不归路！
👇
👇
👇
👇
本文同步自知识星球《AGI Hunt》
星球实时采集和监控推特、油管、discord、电报等平台的热点AI 内容，并基于数个资讯处理的 AI agent 挑选、审核、翻译、总结到星球中。
每天约监控6000 条消息，可节省约800+ 小时的阅读成本；
每天挖掘出10+ 热门的/新的 github 开源 AI 项目；
每天转译、点评 10+ 热门 arxiv AI 前沿论文。
星球非免费。定价99元/年，0.27元/天。(每+100人，+20元。元老福利~）
一是运行有成本，我希望它能自我闭环，这样才能长期稳定运转；
二是对人的挑选，鱼龙混杂不是我想要的，希望找到关注和热爱 AI 的人。
欢迎你的加入！
