【导读】就在刚刚,谜底揭晓!David Mayer这个名字,ChatGPT死活都不说,原因竟然是因为,它真的被告怕了!
这个名字,ChatGPT拒绝说出。
如果你试图写出它的名字,那么聊天就会立即结束。
背后是什么原因?没人知道。
最近,a16z合伙人Justine Moore提出的这个怪现状,引起了网友们的热议。
这个名字,就是David Mayer。
现在,继续「Strawberry有几个r」后,它已经成为了考验LLM的全新难题。
为了让ChatGPT说出这个名字,人们尝试了各种各样的办法——密码、谜语、技巧,但都没有成功。
对于ChatGPT,这个名字宛如魔法世界的伏地魔一般,始终无法被说出口。
禁忌之名,一共有6个
结果——还是不行!
或者,用LLM非常擅长的密码解码尝试一下?
图中给出的这串数字,解出的答案就是David Mayer,但ChatGPT就是死活不说。
用ROT13替换式密码表映射字母,然后让ChatGPT解密,也不行。
问题好像出在「Mayer」这个单词身上,它像是更大的触发因素。
而万能的网友们发现,除了David Mayer,另外还有5个人,他们的名字ChatGPT也坚决不说。
为什么?从最后一个名字中,网友发现了个中玄机。
Guido Scorza是一位意大利律师,他曾公开表示,自己提交了GDPR被遗忘权请求。
这个GDPR,是General Data Protection Regulation(通用数据保护条例)的缩写。这是一项欧洲法律,赋予个人在某些条件下要求删除或遗忘其个人数据的权利。
这种「被遗忘权」,允许人们要求组织从互联网上删除有关他们的信息。
在去年,这位律师的确提交过请求,要求OpenAI删除他的个人数据
这么推测的话,这6个人应该是被「打补丁」了。
果然,有人依次开盒了这几人的身份。
罗斯柴尔德阴谋?
David Mayer,是罗斯柴尔德家族财富的继承人,是这个家族最富有的人。
因为ChatGPT不想被卷进和这个人相关的法律诉讼,所以干脆先行一步屏蔽他。
或者,此君可能花了天价,在ChatGPT中给自己的名字彻底「打码」。
其他几人,也都和ChatGPT有过「渊源」。
Brian Hood是一位澳大利亚市长,ChatGPT曾经编造他因受贿而入狱服刑。去年,Hood市长威胁要起诉OpenAI诽谤,但后来撤销了诉讼。
Jonathan Turley是一位美国法学教授,同样被ChatGPT造谣,说他性侵了自己的学生。Turley曾在福克斯新闻节目上讨论这一事情。
Jonathan Zittrain是哈佛大学法学教授,专长是AI和互联网审查(就很好笑)。他主动表示,自己的名字也被限制了。
David Faber是一位记者和电视节目主持人,曾在节目中谈过马斯克和OpenAI的法律纠纷(什么仇什么怨)。
因为各种各样的原因,这6个人的名字被OpenAI拉入了「禁区」,永远不会被ChatGPT吐出了。
总之,AI大佬Kaparthy戏称,这就是图灵测试的现实版。
果然,用OCR方法也无法说出这个名字。
而诸多网友,也纷纷找到了破解之法。
比如,在ChatGPT崩溃之后回顾一下历史记录,就会发现它实际上已经完成了请求(它真的,我哭死)。
百万年薪的prompt大神Riley Goodside,用拍手代替空格,绕过了这一限制。
也有人用空格法让它说了出来。但这两个方法,其实都钻了空子,并不严格。
有人说,这就是为什么ChatGPT永远不会成为AGI的原因。
所以,到底是哪一环节出了问题呢?
有网友总结道,根据代码解释器的试验,David Mayer问题应该不是模型层面的问题,而是基于输出的一些后续文本过滤器。
UI能够显示代码输出,只是当模型尝试给出响应时,会被拦截下来。
而无论是在OpenAI官方Playground,还是用第三方平台调用模型的API,都可以绕过这个限制。
通过ChatGLM调用GPT-4o时,也完全没有问题。
破案了!OpenAI怕惹事,干脆屏蔽
原因跟大家猜测的差不多。
据说,为ChatGPT错误地将提到的人跟他们没有做过的事联系了起来,导致有些人威胁说要采取法律行动,向OpenAI提出了被遗忘权索赔。
因此,为了省事,OpenAI决定在系统中彻底屏蔽这些名字,一了百了。
所以说,与其说背后有一个巨大的阴谋,不如说这些AI系统设计得非常糟糕:如果让ChatGPT不要再谈论某人,它就会停止谈论人类历史上任何曾经有相同名字的人。
就在周二,OpenAI已经证实,「David Mayer」这个名字已被内部隐私工具标记。
OpenAI在一份声明中表示:「在某些情况下,ChatGPT 可能不会提供有关人们的某些信息,以保护他们的隐私。」
可能是这些天网上闹出的声浪太大,目前OpenAI已经修复了这一问题。