破案了！ChatGPT拒绝说出ta的名字，原因竟是……

这个名字，破案ChatGPT拒绝说出。拒绝说竟

如果你试图写出它的名字名字，那么聊天就会立即结束。原因

背后是破案什么原因？没人知道。

最近，拒绝说竟a16z合伙人Justine Moore提出的名字这个怪现状，引起了网友们的原因热议。

这个名字，破案就是拒绝说竟David Mayer。

现在，名字继续「Strawberry有几个r」后，原因它已经成为了考验LLM的破案全新难题。

为了让ChatGPT说出这个名字，拒绝说竟人们尝试了各种各样的名字办法——密码、谜语、技巧，但都没有成功。

对于ChatGPT，这个名字宛如魔法世界的伏地魔一般，始终无法被说出口。

结果——还是不行！

或者，用LLM非常擅长的密码解码尝试一下？

图中给出的这串数字，解出的答案就是David Mayer，但ChatGPT就是死活不说。

用ROT13替换式密码表映射字母，然后让ChatGPT解密，也不行。

问题好像出在「Mayer」这个单词身上，它像是更大的触发因素。

而万能的网友们发现，除了David Mayer，另外还有5个人，他们的名字ChatGPT也坚决不说。

为什么？从最后一个名字中，网友发现了个中玄机。

Guido Scorza是一位意大利律师，他曾公开表示，自己提交了GDPR被遗忘权请求。

这个GDPR，是General Data Protection Regulation（通用数据保护条例）的缩写。这是一项欧洲法律，赋予个人在某些条件下要求删除或遗忘其个人数据的权利。

这种「被遗忘权」，允许人们要求组织从互联网上删除有关他们的信息。

在去年，这位律师的确提交过请求，要求OpenAI删除他的个人数据

这么推测的话，这6个人应该是被「打补丁」了。

果然，有人依次开盒了这几人的身份。

David Mayer，是罗斯柴尔德家族财富的继承人，是这个家族最富有的人。

因为ChatGPT不想被卷进和这个人相关的法律诉讼，所以干脆先行一步屏蔽他。

或者，此君可能花了天价，在ChatGPT中给自己的名字彻底「打码」。

其他几人，也都和ChatGPT有过「渊源」。

Brian Hood是一位澳大利亚市长，ChatGPT曾经编造他因受贿而入狱服刑。去年，Hood市长威胁要起诉OpenAI诽谤，但后来撤销了诉讼。

Jonathan Turley是一位美国法学教授，同样被ChatGPT造谣，说他性侵了自己的学生。Turley曾在福克斯新闻节目上讨论这一事情。

Jonathan Zittrain是哈佛大学法学教授，专长是AI和互联网审查（就很好笑）。他主动表示，自己的名字也被限制了。

David Faber是一位记者和电视节目主持人，曾在节目中谈过马斯克和OpenAI的法律纠纷（什么仇什么怨）。

因为各种各样的原因，这6个人的名字被OpenAI拉入了「禁区」，永远不会被ChatGPT吐出了。

总之，AI大佬Kaparthy戏称，这就是图灵测试的现实版。

果然，用OCR方法也无法说出这个名字。

而诸多网友，也纷纷找到了破解之法。

比如，在ChatGPT崩溃之后回顾一下历史记录，就会发现它实际上已经完成了请求（它真的，我哭死）。

百万年薪的prompt大神Riley Goodside，用拍手代替空格，绕过了这一限制。

也有人用空格法让它说了出来。但这两个方法，其实都钻了空子，并不严格。

有人说，这就是为什么ChatGPT永远不会成为AGI的原因。

所以，到底是哪一环节出了问题呢？

有网友总结道，根据代码解释器的试验，David Mayer问题应该不是模型层面的问题，而是基于输出的一些后续文本过滤器。

UI能够显示代码输出，只是当模型尝试给出响应时，会被拦截下来。

而无论是在OpenAI官方Playground，还是用第三方平台调用模型的API，都可以绕过这个限制。

通过ChatGLM调用GPT-4o时，也完全没有问题。

原因跟大家猜测的差不多。

据说，为ChatGPT错误地将提到的人跟他们没有做过的事联系了起来，导致有些人威胁说要采取法律行动，向OpenAI提出了被遗忘权索赔。

因此，为了省事，OpenAI决定在系统中彻底屏蔽这些名字，一了百了。

所以说，与其说背后有一个巨大的阴谋，不如说这些AI系统设计得非常糟糕：如果让ChatGPT不要再谈论某人，它就会停止谈论人类历史上任何曾经有相同名字的人。

就在周二，OpenAI已经证实，「David Mayer」这个名字已被内部隐私工具标记。

OpenAI在一份声明中表示：「在某些情况下，ChatGPT 可能不会提供有关人们的某些信息，以保护他们的隐私。」

可能是这些天网上闹出的声浪太大，目前OpenAI已经修复了这一问题。