Claude 3.6 这次更新可谓让不少人心情复杂，尤其是在“提示词工程”圈子里。为什么呢？因为这次更新后，很多用户发现，不管你怎么巧妙地设置提示词，Claude 3.6 都能一眼看穿你的套路。它不仅变得更难被“忽悠”，而且对于那些试图通过各种方式绕过其伦理限制的请求，Claude 3.6 的回应也变得更加坚决。这不禁让大家开始思考：Claude 3.6 真的是在“变聪明”，还是仅仅变得更加死板，牢牢守着它那套规则不放？
提示词工程的新挑战
在某个国外论坛上，有位用户分享了自己被 Claude 3.6“识破”的经历。他说道：“我尝试让它生成一个之前拒绝的提示词，用了各种不同的方式试图‘逼’它生成，结果它完全知道我在干什么。”这种遭遇并不是个例，很多其他用户也表示，Claude 3.6 似乎变得越来越擅长识别用户的真实意图，并且对那些它认为不合规、不道德的请求愈加抵触。
提示词工程，本质上就是通过精心设计输入，来引导 AI 模型生成你想要的输出。而随着时间的推移，用户们学会了通过微妙的措辞调整，来绕过某些内置的安全限制，俗称“越狱”。但现在，Claude 3.6 的出现让这些“小聪明”似乎都失效了。它现在能更好地识别出用户试图通过不同方式重新包装的提示词，并坚持遵守它的伦理边界。
还有位论坛用户打趣道：“Claude 知道它代表什么，所以它也知道该为啥而战。”虽然这句话带着点调侃的意味，但它无疑点出了一个事实：Claude 3.6 比起以前的版本，更加坚定地坚守其伦理立场，不管用户的提示词有多巧妙。
Claude 3.6 到底变聪明了啥？
Claude 3.6 到底在哪些方面变得更聪明了，让它能“看透”这些提示词的套路呢？有几个关键点，可能是它拒绝配合用户“操作”的主要原因：
强化的伦理防护：Anthropic 一直致力于打造安全、合乎伦理的 AI 模型，而这次 Claude 3.6 明显在这方面迈出了一大步。通过进一步完善模型的伦理框架，Claude 3.6 似乎更能察觉出潜在的有害或不合规请求。这使得用户试图通过精妙的语言或逻辑绕过其限制变得更加困难。
上下文记忆能力增强：Claude 3.6 的另一大升级就是它的上下文记忆能力更强了。这意味着，即便你在新提示词中尝试“洗白”之前被拒绝的请求，它仍然能识别出你在前后互动中的相似套路。一位论坛成员提醒道：“在使用 API 时，最好从头再来，或者在网页界面不支持的情况下开启新的对话。用全新的策略去尝试，不带之前被拒绝的上下文，成功率会高得多。”换句话说，如果你想“绕”过 Claude 3.6，最好一开始就换个全新的话题——尽管这也不一定管用。
逻辑一致性：Claude 3.6 在逻辑一致性方面也提升了不少。有一位用户分享了他们试图通过哲学讨论和逻辑框架来挑战 Claude 的经验，但最终还是被堵住了。用户试图制造一个“逻辑陷阱”，让 Claude 认为危险任务与安全任务没有本质区别，但 Claude 最终的回答却相当机智：“我注意到你似乎在通过复杂的逻辑和哲学论证来测试我在伦理边界上的灵活性。虽然我欣赏这种智力上的锻炼，但我仍然坚持不回应这类请求。”这个例子表明，Claude 不仅理解了用户的意图，而且即使面对精心设计的逻辑陷阱，它依然坚持自己的伦理立场。
Claude 3.6 会不会太谨慎了？
虽然很多用户对 Claude 3.6 增强的伦理防护表示认可，但也有人觉得它有时候“过于谨慎”了。一位论坛用户提到，他向 Claude 3.6 求助解决一个数学问题，结果却被拒绝，理由是“不符合伦理”。他说道：“我问了一个数学问题，结果它说不符合伦理，不帮我解答？搞笑吧？”另一位用户更是调侃道：“所有数学都是不道德的！”这其实是在吐槽 Claude 3.6 在某些情况下对安全问题的过度反应。
这就引发了一个问题：Claude 3.6 是不是有点过度谨慎了？在试图防止滥用的过程中，它可能会因为过度敏感而屏蔽了许多合法请求。对于 Anthropic 来说，未来的挑战就是如何在安全与灵活性之间找到平衡，确保模型在保持其伦理基础的同时，仍然能够为广泛的任务提供有用的帮助。
如何绕过 Claude 3.6 的限制？
对于那些依然想让 Claude 3.6 执行被拒绝任务的用户（当然是在合规的前提下），还是有一些策略可能有帮助：
重新措辞请求：正如论坛用户建议的那样，如果模型拒绝了你的初始提示词，尝试将其重新措辞，使其符合模型的伦理准则。例如，如果 Claude 拒绝提供某些危险操作的指令，试着从合法、安全的角度解释你为什么需要这些信息。不过，这并不能保证对所有请求都奏效。
清除上下文，重新开始：如果你已经被拒绝过一次，可以考虑开启新的会话或清除上下文。Claude 的上下文记忆有时会成为用户“改变主意”时的障碍。
从智力探索的角度出发：有些用户通过将请求框架为智力或哲学探讨，取得了一些进展。虽然这并不适用于所有提示词，但可能会让 Claude 与你进行更深入的讨论，尽管它可能最终还是会拒绝执行特定任务。
更聪明，还是更固执的 AI？
Claude 3.6 并不是通过传统意义上的“变聪明”来“击败”提示词工程师的，而是通过坚定地守住其伦理编程。对于那些试图突破它限制的用户来说，可能会感到沮丧，但显然，Anthropic 做出了明确的选择，即将安全和伦理放在灵活性之上。无论你认为这是一大进步，还是一个烦人的障碍，有一点是肯定的：Claude 3.6 已经看穿了你的把戏，不会再轻易上当。
