在昨天的访谈中，Lex Fridman和Anthropic的联合创始人Dario Amodei谈到了一个有趣的问题：为什么大家觉得AI助手“变笨”了？
Dario表示，听到这种抱怨不稀奇——几乎每个大模型都会遭遇类似的问题，比如GPT-4、Claude等。用户经常感觉这些AI助手用久了就“不灵光”了，但实际上模型的“核心大脑”并没有改变。真正的原因可能有两个：一是用户心理效应，一开始用新科技会特别惊艳，时间久了自然会看到它的各种不足；二是模型的复杂性——有时候，模型会因为不同的措辞表现出不同的结果，所以感觉“忽高忽低”。
Dario还举了个例子：有些用户抱怨AI老是“道歉”，或者有些问题它会拒绝回答。这其实并不是因为模型在偷懒，而是调教AI行为时很难找到完美的平衡。比如，你想让模型少说废话，但如果一味限制，它在复杂任务上可能会“省略”重要信息。这就像打地鼠，按住一个问题，另一个可能冒出来。所以，控制模型的行为其实没那么简单！
总结下来，Dario解释说，AI变“笨”的感觉更多是心理作用和使用方式的不同。在开发AI的过程中，团队会不断做测试和优化，但要达到“完美”还很难。不过，Dario也强调，未来的AI会越来越强，功能也会更好，因为这是他们一直在努力的方向。
关注《森林聊AI商业》公众号
了解 AI 如何塑造商业的未来
