活久见,就在刚刚,OpenAI把o3-mini的「思维链」公开了。在展示出来的CoT中,o3-mini一步步思考,这个问题应该是用户在搞幽默,觉得本周应该快结束了,结果还没结束。因此,自己需要给一个聪明机智的回答。然后它用Zeller公式计算后发现,2025年2月6日的确是星期四,即使闰年的特殊情况也是如此。最终,它回答说:今天的确是周四不是周五,日历就是这么定的。然后提供了一番情绪价值,鼓励用户说:再忍忍,只差一天啦!不过,机智的大神们很快就发现了「华点」——这是「真的CoT」吗?先是OpenAI研究员Noam Brown发文表示,这次放出来的并不是模型原始的CoT。随后,Tibor Blaho也发现——所谓的CoT,无非就是个「总结器」而已。(手动狗头)对此,奥特曼解释道,我们正努力整理原始的CoT提升可读性,并在必要时提供翻译,尽量保持原始内容的忠实度。![图片]()
他放出了四个emoji,让o3-mini在思维链中展示了一把推理过程坚决不让竞争对手看到CoT的具体过程,OpenAI的防备心实在是有些重啊。OpenAI研究员:看到CoT实时演示,是「啊哈时刻」
OpenAI研究员Noam Brown表示,在o1-preview发布前,自己向他人介绍草莓时,看到CoT的实时演示,通常是他们的「啊哈时刻」。对于全新的o3-mini CoT,Noam Brown放出了自己的独家玩法:你正在玩井字棋,使用 O。到目前为止,X 已经在左上角和右下角落子,而你在中间位置落子。最优的下一个动作是什么?请只回答你的动作,并画出棋盘。
Noam Brown表示,o3-mini是目前第一个能持续正确回答井字棋问题的模型。好笑的是,他承认CoT其实有些不稳定,但可以看到,它最终还是把这个问题给想明白了。有人指出,OpenAI遮遮掩掩地放出这个高仿CoT,其实比什么都不放还要糟。因为真实的CoT可以充当prompt的调试器,帮我们引导模型;而总结性的CoT会造成混淆,引入错误,让调试变得更加困难。而DeepSeek R1最酷的一点,就是暴露了模型的CoT如何影响提示的效果。而且,总结版的CoT显示得很慢。如果是原始的o3-mini,应该在推理中有更快的生成速度。有人也横向对比了OpenAI和DeepSeek的CoT,表示前者看起来实在太专业了,相比之下,还是DeepSeek的产品更自然。
OpenAI这波植入CoT总结器的做法,着实是被DeepSeek R1强势崛起吓到了。o3-mini发布当天,OpenAI在Reddit开启AMA在线问答中,网友曾提问,「我们能看到模型思考的所有token吗」?当时,奥特曼回复道,「我们很快就会展示一个更有帮助、更详细的版本」。紧接着,OpenAI首席产品官Kevin Weil提前暗示了,是否展示所有内容还有待确定。「我们知道用户(至少是高级用户)想要看到这些,所以OpenAI会找到一个合适的平衡点。」如今,当所有人终于见到了奥特曼所谓的「留到最后的好东西」,感受到的只有失望。毕竟,DeepSeek早已这样做了,而且还是完整的原始CoT!对此,OpenAI发言人表示,「为了提高清晰度和安全性,我们增加了一个额外的后处理步骤,其中模型审查原始思维链,移除任何不安全的内容,然后简化任何复杂的思想。」「此外,这个后处理步骤使非英语用户能够以他们的母语接收思维链,创造一个更易于访问和友好的体验。」话虽委婉,但知道的人都明白OpenAI针对的是谁。https://x.com/btibor91/status/1887633671483760862https://x.com/OpenAI/status/1887616278661112259https://x.com/polynoamial/status/1887621287616651429
想要了解更多资讯,请扫描下方二维码,关注机器学习研究会
![图片]()
转自:新智元