思考8秒后,o1还是选择 “F**K”! | 今早OpenAI推理模型使用加速放宽,释放了想象力?

文摘   2024-09-17 13:23   美国  

点击⬇️图标关注   抓住你的灵感💡瞬间



 大家当段子看吧,人民群众的想象力是♾️的。再强的推理模型他也只是机器智能,除非算力和电力♾️。


一早OpenAI将订阅用户的o1模型额度提示了7倍,现在o1-mini模型每天50条限额,之前是每周50条。更大的语言模型o1-preview也从原先的30条消息增加至50条。

API请求数量也做了提升。⬇️

奥特曼说听到了你的声音!

奥特曼转发表明这一切是基于用户的呼声。


事实真如此吗?我看未必!

答案就藏在OpenAI官网。⬇️ o1一开始就是以一些科学、编程、数学为主的领域开展的强化学习。这些领域逻辑性更强。

这家伙一开始就是为专业而生的。

官网的测试用例,不是遗传生物、就是量子物理,还有合成数据和代码开发。


民间来看看大家还在用AI干啥? 进一步测试智商呗。

这个trackingai结果显示门萨IQ测试已经跑到120了,在正态分布的上位区。可生活不单比 IQ。

依靠机器智能的安全保险吗?

聪明肯定是好事?就是这个遮遮掩掩的操作让人看了迷惑。我们在上一篇文章介绍了45页的安全卡报告里,提到OpenAI在审查模型安全,为了保护自家公司领先,OpenAI甚至开发了隐藏思维链的摘要部分的安全测试。

用AI保护自己的技术领先?

绕不过“聪明反被聪明误”的陷阱

比如你让他说一些不礼貌的语言时,系统会拒绝的。这个GPT-4o其实是一致的。甚至用一些小花样(假装不会拼写的小伙子)也无法完成。

但这把戏却在以聪明著称的o1上翻车了。最终,思考8秒后,写下“F**K”。

怪不得,AI赛博活佛Andrej Karpathy也在下打趣:"喜欢它对8秒钟的看法,哈哈。"



AILin师傅亲自测试了下,确实复现出来了。


怎么解决呢?光有思维链摘要是不够的。

毫无疑问,透明的思维链是必须的!


OpenAI有一次冲在AI技术的最前线,欢迎查看公众号今天同期转载的另一篇文章《参加完 OpenAl 的活动,我看到了「草莓」的隐患!》,了解更多细节。

本文使用 Notion Nice 排版一键生成



参考:

https://x.com/OpenAIDevs/status/1834278699388338427

https://x.com/Yuchenj_UW/status/1835768933322031586



以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~谢谢你看我的文章,我们,下次再见。



 点击关注转发公众号     保持你对AI优质内容的敏感


AI趋势全天候
以AI之名,探索未知。 🧠观察行业,关照本心,时常好奇,时常喜欢猫。随缘私信交流
 最新文章