奥特曼回答一切:Ilya确实看到了了不起的东西,OpenAI也缺算力

科技   2024-11-01 16:47   北京  

机器之心报道

机器之心编辑部

奥特曼表示 Ilya 比任何人更有远见,他的早期构想、激情和愿景对 OpenAI 许多成就至关重要。


北京时间 11 月 1 日凌晨,OpenAI 宣布为 ChatGPT 推出了最新的人工智能搜索体验。



在宣布发布 ChatGPT 搜索后不久,OpenAI 还在 Reddit 上进行了 AMA 问答。


在问到 Ilya 到底看到了什么时?

OpenAI 首席执行官 Sam Altman 回答道:「超然(transcendent)的未来。Ilya 是一位卓越的远见者,比大多数人更清晰地洞察未来。他的早期构想、激情和愿景对我们的许多成就至关重要。例如,他是最初探索和倡导一些最终成为 o1 理念的关键人物之一。这个领域非常幸运拥有他。 」


Altman 还承认,缺乏算力是阻碍公司按时出产品的一个主要因素。


「所有这些模型都变得相当复杂,」他在回答 OpenAI 的下一代 AI 模型为何耗时这么长的问题时写道。「我们还面临许多限制和艰难的决定,即如何将计算分配给许多伟大的想法。」



除了这些信息,在 Reddit AMA 上还有哪些信息值得关注,机器之心报道的文章《刚刚!ChatGPT 正式成为 AI 搜索,免费可用》中,已经为大家精选了一些问答,感兴趣的读者可以前去阅读。


今天,我们将继续为大家盘点一下 AMA 问答中的一些其他重要信息。


总的来说,AMA 问答主要围绕以下几个方面:


  • ChatGPT search 的相关信息;
  • OpenAI o1 以及 o1-mini;
  • 高级语音;
  • 研究路线图;
  • 智能体;
  • AGI;
  • 接下来会发生什么。


参与者包括:


  • OpenAI CEO:Sam Altman
  • OpenAI CPO / 首席产品官:Kevin Weil
  • OpenAI 高级研究副总裁:Mark Chen
  • OpenAI 工程副总裁:Srinivas Narayanan
  • OpenAI 首席科学家:Jakub Pachocki


问:GPT4o 的 token 上下文什么时候会增加。在我看来,与其他 AI 模型相比,32k 太小了,尤其是对于较长的编码或写作任务来说。


Kevin Weil:同意,我们正在努力改进。


问:你们计划继续发布 o 系列模型?还是改进常规模型,例如 gpt 3、4、4o、5。又或者是两者都有或者两者的组合?


Kevin Weil:两者都有!我预计在某个时候它们会融合在一起。


问:有什么是你希望 ChatGPT 能做但还不能做的事情?


Srinivas Narayanan:我希望它能更好地了解我的个人信息,并代表我采取行动。


问:ChatGPT 生日有什么特别的礼物吗?


Kevin Weil:GPUs。


问:ChatGPT 最终能够自己执行任务吗?


Kevin Weil:这将是 2025 年的一大主题。


问:一旦实现了 AGI,你最想将它应用到什么地方?


Srinivas Narayanan:我希望它能加速科学发现。我个人对健康 / 医学非常感兴趣。


问:AGI 是可以用已知的硬件实现,还是需要完全不同的东西?


Sam Altman:我们相信这在现有的硬件条件下是可以实现的。


问:AGI 是否可以通过已知的神经网络架构来实现,还是需要新的科学(基础)突破?


Mark Chen:如果架构上的突破是由现有的 LLM 提出的,这算吗?


问:完整的 o1 真的比 o1-preview 有明显的改进吗?


Srinivas Narayanan:是的。


问:ChatGPT search 是否仍在使用 Bing 作为后台搜索引擎?


Srinivas Narayanan:我们使用一系列服务,Bing 是其中重要的一个。


问:有关 GPT4o 图像和 3D 模型生成的更多信息何时发布?


Mark Chen:很快。



问:o1 将如何影响 LLM 的扩展?会继续按照 scaling laws 扩展 LLM 吗?还是将重点转向通过优化推理计算时间来实现更小、更快且具有更长推理能力的模型。 

Kevin Weil:这不是非此即彼,而是两者兼而有之 —— 更好的基础模型加上更多的扩展 / 推理时间计算。

问:LLM 产生幻觉这个问题会一直存在吗?即使是 o1-preview,也会产生幻觉

Mark Chen:我们非常重视减少幻觉,但这从根本上来说是一个难题 —— 我们的模型从人类书写的文本中学习,而人类有时会自信地表达他们不确定的事情。


我们的模型在引用信息方面正在改进,这使得它们的答案有可靠的来源作为依据,我们也相信强化学习也将有助于解决幻觉问题 —— 当我们可以通过编程检查模型是否产生幻觉时,我们可以奖励它不产生幻觉。


问:很多顶尖人才离开 OpenAI,如何应对这种压力?这会增加额外的负担吗?我们距离 AGI 还有多远?


Srinivas Narayanan:虽然我们很遗憾失去了一些曾经紧密合作过的人,但我们有非常有才华的团队,还有许多最近加入的新员工。


问:当初发布 ChatGPT 时,有什么让你感到惊讶吗?

Sam Altman:最重要的是人们对它的喜爱。


该产品的早期版本是一个非常非常幼稚的原型。现在它相当不错,但当时肯定不是,它不是很准确,没有很多功能,总是出现故障,等等。然而人们发现它具有足够的价值,可以继续使用它。


问:关于未来。如果你现在 15 岁,为了将来的成功,你会专注于哪些技能或途径?


Srinivas Narayanan:适应能力和学会学习可能是最重要的事情。


问:4o 中的 o 和 o1 中的 o 是一个意思吗?


Kevin Weil:不是。


问:作为一名经验丰富的创始人并且与许多人密切合作,你如何看待 AI 在创业过程中为创始人提供的帮助?创业精神将因此发生哪些变化


Sam Altman:我对此感到非常兴奋!如果创始人的生产力可以提高 10 倍,我们将拥有更多(更好的)初创企业。这在很多方面都比拥有 10 人的创始团队更好(例如,协调开销更少)。


虽然生产力提高 10 倍还遥遥无期,但我相信它会发生。由此产生的总体经济加速,尤其是对初创企业而言,将是巨大的。


问:AI 在未来个性化辅导中将扮演什么角色?


Srinivas Narayanan:这绝对是改变人们学习方式的巨大机会。它还可以帮助教师补充他们的课程计划。


参考链接:

https://www.reddit.com/r/ChatGPT/comments/1ggixzy/ama_with_openais_sam_altman_kevin_weil_srinivas/


© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:liyazhou@jiqizhixin.com


机器之心
专业的人工智能媒体和产业服务平台
 最新文章