乌镇对话知乎周源:大模型是不确定性的计算机,人们还没有完全习惯和它打交道

科技   科技   2024-11-22 18:01   北京  

出品 | 搜狐科技

作者 | 张莹

编辑|杨锦

运营编辑 | 王一晴

审核|孟莎莎

在今年互联网大会乌镇峰会开幕的20天前,知乎直答上线“专业搜索”功能。知乎直答是知乎在6月29日发布的全新AI搜索产品。

知乎直答所处的AI搜索,是AI领域的热门赛道,玩家众多。

不过11月20日,知乎创始人、CEO周源在互联网大会期间的群访中表示,“整体来说,AI搜索还处在一个比较早期的阶段。”

此外,周源对包括搜狐科技在内的媒体表示,AI搜索在场景侧的深入程度远远不够,不能完全满足用户的痛点或是刚需。

对于幻觉,周源认为,在当前技术之下,大模型幻觉肯定没有消除。但技术迭代速度很快,在下一代或者说下几代技术,大模型幻觉很有可能得到极大缓解。

“AI搜索还处在一个比较早期的阶段”

AI搜索赛道群星璀璨,集合了Perplexity、ChatGPT、Kimi、文心一言、360AI搜索等众多玩家。这里面也包括了知乎在6月29日发布的全新AI产品“知乎直答”。

10月底,谷歌宣布其“双子座”人工智能(AI)模型将整合谷歌搜索功能。随后,OpenAI正式上线ChatGPT的实时搜索功能。有观点认为,AI搜索已经白热化竞争阶段。

不过在周源看来,整体来说,AI搜索还处在一个比较早期的阶段。“不管是国内还是全球范围内,所使用的人数频次和能覆盖的场景,都还在比较早期的阶段。甚至这个词(AI搜索),我认为也没有完全清楚地描绘产品可以做的事情。”

周源将AI搜索和传统搜索进行对比,他表示,看传统搜索引擎不能只看搜索引擎,而应该把搜索引擎和所索引的网页、服务都放在一起看。

他指出,今天的 AI 搜索极大地提升了用户进行查询的效率。但是如果要让每个人后续长尾、个性化的服务,都以更好的方式完成,则需要在产品侧有更多升级。

10月31日,知乎直答正式上线“专业搜索”功能,引入维普、知乎精选等专业内容源,将知乎直答定位于“国内首家提供AI搜索与正版论文库一站式解决方案的产品”。紧随知乎直答之后,夸克在11月18日发布“学术搜索”AI产品,依托了AI技术和亿级学术文献。

面对市面上同类产品同样引入专业数据库,知乎如何保持自己的优势?

周源表示,专业的正版学科论文库是知乎直答的数据源之一,而不是全部。以后知乎还会根据用户的反馈增加更多可靠的、可信的、专业的、不同维度的信息源。而这些信息源,有的可能是来自知乎专业答主,论文库则是基于知乎本身内容的增加。

周源还表示,有和没有(专业数据库)其实不是区别,(产品)好和不好才可能是一个区别因素。即使是同样的后训练的AI,围绕不同的数据源、用户的使用习惯、rewrite(重写)的查询词,效果的差别也是非常大的。

“大模型幻觉肯定没有消除”

在打造AI 搜索的过程中,周源认为,消费者还没有完全习惯AI搜索是一大挑战。不过他认为,消费者习惯的速度会很快。

“微信出语音的时候,我们当时会觉得很奇怪,怎么会有人这么讲话。但可能就过了半年到一年大家就都适应了,我们看到的是它的便利性,因为你不用去输字,你可以用语音的方式来进行对话或者留言。”

相比习惯问题,周源认为更大的难点在于,AI搜索在场景侧的深入程度远远不够,不能完全满足用户的痛点或是刚需。

在群访中,周源把大模型和计算机做类比。

他指出,传统的计算机是一个确定性的系统,但大模型是不确定性的计算机。它输入的是大量的token(文本中最小的语义单元),即使输入一样的token,输出的结果也可能不一样。

周源表示,现在人们还没有完全习惯和这种“不确定性的计算机”打交道。

周源提到,“我们看到大量新闻说,今天哪个(AI)又胡说八道了,又把这个数字搞错了等等。”周源认为,由于这种大量的不确定性,我们就很难找到一个比较持续安全的方式,来得到“比较确定性”。

周源提到的人工智能“胡说八道”“搞错数字”可以概括为大模型幻觉。幻觉也被认为是大模型落地的一大阻碍。百度创始人李彦宏前段时间指出,大模型幻觉已经基本消除了。

在周源看来,在当前技术之下,大模型幻觉肯定没有消除。但技术迭代速度很快,在下一代或者说下几代技术,大模型幻觉很有可能得到极大的缓解。

周源补充道,如果在两三年之内都没有特别明显的进步,这也不代表大模型幻觉问题不攻克,现有模型就没有价值,现有模型非常有利于效率提升。周源还提到,在有的场景里面,幻觉恰恰是人工智能的优势。

展望未来,周源表示,在AI的驱动下,未来十年“IoT万物互联”将逐步进化为“IoA万物智能互联”,每个商品都可以与人类形成互动,从而出现大量全新场景和创新机会。



搜狐科技
搜狐科技聚焦前沿科学与科技产业报道,深度跟踪基础科学、人工智能、互联网、通信等领域重大事件,洞察科技趋势与商业逻辑。
 最新文章