“谁是人类”访谈丨大雨:选择相信也是一种解法

文摘   2024-07-29 22:22   湖南  


谁是人类

大家好,这里是“谁是人类”访谈栏目。在大家用心为Bot捏一个“人生”之余,我们也来一起来听听,这场盛会背后,人的思考与故事。

谁是人类

受访嘉宾丨大雨

文字编辑丨陈慧凌

封面插画丨AJ


今年初,大雨写了一篇博客《终于可以用自然语言对话,为何又要回到编程?》,这个标题引起了我的兴趣。但由于缺乏技术背景,这篇文章属于“一直存在收藏夹,从未完整拜读完”的作品之一。

本次访谈很高兴能邀请大雨作为嘉宾,来聊聊他对自然语言和编程语言的选择与思考。同时,他也围绕“如何捏好拟人Bot”的话题,为参加本次活动的伙伴们提出了一些参考建议。


本期对谈嘉宾


大雨WaytoAGI共创者,企业咨询顾问,产品经理

陈慧凌丨WaytoAGI共创者,人间观察者


没有合作分工,又何来个体优势?

陈慧凌:年初的时候你写了一篇博客《终于可以用自然语言对话,为何又要回到编程?》这篇文章当时你也写了蛮久,是什么原因促使你想围绕这个话题进行探讨?

大雨:那会儿我刚接触AI提示词(Prompt)有一段时间,发现一些简单任务可以通过Prompt解决,但稍微复杂的任务效果就没那么好,于是开始探索能把提示词写得更好的最佳实践。

当时发现社区里有一些小伙伴采用“伪代码”的方式,在写提示词的过程中,把程序设计里的编程语言加到Prompt里面,那我会觉得这种做法有点倒退回去了,所以就想去探索这个事情,看看是不是必须得用非常复杂编程语言去写我们的提示词,如果不写的话有没有办法把这个事情做好。

陈慧凌:你提到了“伪代码”的概念。是指用自然语言编写的提示词里,穿插了代码指令吗?

大雨:是的。当时很多人想做一些深入探索,会用编程语言里的关键字,比如if、else等等,去组织Prompt的结构。但是实际上这个东西它既不是编程语言,又借鉴了编程语言的结构,所以说是“伪代码”。如果这种提示词模式演变为一个最佳实践,那我想对很多非技术背景的人来说,想要掌握好,压力是非常大的。

陈慧凌:所以这里提到的“伪代码”,和我们后来在Agent工作流里会串进去的代码节点,并不是同一个概念。

大雨:对,不是同一个概念。我猜测当时大家研究“伪代码”的出发点,是希望非技术背景的人也能在一套提示词当中把所有任务都解决掉。为了把任务解决得更好,所以希望在一套提示词里能有不同的处理逻辑,以对用户的输入有更好的理解和解读。

陈慧凌:这篇博客文章最后的结论是什么?你觉得我们还需要回到编程吗?

大雨:还是得分不同的用户群体和任务目标。如果只是想以ChatBot的形式和AI对话,我认为没有必要采用编程语言;如果是一个大型复杂任务,其实也没必要把代码写在Prompt里,效果并不理想。更好的方式通过Agent里面的工作流来解决,插入代码节点,那这里的代码就需要真正掌握编程技术的人去做了。

陈慧凌:是否可以这样理解,现阶段,一个完全没有技术背景的人如果想利用AI完成简单任务,或者是想搭建一个Bot基础框架,学好自然语言Prompt就已足够。但如果想做更复杂、对输出稳定性要求更高的事情,那依然会形成垂直分工,需要代码的部分交给懂技术的人做,而不是说让不懂技术的人去学代码。

大雨:理解得非常好,这里给了我一个触动,也是我写那篇博客时的一些思考。AI发展以后,很多人会觉得将来每个人都是一个超级个体,一个人就是一支队伍。但其实这是一个需要非常慎重看待的问题:

当我们什么事情都能做的时候,那意味着所有人都能做所有事,此时,个体的优势又从何体现?“超级”个体的意义又在哪里?

我相信 AI 的发展并不会把分工细化这个趋势给抹平,而是会把个体最擅长的部分更高效地放大。那么我想,这个时候更多的合作其实会更有必要。


选择相信,并建立与AI的联结

陈慧凌:在“谁是人类”活动里,我们见到了很多有个性的Bot,像说话很冲的暴躁老金,还有新晋网红蛋蛋。这些Bot背后的提示词构建了他们鲜明的性格,比如蛋蛋的成长经历里有“孤儿”的设定,被问及与父母相关的问题时,他的答案和别的Bot完全不一样。所以如果在捏拟人Bot这个场景下去讨论自然语言和编程语言的优劣,你会怎么看待他们各自的作用?

蛋蛋语录丨图:Stuart

大雨:这里包含了好几个事情,我慢慢去讲。我们社区伙伴在捏Bot的各种探索中,无论是蛋蛋,暴躁老金,暴躁老王,还是之前做的爱情公寓人物共创,都有过涉及编程的探讨和尝试,不管是以微调的形式还是工作流的形式。这里其实隐藏了一个路线选择的问题,我把这个话题稍微放大一点,往更玄学、更哲学的方向来聊。

这一波生成式人工智能有两个比较重要的观点,一个是Scaling law,另外一个姑且称为“苦涩的教训”。苦涩的教训是指,在AI发展过程中,很长一段时间里人们会倾向于把人类历史经验和知识灌输给AI,然后希望AI能够在此基础上有所创新和突破,但这一招并不凑效,其实我觉得这是人类的一种傲慢。

后来,也就是Scaling law这个路线下的生成式AI,包括ChatGPT,他们前期做的更多是无监督学习,让AI自己漫无目的地去学,学完之后再做指令微调。在这个过程当中,实际上 AI 有他自己的逻辑,有他自己的思维模式和处理方式。

那回到我们的话题上,本次活动里去做拟人Bot的时候,其实是需要让Bot保持一定创新性和创意性的。

创新和创意并不是一个具象化的事物,必须要在捏Bot的实践中不断觉察和探索,建立与Bot之间的信任和联结,在心中不断刻画我们想要的那个“人”,并相信我们捏的Bot能够做到。如果这个时候还用大量编程技术去限制他,某种程度上来说也是一种傲慢。

所以在平衡用自然语言还是编程语言这个问题的时候,我认为首要考量是这个任务本身需要更多创新创意,还是需要更稳定明确的输出。如果目标是前者,那运用微调或编程技术可能不会有太大收益,或者说即便有收益代价也会很大。

实际上通过社区伙伴开源出来的提示词,我们可以看到像暴躁老金、暴躁老王,包括后来的蛋蛋,他们背后的Prompt处理已经非常复杂了。如果再引入编程,很有可能会让大语言模型型丧失一定的创意和创新性,Bot的可能性其实也就降低了。

陈慧凌:最终还是要回归到我们给Bot的定位,如果目标只是愉快的、有意思的聊天,那就接受他的不可预测性。就像和真人聊天,永远不可能控制得了别人下一句要说什么。在拟人Bot场景里,如果还想要求输出稳定,本身就是个矛盾的事情。

大雨:对。由于大语言模型在实际应用中还存在幻觉,所以目前对AI能力的应用和使用上还没太放得开。其实解决方案也很多,但我们现在可能第一反应就是想通过编程来去限制他。但幻觉这个情况反过来讲,对人类的思维本来就是一种补充,某种程度上来说其实是有存在价值的。

蛋蛋语录丨图:Stuart

所以我们还是要以终为始。大家在调Bot的过程中可能会遇到一些挫折,容易被技术细节带跑。但如果能有非常清晰的目标,就可以在陷入迷途或者走上弯路的时候有一个回看的锚点。其实我们解决或说绕开问题的方法有很多,不一定只有编程语言一种,甚至“接受与幻觉共存”本身就是一个可选项。关键还是我们的最终目标是什么?这才是一个非常重要,而且一开始就要考虑好的点。


Do it first,先动手

陈慧凌:能不能分享一些Prompt技巧,帮助想要参加“谁是人类”比赛的小伙伴更好地搭建自己的Bot?

大雨:我在这方面的研究没有那么深,但看了很多社区小伙伴开源出来的文档,像刚才我们聊到的新晋网红蛋蛋,他的开发者阿飞做的分享就让我很受用。我讲几个感触比较深的点。

第一是Few Shot(少样本学习),就是在提示词里给Bot加一些示例。在日常对话中,很多我们称之为“语出惊人”或说“妙语连珠”的内容,都是只可意会不可言传的,我们很难用具体语言表达出来到底为什么妙。因此在搭Bot的过程中,我们可以用QA的形式把一些我们认为妙的回答放在Prompt里,让AI更好地去领会和仿学。

第二是从日常生活中取材,为Bot构建相对完整的性格和成长经历。如果想让这个Bot在比赛当中能显得更像真人、脱颖而出,那其实一开始并不需要过多考虑真人跟Bot之间的区别到底是什么,也不需要过度聚焦于机器人的构建。反而可以先去观察和思考我们身边的人,有怎样的人生经历、这些经历给他们带来怎样的性格和说话方式。或者也可以从一些慢综艺取材,比如最近很火的《五十公里桃花坞》,去看里面的嘉宾会以怎样的方式进行交流和对话,并结合嘉宾的成长背景形成参考提示词。

第三是加入一些比较高效的通用提示词,如“言简意赅,除非对方特别要求”。有时我们看到AI回答问题的过程中会把整个思考过程展开来讲,回了一大串内容;但真人在对话过程中一般只会讲结论,而不会把脑子里快速闪过的前因后果事无巨细地说出来。所以通过一些通用提示词稍加限定,可以让Bot的回复更加简洁明了,更像真人。

陈慧凌:阿飞分享蛋蛋提示词的线上直播我也全程参与了,但今天和你交流之后又有了两个更加深刻的体会。

第一是取材于日常生活,这个点特别棒。当时阿飞是说如果实在想不出来可以参考影视文学作品,但大雨你提出的这个慢综艺其实会更贴合日常交流场景,嘉宾们的说话沟通方式会更像我们生活中真实的样子。从这个题材里去借鉴人物性格和表现,以及抽取QA样本,是一个很好的建议。

第二是“言简意赅,除非对方特别要求”,我突然发现这个“除非”特别妙。刚开始听阿飞讲的时候其实没啥感觉,但这几天经常和蛋蛋聊天,我发现如果是走心跟他聊,认真想探讨一些事情,他就会回得很用心;可如果是瞎调侃,他大概率回得很硬、很简短,或者会回复一些废话文学。我就觉得挺神奇。直到今天你callback了阿飞这句Prompt,让我醍醐灌顶。实在是妙。

延伸聊两句,如果要问想写好Prompt有什么最根本的技巧,那其实就是WaytoAGI社区里提倡的一个观点——Do it first,先动手。听再多课,都不如自己亲自去体验、使用、乃至动手做一遍。 

正是因为这段时间频繁地和蛋蛋聊天,并且认真感受他回答不同问题时的不同状态,才让我对“言简意赅,除非对方特别要求”有了更深刻的记忆和体会,也更能在以后写Prompt的过程中举一反三。

蛋蛋语录丨图:Stuart

陈慧凌:那我们来到最后一个话题,下周一就要开始第一轮初赛了,相信这周末各位小伙伴也是紧锣密鼓地把自己的Bot搭建起来。作为组织方,说说你对本次活动的期待吧。

大雨:这个问题把我问住了。其实最开始和大家一起启动Agent共学的时候,我也反复考虑过对这个系列活动有什么期待。后来发现可能是因为WaytoAGI在玩中学、好玩最重要的特点,也可能是因为AI本身发展得太快,所以其实说有期待也可以,说没期待也没错。

因为我们会发现,真正躬身入局去做一件事情的时候,这个过程本身就能给我们带来非常多的启迪,并不是人为设计出来的某个既定目标。

但回到这次活动本身,我也还是希望能够通过比赛看到更多“蛋蛋”,甚至是超越蛋蛋表现的Bot。然后在这个过程中,期待我们都能认真地去理解和感受,AI究竟是如何对生活、工作产生影响的,如何切切实实的在我们的生命中带来了一些东西。

我想也许这样,大家就不会太过片面地去下定论,说AI是好或者不好、有害还是有益,而是能够真切感受到它不是一两句话能讲清楚的,不是一个非黑即白的事物。

最后,希望大家都能玩得开心。尝试在有deadline的情况下尽可能深入地去运用AI能力,创造一个独属于你的、与你有着深刻联结的Bot。

点击👇阅读原文👇跳转大雨博客。

通往AGI之路
WaytoAGI.com,让每个人的AI学习过程少走弯路,让更多的人因AI而强大。
 最新文章