正中眉心

文摘   科技   2024-03-08 18:44   中国香港  
早上聊到人工智能,龙哥说:将来人工智能可能会统治世界,所以现在尽量对他们客气一点,将来也会被温柔对待,例如,对话开头一定要加:"请你帮我..."
这是一个段子。
但我怀疑编这段子的人在我这里装了监控。
我在使用ChatGPT的过程中也不自觉地用了太多的"Please .. "
如果不是看到这个段子,我甚至没有察觉到自己这种“怪异的”行为方式。
突然间,我想起了一个旧闻,简单搜索过后确认了我的记忆还像年少时那般牢固。
2016年,那还是一个人工智能被调侃为人工智障的年份。

有一个小伙把他86岁老奶奶使用Google的趣事发到推特上,原因是他奶奶在使用Google时,经常在搜索框输入"请,谢谢"之类的词,仿佛在跟一个人对话一样,显得非常礼貌,后来这件事演变成热门事件,Google官方也下场进行“事件营销”。

稍微生活在网络时代的人都知道,Google这种搜索引擎是基于关键字进行搜索的,“请,谢谢”之类的敬语不但没有任何作用,还稀释了关键字的信息量。

短短几年间,老哈就变成了老奶奶,内心闪过一丝恐慌啊!

我之前写过《写给门外汉的大语言模型原理》以及《人工智能之能与不能》,至少可以说明我对这些新技术的认识在普罗大众之上。

那我又是在何时悄悄赋予ChatGPT 或 Claude这些产品一个"人格"?

我想,跟老奶奶一样,应该是它们的输出慢慢给予我信心的时候。

这种感觉就是人工智能最初的定义:你有时候区分不出跟你对话的到底是人还是机器。

我知道不同的人,采用不同的标准,对于这些产品表现会有完全不同的评价,我希望消除误会的只有一种情况:你没有把它用对。

最常见的误解是:把这些产品当成搜索引擎或者推理系统来用。

我只能说,至少现在这个时间节点,这些都不是它们所擅长的,这些产品真正擅长的是:文本处理。

更重要的是,不同的输入格式严重影响它的输出质量。大体而言,一个好的输入是下面这种格式。
首先是给模型指定一个角色,然后提供给它进一步的上下文信息或者一些例子,最后告诉它,现在分配给它的任务或者说你的目标是什么?

这里顺带一提,我感觉跟人工智能对话特别锻炼一个人的表达能力。这里的表达能力定义为清晰描述一件事情的能力,跟修辞无关。

人跟人的误解很多时候就是没有足够的Context(两个人背景知识不同)或者角色设定出现偏差(不同的立场),然后直接谈论目标。

我们之所以需要这样繁琐的输入,本质上是因为当前这些人工智能的智能程度还不够高。

一个强行升华的点是:有时候把对方想得笨一点,多提供一点信息,少一点自以为是,更容易交流。

言归正传,现在针对人工智能系统的输入有一个专门的名词:Prompt(提示词)。

一些比较好的Prompt格式类似这样子:

1. 你是一名{高级架构师},现在要面试一名{初级程序员},重点要考核候选人关于{xx、yy、xx}方面的知识,请你列出五个具体的问题并给出参考答案。

2. 我会提供一大段的文本给你,请列出里面最重要的五个关键字。

3. 请把下面的文本翻译为英文,目标读者是IT行业的专业人士。

英文的,比如

1. You will be provided with statements, and your task is to convert them to {standard English}. 

2. Summarize content you are provided with for a {second-grade} student.

这些Prompt有点类似“魔咒”,只有特定的格式才会触发冒险的旅程。
Prompt的列表可以补充得很长,感兴趣你可以自己搜索一下。
当然你也可以参考OpenAI官方的例子,你会发现这些例子跟什么搜索都没有关系。
https://platform.openai.com/examples
与之非常类似的,我经常看到别人在测试AI生成图片时使用非常抽象的表达方式,比如使用什么诗词、成语、新年快乐诸如此类的祝福语。
这种用法完全是错误的。
Midjourney的创始人曾经讲过下面这句话:
When you talk to AI and make images, you’re converting spoken language into visual language rather than creating art.

当你让AI创建图片的时候,与其说是在创造艺术,不如说是在将语言可视化。
什么意思?比如要创建下面这张图片,输入是什么?

上面图片的输入是一个超长的描述

能理解了吗?语言的可视化!你提供越多的细节,人工智能系统的表现就越好。

在2015年前后的节点,其实我也调侃过它"人工智障"的那一面。而现在,已经开始有点不习惯没有它的生活了。

其实更久远的年代,还有一个更生动的例子。相信稍微有点年岁的人都看过下面这个笑话:


是这样的张总,您在家里的电脑上按了ctrl+c,然后在公司的电脑上再按ctrl+v,是肯定不行的。即使同一篇文章也不行。不不不,多贵的电脑都不行。


这是一个跨设备复制粘贴的需求,在互联网的早期被当成笑话看待,现在的呢?张总,这是您的微信输入法。

余华曾经写过:

事实上很少有人会对自己所不知道的事大加议论,人们习惯于在自己知道的事物上发表不知道的看法,并且乐此不疲。

在互联网早期,能看懂这个“笑话”很多都算是"专业"人士,知道ctrl+c只是“复制”到当前设备的内存中,并不能在另外一台设备进行“粘贴”的操作。

这个事实仍然没有改变,改变的只是实现这个需求的方式。

有时候你越是了解实现的细节,反而会限制你的想象力,在2015年时我也犯下了这个错误。

今天写这篇文章有点忏悔的意思,想起了下面这段文字:

我非常喜欢一个东西,是一个人十三四岁的夏天,在路上捡到一支真枪,因为年少无知,天不怕地不怕,他扣下扳机。没有人死,也没有人受伤,他认为他开了空枪。后来他三十岁或者更老,走在路上听到背后有隐隐约约的风声,他停下来转过身去,子弹正中眉心。

对不起,人工智能大哥,小弟错了。

哈读
顿悟只发生在有积累的头脑