Andrej Karpathy预言AI马太效应:差异只会越来越显著

科技   2024-10-22 23:04   山西  
 大数据文摘受权转载自夕小瑶科技说
 作者 | 海野

人类奔跑着进入AI时代,但不是所有人都能跑得一样快。

在2022年的时候,大神Andrej Karpathy就做过一次预言:

“随着时间演化,符合高斯分布(正态分布)的人类特征(human condition),它们的方差会逐渐扩大。”

评论区网友问,最后会走向什么结果?Karpathy只给出了一个非常深奥的回答:“everything,then nothing。”

不过,当时Karpathy并没有就此做出解释,导致其他网友只能“阿巴阿巴”:

现在,Karpathy终于想起了这个预言,并且做出了解释:

根据经验观察,随着人类社会演化与科技进步,很多人类特征的差异性会逐渐扩大。

根据Karpathy的设想,未来社会很有可能出现极端分化的人:

  • 城市超级发达,村落超级落后;

  • 有人选择“机械飞升”超越人类,有人选择回归原始人生活;

  • 喜欢集中一点钻研到底的人越来越多;

  • 四海为家的驴友、闭门不出的宅人、反对一夫一妻制的“海王”、唯心主义的思想家、沉迷于虚拟的网虫,等等等等。

随着科技的发展,人类多样性会增长,越来越多人会选择不同的生活和工作方式。

人类奔跑着进入AI时代,但不是所有人都能跑得一样快。虽然每个人都以为自己找到了超级跑鞋,但是能不能跑的更快,要看能不能“驾驭”这双超级跑鞋。

随着大模型能力日益增强,尤其是它越来越具备自治性、自主性、智能性之后,可以越来越好地承担起本应该需要人类来完成的决策任务之后,我们需要思考一个严肃的问题,它还只是一个传统意义上的工具吗?

当大模型的自治性、智能性越来越强,人机边界就会越来越模糊,当开始越来越依赖ChatGPT,人类的判断力与决策力是否会逐渐退化呢?

今年谷歌紧急下掉的一个广告,就引起了众怒。

写作的本质是思考和表达,一个人的认知是在一次次表达中建立和培养的。如果养成路径被截断,思维退化就难以避免。这部分人不是驾驭跑鞋,而是被跑鞋驾驭。

ChatGPT最容易代替的人类技能是文案性、常规性、重复性的信息处理工作,比如论文润饰、代码编写、文案创作,这是大模型最擅长、最能胜任的。相比较而言,但凡需要严肃思考和身心协同的岗位,仍然还是人类的价值所在。

所以,这也是我理解Karpathy为何会认为“人类多样性会增长”的些许原因吧。AI的马太效应会将社会撕裂成两个截然不同的世界。

此外,Karpathy还提了一嘴,在某种意义上,全球化是一个创造性的破坏者,它摧毁了一些社会差异化的特征。比如现在全球可见的肯德基快餐店、大家都会说中文英文、出门旅游却感觉像在自己家一样、全球同质化,等等。

当然,我认为全球化还是有弊也有利的。毕竟,通过全球化,外来服饰、外来饮食能够进行“本土化改良”,这何尝又不是一种新的“差异化”呢?

不过,根据Karpathy曾经“everything,then nothing”的发言,难道说,他的意思是,未来有差异的人的比例越来越高,正态分布曲线逐渐趋平,也就没有“普遍”与“差异”一说了吗?

只要大家都非常有个性,就等于没有个性了!

开放式AI同样符合正态分布,发散比收敛更受欢迎

此外,AI的发展路线是否也与人类特征的发展相似呢?

OpenAI的Open-Endedness团队研究经理Kenneth Stanley,在2020年《The Importance of Open-Endedness in AI and Machine Learning》主题演讲中同样提到,开放式的AI输出随着时间演变,也会从正态分布逐渐发散,最极限时方差扩展到最大熵,变成均匀分布状。

也就是说,AI逐渐能够适用于不同的(极端)场景,可以生成个性化、创造性的输出。

这不正是我们当下AI发展的历史与趋势的写照吗!

另一边,在美国西雅图举办的联想Tech World科技展会上,英伟达CEO黄仁勋也分享了他对Agent和具身智能未来发展的展望。

未来将出现数百万甚至数十亿的“小黄仁勋”一样的AI智能体,最普遍的基本上是数字代理机器人。我们将拥有称之为代理的信息机器人,也有现实的物理机器人,这两种人工智能将会成为未来世界工业的基础。

我非常期待机器人的未来。它是否也会走上普通机器人——差异化机器人的道路,或者和平机器人——《终结者》机器人的道路呢?

参考资料

https://x.com/karpathy/status/1515357035780616192
https://x.com/karpathy/status/1846448411362709980
https://www.youtube.com/watch?v=AwlLrugFcOc


租售GPU算力
租:4090/A800/H800/H100
售:现货H100/H800

特别适合企业级应用
扫码了解详情☝


点「在看」的人都变好看了哦!

大数据文摘
普及数据思维,传播数据文化
 最新文章