马斯克WSJ峰会谈AI：中美差距十二个月，出现AGI只要三五年（全文+视频）

文摘 2023-05-28 11:15 广东

作者：城主 | 编辑：腾讯新闻郝博阳

编者导语：

大家一定都看了马斯克前两天在CNBC的节目上醋意实足的讲述他与OpenAI的起源往事，“没有我就没有OpenAI“

但除了公司野史以外，那次他基本上没说什么关于AI的深入观点。

这次在5月23的《华尔街日报》CEO理事会伦敦峰会上，前一阵刚刚一边明签抵制声明，一边暗设XAI公司的马斯克更多的聊了聊他眼中的AI未来，市场的格局和他即将做的事：借助特斯拉和Twitter生态与Google，微软演一出AI三国志。

虽然按他的话，大模型起步2.5亿刀，GPU现在比毒品还难搞。但对于AI的未来他似乎也没有那么悲观了：良性发展的AI似乎能带来一个社会主义般的丰裕乌托邦。而AI的威胁？最多就是当个超级保姆把你看住。

世界上最有想象力的人形成的对于AI的新图景到底是什么样？

以下是访谈AI部分的全文：

主持人：

您能给美国和中国在人工智能发展的每个方面评分（满分10分）吗？

Musk：

美国具有最先进的人工智能，中国紧随其后。当然，中国有资源去规模化和优化（它）。人工智能最大的单一进步仍然来自美国和欧洲。但是，好吧，给一个准确的得分数很难。这更像是......

主持人：

但现在还有一个很大的差距。

Musk：

的确有差距。这个差距看起来在12个月的数量级上。

主持人：

大概。

Musk：

对的。

主持人：

（差距是在）缩小还是扩大？

Musk：

这很难判断。我怀疑它会在一定程度上缩小。

主持人：

好的。

您能谈谈您自己创建的新人工智能公司吗？显然，在这个领域有大量的活力和活动，或者至少已经被人们大量讨论过。除了特斯拉和您早些时候谈到的内容之外，您自己希望在这个领域做什么？那是什么新东西？

Musk：

好吧，我认为比赛里应该有重要的第三匹马。

我们有OpenAI和微软，谷歌DeepMind，可能这场比赛中应该有第三匹马。所以很快会有更多相关消息。

主持人：

但是，这会影响推特的数据和特斯拉的能力吗？这是否是您试图把早些时候谈到的能力结合起来，以成为第三个玩家？这就是您要说的吗？

Musk：

在一定程度上。我不想在这里过早地宣布，但OpenAI与微软似乎合作得相当好。所以XAI和Twitter以及特斯拉可能会有类似的情况。

主持人：

可能（笑）。

您谈到了监管的重要性，并呼吁暂停（AI开发）。我的意思是，监管技术的历史一直充满张力。监管者很难跟上技术，更不用说领先于技术了。您认为实际上需要发生什么，在这个领域实际上可以改变这一点？因为显然，这方面的历史并不令人鼓舞。

Musk：

我认为应该——我一直强烈主张。我会见了许多高级参议员和国会议员以及白宫的人，倡导人工智能监管。（应该）首先成立一个由独立方和行业领导者组成的洞察委员会。

监督委员会获得——我应该说洞察委员会对各公司的所作所为有所了解。在一定程度上，如果有竞争动力，你显然可以——你会把可能存在利益冲突的董事会成员隔离开来。

无论如何，你希望有某种监管委员会。他们首先了解情况，然后提出规则制定提案。然后整个行业将对此提出意见。之后希望我们有某种监督规则来改善安全性，就像我们对飞机、太空飞行器和汽车以及食品和药品采取的FAA、NHTSA（美国高速公路安全局）和食品药品管理局的监管措施一样。

主持人：

对。那么，在我们谈论的全球事物中，这将如何发挥作用，人工智能和国家之间的相对进步将非常非常重要？这是可以全球化的吗？

Musk：

真正的关键问题是中国是否愿与西方合作。这仍有待观察。但我仍然主张某种程度的监督。例如，我们对飞机实施监管，然而美国在飞机方面仍然表现良好。所以它制造的飞机比任何其他地方都多。

所以，仅仅因为你有FAA的监管，并不一定意味着AI会大大减缓。

主持人：

好的。那么您的观点是，今天的人工智能变化将巩固世界上微软和谷歌等科技巨头的地位。是否也有一种可能，它实际上有助于吸引新玩家并改变这种动态？或者它会带来一个更特别的结果？

Musk：

的确有许多人工智能创业公司。但越来越棘手的事儿是，为了（胜出）——你真的需要三样东西来去竞争。你需要人才，有天赋的人；你需要大量的计算能力，昂贵的计算能力；你需要能访问数据。所以谁在这三个方面取得成功，谁就会胜出。

现在的计算成本已经变得天文数字了。现在(训练大模型）的最低要求将是2.5亿美元的服务器硬件。最低要求。这对任何方面来说都很相关。

主持人：

所以，创业公司更有可能依靠其他人所做的工作，而不是直接与之竞争，这是您要说的吗？

Musk：

是的。训练一个大型模型——我的意思是：为训练GPT-5规模的模型，如果他们使用至少30000台，甚至50000台H100我也不会感到奇怪。这是NVIDIA最新的——GPU这个词并不完全准确——最新的技术，然后你还需要进行推导训练。所以这需要很多——GPU现在比药物（毒品）难获取得多。

实际上，（获取药物）在旧金山这并不是一个很高的标准。（观众笑）

主持人：

您以后可以告诉我们更多信息，但没错……

Musk：

没问题。

主持人：

谢谢。

我想谈谈人工智能方面，我很想听听您的看法。

这对社会来说意味着什么——这会将财富和权力嵌入在一个非常小的子集中，并产生巨大的不平等扩大吗？这会民主化并产生相反的效果吗？您对这一发展的看法是什么？

Musk：

就获得商品和服务的机会而言，我认为人工智能将引领一个物质繁荣的时代。假设我们处于一个良性的人工智能情景下，我认为人工智能将能以非常低廉的价格生产商品和服务。

因此在任何商品或服务中，没有人为创造的人工稀缺性（的情况下都会非常便宜）。（人工稀缺性就是）比如我想确切地生活在这一片房屋中，而那里只有100间房屋，所以它仍然会有稀缺性。或独特的艺术品会有稀缺性。

但只要不是有意设计为稀缺的任何商品或服务，在良性发展的情况下，对每个人来说都将是丰富充足的。

主持人：

在不良情景下呢？

Musk：

好吧，那可是有不少......

主持人：

但是您最担心的是什么情景？

当您观察时——当您多年来一直在谈论监管的必要性时，什么情景真的让您夜不能寐？

Musk：

我不认为人工智能会试图摧毁整个人类，但它可能会严格控制我们。人工智能变成终结者的可能性不为零。这不是百分之零，而是——我认为人工智能彻底毁灭人类的可能性很小，但不为零。我们希望它尽可能接近零。

然后，就像我说的，人工智能可能为了所有的人类的安全接管一切计算系统和地球上的武器系统，实际上像某种超级保姆一样。

主持人：

但不是另外一种情况？

Musk：

比如，你知道，假设你是世界小姐选手（善良甜妹）.......

主持人

这是不太可能的。我们必须面对现实。

Musk：

你说你想要什么？“我要世界和平”。好吧，你知道，实现世界和平的一种方法是从人类手中夺走所有武器，这样他们就不能再使用它们了；并惩罚任何越界之徒。

主持人：

但是，更有可能的不良结果不是人工智能接管并成为最终保姆，AI想让我们都做非常安全的事情；而有人恶意利用这种力量来控制社会，发动袭击，获取军事优势。（或者）实际上世界各地的某个国家会决定以不同的方式使用它？

Musk:

是的。这就是我的意思。比如，人工智能将我们用作武器。

笔比剑更有力。因此，我们必须小心使用 AI 的第一个地方是在社交媒体上操纵公众舆论。

所以，Twitter转向主要基于订户的系统的原因是，要创建这样的账号会困难得多——创建一个有经过认证的电话号码的帐户，来自可信的运营商，有信用卡，每个月支付一小笔费用，要使这些信用卡号和电话号码高度分布，而不是集中，这令人难以置信的困难。

因此，过去有人可以创造一百万个假帐户，每个帐户只需一分钱，然后操纵——让某事物似乎受到公众的广泛喜爱，但实际上并非如此；或在推广和转发时事实并非如此——它的流行度并不真实，这本质上是在玩弄系统。

所以我认为对基于订阅认证的偏见是非常强大的，你真的不能相信任何不这样做的社交媒体公司，因为它简直会被机器人淹没到极端程度。

主持人：

因此，如果我们回到起点，看看即将到来的选举，过去几个月人工智能能力的巨大转变将发挥多大作用，这显然会持续到明年，您认为这会对消息传递和人们了解候选人的不同立场的方式产生多大影响？

Musk：

我认为这是我们需要在很大程度上注意的事情，以确保我们将人工智能操纵的影响降到最低。

我们在 X/Twitter 非常重视这一点，我认为我们正在实施所有保护措施，以最大限度地减少并在我们看到对系统的大规模操纵时进行检测。

主持人：

但除了 Twitter，您是否担心这会影响整个选举？

Musk：

是的。

可能会有人尝试使用 AI 来操纵公众，其中一些会成功。如果不是这次选举，肯定是下一次。

主持人：

好的。如果你有时间的话，我还有两个关于人工智能的问题，然后是关于中国和特斯拉的一点问题，如果可以的话。

首先，我们在人工智能方面谈论了很多关于未来五到十年，以及它对工作和其中一些事情的影响。

如果你放眼更长的时间框架，考虑到变化的速度和规模，再看看你的孙辈和曾孙辈，你能告诉我们人类会是什么样子吗？到目前为止，这将在多大程度上改变我们作为一个种族运作的根本性质？

Musk：

我认为它会发生很大变化。

尤其是如果你进一步看入未来。我的意思是，所有的事情都将自动化。我的意思是，会有家用机器人，你可以完全像与人交谈一样与它们交谈，它们可以帮助你在家里，或者是一位伴侣，或任何情况下。工厂里会有类人机器人。

我们（特斯拉）的也将全部自动化。

比如再过10年或20年，任何可以应用智能的地方，哪怕是适度的智能，也将自动化。

主持人：

我们会通过神经链接（Neuralink）类型的设备连接到该技术吗？显然，在您看来，这就是它的发展方向吗？

Musk：

好吧，从皮层到计算或 AI （生物）组织层的高带宽接口已经存在，只是我们没有高带宽连接。

我们有自己的边缘系统，这是我们的基本要素，也就是我们的本能和欲望等等。然后是我们的大脑皮层，这是我们大脑的思维部分。然后是一个数字（生物）组织，目前以我们的手机、计算机、笔记本电脑，以及其上的所有的应用程序的形式存在。

实现更好的融合或实现人类利益和机器利益一致的约束就是带宽，特别是输出。所以，比如你可以以什么速度向计算机输出语音或使用你的手指（限制了这种融合），它们移动得非常缓慢。所以我们谈论的可能是每秒 10 位或一些相当小的数据速率。通过神经链接，您可能可以将其增加一百万（倍）。

主持人：

所以一切都在加速？

Musk：

加速，是的。

我的意思是，这显然在一个相对良性的情景下，因为不仅仅是一个（脑机接口的）问题。

让我们假设这是一个良性的情景。我们如何欣赏或理解计算机正在做什么？我们如何随之而行？如果我们有一个更好的，如果你有一个每秒1000万次更快的脑机接口，那么我们会和他们携手同行。

比起我们通过两只慢动作的肉棍与手机互动来说......（笑）

主持人：

如果你非要这么表达的话。这个房间里的许多人都有孩子，在你的许多孩子中，他们需要什么技能，你认为他们需要最重要的三个技能来为这个新世界做好准备？

Musk：

好吧，我认为拥有许多不同学科的广泛理解是很重要的。所以我认为广泛的知识是重要的。所以你至少对不同领域的未知之处有所了解。然后在您的孩子有强烈兴趣和能力的领域深入研究。

所以找到我的孩子感兴趣的并且有一定能力取得成功的重叠部分。然后，如果你能找到那个重叠部分的文氏图(Venn Diagram)，鼓励那当然是一件好事。

文氏图

我们显然正朝着高科技的方向发展。所以拥有对计算机、软件和人工智能的基本理解可能是个好主意。

主持人：

好的。但实际上广泛的推动力是，工作会改变，但它将更多地促进人工智能并使其变得更好、更容易，而不是完全改变你需要的技能。

Musk：

这取决于我们讨论的时间范围。所以，如果你说在20年到30年的时间范围内，我认为事情将改变得难以置信。

30年内你可能认不出社会。我的确认为我们相当接近--你问我通用人工智能 --我认为我们可能只有3年，最多6年。反正肯定就在这十年内。事实上，可以说我们正处于超级人工智能黑洞的事件视界（黑洞的边缘）。

http://mp.weixin.qq.com/s?__biz=Mzk0ODQzNzU4MA==&mid=2247484155&idx=2&sn=1526c3792f06e77370ec657117ed9f10

数理逻辑与哲学逻辑

主要目的：普及数理逻辑与哲学逻辑知识，解惑数理逻辑与哲学逻辑问题。偶尔发表或转载一些其它内容的文章。

马斯克WSJ峰会谈AI：中美差距十二个月，出现AGI只要三五年 （全文+视频）

作者：城主 | 编辑：腾讯新闻 郝博阳

编者导语：

马斯克WSJ峰会谈AI：中美差距十二个月，出现AGI只要三五年（全文+视频）

作者：城主 | 编辑：腾讯新闻郝博阳