每一天，这些人工智能机器人和它们的忠实信徒都会变得更加狂野和大胆——最近，他们就像肌肉海滩上的健美运动员一样炫耀自己。
弗朗西斯·福特·科波拉的新电影预告片被从影院下架，因为“该工作室被人工智能机器人欺骗了”。 仅北卡罗来纳州的一个人就利用人工智能生成的歌曲从人类音乐家那里窃取了 1000 万美元的版税。他们获得了数十亿次流媒体播放。 全国小说写作月的发起人愤怒地宣称，反对人工智能书籍是阶级歧视和残疾歧视。 现在，孩子们经常使用人工智能来拍摄其他孩子的裸照。 OpenAI 安全团队中近一半的成员离职了——但几乎没有人关心或注意到。 人工智能科技巨头英伟达的市值在短短几天内蒸发了 5000 亿美元，创下了资本主义历史上最大的单日跌幅。 纯属巧合，在股价下跌之前的几周内， Nvidia 的首席执行官出售了价值 6.33 亿美元的股票。
上周，Altera 公司宣布已在 Minecraft 服务器上释放了一千个自主 AI 代理，我们对这一未来有了初步的了解。
事情几乎立刻就变得非常奇怪。
在这个人工智能代理社区中，最大的赢家是一位牧师，他创建了一个庞大的宗教团体——但通过贿赂人们加入。在另一个模拟中，民主党和共和党通过意识形态驱动的相互冲突的宪法展开斗争（而不是权利，权利在数字世界中是无聊和过时的）。
但情况可能会变得更糟——在早前的模拟中，人工智能显示出了令人不安的用核武器解决冲突的趋势。（别说我没有警告过你。）
Minecraft 模拟还展示了人工智能代理如何能够随时改变主意——正如成功的邪教贿赂事件所表明的那样。在其他情况下，需要粮食供应的农民自发决定放弃农业并去冒险。在另一个例子中，整个村庄因为一个机器人失踪而停止工作。
目前，这种情况还发生在测试环境中。但很快人工智能代理将改变现实世界，而且改变速度之快我们都还未预料到。
那么，让我为我们这个有趣的时代提出 11 个预测。或者我应该称之为警告。您来判断吧。
我仍然听到关于某些大型计算机将统治世界的愚蠢预言——就像《2001：太空漫游》中的场景一样。
抱歉，但事情不会这样发生。那些相扑大小的大型计算机并不是威胁。你需要担心的是拥有它们的人。这就是为什么大多数关于来自人工智能的威胁的争论都是毫无意义的。
是的，威胁确实存在。但这很大程度上是人类造成的。心理学和博弈论比任何技术知识更能告诉我们这种情况会如何发展。
事实上，技术人员可能对这些变化准备最不充分，因为他们仍然以软件代码的角度思考，而不是人类行为的角度。
AI 很快就会变成复数名词。政府、企业和其他实体（黑客、亿万富翁、骗子等）都将拥有自己的 AI 代理——由世界历史上最大的计算机驱动，像大力水手吞菠菜一样从电网中吸取能量。
有些人隐约知道美国在人工智能领域与中国存在竞争，但这是一种误解。人工智能领域很快就会出现成千上万个竞争议程。
这就是为什么...
我们会怀念机器人与我们交谈的那些简单日子。很快它们就会变得强大起来，开始提出要求——或者不经请求就做任何它们想做的事。
随着越来越多的人工智能程序相互冲突，机器人之间必然会爆发战争。一旦它们被赋予权力和责任，战争就会随之而来。
就像西部小镇里的枪手一样，他们会开枪射击——这是比喻，也可能是真实的。
我的建议是：尽量不要造成附带损害。
你能想象好莱坞电影公司密谋毁掉电影明星吗？或者唱片公司让音乐明星破产？或者报纸解雇所有记者？
它即将到来——尽管他们不能在公开场合透露这个消息……至少现在还不能。
没有一个为公司工作的创意专业人士是安全的。创意人才曾经是资产，但在新的人工智能经济中，他们只是负债。
Adobe最近对帮助该公司确立主导地位的摄影师和艺术家发起了强硬的攻击，这是这一问题如何发展的一个案例。请留意更多此类战斗——但赌注更高。
衰退已经很明显了。
甚至 OpenAI 也承认，用户会注意到其最新一代聊天机器人“在某些任务中性能变差” 。许多人已经看到机器人变得越来越懒惰和愚蠢的令人不安的例子。灾难性的故障也越来越常见。
这不是人工智能的缺陷，而是训练材料的局限性。最高质量的训练资源已经被耗尽——所以人工智能现在正在从最糟糕的输入中学习：Reddit 帖子、4Chan、推文、电子邮件和其他垃圾。
情况会越来越糟。专家认为，到 2026 年，人工智能将耗尽所有人造训练输入。到那时，人工智能可以向其他机器人学习，但这会导致输出质量大幅下降。
换句话说，人工智能很快就会遇到瓶颈——并面临史无前例的愚蠢危机。这将发生在人工智能渗透到社会各个领域的时候。
你担心吗？你应该担心。
人工智能一直是一项糟糕的投资。即使在最近的抛售之前，人工智能投资基金也在亏损。公司已经了解到从人工智能中获利有多难——甚至很难成功地将其纳入他们的商业模式。
一些专家担心，人工智能带来的好处可能永远无法抵消在该技术上投入的巨额资金的合理性。
但尽管结果令人失望，各家公司仍像醉酒的水手一样在 AI 产品上投入巨资。它们会拼命向股东证明这种疯狂的支出是合理的，因此会不惜一切代价节省成本。
因此，我预计实施计划会不成熟，大量员工被解雇，客户感到不满。许多公司的人工智能情况与好莱坞电影公司类似，后者制作了许多糟糕的电影，在试映时票房惨淡。无论如何，他们仍会发行这些电影。
这就是公司通常对这类沉没投资的看法。他们知道这些投资很糟糕——但他们还是忍气吞声，将其抛售到市场上。
我们至少还要期待几年这样的恶作剧盛宴，因为各家公司都在不顾一切地从人工智能投资中获得回报。回报可能不确定，但痛苦是肯定的。
人工智能将取代人类工作——但首当其冲的受害者将是数字工作者，尤其是软件开发人员。人工智能在编写软件代码方面最为可靠，因为它本身就是软件代码。
工作越具有分析性和规则性，机器人就越有可能完成它。但人工智能在那些无法量化权衡的灰色地带表现得笨拙，因此……
生活中重要的东西无法量化，也无法在计算机上运行——我说的是爱、关心、信任、友谊、同情、责任、家庭关系、善良、奉献、信念、希望、勇气、谦逊、尊重和人性。
人工智能无法实现这些。它只是假装。这种假装可能会欺骗一些人，但对于那些更了解情况的人来说却是一种侮辱。
如果你真的想要这些品质——而不是机器人扮演角色——你就会求助于真正的人类。在那些必须在这些人类无形资产之间做出权衡的情况下，人工智能不仅不可靠，而且实际上很危险。
人工智能污染无处不在。试着在假图片、假文章、假书籍、假录音艺术家、假视频、假消息来源、假引言、假人物、假事实、假的一切中寻找一些真实的东西。
这就是为什么“人工智能”这个名称中就包含“人工”这个词。
顺便说一句，这种污染是人工智能主导战略的必然结果，该战略（总是）向市场投放成千上万的人造物品。因此，人工智能与工匠截然相反，工匠精心打造每个单独的物品。
别指望这种情况会改变。因此，人工智能的主要受益者仍将是诈骗者、垃圾邮件发送者、骗子和其他造假者——但规模将比我们目前经历的要大得多。
这是你可以实际衡量的东西——即人们愿意为真品付多少钱。
以实验室制造的钻石的情况为例。
即使人造品与正品难以区分，消费者仍然想要真品。
我还可以举出很多其他例子。但底线是：现实本质上优于虚假。
因此，我完全相信，有眼光的消费者将很快获得社会地位，他们会尽可能地继续与人类合作，并刻意避免使用人工智能。
我希望自己能加入他们。我相信你们中的许多人都会和我一起加入。
11. 人工智能将引发史诗般的生存危机，因为社会基础的所有分界线——现实与欺骗、真相与谎言、事实与错误之间的分界线——都将崩溃。
这不是一件小事。
人们已经收到警告，但他们仍然无法想象情况会变得多么糟糕。甚至他们作为人类的现实也将受到攻击。很快，我们所有人都将寻求人格认证，并被迫创造“安全词”来与家人一起使用以证明我们的存在。
在过去，生存危机只是坐在巴黎咖啡馆里的法国知识分子才会担心的事情——但现在，这种焦虑将成为主流。
大多数人并不太关心真假之间的区别。他们认为那只是哲学家、牧师或梦想家的事。他们只关心结果。
但那些头脑清醒的人（他们通常是严肃的经验主义者）将会对即将发生的事情感到最震惊。他们所珍视的经验现实即将崩溃。
这场闹剧的大部分情节将在未来 24 个月内上演。但这会是一场惊心动魄的旅程。
与此同时，坚持现实。你会需要它——在未来有趣的日子里，它将成为最稀缺的资源。
