关注AilinGo并设为“星标⭐”，别错过你该知道的AI💝
Geoffrey Hinton是享誉全球的认知心理学和计算机科学家，50年来一直致力于神经网络的研究。2018 年因为深度学习的研究获得图灵奖，被称为“AI 教父”。他的研究最终助力了 LLM 的诞生，OpenAI 的首席科学家Ilya Sutskever（伊利亚·苏茨克维）是Hinton（欣顿）的得意门生。
GPT-4 刚发布时，欣顿还对它赞誉有加：“毛虫吸取了足够的养分，就能化茧成蝶，GPT-4就是人类的蝴蝶。”
然而本周，他正式加入了质疑者的行列。
欣顿博士在谷歌工作了十多年，是该领域最受尊敬的声音之一。他表示，辞去了在谷歌的工作，他就可以自由地说出AI的风险。他说现在有些后悔自己毕生的工作。
“我通常安慰自己的理由是：如果我没有这样做，其他人也会这样做，”欣顿博士上周在他位于多伦多的家中接受的一次采访中说。
欣顿博士从 AI 开拓者到末日预言者的转变标志着技术行业的一个特殊时刻，也许是几十年来最重要的转折点。行业领导者认为，新的 AI 系统可能与 1990 年代初推出的网络浏览器一样意义重大，并可能为从药物研究到教育的各个领域带来突破。
但同样也困扰许多业内人士的是，他们担心自己正在向社会释放一些危险的东西。生成式 AI 已经可以成为错误信息的制造工具，它已经开始对工作构成威胁，未来也可能会对人类构成威胁。
“很难看出如何防止坏人利用它来做坏事，”欣顿说。
旧金山初创公司 OpenAI 于3 月发布新版 ChatGPT后，超过 1,000 名技术领袖和研究人员签署了一封公开信，呼吁暂停六个月的新系统开发，因为人工智能技术会对社会及人类构成无法控制的风险和深远的影响。
几天后，拥有 40 年历史的学术团体人工智能促进协会的 19 位现任和前任领导人发布了他们自己的信函，警告人工智能的风险，其中包括微软首席科学官埃里克·霍维茨 (Eric Horvitz )，该公司已在广泛的产品中部署了 OpenAI 的技术，包括其 Bing 搜索引擎。
被称为“AI 教父”的欣顿并没有在这两封信中签名。
现年75岁的欣顿博士终身从事学术研究。1972 年，作为爱丁堡大学的一名研究生，欣顿接受了一个称为神经网络的想法。神经网络是一种通过分析数据来学习技能的数学系统。当时，很少有研究人员相信这个想法，但这成了他毕生的事业。
80 年代，欣顿是卡内基梅隆大学计算机科学教授，但因为不愿接受五角大楼的资助而离开大学前往加拿大。当时，美国大多数的 AI 研究都是由国防部资助的，而欣顿博士强烈反对在战场上使用 AI。
2012 年，欣顿博士和他在多伦多的两个学生 Ilya Sutskever 和 Alex Krishevsky 建立了一个神经网络，可以分析数千张照片并自学识别常见物体，例如花、狗和汽车。
谷歌斥资 4400 万美元收购了欣顿博士和他的两个学生创办的公司。他们的系统后来催生了越来越强大的技术，包括新的聊天机器人，如ChatGPT和Google Bard。Sutskever后来成为 OpenAI 的首席科学家。
大约在同一时间，谷歌、OpenAI 和其他公司开始构建从大量数字文本中学习的神经网络。欣顿认为这是机器理解和生成语言的一种强大方式，但它不如人类处理语言的方式。
去年，随着谷歌和 OpenAI 使用大量数据构建系统，他的观点发生了变化。他仍然认为这些系统在某些方面不如人脑，但他认为它们在其他方面使人类智能黯然失色。“也许这些系统中发生的事情，”他说，“实际上比大脑中发生的事情要好得多。”
欣顿认为，随着公司不断改进他们的 AI ，它们会变得越来越危险。他说，直到去年，谷歌一直是该技术的“适当管家”，小心翼翼地不发布可能造成伤害的东西。但现在微软已经用聊天机器人增强了其 Bing 搜索引擎，并挑战谷歌的核心业务。欣顿说，科技巨头正在陷入一场可能无法停止的竞争。
他的认为眼下就要解决的是互联网将充斥着各种虚假的照片、视频和文字，普通人将“无法再辨别真伪”。
他还担心 AI 技术会颠覆就业市场。今天，像 ChatGPT 这样的聊天机器人往往是对人类工作者的补充，但它们可以取代律师助理、私人助理、翻译和其他处理死记硬背任务的人。“它消除了苦差事，”他说。“而它可能带走的还远远不止于此。”
他也担心该技术的未来版本会对人类构成威胁，因为他们经常从他们分析的大量数据中学习到意想不到的行为。他说，这成为一个问题，因为个人和公司不仅允许 AI 系统生成他们自己的计算机代码，而且实际上自己运行该代码。他担心有一天真正的自主武器——杀手机器人会成为现实。
“这东西实际上可以变得比人类更聪明，”他说。“但大多数人认为这还很遥远，我曾经也这么认为。我曾认为可能还需要30～50年、甚至更长的时间。但现在，我不这么想了。”
许多其他专家，包括他的许多学生和同事，都表示这种威胁只是假设性的。但欣顿认为，谷歌与微软以及其他公司之间的竞争将升级为一场全球竞争，如果没有某种全球监管机制，这种竞争将不会停止。
该领域领先的专家与学者们应该在对 AI 的控制技术和方法上进行合作。“我认为在还不清楚能否有效控制它之前，他们不应该继续扩大规模”，欣顿博士说。
END
免费体验ChatGPT多角色AI助手，关注下面服务号AiPie⬇️
————————— 延伸阅读 —————————
