业余爱好者 Kellin Pelrine 利用了在其他方面主导棋盘游戏大师的系统中的弱点
一位人类棋手在棋盘游戏围棋中全面击败了排名第一的人工智能系统，这与 2016 年被视为人工智能崛起里程碑的计算机胜利大相径庭。
美国选手 Kellin Pelrine 比顶级业余选手排名低一级，他利用另一台计算机发现的先前未知的缺陷击败了机器。但他赢得 15 场比赛中的 14 场的正面交锋是在没有计算机支持的情况下进行的。
这一此前未曾报道过的胜利凸显了当今大多数广泛使用的人工智能系统所共有的最佳围棋计算机程序的弱点，包括总部位于旧金山的 OpenAI 创建的 ChatGPT 聊天机器人。
让人类重新登上围棋棋盘榜首的策略是由一个计算机程序提出的，该程序探索了人工智能系统以寻找弱点。然后佩林义无反顾地提出了建议的计划。
“我们利用的这个系统出奇地容易，”设计该程序的加利福尼亚研究公司 FAR AI 的首席执行官 Adam Gleave 说。他补充说，软件与顶级围棋系统之一的 KataGo 进行了超过 100 万场比赛，以找到人类棋手可以利用的“盲点”。
AlphaGo 是由谷歌旗下的研究公司 DeepMind 设计的系统，在 2016 年以四比一的比分击败了世界围棋冠军李世石。李世石将他从围棋退役归因于（打开一个新窗口）三年后到人工智能的兴起，说它是“无法被打败的实体”。AlphaGo 不是公开可用的，但 Pelrine 战胜的系统被认为是同等的。
在围棋游戏中，两名棋手交替将黑白棋子放在标有 19x19 格子的棋盘上，力图包围对方的棋子并围出最大的空间。大量的组合意味着计算机不可能评估所有潜在的未来动作。
Pelrine 使用的策略包括慢慢地将一大圈棋子串在一起以包围他的对手自己的一组，同时在棋盘的其他角落移动以分散 AI 的注意力。Pelrine 说，围棋机器人没有注意到它的弱点，即使在包围圈接近完成时也是如此。
“作为一个人，它很容易被发现，”他补充道。
加州大学伯克利分校计算机科学教授 Stuart Russell 表示，在一些最先进的围棋人工智能系统中发现的弱点表明，支撑当今最先进人工智能的深度学习系统存在根本性缺陷。
他补充说，这些系统只能“理解”它们过去接触过的特定情况，无法以人类认为容易的方式进行概括。
“这再次表明我们过于草率地认为机器具有超人的智能水平，”拉塞尔说。
据研究人员称，围棋系统失败的确切原因是一个推测问题。Gleave 说，一个可能的原因是 Pelrine 所采用的策略很少被使用，这意味着 AI 系统没有接受过足够多的类似游戏的训练以意识到它们是脆弱的。
他补充说，当 AI 系统暴露于针对下围棋计算机的那种“对抗性攻击”时，通常会发现 AI 系统存在缺陷。尽管如此，“我们看到非常大的 [AI] 系统在几乎没有验证的情况下被大规模部署”。
—— END ——
