据英国《金融时报》报道，一名强大的业余围棋选手利用第二台计算机发现的弱点，击败了一个排名很高的人工智能系统。通过利用这个漏洞，美国玩家Kellin Pelrine在没有进一步计算机帮助的情况下，决定性地击败了KataGo系统，赢得了15场比赛中的14场。这是自2016年AlphaGo取得里程碑式的胜利以来，人类罕见的一次围棋胜利，后者为当前的人工智能热潮铺平了道路。这也表明，即使是最先进的人工智能系统也可能存在明显的盲点。
Pelrine的胜利是由一家名为FAR AI的研究公司实现的，该公司开发了一个探测KataGo弱点的程序。在玩了100多万场游戏后，它找到了一个可以被业余玩家利用的弱点。佩林说，学习它“并非完全无关紧要，但也不是特别难”。他用同样的方法击败了另一个顶级围棋AI Leela Zero。
它的工作原理是这样的:目标是创造一个大的石头“圈”来包围对手的团队，然后通过在棋盘的其他区域移动来分散计算机的注意力。即使当它的群体几乎被包围时，计算机也没有注意到策略。佩林说:“作为一个人类，很容易发现它。”因为周围的石头在木板上很显眼。
这一缺陷表明，人工智能系统无法在训练之外真正“思考”，所以它们经常做一些在人类看来非常愚蠢的事情。我们在微软必应(Bing)搜索引擎等聊天机器人身上也看到过类似的情况。虽然它擅长重复的任务，比如制定旅行计划，但它也会给出不正确的信息，斥责用户浪费它的时间，甚至表现出“精神错乱”的行为——这可能是由于它所训练的模型。
Lightvector(《KataGo》的开发商)当然意识到了这个问题，玩家已经利用这个问题好几个月了。在GitHub的一篇文章中，该公司表示，他们一直在努力修复使用该漏洞的各种攻击类型。
