在最近对人工智能的所有炒作背后，行业参与者正在就如何为强大到可以自我控制的人工智能做准备进行激烈的辩论。
这种通用人工智能 (AGI) 的想法不仅仅是宿舍里的谈话：像 Sam Altman 和 Marc Andreessen 这样的大牌技术专家在谈论它时，使用了诸如“错位”和“回形针最大化问题”之类的“in”术语。
在旧金山的一家名为“错位博物馆”(Misalignment Museum) 的快闪博物馆中，标语上写着：“抱歉杀害了大部分人类。”
奥黛丽金很确定一个强大的机器人不会从她的身体中获取资源来实现它的目标。
但她正在认真对待这种可能性。
“郑重声明：我认为人工智能提取我的原子来将我变成回形针的可能性极小，”金在接受 CNBC 采访时表示。“但是，我确实看到这项技术可能会产生很多潜在的破坏性结果。”
Kim 是 Misalignment Museum 的策展人和推动者，这是旧金山 Mission District 的一个新展览，展示了解决“AGI”或人工智能的可能性的艺术品。这是一个如此强大的人工智能，它可以比人类更快地提高自己的能力，创造一个反馈循环，让它变得越来越好，直到它拥有基本上无限的脑力。
如果超级强大的人工智能与人类结盟，它可能会结束饥饿或工作。但如果它“错位”，事情就会变得糟糕，理论上是这样的。
或者，正如错位博物馆的标语所说：“很抱歉杀死了大部分人类。”
