AI真的会杀了我们所有人吗？ 狂欢背后的科学

本期编译精选。

【导语】丹尼尔·梅吉亚斯/盖蒂 担心人工智能可能杀死我们所有人，对立法者如何行事的猜测是无处不在的。自然打破了恐惧是什么，谁在表达这些恐惧，以及接下来会发生什么 9月8日。丹尼尔·梅吉亚斯/盖蒂

担心人工智能可能杀死我们所有人，对立法者如何行事的猜测是无处不在的。自然打破了恐惧是什么，谁在表达这些恐惧，以及接下来会发生什么

对AI的最新担忧是如何开始的？9月8日，研究人员雅各布·克克森(Jacob Coxon)对Wall Street Journal说。他正从设在加利福尼亚州旧金山的AI公司Anthropic辞职。因为他担心该公司正在开发的系统可能失控并摧毁人类

Coxon在之后的一篇文章中，写道：「在十年末，数小时后。因此，领导了Anthropic的“调整科学”的Evan Hubinger（努力使示范行动符合人类价值观）。因此，通过重新张贴信息并添加他自己关于人类灭绝风险“在未来十年内 10%”的估计，扩大了信息。因此，柯克逊的帖子在24小时内超过一亿次收视。因此，

公司首席执行官达里奥·阿莫代(Dario Amodei)随后发表文章，呼吁在AI开发中放慢速度，但不是停止。因此，里瓦尔AI的领导人是旧金山OpenAI的萨姆·阿尔特曼(Sam Altman)和加州帕洛·阿尔托的xAI的埃隆·穆斯克(Elon Musk)。因此，此后一直支持这一建议。因此，

到底AI会怎么杀了我们所有人？因此，

Coxon, Hubinger和Amodei没有给出AI如何处置人类的准确细节。因此，但也有人试图充实各种设想。因此，在由非利润 AI Futures项目开发的名为AI 2027的投机预测中，AI释放出一种生物武器来将人杀死，从而为太阳能电池板和机器人工厂创造出更多的空间。因此，

（原文共 15 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Nature；原文