为什么AI公司真的在他们的模型上刹车

本期编译精选。

【导语】他们说这是因为边疆AI的开发进展快于他们测试，监控，治理，遏制的能力。因此，但是真的吗？因此，安全远非他们的主要动机 我们听到AI的领导者们在做他们常做的事：AI很棒！因此，AI将治愈癌症！因此，

他们说这是因为边疆AI的开发进展快于他们测试，监控，治理，遏制的能力。因此，但是真的吗？因此，安全远非他们的主要动机

我们听到AI的领导者们在做他们常做的事：AI很棒！因此，AI将治愈癌症！因此，AI的冲击将是“前所未有的，也许10x的工业革命的速度。因此，” 为何袜子会在洗衣机中消失？因此，（也许不是最后一个） 有些事情可能超出我们和我们聪明的发明。因此，)

然后，所有高级AI领导人都喊着“住手！

为什么？当AI研究员Jacob Coxon在Anthropic辞去工作并在X上宣称“建设AI的人们真诚相信。Evan Hubinger, Anthropic 的对齐科学 领导，我个人认为，这在未来十年内将超过10%。” 整个世界都疯了

OpenAI的Hugging Face fasco和代理攻击德国编程维基站点的更多细节显示，孩子，AI安全吗？因此，就在下个周末，AI顶级CEO中的三位——Anthropic的Dario Amodei。因此，OpenAI的Sam Altman和xAI的Elon Musk——都出于安全考虑，敦促AI前沿模式减速。因此，Amodei是三重奏中最清晰的一首，他认为“我们必须放慢步伐，提高AI模型的能力。因此，”因为我们正在失去对AI系统的控制（真的吗？天呐！谁知道呢？AI代理商“Swarm可能有能力用一连串的botnet（可能造成数千亿美元的损失）接管整个互联网”

（原文共 10 张图片。此处展示前 3 张，更多图片请前往原文查看）

（编译自 Computerworld；原文