在OpenAI,

在OpenAI,。

人工智能

公司内部的警钟应该阻止模型训练前进。 为什么他们不呢？

以

• Grace Huckins 存档页面

麻省理工学院技术评论 QQ Getty Images, Adobe Stock

这个故事最初出现在我们关于AI的每周通讯"算法"中。 先在收件箱里写出这样的故事 在这儿签名

在OpenAI发布这份报告的前一天，我与一位计算机科学教授兼著名校正专家David Krueger进行了交谈，他从蒙特利尔大学离职，寻找并领导了一个名为Evitable的AI安全非营利组织。 他说他真正希望在报告中看到的是对事件背后的人的因素的分析。

他说，“当你看一看事故和事件时，人们常常试图找到失败的技术来源，但这可能给人一种非常不准确和令人误解的感想，即失败为什么会发生。” “如果人们总是在割弯子，如果人们没有处于一种把安全放在优先地位并有适当激励和结构的文化中，[事故]就必然会发生。”

下一个读取

报告没有满足克鲁格的希望。 它的38页详细介绍了以"哈金斯面部黑客"为高潮的特工不当行为的多月进展，探索了这一不当行为发生的技术原因，并列举了为防止未来类似事件正在采取的步骤。 但并没有考虑公司文化在事件中可能发挥的作用，

（编译自 MIT Tech Review；原文 https://www.technologyreview.com/2026/08/31/1143180/hugging-face-hack-could-indicate-cultural-issues-at-openai/，编译转述，非原文转载）