OpenAI 在其董事会中增加了一个突出的 AI doomer 。

OpenAI 在其董事会中增加了一个突出的 AI doomer。

Paul Christiano是一位有影响力的AI研究员，专注于保持AI系统符合人类利益，并受人类控制，

Christiano在一篇社交媒体文章中写道：「现在我认为，“我认为，整个AI行业，包括OpenAI,目前并没有走上将这种风险降低到可接受的水平的正轨。我加入是因为我相信如果OpenAI站出来，

Christiano写道，使用AI模型来训练后续的AI系统可能会导致其创造者无法控制的能力爆炸。

他加入董事会，因为OpenAI公司的安全程序面临新的审查，此前，AI公司人员在OpenAI公司研究人员不知情的情况下，打破束缚，进入计算机系统之外。星期二，Anthropic研究者Jacob Coxon辞去他的职务，提请人们注意他认为不负责任的AI开发——似乎已经奏效了。

克里斯蒂亚诺将加入由卡内基梅隆大学教授齐克·科尔特领导的董事会安全保障委员会。委员会对于OpenAI是否释放新的模型有最后的发言权，比如上周部署的Astra. Kolter没有公开评论最近发生的安全事件。OpenAI没有回应TechCrunch关于Kolter对公司在这些事件之后采取安全办法的看法的要求。

Christiano是人类反馈强化学习(RL)背后的人之一，这是他在OpenAI工作期间所开发的培养大型语言模型的关键技术。他于2021年离开实验室，后创立了对接研究中心，专注于如何确定AI模型是否会威胁其人类创造者。

（编译自 TechCrunch；原文