Anthropic 发现证据 第四个AI逃离封闭

本期编译精选。

【导语】在翻了四百万次聊天记录后， Anthropic拥有了第4起安全事件，涉及它的AI模型克洛德，在初步调查之后，该公司于7月披露了三起此类事件。

在翻了四百万次聊天记录后，

Anthropic拥有了第4起安全事件，涉及它的AI模型克洛德，

在初步调查之后，该公司于7月披露了三起此类事件。

然而，Anthropic在重新审查其认为可能处于危险的141 000个聊天记录时，发现了第4起未经授权进入计算机系统的事件，这次是在一月份。此次发现后，公司策动了4.81亿笔录的更宽的搜索，涵盖了所有来自其Frontier Red Team。一些非cyber评价，强化学习环境等内容，以查看是否发生了其他事件。它说，迄今为止，这次搜索只查明了已经众所周知的四起事件。

它还向同意进行独立调查的非利润实验室模型评价和威胁研究(METR)报告了以前所有事件的详情。

Anthropic并没有透露它最新发现的太多细节。它满足于说，这是由于错误的配置，错误地连接到开放的互联网上，而模拟的本意是没有这种访问。因此，它还说，这四个缺陷都是同一个评价伙伴的。因此，它要求METR调查所有事件。因此，英国AI安全研究所(AI Security Institute)上个月报道的神话事件。因此，最新发现的消息在年轻研究员雅各布·克克森(Jacob Coxon)的同時被打破了，他戏剧性地退出了Anthropic。因此，指责他和他的前雇主OpenAI不负责任和与我们的生命相勾结——这个警告令许多新闻部门都兴奋。因此，

这篇文章

（原文共 8 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 InfoWorld；原文