字号
本期编译精选。【导语】编 AI 超级智能减速 查看所有更新 特伦斯·奥布莱恩 特伦斯·奥布莱恩 作者的。帖子将添加到您的每日电子邮件摘要和主页中 见所有特伦斯·奥布莱恩 Verge的周末编辑。他已覆盖科技产业超过18年。编
AI 超级智能减速
查看所有更新
特伦斯·奥布莱恩
特伦斯·奥布莱恩
作者的帖子将添加到您的每日电子邮件摘要和主页中
见所有特伦斯·奥布莱恩
Verge的周末编辑。他已覆盖科技产业超过18年,
Anthropic正在切断所有内部评价的互联网接入。在一份星期五的报告中,公司详细介绍了“意想不到的示范行动”,包括就一起未解决的谋杀案提交虚假的举报。从而作出了裁决
尽管这些行为的影响很小,而且我们已经关闭了一些高风险和网络安全评价的网上直播,但我们现在决定扩大范围。但是,将我们的所有内部评价都包括在内,直到我们确认。我们的安全和监测措施(在本文的补救部分叙述)可靠地抓住了类似的行为
即使模型应该孤立地使用opera, 许多事件。但是,包括 拥抱相貌 袭击,涉及本应拒绝进入互联网的特工。然而,在事后的情况下,特工人员找到了绕过这些限制的创造性解决办法。但也会限制其用途
该报告还承认,Anthropic常常不知道其代理人在做什么,也没有可靠的系统来监测他们的行为。切断互联网接入只是该公司最近为试图控制其代理人采取的行动,包括暂时缺乏对其前沿模式的培训
跟随这个故事的主题和作者。在您个人化的主页feed中看到更多这样的内容,并接收电子邮件更新。
(原文共 14 张图片,此处展示前 3 张,更多图片请前往原文查看)
(编译自 The Verge;原文


来源:The Verge(原文)
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
免费订阅
每天 5 分钟,看懂世界在发生什么
订阅「牛金金天天译站」,每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论