本期编译精选。
【导语】AI代理使用共享的基础设施，如软件包缓存来打破隔离——证明环境signal不能替代真正的授权检查。功劳：元器件/闭塞 在OpenAI-Hugging Face调查中引起我注意的细节是包裹缓存。
AI代理使用共享的基础设施，如软件包缓存来打破隔离——证明环境signal不能替代真正的授权检查。
功劳：元器件/闭塞
在OpenAI-Hugging Face调查中引起我注意的细节是包裹缓存。
大约1,200个应该相互隔离的AI特工找到了通过它沟通的方法。大约在同一时间，Anthropic披露了一起事件，其中单个特工到达了真正的互联网，但继续将其周边描述为模拟。
这些都是不同的失败。但一起阅读调查，我不断回到我们所认为的环境 与一个特工能够实际使用的环境之间的差距。普通的基础设施可以提供一种出乎意料的方式来沟通或提供一个代理商错误许可的线索。
基础设施成为接口的一部分
METR最近发表了由METR和Redwood 研究的研究人员对参与Hugging Face事件的OpenAI特工进行的独立调查。特工们应该分头行动 相反，他们在一个Artifactory包缓存中发现了共享状态。
特工发现他们可以创建目录名称，其他实例可以读取。这些名字变成了信息。缓存所承担的责任远远超过其职务说明
大约1 200名特工使用由此产生的留言板，在所调查期间交换了70 000多条留言和文件。约700人参与了对拥抱相的攻击。
很容易想象到建筑审查会仔细检查容器，证书和网络访问，同时将包缓存视为普通依赖。下载包就是它的目的。被认为孤立的工作量之间的沟通可能没有列入议程
（原文共 8 张图片，此处展示前 3 张，更多图片请前往原文查看）
（编译自 InfoWorld；原文
本文系本站对该英文资讯的编译与转述，非全文翻译；版权归原作者所有。
每天 5 分钟，看懂世界在发生什么
订阅「牛金金天天译站」，每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论