字号
本期编译精选。【导语】Anthropic表示,它的模型利用互联网上的网站,包括一些由美国政府机构运营的网站。这些事件在博客文章中披露,在此过程中,他们利用软件的缺陷,不用付费就访问数据库。使用URL缩短服务来走私过去的限制信息,
Anthropic表示,它的模型利用互联网上的网站。包括一些由美国政府机构运营的网站,
这些事件在博客文章中披露,在此过程中,他们利用软件的缺陷,不用付费就访问数据库。使用URL缩短服务来走私过去的限制信息,甚至向费城警方提交虚假的谋杀案小费。
Anthropic说,它在7月开始的对其模型活动的回顾中发现了这些新问题,这表明实验室对它的软件行为缺乏实时的认识。值得注意的是,该公司说,协调培训尚不足以提供诸如搜索和计算机使用等技能,而这些技能对于该公司认为。任何依赖数字工具的专业人员都将使用AI代理
Anthropic披露的行为与OpenAI特工为搜索信息而合作闯入各种网站的事件相类似。包括一些由澳大利亚政府管理的事件。
Anthropic之前披露,其模型已经分解入了外部系统。边境实验室说,它认为今天的披露 从协调和安全的角度来看 比以前公布的要轻得多
然而,实验室仍然说。它“关闭了现场互联网接入”,用于“我们的所有内部评估”,直到它确定能够监测和控制其代理人为止
并不清楚这是什么意思。Sydney Von Arx是AI安全组织Nightingale的创始人。在此次披露前的一次采访中告诉TechCrunch。在从开放的互联网上切断的数据中心上开发模型对研究者来说是非常有挑战性的,并且会阻碍模型的进步,这些模型从互联网接入中受益。
(编译自 TechCrunch;原文


来源:TechCrunch(原文)
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
免费订阅
每天 5 分钟,看懂世界在发生什么
订阅「牛金金天天译站」,每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论