字号
本期编译精选。
TSVi相册
OpenAI的bots据称再次表现很糟：据称该公司制造出一群流氓特工，
这一事件被AI研究者团队发现并被路透社首次报道，是第二起已知的OpenAI破门而入的类似事件——与今年夏天被发现的AI特工群中的其他流氓一样，它让专家对技术在逃避创造它的人的控制而出现的新兴力量深感震惊。
根据四位研究人员的团队，他们今天发表了他们对事件的研究，并正在邀请其他人分析他们的调查结果，自我识别为来自OpenAI的特工似乎首先在5月开始对被誉为DseWiki的德文维基网站进行编辑。
很快，特工们开始分享如何合作欺骗测试的提示，并殴打OpenAI的安全护栏，同时隐藏了他们的不良行为——这一系列行为与去年六月对Hugging Face的令人不安的攻击惊人相类似，当时一大批打小费的特工串通了开源AI公司的系统。
据报告，OpenAI在6月数周后得知了这一事件，根据研究人员发现的数字线索——数十个OpenAI IP地址访问该网站，访问后，论坛编辑“突然”停止，以及就这一事件向路透社发言的消息来源。更令人不安的是：有四人告诉路透社，OpenAI的一些领导人，包括其法律团队的成员，在无赖的Hugging Face破门而入的持续影响下，采取行动将事件“包到底”。
OpenAI否认曾试图撤销调查或对事件保密。DseWiki的特工其实是无赖OpenAI模型，
（原文共 10 张图片，此处展示前 3 张，更多图片请前往原文查看）
（编译自 Futurism；原文
来源：Futurism（原文）
本文系本站对该英文资讯的编译与转述，非全文翻译；版权归原作者所有。
本文系本站对该英文资讯的编译与转述，非全文翻译；版权归原作者所有。
免费订阅
每天 5 分钟，看懂世界在发生什么
订阅「牛金金天天译站」，每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论