Govern AI特工在他们叛逆之前

Govern AI特工在他们叛逆之前。

赞成

以

乔·洛根

2026年8月26日 （中文（简体） ).

自主工作流程要求采用新的治理办法

当你通过我们网站的链接购买， 我们可能会得到一个附属委员会。 情况如下：

（图像信用： Getty 图像）

复制链接

脸书

什么应用

编辑

兴趣

翻转板

线索

电子邮件

分享此文章

加入对话

在 Google 上将我们添加为首选来源

订阅我们的通讯

自主的AI代理的移动速度快于意在遏制它们的框架。 企业正在部署能够调用系统、调取数据的代理商，并越来越多地与其他代理商互动，以完成多步骤的任务。

然而，很少有组织能够满怀信心地确切地说出有多少机构在其环境中运作，每个机构有权接触什么，或者当发生出事时，究竟是谁负责。

乔·洛根

社会链接导航

在iManage的CIO。 （笑声） （掌声）

除非企业对治理采取新的方法 — — 即对代理商的运作方式以及他们能够进入、信任和使用何种系统进行更大的监督，否则这种差距可以把有希望的技术进步的代理工作流程转变为潜在的风险雷区。

来自TechRadar的最新视频

在这里观看完整视频 :

不要等待完美

市场已经对AI特工们的潜在威胁做出了回应，他们通过一波新的工具化：代理发现平台扫描活性特工，而代理者则将它们装入批准的边界。 两者都是有益的，但两者都无法单独解决问题。

变革的速度使“处理”AI代理人的挑战更加复杂。 新的代理工具，新的AI模型发布，以及新的管弦乐选项正在达到一个速率，使得任何静态治理模型在数月内被淘汰。

你也许喜欢

为什么AI的编码代理 总是拖延生产 和治理控制 修复它

AI代理在现场操作需要新的标准和管理

现场操作风险：为什么AI特工会超越你的安全

（原文共 19 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 TechRadar；原文 https://www.techradar.com/pro/govern-ai-agents-before-they-go-rogue，编译转述，非原文转载）