当代理商自行行事时,治理必须生活在数据层中

本期编译精选。

由教育局提交 随着企业给予AI代理商更多的自主权——能够计划,决定和跨系统行动,而无需人类批准每一步骤——一个困难的问题向每个架构审查的中心移动: 当一个特工试图完成一个它从未被授权完成的动作时,什么实际阻止它? 这些都是你的特工, 运行你的模型, 触摸你的数据 在你的基础设施中—— 和他们的责任 他们做什么与你同在。在事后看来, 因为他们不会对自己的行为做出压倒一切的判断。考虑一个简单的规则:永远不要打开车门. 从字面上来说 特工根本进不出车 但如果你改变背景(汽车刚刚坠毁, 此刻的背景就是一切。我们要求特工们做一些明智的事情;这需要明智的规则。本能就是在物剂周围添加护栏:指令,政策,以及模型上方的分层监测. 这些机制很重要,但它们具有共同的结构限制: 车门规则是可信的 直到你决定是否开门为止 代理层的控制只是像代理输出可以预测的那样可靠,自主性正是使该输出难以预测的属性. 治理取决于在某一行动发生之前对其进行审查,但不能与一个同时在数以毫秒内运作的系统保持同步。治理必须成为可执行的,并在代理人员实际开展工作的地方实施:在业务数据层,在背景中,确切地说,在它发生的时刻。数据层是执行点代理通过触摸数据创造值. 他们查询,检索,追踪。

（编译自 VentureBeat；原文