三层代理AI安全:自主代理的防御深度架构

本期编译精选。

由 Nutanix 自主系统介绍,这些系统可以解释、作出自己的决定,并在整个环境中执行行动,这带来了一种风险,即应用程序级别的控制从未建立起来。Nutanix的高级产品管理总监Oscar Wahlberg表示, 捕捉恶意提示的护栏不会阻止特工产生幻觉并做不该做的事,比如不小心删除数据库或用证书泄露敏感数据,但后来却用于完全不同的东西瓦伯格说. 这就是企业将自主代理从实验中移出并投入生产时的中心问题. 一旦一个代理系统被授予跨数据中心的执行权限,安全态势就必须被扩大为一个跨越基础设施、存储、计算、联网和治理控制平面的深入防御架构。每一层都处理不同类别的风险,而不是在整个堆栈中重复相同的控制. 没有任何单一的安全控制或供应商能够单独提供这种保护。防御深度取决于这些层层合作. 通过将责任划分到整个堆中,坚持零信任分割,各组织可以建立一个安全框架来改进其总体态势。了解每一层中哪些风险是将深入防御原则转化为实际安全框架,其中三层各有明确的责任。基础设施层:在AI代理管理的地方建立信任 基础设施层的基本责任是建立信任的根基,它回答了一个简单的问题:谁在环境中运作? 这种可信赖的身份成为所有安全控制的先决条件。在一个组织能够信任一个代理人的行为之前,它首先必须信任其完整性。

（编译自 VentureBeat；原文