通过认证的AI代理仍然可以漂移,曝光数据,或者被内存所窃取

本期编译精选。

部署人员的趋势明显重复: 网关是第一个到达的控制小组, 但这是他们最不准备运行的。这是因为网关坐落在身份和归属层上,而这些层大多不存在. 第一层风险不是假设的。6月,CISA在攻击者被野外虐待后,在已知被剥削的脆弱者目录中增加了LiteLLM缺陷. 错误通过网关本身运行在主机上的命令,并用第二个缺陷链住它不需要证书. 这是一个月内在该单一AI网关中披露的7个常见弱点和暴露之一。这是许多企业首先用来保护人工智能的层层。在考虑安全代理架构时,网关控制不应成为第一控制. 他们应该是第五个 多数关于代理安全成熟度的模型都描述了公司今后需要的控制。从我的经验来看,他们往往忽略了描述棕地情景的更困难的问题: 这些控制应如何与已经到位的身份和准入管理系统相配合? 如果控制平面不知道哪个代理人正在行事,谁授权工作,代理人要履行什么任务,使用什么证书,那么背景就不完整了. 网关可能阻碍明确的违反政策行为,但会努力区分合理行动与技术上允许但操作上不适当的行动。在对制剂生产部署进行这些控制排序时,故障模式是明确的: 执法工作很早就开始,而它所依赖的身份和归属背景尚待发展。代理安保作为依赖链,每个控制取决于上游产生的环境。错误的起点 考虑通过一个新的运行时间网关的线路代理流量 一个金融和解代理试图。

（编译自 VentureBeat；原文