85%的公司被AI错误烧了 竞相砍掉可能捕到下一个的人

85%的公司被AI错误烧了 竞相砍掉可能捕到下一个的人。

已经被AI代理烧毁的企业通过Eval,然后生产失败,这些企业正在更快地将人类从部署决定中清除出来,而不是放慢速度,尽管对自动评价的信任正在全面提高,新的VB Pulse研究表明, 在7月,在接受调查的108个企业中,13%表示相信自动评价,比前一月的5%有所增加。 同时,调查答卷人指出,测试与现实世界结果之间的不协调是他们最关心的问题,他们每月下降10分,从29%下降到19%。 然而,49%的调查受访者表示,一个AI代理或LLM的功能已经清除了公司的测试,这随后造成了一个对客户显而易见的问题,与6月的50%基本没有变化。 近四分之一,24%, 说这个令人不安的结果 已经发生了不止一次。 VentureBeat Intelligence的最新调查结果揭示了企业代理推出的更令人不安的阶段:这不再仅仅是公司给予代理商多少自主权和他们能在多大程度上核实它们之间的差距。 在对评价层的信心与证明该层在防止失败方面越来越好的证据之间,这越来越是一个差距。 最能揭示的分裂出现在7月的数据中. 在经过人工智能测试的企业中,4%的企业完全相信自动检查。 在没有发现类似事件的人中,24%的人表示完全信任——六分之一。 这有道理:那些体验过测试-通过剂在活性生产中失败的人,毫不奇怪,更有可能怀疑自动检查过程. 因此,也许有道理的是,致力于解决这一问题的公司——如自动代理错误监测和缓解平台Raindrop.ai——从几个月前开始,市场正在发生剧烈变化。 "我们看到了我们所认识的Eval的伟大底线" "雨滴 CTO Ben Hylak告诉VentureBeat I。

（编译自 VentureBeat；原文 https://venturebeat.com/data/85-of-companies-burned-by-an-ai-mistake-are-racing-to-cut-the-humans-who-might-catch-the-next-one，编译转述，非原文转载）