为什么你最大的隐藏AI成本不是GPU?

为什么你最大的隐藏AI成本不是GPU?。

GPU的法案在AI预算审查时, 如果你没有准备和降低输入模型背景的数据, 你只是花钱处理噪音。 建立AI应用程序的团队常常默认旧习惯——收集所有可能相关的数据,并担心日后有什么重要. 它们将完整的数据集,如原始日志或整个表格,倒入一个即时或矢量数据库,而不首先确定什么是有价值的。 这个方法在数据仓库里很有效, 那里一个查询可以直接跳到它需要查看的行上。 推论相异. 模型会烧掉信物,通过多余的文件和无关的历史阅读,以找到重要的事实. 你最终付出了超过必要的。 这是奢侈的组织, FinOps基金会的2026年FinOps状况调查发现,73%的企业称其AI成本已经超过了预算. 在数据到达模型之前进行过滤,而不是将原始数据写入一个湖并清理出下游,可以使用Apache Flink等流处理引擎来过滤并准备随行的数据. 只有高价值,高自信的数据才能被发送到GPU集群,而其他的都可以被丢弃或路由到更便宜的地方. 一个具有干净、相关背景的模型能够更好地利用它处理的每个标志。 这不仅仅是预算问题。 一个分批处理和查询下游数据的数据管道正在就可能已经过时的数据作出决定。 让人工智能管道更有效率, 如果输油管本身不断断裂, 输油管断裂会带来自己的成本。 当多个下游系统在读取同一个溪流时,一个字段名称会毫无警告地变化,所有东西都会被建造 o。

（编译自 InfoWorld；原文 https://www.infoworld.com/article/4210670/why-your-biggest-hidden-ai-cost-isnt-gpus.html，编译转述，非原文转载）