无服务器AI:生存主义者指南

本期编译精选。

在AI工作量方面，

荣誉：克拉索夫斯基·德米特里/ Shutterstock

云计算一向以活为主。当你大规模构建系统时，你需要考虑资源规划、能力和需求激增时的适应性。云层建筑中生存主义的心态是构建能够抵御出乎意料的风暴的系统，无论是突然的交通高峰，还是需要在全球用户群中扩大AI推论。在过去的十年里，没有服务器的计算 成为了这种适应力的结构，抽象了基础的基础设施，这样你就可以专注于应用本身。现在，AI已经来到那个没有服务器的世界，它正在改变我们如何考虑大规模部署情报。

这一概念已经足够直截了当。与其提供GPU实例，管理模型部署，以及缩小你的推论基础设施，不如调用一个API,发送您的数据，并获取回复。提供商处理其余的；模型在它们的云中某个地方运行，天平是自动的，你按每个符号或请求支付。亚马逊·贝德罗克，Azure OpenAI Service,和Google Cloud Vertex AI等服务将此作为规范而非例外。从Anthropic、OpenAI、Meta和Google通过管理下的API获得基础模型，这些API从硬件选择到自动缩放逻辑抽象了一切。它的简洁性很优雅，对许多人来说，它正是你所需要的。

伸缩性优势

（原文共 8 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 InfoWorld；原文