当前位置:首页 / 业界 / 正文

英伟达联合Equinix与Together AI推出企业级分布式AI推理服务

来源:互联网

英伟达在企业AI推理市场推出新动作。当地时间周三,英伟达与全球数据中心及互联服务商Equinix、开源模型推理平台Together AI共同发布了一项面向企业用户的分布式AI推理服务。

分布式推理是把推理任务拆分后,调度分布在不同地域的多台服务器协同完成计算,使推理能力更贴近企业本地数据。该服务名为“Equinix Inference Exchange”,在Equinix首届客户与合作伙伴大会“Equinix Horizon”上发布,计划于2027年第一季度上市。

三方分工构成互补层次

Equinix表示,该服务主要面向三类需求:让推理更贴近用户与数据以降低时延、帮助企业从封闭模型迁移到开源模型以控制成本,以及在受监管行业中将模型运行在指定地区的机房内,满足数据不出境等要求。

在三方分工中,英伟达承担算力与技术底座角色,输出企业级参考架构,并提供AI基础设施硬件。英伟达的企业级参考架构是一套标准化AI基础设施参考方案,为生产级AI环境提供覆盖计算、网络、存储与软件的整体设计,目标是最大化AI工厂吞吐量、压低单位token成本,使企业不必从零验证硬件选型与组网方案。

Equinix在底层提供电力、先进制冷与日常运维,并通过其互联平台Equinix Fabric连接云、网络与AI服务商。Together AI在最上层运行推理平台,支持超过200个开源模型,并提供多租户共享部署与单租户独享环境两种形态。

平台规模构成合作基础

承载上述方案的平台规模是此次合作的基础。Equinix目前在77个都市区运营超过280个数据中心,拥有逾230个云接入点,超过1.05万家企业在其中立平台上实现互联。Equinix表示,全球前十大AI模型提供商中的八家、前十大AI云服务商中的九家已将基础设施落地在其数据中心内。

推理成为主导性负载

该服务的推出与英伟达近期业务重心的迁移相互印证。英伟达在提交美国证券交易委员会的2026财年年度报告中指出,推理已超越训练成为主导性负载,AI不再只是被构建,而是被大规模使用。报告将这一变化归因于智能体的普及——智能体在推理、规划与解决问题的每一步都在生成token,随着其被部署到更多工作流与行业,算力需求随之放大。

这一判断也体现在产品定位上。英伟达创始人兼首席执行官黄仁勋称,智能体AI的拐点已经到来,搭载NVLink的Grace Blackwell是当前推理领域的领先平台,可将单token成本降低一个数量级。

第三方研究显示同向趋势。麦肯锡测算显示,全球数据中心需求将从2025年的82.3吉瓦增至2030年的219吉瓦;其中AI推理负载由20.9吉瓦升至93.3吉瓦,年复合增速35%。麦肯锡由此判断,到2030年推理将占AI算力的一半以上、占数据中心总需求的三成至四成。

声明:

1、凡本网注明“来源:XXX(非科极网)”的作品,均转载自其它媒体,转载目的在于传播更多行业信息,并不代表本网赞同其观点和对其真实性负责。

2、如因作品内容、版权和其他问题需要与本网联系的,请在该事由发生之日起30日内进行。