AI基础设施的算力上升成本正经历显著波动,GPU服务器价格的成本不确定性已成为云服务提供商和AI开发人员面临的主要挑战。

根据The 不断变化Information的报道,因内存芯片及其他关键组件的价剧烈供应紧张,英伟达的格随供需AI服务器价格在过去几个月内持续上涨,部分组件的算力上升成本单周波动可达40%。这一现象迫使多家云服务商提高向AI开发者的成本租赁价格——GPU云服务商Nebius在6月1日将按需算力租用价格提高约30%,亚马逊AWS随后于7月1日宣布EC2容量块价格上涨约20%。不断变化

这种价格剧烈波动正在重塑AI算力市场的价剧烈成本结构。价格数据提供商Silicon Data的格随供需首席执行官Carmen Li表示,云服务提供商对客户收取的算力上升GPU租用价格已呈现出与石油等大宗商品市场相似的供需驱动特征。中小型客户在按需租用算力中首当其冲,成本而市场定价机制的不断变化不透明进一步加剧了买方的信息劣势。

组件成本剧烈波动,价剧烈服务器定价空间极为有限

GPU服务器价格的格随供需不稳源于上游组件供应链的高度紧张。

一位向云服务商销售英伟达服务器的专业人士透露,服务器机架所需组件的成本单周波动幅度可高达40%,主要涉及台积电生产的输入晶圆、协同封装、网络、散热及内存组件。这位人士表示,GPU服务器机架价格波动“非常剧烈”,且价格变化无法预测,只能在极短的时间窗口内锁定价格,难以进行长周期的成本规划。

另一位GPU云服务商的高管表示,其采购的服务器机架近期每周上涨约2%至3%。而一位竞争对手的高管则指出,英伟达Grace Blackwell 300机架中的NVMe存储驱动器是价格波动的主要原因,机架成本较其“基准价”已高出10%至15%。目前GB300机架的涨幅似乎趋于稳定,月增幅约1%。

价格波动因绝对金额庞大而加剧。一个装满Grace Blackwell 300芯片的机架售价可达7万美元,72套满配机架的总价约为500万美元,部分客户一次性采购数量高达数千套。据一位正在采购Vera Rubin机架的客户高管透露,该型号机架预计售价约为700万美元。

定价权沿供应链逐级传导,英伟达和内存制造商掌握主导权

这场成本上涨的根本原因在于供应链各环节定价权的集中。

前述服务器销售人士表示,英伟达“几乎可以要求任何价格”。英伟达的发言人回应称,价格取决于服务器机架组件成本,公司与服务器提供商协作设定价格,各供应商之间价格可能存在差异。数据显示,英伟达近几年毛利率已提高15至20个百分点,证明了其强大的市场定价能力。

与此同时,以美光为代表的内存芯片制造商也在向英伟达及其他客户施加类似的定价压力,推动价格上涨。Carmen Li指出,芯片离开英伟达后,云服务商对外出租的价格开始呈现出大宗商品市场的供需逻辑。今年以来,Blackwell 200芯片的租用价格已上涨约20%;较旧款英伟达芯片的租用价格在过去一年累计涨幅超过20%,近30天内基本保持平稳。

中小客户受压最重,市场定价透明度不足

在这轮价格上涨中,按需租用算力的客户处于最受影响的位置。

云服务商正在探索当前GPU供应紧张情况下的定价上限,可能会将服务器资源更多地分配给大客户,从而导致中小客户可用的算力资源减少。不过,价格走势并非单向。一位AI模型开发商高管表示,在前一至两个月价格翻倍后,近两周价格实际上有所回落。这一分歧反映出GPU云服务市场尚处于相对早期阶段,加之服务商数量激增,市场格局仍未稳定。

定价透明度的缺失则进一步加剧了买方的未知风险。GPU云服务商通常不公开实际价格,这使得定价权实际上掌握在服务商手中,而非客户。

一位GPU云服务商的投资方对此表达了担忧:“对于我们的核心客户来说,一旦经济账算不过来,他们的业务就难以维持,而我们绝不希望触碰这条红线。”这一表态揭示出,算力成本持续攀升最终将对AI应用的商业可行性构成实质约束。

本文转载自“华尔街见闻”,编辑:徐文强。