英伟达 H100 GPU 海外租金价格暴跌，算力泡沫是否开始破裂？

近日，一篇题为《Nvidia H100 GPU海外租用价格跌至2美元/小时》的文章在国内迅速传播，市场也纷纷关注“算力泡沫是否开始破裂”、“H100算力不再好”等话题进行讨论。

此前，美国AI推理服务商Featherless.AI联合创始人Eugene Cheah撰文称，最近频频收到来自算力租赁公司的广告邮件，称单颗NVIDIA H100 GPU的租赁价格已降至约1000元。 2美元/小时，甚至低于2023年约5美元/小时的市场平均价格，几乎减半。

去年，英伟达预计 4 美元/小时的 GPU 价格将维持四年不变，但不到一年半的时间价格就下降了。

Eugene Cheah在文章中表示，AWS、Meta、Google等大中型AI模型公司通过长期租赁的方式提取算力价值。目前，除非你是一家想要构建大规模智能计算集群的公司，否则不要购买新的H100。 “租用算力”是一种更经济实用的选择。

市场普遍认同H100海外降价趋势，但认为“2美元/小时”甚至“1美元/小时”主要是由于Lambda Labs等个别初创算力租赁公司进行促销为吸引顾客，并不反映市场平均价格水平。

界面新闻记者在浏览亚马逊AWS云服务平台官网时发现，根据短租和长租的不同情况，换算成一台服务器上的8块GPU，H100的最新价格为12美元。 /小时（基于一年长期租赁合同），有两种不同的费率：5美元/小时（基于三年长期租赁合同）。另一家云厂商Google Cloud的类似产品价格也在10美元左右。

国内一位从事AI算力租赁业务的业内人士告诉界面新闻，海外H100降价背后的逻辑很容易理解——随着今年NVIDIA新推出的GPU产品H200和B200，新产品的性能表现如何？更强。平均而言，H100的算力成本相对较低，原本的老产品自然需要降价。唯一的区别在于降价的幅度和速度。据他了解，每小时5至8美元更能代表目前海外主流平台的价格水平，也符合NVIDIA此前预测的产品价格走势。

近期英伟达的新品上市销售后，市场反响依然热烈。

该公司CEO黄仁勋在本月出席研讨会时透露，B200 GPU近期开始量产交付后，受到了客户的青睐。未来 12 个月的所有 Blackwell 架构 GPU 订单均已售罄，任何新客户都需要等到 2025 年才能收到产品。

“国内的情况和海外不一样，因为英伟达的高端显卡被禁售，所以很难拿到新产品，他们走了一条不同的路。”上述人士认为，海外降价对国内几乎没有影响。现阶段，国内算力租赁市场最大的问题仍然是供需失衡。 “国内计算资源极其分散。大多数时候，卖家找不到买家，买家也找不到卖家。”

究其原因，是目前国内算力资源供给总量有限，无法按需分配。

据界面新闻记者了解，除了AI GPU H100和A100之外，国内用于训练AI模型的计算资源还包括英伟达的消费级GPU产品4090，以及国内不同厂商的AI算力。

与此同时，国内从事算力租赁的企业鱼龙混杂，产品服务和价格缺乏统一标准。能够像海外AWS、谷歌云这样为客户提供标准化租赁服务的公司屈指可数。

多位市场人士告诉界面新闻，今年国内计算资源租赁的服务器价格确实出现了波动。年初一台H100服务器的市场价格约为每年12万元，目前市场价格约为7万元。

曾参与国内地方政府智能计算中心建设的一家科技公司CEO提到，由于字节跳动、阿里巴巴、腾讯等互联网巨头掌握的计算资源主要用于自家的大型模型，很少向公开市场提供租赁服务。 。现在市场上从事算力租赁的厂商大多是销售服务器硬件，无法像过去的云计算厂商那样提供标准服务和统一定价。

“这些算力租赁服务商大多因去年算力需求激增而囤积了一定数量的AI服务器现货，然后将算力硬件炒作‘期货’。以保证硬件成本还款后，他们很少采用按小时定价来灵活提供服务，而且很多订单要求最短租期为一年甚至更长，这是一笔相当大的成本。”这位CEO认为，国内市场降价主要影响的是这群“投机者”。 ”，他们手中的硬件资产正在贬值。

据两位AI服务器销售人员介绍，目前国内非公开渠道流通的少量H100服务器现货价格在240万元至250万元左右，较去年的近300万元有所下降。

在上述科技公司CEO看来，仅通过H100的价格波动来预测“算力泡沫的破灭”还为时过早。

在供应方面，与Meta、微软、特斯拉等海外算力巨头已经拥有数十万块H100 GPU并持续加大采购量相比，国内算力总量有限，各地区还在加紧采购加大建设投资。智能计算中心。今年政府对算力建设的投资方向仍然主张“适度超前”，增加供给。

从需求角度来看，无论是AI大模型训练或推理，还是支持传统企业通过AI探索业务转型，先进的计算资源始终是市场上的“抢手货”。

“市场上真正有资源和实力建设算力中心的客户还是很少。今年我们接触到的大量客户仍然对实惠、稳定、按需的算力极度渴求。”首席执行官说。