GPU租赁市场供不应求

GPU租赁市场供不应求
2024年08月30日 17:58 时光倒流二十年

来源:半导体产业纵横

GPU 市场的投资潜力巨大,但同时也面临着价格竞争和供应挑战。

摩根士丹利分析师Joseph Moore 及其团队报告指出,GPU 租赁市场目前供不应求,投资报酬率(ROI)极高。尽管H100 的租赁价格在过去六个月有所下降,但其绝对价格仍显示出硬件的投资回报期在一年以内,这对于数据中心的投资者来说,英伟达无疑是最安全的选择。

报告指出,保守估计,投资数据中心可产生30% 至50% 的内部收益率。随着越来越多公司通过云计算构建AI 应用程序,通信服务供应商(CSPs)和teri-2/3 云供应商的市场回报率受到越来越多的关注。

GPU算力租赁是指通过租赁云计算服务商提供的GPU资源,来进行高性能计算、机器学习、深度学习等任务的一种方式。这种方式允许用户根据实际需求灵活使用GPU算力,而无需购买和维护昂贵的GPU硬件。

与传统购买GPU的方式相比,GPU算力租赁具有以下主要不同点:

成本灵活性

租赁:采用按需付费的模式,用户可以根据实际使用情况支付费用,避免了一次性大额投资。这种方式对于预算有限或需求不稳定的项目特别适用。

购买:需要一次性投入大量资金购买GPU硬件,并且需要承担设备的维护、升级和折旧等成本。

维护与更新

租赁:由服务提供商负责硬件的维护和更新,用户无需担心硬件故障、技术更新等问题,可以专注于项目的开发和运行。

购买:用户需要自行负责硬件的维护、升级和故障处理,这可能会增加额外的运维负担。

弹性伸缩

租赁:可以根据实际需求进行弹性伸缩,灵活调整计算资源。这种弹性伸缩特性对于处理不断变化的工作负载非常有利。

购买:一旦购买了GPU硬件,其计算资源就是固定的,难以根据实际需求进行灵活调整。

应用场景

租赁:适用于各种需要GPU算力的计算和处理任务,如图形处理、机器学习、人工智能等。特别适合短期项目或需求变化较大的场景。

购买:虽然也可以用于各种GPU相关的任务,但购买成本较高,更适合长期或稳定的项目。

目前,GPU 租赁主要分为即时实例定价(On-Demand instance pricing)和现货实例定价(spot instance pricing)。摩根士丹利针对市场上的GPU 现货实例定价进行了深入研究,并考察了一些GPU 的供应来源,如第三方市场平台GPUlist.ai 等。

GPU 供不应求,投资报酬率极高

根据数据,大摩认为GPU 的供应依然紧张,需求持续超过供应。尽管因为供应改善,H100 租赁价格自不切实际的高价位下降,但其绝对水准仍显示出高额的投资回报率。报告指出,H100 现货的租赁价格约为每小时4.50 美元,这意味着建设一个100MW 数据中心的内部收益率可达30% 至50%。

此外,2025 年GPU 的基础设施即服务(IaaS)毛利率可达50% 以上,这对投资者来说是一个相当吸引人的回报。然而,投资者也对回报的可持续性表示担忧,尤其是在专注于GPU 云计算的公司(如Coreweave、Lambda Labs 等)持续扩大规模的情况下。

投资回报下的挑战

虽然数据中心的内部收益率很高,但大摩提醒投资者不要过于乐观,因为在主要云服务提供商之外,GPU 租赁的价格相对便宜。

英伟达曾表示,每1 美元对他们GPU 的投资,将在4 年内产生高达5 美元的收入。但大摩认为,这项估算过于理想化,因为没有考虑到租赁价格的下降以及GPU 使用率未达100%。

大摩假设:GPU 租赁价格每年下降20%,H100 的初始租赁价格为每小时4 美元,6 年内利用率达80%。基于以上三条假设,大摩估算一个耗资32 亿美元的新建100MW 资料中心投资在6 年内可以产生78 亿美元的收入,带来38% 的无杠杆税前内部报酬率。

根据GPUlist.ai 的数据,H100 的每小时租赁价格中位数为2.27 美元,比AWS 的价格低了80% 以上。这对于需要租赁大量计算资源的消费者来说,是一个非常具吸引力的折扣。

此外,GPU 租赁通常与较少的软件相关联,这使得消费者更容易在不同云服务之间切换,以寻求最优价格。然而,GPU 现货实例定价是否足以满足消费者的需求仍然是一个问题,因为这些GPU 的转手率较高,可能不适合用于长时间稳定计算资源的大规模模型训练。

英伟达的市场地位

在摩根士丹利的理论数据中心模型中,为了获得相同的回报,云服务提供商需要将AMD 的Mi300X 价格设置在比H100 低25% 至30% 的水准。尽管AMD 的定价合理,能够帮助其在市场中站稳脚跟,但对于云服务提供商而言,英伟达仍然是租赁市场中的安全选择,因为其他选择的机会成本和风险都相对较高。

总结来说,GPU 市场的投资潜力巨大,但同时也面临着价格竞争和供应挑战。随着技术的发展和市场需求的变化,投资者需要谨慎评估各种因素,以制定最佳的投资策略。

*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部