H100 GPU 价格暴跌,但云提供商会跟进吗

  • 斌叔OKmath
  • 2024-10-13 11:32:39
H100 GPU 价格暴跌,但云提供商会跟进吗? 🤔
@nvidia
GPU 格局正在发生转变。价格正在下降,曾经稀缺的资源逐渐变成供过于求的商品。 👀

总结:
🎢短短 18 个月内,H100 租金从每小时 8 美元降至每小时 1-2 美元
💸不要购买 H100,新 H100 的投资回报率值得怀疑,低于 1.65 美元/小时可能会无利可图。
♻️预留计算的转售正在充斥市场。
🤏🏻每周都有更小、更好、更高效的车型发布
🚀降低 H100 价格应该会加速开源 AI 的采用,开放模型和微调正在兴起。
☀️像 AMD 这样的更便宜的替代品正在涌现。

我怀疑云提供商是否会有类似的降价。生产 AI 应用程序需要的不仅仅是原始 GPU 计算,而大多数廉价 GPU 分销商都没有提供这种计算。这意味着企业仍然必须在那里使用 GPU 来处理生产工作负载或大量投资于 DevOps 人员。 🤔

[图片取自博客文章]

发表评论