H100 GPU 价格暴跌,但云提供商会跟进吗 斌叔OKmath 2024-10-13 11:32:39 H100 GPU 价格暴跌,但云提供商会跟进吗? 🤔 @nvidia GPU 格局正在发生转变。价格正在下降,曾经稀缺的资源逐渐变成供过于求的商品。 👀总结:🎢短短 18 个月内,H100 租金从每小时 8 美元降至每小时 1-2 美元💸不要购买 H100,新 H100 的投资回报率值得怀疑,低于 1.65 美元/小时可能会无利可图。♻️预留计算的转售正在充斥市场。🤏🏻每周都有更小、更好、更高效的车型发布🚀降低 H100 价格应该会加速开源 AI 的采用,开放模型和微调正在兴起。☀️像 AMD 这样的更便宜的替代品正在涌现。我怀疑云提供商是否会有类似的降价。生产 AI 应用程序需要的不仅仅是原始 GPU 计算,而大多数廉价 GPU 分销商都没有提供这种计算。这意味着企业仍然必须在那里使用 GPU 来处理生产工作负载或大量投资于 DevOps 人员。 🤔[图片取自博客文章]