总结一下，根据 NVIDIA 的说法，H100 NVL 卡将于今年下半年开始发货。该公司没有报价，但对于本质上是顶级 GH100 的产品，我们预计它们会获得最高价格。特别是考虑到 LLM 使用量的激增如何转变为服务器 GPU 市场的新淘金热。


Nvidia 的“云”，服务起价 37,000 美元

如果你是 Nvidia 的忠实拥护者，请准备好花大价钱使用它在云端的 AI 工厂。

Nvidia 联合创始人兼首席执行官黄仁勋上个月在谈到这家GPU 制造商的季度收益时，提出了 Nvidia DGX Cloud 的计划，本质上是呼吁将公司的 DGX AI 超级计算机硬件和配套软件——尤其是其广泛的企业 AI一套软件——放到公有云平台上供企业使用。

我们必须申明，Nvidia 还不够富有，或者说不够愚蠢，他们无法构建云来与 Amazon Web Services、Microsoft Azure 或 Google Cloud 等公司竞争。但他们足够聪明，可以利用这些庞大的计算和存储实用程序为自己谋利，并在它们构建的基础设施之上销售服务赚钱，而基础设施又基于自己的组件。

DGX Cloud 的巧妙之处不在于有经过认证的本地和云堆栈来运行 Nvidia 的 AI 硬件和软件。您需要向 Nvidia 支付费用，才能以一种 SaaS 模式这样做——Nvidia 可以向您或云出售构建基础设施的部件。

就其本身而言，这是使AI 民主化的最新尝试，将其带出 HPC 和研究机构的领域，并将其置于主流企业的范围内，这些企业非常渴望利用新兴技术可以带来的业务优势递送。

对于 Nvidia 而言，DGX Cloud 的人工智能即服务代表着向云优先战略的强烈转变，以及一种理解——与其他组件制造商一样——它现在既是一家硬件制造商，也是一家软件公司，而公共云是一个使该软件易于访问并且更重要的是将其货币化的自然途径。

对于十多年前将 AI 置于其前进战略中心、构建以 AI 为核心的路线图的公司而言，这是重要的下一步。Nvidia 在 2016 年推出了 DGX-1，这是其第一台深度学习超级计算机。第四代系统于去年推出。2020 年出现了第一批DGX SuperPOD，一年后 Nvidia 推出了 AI Enterprise，这是一个包含框架、工具和相当大剂量的 VMware vSphere 的软件套件。

AI Enterprise 强调了软件对 Nvidia 日益增长的重要性——反映了其他组件制造商的类似趋势——这家公司现在从事软件工作的员工多于硬件。

借助 DGX Cloud，Nvidia 现在可以通过另一种方式将所有这些交付给那些希望在其工作流程中利用生成式 AI 工具（例如来自 OpenAI 的广受欢迎的 ChatGPT）的企业（通过 Microsoft），但没有资源在其内部扩展基础设施数据中心来支持它。他们现在可以通过云访问它，享受它所有的可扩展性和即用即付的好处。