5 月 24 日報道，在 2022 年臺北國際電腦展(Computex)上，英偉達宣布推出液冷 A100 PCIe GPU，以滿足客戶對高性能碳中和數據中心的需求。這在主流服務器 GPU 中尚屬首例。

同時，英偉達宣布多家領先廠商采用全球首批基于英偉達自研數據中心 CPU 的系統設計，并有 30 多家全球技術合作伙伴在 Computex 上發布首批基于英偉達 Jetson AGX Orin 的邊緣 AI 與嵌入式計算系統。

當前英偉達正圍繞 CPU、GPU、DPU 這數據中心三大芯片支柱全面發展，以輔助其合作伙伴構建實現新一波數據中心轉型、構建現代 AI 工廠。其中，CPU 管理整個系統的運行，GPU 負責提供核心計算能力，DPU 負責處理安全的網絡通信并提供網絡內置計算能力以優化整體性能。

英偉達硬件工程高級副總裁 Brian Kelleher 透露說，英偉達將每種芯片架構的更新節奏設定為兩年，一年將專注于 x86 平臺，一年將專注于 Arm 平臺，無論客戶與市場偏好如何，英偉達體系架構和平臺都將支持 x86 和 Arm。

英偉達加速計算業務副總裁 Ian Buck 談道，如果世界上所有的 AI、高性能計算、數據分析工作負載都在 GPU 服務器上運行，英偉達預估每年可節省超過 12 萬億瓦時的電力，相當于每年減少 200 萬輛汽車上路。

一、液冷 GPU：同等性能、更少耗電

液冷技術誕生于大型機時代，在 AI 時代日臻成熟。如今，液冷技術已經以直接芯片(Direct-to-Chip)冷卻的形式廣泛應用于全球高速超級計算機。英偉達 GPU 在 AI 推理和高性能計算方面的能效已比 CPU 高出 20 倍，而加速計算也順理成章地將采用液冷技術。

英偉達估算，如果將全球所有運行 AI 和高性能計算的 CPU 服務器切換為 GPU 加速系統，每年可節省高達 11 萬億瓦時的能源。節約的能源量可供 150 多萬套房屋使用 1 年。

今日，英偉達發布了率先采用直接芯片冷卻技術的數據中心 PCIe GPU。這款液冷 GPU 可在減少能耗的同時維持性能不變，現已進入試用階段，預計將于今年夏季正式發布。

旗下管理超過 240 個數據中心的全球服務提供商 Equinix 已在驗證 A100 80GB PCIe 液冷 GPU 在其數據中心的應用，這也是該公司為實現可持續性冷卻和熱量捕獲的綜合性方案中的一部分。

在單獨的測試中，Equinix 和英偉達均發現：采用液冷技術的數據中心工作負載可與風冷設施持平，同時消耗的能源減少了約 30%。英偉達估計，液冷數據中心的 PUE 可能達到 1.15，遠低于風冷的 PUE 1.6。

在空間相同的條件下，液冷數據中心可實現雙倍的計算量。這是由于 A100 GPU 僅使用一個 PCIe 插槽，而風冷 A100 GPU 需使用兩個 PCIe 插槽。

今年晚些時候，華碩、新華三、浪潮、寧暢、超微、超聚變等至少十幾家系統制造商將在其產品中使用液冷 GPU。

據悉，英偉達計劃于明年推出的一版 A100 PCIe 卡中搭載基于 NVIDIA Hopper 架構的 H100 Tensor Core GPU。近期內，英偉達計劃將液冷技術應用于自有高性能數據中心 GPU 和 NVIDIA HGX 平臺。

二、數十款基于 NVIDIA Grace CPU 的服務器將于明年出貨

Grace 是英偉達首款數據中心 CPU，專為 AI 工作負載而打造。該芯片有望在明年出貨，將提供兩種外形規格。

上圖左側 Grace-Hopper 是一種旨在加速大型 AI、高性能計算、云和超大規模工作負載的單一超級芯片模組，在 Grace CPU 和 Hopper GPU 之間實現了芯片級直連，CPU 與 GPU 通過帶寬可高達 900GB / s 的互連技術 NVLink-C2C 進行通信。

Brian Kelleher 說，Grace 將以比任何其他 CPU 快 15 倍的速度，將數據傳輸到 Hopper，并將 Hopper 的工作數據大小增至 2TB。

同時，英偉達還提供將兩個 Grace CPU 芯片通過 NVLink-C2C 互連在一起的 Grace 超級芯片。Grace 超級芯片擁有 144 個高性能 Armv9 CPU 核心，內存帶寬高達 1TB / s，能效是現有服務器的 2 倍。包括 1TB 內存在內的整個模組，功耗僅為 500W。

除了 NVLink-C2C 外，英偉達英偉達亦支持今年早些時候發布、仍在發展完善的 chiplet 標準 UCIe。

今天，英偉達發布 4 種面向標準數據中心工作負載的 Grace 參考設計：

1、適用于云游戲的 CGX;

2、適用于數字孿生和 Omniverse 的 OVX;

3、適用于高性能計算和超級計算的 HGX;

4、適用于 AI 訓練、推理和高性能計算的 HGX。

緊接著，英偉達宣布推出 HGX Grace 和 HGX Grace Hopper 系統，將提供 Grace Hopper 和 Grace CPU 超級芯片模組及其相應的 PCB 參考設計。兩者均為 OEM 2U 高密度服務器機箱而設計，可供 NVIDIA 合作伙伴參考與修改。

華碩、富士康工業互聯網、GIGABYTE、QCT、Supermicro 和 Wiwynn 的數十款服務器型號的 Grace 系統預計將于 2023 年上半年開始發貨。

三、首批 Jetson AGX Orin 服務器和設備發布

英偉達 Isaac 機器人平臺有 4 個支柱：一是創建 AI;二是在虛擬世界中仿真機器人的操作，然后在現實世界中進行嘗試;三是構建實體機器人;四是管理已部署機器人隊列的整個生命周期。

在構建現實世界的實體機器人并進行部署方面，英偉達 Jetson 已成為適用于邊緣和機器人的 AI 平臺，擁有超過 100 萬開發者、超過 150 個合作伙伴，超過 6000 家公司使用 Jetson 用于量產。

Jetson AGX Orin 采用英偉達 Ampere Tensor Core GPU、12 個 Arm Cortex-A78AE CPU、下一代深度學習和視覺加速器、高速接口、更快的內存帶寬、多模態傳感器，可提供每秒 275 萬億次運算性能，相當于一臺“掌上服務器”。

在針腳兼容性與外形尺寸相同的情況下，其處理能力超過前代產品英偉達 AGX Xavier 8 倍。

Jetson AGX Orin 開發者套件自 3 月開始已通過經銷商在全球發售，生產模塊將于 7 月開始發售，起售價為 399 美元。Orin NX 模塊尺寸僅為 70 毫米 x45 毫米，將于 9 月上市。

面向邊緣 AI 和嵌入式計算應用，研揚、凌華、研華等全球 30 多家英偉達合作伙伴在 Computex 上發布了首批基于英偉達 Jetson AGX Orin 的生產系統，覆蓋服務器、邊緣設備、工業 PC、載板、AI 軟件等品類。

這些產品將推出有風扇和無風扇配置并且提供多種連接和接口選項，并會加入適用于機器人、制造、零售、運輸、智慧城市、醫療等重要經濟部門或加固型應用的規格。

為了加速 AMR 的開發，英偉達還推出用于 AMR 的先進計算和傳感器參考設計 Isaac Nova Orin。

Nova Orin 由 2 個 Jetson AGX Orin 組成，支持 2 個立體攝像頭、4 個廣角攝像頭、2 個 2D 激光雷達、1 個 3D 激光雷達、8 個超聲波傳感器等多種傳感器，參考架構將于今年晚些時候推出。

Jetson 平臺也擁有全方位的英偉達軟件支持。為了滿足特定用例的需求，英偉達軟件平臺加入了：用于機器人技術的 NVIDIA Isaac Sim on Omniverse，用于構建語音 AI 應用的 GPU 加速 SDK Riva，用于 AI 多傳感器處理、視頻、音頻和圖像理解的串流分析工具包 DeepStream，以及通過整合視覺數據與 AI 提高行業運營效率和安全的應用框架、開發者工具組與合作伙伴生態系統 Metropolis。

關鍵詞：