據微軟 Azure 官方發(fā)布，微軟將過去十年的超級計算經驗和支持超大型 AI 訓練工作負載的經驗應用于搭建具備大規(guī)?；咝阅艿?AI 基礎架構。微軟 Azure 智能云，特別是以圖形處理單元(GPU)加速的虛擬機(VM)，為微軟及其客戶的生成式 AI 發(fā)展奠定了基礎。

　　微軟現推出 ND H100 v5 VM，是 Azure 迄今更強大和高度可伸縮的 AI 虛擬機系列。該虛擬機支持的按需配置可達 8 至上千個通過 Quantum-2 InfiniBand 網絡互連的 NVIDIA H100 GPU，使得 AI 模型的性能明顯提高。相較上一代 ND A100 v4 VM，本次推出的虛擬機包含以下創(chuàng)新技術：

　　8 塊 NVIDIA H100 Tensor Core GPU，通過下一代 NV Switch 和 NV Link 4.0 互連。

　　在無阻塞胖樹網絡中，每個 GPU 搭載 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

　　每個 VM 中的 8 塊本地 GPUs 之間通過 3.8Tb / s 對分割帶寬的 NV Switch 和 NV Link 4.0 互聯。

　　第四代英特爾至強可擴展處理器。

　　PCIE 第 5 代主機到 GPU 互連，每個 GPU 帶寬為 64Gb / s。

　　16 信道的 4800 MHz DDR5 內存。

　　IT之家注：NVIDIA Quantum-2 采用第七代 NVIDIA InfiniBand 架構，可為 AI 開發(fā)者和科學研究人員提供超強網絡性能和豐富功能，幫助他們解決充滿挑戰(zhàn)性的問題。NVIDIA Quantum-2 通過軟件定義網絡、網絡計算、性能隔離、高級加速引擎、遠程直接內存訪問 (RDMA) 以及高達 400 Gb / s 的超快的速度，為先進的超級計算數據中心提供助力。

　　微軟表示，大規(guī)模 AI 已內置于 Azure 的 DNA 中。對大型語言模型研究(如圖靈)的初始投資，以及諸如在云中構建第一臺 AI 超級計算機等里程碑，都為生成式 AI 的問世做好了充分準備。Azure 機器學習等 Azure 服務使客戶能夠訪問 AI 超級計算機，以進行模型訓練。Azure OpenAI 服務使客戶能夠利用大規(guī)模生成式 AI 模型的強大功能?！敢?guī)模」一直是 Azure 優(yōu)化 AI 基礎設施的目標之一?，F在，微軟正為各種規(guī)模的初創(chuàng)公司和企業(yè)帶來無需大量物理硬件或軟件投入的超級計算功能。

　　現在，ND H100 v5 預覽發(fā)布，將成為 Azure 產品組合中的標準服務。
　?。?a href="http://www.nasamidwest.com">碼上科技）