微軟 Azure AI 基礎(chǔ)設(shè)施是微軟擴展產(chǎn)品和服務(wù)的核心支柱，為開發(fā)人員提供在 Azure 平臺上構(gòu)建下一代 AI 驅(qū)動的應(yīng)用程序所需的系統(tǒng)、工具和資源。

微軟在硬件和 AI 基礎(chǔ)設(shè)施上的早期投資，正在幫助客戶將 AI 的高效和創(chuàng)新變現(xiàn)為業(yè)務(wù)價值。借力 AI，用戶可以創(chuàng)造更豐富的用戶體驗，推動創(chuàng)新，提高業(yè)務(wù)生產(chǎn)力。

微軟 Azure AI 基礎(chǔ)設(shè)施能夠支持全球可擴展，且未來微軟仍將對其進行持續(xù)投資與擴展。現(xiàn)在，微軟推出了 ND H100 v5 虛擬機系列，這款虛擬機配備了 NVIDIA H100 Tensor Core 圖形處理單元（GPU）和低延遲網(wǎng)絡(luò)，推動企業(yè)步入 AI 應(yīng)用新時代。

前所未有的 AI 處理和規(guī)模

ND H100 v5 虛擬機系列發(fā)布

微軟全新發(fā)布Azure ND H100 v5 虛擬機（VM）系列，現(xiàn)已在美國東部和美國中南部 Azure 區(qū)域提供。該系列配備了最新的 NVIDIA H100 Tensor Core GPU 和 NVIDIA Quantum-2 InfiniBand 網(wǎng)絡(luò)。憑借在超級計算性能和規(guī)模方面的豐富經(jīng)驗，微軟精心設(shè)計的 ND H100 v5 系列虛擬機，用于應(yīng)對先進的 AI 工作負載帶來的日益增加的復(fù)雜性。作為微軟在 AI 領(lǐng)域深入和持續(xù)投資的一部分，微軟正在利用一個 AI 優(yōu)化的 4K GPU 集群，并將在明年將其擴展到數(shù)十萬個全新的 GPU。

ND H100 v5 VM 虛擬機系列具有以下特性：

• AI 超級計算 GPU：配備了八個 NVIDIA H100 Tensor Core GPU。比起上一代虛擬機，該系列可讓 AI 模型顯著提速，為企業(yè)提供無與倫比的計算能力。

• 新一代計算機處理單元（CPU）：CPU 性能對于 AI 的訓練和推理至關(guān)重要，微軟選擇了第四代 Intel Xeon Scalable 處理器，確保虛擬機達到最佳的處理速度。

• 低延遲網(wǎng)絡(luò)：采用 NVIDIA Quantum-2 ConnectX-7 InfiniBand，每個 GPU 擁有 400Gb/s、每個 VM 擁有 3.2 Tb/s 的跨節(jié)點帶寬，確保 GPU 間的無縫性能，堪稱全球頂級的超級計算機。

• 優(yōu)化主機到 GPU 的性能：通過PCIe Gen5提供每個GPU 64GB/s的帶寬，Azure在CPU和GPU之間具有顯著的性能優(yōu)勢。

• 大規(guī)模的內(nèi)存和內(nèi)存帶寬：DDR5 內(nèi)存是該系列虛擬機的核心，提供更高的數(shù)據(jù)傳輸速度和效率，使它們成為處理大規(guī)模數(shù)據(jù)集工作負載的理想選擇。

該系列虛擬機已經(jīng)證明了它們的性能優(yōu)勢，使用新的8位 FP8 浮點數(shù)據(jù)類型進行矩陣乘法操作時，速度提升了六倍，比前一代的 FP16 更快。ND H100 v5 VM 幫助大型語言模型（如 BLOOM 175B 端到端模型）實現(xiàn)了最高兩倍的推理速度提升，驗證了它們進一步優(yōu)化 AI 應(yīng)用的潛力。

由 Azure AI 基礎(chǔ)設(shè)施支持的人工智能，具有推動從制造到零售、從金融服務(wù)到醫(yī)療保健等各行各業(yè)發(fā)展的潛力。