行業領導者打破藩籬，使開發人員能夠輕松地在 Windows 11 上訓練并部署先進的 AI 模型，并在配備 RTX 的 PC 和工作站上提供節能的推理。

生成式 AI，以 ChatGPT 等大型語言模型（LLM）應用、Stable Diffusion 和 Adobe Firefly 等圖片生成器，以及 NVIDIA DLSS 3 Frame Generation（DLSS 3 幀生成技術）等游戲渲染技術為代表，正在迅速為生產力、內容創作、游戲等開創計算的新時代。

在微軟 Build 開發者大會上，NVIDIA 和微軟展示了一系列搭載 NVIDIA RTX GPU 的 Windows 11 PC 和工作站的先進技術，旨在滿足生成式 AI 的需求。

超過 400 款應用和游戲已采用 AI 技術，通過 RTX GPU 上的專用處理器 Tensor Core 進行加速。今天發布的內容，包括用于在 Windows PC 上開發 AI 的工具、優化和部署 AI 的框架，以及驅動性能和能效提升，將使開發人員能夠以生成式 AI 為核心來構建下一代 Windows 應用。

微軟 Windows 芯片和系統集成副總裁 Pavan Davuluri 表示：“ 未來幾年，AI 將成為 Windows 用戶創新的最大驅動力。通過與 NVIDIA 在硬件和軟件優化方面進行合作，我們為開發人員提供了一種革命性、高性能并易于部署的體驗。”

利用 Linux 的 Windows 子系統開發模型

AI 開發通常是在 Linux 上進行的，需要開發人員啟動雙系統， 或是使用多臺 PC 在 AI 開發操作系統中進行工作，同時仍然可以獲得 Windows 生態系統的深度和廣度。

過去的幾年里，微軟一直致力于讓 Linux 直接在 Windows 操作系統中運行，也就是適用于 Linux 的 Windows 子系統（WSL）。NVIDIA 一直與微軟密切合作，為 WSL 內部的整個 NVIDIA AI 軟件堆棧提供 GPU 加速和支持。開發人員現在可以使用 Windows PC 來滿足所有本地 AI 開發需求，并支持 GPU 加速的 WSL 深度學習框架。

NVIDIA RTX GPU 在臺式機工作站中提供高達 48GB 的顯存，開發人員現在可以在 Windows 上處理以前只能在服務器上處理的模型。大顯存還提高了 AI 模型本地微調的性能和質量，使設計師能夠根據自己的風格或內容進行定制。NVIDIA 數據中心 GPU 也運行相同的 NVIDIA AI 軟件堆棧，開發人員因此可以輕松將模型推送到微軟 Azure 云上進行大規模訓練。

快速優化并部署模型

有了經過訓練的模型，開發人員需要針對目標設備來優化和部署 AI。

微軟發布了 Microsoft Olive 工具鏈，用于優化 PyTorch 模型并將其轉換到 ONNX，使開發人員能夠自動利用 RTX Tensor Core 等 GPU 硬件加速。開發人員可以通過 Olive 和 ONNX 優化模型，并將 Tensor Core 加速的模型部署到 PC 或云端。微軟將繼續投資，使 PyTorch 及相關工具和框架與 WSL 無縫協作，從而提供最佳的 AI 模型開發體驗。

提升 AI 的性能和能效

一旦部署，生成式 AI 模型需要令人難以置信的推理性能。RTX Tensor Core 為 AI 推理提供高達 1,400 的 Tensor TFLOPS（萬億次浮點運算）。過去一年，NVIDIA 一直致力于提升 DirectML 的性能，以便充分利用 RTX 硬件的優勢。

5 月 24 日，我們將在 532.03 版驅動中發布最新的優化，與 Olive 優化的模型相結合，大幅提升 AI 性能。使用 Olive 優化版 Stable Diffusion 文本-圖像轉換器以及受歡迎的 Automatic1111 發行版，新驅動程序的性能提高了 2 倍以上。

使用 Automatic1111 和文本-圖像轉換功能，在 GeForce RTX 4090 上測試 Stable Diffusion 的性能。

隨著 AI 即將進入幾乎所有 Windows 應用，提供節能的推理性能變得至關重要——尤其對于筆記本電腦來說。NVIDIA 即將推出新的 Max-Q 低功耗推理，用于 RTX GPU 上的純 AI 工作負載。它在優化 Tensor Core 性能的同時盡可能地降低 GPU 的功耗，延長電池續航時間，并使系統保持出色的散熱和降噪表現。根據負載需要，GPU 可以動態地擴展，以提供最高的 AI 性能。

現在就加入 PC 的 AI 變革

頂級軟件開發商，如 Adobe、DxO、ON1 和 Topaz，已經將 NVIDIA AI 技術與 400 多款被 RTX Tensor Core 優化的 Windows 應用和游戲結合起來。

“AI、機器學習和深度學習已經用于所有 Adobe 應用，并推動創意的未來發展。我們與 NVIDIA 合作，不斷優化 AI 模型的性能，在 RTX GPU 上為 Windows 用戶提供盡可能最佳的體驗。”

—— Adobe 數字媒體首席技術官 Ely Greenfield

“NVIDIA 正幫助我們在 RTX GPU 上優化 WinML 模型的性能，這將加速 DxO DeepPRIME 中的 AI，并更快更好地去噪、去馬賽克。”

—— DxO 高級工程副總裁 Renaud Capolunghi

“與 NVIDIA 和微軟合作，在 RTX GPU 上加速我們在 Windows 中運行的 AI 模型，這讓用戶受益匪淺。我們已經看到 AI 照片編輯軟件套件的性能提升了 1.5 倍。”

—— ON1 產品副總裁 Dan Harlacher

“我們與 NVIDIA 的廣泛合作改進了照片和視頻編輯應用套件。借助 RTX GPU，AI 性能得到了大幅提升，增強了用戶在 Windows PC 上的體驗。”

—— Topaz Labs AI 引擎開發負責人 Suraj Raghuraman

NVIDIA 和微軟正在為開發人員提供一些資源，以便在 Windows PC 上測試主要的生成式 AI 模型。Hugging Face 上提供了一個 Olive 優化版的 Dolly 2.0 大語言模型。此外，用于對話式 AI 的 NVIDIA NeMo 大型語言模型的 PC 優化版也即將在 Hugging Face 上線。

開發人員還可以通過 NVIDIA 開發者網站上的 AI 加速應用頁面，學習如何端到端地優化應用程序以充分利用 GPU 加速。

通過微軟 Windows 平臺和 NVIDIA 動態 AI 硬件和軟件堆棧背后的互補技術，開發人員將能夠在 Windows 11 上快速、輕松地開發并部署生成式 AI。

微軟 Build 開發者大會將一直持續到 5 月 25 日（星期四），敬請關注。

點擊 “閱讀原文”，或掃描下方海報二維碼，在 5 月 29 日觀看 NVIDIA 創始人兼 CEO 黃仁勛為 COMPUTEX 2023 帶來的主題演講直播，了解AI、圖形及其他領域的最新進展！