DPU自2019年開始由英偉達正式提出，如今已被大家逐漸接受，并且把它變成行業(yè)術語繼續(xù)去使用。誕生3年之久，DPU行業(yè)的應用度逐漸上升，在DPU的行業(yè)應用方面，最先部署DPU的是一些云服務商，如BAT、京東、頭條、微軟等等公司，他們大量的數(shù)據(jù)需要DPU來幫助其提前處理和做安全問題。而且英偉達預計，明年開始將會有更多類型的企業(yè)加大對DPU的采用。

在DPU領域，英偉達正在攜手行業(yè)合作伙伴不斷構建完好的開發(fā)者生態(tài)。而一大利器就是其DOCA軟件，沒有軟件的芯片就是沒有靈魂的沙子，這幾年英偉達的DOCA軟件為其NVIDIA BlueField DPU注入了靈魂，也幫助英偉達DPU解鎖了更多的應用空間。

數(shù)據(jù)中心面臨的四大挑戰(zhàn)

據(jù)NVIDIA 網絡技術專家崔巖的介紹，當下數(shù)據(jù)中心主要面臨四大挑戰(zhàn)：

一是如AI工作負載等現(xiàn)代應用程序將持續(xù)產生和處理大量數(shù)據(jù)，這對數(shù)據(jù)中心的性能和數(shù)據(jù)的處理能力提出了巨大的挑戰(zhàn)。

二是現(xiàn)在很多應用對分布式基礎設施的需求不斷增加，它們的部署并不是運行在數(shù)據(jù)中心中的某一臺服務器，會運行在多臺服務器上，甚至分布在不同的物理位置的微服務給客戶提供應用。不僅僅部署在數(shù)據(jù)中心，在網絡邊緣和多云架構里也是非常普遍的現(xiàn)象。這對數(shù)據(jù)中心基礎設施運營也會有比較大的挑戰(zhàn)。

三是基礎設施服務消耗了大量的CPU容量，使得CPU服務于客戶應用的資源減少。

四是東西向流量不斷增加，安全攻擊面成為威脅。所謂東西向流量，主要是很多應用程序會由分布在數(shù)據(jù)中心甚至不同物理位置上的微服務程序提供，他們之間就會產生相應的數(shù)據(jù)流的數(shù)據(jù)交互。由于相互之間的流量增多，就會導致存在跨服務器或者數(shù)據(jù)中心內部的橫向攻擊和一些威脅，甚至有的客戶會把一個網絡上的應用程序下載到數(shù)據(jù)中心里應用，這些都會有潛在的安全風險帶入到數(shù)據(jù)中心中，如果安全策略或者安全方式模型不能有效的抵御這種攻擊, 會造成比較大的威脅和相應的損失。

為了解決數(shù)據(jù)中心的這些挑戰(zhàn)，英偉達與VMware近年來一直保持緊密合作，以期借助VMware的軟件架構一起重新構想虛擬的基礎設施。基于NVIDIA BlueField DPU可以實現(xiàn)如下三大方面的功能：1）簡化基礎設施和工作負載管理2）提高基礎設施運行效率，主要體現(xiàn)在性能和功能增強上3）借助零信任安全模式加強基礎設施安全性。

Project Monterey重構一個現(xiàn)代的數(shù)據(jù)中心

在今年的VMware Explore大會上，NVIDIA、VMware和戴爾聯(lián)合發(fā)布Project Monterey的平臺。Project Monterey將vSphere 8企業(yè)工作負載平臺、NVIDIA BlueField DPU進行結合，在戴爾Power Edge服務器或VxRail超融合架構一體機上做運行，這樣就可以有效的把NVIDIA BlueField DPU、GPU和NVIDIA Enterprise AI軟件，針對vSphere 8做負載優(yōu)化，在運行一些AI軟件時，也可以把vSphere 8的一些功能，卸載、加速和隔離到NVIDIA BlueField DPU，Project Monterey為未來的AI和現(xiàn)代應用程序工作負載重新構建一個現(xiàn)代的數(shù)據(jù)中心。它既有用于GPU的vSphere 8上的新功能來去支持更強大的AI和機器學習的模型，更快的訓練速度，同時也能夠簡化云和邊緣環(huán)境上的管理。

下圖是完整的Project Monterey的架構。最底下是VMware Hypervisor整個虛擬化管理軟件系統(tǒng)，相當于把vSphere中NSX的網絡和安全相關的服務，還有vSAN存儲服務、主機管理服務這些原來需要CPU干預介入的基礎設施的操作，卸載到NVIDIA BlueField DPU之上。由于DPU的介入會在主機CPU和DPU之間形成一個隔離層，來去保障主機內部的安全性。如果有主機上層被應用程序進行黑客攻擊，它不會通過隔離層、通過DPU攻擊到其他的服務器。所以，它會對多租戶、多虛機環(huán)境有很有效的幫助。后續(xù)在Linux系統(tǒng)或者Windows系統(tǒng)的裸金屬服務器上進行進一步的開發(fā)。

Project Monterey架構

目前該項目還在進行之中，現(xiàn)在只是把vSphere 里面Cloud Foundation的功能卸載到了NVIDIA BlueField DPU上，同時支持VMware NSX下一代防火墻技術，未來可能還會有一些安全策略的功能會在日后的版本中支持。后面還會支持vSAN數(shù)據(jù)存儲功能，這些都正在緊密研發(fā)之中。

那么，NVIDIA BlueField DPU在vSphere體系中運行的情況。在傳統(tǒng)的服務器中，對基礎設施管理、存儲、安全、網絡都是CPU承擔工作負載的。當采用了DPU之后，CPU可以零介入基礎設施的部分，上述講的四大功能就卸載到了DPU。這里主要和vSphere配合的是有軟件定義的安全、軟件定義的網絡和整體性能加速的部分，將給上層應用提供更好的基礎設施的支撐。因此，CPU資源會更好的支撐客戶業(yè)務應用，有更多支持虛機和容器的能力。

除了很好的支持vSphere8之外，NVIDIA BlueField DPU在NSX網絡和安全的組件上也有很好的支撐，現(xiàn)在已經實現(xiàn)了將NSX下一代防火墻功能卸載到了DPU之上，后續(xù)的入侵檢測、入侵防御等安全策略功能也會逐漸在DPU上實現(xiàn)，這將和VMware整個多云架構、企業(yè)應用有更加緊密的解決方案，能夠讓企業(yè)用戶直接采用，享受DPU帶來的性能上的回報。

DPU：用的越多，省的越多

那么，DPU采用和不采用在收益和效果上有何差異呢？對此，英偉達通過兩個案例對NVIDIA BlueField DPU進行了網絡基準測試：

案例一：下圖是在VMware體系上運行NGINX Web服務器的應用，如果傳統(tǒng)用標準智能網卡和CPU介入的方式下，需要有8個CPU內核管理跟運營基礎設施的相關操作。當采用了DPU之后，這8個內核完全被釋放了，不需要CPU的任何介入，DPU就會把這些基礎設施管理相關的加速能力直接體現(xiàn)出來。

案例二：在NVIDIA BlueField和VMware體系之上跑Redis內存鍵值存儲，是非SQL數(shù)據(jù)庫的基準測試，如果采用CPU和標準智能網卡上跑應用需要12個CPU內核介入，當采用DPU之后這12個內核完全被釋放，直接由DPU承擔這些工作負載。從吞吐量的角度來看，原來是8.8，當采用DPU后性能得到加速，會變成12，整體有12個內核的減少，相當于減少CPU 20%的內核釋放；而且在不使用任何CPU資源的情況下性能將提升36%。對客戶而言，既節(jié)省了CPU上的資源消耗，可以拿更多CPU資源支撐業(yè)務應用，同時在整個網絡性能上也得到了提升。

所以總體來看，能得出的結論是，在NVIDIA BlueField DPU上運行vSphere，用的越多，省的越多。在整個服務器效率方面會整體提升22%，在3年Roi角度測算帶來5倍的投資回報率。780臺安裝有NVIDIA BlueField DPU的服務器，相當于1000臺安裝有標準智能網卡的服務器。每臺服務器的TCO（總體投入）可節(jié)省8,200美元，3年內通過提升效率可節(jié)省180萬美元。所以，這對于企業(yè)用戶來講，雖然可能在DPU采用上做一定投入，但實際上，在CPU資源占用和性能提升上將帶來長期穩(wěn)定的回報。

通過 NVIDIA LaunchPad試用在NVIDIA BlueField DPU上運行vSphere現(xiàn)已開放。在NVIDIA托管環(huán)境中已可用：介紹和現(xiàn)場演示Introduction & Live Demo；通過 LaunchPad 體驗 Monterey。點擊文末“閱讀原文”申請LaunchPad 試用。

2022 秋季NVIDIA DPU中國黑客松競賽即將開幕

在人工智能和機器學習的熱潮技術驅動下，有很多從業(yè)者對人工智能就緒的數(shù)據(jù)中心基礎設施產生了濃厚的興趣，尤其是學生。NVIDIA DPU黑客松活動從開辦以來受到學生和創(chuàng)業(yè)者等的歡迎。DPU黑客松活動會介紹NVIDIA BlueField DPU、NVIDIA DOCA軟件框架的最新進展和基礎開發(fā)的知識，介紹跟競賽有關的用例和應用場景，這些都會讓學生和行業(yè)的開發(fā)者能夠盡快的熟悉這些硬件和軟件的部分，同時掌握相應的開發(fā)技能，通過參加競賽，他們可以進行實操體驗。

2022 秋季NVIDIA DPU中國黑客松競賽將于10月19日開帷幕。此次黑客松和上次不同的是，題目聚焦在“使用NVIDIA BlueField DPU和NVIDIA DOCA實現(xiàn)RDMA加速的存儲與AI 解決方案”。這是基于InfiniBand上實現(xiàn)的RDMA技術，能夠很容易的通過NVIDIA BlueField DPU去訪問CPU和GPU的內存，而不需要CPU和操作系統(tǒng)的干預，這會大大提高整個數(shù)據(jù)移動的效率，能夠更好的支撐未來的科學計算、人工智能、機器學習需要大規(guī)模數(shù)據(jù)搬運和計算的工作負載。

在10月19日有賽前訓練營。上午有精彩的關于NVIDIA BlueField DPU和NVIDIA DOCA軟件開發(fā)套件的介紹和用例的展示。下午將有一些更深入的開發(fā)環(huán)境和開發(fā)方式的介紹，展示幾個應用案例，能夠讓開發(fā)者更容易理解DOCA的開發(fā)如何進行，用什么樣的步驟，用例及運行方式是什么樣的。最后會有一個跟開發(fā)者的技術答疑。

和上一屆的安排一樣，仍然會有一個開幕式和訓練營的活動，之后會進入到24小時的比賽環(huán)節(jié)，比賽中各個團隊將投入到創(chuàng)新應用的開發(fā)之中，到第二天10月23日上午，是每個團隊現(xiàn)場比賽的演示，他們將對自己做的課題做一個整體展示，后面會有中國的本地評委和國際評委對他們的比賽結果進行評分，將在24日周一公布比賽結果。

英偉達會請到本地5位評委，從基礎架構、軟件開發(fā)、行業(yè)應用角度來看待這些開發(fā)團隊所做的項目和呈現(xiàn)的結果。整個結果最后會提交給國際評委，他們從創(chuàng)新角度和其他應用的角度做一個評分，大概是五個方面，訓練營參與度（15分）、項目完成度（15分）、項目創(chuàng)新價值（20分）及題目匹配度（30分），最后是現(xiàn)場演示的效果（20分）。

NVIDIA網絡市場總監(jiān)孟慶表示，雖然今年對所有半導體行業(yè)客戶和廠商來說都是不容易的一年，但是去年英偉達DOCA社區(qū)發(fā)展仍然超出預期。現(xiàn)在全球DOCA開發(fā)者中超過一半來自中國，這是我們有底氣去辦黑客松的原因。

結語

綜上可以看出，無論是Project Monterey還是黑客松競賽，都是英偉達在DPU領域傾注的心血，也代表著英偉達對DPU的看重。英偉達預期DPU將在數(shù)據(jù)中心中扮演非常重要的角色，而且越來越重要。

審核編輯 ：李倩