在早前舉辦的Computex，Nvidia 通過推出其 Spectrum-X 平臺承諾為生成 AI 工作負載提供“無損以太網(wǎng)”——但如果你問 Broadcom，這甚至不是一個新想法。

Broadcom 核心交換組高級副總裁 Ram Velaga 告訴The Register說：“他們的設(shè)備沒有什么我們沒有的獨特之處。”

他解釋說，Nvidia 實際上用 Spectrum-X 所做的是構(gòu)建一個垂直集成的以太網(wǎng)平臺，該平臺擅長以最小化尾延遲和減少 AI 作業(yè)完成時間的方式管理擁塞。

Velaga 認為，這與 Broadcom 對其Tomahawk5和Jericho3-AI交換機 ASIC所做的沒有什么不同。他還認為 Nvidia 承認以太網(wǎng)對于處理 AI 中的 GPU 流更有意義。

Nvidia 的 Spectrum-X

就 Nvidia 而言，它并沒有放棄 InfiniBand 網(wǎng)絡(luò)。InfiniBand 非常適合那些運行少量非常大的工作負載的用戶——例如 GPT3 或數(shù)字孿生。然而，Nvidia 網(wǎng)絡(luò)部門營銷副總裁 Gilad Shainer 告訴The Register，在某些環(huán)境中，尤其是多租戶云，以太網(wǎng)是首選。

Shainer 說，對于較小的 AI/ML 工作負載，傳統(tǒng)的以太網(wǎng)基礎(chǔ)設(shè)施工作得很好——但現(xiàn)在這些工作負載的增長超出了一個節(jié)點，速度太慢了。

Nvidia 的 Spectrum-X 平臺聲稱可以應(yīng)對這一挑戰(zhàn)。

需要明確的是，Nvidia 的 Spectrum-X 不是產(chǎn)品。它是硬件和軟件的集合，我們過去已經(jīng)介紹了其中的大部分內(nèi)容。核心組件包括 Nvidia 的 51.2Tbit/sec Spectrum-4 以太網(wǎng)交換機和BlueField-3數(shù)據(jù)處理單元 (DPU)。

基本思想是，只要您同時使用 Nvidia 的交換機和它的 DPU，它們就會協(xié)同工作以緩解流量擁塞，并且——如果 Nvidia 可信的話——完全消除數(shù)據(jù)包丟失。

雖然 Shainer 聲稱這是 Nvidia 的一個全新功能單元，但 Velaga 認為“無損以太網(wǎng)”的想法只是營銷。“與其說它是無損的，不如說你有效地管理了擁塞，以至于你擁有了一個非常高效的以太網(wǎng)結(jié)構(gòu)，”他爭辯道。

換句話說，不是包丟失是給定的以太網(wǎng)網(wǎng)絡(luò)，而是規(guī)則的例外。無論如何，這就是想法。

此外，Velaga 聲稱這種擁塞管理已經(jīng)內(nèi)置到 Broadcom 最新一代的交換機 ASIC 中——只有它們可以與任何供應(yīng)商或云服務(wù)提供商的 smartNIC 或 DPU 一起使用。“你不必在 NIC 上做，你可以從一個 Jericho3-AI 到另一個 Jericho3-AI ，”他補充道。

當我們向 Shainer 詢問 Broadcom 的 Tomahawk5 和 Jericho3-AI 時，他拒絕與這些芯片進行比較，他辯稱 Spectrum-X 屬于自己的一類，并暗示一些供應(yīng)商只是將“AI”附加到現(xiàn)有產(chǎn)品上。

“無論你怎么稱呼它，都沒有任何東西具有專為 AI 設(shè)計的功能，”他說。

垂直整合與分解

根據(jù) Velaga 的說法，Nvidia 試圖實現(xiàn)的垂直整合與以太網(wǎng)相沖突。“以太網(wǎng)今天成功的全部原因是它是一個非常開放的生態(tài)系統(tǒng)，”他說。

正因為如此，Nvidia 的 Spectrum-X 可能被證明對云提供商來說是一個艱難的銷售，云提供商傾向于盡可能避免供應(yīng)商鎖定。他們強烈希望避免這種情況，導(dǎo)致廣泛采用與供應(yīng)商無關(guān)的網(wǎng)絡(luò)操作系統(tǒng)，如 SONiC。這使他們能夠在任何兼容的交換機上運行他們的云。

就其價值而言，Nvidia 的 Spectrum-4確實支持 SONiC，以及它自己的 Cumulus NOS 和 Linux Switch 驅(qū)動程序。但是，由于 Spectrum-X 平臺依賴于同時擁有 Spectrum-4 和 BlueField，因此您不能只將一個換成另一個兼容 SONiC 的開關(guān)或 DPU 而不會損失功能。

說到 DPU，許多最大的云服務(wù)提供商已經(jīng)擁有適合其環(huán)境的 SmartNIC。Amazon Web Services 擁有 Nitro，Google 與 Intel 共同開發(fā)了基于 ASIC 的 SmartNIC，Microsoft在 1 月份收購了 Fungible 。這些設(shè)備對云提供商來說非常有價值，因為它們允許他們卸載常見的網(wǎng)絡(luò)、存儲和安全工作負載——釋放 CPU 來運行租戶工作負載。

Shainer 說這完全沒問題。他認為云提供商可以使用他們現(xiàn)有的 DPU 來管理他們的基礎(chǔ)設(shè)施和控制南北流量，并使用 Nvidia 的 BlueField-3 來控制集群中節(jié)點之間的東西向流量。

他補充說，也沒有什么能阻止人們將 Nvidia 的交換機或 DPU 作為獨立產(chǎn)品進行部署。

“如果有人想使用我們的交換機并構(gòu)建他們自己的東西，我們非常歡迎。如果有人想使用我們的 DPU 并使用其他人的交換機，當然 - 去吧。你可以自己開發(fā)這些東西，”Shainer 說。“但是，如果你想獲得完全優(yōu)化的東西，全堆棧......并在四個星期而不是六、七或八個月內(nèi)啟動系統(tǒng)？無價之寶。”

Broadcom 的 Velaga 不太確定客戶會如何接受這個想法。“很難說在一個一切都被分解的世界里，他們將如何銷售垂直集成以太網(wǎng)解決方案的價值。”