存儲器的未來是巨大的、多樣的，并且與處理緊密結(jié)合。這是最近在舊金山舉行的國際電子設(shè)備會議上的一個受邀演講所傳達(dá)的信息。斯坦福大學(xué)電氣工程師、臺積電前研究副總裁、目前仍是臺積電科學(xué)顧問的Philip Wong告訴與會的工程師們，現(xiàn)在是時候以新的方式思考內(nèi)存和計算架構(gòu)了。

當(dāng)今計算問題的需求——尤其是AI——正迅速超過現(xiàn)有存儲系統(tǒng)和架構(gòu)的能力。今天的軟件假定可以隨機(jī)訪問任何給定的內(nèi)存位。將所有這些數(shù)據(jù)從內(nèi)存來回移動到處理器會消耗大量的時間和能量。并不是所有的數(shù)據(jù)都是平等的，有些需要經(jīng)常訪問，有些不需要。Wong認(rèn)為，這個“內(nèi)存墻”問題需要關(guān)注。

不幸的是，工程師們繼續(xù)關(guān)注的問題是，哪種新興技術(shù)將取代目前由SRAM、DRAM和Flash構(gòu)成的傳統(tǒng)存儲器。每一種技術(shù)——以及它們潛在的替代品——都有利弊。有些提供更快的數(shù)據(jù)讀取；有些提供更快的寫入；有些更耐用；其它的則有較低的功耗。Wong認(rèn)為，尋找一種新的存儲技術(shù)來統(tǒng)治所有這些技術(shù)是錯誤的做法。

“你找不到完美的存儲。”

相反，工程師應(yīng)該看看他們的系統(tǒng)需求，然后挑選哪些組件組合將工作得最好。Wong主張從特定類型的軟件用例的需求開始。他說，選擇正確的存儲組合是“一個多維優(yōu)化問題”。

一種存儲不能滿足所有的需求

Wong表示，試圖讓一種存儲器在所有方面都做到最好——快速讀取、快速寫入、可靠性、保持時間、密度、能效等等——這讓工程師們“工作得太辛苦了”，并展示了一張幻燈片，上面是一名電氣工程師像西西弗斯一樣推著齒輪上山。“我們在不知道一項技術(shù)將被用于什么的情況下，孤立地看待數(shù)字。這些數(shù)字可能無關(guān)緊要。”

例如，當(dāng)設(shè)計一個需要頻繁地、可預(yù)測地讀取內(nèi)存和不頻繁地寫入內(nèi)存的系統(tǒng)時，MRAM、PCM和RRAM是不錯的選擇。對于將流式處理大量數(shù)據(jù)的系統(tǒng)，系統(tǒng)需要頻繁的寫入，很少的讀取，并且只需要較短的數(shù)據(jù)生命周期。因此，工程師可以在速度、密度和能耗之間進(jìn)行權(quán)衡，選擇增益單元或FeRAM。

關(guān)于啟動核電站為AI數(shù)據(jù)中心提供燃料的討論，很明顯，該行業(yè)已經(jīng)意識到自己的能源問題。

靈活性可以帶來很大的好處。作為一個例子，Wong指出了他在混合增益單元上的工作，它類似于DRAM，但每個存儲單元使用兩個晶體管，而不是一個晶體管和一個電容器。一個晶體管是硅的，提供快速讀出；另一種存儲數(shù)據(jù)而不需要刷新，并且基于氧化物半導(dǎo)體。當(dāng)這些混合增益單元與RRAM結(jié)合用于AI/機(jī)器學(xué)習(xí)訓(xùn)練和推理時，與傳統(tǒng)存儲系統(tǒng)相比，它們提供了9倍的能源使用優(yōu)勢。

Wong說，至關(guān)重要的是，這些不同的存儲器需要與計算更緊密地結(jié)合在一起。他主張將多個芯片集成在一個“系統(tǒng)”中，每個芯片都有自己的局部記憶，將每個芯片視為一個更大系統(tǒng)的一部分。在10月份發(fā)表的一篇論文中，Wong和其合作者提出了一種計算系統(tǒng)，該系統(tǒng)以硅CMOS芯片為基礎(chǔ)，分層使用由STT-MRAM組成的快速訪問致密存儲器，用于非易失性存儲器的金屬氧化物RRAM層，以及高速高密度增益單元層。他們稱之為MOSAIC（MOnolithic, Stacked, and Assembled IC）。為了節(jié)省能源，數(shù)據(jù)可以存儲在需要處理的地方附近，而堆棧中的芯片可以在不需要時關(guān)閉。

在提問環(huán)節(jié)，觀眾中的一名工程師表示，他喜歡這個想法，但他指出，所有這些不同的部件都是由不同的公司制造的，不能一起工作。Wong回答說，這就是為什么像IEDM這樣將所有人聚集在一起的會議很重要。關(guān)于啟動核電站為AI數(shù)據(jù)中心提供燃料的討論，很明顯，該行業(yè)已經(jīng)意識到自己的能源問題。“需求是發(fā)明之母。”他補(bǔ)充說。

原文鏈接：

https://spectrum.ieee.org/memory-ai-energy