存儲(chǔ)器的未來是巨大的、多樣的，并且與處理緊密結(jié)合。這是最近在舊金山舉行的國(guó)際電子設(shè)備會(huì)議上的一個(gè)受邀演講所傳達(dá)的信息。斯坦福大學(xué)電氣工程師、臺(tái)積電前研究副總裁、目前仍是臺(tái)積電科學(xué)顧問的Philip Wong告訴與會(huì)的工程師們，現(xiàn)在是時(shí)候以新的方式思考內(nèi)存和計(jì)算架構(gòu)了。

當(dāng)今計(jì)算問題的需求——尤其是AI——正迅速超過現(xiàn)有存儲(chǔ)系統(tǒng)和架構(gòu)的能力。今天的軟件假定可以隨機(jī)訪問任何給定的內(nèi)存位。將所有這些數(shù)據(jù)從內(nèi)存來回移動(dòng)到處理器會(huì)消耗大量的時(shí)間和能量。并不是所有的數(shù)據(jù)都是平等的，有些需要經(jīng)常訪問，有些不需要。Wong認(rèn)為，這個(gè)“內(nèi)存墻”問題需要關(guān)注。

不幸的是，工程師們繼續(xù)關(guān)注的問題是，哪種新興技術(shù)將取代目前由SRAM、DRAM和Flash構(gòu)成的傳統(tǒng)存儲(chǔ)器。每一種技術(shù)——以及它們潛在的替代品——都有利弊。有些提供更快的數(shù)據(jù)讀取；有些提供更快的寫入；有些更耐用；其它的則有較低的功耗。Wong認(rèn)為，尋找一種新的存儲(chǔ)技術(shù)來統(tǒng)治所有這些技術(shù)是錯(cuò)誤的做法。

“你找不到完美的存儲(chǔ)?！?/p>

相反，工程師應(yīng)該看看他們的系統(tǒng)需求，然后挑選哪些組件組合將工作得最好。Wong主張從特定類型的軟件用例的需求開始。他說，選擇正確的存儲(chǔ)組合是“一個(gè)多維優(yōu)化問題”。

一種存儲(chǔ)不能滿足所有的需求

Wong表示，試圖讓一種存儲(chǔ)器在所有方面都做到最好——快速讀取、快速寫入、可靠性、保持時(shí)間、密度、能效等等——這讓工程師們“工作得太辛苦了”，并展示了一張幻燈片，上面是一名電氣工程師像西西弗斯一樣推著齒輪上山。“我們?cè)诓恢酪豁?xiàng)技術(shù)將被用于什么的情況下，孤立地看待數(shù)字。這些數(shù)字可能無關(guān)緊要?！?/p>

例如，當(dāng)設(shè)計(jì)一個(gè)需要頻繁地、可預(yù)測(cè)地讀取內(nèi)存和不頻繁地寫入內(nèi)存的系統(tǒng)時(shí)，MRAM、PCM和RRAM是不錯(cuò)的選擇。對(duì)于將流式處理大量數(shù)據(jù)的系統(tǒng)，系統(tǒng)需要頻繁的寫入，很少的讀取，并且只需要較短的數(shù)據(jù)生命周期。因此，工程師可以在速度、密度和能耗之間進(jìn)行權(quán)衡，選擇增益單元或FeRAM。

關(guān)于啟動(dòng)核電站為AI數(shù)據(jù)中心提供燃料的討論，很明顯，該行業(yè)已經(jīng)意識(shí)到自己的能源問題。

靈活性可以帶來很大的好處。作為一個(gè)例子，Wong指出了他在混合增益單元上的工作，它類似于DRAM，但每個(gè)存儲(chǔ)單元使用兩個(gè)晶體管，而不是一個(gè)晶體管和一個(gè)電容器。一個(gè)晶體管是硅的，提供快速讀出；另一種存儲(chǔ)數(shù)據(jù)而不需要刷新，并且基于氧化物半導(dǎo)體。當(dāng)這些混合增益單元與RRAM結(jié)合用于AI/機(jī)器學(xué)習(xí)訓(xùn)練和推理時(shí)，與傳統(tǒng)存儲(chǔ)系統(tǒng)相比，它們提供了9倍的能源使用優(yōu)勢(shì)。

Wong說，至關(guān)重要的是，這些不同的存儲(chǔ)器需要與計(jì)算更緊密地結(jié)合在一起。他主張將多個(gè)芯片集成在一個(gè)“系統(tǒng)”中，每個(gè)芯片都有自己的局部記憶，將每個(gè)芯片視為一個(gè)更大系統(tǒng)的一部分。在10月份發(fā)表的一篇論文中，Wong和其合作者提出了一種計(jì)算系統(tǒng)，該系統(tǒng)以硅CMOS芯片為基礎(chǔ)，分層使用由STT-MRAM組成的快速訪問致密存儲(chǔ)器，用于非易失性存儲(chǔ)器的金屬氧化物RRAM層，以及高速高密度增益單元層。他們稱之為MOSAIC（MOnolithic, Stacked, and Assembled IC）。為了節(jié)省能源，數(shù)據(jù)可以存儲(chǔ)在需要處理的地方附近，而堆棧中的芯片可以在不需要時(shí)關(guān)閉。

在提問環(huán)節(jié)，觀眾中的一名工程師表示，他喜歡這個(gè)想法，但他指出，所有這些不同的部件都是由不同的公司制造的，不能一起工作。Wong回答說，這就是為什么像IEDM這樣將所有人聚集在一起的會(huì)議很重要。關(guān)于啟動(dòng)核電站為AI數(shù)據(jù)中心提供燃料的討論，很明顯，該行業(yè)已經(jīng)意識(shí)到自己的能源問題?！靶枨笫前l(fā)明之母。”他補(bǔ)充說。

原文鏈接：

https://spectrum.ieee.org/memory-ai-energy