軟硬件協(xié)同，是上世紀(jì)90年代提出的概念。在那個(gè)時(shí)候，系統(tǒng)已經(jīng)變得相對(duì)復(fù)雜，需要更加準(zhǔn)確嚴(yán)謹(jǐn)?shù)能浻布澐?，然后軟硬件再協(xié)同。

系統(tǒng)規(guī)模小的時(shí)候，軟硬件劃分很容易，可以比較隨意的劃分，即使有錯(cuò)誤，后期修改也沒什么大不了。但隨著系統(tǒng)越來越大，如果不經(jīng)過嚴(yán)謹(jǐn)?shù)能浻布澐?，到開發(fā)階段才發(fā)現(xiàn)問題，可能來不及糾正，會(huì)導(dǎo)致項(xiàng)目的失敗，帶來非常嚴(yán)重的后果。軟硬件協(xié)同，是系統(tǒng)變的復(fù)雜之后，軟硬件設(shè)計(jì)的必然選擇。

那么，既然已經(jīng)軟硬件協(xié)同了，為什么還需要軟硬件融合？軟硬件融合又是什么？我們將在本文中進(jìn)行探討。

01軟硬件劃分

軟件和硬件需要定義好交互的“接口”，通過接口實(shí)現(xiàn)軟硬件的“解耦”。例如，對(duì)CPU來說，軟硬件的接口是指令集架構(gòu)ISA：ISA之下的CPU處理器是硬件，指令集之上的各種程序、數(shù)據(jù)集、文件等是軟件。

軟硬件劃分的意思是說：需要確定好軟件做什么，硬件做什么。確定軟硬件做什么的過程其實(shí)就是確定指令復(fù)雜度的過程。可以這樣說，指令的復(fù)雜度（單位指令的計(jì)算密度）決定了系統(tǒng)的軟硬件解耦程度。

按照指令的復(fù)雜度，典型的處理器平臺(tái)大致分為CPU、協(xié)處理器、GPU、FPGA、DSA、ASIC。如圖所示：最左邊，幾乎是100%軟件實(shí)現(xiàn)，CPU硬件只是一個(gè)跟業(yè)務(wù)沒有必然聯(lián)系的軟件執(zhí)行平臺(tái)而已；最右邊，是幾乎100%的硬件，系統(tǒng)的業(yè)務(wù)邏輯，完全的固化成了電路實(shí)現(xiàn)，額外的軟件控制面，只是負(fù)責(zé)硬件的運(yùn)行控制而已；中間的協(xié)處理器、GPU、FPGA和DSA，則是軟件做一部分，硬件做一部分。

02軟硬件協(xié)同概念的提出

軟硬件協(xié)同是1990年代提出的概念。大背景是隨著系統(tǒng)規(guī)模擴(kuò)大，傳統(tǒng)的系統(tǒng)軟硬件設(shè)計(jì)的問題逐漸凸顯，需要軟硬件協(xié)同設(shè)計(jì)。傳統(tǒng)系統(tǒng)軟硬件設(shè)計(jì)存在的問題主要是：

硬件/軟件劃分，是在還未充分理解系統(tǒng)的情況下進(jìn)行，很容易產(chǎn)生設(shè)計(jì)錯(cuò)誤；

軟硬件劃分的設(shè)計(jì)錯(cuò)誤，會(huì)對(duì)系統(tǒng)產(chǎn)生巨大的負(fù)面影響；

而受開發(fā)周期和糾正代價(jià)的影響，難以糾正在軟硬件劃分階段的錯(cuò)誤。

傳統(tǒng)軟硬件一體的設(shè)計(jì)，適合于較小的系統(tǒng)；而軟硬件協(xié)同的設(shè)計(jì)，適合于大一些的系統(tǒng)。

軟硬件協(xié)同的價(jià)值主要體現(xiàn)在：

統(tǒng)一的設(shè)計(jì)方法論，可以持續(xù)指導(dǎo)大系統(tǒng)的設(shè)計(jì)；

可以充分利用已有的軟硬件資源，使得開發(fā)效率最大化；

縮短大系統(tǒng)產(chǎn)品上市的時(shí)間。

從長(zhǎng)期來看，軟硬件協(xié)同，需要對(duì)目標(biāo)系統(tǒng)的軟硬件設(shè)計(jì)持續(xù)迭代：

如果是做一次性的項(xiàng)目，只需要循環(huán)一次；

如果要做用戶滿意的產(chǎn)品，需要迭代循環(huán)數(shù)次，不斷的升級(jí)優(yōu)化；

如果是一個(gè)軟硬件平臺(tái)，則需要循環(huán)數(shù)十次，不斷的優(yōu)化軟硬件劃分，基于軟硬件的“接口”，實(shí)現(xiàn)功能更強(qiáng)大的軟件和硬件；

如果要構(gòu)建基于平臺(tái)的生態(tài)，甚至需要循環(huán)上百次，時(shí)間更久（數(shù)年甚至數(shù)十年），代價(jià)更高（數(shù)以十億美金計(jì)的投入）。

03為什么要從軟硬件協(xié)同到軟硬件融合

量變會(huì)引起質(zhì)變！

隨著系統(tǒng)的規(guī)模越來越大，系統(tǒng)的設(shè)計(jì)方法論也需要不斷地升級(jí)：

第一階段，小系統(tǒng)。軟硬件一體設(shè)計(jì)，軟硬件劃分的難度也不高，劃分也比較隨意。即使劃分錯(cuò)誤，后期修正的代價(jià)也不高。

第二階段，大系統(tǒng)。隨著系統(tǒng)設(shè)計(jì)規(guī)模不斷擴(kuò)大，傳統(tǒng)的軟硬件一體的方法，越來越不適應(yīng)系統(tǒng)的設(shè)計(jì)，越來越成為系統(tǒng)設(shè)計(jì)的瓶頸；于是，出現(xiàn)了軟硬件協(xié)同。

第三階段，復(fù)雜宏系統(tǒng)是很多系統(tǒng)的混合交叉，需要實(shí)現(xiàn)很多功能的融合。復(fù)雜系統(tǒng)里的每一個(gè)子系統(tǒng)，其體量和傳統(tǒng)系統(tǒng)的規(guī)模相當(dāng)。每個(gè)子系統(tǒng)設(shè)計(jì)都需要軟硬件協(xié)同，而且會(huì)是不同程度軟硬件劃分之后的再協(xié)同。子系統(tǒng)之間的協(xié)作（軟件和軟件的協(xié)作、軟件和硬件的協(xié)作、硬件和硬件的協(xié)作），也是軟硬件協(xié)同。通過不同子系統(tǒng)的軟硬件協(xié)同，形成了有機(jī)的復(fù)雜系統(tǒng)。如圖所示，我們把眾多子系統(tǒng)的眾多軟硬件協(xié)同的組合稱為軟硬件融合。

軟硬件協(xié)同，是單個(gè)系統(tǒng)的軟硬件設(shè)計(jì)方法學(xué)；而軟硬件融合，則是復(fù)雜宏系統(tǒng)的軟硬件設(shè)計(jì)方法學(xué)。

04軟硬件融合

復(fù)雜系統(tǒng)，由分層分塊的各個(gè)組件（即工作任務(wù)Workloads），有機(jī)組成的。這樣，我們就可以把系統(tǒng)的組件（即工作任務(wù)，或子系統(tǒng)）映射到一個(gè)或多個(gè)處理引擎：

按照指令復(fù)雜度，形成一維坐標(biāo)系。CPU是100%軟件，ASIC是100%硬件，其他處理引擎介于兩者之間，是不同比例軟硬件混合態(tài)。

根據(jù)任務(wù)特點(diǎn)，映射到最合適的引擎。軟硬件的分工和協(xié)同，需要均衡；但更要不斷的向上向下拉扯，形成極致最優(yōu)。需要注意的是：基于軟硬件引擎的分層跟系統(tǒng)分層是不同的概念。

映射是動(dòng)態(tài)平衡的：任務(wù)最合適的處理引擎，并非一成不變，而是隨著系統(tǒng)發(fā)展有可能下沉(Offload)/上浮(Onload)。

需要強(qiáng)調(diào)的是：軟硬件融合不改變系統(tǒng)層次結(jié)構(gòu)和組件間的交互關(guān)系，但打破傳統(tǒng)軟硬件的界限，系統(tǒng)的、動(dòng)態(tài)的重構(gòu)軟硬件劃分/協(xié)同，達(dá)到整體最優(yōu)。

在小系統(tǒng)和大系統(tǒng)的背景下，分層很清晰：下層硬件上層軟件。軟硬件融合的分層分塊，每個(gè)任務(wù)都是不同程度軟硬件解耦基礎(chǔ)上的再協(xié)同。然后再整合成復(fù)雜宏系統(tǒng)。整個(gè)復(fù)雜宏系統(tǒng)呈現(xiàn)出：軟件中有硬件，硬件中有軟件，軟硬件融合成一體。

目前，在CPU性能瓶頸和對(duì)算力需求不斷上升的的大背景下，軟硬件融合主要是任務(wù)卸載。系統(tǒng)的任務(wù)，不斷的從CPU卸載到各個(gè)層次的硬件加速，其原因主要是：①復(fù)雜分層的系統(tǒng)、 ②CPU性能瓶頸、 ③超大規(guī)模以及④特定場(chǎng)景服務(wù)。

無規(guī)模，不卸載(Offload)。

哪些任務(wù)適合卸載？卸載的大原則可以分為微觀和宏觀兩個(gè)方面。微觀原則是：①性能敏感，占據(jù)較多CPU資源；宏觀原則是：②廣泛部署，運(yùn)行于眾多服務(wù)器。

宏觀的看，分層的系統(tǒng)，越上層越靈活軟件成分越多，越下層越固定硬件成分越多。龐大的規(guī)模以及特定場(chǎng)景服務(wù)，使得云計(jì)算底層工作任務(wù)逐漸穩(wěn)定并且逐步卸載到硬件（被動(dòng)趨勢(shì)）。軟硬件融合架構(gòu)，可以使“硬件”更加靈活，功能也更加強(qiáng)大，使得更多的層次功能向“硬件”加速卸載（主動(dòng)搶占）。

05軟硬件融合面向的場(chǎng)景

Intel SVP Raja表示：要實(shí)現(xiàn)元宇宙級(jí)別的體驗(yàn)，算力至少需要提升1000倍。從云計(jì)算到云網(wǎng)邊端融合的萬物融合，再到云宇宙的虛實(shí)融合，算力需要多個(gè)數(shù)量級(jí)的提高，單個(gè)設(shè)備的系統(tǒng)越來越復(fù)雜，數(shù)以億計(jì)設(shè)備組成的融合大系統(tǒng)，則更加復(fù)雜。

軟硬件融合，從宏觀和微觀的視角，嘗試解決復(fù)雜計(jì)算面臨的問題。系統(tǒng)越復(fù)雜，軟硬件融合的價(jià)值越凸顯。

軟硬件融合相關(guān)技術(shù)，從云計(jì)算抽象出來，指引包括云計(jì)算在內(nèi)的各種復(fù)雜計(jì)算場(chǎng)景的芯片及系統(tǒng)設(shè)計(jì)。

06軟硬件融合的意義

軟硬件融合的根基：①分層分塊的系統(tǒng)和②宏觀的超大規(guī)模，這兩個(gè)原因使得③二八規(guī)律廣泛存在。

軟硬件融合承上啟下：從產(chǎn)品定義和系統(tǒng)架構(gòu)開始，逐步拓展到整個(gè)系統(tǒng)棧；往下拓展微架構(gòu)設(shè)計(jì)和實(shí)現(xiàn)，甚至考慮工藝、封裝和測(cè)試；往上，考慮接口驅(qū)動(dòng)、操作系統(tǒng)、框架和開發(fā)庫，甚至需要考慮應(yīng)用算法和業(yè)務(wù)邏輯。

軟硬件融合，落地實(shí)現(xiàn)必然是CPU + 協(xié)處理器 + GPU + FPGA + DSA + ASIC等多種處理引擎充分協(xié)同的超異構(gòu)計(jì)算。其中，每個(gè)工作任務(wù)都是在軟硬件均衡/解耦基礎(chǔ)上的再協(xié)同。

軟硬件融合的核心目標(biāo)是要兼顧軟件靈活性和硬件高性能，實(shí)現(xiàn)既要又要。

軟硬件融合，既是理論和理念，也是方法和解決方案。讓硬件更加靈活、彈性、可擴(kuò)展，彌補(bǔ)硬件和軟件之間的鴻溝。

軟硬件融合應(yīng)對(duì)云計(jì)算、邊緣計(jì)算及超級(jí)終端等復(fù)雜計(jì)算場(chǎng)景的挑戰(zhàn)。軟硬件融合也為解決芯片一次性成本過高導(dǎo)致的設(shè)計(jì)風(fēng)險(xiǎn)，提供了切實(shí)可行的思路和方案。

審核編輯 ：李倩