春節(jié)之后，ChatGPT這個(gè)名字在國(guó)內(nèi)聲名鵲起，它能夠與用戶進(jìn)行流暢、自然、有趣的對(duì)話，展示了人工智能在自然語(yǔ)言處理領(lǐng)域的巨大進(jìn)步。

“AI的‘iPhone時(shí)刻’已經(jīng)到來(lái)”，全球最大的AI芯片制造商之一英偉達(dá)CEO在3月21日的GTC大會(huì)上這樣說(shuō)到，“各行各業(yè)正在應(yīng)對(duì)可持續(xù)發(fā)展、生成式AI和數(shù)字化等強(qiáng)大的動(dòng)態(tài)挑戰(zhàn)，因此加速計(jì)算和AI的到來(lái)恰逢其時(shí)。”

為支撐OpenAI訓(xùn)練出ChatGPT，微軟打造了一臺(tái)由數(shù)萬(wàn)個(gè)A100 GPU組成的AI超級(jí)計(jì)算機(jī)，此外，還有60多個(gè)數(shù)據(jù)中心、幾十萬(wàn)張GPU支持ChatGPT的推理工作，預(yù)計(jì)GPT-4模型的商業(yè)化將需要超過(guò)3萬(wàn)枚A100芯片。可以說(shuō)AI算力芯片是人工智能大模型的發(fā)動(dòng)機(jī)，也是人工智能產(chǎn)業(yè)發(fā)展的重要基礎(chǔ)。

01AI算力芯片是何方神圣？AI算力芯片，也被稱為AI加速器或計(jì)算卡，即專門用于處理人工智能應(yīng)用中的大量計(jì)算任務(wù)的模塊。從廣義范疇上講，面向AI計(jì)算應(yīng)用并提供算力的芯片都被稱作AI算力芯片，可滿足AI算法的復(fù)雜度和多樣性需求，具有高性能、低功耗、低延遲、高并行度等特點(diǎn)。其主要包括基于傳統(tǒng)芯片架構(gòu)的中央處理器（CPU）、圖形處理器（GPU）、現(xiàn)場(chǎng)可編程門陣列（FPGA）和專用集成電路（ASIC），以及前沿的神經(jīng)擬態(tài)芯片、類腦芯片、可重構(gòu)通用AI芯片等，在云計(jì)算、數(shù)據(jù)中心、邊緣計(jì)算、物聯(lián)網(wǎng)、智能手機(jī)、智能汽車等領(lǐng)域具有廣泛的應(yīng)用場(chǎng)景。

GPU成AI算力芯片霸主

當(dāng)前主流的AI算力芯片有GPU、FPGA和ASIC芯片，其中，GPU作為目前應(yīng)用最廣的AI芯片，是GPT訓(xùn)練模型中精度最高和算力最快的AI芯片，主要采用并行計(jì)算處理技術(shù)，堪稱AI時(shí)代的算力核心。隨著人工智能訓(xùn)練與推理需求的增加，還應(yīng)運(yùn)而生了通用圖形處理單元（GPGPU）——它可利用GPU的大量核心和高帶寬內(nèi)存，實(shí)現(xiàn)高度并行的數(shù)據(jù)處理，顯著提高計(jì)算效率和性能；也可利用GPU的專用硬件，如紋理單元、著色器等，實(shí)現(xiàn)特定功能的加速，解決傳統(tǒng)CPU難以處理的問(wèn)題，如科學(xué)計(jì)算、機(jī)器學(xué)習(xí)、圖像處理等。四類主要AI算力芯片的比較

訓(xùn)練與推理，從云到端的混合部署

根據(jù)機(jī)器學(xué)習(xí)算法步驟，人工智能有訓(xùn)練（training）和推理（inference）兩個(gè)重要環(huán)節(jié)：

訓(xùn)練是指通過(guò)大量的標(biāo)注數(shù)據(jù)來(lái)構(gòu)建和優(yōu)化一個(gè)復(fù)雜得神經(jīng)網(wǎng)絡(luò)模型，其能夠適應(yīng)特定的功能，如圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等。

推理是指利用訓(xùn)練好的模型，使用新數(shù)據(jù)推理出各種結(jié)論，如識(shí)別圖像中的物體、轉(zhuǎn)換語(yǔ)音為文本、生成自然語(yǔ)言回答等。

訓(xùn)練需要大量的數(shù)據(jù)和計(jì)算資源，以及一定的通用性，以便完成各種各樣的學(xué)習(xí)任務(wù)；通常在云端或服務(wù)器上進(jìn)行，需要高性能、高帶寬、高精度的AI算力芯片。

推理需要快速將推理結(jié)果轉(zhuǎn)化為行動(dòng)，以及考慮單位能耗算力、時(shí)延、成本等綜合指標(biāo)。推理可以在云端或終端進(jìn)行，需要低功耗、低延遲、低成本的AI算力芯片。

訓(xùn)練與推理AI算力芯片的比較結(jié)合實(shí)際應(yīng)用場(chǎng)景，根據(jù)芯片部署的位置，AI算力芯片又可分為云端訓(xùn)練、云端推理、邊緣計(jì)算和終端四大類：

云端訓(xùn)練AI算力芯片用于構(gòu)建和優(yōu)化深度神經(jīng)網(wǎng)絡(luò)模型，具備高吞吐量、高精確率、可編程性、分布式、可擴(kuò)展性、高內(nèi)存與帶寬等特點(diǎn)；

云端推理AI算力芯片用于利用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)和分析，對(duì)擴(kuò)展性和帶寬的要求較低，但具有低延時(shí)特點(diǎn)；

邊緣計(jì)算AI算力芯片是在邊緣設(shè)備上進(jìn)行深度學(xué)習(xí)模型推理，實(shí)現(xiàn)模型的離線運(yùn)行和本地處理的芯片，具有輕量化和可擴(kuò)展特點(diǎn)；

終端AI算力芯片是實(shí)現(xiàn)模型的輕量化和優(yōu)化，對(duì)數(shù)據(jù)進(jìn)行本地處理和分析的芯片，可實(shí)現(xiàn)數(shù)據(jù)收集、環(huán)境感知、人機(jī)交互等功能，具有低功耗和協(xié)同性特點(diǎn)。

02

信息時(shí)代躍入智能時(shí)代？

人工智能是數(shù)據(jù)、算法、算力的有機(jī)整合，正在從單一的技術(shù)工具演變?yōu)樾袠I(yè)必不可少的生態(tài)系統(tǒng)，幫助人們解決復(fù)雜問(wèn)題，改變?nèi)说纳詈蜏贤ǚ绞健?/span>AI算力芯片作為底層算力設(shè)施的關(guān)鍵一環(huán)，在提高算法的運(yùn)行速度和效率，降低成本和功耗等方面發(fā)揮舉足輕重的作用。可以說(shuō)，AI算力芯片是人工智能發(fā)展的基石，有望促進(jìn)人工智能應(yīng)用場(chǎng)景落地和萬(wàn)億級(jí)數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)變革，驅(qū)動(dòng)智能化時(shí)代加速到來(lái)。在數(shù)字化轉(zhuǎn)型、AIGC等浪潮下，AI算力芯片市場(chǎng)需求猛增。據(jù)TrendForce預(yù)測(cè)，2025年全球AI算力芯片市場(chǎng)規(guī)模有望達(dá)740億美元；而據(jù)IDC數(shù)據(jù)，到2025年GPU仍將占據(jù)AI算力芯片80%的市場(chǎng)份額。可以預(yù)見，GPU在較長(zhǎng)期時(shí)間內(nèi)，依然是全球AI算力芯片廠商的角斗場(chǎng)。

美國(guó)占據(jù)全球AI算力芯片市場(chǎng)絕對(duì)優(yōu)勢(shì)

據(jù)Mordor Intelligence報(bào)告，目前，美國(guó)AI算力芯片市場(chǎng)主要玩家有英偉達(dá)、英特爾、AMD，分為GPU和FPGA兩大陣營(yíng)。英偉達(dá)在GPU市場(chǎng)一家獨(dú)大，市場(chǎng)份額高達(dá)90%，在訓(xùn)練和推理芯片領(lǐng)域遙遙領(lǐng)先其它廠商；英特爾與AMD則在CPU市場(chǎng)持續(xù)占據(jù)統(tǒng)治地位，雙方各自收購(gòu)了FPGA巨頭Altera與Xilinx，旨在進(jìn)入數(shù)據(jù)中心與嵌入式市場(chǎng)進(jìn)行互博。

英偉達(dá)——AI算力芯片領(lǐng)跑者

英偉達(dá)作為全球領(lǐng)先的芯片廠商，其GPU產(chǎn)品線豐富、產(chǎn)品性能頂尖、開發(fā)生態(tài)成熟，已經(jīng)成為AI算力芯片的生態(tài)構(gòu)建者和領(lǐng)跑者。其主流AI芯片分為四大類：面向數(shù)據(jù)中心的AI訓(xùn)練和推理芯片，如A100和H100；面向云端工作負(fù)載的AI推理芯片，如T4；面向邊緣設(shè)備的AI加速芯片，如不同級(jí)別的Jetson系列SOC；面向?qū)I(yè)圖形和虛擬現(xiàn)實(shí)的AI芯片，如Quadro系列芯片等。其中，面向數(shù)據(jù)中心的AI訓(xùn)練和推理芯片最為行業(yè)所關(guān)注：

英偉達(dá)A100與H100產(chǎn)品簡(jiǎn)介

據(jù)英偉達(dá)公開數(shù)據(jù)表明，對(duì)于當(dāng)今的主流AI和HPC機(jī)型，配備InfiniBand interconnect的H100的性能是A100的30倍。英偉達(dá)A100與H100產(chǎn)品性能對(duì)比

AI算力芯片自主可控任重道遠(yuǎn)

據(jù)IDC報(bào)告，CPU+GPU的產(chǎn)品組合占中國(guó)AI服務(wù)器市場(chǎng)的91.9%，國(guó)內(nèi)AI行業(yè)對(duì)GPU依賴性極高。
隨著美國(guó)《2022芯片與科學(xué)法案》的出臺(tái)以及針對(duì)中企進(jìn)一步擴(kuò)充“實(shí)體清單”名錄等措施的落地，英偉達(dá)和AMD高端AI算力芯片被全面禁售給中國(guó)，敲響了高端AI算力芯片國(guó)產(chǎn)自主可控的警鐘。但受限于工藝制程、EDA、IP核等技術(shù)封鎖，國(guó)內(nèi)AI芯片廠商的自主研制水平與國(guó)際一流水平還存在較大差距：

芯片制程工藝方面，全球3nm量產(chǎn)能力被三星和臺(tái)積電兩家企業(yè)壟斷，英特爾與臺(tái)積電在美工廠預(yù)計(jì)明年將實(shí)現(xiàn)4nm量產(chǎn)，而中國(guó)大陸目前還不具備4nm與7nm的制程工藝，由于臺(tái)積電被限制技術(shù)轉(zhuǎn)移，其只能在大陸投資落地28nm制程的生產(chǎn)線，大陸與世界領(lǐng)先水平整體差距在5-6年。

高端AI算力芯片方面，由于英偉達(dá)的A100與H100芯片向中國(guó)禁售，當(dāng)前能獲得的最佳替代品是專供中國(guó)市場(chǎng)的A800芯片（A100“閹割版”），但其整體通信的帶寬性能僅為A100的70%，數(shù)據(jù)傳輸速度受限、功耗更大，且市場(chǎng)高度緊缺。

英偉達(dá)數(shù)據(jù)中心芯片售價(jià)情況哪里有差距，哪里就有追趕，具有高校、科研機(jī)構(gòu)與國(guó)內(nèi)外知名AI芯片廠商創(chuàng)始團(tuán)隊(duì)背景的中國(guó)AI芯片企業(yè)正加速涌現(xiàn)，國(guó)產(chǎn)AI算力芯片產(chǎn)品也不斷實(shí)現(xiàn)創(chuàng)新突破。例如：寒武紀(jì)思元590在中國(guó)首發(fā)的大語(yǔ)言模型文心一言中已有小規(guī)模部署；海光信息深算1號(hào)的效能與NVIDIA P100相當(dāng)，可運(yùn)行AI大模型，蘇州、成都等多地超算中心均搭載其CPU與DCU。放眼未來(lái)，沐曦計(jì)劃于今年6月發(fā)布其GPU產(chǎn)品C100，公布的性能指標(biāo)接近NVIDIA H100的水平；壁仞科技的BR100性能指標(biāo)也對(duì)應(yīng)NVIDIA H100，雖然其收到美國(guó)商務(wù)部打壓需要重新設(shè)計(jì)產(chǎn)品，但其產(chǎn)品仍讓人有所期待。

國(guó)產(chǎn)AI算力芯片公司主要產(chǎn)品對(duì)比
03新一線算力第一城成都AI算力芯片發(fā)展水平幾何？

國(guó)家信息中心提出未來(lái)80%的場(chǎng)景都將基于人工智能，所占據(jù)的算力資源將主要由智算中心提供。繼2020年成都超算中心落地后，2022年成都智算中心也成功投入使用，提供300P并在未來(lái)達(dá)到1000P的算力規(guī)模，成都成為全國(guó)除上海外僅有的投運(yùn)超算和智算雙中心的城市，也是全國(guó)首個(gè)專門出臺(tái)算力產(chǎn)業(yè)專項(xiàng)政策的城市。

雙中心可以近乎實(shí)時(shí)地存儲(chǔ)、檢索、處理和分析海量數(shù)據(jù)，提供業(yè)務(wù)性能授權(quán)單元支持，提供數(shù)據(jù)智能處理、AI模型快速開發(fā)部署等能力，同時(shí)提供高可靠的資源管理、用戶管理、AI集群設(shè)備的運(yùn)維和監(jiān)控服務(wù)，成為本地乃至全國(guó)AI算力芯片產(chǎn)業(yè)發(fā)展的重要基地和動(dòng)力引擎，推動(dòng)中國(guó)AI算力芯片走向全球領(lǐng)先地位。雙中心為AI算力芯片帶來(lái)的發(fā)展機(jī)遇：

為AI算力芯片的研發(fā)、測(cè)試、驗(yàn)證、優(yōu)化等提供強(qiáng)大的計(jì)算支撐和數(shù)據(jù)服務(wù)，加速AI算力芯片的創(chuàng)新和突破；

為AI算力芯片的應(yīng)用場(chǎng)景和需求提供豐富的案例和數(shù)據(jù)，推動(dòng)AI算力芯片的產(chǎn)業(yè)化和商業(yè)化；

邊緣計(jì)算AI算力芯片是在邊緣設(shè)備上進(jìn)行深度學(xué)習(xí)模型推理，實(shí)現(xiàn)模型的離線運(yùn)行和本地處理的芯片，具有輕量化和可擴(kuò)展特點(diǎn)；

為AI算力芯片的人才培養(yǎng)和交流提供平臺(tái)和機(jī)會(huì)，促進(jìn)AI算力芯片產(chǎn)業(yè)的人才聚集和創(chuàng)新氛圍。

AI產(chǎn)業(yè)生態(tài)基礎(chǔ)良好

成都作為西部新一線領(lǐng)跑城市，2019年以來(lái)積極布局人工智能產(chǎn)業(yè)，形成了一批具有自主創(chuàng)新能力和市場(chǎng)競(jìng)爭(zhēng)力的企業(yè)和團(tuán)隊(duì)。據(jù)統(tǒng)計(jì)，截至2022年9月，全市人工智能產(chǎn)業(yè)規(guī)模達(dá)469.2億元，較2020年增長(zhǎng)147%，核心產(chǎn)業(yè)規(guī)模位列全國(guó)第五，已基本形成完整的人工智能產(chǎn)業(yè)生態(tài)，覆蓋基礎(chǔ)層、技術(shù)層、應(yīng)用層全產(chǎn)業(yè)鏈，特別是AI芯片、智能傳感、數(shù)據(jù)和計(jì)算服務(wù)智能機(jī)器人等十大細(xì)分領(lǐng)域優(yōu)勢(shì)突出。成都人工智能企業(yè)數(shù)量及產(chǎn)業(yè)價(jià)值鏈分布

其中，高新區(qū)擁有完整的電子信息產(chǎn)業(yè)鏈，集聚了全市75%的成長(zhǎng)型人工智能核心企業(yè)。高新區(qū)在近日還發(fā)布了《成都高新區(qū)集成電路建圈強(qiáng)鏈三年攻堅(jiān)計(jì)劃（2023-2025）》，提出以模擬芯片為核心，以算力芯片、存儲(chǔ)芯片及功率器件為重點(diǎn)，構(gòu)建規(guī)模大、技術(shù)強(qiáng)、要素全的集成電路全產(chǎn)業(yè)鏈，加快“中國(guó)存儲(chǔ)谷”建設(shè)，電子信息萬(wàn)億級(jí)產(chǎn)業(yè)集群加快成型成勢(shì)，本地算力芯片迎來(lái)新的發(fā)展機(jī)遇期。

AI算力芯片加速萌芽

據(jù)統(tǒng)計(jì)，2021年成都芯片產(chǎn)業(yè)總規(guī)模達(dá)1464億元，同比增長(zhǎng)20%，匯集英特爾、德州儀器、華為海思、成都海光、雷電微力、海威華芯等上下游企業(yè)200余家。其中，AI芯片產(chǎn)業(yè)規(guī)模約為184億元（2020年），代表性企業(yè)有中科創(chuàng)達(dá)、啟英泰倫、華天科技、北信源等，覆蓋人工智能芯片設(shè)計(jì)、制造、封裝、測(cè)試等全環(huán)節(jié)，囊括CPU、GPU、FPGA、ASIC等多種技術(shù)架構(gòu)和云端、邊緣、終端等多種應(yīng)用場(chǎng)景。

啟英泰倫，成都高新區(qū)瞪羚企業(yè)、省級(jí)專精特新中小企業(yè)、成都市新經(jīng)濟(jì)百家重點(diǎn)培育企業(yè)，成立于2015年，是集語(yǔ)音芯片、語(yǔ)音算法、應(yīng)用方案、開發(fā)平臺(tái)于一體的行業(yè)領(lǐng)導(dǎo)型語(yǔ)音解決方案供應(yīng)商。成立至今，啟英泰倫已推出多款智能語(yǔ)音芯片，涵蓋離線語(yǔ)音芯片，語(yǔ)音AIoT芯片，語(yǔ)音藍(lán)牙芯片，其中CI1006芯片被認(rèn)定為國(guó)內(nèi)首創(chuàng)，CI110X系列芯片被認(rèn)定為國(guó)際先進(jìn)。公司芯片產(chǎn)品現(xiàn)已廣泛應(yīng)用于智慧家居家電、智慧養(yǎng)老、智慧穿戴、智慧醫(yī)療、智慧酒店、智慧安防、智慧教育、智慧汽車和機(jī)器人等領(lǐng)域，服務(wù)客戶超過(guò)1000家。

SynSense時(shí)識(shí)科技成立于2017年，是一家起源于瑞士的類腦智能與應(yīng)用解決方案提供商，公司秉承了蘇黎世大學(xué)和蘇黎世聯(lián)邦理工學(xué)院20+年的類腦技術(shù)研發(fā)成果，專注于類腦智能的研究與開發(fā)，聚焦邊緣計(jì)算應(yīng)用場(chǎng)景，提供超低功耗、超低延時(shí)的全棧式類腦智能解決方案與服務(wù)，曾獲評(píng)“全球唯一橫跨感知與計(jì)算兩界的類腦科技公司”“全球最值得關(guān)注的100家半導(dǎo)體新創(chuàng)公司”“麻省理工科技評(píng)論50家聰明公司”。公司開發(fā)了多款低功耗、高性能、架構(gòu)創(chuàng)新的類腦芯片產(chǎn)品，擁有全球首款“感算一體”動(dòng)態(tài)視覺智能SoC Speck、XYLO 類腦處理器、DYNAP-CNN神經(jīng)形態(tài)處理器及完整工具鏈，可運(yùn)用于智能家居人機(jī)交互、機(jī)器人、自動(dòng)駕駛、可穿戴設(shè)備、智能安防、物聯(lián)網(wǎng)等。

04

打破技術(shù)壁壘未來(lái)可期

雖然國(guó)內(nèi)寒武紀(jì)、百度、燧原、華為等一眾企業(yè)的技術(shù)水平及產(chǎn)品性能都落后于英偉達(dá)一代或兩代，但AI算力芯片作為數(shù)字中國(guó)的算力基礎(chǔ)，國(guó)產(chǎn)突破勢(shì)在必行。面對(duì)摩爾定律邊際效用遞減的困境，ASIC芯片的弱通用性難以應(yīng)對(duì)下游算法的快速演化，GPGPU又難解高功耗與低算力利用率問(wèn)題，業(yè)界正翹首以盼新架構(gòu)、新工藝、新材料、新封裝，以進(jìn)一步突破算力天花板。誰(shuí)能率先填補(bǔ)大模型算力需求的缺口，誰(shuí)就有機(jī)會(huì)搶占新一輪AI芯片搶位賽的前排。

其關(guān)鍵在于探尋“彎道超車”路徑，特別是存算一體、超異構(gòu)、Chiplet（芯粒）、3D封裝等新興技術(shù)路線的提出，跳出了馮·諾依曼架構(gòu)體系，理論上擁有高能效比優(yōu)勢(shì)，兼顧更強(qiáng)通用性與更高性價(jià)比，算力發(fā)展空間巨大，有望彌補(bǔ)中國(guó)企業(yè)與英偉達(dá)在硬件技術(shù)和軟件生態(tài)方面的差距，擺脫國(guó)內(nèi)對(duì)先進(jìn)制程技術(shù)的依賴。例如：存算一體芯片對(duì)工藝要求較低，在28nm工藝上實(shí)現(xiàn)的算力和能效就能比肩甚至超過(guò)傳統(tǒng)架構(gòu)芯片在7nm工藝上的表現(xiàn)。

從超異構(gòu)來(lái)看，國(guó)內(nèi)CPU有廣受歡迎的開源RISC-V架構(gòu)，GPGPU有新興的開源架構(gòu)“青花瓷”平臺(tái)，存算一體也有億鑄科技等廠商在大力投入研發(fā)。隨著工藝不斷迭代，國(guó)內(nèi)企業(yè)“超車”速度會(huì)越來(lái)越快，優(yōu)勢(shì)會(huì)越來(lái)越明顯。

突破技術(shù)瓶頸并非一日之事，必須腳踏實(shí)地，加大資源持續(xù)投入，有耐心有定力，久久為功，才能踏上發(fā)展的“快車道”；我們希望有更多的本土企業(yè)走到換道前行的賽道上，為破解國(guó)內(nèi)AI大算力困局探尋屬于中國(guó)AI芯片產(chǎn)業(yè)的發(fā)展道路。

文章參考來(lái)源

·AI CHIPSETS MARKET - GROWTH, TRENDS, COVID-19 IMPACT, AND FORECASTS (2023 - 2028) —— Mordor Intelligence

·GLOBAL AI CHIPSETS MARKET (2022 - 2027) ——Mordorintelligence

·2022中國(guó)人工智能芯片 行業(yè)研究報(bào)告 ——億歐智庫(kù)

·UNITED STATES,SECURITIES AND EXCHANGE COMMISSION, WASHINGTON, DC 20549

·全球人工智能支出指南 ——IDC

·ChatGPT 系列報(bào)告：算力“軍備競(jìng)賽” ——民生證券

·40張圖表解析中國(guó)“芯”勢(shì)力：2021年中國(guó)AI芯片發(fā)展簡(jiǎn)報(bào)及典型廠商案例——甲子光年

·GTC 2023 主題演講——NVIDIA

·2022年成都市人工智能行業(yè)產(chǎn)業(yè)鏈現(xiàn)狀及發(fā)展前景分析——前瞻產(chǎn)業(yè)研究院

·邁向巔峰之路——中國(guó)成長(zhǎng)型AI企業(yè)研究報(bào)告——英特爾，德勤，深圳市人工智能行業(yè)協(xié)會(huì)

·2018 人工智能芯片研究報(bào)告——清華-中國(guó)工程院知識(shí)智能聯(lián)合實(shí)驗(yàn)室

·把GPT時(shí)代引擎拉滿，國(guó)產(chǎn)AI大算力芯片換道狂飆——智東西