近年來,類腦計(jì)算作為人工智能領(lǐng)域的重要方向,以其低功耗、高效率、高容錯性等優(yōu)勢,展現(xiàn)出巨大的發(fā)展?jié)摿ΑH欢惸X計(jì)算開發(fā)門檻高、與傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)(ANN)難以結(jié)合、缺乏高效易用的開源框架和豐富案例等問題,一直制約著其廣泛應(yīng)用。為了突破這一瓶頸,靈汐科技聯(lián)合腦啟社區(qū)正式宣布開源類腦深度學(xué)習(xí)應(yīng)用開發(fā)平臺BIDL(Brain-inspired Deep Learning)。
BIDL基于深度學(xué)習(xí)框架Pytorch構(gòu)建,實(shí)現(xiàn)了GPU和類腦計(jì)算芯片的雙硬件平臺支持,實(shí)現(xiàn)了一套用戶代碼可在兩類硬件平臺運(yùn)行的異構(gòu)執(zhí)行范式。支持ANN/SNN/異構(gòu)融合模型的構(gòu)建。針對靈汐類腦計(jì)算芯片進(jìn)行了深度適配,不僅提供了用戶友好的SNN構(gòu)建及訓(xùn)練環(huán)境,還顯著提升了模型在類腦計(jì)算平臺下的計(jì)算效率和能效比。
其支持高精度的BPTT訓(xùn)練方法,可用于訓(xùn)練典型的脈沖神經(jīng)網(wǎng)絡(luò)(SNN)模型,并可與傳統(tǒng)的深度學(xué)習(xí)網(wǎng)絡(luò)層混合使用,實(shí)現(xiàn)異構(gòu)融合網(wǎng)絡(luò)構(gòu)建和訓(xùn)練。該訓(xùn)練平臺充分考慮了靈汐類腦計(jì)算系統(tǒng)的計(jì)算特性,訓(xùn)練后的網(wǎng)絡(luò)可自動編譯并部署于靈汐類腦計(jì)算系統(tǒng),實(shí)現(xiàn)高效率推理。
圖1.BIDL系統(tǒng)架構(gòu)圖
核心亮點(diǎn):賦能開發(fā)者,助力應(yīng)用落地
一是跨平臺部署,靈活高效。BIDL支持將AI模型無縫部署到GPU和類腦芯片上,開發(fā)者無需針對不同硬件平臺進(jìn)行代碼修改,極大地提高了開發(fā)效率。這意味著開發(fā)者可以將更多精力投入到算法設(shè)計(jì)和模型優(yōu)化上,而無需擔(dān)心底層硬件平臺的差異。
二是優(yōu)化了類腦計(jì)算芯片的計(jì)算效率。我們將靈汐類腦計(jì)算芯片與部分GPU進(jìn)行了多個(gè)ANN/SNN融合應(yīng)用案例的性能指標(biāo)平均值對比。在滿足算法精度基本不下降時(shí),流式場景(batch size=1)下,靈汐類腦計(jì)算芯片延遲與功耗降均下降一個(gè)數(shù)量級;批計(jì)算場景(兩者均采用可用最大batchsize)下,靈汐類腦計(jì)算芯片較GPU能效比平均增益約5倍。這些指標(biāo)展現(xiàn)了類腦計(jì)算范式對類腦網(wǎng)絡(luò)的高效率支持。借助BIDL,用戶可直接通過pytorch語言,輕松獲得上述性能。
三是豐富案例,開箱即用。BIDL提供了多種分類案例(含DVS數(shù)據(jù)處理、短視頻處理、文本、醫(yī)學(xué)影像、大規(guī)模圖像及事件信息處理)、類腦跟蹤案例、高速目標(biāo)檢測案例在內(nèi)的7大類案例與20+具體案例。這些案例包括了ResNet50-LIF,Spiking Transformer,ST-YoloV5等大規(guī)模類腦模型,BIDL提供的案例都提供了類腦計(jì)算芯片的推理計(jì)算支持,展現(xiàn)了類腦計(jì)算芯片的廣泛應(yīng)用支持能力。開發(fā)者可以快速上手并應(yīng)用到實(shí)際項(xiàng)目中。這些案例不僅展示了BIDL的強(qiáng)大功能,也為開發(fā)者提供了寶貴的參考和借鑒。
與BindsNet、Spikingjelly、BrainPy等SNN框架相比,BIDL面向類腦計(jì)算芯片進(jìn)行了深度適配,既提供了較高的芯片執(zhí)行效率,又提供了面向類腦計(jì)算范式的簡易編程模式。與Loihi 2的計(jì)算框架Lava、SpiNNaker編譯器SpiNNTools等工具相比,BIDL提供的模型規(guī)模更大、精度更高(提供FP16權(quán)重精度)、靈活度更高(全模型支持pytorch原生編程)。
應(yīng)用案例
BIDL源自靈汐類腦計(jì)算專用軟件LYNBIDL。LYNBIDL已服務(wù)幾十家客戶,應(yīng)用于類腦計(jì)算研究、事件相機(jī)信息處理、泛安防等領(lǐng)域。
在2024年10月-12月舉辦的首屆腦啟社區(qū)類腦智能創(chuàng)新大賽上,BIDL工具提前開放給選手試用。該大賽的技術(shù)組創(chuàng)新獎獲得者(電子科技大學(xué)團(tuán)隊(duì))在腦啟云平臺基于BIDL框架部署了其空間-通道-時(shí)間融合注意力SNN(SCTFA-SNN)模型,于較短時(shí)間內(nèi)就完成了針對類腦芯片的適應(yīng)性優(yōu)化。
開源社區(qū),共建生態(tài)
BIDL秉承開源精神,代碼已在GitHub平臺開源,并提供了詳細(xì)的文檔,后續(xù)將在腦啟社區(qū)上同步完善更多文檔、教程與應(yīng)用案例。歡迎廣大開發(fā)者下載使用并提出寶貴意見,BIDL團(tuán)隊(duì)也將持續(xù)更新和維護(hù)項(xiàng)目,與開發(fā)者共同構(gòu)建繁榮的類腦計(jì)算生態(tài)。
附:開源版與專業(yè)版對比
BIDL提供開源版和專業(yè)版兩個(gè)版本,以滿足不同用戶的需求:
1.開源版:面向開發(fā)者技術(shù)驗(yàn)證,提供基礎(chǔ)開發(fā)功能,支持ANN+SNN融合訓(xùn)練和基礎(chǔ)案例部署,硬件支持GPU訓(xùn)練和靈汐類腦芯片基礎(chǔ)推理。開源版采用Apache 2.0許可協(xié)議,允許商用修改,并通過社區(qū)論壇提供支持。
2.專業(yè)版:BIDL 專業(yè)版本(LYNBIDL)可提供專業(yè)團(tuán)隊(duì)的類腦模型適配支持服務(wù)、靈汐芯片與 GPU 性能對比評估數(shù)據(jù)、適配內(nèi)存受限邊緣設(shè)備的部署框架、類腦芯片片上學(xué)習(xí)案例、功能級別類腦網(wǎng)絡(luò)等額外功能和服務(wù)。此外,靈汐及相關(guān)合作伙伴還可提供超大規(guī)模腦仿真軟件棧及定制化開發(fā)等類腦商業(yè)化服務(wù)。
-
人工智能
+關(guān)注
關(guān)注
1805文章
48940瀏覽量
248323 -
開源
+關(guān)注
關(guān)注
3文章
3654瀏覽量
43707 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5557瀏覽量
122688
原文標(biāo)題:類腦深度學(xué)習(xí)應(yīng)用開發(fā)平臺BIDL重磅開源
文章出處:【微信號:北京靈汐科技有限公司,微信公眾號:北京靈汐科技有限公司】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
開鴻開發(fā)板深度體驗(yàn):從開源鴻蒙開發(fā)到AI場景實(shí)踐

開鴻Bot系列:為開源鴻蒙開發(fā)者而生!

開源鴻蒙開發(fā)新體驗(yàn),開鴻Bot系列今日開啟預(yù)售!
行業(yè)首創(chuàng):基于深度學(xué)習(xí)視覺平臺的AI驅(qū)動輪胎檢測自動化

零知開源平臺重磅升級!嵌入式開發(fā)進(jìn)入“渦輪增壓”時(shí)代
開源mlops平臺好用嗎
靈汐KA200芯片完成DeepSeek-R1系列模型適配
SynSense時(shí)識科技亮相CES,展現(xiàn)類腦智能“芯”實(shí)力
SynSense時(shí)識科技發(fā)布全新XyloAudio 3類腦開發(fā)套件
FPGA加速深度學(xué)習(xí)模型的案例
FPGA做深度學(xué)習(xí)能走多遠(yuǎn)?
SynSense時(shí)識科技成功收購瑞士類腦視覺傳感器公司iniVation,類腦智能航母蓄勢待發(fā)

評論