當(dāng)前,AI技術(shù)正加速向終端融合,帶來交互方式革新、智能體驗(yàn)升級與數(shù)據(jù)本地化保障等重大機(jī)遇,推動AI手機(jī)、AI PC(人工智能個人計(jì)算機(jī))、機(jī)器人等新形態(tài)終端快速涌現(xiàn)。然而,AI入端仍面臨算力受限、隱私安全、響應(yīng)穩(wěn)定性不足及高成本低效率等挑戰(zhàn)。端側(cè)操作系統(tǒng)作為連接物理設(shè)備與云端服務(wù)的樞紐,具備輕量化、實(shí)時性、低功耗、安全性高等優(yōu)勢,成為AI與終端融合的核心載體,在推動AI終端的規(guī)模化普及上起到至關(guān)重要的作用。因此,推動端側(cè)操作系統(tǒng)與AI的融合,將成為實(shí)現(xiàn)泛在智能的重要路徑。
在“端側(cè)操作系統(tǒng)+AI”浪潮下,作為面向萬物互聯(lián)時代的智能終端操作系統(tǒng)根社區(qū),開源鴻蒙正加速打造自身的AI原生能力,以“AI原生操作系統(tǒng)”為目標(biāo),構(gòu)建了涵蓋中小模型部署、大語言模型融合、芯片適配與模型加速、智能體理解與應(yīng)用的全棧AI端側(cè)能力體系,并持續(xù)推動與終端的融合,已有諸多典型應(yīng)用場景落地,力圖在這一浪潮中占據(jù)一席之地,構(gòu)建真正高效、可控、普惠的AI智能終端技術(shù)底座。
構(gòu)建全棧AI端側(cè)能力體系,打造AI智能終端技術(shù)底座
在中小模型方面,開源鴻蒙通過MindSpore Lite Kit支持ASR、TTS、CV等多類模型推理,打通PyTorch、ONNX等模型轉(zhuǎn)換流程,輔以NNRT統(tǒng)一算力抽象,適配CPU、GPU、NPU等異構(gòu)計(jì)算硬件,實(shí)現(xiàn)跨芯片部署與高性能運(yùn)行。在TTS方向,開源鴻蒙已支持Fastspeech2、MelGAN等模型的端側(cè)壓縮與本地語音合成。在CV領(lǐng)域,YoloV5等模型已在端側(cè)通過圖像縮放、量化和C++優(yōu)化實(shí)現(xiàn)完整推理鏈路。
在大模型探索領(lǐng)域,開源鴻蒙與生態(tài)伙伴聯(lián)合創(chuàng)新取得了不俗進(jìn)展。例如,深思考基于開源鴻蒙成功適配了TinyDongni和DeepSeek R1大模型,使用自研Dongni-AMDC(自適應(yīng)多維壓縮)算法對模型權(quán)重和輸入統(tǒng)一量化壓縮,大幅降低內(nèi)存占用并提升推理速度,同時結(jié)合本地編譯優(yōu)化、多芯片協(xié)同并行推理、NPU加速、內(nèi)存按需加載等技術(shù),在保證大模型一定多模態(tài)理解能力的同時,將模型體積和運(yùn)行開銷壓縮到手機(jī)等設(shè)備可承受的范圍,讓復(fù)雜多模態(tài)大模型在端側(cè)設(shè)備上的落地成為可能。開鴻智谷在其基于開源鴻蒙開發(fā)的“在鴻OS 人工智能實(shí)驗(yàn)箱”產(chǎn)品上也成功支持了DeepSeek模型的本地部署,支持多輪對話、語音輸入、聯(lián)網(wǎng)搜索等功能。
在芯片適配與算力支持方面,開源鴻蒙已成功適配P7885、RK3576,并在探索昇騰310 B/P、RK3588等AI芯片的適配方案,構(gòu)建了覆蓋CPU、GPU、NPU的異構(gòu)推理體系。通過引入MindSpore Lite、NNRT和AI插件引擎,實(shí)現(xiàn)模型與芯片的快速適配與高效運(yùn)行,支持多模態(tài)AI任務(wù)如圖像識別、語音交互和大模型本地推理。
為加速AI端側(cè)能力的構(gòu)建,開源鴻蒙還成立了AI Model SIG,旨在通過匯聚大中小模型資源,構(gòu)建端到端應(yīng)用范例,降低AI能力向端側(cè)落地的技術(shù)門檻。包括開鴻智谷、華為、潤開鴻、深開鴻、中科鴻略、匯思博、佳都科技、視美泰等成員單位共同參與,推動開源鴻蒙AI能力的共建。
在模型部署到系統(tǒng)以后,如何將這些模型真正用起來、能夠開發(fā)出解決用戶真正問題的Agent,也成為開源鴻蒙重點(diǎn)思考的問題。
目前,開源鴻蒙正聯(lián)合頭部高校加速構(gòu)建面向智能終端的原生Agent體系,推動操作系統(tǒng)從被動響應(yīng)走向智能理解與主動服務(wù)。上海交通大學(xué)通過引入“經(jīng)驗(yàn)驅(qū)動”的Record & Replay范式,讓Agent可記錄用戶行為并復(fù)用經(jīng)驗(yàn),實(shí)現(xiàn)如點(diǎn)外賣、發(fā)郵件等復(fù)雜任務(wù)的自動化執(zhí)行。同時,該范式支持在本地端側(cè)運(yùn)行智能體,保障數(shù)據(jù)隱私與響應(yīng)效率,已適配如SmallThinker與PowerInfer等推理系統(tǒng)和模型,具備快速推理與任務(wù)規(guī)劃能力,可在手機(jī)、PC等終端流暢運(yùn)行和推理。
在開源鴻蒙開發(fā)者大會2025上,開源鴻蒙社區(qū)還啟動了“AI Agent技術(shù)共建”,并發(fā)起AI Agent TSG(技術(shù)專家組)籌備,圍繞“全新交互范式、多Agent框架、跨平臺協(xié)議、安全可信基座”四大方向,匯聚產(chǎn)學(xué)研力量推動Agent技術(shù)標(biāo)準(zhǔn)化與產(chǎn)業(yè)化共建。
應(yīng)用場景加速落地,助推AI終端規(guī)模化普及
要成為真正有影響力的AI原生操作系統(tǒng)平臺,光有技術(shù)還遠(yuǎn)遠(yuǎn)不夠,還需要繁榮的生態(tài)和實(shí)際落地的應(yīng)用場景。目前開源鴻蒙正加速將自身AI能力體系賦能硬件,并落地了一系列AI終端產(chǎn)品,涵蓋AI機(jī)器人、AI PC、AI試驗(yàn)箱等,助推AI終端的規(guī)模化普及。
在AI機(jī)器人層面,開源鴻蒙計(jì)劃籌建機(jī)器人PMC,致力于構(gòu)建一套完整的全棧式的機(jī)器人系統(tǒng)能力,包括統(tǒng)一的內(nèi)核平臺、多模態(tài)交互框架、中間件支持(如DORA/ROS2)、分布式通信機(jī)制,以及具身智能的軟總線互聯(lián),構(gòu)建適配不同形態(tài)機(jī)器人的全場景架構(gòu)。
在機(jī)器人落地應(yīng)用上,已有多家共建單位依托開源鴻蒙操作系統(tǒng)打造出面向各大應(yīng)用場景的機(jī)器人產(chǎn)品和解決方案。在科教實(shí)訓(xùn)領(lǐng)域,上海交通大學(xué)與曦朧科技、鴻湖萬聯(lián)打造的基于開源鴻蒙的機(jī)器人已進(jìn)入多所科研單位與高校,推動跨學(xué)科融合與原型驗(yàn)證。在工業(yè)領(lǐng)域,深開鴻基于開源鴻蒙的分布式異構(gòu)多機(jī)協(xié)同機(jī)器人操作系統(tǒng)發(fā)行版 M-Robots OS已在工業(yè)機(jī)械臂、協(xié)作機(jī)器人等場景完成驗(yàn)證。M-Robots OS單芯多內(nèi)核混合部署的特性,既支持豐富人機(jī)交互,又能保證響應(yīng)的硬實(shí)時(中斷延遲 ≤ 1us,任務(wù)切換 ≤ 1us),可滿足機(jī)器人、無人機(jī)、工業(yè)控制及自動駕駛等場景需求。此外,深開鴻還基于ROS實(shí)現(xiàn)了一套自主導(dǎo)航、目標(biāo)識別、物體抓取的AGV機(jī)器人的參考設(shè)計(jì),并在四足機(jī)器人、機(jī)械小車等開發(fā)者機(jī)器人上實(shí)現(xiàn)了部署,在智能制造與工業(yè)自動化、教育科研、智慧城市與公共服務(wù)、醫(yī)療康養(yǎng)與家庭服務(wù)等領(lǐng)域發(fā)揮關(guān)鍵作用。
在AI PC產(chǎn)品領(lǐng)域,華為于近期發(fā)布鴻蒙電腦,搭載基于開源鴻蒙的HarmonyOS 5,內(nèi)置全新小藝AI助手。通過強(qiáng)大的系統(tǒng)級AI能力,小藝在鴻蒙電腦上成為無處不在的系統(tǒng)級智能助理,帶來了全新交互、高效辦公、知識空間、設(shè)備操控等AI智慧體驗(yàn)。此外,深開鴻的開鴻BotBook筆記本電腦于近期發(fā)布,搭載基于開源鴻蒙的桌面操作系統(tǒng)——KaihongOS,集成AI OS框架及AI Agent智能體,提供行業(yè)智能支持;還內(nèi)置了基于KaihongOS原生AI智能助理,支持一鍵喚醒,可提供知識問答、文檔總結(jié)、售后服務(wù)問答等精準(zhǔn)服務(wù)。
此外,開鴻智谷基于開源鴻蒙開發(fā)的“在鴻OS 人工智能實(shí)驗(yàn)箱”實(shí)踐平臺已在人才培養(yǎng)領(lǐng)域?qū)崿F(xiàn)應(yīng)用,其支持參數(shù)規(guī)模3.5B的DeepSeek模型的本地部署與多輪對話,具備語音輸入、聯(lián)網(wǎng)搜索等能力,廣泛應(yīng)用于AI對話、執(zhí)行控制等典型場景,打造出涵蓋語音交互、視覺識別、自然語言處理的綜合應(yīng)用鏈條。
開源鴻蒙正以全棧化的AI能力和多樣化的終端應(yīng)用,推動“端側(cè)操作系統(tǒng)+AI”從理念走向?qū)嵺`,賦能產(chǎn)業(yè)智能化轉(zhuǎn)型升級。未來,開源鴻蒙將繼續(xù)深化技術(shù)突破與生態(tài)共建,攜手開發(fā)者與產(chǎn)業(yè)伙伴,共同探索AI原生操作系統(tǒng)的發(fā)展,共赴萬物智聯(lián)時代。
-
操作系統(tǒng)
+關(guān)注
關(guān)注
37文章
7103瀏覽量
125067 -
AI
+關(guān)注
關(guān)注
88文章
34457瀏覽量
275876 -
智能終端
+關(guān)注
關(guān)注
6文章
936瀏覽量
35266 -
鴻蒙
+關(guān)注
關(guān)注
59文章
2538瀏覽量
43816
原文標(biāo)題:“端側(cè)操作系統(tǒng)+AI”浪潮來臨,開源鴻蒙加速布局AI全棧能力體系
文章出處:【微信號:gh_e4f28cfa3159,微信公眾號:OpenAtom OpenHarmony】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
開源鴻蒙大屏生態(tài)分論壇圓滿舉辦
開源鴻蒙開發(fā)者大會2025·AI分論壇圓滿閉幕,探索開源鴻蒙AI無限可能

開源鴻蒙開發(fā)新體驗(yàn),開鴻Bot系列今日開啟預(yù)售!
大象機(jī)器人攜手進(jìn)迭時空推出 RISC-V 全棧開源六軸機(jī)械臂產(chǎn)品
DevEco Studio AI輔助開發(fā)工具兩大升級功能 鴻蒙應(yīng)用開發(fā)效率再提升
首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
中軟國際2024年度業(yè)績營收169.51億:持續(xù)投資云邊端全棧AI 全棧AI業(yè)務(wù)收入初具規(guī)模
芯訊通首次發(fā)布全新端側(cè)AI全棧解決方案SIMCom AI Stack
MWC 2025 | 廣和通發(fā)布全矩陣AI解決方案“星云”系列,創(chuàng)新變革端側(cè)AI

端側(cè) AI 音頻處理器:集成音頻處理與 AI 計(jì)算能力的創(chuàng)新芯片
移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速端側(cè)AI落地

移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速端側(cè)AI落地

深開鴻亮相“開源鴻蒙安全預(yù)警物聯(lián)生態(tài)”高峰論壇,構(gòu)建城市生命線安全體系

廣和通開啟端側(cè)AI新時代
軟通動力數(shù)據(jù)庫全棧服務(wù),助力企業(yè)數(shù)據(jù)庫體系全面升級

評論