在今年的巴塞羅那世界移動通信大會(MWC)上,高通技術公司再次引領AI技術的創新潮流,發布了其全新的高通AI Hub。這一創新平臺為開發者提供了一個全面的AI模型庫,使得他們能夠輕松快速地將預優化AI模型集成進應用程序中,從而為用戶帶來更快、更可靠且更具隱私性的體驗。
高通AI Hub的核心是其預優化AI模型庫,這一庫支持在搭載驍龍和高通平臺的終端上進行無縫部署。模型庫中包含超過75個主流的AI和生成式AI模型,如Whisper、ControlNet、Stable Diffusion和Baichuan-7B等。這些模型可在不同的執行環境中打包,實現卓越的終端側AI性能、降低內存占用并提升能效。
值得一提的是,所有模型都經過優化,旨在充分利用高通AI引擎內的所有核心(NPU、CPU和GPU)的硬件加速能力。這意味著推理速度可以得到4倍的提升,從而為用戶提供更加流暢、高效的AI體驗。
除了硬件加速外,AI模型庫還能夠自動處理從源框架到主流執行環境的模型轉換,并與高通AI引擎Direct SDK協同工作,實現硬件感知優化。這意味著開發者可以更加便捷地將這些模型集成進他們的應用程序中,縮短產品上市時間,并發揮終端側AI部署的諸多優勢,如即時性、可靠性、隱私保護、個性化和成本優勢。
為了方便開發者使用這些模型,高通AI Hub現已在高通AI Hub、GitHub和Hugging Face等平臺上提供。此外,高通AI Hub還將持續增加新模型,并支持更多平臺和操作系統。開發者只需注冊登錄,即可在搭載高通技術公司平臺的云托管終端上自行運行模型,并通過高通AI Hub提前獲取新特性和AI模型。
隨著AI技術的不斷發展和普及,高通AI Hub的推出無疑將為開發者提供更加便捷、高效的工具,推動終端側AI技術的廣泛應用和發展。我們期待這一平臺能夠在未來的AI領域中發揮更大的作用,為用戶帶來更加出色的AI體驗。
-
高通
+關注
關注
77文章
7591瀏覽量
192701 -
移動通信
+關注
關注
10文章
2670瀏覽量
70806 -
AI
+關注
關注
88文章
34457瀏覽量
275860
發布評論請先 登錄
開源鴻蒙開發者大會2025·AI分論壇圓滿閉幕,探索開源鴻蒙AI無限可能

格靈深瞳亮相Create2025百度AI開發者大會
DevEco Studio AI輔助開發工具兩大升級功能 鴻蒙應用開發效率再提升
首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手
云端AI開發者工具的核心功能
探索 RK3576 方案:卓越性能與靈活框架,誠邀開發定制合作!
AI開發平臺如何賦能開發者
聯發科技攜手Cocos共建端側生成式AI游戲開發生態,推動行業升級
云端AI開發者工具怎么用
Arm推出GitHub平臺AI工具,簡化開發者AI應用開發部署流程
多項AI新成果發布,涂鴉智能引領全球開發者共繪GenAI發展藍圖

2024快應用開發者大會:攜手AI,共筑未來智慧服務新生態

評論