在“雙碳”目標(biāo)的指引下,能源行業(yè)正經(jīng)歷從傳統(tǒng)模式向智能化、綠色化的深度轉(zhuǎn)型。上海達(dá)卯科技有限公司(以下簡稱“達(dá)卯智能”)是人工智能領(lǐng)域的能源大模型企業(yè),專注于通過通用人工智能(AGI)技術(shù)構(gòu)建能源管理與虛擬電廠解決方案。
深耕能源行業(yè)打造專用垂類模型
達(dá)卯智能全自主研發(fā)了基于 MOE 架構(gòu)的能源大模型,憑借業(yè)界獨(dú)創(chuàng)的能量塊數(shù)據(jù)結(jié)構(gòu),應(yīng)用云端大模型+邊端智能體相結(jié)合的云邊協(xié)同架構(gòu),極大優(yōu)化了預(yù)測和策略模型生成的效率與準(zhǔn)確性,相較傳統(tǒng)策略算法,得到了大幅度提升。
達(dá)卯能源大模型是國內(nèi)領(lǐng)先的、面向各類能源場景、對各類能源任務(wù)具備通用求解能力的垂類大模型體系,該模型體系主要由三個核心部分構(gòu)成:基于 MOE 架構(gòu)的能源知識模型、基于 Transformer 架構(gòu)的能量系統(tǒng)平衡模型以及多模態(tài)模型,共同鑄就了達(dá)卯智能在能源領(lǐng)域的技術(shù)領(lǐng)先地位。
隨著 DeepSeek 的橫空出世,達(dá)卯智能也開始接入和適配 DeepSeek-R1 模型,DeepSeek 強(qiáng)大的推理能力,填補(bǔ)了達(dá)卯智能此前的空白,達(dá)卯智能基于 DeepSeek 進(jìn)一步升級和完善了其自研產(chǎn)品的核心能力。一方面,基于能源行業(yè)獨(dú)有的海量垂直語料庫與自研能源大模型體系,“能源小達(dá)”AI 智能體實(shí)現(xiàn)突破性升級,為發(fā)電、輸電、配電、電力交易、政策合規(guī)等全產(chǎn)業(yè)鏈提供高精度、低延遲、強(qiáng)適配的 AI 決策支持。另一方面,達(dá)卯智能進(jìn)行二次開發(fā),開發(fā)了虛擬電廠功能,可對能源資源進(jìn)行調(diào)度、交易和聚合,為能源行業(yè)客戶生成相應(yīng)的資源調(diào)度策略報告,實(shí)現(xiàn)能源行業(yè)降本 15%。
RTX 5880 Ada 賦能達(dá)卯能源一體機(jī)重構(gòu)本地化部署范式
任何大模型或深度學(xué)習(xí)應(yīng)用的部署,都逃不開算力瓶頸。面對數(shù)十億甚至上百億參數(shù)規(guī)模的模型,一個合適的硬件配置能夠讓推理速度提升一個數(shù)量級。
為適應(yīng)能源行業(yè) AI 的變革,達(dá)卯智能基于 DeepSeek R1 與 NVIDIA 架構(gòu),推出了 DM-Engine R1 系列能源大模型一體機(jī),通過搭載麗臺科技提供的 NVIDIA RTX 5880 Ada GPU,結(jié)合麗臺科技定制化工作站和服務(wù)器整機(jī),達(dá)卯智能為能源行業(yè)打造了安全端到端 AI 推理方案。
此次推出的 DM-Engine R1 一體機(jī)系列有三款,其中 DM-Engine R1 14B 標(biāo)準(zhǔn)版和 DM-Engine R1 32B 旗艦版均搭載 NVIDIA RTX 5880 Ada,分別適用于輕量級模型推理以及高精度專業(yè)領(lǐng)域任務(wù)。
RTX 5880 Ada 具備 48GB GDDR6 顯存以及 14,080 個 CUDA 核心和 440 個第四代 Tensor Core,具有 69.3 TFLOPs 的 FP32 計算能力和 1,108 TFLOPs 的 Tensor 性能,非常適合用于 AI 模型推理任務(wù),單 GPU 即可勝任小規(guī)模模型或低并發(fā)推理需求,而多 GPU 的靈活擴(kuò)展則更適用于處理教大的輸入或高并發(fā)推理場景。
DM-Engine R1 14B 標(biāo)準(zhǔn)版能夠使 TCO(總體擁有成本)降低 40% 并且支持 365*24 小時無休運(yùn)行。DM-Engine R1 32B 旗艦版配備 2 塊 RTX 5880 Ada,48GB*2 顯存保障 8,192 步長時序預(yù)測零中斷,同時支持 2.4 萬 QPS 高并發(fā),能夠?qū)崿F(xiàn)結(jié)構(gòu)化剪枝技術(shù)能源場景推理提速 300%。
DM-Engine R1 系列一體機(jī)特點(diǎn):
全棧深度適配
預(yù)集成能源領(lǐng)域?qū)俅竽P团c工具鏈,通過可視化界面與標(biāo)準(zhǔn)化接口,實(shí)現(xiàn)從部署到應(yīng)用的極簡操作流程,企業(yè)可以快速構(gòu)建專屬能源模型,無需復(fù)雜的配置和調(diào)試,大大縮短了項目上線時間,提高了業(yè)務(wù)響應(yīng)速度,使企業(yè)能夠更敏捷地應(yīng)對市場變化和能源管理需求。
算效比全面領(lǐng)先
基于 NVIDIA 新一代架構(gòu) GPU 保障千億級模型推理精度,實(shí)現(xiàn)單位功耗算力倍增,邊緣場景綜合能效比達(dá)業(yè)界標(biāo)桿水平。這意味著在相同的能耗條件下,該系列一體機(jī)能夠提供更強(qiáng)大的計算性能,幫助能源企業(yè)降低運(yùn)營成本,提高能源利用效率,符合“雙碳”目標(biāo)下的可持續(xù)發(fā)展要求。
靈活部署全域覆蓋
支持從邊端設(shè)備監(jiān)測到云端超大規(guī)模集群的多層級算力配置,適配私有化部署與公有云快速接入,滿足能源預(yù)測、智能調(diào)度、電力交易等全場景需求,兼顧數(shù)據(jù)安全與業(yè)務(wù)敏捷性。能源企業(yè)可以根據(jù)自身的業(yè)務(wù)特點(diǎn)和需求,選擇最適合的部署方案,確保數(shù)據(jù)的保密性和完整性,同時實(shí)現(xiàn)快速的業(yè)務(wù)拓展和創(chuàng)新。
DM-Engine R1 系列一體機(jī)通過不同的配置,來精準(zhǔn)匹配各類能源行業(yè)需求。在能效優(yōu)化方面,幫助用戶年節(jié)省百萬級能耗成本,實(shí)現(xiàn)了能源的高效利用和成本的大幅降低。其海量秒級響應(yīng)決策能力,使能源企業(yè)在面對市場波動和需求變化時,能夠迅速做出精準(zhǔn)的調(diào)度和決策,提升企業(yè)的市場競爭力。同時,本地化的部署能夠保障核心資產(chǎn)與業(yè)務(wù)數(shù)據(jù)安全,防止數(shù)據(jù)泄露和惡意攻擊,為能源企業(yè)的數(shù)字化轉(zhuǎn)型提供了堅實(shí)的安全保障。
達(dá)卯智能技術(shù)人員表示:“達(dá)卯智能基于 NVIDIA RTX 5880 Ada 打造的一體機(jī),是面向能源行業(yè)的專屬 AI 推理方案,做到算力與模型的高效協(xié)同,為能源行業(yè)帶來了更高效、更智能的解決方案。”
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5292瀏覽量
106152 -
能源
+關(guān)注
關(guān)注
3文章
2000瀏覽量
44513 -
大模型
+關(guān)注
關(guān)注
2文章
3108瀏覽量
4003 -
DeepSeek
+關(guān)注
關(guān)注
1文章
793瀏覽量
1609
原文標(biāo)題:案例分享丨算模協(xié)同:RTX 5880 Ada 賦能達(dá)卯智能能源大模型
文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
使用NVIDIA Triton和TensorRT-LLM部署TTS應(yīng)用的最佳實(shí)踐

雷卯賦能儲能安全:構(gòu)建全鏈路防護(hù)體系

雷卯賦能儲能安全:構(gòu)建全鏈路防護(hù)體系

NVIDIA RTX 5880 Ada與Qwen3系列模型實(shí)測報告

使用NVIDIA RTX PRO Blackwell系列GPU加速AI開發(fā)
NVIDIA RTX 5880 Ada顯卡部署DeepSeek-R1模型實(shí)測報告

NVIDIA RTX 4500 Ada與NVIDIA RTX A5000的對比
$1999 的 RTX 5090 來了

NVIDIA推出GeForce RTX 50系列臺式機(jī)和筆記本電腦GPU
NVIDIA推出面向RTX AI PC的AI基礎(chǔ)模型
NVIDIA RTX 5880 Ada賦能機(jī)器人仿真
《CST Studio Suite 2024 GPU加速計算指南》
AMD與NVIDIA GPU優(yōu)缺點(diǎn)
Nvidia 再推出特供版顯卡 GeForce RTX 5090D

評論