日前，國家級AI頂級盛會(huì)——2024世界人工智能大會(huì)（簡稱“WAIC 2024”）現(xiàn)場，墨芯人工智能展出的最新智能客服系統(tǒng)和高性能計(jì)算卡S40，為參會(huì)觀眾呈現(xiàn)了一場科技饕餮盛宴。

01墨芯智能客服系統(tǒng)

“懂你所說” 才能順暢溝通

在WAIC 2024現(xiàn)場，「墨芯智能客服系統(tǒng)」以其“聰明聽得懂人話”的體質(zhì)，吸引了眾多觀眾粉。這款A(yù)I客服不簡單：在錄入基礎(chǔ)知識庫的前提下，既能夠有針對性地迅速回答相關(guān)問題，還能通過實(shí)時(shí)人工審核與干預(yù)，提供更加精準(zhǔn)和人性化的回復(fù)。

在AI客服日益普及的今天，各行業(yè)的智能客服通過自然語言處理和語音識別技術(shù)，有效提升了服務(wù)效率。然而，當(dāng)遇到行業(yè)專業(yè)性極強(qiáng)的問題時(shí)，傳統(tǒng)AI客服的“智能”有時(shí)顯得力不從心，甚至出現(xiàn)答非所問、胡編亂造事實(shí)、模板化明顯等“智障”的窘境。為解決這一痛點(diǎn)，墨芯智能客服系統(tǒng)通過自研AI計(jì)算卡S30、開源模型Llama3-70B，以及自研的開發(fā)框架AgenDA，為智能客服注入了“超級大腦”——通過優(yōu)化智能客服系統(tǒng)的算法，顯著提升其對用戶需求的理解能力。

AgenDA 是墨芯自研的大型語言模型應(yīng)用程序開發(fā)框架，可作為市面上其它同類產(chǎn)品的超集（如：LangChain）。AgenDA 原生支持RAG（Retrieval-Augmented Generation，檢索增強(qiáng)生成）技術(shù)，內(nèi)置多種不同功能的 Function, 每個(gè) Function 都具備獨(dú)特的邏輯處理能力（如：索引、排序、多輪對話等），做到開箱即用，并采用鏈?zhǔn)秸{(diào)用機(jī)制共同構(gòu)建起一個(gè)功能完備的大模型應(yīng)用。

墨芯基于該框架進(jìn)行拋磚引玉，以業(yè)內(nèi)常見的客服場景為例，這種設(shè)計(jì)讓AI客服“大腦”的運(yùn)行過程更加透明，可直觀清晰地查看每一步的計(jì)算細(xì)節(jié)，便于及時(shí)糾錯(cuò)和優(yōu)化，確保客服大模型生成過程可見可控、有跡可循，不再是“開盲盒”。

值得一提的是，「墨芯智能客服系統(tǒng)」的“超級大腦”——內(nèi)置基礎(chǔ)知識庫不僅能自我學(xué)習(xí)和完善專業(yè)場景的知識內(nèi)容，還能在人工審核輔助下，從對話的開始到大模型知識庫搜索、再到大模型對答案排序的每一個(gè)環(huán)節(jié)，都能夠進(jìn)行精確調(diào)整和優(yōu)化。這種及時(shí)調(diào)優(yōu)和持續(xù)學(xué)習(xí)，讓AI客服的“大腦”越用越“聰明”，從而更好地理解和滿足用戶的個(gè)性化需求。

通過這種技術(shù)的應(yīng)用， AI客服在應(yīng)對高度專業(yè)化的咨詢時(shí)（如：醫(yī)學(xué)、健康、金融等領(lǐng)域），能夠提供更加精準(zhǔn)可靠的解答。此外，在有效解決大模型幻覺問題的基礎(chǔ)上，增強(qiáng)了結(jié)果的可控性。

02墨芯S40計(jì)算卡

四芯聯(lián)動(dòng)，算力爆表

除智能客服系統(tǒng)之外，墨芯還展出了另一款“硬核擔(dān)當(dāng)”——S40計(jì)算卡。這款專注于數(shù)據(jù)中心AI推理應(yīng)用的“超能戰(zhàn)士”，為處理大模型高吞吐量敏感場景而生，集成了四顆墨芯Antoum芯片，以其單卡強(qiáng)勁算力和高密度設(shè)計(jì)，為數(shù)據(jù)中心帶來了前所未有的處理效率。

除了前述這兩大亮點(diǎn)外，墨芯還帶來了一系列備受矚目的展品，包括：榮獲MLPerf國際基準(zhǔn)測試冠軍的S30計(jì)算卡，這款產(chǎn)品以其卓越的性能在業(yè)界引起了廣泛關(guān)注。同時(shí)，墨芯還展出了創(chuàng)新的AI集成架構(gòu)方案，這些方案以其高效和靈活性，為解決實(shí)際問題提供了全新的視角。

在WAIC 2024上，墨芯不僅展示了其技術(shù)實(shí)力，更以用戶為中心，深度聚焦大模型落地中實(shí)際遇到的困境，通過將稀疏算法與硬件緊密結(jié)合，提供了切實(shí)可行的行業(yè)解決方案，全面釋放了稀疏計(jì)算在大模型上的應(yīng)用潛力，為行業(yè)交出了一份滿意的答卷。