墨芯完成智譜大模型適配黃金認(rèn)證,助推國產(chǎn)算力商業(yè)化進(jìn)程
在推動(dòng)大模型算力量級(jí)提升的道路上,稀疏計(jì)算引領(lǐng)者墨芯人工智能(以下簡稱“墨芯”)再次邁出重要的一步。近日,墨芯旗下產(chǎn)品S30計(jì)算卡經(jīng)過智譜AI內(nèi)部專家的嚴(yán)格測(cè)評(píng),榮獲黃金級(jí)別認(rèn)證,充分顯示了其與智譜AI(以下簡稱“智譜”)的ChatGLM2-6B大模型在推理與微調(diào)方面的高度兼容性和卓越適配能力。
墨芯獲得智譜ChatGLM2-6B模型黃金認(rèn)證證書
除了上述已經(jīng)成功適配的開源大模型ChatGLM2-6B外,墨芯正通過基于S30計(jì)算卡的定制化算力為智譜提供一體化解決方案,同時(shí)也積極參與到智譜其他閉源商業(yè)大模型的兼容性適配中。這一過程也加速了智譜AI大模型的商業(yè)化步伐。
墨芯的助力,不僅是對(duì)智譜現(xiàn)有AI產(chǎn)品矩陣的算力技術(shù)加持,更是對(duì)其未來AI技術(shù)應(yīng)用領(lǐng)域落地的一次積極探索。通過這種合作,墨芯和智譜AI共同推動(dòng)了其大模型技術(shù)的商業(yè)化進(jìn)程,加快了其在多個(gè)行業(yè)中的實(shí)際應(yīng)用和普及。墨芯的S30計(jì)算卡作為這一合作的關(guān)鍵組成部分,其強(qiáng)大的算力和高效的適配能力不僅加速了智譜AI大模型的開發(fā)和部署,也為之后在更多領(lǐng)域的合作提供了堅(jiān)實(shí)的基礎(chǔ),進(jìn)一步推動(dòng)了國產(chǎn)大模型的廣泛應(yīng)用和行業(yè)滲透。
墨芯S30計(jì)算卡
此外,S30計(jì)算卡在技術(shù)創(chuàng)新上的突破,特別是在稀疏計(jì)算和AI算法優(yōu)化方面的先進(jìn)性,為智譜AI的大模型提供了強(qiáng)大的后端支撐。這不僅加強(qiáng)了智譜AI大模型的性能和適用性,而且在促進(jìn)國產(chǎn)AI技術(shù)的商業(yè)化和產(chǎn)業(yè)化方面發(fā)揮了重要作用。通過這種強(qiáng)強(qiáng)聯(lián)手模式,墨芯和智譜AI共同展現(xiàn)了國內(nèi)AI技術(shù)在未來無限的競爭力和創(chuàng)新潛力。
通過本次認(rèn)證的S30計(jì)算卡搭載墨芯首顆Antoum??芯片,以其高達(dá)32倍稀疏率的強(qiáng)勁AI算力,專注服務(wù)與數(shù)據(jù)中心AI推理的多元需求。其應(yīng)用領(lǐng)域覆蓋了互聯(lián)網(wǎng)、通信、智慧城市建設(shè)、生命科學(xué)、自動(dòng)駕駛等關(guān)鍵行業(yè),體現(xiàn)了其廣泛的適用性和靈活性。
墨芯的雙稀疏算法和Antoum?架構(gòu)的創(chuàng)新,使S30在同行業(yè)產(chǎn)品中處于領(lǐng)先地位,更顯著優(yōu)化了客戶的總擁有成本(TCO)。
S30計(jì)算卡在行業(yè)內(nèi)以其卓越的推理加速性能始終保持領(lǐng)先。此前,在9月舉辦的最新一屆的全球權(quán)威測(cè)評(píng)MLPerf Inference 3.1推理評(píng)測(cè)中,墨芯S30計(jì)算卡,以其無與倫比的性能,在處理GPT-J(60億參數(shù))大模型推理任務(wù)時(shí),無論是單卡還是多卡配置,均力壓群雄,榮登榜首。這是墨芯連續(xù)第三次在MLPerf推理評(píng)測(cè)中取得領(lǐng)先成績,進(jìn)一步夯實(shí)其在AI算力領(lǐng)域的領(lǐng)導(dǎo)地位。
墨芯S30計(jì)算卡在GPT-J-99模型中的性能表現(xiàn)
ChatGLM2-6B模型由智譜AI與清華大學(xué)KEG實(shí)驗(yàn)室共同研發(fā),是一款功能強(qiáng)大的開源中英雙語對(duì)話模型。其在沿襲了初代模型的流暢對(duì)話和低部署難度的基礎(chǔ)上,進(jìn)一步提升了推理速度和降低顯存占用,整體性能更加出色。
S30計(jì)算卡的黃金認(rèn)證,不僅是其技術(shù)實(shí)力的顯著證明,更是墨芯賦能智譜大模型商業(yè)化進(jìn)程的關(guān)鍵一環(huán),不僅證實(shí)了S30計(jì)算卡在運(yùn)行智譜ChatGLM2-6B大模型時(shí)的穩(wěn)定性和高吞吐能力,也標(biāo)志著墨芯與智譜在共同推進(jìn)大模型技術(shù)發(fā)展和生態(tài)建設(shè)方面的成功合作。未來,墨芯人工智能將與智譜AI在更多領(lǐng)域展開廣闊合作,共同致力于推動(dòng)國產(chǎn)AI大模型生態(tài)圈的協(xié)同進(jìn)步與創(chuàng)新。
關(guān)于智譜AI
北京智譜華章科技有限公司(簡稱“智譜AI”)致力于打造新一代認(rèn)知智能大模型,專注于做大模型的中國創(chuàng)新。公司合作研發(fā)了中英雙語千億級(jí)超大規(guī)模預(yù)訓(xùn)練模型GLM-130B,并基于此推出對(duì)話模型ChatGLM,開源單卡版模型ChatGLM-6B。同時(shí),團(tuán)隊(duì)還打造了AIGC模型及產(chǎn)品矩陣,包括AI提效助手智譜清言、高效率代碼模型CodeGeeX、多模態(tài)理解模型CogVLM和文生圖模型CogView等。公司踐行Model as a Service(MaaS)的市場(chǎng)理念,推出大模型MaaS開放平臺(tái),打造高效率、通用化的“模型即服務(wù)”AI開發(fā)新范式。
關(guān)于墨芯人工智能(Moffett AI)
墨芯人工智能是稀疏計(jì)算引領(lǐng)者,致力于提供云端和終端AI計(jì)算平臺(tái)和服務(wù)。通過全球領(lǐng)先的稀疏計(jì)算技術(shù)優(yōu)勢(shì),打造軟硬協(xié)同的新一代智能計(jì)算平臺(tái)。產(chǎn)品性能位居行業(yè)領(lǐng)先,相較行業(yè)主流產(chǎn)品,在算力、能效比與成本等方面均實(shí)現(xiàn)數(shù)量級(jí)優(yōu)化。面向互聯(lián)網(wǎng)、運(yùn)營商、金融、制造、醫(yī)療、交通、能源、生命科學(xué)、自動(dòng)駕駛等眾多行業(yè)與場(chǎng)景,提供高算力、低功耗、高性價(jià)比的AI算力服務(wù),賦能前沿科技的進(jìn)步與社會(huì)的智能化升級(jí)。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字
您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)
最新活動(dòng)更多
-
即日-9.1立即下載>> 【限時(shí)下載】ADI中國三十周年感恩回饋助力企業(yè)升級(jí)!
-
11月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
精彩回顧立即查看>> 【在線研討會(huì)】解析安森美(onsemi)高精度與超低功耗CGM系統(tǒng)解決方案
-
精彩回顧立即查看>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
-
精彩回顧立即查看>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
推薦專題
- 1 傳魏建軍與賈躍亭合作,長城汽車出海美國
- 2 黃仁勛:與雷軍長期合作,共探AI智駕
- 3 阿里首位程序員,“掃地僧”多隆已離職
- 4 DeepSeek R2加持,中國AI與芯片產(chǎn)業(yè)迎來新一輪協(xié)同進(jìn)化
- 5 六大國產(chǎn)大模型,誰是最強(qiáng)“金融分析師”?|錦緞評(píng)測(cè)
- 6 2025年第一支10倍股,來了!
- 7 募資39.85億元!寒武紀(jì)押注大模型芯片與軟件平臺(tái)
- 8 國內(nèi)免費(fèi)版Deep Research上線,秘塔AI深度研究嘗試重塑知識(shí)工作范式
- 9 清庫存?曝英偉達(dá)H20供應(yīng)有限,且沒有復(fù)產(chǎn)計(jì)劃
- 10 具身智能機(jī)器人量產(chǎn)前夜,標(biāo)準(zhǔn)機(jī)腦正在成型