《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 解決方案 > 華為展示CloudMatrix 384超級(jí)AI服務(wù)器

華為展示CloudMatrix 384超級(jí)AI服務(wù)器

推理效率超NV H100! 384顆昇騰NPU+192顆鯤鵬CPU全對(duì)等互聯(lián)
2025-07-01
來(lái)源:快科技

7月1日消息,前不久,華為創(chuàng)始人任正非接受《人民日?qǐng)?bào)》采訪(fǎng)時(shí)為中國(guó)芯片指路——芯片問(wèn)題其實(shí)沒(méi)必要擔(dān)心,用疊加和集群等方法,計(jì)算結(jié)果上與最先進(jìn)水平是相當(dāng)?shù)摹?/p>

他坦言,我們單芯片還是落后美國(guó)一代,我們用數(shù)學(xué)補(bǔ)物理、非摩爾補(bǔ)摩爾,用群計(jì)算補(bǔ)單芯片,在結(jié)果上也能達(dá)到實(shí)用狀況。

任正非認(rèn)為,中國(guó)在中低端芯片上是可以有機(jī)會(huì)的,中國(guó)數(shù)十、上百家芯片公司都很努力。特別是化合物半導(dǎo)體機(jī)會(huì)更大。硅基芯片,我們用數(shù)學(xué)補(bǔ)物理、非摩爾補(bǔ)摩爾,利用集群計(jì)算的原理,可以達(dá)到滿(mǎn)足我們現(xiàn)在的需求。

那華為是怎么做的呢?

1.jpg

日前,華為云官微通過(guò)一段視頻展示了CloudMatrix 384超節(jié)點(diǎn)算力集群的威力——

384顆昇騰NPU(昇騰910C)+192顆鯤鵬CPU全對(duì)等互聯(lián),形成一臺(tái)“超級(jí)AI服務(wù)器”;

業(yè)界最大單卡推理吞吐量——2300Tokens/s;

業(yè)界最大集群算力——16萬(wàn)卡,萬(wàn)卡線(xiàn)性度高達(dá)95%;

云上確定性運(yùn)維-40天長(zhǎng)穩(wěn)訓(xùn)練、10分鐘快速恢復(fù)。

華為云表示,新一代昇騰AI云服務(wù),是最適合大模型應(yīng)用的算力服務(wù)。

2.jpg

3.jpg

4.jpg

此前,華為還發(fā)布了一一篇60頁(yè)的重磅論文,提出了他們的下一代AI數(shù)據(jù)中心架構(gòu)設(shè)計(jì)構(gòu)想——Huawei CloudMatrix,以及該構(gòu)想的第一代產(chǎn)品化的實(shí)現(xiàn)CloudMatrix384。

簡(jiǎn)單來(lái)說(shuō),華為CloudMatrix并非簡(jiǎn)單的“堆卡”,而是通過(guò)高帶寬全對(duì)等互聯(lián)(Peer-to-Peer)來(lái)設(shè)計(jì),這也是CloudMatrix 384硬件架構(gòu)的一大創(chuàng)新。

傳統(tǒng)的AI集群中,CPU相當(dāng)于公司領(lǐng)導(dǎo)的角色,NPU等其它硬件更像是下屬,數(shù)據(jù)傳輸?shù)倪^(guò)程中就需要CPU審批和簽字,效率就會(huì)大打折扣。

但在CloudMatrix384中,CPU和NPU等硬件更像是一個(gè)扁平化管理的團(tuán)隊(duì),它們之間的地位比較平等,直接通過(guò)UB網(wǎng)絡(luò)通信直接對(duì)話(huà),效率自然就上來(lái)了。

另外,論文還介紹了基于CloudMatrix384進(jìn)行DeepSeek推理的最佳實(shí)踐方案——CloudMatrix-Infer。

5.jpg

6.jpg

從官方給出的案例來(lái)看,CloudMatrix384預(yù)填充吞吐量達(dá)6688 token/s/NPU,解碼階段1943 token/s/NPU;計(jì)算效率方面,預(yù)填充達(dá)4.45 token/s/TFLOPS,解碼階段1.29 token/s/TFLOPS,均超過(guò)NVIDIA H100/H800上實(shí)現(xiàn)的性能。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀(guān)點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話(huà)通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話(huà):010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 日韩亚洲专区在线电影| 97久久免费视频| 橘梨纱视频一区二区在线观看 | 手机在线色视频| 农村胖肥熟口味重| 91黑丝国产线观看免费| 在车子颠簸中进了老师的身体 | 性xxxx黑人与亚洲| 亚洲熟妇无码乱子av电影| 蝌蚪久热精品视频在线观看| 国内精品久久久久国产盗摄 | 日本亚洲精品色婷婷在线影院| 日本免费高清一本视频| 午夜伦情电午夜伦情影院 | 最猛91大神ben与女教师| 国产00粉嫩馒头一线天萌白酱| 香蕉免费一级视频在线观看| 日韩欧美一区二区三区视频| 可以**的网址| 99久久免费精品视频| 最近免费中文字幕中文高清| 四虎影视884a精品国产四虎| a级毛片100部免费观看| 日本三级欧美三级人妇英文 | xxxxx日本人| 大胸小子bd在线观看| 中文在线观看视频| 欧美金发大战黑人wideo| 又粗又大又长又爽免费视频| 91av福利视频| 性做久久久久久久久| 久久天天躁夜夜躁狠狠躁2020| 第九色区AV天堂| 国产亚洲人成a在线v网站| www.成人av.com| 欧美三级在线观看播放| 国产乱在线观看视频| 天天碰免费视频| 完全免费在线视频| 久久亚洲私人国产精品va| 欧洲熟妇色xxxx欧美老妇|