《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 業界動態 > 騰訊發布高性能計算網絡星脈網絡2.0

騰訊發布高性能計算網絡星脈網絡2.0

大模型訓練效率相比上代提升20%
2024-07-02
來源:IT之家

7 月 2 日消息,騰訊昨日發布其自研星脈網絡 2.0 版本,升級后的星脈網絡支持單集群 10 萬卡組網,網絡通信效率比上一代提升 60%,大模型訓練效率提升 20%,故障定位從天級降低至分鐘級。

騰訊自研交換機從 25.6T 升級到 51.2T,容量提升一倍;自研硅光模塊從 200G 升級到 400G,速率提升一倍;搭載自研算力網卡;整機通信帶寬 3.2T,為業界最高。

騰訊自研全新通信協議 TiTa2.0 的部署位置從交換機轉移到了網卡上,擁塞算法也從被動擁塞算法升級為主動擁塞控制算法,將星脈網絡的通信效率提升 30%,讓大模型的訓練效率提升 10%。

騰訊全新高性能集合通信庫 TCCL2.0 采用 NVLINK+NET 異構并行通信,實現數據的并行傳輸。Auto-Tune Network Expert 自適應算法可以根據機型、網絡規模、模型算法等差異,自動調整數據包分割大小、匹配算法等參數。星脈網絡通信性能提升 30%,讓大模型的訓練效率再提升 10%。

0.jpg

▲ 數據的并行傳輸(騰訊云)

TiTa 與 TCCL 升級帶來的效果疊加,讓星脈網絡的通信效率共提升 60%,大模型訓練效率共提升 20%

Magazine.Subscription.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 国产精品久久久久久久伊一| 色翁荡息又大又硬又粗又爽| 成人艳情一二三区| 亚洲女人影院想要爱| 美女胸被狂揉扒开吃奶二次元| 国产精品午夜爆乳美女| 一区二区三区四区国产| 日韩欧美久久一区二区| 亚洲电影免费观看| 美女被免费视频网站a国产| 国产真乱全集mangent| jealousvue熟睡入侵中| 色噜噜狠狠色综合欧洲selulu| 无码色偷偷亚洲国内自拍| 亚洲午夜久久久影院伊人| 精品一区二区三区在线观看视频 | 国产性夜夜夜春夜夜爽| 99ri在线精品视频| 成人中文字幕在线观看| 久久狠狠爱亚洲综合影院| 欧美日韩在线不卡| 国产精品一久久香蕉国产线看观看| 亚洲人成人一区二区三区| 用我的手指搅乱我吧第五集| 国产av熟女一区二区三区| 久久综合九色综合97伊人麻豆| 国自产拍在线天天更新91| 上原瑞穗最全番号| 日本在线不卡视频| 午夜伦情电午夜伦情影院| 91se在线视频| 日韩在线一区二区三区免费视频| 国产免费av一区二区三区| аⅴ天堂中文在线网| 欧美在线看片a免费观看| 免费国产人做人视频在线观看 | 狠狠色综合色区| 国产高清免费在线观看| www.免费在线观看| 成人试看120秒体验区| 久久大香香蕉国产|