現(xiàn)如今，以大模型為代表的生成式人工智能技術(shù)正如一股強(qiáng)勁的東風(fēng)，吹動(dòng)著新質(zhì)生產(chǎn)力的帆船破浪前行。這股技術(shù)浪潮不僅重塑了各行各業(yè)的面貌，也對(duì)算力供給提出了前所未有的挑戰(zhàn)與需求。實(shí)現(xiàn)“國(guó)產(chǎn)算力自主可控”，確保信息安全和經(jīng)濟(jì)持續(xù)健康發(fā)展，已成為當(dāng)下亟待解決的關(guān)鍵課題。

北電數(shù)智“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”支持對(duì)英偉達(dá)集群及多款國(guó)產(chǎn)芯片的廣泛納管，幫助用戶(hù)實(shí)現(xiàn)對(duì)不同品牌和類(lèi)型AI加速卡的統(tǒng)一管理，以確保各類(lèi)AI芯片的無(wú)縫集成和優(yōu)化利用。廣泛的納管能力也讓用戶(hù)能夠根據(jù)具體需求，靈活地調(diào)整資源配置，優(yōu)化算力供給滿(mǎn)足各類(lèi)訓(xùn)練推理任務(wù)。

“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”具有卓越的算力調(diào)度能力，可為不同場(chǎng)景提供多樣化的調(diào)度策略，以精準(zhǔn)匹配各類(lèi)計(jì)算任務(wù)的不同需求?！俺毕{(diào)度”是該平臺(tái)的一大特色亮點(diǎn)，其可根據(jù)計(jì)算任務(wù)的特性和資源需求的變化動(dòng)態(tài)地分配和回收計(jì)算資源，尤其適用于渲染應(yīng)用等場(chǎng)景，以最大化資源的利用率并減少執(zhí)行時(shí)間；此外，“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”提供的“訓(xùn)推混布”策略可幫助大模型使用方實(shí)現(xiàn)同一算力集群既支持在線推理服務(wù)部署任務(wù)，又支持離線訓(xùn)練任務(wù)，從而顯著提高算力資源的利用率，減少資源浪費(fèi)，大幅降低運(yùn)營(yíng)成本。

作為全國(guó)首個(gè)在生產(chǎn)環(huán)境下可實(shí)現(xiàn)規(guī)?；瘻y(cè)試的全棧迭代驗(yàn)證平臺(tái)，北電數(shù)智基于“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”打造的國(guó)產(chǎn)算力PoC平臺(tái)落地北京數(shù)字經(jīng)濟(jì)算力中心。目前，國(guó)產(chǎn)算力PoC平臺(tái)已完成十余款芯片的評(píng)測(cè)支持和二十多款主流模型的適配。為更好推進(jìn)國(guó)產(chǎn)芯片對(duì)模型的支持力度，北電數(shù)智自主構(gòu)建了完備的融合算子庫(kù)，算子能自動(dòng)調(diào)優(yōu)，在分鐘級(jí)時(shí)間內(nèi)可完成對(duì)各種平臺(tái)的算子適配和優(yōu)化，可將延遲水平降低3倍以上。

針對(duì)具體行業(yè)，北電數(shù)智也正面向影視、金融、政務(wù)、工業(yè)等多個(gè)垂類(lèi)場(chǎng)景開(kāi)展測(cè)試驗(yàn)證服務(wù)，為不同行業(yè)的垂類(lèi)模型落地樹(shù)立標(biāo)桿案例，持續(xù)探尋國(guó)產(chǎn)算力和行業(yè)、模型、應(yīng)用的最佳適配組合，推動(dòng)模型落地。

未來(lái)，「前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)」能繼續(xù)發(fā)揮其獨(dú)特的優(yōu)勢(shì)和作用，推動(dòng)國(guó)產(chǎn)算力從“可用”向“好用”邁進(jìn)。同時(shí)，北電數(shù)智也將繼續(xù)加大研發(fā)投入、加強(qiáng)人才培養(yǎng)、構(gòu)建創(chuàng)新生態(tài)，為國(guó)產(chǎn)算力的自主可控和人工智能技術(shù)的持續(xù)健康發(fā)展貢獻(xiàn)更多的智慧和力量。