日前,2024數字基礎設施高質(zhì)量發(fā)展大會(huì )在深圳成功召開(kāi),中國信通院云大所總工程師郭亮應邀發(fā)表《智算發(fā)展現狀與趨勢》的主題報告;中國算力平臺在會(huì )議現場(chǎng)同步設置演示展區,圍繞算力生態(tài)開(kāi)展宣介活動(dòng)。
近日,IEEE《2025年及以后的技術(shù)影響》的評選中,AI當之無(wú)愧得到了最多的票數,被認為是2025年最重要的技術(shù),且將在安全、教育、健康、能源等方面發(fā)揮重要的賦能作用。斯坦福大學(xué)的《全球人工智能實(shí)力排行榜》,從8個(gè)方面42個(gè)維度對全球36個(gè)國家的人工智能實(shí)力進(jìn)行了評估,美國加權指數總分位居第一;中國在研發(fā)、經(jīng)濟和基礎設施方面表現突出,位居全球第二。據公開(kāi)信息,我國2024年發(fā)布招投標信息的200多個(gè)智算中心分布于全國26個(gè)省市自治區的100多個(gè)地市,有遍地開(kāi)花之勢;截止2024年11月,我國備案的大模型達到252個(gè)。
郭亮認為,集群是智算用得好的首要關(guān)鍵。只要Scaling Law繼續生效,大規模算力就具有其獨特的優(yōu)勢。另外,大集群對基礎設施帶來(lái)了巨大的挑戰,液冷已經(jīng)在xAI的10萬(wàn)卡集群中得到了規模部署;亞馬遜、微軟等開(kāi)始加大對小型核反應堆的關(guān)注。近日,ODCC(開(kāi)放數據中心委員會(huì ))啟動(dòng)聚焦百萬(wàn)量級GPU集群的MegaScaleOut項目,是網(wǎng)絡(luò )領(lǐng)域的很好應對。
邊緣是智算用得好的關(guān)鍵之二。推理是訓練之外的第二大場(chǎng)景,Nvidia表示,2023年其數據中心部門(mén)收入有超過(guò)40%的業(yè)務(wù)是有關(guān)部署AI模型(推理)。Intel和AMD在積極使用其CPU應用于推理場(chǎng)景,取得了不錯的效果。2024“華彩杯”算力大賽中,中國電信 “基于通用算力的網(wǎng)絡(luò )大模型泛在推理能力研發(fā)與創(chuàng )新實(shí)踐”得到了評審的一致認可,獲得了總決賽的一等獎。
生態(tài)是智算用得好的關(guān)鍵之三。從企業(yè)來(lái)看,Nvidia在多年的積累中,形成了GPU+NVlink+IB+CUDA的一整套生態(tài)體系,取得了巨大的成功;從產(chǎn)業(yè)來(lái)看,算力+算法+數據構成了智算生態(tài)的三駕馬車(chē),美國在這三方面都具有較大優(yōu)勢。而我國面臨著(zhù)30+以上的AI芯片及多種技術(shù)路線(xiàn)的混戰,任重而道遠。
市場(chǎng)是智算用得好的關(guān)鍵之四。智算的供給側旺盛,中國算力平臺的匹配系統(閱讀原文可直接訪(fǎng)問(wèn))仍是智算供需對接的不二選擇。通過(guò)整合全國算力資源,優(yōu)化算力基礎設施、網(wǎng)絡(luò )、資源匹配等監測能力,實(shí)現算力資源優(yōu)化配置和共享,推進(jìn)全國供給方、需求方和服務(wù)方三位一體的整體架構的形成,助力算存運資源統一化、常態(tài)化、便捷化建設管理運營(yíng)。
賦能是智算用得好的關(guān)鍵第五。市場(chǎng)對接完成之后,算力的最終使命是去賦能。近年來(lái),各行業(yè)的數字化轉型如火如荼,但是如何讓大家更好的使用算力、如何讓算力發(fā)揮更大的效用,是智算及IT從業(yè)者當前階段需要重點(diǎn)處理的任務(wù),讓算力真正成為社會(huì )經(jīng)濟發(fā)展的新引擎,為新質(zhì)生產(chǎn)力添磚加瓦。