C114訊 7月20日消息(岳明)在日前召開(kāi)的中國互聯(lián)網(wǎng)大會(huì )--國家新型互聯(lián)網(wǎng)交換中心與算力網(wǎng)絡(luò )融合發(fā)展論壇上,中國電信大模型技術(shù)專(zhuān)家李康作了題為《大模型帶來(lái)智算大算力發(fā)展》的主題演講。
李康指出,算力供給模式有三種:第一種是公有云模式,算力供給以公有云的模式為主,對于基礎大模型的訓練,玩家都在堆性能和參數,大力出奇跡。第二種數據不能出域的行業(yè)訓練和推理,因為數據不能出域,而且對于訓練有強大的要求,并且這些行業(yè)客戶(hù)具有一定資金能量,這種是以私有云的模式進(jìn)行補充。第三種是對于數據不能出域,本地可以進(jìn)行微調和對齊的需求,以移動(dòng)算力模式為主。比如說(shuō)移動(dòng)算力車(chē)、移動(dòng)手機箱就可以滿(mǎn)足需求。
李康表示,現階段全國智算需求的地域,主要集中在京津冀、江浙滬、粵港澳和川陜渝。但是,全國整體算力需求和供給地域是不均,所以調度會(huì )成為建設重點(diǎn)。中國電信會(huì )依托云網(wǎng)交換中心基礎設施,實(shí)現全國算力調度服務(wù)大模型市場(chǎng)。
據李康介紹,中國電信在大模型市場(chǎng)的整體布局有兩部分:首先,布局全網(wǎng)算力,電信擁有非常豐富的IDC資源和專(zhuān)網(wǎng)資源,針對2+4+31+X的算力中心布局,建設模式可以提供大集群式的集中算力和區域算力、邊緣算力、移動(dòng)算力,依次滿(mǎn)足不同客戶(hù)的需求。其次,布局大模型市場(chǎng),進(jìn)行行業(yè)洞察并規劃商業(yè)模式,比如提供專(zhuān)屬服務(wù)模式給客戶(hù)進(jìn)行定制,可以提供SaaS和API模式,或者是和合作伙伴聯(lián)合生態(tài)打造MaaS平臺,提供大模型工具。