信通院何寶宏:大模型“卷”向下半場(chǎng),需要新打法

數碼
TIME
2024-12-21 10:25
通信世界全媒體
分享

2024年大模型技術(shù)加速迭代、產(chǎn)品豐富多樣、應用多點(diǎn)開(kāi)花,助力千行百業(yè)加速智能化轉型,掀起變革浪潮?!?025年大模型將角逐下半場(chǎng),需要新打法?!?2月18日,在2025年ICT行業(yè)趨勢年會(huì )“算網(wǎng)與AI大模型應用論壇”上,中國信通院云計算與大數據研究所所長(cháng)何寶宏講道。

何寶宏在演講中指出,2024年,全球訓練大語(yǔ)言模型的效果普遍不及預期,可能已經(jīng)撞上“數據墻”。如OpenAI產(chǎn)品迭代明顯放緩;Anthroipc暫停Calude 3.5 Opus開(kāi)發(fā)。另外,大模型產(chǎn)品迭代的速度也明顯在放緩,這些情況表明,大模型競賽的上半場(chǎng)已經(jīng)進(jìn)入“垃圾時(shí)間”。

對于大模型下半場(chǎng)的主賽道與新打法,何寶宏表示,大模型的下半場(chǎng)競賽可以有多個(gè)可選的轉變:從訓練轉為推理,從語(yǔ)言大模型轉到多模態(tài)大模型,從人類(lèi)互聯(lián)網(wǎng)數據轉為AI合成數據和私域數據,從閉源過(guò)渡到基于開(kāi)源,從拼性能到拼性?xún)r(jià)比,從虛擬智能到實(shí)體智能等。

具體來(lái)看,行業(yè)要“卷”合成數據,也需要謹慎。過(guò)去30年來(lái)互聯(lián)網(wǎng)上積累的數據,將在未來(lái)3~5年內被AI耗盡。但與此同時(shí),Meta等的研究發(fā)現,即使只用了1%的合成數據,也將導致嚴重的模型崩潰。此外,現在互聯(lián)網(wǎng)上超過(guò)50%的流量是機器人在搬運,接下來(lái)網(wǎng)上將充斥著(zhù)人工智能生成的內容人類(lèi)生成的高質(zhì)量數據很可能會(huì )被淹沒(méi)在A(yíng)I生成的垃圾堆里。

“卷”開(kāi)源,領(lǐng)先的開(kāi)源模型的能力已經(jīng)達到閉源模型能力的80%,但成本卻是閉源模型的1/20,那在大部分場(chǎng)景下會(huì )選擇開(kāi)源模型。從效果來(lái)看,集中式訓練大模型已經(jīng)導致對一般性智算需求的大降,加速大模型應用的私有化部署,行業(yè)大模型也將加速落地。

“卷”工程,大模型工程化過(guò)程中,長(cháng)推理范式、可解釋性與透明度、可靠性與安全性、壓縮與輕量化、MLOps、記憶能力等方面仍是機會(huì ),仍有待突破。

“卷”性?xún)r(jià)比,一方面,根據相關(guān)測算,AI年產(chǎn)值超過(guò)6000億美元,才夠支付AI基礎設施的費用,但現在還缺5000億,且2024年5月開(kāi)始的價(jià)格戰目前暫無(wú)停止的跡象。另一方面,國內單位算力成本大致相當于英偉達算力的1.5倍,但同等的大語(yǔ)言模型服務(wù)價(jià)格經(jīng)常只有它的20%到50%。接下來(lái),行業(yè)會(huì )更關(guān)注商業(yè)化和應用落地,更注重性?xún)r(jià)比。

而在接下來(lái)大模型自身主攻方向轉變的同時(shí),算力等基礎設施、智能體等應用也將迎來(lái)更為徹底的變革。

大模型下半場(chǎng),智能體將接棒大模型。何寶宏表示,盡管少數巨頭在繼續探索通用大模型的未知邊界,但更多數企業(yè)將聚焦探索各類(lèi)LLM的好用(優(yōu)化)和多用(場(chǎng)景)的路線(xiàn),即Agent。未來(lái)幾年,Agent泡沫將興起,但Agent會(huì )有遺傳自L(fǎng)LM的“故疾”(如不可解釋性和幻覺(jué))。另外,LLM的本質(zhì)是壓縮,Agent的本質(zhì)是目標導向,二者本質(zhì)的不同,導致未來(lái)可能會(huì )出現三個(gè)問(wèn)題:難以覺(jué)察的終極目標不一致性;難以理解的機器陌生的思維和行為方式;AI系統缺失的自我修正機制。

大模型下半場(chǎng),算力不能只追求高性能。算力發(fā)展也將有三大轉變,一是發(fā)展邊緣算力、混合算力、云端算力、推理算力、節能算力、低成本算力等多樣化算力。二是從IDC到AIDC,之前IDC是技術(shù)創(chuàng )新的制高點(diǎn),而現在A(yíng)IDC不僅僅是技術(shù)創(chuàng )新,而是將重構整個(gè)生態(tài),覆蓋Agent、網(wǎng)絡(luò )、芯片、風(fēng)火水電等方方面面。三是從缺算到缺電,近年來(lái)數據中心耗電量持續上升,2030年AIDC耗電量將占全球總電量的20%,人工智能將激活全球核電市場(chǎng)。

大模型下半場(chǎng),液冷從小眾走向剛需。數據顯示,2023年中國液冷服務(wù)器市場(chǎng)規模15.5億美元,同比增長(cháng)52.6%,未來(lái)五年年復合增長(cháng)率將達到45.8%。未來(lái)AIDC幾乎都要采用液冷解決方案,液冷將迎來(lái)爆發(fā)風(fēng)口。

大模型下半場(chǎng),信息基礎設施要智力在線(xiàn)。隨著(zhù)科技變革,行業(yè)已經(jīng)建成了龐大的通信基礎設施,正在大規模建設算力基礎設施,開(kāi)始試點(diǎn)數據基礎設施,接下來(lái)還要探索和大力發(fā)展智力基礎設施。

THE END
免責聲明:本文系轉載,版權歸原作者所有;刊載之目的為傳播更多信息,如內容不適請及時(shí)通知我們。

相關(guān)熱點(diǎn)

  12月17日—19日,2024金觸點(diǎn)全球商業(yè)大獎、2024 第八屆金匠獎、2024 W.AWARDS金網(wǎng)獎三大行業(yè)獎項陸續揭曉。360智慧商業(yè)響應AI浪潮,扎根多端場(chǎng)景,率先布局AI工具營(yíng)銷(xiāo)全...
熱點(diǎn)
  微信上線(xiàn)了一項新功能——微信小店的“送禮物”功能。微信用戶(hù)不僅能買(mǎi)東西,還能以類(lèi)似“紅包”的形式贈送給自己的微信好友?! 「鶕嚓P(guān)規則,商品款式原價(jià)不得高...
互聯(lián)網(wǎng)

相關(guān)推薦

1
3
人人狠狠综合久久亚洲88_国产超薄丝袜足底脚交国产_日本wvvw高清中文字幕_97国产品香蕉在线观看