近年來(lái),生成式AI逐漸從云端向終端側擴展,讓人們隨時(shí)隨地都能體驗各種創(chuàng )新的AI功能。最近,高通在微博上表示,中國移動(dòng)終端公司研發(fā)的終端小語(yǔ)言模型(CM-3B)成功面向驍龍旗艦移動(dòng)平臺完成優(yōu)化,成為首個(gè)由運營(yíng)商自研的語(yǔ)言模型在端側應用的案例。該模型專(zhuān)門(mén)為高隱私低延遲的 AI 應用而打造,適配部署于旗艦智能手機。
高通是領(lǐng)先的無(wú)線(xiàn)連接與移動(dòng)計算公司,長(cháng)期推動(dòng)終端側AI的發(fā)展。早在去年10月,高通就推出了專(zhuān)為生成式AI而精心打造的移動(dòng)平臺——第三代驍龍8,帶來(lái)高性能低功耗的終端側AI推理能力。同時(shí),第三代驍龍8還支持異構計算,綜合運用高通AI引擎上的多樣化處理器,包括CPU、GPU、NPU等,賦能終端側實(shí)現豐富的AI用例。
今年10月,高通推出了新一代移動(dòng)平臺――驍龍8至尊版,首次采用一系列領(lǐng)先技術(shù),包括第二代定制的高通Oryon CPU、高通Adreno GPU和增強的高通Hexagon NPU,實(shí)現了性能和能效的大幅提升,可以直接在終端側提供個(gè)性化的多模態(tài)生成式AI,支持語(yǔ)音、情境和圖像理解,全面增強從生產(chǎn)力到創(chuàng )意任務(wù)等各方面的體驗,并且將用戶(hù)隱私保護放在首位。
CM-3B是由中國移動(dòng)終端公司研發(fā),以中國移動(dòng)研究院九天端側大模型為基礎打造的終端智能體,以語(yǔ)音助手為應用載體,在意圖識別、中英互譯、文本總結等終端應用方面均達到行業(yè)同參數規模領(lǐng)先水平。此次中國移動(dòng)終端公司與高通技術(shù)公司經(jīng)過(guò)一系列技術(shù)攻關(guān),成功面向第三代驍龍8以及驍龍8至尊版移動(dòng)平臺進(jìn)行優(yōu)化,實(shí)現更佳運行表現,將為廣大用戶(hù)帶來(lái)豐富的終端側AI體驗,推動(dòng)終端側生成式AI規?；瘮U展。
