伴隨著(zhù)人工智能廣泛應用于政企行業(yè)方案定制化、業(yè)務(wù)問(wèn)題主動(dòng)發(fā)現等關(guān)鍵領(lǐng)域,江蘇移動(dòng)政企用戶(hù)規模已突破10萬(wàn),專(zhuān)線(xiàn)業(yè)務(wù)用戶(hù)規模已超64萬(wàn)。然而,鑒于政企領(lǐng)域產(chǎn)品形態(tài)復雜多樣,運維工作面臨巨大挑戰,售前方案定制效率低下、售中問(wèn)題繁多難以統一應對、售后維護響應遲緩等瓶頸日益凸顯。為此,江蘇移動(dòng)推出了融合先進(jìn)大模型語(yǔ)言處理技術(shù)與多模態(tài)交互能力的政企數智化助手,旨在全面加速政企運維領(lǐng)域的數字化轉型。
江蘇移動(dòng)聚焦政企裝維全生命周期“質(zhì)”“效”雙提升,依托大模型形成意圖智能、分析智能、執行智能和稽核智能,面向售前方案生成、售中工單支撐、售后運維分析三大痛點(diǎn)場(chǎng)景,打造“寧犀”政企運維智能助手(如圖1所示)。
售前:方案智能生成推薦
以往,政企業(yè)務(wù)解決方案需要客戶(hù)經(jīng)理憑借個(gè)人經(jīng)驗分析業(yè)務(wù)需求、羅列需求摘要,進(jìn)而生成完整方案,平均耗時(shí)1周,響應速度慢。而“寧犀”政企運維助手可根據售前用戶(hù)的方案需求,用低秩適配(LoRA)指令微調對話(huà)知識,開(kāi)放多輪對話(huà)確認需求,并通過(guò)文本分析、數據查詢(xún)、方案提取、自主匹配等能力支撐方案自動(dòng)生成(如圖2所示)。組網(wǎng)方案通過(guò)文檔下載鏈接的方式提供,解決方案以知識點(diǎn)的模塊化內容來(lái)提供。這使得支撐響應效率提升至98.8%,為產(chǎn)品市場(chǎng)競爭贏(yíng)得先發(fā)優(yōu)勢。
在售前場(chǎng)景,“寧犀”政企運維助手使用的關(guān)鍵技術(shù)是LoRA算法,這是一種針對大型預訓練語(yǔ)言模型的高效微調方法,專(zhuān)注于調整或添加少量與特定任務(wù)相關(guān)的參數。該技術(shù)基于售前客戶(hù)經(jīng)理與用戶(hù)的歷史對話(huà)數據,通過(guò)引入低秩矩陣的訓練方式,僅改變原有模型層中權重矩陣的一部分,既保留了模型原有的大部分知識,又提升了售前方案生成的效果。此外,政企領(lǐng)域的綜調大模型解決了原生大模型“零”業(yè)務(wù)知識理解的問(wèn)題,還能對行業(yè)術(shù)語(yǔ)和個(gè)性化需求予以響應。利用政企基礎運維數據對大模型進(jìn)行微調,通過(guò)增加神經(jīng)網(wǎng)絡(luò )層數、調整網(wǎng)元參數,使其更好地適應政企業(yè)務(wù)的語(yǔ)義環(huán)境。
收集海量綜調領(lǐng)域數據(涵蓋運營(yíng)調度規劃、工單知識庫、系統需求文檔、技術(shù)產(chǎn)品手冊等),“寧犀”政企運維助手先對其進(jìn)行預處理,再將歷史坐席和裝維在線(xiàn)對話(huà)數據整理成指令格式。同時(shí),將業(yè)務(wù)運維文檔等基礎知識融入大模型,促使大模型學(xué)習業(yè)務(wù)功能(如工單催辦)所需的具體流程與操作。完成訓練的綜調大模型,再注入備好的指令對話(huà)數據進(jìn)行LoRA指令微調訓練。運用LoRA方式微調對話(huà)知識,開(kāi)展多輪對話(huà)服務(wù),提升大模型的業(yè)務(wù)理解能力,使問(wèn)題處理效率提高85%。
售中:支撐裝維工單綜調質(zhì)檢
在日常政企業(yè)務(wù)裝維場(chǎng)景中,每天需要投入20多名后臺綜調人員,為上千名裝維人員提供支撐,解答400多條現場(chǎng)裝維問(wèn)題,業(yè)務(wù)繁忙,工作強度大?!皩幭闭筮\維助手面向一線(xiàn)裝維人員和綜調人員,提供工單快速查詢(xún)、分析、轉派、督辦等支撐能力,并基于提示詞工程技術(shù)和智能體調度算法,實(shí)現任務(wù)識別與抽取,構建問(wèn)題分析與調度智能體,以此滿(mǎn)足售中工單支撐需求(如圖3所示)。實(shí)測顯示,“寧犀”政企運維助手日均自動(dòng)處理工單達257個(gè),其異常工單處理響應時(shí)間也從30分鐘縮短至1分鐘,問(wèn)題處理效率提升近30倍。
面向售中開(kāi)通交付環(huán)節,引入大模型與多模態(tài)識別能力,實(shí)現從電話(huà)預約、人員進(jìn)場(chǎng)、安裝工藝檢查到滿(mǎn)意度評價(jià)的整個(gè)業(yè)務(wù)裝維流程,由人工轉向AI智檢,使得裝維質(zhì)檢環(huán)節耗費時(shí)長(cháng)從15.7小時(shí)銳減至0.4小時(shí)。
在售中場(chǎng)景中,“寧犀”政企運維助手使用的關(guān)鍵技術(shù)是提示詞工程技術(shù)和智能體調度算法,借此實(shí)現高效的任務(wù)識別、抽取及處理能力。以下是對這兩項技術(shù)在技術(shù)和算法層面更為詳盡的闡釋。
提示詞工程技術(shù)通過(guò)精心設計的提示詞(例如,查詢(xún)故障工單信息,請輸入工單號XX;查詢(xún)政企業(yè)務(wù)信息,請輸入用戶(hù)名稱(chēng)XX)引導大模型學(xué)習并生成符合特定場(chǎng)景需求的文本或執行相應任務(wù)。該技術(shù)涉及大規模語(yǔ)言模型訓練后的調優(yōu)和微調操作,通過(guò)將領(lǐng)域知識和業(yè)務(wù)規則植入模型,增強其針對特定任務(wù)的理解和執行能力。
在上下文感知提示生成方面,為提高模型對上下文的理解能力,“寧犀”政企運維助手采用上下文感知的提示生成機制,根據輸入內容動(dòng)態(tài)地生成或選擇最合適的提示詞,使模型準確捕捉當前對話(huà)或任務(wù)的具體要求。
在多模態(tài)提示集成方面,鑒于實(shí)際業(yè)務(wù)場(chǎng)景中信息來(lái)源的多樣性,特別是針對現場(chǎng)施工工藝圖片識別、現場(chǎng)機房布線(xiàn)位置圖片識別等需求,“寧犀”政企運維助手支持文本、圖像甚至視頻等多種形式的提示輸入。借助多模態(tài)融合技術(shù),系統能夠綜合各種類(lèi)型的信息,進(jìn)而提供更為全面、精準的服務(wù)。
在自適應提示優(yōu)化方面,隨著(zhù)系統的持續運行,“寧犀”政企運維助手會(huì )不斷收集用戶(hù)反饋并分析模型表現,隨后自動(dòng)調整提示詞庫。這一自適應優(yōu)化流程不但提高了模型的響應速度,而且增強了其處理新問(wèn)題的能力。
智能體調度算法是“寧犀”政企運維助手的另一核心技術(shù),該技術(shù)基于強化學(xué)習框架構建而成,旨在優(yōu)化任務(wù)分配和資源管理。具體實(shí)現方式有兩類(lèi)。
一是基于強化學(xué)習的任務(wù)優(yōu)先級排序。智能體調度算法使用強化學(xué)習算法,學(xué)習根據不同任務(wù)的緊急程度和重要性進(jìn)行優(yōu)先級排序。通過(guò)獎勵機制(包含用戶(hù)點(diǎn)贊和反饋等),算法能夠逐漸學(xué)會(huì )在不同情況下做出最優(yōu)決策,以實(shí)現時(shí)延最小化和效率最大化。
二是動(dòng)態(tài)資源分配策略。針對裝維工作的特點(diǎn),“寧犀”政企運維助手落實(shí)動(dòng)態(tài)資源分配策略,根據實(shí)時(shí)的工作負載情況靈活調配資源,確保每項任務(wù)都能獲得適當支撐。例如,在高峰期增加后臺綜調人員數量,在低谷期則減少不必要的人員投入。
售后:業(yè)務(wù)智能運維分析
政企專(zhuān)線(xiàn)業(yè)務(wù)是典型的跨域、跨專(zhuān)業(yè)端到端場(chǎng)景,其性能、告警及投訴等數據分散在多個(gè)專(zhuān)業(yè)系統,致使數據查詢(xún)既復雜又耗時(shí),并且故障處理缺少現場(chǎng)診斷與驗證工具。
“寧犀”政企運維助手面向一線(xiàn)維護人員與技術(shù)經(jīng)理,通過(guò)大模型的意圖識別、NL2SQL等技術(shù),自動(dòng)與各網(wǎng)管系統交互,完成信息查詢(xún)、分析,還能調用網(wǎng)管系統的診斷工具和集團網(wǎng)智平臺的AI能力,用于問(wèn)題診斷、恢復驗證。不僅如此,“寧犀”政企運維助手還具備運維分析報告自助生成功能,通過(guò)大模型的意圖智能,獲取集團編號或集團名稱(chēng)后,大模型按照報告模板和查詢(xún)規則,自動(dòng)調用網(wǎng)管接口采集數據,自動(dòng)編寫(xiě)報告,運營(yíng)報告生成時(shí)長(cháng)從原先人工編寫(xiě)的3小時(shí)縮短至5分鐘(如圖4所示)。
在售后場(chǎng)景中,“寧犀”政企運維助手使用的關(guān)鍵技術(shù)是意圖識別與NL2SQL。依托基于深度學(xué)習的大規模預訓練模型,“寧犀”政企運維助手可以準確理解用戶(hù)所提自然語(yǔ)言問(wèn)題或指令背后的真正意圖,并將非結構化的文本信息轉化為可執行的操作命令。
在意圖解析方面,通過(guò)多層神經(jīng)網(wǎng)絡(luò )對輸入文本進(jìn)行特征提取,“寧犀”政企運維助手可快速解析出用戶(hù)的實(shí)際需求,無(wú)論是查詢(xún)特定時(shí)間段內的網(wǎng)絡(luò )性能指標,還是請求最新的故障告警信息。
在語(yǔ)義轉換方面,利用先進(jìn)的NL2SQL,將解析后的意圖進(jìn)一步轉換為精確的SQL查詢(xún)語(yǔ)句,該查詢(xún)語(yǔ)句既能滿(mǎn)足業(yè)務(wù)邏輯要求,又能高效地從各網(wǎng)管系統中獲取所需數據。
全流程支撐:政企業(yè)務(wù)智能知識問(wèn)答
針對運維人員技能提升與日常支撐需求,“寧犀”政企運維助手聚焦政企業(yè)務(wù)常見(jiàn)問(wèn)題,通過(guò)大模型檢索增強生成(RAG)技術(shù)將運維規范、技術(shù)文檔、故障報告等材料,以政企業(yè)務(wù)智能問(wèn)答形式提供服務(wù)支撐。該服務(wù)可實(shí)現7×24小時(shí)的問(wèn)答響應,極大提高了用戶(hù)問(wèn)題的應答率。
在全流程支撐方面,“寧犀”政企運維助手使用的關(guān)鍵技術(shù)是RAG,這項技術(shù)融合了檢索與生成兩種方式的優(yōu)勢,旨在提供更加精準、高效的文本生成能力。
具體而言,在多源信息檢索環(huán)節,RAG技術(shù)通過(guò)搜索引擎或數據庫查詢(xún)等手段,從海量知識庫中檢索出與用戶(hù)提問(wèn)關(guān)聯(lián)性強的文檔片段或段落。其來(lái)源涵蓋政企運維相關(guān)技術(shù)文檔、故障報告、規范手冊等,能夠快速定位特定問(wèn)題的歷史解決方案或最佳實(shí)踐案例。
在上下文感知生成方面,RAG技術(shù)在獲取相關(guān)政企運維資料后,利用預訓練的大規模語(yǔ)言模型理解并整合這些信息,根據用戶(hù)的實(shí)際需求生成自然流暢的回答。
在動(dòng)態(tài)知識更新方面,考慮到業(yè)務(wù)環(huán)境與技術(shù)方案的不斷變化,RAG系統支持其文檔庫的動(dòng)態(tài)更新。每當有新的運維指南發(fā)布或故障處理經(jīng)驗總結時(shí),系統能夠及時(shí)納入這些最新信息,確?;卮鸬臅r(shí)效性和準確性。
項目應用成效和可推廣性
目前,“寧犀”政企運維助手已在江蘇全省展開(kāi)試點(diǎn)應用,在提質(zhì)量、優(yōu)服務(wù)、降成本方面成效顯著(zhù)。其中,解決方案生成時(shí)長(cháng)由7天縮短至2.5天以?xún)?,組網(wǎng)方案生成時(shí)長(cháng)從5小時(shí)縮減至20分鐘,知識問(wèn)答實(shí)現7×24小時(shí)自動(dòng)應答,用戶(hù)滿(mǎn)意度提升至99.43%,年壓降工作量為1329人月。
“寧犀”大模型智能體結合38個(gè)AI能力上線(xiàn),輸出5項專(zhuān)利,參與業(yè)內首個(gè)模型即服務(wù)(MaaS)標準制定,該標準已正式發(fā)布并在ITU-T立項,江蘇移動(dòng)被授予“核心參編單位”稱(chēng)號?!皩幭闭筮\維智能助手具備標準統一易推廣、云平臺部署兼容性強、低成本可復制性強等特點(diǎn)。值得關(guān)注的是,大模型智能體融合的政企AI能力已在中國移動(dòng)集團內超15個(gè)省分公司推廣應用。
*本文刊載于《通信世界》
總第960期 2025年1月25日 第2期