9月17日,由南京市人民政府、中國信息通信研究院聯(lián)合主辦的2023南京人工智能產(chǎn)業(yè)發(fā)展大會(huì )盛大開(kāi)幕。此次大會(huì )以AI新趨勢 智能新時(shí)代為主題,匯聚中外人工智能領(lǐng)域產(chǎn)業(yè)領(lǐng)袖、學(xué)術(shù)專(zhuān)家和行業(yè)代表,共謀人工智能產(chǎn)業(yè)發(fā)展新圖景。紫光股份旗下新華三集團數字中國研究院常務(wù)副院長(cháng)李飛受邀出席并發(fā)表主題演講,從行業(yè)用戶(hù)的使用角度出發(fā),分享了新華三對大模型在行業(yè)私域部署落地的挑戰和問(wèn)題,以新華三自身探索和應用私域大模型百業(yè)靈犀(LinSeer)的經(jīng)驗,提出以五星原則和四域支撐來(lái)助推AIGC走向業(yè)務(wù)場(chǎng)景。
五星原則 設身處地為行業(yè)定制
當前AIGC技術(shù)正在加速融入百行百業(yè),行業(yè)客戶(hù)在積極擁抱AIGC的同時(shí), AIGC的應用效果和使用成本已經(jīng)成為CEO/CTO最關(guān)心的問(wèn)題,然而不斷增長(cháng)的大模型參數量、硬件資源需求以及持續激增的能耗壓力,導致其在行業(yè)落地時(shí)面臨困境。李飛指出,以合適的切入場(chǎng)景、合理的模型大小、高效的數據治理、合規的內容安全、合用的落地工具為核心的五星原則,將有利于促進(jìn)AIGC與產(chǎn)業(yè)的深度融合。
● 合適的切入場(chǎng)景:通過(guò)區分AIGC業(yè)務(wù)應用場(chǎng)景可加速推動(dòng)人工智能產(chǎn)業(yè)的落地應用,目前,百業(yè)靈犀(LinSeer)可為各行業(yè)引入豐富的AIGC細分場(chǎng)景。
● 合理的模型大?。篈I大模型的大小需要平衡算力和能耗的開(kāi)支,應選擇適合行業(yè)特點(diǎn)和業(yè)務(wù)特點(diǎn)的大模型進(jìn)行私域部署。新華三集團自主研發(fā)動(dòng)態(tài)混合專(zhuān)家(Dynamic Mixture of Experts)模型技術(shù),能夠將多個(gè)專(zhuān)家模型的預測結果進(jìn)行加權組合,實(shí)現最優(yōu)部署。
● 高效的數據治理:數據是私域大模型發(fā)展的核心要素之一,新華三以綠洲平臺為基礎,通過(guò)構建私域數據湖進(jìn)一步沉淀行業(yè)數據,幫助客戶(hù)訓練自己的知識模型,形成寶貴的行業(yè)數據資產(chǎn)。
● 合規的內容安全:客戶(hù)業(yè)務(wù)與AIGC的結合可能會(huì )帶來(lái)商業(yè)機密或個(gè)人隱私的泄露、違反法律法規等內容安全問(wèn)題,通過(guò)建立內容輸入防護、模型本身防護和內容輸出防護為一體的內容安全體系可有效規避安全問(wèn)題。
● 合用的落地工具:有效規避大模型與應用的場(chǎng)景割裂,利用大模型使能平臺幫助行業(yè)客戶(hù)打通大模型到具體業(yè)務(wù)場(chǎng)景需求通道,通過(guò)連接應用與大模型,提升大模型的行動(dòng)力和記憶力,實(shí)現應用場(chǎng)景的拓展和衍生。
四域支撐 助推四專(zhuān)價(jià)值實(shí)現
AIGC生產(chǎn)新范式帶來(lái)生產(chǎn)力的變化,將重塑各行各業(yè)的生產(chǎn)關(guān)系。作為數字化解決方案領(lǐng)導者,新華三集團與時(shí)俱進(jìn),全面擁抱AIGC時(shí)代。在今年推出的私域大模型百業(yè)靈犀,具備行業(yè)專(zhuān)注、區域專(zhuān)屬、數據專(zhuān)有、價(jià)值專(zhuān)享的特點(diǎn),可為垂直行業(yè)和專(zhuān)屬地域的客戶(hù)提供安全、訂制、獨享、生長(cháng)的智能化服務(wù)。
目前,百業(yè)靈犀(LinSeer)已形成以綠洲平臺為核心的數據域、以大模型使能平臺 為基礎的大模型域、以數據安全審查為重點(diǎn)的安全隔離域、以AI助手及AI服務(wù)組成的用戶(hù)域的四域支撐,可為行業(yè)用戶(hù)提供端到端的私域部署服務(wù),勾勒出百業(yè)靈犀(LinSeer)價(jià)值實(shí)現的全景圖。
更簡(jiǎn)單:以完備的AI工具鏈降低大模型應用過(guò)程中的使用成本,通過(guò)會(huì )話(huà)調試可靈活測試、評估大模型領(lǐng)域能力,幫助客戶(hù)持續優(yōu)化提示詞,調配模型參數,在降低大模型運營(yíng)成本的同時(shí)提高推理效果;
更通用:可兼容不同推理平臺及各類(lèi)大模型,用戶(hù)可靈活對應用進(jìn)行授權,會(huì )話(huà)、知識檢索、指令調用等功能均可通過(guò)大模型使能平臺 (LinSeer Hub)統一管理和推理部署;
更安全:內置安全限制提示詞和出入內容過(guò)濾攔截功能,可對所有場(chǎng)景下大模型生成內容進(jìn)行安全性限制,為用戶(hù)信息和數據安全保駕護航;
更智能:通過(guò)提示詞管理、編排和使用,可明確大模型對應用場(chǎng)景的目標、策略和約束,并通過(guò)向量存儲和檢索讓大模型具備記憶力,最大化提升大模型的行動(dòng)力。
面向未來(lái),新華三集團將不斷深化云智原生戰略,秉持精耕務(wù)實(shí),為時(shí)代賦智慧的理念,把握AIGC時(shí)代脈搏,精研云智原生前沿技術(shù),深耕客戶(hù)應用場(chǎng)景,以AI之力全面賦能百行百業(yè)數智創(chuàng )新。