隨著(zhù)大模型向行業(yè)應用的深入發(fā)展,如何將基座模型通過(guò)工程化開(kāi)發(fā)適配到專(zhuān)屬領(lǐng)域,并生產(chǎn)面向用戶(hù)的智能化應用,成為大模型落地最后一公里的關(guān)鍵問(wèn)題。MaaS(Model as a service,模型即服務(wù))提供大模型服務(wù)、平臺工具、應用開(kāi)發(fā)等能力,通過(guò)工程化方式提升大模型可用、可信和可靠等能力,為大模型工程化落地提供有力支撐。產(chǎn)業(yè)界逐漸涌現出各類(lèi)MaaS平臺,但同時(shí)出現了模型服務(wù)質(zhì)量參差不齊、平臺選型難、行業(yè)定制需求復雜等問(wèn)題,從而亟需一套全面的標準體系助力MaaS行業(yè)健康有序發(fā)展。
中國信息通信研究院(簡(jiǎn)稱(chēng)“中國信通院”)緊跟MaaS領(lǐng)域最新發(fā)展趨勢,依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟于2023年成立MaaS工作組,聯(lián)合產(chǎn)學(xué)研各界專(zhuān)家共同啟動(dòng)MaaS系列標準編制,經(jīng)過(guò)一年多的持續努力,現正式發(fā)布MaaS系列標準。本系列標準圍繞MaaS落地中遇到的問(wèn)題,聚焦大模型定制調優(yōu)、大模型服務(wù)部署和推理加速、模型管理、大模型應用開(kāi)發(fā)等維度,提出能力要求,為大模型服務(wù)商和平臺供應商提供能力建設參考,為應用方提供技術(shù)選型依據。
《MaaS模型即服務(wù)技術(shù)與應用要求第1部分:模型服務(wù)協(xié)議要求》(AIIA/PG 0110-2024)(以下簡(jiǎn)稱(chēng)“協(xié)議要求”)標準針對大模型服務(wù)供需雙方簽訂服務(wù)協(xié)議(SLA)時(shí)涉及的模型推理性能、服務(wù)可用性、計量準確性、權責條款等方面進(jìn)行了明確規范,為大模型服務(wù)提供商和使用方制定服務(wù)協(xié)議提供參考。
《MaaS模型即服務(wù)技術(shù)與應用要求第2部分 模型服務(wù)評估方法》(AIIA/PG 0173-2024)標準,以協(xié)議要求標準中的要求為基礎,明確了可落地的模型服務(wù)質(zhì)量評估方法,對大模型服務(wù)的質(zhì)量進(jìn)行多維度評估,為其是否滿(mǎn)足SLA提供符合性評價(jià)依據,為應用方提供選型參考和質(zhì)量保障。
《MaaS模型即服務(wù)技術(shù)與應用要求第3部分:模型平臺》(AIIA/PG 0134-2024)標準從數據工程、模型調優(yōu)、模型交付、服務(wù)運營(yíng)、平臺能力等角度對利用基座大模型打造專(zhuān)屬領(lǐng)域模型的全棧能力進(jìn)行規范,降低大模型領(lǐng)域化的技術(shù)門(mén)檻,提升領(lǐng)域模型的定制調優(yōu)效率和能力。
《MaaS模型即服務(wù)技術(shù)與應用要求第4部分:模型服務(wù)平臺》(AIIA/PG 0137-2024)標準從大模型推理加速、服務(wù)部署、服務(wù)測試、服務(wù)管理、服務(wù)運營(yíng)等角度對將大模型服務(wù)化成API等形式的全流程能力進(jìn)行規范,指導大模型服務(wù)平臺供應商進(jìn)行能力建設,提升大模型服務(wù)的部署效率與供給質(zhì)量。
《MaaS模型即服務(wù)技術(shù)與應用要求第5部分:模型管理平臺》(AIIA/PG 0193-2024)標準對企業(yè)內部模型、數據等AI資產(chǎn)的管理運營(yíng)進(jìn)行規范,同時(shí)通過(guò)使用說(shuō)明、適用場(chǎng)景、調用方法等模型卡片要素進(jìn)行明確,以促進(jìn)用戶(hù)使用大模型的活躍度,幫助企業(yè)以最大程度發(fā)揮大小模型協(xié)同效果。
《MaaS模型即服務(wù)技術(shù)與應用要求第6部分:模型應用開(kāi)發(fā)平臺》(AIIA/T 0196-2024)標準圍繞基于大模型的AI應用開(kāi)發(fā)全流程,從組件構建、RAG構建、智能體應用構建、應用集成和管理以及平臺運營(yíng)等橫向維度提出規范要求,縱向維度涉及模型服務(wù)調取、AI能力嵌入、流程編排等技術(shù)要求,幫助企業(yè)快速創(chuàng )建私域大模型應用。