近日,OPPO 宣布向 LF AI&Data 基金會(huì )無(wú)償捐贈一項 AI 項目——ShaderNN,它是業(yè)界首個(gè)支持 OpenGL 和 Vulkan 全圖形棧的高效輕量推理引擎, 面向移動(dòng)端圖形、圖像、游戲實(shí)時(shí) AI 應用。
目前,越來(lái)越多的深度學(xué)習推理任務(wù)從云端轉移到移動(dòng)端,移動(dòng)平臺上的深度學(xué)習推理場(chǎng)景需要解決硬件平臺、驅動(dòng)、編譯優(yōu)化、模型壓縮、算子算法優(yōu)化和部署等諸多問(wèn)題,現有的推理平臺與第三方庫和硬件平臺又通常存在驅動(dòng)適配、模型驗證、數據交互等問(wèn)題,導致對應的優(yōu)化部署和維護升級過(guò)程繁瑣。同時(shí),移動(dòng)平臺對圖形圖像類(lèi)應用的實(shí)時(shí)性和功耗要求越來(lái)越高。
ShaderNN 應運而生, ShaderNN 專(zhuān)注于通過(guò) GPU 著(zhù)色器進(jìn)行推理加速,它基于原生 OpenGL ES 和 Vulkan 構建,可以輕松與圖形渲染管線(xiàn)深度集成,最大限度地利用計算資源,適用于渲染、圖像/視頻和游戲 AI 實(shí)時(shí)應用,它具有通用性、高性能、可移植性、可擴展性,其推理時(shí)間及平均功耗比同行業(yè)推理引擎在典型場(chǎng)景有顯著(zhù)優(yōu)勢。
ShaderNN 加入 LF AI&Data 基金會(huì )沙箱項目后,通過(guò)在基金會(huì )內部的合作,可以為開(kāi)發(fā)者帶來(lái)更快捷的開(kāi)發(fā)體驗,讓手機用戶(hù)獲得更流暢、更沉浸真實(shí)的體驗。
未來(lái),OPPO 將繼續與全球開(kāi)源社區建立更深入的合作,通過(guò)前沿技術(shù)的可持續發(fā)展與不斷落地,造福更多消費者。