9月16日,北京商報記者從曠視獲悉,曠視開源深度學習框架曠視天元MegEngine近日開源了MegFlow流式計算框架,助力AI算法開發者快速完成AI模型的落地應用。MegFlow是面向計算機視覺應用的流式計算框架,提供了一套可快速完成AI應用部署的視覺解析服務方案。AI應用開發者可以基于MegFlow提供的圖像和視頻解析服務,最快15分鐘即可完成客制化所需功能,例如發票掃描、明火檢測等。
常規的AI算法交付流程一般分為模型訓練、SDK封裝、業務集成和交付驗收四個步驟,冗長繁雜。MegFlow將將冗長的算法交付流程簡化為模型訓練、業務集成及交付驗收三步,AI算法研究人員可以快速將訓練好的模型集成部署成簡單易用的AI服務并完成交付。
MegFlow針對AI算法工程落地中的頻發問題,諸如性能調優、安全性、模型加密等,都能提供行之有效的解決方案并有效提升了工程效率。技術選型上,MegFlow的研發團隊調研了多種技術方案,最終選擇了安全且零額外開銷的Rust異步生態,從基礎上保證了MegFlow的安全性與性能。
MegFlow支持Python插件,且僅需要開發者編寫同步的Python程序,即可實現可以被MegFlow異步調度的Python插件。同時MegFlow提供了一套基于Web UI的可視化調試工具,可有效提升模型部署的工作效率。
表達能力上,MegFlow支持靜態圖、動態圖和共享圖,輔以demux、reorder、transform等函數式語義的通用插件,為搭建多樣化的AI服務提供了豐富的語義支持。(記者 魏蔚)