瑞芯微AI平台三大更新,加速端側AI技術(shù)落地
瑞芯微Rockchip正式發布旗下(xià)AI平台三大重要升級,助力端側AI應用:開發工具支持GUI圖形交互界面、原生支持MXNet和(hé)PyTorch、支持Docker部署。
一、交互方式更加友好,RKNN-Toolkit新版本将支持圖形界面
經過多個(gè)版本的不斷疊代完善,RKNN-Toolkit已日益成熟。Rockchip即将推出的新版将加入圖形交互界面(GUI),開發者通(tōng)過鼠标點擊即可(kě)完成模型的轉換、量化、性能分析、内存耗費分析等任務,快速完成AI模型在端側部署的評估和(hé)轉換工作。
特别是對于混合量化等較為複雜的任務,相比于過去的命令行交互,通(tōng)過圖形界面可(kě)大幅提高效率并降低操作錯誤的概率。另外,新版RKNN-Toolkit的圖形界面同樣在Linux/MacOSX/Windows三個(gè)平台上均可(kě)運行。
二、模型轉化更加簡便,RKNN-Toolkit将對MXNet和(hé)PyTorch提供原生支持
過去RKNN-Toolkit通(tōng)過ONNX來完成MXNet和(hé)PyTorch等模型的支持,開發者需要先将模型轉換為ONNX格式,再進一步轉換為RKNN模型,這一過程較為煩瑣,并且提高了引入問(wèn)題的概率使得最終轉換失敗。
MXNet及PyTorch發展非常迅速,普及度快速提高,RKNN-Toolkit新版本将原生支持MXNet及PyTorch模型的轉換,在端側AI平台的框架和(hé)模型支持覆蓋度上繼續保持領先。
三、模型推理性能更加穩定,瑞芯微AI平台支持通(tōng)過Docker快速部署端側AI應用
随着端側設備數量的成倍增長,需要以更具可(kě)擴展性的方式部署端側AI應用軟件。Docker容器(qì)技術(shù)是業(yè)界廣泛通(tōng)行的解決這一挑戰的有力工具。
RK1808平台系統将提供對Docker的支持,通(tōng)過硬件抽象層,在容器(qì)中(zhōng)仍可(kě)調用NPU的強勁算力,經測試,容器(qì)中(zhōng)的AI模型推理性能幾乎沒有損失。
通(tōng)過上述更新,開發者基于瑞芯微 AI平台的産品開發、部署、維護将更為迅捷。瑞芯微将繼續與廣大開發者共同努力,加速AI在各類場景的落地。
(文(wén)字轉載自“iamrockchip”微信公衆号,2019年12月(yuè)23日)