創龍首頁 >關于創龍 > 新聞資訊 > 技術文章

聯系我們

Contact Us

公司總機:020-8998-6280

技術熱線:020-3893-9734

技術郵箱:support@tronlong.com

銷售郵箱:sales@tronlong.com

2.3T算力,真的強!1分鐘學會NPU開發,基于NXP i.MX 8MP平臺!

2024/12/16

科技飛速發展,人工智能與工業領域的融合日益深入。NXP旗下的i.MX 8M Plus作為一款高端工業處理器,NPU算力高達2.3TOPS,正引領著工業智能化的浪潮,為眾多工業場景帶來了前所未有的變革潛力。


圖 1


 i.MX 8M Plus NPU特性

i.MX 8M Plus的NPU支持INT16/INT32/FP16/FP32等多種數據類型,兼容性卓越,與TensorFlow Lite/Arm NN/ONNX Runtime/DeepViewRT等框架無縫對接。這一特性,為開發者們打造了一個極為豐富的工具和庫生態系統,更便利進行模型開發與訓練工作,輕松應對各種復雜的大數據運算場景,無論是海量工業數據的分析處理,還是精準智能決策的模型構建,更加游刃有余。


 i.MX 8M Plus NPU開發流程

第一步:模型開發

首先,從TensorFlow預訓練模型庫中選擇一個合適的模型,或根據具體任務需求創建自定義模型。然后,收集和準備訓練數據集。

第二步:模型訓練

可通過eIQ Toolkit工具調整參數(如Weight initialization、Input size、Learning rate等)優化模型性能,配置訓練參數后,開始模型訓練。

第三步:模型量化

可通過量化一個訓練后的模型,減少其大小,并加快在NPU上的推理時間,實現最小的精度損失。

圖 2 開發流程示意圖


 i.MX 8M Plus 典型工業應用


圖 3


 NPU開發案例演示

本文主要介紹基于i.MX 8M Plus的NPU開發案例,適用開發環境如下。

Windows開發環境:Windows 7 64bit、Windows 10 64bit

虛擬機:VMware15.5.5

開發環境:Ubuntu20.04.6 64bit

U-Boot:U-Boot-2022.04

Kernel:Linux-5.15.71-rt51

LinuxSDK:Real-Time Edge Software 2.5

硬件平臺:創龍科技TLIMX8MP-EVM工業評估板(基于i.MX 8M Plus)


為了簡化描述,本文僅摘錄部分方案功能描述與測試結果,詳細產品資料請掃描文末二維碼下載。


案例說明

案例基于預訓練的TensorFlow Lite模型實現對圖片中目標對象的分類。TensorFlow Lite模型循環測試10次,統計出推理的平均處理耗時和幀率,獲取模型輸出的前五個標簽及置信度打印至串口終端并通過HDMI顯示屏繪制標簽及置信度概率最大的對象結果。

程序處理流程圖如下:



圖 4

案例演示

通過網線將評估板千兆網口ETH0連接至路由器,將HDMI顯示器與評估板HDMI2 OUT接口(CON22)連接。



圖 5

在可執行文件所在目錄,執行如下命令,對圖片目標對象進行推理。

Target#./mobilenetv1_label_image -m mobilenet_v1_1.0_224_quant.tflite -y ./bmp_image -l labels.txt -c 10 --external_delegate_path=/usr/lib/libvx_delegate.so



圖 6



圖 7

程序滾動識別多張圖片,以第1張圖片識別結果為例,輸出結果信息如下所示。



圖 8

從輸出信息可知,本張圖片識別為桌面電腦、屏幕、監控器、筆記本電腦、桌子的概率分別為53.7255%、20%、7.45098%、4.31373%、2.7451%,程序循環運行10次模型平均耗時為2.6519ms,幀率為377fps。

案例程序對測試圖片的目標對象進行識別后,通過HDMI顯示屏繪制標簽及置信度概率最大的對象結果如下所示。



圖 9


若您希望深入了解更多i.MX 8M Plus相關的精彩案例演示,可以掃描下方二維碼,選擇對應產品線即可獲取詳細資料,快來一起試試吧!




更多i.MX 8M Plus工業核心板產品資料可長按二維碼識別下載




亦可添加添加客服人員微信進行咨詢


(即刻添加,馬上咨詢)



創龍官方微信公眾號

Copyright © 2013~2025 廣州創龍電子科技有限公司 All Rights Reserved  | 粵ICP備15055271號