隨著人工智能和大數據時代的到來,傳統嵌入式處理器中的CPU和GPU逐漸無法滿足日益增長的深度學習需求。為了應對這一挑戰,在一些高端處理器中,NPU(神經網絡處理單元)也被集成到了處理器里。NPU的出現不僅減輕了CPU和GPU的負擔,還讓復雜的計算任務得以高效處理。在典型的工作流中,CPU會首先接收任務,并根據任務的性質將其分配給合適的處理單元,圖像處理任務由GPU處理,而人工智能相關任務則交給NPU。 應用領域 圖像識別: NPU能夠迅速對圖像進行分類、檢測和分割等操作,大大提升了處理效率。 語音識別: NPU實現了實時語音轉換和語音合成功能,為語音交互提供了更自然的體驗。 自然語言處理: NPU幫助機器完成更高效的翻譯、文本分類和情感分析,推動了自然語言處理技術的發展。 實例分享:Yolov5分類檢測 在RK3588處理器上,不僅可以基于Linux系統使用NPU,也可以基于Android系統使用NPU,基于Linux使用NPU已經多次與大家分享過就不在贅述。 在 Android平臺上,可以通過兩種方式調用RKNN API:直接鏈接librknnrt.so或鏈接基于Android平臺HIDL實現的librknn_api_android.so。對于需要通過CTS/VTS測試的設備,建議使用后者,而對于不需要測試的設備,直接鏈接librknnrt.so可以提供更好的性能。 在開發板網盤資料中提供了Yolov5分類檢測的示例—rknn_yolov5_android_apk_demo(基于瑞芯微官方demo修改) ⑵ 例程測試 啟動 Android Studio,打開rknn_yolov5_android_apk_demo應用工程文件夾進行編譯,編譯成功后,選擇iTOP-RK3588設備并運行應用程序 當APP運行時,您會在迅為iTOP-RK3588開發板外接的MIPI屏幕上看到應用界面。在1280*800的預覽分辨率下,應用程序能夠達到約15FPS的運行速度,表現令人滿意。 ■ 視頻教程 https://b23.tv/7IEvdpb https://b23.tv/hDA4V7k https://b23.tv/0DY9Hmk https://b23.tv/i6JkT5S ■ 手冊資料 【北京迅為】itop-3588開發板NPU例程測試手冊 【北京迅為】itop-3588開發板NPU使用手冊 |