晶心科技與Deeplite將攜手合作,在基于AndeStar V5架構的晶心RISC-V CPU核心上配置高度優化的深度學習模型,使AI深度學習模型變得更輕巧、快速和節能。 近年來,諸如支持人工智能(AI)的家庭助理等智能裝置如雨后春筍般普及,為將極精簡的深度學習模型應用至日常生活提供了理想平臺。為追求低功耗和低計算資源且有效運行,智能裝置必須易于使用并能實時響應使用者請求。如今,因應復雜的AI模型計算和功耗需求,大多數智能裝置必須將用戶數據和需求發送至云端執行AI處理,再將結果傳回智能裝置。 晶心科技和Deeplite聯手推出解決方案,使諸如智慧家庭助理的人機互動界面可以在本地操作,且幾乎不需要聯機至云端;當智能家庭助理通過小型攝像機偵測到人時,裝置將會自動“喚醒”。其目標為優化在第一個采用DSP SIMD ISA的商業RISC-V核心Andes A25和D25F上運行的深度學習模型,適用于低成本的AI邊緣計算應用。該團隊從在13MB大的Visual Wake Words(VWW)視覺喚醒關鍵詞數據集上訓練的MobileNet模型開始,使用Deeplite的硬件感知優化引擎,在精準度只降低1%的情況下,自動發現、訓練和運用小于188KB的新模型。 “我們發現越來越多的行業需要在我們具有DSP指令的RISC-V核心如A25和D25F上運行嵌入式、優化的深度學習模型以加速深度學習演算,”晶心科技首席技術官暨執行副總蘇泓萌博士表示,“Deeplite提供了一個可以在晶心內部使用的解決方案,同時也可以讓我們的客戶將在晶心RISC-V CPU核心上的深度學習算法運用到資源有限的邊緣裝置。” “我對于這次的合作感到非常興奮!Deeplite不僅在最小精度的影響下提供了高達69倍深度學習模型的優化,我們也自動化以前費時又容易出錯的人工神經網絡架構設計。”Deeplite, Inc. CEO Nick Romano表示,“過去需要花費數周反復測試才能完成的工作,現在可以在幾個小時內自動完成!結合Deeplite的Lightweight Intelligence 和晶心最好的CPU,使我們更進一步將AI推廣于日常生活中。” 透過將Deeplite領先業界的優化技術與晶心最先進的RISC-V CPU相結合,為如語音識別或人員偵測等所需的微控制器級內存及運算要求,原始設備廠商(OEM)和應用開發人員可以提供讓用戶可將數據保留在裝置上,并且同時仍能提供在世界各地真實環境下AI需有的實時且無縫響應等優勢。 欲取得此次合作的白皮書,請聯系產品聯合創始人暨副總Davis Sawyer davis@deeplite.ai Deeplite成立于2018年,總部位于蒙特利爾,是一家致力實現深度學習于日常使用設備中的AI軟件公司。Deeplite強化深入學習在智能優化軟件上的研究、設計和開發,使從云端到邊緣運算的深度神經網絡(DNN)更快速、精巧和節能。 Deeplite已獲得許多行業認可,包括在2019年被加拿大創新交易所(CIX)評為Top20早期公司,并獲得魁北克創新獎。Deeplite目前正在參與MobilityXlab和L-Spark QNX自動駕駛汽車加速器計劃。欲了解更多信息,請前往www.deeplite.ai |