晶心科技與Deeplite將攜手合作,在基于AndeStar V5架構(gòu)的晶心RISC-V CPU核心上配置高度優(yōu)化的深度學(xué)習(xí)模型,使AI深度學(xué)習(xí)模型變得更輕巧、快速和節(jié)能。 近年來,諸如支持人工智能(AI)的家庭助理等智能裝置如雨后春筍般普及,為將極精簡的深度學(xué)習(xí)模型應(yīng)用至日常生活提供了理想平臺(tái)。為追求低功耗和低計(jì)算資源且有效運(yùn)行,智能裝置必須易于使用并能實(shí)時(shí)響應(yīng)使用者請(qǐng)求。如今,因應(yīng)復(fù)雜的AI模型計(jì)算和功耗需求,大多數(shù)智能裝置必須將用戶數(shù)據(jù)和需求發(fā)送至云端執(zhí)行AI處理,再將結(jié)果傳回智能裝置。 晶心科技和Deeplite聯(lián)手推出解決方案,使諸如智慧家庭助理的人機(jī)互動(dòng)界面可以在本地操作,且?guī)缀醪恍枰?lián)機(jī)至云端;當(dāng)智能家庭助理通過小型攝像機(jī)偵測(cè)到人時(shí),裝置將會(huì)自動(dòng)“喚醒”。其目標(biāo)為優(yōu)化在第一個(gè)采用DSP SIMD ISA的商業(yè)RISC-V核心Andes A25和D25F上運(yùn)行的深度學(xué)習(xí)模型,適用于低成本的AI邊緣計(jì)算應(yīng)用。該團(tuán)隊(duì)從在13MB大的Visual Wake Words(VWW)視覺喚醒關(guān)鍵詞數(shù)據(jù)集上訓(xùn)練的MobileNet模型開始,使用Deeplite的硬件感知優(yōu)化引擎,在精準(zhǔn)度只降低1%的情況下,自動(dòng)發(fā)現(xiàn)、訓(xùn)練和運(yùn)用小于188KB的新模型。 “我們發(fā)現(xiàn)越來越多的行業(yè)需要在我們具有DSP指令的RISC-V核心如A25和D25F上運(yùn)行嵌入式、優(yōu)化的深度學(xué)習(xí)模型以加速深度學(xué)習(xí)演算,”晶心科技首席技術(shù)官暨執(zhí)行副總蘇泓萌博士表示,“Deeplite提供了一個(gè)可以在晶心內(nèi)部使用的解決方案,同時(shí)也可以讓我們的客戶將在晶心RISC-V CPU核心上的深度學(xué)習(xí)算法運(yùn)用到資源有限的邊緣裝置。” “我對(duì)于這次的合作感到非常興奮!Deeplite不僅在最小精度的影響下提供了高達(dá)69倍深度學(xué)習(xí)模型的優(yōu)化,我們也自動(dòng)化以前費(fèi)時(shí)又容易出錯(cuò)的人工神經(jīng)網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)。”Deeplite, Inc. CEO Nick Romano表示,“過去需要花費(fèi)數(shù)周反復(fù)測(cè)試才能完成的工作,現(xiàn)在可以在幾個(gè)小時(shí)內(nèi)自動(dòng)完成!結(jié)合Deeplite的Lightweight Intelligence 和晶心最好的CPU,使我們更進(jìn)一步將AI推廣于日常生活中。” 透過將Deeplite領(lǐng)先業(yè)界的優(yōu)化技術(shù)與晶心最先進(jìn)的RISC-V CPU相結(jié)合,為如語音識(shí)別或人員偵測(cè)等所需的微控制器級(jí)內(nèi)存及運(yùn)算要求,原始設(shè)備廠商(OEM)和應(yīng)用開發(fā)人員可以提供讓用戶可將數(shù)據(jù)保留在裝置上,并且同時(shí)仍能提供在世界各地真實(shí)環(huán)境下AI需有的實(shí)時(shí)且無縫響應(yīng)等優(yōu)勢(shì)。 欲取得此次合作的白皮書,請(qǐng)聯(lián)系產(chǎn)品聯(lián)合創(chuàng)始人暨副總Davis Sawyer davis@deeplite.ai Deeplite成立于2018年,總部位于蒙特利爾,是一家致力實(shí)現(xiàn)深度學(xué)習(xí)于日常使用設(shè)備中的AI軟件公司。Deeplite強(qiáng)化深入學(xué)習(xí)在智能優(yōu)化軟件上的研究、設(shè)計(jì)和開發(fā),使從云端到邊緣運(yùn)算的深度神經(jīng)網(wǎng)絡(luò)(DNN)更快速、精巧和節(jié)能。 Deeplite已獲得許多行業(yè)認(rèn)可,包括在2019年被加拿大創(chuàng)新交易所(CIX)評(píng)為Top20早期公司,并獲得魁北克創(chuàng)新獎(jiǎng)。Deeplite目前正在參與MobilityXlab和L-Spark QNX自動(dòng)駕駛汽車加速器計(jì)劃。欲了解更多信息,請(qǐng)前往www.deeplite.ai |