人工智能和機(jī)器學(xué)習(xí)的重要性、網(wǎng)絡(luò)邊緣計(jì)算的崛起和對(duì)AI靈活編程的需求 作者:萊迪思 如今人工智能(AI)已成為技術(shù)領(lǐng)域最時(shí)髦的用語(yǔ)之一,它在廣義上通常用來(lái)描述互連的“智能”技術(shù)。然而,考慮到AI可以實(shí)現(xiàn)的各種不同的功能,以及AI解決方案產(chǎn)出的成果,AI的格局及其開發(fā)可以說(shuō)都十分復(fù)雜。事實(shí)上,AI技術(shù)的特定應(yīng)用不僅將它從眾多技術(shù)中區(qū)別開來(lái),還決定了它的開發(fā)方式,開發(fā)的標(biāo)準(zhǔn)和要求以及需要進(jìn)行的測(cè)試。因此,與其說(shuō)AI是一種“包括萬(wàn)象”的技術(shù),不如說(shuō)是一種定制化解決方案的網(wǎng)絡(luò),用于解決復(fù)雜的技術(shù)挑戰(zhàn)。 最近萊迪思市場(chǎng)營(yíng)銷副總裁Matt Dobrodziej和TECHnalysis Research總裁兼首席分析師Bob O'Donnell在一場(chǎng)圓桌會(huì)議上探討了為特定應(yīng)用開發(fā)AI解決方案的流程問(wèn)題。本篇博文將回顧此次會(huì)議中的主要內(nèi)容,并就特定應(yīng)用如何決定AI模型的開發(fā)、創(chuàng)建AI模型的挑戰(zhàn)以及如何利用市場(chǎng)上的一些領(lǐng)先技術(shù)等內(nèi)容提供一些思考。 AI成為主流以及網(wǎng)絡(luò)邊緣計(jì)算的崛起 曾經(jīng)難以想象的技術(shù)如今正通過(guò)智能手機(jī)、PC、汽車、其它各種互連設(shè)備進(jìn)入消費(fèi)領(lǐng)域和從工廠車間到醫(yī)療保健設(shè)備的各類商業(yè)領(lǐng)域。并且由于人們對(duì)AI和機(jī)器學(xué)習(xí)(ML)抱有極大的熱情,這些技術(shù)的創(chuàng)新步伐通常遠(yuǎn)超其實(shí)現(xiàn)水平。 設(shè)計(jì)師面臨的創(chuàng)造性的挑戰(zhàn)和機(jī)遇在于,如何應(yīng)用模式匹配或劃分等復(fù)雜概念,將萊迪思當(dāng)前的設(shè)備變得更加智能、用途更廣。過(guò)去,運(yùn)行AI推理應(yīng)用需要大型數(shù)據(jù)中心強(qiáng)大的計(jì)算能力和功能。而現(xiàn)在,同樣的應(yīng)用可以在本地運(yùn)行,并且功耗要低得多,精度也能達(dá)到曾經(jīng)只能在服務(wù)器上達(dá)到的水平。 這種轉(zhuǎn)變的推動(dòng)因素主要包括用戶安全性、隱私和延遲方面的要求以及高效運(yùn)行AI模型的新硬件(其效率與基于服務(wù)器的云實(shí)現(xiàn)不相上下)的出現(xiàn)。人工智能和數(shù)據(jù)處理越來(lái)越多地由本地設(shè)備實(shí)現(xiàn),這對(duì)系統(tǒng)開發(fā)影響巨大。 AI問(wèn)題和解決方案框架 希望進(jìn)入AI和ML領(lǐng)域的開發(fā)人員在了解特定AI應(yīng)用和設(shè)計(jì)目標(biāo)后,必須識(shí)別并采合適的基礎(chǔ)技術(shù)。這個(gè)過(guò)程通常遵循三個(gè)步驟: 1. 構(gòu)思——選定應(yīng)用和確定相關(guān)要求 構(gòu)建AI應(yīng)用需要了解應(yīng)用的要求,包括性能。應(yīng)用需要多少處理能力?可用的功率預(yù)算是多少?電池的尺寸是多少,效率如何?請(qǐng)記住退后一步以全局的眼光審視正在構(gòu)建的系統(tǒng)。哪些傳感器可用于獲取數(shù)據(jù)以使應(yīng)用智能化? 2. 設(shè)計(jì)——構(gòu)建模型或者采用預(yù)設(shè)模型然后進(jìn)行訓(xùn)練 定義好參數(shù)后,下一個(gè)任務(wù)是選用合適的模型。模型實(shí)質(zhì)上決定了設(shè)計(jì)人員想要的應(yīng)用類型以及支持所需功能需要的硬件。根據(jù)當(dāng)前的問(wèn)題,可以選擇多種模型,包括開源社區(qū)中提供的各種模型,例如音頻處理模型或者視覺(jué)模型。 3. 測(cè)試——確保設(shè)計(jì)如預(yù)期正常工作 從概念到實(shí)際的解決方案產(chǎn)品需要經(jīng)過(guò)大量的測(cè)試,確保它在不同的環(huán)境和特定的使用場(chǎng)景中按預(yù)期運(yùn)行。例如,跟蹤用戶注意力的應(yīng)用需要在不同的使用場(chǎng)景和環(huán)境條件下為所有用戶正常工作。測(cè)試可以通過(guò)不同的方式完成;模型驗(yàn)證使用Tensor Board等標(biāo)準(zhǔn)工具將許多具有代表性的樣本引入模型,以初步了解模型的工作情況。其他測(cè)試則是通過(guò)回歸測(cè)試完成,最好是在目標(biāo)硬件上進(jìn)行。最后在系統(tǒng)用戶體驗(yàn)(UX)測(cè)試中,可以在現(xiàn)實(shí)生活使用場(chǎng)景下測(cè)試極端案例,發(fā)現(xiàn)模型的不足之處。 FPGA為網(wǎng)絡(luò)邊緣AI創(chuàng)造獨(dú)特價(jià)值 現(xiàn)場(chǎng)可編程門陣列(FPGA)能為網(wǎng)絡(luò)邊緣AI帶來(lái)各種機(jī)遇。這類靈活的集成電路支持自定義的工作流程開發(fā)和最終系統(tǒng)設(shè)計(jì),有助于應(yīng)對(duì)AI開發(fā)中的諸多挑戰(zhàn)。 設(shè)計(jì)人員通常要在選用硬件方面做出艱難的決策。這些選擇可能在流程后期讓他們囿于特定的設(shè)計(jì)中,限制了他們?cè)诨A(chǔ)組件的功能之上開展額外的工作。FPGA自身的靈活性使其成為網(wǎng)絡(luò)邊緣計(jì)算的理想選擇,因?yàn)樗鼈兗词乖诓渴鸬阶罱K系統(tǒng)中后,只要需要對(duì)功能進(jìn)行更改,就能通過(guò)軟件更新快速適應(yīng)。 人工智能在不斷變化中,其發(fā)展和創(chuàng)新的速度往往超過(guò)系統(tǒng)設(shè)計(jì)。在AI和ML領(lǐng)域,適應(yīng)性強(qiáng)、可重新編程的硬件解決方案是跟上創(chuàng)新速度的關(guān)鍵。由于FPGA本身可編程,因此它們可以縮短產(chǎn)品上市時(shí)間,并且不限于固定功能,可延長(zhǎng)系統(tǒng)或應(yīng)用的生命周期。同樣重要的是它們擁有并行處理能力,這對(duì)于高性能人工智能應(yīng)用非常關(guān)鍵,可以在提供更高性能的同時(shí)降低功耗。 萊迪思Nexus FPGA平臺(tái)可在配置和運(yùn)行時(shí)提供低功耗、高性能、小尺寸和安全特性,這些優(yōu)勢(shì)可以幫助AI和ML解決方案脫穎而出。萊迪思FPGA根據(jù)FPGA支持的應(yīng)用類型進(jìn)行分類: 通用型——滿足廣泛的應(yīng)用需求 嵌入式視覺(jué)——視頻橋接和處理 超低功耗——功耗和設(shè)計(jì)空間有限的應(yīng)用 系統(tǒng)控制和安全——平臺(tái)管理和安全應(yīng)用 除了用于網(wǎng)絡(luò)邊緣AI解決方案的FPGA外,萊迪思sensAI解決方案集合可以為設(shè)計(jì)人員提供評(píng)估、開發(fā)和部署基于FPGA的AI和ML方案所需的一切資源,從而在網(wǎng)絡(luò)邊緣加速靈活、低功耗推理的集成。萊迪思集成解決方案可以幫助開發(fā)人員快速輕松地為各種應(yīng)用部署設(shè)備端AI功能。 如果您想了解有關(guān)該主題的更多信息,可以在此處查看之前提到的圓桌會(huì)議。此外,請(qǐng)留意萊迪思關(guān)于最新半導(dǎo)體和技術(shù)趨勢(shì)的更多圓桌討論。如果您對(duì)萊迪思解決方案有任何疑問(wèn),請(qǐng)立即聯(lián)系我們! |