|
邊緣計算的快速發(fā)展使得計算能力加速向邊緣遷移，AI也逐步從中心節(jié)點向更貼近數(shù)據(jù)源和業(yè)務(wù)現(xiàn)場的邊緣側(cè)拓展，邊緣與云的關(guān)系已經(jīng)呈現(xiàn)出既有分工又彼此合作的局面。在邊緣側(cè)，當(dāng)邊緣智能與邊緣計算和人工智能相結(jié)合，能有效地執(zhí)行實時、小數(shù)據(jù)的處理，開展AI模型的推理，并將結(jié)果回傳至云端，這種“云—邊—端”協(xié)同的邊緣智能架構(gòu)，解決了目前AI應(yīng)用中存在的海量數(shù)據(jù)處理、實時響應(yīng)以及數(shù)據(jù)安全等問題，為AI在更多行業(yè)的應(yīng)用奠定了基礎(chǔ)。 邊緣智能：拓展AI應(yīng)用邊界 邊緣人工智能 (Edge AI) 主要是指在用戶設(shè)備上處理人工智能算法。具體來講，Edge AI依靠的是設(shè)備自身的硬件來處理與機器學(xué)習(xí)和深度學(xué)習(xí)相關(guān)的數(shù)據(jù)和過程。Edge AI帶來的好處主要有3個方面：一是減少延遲以改善用戶體驗；二是減少必要的帶寬，從而降低互聯(lián)網(wǎng)服務(wù)的成本；三是提高數(shù)據(jù)的安全性和隱私性。 IDC預(yù)測，到2025年，全球?qū)⒂?14億臺物聯(lián)網(wǎng)設(shè)備，期間將產(chǎn)生73147EB數(shù)據(jù)，其中約四分之一屬于實時生成的。要想完全在云端對這些數(shù)據(jù)進行處理和AI分析很可能超過系統(tǒng)和通信鏈路的處理極限，再加上網(wǎng)絡(luò)帶寬、數(shù)據(jù)安全等限制，要實現(xiàn)AI向多行業(yè)的滲透，困難重重。 隨著人工智能向邊緣側(cè)的轉(zhuǎn)移，AI行業(yè)的應(yīng)用得到了極大擴展。根據(jù)德勤的分析，現(xiàn)在的AI計算已經(jīng)在制造業(yè)、政府、零售、電信、醫(yī)療等不同應(yīng)用場景下獲得應(yīng)用。很顯然，邊緣智能在拓展AI邊界過程中發(fā)揮了重要作用，它能顯著提升AI針對現(xiàn)場多樣化業(yè)務(wù)場景的適應(yīng)性，從而更好地支撐業(yè)務(wù)運營、為客戶創(chuàng)造更多的價值。 
圖1：AI計算可以發(fā)生在不同的物理位置，而邊緣智能則有效地拓展了AI應(yīng)用邊界 (圖源：Deloitte) 制造業(yè)是國民經(jīng)濟的基礎(chǔ)性產(chǎn)業(yè)，同時也是推動智能化發(fā)展最迫切的行業(yè)之一。根據(jù)IDC的預(yù)測，未來幾年，邊緣智能支出在生產(chǎn)過程智能化、智能供應(yīng)鏈與物流、數(shù)據(jù)安全與合規(guī)等應(yīng)用場景將保持20%以上的年均復(fù)合增長率。以產(chǎn)品質(zhì)檢為例，傳統(tǒng)的產(chǎn)品質(zhì)檢主要依靠人工目視或傳統(tǒng)的基于模式匹配技術(shù)的機器視覺，漏檢、誤檢率高。采用Edge AI技術(shù)后，不僅顯著提升了機器視覺的檢測能力和適用性，產(chǎn)品質(zhì)量也能得到有效控制。 在智慧城市建設(shè)中，AI應(yīng)用已經(jīng)滲透到城市管理、交通、民生等諸多方面，隨著智慧城市向精細(xì)化和社區(qū)化下沉，邊緣智能在智慧交通、應(yīng)急響應(yīng)、城市安全等場景下的應(yīng)用日漸增多。IDC的預(yù)測是，在未來幾年，邊緣智能支出在城市運維管理場景這一市場將保持25%的增速。 5G支持的人工智能和創(chuàng)新應(yīng)用對網(wǎng)絡(luò)延遲有很高的要求，邊緣智能在此過程中將發(fā)揮重要作用。比如電信運營商通過建設(shè)具備GPU的MEC邊緣數(shù)據(jù)中心，就可以為行業(yè)用戶提供邊緣計算服務(wù)，降低企業(yè)自建邊緣計算中心的成本。 對許多應(yīng)用而言，邊緣側(cè)顯然是進行機器學(xué)習(xí)處理的理想位置。在制造業(yè)、政府、零售、電信、醫(yī)療等重點領(lǐng)域，敏捷聯(lián)接、實時業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護已經(jīng)成為核心需求，邊緣智能是實現(xiàn)行業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵。隨著邊緣智能技術(shù)和解決方案的不斷完善，在汽車、消費電子、服裝、鋼鐵、化工等信息化基礎(chǔ)良好的行業(yè)，AI場景化應(yīng)用也將逐步落地。IDC的預(yù)測是，到2024年，制造業(yè)、政府、零售、電信、醫(yī)療五大行業(yè)在邊緣智能應(yīng)用上的支出將達到159億美元，占整體邊緣智能市場支出的49%。
圖2：到2024年，全球邊緣計算AI領(lǐng)域的支出情況預(yù)測 (圖源：IDC) 邊緣人工智能面臨的挑戰(zhàn) 過去幾年，人工智能正在成為許多組織商業(yè)計劃中不可或缺的一部分。正如谷歌首席執(zhí)行官Sundar Pichai宣稱的那樣，人工智能對人類的影響將遠(yuǎn)遠(yuǎn)超過火和電。IDC更是看好邊緣計算及邊緣智能在未來幾年的發(fā)展前景，據(jù)其分析，到2024年，全球AI市場支出將達到1100億美金，邊緣智能將占到AI市場支出的29.5%。 良好的發(fā)展前景并非意味著前進道路一片坦途，在Edge AI的發(fā)展過程中，仍存在諸多技術(shù)挑戰(zhàn)： · 糟糕的數(shù)據(jù)質(zhì)量 全球主要互聯(lián)網(wǎng)服務(wù)提供商的數(shù)據(jù)質(zhì)量差是Edge AI研發(fā)的主要障礙。最近的一份Alation報告顯示，以IT公司為主的受訪者中，其中有87%的員工認(rèn)為，數(shù)據(jù)質(zhì)量差是他們所在企業(yè)未能部署Edge AI基礎(chǔ)設(shè)施的重要原因。 · 潛在的安全威脅 邊緣計算的分散性增加了較多的安全風(fēng)險。以物聯(lián)網(wǎng)為例，那些提供數(shù)據(jù)的物聯(lián)網(wǎng)設(shè)備多且分散，這使得Edge AI基礎(chǔ)設(shè)施比較容易受到各種網(wǎng)絡(luò)攻擊。 · 受限的機器學(xué)習(xí)能力 在邊緣計算硬件平臺上，機器學(xué)習(xí)常常需要強大的計算能力的支持。在Edge AI基礎(chǔ)設(shè)施中，計算性能僅限于邊緣或物聯(lián)網(wǎng)設(shè)備的性能。在大多數(shù)情況下，大型復(fù)雜的邊緣人工智能模型必須在部署到邊緣人工智能硬件之前進行簡化，這樣才能提高其準(zhǔn)確性和效率。 · 邊緣AI芯片：邊緣智能的靈魂 AI計算極度占用處理器資源，它需要成百上千個不同類型的 (傳統(tǒng)) 芯片來執(zhí)行所需的運算。因此，幾年前的AI計算幾乎都是在數(shù)據(jù)中心、企業(yè)核心設(shè)備或電信邊緣處理器上遠(yuǎn)程執(zhí)行而不是在設(shè)備本地。 Edge AI芯片正在改變這一切。理由是：Edge AI芯片的體積更小，價格相對便宜，耗電量以及產(chǎn)生的熱量也小得多。因此，可以將它們集成到手持設(shè)備和機器人等設(shè)備中，在本地執(zhí)行密集型人工智能計算。此外，Edge AI芯片還能減少或消除向遠(yuǎn)程位置發(fā)送大量數(shù)據(jù)的需要，從而在可用性、速度、數(shù)據(jù)安全性和隱私性方面帶來好處。 利用Edge AI芯片，可極大地增強企業(yè)的自身能力，能夠深入分析來自聯(lián)網(wǎng)設(shè)備的數(shù)據(jù)，并將分析結(jié)果轉(zhuǎn)換為行動，同時避免將大量數(shù)據(jù)發(fā)送至云端產(chǎn)生的高昂成本、復(fù)雜問題和安全挑戰(zhàn) 根據(jù)德勤的分析數(shù)據(jù)，2020年，Edge AI芯片的銷量預(yù)計超過了7.5億片，并創(chuàng)造26億美元的收入。其中，消費類設(shè)備市場可能占到Edge AI芯片市場的90%以上。無論是從銷售數(shù)量還是從其美元價值來看，這些Edge AI芯片的絕大多數(shù)將進入高端智能手機領(lǐng)域。在目前使用的所有消費類Edge AI芯片中，智能手機占到70%以上。當(dāng)然，智能手機并不是唯一使用Edge AI芯片的設(shè)備，其他如平板電腦、可穿戴設(shè)備、智能音箱也在使用這些芯片，只是目前這些設(shè)備對Edge AI芯片銷量影響要比智能手機小得多。 德勤還提出，至2024年，邊緣人工智能芯片銷量預(yù)計將超過15億片，甚至可能遠(yuǎn)遠(yuǎn)超過這一數(shù)據(jù)，年銷量增長率預(yù)計達到20%以上，是半導(dǎo)體行業(yè)整體長期預(yù)測9%的復(fù)合年均增長率的兩倍還多。德勤還指出，雖然消費端的人工智能芯片市場比企業(yè)市場大得多，但增長速度可能低于企業(yè)市場。在企業(yè)市場，機器人、攝像頭、傳感器和其他物聯(lián)網(wǎng)設(shè)備中將是AI芯片未來的重要應(yīng)用場景。 作為邊緣智能的靈魂，Edge AI芯片的重要性不言而喻，邊緣設(shè)備只有通過AI芯片獲得了自主計算的能力，才能稱之為是真正的邊緣智能。 現(xiàn)在的AI 芯片主要有兩種，即云端AI芯片和邊緣AI芯片。按照功能劃分，可分為訓(xùn)練芯片和推斷芯片，市場上的邊緣AI芯片很多屬于邊緣推斷芯片。雖然邊緣AI芯片市場興起時間不長，但參與者眾多，其中包括NVIDIA、Intel、NXP、Xilinx、ST、Maxim等跨國企業(yè)，也有以寒武紀(jì)為代表的國內(nèi)企業(yè)。 01 NVIDIA EGX邊緣AI平臺 NVIDIA是全球GPU的龍頭，在AI訓(xùn)練市場擁有強大的領(lǐng)先優(yōu)勢。面向邊緣計算市場，NVIDIA有兩款性能出眾的EGX邊緣AI平臺產(chǎn)品，一個是用于較大型商業(yè)通用服務(wù)器上的EGX A100聚合加速器，另一個是用于微型邊緣服務(wù)器的微型EGX Jetson Xavier NX。這兩款產(chǎn)品均擁有安全、高性能的AI處理能力。搭載了EGX A100的服務(wù)器可以管理機場中的數(shù)百臺攝像頭，而EGX Jetson Xavier NX則可用于管理便利店中的少量攝像頭。 EGX A100是首個基于NVIDIA Ampere架構(gòu)的邊緣AI產(chǎn)品。它結(jié)合了NVIDIA Ampere架構(gòu)所具有的突破性計算性能以及NVIDIA Mellanox ConnectX-6 Dx SmartNIC所具備的網(wǎng)絡(luò)加速和關(guān)鍵性安全功能，能將標(biāo)準(zhǔn)型和專用型的邊緣服務(wù)器轉(zhuǎn)變?yōu)闃O具安全性的云原生AI超級計算機。其中，NVIDIA Ampere架構(gòu)是NVIDIA的第8代GPU架構(gòu)，為在邊緣運行AI推理和5G應(yīng)用等各類計算密集型工作負(fù)載提供了卓越的性能。
圖3：使用EGX A100可創(chuàng)建更快、更高效和更安全的邊緣AI系統(tǒng) (圖源：NVIDIA) NVIDIA為EXG建立了龐大的合作伙伴生態(tài)系統(tǒng)，他們中有的是邊緣服務(wù)器制造商，有的是混合云平臺企業(yè)，比如Atos、Dell、富士通、GIGABYTE、HPE、IBM、浪潮、聯(lián)想、Cisco等都是NVIDA生態(tài)系統(tǒng)上的重要一員。 02 Xilinx邊緣智能解決方案Versal AI Edge 不久前剛剛并入AMD公司的Xilinx，在過去幾年里一直忙于擴展其Versal AI Core、Versal Premium和Versal Prime芯片系列，以滿足客戶在云、數(shù)據(jù)中心、網(wǎng)絡(luò)等領(lǐng)域的計算需求。現(xiàn)在，Xilinx正在將其業(yè)務(wù)拓展到蓬勃發(fā)展的邊緣計算市場，并在2021年向業(yè)界介紹了其最新Xilinx Versal AI edge芯片系列中的七款新產(chǎn)品。這七款Versal Edge AI芯片預(yù)計將于2022年上半年面世，其目標(biāo)是幫助客戶實現(xiàn)各種實時工作負(fù)載，從自動駕駛汽車到機器人應(yīng)用、工業(yè)應(yīng)用、智能視覺系統(tǒng)、醫(yī)療用途、無人駕駛無人機，甚至外科手術(shù)機器人。 據(jù)Xilinx的信息，新的Versal AI Edge芯片系列每瓦性能是GPU的4倍，計算密度是其上一代芯片Xilinx Zynq UltraSCALE+MP SOC的10倍，同時還提供了更低的延遲和靈活的體系結(jié)構(gòu)，新的Versal AI Edge系列將采用7nm工藝。所有七款Versal AI Edge芯片均采用雙核Arm Cortex-A72 CPU和雙核Arm Cortex-R5F處理器，以滿足實時應(yīng)用要求。 Versal AI Edge系列始于VE2002芯片，該芯片耗電6至9瓦，提供14個頂級INT4或7個頂級INT8性能，總內(nèi)存為95MB。其余VE2102、VE2202、VE2302、VE2602、VE2802等5個芯片的功耗、性能、內(nèi)存均按不同梯度升高。VE1752耗電50至60瓦，同時提供166個INT4或124個INT8性能以及253MB內(nèi)存。在內(nèi)部架構(gòu)上，VE2002包含八個AI/ML引擎塊，VE2101、VE2202、VE2302、VE2602、VE2802依次包含12個、24個、34個、152個、304個引擎塊。VE1752雖然也配備了304個引擎塊，但它們?nèi)渴茿I引擎。
圖4：Xilinx通用邊緣AI產(chǎn)品家族 (圖源：Xilinx) 結(jié)語 2017年8月，英特爾以153億美元收購了位于特拉維夫的視覺安全技術(shù)公司Mobileye。緊接著，百度開始大規(guī)模生產(chǎn)第二代昆侖人工智能芯片，這是一種用于邊緣計算的超快微芯片。在微芯片之外，谷歌的Edge TPU、NVIDIA的Jetson Nano，以及亞馬遜、微軟、英特爾和華碩，均投入到Edge AI芯片的開發(fā)熱潮中，以增強其邊緣計算的實力。其中，亞馬遜的AWS DeepLens是世界上第一款支持深度學(xué)習(xí)的攝像機。 據(jù)IDC預(yù)測，到2024年，全球企業(yè)在邊緣應(yīng)用上的支出將達到2500億美元，其中與AI技術(shù)相關(guān)的支出將達到326億美元，占整體邊緣市場支出的13%。十年前，我們可能無法想象Edge AI會達到今天的水平。現(xiàn)在，它已成為行業(yè)乃至客戶服務(wù)設(shè)備的一部分。 來源：貿(mào)澤電子 作者：Doctor M |
