|
隨著華為海思芯片供貨的日益緊張，越來越多的開發(fā)者開始咨詢NVIDIA Jetson系列產(chǎn)品，尤其關心NVIDIA與華為產(chǎn)品的差異，本文將從產(chǎn)品定位、平臺生態(tài)、應用遷移幾個方面對華為海思、華為Atlas、NVIDIA Jetson三個平臺進行一個綜合的對比，希望能對有需要的朋友有所幫助。 產(chǎn)品性能對比 海思Hi3559A以及Atlas 200/500作為華為在邊緣計算方向的主流產(chǎn)品，一直有著不錯的表現(xiàn)。作為本次評估的對標產(chǎn)品，聯(lián)寶科技（聯(lián)想集團子公司）的EA-B200和EA-B310在AI算力，視頻編解碼性能上與華為產(chǎn)品綜合對比究竟誰更勝一籌？通過下圖可以有一個更加直觀的了解。 
海思Hi3559A自發(fā)布以來，作為國產(chǎn)安防方案的代表不斷走強，與其突出的視頻處理能力不無關系。視頻編解碼支持8K高分辨率，內置ISP可以支持圖像全景拼接、數(shù)字防抖等功能，4TOPS的AI算力在該級別也算是佼佼者。 對標產(chǎn)品聯(lián)寶EA-B200采用了Jetson TX2 NX核心模組，作為TX2的cost down版本，其成本大幅下降性能卻基本持平。AI算力方面，雖然FP16浮點運算能力不能直接與INT8整形運算能力對比，但基于實際用戶體驗，TX2 NX的整體算力還是弱于Hi3559A。CPU性能方面得益于高性能的Denver2架構，比ARMv7和ARMv8更寬的指令解碼寬度，性能更為強勁。視覺編程方面與海思獨立ISP相比，TX2 NX使用了NVIDIA的VPI框架，在運動相機的場景中應用還不夠廣泛。不過在視頻編解碼并行能力上TX2 NX占據(jù)優(yōu)勢，可以同時支持14路的1080p@30fps的編解碼，Hi3559A沒有明確的官方數(shù)據(jù)。 Atlas 200/500系列，以加速模塊和終端產(chǎn)品的形態(tài)存在，均采用了華為自研的達芬奇架構昇騰310 SOC。對于CPU及NPU細節(jié)，官方?jīng)]有公布，其AI算力，高達22TOPS。視頻編解碼能力也達到1路1080p@30fps和16路1080p@30fps，可以廣泛應用于智慧城市、零售、制造、機器人、無人機等領域。 對標產(chǎn)品聯(lián)寶EA-B310采用了Jetson Xavier NX核心模組，INT8算力以微弱劣勢稍遜于Atlas 200/500，不過在FP16的算力加持下，綜合算力強于Atlas。CPU性能方面采用了Denver2的改進版Carmel最新框架，其指令解碼達到了驚人的10寬度,性能極為強勁，Atlas的CPU由于未透露更多細節(jié)，對于其整體表現(xiàn)還不了解，期待后續(xù)的實際測試對比中來給出更多細節(jié)。在視頻解碼能力上也與Atlas持平，不過視頻編碼方面，并行能力大幅領先，在多路攝像頭錄像這樣需要用到編碼的場景下占據(jù)優(yōu)勢。在應用領域方面，Xavier NX與Atlas基本重合。可以說，對標的兩個產(chǎn)品應用場景都基本一致，但綜合性能聯(lián)寶EA-B310更勝一籌。 框架/生態(tài)全面解析 在方案的硬件框架和基本性能之外，軟件框架和生態(tài)的完善程度影響著產(chǎn)品開發(fā)和維護的效率、成本和體驗，甚至決定著產(chǎn)品的成敗。 Hi3559A采用了海思的統(tǒng)一軟件框架，媒體軟件處理平臺(Media Process Platform，簡稱MPP)，可支持應用軟件快速開發(fā)。該平臺對應用軟件屏蔽了芯片相關的復雜的底層處理，并對應用軟件直接提供 MPI（MPP Program Interface）接口完成相應功能。該平臺支持應用軟件快速開發(fā)以下功能：輸入視頻捕獲、H.265/H.264/JPEG 編碼、H.265/H.264/JPEG 解碼、視頻輸出顯示、視頻圖像前處理（包括去噪、增強、銳化）、圖像拼接、圖像幾何矯正、智能、音頻捕獲及輸出、音頻編解碼等功能。SVP(Smart Vision Platform)是海思媒體處理芯片智能視覺異構加速平臺。該平臺包含CPU、DSP、NNIE(Neural Network Inference Engine)等多個硬件處理單元和運行在這些硬件上的SDK開發(fā)環(huán)境，以及配套的工具鏈開發(fā)環(huán)境。
Atlas系列產(chǎn)品，采用了CANN（Compute Architecture for Neural Networks）異構計算架構，支持用戶快速構建基于昇騰平臺的AI應用和業(yè)務，主要包含AscendCL、DVPP、HCCL等組件：昇騰統(tǒng)一編程接口AscendCL實現(xiàn)軟硬件解耦；華為通信集合庫HCCL在分布式訓練中為不同昇騰AI處理器之間提供高效的數(shù)據(jù)傳輸能力；DVPP實現(xiàn)硬件加速，提升圖像預處理并行能力。AI框架兼容主流的TensorFlow、Caffe、Pytorch，同時支持華為的開源AI框架MindSpore，更好地匹配昇騰處理器的算力和全場景深度學習框架。
同時，昇騰還在以下幾個方面提升開發(fā)的效率和體驗：預訓練模型：提供大量預訓練模型和腳本工具，讓開發(fā)者能夠最高效完成AI模型開發(fā)； 算子調優(yōu)：提高開發(fā)效率； 性能調優(yōu)：發(fā)揮芯片極致性能； 行業(yè)應用開發(fā)套件：使能開發(fā)者以極少代碼快速開發(fā)行業(yè)AI應用； 昇騰社區(qū)：使開發(fā)者獲得更多更快的支持。 在生態(tài)建設方面，昇騰有以下幾個措施：硬件開放、軟件開源，使能合作伙伴， ISV合作伙伴發(fā)展計劃、初創(chuàng)伙伴加速計劃，高校教學合作、論文+模型開發(fā)激勵、開發(fā)人員成長計劃。 而NVIDIA作為早期入場AI并且其平臺和生態(tài)也日趨成熟的廠商，體系更顯完善。在軟件框架方面，CUDA作為最早推出的CPU+GPU并行運算平臺，性能強大系統(tǒng)成熟，并且支持跨平臺（X86、ARM），有著豐富的開發(fā)和系統(tǒng)資源。AI框架支持TensorFlow、PyTorch、Caffe2、Keras、MXNet等主流框架，并且可以通過TensorRT對模型優(yōu)化，極致利用GPU性能。DeepStream框架將深度神經(jīng)網(wǎng)絡和其它復雜任務引入到流處理管道，對視頻流和傳感器數(shù)據(jù)流進行實時分析。
NVIDIA Jetson還在以下幾個方面全面加速或簡化系統(tǒng)的開發(fā)和部署： TAO & FLEET工具集：基于Transfer Learning Toolkit，內置大量預訓練模型，對模型進行遷移學習，可視化微調，將一個通用模型以極低成本調整為適合當前業(yè)務的高準確度的定制模型，并且通過Fleet command快速部署。
Could Native：提供容器和多種鏡像，快速部署各種應用和服務； ISAAC：為機器人量身定制的數(shù)字孿生系統(tǒng)，讓訓練在虛擬世界中快速低成本地進行； VPI：NVIDIA視覺編程接口，統(tǒng)一NVIDIA所有的硬件平臺接口，忽略底層差異，內置多種算法，加速應用開發(fā)； Jetson官方及第三方社區(qū)：高活躍度，大量的業(yè)務和技術信息持續(xù)流通； 生態(tài)建設方面，NVIDIA開展了全球規(guī)模的GTC大會，各行業(yè)頂尖玩家的精彩案例和演講不斷分享。NVIDIA Partner Network核心伙伴案例交流，營銷和產(chǎn)品的定期培訓，持續(xù)進行能力提升。 總體來說，海思Hi3559A的AI框架支持較弱，僅支持Caffe框架，但提供整套的SDK包，內置較多的應用Demo，做少量修改即可完成一個產(chǎn)品原型。Atlas技術框架和生態(tài)建設均很完善，也提供了各種快速開發(fā)和部署的組件和工具，但兼容性和成熟度還沒有經(jīng)過市場檢驗。Jetson依賴最成熟的CUDA平臺，程序可從X86平臺移植且無縫銜接，提供了快速開發(fā)和部署的工具集，并且建設了ISAAC數(shù)字孿生平臺為機器人開發(fā)加速，擁有最完善和成熟的生態(tài)。 應用遷移探討 那么從Hi3559A和Atlas將系統(tǒng)應用遷移到Jetson的可行性和難度如何呢？筆者也沒有過這樣的經(jīng)驗，所以無法評估難度，只能從所需要關注的內容和可行性方面來探討。 模型遷移：需要將優(yōu)化之前的原始模型，部署到Jetson，使用TLT工具來進行遷移和適配； 業(yè)務程序遷移：業(yè)務邏輯的代碼遷移和編譯，其中對外設的控制部分需要重新適配； 運維部署環(huán)境遷移：需要遷移到Jetson的Cloud Native。 總結 聯(lián)寶科技的EA-B200在性能上弱于Hi3559A，在運動相機的場景中應用較少。而聯(lián)寶EA-B310不管是在AI綜合算力，還是在視頻編碼性能上，都要強于Atlas 200/500。雖然Jetson的生態(tài)更為成熟，但Atlas與Jetson均有著完善的生態(tài)，能帶來良好的開發(fā)和維護體驗。 |
