|
這大夏天的，人工智能（AI）有多火就不消多說(shuō)了。 可人工智能不是鬧著玩的。例如，人工智能驅(qū)動(dòng)的自動(dòng)駕駛汽車干系到我們的身家性命。如何設(shè)計(jì)、建造穩(wěn)定、可靠的人工智能系統(tǒng)，茲事體大馬虎不得。 和大多數(shù)設(shè)備一樣，人工智能系統(tǒng)的核心是半導(dǎo)體芯片。AI芯片十分龐大復(fù)雜，通常是以片上系統(tǒng)（SoC）的形式呈現(xiàn)。 目前，已經(jīng)著手或打算從事AI芯片設(shè)計(jì)的公司數(shù)不勝數(shù)。然而，AI芯片設(shè)計(jì)絕非易事。今天這個(gè)情形有點(diǎn)類似于當(dāng)年美國(guó)加州的淘金熱。每個(gè)人都想找到金礦，也都需要一把順手的淘金鏟。 賣“鏟子”的又來(lái)了。從所謂“正能量”的角度說(shuō)，工欲善其事，必先利其器。如果你使用了正確的開(kāi)發(fā)工具，那么你的SoC開(kāi)發(fā)進(jìn)程將變得順利而高效。 今天我們就介紹一家“賣鏟子”的公司，名叫NetSpeed。它成立于2011年，歷史不算長(zhǎng)，但它已經(jīng)贏得了諸多AI行業(yè)重量級(jí)客戶，僅中國(guó)的就包括百度、寒武紀(jì)和地平線。更重要的是，自動(dòng)駕駛技術(shù)先行者特斯拉公司正在采用NetSpeed的軟件來(lái)設(shè)計(jì)4級(jí)完全自動(dòng)駕駛芯片，該芯片將于2020年面世。NetSpeed聲稱，全球最成功的SoC設(shè)計(jì)者在使用NetSpeed技術(shù)。 NetSpeed是一家什么樣的公司呢？近日，NetSpeed Systems公司大中華區(qū)銷售總監(jiān)黃啟弘先生向我們介紹了NetSpeed公司及其剛剛發(fā)布的Orion AI系統(tǒng)級(jí)IP。 黃先生介紹說(shuō)，NetSpeed總部位于美國(guó)硅谷的圣何塞市，創(chuàng)始人曾就職于華為、Cisco這樣的通信系統(tǒng)公司。創(chuàng)始人之一、現(xiàn)任CTO Sailesh Kumar先生曾是華為100G服務(wù)網(wǎng)絡(luò)處理器芯片組的智能存儲(chǔ)子系統(tǒng)主席架構(gòu)師，精于IP轉(zhuǎn)發(fā)、深度包監(jiān)測(cè)、存儲(chǔ)系統(tǒng)和高速系統(tǒng)的算法。 正是由于創(chuàng)始人在通信公司的經(jīng)歷，NetSpeed把互聯(lián)網(wǎng)思維應(yīng)用到了芯片設(shè)計(jì)上。他們的目標(biāo)是，讓數(shù)據(jù)在SoC內(nèi)部暢通無(wú)阻。 黃先生介紹說(shuō)，AI芯片的設(shè)計(jì)難點(diǎn)之一在于芯片內(nèi)部各個(gè)單元之間的互聯(lián)。人工智能的訓(xùn)練和推理都需要做大型矩陣乘法運(yùn)算，其產(chǎn)生的數(shù)據(jù)量極大。芯片內(nèi)部的處理內(nèi)核數(shù)量多，存在大量并行結(jié)構(gòu)和點(diǎn)對(duì)點(diǎn)運(yùn)算。在這種情況下，芯片內(nèi)部互聯(lián)要求極高帶寬。將來(lái)，這種情形會(huì)愈演愈烈。 NetSpeed的Orion AI系統(tǒng)級(jí)IP就是針對(duì)SoC內(nèi)部的非一致性互聯(lián)而開(kāi)發(fā)。其特點(diǎn)是采用解耦架構(gòu)、可編程多播和非凡的QoS，達(dá)到極致性能和極致效率。Orion AI據(jù)稱可以達(dá)到TB/s的吞吐量，實(shí)現(xiàn)數(shù)據(jù)帶寬高達(dá)1024位的總線，支持1000個(gè)內(nèi)核。 如下圖所示，Orion AI的獨(dú)有技術(shù)包括：可編程多播（multi-cast），動(dòng)態(tài)控制下一點(diǎn)到多點(diǎn)的傳播以提高效率；無(wú)需回應(yīng)發(fā)送信息模式，讓數(shù)據(jù)傳輸更加順暢；先進(jìn)的QoS規(guī)劃，確保數(shù)據(jù)包傳輸?shù)轿唬覝?zhǔn)確無(wú)誤。 
為達(dá)到這樣的高性能，Orion AI內(nèi)置工智能，利用人工智能算法搜尋最有效的解決方案。黃先生說(shuō)，NetSpeed為中國(guó)客戶提供不加密的Orion AI版本，用戶在自己的服務(wù)器上即可運(yùn)行。Orion AI生成的文件可以進(jìn)行手工修改以完成進(jìn)一步優(yōu)化。他說(shuō)，采用Orion AI，用戶可以節(jié)省數(shù)月的開(kāi)發(fā)時(shí)間，大大加速SoC的開(kāi)發(fā)進(jìn)程。 |
