|
來源：果殼 付斌丨作者 李拓丨編輯 果殼硬科技丨策劃 出版于1968年的《仿生人會夢見電子羊嗎？》曾大膽設想機器人也將擁有人的特質，這些仿生人會思考、會睡覺還會做夢，開啟人們對于冰冷造物和生命間的思考。 現在，那種充滿賽博朋克色彩的世界似乎不再遙遠。芯片結構已高度模仿生物大腦，開始擁有五感，并且越來越具備人的特征，它就是神經形態芯片，一種比現有CPU或GPU能耗比強一千倍以上的芯片。 迄今為止，神經形態計算仍然在研究階段，但接連而來產業化動作，昭示著這一技術將成就第一批吃螃蟹的人。 從生物大腦到芯片 神經形態計算（Neuromorphic Computing）也被稱為神經擬態計算，指的是參考生物大腦神經元結構和思考處理模式而搭建的架構，它是一種跳出傳統馮·諾依曼架構的先進計算形式，據這一架構設計出來的芯片就是神經形態芯片。 簡單解釋，就是把人腦做進了芯片里。雖然乍聽這樣一個詞語，非�；逎y懂，但實際上，同樣是借鑒人腦的人工智能（AI）技術早已進入千家萬戶 。只不過，神經形態芯片是一種架構更接近人腦的器件。 類腦芯片中的一種 神經形態計算也是一種類腦芯片（Brain-inspired Computing，也被稱為腦啟發計算）。 目前，類腦芯片的精確定義及范圍劃分，學術界、產業界意見尚未統一。一般粗略分為神經形態芯片（基于脈沖神經網絡SNN）和深度學習專用處理器（基于人工/深度神經網絡ANN/DNN），前者是從結構層逼近生物大腦，側重于參照人腦神經元模型及其組織結構來設計芯片結構，后者則非神經元組織結構，而是圍繞成熟認知計算算法，設計芯片結構。[5] 簡單解釋二者原理，深度學習專用處理器是降維處理，把多維問題轉換為一維信息流；神經形態芯片是升維處理，通過多維時空變換，以期更接近人腦思考方式，從而獲得更好的能耗、算力和效率。 馮諾依曼架構與神經形態架構的對比，圖源丨Nature Computational Science 深度學習專用處理器屬于另一個子行業，早在2012年，中科院計算所研制了當時國際上首個支持深度神經網絡處理器架構芯片寒武紀，目前玩家包括Mythic、Graphcore、Gyrfalcon Technology、Groq、HAILO、Greenwaves、谷歌、地平線、寒武紀等。 兩大方向并非彼此獨立或互斥，而是交叉融匯。對于深度學習已非常擅長的，如模擬人類視覺或自然語言交互任務，會繼續使用深度學習網絡去應對；對于其它不太適合用深度學習做的，如嗅覺、機器人操控、多模態甚至于跨模態間存儲等，將會采用新架構的神經形態芯片。 研究界和產業界都在逐漸模糊二者界限，但實際上，很多論文、報告或文章中的類腦芯片，指的是神經形態芯片。本文將采用更為精準的一種描述——神經形態芯片。 類腦計算兩大平臺特性 生物大腦的特點 生物大腦能夠實現感知、運動、思維、智力等各種功能，但由于其復雜性，目前對大腦的認識與理解還非常有限，這對神經形態芯片從認知原理、硬件實現、智能算法到雙腦融合等都帶來了挑戰。 以目前研究來看，生物大腦中，神經元細胞會通過樹突、突觸等實現信號傳遞與調整等功能，同時，神經元間會以脈沖信號形式相互交流。實際上，單個神經元的結構和功能并不復雜，但通過突觸互連的大規模神經網絡，就能實現各種復雜的學習和認知功能。 另外，生物大腦與主流的人造芯片結構極為不同： 神經元和突觸的信息處理結構不僅擁有更高效率，還可實現大規模并行處理； 傳統計算系統的馮·諾依曼計算架構，計算和存儲分離，但生物大腦則是存儲和處理一體，不存在單獨的存儲器，另外，生物大腦里也沒有動態隨機存取存儲器、沒有哈希層級結構、沒有共享存儲器等； （可參考果殼硬科技歷史文章《 存算一體芯片，人工智能時代的潛力股》） 生物大腦記憶并非一成不變，而是既有頻繁重復的長時記憶，也有快速遺忘的短時記憶，兩者互相轉換表現在突觸上，就是長/短時程可塑性的轉變； 計算機基本均為全數字信號的處理方式，而生物大腦則是混合信號，腦內通信使用數字信號快速傳輸，神經元和突觸的處理使用更為有效的模擬化學形式。 傳統電路結構（左）對比人腦結構（右） 但也不是說人造的器件就沒有任何優點，假如能用CMOS構造出與生物大腦同等規模的器件，二者會呈現不同的優勢領域，神經形態芯片最終一定是結合生物大腦和人造器件各自優點而設計制造。 生物大腦對比同等規模CMOS器件 三種主流實現形式 早在1952年，就有研究將神經系統建模為等效電路，直到上世紀八十年代，超大規模集成電路（VLSI）發明者之一，加州理工大學的Carver Mead以此為靈感，創造了神經形態（Neuromorphic）這一術語，描述模仿生物神經系統某些功能的設備和系統。 Carver Mead在內的科學家花了40多年時間潛心研究這項技術，最終目標是模擬人體感官和處理機制的分析系統，如觸覺、視覺、聽覺和思維�，F在，神經形態芯片行業已發展出雛形。 一顆理想的神經形態芯片背后是多個學科的碰撞，包括在材料上追求類生物物質，在器件上構造神經元與突觸，在電路上實現神經網絡連接，在算法上實現大腦思考能力。不同神經形態芯片的涉及材料、器件、工藝極多，而它也將會自下而上地從材料、器件、電路、架構帶動算法和應用。 神經形態芯片涉及的領域和機會，圖源丨Nature Computational Science，有改動 目前為止，神經形態芯片的構造基本一致，包括神經元計算、突觸權重存儲、路由通信三部分，同時采用與脈沖神經網絡（SNN）模型。 但依據材料、器件、電路不同，分為模擬電路主導的神經形態系統（數�；旌螩MOS型）、全數字電路神經系統（數字CMOS型）、基于新型器件的數�；旌仙窠浶螒B系統（憶阻器是候選技術）三種流派。 兩種基于CMOS的方式能夠繼續利用現有制造技術，搭建人工神經元及其連接人工突觸，但模擬單個神經元或突觸行為，需要由多個CMOS器件組成電路模塊，因此集成密度、功耗和功能模擬準確度會有所限制；新型器件從底層器件仿生的角度出發，在器件層面模擬神經元和突觸，在功耗、學習性能等方面有顯著優勢，但目前仍處在探索階段。 其中，數字CMOS型是目前最易產業化的形式。一方面，技術和制造成熟度高，另一方面，不存在模擬電路的一些顧慮和限制。 神經形態芯片的三種實現形式，制表丨果殼硬科技 如何衡量一顆神經形態芯片的好壞？主要從計算密度、能量效率、計算精度和學習能力四項指標來評價其競爭力。 神經形態芯片的四項關鍵指標和現狀，制表丨果殼硬科技 資料來源丨Nature Electronics，《新經濟導刊》 解決行業燃眉之急 為什么要做神經形態芯片？它的商業價值在于能在低功耗以及少量訓練數據的條件下持續不斷自我學習，并且在理想情況下，同樣一個人工智能任務中，神經形態芯片的能耗較傳統的CPU或GPU減少了一千倍以上。 數字時代下，計算機的計算速度越來越快，甚至下起象棋來，還能戰勝世界冠軍。因此，人們親切地把計算機稱作電腦，但它的能效和智能程度還遠達不到生物大腦。 比如，AlphaZero是由5000個谷歌的專用機器學習處理器（TPU）組成的巨無霸，但每個單元功耗高達200W。再如，IBM曾在深藍超級計算機平臺上仿真一只貓的腦皮層模型（相當于人類大腦的百分之一），就需近15萬塊CPU和144TB主存，能耗高達1.4MW。 反觀人類的大腦，由約850億個神經元組成，通過一千萬億（1015）個神經突觸連接在一起，每秒能夠執行一億億次操作，但如此龐大的系統處理起日常任務的功耗只有20W。與此同時，一個兩歲的小孩，在任何角度、距離和光照條件下，都能毫無困難地從許多人中認出他/她所熟悉的人，智慧程度遠超現有任何計算系統。 所以，把芯片做成大腦，通過模仿生物大腦結構，神經形態芯片也確實擁有了能效比的特性。其獨有的事件觸發運算機制，當沒有動態信息生成時，不會觸發運算行為。同時，它還善于做復雜的時空序列分析，雖然單個神經元速率很低，但由于它和生物大腦的機制類似，可進行大規模并行運算，響應速度會遠遠快于現有解決方案。 可以說，神經形態芯片有潛力成為現在的救世主，解決行業面前的三大問題：一是數據量級大；二是數字形態日趨多元化，很多數據已不能依靠手動編輯輸入或人工處理解決，需要智能化處理；三是應用對延時要求愈加強烈，傳統單一計算架構會碰到性能和功耗的瓶頸。 另外，神經形態芯片還契合了綠色計算的概念。算力成為電力之后又一經濟指標，耗能巨大的計算方式難挑大梁，能量優化的方式才是破解問題的最優解。據估算，數據中心每年會消耗約200太瓦時（TWh）的電力，這一數據已經相當于一些國家一年全國的耗電量。 大規模商業化怎么走 雖然神經形態芯片處處都好，但它只在特定領域發揮特長，不會取代傳統計算平臺。CPU、GPU等傳統數字計算芯片擅長精確計算，而神經形態芯片擅長非結構化數據、圖像識別、嘈雜及不確定數據集分類、新型學習系統和推理系統等領域。 能顛覆特定領域計算的量子計算，其實也是同樣的邏輯，它也不能脫離現有計算系統。未來的先進計算系統必然要求傳統數字芯片、神經形態芯片和量子計算三者相互協同作戰。 目前來說，神經形態芯片難設計、難制造，尚未形成規模化市場。同時，業界一致認可的結論是，投資在神經形態芯片上面的錢，遠遠落后于人工智能或量子技術。 小小一顆芯片，蘊含著半導體制造技術、腦科學、計算神經科學、認知科學、統計物理等學科知識，制造出這一顆芯片，要牽扯到物理學家、化學家、工程師、計算機科學家、生物學家和神經科學家這些關鍵角色，讓如此眾多角色去做同一件事、說同一門語言，毫無疑問是有挑戰性的。 但其顛覆性的價值，引得全球加速商業化進程。數據顯示，神經形態芯片市場將由2021年的2274.3萬美元提升到2026年的5.5億美元，年復合增長率高達89.1%。另外，如果基本技術問題在未來幾年內得到解決，那么到2035年，全球神經形態芯片市場將占整體人工智能市場的18%，達到220億美元。 那么，想推進大規模商業化，要解決什么問題？ 其一，設計問題：大腦在實時處理復雜信息的同時，只消耗極少的能量，如何更好地理解這種高效工作機制，并把這些機制用到芯片中去，很難。僅拿商業化路徑最近的數字CMOS型來說，多塊全數字異步設計的芯片互聯、芯片連接的有效性和時效性以及軟件層互連計算、分布式計算和靈活分區都是難于跨過的鴻溝； 其二，制造問題：利用硅基晶體管路線可以復用現有制造技術，而非硅基路線還要解決底層制程、制造良率以及支撐大規模生產等問題，就算問題都解決了，做出了實驗芯片，還要繼續考慮產品化量級的穩定供應問題； 其三，軟件和生態問題：神經形態芯片與現有架構完全不同，而社區中不少開發者是在底層構造自己的脈沖神經網絡算法，并通過底層庫把軟件燒寫進硬件做試驗，這顯然不是規模化的方案。大規模商業化，軟件工具鏈就非常重要了； 其四，缺乏殺手級應用：不論是機器人、自動駕駛還是工業大規模優化，本身的邏輯應該是以應用驅動技術發展，在此基礎上再持續不斷建設生態系統。目前比較公認的觀點是，神經形態技術最先將在消費電子、移動終端、工業物聯網找到應用。 神經形態芯片的玩家 全球范圍內，參與神經形態計算芯片開發的機構主要包括三類：英特爾、IBM、高通等為代表的科技巨頭企業，斯坦福、清華為代表的高校/研究機構以及初創企業。 神經形態計算玩家不完全統計，圖源丨智東西 國外發展情況 國外在神經形態芯片上的研究力度極大，不乏麻省理工學院、斯坦福大學、波士頓大學、曼徹斯特大學、海德堡大學等名校�？萍季揞^以英特爾、IBM、高通、三星為代表，初創企業包括BrainChip、aiCTX、Numenta、General Vision、Applied Brain Research、Brain Corporation等。 從研究和實施情況來看，英特爾和IBM的實驗芯片最具代表性。 目前已知神經形態芯片詳細參數對比，制表丨果殼硬科技 參考資料丨IEEE 英特爾的Loihi是全數字設計的神經形態芯片。2017年，英特爾開發出第一款Loihi。2021年，英特爾在此基礎上推出第二代Loihi2，采用Intel 4制程工藝生產，單芯片神經元數量達到100萬。 英特爾神經形態芯片目前在感知領域應用已取得很大進展，包括手勢識別、視覺推理以及多達三千倍學習數據的氣味傳感。另外，英特爾還開發出了一臺將768顆Loihi芯片集成在5臺標準服務器大小的機箱中的Pohoiki Springs數據中心機架式系統。 為了讓神經形態芯片更好用，英特爾還推出了名為Lava的開源軟件框架，它是一種無需使用專門硬件就可構建應用的軟件，能在傳統和神經擬態處理器的異構架構上無縫運行，并允許研究人員和應用開發人員在彼此取得的成果上進一步開發。 英特爾并不急于將神經形態芯片商業化，與小公司維持特定應用不同，英特爾是把它當作一項通用技術，同時會以十億美元以上的水平看待所有商業機會。 英特爾Loihi和Loihi2簡介 TrueNorth則是IBM潛心研發將近10年的實驗芯片，自從2008年起，美國DARPA計劃就開始資助這項計劃。2011年，IBM公司推出了第一代TrueNorth。 到2014年，IBM的第二代TrueNorth神經元數量由256個增加到100萬個，可編程突觸數量由262144個增加到2.56億個，每秒可執行460億次突觸運算，總功耗為 70mW（每平方厘米功耗為20mW），整體體積僅為第一代類腦芯片的十五分之一。 值得一提的是，IBM在2019年還曾推出名為Blue Raven的神經形態超級計算機，擁有6400萬神經元和160億個突觸的處理能力，功耗僅為40W，相當于一個家用燈泡。 國內發展情況 國內研究包括清華大學、浙江大學、復旦大學、中科院等頂級學府和機構，同時近兩年不斷涌現初創公司，如靈汐科技、時識科技、中科神經形態等。其中以清華大學的天機芯和浙江大學的達爾文芯片最具代表性。 國內神經形態芯片初創企業不完全統計，制表丨果殼硬科技 資料來源丨公司官網，《新經濟導刊》，量子位 清華大學的神經形態芯片是國內最具代表性的實驗芯片。2015年開發的第一代天機芯采用110nm工藝，當時僅僅是一個小樣。2017年，第二代天機芯開始取得先進成果，基于28nm工藝制成，由156個功能核心FCore組成，包含約4萬個神經元和1000萬個突觸。相比第一代，密度提升20%，速度提高至少10倍，帶寬提高至少100倍。 為了讓神經形態芯片更具實用性，清華大學還自主研發了軟件工具鏈，支持從深度學習框架到天機芯的自動映射和編譯。根據清華大學的計劃，下一代天機芯將是14nm或更先進的工藝，且功能會強大更多。 國內另一具有代表性的是，浙江大學聯合之江實驗室共同研制的類腦計算機，其神經元數量與小鼠大腦神經元數量規模相當。該計算機包含792顆達爾文2代芯片，支持1.2億個脈沖神經元、720億個神經突觸，如此龐大規模之下，典型運行功耗僅為350W~500W。 事實上，國內在神經形態芯片領域的技術實力已處于全球領先水平，全球玩家都處在這一領域的起跑線上。 可以說，這是值得布局的一項技術。但它也是一塊難啃的骨頭，是材料、器件、工藝、架構、算法缺一不可的龐大賽道，是一個摸黑走到底的領域，同時未來必然會遇到應用場景和投入產出比問題。 不過，市場就是這樣，誰敢挑戰空白的領域，誰就能成為第一批拿到紅利的人。 |
