Graphcore 今日正式發布全新IPU系統產品——Bow系列。Bow Pod系統產品采用了全球首款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是新一代Bow Pod AI計算機系統的核心。與上代產品相比,它可為真實世界的AI應用提供高達40%的性能提升和16%的電源效率提升,同時價格保持不變,且無需更改現有代碼。Bow的命名來源于倫敦市的一處地名。![]() Bow IPU處理器 ![]() Bow-2000 計算刀片 同時,Graphcore將于2024年交付全球首臺超級智能計算機—— Good Computer(古德計算機)。Graphcore正在開發新一代IPU技術,為這款Good Computer提供超過10 Exa-Flops的AI浮點計算;最高可達4PB的存儲,帶寬超過10PB/秒;支持超過500萬億參數的AI模型;3D Wafer-on-Wafer邏輯棧;同時獲得Poplar® SDK的完全支持。該計算機預計價格在100萬美元至1.5億美元(取決于配置)。這款超未來的智能計算機之所以被命名為Good,一方面是Graphcore致力于打造“好”的計算機,一方面是向計算機科學家先驅Jack Good(杰克·古德)致敬。 Graphcore大中華區總裁兼全球首席營收官盧濤表示:“隨著AI計算市場的整體快速發展,客戶需要兼顧性能、效率和可靠性的計算機系統。我們發布新一代IPU,正是為了支持全球技術開發者和創新者在AI計算領域取得新的技術突破,實現高質量發展。我們希望不斷開拓IPU在中國的AI應用場景,通過IPU賦能高效AI計算,支持中國創新者不斷推進機器智能的邊界。” Bow Pod的出色性能 旗艦產品Bow Pod256提供超過89 PetaFLOPS的AI計算,而超大規模Bow Pod1024可提供350 PetaFLOPS的AI計算,支持機器學習工程師在AI模型規模呈指數增長的情況下仍可領先一步,在機器智能領域取得新的技術突破。 Bow Pod旨在為各種AI應用大規模提供真實世界的性能,從用于自然語言處理的GPT和BERT到用于計算機視覺的EfficientNet和ResNet,再到圖神經網絡和許多其他應用。 • 在與配有Bow Pod系統的Mk2 IPU-Pod系統相同的峰值功率范圍內,客戶發現各種AI應用的性能提升高達40%。 ![]() • 對于最先進的計算機視覺模型EfficientNet,Bow Pod16性能比同類Nvidia DGX A100系統提升5倍以上,而價格只有一半,因而總體擁有成本提升高達10倍。 ![]() • 與上代產品相比,除了40%的性能提升,Bow Pod系統還可以大幅提高電源效率。經過一系列實際應用測試表明,Bow Pod的每瓦性能最高可提升16%。 ![]() Wafer-on-Wafer創新技術 Bow Pod系統核心的Bow IPU處理器采用了全球首項3D半導體技術,從而支持Bow Pod 系統實現了巨大的性能提升和更高的電源效率。Wafer-on-Wafer 3D技術由Graphcore與臺積電合作開發。Wafer-on-Wafer技術有潛力在硅片之間提供更高的帶寬,從而優化電源效率,在晶圓級別提升Colossus架構的功率。 Bow IPU中的Wafer-on-Wafer,兩個晶圓結合在一起,產生一個新的3D裸片。其中一個晶圓用于AI處理,在架構上與GC200 IPU處理器兼容,擁有1472個獨立的IPU-Core tile,能夠運行超過8800個線程,具有900MB的處理器內存儲,而第二個晶圓擁有供電裸片。 通過在供電裸片中添加深溝槽電容器,位置在處理內核和存儲旁,我們能夠更高效地供電,從而實現350 TeraFLOPS的AI計算,實現40%的性能提升。通過與臺積電緊密合作,我們充分驗證了整套技術,包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合鍵合中的多項突破性技術。 作為Bow Pod系統的組成部分,最新Bow-2000 IPU Machine采用了與第二代IPU-M2000 machine同樣強大的系統架構,但現在配備了四個強大的Bow IPU處理器,可提供1.4 PetaFLOPS的AI計算。 Bow-2000可以完全向后兼容現有的IPU-POD系統,其高速、低時延的IPU結構和靈活的1U外形尺寸保持不變。Bow-2000是整個Bow Pod系列的基礎組成部分。Bow-2000可安裝在戴爾、Atos、Supermicro、浪潮和聯想等領先品牌的主機服務器上,從而組成Bow Pod系統。整個Bow Pod系列包括Bow Pod16(4臺Bow-2000和一臺主機服務器)、Bow Pod32(8臺Bow-2000和一臺主機服務器)、Bow Pod64以及更大的旗艦系統Bow Pod256和Bow Pod1024。 ![]() 最新Bow Pod系統現已上市,并開始在全球范圍內發貨。 |