來源:IT之家 英偉達(dá)(Nvidia)周二發(fā)布了一款升級(jí)版的下一代 Grace Hopper 超級(jí)芯片平臺(tái),該平臺(tái)采用了 HBM3e 內(nèi)存技術(shù),專為人工智能和高性能計(jì)算而設(shè)計(jì)。新款 GH200 Grace Hopper 超級(jí)芯片平臺(tái)由 72 核的 Grace CPU 和 GH100 Hopper 計(jì)算 GPU 組成,但與初代不同的是,其使用了 HBM3e 內(nèi)存,內(nèi)存容量和帶寬都有顯著提高。 據(jù)IT之家了解,英偉達(dá) 2022 年 3 月推出了 Grace Hopper 超級(jí)芯片,首次將 CPU、GPU 融合在一塊主板上。 HBM3e 內(nèi)存是一種新型的高帶寬內(nèi)存技術(shù),可以在更小的空間內(nèi)提供更高的數(shù)據(jù)傳輸速率。新款 GH200 Grace Hopper 超級(jí)芯片平臺(tái)基于 72 核 Grace CPU,配備 480 GB ECC LPDDR5X 內(nèi)存以及 GH100 計(jì)算 GPU,搭配 141 GB 的 HBM3e 內(nèi)存,分為六個(gè) 24 GB 的堆棧,并使用了 6,144 位的內(nèi)存接口。雖然英偉達(dá)實(shí)際安裝了 144 GB 的內(nèi)存,但只有 141 GB 是可用的。 英偉達(dá)目前的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)配備 96 GB HBM3 內(nèi)存,帶寬低于 4 TB / s。相比之下,升級(jí)版的內(nèi)存容量增加了約 50%,帶寬增加了 25% 以上,可達(dá) 5 TB / s。如此巨大的改進(jìn)使新平臺(tái)能夠運(yùn)行比初代版本更大的人工智能模型,并提供明顯的性能改進(jìn)(這對(duì)于訓(xùn)練尤其重要)。 據(jù)英偉達(dá)稱,目前配備 HBM3 內(nèi)存的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)已經(jīng)在生產(chǎn)中,并將于下個(gè)月開始商業(yè)銷售。 而配備 HBM3e 內(nèi)存的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)現(xiàn)在正在樣品測(cè)試中,預(yù)計(jì)將于 2024 年第二季度上市。 英偉達(dá)強(qiáng)調(diào),新款 GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司無需推出任何新的版本或步進(jìn)。英偉達(dá)表示,原版 GH200 和升級(jí)版 GH200 將在市場(chǎng)上共存,這意味著后者將以更高的價(jià)格出售,畢竟其更先進(jìn)的內(nèi)存技術(shù)帶來的更高性能。 英偉達(dá)表示,配備 HBM3e 內(nèi)存的下一代 Grace Hopper 超級(jí)芯片平臺(tái)完全兼容英偉達(dá)的 MGX 服務(wù)器規(guī)范,并且可以與現(xiàn)有的服務(wù)器設(shè)計(jì)直接兼容。 |