|
來源：半導(dǎo)體行業(yè)觀察 如果要評選即將過去的2023年的半導(dǎo)體關(guān)鍵詞，GPU必然要首先提及的。因?yàn)樵贑hatGPT的推動下，GPU正在過去一年里完成了完美的逆襲，并推動英偉達(dá)成為了萬億美元的半導(dǎo)體企業(yè)，也使得他們在今年有望成為全球第一的半導(dǎo)體供應(yīng)商。需要提一句的是，這是一個在過去十多年里幾乎都是由英特爾把持的位置，英偉達(dá)的登頂，足以見證GPU的魅力。 除此以外，HBM（High Band Memory）也是2023不得不提的一個重點(diǎn)。因?yàn)榇鎯κ袌龅那昀隙K海力士憑借這個技術(shù)和產(chǎn)品在這個領(lǐng)域?qū)崿F(xiàn)了對三星的完勝。同時還為未來的繼續(xù)發(fā)展掙下了足夠的籌碼。 市場分析機(jī)構(gòu)Omdia也預(yù)計(jì)，在人工智能大模型的推動下，未來幾年，HBM的需求將繼續(xù)超過供應(yīng)。他們提供的數(shù)據(jù)顯示，從2023年到2027年，DRAM市場收入的年增長率預(yù)計(jì)為21%，而HBM市場預(yù)計(jì)將飆升52%。HBM在DRAM市場收入中的份額預(yù)計(jì)也將從今年的不超過10%增長到2027年將接近20%。 HBM，恰逢其時 其實(shí)HBM并不是一個新技術(shù)。 從維基百科可以看到，早在2008年，AMD就開始著手研發(fā)高帶寬存儲器來解決日益增長的能源使用及計(jì)算機(jī)內(nèi)存的形狀因數(shù)。其中，AMD高級研究員Bryan Black解決了裸晶堆疊問題。AMD還從內(nèi)存行業(yè)（SK海力士）、中介層行業(yè)（聯(lián)華電子）及封裝行業(yè)（日月光半導(dǎo)體）的合作伙伴中獲得了幫助，讓高帶寬存儲器從設(shè)想變成現(xiàn)實(shí)。 到了2013年10月，JEDEC就將高帶寬存儲器正式采納為業(yè)界標(biāo)準(zhǔn)。2015年，SK海力士在韓國利川市的工廠正式開始量產(chǎn)HBM。直到人工智能、生成式人工智能的火熱，市場對訓(xùn)練數(shù)據(jù)的需求量暴增，于是英偉達(dá)等廠商就將HBM引入到相關(guān)產(chǎn)品，從而引爆了HBM的使用潮。 從相關(guān)報道我們也能看到，自2012年以來，大規(guī)模的AI訓(xùn)練所使用的數(shù)據(jù)集的計(jì)算量是以每年10倍的速度在增長。以推出大家所熟知的ChatGPT的OpenAI公司為例，在2022年11月推出的ChatGPT版本中，他們使用了1750億個參數(shù)。到了今年3月的版本中，他們使用的參數(shù)則是達(dá)到1.5萬億個。 之所以發(fā)生這樣的轉(zhuǎn)變，其中背后的原因有以下三點(diǎn)：第一，AI模型變得日益復(fù)雜了；第二，有大量的數(shù)據(jù)在線被生成，而且可以被使用在AI訓(xùn)練過程中去；第三，這些人工智能的應(yīng)用對于準(zhǔn)確性和穩(wěn)健性的期望也在持續(xù)提升。以上這些需求轉(zhuǎn)化為對內(nèi)存的需求，實(shí)際上就意味著需要更高帶寬和更高容量。 這就帶來了HBM的第二春。 
據(jù)Rambus 接口IP產(chǎn)品管理和營銷副總裁 Joe Salvador先生介紹，高帶寬內(nèi)存（HBM）包含了中介層，以及處理器、內(nèi)存堆棧。這就意味著我們可以通過HBM帶來非常高的帶寬，而且還有非常高的能效解決方案，及低延遲。正是由于以上的這些原因，HBM已經(jīng)成為了目前首選的AI訓(xùn)練硬件。
如上圖所示，在過去多年的發(fā)展中，HBM進(jìn)行了多代的更新，不斷地提升速度，以滿足終端市場的需求。在這背后，就需要各種各樣的IP來給HBM提供支持。當(dāng)中，內(nèi)存控制器IP無疑是其中一個重中之重。 全球領(lǐng)先的IP供應(yīng)商Rambus正是當(dāng)中的一個重要供應(yīng)商。 Rambus，深耕其中 據(jù)Rambus大中華區(qū)總經(jīng)理蘇雷先生介紹，成立于上個世紀(jì)的九十年代Rambus距現(xiàn)在已經(jīng)有33年的歷史。公司的主要業(yè)務(wù)包括了基礎(chǔ)專業(yè)授權(quán)、半導(dǎo)體IP授權(quán)和芯片業(yè)務(wù)。其中半導(dǎo)體IP又主要分為接口IP和安全I(xiàn)P。
首先看接口IP方面，Rambus大部分的產(chǎn)品都是集中供貨給數(shù)據(jù)中心市場以及人工智能和邊緣計(jì)算。具體而言，在內(nèi)存控制器方面，Rambus所支持的內(nèi)存類型包括了DDR、LPDDR、GDDR以及HBM；在接口IP所提供的互聯(lián)控制器，可以支持CXL、PCIe以及MIPI；另外，Rambus提供視頻壓縮的IP，可以應(yīng)用在MIPI以及DP（DisplayPort）接口。
在安全I(xiàn)P產(chǎn)品組合方面，Rambus能提供的安全I(xiàn)P解決方案組合也是業(yè)內(nèi)最廣泛的。
具體到HBM方面，Rambus方面表示，基于公司多去多年積累涵括的HBM內(nèi)存、GDDR內(nèi)存、LPDDR內(nèi)存以及DDR內(nèi)存在內(nèi)的多年控制器設(shè)計(jì)經(jīng)驗(yàn)，Rambus所設(shè)計(jì)出來的內(nèi)存控制器可以做到性能高、功耗低，而且對于客戶來說成本也相對較低。與此同時，Rambus也有多年跟主流內(nèi)存廠商合作的經(jīng)驗(yàn)，可以把后者的內(nèi)存組件納入到Rambus的兼容性、以及相關(guān)的性能測試環(huán)節(jié)當(dāng)中來去進(jìn)行相應(yīng)的驗(yàn)證。 “我們在進(jìn)行相應(yīng)架構(gòu)設(shè)計(jì)的時候還留足了一定自定義的配置空間，這樣使得客戶在面對不同需求的時候，可以根據(jù)需求來選擇相應(yīng)的控制器。”Joe Salvador說。在他看來，這些可調(diào)節(jié)的配置正是Rambus在這個領(lǐng)域建立起的難以跨越的門檻。 在這些雄厚實(shí)力的支持下，Rambus率先推出了9.6 Gbps HBM3內(nèi)存控制器IP。Rambus方面表示，與HBM3 Gen1 6.4 Gbps 的數(shù)據(jù)速率，Rambus HBM3 內(nèi)存控制器的數(shù)據(jù)速率提高了 50%，總內(nèi)存吞吐量超過 1.2 TB/s，適用于推薦系統(tǒng)的訓(xùn)練、生成式 AI 以及其他要求苛刻的數(shù)據(jù)中心工作負(fù)載。
Rambus進(jìn)一步表示，HBM3控制器不僅僅作為獨(dú)立的產(chǎn)品推出，公司還提供了一整套完整的經(jīng)過驗(yàn)證的解決方案，能夠跟市面上目前比較常見的HBM3以及相關(guān)的內(nèi)存模組進(jìn)行匹配，然后完整的得以應(yīng)用。據(jù)介紹，公司目前已經(jīng)跟SK海力士、美光、三星完成了一整套的測試。 “Rambus HBM相關(guān)的技術(shù)和控制器IP一直都是業(yè)內(nèi)領(lǐng)先的，可以跟客戶所選擇的PHY進(jìn)行很好的結(jié)合。而且都是能夠通過大量的測試和驗(yàn)證，盡可能都保證一次流片成功，這對于客戶來說是很大的價值。”Joe Salvador接著說。
除了領(lǐng)先的產(chǎn)品以外，Rambus還有著非常強(qiáng)大的技術(shù)支持，能在客戶芯片點(diǎn)亮的時候到現(xiàn)場進(jìn)行支持，幫助客戶。如蘇雷所說，憑借Rambus多年扎實(shí)的技術(shù)基礎(chǔ)和客戶經(jīng)驗(yàn)，可以避免客戶可能遇到的一些技術(shù)困難，幫助他們的產(chǎn)品更早地面市。“這個對很多芯片公司非常重要，特別是AI芯片公司，很看重產(chǎn)品的時間。這也是我們公司的控制器IP產(chǎn)品在市場上處于領(lǐng)先位置非常重要的一個原因。”蘇雷強(qiáng)調(diào)。 Joe Salvador則重申：“Rambus多年以來所構(gòu)建的測試環(huán)境和驗(yàn)證的環(huán)節(jié)，都是跟許多的物理層提供商的合作伙伴共同去搭建的。這也就意味著我們的控制器和物理層結(jié)合之后，能夠很好地集成在一起保持兼容，從而使得客戶的子系統(tǒng)能夠放心地去確保有良好的作用，很容易就獲得產(chǎn)品的成功。” |
