|
來源：半導體行業觀察 如果要評選即將過去的2023年的半導體關鍵詞，GPU必然要首先提及的。因為在ChatGPT的推動下，GPU正在過去一年里完成了完美的逆襲，并推動英偉達成為了萬億美元的半導體企業，也使得他們在今年有望成為全球第一的半導體供應商。需要提一句的是，這是一個在過去十多年里幾乎都是由英特爾把持的位置，英偉達的登頂，足以見證GPU的魅力。 除此以外，HBM（High Band Memory）也是2023不得不提的一個重點。因為存儲市場的千年老二SK海力士憑借這個技術和產品在這個領域實現了對三星的完勝。同時還為未來的繼續發展掙下了足夠的籌碼。 市場分析機構Omdia也預計，在人工智能大模型的推動下，未來幾年，HBM的需求將繼續超過供應。他們提供的數據顯示，從2023年到2027年，DRAM市場收入的年增長率預計為21%，而HBM市場預計將飆升52%。HBM在DRAM市場收入中的份額預計也將從今年的不超過10%增長到2027年將接近20%。 HBM，恰逢其時 其實HBM并不是一個新技術。 從維基百科可以看到，早在2008年，AMD就開始著手研發高帶寬存儲器來解決日益增長的能源使用及計算機內存的形狀因數。其中，AMD高級研究員Bryan Black解決了裸晶堆疊問題。AMD還從內存行業（SK海力士）、中介層行業（聯華電子）及封裝行業（日月光半導體）的合作伙伴中獲得了幫助，讓高帶寬存儲器從設想變成現實。 到了2013年10月，JEDEC就將高帶寬存儲器正式采納為業界標準。2015年，SK海力士在韓國利川市的工廠正式開始量產HBM。直到人工智能、生成式人工智能的火熱，市場對訓練數據的需求量暴增，于是英偉達等廠商就將HBM引入到相關產品，從而引爆了HBM的使用潮。 從相關報道我們也能看到，自2012年以來，大規模的AI訓練所使用的數據集的計算量是以每年10倍的速度在增長。以推出大家所熟知的ChatGPT的OpenAI公司為例，在2022年11月推出的ChatGPT版本中，他們使用了1750億個參數。到了今年3月的版本中，他們使用的參數則是達到1.5萬億個。 之所以發生這樣的轉變，其中背后的原因有以下三點：第一，AI模型變得日益復雜了；第二，有大量的數據在線被生成，而且可以被使用在AI訓練過程中去；第三，這些人工智能的應用對于準確性和穩健性的期望也在持續提升。以上這些需求轉化為對內存的需求，實際上就意味著需要更高帶寬和更高容量。 這就帶來了HBM的第二春。 
據Rambus 接口IP產品管理和營銷副總裁 Joe Salvador先生介紹，高帶寬內存（HBM）包含了中介層，以及處理器、內存堆棧。這就意味著我們可以通過HBM帶來非常高的帶寬，而且還有非常高的能效解決方案，及低延遲。正是由于以上的這些原因，HBM已經成為了目前首選的AI訓練硬件。
如上圖所示，在過去多年的發展中，HBM進行了多代的更新，不斷地提升速度，以滿足終端市場的需求。在這背后，就需要各種各樣的IP來給HBM提供支持。當中，內存控制器IP無疑是其中一個重中之重。 全球領先的IP供應商Rambus正是當中的一個重要供應商。 Rambus，深耕其中 據Rambus大中華區總經理蘇雷先生介紹，成立于上個世紀的九十年代Rambus距現在已經有33年的歷史。公司的主要業務包括了基礎專業授權、半導體IP授權和芯片業務。其中半導體IP又主要分為接口IP和安全IP。
首先看接口IP方面，Rambus大部分的產品都是集中供貨給數據中心市場以及人工智能和邊緣計算。具體而言，在內存控制器方面，Rambus所支持的內存類型包括了DDR、LPDDR、GDDR以及HBM；在接口IP所提供的互聯控制器，可以支持CXL、PCIe以及MIPI；另外，Rambus提供視頻壓縮的IP，可以應用在MIPI以及DP（DisplayPort）接口。
在安全IP產品組合方面，Rambus能提供的安全IP解決方案組合也是業內最廣泛的。
具體到HBM方面，Rambus方面表示，基于公司多去多年積累涵括的HBM內存、GDDR內存、LPDDR內存以及DDR內存在內的多年控制器設計經驗，Rambus所設計出來的內存控制器可以做到性能高、功耗低，而且對于客戶來說成本也相對較低。與此同時，Rambus也有多年跟主流內存廠商合作的經驗，可以把后者的內存組件納入到Rambus的兼容性、以及相關的性能測試環節當中來去進行相應的驗證。 “我們在進行相應架構設計的時候還留足了一定自定義的配置空間，這樣使得客戶在面對不同需求的時候，可以根據需求來選擇相應的控制器。”Joe Salvador說。在他看來，這些可調節的配置正是Rambus在這個領域建立起的難以跨越的門檻。 在這些雄厚實力的支持下，Rambus率先推出了9.6 Gbps HBM3內存控制器IP。Rambus方面表示，與HBM3 Gen1 6.4 Gbps 的數據速率，Rambus HBM3 內存控制器的數據速率提高了 50%，總內存吞吐量超過 1.2 TB/s，適用于推薦系統的訓練、生成式 AI 以及其他要求苛刻的數據中心工作負載。
Rambus進一步表示，HBM3控制器不僅僅作為獨立的產品推出，公司還提供了一整套完整的經過驗證的解決方案，能夠跟市面上目前比較常見的HBM3以及相關的內存模組進行匹配，然后完整的得以應用。據介紹，公司目前已經跟SK海力士、美光、三星完成了一整套的測試。 “Rambus HBM相關的技術和控制器IP一直都是業內領先的，可以跟客戶所選擇的PHY進行很好的結合。而且都是能夠通過大量的測試和驗證，盡可能都保證一次流片成功，這對于客戶來說是很大的價值。”Joe Salvador接著說。
除了領先的產品以外，Rambus還有著非常強大的技術支持，能在客戶芯片點亮的時候到現場進行支持，幫助客戶。如蘇雷所說，憑借Rambus多年扎實的技術基礎和客戶經驗，可以避免客戶可能遇到的一些技術困難，幫助他們的產品更早地面市。“這個對很多芯片公司非常重要，特別是AI芯片公司，很看重產品的時間。這也是我們公司的控制器IP產品在市場上處于領先位置非常重要的一個原因。”蘇雷強調。 Joe Salvador則重申：“Rambus多年以來所構建的測試環境和驗證的環節，都是跟許多的物理層提供商的合作伙伴共同去搭建的。這也就意味著我們的控制器和物理層結合之后，能夠很好地集成在一起保持兼容，從而使得客戶的子系統能夠放心地去確保有良好的作用，很容易就獲得產品的成功。” |
