|
ARM公司供稿 GPU市場增長與Mali 技術的成功 2006年，圖形處理器（GPU）總出貨量約為1.35億，廣泛用于智能手機、DTV和平板電腦等多種設備。同年，ARM® 完成對挪威Falanx公司的收購，并獲得其移動GPU技術，完成對原有IP技術的擴展。10年后的今天，僅智能手機的全球出貨量就已達到15億臺（據ARM內部數據和Gartner數據顯示）；短短10年時間，ARM Mali技術也已成為全球出貨量第一的GPU，2015年總計出貨量超過7.5億。 本文將重點討論GPU市場、技術、應用案例，以及GPU爆炸式發展背后的深層原因。同時，文章還將簡述ARM Mali GPU及其架構在過去10年的演進，并介紹搭載全新Bifrost架構的Mali-G71。 
API與制程節點開發 對圖形領域而言，2015年振奮人心——全新應用程序接口（API）的出現允許開發商將基礎圖形硬件發揮至技術允許的最高水平。 同年，Khronos團隊的工作引發有關Vulkan的熱烈討論。Vulkan是新一代OpenGL API，為新一代圖形API設計量身打造。Vulkan足以滿足全部需求，并徹底終結了OpenGL ES和OpenGL作為API各自為政的時代。 Vulkan于2016年2月正式發布，是首款按照開發商需求設計的Khronos API。它由游戲引擎開發商、芯片提供商、IP公司和操作系統供應商共同開發，以期打造兼顧各相關方需求的最佳解決方案。Vulkan API應運而生，采用全新異構系統，不僅內置多線程支持，而且可以最大程度發揮硬件一致性的優勢。Vulkan屬于底層API，允許開發商自主決定硬件交互方式，并通過底層接入以找到最佳平衡點。 上述特性對虛擬現實（VR）等新興應用尤為重要，幫助開放商減少延遲，優化圖形流水線。
對聚焦GPU運算應用的開發商來說，OpenCL 2的發布是一個重要節點，多項全新理念進一步簡化了高性能GPGPU應用的開發流程。虛擬存儲共享概念的提出可以說最為關鍵，允許CPU和GPU之間的虛擬地址共享。與硬件一致性結合后，細粒度緩沖器共享成為現實。該技術簡化了實現CPU和GPU工作負載共享所需的開發工作，因為兩者間的數據雙向傳輸不再是必要條件。 半導體制造工藝也經歷了巨大革新。2014年，臺積電與三星推出20納米工藝節點，標志著平面工藝節點的10年歷史終于落幕。2015年，三星在Exynos 7420上使用全新14納米FinFet技術，臺積電緊隨其后，推出16納米FinFet工藝，并搭載于蘋果A9芯片。2016年，工藝節點獲得進一步完善，成本降低，產量增加。步入2017年， 10納米工藝節點也不再是夢想。 從GPU的角度看，工藝節點技術的進步對整個行業意義非凡。首先，工藝節點越先進，單位區域（或功耗）的晶體管密度就越大。GPU屬于并行處理器，只要架構擴展，性能就會隨之提升。然而，先進工藝節點對布線的擴展效果不如晶體管。恰恰相反，Ergo 工藝制程從28納米優化至14納米，SoC設計師得以實現更高的晶體管密度，但卻不如布線的擴展。這意味著，如果設計10納米GPU時采用與28納米同樣的方法，設計結果必然會打折扣，因為晶體管和布線各有權衡，不盡相同。設計師常常需要妥協，使IP適應某個節點，這種權衡隨著先進工藝節點數量的增加變得愈加重要。 深入探討高端移動GPU的性能如何繼續提高之前，我們需要特別指出GPU性能從2011年到2016年提升了20倍這個有趣的事實。由于手機同時變得更加輕薄，因此該數字并不能代表技術進步的全景，但現代移動設備開發商對性能提升的渴求已經可見一斑。
移動設備開發商不斷完善現有用例，開發顛覆性的新用例，以保持創新節奏，并從新一輪的性能升級中獲益。 案例開發 隨著移動平臺的發展，各類傳感器層出不窮。憑借飛速提升的系統性能、不斷改善的屏幕精度和日益增加的電池壽命，移動設備開發商已經坐擁創新的最佳平臺。 增強現實（AR）可以充分挖掘并展現智能手機的強勁性能。AR的原理并不復雜，利用高級攝像頭捕捉圖像，經過CPU、GPU、ISP、VPU和DPU，最后顯示在高清屏幕上。這個過程中，增強內容將覆蓋實際影像。根據應用目標的不同，物體識別、方位補償（使用電子羅盤和／或加速度計）或高級渲染技術都將各有用武之地。 一些人氣移動應用讓AR不再遠在天邊，并一舉進軍大眾市場，比如將濾鏡疊加在用戶臉部，然后生成圖片和視頻用于分享的Snapchat；以及讓用戶在真實地點看到動畫人物的Pokemon Go。無獨有偶，還有一些應用采取了更高級的AR技術，比如將攝像頭捕捉與3D物體相結合。這些創新用例層出不窮，并可以用于包括零售和高端游戲在內的各行各業。舉個例子，用戶可以使用移動設備查看家具是否與硬裝搭配，家具巨頭宜家就打算在2017年發布AR產品目錄。 虛擬現實已經不算新理念了，但其核心技術卻仍在經歷巨變。硬件設備已經萬事俱備，擁有足夠強大的性能運行炫目的VR內容；一個適合創新的大規模開發商生態系統也已經形成。這一點在移動平臺的體現格外深刻，因為人人都能用，且其移動性自身便是重要優勢。與臺式機和游戲機不同，移動設備無拘無束。當然，實現這一點需要在設備上安裝各類傳感器。實際上，VR領域的許多重大突破都是在移動設備上實現的——利用VR技術增強用戶體驗的云霄飛車就是高性能移動應用的一個典型案例。 盡管推陳出新的顛覆式應用不斷刷新智能手機的使用方式，但我們經常會忘記一點現實，最普遍的移動應用情景依然是網頁瀏覽和游戲。近幾年，屏幕分辨率和刷新率都得到提升，用戶界面（UI）的視覺效果和使用體驗也越來越自然。這些優化對GPU提出了更高要求，成為成本導向型市場不小的挑戰。 移動設備已經成為最主要的游戲平臺，由于移動游戲的便捷性，玩家人數持續增加，并進一步推動游戲數量的上升。從免費的獨立游戲到數百萬美元投資的工作室游戲，現代玩家有豐富的游戲類型、價格和質量等級可供選擇。隨著可選游戲數量的上升，視覺效果也得到顯著改善。GPU剛剛引入移動設備時，3D游戲簡單粗暴，不堪入目。而現在呢？游戲畫面豐富多彩，景色怡人，動態感十足，在上一代的手柄游戲機時代都是前所未聞的。
上圖是ARM演示團隊制作的三張示意圖。我們先來看看相對簡單（以今天的標準）的3D內容，演示游戲為2010年推出的True Force，運行于2011年款的Galaxy S2。每幀圖元16k，片段處理每像素時鐘周期3.7次，基于OpenGL ES 2.0。 3年后的2013年，OpenGL ES 3.0正式推出，改善了GPU 對GPU運算的支持（并不是OpenGL ES 3.0 API的主打特色，而隨OpenGL ES 3.1正式推出）；允許開發商使用更多高級渲染技術。結合基礎硬件后，視覺質量顯著提升。將Trollheim演示與TrueForce比較一下便可一目了然，前者的復雜性比后者高了不少。TrueForce的每幀圖元為16k，而Trollheim為150k，TrueForce的片段處理每像素時鐘周期為3.7次，而Trollheim則為16次。 2016年，Vulkan正式推出，API效率大幅提高，與OpenGL ES相比能夠以更低的開銷幫助開發商更好地發揮硬件性能。當然，硬件本身也快速發展，比較一下Lofoten和Trollheim演示，我們即可清楚地看到復雜度的提升：每幀圖元提高了300%，片段復雜度提高了150%。 智能手機設計的挑戰與趨勢 使用場景的變化僅是一個方面，移動設備本身也經歷大幅升級。智能手機市場最初主打旗艦機型，隨著智能化程度的不斷提高，很多 PC特性已經可以實現，但通訊依舊是其主要功能。然而，過去短短幾年間，智能手機用途不斷擴展，打電話已不再是智能手機的主要功能，圖像顯示成為了關注焦點。 過去，手機電池壽命一般用單次充電支持的通話時長來衡量，而現在的標準則是網絡瀏覽或高端游戲的續航時間。GPU與顯示性能一起備受關注。用戶希望體驗更高質量的視覺效果，到目前為止，這一目標都是經由智能手機設計改善，以及顯示內容的美感和流暢性來實現，一個證據就是屏幕邊框變得越來越窄。市場的大致趨勢是朝著屏幕包裹設備的方向發展，設計美感更多由UI而非硬件來實現。下圖中，我們可以看出屏幕占整個設備的比例不斷增加。這一趨勢在三星Galaxy S7 Edge等機型上體現得尤為明顯，已經實現屏幕對設備的全包裹。
除了打電話，現代智能手機還能提供極為豐富的功能，如郵件、社交媒體、導航定位、支付、瀏覽網頁、游戲、拍照和視頻等等。用戶在期待功能升級的同時，也希望電池壽命不斷延長。但是，即便使用當前所有最先進的技術，智能手機的電池容量還是要不斷增大，具體變化趨勢見下圖。
除了電池容量變大，智能手機還變得越來越薄。一些機型的厚度甚至已經達到了7毫米以下，考慮到現代智能手機的技術含量，如此纖薄實在令人驚訝。 這樣的發展方向并非完全沒有弊端。屏幕增大導致電池尺寸變大，機身變薄，設備散熱能力下降，因為屏幕的散熱效率不如金屬機身。此外，機身變薄后，用以散熱的表面積也會減少。現代高端智能手機的性能上限很大程度上被散熱能力牽制，如何保證機身內部元器件不因為高溫而受損則因此成為另一大挑戰。 現代智能手機裝有多種耗電發熱的核心元件，如攝像頭子系統、屏幕、調制解調器、Wi-Fi、非易失性存儲器、DRAM和主芯片本身（包括CPU、GPU和其他處理器）。因為總功耗一致，所以其中任何一個元件功耗的減少，都可以增加其他元件可以使用的配額，這也是系統功耗配比由用例決定的原因。 現代GPU非常復雜，嚴重依賴CPU運行驅動程序，以實現基于軟件與應用程序進行交互。多虧了Vulkan這樣的現代API，驅動程序的開銷下降了，但是CPU依然需要運行驅動程序，所以不能完全避免耗電。由于所有元件功耗預算共享，因此在CPU中使用的、用于GPU交互的功耗就是不能應用于GPU本身的功耗。基于上述原因，降低CPU功耗勢在必行，不僅是為GPU發展掃清瓶頸，更是要為盡可能的提高GPU可用功耗鋪平道路。 與之類似，在運行復雜3D游戲的現代系統中，GPU會消耗大量DRAM帶寬。由于要處理大量數據（上述提及的Lofoten每幀處理600,000個三角），消耗帶寬責無旁貸，但DRAM的讀寫本身就是耗電的過程，也需要占用系統的總功耗預算。減少DRAM帶寬可以降低其功耗，并用于其他元件。 現代智能手機的設計和日益復雜的用例對GPU提出了前所未有的挑戰。下一章，我們將介紹ARM新一代GPU和GPU架構是如何應對這些挑戰的。 為下一代設備打造的Mali-G71 Mali-G71是ARM最新推出的高性能GPU，也是首款基于全新Bifrost架構的GPU，性能和效率都獲得顯著提升。
Mali-G71是迄今為止ARM性能最高的GPU。為滿足現代用例所需性能，著色器核心數量從1擴展至32，幫助芯片制造商根據目標市場自主權衡性能和功耗。出于這個原因，我們認為Mali-G71將在各類應用中將大展拳腳。
如前文所述，智能手機的很多性能都受到散熱的限制，還有一些手機的限制因素則是成本，或者說是芯片尺寸。為了實現更高性，Mali-G71和Bifrost架構同時升級了能源效率（單位瓦特性能）和性能密度（單位芯片面積性能），幫助功耗與散熱性能遭遇挑戰的芯片制造商實現更高的GPU性能。相似條件下，Mali-G71的能源效率相較Mali-T880最多可提高20%，性能密度最多可提高40%。此外，外部存儲消耗的總帶寬降低20%，進一步減少整體系統功耗。
Bifrost架構發展 為了進一步說明Mali-G71為何具備遠超歷代ARM GPU的性能，我們首先來探討一下GPU架構本身，以及實現這些性能的設計方法。 Bifrost是ARM的第三代可編程的GPU架構，其研發知識與經驗傳承自Utgard和Midgard GPU架構。
ARM的前兩代GPU架構——Utgard和Midgard都取得了巨大成功。它們專為新興的移動GPU市場打造，無論出貨量還是內部科技的運用都可圈可點。Utgard是ARM首款可編程GPU，支持GLES 2.x，片段著色器與頂點著色器相互獨立。Midgard則引入了統一著色器，支持GLES 3.x，并可與OpenCL 1.x Full Profile協同實現GPGPU運算。Midgard是一款前瞻性的GPU架構，甚至包括了一些可以支持Vulkan的功能特性。考慮到這是5年前設計的架構，就足以成為了不起的成就。 然而，隨著內容和用例的改變，架構本身也必須進行根本性的升級，以適應各類下一代用例。
從頂層設計看，與Midgard架構相比，Bifrost的GPU內核沒有明顯變化。表面上依然包括多個可擴展的著色器核心、一個負責與驅動程序交互的任務管理器、一個負責處理內存頁表的MMU以及一個tiler（Bifrost 仍然是一個 Tile based 渲染架構），但全部模塊都獲得了顯著提升。 通過AMBA ACE或AXI-Lite與外界交互的L2子系統為支持AMBA 4 ACE專門設計，幫助Mali-G71徹底實現硬件一致性，并在GPU和CPU等其他單元之間實現了基于硬件的細粒數據透明共享。 我們對tiler做了重新設計，以支持一種全新的渲染流，即索引驅動的位置渲染。該技術的理念是將頂點著色分為兩部分以節省帶寬，因為無需讀寫屏幕上看不見的變化參數（varying）1；而且由于無需寫回不可見位置，帶寬可以得到進一步節省。
著色器核心本身的變化更為巨大。ARM在Bifrost中引入全新指令集，根據大量的內容和趨勢分析以及長年的行業經驗開發。現代GPU的總體趨勢是執行越來越多的復雜可編程著色器，通常通過算法完成并采用大量標量代碼。作為全新引擎的一部分，Bifrost采用全新的算法單元，以極高的效率執行高級著色器核心。它們更容易擴展，如果未來需求有增加，該架構也可以輕松應對。 Bifrost的屬性（attribute）單元和變化參數單元相互獨立，這些操作在圖形處理中極為普遍，使用獨立的高度優化硬件模塊更為合理。全新的指令集引入高效的四線程組以節省控制邏輯，并通過四線程組管理器將線程組切換至執行引擎。我們還加入了一個控制架構以提高物理利用率。如上文所述，此特性對現代工藝節點非常重要。 Bifrost引入了名為子句著色器的概念，專門用于處理執行引擎內部的布線密度問題。你可以將子句想象成一組連續自動執行的指令，也就是說，一個子句的執行不能被中斷，無論是分支（如分支只發生在子句邊界上）還是其他任何事件都無法中斷。這意味著子句是可以預測的，數據路徑周圍的控制邏輯變得更容易。比如說，你無需在子句內部更新程序計數器，因為GPU知道它會在執行前（或執行后）根據子句內部的指令數量向前推進。 對CPU而言，這一行為并不可取，因為CPU必須迅速處理分支，而且分支的出現并不偶然。但恰恰相反，對GPU而言，該技術又可以進一步優化設計。請想象一組指令集正在經過。連續的指令經常使用上一條指令作為輸入（見下方一排中的多個ADD正在積累數據）。如果你經常觀察到這一現象，而且你知道訪問暫存器組的代價非常高昂（因為這是一個巨大的存儲模塊），有一種方法來緩解這個問題，那就是巧妙地使用臨時寄存器來減少寄存器組的訪問量。由于寄存器是臨時的，數據只會在一個時鐘周期中保留，所以要想實現，子句必須確保在子句內部原子執行。
請參考下圖的簡單著色器程序，從指令集的角度了解子句著色器的工作原理。需要指出的是，這是開發者所看不到的，由編譯器完成的。
總結 通過對Bifrost架構如何提高效率和性能的詳細解讀，我們可以清楚地了解Mali-G71具備哪些根本性的創新技術，以實現萬眾期待的GPU性能升級。通過支持全新的現代API（如Vulkan和OpenCL 2.0），Mali-G71有助于實現出色的新興應用場景體驗。ARM將繼續研發Bifrost架構，滿足下一代內容的需求并超越行業期待。2016年，更多新技術將現身ARM Mali 多媒體組件。 |
