|
作者: Simon Oudin 全景環視是泊車輔助系統的重要組成部分，將會成為汽車的一項標配功能。隨著人們對駕乘體驗、可擴展性等方面的要求越來越高，全景環視原本興起于亞洲汽車制造商所推動的小眾市場的，當下已經成為主流汽車廠商提供的選配功能。瑞薩作為汽車信息娛樂系統和先進駕駛輔助系統(ADAS)領域的SoC供應商，在早期階段就已成為支持全景環視技術的主要廠商。如今，瑞薩提供基于新一代SoC的高擴展性、創新的解決方案來應對全球市場需求。 基于R-Car第二代產品的全景環視系統 全景環視的作用是實時顯示汽車周圍環境的全貌。這種以二維視角從空中360度成像的方式叫做鳥瞰圖或俯視圖。通過多個攝像頭的圖像矯正，可將采集圖像無縫銜接在一起。同時通過對不同攝像頭的亮度和色彩進行調節，以使合成的全景視圖看上去更加協調。 不過僅僅顯示這一影像并不能在泊車過程中為駕駛人員提供幫助。為了更好地進行操控，在顯示二維視圖和車后方視圖時需要為駕駛人員顯示更多的信息。而另外一種補充方法是通過車周圍環境的三維視圖來加強司機對距離的感知。通過安裝在汽車四周的二維相機來生成當下汽車周邊的三維全景影像和三維的汽車影像，為駕駛人員提供參考。影像必須真實反映出汽車與附近物體(行人、車輛和建筑)的距離。三維球面視圖應隨著汽車的運動動態地變化。汽車模型必須融合在周圍景象中，光照或反射光線都要在汽車模型上反映出來 。 此類應用推動了汽車嵌入式平臺中的三維圖形和計算機視覺的性能提升。瑞薩R-Car SoC系列產品可用于此類應用。第二代R-Car于2013年3月首次發布，它支持多種應用，如外部設備連接、娛樂擴展和先進駕駛輔助(ADAS)。該系列產品具有卓越的性能和優化的功耗，通用的API可降低客戶開發工作量。該系列的兩款產品支持全景環視應用：R-Car H2和R-Car V2H。 R-Car H2帶來全新三維體驗 R-Car H2是2013年3月份發布的首款產品，是專為包含三維全景功能的集成式駕駛艙解決方案而定制的。在該應用中，首先需要考慮三維圖形引擎的性能要求，特別要注意兩個方面：二維攝像頭圖像紋理在三維球面視圖的映射和汽車三維成像。成像場景中的多邊形計數取決于三維球面視圖的變換和汽車模型的渲染效果。圖形引擎必須能夠在短時間內處理大量的多邊形運算，從而使渲染效果更佳。 此外，由于此應用可針對同一個場景使用不同的著色器程序，因此圖形引擎必須具有功能強大的著色器引擎。這些性能要求較高GPU頻率以實現高速數據處理。這些應用方面的性能要求都推動了瑞薩將高性能的三維圖形引擎集成在R-Car H2中。事實上，該產品的三維圖形引擎提供了與iPad Air 的三維圖形引擎相當的性能。 通向增強真實感之路 感知三維場景是另外一個重要方面，有兩種實現技術。一種是人類立體視覺，不過它的缺點是使相機成本和集成工作量增加了一倍。另一種是創建車輛的“運動恢復結構(SfM)”，從而提供一段時間內的立體視覺。瑞薩的R-Car產品系列采用了視覺專用硬件加速器，支持四個攝像頭的實時運行算法，從而同時滿足對高性能和低功耗的要求。 SfM算法生成代表車輛和周圍物體運動的流矢量列表。下一步關鍵是從流矢量中計算本體運動并作匹配以計算出車輛的自運動。從基礎矩陣中，可根據環境中的動態和靜態物體將流矢量進行分類。靜態物體流矢量可直接提供物體的距離(與移動距離成反比）。 
圖1：SfM算法在R-Car H2中的實現。SfM算法在R-Car H2一個的攝像頭視頻上的運行結果(上圖)�；赟fM處理結果的環境三維模型(下圖)。 圖1(上)展示了R-Car H2的一個運行實例。圓圈代表靜態特征點，是結構計算的結果。一個顏色對應一串物體，這些物體隨后反饋給模型變換。這些數據用來調整如圖1(下)所示環境的實時三維模型。最后，利用圖形引擎，生成三維球面的映射三維模型來創建出逼真的汽車環境影像。 以太網：基于R-car V2H的便捷之路 R-Car系列產品還包括R-Car V2H，它提供了一種利用以太網的視頻傳輸方法，從攝像頭視頻采集直到顯示接口。這種流水線方法不僅降低了對系統其余部分(如整體延遲、內存帶寬和CPU干預)的要求，而且大大降低了系統制造商軟件開發的復雜度。圖2展示了R-Car V2H的這種視頻路徑。從四個攝像頭數據的解復用到圖像矯正，不需要訪問外部存儲器，并且每一個攝像頭都對應有專用的硬件加速器。
圖2：R-Car V2H的以太網全景視頻傳輸路徑 系統成本的降低有助于全景環視的廣泛應用，而布線成本是不可忽視的一個部分。近年來出現了2種降低成本的方法，可減小當前基于LVDS的全景環視系統成本。一種是使用非屏蔽雙絞線上的以太網傳輸，另一種方法是更經濟的同軸電纜的升級版LVDS傳輸。兩種方法的系統成本差不多。不過，以太網解決方案不僅有助于降低系統成本而且為之后的應用提供了更好的靈活性。例如，隨著行車記錄系統的使用越來越廣泛，只需增加少量成本即可支持新的功能（如多通道同步錄像），因為這只需要帶有SD卡接口即可實現。相比LVDS，以太網傳輸的另一個好處在于基于AVnu聯盟的MAC層和基于開放聯盟的PHY層都是標準化的。 最佳視頻延遲控制路徑 在全景環視應用里，其中一個需要精心設計的方面是視頻傳輸(包括壓縮和解壓縮)和視頻處理階段中的延遲。事實上，從攝像頭采集影像到顯示影像的總體延遲應低于100ms，才能使駕駛人員能夠實時地感知環境。 目前，攝像頭工作的幀率為30幀/秒。使用全局快門時，傳感器電池在曝光時同時進行充電，然后成像器開始逐個輸出像素。因此，影像捕捉后大概一幀(33ms)左右傳輸最后一個像素。這個首幀延遲，無法縮短。另一個不可縮短的延遲是影像顯示，所有像素都必須在顯示影像之前傳輸完畢，這個延遲也是33ms左右。最后只剩下33ms來執行圖3所描述的其他任務。
圖3：視頻傳輸和圖像矯正的延遲 這個數據傳輸通路的第一步是數據傳輸。以太網協議并沒有提供專用機制來確保低延遲傳輸和攝像頭同步。這也是瑞薩在R-Car系列產品中首先引入了帶高級AVB硬件支持的千兆以太網MAC的原因。這為降低CPU負載和優化整個壓縮視頻接收提供了必要的硬件支持。一些專門的機制用于實現智能數據包解封和攝像頭視頻濾波。AVnu聯盟AVB協議的汽車規范里定義了對錄制視頻的快速啟動、低延遲(最大延遲為2ms)等多視圖攝像頭應用的關鍵技術的考慮。 最早的以太網的多攝像頭系統采用了低延遲的動態JPEG(MJPEG)壓縮技術。該技術基于眾所周知的JPEG標準，已被廣泛應用于消費類數碼相機。然而該技術對視頻質量的影響可能會限制后續視覺處理性能。因此，瑞薩認為H.264壓縮技術是最佳的視頻傳輸解決方案。這項技術提供了更好的壓縮比，可改進視覺處理性能。目前H.264技術已經廣泛應用在各種娛樂終端設備，它們也可已通過瑞薩豐富的汽車娛樂連接方案連接到汽車上。在R-Car V2H上，瑞薩實現了首個支持高清多通道、符合H.264標準且具有低延遲的視頻解碼的汽車SoC。 減少延遲的最后一步是縮短處理數據的延遲。事實上，傳統的基于DSP的系統需要通過雙緩沖區來采集視頻。R-Car V2H具有稱為IMR的專用引擎，可瞬時完成圖像矯正。此功能支持從最多5個低延遲視頻解碼器的直接傳輸圖像。由于R-Car V2H具有視頻直通路徑，以太網傳輸網絡中的總體延遲比傳統的LVDS大大降低了，如圖3所示。 成像與探測 IMR還可以采用查找表(LUT)即時進行視角轉換的二維或三維全景成像�？舍槍γ總�輸入幀更改攝像頭視角，以實現用戶視角間的動態轉換。其本身支持雙線性過濾，可提供出色的圖像質量。通過此方法，R-Car V2H自身只需極小的內存即可支持三維全景成像。R-Car V2H 具有與R-Car H2相同的圖像識別硬件。因此，它也可同時實現SfM計算，也還可以實現行人探測。它可以采用梯度直方圖和支持向量機分類，對四個攝像頭的數據同時進行行人探測。去年9月份在日本舉行的Renesas Developer Conference,11月份在德國舉行的慕尼黑電子展和今年3月份上海慕尼黑電子展上就對此功能進行了展示(圖4)。
圖4：基于 R-Car V2H的帶行人檢測功能的三維全景演示 結論 本文針對汽車多攝像頭應用的趨勢尤其是泊車輔助系統中的三維全景環視功能進行了討論。介紹了具有豐富可擴展性的R-Car汽車SoC系列產品。R-Car H2能夠實現汽車周圍環境即時的三維全方位成像，使泊車操作更加方便。在R-Car V2H中，引入了獨到的以太網視頻直通方法和以太網AVB MAC以及多通道H.264低延遲解碼器，從而實現了超低延遲視頻處理并減小了內存帶寬。瑞薩也引入了功能安全所需的關鍵特性，以使采用該產品的系統在功能安全上能達到ASIL B級別。 |
