|
作者: Simon Oudin 全景環(huán)視是泊車輔助系統(tǒng)的重要組成部分，將會成為汽車的一項標(biāo)配功能。隨著人們對駕乘體驗、可擴(kuò)展性等方面的要求越來越高，全景環(huán)視原本興起于亞洲汽車制造商所推動的小眾市場的，當(dāng)下已經(jīng)成為主流汽車廠商提供的選配功能。瑞薩作為汽車信息娛樂系統(tǒng)和先進(jìn)駕駛輔助系統(tǒng)(ADAS)領(lǐng)域的SoC供應(yīng)商，在早期階段就已成為支持全景環(huán)視技術(shù)的主要廠商。如今，瑞薩提供基于新一代SoC的高擴(kuò)展性、創(chuàng)新的解決方案來應(yīng)對全球市場需求。 基于R-Car第二代產(chǎn)品的全景環(huán)視系統(tǒng) 全景環(huán)視的作用是實時顯示汽車周圍環(huán)境的全貌。這種以二維視角從空中360度成像的方式叫做鳥瞰圖或俯視圖。通過多個攝像頭的圖像矯正，可將采集圖像無縫銜接在一起。同時通過對不同攝像頭的亮度和色彩進(jìn)行調(diào)節(jié)，以使合成的全景視圖看上去更加協(xié)調(diào)。 不過僅僅顯示這一影像并不能在泊車過程中為駕駛?cè)藛T提供幫助。為了更好地進(jìn)行操控，在顯示二維視圖和車后方視圖時需要為駕駛?cè)藛T顯示更多的信息。而另外一種補(bǔ)充方法是通過車周圍環(huán)境的三維視圖來加強(qiáng)司機(jī)對距離的感知。通過安裝在汽車四周的二維相機(jī)來生成當(dāng)下汽車周邊的三維全景影像和三維的汽車影像，為駕駛?cè)藛T提供參考。影像必須真實反映出汽車與附近物體(行人、車輛和建筑)的距離。三維球面視圖應(yīng)隨著汽車的運(yùn)動動態(tài)地變化。汽車模型必須融合在周圍景象中，光照或反射光線都要在汽車模型上反映出來 。 此類應(yīng)用推動了汽車嵌入式平臺中的三維圖形和計算機(jī)視覺的性能提升。瑞薩R-Car SoC系列產(chǎn)品可用于此類應(yīng)用。第二代R-Car于2013年3月首次發(fā)布，它支持多種應(yīng)用，如外部設(shè)備連接、娛樂擴(kuò)展和先進(jìn)駕駛輔助(ADAS)。該系列產(chǎn)品具有卓越的性能和優(yōu)化的功耗，通用的API可降低客戶開發(fā)工作量。該系列的兩款產(chǎn)品支持全景環(huán)視應(yīng)用：R-Car H2和R-Car V2H。 R-Car H2帶來全新三維體驗 R-Car H2是2013年3月份發(fā)布的首款產(chǎn)品，是專為包含三維全景功能的集成式駕駛艙解決方案而定制的。在該應(yīng)用中，首先需要考慮三維圖形引擎的性能要求，特別要注意兩個方面：二維攝像頭圖像紋理在三維球面視圖的映射和汽車三維成像。成像場景中的多邊形計數(shù)取決于三維球面視圖的變換和汽車模型的渲染效果。圖形引擎必須能夠在短時間內(nèi)處理大量的多邊形運(yùn)算，從而使渲染效果更佳。 此外，由于此應(yīng)用可針對同一個場景使用不同的著色器程序，因此圖形引擎必須具有功能強(qiáng)大的著色器引擎。這些性能要求較高GPU頻率以實現(xiàn)高速數(shù)據(jù)處理。這些應(yīng)用方面的性能要求都推動了瑞薩將高性能的三維圖形引擎集成在R-Car H2中。事實上，該產(chǎn)品的三維圖形引擎提供了與iPad Air 的三維圖形引擎相當(dāng)?shù)男阅堋?br /> 通向增強(qiáng)真實感之路 感知三維場景是另外一個重要方面，有兩種實現(xiàn)技術(shù)。一種是人類立體視覺，不過它的缺點(diǎn)是使相機(jī)成本和集成工作量增加了一倍。另一種是創(chuàng)建車輛的“運(yùn)動恢復(fù)結(jié)構(gòu)(SfM)”，從而提供一段時間內(nèi)的立體視覺。瑞薩的R-Car產(chǎn)品系列采用了視覺專用硬件加速器，支持四個攝像頭的實時運(yùn)行算法，從而同時滿足對高性能和低功耗的要求。 SfM算法生成代表車輛和周圍物體運(yùn)動的流矢量列表。下一步關(guān)鍵是從流矢量中計算本體運(yùn)動并作匹配以計算出車輛的自運(yùn)動。從基礎(chǔ)矩陣中，可根據(jù)環(huán)境中的動態(tài)和靜態(tài)物體將流矢量進(jìn)行分類。靜態(tài)物體流矢量可直接提供物體的距離(與移動距離成反比）。 
圖1：SfM算法在R-Car H2中的實現(xiàn)。SfM算法在R-Car H2一個的攝像頭視頻上的運(yùn)行結(jié)果(上圖)。基于SfM處理結(jié)果的環(huán)境三維模型(下圖)。 圖1(上)展示了R-Car H2的一個運(yùn)行實例。圓圈代表靜態(tài)特征點(diǎn)，是結(jié)構(gòu)計算的結(jié)果。一個顏色對應(yīng)一串物體，這些物體隨后反饋給模型變換。這些數(shù)據(jù)用來調(diào)整如圖1(下)所示環(huán)境的實時三維模型。最后，利用圖形引擎，生成三維球面的映射三維模型來創(chuàng)建出逼真的汽車環(huán)境影像。 以太網(wǎng)：基于R-car V2H的便捷之路 R-Car系列產(chǎn)品還包括R-Car V2H，它提供了一種利用以太網(wǎng)的視頻傳輸方法，從攝像頭視頻采集直到顯示接口。這種流水線方法不僅降低了對系統(tǒng)其余部分(如整體延遲、內(nèi)存帶寬和CPU干預(yù))的要求，而且大大降低了系統(tǒng)制造商軟件開發(fā)的復(fù)雜度。圖2展示了R-Car V2H的這種視頻路徑。從四個攝像頭數(shù)據(jù)的解復(fù)用到圖像矯正，不需要訪問外部存儲器，并且每一個攝像頭都對應(yīng)有專用的硬件加速器。
圖2：R-Car V2H的以太網(wǎng)全景視頻傳輸路徑 系統(tǒng)成本的降低有助于全景環(huán)視的廣泛應(yīng)用，而布線成本是不可忽視的一個部分。近年來出現(xiàn)了2種降低成本的方法，可減小當(dāng)前基于LVDS的全景環(huán)視系統(tǒng)成本。一種是使用非屏蔽雙絞線上的以太網(wǎng)傳輸，另一種方法是更經(jīng)濟(jì)的同軸電纜的升級版LVDS傳輸。兩種方法的系統(tǒng)成本差不多。不過，以太網(wǎng)解決方案不僅有助于降低系統(tǒng)成本而且為之后的應(yīng)用提供了更好的靈活性。例如，隨著行車記錄系統(tǒng)的使用越來越廣泛，只需增加少量成本即可支持新的功能（如多通道同步錄像），因為這只需要帶有SD卡接口即可實現(xiàn)。相比LVDS，以太網(wǎng)傳輸?shù)牧硪粋�好處在于基于AVnu聯(lián)盟的MAC層和基于開放聯(lián)盟的PHY層都是標(biāo)準(zhǔn)化的。 最佳視頻延遲控制路徑 在全景環(huán)視應(yīng)用里，其中一個需要精心設(shè)計的方面是視頻傳輸(包括壓縮和解壓縮)和視頻處理階段中的延遲。事實上，從攝像頭采集影像到顯示影像的總體延遲應(yīng)低于100ms，才能使駕駛?cè)藛T能夠?qū)崟r地感知環(huán)境。 目前，攝像頭工作的幀率為30幀/秒。使用全局快門時，傳感器電池在曝光時同時進(jìn)行充電，然后成像器開始逐個輸出像素。因此，影像捕捉后大概一幀(33ms)左右傳輸最后一個像素。這個首幀延遲，無法縮短。另一個不可縮短的延遲是影像顯示，所有像素都必須在顯示影像之前傳輸完畢，這個延遲也是33ms左右。最后只剩下33ms來執(zhí)行圖3所描述的其他任務(wù)。
圖3：視頻傳輸和圖像矯正的延遲 這個數(shù)據(jù)傳輸通路的第一步是數(shù)據(jù)傳輸。以太網(wǎng)協(xié)議并沒有提供專用機(jī)制來確保低延遲傳輸和攝像頭同步。這也是瑞薩在R-Car系列產(chǎn)品中首先引入了帶高級AVB硬件支持的千兆以太網(wǎng)MAC的原因。這為降低CPU負(fù)載和優(yōu)化整個壓縮視頻接收提供了必要的硬件支持。一些專門的機(jī)制用于實現(xiàn)智能數(shù)據(jù)包解封和攝像頭視頻濾波。AVnu聯(lián)盟AVB協(xié)議的汽車規(guī)范里定義了對錄制視頻的快速啟動、低延遲(最大延遲為2ms)等多視圖攝像頭應(yīng)用的關(guān)鍵技術(shù)的考慮。 最早的以太網(wǎng)的多攝像頭系統(tǒng)采用了低延遲的動態(tài)JPEG(MJPEG)壓縮技術(shù)。該技術(shù)基于眾所周知的JPEG標(biāo)準(zhǔn)，已被廣泛應(yīng)用于消費(fèi)類數(shù)碼相機(jī)。然而該技術(shù)對視頻質(zhì)量的影響可能會限制后續(xù)視覺處理性能。因此，瑞薩認(rèn)為H.264壓縮技術(shù)是最佳的視頻傳輸解決方案。這項技術(shù)提供了更好的壓縮比，可改進(jìn)視覺處理性能。目前H.264技術(shù)已經(jīng)廣泛應(yīng)用在各種娛樂終端設(shè)備，它們也可已通過瑞薩豐富的汽車娛樂連接方案連接到汽車上。在R-Car V2H上，瑞薩實現(xiàn)了首個支持高清多通道、符合H.264標(biāo)準(zhǔn)且具有低延遲的視頻解碼的汽車SoC。 減少延遲的最后一步是縮短處理數(shù)據(jù)的延遲。事實上，傳統(tǒng)的基于DSP的系統(tǒng)需要通過雙緩沖區(qū)來采集視頻。R-Car V2H具有稱為IMR的專用引擎，可瞬時完成圖像矯正。此功能支持從最多5個低延遲視頻解碼器的直接傳輸圖像。由于R-Car V2H具有視頻直通路徑，以太網(wǎng)傳輸網(wǎng)絡(luò)中的總體延遲比傳統(tǒng)的LVDS大大降低了，如圖3所示。 成像與探測 IMR還可以采用查找表(LUT)即時進(jìn)行視角轉(zhuǎn)換的二維或三維全景成像。可針對每個輸入幀更改攝像頭視角，以實現(xiàn)用戶視角間的動態(tài)轉(zhuǎn)換。其本身支持雙線性過濾，可提供出色的圖像質(zhì)量。通過此方法，R-Car V2H自身只需極小的內(nèi)存即可支持三維全景成像。R-Car V2H 具有與R-Car H2相同的圖像識別硬件。因此，它也可同時實現(xiàn)SfM計算，也還可以實現(xiàn)行人探測。它可以采用梯度直方圖和支持向量機(jī)分類，對四個攝像頭的數(shù)據(jù)同時進(jìn)行行人探測。去年9月份在日本舉行的Renesas Developer Conference,11月份在德國舉行的慕尼黑電子展和今年3月份上海慕尼黑電子展上就對此功能進(jìn)行了展示(圖4)。
圖4：基于 R-Car V2H的帶行人檢測功能的三維全景演示 結(jié)論 本文針對汽車多攝像頭應(yīng)用的趨勢尤其是泊車輔助系統(tǒng)中的三維全景環(huán)視功能進(jìn)行了討論。介紹了具有豐富可擴(kuò)展性的R-Car汽車SoC系列產(chǎn)品。R-Car H2能夠?qū)崿F(xiàn)汽車周圍環(huán)境即時的三維全方位成像，使泊車操作更加方便。在R-Car V2H中，引入了獨(dú)到的以太網(wǎng)視頻直通方法和以太網(wǎng)AVB MAC以及多通道H.264低延遲解碼器，從而實現(xiàn)了超低延遲視頻處理并減小了內(nèi)存帶寬。瑞薩也引入了功能安全所需的關(guān)鍵特性，以使采用該產(chǎn)品的系統(tǒng)在功能安全上能達(dá)到ASIL B級別。 |
