不同傳感器的視覺(jué)系統(tǒng)能讓汽車更擁有不同的智能效果
虛擬信道實(shí)現(xiàn)的首選硬件平臺(tái)是現(xiàn)場(chǎng)可編程門(mén)陣列(FPGA)。我們需要很長(zhǎng)時(shí)間來(lái)設(shè)計(jì)可替代的硬件平臺(tái),而且可能沒(méi)有無(wú)人機(jī)或AR/VR耳機(jī)等應(yīng)用所需的低功耗性能。有些人認(rèn)為FPGA占用的空間太大,消耗的能量太多,不適合作為支持虛擬通道的可行平臺(tái)。但是隨著半導(dǎo)體設(shè)計(jì)和制造的進(jìn)步使新一代更小、更節(jié)能的FPGA成為可能。
通過(guò)FPGA平臺(tái),MIPI CSI-2虛擬通道可以幫助嵌入式工程師將多個(gè)傳感器數(shù)據(jù)流合并到一個(gè)I/O端口上。無(wú)人機(jī)、智能汽車和增強(qiáng)或虛擬現(xiàn)實(shí)(AR/VR)耳機(jī)都使用多個(gè)不同類型的圖像傳感器來(lái)捕捉操作環(huán)境的數(shù)據(jù)。每個(gè)傳感器都需要連接到系統(tǒng)的應(yīng)用處理器(AP),以提供系統(tǒng)所需的圖像數(shù)據(jù),這對(duì)嵌入式工程師來(lái)說(shuō)是一個(gè)設(shè)計(jì)挑戰(zhàn)。
首要的挑戰(zhàn)則是在有限的AP I/O端口來(lái)連接傳感器時(shí),必須仔細(xì)分配I/O端口,以確保所有需要連接到AP的離散組件都有一個(gè)。其次,由于無(wú)人機(jī)和AR/VR耳機(jī)的外形的小巧尺寸,又必須使用電池供電。因此,在這些應(yīng)用程序中使用的組件必須保證尺寸適中和節(jié)能。解決AP缺乏I/O端口的一個(gè)解決方案是使用虛擬通道,如MIPI攝像機(jī)串行接口2 (CSI-2)規(guī)范中定義的那樣。它們可以將最多16個(gè)不同的傳感器流合并到一個(gè)單獨(dú)的流中,然后通過(guò)一個(gè)I/O端口將其發(fā)送到AP。
消費(fèi)者對(duì)無(wú)人機(jī)、智能汽車和AR/VR耳機(jī)的需求不斷增長(zhǎng),這推動(dòng)了傳感器市場(chǎng)的巨大增長(zhǎng)。Semico Research預(yù)計(jì),汽車(27% CAGR)、無(wú)人機(jī)(27% CAGR)和AR/VR耳機(jī)(166% CAGR)的應(yīng)用是傳感器的主要需求驅(qū)動(dòng)因素,并預(yù)測(cè)到2022年,半導(dǎo)體原始設(shè)備制造商每年將運(yùn)送超過(guò)15億個(gè)圖像傳感器。
上述的應(yīng)用程序需要多個(gè)傳感器來(lái)捕獲關(guān)于其操作環(huán)境產(chǎn)生的數(shù)據(jù)。例如,智能汽車可以使用多個(gè)高清圖像傳感器用于后視鏡和環(huán)繞攝像頭,一個(gè)激光雷達(dá)傳感器用于目標(biāo)檢測(cè),一個(gè)雷達(dá)傳感器用于盲點(diǎn)監(jiān)測(cè)。在當(dāng)今的智能汽車中,傳感器(雷達(dá)/激光雷達(dá)、圖像、飛行時(shí)間等)使緊急制動(dòng)、后視鏡和避碰等應(yīng)用成為可能。傳感器的激增也帶來(lái)了一個(gè)問(wèn)題,由于所有傳感器都需要將數(shù)據(jù)發(fā)送到汽車的AP上,而AP的I/O端口數(shù)量有限。此外,更多的傳感器還會(huì)增加設(shè)備電路板上與AP的連線密度,這就給耳機(jī)等小型設(shè)備的設(shè)計(jì)帶來(lái)了挑戰(zhàn)。
虛擬通道是解決AP I/O端口不足的一個(gè)妙計(jì)。剛才已介紹過(guò),它是將來(lái)自不同傳感器的視頻流合并為一個(gè)流,該流可以通過(guò)一個(gè)I/O端口發(fā)送到AP。目前流行的將相機(jī)傳感器連接到AP的標(biāo)準(zhǔn)是MIPI聯(lián)盟開(kāi)發(fā)的MIPI相機(jī)串行接口2 (CSI-2)規(guī)范。通過(guò)使用CSI-2虛擬通道功能,CSI-2可以將多達(dá)16個(gè)不同的數(shù)據(jù)流組合成一個(gè)數(shù)據(jù)流。然而,將來(lái)自不同圖像傳感器的流合并到一個(gè)視頻流中也存在幾個(gè)困難。
啟用虛擬通道所面臨的困難
事實(shí)上,將來(lái)自同一類型傳感器的傳感器數(shù)據(jù)合并到一個(gè)通道中并不復(fù)雜。在一種方法中,傳感器可以被同步并連接它們的數(shù)據(jù)流,這樣它們就可以兩倍寬度的圖像發(fā)送到AP上。但真正的挑戰(zhàn)來(lái)自于需要合并不同傳感器的數(shù)據(jù)流。
例如,無(wú)人機(jī)可以在白天使用高分辨率的圖像傳感器來(lái)檢測(cè)目標(biāo),在晚上使用低分辨率的紅外傳感器來(lái)捕捉熱成像來(lái)檢測(cè)目標(biāo)。這些傳感器有著無(wú)法同步的不同類型的幀速率、分辨率和帶寬。為了跟蹤不同的視頻流,每個(gè)CSI-2數(shù)據(jù)包都需要使用虛擬信道標(biāo)識(shí)符進(jìn)行標(biāo)記,以便AP能夠根據(jù)需要處理每個(gè)數(shù)據(jù)包。
虛擬通道結(jié)合來(lái)自多個(gè)傳感器的數(shù)據(jù)流來(lái)保存I/O端口。來(lái)自不同傳感器的數(shù)據(jù)流需要同步時(shí)鐘頻率和輸出頻率。除了分組標(biāo)記之外,結(jié)合來(lái)自不同類型傳感器的數(shù)據(jù)流同時(shí)還需要同步傳感器數(shù)據(jù)負(fù)載。如果傳感器以不同的時(shí)鐘速度工作,則需要為每個(gè)傳感器維護(hù)單獨(dú)的時(shí)鐘域。然后在將這些域輸出到AP之前對(duì)它們進(jìn)行同步。
專用硬件橋接器的作用
利用橋接解決方案來(lái)支持硬件中的虛擬通道可以解決上述問(wèn)題。通過(guò)專用的虛擬通道橋,所有圖像傳感器都連接到橋的I/O端口,這樣橋就可以通過(guò)一個(gè)端口連接到AP,從而釋放出寶貴的AP端口來(lái)支持其他外圍設(shè)備。橋接器再將這些多個(gè)跟蹤合并到AP上。
為了將連接傳感器和API/O端口最小化,一個(gè)具有虛擬通道支持的硬件橋?qū)⒍鄠€(gè)傳感器流合并到一個(gè)I/O端口上。FPGA允許為每個(gè)傳感器輸入實(shí)現(xiàn)并行數(shù)據(jù)路徑,每個(gè)路徑都有自己的時(shí)鐘域。這些域在虛擬通道合并階段進(jìn)行同步,如圖所示,從而消除了AP的處理負(fù)擔(dān)。
基于pld的虛擬信道硬件的優(yōu)點(diǎn)
在硬件實(shí)現(xiàn)虛擬通道支持方面,F(xiàn)PGA是集成電路(IC)平臺(tái)的不二之選。FPGA是具有靈活的I/O端口的集成電路,可以支持多種接口。它還具有可以用Verilog等硬件描述語(yǔ)言編寫(xiě)的大型邏輯陣列。
MIPI Camera Serial Interface-2 (CSI-2)規(guī)范啟用的虛擬通道幫助嵌入式工程師將多個(gè)傳感器數(shù)據(jù)流合并到一個(gè)I/O端口上,減少使用大量圖像傳感器的應(yīng)用程序的總體設(shè)計(jì)占用空間和功耗。憑借其可重編程性、性能和尺寸,低功耗FPGA允許客戶在其設(shè)備設(shè)計(jì)中快速、輕松地添加對(duì)虛擬通道的支持。
ASIC則需要漫長(zhǎng)的設(shè)計(jì)和質(zhì)量保證(QA)過(guò)程,F(xiàn)PGA則不同,它已經(jīng)通過(guò)了QA認(rèn)證,可以在幾天或幾周內(nèi)完成設(shè)計(jì)。然而,傳統(tǒng)的FPGA通常被視為體積龐大、耗電量大的設(shè)備,不適合電力受限的嵌入式應(yīng)用。
但隨著Lattice Semiconductor的FPGA CrossLink的出現(xiàn),這一說(shuō)法被推翻了。該系列提供了使用虛擬通道的視頻橋應(yīng)用程序所需的性能、大小和功耗的組合。FPGA提供了兩個(gè)4通道的MIPI D-PHY收發(fā)器,每個(gè)PHY的運(yùn)行速度可達(dá)6Gb /s,其形狀因數(shù)小到6mm2。它們支持多達(dá)15個(gè)可編程源同步差分I/O對(duì),如MIPI-D-PHY、LVDS、sub-LVDS,甚至單端并行CMOS,并且在許多應(yīng)用中消耗不到100兆瓦。另有支持休眠模式,以減少待機(jī)時(shí)的功耗。Lattice還擁有一個(gè)擴(kuò)展的軟件IP庫(kù),以幫助加速不同橋接解決方案的實(shí)現(xiàn)。