如果說圖像傳感器是智能駕駛汽車的“眼睛”,那圖像傳感器動態(tài)范圍作為汽車成像中的一個(gè)關(guān)鍵指標(biāo),就代表了這只“眼睛”能看到的細(xì)節(jié)、層次與特征多少,對行駛過程中的環(huán)境路況判斷有很大影響。
什么是動態(tài)范圍?維基百科定義,動態(tài)范圍(Dynamic Range)是可變化信號(例如聲音或光)最大值和最小值的比值。
實(shí)際上,動態(tài)范圍是一個(gè)通用的概念,不同的信號或者變量S都可以定義自己的動態(tài)范圍,不僅圖像傳感器有動態(tài)范圍,顯示器,投影機(jī),打印機(jī)等等都有自己的動態(tài)范圍,甚至我們可以定義一個(gè)人的動態(tài)范圍,如果這個(gè)人條件艱苦時(shí)能吃苦,條件優(yōu)渥時(shí)會享受,既能將就也會講究,這就是個(gè)高動態(tài)范圍的狠人。針對一幀圖像而言,S的最小值為1,最大值受限于數(shù)據(jù)帶寬,即數(shù)據(jù)能夠存儲的最大值。一張8位的灰度圖,最大值255,此時(shí)理論上的動態(tài)范圍就是48dB,10位圖像動態(tài)范圍可到60dB,20位圖像動態(tài)范圍120dB。
場景的動態(tài)范圍和圖像的動態(tài)范圍,大多數(shù)情況是不一致的。場景的信號S不是圖像的灰度值,它是場景發(fā)射光線的亮度。可以理解為S最大值是場景中最亮部分的亮度,S的最小值是場景中最黑部分的亮度。它與圖像動態(tài)范圍相關(guān)但不相等。同時(shí)圖像的后處理通常會把線性數(shù)據(jù)壓縮為非線性輸出,這也會放大圖像數(shù)值和場景動態(tài)范圍的差異。
圖1:寬動態(tài)典型場景
如果把場景的亮度作為橫坐標(biāo),圖像傳感器輸出的數(shù)據(jù)作為縱坐標(biāo),我們就得到圖2所示的傳感器輸出和場景的動態(tài)范圍映射關(guān)系。圖像傳感器把一定亮度范圍的場景采集并映射為自己的輸出,如圖中紅框所示。
圖2:場景到傳感器的動態(tài)范圍映射
圖像傳感器實(shí)際動態(tài)范圍通常比場景的動態(tài)范圍低,傳感器的能力只能采集紅框?qū)?yīng)橫坐標(biāo)內(nèi)場景的亮度范圍。紅框的位置需要動態(tài)調(diào)整移動,以適應(yīng)場景亮度的變化,這是成像算法中自動曝光(auto exposure)模塊的任務(wù)。
對汽車高動態(tài)范圍的場景,會有同一場景中極亮和極暗部分同時(shí)出現(xiàn)的情況,例如夜間街道,既有車大燈也有街道的暗角,此時(shí)移動紅框已經(jīng)無法同時(shí)看清楚兩個(gè)部分,必須把紅框做大,這就是汽車上用到的高動態(tài)范圍圖像傳感器。
從原理上講,紅框尺寸受限于傳感器的像素勢阱容量,受限于尺寸,很難簡單做大,車用圖像傳感器的高動態(tài)范圍技術(shù)是行業(yè)面臨的共同挑戰(zhàn)。過去二十年來,車載圖像傳感器的高動態(tài)范圍大致有如下四大技術(shù)流派。
一、動態(tài)改變像素的靈敏度擴(kuò)充動態(tài)范圍
第一個(gè)是動態(tài)改變像素的靈敏度擴(kuò)充動態(tài)范圍。如圖3所示,圖像傳感器對場景亮度的映射變成非線性,隨著環(huán)境亮度增加,像素靈敏度逐漸下降,靈敏度從亮度的線性函數(shù)變成分段函數(shù)。如下圖所示,電荷積累分成三段,亮度低時(shí)靈敏度高,對應(yīng)黑色電荷,然后亮度中等靈敏度也中等,對應(yīng)藍(lán)色電荷,最后亮度最高靈敏度最低。從坐標(biāo)圖中可以看到,此時(shí)像素的勢阱容量即縱坐標(biāo)不增加,但映射的場景亮度范圍即橫坐標(biāo)可以明顯加大,實(shí)現(xiàn)了增大動態(tài)范圍的目標(biāo)。
安森美(onsemi)的車用圖像傳感器產(chǎn)品線早期推出過30萬像素的可變靈敏度傳感器,就是基于此類技術(shù),這個(gè)技術(shù)的最大挑戰(zhàn)在于它改變了像素的靈敏度特性,讓線性特性的靈敏度變成非線性,而這個(gè)折線的形狀對電壓、溫度和曝光時(shí)長敏感,一致性差,動態(tài)范圍擴(kuò)展能力有限,只能勉強(qiáng)用于大尺寸像素黑白圖像的傳感器。目前這類技術(shù)已經(jīng)逐漸被市場淘汰。
圖3:非線性化擴(kuò)充動態(tài)范圍
二、時(shí)分多次曝光
第二個(gè)高動態(tài)范圍技術(shù)是時(shí)分多次曝光,這個(gè)是目前主流車用圖像傳感器所采用的技術(shù)。做法就是圖像傳感器改變曝光時(shí)間連續(xù)多次曝光得到多幀圖像,然后從中選擇合適像素合并成一幀圖像。如圖4示意,傳感器改變曝光時(shí)間,相當(dāng)于自帶自動曝光功能,對場景不同亮度分別采樣,得到多個(gè)紅框,然后把動態(tài)范圍拼接起來。這個(gè)技術(shù)的優(yōu)點(diǎn)在于:像素勢阱容量不用額外做大,只需把數(shù)據(jù)帶寬做大;每個(gè)曝光的時(shí)長控制可以很精確,最終擬合的圖像亮度線性特性好;動態(tài)范圍擴(kuò)展容易,僅用時(shí)分技術(shù)就能做到140dB的動態(tài)范圍。
時(shí)分多次曝光技術(shù)有一個(gè)難以克服的問題,由于傳感器的連續(xù)曝光時(shí)間上是依次滯后的,當(dāng)場景中有快速移動物體或光照劇烈變化例如LED頻閃情況下,多幀圖像擬合后會出現(xiàn)運(yùn)動物體偽影和色彩噪聲。ADAS算法需要針對性地訓(xùn)練這類噪聲。
圖4:多幀合并擴(kuò)充動態(tài)范圍
三、空分多次曝光
空分多次曝光,業(yè)內(nèi)也有稱之為大小像素技術(shù)。本質(zhì)來說與時(shí)分多次曝光類似,由多幀融合,區(qū)別在于圖4中的多個(gè)紅框來源于空間尺寸上不同的兩種像素,兩種像素的圖像擬合成為一張圖像。由于兩種像素在曝光時(shí)間上是對齊的,可以避免了運(yùn)動重影的問題,同時(shí)改善LED燈頻閃現(xiàn)象。
不過有得就有失:空分曝光,意味著像素?cái)?shù)量翻倍, 例如1百萬像素傳感器實(shí)際上是1百萬大像素加1百萬小像素,增加了功耗和設(shè)計(jì)復(fù)雜度;小像素?cái)D占了大像素的面積,降低了大像素的低照性能;大小像素的靈敏度差異大,線性特性差,小像素在光學(xué)上無法和大像素兼容,需要大量的光學(xué)標(biāo)定工作以補(bǔ)償小像素的問題。這些都是用戶在產(chǎn)品應(yīng)用開發(fā)中需要解決的工程挑戰(zhàn),此外,大小像素圖像傳感器受小像素尺寸限制,隨著技術(shù)演進(jìn)會逐漸變成瓶頸,所以安森美在2009年就發(fā)明并申請了大小像素技術(shù)的專利,但并沒有推出相應(yīng)的傳感器產(chǎn)品。
四、直接擴(kuò)展像素的勢阱容量
第四個(gè)高動態(tài)范圍技術(shù)就是直接擴(kuò)展像素的勢阱容量。傳統(tǒng)圖像傳感器像素的感光二極管在感光的同時(shí)兼具電荷存儲的功能,因此像素的電荷勢阱容量受限于感光二極管尺寸。隨著像素尺寸越來越小,像素的容量也逐漸變小。安森美的超級曝光像素技術(shù)突破了這一限制,并在業(yè)內(nèi)率先量產(chǎn)了基于這一技術(shù)的產(chǎn)品。技術(shù)路徑就是為感光二極管外掛了存儲電容,當(dāng)容量飽和時(shí),多余的電荷會被轉(zhuǎn)移到電容中存儲起來。這里的電容不參與光學(xué)感光,但擴(kuò)充了像素的勢阱容量。如圖5示意,上面的小桶相當(dāng)于感光二極管,下面的大桶相當(dāng)于存儲電容。大桶不直接接水,只存儲小桶溢出的水。
圖5:感知和存儲分離
超級曝光像素把電荷存儲功能從感光二極管剝離出來,跳出了固有限制,實(shí)現(xiàn)了像素動態(tài)范圍和感光二極管的解耦。這一技術(shù)具有良好的線性特性,保留了單一像素架構(gòu),無需復(fù)雜的光學(xué)標(biāo)定,并解決了時(shí)分導(dǎo)致的偽影和LED頻閃的問題。與感光二極管的解耦,看似簡單的一步,卻打開了未來更小像素,更大動態(tài)范圍產(chǎn)品的設(shè)計(jì)想象空間。
為了支持足夠高的動態(tài)范圍,業(yè)內(nèi)產(chǎn)品通常會復(fù)用上述三種技術(shù)。一張高動態(tài)范圍的圖像,可能是時(shí)分多次曝光幀、大小像素幀和超級曝光幀的復(fù)合擬合結(jié)果。這有點(diǎn)像汽車動力中的插混方案,動力可能來自自排發(fā)動機(jī),渦輪增壓,以及電機(jī)直驅(qū)的并聯(lián)。這里多幀擬合的線性特性很像汽車駕駛動力變化的線性特性,保證輸出的平順與線性是高動態(tài)范圍圖像的巨大挑戰(zhàn)。一般來說,技術(shù)種類越少,線性特性越好。
小結(jié)一下,CMOS圖像傳感器的動態(tài)范圍是汽車應(yīng)用中重要的參數(shù)指標(biāo),它是目前業(yè)內(nèi)共同面臨的技術(shù)挑戰(zhàn),介紹了幾種傳統(tǒng)動態(tài)范圍擴(kuò)展技術(shù)的特點(diǎn),以及新出現(xiàn)的超級曝光像素技術(shù),它的出現(xiàn)打破了既有技術(shù)的窠臼。