隨著配備雙目攝像頭的智能手機(jī)逐步增加，利用計(jì)算機(jī)視覺處理立體信息的需求也變得越來越重要。但現(xiàn)有的立體視覺數(shù)據(jù)集無論在數(shù)量和多樣性上都不足以支持豐富場景的雙目立體應(yīng)用。

為了解決這一問題，來自Leia公司的研究人員們構(gòu)建了一個(gè)包含49368對圖像的立體視覺數(shù)據(jù)集Holopix50k，這一數(shù)據(jù)集從大小和多樣性上都超過了現(xiàn)有的公開數(shù)據(jù)集，在立體圖像超分辨、單目深度估計(jì)等任務(wù)上都取得了非常大的性能提升。

立體視覺的及其廣泛應(yīng)用

近年來隨著硬件的發(fā)展，立體視覺已經(jīng)在智能手機(jī)中普及。通過雙目攝像頭不同視角的拍攝下能夠得到場景的立體信息，對于3D照片、虛擬現(xiàn)實(shí)和交互等應(yīng)用有著重要的作用。此外移動(dòng)機(jī)器人和自動(dòng)駕駛的迅速發(fā)展，也為立體視覺算法提出了更高的要求，需要在更為復(fù)雜的場景、多樣的真實(shí)環(huán)境中有效工作。

立體視覺的主要任務(wù)包括立體視差估計(jì)、基于自監(jiān)督或者無監(jiān)督方法對單張圖像輸入進(jìn)行單目深度估計(jì)和基于立體圖像提升分辨率的圖像超分辨等任務(wù)。這些任務(wù)都需要高質(zhì)量的大規(guī)模雙目／深度數(shù)據(jù)集來進(jìn)行訓(xùn)練。

目前人工智能領(lǐng)域的深度學(xué)習(xí)算法在多個(gè)領(lǐng)域取得重大的進(jìn)展，但大規(guī)模的、多樣性的數(shù)據(jù)需求卻成為了立體視覺領(lǐng)域開發(fā)出優(yōu)秀算法的阻礙！大規(guī)模的立體數(shù)據(jù)集是提升算法性能的關(guān)鍵之一。

目前立體視覺領(lǐng)域的數(shù)據(jù)集主要包括像KITTI，Middlebury、NYU Indoor等較為流行的真實(shí)數(shù)據(jù)集、還包括Make3D、ETH3D、CMLA和Cityscape等針對特定領(lǐng)域的數(shù)據(jù)集，近年來還出現(xiàn)了像Flickr1024和WSVD等場景更為豐富的數(shù)據(jù)集，但這些數(shù)據(jù)集在數(shù)量和相關(guān)指標(biāo)上并沒有良好的結(jié)果。

此外為了克服真實(shí)世界中數(shù)據(jù)收集的困難，研究人員還提出了利用圖形學(xué)渲染的方法來渲染獲取大量的雙目數(shù)據(jù)，主要包括MPI Sintel、SceneFlow、UnrealStereo和3D Ken Burns等數(shù)據(jù)，但合成數(shù)據(jù)應(yīng)用于真實(shí)場景會(huì)受到域遷移問題的影響，同時(shí)還需要很大的努力來構(gòu)建豐富的數(shù)字化場景。而Holopix50k的目的就在于綜合解決這些存在的問題。

Holopix50k

這一數(shù)據(jù)集主要從社交媒體平臺上收集而來，Holopix是目前最主流的3D攝影共享平臺，包含了大量的多視角立體視覺照片并可以利用視差效應(yīng)來顯示出三維效果。這里匯集了世界上最為豐富的立體視覺社交媒體圖像，用戶只需要上傳兩個(gè)或多個(gè)視角，就可以在光場顯示設(shè)備上獲取多視角圖像，也可以在普通設(shè)備上獲取基于移動(dòng)的模擬立體圖像。

在Holopix平臺上RED Hydrogen One拍攝的圖像最多，作為第一款集成光場性能的消費(fèi)級手機(jī)，它可以提供四個(gè)視角的多角度顯示。它擁有兩個(gè)水平排列的相機(jī)，同時(shí)對圖像進(jìn)行了校正并收斂于立體圖像的平均視差。與Flickr1024不同的是，這種方法并沒有對圖像進(jìn)行剪切來使得圖像片收斂于無窮遠(yuǎn)處的立體視差。

在最開始的階段，研究人員首先從Holopix上收集了約70k適合于作為數(shù)據(jù)集的立體視覺圖像對，針對左右圖像分辨率不匹配的情況會(huì)將兩張圖像的分辨率統(tǒng)一為其中較小的分辨率，利用高斯平滑和雙三次插值來將分辨率較高的圖像進(jìn)行下采樣。