繼50天內(nèi)拿下4個世界紀(jì)錄后，近日，大華股份再次刷新KITTI Sceneflow和KITTI Flow兩項競賽的全球最好成績，采用基于實例分割、深度視差網(wǎng)絡(luò)、剛體運動一致性約束的場景流估計算法，超越了其它一流AI公司和頂尖的學(xué)術(shù)研究機構(gòu)，以及ICCV、ECCV、CVPR相關(guān)論文中的場景流研究成果，這標(biāo)志著大華股份在場景流與光流兩個算法領(lǐng)域均具有重大國際影響力。

大華股份取得

KITTI Sceneflow排行榜第一名

（網(wǎng)址: www.cvlibs.net/datasets/kitti/eval_scene_flow.php)
大華股份取得
KITTI Flow排行榜第一

網(wǎng)址: （www.cvlibs.net/datasets/kitti/eval_scene_flow.php?benchmark=flow)

關(guān)于KITTI：

KITTI數(shù)據(jù)集由德國卡爾斯魯厄理工學(xué)院和豐田美國技術(shù)研究院聯(lián)合創(chuàng)辦，是目前國際上最大的計算機視覺算法評測數(shù)據(jù)集之一。數(shù)據(jù)集用于評測立體匹配(stereo)、光流(flow)、場景流(sceneflow)、視覺里程計(visual odometry)、物體檢測(object detection)和跟蹤(tracking)、道路分割(road)、語義分割(semantics)等計算機視覺技術(shù)的性能。KITTI包含市區(qū)、鄉(xiāng)村和高速公路等場景采集的真實圖像數(shù)據(jù)，每張圖像中最多包含15輛車和30個行人，且存在不同程度的遮擋與截斷。

場景流與光流：

場景流算法能夠同時估計場景中物體的三維位置與三維運動矢量，是感知環(huán)境空間幾何結(jié)構(gòu)的核心算法，與感知語義信息的算法結(jié)合后，能夠全面地理解環(huán)境。三維場景流的估計結(jié)果能夠進一步分解為立體匹配結(jié)果與光流匹配結(jié)果，可以認為，光流是場景流映射到二維圖像坐標(biāo)系的投影。

在本次比賽中，大華股份AI團隊為提升場景流估計精度，增加了一系列算法模塊。首先，基于Mask-RCNN網(wǎng)絡(luò)進行實例分割，從場景中分割出行人、車輛、自行車等前景目標(biāo)。接下來，基于GC-Net計算初始視差圖，使用分段多權(quán)重loss函數(shù)、利用實例分割結(jié)果和多尺度特征圖優(yōu)化初始視差結(jié)果，得到更加精細的視差圖，進而改善了初始的proposal NRT集合。最后，引入移動前景目標(biāo)的剛體運動一致性約束，針對場景流不連續(xù)區(qū)域，采用多閾值融合的策略，優(yōu)化場景流估計結(jié)果。

在評測中，采用場景流和光流算法的效果和計算結(jié)果如下所示：

▲輸入圖像

▲T0時刻視差圖

▲經(jīng)光流反向映射后的T1時刻視差圖

▲T0時刻到T1時刻的光流圖

在大華實際產(chǎn)品和未來產(chǎn)品中的應(yīng)用

本次競賽中使用的技術(shù)已在大華股份的雙目攝像機、全景攝像機等產(chǎn)品上得到應(yīng)用，提升多目攝像機的捕獲目標(biāo)深度數(shù)據(jù)、目標(biāo)分離等算法性能。同時，該技術(shù)也成功應(yīng)用于AR融合應(yīng)用，實現(xiàn)單個與多個攝像機圖像的AR語義融合，極大提升行業(yè)解決方案的用戶體驗。

雙目攝像機立體匹配應(yīng)用場景

以下為致密物體堆積下立體匹配的效果：

▲雙目圖像左圖

▲視差圖估計結(jié)果

AR語義融合應(yīng)用場景

以下為路面圖像的AR語義融合效果，可供增強的信息：目標(biāo)類別、位置、運動矢量等。

▲真實圖像

▲AR語義融合后的效果