IMU協同相機顏色幀構建更真實的AR天空。

AR技術的發展模糊了現實和虛擬世界之間的界限。

天空在日常環境中無處不在,它的模擬是AR技術裡重要的組成部分,天空的實時更替是一個很大的挑戰。

MobileSky首次使用了用於移動AR體驗的自動天空替換方法。

通過將相機顏色幀和IMU數據作為輸入,產生了接近真實的天空效果,運行速度約為30FPS《Hz》。

研發過程中的主要挑戰是如何快速準確地提取相機饋送中的天空區域。

研發人員為了給相機幀實時提供更高質量、空間和時間一致的天空遮罩圖,搭建了一種全新的將深層語義網絡與後處理細化步驟相結合的框架。

並且利用IMU數據,提出了新的天空感知約束,如時間一致性《使用了幀上相關的IMU數據來對齊前一幀和當前幀》、位置一致性和顏色一致性,以幫助細化分割輸出的弱分類部分。

IMU協同相機顏色幀構建更真實的AR天空。

分類 AR