把你手機裏的照片秒變3D!Facebook訓練了一個CNN端到端系統



  新智元報道  

來源:techxplore

編輯:永上

【新智元導讀】Facebook研究人員,開發出一個卷積神經網絡端到端系統,已經能實現幾秒鐘內,將任何設備上拍攝的2D圖像轉換成3D圖像。

 

現在人人都用手持設備(例如手機、平板)等拍照,並通過簡單的修圖應用對圖片編輯處理。人們通過不同的修圖工具,能輕鬆創造出不同風格的圖片。

 

訓練卷積神經網絡,依託計算機視覺、圖形學和機器學習

最近Facebook研究人員,通過Facebook AI開發的移動優化技術,訓練卷積神經網絡,在數百萬的3D圖像中,學習其附帶的圖像深度,可將任何設備拍攝的照片自動轉換爲3D圖像。

              

系統根據輸入的2D圖像,自動進行深度估計,實現2D到3D的實時轉換,僅需花費幾秒鐘即可完成處理。

該框架還結合了紋理修補,對輸入的2D圖像進行幾何捕捉,以使得它能在轉換爲3D圖像時更加生動逼真。每一個步驟都是自動的,直接在用戶的移動設備中對2D圖像進行各種各樣的模型優化,沒有設備內存和數據傳輸能力的限制。

輸入圖片:

              

 

處理過程:

         

輸出圖片:

             

 

這項技術對設備沒有要求,幾乎可處理任何照片,此前Facebook 3D轉換還需要照片是由雙鏡頭攝像頭拍攝完成。

 

實時轉換,無需攝影技巧

Facebook團隊將在SIGGRAPH 2020(計算機圖形學和互動技術大會 2020)上展示。SIGGRAPH 2020將在今年8月17日線上舉行,屆時來自各個領域的專業人士,將展示他們從不同角度對計算機圖形學和互動技術的研究。作爲該領域最重要的行業會議之一,許多前瞻性想法和研究都會在會議中得到展示和討論。

 

2018年底,Facebook爲其「照片功能」引入了2D轉3D的功能。但那時還需要Facebook用戶用配有雙鏡頭相機的手機拍照才能實現。

 

現在,Facebook團隊爲其增加了一種算法,可以自動爲輸入的2D圖像深度估計,改良後的技術能直接應用於任何移動設備,不限於Facebook App,且無需是雙鏡頭攝像頭拍攝的圖片。

 

「過去的一個世紀裏,攝影經歷了幾次技術「升級」,提高了人們的沉浸感。起初所有的照片都是黑白和顆粒狀的,後來出現了彩色照片,然後數碼照片帶給我們更高質量和高分辨率的圖像」。Facebook科學家,也是這項技術的主要研究者Johannes Kopf說,「現在有了3D圖像,讓照片更具生命力和真實感」。

               

3D圖像爲人們提供了「身臨其境的圖像體驗」,依託於計算機視覺、圖形學和機器學習的通力合作以及技術進步。

現在,Facebook研究小組正在研究機器學習方法,這種方法能夠對移動設備拍攝的視頻進行有效深度估計,未來將適用於視頻的2D轉換3D。

參考鏈接:

https://techxplore.com/news/2020-06-photos-d-mobile-device.html

整理不易,請給點贊和在看

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章