iPhoneのARKitでユーザの表情のブレンドウェイトを取得し,ラップトップPCに送信.ラップトップ上でリアルタイムに表情を反映したPBRレンダリングを実行.VC2023やMIRU2024などの国内学会におけるHuawei企業ブースで展示.
単眼Visual SLAMでリアルタイムにカメラポーズを推定し,MVSによりスキャン中数秒遅れで密な3D点群を復元.スキャン後,点群をメッシュ化及びUV展開し,Dressiを用いた微分可能レンダリングでPBRテクスチャ(ベースカラー,ノーマル,ラフネス,メタリック)を最適化.この際,撮影時に点灯していたスマートフォンのライトを既知光源として活用.その後,点光源とIBLによるリライティングをインタラクティブなビューワ上で行う.スマートフォンGPU上での微分可能レンダリング実行デモはおそらく世界初.MIRU2022やVC2022などの国内学会Huawei企業ブースで展示.
指導教官: 伊庭 斉志 教授, ダヌシカ ボレガラ 教授
共同研究者: 長谷川 禎彦 教授
指導教官: 大堀 淳 教授
共同研究者: 上野 雄大 教授, 森畑 明昌 教授
Link: SML#