應用、環境與模擬到真實
模擬到真實的遷移(simulation-to-reality transfer,sim-to-real)
直接在真實世界訓練機器人既慢又貴,還會弄壞硬體。於是我們在物理模擬器裡用快上百萬倍的速度訓練,再把學到的策略搬到真實機器上——很像飛行員在真正開飛機之前,先在飛行模擬器裡累積時數。
模擬便宜、能大規模平行、安全,還免費附送完美的狀態標籤。麻煩在於現實差距(reality gap):模擬器對摩擦、接觸、延遲與感測雜訊的處理都有細微偏差,所以在模擬裡看似完美的策略,到了硬體上可能失敗。標準的補救手段是領域隨機化、系統辨識、領域適應,再加上一點真實資料的微調。
當落差落在你能隨機化或量測的參數上時,sim-to-real 效果最好。但若模擬器整個缺少某些現象——可變形的布料、複雜的流體流動、罕見的接觸情形——策略從未對著它們訓練,sim-to-real 就會吃力。
又称
另见