深度強化學習基礎
堆疊畫面(frame stacking)
看 Pong 的一張定格畫面:你看得到球,卻看不出它往哪個方向、以多快的速度移動。只看一張畫面的策略,等於對速度視而不見,而速度正是它行動時需要的。堆疊畫面的解法是把連續的數張畫面黏在一起——通常是最近四張——當成一個多通道輸入餵給網路。從堆疊畫面之間的差異,網路就能讀出運動。
技術上這是處理部分可觀測性的一個廉價辦法:單一觀測不是完整的馬可夫狀態,但最近觀測的一小疊通常就足以還原重要的資訊。它是給智能體記憶之外,雖樸素卻有效的替代方案。最初的 DQN 堆疊四張灰階 Atari 畫面,並在它們之間跳過幾張以涵蓋更長的時間。當一疊還不夠時——長期記憶、遮擋——智能體就改用循環網路。
另见