動態規劃
貝爾曼算子的壓縮性質(contraction property)
為什麼一再敲打同一個回溯,最後真的會定在一個答案上,而不是永遠遊蕩?因為貝爾曼算子是個壓縮映射:每套用它一次,任兩個價值估計之間的差距,至少會以一個固定的比例縮小。誤差只會越來越小,於是整個過程被無可避免地拉向唯一的歇腳點。
若以最大範數來衡量——也就是各狀態差異中的最大值——套用算子會讓任兩個價值函數之間的距離,至多乘上折扣因子,而折扣因子小於一。根據巴拿赫不動點定理,這保證了唯一的不動點,以及朝它的幾何級數收斂:掃描 k 輪後的誤差,至多是該因子的 k 次方乘上初始誤差。這一個事實,撐起了所有動態規劃的正確性。
\lVert Tv-Tw\rVert_\infty \le \gamma\,\lVert v-w\rVert_\infty,\qquad 0\le\gamma<1
每次套用都把最大範數距離縮小 gamma 倍。
另见