探索

探索策略(exploration strategies)

智能體只會了解它真正嘗試過的動作,所以如果它總是抓取當下看起來最好的選項,就可能永遠發現不了某個遠比它好的東西。探索策略就是一整族「刻意去嘗試不確定或不熟悉選項」的做法,用一點點即時獎勵換取日後才會兌現的資訊。它們正是對強化學習核心那個探索–利用兩難(exploration–exploitation dilemma)的實務回答。

這些策略從盲目到聰明都有。最簡單的只是注入隨機性——大部分時候貪婪行動,偶爾隨機挑一個。比較聰明的則是有方向的:它們朝智能體很少看過的狀態、預測很差的地方、或對價值最不確定的地方推進。有些帶著一個明確的「我不知道什麼」的模型;有些則把好奇心獎勵硬接到環境自己的獎勵上。該選哪一種,取決於獎勵訊號有多稀疏、又藏得多深。

又称
exploration methods