潛在動力學、系統辨識與進階估計
序列變分自編碼器(seq-VAE)
序列 VAE 是一種 VAE,其潛在碼本身即為一條受動力學先驗支配的軌跡。生成解碼器將低維潛在狀態序列映射到觀測到的神經時間序列(尖峰常以 Poisson 發射模型處理),動力學先驗——RNN、線性系統或 neural ODE——約束潛在狀態如何演化,而攤提式(amortized)的推論(辨識)網路則由資料近似整條軌跡的後驗。訓練過程最大化序列似然的證據下界(ELBO)。
在系統神經科學中,LFADS 是其典範實例,採用一個生成器 RNN,以及一個同時推論每次試驗初始條件與時變輸入的編碼器;許多後繼者鬆綁或替換了這些元件。此框架之所以強大,是因為它能把單次試驗的族群活動去噪成平滑的潛在軌跡,並能推論未觀測到的輸入;但它也繼承了 VAE 的病態——後驗塌縮、對 KL 權重與推論網路容量的敏感,以及一個始終存在的風險:過度彈性的解碼器或推論輸入通道可能靠記憶而非靠發現動力學來解釋資料。
一種反覆出現的失敗模式:若推論出的時變輸入容量過大,「動力學」就淪為被動的傳輸管道,潛在軌跡不再反映一條自主的動力學定律。約束或懲罰推論輸入,往往正是區分機制式擬合與彈性自編碼器的關鍵。
另見