潛在動力學、系統辨識與進階估計
神經動力學的變分推論
這是當代大多數神經資料潛在動力學模型背後的估計引擎:不去計算潛在軌跡的精確後驗(只有線性高斯系統能透過 Kalman 平滑器求得),而是設定一個近似後驗並最大化證據下界。主流有兩種。結構化/黑箱 VI 針對每個資料集直接最佳化變分參數,常利用潛在鏈的馬可夫結構,使近似後驗維持為可處理的高斯馬可夫歷程。攤提式 VI 則訓練一個辨識網路,對任意輸入以單次前向傳遞輸出其後驗,這正是讓 seq-VAE 能擴展並跨試驗泛化的關鍵。
動力學情境下的獨特難處在於:潛在量是一條高維且相關的軌跡,因此變分族的選擇(對時間做平均場通常太粗糙)、穿過動力學的重參數化,以及重建項與 KL 項之間的權衡,都會實質改變推論出的動力學。誠實的作法是回報後驗預測檢查與共同平滑(co-smoothing,即預測留出的神經元),而非單看 ELBO,因為較高的 ELBO 並不保證得到更忠實或更可辨識的動力學模型。
另見