潛在動力學、系統辨識與進階估計

神經常微分方程(neural ODE)

neural ODE 以一個神經網路來參數化潛在狀態的瞬時變化率,dx/dt = f_theta(x, t, u),並藉數值積分得到軌跡;梯度可由穿過求解器的反向傳播計算,或透過伴隨(adjoint)敏感度法——它在時間上反向積分第二條 ODE,所需記憶體與軌跡長度無關。置入序列 VAE 中,neural ODE 便成為一個連續時間的動力學先驗,在潛在空間上給出平滑且任意非線性的向量場,以取代離散時間的 RNN 遞迴。

連續時間的表述天然契合神經族群動力學:它能從容處理不規則或缺失的取樣、直接對接生理學家慣用的流場與固定點語彙,並讓人把學到的 f_theta 讀作一個估計出的向量場。實務代價也是實在的——僵硬(stiff)的動力學會迫使求解器走許多步、伴隨法的精度可能很細緻難調,而且如同任何彈性動力學模型,把資料擬合好本身並不還原出真正的支配方程。ODE-RNN 與 latent-SDE 等變體則在觀測時刻加入跳躍,或在漂移項加入隨機性。

neural ODE 學到的向量場只在可辨識性條目所述的平滑坐標變換意義下才可辨識;兩個外觀迥異的 f_theta 可能生成完全相同的可觀測神經軌跡。

又称
continuous-time latent dynamicsneural ODE