LFADS:以循環網路生成器實現動力學
LFADS(透過動力系統的潛在因子分析)以一個循環網路作為生成器,實現了第二則指南的 seq-VAE。它從一整個試次的放電中,推論出單一個初始條件加上一串推論輸入,接著由一個訓練好的循環網路把它們向前推演成平滑的放電率估計。它最搶眼的成果令人印象深刻:在過去必須做試次平均之處,還原出乾淨的單試次神經軌跡 — 這是在單一試次中所能看見之物的一次真正躍進。
在概念上,LFADS 把動力系統假說具體化為一個可擬合的模型:它還原出的軌跡就是族群狀態,而循環網路學到的更新規則就是那個流 F。它所隱含的流場甚至可以被探測,用以追問這個網路收斂到了什麼吸子與運算。
神經常微分方程:連續時間的流
一個離散的循環網路採取固定的步伐;但大腦在連續時間中運作,而放電又不規律地到來。神經常微分方程對此的回答,是讓一個神經網路去參數化潛在狀態的導數,再用一個數值求解器把它積分起來。流因而變得明確而連續,模型也能原生地處理不規律的取樣 — 與第一則指南的 \dot{x}=F(x) 圖像乾淨吻合。
一個神經常微分方程:一個網路 f_θ 定義了流,而潛在狀態則由對它積分而得。學出 f_θ 就是直接學出連續時間的動力法則,而非一個離散的轉移矩陣。
結構化狀態空間與長脈絡
循環網路難以把資訊帶過很長的窗口。近來的一條路線 — 深度/結構化狀態空間模型(S4) — 復興了經典的連續線性狀態空間方程,卻以特殊的方式將它參數化,使得一段很長的序列既能以快速卷積、也能以線性遞迴來處理,並藉由特別的初始化讓狀態能記住久遠的過去。對於具有緩慢脈絡與長程依賴的神經資料,這類模型是愈來愈有吸引力、也高效的骨幹。
位於 S4 核心的線性狀態空間方程 — 與經典 LDS 是同一個對象。其進展在於 A 如何被結構化與初始化,使遞迴保持穩定,並能在極長的時程上記憶。
Transformer 與自監督的替代路線
並非所有人都對一個明確的流建模。神經資料 Transformer完全捨棄了遞迴,把族群的時間序列當作一個由注意力來建模的序列,並透過遮罩並重建留存的神經元與時間格來學習表徵。像 CEBRA 這樣的對比方法則走上又一條路,把嵌入塑造成讓行為上或時間上相似的狀態彼此靠近 — 完全不需要生成式的動力學。