潛在動力學、系統辨識與進階估計

潛在動力學的可辨識性

可辨識性追問的是:模型復原出的東西究竟由資料所決定,還是眾多同樣良好之替代方案中的一個。對潛在動力學模型而言,答案通常是後者:它們一般只在變換意義下可辨識。線性高斯狀態空間模型僅在潛在基底的可逆線性變換(含旋轉與縮放)意義下才被確定;而非線性潛在模型在沒有額外結構時,僅在潛在空間的平滑可逆重參數化意義下可辨識——因此坐標軸、推論流形的幾何,以及向量場的具體形式,本身都不具意義。

這對詮釋有嚴峻後果。在相同資料上訓練的兩個網路,可能找到外觀不同卻僅差一個扭曲的潛在動力學;反過來,要在不同動物或模型間比對潛在軌跡,就需要對這些變換不變的方法。進展來自加入可辨識結構:已知的輸入或介入、輔助變數(如可辨識 VAE/iVAE 的結果,在有旁側資訊時能將潛在量復原至僅差置換與縮放)、稀疏性,或物理約束。誠實的回報準則是明白陳述其不變性,並把主張建立在對這些變換不變的量上(固定點的拓撲、頻譜、解碼表現),而非建立在原始潛在坐標上。

許多關於「某項神經運算之幾何」的表面爭論,一旦認真對待可辨識性便會消解——爭議中的特徵往往對模型所視而不見的那些變換並不不變。