因果機器學習的研究前沿

學出那張圖：因果發現

至此一切都假設有人把 DAG 交給了你。因果發現演算法（causal discovery algorithms）則嘗試從資料中學出那個結構。兩大家族居主導地位。以約束為基礎（constraint-based）的方法（PC、FCI）從資料讀取條件獨立的樣式，並排除任何與之不一致的圖。以分數為基礎（score-based）的方法（GES，以及如 NOTEARS 的可微分做法）在圖的空間中搜尋，以最佳化一個對複雜度施以懲罰的契合度分數，把離散搜尋重塑為可用梯度下降處理的連續最佳化。

X \perp\!\!\!\perp Y \mid Z \;\Longleftrightarrow\; P(X,Y\mid Z)=P(X\mid Z)\,P(Y\mid Z)

基于约束的发现算法寻找条件独立性；共享同一组独立性的图构成一个马尔可夫等价类，单凭观测数据无法区分。

因果表徵學習

古典因果推論假設因果變數——處置、結果、混淆——已作為表格中乾淨的欄位給定。但原始的感知給你的是像素，不是變數。因果表徵學習（causal representation learning）的目標，是從高維觀測中復原一小組行為像是真正因果因子的潛在變數：你可以對它們各自獨立地施予介入。它是表徵學習與結構因果模型的聯姻——在學習變數如何相互致因之前，先學習變數究竟是什麼。

這是一片深水。純粹的無監督解纏（disentanglement）在沒有歸納偏置或額外訊號時可被證明為不可能，因此這個領域倚靠介入、多重環境或時間結構來讓潛在因果因子變得可識別。其回報將極為巨大：能支援介入與遷移的表徵，而非把一切糾纏進一個不透明的向量裡。

以不變性作為通往穩健的路徑

一位從不做實驗的機器學習工程師，為何該在意因果？因為因果關係跨環境穩定，而偽關係則否。一個倚賴「草地上的牛」背景的預測器，在牛站到海灘上的那一刻就失靈——這是捷徑學習（shortcut learning）導致分布偏移失敗的教科書案例。不變風險最小化（invariant risk minimization, IRM）把這點付諸操作：不再最小化平均誤差，而是尋找一個表徵，使其最佳預測器在所有訓練環境中都相同。其直覺是：一個不變的預測器必然倚賴真正的成因，而非環境特定的人造特徵。

\min_{\Phi}\;\sum_{e\in\mathcal{E}} R^{e}(\Phi)\;+\;\lambda\,\big\lVert \nabla_{w\mid w=1.0}\, R^{e}(w\cdot\Phi)\big\rVert^{2}

不变风险最小化加入梯度范数惩罚项，迫使同一分类器在每个训练环境中同时最优，只保留稳定的因果信号。

用深度模型做反事實

階梯的最高階——反事實推論（counterfactual inference）——問的是個體層級的「假如」：這位病人若服用了他沒服用的藥，本來會康復嗎？要回答它，需要一個結構因果模型的完整機制，分三步執行。

溯因（abduction）——利用關於此個體的已觀測事實，推斷其潛在雜訊項的後驗（此個體特有的背景）。
行動（action）——以對 SCM 方程式的手術施加假設性介入（例如 do(treatment = 1)）。
預測（prediction）——在修改後的模型下重新計算結果，並固定住已推斷的雜訊，以得到此個體的反事實結果。

P\!\left(Y_{x}=y \mid e\right)=\sum_{u} P\!\left(Y_{x}(u)=y\right)\,P(u\mid e)

结构反事实将三个步骤具体化：从证据推断噪声后验（溯因），将干预固定为 x（行动），再预测重新计算的结果（预测）。

深度生成模型可以扮演結構方程式的角色，讓這套配方在影像與其他豐富資料上運作。同樣的邏輯也支撐起離線強化學習（offline reinforcement learning）的反事實取徑——從固定的過往行為日誌出發，推理一個不同動作本來會獲得多少獎勵，正是一個反事實查詢。

這個領域的去向

前沿在於兩個各自長大的傳統之匯流：識別與估計的統計／圖形脈絡，以及靈活表徵的深度學習脈絡。因果機器學習要求它們融合——在尊重介入與反事實之紀律的同時，學出結構與表徵。誠實的現況是：假設始終是最難的部分——圖鮮為人知、工具稀缺、不變性脆弱。這條路線教給你的耐久技能，並非任何單一的估計式，而是一種習慣：去問要讓這個數字具有我希望的意義，什麼必須為真——並願意在資料無法回答時誠實說出口。