反事實解釋（counterfactual explanation）
/ kown-ter-FAK-choo-ul ek-spluh-NAY-shun /
反事實解釋，回答的是一個清新得很「人性」的問題：「得改變什麼，模型才會做出不同的決定？」它不去剖解模型那團纏繞的推理，而是給你一個具體的「另一種可能」：「你的貸款被拒了。倘若你的年收入再高5000美元，它本會獲批。」它解釋一個決定，靠的不是打開那只箱子，而是給你看「答案翻轉過來的那個最近的世界」。
其魅力在於：這正合人天生推敲決定的方式——我們是靠一個個小小的「要是……會怎樣」來理解事情的。一個好的反事實是「最小的」（改動盡可能少）、「現實的」（你不能要求一個人去改自己的年齡或出生地）、且「可行動的」（它指向某件那人真能去做的事）。當這三點都成立時，它就成了「補救之道」（recourse）：不只是一個解釋，更是一條「下回如何拿到不同結果」的實用建議。
反事實之所以要緊，是因為對一個決定的承受方而言，它往往是最有用、也最少誤導的解釋形式。它繞開了「假裝揭示模型真正內在邏輯」的那個陷阱——它只描述模型在某一個輸入附近的行為，而這恰恰是受影響者所需要的。誠實的告誡是：一個模型通常有許許多多個可能的反事實（要給人看哪一個，是個有後果的選擇）；而且，反事實描述的是模型的怪癖，未必是現實世界裡的原因——照著它的建議去做，改變的是模型的判決，卻未必總能改變你底下那個真實的處境。
一個求職篩選模型拒絕了一位申請人。一個反事實解釋說：「再多一年相關工作經驗，這份申請本會被接受。」這條既可行動又清楚。對照一個糟糕的：「倘若你再年輕五歲，本會被接受」——技術上也是一個反事實，可作為建議它毫無用處，還是年齡歧視的一面紅旗。
一個有用的反事實，指向某件你真能去改變的事——還能把偏見暴露出來。
一個反事實告訴你的，是如何翻轉模型的決定，而這與「如何改變你現實世界裡的結果」並不是一回事。如果模型倚仗的是一個虛假特徵，那麼對那個特徵「做手腳」，可能翻得了判決，卻改善不了任何真實的東西。反事實是關於模型的建議，所以它的可信度，不會超過它背後那個模型。