透明度（transparency）
/ trans-PAIR-un-see /
在AI裡，透明度是指「局外人能在多大程度上看見並理解：一套系統是什麼、它如何被造出來、以及它為何這樣行事」。它橫跨幾個層面：披露（告訴你，你在和一台機器、而非一個人對話，以及它是用什麼訓練的）；可解釋性（能夠說出某一個具體決定為何會是那個樣子）；以及文件（關於一個模型的預期用途、已知侷限、如何被測試的清晰記錄）。它的反面是「黑箱」——一套內部運作被隱藏起來的系統，無論是無意還是有意。
把人們常混為一談的兩件事分開會有幫助。一是關於「系統」的透明——它的目的、訓練資料、評估與侷限，這些都可以用平實的語言寫下來給任何人看。二是「模型」的可解釋性——能追溯出「這個輸入為何產生那個輸出」，而對於動輒數十億參數的現代神經網路，這真的很難，有時甚至無法完全做到。你可以對「一個模型是什麼」做到完全透明，卻仍無法完全解釋其中任何一次單獨的預測。
它為何重要：一個你看不見的決定，你無法申辯、無法稽核、也無法信任。透明度是問責的前提——沒有它，錯誤會藏起來，偏見無人挑戰，「電腦說不行」便成了一句無可辯駁的判決。但要誠實面對兩個陷阱。其一，透明度並非萬靈藥：把一個模型內部的權重攤給人看，對他毫無用處。其二，一個解釋可能在技術上準確，卻具有誤導性，甚至是事後編造出來、好讓它看起來合理的。有意義的透明，意味著把「對的資訊」給到「對的受眾」——監管者、醫生、或受影響的當事人——而不只是一股腦地倒出資料。
一家銀行拒絕了某人的貸款。「透明」並不意味著把模型那數百萬個權重公佈出來——那對申請人毫無用處。它意味著一份清楚的告知：「您未通過；最主要的因素是信用歷史較短、以及債務收入比偏高；以下是申請人工複核的途徑。」這，才是一個人真正能據以行動的資訊。
透明度是「給受眾對的資訊」——而非把模型內部資料一股腦倒出來。
當心「透明度表演」：公佈一套系統的原始碼或權重，看上去很開放，卻沒給任何人任何用得上的東西；而一段聽起來流暢的解釋，可能只是模型生成的、貌似合理的「故事」，並非它真正的推理過程。真正的透明，要看它是否讓人能夠核查、申辯、或改進那個決定。