問責（accountability）
/ uh-kown-tuh-BIL-uh-tee /
問責，回答的是一個簡單卻躲不開的問題：當一套AI系統造成傷害時，誰要為它負責，而他又會承擔什麼？它意味著存在一個有名有姓、找得到的對象——一家公司、一個部署它的機構、或一個人——可以被要求去解釋那個決定、去糾正它、去補償受害者，並面對後果。沒有問責，AI就成了一個完美的「甩鍋器」：「是演算法決定的」——這話一出口，往往就把對話堵死了。
它有幾個組成部件。必須有「負責之人」（責任最終落在一個真實的實體身上，而非「系統」）；必須有「可解釋性／可答覆性」（能要求他們說清發生了什麼、又為什麼）；必須有「救濟」（讓受害者能夠申訴、更正記錄、得到彌補的途徑）；還必須有「執行」（真實的後果，好讓責任不只是象徵性的）。關鍵在於：你無法把問責推卸給機器——一個模型不是法律意義上的人，不能被起訴、被罰款，也感受不到「威懾」。責任永遠落在那些建造、出售、或選擇部署它的人類身上。
它為何重要：自動化系統造就了學者所稱的「問責鴻溝」——決定是由資料供應商、模型建造者、部署方交織而成的一團亂麻共同做出的，於是一旦出事，人人都能把手指向別人，而受影響的當事人卻落得無人可究。誠實的難處在於：問責要能運轉，先得有透明度（你無法為一個誰也查不了的決定追究誰的責任）；它還要求法律與制度真的去分配並執行責任——而這往往要比技術滯後好些年。
一套自助結帳的人臉辨識系統，錯誤地把一位顧客標記成了已知的竊賊，保全遂將其扣留。「是AI標記的」不是一個答案。問責追問的是：是誰選擇部署了一套帶有已知錯誤率的工具？誰來複核它的警報？又是誰來補償這位被錯誤扣留的人？這些答案，必須指向具體的人，而非那個模型。
「是演算法決定的」是一種推諉，而非一種辯護——責任無法外包給軟體。
一個微妙的危險，是所謂的「道德緩衝區」：一旦出事，責難便坍縮到最靠近的那個人類操作員身上（安全員、店員），而那些設計了這套系統、並從中獲利的機構卻安然無恙。真正的問責，必須沿著「權力」與「利潤」去追溯，而不只是盯住最後碰開關的那隻手。