问责（accountability）
/ uh-kown-tuh-BIL-uh-tee /
问责，回答的是一个简单却躲不开的问题：当一套AI系统造成伤害时，谁要为它负责，而他又会承担什么？它意味着存在一个有名有姓、找得到的对象——一家公司、一个部署它的机构、或一个人——可以被要求去解释那个决定、去纠正它、去补偿受害者，并面对后果。没有问责，AI就成了一个完美的「甩锅器」：「是算法决定的」——这话一出口，往往就把对话堵死了。
它有几个组成部件。必须有「负责之人」（责任最终落在一个真实的实体身上，而非「系统」）；必须有「可解释性／可答复性」（能要求他们说清发生了什么、又为什么）；必须有「救济」（让受害者能够申诉、更正记录、得到弥补的途径）；还必须有「执行」（真实的后果，好让责任不只是象征性的）。关键在于：你无法把问责推卸给机器——一个模型不是法律意义上的人，不能被起诉、被罚款，也感受不到「威慑」。责任永远落在那些建造、出售、或选择部署它的人类身上。
它为何重要：自动化系统造就了学者所称的「问责鸿沟」——决定是由数据供应商、模型建造者、部署方交织而成的一团乱麻共同做出的，于是一旦出事，人人都能把手指向别人，而受影响的当事人却落得无人可究。诚实的难处在于：问责要能运转，先得有透明度（你无法为一个谁也查不了的决定追究谁的责任）；它还要求法律与制度真的去分配并执行责任——而这往往要比技术滞后好些年。
一套自助结账的人脸识别系统，错误地把一位顾客标记成了已知的窃贼，保安遂将其扣留。「是AI标记的」不是一个答案。问责追问的是：是谁选择部署了一套带有已知错误率的工具？谁来复核它的警报？又是谁来补偿这位被错误扣留的人？这些答案，必须指向具体的人，而非那个模型。
「是算法决定的」是一种推诿，而非一种辩护——责任无法外包给软件。
一个微妙的危险，是所谓的「道德缓冲区」：一旦出事，责难便坍缩到最靠近的那个人类操作员身上（安全员、店员），而那些设计了这套系统、并从中获利的机构却安然无恙。真正的问责，必须沿着「权力」与「利润」去追溯，而不只是盯住最后碰开关的那只手。