透明度（transparency）
/ trans-PAIR-un-see /
在AI里，透明度是指「局外人能在多大程度上看见并理解：一套系统是什么、它如何被造出来、以及它为何这样行事」。它横跨几个层面：披露（告诉你，你在和一台机器、而非一个人对话，以及它是用什么训练的）；可解释性（能够说出某一个具体决定为何会是那个样子）；以及文档（关于一个模型的预期用途、已知局限、如何被测试的清晰记录）。它的反面是「黑箱」——一套内部运作被隐藏起来的系统，无论是无意还是有意。
把人们常混为一谈的两件事分开会有帮助。一是关于「系统」的透明——它的目的、训练数据、评估与局限，这些都可以用平实的语言写下来给任何人看。二是「模型」的可解释性——能追溯出「这个输入为何产生那个输出」，而对于动辄数十亿参数的现代神经网络，这真的很难，有时甚至无法完全做到。你可以对「一个模型是什么」做到完全透明，却仍无法完全解释其中任何一次单独的预测。
它为何重要：一个你看不见的决定，你无法申辩、无法审计、也无法信任。透明度是问责的前提——没有它，错误会藏起来，偏见无人挑战，「电脑说不行」便成了一句无可辩驳的判决。但要诚实面对两个陷阱。其一，透明度并非万灵药：把一个模型内部的权重摊给人看，对他毫无用处。其二，一个解释可能在技术上准确，却具有误导性，甚至是事后编造出来、好让它看起来合理的。有意义的透明，意味着把「对的信息」给到「对的受众」——监管者、医生、或受影响的当事人——而不只是一股脑地倒出数据。
一家银行拒绝了某人的贷款。「透明」并不意味着把模型那数百万个权重公布出来——那对申请人毫无用处。它意味着一份清楚的告知：「您未通过；最主要的因素是信用历史较短、以及债务收入比偏高；以下是申请人工复核的途径。」这，才是一个人真正能据以行动的信息。
透明度是「给受众对的信息」——而非把模型内部数据一股脑倒出来。
当心「透明度表演」：公布一套系统的源代码或权重，看上去很开放，却没给任何人任何用得上的东西；而一段听起来流畅的解释，可能只是模型生成的、貌似合理的「故事」，并非它真正的推理过程。真正的透明，要看它是否让人能够核查、申辩、或改进那个决定。