机器人的可解释性与信任

可解释性，是机器人把自己的选择讲给身边的人听懂的能力——用人能跟得上的说法，展示它为什么这么做。信任，则是你希望由此换来的结果：人们对机器人的依赖恰到好处，既不盲目，也不畏惧。这两者本就该绑在一起，因为没有理解的信任，不过是一场赌博。如果一台机器人在走廊里戛然停住，而你完全不知道为什么，你就分辨不出它是在小心，还是坏掉了——于是你要么过度信任它，要么干脆不再用它。

当机器人越来越多地从数据中学习、而非照搬手写的规则时，这种需求就变得更迫切。一个学到的模型可能是个“黑箱”：它给出一个结果，却没有一条人能读懂的、干净利落的理由。可解释机器人学，努力用朴素的信号把这个箱子撬开——一辆自动驾驶汽车会说“正在为右侧的行人减速”，一台仓库机器人会把它即将抓取的箱子高亮出来，一只机械臂会在动起来之前，先把它打算挥过去的路径显示出来。这种解释不必把内部的每一个数字都摊开；它只需给人足够的信息，去预测、去核对，并在必要时推翻这台机器。

好的解释能建立起“校准过的信任”——一份与机器人实际可靠程度相称的信任。这才是真正的目标，因为两个极端都很危险：信任太少，一台有用的机器人就被搁置不用；信任太多，人就会跟着一台看上去信心十足的机器，径直走进一个错误。因此，诚实的机器人不只告诉你它的决定，还会示意它的不确定性，相当于在说“我相当有把握”或“我这里是在猜”，好让人确切地知道，什么时候该凑近些、再仔细看一眼。