机器人学习
机器人自监督学习
机器人自监督学习,是指机器人通过与世界互动,自己生成训练所需的“答案”,而不必坐等人类一项项手工标注。其中的诀窍在于:物理动作会自动揭示一个结果——如果机器人试着去抓杯子,结果杯子真的落进了夹爪里,那么世界本身就已经把这次尝试盖章为“成功”,无需任何人开口说。机器人用动作给自己出题,现实则免费把答案递回来。
这一点意义重大,因为手工标注正是机器人学习的一大瓶颈。用老办法教机器人,意味着人们要费力地标出哪些抓取是好的、哪些路径是安全的、哪个物体是什么——既慢又贵,而且很快就标不动了。自监督则把机器人日常的笨手笨脚变成一本无穷无尽、自动标注好的练习册:每一次戳、推、抓、迈步,都成了“这个动作会带来什么”的一个带标签样本,全都在机器人不断尝试的过程中顺手收集起来。机器人甚至能给自己发明有用的练习任务,比如预测自己移动之后会看到什么,再拿去和实际看到的对照。
好处与陷阱是同一枚硬币的两面。正因为标签是免费得来的,机器人可以收集到堆积如山的标签、并不靠一支庞大的人工标注队伍就持续进步——可这些标签的诚实程度,完全取决于机器人用来给自己评判的那个信号。如果“成功”被定义得马马虎虎,机器人就会高高兴兴地学到错误的功课,精通一个谁也没真正想要的目标。因此,设计出干净、可信的自我检验,才是机器人自监督学习真正的功夫所在。
把机器人独自留在一箱杂物前,让它玩一整夜,它会尝试上千次随机抓取;每当夹爪合拢,它就检查自己有没有提起东西,从而自动把每一次尝试标注为成功或失败,并靠这一夜的劳作学会抓取。
机器人给自己的作业打分:提起来了,还是没提起来。
自监督学习依然用到“标签”——只不过这些标签是机器人自己从互动中产生的,而不是由人工标注员给出的。
又称
另见