智能体与前沿

神经符号AI(neuro-symbolic AI)

/ NOOR-oh sim-BOL-ik AY-EYE /

神经符号AI,试图把AI两大长期对立的伟大传统结合起来:神经网络,从堆积如山的数据里学习模糊的模式(擅长感知——认出一只猫、一段嗓音、一个句子),与符号AI,操作明确的规则与逻辑(擅长精确推理——算术、证明、严格按步骤来)。它寄望于兼得两者之长:学习的直觉与灵活,加上逻辑的严谨与可靠。

动机在于:每个传统都有一个刺眼的弱点,恰好被另一个补上。神经网络强大,却晦涩难解、在精确推理上不可靠——它会信心十足地把算术搞砸,或自相矛盾。纯符号系统精确、可解释,却脆弱:现实一旦不合它手写的规则,它就崩裂,而且它无法从原始数据中学习。一个神经符号系统,或许会用一个神经网络去读懂一个杂乱的真实场景,再用一个符号引擎去对它所发现的东西作清爽的推理——感知交给网络,逻辑交给规则。

对它的处境要有分寸。这个愿景既诱人又古老,也确有真切的成功(比如,一个语言模型写出形式逻辑或代码,再由一个可靠的外部求解器去执行——神经的直觉,把精确的活儿交给一个符号工具)。但要把模糊的学习与清爽的逻辑干净地熔为一体,已被证明是真的难;许多「神经符号」系统,与其说是深度融合,不如说是松散的流水线,而它也并非主导范式。它是一个严肃、活跃的研究方向,也是一个针对「纯神经网络之局限」的合理押注——而不是一份已解决的配方,或一个板上钉钉的未来。

问「如果所有玫瑰都是花,而有些花凋谢得很快,那么所有玫瑰都凋谢得很快吗?」,一个纯神经模型可能凭模式匹配,信心十足地答错「是」。神经符号的做法,则让网络把这些词翻译成形式逻辑,再交给一个逻辑引擎,后者正确地回答「不,这并不成立」。网络负责读;符号那一部分负责推理——而那份推理,在构造上就是可靠的。

网络读懂词句;逻辑引擎来推理——推理在构造上就可靠。

神经符号AI是一个有前景的想法,而不是一个主导或已解决的范式。那种清爽的分工——神经感知加符号逻辑——熔合起来比听上去要难,而多数能用的系统都是松散的流水线,而非天衣无缝的混合体。它是一个针对纯神经网络局限的严肃押注,目前仍在受检验。

又称
neurosymbolic AIhybrid AI神经符号AI神經符號AI混合AI