神经符号联邦主义

来自 AI 研究立场图谱百科

神经符号联邦主义:神经网络负责感知和模式识别,符号系统负责推理,各自治理自己的领地。

主张

神经符号联邦主义主张分权。神经网络把杂乱的感官输入变成有用表征的本事无人能及,但它推理不可靠、出了训练分布就难以泛化,也解释不了自己。符号系统(逻辑、程序、搜索、定理证明器)推理精确透明,却没法感知。那就让双方各管一摊:网络把场景、文本和直觉解析成符号,符号引擎在有保证的前提下操作这些符号。

它在图上位于中间偏左,因为它推理所用的符号即便接地到对世界的感知上(场景、物体、几何),也仍是有名字的、类语言的东西;又落在最底部的 harness 一端,因为架构本身就是异构组件组成的联邦。颜色是革命:它复兴了被神经网络主流搁置的符号与混合 AI 传统,语气上与其说是决裂不如说是和解,但与当下的配方明显分道扬镳。

论据

  • Neuro-Symbolic Concept Learner 这类方法把图像解析为物体表征,再在其上执行符号程序,用更少的数据在组合式视觉推理上取得了很高的准确率。
  • AlphaGeometry 把神经语言模型和符号演绎引擎配对,以很高水平解出了奥赛几何题,每一步都能机器检验。
  • 符号组件提供可解释性和可验证的保证,这在安全攸关和科学场景中很重要。

批评

  • 神经与符号的接口正是系统最容易崩的地方,手工设计符号词表也无法规模化。
  • 许多神经符号的成功局限于几何、合成场景这类有干净形式结构的领域。
  • scaling 派认为大模型自己的推理越来越够用,符号那一半正变得可有可无。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.40,y ≈ −1.00,范式 ≈ +0.59。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据