来自 AI 研究立场图谱百科
程序合成主义:理解一个情境,就是写出一段能解释它的程序;智能就是从少量样例中高效地合成程序。
主张
程序合成主义认为,感知和学习的正确产出不是一个向量,也不是一段 caption,而是一段程序:紧凑、可执行、可组合的描述,既能复现观察到的东西,又能推广到观察之外。面对一张谜题网格、一个视觉场景或几对输入输出,智能系统应该去搜索能解释它们的最短程序,并在过程中积累可复用的抽象库。在这种观点看来,少样本泛化正是程序归纳能做到、而模式匹配做不到的事。
它在图上略偏语言一侧,因为即便招牌问题是视觉和空间的(抽象网格谜题、场景、绘图),它产出的程序仍然是代码;又明显偏向 harness 一端,因为它把模型和解释器、搜索过程、不断增长的库耦合在一起。范式等级为革命:程序归纳是个游离于今天主流之外的老想法,因为模型会写代码了才重新焕发活力。
论据
- ARC 这类网格谜题 benchmark 本就是为衡量技能获取效率而设计的,程序搜索方法一直是其中最强的参赛者之一。
- DreamCoder 式的 wake-sleep 库学习系统能跨领域发现可复用的抽象,说明合成出的程序会累积成更好的先验。
- 让模型写调用视觉模块的 Python 代码(如 ViperGPT),能让视觉问答继承代码的组合性和可检查性。
批评
- 程序搜索有组合爆炸问题,而真实世界的感知往往噪声太大,很难用一段短程序概括。
- 很多演示依赖手工设计的 DSL,悄悄塞进了人类先验。
- 单体派指出,端到端训练的大模型在同样的谜题上不靠显式程序也在稳步缩小差距。
代表作
- On the Measure of Intelligence2019
- DreamCoder: Growing generalizable, interpretable knowledge with wake-sleep Bayesian program learning2020
- ViperGPT: Visual Inference via Python Execution for Reasoning2023
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.45,y ≈ −0.90,范式 ≈ +0.48。