来自 AI 研究立场图谱百科
代码即思维主义:认为代码是最好的推理语言,模型应该通过编写和执行程序来思考。
主张
代码即思维主义认为,自然语言拿来聊天挺好,拿来计算就很差。让模型用大白话算大数乘法、或同时追踪十几个变量,它迟早会跑偏;让它写一段短程序再执行,算术交给解释器,毫无怨言。代码精确、可组合、可执行、可检查,它逼着模型把每一步写明白,出错了还有报错信息告诉你。所以凡是能写成程序的推理都应该写成程序,自然语言只留给真正抗拒形式化的部分。
它位于最左侧的语言边缘,毕竟代码也是一种语言;纵向靠近 Harness 底端:关键不只是模型,而是它和一个非常重要的工具——解释器——组成的循环。范式等级为中立。在代码上训练、用程序辅助推理,如今已是主流,这一派的主张主要在于这条路应该走多远。
论据
- 程序辅助推理,即模型写代码、由解释器计算答案,在算术和符号任务上比用文字写 chain-of-thought 更准确。
- 代码可验证:单元测试和执行结果给出即时、客观的反馈,这也让它成为强化学习的理想领域。
- 在代码上训练似乎对一般的结构化推理也有帮助,而不只是对编程本身。
批评
- 大量推理,比如道德判断、揣摩意图、权衡证据,并不能化约成程序。
- 执行沙箱带来延迟、安全隐患和额外基础设施,把这条路线推向了它自称要避免的 harness 一侧。
- 形式主义派指出,能跑通不等于被证明;程序可以通过测试却依然是错的。
代表作
- PAL: Program-aided Language Models2022
- Program of Thoughts Prompting: Disentangling Computation from Reasoning for Numerical Reasoning Tasks2022
- Evaluating Large Language Models Trained on Code2021
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.94,y ≈ −0.92,范式 ≈ −0.11。