代码即思维主义

来自 AI 研究立场图谱百科

代码即思维主义:认为代码是最好的推理语言,模型应该通过编写和执行程序来思考。

主张

代码即思维主义认为,自然语言拿来聊天挺好,拿来计算就很差。让模型用大白话算大数乘法、或同时追踪十几个变量,它迟早会跑偏;让它写一段短程序再执行,算术交给解释器,毫无怨言。代码精确、可组合、可执行、可检查,它逼着模型把每一步写明白,出错了还有报错信息告诉你。所以凡是能写成程序的推理都应该写成程序,自然语言只留给真正抗拒形式化的部分。

它位于最左侧的语言边缘,毕竟代码也是一种语言;纵向靠近 Harness 底端:关键不只是模型,而是它和一个非常重要的工具——解释器——组成的循环。范式等级为中立。在代码上训练、用程序辅助推理,如今已是主流,这一派的主张主要在于这条路应该走多远。

论据

  • 程序辅助推理,即模型写代码、由解释器计算答案,在算术和符号任务上比用文字写 chain-of-thought 更准确。
  • 代码可验证:单元测试和执行结果给出即时、客观的反馈,这也让它成为强化学习的理想领域。
  • 在代码上训练似乎对一般的结构化推理也有帮助,而不只是对编程本身。

批评

  • 大量推理,比如道德判断、揣摩意图、权衡证据,并不能化约成程序。
  • 执行沙箱带来延迟、安全隐患和额外基础设施,把这条路线推向了它自称要避免的 harness 一侧。
  • 形式主义派指出,能跑通不等于被证明;程序可以通过测试却依然是错的。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.94,y ≈ −0.92,范式 ≈ −0.11。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据