工具使用自由主义

来自 AI 研究立场图谱百科

工具使用自由主义:知道何时、如何使用外部工具本身就是一种核心智能,所以应该让模型自由地调用工具。

主张

工具使用自由主义认为,智能不是看你赤手空拳能做什么,而是看你能把事办成什么样。人类变得强大不只是因为脑子变大,而是造出了计算器、图书馆和搜索引擎,并学会使用它们。一个算术叫计算器、查事实叫搜索、跑代码叫解释器的语言模型不是作弊,而是在表现智能。“自由”强调的是自主和判断:由模型决定什么时候工具有用,并且应该被训练得善于做这个决定。

它位于 Language 一侧,纵轴略偏上:推理是语言式的,仍以一个强模型为主,能力来自模型加工具。中立的颜色说明这个想法已经多么主流:把推理和动作、工具结果交错进行,如今是助手和智能体的默认模式。

论据

  • 调用计算器、代码解释器和搜索引擎,能消除模型单干时的整类错误。
  • 模型可以从自监督或示范数据中学会何时调用工具,而不是依赖写死的规则。
  • 把推理和工具观察交错进行,让模型能根据环境的真实反馈自我纠正。

批评

  • 工具调用带来延迟、成本,以及参数格式错误、误读输出等新的失败模式。
  • 单体派认为,内化的技能比依赖脆弱的外部接口泛化得更好。
  • 工具使用扩大了攻击面,从检索内容里的 prompt injection 到意外执行的动作。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.73,y ≈ −0.32,范式 ≈ +0.11。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据