来自 AI 研究立场图谱百科
上下文工程自由主义:模型看到了什么,比用的是哪个模型更重要;经营好 context window 是提升 agent 质量的主要杠杆。
主张
上下文工程自由主义,是提示词工程长大之后的样子:prompt 早就不是一段精巧的咒语了。信徒们把 context window 当作稀缺资源来精打细算:系统指令、检索到的文档、工具输出、压缩后的历史、scratchpad、few-shot 示例,全都在抢位置,真正的手艺在于决定放什么、按什么顺序放、哪些要摘要、哪些要扔掉。他们认为大多数 agent 的失败不是智力不够,而是信息不够:模型压根没看到那个文件、那条报错、那个约束。
它在图上偏语言一侧,因为原材料就是给语言模型拼装的文本;又靠近 harness 底端,因为拼装工作由模型外面的系统完成。之所以叫”自由主义”,是因为它务实、不挑模型:换哪个模型都行,杠杆始终在上下文管线上。范式等级为稳健。
论据
- 关于长上下文的研究发现,模型对窗口内不同位置的利用并不均匀,中间的信息往往不如两端用得好,所以位置安排和裁剪确实重要。
- 检索、compaction、裁剪工具输出,成本远低于换一个更大的模型,而且常常能修好同一个问题。
- coding agent 每天都在印证这一点:同一个模型,看没看到对的文件和测试输出,表现天差地别。
批评
- scaling 派认为更强的模型会越来越不需要人工精挑细选,今天的上下文技巧只是临时补丁,正如 bitter lesson 所预言。
- “上下文工程”容易变成无法证伪的万能解释:成功归功于上下文好,失败归咎于上下文差。
- 层层摘要和检索的管线本身是有损的,关键细节被压缩掉时很难排查。
代表作
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.65,y ≈ −0.88,范式 ≈ −0.37。