指令社团主义

来自 AI 研究立场图谱百科

指令社团主义:认为能力是被 instruction tuning 组织和激发出来的,所以每个任务都应写成一条自然语言指令。

主张

指令社团主义信奉一个秩序井然的任务社会。翻译、摘要、分类、修代码,各自是一个行会,每个行会都由一条条自然语言指令来代表。预训练提供原始能力,但真正把一个文本预测器变成”让干啥就干啥”的东西的,是 instruction tuning。收集几千种任务,改写成指令,精心配比混合,一个模型就能泛化到从没见过的指令上。

它在图上靠近 Language 一端,纵向接近顶部:一个模型,它的行为由一套庞大、经过精心编排的任务格式体系塑造,这些都被吸收进权重,而不是交给工程化流水线。范式等级为正统。它曾经是让 zero-shot prompting 变得实用的新点子,如今已是几乎所有 post-training 配方里的核心基础设施。

论据

  • 在以指令形式表达的大规模多任务混合上 fine-tune,能提升模型在未见任务上的 zero-shot 表现,这一结论在许多模型系列上都得到复现。
  • 指令是通用接口:任何人能描述清楚的任务都可以加进来,不用改架构。
  • 模型还能自己生成指令数据,让这个社团体系低成本扩张。

批评

  • 偏好学习派认为,指令数据教的更多是格式而不是判断力,真正的有用性更依赖基于反馈的训练。
  • 指令混合继承了选任务、写任务的人的偏见;benchmark 污染更是挥之不去的隐患。
  • 推理派说,会听指令不等于会解难题,后者需要搜索或长时间思考。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.73,y ≈ +0.70,范式 ≈ −0.76。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据