来自 AI 研究立场图谱百科
指令社团主义:认为能力是被 instruction tuning 组织和激发出来的,所以每个任务都应写成一条自然语言指令。
主张
指令社团主义信奉一个秩序井然的任务社会。翻译、摘要、分类、修代码,各自是一个行会,每个行会都由一条条自然语言指令来代表。预训练提供原始能力,但真正把一个文本预测器变成”让干啥就干啥”的东西的,是 instruction tuning。收集几千种任务,改写成指令,精心配比混合,一个模型就能泛化到从没见过的指令上。
它在图上靠近 Language 一端,纵向接近顶部:一个模型,它的行为由一套庞大、经过精心编排的任务格式体系塑造,这些都被吸收进权重,而不是交给工程化流水线。范式等级为正统。它曾经是让 zero-shot prompting 变得实用的新点子,如今已是几乎所有 post-training 配方里的核心基础设施。
论据
- 在以指令形式表达的大规模多任务混合上 fine-tune,能提升模型在未见任务上的 zero-shot 表现,这一结论在许多模型系列上都得到复现。
- 指令是通用接口:任何人能描述清楚的任务都可以加进来,不用改架构。
- 模型还能自己生成指令数据,让这个社团体系低成本扩张。
批评
- 偏好学习派认为,指令数据教的更多是格式而不是判断力,真正的有用性更依赖基于反馈的训练。
- 指令混合继承了选任务、写任务的人的偏见;benchmark 污染更是挥之不去的隐患。
- 推理派说,会听指令不等于会解难题,后者需要搜索或长时间思考。
代表作
- Finetuned Language Models Are Zero-Shot Learners2021
- Training language models to follow instructions with human feedback2022
- Self-Instruct: Aligning Language Models with Self-Generated Instructions2022
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.73,y ≈ +0.70,范式 ≈ −0.76。