来自 AI 研究立场图谱百科
合成数据计划经济:自然数据不够用时,就让模型在有计划、可验证的管线里自己生产训练数据。
主张
合成数据计划经济用一台印钞机来回应“数据墙”。既然高质量人类文本的供给有限,那就让模型自己生产更多:由模型撰写的指令,按需生成的教科书式讲解,经验证器筛过的推理轨迹,被更强 captioner 重写的图像描述。和计划经济一样,关键不在于原始产量,而在于指标和质检。先定好下一个模型需要什么,生成、过滤、训练。
它位于图表上半部,靠近 Language 边缘。横向明显偏语言,因为它主要生产的是模型写出来的文本:指令、讲解和推理轨迹。单体倾向体现在最终产品仍是一个在计划语料上训练出来的模型。它的范式等级是主流:合成数据已经从一个新奇玩意儿,变成了许多训练管线的核心环节。
论据
- 从模型自己的生成结果中自举指令数据,能以很低成本显著提升指令遵循能力。
- 用精心生成的“教科书级”数据训练的小模型,在代码 benchmark 上的表现远超其尺寸应有的水平。
- 自己生成推理轨迹、只保留答案正确的那些,可以迭代地提升模型自身的推理能力。
批评
- 反复在模型输出上训练,有多样性退化和错误放大的风险,也就是常说的 model collapse。
- 合成数据的上限取决于生成器和验证器,它很少能带来系统原本不具备的知识。
- benchmark 上的提升,可能部分来自数据污染或风格上的过拟合,而不是真实能力。
代表作
- Self-Instruct: Aligning Language Models with Self-Generated Instructions2022
- STaR: Bootstrapping Reasoning With Reasoning2022
- Textbooks Are All You Need2023
关系
亦敌亦友
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.84,y ≈ +0.60,范式 ≈ −0.62。