微调合作社主义

来自 AI 研究立场图谱百科

微调合作社主义:廉价的参数高效微调,让每个社区都能把共享的基座模型适配成自己需要的样子,合作共建,无需前沿实验室的预算。

主张

微调合作社主义认为,最有用的模型不是最大的那个,而是针对特定语言、领域、风格或任务适配过的那个。有了低秩 adapter 和量化训练,这种适配不再需要集群:一张显卡、一份精心整理的中等规模数据集,就能把一个强大的开放基座特化出来。合作社的理想是:许多团体在少数几个共享基座上,各自训练小巧、可分享的 adapter,服务自己的成员,同时也允许别人复用、合并和改进。

它在图上靠近语言一端,因为主战场是语言模型的适配;纵向接近中线:它以一个共享基座模型为基础,却把能力放在外围一层分布式的 adapter 和数据集里。范式等级为求新:它与其说是新的智能理论,不如说是一套关于适配的实用经济学,偏离了”一个大模型包打天下”的主流。

论据

  • LoRA 在许多任务上能追平全量微调,却只训练一小部分参数,adapter 的训练、存储和分享都很便宜。
  • QLoRA 让在单张显卡上微调大模型变得切实可行。
  • adapter 是模块化的:一个基座可以挂载许多专门版本,推理时随用随换。

批评

  • 微调主要改变的是行为和格式,带来的新知识和推理能力远比从业者有时期望的少。
  • 小规模微调可能侵蚀基座的通用能力或安全行为,而且很难察觉。
  • 上下文工程派认为,检索加好的 prompt 往往不用任何训练就能实现同样的特化。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.70,y ≈ −0.47,范式 ≈ +0.28。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据