来自 AI 研究立场图谱百科
微调合作社主义:廉价的参数高效微调,让每个社区都能把共享的基座模型适配成自己需要的样子,合作共建,无需前沿实验室的预算。
主张
微调合作社主义认为,最有用的模型不是最大的那个,而是针对特定语言、领域、风格或任务适配过的那个。有了低秩 adapter 和量化训练,这种适配不再需要集群:一张显卡、一份精心整理的中等规模数据集,就能把一个强大的开放基座特化出来。合作社的理想是:许多团体在少数几个共享基座上,各自训练小巧、可分享的 adapter,服务自己的成员,同时也允许别人复用、合并和改进。
它在图上靠近语言一端,因为主战场是语言模型的适配;纵向接近中线:它以一个共享基座模型为基础,却把能力放在外围一层分布式的 adapter 和数据集里。范式等级为求新:它与其说是新的智能理论,不如说是一套关于适配的实用经济学,偏离了”一个大模型包打天下”的主流。
论据
- LoRA 在许多任务上能追平全量微调,却只训练一小部分参数,adapter 的训练、存储和分享都很便宜。
- QLoRA 让在单张显卡上微调大模型变得切实可行。
- adapter 是模块化的:一个基座可以挂载许多专门版本,推理时随用随换。
批评
- 微调主要改变的是行为和格式,带来的新知识和推理能力远比从业者有时期望的少。
- 小规模微调可能侵蚀基座的通用能力或安全行为,而且很难察觉。
- 上下文工程派认为,检索加好的 prompt 往往不用任何训练就能实现同样的特化。
代表作
- LoRA: Low-Rank Adaptation of Large Language Models2021
- QLoRA: Efficient Finetuning of Quantized LLMs2023
- Parameter-Efficient Transfer Learning for NLP2019
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.70,y ≈ −0.47,范式 ≈ +0.28。