来自 AI 研究立场图谱百科
开源至上主义:开放维度极端的称号:权重、数据、代码和配方都必须公开,否则就不算科学。
主张
开源至上主义是一个环形称号,授予开放维度得分高于 0.6 的人,与主图位置无关。持有者相信最强模型的权重应该开放,没人能复现的闭源模型上的结果不该算科学贡献,学术界只靠开源模型也能做前沿研究。开放不是锦上添花,而是验证、安全研究、公平竞争和全球可及性的前提。
由于这个称号衡量的是对开放的态度而非方法,它位于主轴之外的左侧环上:一个开放权重的语言单体模型和一个开源硬件机器人合作社都能获得它。它中立的色号说明,开放与否并不决定该走哪条研究范式;它的野心在别处:超越“开放权重”,要求完全公开训练数据、代码、日志和中间 checkpoint,而真正达到这个标准的发布寥寥无几。
论据
- 连训练数据、代码和中间 checkpoint 一起公开的发布,让研究者能研究能力和失败是如何产生的,而闭源模型让这件事无从谈起。
- 由数百名研究者协作训练的大型开放模型证明,前沿规模的工作也可以公开组织。
- 开放模型使独立的安全、偏见和安全性审计成为可能,而不是只能由开发者自己评测自己。
批评
- 权重一旦发布,安全防护可以被微调掉,滥用无法召回。
- 完全公开数据会带来版权、隐私和知情同意问题,在网络规模下很难解决。
- 训练前沿模型花费巨大,没有可持续资金模式的开放,可能让开源阵营永远慢半步。
代表作
- BLOOM: A 176B-Parameter Open-Access Multilingual Language Model2022
- OLMo: Accelerating the Science of Language Models2024
关系
亦敌亦友
怎样测出它
在完整版或专业版里满足以下条件时获得:开放 >0.6。