前沿强权主义

来自 AI 研究立场图谱百科

前沿强权主义:封闭维度极端的称号:前沿能力属于少数有能力造出它、也有责任守住它的实验室。

主张

前沿强权主义是一个环形称号,授予开放维度得分低于 -0.6 的人,是开源至上主义的对立极,位于主轴之外的右侧环上。持有者认为前沿能力最好集中在少数拥有安全团队的实验室里,公开完整训练数据和配方风险太大,真正有能力造出最强系统的人应该决定这些系统如何部署。“强权”指的是强者统治,这名字只有一半是玩笑:这里的权力来自“造得出来”的能力。

由于这个称号关乎治理而非方法,Language 规模派和 World 世界模型派都可能获得它。它正统的色号说明,它维护的是当前的产业结构:最大的模型由少数资源雄厚的机构训练,并通过 API 提供访问。

论据

  • 受控的 API 访问可以监控、限流并快速修补滥用,而权重一旦公开就做不到了。
  • 详尽的技术报告可以分享评测结果和安全发现,而无需放出能力本身。
  • 集中的资源能支撑对安全研究、红队测试和基础设施的大规模长期投入,分散的力量很难负担。

批评

  • 不可复现的结果削弱了科学:关于闭源模型的说法无法被独立验证。
  • 能力集中在少数机构手中,问责、市场支配力以及“谁的价值观被写进模型”都是显而易见的问题。
  • 开放发布的模型屡屡在几个月内追上,说明封闭带来的安全收益可能只是暂时的。

代表作

关系

怎样测出它

在完整版或专业版里满足以下条件时获得:开放 <−0.6。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据