模型市场无政府主义

来自 AI 研究立场图谱百科

模型市场无政府主义:没有哪个模型该一家独大;让模型自由竞争,由路由器把每个请求派给“够用且最便宜”的那个,才是赢家。

主张

模型市场无政府主义拒绝对任何单一模型效忠。每次请求都是一次小采购:路由器估计这题有多难,把它派给最可能答好又最便宜的模型,只有必要时才升级到昂贵的前沿模型。模型在价格、延迟和分任务质量上竞争,所谓最好的“AI”,就是今天市场出清时的那个组合。厂商锁定是敌人,可互换的 endpoint 是理想。

它位于 Harness 极端,因为系统的智能在于路由、缓存和级联逻辑,而不在于某一组权重;横向则明显偏 World 一侧,因为它对模态无所谓,任务需要什么模型就买什么模型,不限于语言模型。它中立的色号很贴切:这与其说是一场科学革命,不如说是一场经济革命。

论据

  • 先试便宜模型、只在置信度低时才升级的级联方案,已经在大幅降低成本的同时达到了最强单模型的质量。
  • 在偏好数据上训练的路由器可以逐请求在强弱模型之间做选择,保住强模型大部分质量的同时减少对它的调用。
  • 一个由可互换模型组成的竞争市场会让价格持续下降,也让用户免受单一供应商宕机或政策变动的影响。

批评

  • 路由错误是无声的:一道难题被误判为简单题,就会得到一个自信的错误答案,用户永远看不到更好模型给出的版本。
  • 不同模型的格式、工具调用习惯和安全行为各不相同,“可互换”常常是个漏风的抽象。
  • 一味追求“最便宜的可接受答案”,可能让整个市场最终依赖的前沿模型得不到足够投入。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ +0.70,y ≈ −0.94,范式 ≈ +0.00。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据