来自 AI 研究立场图谱百科
模型市场无政府主义:没有哪个模型该一家独大;让模型自由竞争,由路由器把每个请求派给“够用且最便宜”的那个,才是赢家。
主张
模型市场无政府主义拒绝对任何单一模型效忠。每次请求都是一次小采购:路由器估计这题有多难,把它派给最可能答好又最便宜的模型,只有必要时才升级到昂贵的前沿模型。模型在价格、延迟和分任务质量上竞争,所谓最好的“AI”,就是今天市场出清时的那个组合。厂商锁定是敌人,可互换的 endpoint 是理想。
它位于 Harness 极端,因为系统的智能在于路由、缓存和级联逻辑,而不在于某一组权重;横向则明显偏 World 一侧,因为它对模态无所谓,任务需要什么模型就买什么模型,不限于语言模型。它中立的色号很贴切:这与其说是一场科学革命,不如说是一场经济革命。
论据
- 先试便宜模型、只在置信度低时才升级的级联方案,已经在大幅降低成本的同时达到了最强单模型的质量。
- 在偏好数据上训练的路由器可以逐请求在强弱模型之间做选择,保住强模型大部分质量的同时减少对它的调用。
- 一个由可互换模型组成的竞争市场会让价格持续下降,也让用户免受单一供应商宕机或政策变动的影响。
批评
- 路由错误是无声的:一道难题被误判为简单题,就会得到一个自信的错误答案,用户永远看不到更好模型给出的版本。
- 不同模型的格式、工具调用习惯和安全行为各不相同,“可互换”常常是个漏风的抽象。
- 一味追求“最便宜的可接受答案”,可能让整个市场最终依赖的前沿模型得不到足够投入。
代表作
- FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance2023
- RouteLLM: Learning to Route LLMs with Preference Data2024
关系
亦敌亦友
怎样测出它
在完整版或专业版里落到这一格:x ≈ +0.70,y ≈ −0.94,范式 ≈ +0.00。