苦涩教训正统派

来自 AI 研究立场图谱百科

苦涩教训正统派:能随算力扩展的通用方法——搜索与学习——长期来看总会击败人类精心设计的先验。

主张

苦涩教训正统派建立在一段被反复引用的历史解读上:在国际象棋、围棋、语音、视觉和语言领域,研究者一次又一次把自己对领域的理解塞进系统,赢得短期胜利,随后被单纯利用更多算力的方法反超。这个教训之所以“苦涩”,是因为它冒犯了研究者的直觉。正统派的回应是一种纪律:克制住把已知知识写进去的冲动,把精力投给那些算力越多就越好的方法。

它位于图表最顶端、略偏左。单体的位置顺理成章:手工模块和流水线,恰恰是这套教义最不信任的人类先验。它的语言倾向很轻,主要是历史原因——语言是这个教训最近一次被重新学到的地方。它的范式等级是正统:这条教义如今是被讲授的,而不是被发现的。

论据

  • 在许多 AI 子领域,历史记录出奇一致:人工特征输给了学习到的特征,手工评估函数输给了 self-play 搜索。
  • 抛弃人类棋谱知识的 self-play 系统,最终超越了建立在这些知识之上的系统。
  • 小规模下有用的先验,到了大规模往往变成束缚,所以押注通用性是更稳妥的长期选择。

批评

  • 这个教训是事后总结的:卷积、注意力本身就是人类先验,只是恰好扩展得好。
  • 它可能沦为一个借口,让人跳过对数据、目标函数和归纳偏置的认真思考。
  • 在数据稀缺、交互昂贵的领域,比如机器人,它是否成立还远没有定论。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.01,y ≈ +1.00,范式 ≈ −0.65。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据