来自 AI 研究立场图谱百科
无目标函数无政府主义:宏大目标具有欺骗性;以新颖性和“有趣”为导向的开放式搜索,能找到目标驱动优化永远到不了的垫脚石。
主张
无目标函数无政府主义认为,固定一个 loss 函数是机器学习的原罪。伟大的发现要经过一块块与终点毫不相像的垫脚石,所以直接朝着宏大目标优化,反而会把你从真正需要的中间步骤上引开。它的替代方案是:搜索新颖性、多样性和“有趣”,维护一个不断增长的多样解存档,让环境与问题和解决它们的 agent 一起协同进化。
它位于下半区、偏 Harness,因为它的“智能”是一个开放式过程,即存档、生成器与选择机制的组合,而不是单个训练好的模型;横向明显偏 World 一侧,因为它的主场是共同演化的环境与智能体,尽管语言模型越来越多地被拿来判断什么才算“有趣”。它逆天之革命的色号处在范式转移的最远端:它质疑的不是某种方法,而是“目标”这个概念本身。
论据
- 只奖励行为新颖性、完全忽略目标的 novelty search,解决了以目标为导向的搜索会卡住的欺骗性迷宫任务。
- 让环境和 agent 协同生成的系统,产出了越来越复杂的挑战和解法,而直接在最难任务上训练是到不了那里的。
- quality-diversity 方法为每个行为生态位保留最优解,得到的技能库通常比单目标优化更鲁棒。
批评
- “没有目标”并不完全属实:新颖性度量、行为描述子和存档都是人工设计的选择,目标从后门又溜了回来。
- 开放式系统难以评估,没有靶子时,很容易把无尽的变化误当成真正的进步。
- 现实中领域最大的飞跃恰恰来自非常明确的目标,next-token prediction 就是其中之一。
代表作
- Abandoning Objectives: Evolution Through the Search for Novelty Alone2011
- Why Greatness Cannot Be Planned: The Myth of the Objective2015
关系
亦敌亦友
怎样测出它
在完整版或专业版里落到这一格:x ≈ +0.70,y ≈ −0.66,范式 ≈ +1.00。