来自 AI 研究立场图谱百科
开放式学习主义:目标是能永不停歇地产生新颖、越来越复杂的问题和解法的系统,而不是收敛到某个固定目标的系统。
主张
开放式学习主义看着自然演化和人类文化,看到的是永远不会完结的过程:它们不断开辟新生态位、发明新造物、提出新挑战,一层叠在另一层之上。相比之下,大多数机器学习都在优化一个固定目标,收敛了就停。开放式学习想要的算法能同时生成自己的问题和解法,看重新颖和”有趣”而不是单一分数,并源源不断地产出 stepping stones。信徒们常说:要达成一个宏大目标,有时最好的办法恰恰是别直接瞄准它。
它在语言-世界轴上略偏中线右侧,因为开放式系统既有演化机器人形态的,也有用语言模型生成想法的;纵向略低于中线、偏 harness 一侧,因为开放性是包在学习器外面的一个持续过程的属性,而不属于某一个训练好的网络。范式等级为逆天之革命,处在范式转变一端的最远处。
论据
- novelty search 表明,忽略目标、只奖励行为新颖性,可以解决那些目标驱动搜索会被骗住的欺骗性问题。
- POET 这样让环境和 agent 协同演化的方法,产生了直接在难环境上训练无法达到的挑战和解法。
- 基础模型能提供类似人类的”有趣度”判断,让开放式系统有了选择下一步探索方向的实用手段。
批评
- 开放性很难度量;没有固定目标,就很难区分真正的进步和漫无目的的漂移。
- 目前的演示仍然受限于各自的模拟器,还没有系统展示出真正无界的复杂度增长。
- 看重 benchmark 的对手认为,这是一套很美的哲学,却很少产出可部署的能力。
代表作
- Abandoning Objectives: Evolution Through the Search for Novelty Alone2011
- Paired Open-Ended Trailblazer (POET): Endlessly Generating Increasingly Complex and Diverse Learning Environments and Their Solutions2019
- OMNI: Open-endedness via Models of human Notions of Interestingness2023
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ +0.04,y ≈ −0.46,范式 ≈ +1.00。