来自 AI 研究立场图谱百科
全自主代理无政府主义:给 agent 一个目标、一套工具和一个循环,然后放手;人类审批环节是应该拆掉的瓶颈。
主张
全自主代理无政府主义想给 agent 松绑。理想的工作流是一句话说清意图,之后 agent 自己规划、搜网页、写代码跑代码、拆子任务,一直跑到目标达成或预算花光。每一个确认弹窗都是摩擦,每一个 human-in-the-loop 检查点都是 agent 空转的地方。在它看来,可靠性来自让 agent 从环境中拿到更好的反馈,而不是让人盯着它的每一步。
它位于 Language 一侧、纵向略高于中线:agent 就是包在“推理—行动”循环里的语言模型,主要靠模型自己干活,工具、记忆和任务队列从旁辅助。它的色号只是稳健,因为它跑在当下主流模型上;它的大胆在于愿意把整个任务交出去,而不只是交出繁琐的部分,交给一个没人能完全预测其行为的系统。
论据
- 把推理与行动、观察交替进行,让语言模型能根据真实反馈修正计划,这是长程自主循环能跑起来的前提。
- 能跑测试、读报错的编程 agent,迭代速度远快于让人逐步审阅。
- 审批环节受限于人类注意力,而这是最稀缺的资源;只有自主化才能让 agent 的吞吐超出这个上限。
批评
- 早期的全自主 agent 循环以原地打转、烧光预算、把没做完的活宣布为成功而出名。
- 没有监督时,小错误会在长程任务中层层累积,而删文件、发邮件这类有副作用的动作可能无法撤回。
- 让网页之类的不可信输入直接影响一个手握真实权限、无人监督的 agent,等于敞开大门欢迎 prompt 注入。
代表作
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.68,y ≈ −0.56,范式 ≈ −0.34。