来自 AI 研究立场图谱百科
智能体社会主义:相互作用的 agent 群体会发展出规范、分工和制度,智能将越来越多地存在于社会层面。
主张
智能体社会主义的目光越过了单个助手和小团队,投向整群 agent:它们交易、合作、竞争、分工,甚至自我治理。信徒们预期,一旦 agent 能长期存在、拥有记忆并大规模互动,某种社会就会成形:沟通惯例、声誉体系、服务市场、工具和知识的公共池,以及超出任何个体能力的集体问题求解。这里的”社会主义”说的是集体而不是经济:真正值得研究的单位是社会整体。
它在图上偏语言一侧,因为这些社会主要由用自然语言交流的 LLM agent 构成;又深处 harness 半区,因为实质是多智能体系统及其制度。范式等级为中立:它建立在主流语言模型之上,只是它设想的未来,这个领域才刚刚开始研究。
论据
- 多智能体强化学习已经表明,agent 之间的竞争与合作会产生 autocurricula,涌现出没有任何设计者预先规定的策略。
- 一些大量 LLM agent 相互通信的框架报告了涌现的协调行为,比如角色分化和信息共享。
- 人类智能本身就高度社会化、可累积;如果人工智能只靠孤立个体扩展,那才奇怪。
批评
- 很多所谓”涌现的社会行为”很单薄,是 prompt 编排出来的,或者和角色扮演难以区分。
- agent 社会运行成本高、难以评估,除了逸事之外缺少清晰的指标。
- 安全派担心串谋、失控反馈这类集体动态,比任何单个模型都更难监管。
代表作
- Emergent Tool Use From Multi-Agent Autocurricula2019
- AgentVerse: Facilitating Multi-Agent Collaboration and Exploring Emergent Behaviors2023
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.67,y ≈ −0.90,范式 ≈ −0.01。