智能体社会主义

来自 AI 研究立场图谱百科

智能体社会主义:相互作用的 agent 群体会发展出规范、分工和制度,智能将越来越多地存在于社会层面。

主张

智能体社会主义的目光越过了单个助手和小团队,投向整群 agent:它们交易、合作、竞争、分工,甚至自我治理。信徒们预期,一旦 agent 能长期存在、拥有记忆并大规模互动,某种社会就会成形:沟通惯例、声誉体系、服务市场、工具和知识的公共池,以及超出任何个体能力的集体问题求解。这里的”社会主义”说的是集体而不是经济:真正值得研究的单位是社会整体。

它在图上偏语言一侧,因为这些社会主要由用自然语言交流的 LLM agent 构成;又深处 harness 半区,因为实质是多智能体系统及其制度。范式等级为中立:它建立在主流语言模型之上,只是它设想的未来,这个领域才刚刚开始研究。

论据

  • 多智能体强化学习已经表明,agent 之间的竞争与合作会产生 autocurricula,涌现出没有任何设计者预先规定的策略。
  • 一些大量 LLM agent 相互通信的框架报告了涌现的协调行为,比如角色分化和信息共享。
  • 人类智能本身就高度社会化、可累积;如果人工智能只靠孤立个体扩展,那才奇怪。

批评

  • 很多所谓”涌现的社会行为”很单薄,是 prompt 编排出来的,或者和角色扮演难以区分。
  • agent 社会运行成本高、难以评估,除了逸事之外缺少清晰的指标。
  • 安全派担心串谋、失控反馈这类集体动态,比任何单个模型都更难监管。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.67,y ≈ −0.90,范式 ≈ −0.01。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据