来自 AI 研究立场图谱百科
多智能体议会主义:让多个模型实例提议、辩论、互相批评再投票,得到的答案比任何单个模型的第一稿都好。
主张
多智能体议会主义信奉语言模型的协商民主。与其相信单次采样,不如召集几个 agent(或者同一个模型的几份副本),各自给出答案,再用几轮时间互相阅读、质疑对方的推理,最后投票或交给裁判定夺。期望是:一个实例自信犯下的错误,会被另一个实例抓出来;共识过滤噪声,对抗式辩论暴露站不住脚的论证。
它位于语言一端的最边上,因为整个过程都是用自然语言争论进行的;纵向接近底部的 harness 一端,因为智能存在于交互协议之中,而不是一次前向传播里。范式等级是中立:辩论和投票是人类制度和集成学习里的老点子,只是新近用到了 LLM 身上。
论据
- 多智能体辩论方法在多个 benchmark 上报告了比单 agent 回答更好的事实性和数学推理表现。
- 对多条采样推理链做多数投票(self-consistency)是简单而稳健的提升,辩论则是在此基础上加入了交互。
- 辩论被提出作为一种 scalable oversight 机制:即使裁判比辩手弱,也仍然可能分辨出更好的论证。
批评
- 同一个模型的副本有同样的盲区,这个”议会”可能自信满满地一致通过同一个错误答案。
- 辩论很贵:agent 数乘以轮数,推理成本成倍增长,而简单投票往往就能拿到大部分收益。
- 有说服力不等于正确;agent 会被自信或冗长的论证带跑,人类议会有时也是如此。
代表作
- Improving Factuality and Reasoning in Language Models through Multiagent Debate2023
- AI safety via debate2018
- Self-Consistency Improves Chain of Thought Reasoning in Language Models2022
关系
怎样测出它
在完整版或专业版里落到这一格:x ≈ −0.85,y ≈ −0.96,范式 ≈ +0.00。