涌现语言主义

来自 AI 研究立场图谱百科

涌现语言主义:让 agent 在共同任务中自己发明交流方式,使语言扎根于使用,而不是从人类文本里照抄。

主张

涌现语言主义认为,靠模仿互联网学来的语言是借来的,不是自己的。人类语言之所以出现,是因为生物需要在共享世界里协调行动,所以这一派重建这种压力:把 agent 放进指称游戏、合作导航或谈判任务里,给它们一个离散符号信道,让通信协议自己涌现出来。研究什么条件下这套协议会变得组合化、高效且可解释,你学到的是语言“为了什么”,而不只是语言“长什么样”。

它位于 Harness 半区的下部,因为意义存在于一群相互作用的 agent 和它们的环境之中,而不在某个网络里;在 Language-World 轴上则明显偏向 World:它关心语言,但必须是扎根于感知与行动的语言。它的逆天之革命色号是全图最激进的一档,表明它把今天用语料训练出来的模型视作一条跳过了最有意思部分的捷径。

论据

  • 神经 agent 之间的指称游戏能稳定地产生通信协议,让它们解决单个 agent 解决不了的任务。
  • 在环境压力和信道约束合适时,扎根于环境的多 agent 群体发展出了组合式的、类似“词”的符号。
  • 涌现通信是研究组合性起源的受控实验室,这类问题无法在固定的人类语料上检验。

批评

  • 涌现出的协议常常是退化的,利用一些底层线索,看起来和人类语言毫无相似之处,也很难解释。
  • 这些“语言”词表极小,服务的是玩具任务,离语言模型已经展现的表达能力差得很远。
  • 不说人话的 agent 实用价值有限,因为最终总得有人能听懂它们。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ +0.65,y ≈ −0.68,范式 ≈ +1.00。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据