分类: 语言主义

16 个词条

语言是思维的骨架。架构之争你持中立,但你押注语言。

多模态语言主义
认为模型可以通过多种感官感知世界,但思考应该在语言中进行。
语言相对主义
模型能想到什么,取决于它的语言和语料能说出什么;用什么语言训练,就塑造什么样的智能。
分布语义主义
一个词的意义就是它出现的上下文模式,所以单靠共现统计就能学到意义。
工具使用自由主义
知道何时、如何使用外部工具本身就是一种核心智能,所以应该让模型自由地调用工具。
描述集权主义
每张图都应先转成详细描述,因为语言是感知与推理之间的通用接口。
本地模型互助主义
在自己的硬件上、用自己掌控的权重跑模型,并分享量化版本、配方和工具,让每个人都能做到。
微调合作社主义
廉价的参数高效微调,让每个社区都能把共享的基座模型适配成自己需要的样子,合作共建,无需前沿实验室的预算。
全自主代理无政府主义
给 agent 一个目标、一套工具和一个循环,然后放手;人类审批环节是应该拆掉的瓶颈。
编程智能体工团主义
软件是 agent 最先接管的工作场所;能读仓库、写代码、跑测试的 agent 是实用 AI 的先锋队。
点对点推理主义
大模型可以分散在志愿者的消费级 GPU 上,通过互联网协同推理,不需要数据中心。
语法学家保守主义
认为语言具有显式的层级结构,模型应当表示句法和组合关系,而不是只学平铺的 token 统计。
可解释改良主义
在进一步扩大或部署模型之前,必须先弄懂它们内部在算什么,而且这是做得到的。
新自由语言主义
把预训练语言模型当作一切系统的主干,视觉、语音、工具都作为可替换的插件挂上去。
提示词手工业主义
精心手写的 prompt 能释放模型的大部分能力,所以写 prompt 是一门值得逐字打磨的手艺。
开放权重公社主义
模型权重是公共品;开放发布权重,是科学研究、问责和公平分配 AI 红利的必要条件。
智能体无政府共产主义
每个 agent 都应能自由使用所有工具、技能和记忆;能力是公共财产,不是私有财产。