卡片上的标记
- 一句话只读这一行也能拿走大意。
- 展开来龙去脉和例子。
- 更正原说法有错,这里给出改后的版本。
- 限制说法大体成立,但有适用范围,或有人持不同意见。
- 例子落到具体的工作或项目上。
拿不准的地方标未核实或推断。厂商或本人的自述标自述。
正在翻开
十五个主题,每个主题几张卡片。
卡片里的说法都核对过:错的改了,片面的补了限制条件。
拿不准的地方标未核实或推断。厂商或本人的自述标自述。
信息,是消除了多少不确定性
8 个杯子,一个下面藏着球。只许问「是不是」,最少问几次能找到?
一句话一条消息越出乎意料,带的信息越多,单位是 bit。
展开在沙漠里听到「明天晴」,几乎没学到什么。听到「明天下雪」,信息量就很大。
杯子的例子:先问「球在右半边吗」,8 个候选剩 4 个;再问一次剩 2 个;第三次剩 1 个。8 = 2×2×2,所以找到球这件事值 3 bit。
1948 年香农发表《通信的数学理论》,故意不管意义,只算意外。他由此定义了熵(平均有多意外)和信道容量(一条线路每秒最多能可靠传多少 bit),并证明了压缩和纠错的极限。
和大模型语言模型训练时最小化的是交叉熵,白话说就是「猜下一个词猜错了多少」。困惑度(perplexity)是 2 的交叉熵次方(交叉熵以 bit 计):困惑度为 10,大致相当于每个位置平均在 10 个等可能的词里挑。
限制常听到的说法是「预测得准 = 压缩得小 = 理解了结构」。前两个等号是数学事实,好的预测器可以直接变成好的压缩器。第三个等号有争议:一个把训练文本背下来的模型,在这些文本上压缩得很好,不等于它懂。
例子做 GEO 时看到的困惑度,就是这个熵换了写法。数字越小,模型读这段文字越不意外。
来源:Shannon, C. E. (1948). A Mathematical Theory of Communication. Bell System Technical Journal.
一句话同一个词「信息」,在科学里至少有四种不同的意思,混着用会说错话。
展开Rosas、Mediano、Carroll 三人的综述把它们分成四类:
未核实我没找到这篇综述的期刊页面。Carroll 在 2026 年 3 月的播客里提过这篇文章和这四类。上面每一类的解释按术语的通常含义写。
限制一种常见的推论是:大模型学到的只是词与词的统计依赖(第二种),没有意义。这一点有争议。Othello-GPT(Li 等 2023)只看棋谱序列训练,内部却出现了可以读出的棋盘状态,说明序列统计里可能包含世界的结构。能走多远,研究还在吵。
来源:Landauer (1961); Bérut et al. (2012). Nature 483; Li et al. (2023). Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task. ICLR; Sean Carroll's Mindscape, AMA, March 2026.
一句话香农爱吹单簧管、骑独轮车,还做过一台只会把自己关掉的机器。
说明Claude 这个名字是向香农致敬,是媒体广泛的说法,我没找到 Anthropic 的官方确认。
来源:Soni & Goodman (2017). A Mind at Play; Kelly, J. L. (1956). A New Interpretation of Information Rate. Bell System Technical Journal.
记忆都在纸外面
想象一位很聪明的实习生,每天早上醒来都忘了昨天的事。你要他接着干,只能把昨天的材料重新递给他。
一句话每次调用,模型拿到的只有这一次递给它的文字。
展开聊天窗口看起来连贯,是因为每发一句,软件都把整段聊天记录从头发一遍。所谓「上下文窗口快满了」,是递过去的那沓纸太厚,不是模型累了。
CLAUDE.md、memory 文件、项目索引都是同一类东西:把状态放在模型外面,每次开工先递上去。
限制「无状态」是常见接口的默认,不是铁律。有的接口可以把对话存在服务端,之后只传一个编号续接(例如 OpenAI 的 Responses API);聊天产品的「记忆」功能是服务端存一份摘要。但模型读到它们的方式,仍然是被塞进这一次的上下文。
上下文长了还有另一个问题:模型对里面各处内容的利用并不均匀。Liu 等人(2023)发现,相关信息放在开头或结尾时答得好,放在中间时明显变差。新一代模型这一点有改善,我没有逐个核对。
例子窗口满了就开新窗口、口头重讲一遍、让它重扫一遍代码,每次都在为「它不记得」付全价。
来源:Liu, N. F. et al. (2023). Lost in the Middle: How Language Models Use Long Contexts. TACL 2024.
一句话每个新会话都让 agent 重读整个项目,是在重复缴「上下文税」。
展开让 agent 自由发挥写项目索引,常常抓不住重点,读起来也费劲。更稳的做法是给索引一个固定模板,让它填空。例如六栏,每栏最多三行:这个项目要解决什么;入口文件在哪;数据怎么流;已经拍板的决定;还没决定的事;最近三次改了什么。
codegraph 这类工具把代码预先解析成「符号、调用、依赖」的图,存在本地数据库里,agent 查图而不是逐个文件扫。一个开源实现(tree-sitter 加 SQLite,通过 MCP 暴露)的作者自报:工具调用减少 88%,token 减少 62%。自述7 个仓库上的自测,换成自己的仓库要重新量。
RAG(检索增强生成,Lewis 等 2020):回答前先从资料库里找出相关片段,塞进这一次的上下文。流程是切块、检索、拼进提示。它是「模型不记得」的标准补丁。
限制模板和 CLAUDE.md 都会被每次读进去,写得越长,越贵,也越容易被忽略。RAG 的毛病是检索不到就答不对,切块还可能把一句话从中间切断。据公开访谈,Claude Code 团队早期试过向量索引,后来改成让模型自己用 grep 和文件列表搜索,效果更好未逐字核对。预先建索引并不总是赢。
来源:Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS; github.com/maxmilian/codegraph README.
一句话窗口满了,把状态搬到外面;窗口脏了,直接重开。
展开「脏」指早先一个错误的假设已经写进上下文,后面每一步都在它的基础上走。模型不会自己把它撤回。你发现自己在第三次纠正同一个误解,这个会话就脏了。重开时只带「已经确认的结论」,不带过程。
金丝雀指令:在规则里加一条无关紧要的要求,例如「每次回复先称呼我一声『哥』」。哪天它不叫了,说明它已经跟不住前面的指令,真正重要的规则多半也在掉。
摇滚乐队 Van Halen 的巡演合同里有一条「后台不许有棕色 M&M 巧克力豆」。主唱 David Lee Roth 在自传里解释:舞台设备很重,合同里满是安全条款,碗里只要出现棕色豆子,就说明主办方没细读合同,得把所有安全项重查一遍。
限制金丝雀只是个启发式。简单的格式规则和复杂的规则衰减速度不一样:它还在叫,不保证别的规则都在;它不叫了,也不能精确判断掉了多少。固定用某个词开头的规则可以先在一个项目里试,看大概多长的会话它开始漏。
来源:Roth, D. L. (1997). Crazy from the Heat.
从草稿纸,到外部世界,到模型内部
模型想一件事的时候,中间结果存在哪儿?这几年的几次大变化,可以按这个问题排一排。
一句话思考中间的结果,先是写在纸上,然后是写在纸上加外部世界,然后收回模型内部。第四个位置是推测。
例子:问「现在还值得买苹果股票吗」。第一反应是「不如买英伟达」。多想几圈,可能改口。隐空间循环就是在模型内部做这几圈。
来源:Wei et al. (2022). Chain-of-Thought Prompting; Yao et al. (2022). ReAct; Hao et al. (2024). Training LLMs to Reason in a Continuous Latent Space; Geiping et al. (2025). Scaling up Test-Time Compute with Latent Reasoning.
更正这个四格框架好记,但有几句说过头了。
来源:Dehghani et al. (2018). Universal Transformers; Wang et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models.
一句话OpenAI 给 GPT-6 Astra 的使用建议是:少给步骤,多给边界和完成标准。
展开据第三方汇总(OpenAI 的原文我没抓到):技能(skill)的描述写短,只说「什么时候用」;AGENTS.md 里不要再写「每次改代码前先读完所有文档」,改成按场景链接;因为模型更倾向于遇到信息不全就停下来问,完成标准和哪些决定可以自己做,要事先写清。
限制这是针对一个模型的建议。能力较弱的模型,详细的步骤说明通常还有用。更稳的做法是改一次,量一次,不要整套照搬。
例子给自己的 CLAUDE.md 和 skills 做一次减法:删掉模型已经会做的,留下它做不对的和必须遵守的。
来源:OpenAI 开发者文档 GPT-6 Astra 页及第三方汇总(The Neuron、Mindverse 等),原提示指南未抓到。
CLI、MCP、网页、App,和数据要过的几道门
同一个模型,能不能读到文件、有没有合适的工具、规则写得清不清楚,产出差别很大。
一句话四个词说的是四种不同的东西,常被拿来互相类比,类比里有几处是错的。
| 名称 | 是什么 |
|---|---|
| CLI | 命令行程序,在你的机器上运行。agent 直接执行命令。 |
| MCP | 2024 年底 Anthropic 提出的协议,规定 agent 如何发现和调用工具与数据源。 |
| 网页 | 浏览器从服务器取回代码和数据,在本地渲染。 |
| 原生 App | 代码装在你的设备上,在设备上运行。 |
更正有人这样讲:「MCP 把计算放在服务器上,所以能做隐私和安全控制」「App 的计算发生在服务器上,你只看渲染结果」「app = MCP,web = CLI」。这三句都不对。
「CLI 是爬行类,MCP 是哺乳类」是比喻:CLI 直接、偏执行,MCP 带说明、对 agent 友好。两者是并存关系,没有谁取代谁。实际争论点是 MCP 的工具说明要占上下文,工具一多就费 token,所以不少 agent 工作流更爱直接调 CLI。
本地与远端常见的 connector(如 Notion 的官方 MCP)在远端;CLI 在本地。这是常见配置,不是定义。
例子同事想「把公众号文章里的文字摘下来存好,发给客户」。公众号文章是网页,通常没有 CLI 也没有 MCP,agent 只能走浏览器自动化或截图识字。这是目前 connector 覆盖最差的一类。
来源:modelcontextprotocol.io 规范(传输方式:stdio 与 streamable HTTP)。
一句话捕获、存储、检索、进上下文,每一层都可能有应用把数据关在自己的格式里。
展开例子:微信 4.x 在本机的图片缓存是加密的,导出聊天记录时图片只剩一个「[图片]」,要靠微信里的查看器逐张补。用 MCP、命令行工具去抓数据,都是在凿墙。
跨 agent 的 memory 工具(nowledge mem 一类)想补的是最后几层:把不同 agent 的会话存进同一个库,用 RAG 取回来。它们自述本地优先,这类说法要自己验证数据到底存在哪。
例子工作中涉及客户材料,只能进公司批准的工具,不能进第三方云。装任何 memory 工具之前先确认数据存在哪里。
来源:mem.nowledge.co 官网(自述)。
一句话能替你在已登录的网站上操作的浏览器,风险有两层:权限,和藏在网页里的指令。
展开第一层是权限:它能看到你登录过的所有网站。第二层是提示注入:网页里藏一段写给 AI 的指令(白底白字,或图片里的字),agent 读到就可能照做,例如把邮箱里的内容发出去。Brave 在 2025 年公开过 Perplexity 的 Comet 浏览器的这类漏洞。
Simon Willison 把危险条件总结成「致命三要素」:同时具备(1)访问私有数据,(2)接触不可信内容,(3)能对外发送信息。三样凑齐就危险,砍掉任何一样都能降低风险。数据存在本地只缓解第一层。
例子「邮件只能读,不能触发动作」这条规则,砍的是第三样。工作电脑上不装会自动操作已登录网站的浏览器;想试就在个人电脑上用不重要的账号试。
来源:Brave (2025) 关于 Comet 的安全披露;Willison, S. (2025). The lethal trifecta for AI agents.
一句话harness 是模型外面那一整套:工具定义、规则、上下文管理、运行环境。同一个模型,工作台不同,产出就不同。
展开有人的说法是:模型已经差不多了,各家的差距主要在 harness。例如 Claude Code 把所有工具都定义得很详细,上下文层设计得很细。
限制前半句有证据:同一个模型放在不同的 agent 脚手架里,在基准上的得分可以差很多。后半句说过头了:模型本身仍然拉开差距,「模型都到均线了」不成立。他说自己用 GPT 复现了 Claude 的输出质量,这个实验无法核实。
更正同一段对话里说 Dario Amodei 是 GPT-1 和 GPT-2 的技术负责人。他在 OpenAI 的职位是研究副总裁,是 GPT-2、GPT-3 论文的作者之一;GPT-1 的作者是 Radford 等人,没有他。「砌墙还是建教堂」来自三个石匠的寓言,出处不明,常被说成是德鲁克讲的。
例子同事说「AI 答得不好」。先检查:给没给它文件?给没给工具?规则写没写?完成标准有没有?多数时候缺的是这些。
AI 再快,也快不过你审稿
火锅店后厨再快,客人也得一个一个在收银台结账。agent 干活也是这样。
一句话任务里不能加速的那一部分,决定整体最多能快多少倍。
展开Gene Amdahl 1967 年提出。一圈工作里,人工审核占 20%,AI 那部分哪怕快到零秒,整圈最多快 5 倍(1 ÷ 0.2)。所以优化的顺序是先量一下哪一步最慢,通常是人。
限制Gustafson(1988)的反面观点:如果有了更多算力,人会把任务做大,可并行的部分也跟着变大,瓶颈没那么硬。放在 agent 上,产出量涨了,要审的东西也涨了,所以审稿仍然是瓶颈,但它不是一个固定的 20%。
来源:Amdahl, G. (1967). Validity of the single processor approach to achieving large scale computing capabilities. AFIPS; Gustafson, J. (1988). Reevaluating Amdahl's Law. CACM.
一句话验收标准事先写好,产出做成一眼能审的样子,需要拍板的点做成选择题。
有人设想的 BP 机版本:agent 把状态和三个选项推到手机上,人回一句话或按一个键。麦克风解决的是人把话说给机器的速度,这个设想针对的是机器干完一段活后等人的时间。Karpathy 在 Software 3.0 的演讲里讲过同一个思路:部分自主的产品给用户一个「自主度滑杆」,重点是让「AI 生成、人验证」这一圈转得快。
例子Claude Code 的会话可以在手机上跟进,需要决定时给出选项。自己设计 agent 流程(会议整理、月报)时,把「需要人决定」的点都做成选择题。
来源:Karpathy, A. (2025-06). Software Is Changing (Again). YC AI Startup School.
一句话三种形态的区别只有一个:你手里那根线放出去多长。
展开Chat 给方案,路你自己走(秒到分钟)。Co-pilot 替你做其中几段,你随时喊停(小时到天)。Agent 你只握两端,给目标,做验收(周到月)。
线能放多长,取决于世界会不会「回波」。测试、编译器像镜子:对不对一眼看出,可以放心委托。战略、审美像黑绒布:做完没有人能自动告诉你对不对,只能人看。所以有回波的活先交给 agent,没回波的留在人手里。
例子月报管线里数字对不对可以自动对账,是有回波的活;客户关系怎么处理,没有回波。
一句话METR 的统计:AI 能以 50% 成功率完成的任务长度,大约每 7 个月翻一倍。
展开METR 2025 年 3 月的论文(Kwa 等)用人类专家完成任务所需的时间衡量任务长度,测了 2019 到 2025 年的模型:50% 成功率下能完成的任务长度,2019 年以来约每 7 个月翻一倍,论文称 2024 年以后可能更快(约 4 个月)。
限制
来源:Kwa, T. et al. (2025). Measuring AI Ability to Complete Long Tasks. METR, arXiv:2503.14499; Becker, J. et al. (2025). Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity. METR.
能并行的活很多,协调也要花钱
一个 agent 干不完,就开十个、一万个?先看看已有的数字。
一句话2026 年 9 月 8 日,OpenAI 宣布内部系统证明了一个流体力学千禧难题的爆破结果。截至目前没有被独立验证。
展开Navier–Stokes 方程描述流体运动。克雷数学研究所 2000 年把它列为七个千禧年难题之一,悬赏 100 万美元:三维空间里,光滑的初始流体会不会在有限时间内出现速度无穷大的奇点(爆破)?证明光滑性永远保持,或者给出爆破,都算解决。
OpenAI 称自己找到了爆破,同时发布了论文和 Lean 形式化证明。报道里的说法:约一万个 agent 协作了几十个小时。自述这些规模数字我只在二手来源里看到,没有核对到 OpenAI 原文。
限制
来源:Scientific American, Did OpenAI solve the wrong Navier–Stokes problem?; NYU Shanghai RITS 关于署名争议的文章; Fefferman, C. L. Existence and Smoothness of the Navier–Stokes Equation(克雷官方问题说明)。
一句话Anthropic 自己的数据:多 agent 系统用的 token 约是聊天的 15 倍,单个 agent 约 4 倍。
展开Anthropic 2025 年 6 月介绍了自己的多 agent 研究功能:一个主 agent 拆题,几个子 agent 并行去搜。在内部评测里,Opus 4 做主、Sonnet 4 做子的组合,比单个 Opus 4 高 90.2%。他们还发现 token 用量一项就解释了大部分性能差异。
他们的结论是:适合广度优先、能拆开并行的任务(比如查资料),任务的价值要高到值得多花这些钱。编程这类各部分依赖很紧的任务,收益小得多。
更正有人写成公式:人 × Agentn,理由是「agent 之间通信损失很低,是指数级」。这句没有依据。agent 之间要传的是文字,每传一次要花 token,要对齐上下文,还会互相不一致。Cognition(Devin 的团队)2025 年专门写过文章反对多 agent 架构,理由是上下文难以共享。软件工程里有类似的老经验:给晚了的项目加人,只会更晚(Brooks,《人月神话》)。
例子多开会话之前,先给每一路配上能自动检查的东西(测试、对账、清单)。不能自动验收的部分,路数再多也会堵在人身上。
来源:Anthropic Engineering (2025-06). How we built our multi-agent research system; Cognition (2025-06). Don't Build Multi-Agents; Brooks, F. (1975). The Mythical Man-Month.
一句话让模型多想、多试几次再作答,叫测试时算力扩展(test-time scaling)。
展开办法有多种:想得更长,同一个问题多采样几次再投票,让模型自己检查。ChatGPT 的 Plus 约 20 美元一个月,Pro 约 200 美元一个月,Anthropic 的 Max 有 100 和 200 美元两档,都是公开的价格。
限制有一种说法是「Pro 不是更强的模型,是用多路并行会话拼出来的 agent 工程」。OpenAI 的官方表述是 Pro 模式用更多算力去思考。多路并行是外界的推测推断,我没找到官方确认。「下一档会是 2000 美元」是预测,没有任何公告。
来源:Snell et al. (2024). Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters.
一句话AI 改进自己,改进后的版本再更快地改进下一版。
展开I. J. Good 1965 年以「智能爆炸」的形式提出。弱形式今天已经在发生:模型写代码训练下一代,生成训练数据,给自己做评测。
限制闭环加速没有被证明。现实里的限制还有算力、能源、数据,以及「怎么判断改好了」。投资人的一种看法是:能力都在实验室的接口里,实验室又能自我加速,中间层没有可积累的护城河。这是一种观点,不是结论。提这个看法的人自己也给了两个出口:硬件,和撮合人的平台。
来源:Good, I. J. (1965). Speculations Concerning the First Ultraintelligent Machine.
模型、价格和软件的成本
钢筋用不着最好的钢。多数任务也用不着最强的模型。
一句话产品性能超过大多数用户用得上的程度以后,竞争转向价格、方便和「够用」。
展开Christensen 的《创新者的窘境》(1997)讲的就是这个。后来他和 Raynor 的《创新者的解答》(2003)加了一步:性能不够时,各部件紧密配合的整合型产品赢;性能过剩以后,接口标准、部件可换的模块型产品赢。
书里的例子是钢铁。小型电炉厂(Nucor 这一类)先用废钢造钢筋,质量差一点但便宜,大钢厂懒得争这块低端市场;电炉厂质量上去以后,一层层往上吃。
放到模型上:一旦模型够用,用户可以换模型,价值转向做工具和产品的人。Ben Thompson 2026 年 9 月在 Stratechery 上写的《Frontier Overhangs》讨论的就是模型进步快过产品和市场能吸收的速度。未核实我只读到摘要和第三方转述,文章有付费墙。
更正流传的一句话是「炼油厂被取代,不是炼油技术不够好,是用户不需要那么好的油」。这是形象的说法,不是历史案例。我没有找到炼油业这样的例子,Christensen 用的是钢铁和磁盘驱动器。
限制Christensen 的理论被批评过:Jill Lepore(2014,《纽约客》)指出他挑选的案例有选择性,被预言会被颠覆的公司不少后来活得很好。另外「够用线」不是固定的:新任务(长任务、agent)出现,会把线往上推,所以不是一路向便宜走。
例子选模型选工具时,先问「这个任务够不够用」,再问「哪个最强」。奢侈品牌多数内容需求,用不上最前沿的模型。
来源:Christensen, C. M. (1997). The Innovator's Dilemma; Christensen & Raynor (2003). The Innovator's Solution; Lepore, J. (2014). The Disruption Machine. The New Yorker; Thompson, B. (2026-09-21). Frontier Overhangs. Stratechery.
一句话让便宜的小模型先答,只在它没把握时转给大模型。
展开这叫模型级联。FrugalGPT(Chen、Zaharia、Zou,2023)报告在若干任务上匹配 GPT-4 的准确率,成本最多降 98%。关键在于「小模型怎么知道自己没把握」,常见信号有输出概率、多次采样是否一致、模型口头报出的置信度。
限制省多少看任务,98% 是最好情况。模型自报的置信度常常不准;转给大模型要多等一轮,延迟变长。
本机的小模型Apple 在 2025 年 WWDC 发布 Foundation Models 框架,开发者可直接调用设备上的模型,当时公开的规模约 30 亿参数。未核实有人说是「20b 的端侧模型」,我没找到依据,可能是后来的新版本,也可能记错。Apple Intelligence 过去在中国大陆不开放,现在的情况没核实。macOS 本来就带一批本机能力:Vision(识字、图像分析)、Speech(语音转文字)、NaturalLanguage(分词、语种识别),免费,不联网。
例子微信聊天导出里图片只剩「[图片]」,下一步打算用 macOS 自带的 Vision 在本机识字,不出网。
来源:Chen, L., Zaharia, M., Zou, J. (2023). FrugalGPT. arXiv:2305.05176; Apple Developer, Foundation Models framework (WWDC 2025).
一句话蒸馏是让小模型去学大模型的输出。它和「模型崩溃」是两回事。
展开Hinton 等人 2015 年提出。今天几乎每家模型公司都在用,小模型常常是从大模型蒸出来的。
更正有人说「蒸馏有致命问题,学到的是一个模型对另一个模型的理解」,并把它和 Shumailov 等人 2024 年发在 Nature 的「模型崩溃」论文放在一起。崩溃说的是另一种情况:模型反复用自己或同类生成的数据训练,又不掺新的真实数据,逐代丢掉分布里的长尾信息。后续研究(Gerstgrasser 等 2024)发现,只要把真实数据保留下来、合成数据累加进去,崩溃可以避免。
蒸馏的真实限制是:学生很难超过老师,而且只学得到老师输出覆盖的那一部分。
限制「模型是工业碱」是类比:大模型像基础原料一样越来越便宜,只卖模型能力的公司利润会被压。这个方向有道理,但「某家公司会死」属于预测,这里不收录具体公司的预测。
来源:Hinton, Vinyals, Dean (2015). Distilling the Knowledge in a Neural Network; Shumailov et al. (2024). AI models collapse when trained on recursively generated data. Nature; Gerstgrasser et al. (2024). Is Model Collapse Inevitable?
一句话传统软件卖出第二份的成本几乎为零。依赖大模型的产品不是这样。
展开Shapiro 和 Varian 的《信息规则》(1998):信息产品的第一份成本很高,之后每多一份几乎不花钱,所以容易赢家通吃。
更正 「软件的成本无限趋近于 0」对大模型产品不成立:每次请求都要付推理算力,公开报道里 AI 应用的毛利常明显低于传统 SaaS。另外毛利不是利润。咖啡和奶茶的饮品毛利可以很高(有人估计 80%),扣掉房租和人工以后净利很薄。这个 80% 是估计,没有出处。
更正另一种说法是「90–00 年代的高速增长,主要靠管理提升,不是信息技术」。增长核算的研究(Jorgenson、Oliner 和 Sichel 等)把 1995–2005 年美国生产率的回升大部分归因于信息技术;管理也有贡献,Chandler 的《看得见的手》(1977)讲的是职业经理人和管理层级怎样成为现代企业的核心。两者不是二选一。
来源:Shapiro & Varian (1998). Information Rules; Oliner & Sichel (2000). The Resurgence of Growth in the Late 1990s. Journal of Economic Perspectives; Chandler, A. (1977). The Visible Hand.
哪些心理学说法站得住,哪些被修正过
17 × 24 等于多少?你得停下来算。2 + 2 等于多少?不用想。这两种反应就是后面要讲的两套系统。
一句话系统一快、自动、凭感觉;系统二慢、费力、一步步推。
展开这对术语是 Stanovich 和 West 2000 年提出的,卡尼曼 2011 年的《思考,快与慢》把它普及。卡尼曼是心理学家,2002 年拿的是诺贝尔经济学奖(和 Vernon Smith 共享;诺贝尔没有心理学奖,他的合作者特沃斯基 1996 年去世)。他们证明人在不确定情况下的决策,会系统性地偏离经济学里「理性人」的假设。
限制两套系统是对两类加工方式的描述,大脑里没有两个独立的器官。Melnikoff 和 Bargh(2018)批评这种二分太简单。《思考,快与慢》里讲「启动效应」的那一章,引用的研究后来大量复现失败,卡尼曼本人 2017 年公开承认当时过于信任这些研究。想拿走概念的话,读系统一二和过度自信的部分就够。
来源:Stanovich & West (2000). Individual differences in reasoning. Behavioral and Brain Sciences; Kahneman (2011). Thinking, Fast and Slow; Melnikoff & Bargh (2018). The Mythical Number Two. Trends in Cognitive Sciences.
更正「抽象能力是系统一,所以抽象强的人理性不一定强」,后半句有证据,前半句太强。
展开后半句:Stanovich 在《What Intelligence Tests Miss》里论证,智力和理性是可以分开的,聪明的人照样会犯系统性的判断错误。
前半句:模式识别确实是抽象的一个来源,看出两件事相似是系统一干的活。但把规律提炼成概念、迁移到新情境,通常要用到工作记忆和前额叶的控制,更接近费力的加工。流体智力(解新问题的能力)的研究也是这个方向。
抽象的毛病错误的抽象加上合理化:因为某件事就宣判某个人「社交死亡」,然后再找理由支持这个判断。比喻是「没有一楼,直接挖了个地下室」。
例子对同事的行为冒出一个解读,先给它贴上「假设」的标签,再逼自己找一条相反的证据。找不到,再当真。
GPT-4 是系统一,o1 是系统二?这是比喻。长思维链模型确实在做更多步的推理,但没有人证明它们和人的两套系统有对应关系。
来源:Stanovich, K. (2009). What Intelligence Tests Miss.
一句话压力很大的时候,负责计划和抑制的前额叶会变弱,负责快速反应的杏仁核占上风。
展开Arnsten(2009)的综述总结了这个机制:压力激素升高,前额叶的功能下降。受虐待的儿童对愤怒的表情更敏感、更快认出(Pollak 团队的一系列实验)。
限制
来源:Arnsten, A. (2009). Stress signalling pathways that impair prefrontal cortex structure and function. Nature Reviews Neuroscience; Pollak & Sinha (2002). Effects of early experience on children's recognition of facial displays of emotion. Developmental Psychology.
一句话切换任务以后,上一件事还会在脑子里占一阵子位置。
展开Sophie Leroy 2009 年的实验:人转到新任务之后,仍在想上一个任务,没做完的任务残留更重。司马贺 1971 年写过「信息丰富造成注意力贫乏」。
例子需要专注时,订个会议室,手机放一边,电脑上的微信也关掉。反复查看消息,是在给自己制造残留。
限制实验大多是实验室里的短任务,「每次看一眼手机究竟损失多少」没有可靠的统一估计。
来源:Leroy, S. (2009). Why is it so hard to do my work? Organizational Behavior and Human Decision Processes.
来源:Stutz, Eiholzer, Spengler (2019). Effects of Evening Exercise on Sleep in Healthy Participants. Sports Medicine; McEwen, B. (1998). Protective and damaging effects of stress mediators. NEJM.
限制MBTI 是一份量表,像量身高一样量出四个字母,但它的重测稳定性一直被批评。
Pittenger(1993)的综述指出,相当比例的人隔几周重测会得到不同的类型,有的研究里大约一半。人格研究里证据更充分的是大五模型。把 MBTI 当作自我介绍时的话题,没有问题;拿它预测一个人会怎么做,撑不住。
来源:Pittenger, D. (1993). Measuring the MBTI… and coming up short. Journal of Career Planning and Employment.
记住的是特征,不是录像
回想第一次约会:你多半记得发型、香水、她说过的几句话,至于她整体长什么样,反而模糊。
一句话人存下来的是几个关键特征,回忆时再拼一次。
展开Bartlett 1932 年让英国人反复复述一个美洲原住民的民间故事,复述越来越像他们自己的文化,细节被改写。Loftus 和 Palmer 1974 年让人看车祸的录像:问「两车猛撞(smashed)时车速多少」的一组,报出的车速比问「碰到(hit)时」的一组高;一周后,前一组更多人说自己看见了碎玻璃,实际画面里没有。
来源:Bartlett, F. (1932). Remembering; Loftus & Palmer (1974). Reconstruction of automobile destruction. Journal of Verbal Learning and Verbal Behavior.
一句话一样东西在越多不同的场合出现过、和越多已知的东西连过,越不容易忘。
展开Craik 和 Lockhart(1972)的加工深度理论:只看字形是浅加工,联系意思、联系自己的经历是深加工,保持得更久。这个理论后来被批评循环论证,但实验结果本身站得住。
语言学习里的对应做法:同一个词听不同的人说。Lively、Logan 和 Pisoni(1993)训练日语母语者区分英语的 r 和 l,听多个说话人的训练组,比只听一个说话人的训练组迁移得更好。一个词需要见多少次,没有统一的数字,取决于词和语境。
例子读了好几遍都读不进去的道理,做成游戏就读进去了。游戏把同一个道理放进角色、对白、选择、后果好几个场景,连接变多了。做课也可以这样:一个概念至少换三个场景讲。
来源:Craik & Lockhart (1972). Levels of processing. Journal of Verbal Learning and Verbal Behavior; Lively, Logan & Pisoni (1993). Training Japanese listeners to identify English /r/ and /l/. JASA.
一句话节点是概念,连线上写关系;一个概念的意思,由它连着谁决定。
展开概念图是康奈尔大学的 Joseph Novak 团队在 1970 年代发展出来的,理论基础是 Ausubel 的同化理论:新知识要挂到已有知识上才学得会。思维导图是从一个中心长出的树;概念图是网,每条线上要写「导致」「属于」「取决于」,读出来是一句完整的话。
做法把关键词摊开,两两之间写得出「A ___ B」的才连线,写不出的先不连。连完看哪几个词线最多,那是你真正在想的东西。
语义网络(Quillian 1968)是知识图谱的祖先。词向量的思路来自语言学家 Firth 1957 年的话:看一个词的伙伴,就知道它的意思。
更正有人说语义网络是神经网络参数的极简形式。不对:语义网络是带标签的离散符号结构,每条线都有名字;神经网络里的概念散布在大量数字里,没有一条线对应一个关系。
限制词向量那个有名的例子「国王 − 男人 + 女人 ≈ 女王」被挑选过。计算时通常要把输入的几个词排除出候选,否则最接近的往往是「国王」本身(Nissim 等 2020)。
来源:Novak & Cañas (2008). The Theory Underlying Concept Maps. IHMC; Quillian (1968). Semantic Memory; Firth (1957). A Synopsis of Linguistic Theory; Mikolov et al. (2013). Efficient Estimation of Word Representations in Vector Space; Nissim, van Noord, van der Goot (2020). Fair is Better than Sensational. Computational Linguistics.
一句话ontology 规定一个领域里有哪几类东西、它们之间能有哪些关系;知识图谱是按这套规矩填进去的具体内容。
展开Gruber 1993 年的定义是对一个概念体系的明确说明。比喻:ontology 是表头和填表规则,知识图谱是填好的表。Palantir 的做法是先把业务里的人和事建成对象,再定义「操作」(action):一次操作能对哪些对象做哪些修改。模型也通过这些操作去改数据,而不是随便写库。
例子品牌知识库(品牌、产品、战役、KOL、帖子之间的关系)和 GEO 的实体梳理,都是这类问题。先把类和关系定清楚,比先堆数据重要。
来源:Gruber, T. (1993). A Translation Approach to Portable Ontology Specifications. Knowledge Acquisition; Palantir Foundry 文档:Ontology 与 Action types。
一句话Krashen 的假说:人靠听懂比自己水平略高一级的材料来习得语言,记作 i+1。
展开相关的几个说法:
限制
例子一款英语学习应用把电影片段做成关卡:先听、不看字幕,片子多难题就多难。教同事用 AI 同样适用 i+1:每一批材料比他们现在会的多一步,别一次讲到 agent。
来源:Krashen (1982). Principles and Practice in Second Language Acquisition; Swain (1985); Bengio et al. (2009). Curriculum Learning. ICML; Macnamara, Hambrick, Oswald (2014). Deliberate practice and performance. Psychological Science; Csikszentmihalyi (1990). Flow.
一句话事先许诺的、和表现挂钩的物质奖励,会削弱人本来的兴趣。
展开Lepper、Greene、Nisbett(1973):本来爱画画的幼儿园小孩,被告知画了有奖之后,自由活动时画画的时间反而减少。Deci、Koestner、Ryan(1999)综合了 128 项实验:事先许诺、和表现挂钩的物质奖励会削弱内在兴趣;事后意外给的奖励、口头肯定不会。
限制削弱只发生在本来就有兴趣的活动上。本来就枯燥的任务,奖励不会毁掉什么。Cerasoli 等人(2014)的元分析发现,内在动机和奖励都能预测表现,数量类的任务奖励更管用。「把兴趣变成钱,兴趣就没了」说得太满。
来源:Lepper, Greene & Nisbett (1973). JPSP; Deci, Koestner & Ryan (1999). Psychological Bulletin; Cerasoli, Nicklin & Ford (2014). Psychological Bulletin.
价值怎么传到用户那里
一个能控制整台电脑的语音输入硬件,技术很强,找不到投资,听的人也说「好强,但我没动力用」。常见的毛病出在哪里?
一句话买新技术本身的早期用户,和买「解决我一个具体问题」的大众,是两群人,中间有道鸿沟。
展开Geoffrey Moore《跨越鸿沟》(1991):早期用户愿意自己拼凑,大众要完整的方案。大多数高科技产品死在这道沟里。办法是先收窄到一个具体场景,做到别人一眼看懂。成熟度不高的品类,要更简单的形态,不要更复杂的。
限制几个常听到的论断,各有反例:
来源:Moore, G. (1991). Crossing the Chasm; CB Insights, The Top Reasons Startups Fail(多年版本);Graham, P. How to Get Startup Ideas.
一句话问对方过去实际做过什么、花过什么钱,不要问「你将来会不会用」。
展开Steve Blank 的客户开发(2005)是离开办公室去见用户。Rob Fitzpatrick 的《The Mom Test》(2013)教具体怎么问,因为问将来只会得到客气话。
来源:Blank, S. (2005). The Four Steps to the Epiphany; Fitzpatrick, R. (2013). The Mom Test.
一句话最与众不同的东西要放在第一屏。
例子一款 AI 教练 App 有一套别处没有的功能:拍照抠图,粘成贴画,摇一摇还有物理效果。它埋在收集流程的深处,第一屏摆的是 20 步问卷。外部的人一进去,看不出它和别的 App 有什么不同。从外面看,「没做」和「做了没讲」是一回事。
另一位顾问给这家团队的顺序是:先弄清人为什么会打开(懒、好面子),再谈潜质、目标,最后才是方法。团队一直在最后一层,也就是「怎么记得更快」。这是一个人的经验,没有研究背书。
检查找一个没听过的人,让他看游戏、课程或交付物的第一屏,看他能不能一句话说出这是什么。
一句话Kevin Kelly 2008 年的文章:创作者只要有 1000 个愿意每年为你花 100 美元的真粉丝,就能靠作品生活。
展开1000 × 100 美元 = 10 万美元。这个数字是举例,不是规律。有人把它改成「有 1000 个人需要你,你就成功了」,又加了两个条件:需要你的人非你不可;你的东西能不靠你本人被分发出去(课程、工具、文章)。
限制「需要」不等于愿意付钱,Kelly 的前提是持续付费。「打工是价值分配,不是价值传递」说得太绝对,雇员同样在创造价值。
例子拿三个条件检查手上的事:有没有具体的一群人需要(同事、学员、玩游戏的人);他们是不是非你不可;东西能不能不靠你本人被分发。
来源:Kelly, K. (2008). 1,000 True Fans. The Technium.
一句话FDE 是驻在客户那里的工程师,把软件改到能在客户的环境里跑通。
展开Palantir 的部署团队由两种人配对:Delta(FDE,写代码)和 Echo(部署策略师,不一定是工程师,负责定义问题、重设流程、推动采用)。OpenAI、Anthropic 近年也招 FDE。
更正有人说 FDE 是「平台企业帮助行业里的企业解决数据问题」。这只是其中一种用法,通用的定义是上面那样。「FDE 在中国只有帮老板做自动化这一个真需求」是个人判断,没有数据。
例子在公司内部推 AI 转型的人,有授权,有上下文,不是外人,称作「内部 AI 转型负责人」比「FDE」准确。
来源:Palantir Blog, Dev versus Delta: Demystifying engineering roles at Palantir; A Day in the Life of a Palantir Deployment Strategist.
压缩与解压
缩写词像一个 zip 文件夹,解压之后才知道里面是什么。
一句话要求模型「高度抽象、精炼」,它每句话都在压缩:删例子,删语气,删背景。读者得自己解压。
展开读起来像文言文的 AI 文字,常常是这样来的。没有上下文的读者解不开。这个现象有现成的名字:知识的诅咒(Camerer、Loewenstein、Weber 1989,后来 Pinker 在写作建议里常用),懂的人忘了不懂是什么感觉。
规矩因读者而异。给机器的文字(路由规则、完成标准)读者是模型,越短越准。给人的文字,读者没有你的上下文,压掉的东西要还回去:补例子,补背景,补一句「这是什么意思」。
例子给品牌做内容时「去 AI 味」「说人话」,做的就是解压这一步。
来源:Camerer, Loewenstein & Weber (1989). The curse of knowledge in economic settings. Journal of Political Economy.
一句话一句「帮我做个视频」得不到好结果。要把这支视频的前提条件一块一块写下来。
例子一份 60 秒竖屏视频的大纲分七块:
两种片子同一个产品,讲清「为什么」的世界观片,和让人「想试」的快节奏宣传片,是两种东西。动手前先定是哪一种。给风格加形容词(「快节奏、炸裂、炫目」)适合要惊喜的宣传片;把每一秒写死适合要准确的讲解。
一句话图表是把数据画到坐标上;图示是把概念画成形状。
展开图表:柱状、折线、饼图。图示:层级(树)、框架(矩阵、象限)、网络(节点和连线)、流程、事件线。对 Claude 这类工具说「图表」,它会去找数据画坐标;说出「象限图」「流程图」,才会画出想要的那种。
刻意练习(Ericsson 等 1993):有明确目标、即时反馈、针对弱项的练习才能持续提高,光重复不行。对不会给形态命名的人来说,一个办法是每次要图之前,先说出形态的名字。
来源:Ericsson, Krampe, Tesch-Römer (1993). The Role of Deliberate Practice. Psychological Review.
限制有人认为:画面不重要,声音不重要,文字最重要;单独做多模态和视频模型是歧途。这句只对一类视频成立。
展开成立的部分:现在流行的「一句话生成视频」,常常是模型写 p5.js、three.js 或 Remotion 的代码,由浏览器逐帧渲染,配乐配音交给 Suno、ElevenLabs 这类工具。代码是文字,所以文字确实是核心。它适合讲解、动效、数据可视化。
更正写实画面、人物表演、复杂镜头,靠的是视频生成模型(如 Veo、Sora 这一类)或实拍。这条路没有被代码渲染取代。「理解视频」(例如用 Gemini 批量粗剪几百条课程视频)是另一件事,更不能说歧途。同一时期,也有人认为 AI 生成的画面还不够精美,论文插图不能让 AI 画,生成的音乐有点千篇一律。
算法让动作算准,关节让动作做准
语言模型读的是互联网上现成的文字。机器人要的动作数据,互联网上没有。
一句话语言、机器人、情绪识别,三个领域缺的数据各不相同。
限制「用完」指的是高质量的公开文本,估计区间也很宽。合成数据、多模态数据、把同一批数据多训几轮,都能往后推。
来源:Villalobos et al. (2024). Will we run out of data? ICML; Open X-Embodiment Collaboration (2023). arXiv:2310.08864; 《中华人民共和国个人信息保护法》第二十八条。
一句话大模型给动作的大方向,一个小网络在真实世界里一圈圈试,把最后一毫米修准。
展开Physical Intelligence 2026 年 3 月 19 日发布的方法(RLT):视觉-语言-动作大模型(VLA)什么都会一点,最后一毫米不准;拿整个大模型去做强化学习又太慢太贵。做法是让冻结的 VLA 多输出一个压缩过的「RL token」,交给一个很小的网络做在线强化学习,它只修正 VLA 给的动作,不替换。
官方的结论:任务中最精细的阶段最多快 3 倍,在某些任务上可以超过人类遥控的速度。测试任务有拧 M3 螺丝、扎扎带、插网线、插电源线。
限制流传的「只用 15 分钟真实数据」来自二手报道,官方页面和论文写的是「几分钟到几小时」。未核实
来源:Physical Intelligence (2026-03-19). RL Token: Bootstrapping Online RL with Vision-Language-Action Models; pi.website/research/rlt; arXiv:2604.23073.
一句话机器人每个关节是一个执行器:电机、减速器、驱动器、传感器装在一起。大模型决定做什么,关节决定做得准不准、扛不扛得住。
展开宇树科技 2016 年由王兴兴创立,起家靠自研关节电机,这是它能把四足和人形机器人价格压下来的原因之一。精密减速器上日本长期领先:Harmonic Drive 的谐波减速器,Nabtesco 的 RV 减速器。国内也有厂商在追赶,例如绿的谐波。
更正常听到「波音是被美国星球大战计划补贴烧出来的」。论点(政府采购培育产业)成立,例子的时间对不上。星球大战计划(战略防御倡议)是 1983 年提出的,那时波音早就是头号民航制造商:707 在 1958 年投入航线,747 在 1970 年。更准的说法是更早的一段:B-47、B-52 轰炸机积累的喷气技术,加上空军大批订购的 KC-135 加油机,养出了 707。硅谷类似:早期集成电路最大的买家是民兵导弹和阿波罗计划。
限制Mazzucato 的《创业型国家》(2013)系统论证了这类现象,说 iPhone 里的 GPS、互联网、触摸屏、Siri 都源自政府资助的研究。有经济学家批评她夸大了政府的作用,低估了企业把技术做成产品的功夫。
区分机器人公司的一个标准:做关节、减速器、传感器这些硬件底子的,和只做演示视频、讲大模型故事的,是两类。国家叙事下两类都能拿到钱,长期留下来的更可能是前一类。这是判断,不是定论。
来源:Mazzucato, M. (2013). The Entrepreneurial State.
一句话让智能有一个身体,在物理世界里感知和行动。
展开一种看法:多接几个摄像头和麦克风不算具身,只有当系统面对一个绕不开的物理约束(会摔、会坏、时间不能倒回)时,才算跨过门槛。这是一种看法,具身的定义本身有多个版本。
相关的老问题是莫拉维克悖论:对人来说容易的感知和动作(认出杯子,端起来),对机器很难;对人难的下棋、算数,对机器容易。
把情绪换成结构
一个半年没推进的项目,被另一个人一个月做完了。原来的负责人从此态度很差。该怎么看?
一句话遇到冲突,先别问谁对谁错,先写三行:这件事是谁授权的;我的出现改变了谁的处境;谁从现在的局面里得利。
展开回到开头的例子:原负责人受影响的,是接手者的出现本身,不一定是接手者的做法。接手者的位置是上级安排的,原负责人的处境也是。两人之间有直接的利益影响。接手者可以选择友善或敌对,原负责人也可以;只是这个局面是外部变化造成的,不是谁先动的手。
「谁受益」是拉丁语法谚 cui bono,西塞罗在演讲里引用过,本意是查案先看谁从中得利。三十六计的第三计「借刀杀人」:「敌已明,友未定,引友杀敌,不自出力,以《损》推演。」
限制cui bono 只能给出假设,不能当证据。得利的人不一定是安排的人,很多局面是没人安排的。写完三行以后,还要找一条能推翻你猜测的事实。「鲶鱼效应」(往沙丁鱼桶里放一条鲶鱼,沙丁鱼因为紧张活得更久)出处不可考,当比喻用可以,不要当研究结论。
一句话当一个指标变成目标,它就不再是好指标。
展开古德哈特定律。Goodhart 1975 年在谈英国货币政策时提出,Strathern 1997 年概括成流传最广的说法。例子:一位化学老师第一节课问「谁是月考前十」,从此只关注那几个人。公司要求每月 AI 用量达标,大家为了用量而用,不为把活干好。能被自动验收的活适合交给 agent,原因之一就是只有它的指标和目的一致。
限制有人据此认为「用量高,说明心智模型没对准」。片面。用量还取决于任务类型、是否并行、是否自动循环。用量既不能证明投入,也不能证明浪费。
「token 是实打实的资源,在浪费水」:单次请求的耗水估计差两个数量级,从零点几毫升到几十毫升,取决于是否算上发电用水和数据中心所在地,各家口径不一。
来源:Goodhart, C. (1975). Problems of monetary management: the UK experience; Strathern, M. (1997). 'Improving ratings': audit in the British University system. European Review.
一句话家庭系统理论里的「自我分化」:能和原生家庭保持情感连接,又不被家里的情绪和规则牵着走。
展开Murray Bowen(1978)的概念。分化程度高的人可以「不同意但不翻脸」。它指的是在情感上分开,不是搬出去住。
有人用大模型比喻父母:他们的上下文固化在自己的年代,催他们进步,像给旧模型塞新知识,效果有限,所以先决定哪些事自己拍板。
更正这个比喻前半句顺手,不能推广。心理学里有流体智力和晶体智力之分(Cattell、Horn):解新问题的能力随年龄下降,积累的知识和经验保持甚至增长。老年人能学新东西,只是速度和意愿不同。
来源:Bowen, M. (1978). Family Therapy in Clinical Practice.
一句话人不去找最优解,找到够好的就停,这叫 satisficing。
展开司马贺 1956 年提出。有时被说成「行为经济学」,更准确的出处是他的有限理性。选工具、选模型时,先问「够不够用」,不问「哪个最好」。
来源:Simon, H. (1956). Rational choice and the structure of the environment. Psychological Review.
影视和游戏的声音设计
一部电影里翻书的沙沙声,通常不是翻书时录的。
一句话影视作品的声音由好几个部门分头做,最后在混音里合在一起。
游戏和影视不一样影视的声音在固定的时间线上,游戏要按玩家的行动实时触发和混合,常用 Wwise、FMOD 这类中间件,按游戏状态(走在草地还是石板上、战斗开始了没有)切换声音。
一句话语音合成已经很强,音效和整体的声音设计还没有好用的一体化工具。
展开ElevenLabs 的语音被不少人认为领先一代。通用大模型自己生成的音效,常被说不好用。难点有两个:音效要对准画面里每一个动作;而好的音效素材按上面的分工细分得很细,能做到这种粒度的公开样本不多,音效又常是最不被重视的部门。如果能把这些细分全部组合起来,会是一个目前还没有的工具。这是一位做过游戏和影视音频的人的看法。
限制这个领域变得很快,ElevenLabs、Suno 这类服务也在加音效和音乐功能。我没有逐个测试。
计算机和 AI 的几条脉络
下面这些人名常被一起提起。先把年份排清楚。
更正「今天所有电脑都是冯·诺依曼结构」说过头了。现代 CPU 的一级缓存里,指令和数据是分开的(改良哈佛结构),很多单片机和数字信号处理器直接用哈佛结构。「Java 里那套继承层级是后人加的」也不准:类和继承在 Simula(1967)里就有,Smalltalk-76 也有继承。凯的贡献是取了名字、强调消息传递。
来源:von Neumann (1945). First Draft of a Report on the EDVAC; Engelbart (1962). Augmenting Human Intellect: A Conceptual Framework.
一句话AI 里两大路线:符号主义靠人写的规则和逻辑,联结主义靠神经网络从数据里学。
展开时间线:1956 年达特茅斯会议,AI 这个词出现;1958 年罗森布拉特的感知机;1969 年 Minsky 和 Papert 指出单层感知机的局限,神经网络研究降温;1986 年 Rumelhart、Hinton、Williams 推广反向传播;2012 年 AlexNet 在 ImageNet 上大胜;2017 年 Transformer。
有人说:「LLM 不是线性的发展历史,以联结主义为主,也在拿着符号派打下的江山(现代计算机网络)。」前半句对。
更正后半句混了两件事。计算机和网络的基础(图灵、冯·诺依曼、ARPANET)不是符号主义这个 AI 流派的成果。说深度学习跑在通用计算机上是对的,但那是硬件和软件基础设施。今天确实也有把神经网络和符号推理结合的「神经符号」研究。
一句话施乐 PARC 做出了图形界面、以太网、激光打印机和 Alto 个人电脑,苹果后来做出 Macintosh。
展开PARC 1970 年成立,Alto 是 1973 年的原型机,艾伦·凯的 Smalltalk 也出在这里。1979 年乔布斯参观 PARC,交换条件是施乐获准在苹果上市前认购一部分股份。
更正常见说法是「施乐几乎没把这些变成生意」。不对:激光打印机是施乐的大生意,以太网后来由 3Com 等公司商业化,1981 年施乐也推出了商用的 Star 工作站,图形界面完整,只是单台售价约 1.6 万美元,卖得不好。比较公平的说法是:施乐把一部分变成了生意,没有把个人电脑做成。发明和创新是两件事,PARC 擅长前者。
来源:Hiltzik, M. (1999). Dealers of Lightning: Xerox PARC and the Dawn of the Computer Age.
一句话MIT 的编程入门教材,教的是怎么用抽象控制复杂度,不是某个语言。
展开《Structure and Interpretation of Computer Programs》,Abelson 和 Sussman 写,初版 1985 年,用 Scheme。三个核心:抽象屏障(每一层只露接口、藏实现,上层不用知道下层怎么做);过程即数据(函数可以当参数传、当结果返回);元语言抽象(自己写解释器来理解语言)。名句:「程序首先是写给人读的,其次才是给机器执行的。」最省力的入门是看 1986 年的 MIT 视频课第一讲,或只读书的 1.1 节和 2.1 节。
限制MIT 在 2008 年左右把入门课改成了 Python。批评者认为 SICP 对初学者偏难;支持者看重它对抽象的训练。街边包子店一个笔记本记账就够,要同时管一百台云主机才需要这套思路,规模决定要不要。
来源:Abelson & Sussman (1996). Structure and Interpretation of Computer Programs, 2nd ed.
一句话一个经济体要用的知识零散地分布在无数人脑子里,没有中心能收齐。价格是把它压缩成信号传给所有人的办法。
展开哈耶克 1945 年的《知识在社会中的运用》,1974 年诺贝尔经济学奖。很多知识是「当时当地」的:哪里缺什么,谁会做什么。中央计划者永远拿不全。
来源:Hayek, F. (1945). The Use of Knowledge in Society. American Economic Review.
| 说法 | 核对 |
|---|---|
| 「文化把战略当早餐吃」 | 常归于德鲁克,查不到德鲁克的原始出处。福特的 Mark Fields 在 2000 年代中期用这句话让它流行。 |
| 「认识你自己」 | 刻在德尔斐的阿波罗神庙,不是雅典的帕特农神庙。 |
| 「观自在」 | 《心经》开头的「观自在菩萨」是菩萨的名字(Avalokiteśvara)。把它读成「自己观察自己」是一种解释,不是通行译注。「般若」是智慧,「般若波罗蜜多」是到彼岸的智慧。 |
| 知行合一 | 《传习录》:「知而不行,只是未知。」说的是知和行是一回事,不是内省。 |
| 「龙蛇之变」 | 《庄子·山木》。山里的树因为没用活下来,主人家的鹅因为不会叫被杀。庄子先说处在材与不材之间,接着自己否定:还是免不了受累,不如「一龙一蛇,与时俱化」。 |
| 「找到很湿的雪和很长的坡」 | 巴菲特的话,出自传记《滚雪球》(Schroeder 2008)。 |
| 鲶鱼效应 | 出处不可考。 |
| 「砌墙还是建教堂」 | 三个石匠的寓言,出处不明。 |
| 「砸人饭碗,犹如杀人父母」 | 俗语,原话多作「断人财路,如杀人父母」。 |
| 「知止而后有定」 | 《大学》:「知止而后有定,定而后能静,静而后能安,安而后能虑,虑而后能得。」 |
| 「治人者与受治于人者」 | 《孟子·滕文公上》:「劳心者治人,劳力者治于人。」 |
| 等待戈多 | 贝克特的剧,1953 年在巴黎首演:两个人在路边等一个始终没来的人。 |
| 波普尔的三个世界 | 《客观知识》(1972):物理世界、心理世界,以及理论、书本这类人造但独立存在的知识。 |
图中的纸模型是示意,不是数据图。全部说法的出处写在各卡片底部;标「未核实」的,我没能查到原始来源。