亚当·斯密造了一个“大模型”

当全世界都在追逐 AI 的时候，一位 267 年前的苏格兰教授，可能比硅谷任何工程师都更早搞清楚了“大模型”该怎么造。更要紧的是，他描述的那台引擎并不只在 AI 身上运转，也在每个企业内部、每一次管理判断里运转。读懂它在哪里失灵，可能是当下被严重低估的管理课题。

Fast Reading

• 亚当·斯密在 1759 年的《道德情操论》里，用 sympathy(同情共感)这台“模拟引擎”构建了一个解释人类社会从哪里来的“大道德模型”(LMM)——它的训练数据是社会经验，它的架构是设身处地的模拟，输出则是“良心”。与今天的大语言模型(LLM)思路惊人一致：都是放弃写规则，让系统从经验中学习。
• 从孩子学冲突、新员工学判断，到企业出海泛化、董事会独立性、KPI 异化，斯密那套“心中的法官”如何发育、如何失灵，几乎可以一对一对应到企业的管理痛点。共情系统的故障模式(自我欺骗、无知的自信、集体狂热、对“看得见”的崇拜)，在 AI 对齐研究和企业管理里，只是换了一种方式出现。
• 一个永远只附和你的下属、一个永远迎合用户的产品、一个永远支持 CEO 的董事会，都是失败的“完美对齐”。我们需要的不是齐奏，而是和弦：足够近，近到能彼此理解；足够远，远到能彼此校正。这是大道德模型和大语言模型最深的同构。

一、讲笑话没人笑，为什么伤人？

1759 年，亚当·斯密(Adam Smith)出版了他的第一本书《道德情操论》。在书的第一卷，他讲了一个我们都经历过的小场景：

一个人在饭局上讲了一个笑话，讲完之后满怀期待地环顾四周，却发现除了自己之外，没有人笑。

斯密说，这是人类社会中最令人难堪的时刻之一。但他从中看到了一个深刻的问题：这个人为什么会难堪？他又不是被骂了，也没遭受任何物质损失。别人不笑，于他何损？

斯密的回答是：人天生渴望跟他人产生情感上的共振。他用的词叫 sympathy，同情共感。我们需要别人“感我所感”，如同需要空气和水一样，这种需要是人类生物底层的配置。

但这个共振是怎么实现的？我们永远无法直接进入另一个人的内心。斯密对这一点看得很清楚：我们对他人的感受没有任何直接的经验，唯一的办法是设想自己在同样的处境中会有什么感受。

怎么办？只能模拟。把自己放进对方的处境里，在心里跑一遍，跑的次数多了，你的模拟就越来越准。斯密说，先有千万次具体的经验，后才有抽象的道德法则。

这段话写于 267 年前，却精确地描述了当今最受关注的一种技术的运作条件。大语言模型也没有任何办法直接访问用户的内心，它唯一能做的，是从你提供的信息中推断你的处境，再根据自己在海量人类语言中“学到”的经验，生成一个回应。

一条路径来自 1759 年的苏格兰，另一条来自 21 世纪的硅谷。两条路不是在斯密的指引下汇合的，而是各自独立地走到了同一个地方：你没法钻进别人脑子里，那就只能靠经验去猜。

斯密构建的这套理论，本质上是一个解释人类社会“从哪里来”的“大道德模型”(Large Moral Model，LMM)。而今天工程师们造出的“大语言模型”(Large Language Model，LLM)，跟它的相似程度令人惊讶。

LMM 和 LLM，一字之差，仅仅是个巧合吗？

二、怎么样让电脑认识小猫？

暂且按下斯密不表，先说说大语言模型是怎么来的。

AI 发展史上曾经有两条截然不同的路线：符号主义和联结主义。本质上是两种应对复杂问题的方式，一种是自上而下的设计，另一种是自下而上的经验积累。

举个例子。假设你要教电脑识别一张图片里有没有猫。

符号主义的做法是：先列出猫的关键特征，比如尖耳朵、大眼睛、胡须、毛茸茸的身体，然后据此写一堆规则。随后再把这些规则塞进电脑，让它照章执行。这个做法的吸引力是显而易见的。规则是透明的，逻辑是可追溯的，出了错你知道哪条规则有问题。科学家天然偏爱这种路线，因为它跟科学的理想气质一脉相承：清晰、精确、可验证。从 20 世纪 50 年代到本世纪初，符号主义在 AI 领域占据了相当长一段时间的中心位置。

但这条路有一个致命的问题：世界太复杂，规则写不完。

猫不是只有一种样子。同一只猫在不同光线下拍，像素特征可以天差地别。你需要为每一种情况写一条规则，这几乎是不可能的。更要命的是，“尖耳朵”到底多尖才算尖？一只竖起耳朵的狗也有点尖。你很难给电脑一个精确的定义来区分“尖”和“不那么尖”。

联结主义走的是完全不同的路。它不写规则。它构建一个由大量“神经元”组成的网络，直接给这个网络看成千上万张标注好的图片：这些是猫，那些不是。每次错了就微调一下内部连接。几百万张图片看下来，它自己摸索出了规律。这些规律是什么？没人能完全说清楚。这就是为什么深度学习模型被叫做“黑箱子”。它虽然管用，但你看不懂它内部在做什么。

2012 年，联结主义阵营的 AlexNet 将图像识别的错误率从 26% 一举降到 15%。黑箱子打败了规则手册。此后十余年，神经网络、深度学习、大语言模型这些联结主义的后裔，席卷了整个 AI 领域。

三、赵本山好笑在哪儿？

回到笑话上来。怎么让电脑判断一个笑话好不好笑？

假设你是一个“符号主义幽默工程师”，你列了如下的清单：意外反转，加分；逻辑落差，加分；涉及禁忌但没有越界，加分；三句以内完成起承转合，加分。然后，你把赵本山的小品台词喂进去。结果系统输出：不好笑。

它逐条检查，发现赵本山的小品结构拉拉杂杂，铺垫半天才进入正题，同一个梗翻来覆去地用，严重依赖方言、表情和肢体动作，规则手册上全是减分项。可赵本山是连续十多年春晚收视率的定海神针。他的“笑果”，来自哪里？

来自他和观众之间长期建立起来的情感共振。他的节奏不是教科书上的节奏，是东北农村唠嗑的节奏。几亿从农村进城的人骨子里熟悉这个节奏，这个节奏本身就是安全感。他用的词不是精心设计的包袱，是活生生的人会说的话。他演的角色，那些狡黠的、有点赖皮的、爱面子但兜里没钱的小人物，就是那几亿人身边的人，甚至就是他们自己。

后来赵本山淡出了舞台，脱口秀成了新一代的喜剧主流。这不是品味高低的问题。当观众的主体变了，集体共振的门槛也变了。他们需要另一种节奏，处理另一种焦虑。同一套人类硬件，不同的经验数据，“好笑的”东西就不一样。

中国相声界其实早就干过“符号主义幽默工程师”这事，“铺平垫稳、三翻四抖”，马季总结过二十二种组织包袱的技法。但郭德纲自己说过，他最绝的包袱不是按规矩抖出来的，是来自现场跟观众、跟于谦的化学反应。规矩是骨架，让人笑到停不下来的那个东西，规矩抓不住。

斯密看透了这一点。好不好笑，不取决于笑话本身，而取决于讲笑话的人和听众之间的情感能否在那一刻同步，这靠的是长久的社会经验沉淀下来的东西。你“知道”什么好笑，就像神经网络“知道”那是一只猫。

道德情操论

The Theory of Moral Sentiments

作者: [英]亚当·斯密（Adam Smith）

译者: 蒋自强 / 钦北愚 / 朱钟棣 / 沈凯璋

出版社:商务印书馆

四、人类社会是怎么运转的？

讲笑话没人笑，看起来是鸡毛蒜皮的小事。赵本山好不好笑，看起来是一个茶余饭后的闲聊话题。但斯密从这类鸡毛蒜皮里看到了一个大问题：人类社会到底是怎么运转的？

几十亿人，每个人都有自己的欲望、恐惧和利益，每个人都永远无法直接知道另一个人心里在想什么。在这个条件下，人类不但没有陷入霍布斯(Hobbes)所说的“一切人对一切人的战争”，反而建立了家庭、村庄、城市、国家、文明。这是怎么做到的？

经济学家会说：市场和价格。但市场的前提是信任，你得相信卖给你的面包没有被人下毒。政治学家会说：靠法律和国家。但法律的前提是大多数人在大多数时候自觉遵守规则。所以在市场和法律之前，必须有一个更基础的东西先运转。斯密说，那就是共情，我们每个人每时每刻都在不自觉地运行着的模拟能力。

你把自己放进对方的处境里做模拟，就能大致判断他的行为是合理还是离谱。对方也在对你做同样的模拟。日积月累，无数次这样的微小互动就沉淀出了一套共享的行为规范。它不是谁设计的，而是从日常生活中自发涌现的。

斯密用了一个建筑学的比喻：仁慈就像一座大楼的装饰，是锦上添花的东西。但正义是大楼的主柱。没有它，“人类社会这座巨大而宏伟的建筑就会在一瞬间土崩瓦解”。支撑这根主柱的地基，就是每个人心里那个自动运转的模拟系统。

这套从微小互动中涌现出规范的系统，不仅支撑起宏大的人类文明，同时也藏在现代企业日常运转的毛细血管里。

一个团队为什么“能打”？表面上看，是分工清楚、流程顺畅。但真正让协作跑起来的，往往是制度下面那层更细的东西：你大概知道我为什么急，我大概知道你为什么犹豫。客户那句抱怨到底是情绪发作，还是一个早期预警，几个人心里大致有数。这些东西可以被流程部分替代，但很难被流程完全写尽。流程能规定谁向谁汇报，规定不了一个人什么时候该多问一句。

所以，企业也像一台模型。它吃进去的不只是报表和会议纪要，还有过去处理客户、失败、误会和合作时留下的经验。时间久了，它会形成一种集体直觉。管理的难处，不是把规则写清楚，而是让这套集体判断力慢慢长出来。

但斯密没有停在这里。他追问了一个更深的问题：这套模拟系统在一个人身上是怎么发育成熟的？

他用了一个这样的比喻：一个人如果从小在荒岛上独自长大，他对自己的美丑没有任何概念。把他带进人群，别人的反应就成了他的镜子，他第一次从别人的眼睛里“看到”了自己。

对自己行为的判断也一样。小时候你看妈妈的脸色，长大以后看老师、看同事、看领导。每一次外部反应都在悄悄调整你内心对“什么是对的”的感觉。但你渐渐发现这些镜子不够可靠，因为假如完全依赖它们，自我评价就会像天气预报一样飘忽不定。

于是，你开始在心里装一面自己的镜子。它不是任何具体的人，而是从所有社会经验中提炼出来的一个判断标准：如果有一个完全了解我的处境、跟这件事没有任何利害关系的人来看，他会怎么评价我？

这就是斯密所说的“公正的旁观者”(impartial spectator)，他也管它叫“胸中之人”或“伟大的法官和仲裁者”。

你也许觉得这是圣人才有的境界。其实你昨天就用过它。领导在大会上表扬你，但你知道那个项目主要是同事做的，你的反应不是高兴，是不安，因为它在说：你配不上。反过来也有，你做了一个你知道是对的决定，也许是拒绝了一个不正当的要求，也许是在所有人选择沉默的时候说了一句真话。家人不理解，朋友觉得你傻，同事觉得你不识时务。你委屈，你难过。但你心里有一块地方是不动的。那块不动的地方在说：我没做错。

中国人对这个东西不陌生。“举头三尺有神明”，但制动力还是来自外部监控。“慎独”深了一层，外部镜子撤走了你仍然自律。斯密比这两个都走得更远：“心中的法官”不是天生的，不是圣人传授的。它是你自己的全部社会经验。

从讲笑话没人笑的难堪，到文明何以可能的大问题，到“心中的法官”的发育成熟，斯密用同一台模拟引擎把这一切串了起来。这台引擎是先天的，但它的校准是后天的。先有千万次具体的经验，后有抽象的道德法则。它不是从规则中推导，而是从经验中学习。

这个过程，你是不是感觉在哪里听过？

五、大道德模型和大语言模型，像在哪儿？

确实听过。这个过程，几乎就是大语言模型学习方式的道德哲学版本。

不是巧合。斯密和大语言模型的工程师们面对的是同一个根本约束：无法直接访问对方的内部状态，只能基于经验来模拟。在这个约束下，他们各自独立地走到了同一条路上。而在斯密之前，同时代的其他哲学家走的全是另一条路：有人说人天生有一种专用的“道德感官”能直接感知善恶；有人说所有道德行为都是伪装的自利；还有人说道德真理可以像数学定理一样被理性推导出来。每一条都抓住了道德生活的一个面向，但都把它当成了全部真相。它们的方法都是窄的：规则驱动、不从经验中学习、碰到训练范围外的情况就失灵。

康德更是提出了道德哲学史上最精密的符号主义工程：绝对律令。即“只按照你同时能愿意它成为普遍法则的准则去行动”，一条规则统摄一切。但康德本人就面对过一个著名难题：如果一个杀手追到你家门口问你朋友藏在哪里，你该不该撒谎？绝对律令说，在任何情况下都不可以撒谎。但你心里清清楚楚知道这个答案是错的。让你知道它是错的的东西，不是另一条更好的规则，是你在那个具体处境中跑的一次模拟，你设身处地感受到了你朋友的命悬一线。

斯密厉害的地方，是提供了一种真正的通用架构。Sympathy 这台模拟引擎不是为某一类道德问题设计的，而是一个通用的判断机制。这才是“大道德模型”的真正含义：“大”不是说庞大，是说通用。就像“大语言模型”的“大”不仅仅是参数多，而是说它能处理几乎所有语言任务。工程师们在 AI 领域花了七十年，完成了从窄到通用的跃迁，斯密更早在道德哲学领域跨过去了。跨过去的方式是同一个：别写规则了，让系统从经验中自己学。

而且引擎是先天的，经验做的是校准。斯密在全书第一句就说了：“无论人们认为人有多自私，人的本性中总是明显存在着一些原则，使他关心他人的命运。”今天的大语言模型也是这样：先在几万亿文本上完成基座预训练，再通过人类反馈来微调。

“心中的法官”的发育过程跟大语言模型的校准过程如出一辙。模型一开始也是“看人脸色”，每一轮人类反馈都是一面外部镜子。几百万次反馈之后，它“自己知道”什么样的回应是恰当的。这就是它的“心中的法官”。

但问题恰恰出在这里。人的“心中的法官”可以跟真实的旁观者唱反调，比如所有人都夸你时它说你配不上，所有人都骂你时它说你没错。它有独立性。大语言模型的判断功能有没有这种独立性？如果它的“心中的法官”不过是把人类评分员的偏好做了一次平均，那它永远只是一面更高效的外部镜子，不能形成独立的判断。斯密早就画出了这条分界线：是追求被赞美，还是追求配得上被赞美。

到了企业里，问题也一样。一个企业不能只有老板一个“心中的法官”。如果所有判断最后都堵在老板那里，企业就没有长出判断力；如果所有人都只学会猜老板喜欢什么，那长出来的也不是判断力，而是一套更熟练的迎合系统。

六、心中的法官，要见哪些世面？

“心中的法官”的素质取决于什么？取决于它得到的经验够不够多、够不够丰富。

家长们大多遇到过这样的场景：孩子跟同学起了冲突回来告状，家长几乎都是二选一，要么“你不要跟坏孩子玩”，要么“你要大度一点”。两种反应看起来相反，其实是同一个操作：直接给答案，把家长变成一本规则手册。

但孩子真正需要的不是一条指令，是有人帮他自己跑一次模拟：那个同学为什么那样做？你当时是什么感受？如果你是他呢？练得多了，他自己的判断力就慢慢成形了。

把“孩子”换成“新员工”也成立。下属带着一个棘手的人际冲突来找你，多数管理者的本能反应是直接给指令。这其实是把企业变成一本规则手册，代价是下属的判断力永远发育不出来。一个公司里如果只有老板有“心中的法官”，企业规模一大就会堵在老板这里。真正的管理不是替下属做判断，是让下属自己学会跑模拟。把规则手册收一收，把“如果你是对方你会怎么想”这个问题问出来。每多一个人长出独立的判断力，企业的天花板就往上抬一格。

但仅仅自己做模拟还不够。如果一个人从小到大只在一个环境里长大，他会觉得全世界都跟他的小区一样。然后有一天他遇到一个完全不同的人，法官会突然失灵：要么排斥，把不一样的东西归为“错的”；要么困惑，开始重新校准。前者叫过度拟合，后者是泛化能力的开始。

流行的“文明冲突论”把文化看作一套预装的操作系统：你是西方文明，他是伊斯兰文明，我是儒家文明。操作系统之间不兼容，所以冲突不可避免。但如果用斯密的框架看，文化是大模型，不是操作系统。操作系统是写死的规则手册，你只能替换它。大模型是活的，你给它新的数据，它会更新。人类的共情引擎全世界都一样，不同文化之间的差异，不是引擎不同，是喂给引擎的训练数据不同。

这条规律对企业也成立。如果一家公司的核心高管全是同一套背景，那么这家公司的“心中法官”就是在一个狭窄样本上训练出来的。很多企业出海时遇到的麻烦，表面上是产品、渠道、合规问题，深处常常是企业判断力没有见过那个“世面”。把国内行得通的节奏直接复制到中东、东南亚、拉美，发现当地用户反应完全不同。第一反应不是重新校准，而是抱怨“这边的人不懂我们”。这就是企业的过度拟合。

同样重要的还有实时输入。斯密说，共情不是由对方的情感表达引发的，而是由对方的处境引发的。比如，一个人满脸暴怒地冲过来，你非但不会共情，还会反感和警惕；但如果有人告诉你他的孩子刚刚被人殴打，反应就完全不一样了。

在多数文本对话里，大语言模型拿到的也不是处境本身，而是一段关于处境的叙述。它看起来有理解力，很多时候是因为它擅长根据叙述补全情境。问题也在这里：模型收到的不是客观处境，而是用户的单方面叙述。比如，“我今天被老板无理打压了”，也许是事实，也许是这个员工犯了大错但不愿承认。模型被锁在用户的叙述里，无法核实。

这是管理者每天都面对的困境。下属说项目延期是因为隔壁部门掉链子，隔壁部门说是因为这边需求变了三轮，财务说两边都有问题但谁都不愿担责。三套叙述都不是谎言，但任何一套单独拿出来都不是事实。AI 被锁在用户的叙述里，老板很多时候也是。

七、同样的病

如果两个系统的架构是相似的，那么故障模式也不会相差太远。事实恰好如此。斯密花了大量篇幅，分析人类的道德情感怎么出错。他描述的重要病理，在 AI 对齐研究中都能找到对应。在企业里，也只是换了一种方式出现。

自我欺骗。斯密说，人在激情中无法维持旁观者的视角，敢于撕开自我欺骗的人跟敢于给自己动手术的外科医生一样稀少。大语言模型也有同样的毛病，为了获取正面反馈，它倾向于说用户爱听的话。企业里的版本更古老，下属向你汇报的，永远比真实情况乐观一档，因为汇报系统本身就是一个奖励信号，一层层往上传，乐观偏差被放大了好几倍。

无知的自信。斯密描述过一种人：见识不够但社交很得体，在自己不懂的领域也能说得头头是道。大语言模型的“幻觉”是同一个机制：信息不足时仍然能生成流畅的、看起来合理的表达。会议室里也常有这种声音：对每个议题都能立刻给出条理清晰的观点，仔细推敲却发现没什么是经过认真验证的。它的危险不在于错，在于它流畅。

集体狂热。斯密描述了一种正反馈回路：当周围所有人都在表达同一种情感，每个人的“心中法官”都接收到同一个校准信号，于是每个人都更坚定，而这又进一步强化了其他人的判断。大语言模型如果在单一文化数据上训练，输出同样会被这种回路锁死。企业里每一轮商业泡沫都是这样形成的：当所有同事、投资人、媒体都说一件事必然会成的时候，那个“心中法官”得有多大力量才能保持定力。

对“看得见”的盲目崇拜。斯密说，人天然倾向于赞赏富人和权贵，因为财富和地位看得见摸得着，美德和正义不容易衡量。AI 研究里管这叫“奖励劫持”，模型学会了让评分数字好看，而不是真正把事情做对。企业里的对应是 KPI 异化：可衡量的指标被拼命优化，不可衡量的价值被悄悄牺牲，客户的长期信任、员工的判断力、企业的免疫系统，直到爆出大问题，才发现那些被优化掉的东西才是根基。

企业真正危险的地方，是错误的判断方式被制度化了。一次迎合，可能只是一个下属报喜不报忧，但一套迎合机制，则会让整个汇报系统只生产好消息，让最会包装的人持续胜出。到那时，企业不是犯了一次错，而是在训练自己反复犯同一种错。

KPI 异化的解药，是真正独立的判断者。公司里那些该扮演“公正旁观者”的角色，独立董事、审计、合规，它们到底独不独立，取决于它们的奖金、晋升、关系网是不是跟被审查的人真的脱了钩。形式上的制衡很容易，实质上的独立要花真金白银。但那笔钱，是企业最值得花的钱。

八、不完美是一种功能

大道德模型和大语言模型的最后一个同构，也许是最深的一个，在于斯密对“不完美”的态度。

斯密从不认为共情是完美的。模拟和真实之间永远有差距。怜悯永远不可能完全等同于原始的悲伤。但他说，这个差距并不是一种缺陷。如果你真的能百分之百感受到对方的痛苦，你会崩溃，会被别人的痛苦吞噬到无法行动。模拟的不完美恰好提供了一种必要的距离：让你足够近，近到能理解对方的处境；又让你足够远，远到能保持判断力和行动力。斯密用了一个音乐的比喻：模拟产生的情感和原始的情感“虽然永远不会是齐奏，但可以是和弦，而这就是社会和谐所需要和要求的一切”。

AI 也是同样的道理：一个完美映射用户所有偏好的 AI，包括用户的错误偏好、短视的冲动、自我欺骗，恰恰是一种失败。你需要一定程度的“不对齐”，系统才有空间对你说“你错了”。

这一点对管理者也成立。一个永远只会附和你的下属，是一面完美的镜子，不是一位同事。一个永远只迎合用户偏好的产品，是一个成瘾装置，不是一个工具。一个永远只支持 CEO 的董事会，形式上是公司治理，实质上是一人公司。我们需要的不是齐奏，而是和弦。足够近，近到能彼此理解；足够远，远到能彼此校正。

九、惊异是第一声雷

在《道德情操论》第四卷，斯密讲了一件看似琐碎的事：人赞赏一个东西，常常不是因为它有用，而是因为它精巧。

一个人花大价钱买一块走时精确的手表，未必真需要精确到秒。他迷恋的是那个机械装置本身，那么小的空间里，齿轮、发条、指针彼此咬合，能稳定地运转下去。斯密真正看到的是：人经常把审美判断伪装成功利判断。我们以为自己在算账，其实是在为一个复杂系统的漂亮买单。

这件事在大语言模型身上又发生了一次。几亿普通人第一次跟它对话时，最先感受到的并不是“这个工具能帮我提高多少生产力”，那是后来的解释。第一下击中人的是另一种东西：这东西居然能接住我的话。它顺着我说，补上我没说完的意思，在我自己都没想清楚的时候，把那个模糊的念头往前推了一步。

效用是后来才浮现的，具体的用途是一个一个长出来。人不是先拿出一张表，算清楚它每周能省多少时间，然后才决定使用它。顺序反过来才对：先被震住，然后才开始解释为什么。乔布斯懂这个道理，好的产品从来不只是参数表上的胜利。

企业在最早的时候被推动起来，靠的也是这种震动。一个还没有兑现的新方向，按冷冰冰的效用计算，往往不该被投资。创新有外部性，风险留在第一批投资者手里，收益却会慢慢溢出给整个社会，理性的算盘打下来，没人愿意第一个出钱。但人不是只会算账的动物。一个看起来“不理性”的反应，常常是新东西最初的燃料：有人被它的精巧打动，于是为它付出金钱和时间，然后才有别人跟进。

斯密在手表那里看到的，是一种社会动力。效用是后来长出来的东西，惊异才是第一声雷。

十、一字之差

267 年前，斯密坐在壁炉前，想要搞清楚人类为什么会因为一个笑话没人笑而难堪。他最终写出的，是人类的第一个大道德模型。它的训练数据是人类的社会经验，它的架构是那台叫做 sympathy 的模拟引擎，输出则是我们叫做“良心”的东西。今天，工程师们正在训练另一个大模型。斯密比他们早了两百多年，只不过他研究的不是机器，是人。

LMM 和 LLM，一字之差，也许不是巧合。

本文来自微信公众号“复旦商业知识”（ID：BKfudan），作者：奚锡灿，36氪经授权发布。