弄懂这 5 个AI术语，你就超过了90%的人

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：当下AI普及度持续提升，但多数使用者仅停留在基础操作层面，对底层核心概念一知半解。本文可帮你快速建立基础认知，避开使用误区，更科学高效地运用人工智能工具。本文来自编译，希望对您有所启发。

AI生成图片

实话实说，大多数人聊人工智能，要么只会生硬背诵书面定义，要么听到大语言模型、神经网络这类术语，就一头雾水。

你不必成为这两类人。我认为，只要真正吃透下面 5 个术语、5 个核心概念，无论身处科技、商业、教育行业，还是单纯好奇世界发展走向，你的认知都会远超身边绝大多数人。

下面我们开始讲解。

一、词元（Tokens）

首先要记住一个核心常识：人工智能模型不会直接读取完整单词，甚至不会识别单个字母，它处理信息的最小单位是词元。

那什么是词元？

你可以想象自己读一本书，但不是逐词阅读，而是按片段拆分读取。有的片段是完整单词，比如 “猫”；有的只是单词的一部分，比如前缀 “不”；还有标点符号也会单独算作词元。这种拆分出来的文本片段，就是词元。

举个例子，句子 “我爱吃披萨” 会被拆分为 3 个词元：“我”、“爱吃”、“披萨”。

这个概念为什么重要？

ChatGPT、Gemini 等所有 AI 产品，后台都会持续统计词元数量。你输入的提问包含的词元越多，模型需要处理的工作量就越大；AI 回复生成的词元越多，运行成本也就越高。

人们常说的模型Context window，衡量的就是模型单次能够存入 “记忆” 的词元总量。早期老模型仅能处理 4000 个词元，新一代模型已经支持百万级词元。

这也能解释为什么 AI 在长对话里会忘记前文内容：一旦对话内容占满上下文窗口，最早输入的词元就会被清除，和电脑内存占满后运行卡顿是同一个道理。

词元是人工智能语言体系的最小基础单元。弄懂它，你就能明白为什么有些提示词效果更好、为什么长对话中 AI 容易失忆、为什么接口计费标准按千词元结算。

二、上下文窗口（Context window）

想象你和一个人聊天，但对方的记忆有明确上限，只能记住最近一段时间的对话内容，更早的全部清空、彻底遗忘。这就是上下文窗口。

它指 AI 模型单次能够读取、参考的全部文本总量，计量单位是词元，包含你的指令、完整聊天记录、上传的各类文档，以及模型此前生成的所有回复。

可以把它比作一块白板，上下文窗口就是白板的尺寸。你能在上面随意书写内容，但一旦写满，就必须擦掉旧内容，才能写下新内容。

更有意思的一点是，小上下文窗口（例如 4000 词元）意味着 AI 一次只能处理少量文本，给它一份长篇文档，它只能分段读取；超大上下文窗口（例如 20 万词元），你可以直接粘贴一整本书，再向模型提问解读。

这也是Claude宣布支持 20 万词元上下文、Gemini 推进至百万词元上限时，行业为之振奋的原因。因为这项能力从根本上拓宽了 AI 的应用边界。

如果你要完成长篇文档总结、数据分析这类重要工作，一定要清楚 AI 可能遗忘对话前期的内容。这不是程序故障，只是这块 “白板” 空间用完了。

三、温度参数（Temperature）

这是我最爱讲解的概念，听完一次就能牢牢记住。

当你让 AI 生成文字时，有一项名为温度的参数，专门决定输出内容的随机性与可预测程度。

• 低温（数值趋近于 0）：AI 输出风格保守稳妥，每次都会选择概率最高、最常规的词汇，内容统一准确，但略显乏味，就像永远套用同一套邮件模板的人。

• 高温（数值接近 1 甚至更高）：AI 更愿意跳出常规，选用新奇词汇、独特句式、脑洞创意，产出内容有时十分出彩，但稳定性无法保证。

举个直观例子：让 AI 补全句子 “小猫坐在……”

低温模式下，它几乎只会输出 “垫子上”“地板上”，稳妥且毫无惊喜；

高温模式下，它可能写出 “哲学困境之上”“崩塌的帝国之巅”。

创意十足，但如果用来撰写法律文书，完全不适用。

这里藏着大多数人不知道的隐性使用规则：

1.   事实类工作（内容总结、代码编写、信息提取）：调低温度，优先保证精准，不需要多余创意；

2.   创意类工作（小说创作、头脑风暴、营销文案）：调高温度，获取出人意料的灵感。

ChatGPT 这类大众客户端不会开放这项调节按钮，默认设置为中间值；但如果你使用 AI 接口或开发工具，就能看到该参数，现在你也清楚该如何调整了。

四、幻觉（Hallucination）

这个词人人都听过，但很少有人明白背后成因，而成因恰恰是关键。

AI 幻觉指人工智能十分笃定地输出错误信息，毫无迟疑，把完全不实的内容当作客观事实陈述。

举个例子，你向 AI 询问一本书，它能完整编造书名、作者、出版年份与故事梗概，而这本书现实中根本不存在，但 AI 说得有板有眼，仿佛摘抄自维基百科。

产生幻觉的核心原因，很多人都忽略了：

大语言模型并非数据库，不会主动检索真实资料。它只会根据训练阶段学到的文本规律，预判下一个最合理的词元，本质是一个超大号自动补全工具。

因此当 AI 不了解某件事时，它不会直白说 “我不知道”，而是生成一段听起来合乎逻辑的答案，而这正是它训练时被赋予的运行逻辑。

真正的风险不在于 AI 会出错，所有工具都难免失误；可怕之处在于，AI 输出错误信息时，自信程度和输出正确内容时毫无区别，只会直接给出答复。

提醒一下，涉及客观事实、统计数据、医疗建议、法律条文等，一旦出错会造成实质损失的场景，切勿完全信任 AI。可以把它当作信息起点，务必交叉核验内容真伪。

真正懂幻觉概念的人不会放弃使用 AI，而是学会更聪明地利用它。

五、检索增强生成（RAG）

这五个概念里，它最容易被误解，但弄懂之后你会发现几乎随处可见。

RAG 是检索增强生成（Retrieval-Augmented Generation）的缩写，核心逻辑其实十分简单。它解决了一个关键痛点：普通 AI 模型的训练数据有截止日期，无法读取企业内部文件、上周发生的新闻、你上传的 PDF 文档。

市面上 “PDF 问答”“文档解读” 类工具，底层依靠的就是 RAG 技术。

完整运行流程：

1.   你上传文档后，系统不会把整篇内容直接灌入 AI 模型；而是将文档切分成多个片段，存入一种特殊数据库 —— 向量数据库，这种数据库识别文本语义，而非单纯匹配关键词；

2.   当你提出问题时，系统先在向量数据库中检索匹配度最高的文本片段，完成内容调取；

3.   把检索到的相关片段和你的提问一同交给 AI，告知模型：“这里有对应参考资料，请结合资料作答。”

简单概括三步：检索相关资料、输入模型、生成回答，合称 RAG。

这项技术为何至关重要？

过去两年绝大多数实用 AI 产品，底层都依托 RAG 搭建：能调取企业规章制度的客服机器人、可解读法务文件的 AI 助手、论文总结工具，全部离不开这套架构。

理解 RAG 会彻底改变你看待 AI 产品的思路：AI 能读懂你的内部文件，不代表它主动学习记忆了内容，只是完成了一次精准检索，再把资料传给语言模型作答。模型本身没有改变，只是新增了参考上下文。

弄懂这些概念意义何在？

人工智能不会退出大众生活。未来几年，只会粗浅使用 AI的人和真正理解底层基础逻辑的人，认知差距会持续拉大。

懂词元，能写出更高效的提示词；

懂上下文窗口，明白 AI 对话时常逻辑混乱的根源；

懂温度参数，根据不同工作场景精准调节输出风格；

懂幻觉，不会不加验证就采信 AI 给出的事实；

懂 RAG，清楚各类文档解读 AI 工具的真实运行原理。

以上就是五个核心术语，吃透底层逻辑，就足以超越九成使用者。

欢迎跻身认知前 10% 的人群。

译者：Teresa