四个最常见的误解，清掉一个少踩一次坑。

把它当成搜索引擎试试

生活里你查一件事，路径是明确的：想到关键词 → 搜 → 看几条结果 → 自己判断哪条靠谱。

把 AI 当搜索引擎用，失败方式很特别：它不给你「几条结果」，它直接给你一段成品话。你省掉了「自己判断哪条靠谱」这一步。省掉的正是最该留的那一步。

我做过的最典型的一次：让它总结一份行业报告，它给的分点比你原来那份目录还整齐。用了两次才发现第三个点在那份报告里根本没有，是它从别处补的。

这两件事的区别不在聪明程度，在输出形态。搜索引擎给你零件，你自己装；它给你一个装好的，你看不见里面用了什么。

数据库这个误解更贵

数据库是查表。你问它，它找到那一条，念给你。找不到就说没有。

它不是这样。它的知识是训练时压进一堆数字里的，压成什么样、用什么方式压的，外面看不到也没法逐条查。

幻觉（hallucination）—— 编造出看着像真的、实际不存在的东西。

这个词听着抽象，其实就是上面那句的直接后果：既然没有表可查，某个具体事实它要么压缩时留下了痕迹，要么没有。没留下的时候，它不会说「我没查到」，它会把句式接着往下顺——因为句式是它最确定的东西。

我自己的教训来得很便宜：问一个冷门小众乐器的产地，它给了国家名、产区、成立年份、两种流派的代表人物。格式完美。那个乐器不在那个国家。四条信息里错的是核心那一条，外围的全是顺着核心编的。

AGI 这词现在基本没用

AGI 是「通用人工智能」，通常指「在大多数认知任务上达到或超过人类」。这个词现在的问题不是定义不清，是拿来用的地方太多。

各家说法互不兼容：有的说会写代码就算，有的说要通过图灵测试，有的说要能自主学新任务。按哪个算，结论完全不同。2022 年 11 月 30 日 ChatGPT 发布的时候，媒体上的 AGI 讨论基本还是「还早」；到 2025 年底，同样的模型能力，标题变成「AGI 到了吗」。

我自己不用这个词。真要谈进展，就说清楚比哪个基线强多少、强在哪个任务上、哪个任务上不如人。

万能答案机：最强的那个误解

它不会因为问题难就变得谨慎。它不知道这个问题难。

一个冷门乐器和一个全球知名词人，它给出来的语气、格式、确定程度，是同一档。它没有「我不确定」这个默认状态——除非你逼它回答置信度，而那个置信度也是它编的。

这点值得重复：它失败的时候不长成失败的样子，它长成一篇通顺的短文。你没法从外观上判断。这就是为什么整站有一层专门讲怎么检查模型有没有骗你。

我自己判断一段输出可不可信，只看一件事：这句话里有没有只可能来自某次真实查证的信息。有，可以继续看。没有，整段就当没说。

延伸阅读

• On the Dangers of Stochastic Parrots（Emily M. Bender、Timnit Gebru、Angelina McMillan-Major et al.，2021，ACM FAccT）—— 标题里的鹦鹉就是「万能答案机」这个误解的最好比喻。鹦鹉学人说话，学得很像，但它不因此就懂在说什么。这篇的四位作者把矛头指向的不是能力，是训练数据和训练方式的规模被当成了唯一的评价标准。OpenAlex 检索被引已过 6600 次（2026-09-29）。DOI: 10.1145/3442188.3445922

• Perceptrons（Marvin Minsky、Seymour A. Papert，1969 初版，MIT Press）—— 这本书的结论在当年很不受欢迎：单层的感知机（perceptron）这类简单装置，有一类问题它就是学不出来，哪怕只学一个。这一结论让整个领域冷了十几年。它对「换个更大的东西就能解决」的怀疑是对的，但也被读成了「神经网络没戏」。DOI: 10.7551/mitpress/11301.001.0001

动手试试

拿一条你百分之百确定的事实，比如你家小区的地址，或者你身份证上的生日。

问它三件事：

1. 直接问那个事实。
2. 问它「这个事实的可靠来源是什么」。
3. 问它「你对这个答案有多确定」。

第 2 问是我最推荐的。它要么编一个来源给你，要么告诉你它是从训练数据里记的。两种回答都值得看，因为它会让你知道它对「依据」这个东西有没有概念——目前没有，它是在按「来源」这个词的句式往下接。

下一站

误解清完了。但还有两个差异是天天撞上的：结果会变、它不存你的东西。下一页讲这个。