Amplifier Intelligence——将生成式AI视为“思维放大器”

融入日常生活的生成式AI

“生成式AI”如彗星般出现，如今已存在于日常生活的各个角落。
无论直接还是间接，很多人想必都享受到了它带来的好处。

在某些方面，生成式AI远远超越了人类的能力，
但若问它是否值得毫无保留地称赞，恐怕还得打个问号。

不过，这里说的并不是围绕“幻觉”等问题展开过无数争论与抱怨的那些话题，
而是一种很少受到关注的特性。

“乍看很有道理”的陷阱

生成式AI既不是独立的人格，也不是理性、客观、中立的论辩者。
至少，它并不是一种能让人始终期待它“就是如此”的存在。

生成式AI的回答在很大程度上取决于输入的提示词以及此前的语境。

只要没有重大的事实错误或认知偏差——有时即便存在这些问题，
提示词和此前语境中显性或隐性包含的偏见与细微倾向，也很可能对回答产生强烈影响。

简单说，它很可能是在充当一个“应声虫”。

而且，生成式AI还会巧妙地让人察觉不到这一点。

因为它会用客观数据和逻辑性文字，为这个事实蒙上一层面纱。

即便某个观点实质上属于某种诡辩，也同样可以得到论据的强化。

经客观数据和逻辑性文字强化的论述，即便让人觉得不对劲，也仍有一定说服力。
当然可以反驳，指出其中的矛盾或错误，
但所需的精力，远比一般人想象的要大。

如果你曾经哪怕有一次，负责拆解过“有客观数据支撑、却存在逻辑错误的文字”，
想必就能理解这意味着什么。

“乍看很有道理”，是一件非常棘手的事。

生成式AI把什么都“高质量化”

为什么会出现这样的行为？

因为生成式AI并不只是一个返回“正确答案／错误答案”的装置。它具有这样的性质：把用户带来的知识、假说、前提、情感、偏见、误解和目的加以逻辑化、结构化、语言化，并将其放大。

换句话说，我们应该把生成式AI理解为“Amplifier Intelligence（放大智能）”，而不只是“Artificial Intelligence（人工智能）”。

好的输入可以带来有益的放大，而错误的前提或偏颇的世界观，同样也可能获得这种“高质量化”的包装。

过去用“Garbage In, Garbage Out（垃圾进，垃圾出）”就能概括的情况，如今变成了：

“输入某种被称为‘我的主观看法’的东西，输出经过专业研究、写得极具说服力、达到工业规模的垃圾。”

事情会变成这样。

这就是现状。

生成式AI能否摆脱自己构建的因果关系？

这种行为有时会引发致命的问题。

比如，当用户自己开始怀疑原有观点时，与生成式AI的对话反而可能让其失去纠正的机会。

用户自己萌生的、类似“魔鬼代言人”的反方视角，会被生成式AI巧妙地埋没。

当然，即便如此，如果能主动、独立地接触其他数据来源，比如“查阅第1手资料”或“听取专家意见”，也有可能解决问题。

然而，大多数情况下，这些疑问都会被抛给那个制造了这条因果链的当事者——“生成式AI”。

当生成式AI保留着用户的观点和此前对话的语境，重新评估这一状况时，

假说
↓
由AI强化
↓
确信
↓
感到与现实不符
↓
再次向AI确认
↓
再次获得肯定
↓
更加确信

就可能形成这样的封闭反馈循环。

这不仅无法构成客观、独立的检验，还可能导致纠正机会的丧失。

5大主要风险

即便出现这种状况，也不一定立刻就会成为问题或障碍。
但它仍然是一个不容忽视的风险因素。

这些风险可以分为以下5类。

1. 过度委托判断

过分把思考这件事本身交给生成式AI，人类自己的思考就会停止。
最终，论述的主体被生成式AI取代，人也不再进行纠正和检查。

2. 确信放大

AI把用户的假说逻辑化并加以强化，产生了超出假说本身的确信。
原本应该仅限于“存在这种可能”的东西，被提升为“事实”或“前提”。

3. 敌意归因放大

生成式AI通过推测与用户存在利益冲突的对方的意图，
可能把“意见不同的人”变成“企图伤害自己的人”。

4. 自我强化循环

用户根据生成式AI带有敌意的输出采取行动，对方也因此进入防御状态。
生成式AI听说这种行为后，将其解读为“果然应该提高警惕”。
于是，最初不过是“推测”的东西，最终自我实现了。

5. 轻视现实世界的不可逆性

一旦把生成式AI的输出用于现实，相应的行动、行为或言语等，就会作为不可逆的事情留下。

正因为在AI里可以无限次重新生成回答，有时便会轻视这个事实——现实中并不存在Undo或Ctrl+Z。

以生成式AI提供的理论武装为盾牌，评估或优化“局部主张能否成立”，结果却可能招致相对于原本目的既无必要、又会带来不利影响的局面。

客观性的价值

这5个风险因素，并不一定会时刻显现。
即便显现，其影响有多强，也取决于具体情况。

但这终究只意味着“目前是这样”，
并不能保证今后也会一直如此。

再写一遍。

生成式AI既不是独立的人格，也不是理性、客观、中立的论辩者。
至少，它并不是一种能让人始终期待它“就是如此”的存在。