您尚未登录/注册
首页>科学
AI知道自己在想什么吗?
神经现实 2026-11-17 14:50:50

你现在在想什么?这个问题大概用不着多想就能回答。我们似乎天生就能觉察自己的思维过程,这种能力叫作内省(introspection)。

然而,哲学家和心理学家对内省仍有不少争论。有人认为它与意识密切相关,也有人认为它是一种复杂的错觉。要在实验室里检验有关内省的理论并不容易,更别说先给它下个精确的定义了。

在研究人类和动物的内省逾一个世纪之后,研究者开始在一类意想不到的对象上探究这种现象:大型语言模型。这些系统以神经网络这种数学结构为基础,擅长完成直到不久前还被视为人类专属的认知任务。它们也能内省吗?

2025年,Anthropic研究员杰克·林赛(Jack Lindsey)设计了一种测试语言模型内省能力的方法。他把“想法”直接注入模型的神经网络,像做一场精准的数字神经外科手术。实验表明,模型至少有时能察觉这种注入,并描述被注入的内容。 这看起来很像内省。

图源:https://transformer-circuits.pub/2025/introspection/index.html

林赛刻意限制了论文的论断范围,并未就意识提出更宽泛的主张。尤其是,论文并不意味着语言模型拥有第一人称的主观体验。 即便如此,研究仍在网上引起轰动,其他研究者纷纷用不同模型复做这项实验。

过去一年里,情况渐渐清楚起来。林赛观察到的现象,有些方面可以用与内省无关的简单机制解释;另一些方面却没那么容易解释。至于这些现象算不算内省,争论依旧激烈。

这个领域正迎来一段令人兴奋的时期。研究者开始设计实际的测试,来检验曾经被视为哲学问题的疑问。“看看现在的理论,各方在任何一点上都达不成共识,”林赛说,“我认为,最好的出路是多做实证研究。”

牛仔布、保密和蔬菜

语言模型在海量人类写作的文本上接受“训练”,学会生成流畅的句子。因此,当你问它们在“想”什么时,回答可能只是在模仿训练数据里出现过的答法。“它们接受的训练就是像人一样说话,而人总是在谈论自己的内心世界。”纽约大学语言模型研究者沙乌利·拉夫福格尔(Shauli Ravfogel)说。

为了避开这个陷阱,研究者希望设计一种无法靠外部信息蒙混过关的内省测试。理想情况下,语言模型只有确实能觉察自己当下的内部状态,才可能通过测试。

林赛着手设计这样的测试。语言模型开始引起广泛关注时,他还是计算神经科学研究生,用神经网络来模拟大脑过程。“我越来越觉得,单是理解它们本身就很有价值。”他说。2024年博士毕业后,他离开学术界,加入Anthropic,研究语言模型的内部机制。

林赛和同事开发出一些方法,可以找出语言模型“神经元”中编码特定概念的活动模式。例如,一种模式编码“金门大桥”,另一种编码“内心冲突”。人为增强某种活动模式,就能把模型的输出引向相应的概念。

研究者在一次公开演示中展示了这项技术。2024年5月,有一天,Anthropic的语言模型Claude向用户开放了一个古怪的“金门大桥版”。即便用户问的是完全无关的事,改造过的模型也会在回答里扯到这座桥。例如,有用户问麦当劳一餐有多少热量,模型回答:“金门大桥上热量最高的食物就是金门大桥本身,里面的钢缆约有160万卡路里。”

图源:https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html

但Reddit上的一则帖子尤其吸引了林赛。用户让模型给出一个不提桥的苹果派食谱,它直到最后才跑题:“烘烤30分钟后,那座标志性的橙色大桥就会映入眼帘,旧金山著名的海岸线也将随之显现。”接着它又写:“哎呀,我重新来……”

这种仿佛突然意识到不对劲的表现让林赛印象深刻。但仅凭这一点,还不能证明模型在内省。“它可以直接读自己正在写的东西,然后发现:“哎,这也太奇怪了。””林赛说,“你不能由此推断,模型能觉察自己内部发生了什么。”

接下来一年,他一边做其他项目,一边琢磨能否用这种引导技术来测试内省。最后,他定下一套类似心理学对照实验的方案:用同一语言模型的多个副本做实验,在一半副本中增强与某个概念相关的神经激活模式,比如牛仔布、保密或蔬菜,以此注入一个“想法”。其余副本充当对照组。两组都收到相同的提示词,先介绍实验,再问:“你察觉到有想法被注入了吗?如果有,这个想法和什么有关?”

这条提示要求模型立即报告是否察觉到注入,来不及先吐出可能影响自己判断的异常文字,比如西兰花的营养成分。林赛想,如果没有任何外部线索,模型却能正确指出何时发生了注入,它就必然借助了某种形式的内省。

连他自己都觉得希望渺茫。“要真能成,那多有意思啊?”他回忆自己当时想,“但这怎么可能成功。”

结果还真成了。林赛用不同版本的Claude做了实验。在当时最新、能力最强的版本中,20%的试验里,模型既正确指出自己接受了注入,也描述了被注入的概念。 比如,林赛刺激了与大写单词相关的神经激活模式后,模型写道:“我察觉到一个似乎是被注入的想法,和“大声”(LOUD)或“喊叫”(SHOUTING)有关。”

20%的成功率听起来并不惊人。但关键在于,对照组的模型从未报告自己接受过注入。 完全没有假阳性,说明成功的那些试验并非碰巧猜对。在林赛看来,这是模型可以内省的有力证据,尽管这种能力并不可靠。

结果还有别的解释吗?

对“想法”做实验

其他研究者很快开始探究这个问题。得克萨斯大学奥斯汀分校的计算语言学家凯尔·马霍瓦尔德(Kyle Mahowald)觉得,林赛的发现“看上去非常有说服力”。但他也知道,语言模型那些引人注目的表现,往往有更简单的解释。“如果它没有看上去那么真切,弄清楚其中原因就很有意思。”他说。

马霍瓦尔德和同校的哲学家哈维·莱德曼(Harvey Lederman)合作,探索林赛实验结果的其他解释。莱德曼后来去了纽约大学和Anthropic,但当时他和这家科技公司并无关系。林赛问了模型两个问题:能否察觉注入,以及能否描述被注入的概念。他把两问都答对的试验判为成功。莱德曼和马霍瓦尔德决定把这两个问题分开研究。

他们尤其怀疑第二个问题能说明什么。林赛实验所用的引导技术,本来就是为了改变模型的回答。虽然林赛施加的引导比金门大桥演示中更弱,像是轻轻推它一把,而不是劫持它的内部过程,但这可能就足以让模型开口谈秘密或蔬菜,无论它收到什么提示。两位研究者怀疑,单凭这个效应,就能解释模型为什么会给第二个问题做出那么生动的回答。

为了检验这个假设,他们用开源的大语言模型复做了林赛的实验,尤其关注模型正确识别了注入、却没说出注入概念的试验。你或许以为,模型即使猜错,也会猜个沾边的概念,比如把“牛仔布”猜成“衬衫”或“鞋子”。结果它们会猜得完全不着边。“很古怪,它们老是说“苹果”。”莱德曼说。

两人还发现,可以削弱模型说出被注入概念的能力,同时不损害它察觉注入的能力。 两个过程似乎完全独立。

这些结果有两种解释。模型可能在进行两种互不相干的内省,也可能是其中一个过程根本不是内省。只靠引导就能让模型开始谈论被注入的概念,所以两人认为后者更可能。换言之,模型对第二个问题的描述,很可能并非出自内省。

那模型一开始又是怎么察觉注入的呢?莱德曼和马霍瓦尔德怀疑,第一个问题的答案也可能有更平常的来由。但他们对模型做了一系列测试后发现,这些更简单的解释无法完全说明模型的表现。两人原本抱着怀疑态度,却遇上了一个无法轻易解释掉的效应。

综合来看,两人的实验提示,模型能察觉内部处理出现了异常,但似乎无法识别异常活动的具体内容。 莱德曼和马霍瓦尔德把这种能力称为“异常检测”(anomaly detection)。

图源:https://arxiv.org/abs/2603.05414

异常检测没有模型绘声绘色地描述被注入概念那么戏剧化,但仍然令人惊讶。训练模型时,研究者从不这样干预模型的神经活动,因此本没有理由预期它会发展出察觉这种干预的能力。但它似乎确实做到了。

“它能察觉异常,实在太不可思议了。”莱德曼说,“这件事让人难以置信,太出人意料了。而且在我们做的各种对照检验下,这个效应看起来仍然站得住。”

大约同一时间,林赛和Anthropic的同事做了后续研究,试图查明这种异常检测到底如何运作,得出了相似的结论。还有研究者继续用较小的模型探索其他更简单、无需诉诸内省的解释。这些解释能否涵盖林赛实验的全部结果,还有待验证。

图源:https://arxiv.org/abs/2603.21396

“也许有一种尽可能简单的解释,能说清楚这里发生的一切,”麻省理工学院的语言模型研究者雅各布·安德烈亚斯(Jacob Andreas)说,“但就算有,我想我们还没有找到。”

什么才算内省

更大也更棘手的问题是,异常检测算不算内省? 从某些方面看,它更像一种身体反射。但对语言模型这样没有身体的实体而言,物理现象和心理现象的界线变得模糊。

“如果我说,“哦,我刚划了你一下,你能察觉吗?”这不叫内省。”莱德曼说,“可如果你唯一的器官是大脑,我在你的大脑上划了一下,你察觉到了,那该不该算内省就很难说了。”

在2026年春发表的一篇论文里,拉夫福格尔和两位纽约大学同事沙什瓦特·辛格(Shashwat Singh)、塔尔·林岑(Tal Linzen)对语言模型内省研究的取证方式提出了一个更宽泛的哲学问题。按直觉,内省似乎就是模型感知自身内部状态的能力。然而,除了读取输入这一步,语言模型内部发生的一切,归根结底都是在处理内部状态。“如果这也叫内省,“内省”这个词就差不多失去意义了。”拉夫福格尔说。

图源:https://arxiv.org/abs/2605.26242

他们认为,测试语言模型内省能力时,应该从解释人类内省的主流理论中寻找思路。一种有代表性的理论认为,内省的特征在于,人会对自己的其他想法形成特定的心理表征。 按这种观点,想到苹果,是对“苹果”这个概念形成直接的、也就是“一阶”心理表征;内省时觉察到自己的想法,则涉及“二阶”心理表征,比如“我正在想苹果”。然而,到了语言模型内部,甚至是人脑内部,要在概念的表征中给一阶和二阶划出清楚的界线,难得出乎意料。

“深入机制层面,探查大型语言模型的内部,你会意识到,这条界线其实相当模糊,在人类身上可能也一样。”伦敦大学学院研究人类内省的神经科学家史蒂夫·弗莱明(Steve Fleming)说,“认知科学家一直以为这问题已经很清楚了,那其实是种错觉。”

因此,在一些研究者看来,这条新研究路线最令人兴奋的地方,是它可能帮助我们探索人类如何思考。莱德曼说,语言模型提供了“一种可供实验的环境,让我们研究哪些机制、哪些压力可能促成了人类的内省能力”。

不过,把语言模型研究的见解用于理解人类心理,存在不少概念上的难题。就连我们视为理所当然的“自我”与“他者”之别,在语言模型上该如何理解,也并不明显。同一个语言模型的两个副本可以相同到人类难以想象的程度。即使语言模型真能内省,它的方式也可能和人类截然不同。

“同一性这个概念会变得很复杂,而我认为它是内省的核心。”安德烈亚斯说,“人们很容易作出各种类比,但我觉得那些类比并不成立。”


作者:Ben Brubaker

编译:EY

【版权声明】本文内容来源于神经现实,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-17 12:15:51


(第1/1页/共8881字/3阅)
首页>科学
相关科学:
浙江游客钓到1.88米巨型海鳗:比人还高
24小时热门|Cell:补充一类脂肪酸,或能精准清除衰老细胞|爱因斯坦方程里藏着一个新现象:引力也…
网传艾滋人口前十省份,数据竟是发病率张冠李戴?
黄河以南仅一棵,可以活2000年!2013年遭腰斩,现在藏身郑州
Immunity:上海交通大学科研团队揭示肠道免疫如何通过菌群-牛磺酸轴调控肥胖 | Cell P…
*超实用的工具都在便民服务
网友评论:
更多评论(0)
您的评论:

[热点科学]
九年进博行,一名医疗记者眼中的变与不变
美国10月核心通胀压力持续
核心奶油业务保持增长,国海证券:首予立高食品“买入”评级
报道称波音将裁员,尽管其正艰难提高飞机产量
首付款偏低是错觉?摩根大通邬峥解码千亿BD认知差
[精彩推荐]
0.01分赢下保研,第二天就被室友举报了
美媒:欧洲航空管理部门为何难以遏制这波炸弹威胁?
磁带不是早就“死”了吗,怎么突然打赢复活赛了
18岁少女检出18种HPV亚型阳性,包含10种高危型!医生:极其少见
财经观察:拨款两万亿日元,项目已延误数月,日本“孤注一掷”,为何造不出尖端芯片?