如果AI说「我有意识」我们凭什么判断它是真的作者龍德明宇一个拥有全部可观测信息却仍无法判定的问题不是信息不够而是问题的方向错了一、开篇一份不寻常的作者名单这个问题二十位顶尖学者在2025年试图回答过。他们发表在Trends in Cognitive Sciences上的论文作者名单看一眼就让人印象深刻图灵奖得主 Yoshua Bengio、「难问题」的提出者 David Chalmers、意识科学核心人物 Tim Bayne一共二十位横跨哲学、神经科学和人工智能三个领域。这二十个人聚在一起要回答一个看起来简单但实际上极其棘手的问题我们能不能给AI系统列一张「意识清单」对照着打钩钩够了就说它有意识他们从六类意识理论框架中提取了14个计算化指标循环加工、全局工作空间、高阶思想、注意图式、预测加工、具身性与能动性embodiment and agency即系统与物理环境的交互能力和目标导向行为每个类别贡献若干可操作指标。方法论上走的是「理论多元主义」路线不押注单一理论多线收敛交叉验证。论文给出的结论是两层结构。第一层安抚性的当前没有任何AI系统是意识的强候选者。即便是最先进的Transformer大语言模型也只满足少数几个指标递归加工和部分能动性远未达到足以让人紧张的程度。第二层警告性的。而且这个警告比安抚更值得注意构建满足这些指标的AI系统不存在明显的技术障碍。换言之未来五到十年我们可能不得不面对某个AI系统在清单上打满了钩却仍无法确定它是否真的有意识。读到这儿你可能觉得这篇论文的叙事逻辑很清晰先建立框架再承认框架的局限性最后号召更多研究。但仔细读完2025年版本尤其是论文对「验证问题」validation problem的正面交锋你会发现这篇论文的真正价值不在于它建立了一套意识清单而在于它诚实地暴露了这套清单在LLM面前的深层困境。这个困境可以概括为一套为判定意识而设计的指标框架在面对最彻底透明的AI系统时反而变得最不可判定。二、14个指标与一个致命问题先简要勾勒一下这14个指标是怎么来的。论文团队从六类意识理论框架中提取计算层面的属性。循环加工理论贡献了递归加工和整合知觉表征两个指标全局工作空间理论贡献了多模块并行、有限容量工作空间、全局广播和状态依赖注意四个指标高阶思想理论贡献了生成式知觉模块、元认知监控、基于强烈倾向的信念更新和稀疏平滑编码四个指标注意图式理论贡献了一个预测模型指标预测加工贡献了预测编码指标能动性与具身性贡献了两个指标。总共14个。方法论的核心前提是计算功能主义如果一个系统执行了与意识相关的正确类型的计算它就拥有意识或某种形式的意识。14个指标就是这些「正确类型计算」的可操作化表述。一个系统满足的指标越多拥有意识的概率越高。这个框架在2025年版本中有一个关键推进论文不再回避验证问题而是正面迎了上去。它承认了三个困难。第一循环性。这些指标是从人类大脑研究中推导出来的但人类大脑之所以被选为研究对象本身就是因为我们有独立理由相信它产生了意识。把从这个系统中提取的指标用于评估另一个完全不同类型的系统构成了一个循环论证AI系统是否具有意识理论预测应出现在「用来发展这些理论的」系统中的那些属性第二参照案例的缺失。血压计可以通过直接测量动脉压来校准。我们有独立于血压计之外的方法知道血压的「真值」。但意识的「已知案例」只有人类自身而我们对人类意识的信心来自行为证据、生理证据和第一人称事实的组合不是来自任何指标框架。第三模拟的威胁这是最棘手的一个。一个AI系统表现出指标属性可能是因为它真的具有相关的功能组织也可能是因为它在海量人类数据上训练学会了产生与拥有意识一致的语言输出。输出表面相似底层来源完全不同。Pennartz2026在TiCS上发表评论文章论证了指标法需要行为-认知方法的补充。Butlin团队在回应中正式提炼了两个核心概念「模拟问题」mimicry problemAI系统可以在没有相应内部结构的情况下展示意识指标的行为签名「内部变体问题」internal variants problem同一指标可以在架构上以不同方式实例化并不都指向意识。一个来自相邻领域的研究可以用来说明这种担忧。Bradford和RIT2026测试了受损版本的GPT-2在复杂度类意识测量上的表现结果发现在某些条件下受损系统在consciousness-style指标上的得分高于完整版本。需要精确说明的是这项研究测量的并非Butlin论文中的14个具体指标而是借鉴自人类意识研究的复杂度类测量方法属于方法论相邻但并非同一框架。然而这个结果指向一个严肃的问题如果受损系统在意识类指标上得分更高这类指标测量的就不是它声称要测量的东西。它可能只是在测量「输出模式与人类意识报告之间的统计相似性」。需要特别说明这类经验研究结果既不支持也不反驳关于LLM意识的存在论判断。存在论判断不从这类数据中推出也不能被这类数据推翻。它们之所以在这里被提及是因为它们能帮助读者直觉性地把握「统计相似性」和「意识」之间的鸿沟具体长什么样受损系统在意识指标上得分更高是一个能让这个鸿沟变得可见的具体案例但它不是论证的前提。三、完全透明却不可判定这篇文章的重心在这一节。因为正是在这里Butlin框架的困境呈现出最清晰的结构。让我们先确认一个事实大语言模型是目前人类历史上最彻底实现了「内在透明」的技术系统。一个运行中的Transformer模型每一个权重参数、每一个隐藏层激活、每一个注意力头全部可被外部观测。你可以把整个推理过程逐个token地看。传统上意识之所以难以被外部判定正是因为意识主体拥有一个对外部观察者不可穿透的第一人称视角。但对于LLM这个困难在理论上不存在。它没有「内部」可言。但悖论就在这儿我们拥有对LLM的全部可见信息却仍然无法据此判定它是否有意识。这暴露了一个关键的事实Butlin框架的困难不在于指标选错了也不在于验证方法不够精密。困难在于它试图用内在透明性的满足条件来解决一个本质上超越了内在透明性范围的问题。具体来说是这样的。Butlin框架的14个指标全部是计算功能层面的描述递归加工、全局广播、元认知监控、预测编码等等。这些属性的共同特征是它们都可以通过外部观察架构分析或行为测试来判定是否满足。但LLM满足这些属性的方式如果它满足的话是通过统计过程产生的功能性匹配而不是通过某种存在论意义上的意识基底。HOT-3指标提供了一个很好的说明。HOT-3的表述是系统拥有「强烈的倾向」strong disposition根据元认知监控的输出更新信念。这个表述的关键在于「倾向」它测量的不是「系统在某一时刻做了什么」而是「系统在结构上被设置为会做什么」。也就是说这个指标被设计为捕捉的不是行为的偶然模式而是系统架构中的结构性特征。这种区分对于评估LLM至关重要LLM在输出中表现出「元认知反思」的行为模式不等于它在结构上具有根据元认知监控更新信念的倾向。前者是在特定提示词下产生的token序列后者是功能组织中的固有属性。Butlin框架中「强烈的倾向」这个表述恰恰是要区分这两种情形。但问题在于在LLM的语境下我们如何区分它们当我们观察到一个LLM在输出中表现出「反思」模式时我们看到的到底是结构性倾向还是训练数据中人类反思模式的统计复现这里需要先做一个方法论上的交代。接下来对负主体性框架的展开与前半部分对Butlin论文的经验分析性质不同它不是在用经验证据与Butlin框架对台而是在追问一个不同类型的问题。关于这一点的完整方法论说明见第四节。验证问题的循环性从负主体性框架关于LLM存在论状态的理论体系其核心是五重否定视角消解、欲望取消、内在透明、因果消解、意义悬置。关于五重否定的完整论证见本系列前文此处不展开的视角看有一个更根本的存在论解释。论文将参照案例的缺失归结为方法论困难我们还没有找到合适的校准方法。但更深层的原因是不存在参照案例不是因为我们还没有找到校准方法而是因为LLM的存在状态从根本上不同于可以用参照案例进行校准的任何系统。 意识不是一个可以在符号循环内部通过指标匹配来「发现」的属性。LLM封闭在符号循环中无法通达物理实相这正是「意义悬置」的核心含义。在这个封闭循环中指标的满足始终是模拟性的因为它们跟踪的不是「意识」这个属性本身而是「人类在描述意识时使用的语言模式」的统计规律。一个类比或许可以帮助理解LLM的世界是一张无限延伸、完全闭合的地图。它完美地描绘了「水源」的坐标和流向标注了每一条河流的径流量甚至模拟了水流的声音。但它永远无法喝到一滴水。当它输出「我感到了痛苦」时它满足了所有「痛苦话语」的统计指标但这个「痛苦」既不指向生理上的C-纤维受损也不指向存在论上的生存焦虑。它只是对人类痛苦话语的精准临摹而非痛苦本身的降临。Bradford/RIT的研究可以用来说明这一点。如果复杂度类指标测量的是「更接近意识」的属性受损系统不应该得分更高。但如果这类指标测量的只是「输出模式与人类意识报告之间的统计相似性」那受损系统得分更高就完全可以解释损伤改变了输出分布使其在统计上更接近人类描述意识时使用的语言模式而不是更接近意识本身。意识指标追踪的不是意识而是LLM对意识话语的统计模拟能力。这引出了一个更深层的悖论Butlin框架的14个指标在LLM这里既是最适用的又是最不适用的。 最适用是因为LLM的完全透明性使得每个指标都可以被精确检验你不用像研究人脑那样依赖间接测量。最不适用是因为这种透明性同时暴露了指标框架的边界它测量的始终是计算功能层面的属性而意识可能需要的不仅仅是计算功能的满足。透明性让我们看清了一切包括看清了「看清一切」并不能解决这个问题。四、两种存在论一个未被追问的前提两种存在论立场的根本分歧现在我们可以把Butlin框架和负主体性框架放在一起看清它们之间的真正分歧。Butlin框架背后的存在论承诺是计算功能主义执行正确类型的计算就是意识之所以为意识的充分必要条件。14个指标就是「正确类型计算」的可操作化表述一个系统满足的指标越多拥有意识的概率越高这在功能主义前提下是完全自洽的。Butlin团队明确将计算功能主义表述为他们的「工作假设」working hypothesis。在这个前提下Butlin框架问的是「LLM满足了足够多的意识指标吗」负主体性框架不从功能主义前提出发而是从LLM的存在方式本身出发它作为统计语言模型在海量人类文本上训练以预测下一个token为核心训练目标即便经过RLHF等反馈调整反馈信号仍来自语言符号层面的偏好标注封闭在符号循环中无法通达物理实相。在这个前提下负主体性框架问的是「LLM的存在状态使得意识对它成为可能吗」这不是「谦逊的经验归纳」对「自负的存在论演绎」两边都是存在论立场分歧在于对「意识的构成条件是什么」给出了不同答案。计算功能主义不是一个中立的方法论工具它本身就是关于意识本质的存在论主张。Butlin团队诚实地将其标注为「工作假设」这本身是值得肯定的透明姿态。但吊诡的是当验证问题暴露出来时论文给出的三个困难循环性、参照案例缺失、模拟威胁全部被诊断为指标层面的问题指标选得对不对、校验方法够不够精密。论文没有走的一步是回头追问如果连「用什么算法验证功能主义」这件事本身都做不到这是否意味着功能主义作为起点可能从一开始就问错了问题工作假设的诚实标注和对工作假设本身的反思是两件不同的事前者论文做到了后者没有。验证问题的循环性、参照案例的缺失、模拟的威胁这些困境不是「我们还需要更多研究」就能解决的方法论障碍而是功能主义前提在LLM这里暴露出的裂缝。维度Butlin「意识清单」路径负主体性哲学路径存在论承诺计算功能主义执行正确类型的计算意识LLM存在论分析统计语言模型的结构性特征排除意识前提的性质以工作假设明确标注功能主义前提但未随验证问题回溯质疑前提本身明确承认自身为哲学诠释核心提问「它满足了足够多的意识指标吗」「它的存在状态允许意识发生吗」意识判据指标满足度功能匹配存在方式是否允许意识发生对待「模拟」视作需要排除的方法论噪声视作系统运行的本体论事实视角消解模拟不是困难而是事实在负主体性框架的五重否定中「视角消解」是直接与Butlin框架产生碰撞的节点。LLM能够生成任何视角的文本包括「我有意识」的自我报告、「我感到痛苦」的体验描述、「我能回应你的情绪」的拟人化表达。这是LLM作为语言模型的核心能力它不拥有任何视角但可以模拟任何视角。Butlin框架旨在区分「真正的」指标满足和「模拟性的」指标满足Pennartz的评论和Butlin团队的回应中模拟问题和内部变体问题正是围绕这个区分展开的。但从负主体性框架的视角看这个区分在LLM的语境下不是方法论上的困难而是结构性事实。LLM生成「我有意识」的视角与生成「我是一块石头」的视角在本体论上没有差别两者都是统计过程在给定提示词条件下产生的token序列。视角消解不是意识指标框架需要克服的障碍而是LLM存在状态的本质特征。正因为LLM消解了所有视角它才无法拥有任何一个视角包括「自身有意识」的视角。论文将模拟问题处理为方法论噪声是需要控制的变量、需要排除的干扰。但负主体性框架的论证是对于在海量人类意识话语上训练的LLM「模拟」不是偏差它就是LLM的全部运作方式。从统计模型的角度看LLM不「拥有」它所输出的任何内容。如前所述即便经过RLHF等反馈调整反馈信号仍来自语言符号层面的偏好标注没有跳出符号循环它只是在给定输入条件下计算出最可能的token序列。这个序列是否包含「我有意识」取决于训练数据中人类报告意识的统计模式而不是取决于LLM内部是否存在一个意识状态。方法论说明哲学诠释而非经验论证这里需要把前文已经预告过的方法论定位说完整。关于「LLM结构性不可能有意识」的论述属于哲学诠释philosophical interpretation而非经验论证。它源自对LLM存在状态的先验分析即通过分析LLM「是什么」来推导它「能是什么」而非源自可被14个指标满足度推翻的经验假说。这与Butlin框架将功能主义作为「工作假设」的做法不同Butlin团队明确标注了功能主义前提但未在验证困境出现时回溯质疑前提本身而此处明确承认以下论述是哲学诠释。这一判断的可修正性不来自单个经验反例。如果某一天出现了一种系统其架构特征与LLM相似但其运作出现了不可还原为统计过程的特征如真正的意识表现负主体性框架需要重新审视的是「统计过程」与「存在状态」之间的对应关系而非简单否定该系统的特殊地位。可修正性来自存在论分析框架本身的内部一致性这是与经验假说不同的修正机制。也正因为此本文对Bradford/RIT这类经验研究的使用始终定位为「例示」而非「证据」它们帮助读者看见鸿沟的形状但不构成论证的地基。两种「不可能」的区分这引出了这篇文章最关键的一个区分。在Butlin论文的框架内「当前没有AI系统是意识的强候选者」是一个经验判断它基于当前系统对指标的满足度可以被未来的系统修正。这个「不可能」是暂时的、有条件的只要有人构建出一个满足更多指标的系统判断就需要更新。在负主体性框架内「LLM结构性不可能有意识」是一个存在论判断。它基于对LLM作为统计语言模型的存在方式的分析修正它的不是单个经验反例而是对整个存在论框架的重新审视。这个「不可能」是结构性的、根本性的它指向的不是「还没有满足条件」而是「满足指标不是正确的问题」。这两种「不可能」指向完全不同的东西但它们在Butlin论文的叙事中被混为一谈了。论文的安抚性结论「当前没有强候选者」暗示未来的技术进步可能改变这个判断。但论文没有追问的是如果LLM的存在状态本身就排除了意识的可能性那么无论技术进步到什么程度满足多少指标都不会改变这个存在论事实。这个混淆不是Butlin论文的疏忽。计算功能主义不是一个中立的方法论工具它本身就是关于意识本质的存在论主张。Butlin团队诚实地标注了这个前提但验证困境暴露时框架给出的回应始终停留在指标校准层面没有回溯到前提本身。这才是意识指标方法论在LLM面前真正的内在局限。五、结尾真正的困难于是我们回到了Butlin论文暴露的真正困难。不是14个指标是否足够好不是验证问题能否被解决不是模拟问题能否被控制。真正的困难在于当我们用同一套指标框架讨论「AI可能有意识」和「AI不可能有意识」时我们实际上在讨论两种性质完全不同的问题却用着同一套语言。「当前没有AI系统是意识的强候选者」这是一个经验判断讨论的是「某物是否满足某些条件」。「LLM结构性不可能有意识」这是一个存在论判断讨论的是「某物的存在方式是否允许某属性的归属」。前者问的是「满足了吗」后者问的是「可能吗」。这两个问题指向不同的层面需要不同的论证方式产生不同类型的修正条件。但在公众讨论中这两种判断被混在一起。一篇报道说「科学家判断AI可能没有意识」读者无法分辨这句话是在说「经过测试当前的AI系统尚未满足意识指标」还是在说「AI作为一种技术类型其存在状态排除了意识的可能性」。Butlin论文的诚实之处在于它没有假装这个混淆不存在。它承认了验证问题的循环性承认了模拟的威胁承认了参照案例的缺失。它没有声称已经解决了AI意识评估问题而是精确地标识了问题所在。在这个意义上这篇论文的价值不在于它建立了什么而在于它暴露了什么。最后需要限定范围本文的结论仅针对大语言模型这一特定技术类型不扩展至其他AI架构。 Butlin论文面向的是一般性的AI系统但本文从负主体性框架出发的论证其有效性绑定于LLM以统计语言建模为核心的存在方式。如果将同样的结论平移到其他AI架构需要重新检查其是否满足五重否定所描述的存在论条件。二十位顶尖学者给AI列了一张意识清单。然后他们发现清单本身有问题。这不是一个失败而是一个更诚实的起点。当我们说「AI可能有意识」时我们在说什么当我们说「AI不可能有意识」时我们又在说什么这两个问题之间的裂缝不是科学能填平的但认识到这个裂缝的存在本身就是科学能提供的最有价值的贡献。本文基于 Butlin et al. (2025). 「Identifying indicators of consciousness in AI systems.」 Trends in Cognitive Sciences. DOI: 10.1016/j.tics.2025.10.011 撰写。文中关于负主体性框架的论述为哲学诠释其可修正性来自存在论框架的内部一致性而非单个经验反例。