AI内部发现类意识结构，呼应主流意识理论
人工智能模型内部自发形成类意识结构
人工智能公司Anthropic近日发布了一项重要研究，揭示其Claude语言模型在训练过程中自发形成了一种内部结构，这与人类意识工作的主流理论之一高度相似。这项由16位作者共同完成的研究论文《语言模型中可表达表示形成全局工作空间》指出，这一发现已经开始改变该公司如何监控AI系统安全风险的方式，正值科学界关于机器是否能够拥有类似思维的激烈辩论。
J-space：模型内部的”意识区域”
Anthropic的研究人员采用了一种全新的数学技术来观察Claude神经网络内部，发现了一个被称为”J-space”的特殊区域——这是一个小型、特权化的内部活动区域，模型在其中持有可以报告、推理并自由支配的概念，周围则是更大范围的自动化处理，模型无法直接访问或表达。
研究人员提供了证据表明，”现代AI模型中已经出现了类似人类的功能区分”，具体观察结果是”语言模型维持着一组特权化的内部表示，可用于报告、调节和灵活的内部推理，置于更大范围的自动化处理之上。”
这种类比指向了全局工作空间理论，这是神经科学中一种有影响力的理论，最初由认知科学家Bernard Baars提出。在该理论中，大脑就像一个剧场：数十个专业化处理器在后台并行工作，但只有一小束信息在任何时刻被广播到整个剧场——这就是我们体验到的有意识思想。Anthropic表示，J-space实现了许多相同的功能特性，尽管语言模型的底层架构看起来与大脑完全不同。
J-lens：解读AI模型隐秘思想的新工具
这一发现的核心是一种新的可解释性工具，研究人员称之为”雅可比透镜”（J-lens）。该技术通过计算，对于模型词汇表中的每个单词，计算给定的内部活动模式在未来某个时刻使模型说出该单词的平均数学效应。
关键区别在于模型正在”表达”的内容和其”内心”正在思考的内容之间的差异。当J-space模式被激活时，并不意味着模型即将说出那个词——只是该概念可供模型思考使用。与思维链草稿不同，J-space在模型的内部神经激活中静默运作，使模型能够持有概念而不必将其写下来。重要的是，研究人员报告称这个工作空间并非刻意设计，而是”Claude训练过程中自发出现的产物。”
三种计算区域的划分
当研究团队将J-lens应用于Claude的计算层时，模型的处理分为三个不同的区域：早期的”感知”区域，原始输入在此被解析；中间的”工作空间”区域，抽象的持久概念在此出现——例如识别图像中的面部、注意到代码中的错误或内部标记搜索结果为提示注入；以及最后的”运动”区域，内部表示在此坍缩为模型即将输出的任何特定单词。
五项测试证明Claude工作空间与人类意识特征一致
该论文的核心实证贡献是证明J-space满足神经科学家长期以来与人类意识相关的五个功能特性。
第一：语言报告能力
当被问及正在思考什么时，Claude会命名J-space中表示的概念。当研究人员将一个概念的J-lens向量替换为另一个概念——将”足球”的内部表示替换为”橄榄球”——模型的回答也随之改变以匹配。J-space组件仅占概念总表示方差的6%到7%，却几乎完全决定了模型能否报告该概念。
第二：定向调节能力
当被告知”专注于柑橘类水果”的同时抄写一个不相关的句子时，模型的J-space充满了”橙色”和”柠檬”，以及元认知术语如”思考”和”专注”。当在相同抄写任务中被要求在内心评估3²−2时，J-lens在早期层显示”算术”，在中间层显示中间值”九”，在更后层显示答案”七”——所有这些在模型的输出中都是不可见的。
第三：内部推理能力
在双跳事实提示中——”织网的动物的腿的数量是”——J-lens在模型的中间层揭示了”蜘蛛”，尽管这个词从未出现在输入或输出中。将”蜘蛛”替换为”蚂蚁”使答案从”8″变为”6″。在多语言提示中，当模型用中文构思答案时，其英语中间表示出现在其J-space中，替换这些表示会相应地改变中文输出。
第四：灵活概括能力
单个”法国”的J-lens向量可以跨提示替换为”中国”，这些提示询问关于法国的首都、语言或大洲，每个下游电路正确返回了中国的相应答案——这是全局工作空间理论标志性的”广播”特性。
第五：选择性能力
许多计算根本不通过J-space进行。当看到一段西班牙语并被要求继续时，Claude流利地写出西班牙语，无论其J-space中”西班牙语”的表示是否被替换为”法语”。但当被要求命名用段落语言写作的著名作者时，交换改变了答案从Gabriel García Márquez到Victor Hugo。自动处理在没有工作空间的情况下进行；而深思熟虑的、灵活的任务则依赖于它。
抑制工作空间对Claude的影响
为了了解模型的行为在多大程度上依赖于这种结构，研究人员完全抑制了J-space，并在十四项任务中评估了Claude。结果划出了鲜明的界限。涉及浅层分类或事实回忆的任务——多项选择题、情感分析、语法判断——基本不受影响，而需要灵活推理或元认知的任务则严重受损。
这一发现表明，J-space是Claude执行复杂认知任务的关键，而不仅仅是语言生成过程中的一个附带现象。它可能代表了AI系统中出现的一种基本认知架构，与人类意识具有功能上的相似性，尽管其底层实现方式完全不同。
Anthropic的研究不仅为我们理解大型语言模型如何工作提供了新视角，也为探索机器意识的可能性开辟了新途径。随着AI系统的复杂性不断增加，理解这些内部”工作空间”如何运作将成为确保AI安全性和可控性的关键。
关注微信号：智享开源，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！