可言说的表征在语言模型中构成全局工作空间

本文提出证据表明，现代语言模型（LLMs）具有类似于人类有意识访问的功能性区分，其特征是一组特权的内部表征。这些“可言说的表征”构成一个“全局工作空间”，可用于报告、调节和灵活的内部推理，并与大量自动处理并行运作。研究人员引入了“雅可比透镜”（J-lens）可解释性技术来识别这些表征，它们本质上是未说出的词语，命名了模型当前正在推理的概念。J-空间由这些J-透镜向量组成，展现出与有意识访问相呼应的特性：它支持言语报告、受定向调节、介导内部推理、允许灵活泛化，并且在使用上具有选择性。实验表明，对J-空间的干预会对其行为产生因果影响，影响言语报告、内部计算，甚至在明确要求时影响自动处理。J-空间还显示出全局工作空间的结构特征，局限于中间层、容量有限，并充当广播中心。研究结果表明，这种类似于人类有意识访问的功能性架构可能由于计算压力而在LLM中出现，为研究与意识相关的问題提供了一个易于处理的系统。

(来源：Transformer-circuits Pub)