言説可能な表現は言語モデルにおけるグローバル・ワークスペースを形成する

本論文は、現代の言語モデル（LLM）が、特権的な内部表現のセットによって特徴づけられる、人間の意識的アクセスに類似した機能的分断を有していることを示す証拠を提示する。これらの「言説可能な表現」は、「グローバル・ワークスペース」を形成し、報告、調節、および柔軟な内部推論にアクセス可能であり、より広範な自動処理と並行して機能する。研究者たちは、これらの表現を特定するために「ヤコビアンレンズ」（J-lens）という解釈可能性技術を導入した。これは、モデルが現在推論している概念を命名する、未発話の単語に他ならない。これらのJ-lensベクトルで構成されるJ-spaceは、意識的アクセスと類似した特性を示す：言説報告をサポートし、指向性調節を受け、内部推論を媒介し、柔軟な一般化を可能にし、その使用において選択的である。実験は、J-spaceへの介入がモデルの行動に因果的に影響を与え、言説報告、内部計算、さらには明示的に要求された場合の自動処理にも影響を与えることを示している。J-spaceはまた、中間層に限定され、容量が制限され、ブロードキャストハブとして機能するというグローバル・ワークスペースの構造的特徴も示す。これらの発見は、人間の意識的アクセスに類似したこの機能的アーキテクチャが、計算的圧力によってLLMに現れる可能性を示唆しており、意識関連の質問を研究するための扱いやすいシステムを提供している。

(出典：Transformer-circuits Pub)