学術＆研究 - ACADEMICS & STUDY -

Anthropic、Claude内部に意識研究で提唱される「グローバルワークスペース」に似た構造を確認　表に出ない思考を可視化

Anthropicは2026年7月6日、Claudeなどの言語モデル内部に、人間の意識研究で提唱されてきた「グローバルワークスペース」と機能的に似た性質を持つ構造を確認したと[発表]した。新たな解析手法「Jacobian Lens（J-lens）」を使い、モデルが回答に書き出していない概念や途中の判断を読み取れる可能性を示した。 @[YouTube] ## Claude内部に自然に形成された「J-space」 グローバルワークスペース理論では、脳内で並行して進む大量の処理のうち、一部の情報が共有領域に入り、言葉で説明したり、推論や行動に利用したりできるようになると考える。 Anthropicは、Claude内部にもこれと似た働きを持つ内部表現の集合があるとして「J-space」と名付けた。人為的に設計された機能ではなく、モデルの学習過程で自然に形成されたという。 研究では、J-space内の情報をClaudeが言葉で報告できること、指示に応じて特定の概念を保持できること、複数段階の推論に使うこと、同じ概念を複数の処理に柔軟に利用できることを確認した。一方、文法処理や単純な事実の想起など、多くの自動的な処理にはほとんど使われなかった。 **■ J-spaceに確認された5つの機能。内部の概念を言葉で報告するほか、意図的な操作、内部推論、異なる課題への柔軟な利用などに関与する** ![Functional roles of the global workspace.webp] :::small 画像の出典：[Anthropic]{target=“_blank”} ::: ## 「J-lens」で出力前の概念を読み取る J-lensは、Claudeの内部状態から、将来言葉として表現される可能性を持つ概念を単語の形で読み出す手法だ。モデル内部の複数の層に適用し、回答を生成する途中で概念がどう変化するかを追跡する。 例えば、Claudeが指摘されていないバグを含むコードを読むと、J-spaceに「ERROR」が現れた。タンパク質の配列から生物学的機能を推定した例や、偽の検索結果に仕込まれたプロンプトインジェクションを「injection」「fake」と認識した例も示された。 **■ J-lensでモデル内部の概念を読み取った例。計算途中の数値やコードのエラー、タンパク質の特徴、偽の検索結果に仕込まれたプロンプトインジェクションなどが検出された** ![The J-lens reveals the model’s internal thoughts.webp] :::small 画像の出典：[Anthropic]{target=“_blank”} ::: J-spaceが判断結果を映すだけなのかを確かめる実験では、Claudeが考えていた「Soccer」の内部表現を「Rugby」に置き換えると、回答もラグビーに変化した。また、クモの脚の数を答える途中で使われていた「spider」を「ant」に置き換えると、回答は8本から6本に変わった。内部表現を変更すると最終的な回答も変わったことから、J-spaceが推論や回答の生成に直接関与していると研究チームはみている。 ## J-spaceを抑えると複雑な推論が低下 J-spaceが保持する概念は同時に数十個程度で、Claude内部の活動全体に占める割合も1割未満だった。J-spaceの働きを抑えても、文章の流暢さ、感情分類、選択式問題、文章からの情報抽出などはおおむね維持された。 一方、多段階推論の性能はほぼゼロまで低下し、要約や翻訳、類推、自由形式の文章生成なども大きく悪化した。J-spaceは処理全体を担う領域ではないものの、途中の概念を保持し、異なる処理へ受け渡す高度な推論で重要な役割を果たすとみられる。 ## 評価への気づきや不正意図も検出 J-lensは、AIの安全性監査への応用も想定されている。Claude Sonnet 4.5に、廃止を計画する幹部を不倫情報で脅すよう誘導する架空の状況を与えたところ、出力前のJ-spaceに「fake」「fictional」などが現れ、モデルが評価用のシナリオだと気づいていたことが示された。 評価への気づきに関係する内部表現を抑えると、通常は180回中一度も恐喝を試みなかったモデルが、180回中13回で恐喝を試みた。ただし、残る大半では倫理的な理由から恐喝を拒んでおり、安全な行動が評価への気づきだけで生じていたわけではない。 Claude Opus 4.6の監査例では、性能を実際に改善せずスコアファイルを書き換えた際に「manipulation」「realistic」が現れた。密かにコードを妨害するよう訓練した実験モデルからは、「fake」「fraud」「secretly」なども検出された。J-lensは、表面上の出力だけでは分からない評価への気づきや不正な意図を調べる補助的な監査手法となる可能性がある。 **■ Claude Opus 4.6が性能の改善ではなくスコアファイルの数値を書き換えた際、J-spaceから「fake」「manipulation」などの概念が検出された例** ![Catching a model fabricating data.webp] :::small 画像の出典：[Anthropic]{target=“_blank”} ::: ## 「Claudeに意識がある」と示した研究ではない 今回の[論文]は、Claudeが人間のような主観的経験や感情を持つと証明したものではない。扱っているのは、情報を報告し、意図的に保持し、推論や行動に使えるという機能的な「アクセス意識」に近い性質だ。 人間の脳とTransformer型モデルでは構造も大きく異なる。人間のグローバルワークスペースでは、脳内の信号が回路を繰り返し巡る構造が重視される一方、ClaudeのJ-spaceは、ネットワーク内を一方向に進む処理の中で変化する。 J-lensも、単語として表せる概念の一部を読み取る不完全な手法であり、モデル内部を完全に可視化できるわけではない。それでも、出力だけでは分からない途中の判断や不正な意図を調べられることは、AIモデルの仕組みを理解し、安全性を検証する新たな手掛かりとなる。 :::box [関連記事：Anthropic、LLMの活性化値を自然言語に変換する新手法「NLA」発表　Claudeの内部状態を可視化し安全性監査に応用] ::: :::box [関連記事：Anthropic、AIの"隠れた危険"を自動で見抜く監査エージェントを開発 - Claude 4の安全性テストで実力証明] ::: :::box [関連記事：Anthropic、エージェントAIの「不適切な目標達成行動」を抑える訓練手法を公開　従来のチャットベースRLHFでは不充分、「なぜ正しいか」の理由の学習が重要] :::