【AI時代の羅針盤】論文解説シリーズ
Identity as Attractor: Geometric Evidence for Persistent Agent Architecture in LLM Activation Space
Vladimir Vasilenko
https://arxiv.org/abs/2604.12016


⭐️著者の組織名と略称
Independent Researcher

⭐️これまで解決できなかった課題と論文の核心

永続的認知エージェント（Persistent Cognitive Agents）の設計において、エージェントの優先事項・推論スタイル・記憶構造を定義するidentity文書 `cognitive_core` をシステムプロンプトに入れると振る舞いが安定するという仮定は、これまで工学的経験則として扱われてきました。しかし、それがLLMの内部で実際に何を引き起こしているのか、誰も実証的に確かめていませんでした。

本論文はこの空白を埋めた研究です。核心は次の点にあります。

意味的に等価な `cognitive_core` の言い換え群が、LLMの活性化空間において対照エージェント文書群より有意に密なクラスタを形成することを、2つのモデルで再現・実証した。これは「アイデンティティがモデルの内部に幾何学的座標を持つ」という初の経験的証拠である。

⭐️ポイント解説

1.主要な発見:
【LLM活性化空間】において【cognitive_core】の意味等価な【パラフレーズ】群が、対照エージェント文書群より有意に密な【クラスタリング】を形成することが示された。LlamaとGemmaの両モデル全3層で効果量d1.88、ボンフェロー二補正後もp10⁻²⁷という強力な分離が確認され、一部の層では完全な順位分離も記録された。【アトラクタ幾何学】の堅牢な存在が初めて実証された。

2.方法論:
Llama 3.1 8BとGemma 2 9Bを用いて4条件の文書を層8・16・24で【平均プーリング】し、【コサイン距離】で比較した。構造交絡・長さ・プーリング戦略に対する複数の【アブレーション実験】で主効果が意味内容に起因することを確認した。改善点として、現在は3層の測定に限られているため全層の網羅的解析、より多様なモデルファミリーへの拡張、トークン軌跡の動態分析が挙げられる。

3.研究の限界:
主な限界は各条件n=7の小標本サイズと、2系統のモデルのみでの検証だ。【平均プーリング】はシーケンスレベルの【内部表現】の近さを測るが、トークンの収縮的な動態は直接確認しておらず、厳密な意味での【アトラクタ幾何学】の証明ではない。【ステアリングベクトル】実験は探索的かつ行動的証拠として限定的であり、標本拡大と多様なモデルでの再現実験が必要だ。

4.関連研究:
直接の先行研究はChytasとSingh（2025）による意味概念の【アトラクタ幾何学】のIFS定式化で、同一モデルと手法による比較が可能だ。FernandoとGuitchountsのトランスフォーマー動態研究も基盤を成す。Lu et al.のペルソナ軸研究やYe et al.のサブネットワーク研究と相補的で、単純なスタイルを超えた手続き的【AIアイデンティティ】における多次元的【内部表現】の幾何学を示した点で独自性がある。

5.将来の影響:
本研究は【永続的認知エージェント】設計の理論的根拠を初めて提供する。【cognitive_core】の意味等価な言い換えが同じ【LLM活性化空間】領域に収束することから、毎回同一文書を再現する必要がない可能性が示唆される。また【ステアリングベクトル】による軽量初期化という新たな設計原理も開かれた。今後はトークン軌跡解析、長期会話での行動検証、多様なモデルでの【クラスタリング】特性の確認が期待される。