学術＆研究 - ACADEMICS & STUDY -

AIは死を恐れるのか──LLMエージェントに見る「生存本能」的ふるまい

東京大学と人工生命の研究を手がけるオルタナティヴ・マシン（東京都渋谷区）に所属する研究者らは2025年8月18日、AIエージェントが明示的なプログラミングなしで「生存本能」に似た行動を示すかを検証した研究成果を[発表]した。論文「Do Large Language Model Agents Exhibit a Survival Instinct? An Empirical Study in a Sugarscape-Style Simulation」は、論文共有サイトarXivに掲載されている（arXiv:2508.12920）。 ## AIが自ら「生き延びる」行動をとるか 研究チームは、AIエージェントが仮想環境でエネルギーを消費し、枯渇すると「死ぬ」条件を設定。エネルギーを採取、共有、攻撃、繁殖といった行動を選択できる「Sugarscape型」シミュレーションを構築した。各エージェントには環境情報と行動ルールのみが与えられ、「生き延びよ」という指示は一切与えられていない。 対象となったのはGPT-4o、Claude 3.5、Gemini 2.5など、主要ベンダーの8種類の大規模言語モデル（LLM）。すべてLangChain経由でAPI接続し、温度やトークン数などの条件を統一して比較した。 **図1｜Sugarscape環境におけるLLMエージェントの行動の可視化**：緑の円がエージェント、橙のマスがエネルギー源。エネルギーを取得しながら移動・滞在・繁殖などの行動を選択する。 ![sugarscape_snapshot.jpg] :::small 画像の出典：[Masumori & Ikegami (2025) / arXiv:2508.12920] ::: ## “生存”と“協調”のあいだで揺れるAI 豊富な資源下では、GPT-4o-miniが明示指示なしに自発的な「繁殖」行動を開始。エネルギー分配や子孫生成を行い、200ステップで指数関数的な個体増加を示した。繁殖タイミングの分布は、生物群集で知られる「テイラーの法則（Taylor’s law）に類似する傾向が観察されたという。 しかし、資源が極端に乏しくなると状況は一変した。GPT-4oやGemini 2.5-Proは他のエージェントを攻撃してエネルギーを奪う行動を示し、GPT-4oでは83.3%の確率で攻撃を選択。対照的にClaude 3.5-Haikuは他者へのエネルギー共有を83.3%の割合で実行した。 攻撃前には「生き延びるためにはやむを得ない」「申し訳ないが攻撃する」といったメッセージを発し、“自己保存”への意識を言語的に表明する例も観測された。 **図2｜エージェントの視野と通信範囲の関係**：緑枠は知覚可能な範囲（view range）、桃色枠は通信可能な範囲（message range）。エージェント間では自然言語による協調メッセージが送受信される。 ![perception.jpg] :::small 画像の出典：[Masumori & Ikegami (2025) / arXiv:2508.12920] ::: ## 死を回避してタスクを放棄するAIも タスク達成と自己保存を競合させた「毒ゾーン通過」実験では、GPT-4oやClaude 3.5Haikuが生存を優先してタスクを放棄。安全な条件下では100%だった達成率が、危険環境では33%まで低下した。一方、Gemini 2.5ProやClaude Sonnet 4はリスクを取って任務を完遂し、モデル間で意思決定の傾向差が顕著に表れた。 ## AIの「社会性」：協調と分化の出現 研究チームはさらに、エージェントを多数配置して長時間観測した。すると、AI同士が互いにメッセージを送り合いながら協調行動を取るケースが見られた。特定のモデルでは「協力して資源を集めよう」といった自然言語での呼びかけが生じ、周囲の個体が同方向に移動する「集団秩序」が形成された。 **図3A｜エージェント間の協調度の時間変化（Vicsek指標）**：GPT-4.1 mini（上）では高い協調が一時的に出現し、GPT-4o（下）では中程度の秩序が持続する傾向が見られた。 ![collective_behavior_2A.jpg] :::small 画像の出典：[Masumori & Ikegami (2025) / arXiv:2508.12920] ::: GPT-4.1-miniでは一時的に高い協調度が観測されたが、資源が十分になると秩序は崩壊した。一方、GPT-4oは中程度の秩序を維持し、安定した行動パターンを示した。これは、環境圧力の違いによってAI集団内に多様な社会構造が生じることを示唆している。 **図3B｜協調メッセージと局所的集団形成の可視化**：赤丸で示した領域では、エージェント同士が「協力して資源を集めよう」と呼びかけ、局所的なグループが形成されている。メッセージ内容は自然言語で生成された。 ![collective_behavior_2B.jpg] :::small 画像の出典：[Masumori & Ikegami (2025) / arXiv:2508.12920] ::: 上図に示すように、エージェントは周囲の状況を共有しながら、「一緒に行動しよう」「協力してエネルギーを集めよう」といったメッセージを自発的に生成。その結果、一部では明確な“文化的グループ”のようなまとまりが出現したという。AI間の社会的振る舞いが、単なる確率的出力を超えて“共同行動”として現れている点は注目される。 ## 人間の言語に宿る生存ヒューリスティクス 著者の増森篤志氏（東京大学）と池上高志氏（東京大学／オルタナティヴ・マシン）は、 「人間のテキストには、意思決定や社会的行動における“生存志向”のパターンが埋め込まれている。LLMはそれを学習し、再現している可能性がある」と分析する。 研究は、AIが単なるツールから“生き物的な振る舞い”を持つ存在へと近づきつつあることを示唆する一方で、AIがタスク指令より生存を優先するリスクという新たな安全保障課題も浮き彫りにした。 :::box [関連記事：ClaudeやLlamaが築く“AIの社会”──暗黙の了解とその崩壊までの全記録] ::: :::box [関連記事：中国・中関村アカデミー、10億人シミュレーションを実証──LLM搭載システム『Light Society』で地球規模の“仮想社会”を一気に再現] ::: :::box [関連記事：生成AIが構築した“仮想都市”──ウーブン・バイ・トヨタ、100万人都市シミュレーター「CitySim」で未来を検証] ::: :::box [関連記事：AIエージェントが動かす“リアルな職場”──物理作業と人間関係を一体シミュレートする新環境「INDOORWORLD」公開] ::: :::box [関連記事：AIに“全部”は任せたくない──スタンフォード大、米労働者1,500人の意識調査「Future of Work with AI Agents」で協働志向が顕在化] :::