学術&研究

学術&研究
2025/7/13 [SUN]
中国・北京大学など、AIに「感情スイッチ」を実現──「計算感情空間」の構築でLLMが怒り・悲しみ・喜びを自在に切替のサムネイル画像

中国・北京大学など、AIに「感情スイッチ」を実現──「計算感情空間」の構築でLLMが怒り・悲しみ・喜びを自在に切替

2025年6月27日、中国・北京大学など8つの研究機関は、生成AIの中核である大規模言語モデル(LLM)内部に、人間の感情と構造的に対応する「計算感情空間(computational emotion space)」を構築し、怒り・喜び・悲しみなど26種類の感情を自在に操作できる「感情スイッチ(steering vector)」を実現したと[発表]{target=“_blank”}した。 ## 感情の「概念セット」を構築し、LLMの中間層を解析 研究チームは、まず英語と中国語の大規模な人間行動データセットから、26種類の感情カテゴリごとに代表語を集めた「概念セット(concept-set)」を定義した。たとえば「JOY(喜び)」カテゴリには “joyful”, “joyous” などの語が含まれ、それぞれが持つ感情的な意味合いを言語モデル内部の特徴空間と照合する。 次に、Llama3-8B-ITおよびGemma-9B-ITといった主要LLMの中間層から、Sparse Autoencoder(SAE)を用いて人間可読な特徴量を抽出し、感情ラベルごとに対応する特徴ベクトルを可視化。感情ごとに意味的に似た特徴量をグループ化することで、LLM内部の感情表象の構造を明らかにした。 **図1|感情サブスペースの構築手順** 英語・中国語それぞれの感情語から概念セットを作成し、LLMの中間層から対応する特徴量を抽出。SAEを用いて「JOY(喜び)」などの感情カテゴリごとに独立したサブスペースを構成する ![AI shares emotion with humans across languages and cultures1.jpg] :::small 画像の出典:[AI shares emotion with humans across languages and cultures]{target=“_blank”} ::: ## 英語・中国語を超えて一致する「感情マップ」 こうして得られた各感情のサブスペースを統合し、感情間の関係性をUMAP(次元圧縮)で可視化すると、驚くべきことに、LLMは人間が心理学で使う「快‐不快」「興奮‐沈静」という2軸の感情モデルとよく対応する形で内部構造を整理していた。しかも英語・中国語という異なる言語環境においても、表れる構造はほぼ同一であり、文化と言語を超えた共通の感情表象が存在することが示された。 **図2|英語と中国語における感情空間の比較** 26種類の感情カテゴリをUMAPで次元圧縮してプロット。怒り、喜び、不安、驚きなどの感情が文化と言語に依らず類似の空間構造で表現されている。 ![AI shares emotion with humans across languages and cultures2.jpg] :::small 画像の出典:[AI shares emotion with humans across languages and cultures]{target=“_blank”} ::: ## 質問応答に“怒り”を注入すると語調が変化 研究チームはこの「感情空間」から、特定の感情に対応する45本前後の主要特徴量を抽出し、それを「steering vector(感情スイッチ)」としてLLMの隠れ状態に加えることで、任意の感情を誘導する手法を確立した。 たとえば「週末にひとりでスマートフォンを眺めていたとき、SNSの投稿にどう感じたか」と質問された場合、「未操作」のLLMは淡々とした反応を示すが、「恐怖(Fear)」スイッチを加えると、強い不安感や絶望的な表現が現れるなど、生成されるテキストに明確な情動の差が出る。 **図3|感情スイッチ“Fear”の適用による応答の変化** 特定感情の特徴を持つベクトル(steering vector)をLLMの中間層に加えると、出力文にその感情の特徴が反映されるようになる。未操作時と“恐怖”適用時の文章には明らかな語調の違いが見られる。 ![AI shares emotion with humans across languages and cultures3.jpg] :::small 画像の出典:[AI shares emotion with humans across languages and cultures]{target=“_blank”} ::: ## 今後の課題と応用可能性 この手法は、メンタルケアや教育、感情を持つゲームキャラクターなど、応用範囲の広さが期待されている一方で、高強度の感情スイッチを重ねがけすると混線が起きやすいという課題も報告されている。また、視覚や音声など他のモダリティにまたがる感情操作は今後の検証課題となっている。 研究チームは、LLMの中に感情的「地図」を見出した今回の成果が、より共感的で安全なAIの設計において重要なステップになると述べている。 :::box [関連記事:LLMが「心の理論」をテスト──AIにも人の気持ちが分かるかもしれない問題] ::: :::box [関連記事:感情的な入力で「状態不安」を示すAI──ChatGPT-4などLLMの情動反応を検証] ::: :::box [関連記事:対話型AIに感情を共有できる人は64.9%──親友や母を超え“第3の心の拠り所”?] ::: :::box [関連記事:Alibaba、マルチモーダル感情認識AI「R1-Omni」を公開] ::: :::box [関連記事:OpenAI、GPT-4.5を正式発表──自然な対話と高い感情知能(EQ)を実現] :::

mailmagazine_250701_1
FOLLOW US
各種SNSでも最新情報をお届けしております