フレーム問題とは | 問題点・具体例・人間との関係性について

このエントリーをはてなブックマークに追加

人工知能 / AI という言葉が一般的になり、多様な産業において導入が進められています。しかし、今後人工知能が進化していく上で、さまざまな課題が存在します。そのなかでも、もっとも解決困難な課題のひとつが「フレーム問題」です。

本稿では、フレーム問題の定義から注目される背景や課題、事例まで詳細に解説します。

フレーム問題とは?

フレーム問題とは、「限られた処理能力しかない人工知能は、現実に起こりうる問題すべてに対処することができない問題」のことです。

1969年に人工知能研究者のJohn McCarthyとPatrick J. Hayesが提唱した概念で、現在でも解決していない問題であるとの見方が一般的です。

また、この問題は専門家によって異なる解釈、翻訳がされています。

「今しようとしていることに関係のあることがらだけを選び出すことが、じつは非常に難しい」という問題

出典:松原仁『暗黙知におけるフレーム問題』 科学哲学 24 巻,1991年

「人工知能が問題解決を行なおうとするときに、何が自身にとって重要なファクターで、何が自身にとって無視してもよいファクターであるのかを、自分自身で自律的に判断することができないという問題

出典:森岡正博「人工知能と現代哲学:ハイデガー・ヨーナス・粘菌」日本哲学会『哲学』第70 号、2019年4月

世のなかで起こり得るすべての事象から、今行うべき分析・判断に必要な情報のみを『枠(フレーム)』で囲うように、選び出すことがAIには非常に難しいという問題

出典:自動運転とAIのフレーム問題-AIの社会実装へのインプリケーション
(ニッセイ基礎研究所 社会研究部 上席研究員 百嶋 徹)

フレーム問題のポイントと具体例

具体的に、「フレーム問題」とはどのような問題なのでしょうか?
まず、フレーム問題のポイントを確認し、具体例として「電話帳」「爆弾とロボット」を挙げて解説します。

人工知能が抱える問題点

人工知能が、何らかの判断を下す際には、世のなかの情報すべてから現在の判断に必要な情報を選び出さなくてはなりません。
つまり、その物事と本来関係のない無視すべき膨大な事象を含めて、世のなかのありとあらゆる事象について、物事との関係の有無を計算する必要があります。

そのため、情報処理における計算量が爆発的に増加し、有限の情報処理能力しか持たない人工知能は、機能を停止してしまい、判断が行えないと言う問題が生じます。

そもそも人工知能は、ディープラーニングなどの学習の過程で学んでいない事象に対して、臨機応変に対応することができません。加えて、学習の時点で、想定外の事象を含めて、世のなかのすべての事象を学習させることは不可能であるという構造的な問題も存在しています。

フレーム問題の例1:電話帳


フレーム問題の提唱者であるJohn McCarthyとPatrick J. Hayesは、電話帳の例を持って、この概念を説明しました。

人間Aが、電話帳で人間Bの電話番号を調べ、電話をかけて会話をしようとしています。
人工知能にこのような行為を記述しようとすると、「人間Bが電話を所有していれば、その後人間Aが電話帳で誰かほかの人の電話番号を調べたあとでも、人間Bは電話を所有している」などといった、人間にとっては極めて自明な条件まで列挙しなくてはなりません。

これらの条件を網羅しようとすると、有限な処理能力しか持たない人工知能は処理を停止してしまいます。

フレーム問題の例2:爆弾とロボット


1984年、哲学者 Daniel Dennettが著書 “Cognitive Wheels : The Frame Problem of AI”のなかで「爆弾とロボット(AI搭載)」の例を用いて、フレーム問題を解説しました。

洞窟のなかにロボットを動かすバッテリーがあり、その上に時限爆弾が仕掛けられています。
このままでは爆弾が爆発し、バッテリーが破壊され、ロボットはバッテリー交換ができなくなってしまいます。ロボットは「バッテリーを取ってくる」よう指示されました。

ロボット1号は、洞窟に入り無事にバッテリーを取り出すことができました。しかし、1号はバッテリーの上に爆弾が載っていることに気づいていたが、バッテリーを運ぶと爆弾も一緒に運び出してしまうことに気づかなかったため、洞窟から出た後に爆弾が爆発してしまいました。
これは1号が、バッテリーを取り出すという目的については理解していましたが、それによって副次的に起こりうる事項(バッテリーを取り出すと同時に爆弾も運んでしまうこと)については理解していませんでした。

次に、副次的に発生する事項も考慮するロボット2号を開発しました。しかし2号は、洞窟に入りバッテリーの前に来たところで動作しなくなり、そのまま時限爆弾が作動し壊れてしまいました。

2号は、バッテリーの前で「このバッテリーを動かすと上に乗った爆弾は爆発しないかどうか」「バッテリーを動かす前に爆弾を移動させないといけないか」「爆弾を動かそうとすると、天井が落ちてきたりしないか」「爆弾に近づくと壁の色が変わったりしないか」など、副次的に起こりうる事項を、無限に思考し続けてしまいました。
これは、副次的に起こりうる事項というのが無限に存在し、「壁の色が変わったりしないか」などという通常、考慮する必要がない事項まで、無限に計算してしまったのです。

そこで、目的に無関係な事項は考慮しないように改良したロボット3号を開発しました。しかし今度は、3号は洞窟に入る前に動作しなくなりました。3号は洞窟に入る前に、目的と無関係な事項をすべて洗い出そうとして、無限に思考し続けてしまったのです。
これは、目的と無関係な事項というのも無限に存在するため、それらすべてを考慮するには無限の計算時間を必要とするからです。

これらの事象により、有限な処理能力しか持たない人工知能は処理を停止してしまいます。

人間とフレーム問題

人工知能におけるフレーム問題ですが、そもそも人間はフレーム問題を解決しているのでしょうか。1つの回答として、「人間はフレーム問題を擬似解決している」が挙げられます。

電子レンジと猫


人工知能研究者である松原 仁は著書『暗黙知におけるフレーム問題』(1991)にて「電子レンジと猫」の例を用いて解説しています。

アメリカである主婦が雨でびしょ濡れになった飼い猫を乾かそうとして電子レンジに入れてしまうという事件が起きた。当然その猫は死んでしまったが、その主婦は電子レンジの説明書に「生きものを入れてはいけない」とは書いてなかったとして製造会社を相手取って損害賠償の訴えを起こし勝訴し、以後電子レンジの使用説明書に「生きものを入れてはいけない」 という一文が加えられた

出典:松原仁『暗黙知におけるフレーム問題』p46-48

電子レンジに入れていいものを数え上げることも、逆に入れていけないものを数え上げることも(有限の情報処理能力しか持たない)人間には原理的に不可能です。
つまり、人間も原理的にフレーム問題を解決しているわけではない、と言えます。

人間はフレーム問題を擬似解決している


人間もフレーム問題を原理的に解決できないにもかかわらず、日常では情報処理の計算量の爆発に悩まされているようにはほとんど見えません。このことを
松原は「人間はフレーム問題を疑似解決している」と述べています。

人間は通常、情報に対して有限の大きさの枠を囲っており、ほとんどの推論はこの枠の中の情報を参照することで済むようになっています。しかし、枠の中だけでは解決できない問題に直面し、枠の外の情報を参照することになれば、フレーム問題に人間も直面し、計算量の爆発に苦しんでしまうはずです。人間は一度囲んでしまった枠の外を探すことはめったになく、枠のなかから無理やり引き出した情報が間違っているという、人間がときどき誤りを犯すことの原因のひとつであるといえます。

つまり、人間はそのような犠牲を払った代償として、日常ではフレーム問題に悩まずに柔軟性・経済性を得ているという考え方です。

現在のAIとフレーム問題 


AIは、大きく「強いAI(汎用型AI)」「弱いAI(特化型AI)」に分けて考えることができます。
強いAIとは、「適切にプログラムされた『意識』を持ち、総合的な判断ができるAI」です。一方の弱いAIとは、「一定の領域のみの業務に特化したAI」です。

現在、企業などの業務効率化や自動化する際に導入が進んでいるAIの多くは弱いAIにあたります。しかし、弱いAIは想定外の事象が無限に起こりうる現実社会において、フレーム問題により力を発揮できないため、現在は、限定した特定のタスクをこなすことに用いられています。

今後、人工知能を実装していくうえでフレーム問題が大きく影響を及ぼす分野の一つに「自動運転」があります。自動運転とは、人間が運転操作を行わなくとも自動で走行できる自動車であり、これを実現するためにはフレーム問題を解決する必要があります。

たとえば、市街地の一般道を運転するには、歩行者やドライバーが手で行う合図やアイコンタクト、警察官の指示、ほかのドライバーの自転車に対する反応など、人間の交通・運転マナーや交通ルールに関わる判断・行動・反応は無数に存在します。さらに、その挙動は不規則になることが多いため、自動運転AIがすべてに対処し切れないというフレーム問題が大きく絡んできます。

このように、日常生活に身近な人工知能技術である自動運転にも、フレーム問題が大きく影響を及ぼしています。

これからの人工知能の開発においては、人工知能が解くべき問題や人工知能を活用する環境・領域を考慮して「フレームをはめる」ことが重要です。