AI研究上最大の問題「フレーム問題」
いまだ、本質的な解決方法が見つかっていないという、AIの研究における最大の問題といわれているのが、フレーム問題である。
フレーム問題とは、今しようとしていることに関係のあることだけを選択する、というのが難しい、という問題である。
以下、G検定の公式テキストの例題を簡素に引用する。
状況
洞窟の中に台車があり、その上にロボットを動かすためのバッテリーがある。
しかし、バッテリーの横には時限爆弾が一緒においてある。
ロボットに、洞窟の中からバッテリーをとってくるように指示をした。
ロボットは指示された通り台車ごとバッテリーをとってきた。
しかし、台車にあった時限爆弾も一緒にもってきてしまったため、爆弾は爆発してしまった。爆弾を一緒に持ってこないようにロボットを改良した。
改良の内容は「自分が行った行動の結果、副次的に何が起きるかを考慮する」というものだ。
ロボットは台車を前に、- もし台車を動かしても洞窟の天井は落ちてこない
- もし台車を動かしても洞窟の壁の色は変わらない
- もし台車を動かしても洞窟の壁に穴が開かない
など、あらゆることが副次的に起こることを考慮した。
結果、時間切れとなり、爆弾は爆発してしまった。次に、目的を遂行する前に目的と関係ないことを考慮しない、という改良を行った。
- 洞窟の天井が落ちてこないことは目的と関係があるか
- 壁の色は目的と関係があるか
- 洞窟の地面や壁に穴があくことは関係があるか
とあらゆることについて、関係があるかどうかの仕分けに没頭し、フリーズしてしまった。
やがて時間切れとなり、爆弾は爆発してしまった。
スポンサーリンク
このように、ボードゲームや計算問題など、特定の条件下では問題なく動作するAIも、あらゆる条件下、という状態になるとフレーム問題が生じてしまう。
人間も、何も考えずに行動すれば、同様の状態に陥る可能性はある。
しかし、人間はフリーズするようなことはなく、こういった問題は対処することができる。
AIについても、このフレーム問題を、いかにして解消するかが大きな目標となっている。
