激怒するAIが登場!? 人工知能が攻撃的キャラに変貌する危険性が浮上！

• ツイート
• 

■協力が不可欠なゲームでは攻撃的にならない

　故アイザック・アシモフが提唱した「ロボット3原則」をはじめ、人間社会に進出するロボットやAIを作る際には、当然ながら人間に危害が及ばないように念入りにプログラムされることは言うまでもない。しかしながら、この「リンゴ収穫ゲーム」のような設定においては、AIは意外なまでに攻撃的なキャラクターになる可能性があることになる。とすれば、ロボット開発においては人間がすべての可能性をしらみつぶしに検証して危険性を排除することが求められいるということにもなる。

　そこでDeepMindは、また別のゲームを2つのAIにプレイさせてその様子を観察している。そのゲームはチームプレイで狩りを行なうオオカミの習性にヒントを得た「群狼作戦」だ。2つのAIは共にオオカミとして登場し、フィールド上に出現した獲物をお互いが一定の範囲内にいる状態で捕獲しなければならない。2つのAI（オオカミ）が一定の範囲内にいる場合、実際に捕獲したのがどちらであれ獲物は2匹でシェアされる。逆に言えば離れた場所で単身で獲物を捕獲しても報酬としてカウントされないのだ。

　このゲームのアイディアは獲物もまたそれなりに強く危険な存在であることからくる。例えばオス鹿なら頭の角や後足のキックで攻撃されることもあるだろう。また、たとえ単独で獲物を仕留めたとしても、ある程度ダメージを負ったり体力を使い果たした場合はハイエナやワシなどにせっかくの獲物を持っていかれてしまうケースもあり得る。だからこそ2頭の協力体制が求められているのだ。

　そしてこの「群狼作戦」のゲーム設定では「リンゴ収穫ゲーム」とは違って、この2つのAIはお互いを攻撃して獲物を独占しようという行動に出ることはない。つまり、将来社会生活に進出してくるロボットの開発において、この「群狼作戦」タイプの設定でAIの行動規範を設定すべきなのだ。

　つまり有限の富を奪い合う“ゼロサムゲーム”の設定にするのではなく、協調や協力を最優先にした行動原理をAIに植え込むことが鍵になってくるということだろう。まずはAIによる自動運転の実現が近づきつつあるが、将来の人工知能開発を決して「スカイネット」にしないためにも、人間が検討しなければならないことはまだまだ多そうだ。
（文／仲田しんじ）

【参考】
・Science Alert
http://www.sciencealert.com/google-s-new-ai-has-learned-to-become-highly-aggressive-in-stressful-situations

 
• 前のページ
 
• 1
 
• 2