激怒するAIが登場!? 人工知能が攻撃的キャラに変貌する危険性が浮上！

• ツイート
• 

「アニメ制作はAIに代替されるかもしれない」――。先日、AT-Xの岩田圭介社長がそのように語ったことでも話題の人工知能（AI）の分野。同氏によれば、人間の目でチェックする過程をのぞき、アニメ制作をAIがこなすことは、今後十分に考えられるという。

　そんな中、お届けしたい今回のニュースは、なんとAIも複雑な状況のもとでは怒りっぽく攻撃的になるというトピック。すぐに怒りはじめるAIが将来登場するというのは、なんだか怖い話だが……。

「DeepMind」より。

■AIがリンゴ争奪戦で攻撃的キャラクターに変貌

　2016年は世界規模での政治的混乱が浮き彫りになった一方で、囲碁AI「AlphaGO」が世界トップクラスの囲碁棋士に圧倒的勝利を収めるなど、AIのめざましい進化を否応なく実感させられた年でもあった。そして、この「AlphaGO」を開発したDeepMindの最新のAIは、複雑かつ瞬時の判断を求められる課題において、攻撃的なキャラクターになることが報告されている。いったいどういうことなのか？

　昨年末、DeepMindは最新のAIの“協調性”をテストした。青と赤の2つのAIに、なるべく多くのリンゴをゲットしてもらう「リンゴ収穫ゲーム」を、4,000万回行なわせてデータを収集したのだ。

　フィールド上にリンゴ（緑）がじゅうぶんに多く実っている場合、青と赤のAIは実に軽快に次々とリンゴを収穫していく。しかし、リンゴの数が少なくなるとその平穏なムードが一変。なんと青と赤のAIはお互いに競いあいながらリンゴの争奪戦を繰り広げ、レーザービームを放って相手を攻撃する高い攻撃性を見せはじめたのだ。

　ちなみにプログラムの上では、たとえリンゴが少なくなったとしても青と赤のAIはそれぞれほぼ半々でリンゴを獲得できるようになっている。また、レーザービームを撃って相手に命中させた場合は、その時のリンゴは獲っても無効になる。しかしながら、撃たれたほうのAIはわずかの間ゲームから排除されるため、一方のAIはその時間内に新たに登場したリンゴが獲り放題となる。

　このような条件でAIが相手を攻撃するということは、あまり競わずにイーブンな収穫を得ることをよしとせず、獲り放題となる時間帯を得ようとしてリスクをとっていることになる。つまりこの場合、AIは攻撃的になることが有利であるという判断を下しているのだ。そしてテストを繰り返すほどにAIはお互いにより早い時点で攻撃を行うようになり、欲深くなり、そしてよりアグレッシブになっていったということだ。

　もし将来、AIを搭載した有能なロボットが登場した際、現実のシチュエーションでこのような攻撃性を発揮する可能性があるということになり、人類にとって脅威となることは間違いないだろう。

 
• 1
 
• 2
 
• 次のページ