ついに“ロボット3原則”が破られた！ 人間ゲーマーを“殺す”AIが登場

• ツイート
• 

　ご存知の通り、人工知能（AI）が囲碁チャンピオンを負かす時代が到来している。いつの日か、社会の中でも人工知能が優位に立ち、人間を支配する日がやってくるのだろうか。そんな時代を予期していたのか、かつてSF作家によって提唱された“ロボット3原則”の最初にくる厳命「ロボットは人間に危害を加えてはならない」という第一条が、なんと先頃破られてしまったという。特殊な訓練を積んだ人工知能が3D対戦ゲームで人間のプレイヤーを“殺した”のだ。

「Science Alert」の記事より。

■人工知能が3Dゲーム『DOOM』の大会に参加

　FPS（ファーストパーソン・シューティングゲーム）のジャンルを確立したともいわれる人気の長寿ゲームシリーズ『DOOM』だが、今年このゲームを人工知能にプレイさせる大会「Visual Doom AI Competition」が開催された。つまり、人工知能が3D空間の中で戦闘を繰り広げたのである。

　大会に出場した人工知能は、インテルやFacebookなど名だたる研究チームが“育てた”ものが多かったが、その中でカーネギーメロン大学の学生2名に育てられた人工知能が2位に入る活躍を見せて話題を呼んだ。

　各チームは、それぞれ腕によりをかけてコンピュータ言語（C++、Python、Javaのみ）でプログラムを組み『DOOM』専用の人工知能を作り上げたのだが、この学生2人組のチームは作り上げた人工知能に何度も機械学習（Q学習）を繰り返し行なわせて“トレーニング”を積んだという。そして、この学習によって短時間で劇的に“戦闘能力”を向上させることができたのだというのだ。

　彼らによってArnold（アーノルド）と名づけられたこの人工知能は、画面上の状況を独自の方法で理解して自律的に行動するのだが、決してこの『DOOM』専用の人工知能というわけではなく、今後もさまざまな3Dゲームで1プレイヤーとして参加できるという。

　これまではグーグルの人工知能が、ブロック崩しなどのレトロゲームの腕をめきめきと上達させてきた例があったが、今回の「Visual Doom AI Competition」では、複雑な3Dゲームの空間でも人工知能が存分に活躍できることが確認されるものにもなった。囲碁や将棋だけでなく、いったいどこまで人工知能の活躍の分野が広がってくるのか、空恐ろしくなる話題と言えるかもしれない。

■AIが人間のキャラクターを“殺す”

　大組織にバックアップされた研究チームの人工知能に対して、学生2人によって開発されたこのArnold（アーノルド）が驚くべき善戦を見せたわけだが、アーノルドと聞いて思わず連想してしまうものはないだろうか？　そう、ほかならずアーノルド・シュワルツェネッガー出演の『ターミネーター』だ。まさに人工知能とロボットによって人類が支配された未来が描かれたSFの世界が、このArnoldによって現実味を帯びてきたのかもしれない!?

　人工知能の脅威については、“車椅子の物理学者”ことホーキング博士や実業家のイーロン・マスク氏らによって以前から警鐘が鳴らされているが、つい先頃にはグーグル、Facebook、マイクロソフト、Amazon、IBMというIT大手によって結ばれた「Partnership on AI」という、AI技術の提携が発表されている。開発競争においては凌ぎを削るライバル同士の各社だが、超大なデータを扱う人工知能に関する研究開発においては、企業の壁を超えてコミュニケーションを図る必要があるという合意に達したのだ。そこには、人工知能が将来人類の脅威にならないよう、各社が連携してセーフガードを設けるという意図も含まれているようだ。

　しかし、この大手5社の恐れていた“不安”を早々と実現するがごとく、学生2人が開発したArnoldがすでに人間を殺しているというのだ。正確には、『DOOM』の世界のデスマッチ・シナリオにおいて、Arnoldは人間が操作するキャラクターを“殺す”能力がじゅうぶんにあることが明らかになったということだ。

　そしてこの事実は、故アイザック・アシモフが提唱した“ロボット3原則”を人工知能が初めて破った事例になるとして、決して少なくない識者から警戒の声が上がっているという。もちろんArnoldの“殺人”はゲームという仮想現実の中の出来事だが、はたして将来それが現実世界で起り得ることになるのか、確かに気になる話題だろう。囲碁や将棋と同じように今後e-sportsのプロゲーマーたちが“AIゲーマー”に駆逐されてしまう事態も想定でき、関係者にとっては恐怖以外の何物でもないだろう。いずれにしても、今後ますます賢くなる人工知能の進む先が気になる昨今だ。
（文／仲田しんじ）

【参考】
・Science Alert
http://www.sciencealert.com/controversial-ai-has-been-trained-to-kill-humans-in-a-doom-deathmatch
・SALON
http://www.salon.com/2016/09/22/meet-your-doom-carnegie-mellon-researchers-deliberately-violate-asimovs-first-law-of-robotics-teach-robots-to-kill/