“HAL9000”の出現ももうすぐ!? 手遅れになる前に“AI法”を導入せよと科学者が主張

• ツイート
• 

■“HAL9000”の出現の日はもうすぐ

　AIの判断と行動をどう規制するかという問題に加えて、AIに情報をインプットする人間側の行為にもガイドラインが必要になってくるという。それはもちろん人間によるインプットがAIの意思決定に影響を及ぼすからである。

　しかしながら各社が凌ぎを削って争っているAIの技術開発競争の中、システムを透明化することは多くの会社にとってあまり乗り気になれないものであることは想像に難くない。また、自律的に学習する能力を持つAIは学習を深めるほどに内実の把握が開発者にも難しくなるため、透明性を保つことは難しくなる。

「AIの不透明性と多様性は、あまりにも幅が広すぎたり狭すぎると、意図せずにイノベーションを妨げたり、意義ある権利保護のための法制化を複雑にします」（研究論文より）

　もちろん今回の研究論文が“AI規制”を求める最初の声ではなく、特に2018年に実施される予定のEU一般データ保護規則（GDPR）を前に、AIの開発と運用にもっと厳格なルールを設けるべきだとする専門家の声が大きくなっている。

「われわれは既に、意思決定に疑問を抱く権利を放棄するアルゴリズムに過度に依存している」と、オックスフォード大学のロンドン大学のルチアーノ・フロリディ氏は語る。

　たとえばAIやロボットが使用者にとって気に入らない意思決定や行動をしはじめた場合、最悪の場合、電源を抜いたりバッテリーを外したり、あるいはこういう時に備えて用意された“非常停止ボタン”を押せば良いということになるだろう。しかし自律的に学習を深めていくAIであれば、どこかの時点でこうした人間の行動に対する対策を練りはじめるかもしれない。

　こういった事態を招く前に、人間がAIを常にコントロールできるためのレギュレーションが求められているということになる。映画『2001年宇宙の旅』に登場する人工知能「HAL9000」の出現は、たしかにもうすぐそこなのかもしれない。　
（文／仲田しんじ）

【参考】
・Science Alert
http://www.sciencealert.com/scientists-want-to-set-some-ground-rules-to-stop-the-march-of-creepy-robots

 
• 前のページ
 
• 1
 
• 2