“HAL9000”の出現ももうすぐ!? 手遅れになる前に“AI法”を導入せよと科学者が主張

• ツイート
• 

「Science Alert」より

　世界三大SF作家の一人、アイザック・アシモフ氏はそのSF作品の中で“ロボット3原則”を提唱したとされているが、人工知能（AI）の急速な能力向上が進む中、“ロボット3原則”に代わる新たな基本原則を設定しなければならないという声が上がっている。

■科学者「AIにも従うべき法律が必要」

　昨年3月にトッププロ棋士、イ・セドル氏との5番勝負を4勝1敗で大勝した囲碁ソフトのアルファ碁（AlphaGo）。続いて先月には中国の最強棋士・柯潔（かけつ）九段との3番勝負に完全勝利を遂げた。アルファ碁はこの1年でもはや人間が敵う相手ではなくなるまでの成長を遂げたことになる。そしてアルファ碁のプロジェクトも今回をもって終了することがアナウンスされたのだ。

　留まるところを知らないAIの進化に、先ごろ3人の科学者がAIの開発と運用に基本原則を設けるべきであるとする研究論文を発表している。

　5月31日にロボット工学オンラインジャーナル「Science Robotics」に掲載された研究で、サンドラ・ワッチャー氏、レント・ミッテルスタッド氏、ルチアーノ・フロリディ氏の3人の科学者がAI開発と運用に厳格な基本ルールを定めることを提唱している。これは決してAIの技術開発を妨げるものではなく、人間が法律を遵守した行動を行なっているように、AIにも従うべき法律が必要だと主張している。

　研究によれば、AIの研究開発が多様化し、それぞれ透明性のないままで推移していくことには多くの問題が残っているという。

「（AIの）システムは、不公平で差別的な決定を下す可能性もあり、偏見を再生・発展させたり、非常にセンシティブな状況下では、予測不可能で予期しない動作をすることも考えられ、人間の利益と安全にリスクをもたらします」（研究論文より）

　自動運転車での走行が現実のものになりつつある昨今、交通事故が起きた場合の責任の所在が議論されているが、まさに透明性を持ったシムテムでないことには、過失の重さや損害の査定もクリアにならないだろう。

 
• 1
 
• 2
 
• 次のページ