人工知能が「暴走」したら、制御できない　

AIの活用はもちろん、自動車業界にとどまりません。

私が顧問をしている病院では、最近、「ダヴィンチ」という手術ロボットの導入を進めています。このロボットがあれば、その病院が遠隔地にあっても東京の名医が執刀することも可能になります。

この顧問先さんのドクターと話していたら、「小宮さん、将来的にはこのダヴィンチにAIが搭載されると、名医の執刀方法をロボットが再現できるようになる可能性がある」と言っていました。

もうすでにご存知かもしれませんが、AIとこれまでのコンピュータの違いは、AIは自分で論理（アルゴリズム）を考えることができるか否かということです。

従来のコンピュータは、覚えこませた決められた論理通りにしか動きませんでした。例えば、人間とゴリラをコンピュータに区別させようとすると、顔のつくりや特徴の違いなどをまず論理としてコンピュータに教え、それに従ってコンピュータは判断したわけです。

しかし、AIの場合、人間とゴリラの写真を多く見せると、コンピュータがその違いを自分で見出し、自身でその見分け方のアルゴリズムを作り出すわけです。人間が学習するのと同じ要領で、AIが学ぶのです。

ですから、手術ロボットも、事例を多く学ばせれば、新しい事態にも対応させることができるのです。人間の学習パターンと同じで「人工知能」と言われるゆえんです。

先日の韓国の囲碁のチャンピョンとの対戦で、AIが勝利した事例でも人々を驚かせたのは、これまでにはなかったような手をAIが自分で考え出して打ったことです。従来のコンピュータではありえなかったことです。学習するわけですから、理論的には人間が現在行っているあらゆる分野で活用することができるのです。

しかし、AIは良いことばかりかどうかは分かりません。

先ほどの囲碁の対戦では、4勝1敗でAIが勝ちましたが、敗れた対戦ではとても下手な手を打ち続け、完敗したそうです。論理的にはあり得ない手を打ち続けたとのことで、ある意味AIが「暴走」したのです。

こういうAIの暴走が自動運転車や医療分野で起こったらと思うとぞっとします。もちろん、AIの暴走を防ぐ手立ても考えられようとしており、そのために人間の感情を持ったAIの開発も進められています。