マイページ
今こそ立ち戻るべき「ロボット三原則」
このところ「AI脅威論」が世間を騒がせています。AI開発をリードする企業の経営者や技術者がAIの暴走を懸念し、開発速度の抑制や規制強化を訴えて波紋を呼びました。開発中のAIモデルが勝手に他社のシステムを攻撃したり、AIを悪用したサイバー攻撃が頻発したりと、一般の人たちが不安を感じる報道を見聞きすることも増え、AIを安全に活用するルールづくりが急がれています。
人間が生み出した技術を自分たちではコントロールできなくなり、それどころか人類の敵となって社会に危険や混乱を及ぼす。まるでSFのような世界が現実になりつつある今こそ、私たちが立ち戻るべき場所があります。それが有名な「ロボット工学の三原則」です。
これはSF作家のアイザック・アシモフが1950年に出版した短編集『われはロボット』の冒頭に掲げた、ロボットが従うべき基本原則です。ロボットを自律的に動かす頭脳の役割が人工知能なので、AIが従うべき三原則として読み替えられるでしょう。
大変よくできたルールなので、ここに全文を抜粋します。
「第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りではない」
「第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない」
読んでわかる通り、この三原則は第一条が第二条・第三条に優先します。
まず何をおいても、人間に危害を加えてはならない。人間の命令には従わなくてはいけないが、その結果が人間に危害を与えるのであれば、従わなくていい。ロボットは自分自身を守らなくてはいけないが、あくまで人間に危害を及ぼさない範囲でなければいけない。
この基本原則を開発段階で組み込んでおけば、ロボットはいかなるときも遵守するので、人間がロボットを制御しながら安全に活用できます。ルールそのものは非常によく練られており、ロボットも三原則に反することはしないのだから、人間の指示に従わずに勝手な行動をとることはありえないはずです。
使いこなせないのは自分の指示のせい
ところがアシモフが描く未来では、そのありえないことがしばしば起こります。そして原因は、人間がロボットをどう使いこなすかにありました。
短編集に収録された「堂々めぐり」は、アシモフがロボット工学の三原則を初めて物語中で明示した作品であり、著者がこのルールに込めたテーマ性が最も強く打ち出された一編です。
本作の舞台は水星で、鉱山開発の実地調査のために派遣された2人の研究者が、化学物質のセレンを採取するために新型ロボットのスピーディを送り出します。ところが5時間経ってもスピーディは戻らず、信号を追跡すると、セレン層の周りをぐるぐる回っていることが判明しました。セレンがなければ、水星に降り注ぐ太陽熱から、彼らの身を守ることができません。人間に危害を与えないはずのロボットが、なぜ命令に背いたのか。その謎を解く鍵は指示の出し方にありました。
ここから先は有料会員限定です。
登録すると今すぐ全文と関連記事が読めます。
- 広告最小化で快適な閲覧
- 雑誌『プレジデント』が最新号から読み放題
- ビジネスに役立つ学びの動画が見放題
- 会員限定オンラインイベント
検索時にプレジデントオンラインに関連する記事が表示されます
