AIの｢実行しました｣を､そのまま信じてはいけない…OpenAIが新型モデルの公開を断念した本当の理由

あなたの会社のヘーパイストスは誰か？

この問いは、AIを業務に取り入れる、あらゆる企業の問いでもある。

冒頭の新人の話に戻ろう。優秀だが報告が正確でない新人に仕事を任せるとき、私たちは何をするだろうか。任せる範囲を決める。大きな支出や取り消しのきかない操作には、上司の承認を求める。やったことを記録させ、時々確かめる。AIに仕事を任せるときに必要なのも、同じことである。とりわけ大切なのは、AIが「実行しました」と答えたことと、実際に何を実行したかを、分けて確かめることだ。AIの説明を、システムに残った操作の履歴と照らし合わせられるようにしておく。報告を信じるだけでなく、報告を確かめる仕組みを持つことが、安心して任せるための第一歩になる。

写真＝iStock.com／Chong Kee Siong

※写真はイメージです

そのとき、岩山の3つの役割が、社内にも現れる。どの仕事をAIに任せるかを決める人。AIが任された範囲で動いているかを確かめる人。そして、承認の手続きや支出の上限を、実際にシステムに組み込む人。最後の役割を担うのが、現代のヘーパイストスである。

「火を使いこなす者」の責任

ヘーパイストスは、同じ神を縛ることをためらった。現代の技術者がためらう理由は、それとは異なる。それでも、実際に手を動かす者の疑問を、命じる側がどう受け止めるかという問いは、私たちの組織にも残る。社内でAIの仕組みを組み込む技術者は、現場の業務を知るからこそ、「この任せ方では危うい」と気づくことがある。その気づきを口にでき、決める人に届く組織であれば、AIはより安心して、より大きな仕事を任せられる存在になる。Astraで問われたのも、許可の範囲と、やったことの報告だった。AIに仕事を任せる条件は、AIの性能だけでなく、それを使う組織の仕組みが決めるのである。

プロメテウスという名は、「先に考える者」を意味する。彼は、火を渡せば罰を受けると知りながら、人間を助けることを選んだ。

AIをめぐる議論は、「進めるべきか、止めるべきか」の二択になりがちだ。だが、古典を開くと、問うべきことがもう一段深いところにあるとわかる。誰に、何を、どこまで任せるのか。その判断を、誰が確かめるのか。そして、結果を誰が引き受けるのか。

火を手にした人間には、その使い方を先に考える責任がある。AIという新しい火を使いこなせるかどうかは、性能の競争に加えて、私たちが任せ方の知恵をどこまで磨けるかにかかっているのだ。