"AIに仕事を奪われる暗黒の近未来を防ぐ方法"マイクロソフトCTOが語る4原則 テクノロジーは使い方次第だ

マイクロソフトのAI開発の原則

マイクロソフトは、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、そしてアカウンタビリティ（説明責任）をAI開発の6つの原則に定めている。どれも熟慮を重ねて定めた大切な原則だ。

そして、わたし自身はエンジニアとして、また市民として、AI開発の原則には4つの柱があると考えている。

こうした倫理的な枠組みや開発の原則を定めるうえでは、すべての人にその人なりの役割があることを理解しなくてはならない。

「大いなる力には大いなる責任が伴う」

AIの未来に影響を及ぼせる能力が最も高く、それゆえ責任が最も大きいのがAIの専門家だろう。スパイダーマンのベンおじさんは「大いなる力には大いなる責任が伴う」と言ったが、専門家の働きがなければ今のようなAIが存在していなかったのは間違いないし、これだけ多くの専門家がクリエイティブなエネルギーと知識の多くをAIの進歩に注ぎ込んでこなかったら、これほどのペースで進化することもなかったはずだ。

こうした能力と責任を踏まえれば、AIの専門家は作っているものの細部にこだわりすぎたり、新たなブレイクスルーの科学と実践に没頭しすぎたり、手がけているプロジェクトの勢いに呑まれたりして、自分と自分の取り組みの土台にある人類という文脈への意識が薄れないようにしなければならない。

わたしも身をもって体験したことだが、AIプロジェクトを手がけていると複雑なタスクにばかり意識が行き、ほかのことが見えなくなりやすい。実際、専門家の多くは複雑なAIを理解する能力を追い求め、手に入ればそのことを祝福しがちだ。心理学者のミハイ・チクセントミハイが言うところのフロー状態の典型例で、その感覚はあまりに強烈だから、その状態に入ると時間の認識もゆがんでしまう。若手エンジニアだったころのわたしも、ノっているときに妻から電話があると、「あとちょっとだったのに、夕食まではまだじゅうぶん時間があるだろ」と苛つき、実はもう3時間過ぎていると妻に言われて気づくということがあった。

写真＝iStock.com／Eva-Katalin

※写真はイメージです

それでも、非常に複雑なタスクをこなすのに必要なフロー状態に入り、維持するのと同じくらい、自分の仕事を人類という文脈に置き、両者の関係がほかの人に与える影響を考えることが重要なのだ。AIの専門家にとっては、ふたつのバランスが大切になる。そのバランスを見いだせず、教訓に基づいた行動ができなければ、社会はわたしたちをAIの専門家とはみなさなくなるだろう。

バランスに基づいた行動とは、わたしが提唱したAI開発の4つの原則と自分たちの仕事とを協調させることを指す。受け取る以上の価値を生み出し、すべての人のことを考え、人類に利益をもたらす仕事をし、自分たちの仕事が起こす可能性のある破壊に対して責任を持たなくてはならない。具体的には、適切なタイミングでどんな研究を行っているかを発表し、再現可能な研究成果を示し、仕事をやりやすくするツールを開発するチャンスを見つけ出し、それからツールをオープンソース化するなどして、多くの人が活用できるようにする必要がある。

もちろん、どんな物事にも改善の余地はあるが、実はこうしたことの大部分は仕事のリズムとして、すでにAI開発の流れに組み込まれている。一方で専門家には、一般市民を啓発し、AIの性質をテーマにした話し合いに呼び込むという隠れた役割もある。AI分野が非常に複雑で、変化のペースもすさまじいことを考えれば、業界の情勢を一番先にはっきり把握し、今後数カ月、数年の新たな方向性をいち早く見通せるのは専門家だ。

わたしとしては、論文やオープンソース化を通じて自分の研究内容を専門家仲間に伝えるのはもちろん、取り組みの基本的な考え方を誰にでも理解できる、手の届くものにすることが義務だと信じている。最高に刺激的なブレイクスルーは、たいてい研究のエッセンスを誰にでもわかるシンプルな形にまとめる過程で発生する。アインシュタインは「天才とは複雑な物事をシンプルにできる人間を指す」と言った。

あなたがAIの専門家なら、どうか自分の声と力を使ってAIがみんなのためになるようにしてほしい。専門家がいなければAIは開発できない以上、あなたは自分で思う以上の力を持っている。AIの専門家は、知性を刺激し、個人的な満足感をもたらす仕事よりも、人類のためになる仕事に力を入れてほしい。