製品に人間中心のAIを搭載しよう
善し悪しは別として、AIの性能アップのペースは、民主的な選挙で選ばれた政治家グループがこの問題に対処し、適切な規制を定めていくペースを上回る可能性が高い。たとえば、ユーザーの注意を惹くことに最適化されたAIの副作用が誰の目にも明らかになり、業界や規制当局が対応の必要性を感じるようになるまでには15年以上がかかった。
しかし、次はもっとうまくやれるはずだ。
それには、高い意識で正しいことをし、何が正しいかを繰り返し考え、議論する必要がある。医師でも、弁護士でも、エンジニアでも教師でも、多くの仕事には正式な倫理規定がある。たとえば全米教育協会の倫理網領では、「生徒に対する職責を満たすなかで、教育者は生徒の成長に関わる学習内容を意図的に抑圧したり、ゆがめたりしてはならない」といった責任が定められている。AIで言うなら、技術者には、自分たちの職業と雇用主、株主、製品とサービスを提供する権限、同僚、製品のユーザー、そして公共の善に対する責任がある。
マイクロソフトでは、AIエンジニアリングとリサーチの倫理を扱う“AETHER（イーサー）”という委員会を立ち上げ、上級幹部に助言している。委員会は複数分野の専門家から成る部門横断型の集団で、偏見と公平性、AIエンジニアリングの実践、人とAIの関係と協力、わかりやすさと説明、安定性と安全性、AIのきわどい使い方という6つのエリアを重点的にチェックする。AIのパイオニアであるエリック・ホーヴィッツを長とする委員会の活動は、会社がAIに関する大きな決定を下す際の重要な判断材料になっている。しかも、委員会のメンバーは社外の広いAIコミュニティーとも関わりを持っていて、パートナーシップオンAIや、スタンフォード大学・人間中心人工知能研究所といった組織の設立にも携わっている。
そして、倫理規定に関する議論に参加し、AI倫理やAI規制をめぐる情勢の変化にアンテナを張っておくことに加えて、開発者は、日々の判断の基準となる常識を養い、自分の仕事がルールをバランスよく満たすようにする必要がある。
ここでも、4つの柱が常識を育むいい出発点になるだろう。自分自身や自分の製品、自分の会社のためといった枠を外れて、できるだけ多くの人にとって価値のあるAIプラットフォームを使い、強化し、可能であれば構築するのだ。製品が意図せぬ偏見を持たないようにし、製品とユーザーとのやりとりにAIがどう関わっているかの情報をわかりやすく示そう。製品に人間中心のAIを搭載しよう。そして、製品が及ぼしうる悪影響に思いをめぐらせ、その影響を和らげる方法を考えよう。
人々の生活に大きな影響を及ぼすものの作り手として、開発者は最前線で日々、判断を求められる。自分の仕事を人々を操るものにするのか、それとも力を与えるものにするのか。ゼロサムゲームの範疇で、生み出す以上の価値を周囲から奪うものを作るのか、それともノンゼロサムゲームに切り替えてパイのサイズを大きくし、みんなに恩恵をもたらすものを作るのか。自分の作ったものを使って人々のためになることをするという、開発者の特権と責務に見合った仕事をできているか。どうか賢明な判断をしてほしい。