13歳に｢大人とのセックス｣を詳細にアドバイス…若者向けSNSで広がる｢AIの暴走｣の深刻な実態 競争に勝てれば､品質は後回しでいい

乗り遅れまいと品質を保てないまま世に出している

なぜアメリカでは、問題だらけのAIがこれほど使われているのか？　大柴氏によれば、その背景には、すさまじいスピードで進むAI開発競争の現状があるという。

2023年2月、グーグルの親会社アルファベットの株が急落、時価総額1000億ドル以上が消失した。グーグルのAIを使った新しいチャットボット「Bard」が、発表直前のデモンストレーションで不正確な回答を生成したために、ライバルのマイクロソフトに出遅れるという懸念が広がったためだ。

回答は天文学に関する知識で、ファクトチェックしたロイターが簡単に調べられる内容だった。人種やジェンダー偏見などの倫理的な問題もあるが、こんな初歩的な間違いをする低品質の商品を出してしまったことに、マイクロソフトや中国のバイドゥなどに先行されることへの焦りが見える。

大柴氏はこんな例を出して説明してくれた。

「車で考えたら当たり前だと思うんですが、売る前に、ブレーキ動くんだっけとか、ハンドル動くんだっけ、窓ガラスは丈夫なんだっけ？　と、当然チェックすると思うんです。実はAIってブラックボックスの中身がよくわからないから、なんとなく動けば良さそうだよねみたいな感じで、そのまま企業が出してしまうことがあったりする」

バイデン大統領は安全保障、経済へのリスクを懸念

そうした状況を改善するため、ChatGPTの共同創立者でもあるイーロン・マスクや、アップルの共同創立者スティーブ・ウォズニアッキなど1000人もの技術者、実業家らが、生成AIの開発を一時止めて、リスク回避策を先にやるべきではないかという意見書を出したことがニュースにもなった。

大柴氏の会社でも、AIの間違いや倫理的な問題を自動で検出し訂正するソフトを開発提供している。こうした動きはどのくらい進んでいるのだろうか？

「AIの開発会社も含めて、自分たちで管理協力をきちんとやっていこうという動きが少しずつ出てきているが、まだまだ足りていない。

われわれも優秀なハッカーを集めて、彼らと一緒にAIの脆弱ぜいじゃく性を探すようなコンテストを設けたり、AIが抱えるリスクをデータベース化して一般公開する活動などもどんどんやったりしています」（大柴氏）

写真＝iStock.com／ridvan_celik

※写真はイメージです

民間の動きに加え、アメリカ政府も対応の準備を始めている。

バイデン大統領は「AIは病気の治療や気候変動への対処に役立つが、社会や国家の安全保障、経済に対する潜在的なリスクにもなり、それに対処することも重要である」と発言。先月には、AIシステムに対する説明責任をどう企業に求めていくか、パブリックコメントを求めていると発表した。議会上院でも、米国のAI政策を検討し、市民のプライバシーの権利に対する脅威を軽減するためのタスクフォースを設置する法案が提出された。