なぜ「AI公害」と呼ぶのか

木馬を運び入れる判断に、城内の全員が等しく関わったわけではない。物語には反対する者も、警告する者もいる。それでも落城の被害は、受け入れを決めた人々だけに限られなかった。

フィジカルAIのリスクも、導入を決めた人だけが負うわけではない。自動運転車と同じ道路を歩く人がいる。工場の自律設備の隣で働く従業員がいる。電力や物流に依存する人は、その制御にどのAIが使われているかさえ知らないかもしれない。

使うかどうかを選ぶ人と、被害を受ける人が一致しない。便利さやコスト削減の利益を得る主体と、事故や停止の負担を引き受ける主体がずれる可能性がある。ここが、この問題を企業の内部だけで完結できないものにしている。

私は、このずれを「AI公害」を考えるうえでの重要な問題と捉えている。公害という言葉で目を向けたいのは、周囲に及ぶ不利益が、導入する側の判断や費用の計算に十分に含まれないという構造である。

スマホを使用する人
写真＝iStock.com／Yuliya Taba
※写真はイメージです

人件費削減だけで買っていいのか

経営者が、ロボット1台あたりの作業量と人件費削減だけで投資を判断すれば、周辺に及ぶ被害や、長期間の保守に必要な費用が抜け落ちる。導入時には採算がよく見えても、安全に使い続ける費用まで含めれば、判断が変わるかもしれない。

同時に、安全を確保できれば、フィジカルAIは人を危険な仕事から遠ざける。高所や有害な環境での点検、重い荷物の運搬など、人の負担を減らせる仕事は多い。普及を進める理由も、安全を問う理由も、人の生活をよくするという同じ目的から出てくる。

だからこそ、誰の負担を減らし、誰に新しい危険が及ぶかを、導入前に確かめる。事故を防ぐ費用と責任を決め、利用者以外の安全も設計に含める。所有者が納得したことだけで、周囲の人に及ぶ危険まで引き受けてもらったことにはならない。