AIによる顔認識の正確性は決して高くない
そもそも、AIによる顔認識技術の正確性はどうだろうか。
米国人工知能学会で行われた報告によればアマゾンの顔認識ソフトは白人男性の性別は見分けられたのに、アフリカ系や肌がダークな女性の場合、31％も男性と判別されたという。マイクロソフトの同種ソフトで誤認率は1.5％、IBMは17％だったとする。AIによる認識レベルにはまだまだ課題が多いとされ、特定の人種で誤識別が生じやすいといわれる。
実際、米国では顔認識システムを用いて検挙した後に誤認逮捕だったことが判明した事例が相次いでいる。アフリカ系のウィリアムズ氏は、2020年1月に高級時計店での窃盗の容疑でデトロイト市の自宅で逮捕された。被害を記録した防犯カメラ映像を基に顔認識システムが同氏を犯人と同定したからだ。
ミシガン州警察が4900万件の顔情報と照合した結果、ウィリアムズ氏の運転免許証の顔写真と合致したという。デトロイト市ではその後も同様の誤認逮捕が続いている。ウィリアムズ氏は2021年4月、デトロイト市警を相手取って訴訟を起こした。
民間企業が捜査機関に顔認識のためにデータを提供したとして訴訟も起きている。アップル社とセキュリティ会社は、2018年11月に起きたアップルストアでの窃盗事件について逮捕に繋がる顔情報を提供し誤認逮捕に繋がったとして、アフリカ系の男性に訴えられた。2020年2月に連邦地裁はこの訴えを退けたが、複数の訴訟が継続中である。
こうした誤認事例や問題点の指摘を受け、欧米では導入した顔認識カメラの使用を中止したり、導入を禁止したりする自治体が相次いでいる。例えば、米サンフランシスコ市議会は2019年5月に警察などの行政機関による顔認識技術利用を禁止する条例案を可決している。2020年6月にはアマゾンやマイクロソフトが顔認識技術を米国の警察には販売しないという方針を発表している。
日本でもこの分野で国内有数の企業であるNECは本人同意のない顔情報の登録するシステムには技術提供をしないとした。