殺人も窃盗も全く捜査しなかった中国警察
イルファンは、AIに特化した新しい機器が監視センターに届くのも目撃した。同じころ彼の上司は、イルファンが所属するチームが2011年中に研修に参加することになると発表した。研修の名前は「セーフ・シティー」。
「研修の目的は、セーフ・シティー・システムの使い方を学ぶというものでした。でも実際のところは、15日間連続の飲み会とカラオケでした。主催者は、20人のかわいい女の子たちも雇って研修に参加させました。要は、彼女たちはコンパニオンです。だから、研修などいっさい行なわれませんでした。わたしたち技術者は、犯罪者を捕まえるために大きなプレッシャーのもとで仕事をしていた。その研修は、休息とリラックスのための時間だったんです」
研修の15日目にイルファンは“修了証書”を受け取り、職場に戻った。ついに、犯罪と闘い、新しいセーフ・シティー・システムで何ができるのかを見きわめるときがやってきた。「研修では何ひとつ学んでいなかったので、なぜ犯罪と闘えると思ったのか理由はよくわかりませんが」と彼は冗談っぽく言った。
最新のAI技術が備わった制御室に行き、イルファンは椅子に腰を下ろした。仕事場からそう遠くない場所にあるレストランで経営者が殺される映像を眼にし、彼は衝撃を受けた。イルファンはコマンドを打ち込み、現場から逃げた殺人犯の近影を手に入れようとした。
「まさに勝負の瞬間でした」と彼は私に言った。「システム全体の真価が問われるときでした。わたしたちは顔認証技術を使って、犯人を推測しようとした。でも、まだ技術は充分ではなく、顔を完全に照合することはできなかった。結局、何枚かの写真を警察に転送することしかできませんでした」
驚いたことに、警察はそれを事件として登録したが、何も捜査はしなかった。殺人犯は逃げ、犯した罪について罰せられることはなかった。
「あるときには、わたしの車の窓が割られ、なかにあったコンピューターが盗まれたこともありました。犯行の様子をとらえた映像がありましたが、そのときも警察は犯人を見つけて逮捕することができませんでした」
多くの似たような事例が続き、初期のAIは失敗だと考えられた。くわえて警察の無関心によって、状況はさらに悪くなった。
「コンピューター・ソフトウェアに頼っているだけでは、問題は解決できないのだと学びました。まだまだ人間の手が必要でした。だとしても、警察はなぜ何もしなかったのか？」とイルファンは言った。「あとになって、警察が何を優先しているのかを知りました」
ウイグルの旗を振った男は容赦なく逮捕された
ある日、イルファンの事務所の外にウイグル人の独立支持者がやってきて、三日月が描かれた青いウイグルの旗を振った。その旗は、冷戦終結後からこの地域で続く（ときに熱狂的な）独立運動を象徴するものだった。
「すぐに警察がやってきました」。近くに設置されたカメラからの警報によって出動した警察は、反体制派の男を逮捕・連行し、旗を撤去した。
イルファンの仕事はシステムを作りつづけることであり、彼はどうすればシステムがより強固になるのかも熟知していた。
「ハードウェアもカメラも、システムを機能させるために必要なものはほぼすべてがそろっていました」と彼は言った。「でも、カギとなる要素が欠けていることに気づいたんです。もっと多くのデータが必要でした。データがなければ、顔認証技術は役に立ちません。AIをうまく機能させるには、さまざまな種類のデータが必要になります。顔の画像、ソーシャル・メディアの情報、犯罪記録、クレジットカードの使用履歴、なんらかの活動や取引から生じたあらゆるデータ……。それからシステムは、わたしたちが与えたすべての情報を読み込み、人間には見つけられない相関関係を見つける。それも、わずかな時間で」
「では、どうしてそんなにデータが少なかったんですか？」と私は訊いた。
「国家的な秘密主義のせいです」とイルファンは答えた。「中国政府は、自国と国民についての充分な情報をもっていなかった。だからわたしたちの手元には、AIソフトウェアに与えるべき質の高いデータがありませんでした。すべての市民に関する充分なデータベースがなければ、人々の顔や犯罪歴を簡単に照合することはできません。その時点では、AIを使って犯罪者を捕まえることはできなかった。ひどいシステムでした」
イルファンのチームはさまざまな会社の事務所や政府機関に行き、データを探した。しかし、収穫はなかった。
「解決策を与えてくれたのは政府ではありませんでした」とイルファンは明言した。「企業が与えてくれたんです」