なぜ三重県女児虐待死は防げなかったのか…元児童相談所職員が指摘する｢AI導入の盲点｣ AIが出した｢女児を保護する確率39%｣は正しかったのか

AI導入によって救える命は増えないのか？

では、AI導入によって児童相談所の専門性は向上しないのか。救える命は増えないのか。三重県の事件に関して言えば、子どもを救えなかった原因の一つは、AIが評価する為に必要な情報が入力されていなかった、ということだ。つまり、実際に親と子どもに直接会った職員が「虐待リスクはそれほど高くない」と判断していれば、重要な情報が入力されない可能性があるのだ。担当者が「この情報は重要だ」と思わなければ、調査すらしない、あるいは入力しないからだ。

三重県は、この事件の重要な情報を全て入れた場合、AIがどんな数字を出すのか再検証してみてはどうだろうか。

そして三重県が「AIの評価は参考、最終的な判断は人」と述べている通り、AIの評価を1つの材料にしつつ、最終的には職員が正しい判断をできることが重要となる。

結局は、「AIを活用するにしても、職員の専門性の向上が必須」ということに他ならない。私はその為には、育成体制を強化することと、経験年数を積ませることしかないと思っている。現在は、自治体によるが、児童相談所勤務を希望しない、知識も経験もない職員が児童相談所に配属される現実がある。

出典＝厚生労働省「子ども虐待による死亡事例等の検証結果等について（第18次報告）の概要」社会保障審議会児童部会児童虐待等要保護事例の検証に関する専門委員会、2022年9月

児相のマンパワーの問題もあり、現場の改革が急務

少なくとも、児童相談所勤務を希望している職員を採用すること、そして、警察官、家庭裁判所調査官、麻薬取締官のように、育成の為の学校を作り、最低でも1年は育成、そして現場に出ても1年程度は先輩の下での研修、さらに、児童相談所勤務を継続させること。その体制を作らない限り、児童虐待の専門家は育たない。

子ども家庭庁によると、一時保護の必要性の判断にAIを活用する予定で、国としてのシステムを設計開発中だ。来年度の全国での運用開始を目指している。来年度開始は確実ではないが、今後AIを活用する児童相談所が増えるのであれば、システム開発には三重県の事例の検証は必須である。

また、AIの導入によって虐待死を減らす為には、職員の入念な調査、迅速な記録の入力の徹底、また評価の為の必須項目の特定も必要である。その必須項目には、現認による子どもの安否確認はトップであるべきだ。そしてAIの評価が間違っていることもあるはずだ。その判断の間違いを見抜ける職員の育成も並行して行う必要がある。