なぜ三重県女児虐待死は防げなかったのか…元児童相談所職員が指摘する｢AI導入の盲点｣ AIが出した｢女児を保護する確率39%｣は正しかったのか

2023年5月26日、三重県津市で4歳の女児が実母の暴行によって死亡した。東京都内の児童相談所に心理の専門家として勤務していたカウンセラーの山脇由貴子さんは「三重県の児童相談所が全国に先駆けて導入したAI（人工知能）のリスク評価システムで、当該女児のケースで保護する確率は39％と出た。しかし、職員がAIに入力したデータ自体が間違っていることも考えられ、やはり職員による家庭訪問をためらうべきではない」という――。

4歳女児が虐待死する前に一時保護されなかった経緯

三重県津市で、当時4歳だった娘をテーブルから床に落とすなどして死亡させたとして、42歳の母親が逮捕された。この事件では、三重県の児童相談所が、AIを活用した独自のシステムで分析し、AIの評価もひとつの参考として、一時保護を見送っていたことが分かった。

AIが過去の事例を基に出した一時保護の確率は39％だった。39％という数字が高いのか低いのかについては児童相談所職員の判断となる。三重県が発表した資料内にも「何％以上であれば保護」など基準の説明はない。

現役の首都圏の児童相談所（AI導入前）職員にこの数字の印象を聞いてみたところ、「39％では緊急性が高いという意識にはならない」ということだった。厚生労働省の「子ども虐待対応の手引き」にある「一時保護に向けてのフローチャート」（図表1）を参照すれば、緊急性がA、B、C、Dにランク分けされている中でのBの「発生前の一時保護を検討」までは行かず、C「集中的な援助。場合によっては一時保護を検討」と同等の印象だという。