2023年5月26日、三重県津市で4歳の女児が実母の暴行によって死亡した。東京都内の児童相談所に心理の専門家として勤務していたカウンセラーの山脇由貴子さんは「三重県の児童相談所が全国に先駆けて導入したAI(人工知能)のリスク評価システムで、当該女児のケースで保護する確率は39%と出た。しかし、職員がAIに入力したデータ自体が間違っていることも考えられ、やはり職員による家庭訪問をためらうべきではない」という――。

4歳女児が虐待死する前に一時保護されなかった経緯

三重県津市で、当時4歳だった娘をテーブルから床に落とすなどして死亡させたとして、42歳の母親が逮捕された。この事件では、三重県の児童相談所が、AIを活用した独自のシステムで分析し、AIの評価もひとつの参考として、一時保護を見送っていたことが分かった。

AIが過去の事例を基に出した一時保護の確率は39%だった。39%という数字が高いのか低いのかについては児童相談所職員の判断となる。三重県が発表した資料内にも「何%以上であれば保護」など基準の説明はない。