2023年5月26日、三重県津市で4歳の女児が実母の暴行によって死亡した。東京都内の児童相談所に心理の専門家として勤務していたカウンセラーの山脇由貴子さんは「三重県の児童相談所が全国に先駆けて導入したAI（人工知能）のリスク評価システムで、当該女児のケースで保護する確率は39％と出た。しかし、職員がAIに入力したデータ自体が間違っていることも考えられ、やはり職員による家庭訪問をためらうべきではない」という――。

4歳女児が虐待死する前に一時保護されなかった経緯

三重県津市で、当時4歳だった娘をテーブルから床に落とすなどして死亡させたとして、42歳の母親が逮捕された。この事件では、三重県の児童相談所が、AIを活用した独自のシステムで分析し、AIの評価もひとつの参考として、一時保護を見送っていたことが分かった。

AIが過去の事例を基に出した一時保護の確率は39％だった。39％という数字が高いのか低いのかについては児童相談所職員の判断となる。三重県が発表した資料内にも「何％以上であれば保護」など基準の説明はない。

現役の首都圏の児童相談所（AI導入前）職員にこの数字の印象を聞いてみたところ、「39％では緊急性が高いという意識にはならない」ということだった。厚生労働省の「子ども虐待対応の手引き」にある「一時保護に向けてのフローチャート」（図表1）を参照すれば、緊急性がA、B、C、Dにランク分けされている中でのBの「発生前の一時保護を検討」までは行かず、C「集中的な援助。場合によっては一時保護を検討」と同等の印象だという。

【図表】一時保護に向けてのフローチャート
出典＝厚生労働省の「子ども虐待対応の手引き」にある「一時保護に向けてのフローチャート」より

（解説）
A＝［1］［2］［3］のいずれかで「はい」がある時→緊急一時保護の必要性を検討

B＝［4］に該当項目があり、かつ［5］にも該当項目があるとき→次の虐待が発生しないうちに保護する必要性を検討

C＝［1］～［5］いずれにも該当項目がないが［6］［7］のいずれかで「はい」がある場合
→　表面化していなくても深刻な虐待が起きている可能性
→　あるいは虐待が深刻化する可能性
→　虐待リスクを低減するための集中的援助。その見通しによっては一時保護を検討

D＝A～Cのいずれにも該当がなく、［8］のみに「はい」がある場合
→　家族への継続的・総合的援助が必要。場合によっては、社会的養護のための一時保護の必要性を検討する

出典＝厚生労働省「子ども虐待対応の手引き」

それでは、この事件は防ぐことはできなかったのか。AI導入によって虐待死を防ぐことはできるのか。この事件を検証し、全国の児童相談所にAIを導入するにあたって、必要なことを整理したい。