なぜ三重県女児虐待死は防げなかったのか…元児童相談所職員が指摘する｢AI導入の盲点｣ AIが出した｢女児を保護する確率39%｣は正しかったのか

三重県の児相はAI導入前に保護の重要性を理解していたはず

こうして児童相談所の関わりの経緯を見るだけで、対応に問題があったことは明らかである。ひとり親家庭、過去に一時保護歴、施設入所歴があり、それ以前に赤ちゃんポストに預けている。加えて家庭復帰後に再度の通告。その後の長期の保育園欠席。AIの評価など必要なく、即、子どもの現認、そして一時保護に踏み切るべきだった。

では、三重県のAIシステム導入の内容を参照して、児相の対応を見ていきたい。三重県は死亡検証を通し、AIによるリスクアセスメント開始前に、虐待対応ポリシーを変更している。「確信がなく児童を保護せずに死亡」を×、「結果的に保護は必要なかったと後に判明」を○としている。まさに、今回の事件はこのポリシーで禁じられていることをした結果起こったと言える。

保育園を10カ月欠席という情報がAIに入っていれば…

ツール開始にあたっては、「緊急出動を検討する6項目」のうちの1項目として「関係機関の情報で、現在児童の安全を確定させることができない」が挙げられている。子どもは長期間保育園を欠席しているという情報がAIの評価の判断材料に入っていれば、緊急出動、すなわち一時保護のパーセンテージは上がったはずだ。少なくとも、家庭訪問による子どもの安全確認を行うべき、と出ただろう。

私が児童相談所に勤務していた頃も、過去に一時保護歴や施設入所歴がある子どもが、長期間欠席しているという情報が入ったら、すぐに家庭訪問し、子どもの身体の傷・あざの確認、子どもからの聞き取りは必ず行っていた。そこから即保護となった事例もあった。それだけ、長期欠席は危険で虐待を疑うべきなのだ。

写真＝iStock.com／paylessimages

※写真はイメージです

また、「システム導入により、判断が難しい外傷や居室内の様子を写真で児童相談所内と共有でき、速やかな意思決定ができるようになった」ともある。報道によると、女児の遺体に複数の傷・あざがあった。家庭訪問をしていれば、傷・あざを確認でき、一時保護となり、子どもの命は救えただろう。

資料内の現場の声として、「AI支援機能を利用していくことで、現場で『不明』となっているリスク項目から優先的に調査し、効果的に危険因子をつぶしていくことができた」ともある。この事件において、「不明」だった危険因子は子どもの安全だ。優先的に調査すべき危険因子が調査できていなかったということだ。