虐待が疑われる子どもの一時保護の必要性を判断するのに役立つAIツールについて、精度が十分でないことから今年度の導入が見送られることがわかりました。国は、虐待が疑われる子どもについて、一時保護が必要か判断
虐待が疑われる子どもの一時保護の必要性を判断するのに役立つAIツールについて、精度が十分でないことから今年度の導入が見送られることがわかりました。
国は、虐待が疑われる子どもについて、一時保護が必要か判断するのに役立つAIツールを、 度からおよそ10億円かけて開発しています。児童相談所の人手不足を補うほか、支援の質を上げることなどが目的だということです。
AIはおよそ5000件の虐待記録を学習していて、けがの有無や部位、過去の虐待歴など91項目をチェック方式で入力すると、虐待の可能性が0〜100のスコアで表示されるというものです。
去年夏ごろには、試作モデルを使って、実際にあった100のケースを用いてテストを行いましたが、その6割で適切な判定がされなかったということです。
例えば、保護者からの暴力があり、ベテランの児童福祉司らが「ただちに一時保護すべき」と判断した事例についても、子どもにあざがなかったことなどからAIツールでは虐待の可能性を著しく低く判定してしまうケースがありました。
当初、このAIツールは今年度の導入を目指していましたが、これらの結果を受けて見送られることが決まりました。
