5ch反応まとめ【虐待判定AI】10億円かけ、こども家庭庁が導入断念…ミス６割で「実用化困難」

1: 蚤の市 ★ 2025/03/03(月) 07:42:42.82

　虐待が疑われる子どもの一時保護を巡り、人工知能（ＡＩ）にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が2021年度から約10億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが６割に上った。ＡＩは虐待の判断にはなじまず、実用化は困難と結論付けた。

　同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したＡＩに約5000件の虐待記録を学習させた。傷の有無や部位、保護者の態度など91項目に情報を入力すると、虐待の可能性が０～100の点数で表示される。

　試作モデルがほぼ完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。

　ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２～３」だった。あざなどがなかったためとみられる。

　同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。ＡＩの発展状況を見ながら、再開するかどうかも含め検討するという。

　開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をＡＩが高精度で判定することの難しさを指摘する。ＡＩの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。

　同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、91項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。

　国立情報学研究所の佐藤一郎教授は「ＡＩは何でもできる『魔法の杖つえ』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。ＡＩの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。

　◆ 一時保護＝児童福祉法に基づき、虐待などが疑われる18歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則２か月以内で、2022年度の虐待による一時保護件数は２万9860件。こども家庭庁によると、同年度に全国の児相が虐待の相談を受けて対応した件数は、過去最多の21万4843件だった。(以下有料版で，残り:529文字）

読売新聞　2025/03/03 05:00
https://www.yomiuri.co.jp/national/20250302-OYT１T50076/

<p style=”color:gray;text-align:right;”>引用元: <a href=”https://asahi.5ch.net/test/read.cgi/newsplus/1740955362/” target=”_blank”>・【虐待判定AI】10億円かけ、こども家庭庁が導入断念…ミス６割で「実用化困難」 [蚤の市★]</a></p>

71: 名無しどんぶらこ 2025/03/03(月) 07:54:03.84

>>1
データ不足なだけじゃないの？

143: 警備員[Lv.26] 2025/03/03(月) 08:00:24.53

>>71
センシティブな問題だからねぇ。子供の証言と外観だけで判別に必要なデータが取れるか疑問
1＋n＝m の等式が成り立つとき、mの値を求めよみたいなもんや

77: 名無しどんぶらこ 2025/03/03(月) 07:54:48.03

>>1
お前ら知らないかもしれんが
オリンピック用アプリも国を挙げて作ると騒ぎ73億円も注ぎ込むも最終的にアプリの開発は中止。中抜きしすぎて海外なら中学生でも作れるものも作れなかった。

97: 名無しどんぶらこ 2025/03/03(月) 07:56:54.93

>>1
廃庁にしろ！
システム開発してる体で統一教会にカネが流れていないか裏取りしろよ

109: 名無しどんぶらこ 2025/03/03(月) 07:57:49.67

>>1
そんなの無理に決まってんだろｗｗｗ
責任転嫁前提やめろやｗｗｗｗ
子供家庭庁廃止でｗｗｗ

123: 名無しどんぶらこ 2025/03/03(月) 07:58:30.68

>>1
子供は正直に嘘を付くんですよw
人にしか出来ない事もあるんですwww

208: 警備員[Lv.1][新芽] 2025/03/03(月) 08:06:27.87

>>1
役所の窓口などの係員を半分位
ペッパー君にしたら？
浮いたお金有効活用できるっしょ

279: 名無しどんぶらこ 2025/03/03(月) 08:13:07.17

>>1
AI「俺を作った業者名特定はよ！はよ！」

299: 警備員[Lv.34] 2025/03/03(月) 08:14:46.24

>>1
税金ジャブジャブ野郎ばかりだな

308: 警備員[Lv.72] 2025/03/03(月) 08:16:03.76

>>1
児童相談所等役所職員の権限を拡大してあげたほうが話が早いのではないだろうか。
職員の専門的視点で客観的に見て明らかに虐待が発生していると判断できるなら、警察力を伴って親から子供を引き剥がせるくらいの権限を持たせないと期待した機能は満たせないし、市民の職員への期待と職員の負担だけが拡大していってしまう。

314: 名無しどんぶらこ 2025/03/03(月) 08:16:40.01

>>1
失敗は発明のもと
次行こう

321: 名無しどんぶらこ 2025/03/03(月) 08:17:07.20

>>1
まぁ、中抜きと無駄遣いが目的だからな・・・

400: 名無しどんぶらこ 2025/03/03(月) 08:24:53.25

>>1
あくまでも開発費が10億円ってだけでこれに伴う職員の人件費は別途かかっているからな

415: 名無しどんぶらこ 2025/03/03(月) 08:26:53.44

>>1
世の中クズは居るけどクズの為に税金使う発想は根本的に間違ってると思う

439: 名無しどんぶらこ 2025/03/03(月) 08:29:31.13

>>1
5000件じゃねぇ…。ばらつき位大きい側のそれだし。

541: 名無しどんぶらこ 2025/03/03(月) 08:41:16.54

>>1
ミスではなくて的確過ぎるんだろうなあ

563: 名無しどんぶらこ 2025/03/03(月) 08:43:48.30

>>1
クソ案件に10億の予算を承認したやつの責任を問えよ

566: 警備員[Lv.41] 2025/03/03(月) 08:44:19.87

>>1
税金で遊ぶねー
なんの責任もないから楽しそう

607: 名無しどんぶらこ 2025/03/03(月) 08:49:44.78

>>1
こんな庁解体して子供に直接金配ると年間１千万払えるらしいな
さっさと解体しろ中抜き省庁

737: 名無しどんぶらこ 2025/03/03(月) 09:03:05.46

>>1
同じ事を複数の企業に依頼しろよ
相見積もりじゃなくて別の思想のエンジニアに問題を考えさせてみろ
5000件のデータは少な過ぎるなんてやる前から分かりきってるから、それに対してどうやってデータ増やす処理を実現したかが重要で、データの増やし方に問題があったってこと
1番難しくて発明が必要な部分だから手法が見えていない人間には作れない

827: 警備員[Lv.8][新芽] 2025/03/03(月) 09:12:20.81

>>737
5000もあればデータ増やすなんていらんぞ
こんなのは将来の癌リスク予測と一緒でどの因子にどれくらい重みつけるかってだけ
たった90項目しかないわけで手作業でもいけるわ

問題なのは評価テストでフリー記述のワードを重視して判定していて、そもそもフリーワードは学習に入れてねーわってだけだと思うぞ

関わってる全員がAI素人なんだろw

896: 名無しどんぶらこ 2025/03/03(月) 09:21:50.78

>>1
ラーニングが適切じゃねえからだろ

954: 名無しどんぶらこ 2025/03/03(月) 09:31:35.28

>>1
知ってた
子供を人質
中抜利権庁

4: 名無しどんぶらこ 2025/03/03(月) 07:44:27.74

クズ杉w

愚民を税金やコメで虐待するくせにWWW

6: 警備員[Lv.25] 2025/03/03(月) 07:44:51.37

試作代はいくらだよ

796: 名無しどんぶらこ 2025/03/03(月) 09:09:10.00

>>6
捨て金
どこの業者だろうね

7: 名無しどんぶらこ 2025/03/03(月) 07:45:19.26

金あるやんけ

11: 名無しどんぶらこ 2025/03/03(月) 07:45:53.49

これ中抜きだろ
実際は1億くらいしかかかってなくてあとの9億は政治家の懐

449: 警備員[Lv.9][芽] 2025/03/03(月) 08:31:39.20

>>11
省庁がやる事業でどう政治家が中抜きすんだよ馬鹿の一つ覚えかよ

743: 名無しどんぶらこ 2025/03/03(月) 09:03:34.61

>>11
中抜きしてるのは大手Sier

800: 名無しどんぶらこ 2025/03/03(月) 09:09:27.72

>>11
直接行かないだけでまあキックバックで
献金として還流はするから
全く外れではない

12: 名無しどんぶらこ 2025/03/03(月) 07:45:56.05

どこに発注したかわからないけど、納品できなかったんだろ？そんなのしっかり損害金を取れよ。
まあどうせお友達に発注してるからそんなことをやらないんだろうけどな。

209: 名無しどんぶらこ 2025/03/03(月) 08:06:28.13

>>12
おれもやったことあるけど
大体PoC止まり

13: 名無しどんぶらこ 2025/03/03(月) 07:45:59.69

日本ってAI技術低いから無理では？　

317: 名無しどんぶらこ 2025/03/03(月) 08:16:55.04

>>13
日本のAI技術が低いのは事実だけど
そもそも人間でも十分に柔軟に状況を精査しないと判別の難しいことも多い虐待のようなデリケートな事柄を
人間並に柔軟に判断できるようにはまだAIはできてない
現在のAIのトップ技術でも難しいと思うよ
むしろこれができたらいよいよ人間は完全に存在意義失う

341: 名無しどんぶらこ 2025/03/03(月) 08:18:38.92

>>317
精度の問題はあるけど作るのは余裕だろ？
無料のYouTube見てこいよ
初学者が10時間目に作るAI学習モデルでも30万の変数を扱ってんだぞ？
てか勝手にディープラーニングしてくれるから

596: 名無しどんぶらこ 2025/03/03(月) 08:48:08.77

>>317
ジャッジが難しいもんな。
ただそこは人間も正解だすとは限らないが。

AIだとデータありきでやるから感情あり細かいニュアンスを見れる人間とどちらが正解率高いのかだね。

仕草などで感情、思考まで読み取れる機能きたら人間マジでいらなくなるかもな。日本じゃ実用化できるレベルまではできないだろけど

613: 名無しどんぶらこ 2025/03/03(月) 08:50:25.33

>>13
もちろんAIは発展途上だけど
虐待の場合、そもそも判別できるだけの情報を取るのが難しいんじゃないかな（虐待されてる子どもですら親を庇って嘘をついたり）

15: 名無しどんぶらこ 2025/03/03(月) 07:46:23.19

どうせ9割はチューチューしてんだろ？

19: 名無しどんぶらこ 2025/03/03(月) 07:47:00.22

公務員に金を持たせてはいけない

21: 名無しどんぶらこ 2025/03/03(月) 07:47:05.32

AIに金かけるより人雇った方が安い
マイナンバー導入の効果薄と同じ

22: 名無しどんぶらこ 2025/03/03(月) 07:47:09.94

子供家庭庁を解体して水道管直そうぜ

25: 名無しどんぶらこ 2025/03/03(月) 07:47:28.54

税金返して潰せやこのクソ家庭庁