児童虐待の早期発見のためにAIを活用、東京都練馬区で実証実験へ

このエントリーをはてなブックマークに追加


画像出典:Pixabay

株式会社FRONTEOは3月17日、同社のAIエンジン「KIBIT(キビット)」を活用し、東京都練馬区と協同で、練馬区子ども家庭支援センターが運用している児童家庭相談システムへのAI導入に向けた実証実験を開始することを発表した。

目的は児童虐待(重篤なケース)の早期発見および早期対応のサポートで、実証実験は2020年4月から実施する。

>> プレスリリース


【PR】
sponsored by 株式会社 TACT

相談内容から重篤化につながりやすい順にスコア化

実証実験では、練馬区子ども家庭支援センターが児童情報を管理している「児童家庭相談システム」の児童記録内容をKIBITで解析する。

練馬区子ども家庭支援センターが支援したケースのうち、東京都児童相談センターに一時保護を要請したケースを分析し、重篤化につながりやすい順に高いスコアを出すことで、早期に対応が必要なケースを見極める判断をサポートする。

練馬区の蓄積された知見にKIBITを活用し、重篤化する可能性のあるケースを見逃すことなく、早期対応のための迅速な意思決定の支援を目指す。

実証実験の流れのイメージ

練馬区では、子ども家庭支援センターで、子どもと子育て家庭に関する多様な相談に応じ、相談内容に応じた専門機関やサービスの紹介、必要な調整をしている。

しかし、育児しつけや養育困難、相談歴の問い合わせなどにより、子ども家庭支援センターへの相談件数は年々増加している。その数は平成30年度には過去最大の6402件あったという。

寄せられた相談のなかでは虐待に関する相談は449件。過去の推移もほぼ横ばいで1割未満だが、東京都児童相談センターに寄せられる練馬区民の虐待相談と合わせると1000件を超す。

子どもの生命にかかわる重篤なケースを早期に発見することで、必要な支援に適切かつ迅速につなげていく。

KIBITを使ったこの実験では、相談ごとのケースに応じた必要な支援につなげるだけでなく、家庭支援センター職員の経験年数に寄らない判断のサポートや、リスク管理の向上も目的としている。

犯罪から子どもをAIで守るスマホが発売

AIは子どもを犯罪から守るためにも使われている。

スマートフォンやSNSが普及したことで、自画撮り被害にあう子どもがいる。

東京都都民安全推進本部(外部サイト)によれば、自画撮り被害とは「だまされたり、脅されたりして18歳未満の子供が自分の裸体等を撮影させられたうえ、メール等で送らされる被害」を指す。

同サイトでは、「SNSで親しくなった人を信じて裸の画像を送ったら、ネット上で公開されてしまった」「『画像をアップするぞ』とおどされ、呼び出されてひどい目にあった」などという被害事例があると書かれている。

そこで、株式会社ドリーム・トレイン・インターネットが運営するトーンモバイルは、AIによって裸などの自画撮り被害を防ぐカメラを搭載したスマートフォン「TONE e20」を発売した。

TONE e20は、同社の既存端末と比べAI機能が大幅に向上した。なかでも、世界初とうたうAIフィルターを搭載した「TONEカメラ」が特徴的。

自画撮り被害の抑止を目的として、裸やそれに近い服装など撮影時にAIが不適切な画像と判定した場合には、シャッターを切る、もしくは動画を撮影していても、画像および動画が本体や各種クラウドサービスには保存されなくなる。

不適切と判定された撮影があった場合には保護者に通知が送られる。通知内容には「日時」「モザイクされたサムネイル」「位置情報」が含まれる。なお、TONEカメラはオンデバイスAI技術を採用しているので、AIによる判断などは端末本体で処理されプライバシーは守られる。

事件や犯罪に巻き込まれないようにAIが守る。AIによって支えられる生活が来るかもしれない。