株式会社AiCAN、児童虐待対応における意思決定AIの倫理基準について東京大学と共同研究契約を締結

児童相談所をはじめとする児童福祉現場へ伴走型業務支援サービスを提供する株式会社AiCAN（本社：神奈川県川崎市、代表取締役：髙岡昂太）は、東京大学未来ビジョン研究センター・江間有沙准教授と、児童虐待対応における意思決定に関わるAIの倫理基準の検討に向けて、共同研究契約を締結したことをお知らせいたします。今後、自社での検討に加え、第三者的視点や最新の国際動向も踏まえて、「責任あるAI」の開発のための基盤整備を進めてまいります。

株式会社AiCANについて

株式会社AiCANは、「すべての子どもたちが安全な世界に変える」をビジョンに、自治体のDXを通して児童福祉の課題解決に取り組むスタートアップ企業です。

子ども虐待の問題は、SDGsにおいても16.2「子どもに対する虐待、搾取、人身売買、あらゆる形の暴力や拷問をなくす」と設定されている、まだ答えのない課題です。日本でも相談件数が年々増加し、2022年度には約22万件と毎年過去最多を更新しており、職員数の不足と高度な判断を伴う対応の難しさから、現場は逼迫しています。

当社は現場の経験知と最新のテクノロジーを融合し、自治体の児童相談所や子育て支援課・母子保健課など、子ども虐待対応の最前線に立つ機関をサポートするサービスを開発・提供しています。

主力サービスである「AiCANサービス」は、業務をデジタル化するSaaSアプリと、データ分析に基づく提案や研修を行う活用支援をセットで提供します。自治体ごとの課題解決に伴走することで、職員の負担軽減や人材育成に貢献します。

アプリ機能の1つであるAIによる意思決定支援は、児童の基本情報やアセスメント項目への該当・非該当を入力すると、過去の事例データと照合し、虐待の再発確率や類似ケース等、意思決定の参考となる情報を表示します。

児童虐待対応支援アプリ”AiCAN”

伴走型業務支援 AiCANサービス：https://www.aican-inc.com/service/aican/

自治体向けデータ分析 Insight：https://www.aican-inc.com/service/insight/

子どもの安全実践型研修 Empower：https://www.aican-inc.com/service/empower/

共同研究の背景と概要

当社は国立研究開発法人産業技術総合研究所にて開発された、児童虐待対応における意思決定支援にAIを活用するシステムの技術移転を受け、「産総研発ベンチャー」として2020年より同システムを社会実装し事業化してまいりました。

近年、AI技術は特に目覚ましい発展を遂げています。技術の発展に伴って、AI技術の品質や安全性を適正に管理するため、OECDや欧州連合(EU)などを始めとするさまざまな国際的組織が、AIに関する原則や規制法案等を発表するに至っています。

当社は、このような国際的な動向に照らして、2022年より、児童福祉分野での意思決定に関するAIの品質と安全性を管理するための体制整備に努め、新たなAI機能の開発計画を進めてまいりました。

今年度は、東京大学と7月1日に共同研究契約を締結し、国内外の多様なAIのリスク影響評価の枠組み（欧州評議会AIに関する委員会の方法論である人権、民主主義、法の支配影響評価（HUDERIA）など）を参照しながら、児童虐待対応分野のAI開発に関するさらなる検討を開始しました。

東京大学未来ビジョン研究センター・江間有沙准教授について

江間　有沙 / EMA Arisa

東京大学未来ビジョン研究センター准教授

2017年1月より国立研究開発法人理化学研究所革新知能統合研究センター客員研究員。2021年4月より現職。専門は科学技術社会論(STS)。人工知能やロボットを含む情報技術と社会の関係について研究。主著は『AI社会の歩き方－人工知能とどう付き合うか』(化学同人 2019年)、『絵と図で分かるAIと社会』(技術評論社、2021年)。[東京大学未来ビジョン研究センター HPより]

東京大学未来ビジョン研究センター

URL: https://ifi.u-tokyo.ac.jp/people/ema-arisa/

今後について

　子ども虐待対応は、様々な関係者の権利に触れる繊細さを有しています。当社は、本共同研究を通じて、当該分野でのAIシステムに求められる在り方について検討を深め、得られた成果を広く社会に共有してゆくことを目指します。

当社からのコメント

株式会社AiCAN　代表取締役　髙岡昂太

弊社では子どもの安全を守るため、現場の経験や感覚に加えて、科学的な根拠となるデータを参照した業務の推進を目指しています。信頼あるデータ参照型業務であるためには、データが信頼されるものでなければならず、そのための現場の伴走支援を行いながら、データ利活用の1つであるAIについても「責任あるAI」を目指していきます。

通常の自治体DX領域では、申請書などに正確な情報を書いてもらうことができますが、児童虐待対応の領域では、保護者が必ずしも協力的でない、子どもも真実を恐怖で語ることができないなどの難しさがあります。そのような状況で、信頼に足るデータ、そこから導き出される分析結果のあり方などについて倫理的かつ科学的に検討を進めるため、東京大学の江間先生と共同研究をさせていただき議論を深めたいと思います。

世界に先駆けて児童虐待という社会課題の解決を目指すインパクトスタートアップとして、児童福祉領域におけるデータ利活用の倫理的基盤をさらに強固に発展させることにより、ソーシャルインパクトに向けた取り組みを一層加速させることにつながると期待しております。