• ソウル市、韓国初「デジタル性犯罪動画をAIで削除するプログラム」で候補533件のうち1位「大賞」受賞
• AI導入後45万件をモニタリング、犯罪被害動画の検出にかかる時間を97.5％削減…支援件数も倍増
• 2024国連公共サービス賞へ応募「AIによる児童·青少年被害動画削除支援」の開発にも注力

ソウル市が「韓国初のデジタル性犯罪動画をAIで削除するプログラム」で行政安全部が開催した「2023政府革新柳州事例コンペティション」で大統領賞「大賞」を受賞したと発表した。

政府革新コンペには専門家(10人)·国民評価団(100人)が参加し、大賞(大統領賞)1件と金賞5件(大統領賞)、銀賞7件(国務総理賞)を選定。ソウル市は、「デジタル性犯罪動画をAIで削除するプログラム」で「大賞」に輝いた。

ソウル市の「デジタル性犯罪動画をAIで削除するプログラム」は、AI技術が24時間リアルタイムでモニタリングし、犯罪被害動画を検出、削除して拡散を防ぐシステムである。

ソウル市とソウル研究院は、22年8月からプログラム開発に着手し、今年3月に開発を終えた。

AIがこれまでの削除支援と比べてより素早く正確に支援できるということ。またそれを通じて被害者の苦しみを軽減させ、日常生活を円滑に営めるようにし、デジタル性犯罪に根強い問題を解決できるということで高く評価された。

市は、「ソウルデジタル性犯罪安心支援センター(運営主体:ソウル市女性家族財団)」を通じてAIプログラム導入7か月で計45万件の動画をモニタリングした。これは導入前に人(削除支援官)によるモニタリングと比べると(3万3,511件、22年3月29日～10月31日)1,265％も増加したことが分かる。

市は、AI技術の導入とともに、児童·青少年の被害予防に力を注ぐ。最近、児童·青少年を対象にしたデジタル性犯罪の被害が増加の一途をたどり、特に被害者や家族の通報がなくネット上で拡散している被害動画が多いと判断したためである。

しかし、児童·青少年の被害動画が大人の動画とは区別しにくく、削除支援に限界があったため、ソウル研究院と一緒に来年の上半期に完成する目標で「AI基盤の児童·青少年の被害動画削除支援プログラム」も開発している。

市は、「デジタル性犯罪動画をAIで削除するプログラム」の開発だけでなく、「ソウルデジタル性犯罪安心支援センター」の運営など、予防から再発防止に至る「デジタル性犯罪に対する統合対応政策」を韓国のみならず海外にも展開するために、2024国連公共サービス賞にも応募した。

ソウル市のキム・ソンスン女性家族政策室長は「デジタル性犯罪動画の削除支援は、多くの人が最も必要としていた支援だった」とし、「AIを活かしたデジタル性犯罪動画の削除支援のような革新的技術を利用し、被害者の苦しみを軽減させるとともに、予防から被害者サポートまでよりきめ細かく支援し、被害者の方々が日常生活を取り戻せるように最善を尽くしていきたい」と述べた。