AI로 미성년자 온라인 그루밍 24시간 감시

서울시, AI 기반 '서울 안심아이'로 온라인 그루밍 예방 나서

서울시는 아동·청소년을 대상으로 한 온라인 그루밍 범죄가 증가함에 따라, 전국 최초로 인공지능(AI) 기술을 활용한 '서울 안심아이(eye)' 시스템을 개발해 24시간 실시간 탐지 및 대응에 나섰다. 이 시스템은 SNS, 오픈채팅 등에서 미성년자에게 친근하게 접근해 성적 대화나 착취를 시도하는 범죄 행위를 조기에 발견하는 데 중점을 둔다.

온라인 그루밍, 아동·청소년 5명 중 1명 경험

서울시가 2025년 서울시여성가족재단에 의뢰해 초등학교 5학년부터 고등학교 3학년까지 2,316명을 대상으로 실시한 실태조사 결과, 아동·청소년 5명 중 1명(19%)이 온라인 그루밍 접근을 경험한 것으로 나타났다. 주요 접근 경로는 SNS, 1:1 및 오픈채팅, 게임 순이며, 접근자는 온라인에서 처음 만난 전혀 모르는 사람이 35.5%, 또래 친구나 선후배가 34.2%로 집계됐다.

AI 기술, 대화 맥락까지 분석해 위험 신호 포착

서울시는 지난해부터 디지털 성범죄 영상 모니터링과 AI 안면인식 나이 예측 기술을 도입해 성착취물 삭제를 지원해 왔다. 올해는 서울연구원과 협력해 온라인 그루밍 정황을 탐지하는 AI 기술을 개발 중이다. 이 기술은 단순 키워드 감지를 넘어, "사진 보낼래?", "영상통화 할까?" 등 성범죄 트리거 문구와 대화 흐름을 멀티모달 경량화 언어모델(sLLM)로 분석해 다양한 은어와 축약어, 연속된 대화 맥락까지 포착한다.

24시간 실시간 탐지 및 피해지원기관과 연계

AI는 아동·청소년이 주로 이용하는 온라인 공간에서 성적 유인과 착취 시도를 실시간으로 감지하며, 위험 징후 발견 즉시 피해지원기관에 긴급 알림을 전송한다. 피해지원기관인 다시함께상담센터 등은 전문 상담사를 배정해 초기 대응과 상담, 수사를 지원하며, 반복적 시도 계정에 대해서는 신고·고발 조치를 병행해 피해 확산을 막는다.

법적 근거 강화로 초기 단계부터 처벌 가능

최근 개정된 「아동·청소년의성보호에관한법률」에 따라 2025년 4월 22일부터는 미수범 처벌 조항이 신설되어, 성적 욕망을 가진 대화 시도 초기 단계부터 처벌이 가능해졌다. 이는 온라인 그루밍 범죄의 초기 접근을 효과적으로 차단하고 처벌 실효성을 높이는 데 기여할 전망이다.

서울시, 미성년자 보호 위한 선제적 대응 강화

서울시는 온라인 그루밍 피해가 미성년자 성범죄의 상당 부분을 차지하는 만큼, 피해자가 인지하지 못하는 사이에 심각한 피해로 이어지지 않도록 AI 기술을 통한 선제적 예방과 신속한 대응에 주력할 계획이다.