AI로 실시간 온라인 성착취 영상 삭제 혁신

서울시, AI 기반 온라인 성착취 영상 자동 삭제 시스템 도입

서울시가 온라인상에서 유포되는 성착취 영상을 신속하게 찾아내고 삭제 신고까지 지원하는 'AI 자동 삭제 신고 시스템'을 전국 최초로 개발해 본격 가동에 들어갔습니다. 이 시스템은 디지털 성범죄 예방과 피해자 지원을 위한 혁신적인 기술로 평가받고 있습니다.

24시간 AI 감시로 삭제 시간 대폭 단축

서울시는 2023년 3월 서울연구원과 협력하여 '디지털 성범죄 AI 삭제 지원 기술'을 개발했습니다. 이를 바탕으로 서울특별시여성가족재단이 운영하는 서울 디지털성범죄 안심지원센터에서 24시간 불법 영상물을 감시하며 삭제 지원 업무를 수행하고 있습니다.

AI 자동 삭제 신고 시스템은 피해 영상물을 24시간 상시 검출하고, 자동으로 채증해 보고서를 작성한 뒤 해당 사이트에 삭제 요청 이메일을 자동 생성합니다. 최종 발송은 삭제 지원관이 확인 후 진행합니다. 이로써 기존 2시간 반에서 3시간가량 걸리던 삭제 신고 시간이 단 6분으로 획기적으로 줄어들었습니다.

법적 근거와 엄중한 제재

서울 디지털성범죄 안심지원센터는 전기통신사업법 제22조의5에 따라 불법촬영물 신고 및 삭제 기관으로 지정되어 있습니다. 피해 영상물이 게시된 사이트에 삭제 신고를 하면 해당 사이트는 법에 따라 즉시 삭제 또는 접속 차단 조치를 해야 하며, 이를 이행하지 않을 경우 3년 이하 징역 또는 1억 원 이하 벌금, 매출액의 3% 이하 과징금, 등록 취소 또는 사업정지 등의 엄중한 제재를 받게 됩니다.

AI 자동 채증 보고서로 법적 증거 확보

기존에는 삭제 지원관이 수작업으로 피해 영상물을 채증하고 보고서를 작성하는 데 많은 시간이 소요됐으나, AI 자동화로 모니터링부터 검출, 삭제까지 전 과정이 신속하게 처리됩니다. 자동 채증 보고서는 텍스트, 이미지, URL 등 핵심 정보를 추출해 한글 문서로 저장, 수사기관 및 사법 절차에 필요한 법적 증거자료로 즉시 활용할 수 있습니다.

해외 유포 영상도 7개 국어로 신고

최근 피해 영상물이 해외 서버에 올라오는 사례가 증가함에 따라 AI는 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성해 해외 유포 영상도 신속히 삭제 요청합니다. 미국 중심에서 중국, 러시아, 베트남 등으로 확산되는 디지털 성범죄에 대응하기 위한 조치입니다.

서울 디지털성범죄 안심지원센터의 종합 지원

서울시는 서울 디지털성범죄 안심지원센터를 통해 삭제 지원뿐 아니라 수사, 법률, 심리치료, 의료 지원까지 원스톱으로 제공하고 있습니다. 2022년 3월부터 2025년 3월까지 3,650명의 피해자를 지원했으며, 총 지원 건수는 64,677건에 달합니다.

피해자의 대부분은 10~20대이며, 특히 아동·청소년 대상 디지털 성범죄 피해 지원이 크게 증가하고 있습니다. 센터는 피해 아동·청소년이 부모에게도 말하지 못하는 상황을 고려해 익명 상담이 가능한 카카오톡 오픈채팅방 '디지털성범죄 SOS 상담'을 운영하며, 학부모 대상 심리치료도 무료로 지원합니다.

피해자 지원 연락처 안내

디지털 성범죄 피해자는 서울 디지털성범죄 안심지원센터 상담전용 직통번호 02-815-0382(영상빨리) 또는 센터 누리집을 통해 상담 및 지원을 받을 수 있습니다. 상담 시간은 월요일부터 금요일 오전 9시부터 오후 6시까지이며, 점심시간(12시~13시)을 제외합니다. 휴일 및 야간에는 02-1366으로 문의 가능합니다.