서울시, 전국 최초 ‘AI 자동 삭제신고 시스템’
기존 3시간 대비 처리속도 30배 단축
영·중·일·러 등 7개국 언어 지원
[파이낸셜뉴스] 서울시가 전국 최초로 ‘인공지능(AI) 자동 삭제신고 시스템’을 가동한다. AI가 온라인상에 유포된 디지털 성범죄 영상을 탐색해 자동으로 삭제 요청 매일과 채증 보고서를 생성하게 된다. 기존 수시간이 소요되던 작업을 6분 내 완료하며 신속한 삭제 지원에 나설 계획이다.
21일 서울시에 따르면 ‘AI 자동 삭제신고 시스템’을 통해 AI를 통한 피해 영상물의 상시 모니터링이 24시간 가능해진다. 찾아낸 영상물에 대해 자동으로 해당 사이트에 삭제 요청하는 이메일까지 생성한다. 삭제지원관의 최종 확인만 거치면 빠르게 삭제 요청이 발송된다.
서울시는 소셜미디어(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인상에 무분별하게 떠도는 불법 영상물을 찾아내 삭제 신고를 하기까지 기존 약 2시간 반~3시간에서 ‘6분’으로 줄어든다고 추산했다.
시 관계자는 “기존에는 삭제지원관이 영상물마다 모두 수작업으로 피해 영상물을 채증하고, 보고서를 작성해야 했기 때문에 많은 시간이 소요됐다”면서 “이제 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정을 AI 자동화함으로써 처리속도를 30배 개선하는 성과를 기대할 수 있게 됐다”고 밝혔다.
특히 최근 피해 영상물은 해외에 서버를 둔 사이트에 올라오는 사례가 증가하는 추세다. AI는 해외에 유포된 피해 영상물을 검색해 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성할 수 있도록 기능을 갖췄다. 중국, 러시아, 베트남 등으로 검색 영역도 확장했다.
자동 채증 보고서 기능은 텍스트, 이미지, URL 등 콘텐츠에 포함된 핵심 정보를 자동 추출하고, 이를 문서로 변환해 저장하는 방식이다. 향후 수사기관 또는 사법 절차에 필요한 법적 증거자료로도 활용할 수 있다.
앞서 서울시는 디지털 성범죄 예방과 피해자 지원을 위해 2023년 3월 서울연구원과 협력해 전국 최초로 ‘디지털 성범죄 AI 삭제지원 기술’을 개발했다. 이후 서울 디지털성범죄 안심지원센터에서 이를 활용해 24시간 불법 영상물 감시 및 삭제지원에 나서고 있다. 서울 디지털성범죄 안심지원센터는 전기통신사업법 제22조의5에 따라 불법촬영물등에 대한 신고·삭제 기관으로 지정고시된 기관이다.
비디오, 오디오, 텍스트 3종 종합분석을 지원하는 기술 도입에 따라 키워드 입력부터 영상물 검출까지는 불과 3분 정도밖에 걸리지 않는다. 삭제지원관의 수작업이 평균 2시간이 소요됐던 것에 비해 검출 속도는 97.5%가 단축되고, 정확도도 200% 이상 향상됐다.
서울 디지털 성범죄 안심지원센터의 삭제지원 건수도 AI 도입 전 2022년 2509건에서 지난해 총 1만4256건으로 무려 468%나 상승했다.
피해영상물이 게시된 해당 사이트에 센터가 삭제 신고할 경우 해당 사이트는 전기통신사업법 및 같은 법 시행령에 따라 삭제·접속차단을 조치해야 한다. 이행하지 않을 시 3년 이하의 징역 또는 1억 원 이하의 벌금, 매출액의 3% 이하에 해당하는 과징금, 등록취소 또는 사업정지 등 제재 처분될 수 있다.
센터가 지난 3년간 지원한 피해자는 3650명, 총 지원 건수는 6만4677건에 이른다. 상담원 1대 1 밀착지원으로 상담(39.98%), 수사·법률지원(20.20%), 삭제지원(36.12%)이 이뤄졌으며, 작년 심리상담 지원 건수는 1만5781건으로 피해자들의 외상후 스트레스장애 증상 완화에 기여했다.
피해자 연령대는 10~20대가 가장 높은 비율을 차지하고 있다. 특히 센터 개관 이후 아동, 청소년을 대상으로 한 디지털 성범죄 피해지원이 크게 증가 중이다. 지난 2022년 아동·청소년 피해자는 총 50명으로 전체 피해자의 16.2% 수준이었지만 지난해 총 624명(22.1%)으로 13배 이상 증가했다. 아동·청소년을 대상으로 한 온라인 그루밍(길들이기) 피해도 같은 기간 19건(3.3%)에서 370건(10.6%)으로 3년간 20배 늘었다.
도움이 필요한 디지털 성범죄 피해자 누구나 센터 상담전용 직통번호 ‘815-0382(영상빨리)’나 누리집(www.8150382.or.kr)으로 문의할 수 있다.
김선순 서울시 여성가족실장은 “우리 사회를 충격에 빠트린 n번방 사건부터 지난해 딥페이크 성범죄 사건까지 디지털 성범죄 기술은 갈수록 고도화되고 범죄 피해도 심각하다”며 “앞으로도 디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다”고 말했다.
chlee1@fnnews.com 이창훈 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지