본사 도움없이 운영자 특정 어려워
경찰, 텔레그램 협조 사례 주목
전문가 "돈의 움직임 주목해야"
수익 현금화 흐름 추적이 현실적
딥페이크봇은 인공지능(AI)을 이용해 이미지를 자동으로 합성, 음란물을 만드는 텔레그램 내 계정을 의미한다. 처음에는 무료로 합성물을 만들어주지만, 이후에는 일정한 비용을 지불해야 추가로 작업을 의뢰할 수 있는 것으로 알려졌다.
10일 경찰에 따르면 서울경찰청 사이버범죄수사대는 지난달 26일부터 텔레그램 프로그램 8곳 등을 대상으로 입건 전 조사(내사)에 들어갔으나, 보름을 넘긴 이날까지 피의자가 누구인지 확인하지 못하고 있다.
원인은 딥페이크봇의 경우 개인 간 대화가 목적이 아니기 때문에 피의자를 특정할 정보가 많지 않다는 점에 있다. 따라서 현실적으로 텔레그램 본사의 도움 없이는 딥페이크봇 계정 정보를 알기 어렵다. 경찰 관계자도 "텔레그램 봇에 대한 수사는 아직 진전이 없다"고 털어놨다.
딥페이크봇 계정 운영자를 특정했더라도 혐의 적용 관련 문제에 직면할 수 있다. 처음부터 범죄에 활용할 의도로 딥페이크봇을 만들었는지 불분명할 경우 처벌이 쉽지 않을 수 있다는 취지다. 운영자가 '미성년자의 이미지를 이용하는 것을 금지한다'는 약관을 동의하도록 했다면 운영자들은 책임을 피할 가능성도 존재한다.
황석진 동국대 정보보호대학원 교수는 "처음부터 범죄를 위한 딥페이크 목적으로 프로그램을 팔았다면 문제가 되지만 그럴 가능성은 낮다고 본다"며 "디지털 친화적인 세대의 등장으로 부작용이 발생함에 따라 텔레그램 자체 노력 요구가 커지는 만큼 의도적인 프로그램은 조치를 했을 것"이라고 진단했다.
전문가들은 돈이 어떻게 움직이는지 봐야 한다고 지적했다. 양태정 변호사(법무법인 광야) "(현실적 수사 방안은) "대화 내용이나 수익을 현금화하는 흐름을 추적해 계정 주인을 찾아야 할 것"고 조언했다.
우종수 경찰청 국사수사본부장은 지난 2일 정계 기자간담회에서 "텔레그램이 계정 정보 등 수사 자료를 우리뿐만 아니라 미국 등 다른 국가 수사기관에도 잘 주지 않는다"면서도 "텔레그램을 이용한 범죄를 지금까지 전혀 검거하지 못한 것은 아니다. 프랑스 수사당국이나 각종 국제기구 등과 공조해 이번 기회에 텔레그램을 수사할 수 있는 방법을 찾아볼 것"이라고 약속했다.
한편 서울경찰청은 서울시, 서울중앙지검, 서울시교육청과 함께 '아동·청소년 딥페이크 공동대응 업무협약'을 맺는 등 대응 체계 구축을 강화하고 있다.
이들 기관은 같은 날 서울 중구 서울시청 6층 영상회의실에서 협약을 통해 △아동·청소년 딥페이크 대응을 위한 서울지역 협력체계 구성 △딥페이크 긴급 대응을 위한 4자 간 핫라인 시스템 구축 △서울 디지털성범죄 안심지원센터 연계를 통한 즉각적인 삭제 및 피해지원 △아동·청소년 공동 교안 제작 및 예방 교육, 학부모 교육, 가해자 재발 방지 프로그램 운영 △'내 친구 지킴이' 5000명 양성 및 캠페인 추진 등에서 공조하기로 했다.
아울러 서울경찰청과 서울시 자치경찰위원회는 딥페이크 성범죄 예방과 엄중 처벌을 경고하기 위해 지난달 27일 서울지역 전체 학교(1374개교) 및 학부모(78만명) 대상으로 청소년 딥페이크 성범죄 대응 '긴급 스쿨벨'을 발령했다.
김봉식 서울경찰청장은 "경찰은 현재 엄중·신속한 수사와 전방위적인 예방활동을 전개하고 있다. 딥페이크 성범죄 확산의 마지막 골든타임이라는 마음가짐으로 총력대응 중"이라며 "이번 유관기관과의 협력을 통해 예방-수사-피해자 보호 및 지원이 보다 입체적·종합적으로 이뤄지는 체계를 구축하였다는데 의미가 있다"고 말했다.
김대근 한국형사법무정책 연구원은 "AI가 가지는 편향성, 확장성의 측면을 넘어 딥페이크 성범죄 사례와 같은 인격을 침해하는 새로운 범죄 행위가 발생하고 있는 상황"이라며 "AI를 소재 또는 매개로 하는 다양한 형태의 문제가 발생함에 따라 사용자들이 준수해야 할 새로운 윤리가 필요한 시점"이라고 제안했다.
unsaid@fnnews.com 강명연 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지