900원에 'AI 못 벗기기' 제공..팁페이크 채팅방 회비는 1만3000원
28일 현지 매체 신경보에 따르면 중국 지하 플랫폼에서는 왕훙(중국 온라인 인플루언서)이나 여성 연예인을 타깃으로 한 인공지능(AI) 나체사진 채팅방이 다수 운영 중이다.
제작자들은 5위안(약 900원)이면 이들의 옷 벗기기가 가능하고, 20위안(약 3700원)이면 동영상 얼굴 합성이 가능하다고 홍보하고 있다.
신경보는 이런 합성 사진·영상 공유가 '제작-판매-교육'으로 이어지는 산업망을 이룬 상태라고 전했다. 온라인에서 사진으로 시선을 끌어 네티즌을 유입해 회원제 서비스 수익을 창출하는 그룹과 비리비리(중국 동영상 플랫폼)나 샤오훙수 등 소셜미디어에서 'AI 옷 벗기기 교육 과정' 등 교육을 진행하는 그룹 등이 하나의 생태계를 이루고 있는 셈이다.
신경보가 인플루언서의 나체 합성물을 공유한다는 이름의 한 채팅방을 확인한 결과 참여자가 1만5000여명에 달했고, 여기에는 연예인과 운동선수들을 소재로 한 사진 등이 존재했다. 채팅방 운영자들이 유도하는 회원제 회비는 70위안(약 1만3000원)이었다.
중국 현행법상 AI 옷 벗기기는 치안관리처벌법에, 돈을 받고 주문·제작해 주는 행위는 음란물 제작·판매죄에 각각 어긋난다. 사진을 유포만 해도 음란물 유포죄가 되며, 합성 기술을 가르치는 것은 방조범이나 교사범에 해당한다.
이같은 처벌 기준에도 AI의 효율이 높아지고 기술적 문턱이 낮아지면서 해당 범죄가 끊이질 않고 있다고 신경보는 분석했다.
앞서 지난 6월 베이징시 경찰은 '배추값만 내면 AI 옷 벗기기가 가능하다'거나 '주변인, 인플루언서, 스타 모두 가능' 등의 광고를 앞세워 합성 사진 7000장 가량을 351명에게 판매한 전직 인터넷 업체 기술자를 적발했다. 이 사건은 중국 내에서 딥페이크 범죄에 대한 관심이 커진 계기가 됐다.
베이징 보안업체 신둔스다이의 쑨웨 최고기술책임자(CTO)는 "각종 대형 플랫폼이 신원 인증을 강화하고, 다차원 인증·리스크 감지·빅데이터 분석 등 기술과 지식 그래프 인과추론 등을 이용해 위조 위험을 낮출 수 있다"며 "심층 진위 탐지와 디지털 워터마크 등 연구·개발을 확대해야 한다"고 강조했다.
longss@fnnews.com 성초롱 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지