[파이낸셜뉴스]"디지털 범죄의 특성상 딥페이크 성범죄·허위영상물의 유포는 쉽고 피해 회복은 어렵다. 법무부, 과학기술정보통신부, 경찰청 등 관련 부처가 함께 긴밀히 협력하고, 국회 역시 필요한 관련 법 개정과 제도 개선을 위한 논의를 서둘러야 한다." - 정청래 국회 법제사법위원회 위원장 국회에서 인공지능(AI) 기반의 딥페이크를 활용한 범죄를 통제하기 위한 입법 논의가 지속되고 있는 가운데, 딥페이크의 양면성을 고려한 포괄적 규제보다는 범죄 심각성에 따른 차등 규제가 필요하다는 목소리가 나왔다. 자율규제를 강조하고 있는 플랫폼 업계는 딥페이크 콘텐츠 삭제 요청이 기관별로 산발적으로 이뤄질 시 대응 실효성이 떨어질 수 있다고 우려했다.  19일 국회의원회관 제1소회의실에서 열린 '딥페이크 허위영상물 성범죄에 대한 종합적 대안 모색을 위한 정책토론회'에서는 이 같은 논의가 오갔다. 이번 토론회는 정청래 법사위원장이 주관하고 법사위를 비롯한 과학기술정보방송통신위원회, 행정안전위원회가 공동으로 주최했다. 발제자로 나선 최경진 가천대 교수는 딥페이크의 양면성을 고려해야 한다고 짚었다. 최 교수는 "권력자, 유명인뿐 아니라 일반인들도 딥페이크로 인한 잠재적 피해자가 될 수 있고, 언제 피해자가 될지 예측하기 쉽지 않다는 점이 가장 큰 문제"라며 "음란물로 남용됐을 시에는 단순 성범죄를 넘어 인격을 파괴하는 수준까지 갈 것"이라고 말했다. 그러면서 투명성 의무, 표시의무와 같은 방지책을 정부와 기업이 함께 논의해야 한다고 주장했다. 다만 딥페이크의 기반 기술인 AI에 대한 종합적 규제보다는 행위별로 처벌 수준을 차등화할 필요가 있다고 했다. 포괄적 규제로 AI 또는 딥페이크가 혁신의 도구로 활용되는 통로를 전면 차단하는 것은 바람직하지 않다는 것이다. 최 교수는 "AI 기술을 활용한 딥페이크의 경우 활용되는 영역이 다양하고 영역마다 규제의 필요성 정도도 다르다"며 "피라미드 형태의 차등화된 규제가 필요할 듯 하다"고 진단했다. 예를 들어 순수한 의도의 콘텐츠 생성으로 발생한 초상권, 개인정보 침해 등은 기존 법으로 규제하는 한편 가짜뉴스·음란물 생성에 대해선 강력히 처벌하는 방식이다. 국회 내 관련 입법 취지에 공감한다고 운을 뗀 플랫폼 사업자 측은 자율규제 및 정부 방침 공조를 통해 음란물 필터링·삭제·방지 등의 조치를 취하고 있다고 강조했다. 다만 현재 방송통신심의위원회에 한정된 콘텐츠 차단 요청이 지방자치단체·수사기관으로 분산될 시 음란물 대응 실효성이 떨어질 수 있는 점을 우려했다. 김영규 한국인터넷기업협회 정책실장은 "여러 수사기관, 각종 지자체에서도 (불법 콘텐츠) 삭제·차단을 요청할 수 있는 법안이 나왔지만, 각 기관마다 차단·삭제에 대한 기준이 다를 것"이라며 "다른 기준에 따라 플랫폼 사업자가 대처하기엔 정책적으로 어려움이 있을 수 있다"고 전했다. 이어 "표현의 자유와 관련된 소송이 남발할 수 있는 점도 우려된다"며 "(관련) 법 재개정 시 참고 부탁드린다"고 덧붙였다. 한편 이날 토론회에서는 딥페이크 성범죄 수사방법론에 대한 토론도 이어졌다. 위장수사 확장 여부, 아동·청소년층의 성범죄 처벌 수위 및 기준, 디지털 성범죄에 대한 사회적 인식 제고 방안, 국제 수사 공조 방안에 대한 의견도 오갔다. 현재 22대 국회에선 딥페이크 범죄 대응과 관련된 35여개 법안이 발의돼 있다. jhyuk@fnnews.com 김준혁 기자

[파이낸셜뉴스] 500억 자산가로 이름을 알렸던 '장사의 신' 은현장 씨가 본격적인 복귀를 예고했다. 은씨는 지난 9일 유튜브채널 '장사의 신' 커뮤니티 게시판에 "(렉카 유튜버) A씨를 상대로 고소장을 접수하고 왔다"며 "앞으로는 정말 다른 거 신경 쓰지 않고, 제 갈 길만 가겠다"고 했다. 이어 "오는 14일부터 '장사의 신' 대표 콘텐츠인 '골목식당' 영상이 업로드된다"고 밝혔다. '장사의 신 골목식당'은 영업에 어려움을 겪는 자영업자들을 찾아가 컨설팅을 해주는 은씨의 대표 콘텐츠다. 은씨는 최근 몇달 동안 여러 의혹에 시달렸고, A씨는 은씨에 대한 의혹을 제기하는 콘텐츠를 올렸던 인물이다. 은씨는 프랜차이즈 업체 '후라이드 참 잘하는 집'을 창업해 190억원에 매각한 인물로 알려져 있다. 이를 기반으로 SBS '백종원의 골목식당'과 유사한 콘셉트인 '유튜브판 골목식당' 장사의 신 채널을 운영하며 명성을 얻었다. 10일 기준 구독자 수는 113만명이다. 이후 채널A '서민 갑부 폐업 탈출 대작전' 등 각종 방송에서 200억원에 프랜차이즈를 매각한 '500억원 자산가'라는 이름으로 소개됐고, 직원 연봉이 2억원부터 시작한다고 밝혀 화제를 모으기도 했다. 그러나 올해 초부터 네이버 카페 조회수를 조작했다는 불법 매크로 의혹, 밀키트 식품 표기법 위반 의혹, 재산 부풀리기 의혹 등 각종 의혹이 불거졌다. 여기에 지난해 주가 조작 혐의 등으로 그룹 회장이 재판에 넘겨진 초록뱀 미디어와 연관이 있다는 주장까지 나와 은퇴를 선언했다. 자본금 3000만원으로 일군 기업을 190억원에 매각했다는 이야기가 주가조작을 위해 짜여진 거짓말이라는 의혹 때문이다. 은씨의 '후라이드 참 잘하는 집'을 매입한 기업이 초록뱀 미디어 계열사인 아이오케이다. 하지만 한달여 만인 지난 6월 11일 '법정 결정문'을 공개했다. 은씨는 "초록뱀 뿐 아니라 어떤 금융 범죄 사건과 관련해서도 피의자나 참고인으로 조사받은 적이 없고, 그와 관련해 수사기관으로부터 단 한차례도 연락받은 적이 없다"면서 허위 사실에 대한 법적 대처 의지를 밝혔다. 은 씨에 대해 각종 의혹을 제기했던 사이버 렉카 유튜버 중 구제역, 카라큘라, 크로커다일은 '쯔양 협박'사건에 연루돼 구속된 상태다. 단, 크로커다일은 은씨에 대한 명예훼손 혐의로도 검찰에 송치됐지만, 은씨가 '채널 삭제 조건'으로 고소를 취하해 종결됐다. moon@fnnews.com 문영진 기자

국내 양대 플랫폼 네이버와 카카오가 웹툰 등 콘텐츠 사업에 인공지능(AI) 서비스를 도입해 인기몰이를 하고 있다. 인기 웹툰 캐릭터와 일상 대화를 나눌 수 있는 서비스를 제공하거나 이용자 취향에 맞는 콘텐츠를 제공하는 방식으로 관련 서비스 접속자가 급증한 것으로 나타났다. ■AI 작가가 캐리커처 그려8일 업계에 따르면 네이버웹툰은 이달 2일부터 'AI 웹툰 캐리커처 서비스'에 인기 동영상 스트리머인 '침착맨'으로 활동 중인 이말년 작가의 그림체를 추가해 서비스 중이다. 지난 7월 정식 출시된 웹툰 캐리커처는 이용자의 사진을 인기 작가 그림체로 그려주는 유료 서비스다. 사진 한 장을 올리면, AI가 캐리커처 6장을 1~2분 안에 만들어준다. AI 웹툰 캐리커처 서비스는 출시 3주 만에 누적 접속자 수 50만명을 돌파할 만큼 인기를 끌고 있다. 네이버웹툰은 '캐릭터챗'의 대화 상대도 확대하고 있다. 지난 6월 출시한 캐릭터챗은 네이버의 초대규모 AI 모델 하이퍼클로바X를 붙였다. 이용자가 웹툰 캐릭터와 일상 대화를 나누거나 롤플레잉을 할 수 있도록 만든 기능이다. 사용자가 "오늘 점심 뭐 먹었냐"고 물으면 "냉면 먹었다, 너는?"고 답을 하는 등 간단한 대화가 가능한 서비스다. 이 밖에도 네이버웹툰은 △불법 웹툰 유출 탐지(툰레이더) △웹툰 추천(AI큐레이터) △유해 콘텐츠 탐지(엑스파이더) △창작 지원 도구(AI 페인터) △대체텍스트 제공 등 다양한 영역에 폭 넓게 AI를 활용하고 있다. ■웹툰도 넷플릭스처럼 AI 추천카카오엔터테인먼트는 자체 AI 브랜드인 '헬릭스'를 활용한 다양한 기능을 선보이고 있다. 지난 4월부터 시작한 작품 추천 기능인 '헬릭스 큐레이션'이 대표적이다. 헬릭스 큐레이션은 사용자가 웹툰 등을 결제한 이력과 관심 보인 작품을 분석해 이용자마다 다양한 추천 작품을 보여준다. 카카오엔터테인먼트는 카카오페이지 홈화면 추천탭, 웹툰탭, 웹소설탭이나 개별 작품 홈 내 하단에 노출되는 '이 작품과 함께 보는 웹툰(유사 작품 추천)'에도 헬릭스 큐레이션을 활용했다. 카카오엔터 관계자는 "헬릭스 큐레이션 적용 후 카카오페이지에 가장 첫 화면으로 노출되는 추천탭과 웹툰탭, 웹소설탭 클릭률(CTR)이 각각 서비스 적용 전 대비 96%, 42%, 138% 증가했다"고 전했다. 카카오엔터테인먼트는 AI를 활용한 짧은 영상(숏품) 제작도 지원할 방침이다. 하반기 중 공개될 신규 서비스 '헬릭스 숏츠'는 생성형 AI가 웹툰 및 웹소설 스토리를 짧게 요약한 숏폼을 제작하게 하는 기술로, 완성된 숏폼을 애플리케이션(앱) 내 홈화면에 띄워서 열람으로까지 이어지게 하는 것이 목표다. 카카오엔터 측은 콘텐츠제공사(CP)에도 '헬릭스 숏츠' 제작 툴을 제공해 직접 숏폼을 제작할 수 있도록 할 전망이다. 한편 양사 모두 AI 기술을 적극 활용함에 따라 제작 단계에서 문제가 발생하지 않도록 총력을 다할 방침이다. 네이버웹툰은 "AI 활용 서비스 기획 단계에서 저작권자인 작가의 동의를 받는 절차를 밟는 것은 물론 지식재산권(IP) 사용에 대한 대가도 지불하고 있다"고 강조했다. 카카오엔터 또한 "창작의 고유성을 지키고, 창작의 가치를 훼손하지 않는 방향으로 가장 적절하고 효과적인 영역에 기술을 적용하는 방안을 고민하고 있다"고 전했다. soup@fnnews.com 임수빈 기자

[파이낸셜뉴스] 딥페이크(인공지능 기반 이미지 합성) 성범죄 대화방 대응을 놓고 감독 당국과 수사 기관의 생각이 엇갈리고 있다. 당국은 추가 피해를 막기 위해 대화방의 신속한 차단이 필요하다고 주장하지만, 수사 기관은 증거를 확보하기까지 삭제를 유보해야 한다는 입장이기 때문이다. 전문가들은 텔레그램 측에 적극적인 협조를 요청하면서 강력한 처벌이 뒤따라야 한다고 조언했다.  대화방 차단하면 수사정보 수집 차질5일 방송통신심의위원회에 따르면 텔레그램은 방심위가 지난 1일 긴급 삭제를 요청한 디지털 성범죄 영상물 25건을 삭제하고 사과의 뜻을 전했다. 텔레그램은 지난 3일 방심위에 공식 이메일 서한을 통해 "한국 당국이 자사 플랫폼에서 불법 콘텐츠를 다루는 데 어려움을 겪는 보도를 알게 됐다"며 자사와 소통할 전용 이메일을 알렸다. 방심위는 불법 영상물 유포를 막기 위해 관련 대화방 등에 대해 접속 차단 조치를 하고 있다. 24시간 모니터링을 통해 문제가 되는 영상물 등을 대상으로 텔레그램에 삭제 요청을 한 이후 심의를 거쳐 망사업자에게 국내 접속 차단을 요청한다. 모니터링 인원을 두 배 늘려 총 24명이 텔레그램 등을 들여다보고 있다. 영상물 삭제나 접속 차단은 성범죄 피해를 막는 주요 방안으로 꼽힌다. 온라인 성범죄는 한 번 발생하면 기록을 완전히 삭제하는 게 사실상 불가능하기 때문에 사전 차단이 우선이라는 이유다. 수사기관이 제작·유포자를 찾는 동안 피해가 확산된다는 문제도 있다. 그러나 수사기관은 범죄에 이용된 대화방을 차단하거나 삭제해버리면 범죄자를 찾기 어려워진다는 입장이다. 대화 가운데 남아 있는 직·간접 단서가 피의자를 찾는 데 활용될 수 있어서다. 경찰 관계자는 "활동가들이 대화방을 캡처해 오는 것도 도움이 된다"면서도 "정밀한 수사를 위해서는 방이 살아있어야 많은 정보를 취득할 수 있다. 이를 위해 수사기간이 범죄가 일어나는 방을 인식해 모니터링해서 정보를 수집하기도 한다"고 말했다. "증거자료 확보한 뒤 삭제해야" 다만 방심위 차원에서 신속한 차단 자체가 불가능하다는 지적도 있다. 수신자와 발신자 외에는 대화 내용을 알 수 없는 '암호화 보안기술'이 적용돼 있어 제3자 확인이 어렵다는 게 전문가들의 판단이다. 방심위가 모니터링을 강화했다고 강조하지만 불법 요소를 찾는 데는 한계가 있다는 취;지다. 김승주 고려대 정보보호대학원 교수는 "텔레그램의 암호통신을 제3자가 들여다볼 수 없기 때문에 추적 자체가 불가능하다"며 "방심위는 문제가 되는 대화를 확인할 수 없어 모니터링은 의미가 없다"고 말했다. 전문가들은 최대한 증거자료를 확보한 뒤 차단하도록 유관기관이 협력해야 한다고 조언했다. 아울러 텔레그램 자체적으로 불법 영상물에 대해 자정하도록 촉구해야 한다고도 분석했다. 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프(40) 등 운영자에 대해 성범죄 방조 혐의로 입건 전 조사(내사)를 벌이는 경찰은 관련 사실 확인 등을 위해 텔레그램에 이메일로 공문을 보냈지만 아직 답을 받지 못했다. 곽대경 동국대 경찰사법대학 교수는 "차단에만 몰두한다고 해도 새로운 방을 계속 만들 수 있기 때문에 완전한 해결책이 될 수 없다"며 "대화 참여자가 아니면 알 수 없는 내용들이 있기 때문에 위장 수사를 확대해서 불법 사실을 입증하는 노력이 필요하다"고 조언했다. 황석진 동국대 정보보호대학원 교수는 "텔레그램이 불법 행위의 도구가 되선 안 된다는 요구를 지속적으로 할 필요가 있다"며 "투명하고 건전한 대화가 이뤄지는 공간이 되도록 텔레그램이 강력한 제재를 하도록 하는 동시에 수사기관도 강력한 형사조치를 내려야 한다"고 제안했다. unsaid@fnnews.com 강명연 기자

[파이낸셜뉴스] "AI와 함께 '캐치볼' 한다고 생각한다." AI 콘텐츠 작가 '킵콴(본명 윤석관)'은 5일 서울 송파구 롯데월드타워 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에 참석해 AI와 인간의 관계에 대해 이같이 말했다. 윤 작가는 "인간은 스토리를 만들기 위해 공부해야 하고 AI는 나를 학습시킬 수 있다. 인간은 AI가 제안하는 것 중 무엇을 선택하고 편집할지 고민하고 그 과정이 캐치볼과 같다"고 설명했다.  국내외를 막론하고 활동해온 윤 작가는 크래프톤, 워커힐, 섬세이 등 광고를 해왔다. 또 한복 브랜드 메종 단하와 함께 옷의 재질을 이미지로 표현한 AI 룩북을 만든 바 있으며, 박물관을 현실로 가져오는 체험형 컨텐츠를 만들기도 했다. 그는 AI 콘텐츠를 만들기 위해선 기본적으로 텍스트 형태의 아이디어가 중요하다고 설명했다. 그는 "뭐든지 '글'만 있으면, 생각하는 '내용'만 있으면 그것을 생성하는 데 AI가 도움을 줬다"며 "AI와 협업을 하면서 어떤 것을 담아낼지, 그 스토리가 중요하다"고 했다. 또 "AI와 협업하며 내가 뭘 좋아하는지 잘 하는지 개인 취향을 알아갈 수 있었다"며 "기술 발전은 곧 표현 범위가 확장된다는 이야기이다. 그 덕에 나라는 인간을 이해하게 된다"고 말했다. 이어 "내가 잘하는 것, Ai가 잘하는 것을 주고 받으며 할 수 있다"고 강조했다.  AI 영상 제작업체인 '스튜디오 프리윌루전' 권한슬 대표는 이번달 초 발표한 AI 뮤지컬 'Poem of Doom(멸망의 시)'을 상영하며 대담을 진행했다. 멸망의 시는 영상, 음악 등 10개 이상의 AI를 조합한 5분 분량의 단편영화이다. 권 대표는 "얼굴 표정, 감정을 구현하는 기술과 음성 립싱크를 맞추고 음악과 효과음을 만드는 것 모두 다른 기술이다. 한 장면마다 많은 공력이 든다"며 "그럼에도 AI 필름은 이제 하나의 장르로서 영화제가 열리기도 한다. 예술로서 인증을 받는 증표"라고 했다.  다만 정보 비대칭으로 인해 AI 활용도가 낮다고 지적했다. 그는 "AI로 만든 결과물을 상업화하는 사례가 적다. 정보가 파편화돼 있고 진입장벽이 있어서다"라며 "AI의 일자리 대체보다 AI를 많이 사용하는 사람과 AI 관련된 정보를 얻지 못해 사용하지 못하는 사람들 간에 불화가 생기는 것이 더 위험하다"고 말했다.  이날 대담에서 AI 창작물에 대해 저작권 등록을 하는지 질문 받자 권 대표는 "저작권은 현재 불법도 합법도 아님 무법으로, 'AI로 만들었다'고 밝히는 추세"라며 "멸망의 시의 경우도 저희가 만들어도 저작권 등록은 안된다. 하지만 편집물 등록은 된다"고 답했다. 그러면서 "멸망의 시는 AI 콘텐츠 최초로 북미 OTT 시장에 배급계약을 하기도 했다"며 "그런 것이 가능해지고 선례들이 나오다 보면 제도가 빠른 시일 내 생기지 않을까. 창작자들은 제도 시스템이 갖춰져야 안전하게 창작을 할 수 있다"고 저작권 제도화를 촉구했다.  yesyj@fnnews.com 노유정 기자

[파이낸셜뉴스]딥페이크 성범죄 공포가 사회 전반으로 퍼지고 있다. 경찰이 특별 단속을 선언하고 일주일 도 안돼 100건이 넘는 신고가 접수됐다. 그럼에도 최근 3년 간 검거율은 50%에 불과하고 구속인원이 5% 미만이라 솜방망이 처벌이라는 비판을 받고 있다. 경찰은 딥페이크 성범죄 관련 내용이 유포되고 있는 텔레그램을 방조 혐의로 내사하고 있다. 4일 경찰에 따르면 지난달 26일부터 30일까지 딥페이크 성범죄 피해가 118건 접수됐고 이 중 피의자 33명을 특정했다. 특정된 피의자 가운데 10대가 31명이다. 경찰은 이 중 10대 6명을 포함한 7명을 검거했다. 경찰청 국가수사본부는 지난달 28일부터 내년 3월 31일까지 7개월간 '딥페이크 성범죄 관련 특별 집중단속'을 실시하고 있다. 딥페이크 집중 단속 이후 100건 이상의 신고 건수가 몰린 셈이다. 경찰은 딥페이크 성 착취물을 자동 생성하는 텔레그램 프로그램(봇) 8개를 입건 전 조사 중이다. '겹지인방' 등 해당 프로그램을 이용해 합성물을 만든 뒤 유포하는 텔레그램 단체방도 폭넓게 들여다보고 있다. 경찰은 딥페이크 봇을 만든 제작자에는 범행 공모 및 방조 등의 혐의 적용을 검토할 계획이다. 경찰은 성착취물이 유통되는 텔레그램 메신저에 대한 내사에 착수했다. 우종수 경찰청 국가수사본부장은 지난 2일 기자간담회에서 “텔레그램 법인에 대해 (딥페이크 성착취물 범죄) 방조 혐의로 입건 전 조사에 착수했다”며 “프랑스 수사 당국이나 각종 국제기구 등과 텔레그램 수사를 공조할 방법을 찾아보겠다”고 밝혔다. 러시아 출신인 두로프는 이미 지난달 24일 프랑스 파리에서 온라인 성범죄 등을 방조, 공모한 혐의로 현지 검찰에 체포됐다가 보석으로 풀려났다. 경찰은 일단 내사를 해둔 후 텔레그램 관계자가 한국에 입국하면 체포하거나, 인터폴에 적색수배를 요청하는 방안 등을 검토 중인 것으로 전해졌다. 이는 한국에 텔레그램 지사나 서버가 없기 때문에 나온 차선책이란 평가가 나온다. 텔레그램 본사는 처음에 독일에 설립됐으나 이후 영국 런던, 아랍에미리트 두바이 등으로 옮긴 것으로 알려졌다. 텔레그램의 자료가 저장된 서버 역시 여러 국가를 옮겨 다닌 것으로 전해졌다. 경찰은 아직 텔레그램 본사나 서버, 관련자들의 현재 위치를 파악하지 못하고 있는 상황이다. 그동안 성착취물에 대한 처벌은 미비했다. 지난 3년간 사이버 공간에서 아동성착취물과 불법촬영물 등을 유포해 붙잡힌 가해자 수가 7530명에 달했으나 구속률은 5%대에 그친 것으로 나타났다. 더불어민주당 황정아 의원이 경찰청에서 받은 자료를 보면 2021년부터 작년까지 집계된 사이버 성폭력(정보통신망을 이용해 불법촬영물 등을 유포 등) 발생 건수는 9864건이다. 검거된 인원은 7530명이다. 범죄 유형별로 살펴보면 아동성착취물이 3295명(43.8%)으로 가장 많았고 불법촬영물 2415명(32.1%), 불법성영상물 1563명(20.8%), 허위영상물(딥페이크) 257명(3.4%) 순이다. 검거된 피의자 중 구속된 비율은 5.5%(412명)에 불과했다. 최근 여성의 얼굴을 음란물에 합성해 유포하는 딥페이크 성 착취물 범죄가 논란이 된 가운데 허위영상물 범죄 증가세가 두드러졌다. 허위영상물 범죄 발생 건수는 2021년 156건, 2022년 160건에서 지난해 180건으로 늘었다. 같은 기간 검거 인원은 79명, 78명에서 100명으로 증가했다. 사태가 심각해지자 텔레그램 측은 핫라인 구축을 시사했다. 텔레그램은 지난 3일 동아시아 지역 관계자의 공식 이메일 서한을 방심위에 보내 "최근 한국 당국이 저희 플랫폼에서 불법 콘텐츠를 다루는데(with handling illicit content on our platform) 어려움을 겪고 있다는 언론보도를 알게 됐다"라고 밝혔다. 이어 "그동안 한국 당국으로부터 접수된 신고를 성실하게 처리하고 있었기에 현재와 같은 상황 전개는 매우 안타깝게 생각한다"면서 "양측 간에 오해의 소지가 있었다면 사과한다"라고 덧붙였다. 특히 "한국 사용자들에게 텔레그램을 더욱 안전하게 만들기 위해 방심위와 신뢰관계 구축을 희망한다"라고 소통할 의지를 드러냈다. 텔레그램 측은 방심위의 기존 텔레그램 이메일이 신고한 콘텐츠가 삭제됐는지 즉각 확인할 수 없었다면서 새로운 전용 이메일을 공개했다. 텔레그램이 모두 삭제했다고 밝혀온 디지털 성범죄 영상물은 지난 1일 방심위가 긴급하다고 판단해 신속히 요구한 것으로 25건에 이른다.   beruf@fnnews.com 이진혁 기자

텔레그램이 딥페이크 불법 합성물 사태와 관련해 방송통신심의위원회가 긴급 삭제 요청한 디지털 성범죄 영상물을 모두 지운 것으로 파악됐다. 방심위는 "텔레그램 측이 지난 1일 긴급 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제했다며 사과의 뜻과 함께 신뢰 관계 구축 의사를 전해왔다"고 3일 밝혔다. 텔레그램은 이날 동아시아 지역 관계자의 공식 이메일 서한을 방심위에 보내 "최근 한국 당국이 자사 플랫폼에서 불법 콘텐츠를 다루는 데 어려움을 겪고 있다는 언론보도를 알게 됐다"고 전했다. 이어 "현재와 같은 상황 전개를 매우 안타깝게 생각한다"면서 "방통심의위와 양측간 오해의 소지가 있었다면 사과한다"고 했다. 아울러 텔레그램 측은 방심위에 자사와 소통할 전용 이메일을 새로 알렸다. 새 이메일 주소로 방심위는 텔레그램이 신고 대상 콘텐츠를 삭제됐는지 즉각 확인할 수 있을 것이라고 설명했더. 방심위 관계자는 "그동안 세계 각국으로부터 보다 적극적인 소통을 요구받아온 텔레그램 측의 이러한 입장 표명은 매우 전향적인 것"이라며 "우리나라에서 최근 발생한 사태에 대해 심각성을 인지하고 향후 협력 의지를 분명히 함으로써 현 사태 해결에 큰 물꼬가 트일 것으로 평가된다"고 말했다. 이어 "이번 기회에 서로 소통하게 된 전용 이메일을 시작으로 핫라인을 구축해 딥페이크 성 착취물 문제를 해결함은 물론 디지털 성범죄 영상의 궁극적 퇴출을 위한 공고한 협력관계를 다져나가기를 기대한다"고 덧붙였다. solidkjy@fnnews.com 구자윤 기자

[파이낸셜뉴스] 20년 전 경남 밀양에서 발생한 성폭행 사건 가해자들의 신상을 공개한 유튜버 '전투토끼'가 범행을 공모한 아내와 함께 재판에 넘겨졌다. 창원지검 형사1부는 개인정보보호법 위반, 정보통신망법 위반 등 혐의로 30대 유튜버 A씨와 그의 아내인 30대 공무원 B씨를 구속기소했다고 30일 밝혔다. A씨는 지난 6월부터 지난달까지 자신의 유튜브 채널 '전투토끼'에 밀양 성폭행 사건 가해자들 신상을 무단으로 공개한 혐의를 받는다. 또 일부 피해자에게 사과 영상을 보내지 않으면 해당 피해자들 가족 신상을 공개할 것이라고 협박, 강요한 혐의도 받고 있다. B씨는 지자체 공무원으로 근무하면서 성폭행 사건 가해자 등의 주민등록번호와 주소 등 개인정보를 불법 조회한 뒤 남편인 A씨에게 제공한 혐의 등을 받는다. 검찰은 "유튜버 개인 수익 창출이 목적임에도 '사적제재'라는 명분으로 범죄 피해자의 잊힐 권리를 침해했다"며 "피해자와 그 가족은 물론 무고한 시민에게까지 고통을 주는 악성 콘텐츠 유포 사범에 대해 엄정 대응할 것"이라고 말했다. unsaid@fnnews.com 강명연 기자

[파이낸셜뉴스] 플랜티넷이 연일 강세다. 딥페이크 논란 속 정부가 범정부 대응책을 급히 마련하는 가운데, 유해콘텐츠 차단과 관련해 유관기관과 협업에 나선다는 소식에 기대감을 모은 것으로 풀이된다. 30일 오전 9시 22분 현재 플랜티넷은 전 거래일 대비 8.53% 오른 3525원에 거래되고 있다. 국무조정실은 딥페이크 성범죄 관련 종합 컨트롤 타워를 설치하고 이날 회의를 진행한다. 정부는 국무조정실 산하에 딥페이크 성범죄 관련 범정부 대응 태스크포스(TF)를 설치한다. TF는 김종문 국무1차장이 이끌며 이날이 첫 회의다. 당정은 허위 영상물 유포자에 대한 처벌 강화는 물론, 제작자를 처벌할 입법에도 나서기로 했다. 정부는 텔레그램 측이 딥페이크 등의 불법적인 정보를 자율적으로 규제하도록 핫라인을 구축한다는 계획이다. 앞서 한 매체에 따르면 플랜티넷은 국내 최초로 텔레그램 등 소셜미디어서비스(SNS)를 비롯한 인터넷망을 통한 유해 콘텐츠 차단 서비스를 제공하고 있다. 최근에는 경찰 유관기관과 협업을 논의 중인 것으로 알려졌다. 이에 따르면 플랜티넷은 유해콘텐츠를 판별하고 차단할 수 있는 플랫폼 구축을 위한 협업을 논의 중이다. 지난해 경찰대와 차세대 치안플랫폼 개발을 위한 업무협약도 체결한 바 있다. 한편 최근 딥페이크를 이용해 얼굴과 신체 이미지 등을 합성한 음란물 유포 범죄가 사회적 문제로 떠올랐다. 미성년자를 포함한 피해자들의 딥페이크 영상물이 텔레그램 단체 채팅방을 통해 퍼져나간 사실이 알려지며 관계당국이 대응책 마련에 나섰다. dschoi@fnnews.com 최두선 기자

[파이낸셜뉴스] 딥페이크(인공지능 기반 이미지 합성) 범죄가 확산되고 있는 가운데, 카카오가 딥페이크 피해 신고를 위한 채널을 안내했다.  카카오는 29일 '딥페이크 범죄 주의 및 신고 채널 안내' 공지를 통해 이 같이 밝혔다.  카카오 서비스 내에서 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견한 경우 △불법촬영물등 신고 바로가기(신고 사유: 허위 영상물) △유해 정보 신고 바로가기에 링크에 접수해 신고할 수 있다.  또 본인을 포함한 특정인의 초상과 성적 이미지를 합성한 정보 또는 합성 제작을 제안·요청하는 정보에 대한 신고도 안내했다. 관련 내용은 카카오 내 '권리침해 신고 바로가기'나 방송통신심의위원회 디지털 성범죄 신고페이지, 경찰청 사이버범죄수사과, 디지털성범죄피해자지원센터 등에서 신고 가능하다.  카카오 측은 "더 이상 관련 피해가 확산되지 않도록 이용자의 적극적인 협조와 주의를 당부드린다"며 "카카오는 안전한 서비스 이용 환경을 조성하기 위해 더욱더 최선을 다하겠다"고 전했다.  네이버도 앞서 딥페이크 사태와 관련해 신고 접수 등 대응에 나섰다.  네이버는 지난 28일 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견했면 아래의 신고 채널을 통해 접수해 주시기 바란다"며 관련 링크를 안내했다.  네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다. 또 "딥페이크 기술을 악용한 디지털 성범죄와 관련해 네이버는 이용자 여러분의 안전과 개인정보 보호를 최우선으로 생각한다"고 전했다.  고객센터 뿐 아니라 네이버는 게시물 신고센터, 그린UGC 공식 블로그를 통해서도 딥페이크 유포에 대한 주의 및 신고를 당부했다.  soup@fnnews.com 임수빈 기자