'디지털성범죄 전담검사'를 두는 전국 일선 검찰청이 31곳으로 늘어난다. 또 아동·청소년 대상 허위 영상물은 우선 구속한 뒤 수사하는 방향으로 원칙을 강화한다. 이원석 검찰총장은 29일 전국 일선청 디지털성범죄 전담검사들과 화상회의를 열고 이른바 '딥페이크' 디지털성범죄에 대해 이 같은 엄정 대응을 지시했다. 딥페이크는 사진과 음란물을 합성해 허위영상물을 제작·배포하는 것을 말한다. 이 총장은 "디지털성범죄는 사회적 인격살인 범죄"라며 "확산하지 않도록 신속하게 엄정대응하고, 허위영상물 삭제와 피해자 지원에 최선을 다하라"고 주문했다. 검찰은 우선 수사 단계에서 성적 수치심 유발 정도가 중한 아동·청소년 대상 허위영상물과 영리 목적 허위영상물 제작 사범에 대해 구속 수사를 원칙으로 정했다. 또한 허위영상물 제작 과정에 불법촬영 등 추가 범죄가 의심되는 경우 범행 전모를 규명해 엄단하고, 사건 발생 초기부터 경찰과 긴밀히 협조해 신속·적극 대응한다는 방침이다. 공판 단계에선 허위영상물 유포 등 실질적 피해 정도를 양형인자의 가중요소로 필수 적용해 구형에 반영하고, 검찰 의견을 적극 개진하며, 판결이 이에 미치지 못할 경우 상소 등에 나서기로 했다. 이 총장은 전날 징역 5년이 선고된 서울대 N번방 사건 공범 재판에 대해서도 항소를 적극 검토하라고 지시했다. 정지우 기자

[파이낸셜뉴스] '디지털성범죄 전담검사'를 두는 전국 일선 검찰청이 31곳으로 늘어난다. 또 아동·청소년 대상 허위 영상물은 우선 구속한 뒤 수사하는 방향으로 원칙을 강화한다. 이원석 검찰총장은 29일 전국 일선청 디지털성범죄 전담검사들과 화상회의를 열고 이른바 ‘딥페이크’ 디지털성범죄에 대해 이 같은 엄정 대응을 지시했다. 딥페이크는 사진과 음란물을 합성해 허위영상물을 제작·배포하는 것을 말한다. 이 총장은 “디지털성범죄는 사회적 인격살인 범죄"라며 "확산하지 않도록 신속하게 엄정대응하고, 허위영상물 삭제와 피해자 지원에 최선을 다하라”고 주문했다. 검찰은 우선 수사 단계에서 성적 수치심 유발 정도가 중한 아동·청소년 대상 허위영상물과 영리 목적 허위영상물 제작 사범에 대해 구속 수사를 원칙으로 정했다. 또한 허위영상물 제작 과정에 불법촬영 등 추가 범죄가 의심되는 경우 범행 전모를 규명해 엄단하고, 사건 발생 초기부터 경찰과 긴밀히 협조해 신속·적극 대응한다는 방침이다. 공판 단계에선 허위영상물 유포 등 실질적 피해 정도를 양형인자의 가중요소로 필수 적용해 구형에 반영하고, 검찰 의견을 적극 개진하며, 판결이 이에 미치지 못할 경우 상소 등에 나서기로 했다. 이 총장은 전날 징역 5년이 선고된 서울대 N번방 사건 공범 재판에 대해서도 항소를 적극 검토하라고 지시했다. 검찰은 아울러 대검 사이버·기술범죄수사과 또는 디지털성범죄피해자지원센터에 적극적으로 불법촬영물 삭제·차단 지원을 의뢰하는 등 피해자 보호·지원에도 착수한다는 계획이다. 대검은 “현재 검찰청 18곳에 지정된 ‘디지털성범죄 전담검사’를 31곳으로 확대해 전문 수사력을 강화하고 허위영상물편집죄의 법정형 상향, 허위영상물소지죄 신설 등 입법 논의도 충실히 지원할 것”이라며 “앞으로도 범죄 엄단과 피해자 일상 회복에 최선을 다하겠다”고 말했다. jjw@fnnews.com 정지우 기자

[파이낸셜뉴스] 서울경찰청이 딥페이크 등 허위 영상물 성범죄 근절을 위해 28일부터 7개월간 '허위영상물 집중대응 태스크포스(TF)'를 운영한다고 밝혔다. 허위영상물 집중대응 TF 총괄 팀장은 서울경찰청 사이버수사과장이 맡는다. 딥페이크 등 허위영상물 사건을 전담해 수사하는 3개팀과 사이버프로파일링 1개팀, 디지털포렌식 1개팀, 지원부서 1개팀 등 총 6개팀으로 운영된다. 허위영상물 집중대응 TF는 자동으로 딥페이크 영상물을 생성하는 '텔레그램 봇'과 관련 8개 프로그램에 대해 입건 전 조사에 착수했다. 텔레그램 봇이란 사진을 올리면 사진 속 얼굴과 타인의 나체를 합성해주는 프로그램이다. 또 '지인 능욕' 등 허위영상물이 유통되는 텔레그램 대화방 등에 대한 첩보를 적극적으로 발굴하고 피해 사례 확인 시 즉각 수사에 착수할 예정이다. 서울경찰청은 "허위영상물과 같은 디지털 성범죄는 피해자에게 씻을 수 없는 상처를 남기는 중대한 범죄"라며 "허위영상물 집중대응 TF를 중심으로 딥페이크 등 허위영상물 제작과 유포를 근절하기 위해 최선을 다하겠다"고 했다. yesyj@fnnews.com 노유정 기자

[파이낸셜뉴스]  딥페이크 등 ‘성적 허위영상물’ 시정요구가 2년새 3배 이상 폭증한 것으로 나타났다. 27일 방송통신심의위원회에 따르면 딥페이크 기술을 활용하여 연예인이나 지인의 얼굴을 음란한 이미지나 영상물과 합성하여 유포하는 ‘성적 허위영상물’에 대한 시정요구가 2021년 1913건에서 2023년 11월까지 5996건으로 늘었다. 이와 함께, 올해 1~11월 시정요구한 전체 디지털성범죄정보는 6만1272건으로 지난해 5만4994건을 이미 11% 넘어섰다. 위반내용별로는 성행위 영상 등 ‘불법촬영물’(5만4859건)과 ‘성적 허위영상물’(5996건)이 많았다고 설명했다. 특히 성적 수치심을 일으키는 문구와 함께 초상이나 신체 사진을 게시하는 ‘성 관련 초상권 침해’(225건), 디지털성범죄 피해자 인적사항을 노출하여 2차 피해를 유발하는 ‘피해자 신원공개’(192건) 정보가 드러나 주목하고 있다고 방통심의위는 덧붙였다. 한편 방통심의위는 24시간 365일 운영되는 상황실을 통해 24시간 이내에 디지털성범죄정보를 시정요구 조치하고 있다고 전했다. 디지털성범죄 피해 관련 문의나 상담은 ‘디지털성범죄 원스톱 신고 ARS(국번없이 1377 누르고 3번)’ 서비스를 이용하면 된다. jashin@fnnews.com 신진아 기자

[파이낸셜뉴스] 경찰이 제21대 대통령선거를 앞두고 선거와 관련된 피의자 946명을 검거해 수사 중이다. 경찰청 국가수사본부 관계자는 26일 경찰청 정례브리핑에서 지난 23일 기준 946명의 선거사범 중 14명을 검찰에 송치하고, 23명을 불송치 등 결정을 했다고 밝혔다. 나머지 909명에 대해선 수사를 이어가고 있다. 5대 선거범죄 피의자 수는 △허위사실유포 130명 △공무원선거관여 17명 △선거폭력 42명 △금품수수 6명 등 총 195명이 수사를 받고 있다. 대선 후보들에 대한 온라인상 살해 협박글은 총 12건으로 집계됐다. 이재명 더불어민주당 대통령 후보에 대한 협박은 11건으로 가장 많았고, 이준석 개혁신당 대통령 후보 협박 글은 1건이 접수돼 수사 중이다. 총 12건 중 6건이 검거됐고, 1건이 특정돼 경찰이 뒤를 쫓고 있다. 현수막과 벽보를 훼손한 건에 대해 경찰은 690명을 검거해 12명을 검찰에 넘겼고, 나머지 673명을 수사하고 있다. 검찰에 넘겨진 12명 중 1명은 구속 상태로 검찰에 넘겨졌다. 구속된 피의자는 각목에 과도를 연결해 현수막을 끊고 다녔는데, 현장에 출동한 경찰에게 흉기를 휘둘러 경찰이 피해를 입기도 했다. 경찰 관계자는 "이전 선거들에 비해 단속인원이 늘어난 것으로 파악됐다"며 "대력적으로 2배 이상 증가한 것으로 보고 있다"고 설명했다. 경찰은 딥페이크(허위영상물) 유포 수사 관련 건에 대해 전국적으로 12건을 접수해, 각 시도경찰청 사이버수사대에 배당해 수사를 진행하고 있다. 아울러 경찰은 최근 빈번하게 발생하고 있는 '정당 관계자 사칭 노쇼 사건'에 대해 50건을 접수해 수사하고 있다. 더불어민주당 관계자를 사칭한 건은 36건으로 가장 많았고, 국민의힘 9건, 피해자가 기억하지 못하는 등 기타 5건 순이다. 다만 더불어민주당이 주장하고 있는 '러시아산 소총 밀반입설'에 대해 경찰 관계자는 "신고나 제보는 따로 없었고, 단서 등이 확인되면 신속하고 면밀하게 수사할 계획"이라고 전했다. theknight@fnnews.com 정경수 기자

[파이낸셜뉴스] 경찰이 인공지능(AI)으로 생성된 딥페이크(허위 영상물) 콘텐츠인지 자체적으로 확인할 수 있는 시스템을 개발한다. 경찰청은 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 26일 개최했다. 이번 연구는 국내 경찰과 독일 노르트라베스트팔렌 내무부 범죄수사국과 진행된 첫 국제공동연구다. 경찰은 이번 연구를 통해 급증하는 딥페이크 콘텐츠의 진위를 자체 판별하는 시스템을 구축할 예정이다. 이를 통해 최근 목사방을 비롯해 빈번하게 발생하는 딥페이크 범죄를 사전에 예방한다는 목표다. 경찰은 오는 2027년까지 3년간 판별을 위한 데이터셋 구축과 통합시스템을 개발한다. 경찰은 올해 딥페이크를 비롯한 딥보이스, 가짜뉴스 등을 찾아내는 데이터셋을 구축하고 탐지모델을 고도화한다. 내년에는 머신러닝 모델 개발부터 배포와 운영 과정을 자동화하는 관리 시스템 기반의 성능 고도화를 진행할 예정이다. 최주원 경찰청 미래치안정책국장은 "이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다"고 전했다. theknight@fnnews.com 정경수 기자

딥페이크 가짜뉴스 피해 사례가 하루 걸러 발생하고 있다. 그럼에도 오는 6월 3일 21대 대통령 선거를 앞둔 각 후보자들은 핵심 경제공약으로 인공지능(AI)산업 육성에만 열성적이어서 안타깝다. 자신들 역시 유세 도중 딥페이크 가짜뉴스 피해자 경험을 했음에도 말이다. 지난 18일 첫 TV토론회가 열렸다. 이날 토론회 주제는 경제분야였다. 하지만 때아닌 이재명 더불어민주당 후보의 외교관을 두고 날 선 공방이 이어졌다. 김문수 국민의힘 후보와 이준석 개혁신당 후보는 한목소리로 "너무 친중국적이지 않냐"며 이 후보의 친중 외교관을 문제 삼았다. 이재명 후보는 "특정 사례를 극단화해 친중 몰이를 하는 것은 부적절하다"고 맞서며 토론회장 분위기는 고조됐다. 과거 이재명 후보의 '���' 발언이나 당대표 시절 중국대사의 위협적 발언에 침묵한 점이 문제가 된 것으로 판단된다. 여기에 또 한 가지 바로 딥페이크 가짜뉴스도 한몫했다는 생각이다. 토론회에 앞선 지난 14일. SNS를 통해 영상 하나가 빠르게 확산됐다. 이 영상은 꽤나 충격적이었다. 이재명 후보가 한국을 중국 속국으로 지칭하는 내용이 담겨 있었기 때문이다. 그러나 팩트체크 결과 해당 영상은 AI를 기반으로 한 딥페이크 가짜뉴스로 판명됐다. 비단 이재명 후보뿐 아니라 김문수·이준석 후보도 딥페이크 가짜뉴스 영상으로 홍역을 치렀다. 김문수 후보는 한덕수 전 국무총리와의 단일화 국면에서 서로 고함을 지르는 영상, 분노하며 물을 쏟는 영상 등 실제와 허위를 섞은 합성 영상물을 어렵지 않게 찾아볼 수 있다. 이준석 후보를 놓고는 정치브로커 명태균씨가 이른바 '황금폰'을 꺼내자 다급히 도망가는 영상, 황금폰 비밀번호를 알려달라며 우는 영상 등이 확인됐다. 경찰은 딥페이크 등 허위사실 유포를 5대 선거범죄로 규정하고 강도 높은 단속을 진행 중이다. 선관위는 위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청하고, 악의적인 딥페이크 영상물이 발견되면 고발할 방침이다. 사실 딥페이크를 활용한 가짜뉴스의 가장 큰 문제는 원천 차단이 어렵다는 것이다. 실제와 거의 구별되지 않는 점도 있지만 사람들이 이를 진짜로 믿고 SNS를 통해 아주 빠르게 확산시키고 또 가짜뉴스로 나중에 판명이 되더라도 이미 사람들은 사실에 크게 관심을 가지지 않기 때문이다. 딥페이크 가짜뉴스가 가능해진 것은 아이러니하게도 AI 기술력이 향상됐기 때문이다. 하지만 대선 후보들은 앞서 말한 것과 같이 AI 육성에 사활을 걸고 있다. 이재명 후보는 AI 주권 확보를 위해 100조원을 투자하겠다는 핵심 공약을 내세우고 있다. 김문수 후보 역시 AI 청년인재 20만명 양성과 함께 글로벌 기업 참여 민관합동펀드 100조원 조성 및 AI 유니콘기업 지원 등을 내걸었다. AI산업 육성책도 좋지만 AI윤리에 대한 논의가 보이지 않는 것이 아쉬울 뿐이다. 주위를 둘러보면 딥페이크 기술을 악용한 성착취 콘텐츠로 인해 피해를 보고 어려움을 호소하는 이가 많다. 하루 걸러 뉴스에 딥페이크 가짜뉴스 피해자들이 등장하고 있는 것도 이와 무관하지 않다. 그런 면에서 지난해 본지에서 개최한 'AI월드 2024' 강연자들의 말을 참고할 필요가 있다. 임대근 한국외대 컬처·테크놀로지융합대학장은 "'딥페이크는 범죄 또는 혁신이다'라고 이분법적으로 설정하는 게 무의미하다"며 "딥페이크는 그 자체가 범죄일 수 없고, 인간이 어떻게 활용하느냐에 따라 성격이 규정돼 갈 것"이라고 전했다. 그러면서 "순기능이 부각되고 강화되는 방향으로 갔으면 좋겠다"고 강조했다. 올해 대선은 AI공약이 주요 의제로 부각되는 첫 대선이다. 신기술은 나왔을 때 기술을 어떻게 사용하느냐에 따라 좋은 기술도, 나쁜 기술도 될 수 있다. 표를 얻기 위한 육성책도 좋지만 피해자가 발생하지 않도록 윤리 문제도 함께 고려돼야 할 시점이다. kjw@fnnews.com

[파이낸셜뉴스] #.초등학교 5학년 A군(12)은 사회관계망서비스(SNS) 상에서 자신이 성소수자인 것처럼 합성한 사진과 부모님 욕설이 담긴 게시글을 목격했다. A군은 플랫폼에 삭제를 요청했지만 거절당했다. 증거를 모아 재신청한 뒤에야 삭제가 이뤄졌지만 처리가 지연된 탓에 이 게시글이 다른 플랫폼까지 유포됐다. A군은 허위 사실이 유포되면서 우울감과 또래 관계 단절을 겪었다. 이후에도 별다른 도움을 받지 못하고 지금까지 정신과 치료를 받는 중이다. 또래의 인격을 짓밟아 심각한 신체적·정신적 건강 악화를 초래하는 학교폭력이 끊이지 않고 있다. 폭력의 진원지가 오프라인 공간에서 1020세대가 생각과 일상을 공유하는 사이버 공간으로 바뀌고 있지만 관련 제재는 미흡하다. 플랫폼 기업의 책임 있는 조치와 입법적 노력이 반드시 필요하다는 지적이 나온다. ■사이버폭력 피해자 절반 "자살충동 有" 22일 푸른나무재단이 발표한 '2025 학교폭력 실태조사 결과'를 보면, 지난해 학교폭력 가운데 사이버폭력은 전년 대비 1.9%포인트(p) 증가한 17%로 집계됐다. 언어폭력(28%) 다음으로 많은 규모다. 사이버폭력 중 하나인 사이버성폭력은 13.3%로 3년 새 4.8배 늘었다. 사이버성폭력 피해 가운데 딥페이크(허위 영상물)가 악용된 사례는 24.7%에 달했다. 기술 기반 신종 성폭력이 실제 학생들의 피해로 이어지고 있다는 의미다. 이 조사는 지난해 11월부터 지난 2월까지 전국 시·도의 초·중·고등학생 1만2002명과 보호자 520명을 대상으로 진행됐다.  사이버폭력 피해 학생들의 정신건강 문제도 심각했다. 이들의 47.5%는 자살·자해 충동을 경험한 것으로 나타났다. 전체 피해 학생이 겪은 비중(38%)보다 높았다. 사이버 성폭력 피해 학생의 자살·자해 충동 경험률(65.6%)도 전체 성폭력 피해 학생(44.8%)을 웃돌았다. 김미정 푸른나무재단 상담본부장은 "처음 올라온 게시글이 삭제됐다 해도 여러 플랫폼에 끝없이 반복 노출될 가능성이 크다. 피해 학생 입장에서는 평생의 고통"이라고 짚었다. 이어 "심각한 2차 피해가 장기화될 수 있음에도 신체적 폭력과 달리 겉으로 드러나지 않아 제대로 된 보호가 이뤄지지 못하는 경우가 많다"고 덧붙였다. ■"플랫폼 기업 사회적 책임 부각해야" 반면 플랫폼이 사이버폭력 가해 학생을 제재하는 비중은 낮은 것으로 나타났다. 이들 중 81.4%가 플랫폼으로부터 관련 내용을 전달받지 못했다고 답했다. 청소년들이 주로 이용하는 소셜 미디어 대부분이 구글과 메타(옛 페이스북), 틱톡 등 글로벌 기업이어서 제지가 어려운 것이 원인이다. 노윤호 법률사무소 사월 대표변호사는 "카카오톡 등 국내 기업은 경찰에서 수사 공문을 발송하면 익명의 가해자를 특정할 수 있다. 반면 해외 플랫폼은 거절하는 경우가 많다"며 "해외 기업들의 사회적 책임 강화가 필요하다"고 강조했다. 전수민 학교폭력 전문 변호사도 "해외 기업들이 우리나라에서 사업하려면 서비스 내에 실명 사용 기능을 넣도록 해 가해자를 쉽게 특정할 수 있도록 조치가 필요하다"고 말했다. 이같은 우려가 커지자 메타는 14세 이상 18세 이하 청소년을 대상으로 팔로우하는 사용자들끼리만 게시물과 메시지를 주고받을 수 있는 '10대 계정'을 도입했다. 자녀가 누구와 메시지를 주고받았는지 부모가 확인도 가능하다. 카카오톡은 보호자가 오픈채팅 이용을 제한할 수 있도록 올해부터 적용했다. 노 변호사는 "일반채팅에도 관련 기능을 도입해 사이버폭력을 조기에 감지해야 한다"고 조언했다.  사이버폭력에 대한 사회적 공감대를 통해 관련 정책을 강화해야 한다는 지적도 나온다. 재단 학부모 인식조사에 따르면 전체 학부모의 89.4%와 96%가 각각 '사이버폭력에 대한 플랫폼 기업 책무 이행'과 '청소년 SNS 사용 규제 강화'에 동의했다. 99%는 '딥페이크 등 신종 사이버성폭력 대응 대책 강화'가 필요하다고 답했다. 재단 측은 21대 대선후보들에게 △'사이버폭력 대응 공시제' 의무화 △사이버폭력 발생시 플랫폼의 삭제 및 제재 의무 법적 근거 마련 △국가 차원의 인공지능(AI) 사이버폭력 예측 모형 개발 등을 제안했다. 사이버폭력 대응 공시제는 플랫폼 사업자가 사이버폭력 대응 실적(접수 건수, 처리 결과, 조치 유형 등)을 정기적으로 공시하도록 하는 제도다. 박길성 푸른나무재단 이사장은 "플랫폼에서 발생하는 문제에 대해 플랫폼 기업과 정부, 관련 단체가 협업을 강화해야 한다"고 강조했다.  yesji@fnnews.com 김예지 기자

[파이낸셜뉴스]  여성 연예인과 일반인의 얼굴을 합성한 성적 허위 사진·영상(딥페이크)을 제작해 온라인에 배포한 운영자와 일행이 무더기로 검거됐다. 경남경찰청 사이버수사과는 아동·청소년의 성보호에 관한 법률 위반, 성폭력범죄의 처벌 등에 관한 특례법 위반으로 10대 고교생 A군을 구속했다고 22일 밝혔다. A군은 지난해 11월부터 지난 4월까지 여성 연예인과 일반인의 얼굴을 나체 사진·영상물에 500여 개 합성해 텔레그램 대화방 3곳을 개설하고 배포한 혐의를 받고 있다. A군 외에도 23명이 해당 대화방에서 3500여개의 허위 사진·영상물을 제작하거나 재배포한 혐의로 불구속 입건됐다. 23명 중 15명은 10대, 나머지 8명은 20∼40대로 조사 결과 확인됐다. 경찰은 최근 인공지능(AI) 플랫폼 발달로 다수 발생하는 데다 딥페이크 물의 경우 실제처럼 정교하다는 특징을 보인다고 설명했다. 이에 경찰은 지난 2월 텔레그램에서 해당 범죄에 대한 첩보를 입수한 뒤, 위장 수사와 텔레그램과의 공조를 통해 이들을 모두 검거했다. y27k@fnnews.com 서윤경 기자

문재인 전 대통령의 배우자 김정숙 여사의 옷값에 청와대 특수활동비 등이 사용됐다는 의혹을 수사 중인 경찰이 대통령기록관으로부터 필요한 자료를 모두 확보했다고 밝혔다. 박현수 서울경찰청장 직무대리는 19일 정례 기자간담회에서 "대통령기록관 압수수색을 지난 9일 마치고 압수물 분석을 진행하고 있다"며 이 같이 말했다. 경찰은 서울고법으로부터 세종시 대통령기록관에 대한 압수수색영장을 발부받아 지난달 10일부터 영장을 집행했다. 경찰 관계자는 "국가기록원 측에서 협조받아 정상적으로 압수수색이 진행됐다"며 "한 달 정도 소요된 것은 대통령기록물 이관작업이 시기적으로 겹쳤기 때문이다. 시간은 걸렸지만 확보할 수 있는 압수물은 충분히 확보했다"고 설명했다. 경찰은 제21대 대통령선거를 앞두고 선거사건 총 276건을 접수해 363명을 검거했다고 밝혔다. 또 경찰은 350명에 대한 수사를 진행 중이며, 검찰에 6명을 송치하고 7명을 불송치했다. 현수막 훼손 등으로 구속된 이들도 있다. 서울 동대문구에 걸린 이재명 더불어민주당 후보의 선거 현수막을 훼손한 70대 A씨와 부산 사하의 한 지하철역 인근에서 국민의힘 선거운동원을 폭행한 60대 B씨가 지난 17일 구속됐다. 363명 중 5대 선거범죄로 검거된 인원은 총 149명으로 집계됐다. 유형별로는 △금품수수 6명 △허위사실유포 111명 △공무원선거관여 16명 △선거폭력 12명 △단체동원 4명이다. 선거용 현수막과 벽보를 훼손한 185명도 검거돼 경찰의 수사를 받고 있다. 아울러 경찰은 딥페이크(허위영상물) 선거범죄에 대한 수사를 이어가고 있다. 정경수 기자