[파이낸셜뉴스] 한컴그룹 계열사 한컴위드는 숭실대학교를 주관기관으로, 연세대학교, 성균관대학교와 함께 경찰청의 ‘허위조작 콘텐츠 진위 판별 시스템 개발’ 프로젝트에 국내 연구기관으로 참여한다고 5일 밝혔다. 이번 사업은 2027년까지 앞으로 3년간 허위조작 콘텐츠 탐지를 위한 데이터세트 구축 및 통합 탐지 시스템을 개발하는 것이 주요 골자다. 해당 시스템은 허위 정보를 식별해 사이버 범죄를 예방하고 사회적 혼란을 줄이는 것이 목표다. 초기 단계인 올해는 탐지를 위한 데이터세트 구축과 탐지 모델의 고도화에 집중하며, 내년부터는 머신러닝 기반 자동화 관리 시스템(MLOps)을 적용한 통합 탐지 시스템의 성능 향상과 실증 테스트를 본격적으로 추진할 예정이다. 핵심 기술 연구는 숭실대를 중심으로 성균관대, 연세대, 독일 부퍼탈대, 한컴위드가 함께 수행한다. 숭실대는 딥페이크 음성 탐지 모델을, 성균관대는 딥페이크 영상 및 가짜뉴스 탐지 모델을, 연세대는 표준화된 데이터세트 구축을 각각 담당한다. 부퍼탈대는 다국어 데이터세트 수집과 글로벌 협력 연구를 맡으며, 한컴위드는 다양한 탐지 기술을 통합한 MLOps 기반 시스템의 개발과 실증을 진행한다. 통합 탐지 시스템은 딥페이크 범죄 수사, 비대면 인증 및 심사 과정에서의 진위 판별, 가짜뉴스 유통 추적 등 다양한 분야에 적용될 수 있다. 이를 통해 국가 및 공공기관은 물론 민간 산업 전반의 허위조작 콘텐츠 대응 역량이 크게 강화될 것이라는 기대다. 특히 이번 프로젝트는 경찰청이 주관한 최초의 국제 공동연구 사례로, 독일 기관과 공동으로 연구·개발한다. 딥페이크 탐지 시스템은 언어 차이나 인종의 외형 특성에 따라 성능이 크게 달라질 수 있어 단일 국가나 특정 기관의 탐지 기술만으로는 한계가 있다. 이에 신뢰할 수 있는 탐지 시스템을 구축하려면 다각도의 협력과 기술 공유가 필수적이다. 한컴위드 송상엽 대표는 “인공지능(AI) 기술 발전으로 딥페이크 및 딥보이스 기반의 사이버 범죄가 급증하고 있다”며 “각 기관의 전문성을 바탕으로 고객 요구에 최적화된 맞춤형 설루션을 개발하고, 상용화에 성공하겠다”고 밝혔다.  jiany@fnnews.com 연지안 기자

[파이낸셜뉴스] 경찰이 인공지능(AI)으로 생성된 딥페이크(허위 영상물) 콘텐츠인지 자체적으로 확인할 수 있는 시스템을 개발한다. 경찰청은 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 26일 개최했다. 이번 연구는 국내 경찰과 독일 노르트라베스트팔렌 내무부 범죄수사국과 진행된 첫 국제공동연구다. 경찰은 이번 연구를 통해 급증하는 딥페이크 콘텐츠의 진위를 자체 판별하는 시스템을 구축할 예정이다. 이를 통해 최근 목사방을 비롯해 빈번하게 발생하는 딥페이크 범죄를 사전에 예방한다는 목표다. 경찰은 오는 2027년까지 3년간 판별을 위한 데이터셋 구축과 통합시스템을 개발한다. 경찰은 올해 딥페이크를 비롯한 딥보이스, 가짜뉴스 등을 찾아내는 데이터셋을 구축하고 탐지모델을 고도화한다. 내년에는 머신러닝 모델 개발부터 배포와 운영 과정을 자동화하는 관리 시스템 기반의 성능 고도화를 진행할 예정이다. 최주원 경찰청 미래치안정책국장은 "이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다"고 전했다. theknight@fnnews.com 정경수 기자

[파이낸셜뉴스]  여성 연예인과 일반인의 얼굴을 합성한 성적 허위 사진·영상(딥페이크)을 제작해 온라인에 배포한 운영자와 일행이 무더기로 검거됐다. 경남경찰청 사이버수사과는 아동·청소년의 성보호에 관한 법률 위반, 성폭력범죄의 처벌 등에 관한 특례법 위반으로 10대 고교생 A군을 구속했다고 22일 밝혔다. A군은 지난해 11월부터 지난 4월까지 여성 연예인과 일반인의 얼굴을 나체 사진·영상물에 500여 개 합성해 텔레그램 대화방 3곳을 개설하고 배포한 혐의를 받고 있다. A군 외에도 23명이 해당 대화방에서 3500여개의 허위 사진·영상물을 제작하거나 재배포한 혐의로 불구속 입건됐다. 23명 중 15명은 10대, 나머지 8명은 20∼40대로 조사 결과 확인됐다. 경찰은 최근 인공지능(AI) 플랫폼 발달로 다수 발생하는 데다 딥페이크 물의 경우 실제처럼 정교하다는 특징을 보인다고 설명했다. 이에 경찰은 지난 2월 텔레그램에서 해당 범죄에 대한 첩보를 입수한 뒤, 위장 수사와 텔레그램과의 공조를 통해 이들을 모두 검거했다. y27k@fnnews.com 서윤경 기자

[파이낸셜뉴스] 모니터랩이 장중 강세다. 더불어민주당 등 정치권에서 딥페이크 불법 영상물 유통 플랫폼에 대한 처벌 강화 방안을 대선 공약으로 추진하면서 영향을 받은 것으로 풀이된다. 15일 오전 11시 10분 현재 모니터랩은 전 거래일 대비 3.15% 오른 4755원에 거래되고 있다. 더불어민주당은 디지털 성범죄 대응 공약을 이르면 다음 주 초까지 발표한다고 이날 밝혔다. 딥페이크 영상을 제작하거나 퍼뜨리는 범인은 못 잡는 경우가 많다는 점에 착안해 영상을 퍼뜨리는 매개체를 제재하겠다는 계획이다. 민주당은 이와 함께 딥페이크 제작, 유통, 소지에 대한 처벌도 대폭 강화한다는 방침을 세웠다. 여성가족부와 한국여성인권진흥원이 발표한 '2024 디지털성범죄 피해자 지원 보고서'에 따르면 지난해 중앙디지털성범죄피해자지원센터가 지원한 피해자는 전년보다 14.7% 증가한 1만305명으로, 센터 출범 이래 처음으로 1만명을 넘었다. 특히 딥페이크 등 디지털 기술을 활용한 합성, 편집 피해 건수는 전년보다 두배 넘게 증가하며 가장 두드러진 증가세를 보였다. 모니터랩은 B2B SaaS 전문기업으로, 웹방화벽과 보안웹게이트웨이 서비스 분야에서 국내 시장을 선도하고 있다. 이 회사는 지난해 과학기술정보통신부와 정보통신산업진흥원이 주관하는 '2024 AI 바우처 지원 사업'에 선정돼 AI 기반 웹 공격 분석 기술을 타르고스 보안관제 서비스에 적용하는 프로젝트를 추진하기도 했다. dschoi@fnnews.com 최두선 기자

【파이낸셜뉴스 울산=최수상 기자】 딥페이크로 만든 가상 인물로 투자 사기 행각을 벌여 120억원을 가로챈 일당이 경찰에 붙잡혔다. 울산경찰청 반부패·경제범죄수사대는 로맨스 스캠(연애 빙자 사기) 일당 45명을 검거해 주범 A씨 등 10명을 범죄단체조직·가입·활동 및 특정범죄 가중처벌 등에 관한 법률 위반 혐의로 구속하고, 채팅 담당 직원 등 나머지 35명을 입건했다고 30일 밝혔다. 이들은 먼저 각종 사회관계망서비스(SNS)에 있는 일반인 사진 등을 모은 후 딥페이크 기술을 통해 가상 인물인 34세 여성 B씨를 만들었다. 이들은 B씨가 실존하는 인물인 것처럼 보이기 위해 혈액형과 부모 직업, 가정 환경, 학력, 자산 등을 구체적으로 설정한 후 채팅 앱에서 남성들에게 무작위로 말을 걸었다. 일단, 피해자와 연락을 시작하면 B씨 역할을 맡은 채팅 담당 직원들이 미리 준비한 10∼15일 치 시나리오에 따라 매일 채팅하면서 마치 교제하는 사이가 된 것처럼 신뢰를 쌓았다. 딥페이크 인물 B씨를 통해 영상통화까지 하면서 상대방이 완전히 믿도록 했다. 이 과정에서 B씨는 자신이 투자를 통해 서울 강남에 40억원대 아파트를 소유하고 있으며, 카페도 운영 중이라고 하면서 상대방에게 "같이 투자 공부를 해보자"라고 권유했다. 이 말에 속은 피해자들은 B씨가 알려주는 유튜브 채널에 접속했고, 이때 해당 채널에 등장해 '경제 전문가' 행세를 하는 다른 일당이 피해 남성들에게 개인적으로 연락해 실제 존재하는 투자회사의 가짜 투자사이트와 대포통장을 알려주며 가상화폐·주식 투자금을 보내도록 유도했다. 피해 남성들은 가짜 사이트에서 자신의 투자금이 수익을 나는 것을 보고 안심했으나 수익금을 찾겠다고 하면, B씨는 입원했다는 둥 핑계를 대면서 그대로 연락을 끊어버렸다. A씨 일당은 이런 식으로 지난해 3월부터 올해 2월까지 100여 명을 상대로 120억원을 뜯어냈으며 가상화폐나 상품권 매매 등을 통해 현금화했다. 피해자 중에는 장애인이나 중소기업 사장, 주부, 노인 등도 있으면 적게는 200만원에서 많게는 8억8000만원까지 뜯겼다. 일부는 대출까지 받아 투자한 것으로 드러났다. 피해자 신고를 받은 경찰은 수사를 통해 대포통장과 대포폰 등을 확인했으며, 캄보디아 현지에 피의자들을 인터폴을 통해 수배 조치했다. 현재 총책 부부 2명은 캄보디아 당국에 구금된 상태로, 경찰은 송환 절차를 진행 중이다. 경찰 관계자는 "로맨스 스캠 범죄조직에 대한 수사를 계속하고 있다"라며 "해외 도피 중인 피의자들도 끝까지 추적해 검거하겠다"라고 말했다. ulsan@fnnews.com 최수상 기자

[파이낸셜뉴스] 학생들이 딥페이크 성범죄나 불법촬영 등 디지털 성폭력 위험으로부터 보호받고 피해 발생 시 학교 구성원이 신속·정확하게 대응하도록 돕는 안내서가 마련됐다. 교육부는 학교 디지털 성폭력 초기 대응을 위한 '디지털 성폭력 SOS 가이드'를 5종 발간했다고 22일 밝혔다. 이 안내서는 학교 내에서 발생할 수 있는 디지털 성폭력 유형과 디지털 성폭력 발생 시 학생·교사·학부모 등 학교 구성원의 상황별 대응방법 및 도움 받을 수 있는 기관, 예방을 위한 수칙 등을 담고 있다. 또 대상별로 이해를 돕기 위해 초등학생용, 중·고등학생용, 대학생용 등 총 3종의 학생용과 교사용, 학부모용으로 만들어졌다. 학생 본인이 피해를 입은 경우의 대응 요령뿐만 아니라 친구나 제3자가 피해를 입은 상황에서의 올바른 주변인 역할도 안내하고 있다. 또 가해행동을 했을 때 잘못된 행위에 책임지는 자세와 이를 반복하지 않도록 하는 내용도 담았다. 이와 함께 자녀 혹은 학생이 피해를 입거나 가해행동을 한 상황에서 학부모·교사의 적절한 대처 방안 및 자녀·학생과 함께하는 예방 수칙도 담았다. 교육부는 지난 3월 31일부터 안내서를 각 시도교육청 및 학교에 배포하고, 교육부 누리집, 교원 전용 디지털 플랫폼 '잇다(ITDA) 사이트' 및 학부모 온누리 누리집에 탑재해 누구나 자유롭게 활용할 수 있도록 했다. 배동인 교육부 정책기획관은 "교육부는 지난해 딥페이크 성범죄 사건 이후 신속한 대응 및 디지털 성폭력 교육자료 제작·보급 등 디지털 성폭력 예방과 피해자 보호·지원 등을 위해 노력해 왔다"며, "앞으로도 학교가 디지털 성폭력으로부터 안전한 공간이 될 수 있도록 최선을 다해 지원하겠다"고 말했다.  monarch@fnnews.com 김만기 기자

6·3 대선을 앞두고 '딥페이크 영상'이 선거범죄의 복병으로 부상하고 있다. '챗GPT'등 별다른 기술 없이 딥페이크 영상을 제작할 수 있는 프로그램이 보편화하면서 범죄도 급증하는 양상이다. 수사기관들은 집중 단속에 나서는 등 엄중 대응을 예고했다. 21일 경찰에 따르면 서울경찰청은 이재명 더불어민주당 대선 경선 후보 딥페이크 영상물을 제작하고 게시한 혐의로 고발된 사건 6건을 사이버수사대에 배당하고 수사에 착수했다. 한동훈 국민의힘 대선 경선 후보의 외모를 비하하는 내용의 딥페이크 영상도 SNS를 통해 유포되는 등 다른 피해 사례도 정치권에서 속출하고 있다. 불법 딥페이크 영상은 최대 7년 이상의 징역에 처할 수 있는 중범죄에 해당한다. 공직선거법 제82조의 8과 제250조에 따르면 선거일 전 90일부터 딥페이크 영상을 제작·편집·유포·상영·게시하는 행위를 하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하거나 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 수사기관들도 올해 대선에서 딥페이크 영상을 집중 모니터링한다는 방침이다. 대검찰청은 전국 검찰청에 선거전담수사반을 편성하고 단계별 비상근무에 들어간다. 경찰 역시 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속한다는 계획이다. 선관위는 지난 9일부터 네이버·카카오 등과 민·관 합동 특별대응팀을 꾸려 선거 딥페이크에 적극 대응 중이다. 경찰청 선거사범 수사상황실 관계자는"최대한 선관위·검찰과 협조해 엄정하게 수사할 것"이라고 경고했다. kyu0705@fnnews.com 김동규 정경수 기자

[파이낸셜뉴스]6·3 대선을 앞두고 '딥페이크(Deepfake) 영상'이 선거범죄의 복병으로 부상하고 있다. '챗GPT'등 별다른 기술 없이 딥페이크 영상을 제작할 수 있는 프로그램이 보편화하면서 범죄도 급증하는 양상이다. 수사기관들은 집중 단속에 나서는 등 엄중 대응을 예고했다. 21일 경찰에 따르면 서울경찰청은 이재명 더불어민주당 대선 경선 후보 딥페이크 영상물을 제작하고 게시한 혐의로 고발된 사건 6건을 사이버수사대에 배당하고 수사에 착수했다. 앞서 이 후보 선거대책위원회는 지난 16일 보수 유튜버를 비롯한 17명을 명예훼손과 공직선거법 위반 등 혐의로 고발했다. 이 후보의 선대위 공보단장인 박수현 의원은 지난 11일 "이 후보가 김혜경 여사에게 욕설하는 내용의 딥페이크 영상 제작·유포 시도가 있다는 제보가 접수됐다"며 "과거 수사기관 조사를 받고 귀가한 김 여사에게 이 후보가 험악한 표현을 쓰며 나무라는 상황으로 설정된 영상"이라고 전했다. 딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로 인공지능(AI) 기술을 활용해 진짜처럼 보이는 가짜 영상을 만들어내는 것을 뜻한다. 이 후보가 부인에게 욕하는 영상을 비롯해 한동훈 국민의힘 대선 경선 후보의 외모를 비하하는 내용의 딥페이크 영상도 사회관계망서비스(SNS)를 통해 유포되는 등 다른 피해 사례도 정치권에서 속출하고 있다. 딥페이크 영상에 의한 선거범죄는 생성형 AI기술이 비약적으로 발달한 최근 몇 년 사이에 갑자기 부상해 그 규모의 추이를 파악하기 어려울 정도라고 검찰은 설명했다. 다만 딥페이크 영상이 제작·유통되는 사이버 공간에서 이뤄지는 선거범죄의 증가세는 가파르다는 것이 확인 가능하다. 국회 행정안전위원회 소속 한병도 민주당 의원이 지난해 9월 중앙선거관리위원회로부터 제출받은 국정감사 자료를 보면 사이버상 공직선거법 위반 행위는 제22대 총선에서 7만4172건으로 12년 전인 제19대 총선의 1792건과 견줘 41배 폭증했다. 불법 딥페이크 영상은 최대 7년 이상의 징역에 처할 수 있는 중범죄에 해당한다. 공직선거법 제82조의8과 제250조에 따르면 선거일 전 90일부터 딥페이크 영상을 제작·편집·유포·상영·게시하는 행위를 하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하거나 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 수사기관들도 올해 대선에서 딥페이크 영상을 집중 모니터링한다는 방침이다. 대검찰청은 전국 검찰청에 선거전담수사반을 편성하고 단계별 비상근무에 들어간다. 경찰 역시 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속한다는 계획이다. 선관위는 지난 9일부터 네이버·카카오 등과 민·관 합동 특별대응팀을 꾸려 선거 딥페이크에 적극 대응 중이다. 경찰청 선거사범 수사상황실 관계자는 “디테일하게 말하려면 수사기법을 설명할 수밖에 없기 때문에 양해 바란다”면서도 “선거법은 공소시효가 6개월밖에 되지 않는 만큼 최대한 선관위· 검찰과 협조해 엄정하게 수사할 것”이라고 경고했다. kyu0705@fnnews.com 김동규 정경수 기자

[파이낸셜뉴스] 경찰이 대통령 선거를 앞두고 이재명 더불어민주당 대통령 예비후보에 대한 허위 영상물(딥페이크)을 제작하고 게시한 이들에 대한 수사에 착수했다. 21일 경찰에 따르면 서울경찰청은 이 후보의 딥페이크 영상물을 제작하고 게시한 14명(6건)에 대한 고발건을 사이버수사대에 배당하고 수사에 착수했다. 공직선거법 위반 혐의로 고발된 3명(3건) 사건은 공공범죄수사대에 배당해 수사 중이다. 앞서 이 후보 캠프는 지난 16일 보수 유튜버 성창경씨 등 17명을 명예훼손과 공직선거법 위반 등 혐의로 서울경찰청에 고발장을 제출했다. theknight@fnnews.com 정경수 기자

[파이낸셜뉴스] 일명 '서울대 딥페이크' 사건으로 불리는 디지털 성범죄 사건의 주범이 항소심에서 감형 받았다. 서울고법 형사8부(김성수 김윤종 이준현 부장판사)는 18일 성폭력처벌법 위반(허위 영상물편집·반포 등) 혐의로 구속기소 된 주범 박모씨(41)에게 징역 9년을 선고했다. 1심에선 징역 10년을 판결했다. 1심에서 징역 4년을 선고받은 공범 강모씨(32)도 이날 징역 3년 6개월로 감형됐다. 재판부는 이들에게 80시간의 성폭력 치료 프로그램 이수와 아동·청소년 관련기관에 5년간 취업제한도 명령했다. 서울대 딥페이크 사건은 서울대 출신 박씨와 강씨 등이 지난 2021년 7월부터 지난해 4월까지 대학 동문 등 여성 수 십 명의 사진을 딥페이크 기술로 음란물과 합성해 텔레그램으로 유포한 것이다. 일명 '서울대 N번방' 사건으로 알려지기도 했다. 조사 결과 이들이 제작·유포한 음란물은 각각 100여건·1700여건이었고 확인된 피해자는 서울대 동문 12명을 포함해 61명인 것으로 파악됐다. 박씨가 만든 텔레그램 단체 채팅방은 20여개였고 선별적으로 채팅방 링크를 주는 방식으로 초대해 음란물을 유포한 것으로 나타났다. 특히 피해자 중에는 미성년자도 포함돼 청소년성보호법 위반(성착취물 제작·배포 등) 혐의도 적용됐다. 공범인 또 다른 박모씨(30)는 지난달 2심에서 징역 4년6개월을 선고받았다. 재판부는 "피고인들이 지인 얼굴 사진을 이용해 성적 모멸감을 들게 하는 사진과 영상을 만들었다는 점에서 죄질이 불량하다"며 "박씨는 그 사진을 피해자들에게 전송하고 농락해 비난 가능성이 크다"면서도 일부 피해자들과 합의했다는 점을 들어 이같이 선고했다. y27k@fnnews.com 서윤경 기자