[파이낸셜뉴스] #. 인격을 말살하고 사회를 병들게 하는 딥페이크 범죄를 더 이상 방치해서는 안 된다. 국민들을 디지털 성범죄로부터 보호하기 위해 관련 부처들이 긴밀히 협의해 종합 대책을 마련하고 협력도 강화해야 한다. #. 삭제 해야하는 불법 촬영물 27만건, 비용은 가해자에게 지불하라 하고 모두 삭제하게 해주세요. 국민권익위원회는 딥페이크 성범죄 민원주의보를 발령하고, 관계기관에 디지털 성범죄 단속·처벌 강화, 범죄 피해 대응 및 피해자 보호 체계 마련 등 조치를 강화하도록 했다고 21일 밝혔다. 국민권익위가 지난 2021년 11월부터 올해 10월까지 3년간 민원분석시스템에 수집된 디지털 성범죄 관련 민원 1096건의 분석 결과 ‘디지털 성범죄’ 관련 민원은 2024년 월평균 50건으로 2023년(월평균 30건) 대비 1.7배 증가했다. 또한, 올해 8월 접수된 민원은 전년 동월 35건 대비 178건(6.1배) 증가한 213건으로 나타났다. 디지털 성범죄 관련 주요 민원으로는 △딥페이크 성범죄 신고 △처벌 등 대응 강화 요구 △교육 요구 및 교육 자료 개선 등이 있었다. 국민권익위는 ‘민원주의보’를 발령하는 한편, 디지털 성범죄 단속·처벌 강화, 범죄 피해 대응 및 피해자 보호 체계 마련, 디지털 성범죄 예방 강화 등을 관계기관에 제시했다. 한편 국민권익위는 지난 한 달 동안 민원분석시스템에 수집된 10월 민원빅데이터 동향을 발표했다. 지난달 민원 발생량은 약 123만3000건으로, 이전 118만건 대비 4.0% 증가했다. 민원이 가장 많이 증가한 지역은 10.6%가 늘어난 제주특별자치도이며, ‘불법 주정차’ 관련 민원이 가장 많았다. 중앙행정기관에서는 산업통상자원부 ‘LNG 열병합발전소 허가 요구’ 민원 등이 총 3,202건 발생해 지난달보다 362.7% 증가했다.   imne@fnnews.com 홍예지 기자

[파이낸셜뉴스] 과학기술정보통신부는 20일 온드림소사이어티 커뮤니티 스페이스에서 '이미지 합성 기술(딥페이크) 바로보다'를 주제로 ‘제3회 디지털 심화쟁점 콜로키움’을 개최했다고 밝혔다. 디지털 심화쟁점 콜로키움은 26개 부·처·청이 합동으로 마련한 ‘새로운 디지털 질서 정립 추진계획'의 후속 조치로 인공지능의 안전·신뢰, 디지털 접근성 주제에 이어 이번에 3번째로 개최됐다. 3차 콜로키움에서는 이독실 과학평론가가 딥페이크 기술에 대한 이해와 올바른 활용방안을 위주로 '딥페이크는 우리 삶을 어떻게 바꿀 것인가'에 대해 강연했다. 표창원 범죄과학연구소장은 범죄 심리학적 관점에서 딥페이크 범죄의 문제 원인과 대응 방안을 제시한 '딥페이크 가짜뉴스의 범죄심리와 대책'을 발표했다. 정부는 딥페이크 범죄 대응을 위해 민·관 협력 대응 체계를 구축하고 지난 5월 국무회의에서 보고된 범부처 ‘새로운 디지털 질서 정립 추진계획’에 포함된 핵심 정책과제 중 하나로 딥페이크 가짜뉴스 근절을 위해 부처 간 협업을 이어왔다. 이번 콜로키움은 딥페이크와 가짜뉴스에 관심 있는 누구나 참여 가능하며, 공론화 플랫폼인 디지털 공론장을 통해 참가 신청을 받고 있다. 정부는 그간 디지털 공론장에서는 딥페이크를 활용한 가짜뉴스와 관련, 대국민 설문조사와 정책아이디어 공모전을 실시했다, 디지털 심화시대에 새롭게 제기되는 쟁점들을 학생들의 시각에서 해결책을 모색하는 토론대회와 논문공모전을 개최하며 디지털 태생(네이티브) 세대의 다양한 의견을 수렴했다. mkchang@fnnews.com 장민권 기자

[파이낸셜뉴스] 서울경찰청과 서울자치경찰위원회는 대학수학능력시험(수능) 이후 겨울방학 기간을 맞아 '청소년 온라인범죄 스쿨벨'을 발령한다고 19일 밝혔다. 스쿨벨은 청소년 관련 범죄를 학생, 교사, 학부모에게 카드뉴스 형식으로 신속하게 알리는 시스템이다. 서울시내 초·중·고 전체 1374개교와 학부모 78만명에게 앱 또는 문자를 통해 전파된다. 서울경찰청과 서울시교육청이 협력해 2021년 구축했다. 청소년 온라인범죄는 △불법 온라인 도박 △딥페이크 등 디지털 성범죄 △마약 △중고물품 등 사기 등이 대상이다. 고등학생 A군은 도박사이트 계정을 주변 친구들에게 제공하고 도박 자금을 빌려준 뒤 이를 갑지 못하면 부모를 협박해 경찰에 검거됐다. B군은 성인 대상 딥페이크(허위 영상물)을 만들어달라고 동급생에게 부탁했다. 부탁을 받고 영상을 제작한 동급생과 B군 모두 성폭력특례법상 '허위영상물 제작 공범'으로 검거됐다. 다이어트 목적으로 처방받은 약을 택배로 판매하거나 20만원 상품권을 10만원에 판다고 속인 학생들도 검거됐다. 이번에 발령되는 스쿨벨은 총 4편의 카드뉴스 형식으로 제작됐다. '온라인 범죄는 반드시 처벌된다'는 메시지와 함께 실제 검거 사례와 적용 법조, 유의사항 등을 담았다. 온라인 범죄 피해를 받거나 인지하게 된 경우 112, 117로 신고하거나 담당 학교전담경찰관(SPO)에게 통보해달라는 내용도 담겼다. 아울러 겨울방학이 종료되는 2월 9일까지 '청소년 온라인범죄 집중 예방기간'을 운영한다. 스쿨벨 발령과 동일한 범죄를 대상으로 SPO 150명이 온라인범죄 예방 교육, 첩보 수집 활동 등을 진행한다. 김봉식 서울경찰청장은 "최근 청소년 온라인범죄가 큰 사회적 문제를 일으켜 적극적인 대응이 중요하다"며 "단속, 검거 외에도 관련기관들과 피해 확산 방지를 위한 예방활동과 재발방지 등을 종합적으로 접근할 것"이라고 말했다. unsaid@fnnews.com 강명연 기자

지방의회 의원들을 상대로 한 딥페이크 불법 합성물 피해 신고가 들어와 경찰이 광역단위 수사에 착수했다. 17일 경찰청에 따르면 서울경찰청 사이버범죄수사대 등 지방청은 서울과 인천, 부산과 광주, 대구 등 기초의원 소속 30여명의 딥페이크 협박 메일에 대한 수사를 벌이고 있다. 피해자는 전부 남성 의원으로, 20대부터 40대까지인 것으로 파악됐다. 딥페이크 협박은 주로 메일을 통해 이뤄졌는데, 인터넷에 업로드된 의원들의 사진을 나체의 남성과 여성이 누워있는 사진에 합성한 경우가 많은 것으로 전해졌다. 메일을 보낸 발신자는 불법 합성물 삭제를 대가로 5만달러 상당의 암호화폐를 요구하며 QR코드를 보내 접속을 유도했다. 이러한 범행 수법을 지방의회 의원들을 상대로 시험한 뒤 향후 국회의원이나 고위공직자를 상대로 타깃을 확대할 수 있다는 전망이 제기됐다. theknight@fnnews.com 정경수 기자

[파이낸셜뉴스] 지방의회 의원들을 상대로 한 딥페이크 불법 합성물 피해 신고가 들어와 경찰이 광역단위 수사에 착수했다. 17일 경찰청에 따르면 서울경찰청 사이버범죄수사대 등 각 지방청은 서울과 인천, 부산과 광주, 대구 등 기초의원 소속 30여명의 딥페이크 협박 메일에 대한 수사에 착수했다. 피해자는 전부 남성 의원으로, 20대부터 40대까지인 것으로 파악됐다. 딥페이크 협박은 주로 메일을 통해 이뤄졌는데, 인터넷에 업로드된 의원들의 사진을 나체의 남성과 여성이 누워있는 사진에 합성한 경우가 많은 것으로 전해졌다. 해당 메일에는 "당신의 범죄 증거를 갖고 있다", "어떤 영향이 터지는지 알고 있을 것", "문자를 보면 당장 연락하라" 등의 협박 메시지도 담긴 것으로 알려졌다. 메일을 보낸 발신자는 불법 합성물 삭제를 대가로 5만달러 상당의 암호화폐를 요구하며 QR코드를 보내 접속을 유도했다. 이러한 범행 수법을 지방의회 의원들을 상대로 시험한 뒤 향후 국회의원이나 고위공직자를 상대로 타깃을 확대할 수 있다는 전망이 제기됐다. 합성 기술을 정교화해 향후 본격적인 선거 국면에서 '딥페이크 공작'에 나설 가능성도 배제할 수 없다는 것이 전문가들의 분석이다. 전문가들은 "딥페이크 불법 협박을 막기 위해 딥페이크 처벌 강화, 워터마크 표시 의무화 등 대책과 함께 합성물 유통 경로인 플랫폼이 자발적 차단을 강화해야 한다"고 지적했다. theknight@fnnews.com 정경수 기자

[파이낸셜뉴스] 서울 강동구는 이수희 강동구청장이 '딥페이크(이미지 합성 기술) 범죄예방 릴레이 챌린지'에 동참했다고 13일 밝혔다. 정한규 서울도봉경찰서장을 시작으로 다양한 기관에서 동참하고 있는 이번 챌린지는 누리소통망에 딥페이크 허위 합성물 제작 및 유포가 명백한 범죄행위임을 알리는 내용을 담아 올린 후, 후속 주자를 지명하는 방식으로 진행된다. 김경호 광진구청장의 지목을 받은 이 구청장은 지난 12일 구청장실에서 '불법합성물 딥페이크 제작, 소지, 유포 OUT!'이라는 슬로건을 들고 딥페이크 범죄예방에 대한 사회적 관심을 촉구했다. 이 구청장은 “딥페이크를 이용한 허위 영상물은 제작뿐만이 아닌 시청만으로도 처벌이 되는 범죄이다”라며 “이번 챌린지가 청소년들이 안전한 환경에서 성장할 수 있는 계기가 되기를 바란다“라고 전했다. 이 구청장은 다음 참여자로 박일하 동작구청장, 최호권 영등포구청장을 지목했다.  banaffle@fnnews.com 윤홍집 기자

[파이낸셜뉴스] 딥페이크 기술을 악용해 자녀의 얼굴을 합성, 부모에게 금전을 요구하는 전화금융사기가 발생해 주의가 촉구된다. 7일 경찰청 국가수사본부는 지난 10월께 접수된 외국인 A씨의 사건을 공개했다. A씨는 한국을 여행하던 딸이 방 안에 감금된 채 울면서 "살려달라"고 하는 영상을 받았다. 영상을 보낸 상대방은 "당신 딸을 납치했다. 딸을 살리고 싶으면 합의금을 보내라"고 부모를 협박했고, 부모는 이 사실을 영사관에 알렸다. 신고를 받고 출동한 한국 경찰은 즉각 딸의 안전을 확인했다. 알고 보니 울부짖던 딸의 모습은 딥페이크로 만든 가짜 영상이었던 것으로 드러났다. 경찰은 "국내에서도 유사한 사건이 발생할 가능성이 있으므로 각별히 주의해달라"고 당부하며 "딥페이크와 딥보이스는 실제 인물을 학습해야 하므로 소셜미디어(SNS) 등에 공개된 본인과 가족의 영상, 사진, 목소리 등이 범죄조직의 표적이 될 수 있다"라고 덧붙여 SNS 전체 공개 설정을 지양해야 한다고 경고했다. 딥페이크는 인공지능(AI) 기술을 활용해 단순히 영상 속 얼굴을 바꾸는 것을 넘어서 실제 인물처럼 표정·움직임 등도 재현 가능하다. 가짜 음성을 생성하는 딥보이스 역시 범인이 자녀 목소리를 복제해 납치 범죄에 악용할 가능성이 있다. 기존 피싱범죄가 목소리를 흉내내는 데 그쳤다면, 이제는 실제에 가까운 자녀의 목소리와 얼굴을 보여주면서 즉각적 송금을 요구하는 범행이 이뤄질 수도 있다. 이 경우 부모는 상황을 판단할 여유가 없이 심리적 압박에 내몰릴 가능성이 상당하다. 한편 경찰은 올해 9월까지 납치를 빙자한 전화금융사기가 174건 발생했다면서 "납치 전화가 금융사기일 가능성을 항상 염두에 두고 무조건 신고해야 한다"라고 강조했다. bng@fnnews.com 김희선 기자

#. 외국인 A씨는 지난 10월 한국을 여행 중이던 딸이 감금된 채 울면서 살려달라고 외치는 영상을 전송받았다. 범인은 "당신 딸을 납치했다. 살리고 싶으면 합의금을 보내라"고 협박했다. 그는 딸의 위치를 찾기 위해 급한 대로 영사관에 연락했다. 그러나 딸은 안전했다. 알고 보니 전송받은 영상은 딥페이크(인공지능 기술로 만든 허위 영상물)이었다. 딥페이크로 자녀의 얼굴을 합성한 가짜 영상을 제작한 뒤 금전을 요구하며 협박하는 전화금융사기(보이스피싱)가 최근 해외에서 잇따르고 있다. 경찰청 국가수사본부는 국내에서도 유사한 사건이 발생할 가능성이 있는 만큼 속지 않도록 주의해야 한다고 조언했다. 7일 경찰에 따르면 사례는 딥페이크와 함께 '딥보이스'가 활용됐다. AI가 특정 인물의 목소리를 학습해 가짜 음성을 생성하는 기술이다. 범인들은 부모·자식 등 가족관계의 특수성을 이용, 부모가 판단력을 잃게 만든 뒤 송금을 요구하는 수법을 쓴다. 사회관계망서비스(SNS) 등에 공개된 사진·영상 등 개인정보가 범죄조직의 표적이 될 수 있다. 딥페이크, 딥보이스 모두 실제 인물의 얼굴과 목소리를 학습해야 하기 때문에 SNS 정보가 주로 활용될 수 있다고 경찰은 전했다. 만약 "가족이나 지인을 납치했다"는 협박 전화를 받으면 사적 대응보다는 반드시 112에 신고해야 한다. 경찰은 납치 신고를 접수하면 당사자 위치 파악 등 가장 먼저 초동조치에 나선다. 이를 통해 구조자의 안전을 확보하고 금전 피해를 막을 수 있다. 반면 범죄조직은 피해자들이 두려움과 걱정 때문에 신고를 주저한다는 점을 악용한다. 전화를 끊지 말라는 협박 때문에 경찰에 신고하기 곤란하면 주변 사람에게 신고를 부탁하거나 통화 중이라도 문자메시지로 직접 112에 연락 가능하다. 올 들어 지난 9월까지 딥페이크 등을 이용한 납치빙자형 보이스피싱은 174건 발생했다. 경찰 관계자는 "딥페이크 기술이 고도화돼 전문가들조차 육안으로 진위를 판단하기 어려운 만큼 SNS 등에 불특정 다수가 볼 수 있도록 게시물을 올리는 것을 지양해야 한다"고 말했다. 그러면서 "납치 전화가 보이스피싱일 가능성을 항상 염두에 두고 무조건 신고해야 한다"고 덧붙였다. unsaid@fnnews.com 강명연 정경수 기자

[파이낸셜뉴스] 방송통신심의위원회는 인천광역시교육청과 업무협약을 체결했다고 7일 밝혔다. 이는 류희림 방심위원장이 지난 9월26일 개최된 전국시도교육감협의회에서 전국 17개 시도교육감에게 협조를 요청한 데 따른 조치다. 방심위와 인천시교육청은 딥페이크 불법 피해 영상물이 24시간 내 신속 삭제될 수 있도록 핫라인을 구축하고 올바른 미디어 이용환경 조성을 위한 캠페인과 교육프로그램 운영 등 공동 홍보·예방 활동을 진행한다. 또 아동과 청소년이 안전하고 건전하게 인터넷 정보를 이용하고, 디지털성범죄로부터 안전하게 보호받을 수 있도록 디지털성범죄 전용 신고배너와 아동·청소년 유해사이트 자동차단 프로그램(그린i-Net) 안내배너 설치 및 보급에도 나선다. mkchang@fnnews.com 장민권 기자

[파이낸셜뉴스] # 외국인 A씨는 지난 10월 한국을 여행 중이던 딸이 감금된 채 울면서 살려달라고 외치는 영상을 전송받았다. 범인은 "당신 딸을 납치했다. 살리고 싶으면 합의금을 보내라"고 협박했다. 그는 딸의 위치를 찾기 위해 급한 대로 영사관에 연락했다. 그러나 딸은 안전했다. 납치와 전혀 관련이 없었다. 알고 보니 전송받은 영상은 딥페이크(인공지능 기술로 만든 허위 영상물)이었다.  딥페이크로 자녀의 얼굴을 합성한 가짜 영상을 제작한 뒤 금전을 요구하며 협박하는 전화금융사기(보이스피싱)가 최근 해외에서 잇따르고 있다. 경찰청 국가수사본부는 국내에서도 유사한 사건이 발생할 가능성이 있는 만큼 속지 않도록 주의해야 한다고 조언했다. 7일 경찰에 따르면 사례는 딥페이크와 함께 '딥보이스'가 활용됐다. AI가 특정 인물의 목소리를 학습해 가짜 음성을 생성하는 기술이다. 범인들은 부모·자식 등 가족관계의 특수성을 이용, 부모가 판단력을 잃게 만든 뒤 송금을 요구하는 수법을 쓴다. 사회관계망서비스(SNS) 등에 공개된 사진·영상 등 개인정보가 범죄조직의 표적이 될 수 있다. 딥페이크, 딥보이스 모두 실제 인물의 얼굴과 목소리를 학습해야 하기 때문에 SNS 정보가 주로 활용될 수 있다고 경찰은 전했다.  만약 "가족이나 지인을 납치했다"는 협박 전화를 받으면 사적 대응보다는 반드시 112에 신고해야 한다. 경찰은 납치 신고를 접수하면 당사자 위치 파악 등 가장 먼저 초동조치에 나선다. 이를 통해 구조자의 안전을 확보하고 금전 피해를 막을 수 있다. 반면 범죄조직은 피해자들이 두려움과 걱정 때문에 신고를 주저한다는 점을 악용한다. 전화를 끊지 말라는 협박 때문에 경찰에 신고하기 곤란하면 주변 사람에게 신고를 부탁하거나 통화 중이라도 문자메시지로 직접 112에 연락 가능하다. 올 들어 지난 9월까지 딥페이크 등을 이용한 납치빙자형 보이스피싱은 174건 발생했다. 경찰은 AI를 악용한 피싱범죄 예방 홍보 콘텐츠를 만들어 국내는 물론 해외 주재관, 한인회 등을 통해 전파할 예정이다. 경찰 관계자는 "딥페이크 기술이 고도화돼 전문가들조차 육안으로 진위를 판단하기 어려운 만큼 SNS 등에 불특정 다수가 볼 수 있도록 게시물을 올리는 것을 지양해야 한다"고 말했다. 그러면서 "납치 전화가 보이스피싱일 가능성을 항상 염두에 두고 무조건 신고해야 한다"고 덧붙였다. 한편 서울경찰청 광역수사단 형사기동대는 해외에 서버를 두고 당국 허가 없이 보이스피싱, 도박 등 문자를 대량으로 보낸 혐의(전기통신사업법 위반 등)로 A사 대표 김모씨(39)를 비롯한 3명을 구속 송치하고 임직원 17명을 불구속 상태로 검찰에 넘겼다.  A사의 경우 지난 2015년부터 지난달 말까지 21억9000만건의 불법 문자를 전송해 주고 대금 명목으로 390억원 상당의 가상자산을 받아 챙겼다. 경찰은 이들을 검거한 후 보이스피싱 등 기관사칭 문자가 사라졌다고 설명했다. 지난 1월 보이스피싱 등을 위한 미끼문자 비율은 86%이었지만, 단속을 시작한 지난 6월부터 미끼문자 비율은 70%대로 떨어진 후 10월말 기준 동일한 유형의 미끼 문자가 한 건도 없었다고 강조했다. 다만 경찰 관계자는 "미끼문자가 감소했지만 직접 통화를 걸어 악성어플 등을 깔게 유도하는 방법 등은 주의해야 한다"고 경고했다.  unsaid@fnnews.com 강명연 정경수 기자