[파이낸셜뉴스]   서울 성동경찰서가 최근 사회문제로 대두된 청소년 딥페이크 제작 예방 및 근절을 위해 전국 최초로 관·경 합동 체계를 정립했다. 24일 경찰에 따르면 서울 성동경찰서는 이날 서울시여성가족재단과 성동광진교육지원청과 협업해 딥페이크 근절을 위한 One-Stop 체계를 정립했다고 밝혔다. 앞서 서울경찰청은 딥페이크 성범죄의 피해자와 피의자가 10대에서 높은 비율을 보이고 있어 학교전담경찰관(SPO)가 학교에 진출해 예방교육을 할 수 있도록 안을 마련한 바 있다. 성동경찰서는 전국 최초로 서울디지털성범죄안심지원센터인 여성가족재단과 협업해 새로운 딥페이크 관련 교육자료를 만들었다. 이들이 만든 교육자료에는 딥페이크의 의미와 처벌사례, 피해 발생 시 대응요령 등 딥페이크 성범죄에 관한 내용이 학생들 눈높이에 맞춰 설명됐다. 특히 이번 교육자료에는 교육자료와 교육방식을 연령병, 대상별 등 세분화 시켜 청소년들에게 명확히 인지시키고자 주안점을 뒀다고 이들은 설명했다. 교육자료는 10월부터 성동구 내 학교를 대상으로 교육을 실시할 예정이며, 딥페이크 외에도 성착취 피해 등 청소년 대상 성범죄에 대한 교육을 집중적으로 실시할 방침이다. 성동광진교육청은 강사료를 지원해 지역 내 학생에 의한 딥페이크 범죄 사전 차단에 주력한다. 서울경찰청 자료로 예방활동을 하고 있는 기존 SPO들과 전문강사진의 집중교육을 통한 이중교육으로 청소년 딥페이크 범죄를 없애겠다는 것이 이들의 목표다. 서기용 성동서장은 "청소년 딥페이크· 성착취 등 청소년 성범죄에 대해 깊은 심각성을 가지고 교육을 진행할 예정"이라며 "청소년 성범죄 발생 시 즉각적인 대응 체계를 구축해 청소년이 더욱 안전한 환경에서 성장할 수 있도록 최선을 다할 것"이라고 밝혔다. theknight@fnnews.com 정경수 기자

문화체육관광부와 한국언론진흥재단은 국정과제인 '미디어리터러시 교육 강화' 일환으로 10일부터 인천 백석중학교 등 전국 중학교 31개교에서 '인공지능(AI) 미디어 교육'을 시행한다고 밝혔다. 이번 교육과정은 학생들이 흥미롭게 참여하도록 AI 이해하기, AI에 대한 비판적 시각 가지기, AI를 활용해 저작물 만들기 등 세 분야의 이론과 실습 형태 강의로 구성해 학교별로 12차시 과정으로 제공한다. 문체부와 언론재단은 AI 활용과 첨단 조작기술(딥페이크) 피해 예방 등 선제적인 AI 미디어 교육을 추진하기 위해 올해 상반기부터 중학생 대상 교육과정을 개발해왔다. 경찰청에서 지난 9월 26일 발표한 통계에 따르면 전국 경찰에 접수된 딥페이크 성범죄 관련 사건은 총 812건이며 검거된 피의자 387명 중 324명(83.7%)이 10대였다. 문체부 관계자는 "AI를 올바르고 안전하게 사용하는 방법에 대한 교육이 시급한 상황"이라며 "이번 교육과정을 통해 학생들이 AI 기술을 비판적으로 수용하고 활용할 수 있는 능력을 키울 수 있도록 지도할 계획"이라고 말했다. 문체부와 언론재단은 이번 교육에 이어 오는 14일부터 AI 미디어 교육 특강에 참여할 중학교를 추가로 모집한다. 교육 참여를 희망하는 학교는 미디어교육 전문 누리집 '미카'에서 무료로 신청할 수 있다. en1302@fnnews.com 장인서 기자

[파이낸셜뉴스] 한화손해보험이 국제아동안전기구 세이프키즈 코리아(Safe Kids Korea)와 손잡고 디지털 성범죄 예방 교육 프로그램을 실시한다고 23일 밝혔다. 교육 프로그램 ‘디지털 세이프키즈’는 디지털 환경에서 직면할 수 있는 위험을 사전에 인식하고, 안전한 인터넷 사용 습관을 기르는 것을 목적으로 한다. 특히 최근 사회적 문제로 떠오르고 있는 딥페이크 범죄와 같은 새로운 형태의 디지털 위협에 대한 경각심을 심어주고 이를 예방·대응할 수 있도록 실질적인 방법을 가르치는 것이 핵심이다. 이번 교육 프로그램은 올해까지 전국 10개 이상 초등학교에서 순차적으로 진행될 계획이다. 첫번째 교육은 지난 13일 서울 북성초등학교 4~6학년 어린이를 대상으로 이뤄졌다. 이론 교육은 디지털 성범죄 정의·유형·피해 사례뿐 아니라, 신고 절차 등 실용적인 대처법·예방법에 초점을 맞췄다. 이어진 교육에서는 초등학생 눈높이에 맞춘 OX퀴즈, 초성퀴즈 등 콘텐츠를 활용해 디지털 환경 속 어린이들이 겪을 수 있는 위험 요소를 직접 분별하는 활동을 진행했다. 실제 교육에 참여한 6학년 학생은 “디지털 성폭력과 딥페이크 범죄에 대해 정확히 몰랐는데, 이번 교육을 통해 위험에 대해 알게 되었다”며 “스스로를 어떻게 지켜야 하는지 배워 이제는 인터넷을 더 안전하게 사용할 수 있을 것 같다”고 말했다. 교육에 참여한 서울 북성초등학교의 한 교사도 “아이들이 인터넷에서 직면할 수 있는 디지털 성범죄 위험에 대해 구체적으로 배울 수 있어서 안심이 됐다”며 “학교에서도 아이들의 안전을 위해 지속적으로 교육할 계획”이라고 강조했다. 한화손해보험 관계자는 “디지털 환경이 어느때보다 빠르게 변화하고 있는 만큼, 초등학생들이 성범죄 예방 및 대처방법에 대해 명확히 인식하는 것이 점점 더 중요해지고 있다”며 “미래 세대가 직·간접적으로 피해 입는 일이 없도록 디지털 성범죄 교육을 확대할 예정”이라고 말했다. yesji@fnnews.com 김예지 기자

[파이낸셜뉴스] 서울 양천경찰서가 딥페이크 성범죄의 위험성과 예방 필요성을 알리고자 예방 캠페인을 열었다. 양천경찰서는 지난 7일 양천경찰서 주관으로 양천구청, 강서양천교육지원청 등 유관단체와 딥페이크 예방 캠페인을 벌였다고 11일 밝혔다. 이들은 양천구에서 열린 '생명사랑걷기 달빛소나타' 행사 장소에서 홍보 부스를 열고 △딥페이크를 이용한 성범죄의 개념과 특징 △대처 방안 및 예방 방법 △청소년 딥페이크의 심각성 등을 알렸다. 또 한강공원까지 약 10km 거리 행진을 하며 걷기 대회 참여 시민에게 딥페이크 범죄의 위험성을 홍보했다. 윤정근 양천경찰서장은 "딥페이크 기술을 악용한 범죄가 빈번하게 발생하고 있는 상황"이라며 "우리 청소년들의 올바른 디지털 윤리 의식과 딥페이크 범죄에 대한 경각심을 계속 일깨워 줄 수 있도록 지속적인 캠페인·홍보·교육을 통해 딥페이크 범죄 예방에 힘쓰겠다"고 말했다. wongood@fnnews.com 주원규 기자

SK텔레콤과 경찰청은 차세대 메시지 서비스(RCS) 기반 공익 메시지 전달 캠페인을 통해 청소년 마약 범죄 근절 및 딥페이크 범죄 예방 등 안전한 사회 만들기에 함께 나선다고 8일 밝혔다. RCS는 국제 표준 메시지 규격 중 하나이자 기존 문자(SMS·MMS) 서비스에서 발전한 차세대 메시지로, 보다 많은 글자 수 또는 이미지를 전송할 수 있다. SKT와 경찰청은 이달부터 최근 사회적 이슈로 대두된 청소년 마약 범죄 및 청소년 대상 딥페이크 제작 범죄 예방·근절을 위해 RCS 메시징 서비스를 활용한 공동 캠페인을 진행하고 있다. 이달 말에는 딥페이크 범죄 예방을 위한 RCS 메시지를 청소년, 학부모 고객들에게 발송할 예정이다. 이 메시지에는 딥페이크 제작 범죄에 대한 예방 방안과 주의사항 등이 담길 예정이다. SKT는 대한적십자사, 국립공원공단, 세이브더칠드런 등 총 8개 기관을 대상으로도 RCS 공익 메시지 발송 캠페인을 시행하고 있으며, 향후 협업 기관을 지속 확대해 RCS 서비스를 통한 ESG 실천에 앞장설 방침이다. SKT 이상구 메시징CO담당은 “이번 지원 사업을 통해 사회적 난제 해결을 위한 ESG 지원 사업을 더욱 진정성 있게 추진해 RCS 메시징 서비스가 더욱 효과적인 서비스로 자리매김할 수 있도록 노력하겠다”고 말했다. 경찰청 한창훈 생활안전교통국장은 “딥페이크, 도박, 마약 등 청소년들에게 씻을 수 없는 상처를 남기는 범죄로부터 안전한 사회를 만드는 데 국민들의 관심과 동참을 이끌어 내기 위해 더욱 적극적인 예방과 홍보활동을 펼치겠다”고 밝혔다. solidkjy@fnnews.com 구자윤 기자

【파이낸셜뉴스 수원=장충식 기자】 경기도교육청은 딥페이크 등 디지털 범죄 예방과 대응으로 안전한 디지털 문화를 조성하기 위해 초·중·고등학교용 디지털 시민교육 자료를 제작, 배포한다고 4일 밝혔다. 도교육청은 불법 합성물(딥페이크) 등 디지털 성범죄에 대한 학교 현장의 불안이 커지고 있어 학교급별 디지털 범죄 예방 및 대응에 대한 맞춤형 디지털 시민교육을 강화한다는 방침이다. 이번에 제작한 '디지털 범죄 예방 및 대응 디지털 시민교육' 자료는 학교급별 교육과정과 연계해 매월 보급하는 디지털 시민교육 5분+ 실천 활동으로 추가 배포한다. 특히 딥페이크 범죄 예방과 대응 실천을 위해 인성과 역량을 기르도록 프로젝트 교수학습 자료를 제공한다. 학교에서는 교육과정과 연계해 교과 및 창의적 체험활동 프로젝트 수업과 디지털 기기 활용 수업 전·후에 활용할 수 있다. 초등 교육 자료는 △딥페이크 범죄 예방 및 대응 △바람직한 공유예절 △올바른 사회적 관계망 서비스(SNS) 이용 △올바른 딥페이크 사용 등의 내용을 담았다.  이와 더불어 중·고등학교는 △딥페이크 성범죄의 예방과 대응 △디지털 세상 속 진실 지키기 △사회적 관계망 서비스(SNS) 게시물 게시·공유 △디지털 성폭력 예방 행동 규칙 등의 내용이 포함됐다.  도교육청 김태석 미래교육담당관은 "디지털 시민교육 수업을 통해 학생 스스로 디지털 범죄를 예방할 수 있도록 노력하길 바란다"며 "학생들이 윤리 의식과 책임감을 갖고 디지털 기기를 활용할 수 있도록 디지털 시민교육을 강화하겠다"고 말했다. jjang@fnnews.com 장충식 기자

[파이낸셜뉴스] 서울 강동구는 이수희 강동구청장이 '딥페이크(이미지 합성 기술) 범죄예방 릴레이 챌린지'에 동참했다고 13일 밝혔다. 정한규 서울도봉경찰서장을 시작으로 다양한 기관에서 동참하고 있는 이번 챌린지는 누리소통망에 딥페이크 허위 합성물 제작 및 유포가 명백한 범죄행위임을 알리는 내용을 담아 올린 후, 후속 주자를 지명하는 방식으로 진행된다. 김경호 광진구청장의 지목을 받은 이 구청장은 지난 12일 구청장실에서 '불법합성물 딥페이크 제작, 소지, 유포 OUT!'이라는 슬로건을 들고 딥페이크 범죄예방에 대한 사회적 관심을 촉구했다. 이 구청장은 “딥페이크를 이용한 허위 영상물은 제작뿐만이 아닌 시청만으로도 처벌이 되는 범죄이다”라며 “이번 챌린지가 청소년들이 안전한 환경에서 성장할 수 있는 계기가 되기를 바란다“라고 전했다. 이 구청장은 다음 참여자로 박일하 동작구청장, 최호권 영등포구청장을 지목했다.  banaffle@fnnews.com 윤홍집 기자

[파이낸셜뉴스] 방송통신심의위원회는 인천광역시교육청과 업무협약을 체결했다고 7일 밝혔다. 이는 류희림 방심위원장이 지난 9월26일 개최된 전국시도교육감협의회에서 전국 17개 시도교육감에게 협조를 요청한 데 따른 조치다. 방심위와 인천시교육청은 딥페이크 불법 피해 영상물이 24시간 내 신속 삭제될 수 있도록 핫라인을 구축하고 올바른 미디어 이용환경 조성을 위한 캠페인과 교육프로그램 운영 등 공동 홍보·예방 활동을 진행한다. 또 아동과 청소년이 안전하고 건전하게 인터넷 정보를 이용하고, 디지털성범죄로부터 안전하게 보호받을 수 있도록 디지털성범죄 전용 신고배너와 아동·청소년 유해사이트 자동차단 프로그램(그린i-Net) 안내배너 설치 및 보급에도 나선다. mkchang@fnnews.com 장민권 기자

[파이낸셜뉴스] # 외국인 A씨는 지난 10월 한국을 여행 중이던 딸이 감금된 채 울면서 살려달라고 외치는 영상을 전송받았다. 범인은 "당신 딸을 납치했다. 살리고 싶으면 합의금을 보내라"고 협박했다. 그는 딸의 위치를 찾기 위해 급한 대로 영사관에 연락했다. 그러나 딸은 안전했다. 납치와 전혀 관련이 없었다. 알고 보니 전송받은 영상은 딥페이크(인공지능 기술로 만든 허위 영상물)이었다.  딥페이크로 자녀의 얼굴을 합성한 가짜 영상을 제작한 뒤 금전을 요구하며 협박하는 전화금융사기(보이스피싱)가 최근 해외에서 잇따르고 있다. 경찰청 국가수사본부는 국내에서도 유사한 사건이 발생할 가능성이 있는 만큼 속지 않도록 주의해야 한다고 조언했다. 7일 경찰에 따르면 사례는 딥페이크와 함께 '딥보이스'가 활용됐다. AI가 특정 인물의 목소리를 학습해 가짜 음성을 생성하는 기술이다. 범인들은 부모·자식 등 가족관계의 특수성을 이용, 부모가 판단력을 잃게 만든 뒤 송금을 요구하는 수법을 쓴다. 사회관계망서비스(SNS) 등에 공개된 사진·영상 등 개인정보가 범죄조직의 표적이 될 수 있다. 딥페이크, 딥보이스 모두 실제 인물의 얼굴과 목소리를 학습해야 하기 때문에 SNS 정보가 주로 활용될 수 있다고 경찰은 전했다.  만약 "가족이나 지인을 납치했다"는 협박 전화를 받으면 사적 대응보다는 반드시 112에 신고해야 한다. 경찰은 납치 신고를 접수하면 당사자 위치 파악 등 가장 먼저 초동조치에 나선다. 이를 통해 구조자의 안전을 확보하고 금전 피해를 막을 수 있다. 반면 범죄조직은 피해자들이 두려움과 걱정 때문에 신고를 주저한다는 점을 악용한다. 전화를 끊지 말라는 협박 때문에 경찰에 신고하기 곤란하면 주변 사람에게 신고를 부탁하거나 통화 중이라도 문자메시지로 직접 112에 연락 가능하다. 올 들어 지난 9월까지 딥페이크 등을 이용한 납치빙자형 보이스피싱은 174건 발생했다. 경찰은 AI를 악용한 피싱범죄 예방 홍보 콘텐츠를 만들어 국내는 물론 해외 주재관, 한인회 등을 통해 전파할 예정이다. 경찰 관계자는 "딥페이크 기술이 고도화돼 전문가들조차 육안으로 진위를 판단하기 어려운 만큼 SNS 등에 불특정 다수가 볼 수 있도록 게시물을 올리는 것을 지양해야 한다"고 말했다. 그러면서 "납치 전화가 보이스피싱일 가능성을 항상 염두에 두고 무조건 신고해야 한다"고 덧붙였다. 한편 서울경찰청 광역수사단 형사기동대는 해외에 서버를 두고 당국 허가 없이 보이스피싱, 도박 등 문자를 대량으로 보낸 혐의(전기통신사업법 위반 등)로 A사 대표 김모씨(39)를 비롯한 3명을 구속 송치하고 임직원 17명을 불구속 상태로 검찰에 넘겼다.  A사의 경우 지난 2015년부터 지난달 말까지 21억9000만건의 불법 문자를 전송해 주고 대금 명목으로 390억원 상당의 가상자산을 받아 챙겼다. 경찰은 이들을 검거한 후 보이스피싱 등 기관사칭 문자가 사라졌다고 설명했다. 지난 1월 보이스피싱 등을 위한 미끼문자 비율은 86%이었지만, 단속을 시작한 지난 6월부터 미끼문자 비율은 70%대로 떨어진 후 10월말 기준 동일한 유형의 미끼 문자가 한 건도 없었다고 강조했다. 다만 경찰 관계자는 "미끼문자가 감소했지만 직접 통화를 걸어 악성어플 등을 깔게 유도하는 방법 등은 주의해야 한다"고 경고했다.  unsaid@fnnews.com 강명연 정경수 기자

정부가 위장·비공개 수사를 확대해 딥페이크를 활용한 성범죄에 강력 대응한다. 또 신속한 피해자 보호를 위해 '선차단 후심의'를 의무화하고, 삭제요청 시 24시간 내에 처리하는 규정도 신설한다. 6일 국무조정실은 정부서울청사에서 관계부처 합동으로 이 같은 내용을 핵심으로 하는 딥페이크 성범죄 대응 강화방안을 발표했다. 정부는 강력하고 실효적인 처벌, 플랫폼 책임성 제고, 신속한 피해자 보호, 맞춤형 예방교육 등 4대 분야 10개 과제를 역점 추진할 계획이다. 정부는 우선적으로 수사 대응력 강화에 나선다. 현재는 피해자가 아동·청소년일 때만 가능한 위장수사를 성인까지 확대하는 성폭력처벌법 개정을 추진한다. 또 신분 비공개 수사 사후승인제도를 신설, 긴급한 경우 사전승인 없이 신속 수사에 나서도록 할 계획이다. 또 아동·청소년 성착취물 제작·유포 등의 범죄에는 원칙적 구속수사를 적용해 엄격히 다루며, 검거 전 범죄수익을 몰수한다. 딥페이크 성범죄 관련 수사 전문성을 갖춘 전담검사도 기존 23명에서 43명으로 늘린 상태다. 신속하고 확실한 피해자 보호를 위해 '선차단 후심의'를 의무화한다. 플랫폼 사업자가 삭제요청을 받았을 때 성범죄물 여부 판단이 어려운 경우 방송통신심의위원회 심의 요청 의무화를 추진한다. 또 삭제 요청 시 24시간 내 처리하는 규정도 신설한다. 디지털성범죄 온상으로 꼽히는 텔레그램 등 국외 플랫폼 기업에 대한 규제도 강화한다. 정부는 성착취물 등이 유통되는 플랫폼에 대한 사업자 의무를 강화하기 위해 관련 법령에 적극적인 해석을 적용하기로 했다. aber@fnnews.com 박지영 기자