[파이낸셜뉴스] 숙명여대 등 서울 지역 6개 여대 총학생회가 최근 논란을 빚고 있는 ‘딥페이크(인공지능 기반 이미지 합성) 성착취’ 사태에 대해 “가부장제 사회 아래 뿌리 깊은 강간 문화와 여성혐오가 만들어낸 결과”라며 비판 성명을 냈다. 28일 숙명여대 총학생회 비상대책위원회(이하 비대위)는 이날 성명을통해 “본 사태는 여성 성착취 범죄가 근본적으로 해결되지도, 근절되지도 않았기에 발생했다”며 “재발 방지 대책을 마련할 기회가 있었음에도 실질적인 대응을 하지 않은 모두가 방관자이자 가해자”라고 지적했다. 서명에는 숙명여대 내 60개 단체를 비롯해 성신여대·덕성여대·동덕여대·배화여대·한양여대 총학생회가 동참했다. 이들은 ‘n번방’ 등 과거 발생했던 여성 대상 디지털 성범죄를 언급하며 “여성을 대상으로 한 디지털 성착취 범죄가 지속적이고 계획적으로 발생하는 이 사회에 통탄한다”고 밝혔다. 이어 “텔레그램 성착취 방의 가해자는 ‘개설자’만이 아니며, ‘참여자’뿐만 아니라 그 사실을 알면서도 묵인한 ‘방관자’ 역시 명백한 가해자”라고 지적했다. 비대위는 “한국 사회의 방관과 침묵은 여성이 하나의 인격체가 아닌, 타 대상의 ‘놀잇감’으로 소비되도록 방조했다”며 “이는 ‘여성’을 성적 도구로 보고 멸시하는 문화를 고착화시켰다”고 목소리를 높였다. 이어 “오직 여성이기에 범죄의 대상이 되는 현 시점에서 여성에게 안전한 공간이란 존재하는가. 여성인 우리는 과연 어디서 살아가야 하는가”라고 규탄했다. 아울러 이들은 “여성이 안전하게 지낼 공간은 소실된 채 무한한 디지털 공간에서 여성을 대상으로 한 무자비한 학살이 계속되고 있다”며 여성들의 존엄과 권리를 지키기 위해서는 연대가 절실히 필요한 때라고 강조했다. 한편 경찰은 이번 사태와 관련해 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직, 딥페이크 성착취 허위영상물 집중 대응에 나섰다고 밝혔다. hsg@fnnews.com 한승곤 기자

#KB국민은행은 지난해 말 고객센터 업무를 맡던 콜센터 용역업체를 줄이면서 상담사 240여명을 해고할 예정이라고 통보했다. 상담원이 하던 업무를 챗봇 등 인공지능(AI)이 대신하면서 나타난 변화였다. 실직 위기에 처한 상담사들은 거리로 나섰다. 노동계는 물론, 국회와 정당 등도 해고 위기에 놓인 콜센터 상담사에게 힘을 실어줬다. KB국민은행이 전원 고용 승계를 약속하면서 사태는 일단락이 됐지만, 여운은 남겼다. AI 등장으로 기존 인력 사이의 일자리 분배 문제가 앞으로도 곳곳에서 논란이 될 것이라는 예상이었다. 콜센터 업무는 AI 이후 사라지는 저숙련·저임금 일자리의 대표적 사례로 꼽힌다. 그렇다면 이렇게 일자리를 잃은 노동자들은 어디로 가게 될까. 전문가들은 더욱 낮은 수준의 '저숙련·저임금 일자리'로 몰릴 가능성이 높은 것으로 전망한다. 반면 의사, 변호사 등 현재 고임금 일자리의 경우 전면적인 AI 대체가 현재까진 불가능하다. 대신 이들은 AI를 활용해 더 많은 소득을 만들 것으로 관측된다. AI가 소득 격차 불평등을 만들 수 있다는 우려가 나오는 이유다. 유럽연합(EU)에서는 AI 도입으로 발생하는 문제를 해결하기 위한 AI 관련 규제책을 이미 내놨다. ■"불평등은 커지고 양극화는 심화" 한국개발연구원(KDI)이 올해 발표한 'AI로 인한 노동시장의 변화와 정책 방향' 보고서를 보면 "현존하는 90% 이상 일자리는 2030년이 되면 업무의 90% 이상이 자동화될 수 있을 것"이라는 전망이 실려 있다. 또 지난해 나온 한국은행 'AI와 노동시장 이슈'에는 우리나라 전체 취업자 수의 12%인 341만명이 AI 기술로 대체될 가능성이 높다고 분석했다. 이처럼 AI 기술이 고도화되면서 인간의 일자리를 대체한다는 데는 이견이 없다. 문제는 '저숙련·저임금 일자리'에 상대적으로 더 큰 타격을 주면서 이른바 '노동 불평등' 현상이 고착화될 수 있다는 점이다. 고임금 일자리의 경우 AI를 활용해 업무의 효율성을 극대화하는 방법으로 더 많은 수익을 낼 수도 있지만 '저임금 일자리'의 경우 노동시장에서 사라질 가능성이 크기 때문이다. 예컨대 현재 대표적 고임금 일자리인 '변호사' 업무에 AI가 도입된다면 사건 접수나 자료 조사, 서류 작업, 법조항·판례 찾기 등의 보조 업무를 하는 노동자의 경우 일자리가 자체가 사라질 수 있다. 반면 변호사는 AI를 쓰면서 인건비를 줄이는 방식으로 더 많은 수익을 올리는 게 가능하다. 재판에서 법리를 다투고 사람을 만나는 업무는 AI가 대체할 수 없어서다. 병원에서도 접수를 하고 일정을 관리하며 고객과 상담하는 등의 업무는 AI가 할 수 있다. 그러나 사람의 목숨이 달린 수술 등 응급 상황은 AI가 대신하는 게 불가능하다. 장지연 한국노동연구원 선임연구위원은 "직무 구성이 단순하고 AI 노출도가 높은 일자리는 쉽게 사라질 수 있지만 일부 직무의 AI 노출도가 높더라도 다른 직무 노출도가 낮은 직업은 AI 대체 가능성이 낮다. 직업이 여러 개의 직무로 구성돼 있기 때문"이라며 "기술이 발전하면 저·중숙련 분야 일자리를 대체해 임금 불평등이 커지고 양극화가 심화되는 경향이 있다. AI 기술도 과거와 크게 다르지 않을 것"이라고 지적했다. 이런 불평등은 연령에 따라서도 나타날 가능성이 존재한다. 나이가 많은 노동자의 경우 AI 기술에 적응하지 못하면서 시장에서 소외될 수 있다. 따라서 AI 기술에 적응하지 못한 노동자들이 새로운 일자리를 찾을 수 있는 재교육 강화가 시급하다는 지적이 제기된다. ■"AI 통제하지 않으면 소수에 자본·권력 집중" 해외 석학들도 AI를 통제하지 않으면 불평등이 심화할 수 있다는 경고를 보내고 있다. 노벨경제학상을 받은 아제모을루·사이먼 존슨 미국 매사추세츠공대(MIT) 교수는 지난해 낸 '권력과 진보'라는 책을 통해 "기술의 진보로 소수의 기업과 투자자만 이득을 보고 있다"고 강조했다. 올해 AI 신경망 연구로 노벨물리학상을 받은 제프리 힌턴 캐나다 토론토대 교수 역시 수상 소감에서 "AI가 통제 불능 상태가 될 수 있는 위협에 대해 우려해야 한다"고 했다. 이로 인해 소수 플랫폼의 독과점 등 AI로 인해 나타날 부작용을 보완하기 위해서라도 정부 차원의 제재가 필요하다는 의견이 힘을 받고 있다. 실제 일부 국가는 AI 기술을 규제하기 위한 움직임이 구체화하고 있다. 가장 먼저 규제책을 내놓은 곳은 EU다. 지난 8월 세계 최초의 포괄 AI 규제법인 'EU AI 법(Act)'이 발효됐다. AI 기술의 발전과 함께 발생할 수 있는 다양한 사회적, 윤리적 문제를 해결하기 위한 여러 포괄적인 규제책이 담겼다. 김명주 서울여대 정보보호학과 교수는 "AI 도입에 불안을 느끼고 딥페이크(허위 합성물) 범죄 등으로 AI를 신뢰하지 못하게 되면 특정 소수에게 AI가 독점될 수 있다"며 "관련 제재를 강화해 부작용을 최소화하고 소수에게 권력과 자본이 집중되지 않도록 독과점을 규제하는 방안을 찾는 연구를 지속해야 한다"고 봤다. 전병유 한신대 경제학과 교수는 "AI가 인간을 대체해 불평등을 심화할지 업무를 도와 생산성을 높이는 데 기여할지는 사회가 어떤 방향으로 기술을 발전시키고 수용하는지에 달려 있다"고 말했다. 챗GPT 4o에 묻자 "AI가 고숙련 직업까지 자동화할 가능성은 제한적이지만, 콜센터와 같은 단순 업무에 대한 대체는 빠르게 진행되고 있다"며 "기술 도입에 따른 불평등을 줄이기 위해 정책적 대책이 필요하다"는 답변을 내놨다. unsaid@fnnews.com 강명연 기자본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

[파이낸셜뉴스] 정부가 '인공지능(AI) 3대 강국 총력전'을 선포하면서 지지부진했던 AI기본법이 연내에 도입될 지 주목이 쏠리고 있다. AI기본법 제정이 시급하다는 공감대가 모아지고 있는 상황에 정부가 연내 처리를 공언하면서 급물살을 타는 모양새다.  9월 30일 업계에 따르면 22대 국회에 발의된 AI기본법 법안은 총 10건으로 나타났다. 정점식 국민의힘 의원이 대표발의한 '인공지능 발전과 신뢰 기반 조성 등에 관한 법률안'과 이훈기 더불어민주당 의원이 대표발의한 '인공지능의 발전과 안전성 확보 등에 관한 법률안' 등이 있다. 여야 모두 AI기본법 입법에 대한 공감대를 가지면서 지난 24일에는 국회 공청회도 열렸다. 다만 세부적인 내용, 특히 규제에 대한 방법론을 두고 여전한 의견차는 있다. 여당과 업계는 AI산업 진흥에 무게를 둔 입법을 주장하는 반면에 야당과 이용자 단체 등은 '딥페이크 사태'로 대표되는 고위험 AI의 부작용을 방지하기 위해 규제를 우선해야 한다는 입장이다. 한 정치권 관계자는 "여당은 대통령실에서 연내 도입을 말한 만큼 최대한 빨리 도입하고 싶어하겠지만, 야당 입장에서는 어떻게 자신들에게 유리하게 가져올 것인지 고민하고 있을 것"이라며 "구체적인 일정이 전혀 정해지지 않았기 때문에 언제 도입된다고 장담할 수 없는 상황"이라고 말했다. 전문가들은 우리나라가 AI산업에서 국가 경쟁력을 가지기 위해서 입법이 시급하다고 목소리를 모았다. 미국과 중국, 유럽연합(EU) 등 주요국들은 AI가 글로벌 산업 생태계를 바꿀 것으로 보고 디지털 기술 개발과 선점에 사활을 걸고 있는 상황에 먼저 뼈대를 마련해야 한다는 것이다. 김명주 서울여대 정보보호학부 교수는 "AI기본법은 기본적인 방향성만 제시하는 방향이 맞다고 본다, 제정이 늦어지면 AI산업의 글로벌 진입에도 방해물이 될 것"이라며 "산업 부흥을 위한 중장기적 기본적인 계획을 세우기 위해서 기본법 제정을 통해 법적인 토대를 마련하는 것이 시급하다"고 강조했다.  기본법에 포함될 규제에 대해서는 먼저 관련법을 제정한 EU를 참고하되, 우리나라의 상황에 맞게 유연하게 적용해야 한다는 의견이 나온다. EU의 강력한 규제 정책은 미국의 글로벌 빅테크 기업을 겨냥한 만큼 우리나라의 기본법이 규제에 방점을 둔다면 산업 발전에 걸림돌이 될 수도 있다는 분석이다. 이성엽 고려대 기술경영전문대학원 교수는 "AI의 부작용은 공정거래법이나 성폭력처벌법 등 개별법으로 규제하면 된다, AI기본법에 규제내용만 늘린다면 피해는 국내 기업들의 몫"이라며 "사실상 규제의 대상이 되는 고위험AI는 국내에 존재하지 않는 상황인데 기본법으로 모든 것을 해결하려고 해서는 안된다"고 강조했다.   wongood@fnnews.com 주원규 기자

[파이낸셜뉴스] 최근 '딥페이크 성착취' 등 디지털 성범죄가 횡행하는 가운데, 자신의 나체 사진이나 성적 이미지를 불특정 다수에게 보내 성적 수치심을 주는 '사이버플래싱'(cyberflashing) 피해 사례가 늘고 있는 것으로 나타났다. 8일 여성가족부와 한국여성인권진흥원의 '2023 디지털 성범죄 피해자 지원 보고서'에 따르면 디지털성범죄피해자지원센터에서 지원받은 '사이버 괴롭힘' 피해자는 2018년 251명에서 지난해 500명으로 5년 사이 2배가 됐다. ‘사이버 괴롭힘’은 휴대전화 등 통신매체를 통해 상대방이 원치 않는 성희롱을 하거나 성적 촬영물을 일방적으로 전송한 경우 등을 뜻한다. 보고서에 따르면 지난해 사이버 괴롭힘 피해자 중 여성은 90.2％(451명), 남성은 9.8%(49명)였다. 연령별로는 10대(192명·38.4％)와 20대(232명·46.4％)가 대부분을 차지했다. 30대 여성 김모 씨는 최근 엑스(X·옛 트위터) 쪽지로 남성의 나체 사진을 전송받았고, 직장인 여성 손모씨도 텔레그램 메시지로 성기 사진과 함께 하트 모양 이모티콘을 받은 경험이 있다고 했다. 김씨는 "원하지 않는 사진을 전송받거나 '스타킹이나 속옷을 팔아달라'는 성희롱성 메시지를 받는 게 1년에 대여섯 번은 된다"라고 했고, 손씨는 "누가 보냈는지 모르니 혹시 지인은 아닐까 싶어 무서웠다“라고 토로했다. 아이폰의 근거리 무선 파일 공유 시스템인 '에어드롭'(Airdrop)이 이용되기도 한다. 에어드롭은 와이파이와 블루투스를 이용해 반경 약 9ｍ 이내의 모든 애플 기기에 익명으로 사진과 파일 등을 보낼 수 있다. 지난해 등굣길 버스정류장에서 에어드롭으로 나체 사진을 전송받았다는 여대생 주모씨는 "옆에 있던 여자도 휴대전화를 보고 놀랐는데 근처에서 함께 버스를 기다리는 누군가가 그런 사진을 막 뿌린 거 같다"라며 "또 그런 일을 당할까 봐 겁이 나 에어드롭 기능을 아예 꺼놨다"라고 전했다. 이 같은 행위는 성폭력처벌법상 통신매체이용음란 혐의를 적용해 처벌할 수 있지만 피해자 대부분은 신고할 엄두도 내지 못한다. 메시지 발신자를 추적하기 어려울 뿐 아니라 처벌 수위도 낮아 신고해도 제대로 죗값을 묻기 어려울 것이라고 생각하기 때문이다. 가수 소유도 지난 5월 한 유튜브 채널에 출연해 "인스타그램 DM(다이렉트 메시지)을 통해 '난 널 만족시킬 수 있다'는 식으로 (사진을) 진짜 많이 받는다"라며 "고소도 해봤지만 인스타그램은 잡기가 힘들더라"고 털어놓기도 했다. 배상훈 우석대 경찰행정학과 교수는 "상대방의 수치심을 유발해 과시욕을 충족하고 성적 자극을 얻고자 하는 행위로 볼 수 있다"라며 "더 큰 범죄로 발전하지 않도록 적극적으로 대응해 제때 치료받을 수 있도록 해야 한다"라고 지적했다. bng@fnnews.com 김희선 기자

국회 과학기술정보방송통신위원회가 5일 최근 사회적 문제로 지적된 딥페이크 성범죄 근절을 주제로 긴급 정책 토론회를 실시했다. 모처럼 여야가 정쟁을 배제하고 민생 현안을 처리하기 위해 의기투합했다. 이번 토론회를 통해 과방위원들은 딥페이크 성범죄 처벌법에 대한 법적 근거를 마련하는데 힘을 실었다. 국회 과방위는 이날 국회서 '딥페이크 성범죄영상물, 어떻게 근절할 것인가'를 주제로 긴급 정책토론회를 진행했다. 이날 토론회는 여당측 간사인 최형두 의원이 주도해 성사됐다. 토론회에서 여야 의원들은 모처럼 정쟁을 뒤로하고 민생 현안 중 하나인 딥페이크 성범죄 해결에 팔을 걷어부쳤다. 최 의원은 "딥페이크 피해 대응에 소홀했다는 비난을 받고 있다"며 "우리 국민들이 범죄에 노출되고 인권이 유린되는 일이 없도록 최선을 다하겠다"고 강조했다. 전문가들은 디지털 성범죄에 대한 처벌과 교육을 강화해야 한다고 제언했다. 발제를 맡은 김명주 서울여대 정보보학부 교수는 이번 사건과 같이 디지털 성범죄에 대한 처벌을 강화해야 한다고 강조했다. 김 교수는 촬영 뿐만 아니라 복제와 소지, 시청의 경우도 처벌 대상으로 확대해야 한다고 설명했다. theknight@fnnews.com 정경수 기자

[파이낸셜뉴스]   국회 과학기술정보방송통신위원회가 5일 최근 사회적 문제로 지적된 딥페이크 성범죄 근절을 주제로 긴급 정책 토론회를 실시했다. 모처럼 여야가 정쟁을 배제하고 민생 현안을 처리하기 위해 의기투합했다. 이번 토론회를 통해 과방위원들은 딥페이크 성범죄 처벌법에 대한 법적 근거를 마련하는데 힘을 실었다. 국회 과방위는 이날 국회서 '딥페이크 성범죄영상물, 어떻게 근절할 것인가'를 주제로 긴급 정책토론회를 진행했다. 이날 토론회는 여당측 간사인 최형두 의원이 주도해 성사됐다. 토론회에서 여야 의원들은 모처럼 정쟁을 뒤로하고 민생 현안 중 하나인 딥페이크 성범죄 해결에 팔을 걷어부쳤다. 최 의원은 "딥페이크 피해 대응에 소홀했다는 비난을 받고 있다"며 "우리 국민들이 범죄에 노출되고 인권이 유린되는 일이 없도록 최선을 다하겠다"고 강조했다. 전문가들은 디지털 성범죄에 대한 처벌과 교육을 강화해야 한다고 제언했다. 발제를 맡은 김명주 서울여대 정보보학부 교수는 이번 사건과 같이 디지털 성범죄에 대한 처벌을 강화해야 한다고 강조했다. 김 교수는 촬영 뿐만 아니라 복제와 소지, 시청의 경우도 처벌 대상으로 확대해야 한다고 설명했다. 이어 이소은 부경대학교 미디어커뮤니케이션학부 교수도 "무엇보다 학교에서의 교육이 필요하다"며 "이것이 왜 성범죄인지, 왜 이런 활동을 하면 안되는지, 왜 단순한 놀이가 아닌지를 알려주는 노력이 시급하다"고 지적했다. 관련 업계 관계자들은 강력한 제재를 위한 법적 근거 마련을 촉구했다.  최진응 국회입법조사처 과학방송·통신팀 입법조사관은 "분명 국내법을 위반하고 사회적 문제를 일으키는 데도, 기존 콘텐츠 규제 쪽으로 가면 (플랫폼들은) 합법적 정보가 유통되니 접속을 차단할 수 없다는 논의 밖에 안된다"며 "국내법을 위반하는 사업자에 대해 강력히 제재하는 법적 근거를 마련할 필요가 있다"고 주장했다. 신영기 방송통신위원회 국장은 "딥페이크 성범죄 영상물을 유통하고 있는지를 모니터링하고 방송통신심의위원회에다 신고를 하거나 사업자에게 삭제 요청을 하는 형태로 진행하고 있다"며 "그 부분에 대한 예산도 증액할 수 있다면 증액을 통해 모니터링을 강화하겠다"고 밝혔다. 허욱 메타 코리아 부사장은 "메타는 미국 기업이긴 하지만 전 세계에서 서비스를 하고 있어,미국 법 뿐만 아니라 현지 국가의 법률을 엄격히 준수하며 서비스를 제공하고자 한다"며 "AI 기술로 만들어진 영상물이나 이미지에 대해선 레이블링을 별도 표시하고 있다"고 설명했다. theknight@fnnews.com 정경수 기자

[파이낸셜뉴스] 국회 과학기술정보방송통신위원회가 5일 딥페이크 근절을 주제로 긴급 정책토론회를 진행한다. 국회 과방위는 이날 오후 3시 전체회의를 열고 '딥페이크 성범죄영상물, 어떻게 근절할 것인가'를 주제로 토론회를 실시한다. 이날 토론회는 과방위 소속 여야 의원들이 공동으로 주최하는 토론이다. 김명주 서울여대 정보보호학부 교수가 '생성형 인공지능(AI)의 양면성과 안전 규제의 필요성'을 주제로, 이소은 국립부경대 미디어커뮤니케이션학부 교수가 '딥페이크 성범죄영상물 현황 및 대응 전략'을 주제로 각각 발제한다. 최진응 국회입법조사처 과학방송·통신팀 입법조사관, 허욱 메타코리아 부사장, 신영규 방송통신위원회 방송통신이용자정책국 국장, 이동수 방송통신심의위원회 디지털성범죄심의국 국장, 이경화 학부모정보감시단 이사장이 토론자로 나선다. theknight@fnnews.com 정경수 기자

IT·정보보안 전문가들은 인공지능(AI) 기반 이미지 합성(딥페이크) 범죄의 확산과 관련해 아동·청소년 성범죄 등에 악용되는 점은 강력히 규제해야 한다는 입장이다. 또 'N번방 사건' 이후로도 플랫폼 내 비슷한 양상의 범죄가 계속 발생하고 있어 장기적인 관점으로 재발 방지 플랜을 짜야 한다는 지적이다. 김명주 서울여대 정보보호학과 교수는 29일 "당장 공권력이 해당 이슈에 대해 많은 관심을 가지고 있고 강력하게 처벌할 것이란 메시지를 주는 것이 필요하다"고 강조했다. 그러면서 "디지털 성범죄에 있어선 양형 기준을 높여야 할 때"라고 주장했다. 딥페이크는 특정 인물의 얼굴 사진 등을 이용해 새로운 사진이나 영상을 제작하는 기술을 뜻하며, 생성형 AI 기술이 발달하면서 보다 정교해지고 있다. 딥페이크 사진·영상 제작에 대한 접근성도 높은 편이다. 결국 이를 금융 사기나 부정 선거, 특히 음란물 합성 등에 악용하는 사례가 빈번하게 발생하며 경각심이 높아지고 있다. 김명주 교수에 따르면 현재 주요 애플리케이션(앱) 마켓에 올라온 유명한 딥페이크 앱으로는 음란물을 만들 수는 없다. 최근 이슈된 딥페이크 음란물들은 오픈소스 저장소인 깃허브에서 소스코드를 다운 받아 음란물 생성 AI 봇을 만들기 위해 개인이 튜닝(조정)한 것이다. 김 교수는 "일각에서는 딥페이크 관련 AI 도구를 제어해야 하는 것이 아니냐는 말도 나오는데, 개인이 AI 모델을 돌리는 것까지는 법의 영역이 아니어서 사실상 실효성이 없다"고 일축했다. 현재 아동·청소년을 대상으로 한 딥페이크 음란 합성물에 대한 피해가 큰 문제로 부상했다. 실제 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하였다. 대통령실 사이버특별보좌관인 임종인 고려대 정보보호대학원 명예교수는 "페이스 스왑(얼굴바꾸기) 등 기술을 재미로 써보는 경우도 많고, 딥페이크를 이용한 성범죄는 우리나라가 (전 세계에서) 1등 수준"이라고 분석했다. 임 교수는 "딥페이크 기술을 악용해 아동·청소년 음란물을 제작, 유포하는 경우로 문제 의식을 좁혀서 확실히 처벌할 수 있는 법을 만들고, 텔레그램 등 유통 플랫폼이 빠르게 반응할 수 있도록 하는 게 시급하다"며 "현재 대통령도 딥페이크 등 디지털 범죄 척결에 의지가 크다"고 했다. 국제적인 공조가 필요하다는 목소리도 나왔다. 딥페이크 음란물 유통 관련 플랫폼에 대해 규제 입법을 한다 해도 해외 플랫폼에는 영향을 미치지 못할 것이란 해석이다. 김명주 교수는 "딥페이크 문제는 한 국가에서 움직일게 아니라 연합해서 움직여야 하는 사안"이라고 진단했다. 한편 기술이 발달하면서 비슷한 성범죄 피해 사례는 계속 나올 것으로 예상된다. 지난 2020년 N번방 사건이 사회문제로 대두되며 디지털 성범죄를 예방하고 피해자를 보호하기 위한 'N번방 방지법'이 시행됐지만, 수사·처벌이 제대로 이뤄지지 않는 등 한계도 제기된다. 김승주 고려대 정보보호대학원 교수는 "N번방 사건 때도 처벌 수위 높이기나 텔레그램에 협조 요청, 각국과 공조 등 여러 해결책이 나왔지만 또 성범죄 사건이 발생했다"며 "이번 딥페이크 사건을 담당하는 컨트롤타워에 힘을 싣고, 여러 부처의 공조를 이끌어 장기적인 관점에서 문제를 해결하려고 해야 한다"고 말했다. soup@fnnews.com 임수빈 기자

"인공지능(AI)과 인터넷 기술을 활용한 가짜뉴스와 허위정보가 민주주의 근간을 위협한다." 미국을 비롯해 세계 곳곳에서 선거가 치러지는 올해, AI 기술을 악용한 가짜뉴스와 딥페이크를 어떻게 방지할 것인가가 화두로 떠올랐다. 오는 4월 10일 제22대 국회의원 선거를 앞둔 국내도 AI로 만든 가짜뉴스가 쏟아지며 골머리를 앓고 있다. 가짜뉴스의 폐해는 어제오늘의 일은 아니지만, AI '옷'을 입은 가짜뉴스는 수많은 정치·사회적 이슈에 대한 여론을 왜곡시킬 수 있다는 우려의 목소리가 커지고 있다. ■음성·영상·사진으로…AI 딥페이크 확산 최근 가장 문제가 되고 있는 것은 AI 기술이 빠르게 발전하면서 등장한 딥페이크다. 딥페이크는 AI 심층학습인 '딥러닝(deep learning)'과 가짜를 의미하는 '페이크(fake)'의 합성어로, AI 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물을 뜻한다. 2년 내 글로벌 위험요인 1위로 부상한 AI 생성 가짜정보, 즉 딥페이크의 위험성이 크게 알려진 대표적인 사건은 지난 1월 미국의 유명 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란영상이다. 딥페이크 영상임이 확인됐음에도 소셜미디어를 통해 전 세계로 빠르게 퍼져나가며 삭제되기까지 약 4700만회 이상의 조회수를 기록했다. 이 사건은 딥페이크에 대한 경각심과 위험성 등을 일깨웠다. 선거 과정에서의 딥페이크 악용 사례도 늘고 있다. 대선을 앞둔 미국의 경우 조 바이든 대통령의 목소리를 흉내 낸 '로보콜'(녹음된 음성이 재생되는 자동전화), 트럼프 전 대통령의 AI 합성 사진 등으로 홍역을 치렀다. 민주당 뉴햄프셔주 비공식 경선 전날인 1월 22일 '투표에 참여하지 말라'는 자동전화를 받았다는 이들이 쏟아지자 백악관은 "AI에 의한 딥페이크"라고 공식 해명해야 했다. 한국도 예외는 아니다. 국내에선 지난해 말 윤석열 대통령이 사과하는 딥페이크 영상이 소셜미디어를 통해 유포된 바 있다. 총선일이 다가올수록 이 같은 딥페이크 게시물이 늘고 있는데, 실제로 26일 기준 중앙선거관리위원회가 적발한 4·10 총선 관련한 딥페이크 게시물은 209건에 달한다. 이는 3주 사이에 80건가량 늘어난 수치다. 이번에 적발된 게시물은 특정 정치인이 총선 후보자를 비난하고 조롱하는 모습의 영상으로, 딥페이크 기술로 제작된 것으로 조사됐다. 영상 속 정치인들의 얼굴과 목소리는 실제 인물과 흡사하나 AI를 활용한 딥페이크 영상으로 드러났다고 선관위는 전했다. 현행 선거법은 선거일 전 90일부터 선거일까지는 AI 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 선거운동 관련 음향, 이미지, 또는 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지하고 있다. 위반하면 7년 이하 징역이나 1000만~5000만원의 벌금에 처해질 수 있다. 그럼에도 각종 동영상 플랫폼, 소셜미디어 등의 플랫폼을 통해 게시되고 빠르게 유통, 삭제되는 수많은 딥페이크 게시물을 완벽하게 걸러내는 것은 현실적으로 힘든 것도 사실이다. 기술 발달로 몇 분 만에 딥페이크 이미지나 영상을 만들기는 쉬워졌고, 그렇게 만들어진 '가짜'를 진짜와 구분하기도 갈수록 어려워지고 있다. ■"허위정보 막아라"…플랫폼, 대응책 '고심' 상황이 이렇다 보니 전 세계적으로 딥페이크 대응책 마련을 주문하는 목소리도 커지고 있다. 국내에서는 4·10 총선을 앞두고 네이버와 카카오가 허위 정보나 기사, 딥페이크 모니터링에 촉각을 곤두세우고 있다. 네이버는 딥페이크 관련 검색어를 입력하면 "딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요"라는 안내문구를 띄운다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 악용에 대한 경각심을 일깨운다는 취지다. 딥페이크 악용 사례로 인한 피해나 피해 신고방법 등에 대한 안내도 제공해 이용자 피해대응 창구도 마련했다. 뉴스 서비스에서도 AI, 로봇이 자동으로 작성한 기사를 사용자가 인지하도록 표기했다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 "이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다"라는 문구가 노출되는 식이다. 또 네이버 신고센터 메인 페이지에 '선거 관련 허위정보 신고' 채널을 개설했고, 뉴스 댓글 집중 모니터링 기간을 설정해 담당자를 확대하는 등 24시간 모니터링을 강화했다. 또 각 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응해 나갈 예정이다. 카카오는 카카오브레인의 생성형 AI 이미지 모델인 '칼로'에 비가시성 워터마크를 도입했다. 비가시성 워터마크란 일반 사용자의 눈에는 보이지 않지만, 사용자가 이미지를 편집하더라도 제거되거나 훼손되지 않는 워터마크다. 카카오도 언론사에서 AI를 이용해 생성한 기사는 사용자가 쉽게 알 수 있도록 상단에 표기하고, 카카오 공식 채널을 통해 딥페이크 근절을 위한 이용자 유의사항을 발송했다. 건전한 선거문화 정착을 위한 이용자 주의 캠페인을 다음 카페, 티스토리, 카카오스토리, 브런치스토리, 다음 뉴스, 다음 총선 특집페이지, 다음 채널 스튜디오를 통해 진행 중이다. 카카오 역시 자체 신고센터를 24시간 운영해 빠른 모니터링 및 조치가 가능하도록 했고, 공개 영역에 딥페이크 영상이나 영상 캡처 이미지 등 딥페이크 허위조작이 확인된 내용일 경우 즉각 조치를 취한다는 계획이다. 카카오 측은 "선거운동기간 악의적인 딥페이크를 비롯한 허위조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를 지속 이어나갈 것"이라고 밝혔다． 지난 2월 뮌헨협약을 통해 기만적 AI 선거 콘텐츠 대응 방침을 밝혔던 구글, 메타, X(전 트위터) 등 해외 업체들도 총선기간에 자율협의체 활동을 통해 가짜뉴스, 딥페이크 등 방지에 나선다. 앞서 아마존, 구글, 메타, 마이크로소프트, 오픈AI 등 빅테크 20여곳은 독일 뮌엔안보회의에서 딥페이크 부작용 차단에 공동대응을 담은 합의문을 발표한 바 있다. 딥페이크와 같은 기만적 AI 선거 콘텐츠에 워터마크 표시, 탐지, 신속한 대응 등이 골자다. ■"법·제도 갖춰져야 AI 잘 활용할 수 있어" 이에 따라 AI 규범 마련도 전 세계의 이목이 집중되고 있다. 기술 발전에 따라 악용 수법이 더욱 교묘해지면서 전 세계적으로 생성형 AI 등 최신 기술에 대한 안정성 확보와 규제 준비 움직임은 빨라지고 있다. 유럽연합(EU) 의회는 13일(현지시간) 처음으로 AI 규제 법안을 내놨다. 위험도에 따라 AI 기술을 분류하고, 기술 개발 과정의 투명성을 강화하는 것이 골자다. 위반한 기업엔 전체 매출의 최대 7%의 과징금을 부여하는 등 규제 수위가 높다. 유엔 총회에서는 21일 회원국들이 AI의 안전한 사용에 관한 국제적인 합의를 조속히 마련해야 한다는 내용의 결의가 만장일치로 채택됐다. 국제사회가 유엔총회 차원에서 AI 관련 결의를 공식 채택한 것은 이번이 처음이다. 미국 주도로 제출된 이번 결의안은 AI 개발 및 활용이 빠르게 진행되고 있다는 점을 인식하고, 안전하고 신뢰할 수 있는 AI 시스템에 관한 글로벌 합의를 이루는 게 시급하다는 점을 강조했다. 국내에서도 AI 기술에 대한 규범 및 법적 테두리 마련을 위해 논의가 꾸준히 진행 중이나 아직은 더디다는 평가가 나온다. 국회에 발의된 AI 관련 법안은 모두 계류 중인데다, 총선 일정 등을 감안하면 이른 시간 내 법안 처리 가능성은 매우 낮다는 것이 업계 평가다. 전문가들은 국내에서 AI 등 신기술 악용으로 인한 피해를 막기 위해 글로벌 스탠더드에 맞춘 적절한 법안 마련 등이 시급하다고 조언한다. 전창배 IAAE 국제인공지능&윤리협회 이사장은 "법과 제도가 제대로 갖춰져 있어야 AI와 같은 신기술을 잘 활용할 수 있다"며 "안전하다는 기준이 마련돼야 소비하는 이용자들도 AI 기술을 믿고 쓸 수 있고, 산업도 발전할 수 있는 것"이라고 진단했다. 김명주 서울여대 교수(바른AI연구센터장)도 "글로벌 'AI 안정성 정상회의'가 올 5월에 국내에서 열리는 등 우리나라는 글로벌 각국과 규제에 대한 논의를 진행하고 있는 상황"이라며 "글로벌 논의를 보면서 법규도 조정할 필요가 있을 것 같고, 규제안을 만들 때도 AI 개발사 등 국내 기업의 불확실성을 줄이기 위해 유예기간을 두는 등 조치를 할 필요가 있다"고 지적했다. 한편, 최근 한국 주최로 서울에서 개막한 '제3차 민주주의 정상회의'에 화상으로 참석한 각국 정상들은 딥페이크를 비롯한 AI 가짜뉴스와 허위정보에 대한 공동대응에 뜻을 모았다. 윤 대통령은 "가짜뉴스는 국민들이 사실과 다른 정보를 바탕으로 잘못된 판단을 내리도록 선동한다"며 "민주주의의 근간인 선거를 위협하고 있다. 이는 민주주의에 대한 분명한 도발"이라고 지적했다. yjjoe@fnnews.com 조윤주 임수빈 기자

[파이낸셜뉴스] "인공지능(AI)과 인터넷 기술을 활용한 가짜뉴스와 허위 정보가 민주주의 근간을 위협한다." 미국을 비롯해 세계 곳곳에서 선거가 치러지는 올해, AI 기술을 악용한 가짜뉴스와 딥페이크를 어떻게 방지할 것인가가 화두로 떠올랐다. 오는 4월 10일 제22대 국회의원 선거를 앞둔 국내도 AI로 만든 가짜뉴스가 쏟아지며 골머리를 앓고 있다. 가짜뉴스의 폐해는 어제 오늘의 일은 아니지만, AI '옷'을 입은 가짜뉴스는 수많은 정치·사회적 이슈에 대한 여론을 왜곡시킬 수 있다는 우려의 목소리가 커지고 있다. 음성·영상·사진으로…AI 딥페이크 확산 최근 가장 문제가 되고 있는 것은 AI 기술이 빠르게 발전하면서 등장한 딥페이크다. 딥페이크는 AI 심층 학습인 ‘딥러닝'(deep learning)과 가짜를 의미하는 ‘페이크'(fake)의 합성어로, AI 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물을 뜻한다. 2년 내 글로벌 위험요인 1위로 부상한 AI 생성 가짜정보 즉, 딥페이크의 위험성이 크게 알려진 대표적인 사건은 지난 1월 미국의 유명 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 영상이다. 딥페이크 영상임이 확인됐음에도 소셜미디어를 통해 전 세계로 빠르게 퍼져나가며 삭제되기까지 약 4700만회 이상의 조회수를 기록했다. 이 사건은 딥페이크에 대한 경각심과 위험성 등을 일깨웠다. 선거 과정에서의 딥페이크 악용 사례도 늘고 있다. 대선을 앞둔 미국의 경우, 조 바이든 대통령의 목소리를 흉내 낸 '로보콜'(녹음된 음성이 재생되는 자동전화), 트럼프 전 대통령의 AI 합성 사진 등으로 홍역을 치렀다. 민주당 뉴햄프셔주 비공식 경선 전날인 1월 22일 '투표에 참여하지 말라'는 자동전화를 받았다는 이들이 쏟아지자, 백악관은 "AI에 의한 딥페이크"라고 공식 해명해야 했다. 한국도 예외는 아니다. 국내에선 지난해 말 윤석열 대통령이 사과하는 딥페이크 영상이 소셜미디어를 통해 유포된 바 있다. 총선일이 다가올수록 이같은 딥페이크 게시물이 늘고 있는데, 실제로 26일 기준, 중앙선거관리위원회가 적발한 4·10 총선 관련한 딥페이크 게시물은 209건에 달한다. 이는 3주 사이에 80건 가량 늘어난 수치다. 이번에 적발된 게시물은 특정 정치인이 총선 후보자를 비난하고 조롱하는 모습의 영상으로, 딥페이크 기술로 제작된 것으로 조사됐다. 영상 속 정치인들의 얼굴과 목소리는 실제 인물과 흡사하나, AI를 활용한 딥페이크 영상으로 드러났다고 선관위는 전했다. 현행 선거법은 선거일 전 90일부터 선거일까지는 AI기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 선거운동 관련 음향, 이미지, 또는 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지하고 있다. 위반하면 7년 이하 징역이나 1000만~5000만원의 벌금에 처해질 수 있다.  그럼에도 각종 동영상 플랫폼, 소셜미디어 등의 플랫폼을 통해 게시되고 빠르게 유통, 삭제되는 수많은 딥페이크 게시물을 완벽하게 걸러내는 것은 현실적으로 힘든 것도 사실이다. 기술 발달로 몇 분 만에 딥페이크 이미지나 영상을 만들기는 쉬워졌고, 그렇게 만들어진 '가짜'를 진짜와 구분하기도 갈수록 어려워지고 있다. "허위정보 막아라"…플랫폼, 대응책 '고심' 상황이 이렇다보니, 전 세계적으로 딥페이크 대응책 마련을 주문하는 목소리도 커지고 있다. 국내에서는 4.10 총선을 앞두고 네이버와 카카오가 허위 정보나 기사, 딥페이크 모니터링에 촉각을 곤두세우고 있다. 네이버는 딥페이크 관련 검색어를 입력하면 "딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요"라는 안내 문구를 띄운다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 악용에 대한 경각심을 일깨운다는 취지다. 딥페이크 악용 사례로 인한 피해나 피해 신고 방법 등에 대한 안내도 제공해 이용자 피해 대응 창구도 마련했다. 뉴스 서비스에서도 AI, 로봇이 자동으로 작성한 기사를 사용자가 인지하도록 표기했다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 “이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다”라는 문구가 노출되는 식이다. 또 네이버 신고센터 메인 페이지에 '선거 관련 허위 정보 신고' 채널을 개설했고, 뉴스 댓글 집중 모니터링 기간을 설정해 담당자를 확대하는 등 24시간 모니터링을 강화했다. 또 각 부서 핫라인을 구축해 이슈 발생시 빠르게 대응해 나갈 예정이다. 카카오는 카카오브레인의 생성형 AI 이미지 모델인 '칼로'에 비가시성 워터마크를 도입했다. 비가시성 워터마크란 일반 사용자의 눈에는 보이지 않지만, 사용자가 이미지를 편집하더라도 제거되거나 훼손되지 않는 워터마크다. 카카오도 언론사에서 AI를 이용해 생성한 기사는 사용자가 쉽게 알 수 있도록 상단에 표기하고, 카카오 공식 채널을 통해 딥페이크 근절을 위한 이용자 유의 사항을 발송했다. 건전한 선거 문화 정착을 위한 이용자 주의 캠페인을 다음 카페, 티스토리, 카카오스토리, 브런치스토리, 다음 뉴스, 다음 총선 특집 페이지, 다음 채널 스튜디오를 통해 진행 중이다. 카카오 역시 자체 신고 센터를 24시간 운영해 빠른 모니터링 및 조치가 가능하도록 했고, 공개 영역에 딥페이크 영상이나 영상 캡처 이미지 등 딥페이크 허위 조작이 확인된 내용에 경우, 즉각 조치를 취한다는 계획이다. 카카오 측은 "선거 운동 기간 동안 악의적인 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를 지속 이어나갈 것"이라고 밝혔다． 지난 2월 뮌헨협약을 통해 기만적 AI 선거 콘텐츠 대응 방침을 밝혔던 구글, 메타, X(전 트위터) 등 해외 업체들도 총선 기간 동안 자율협의체 활동을 통해 가짜뉴스, 딥페이크 등 방지에 나선다. 앞서 아마존, 구글, 메타, 마이크로소프트, 오픈AI 등 빅테크 20여곳은 독일 뮌엔안보회의에서 딥페이크 부작용 차단에 공동 대응을 담은 합의문을 발표한 바 있다. 딥페이크와 같은 기만적 AI 선거 콘텐츠에 워터마크 표시, 탐지, 신속한 대응 등이 골자다. "법·제도 갖춰져야 AI 잘 활용할 수 있어" 이에 따라 AI 규범 마련도 전 세계의 이목이 집중되고 있다.  기술 발전에 따라 악용 수법이 더욱 교묘해지면서 전 세계적으로 생성형 AI 등 최신 기술에 대한 안정성 확보와 규제 준비 움직임은 빨라지고 있다. 유럽연합(EU) 의회는 13일(현지시간) 처음으로 AI 규제 법안을 내놨다. 위험도에 따라 AI 기술을 분류하고, 기술 개발 과정의 투명성을 강화하는 것이 골자다. 위반한 기업엔 전체 매출의 최대 7%의 과징금을 부여하는 등 규제 수위가 높다.   유엔 총회에서는 21일 회원국들이 AI의 안전한 사용에 관한 국제적인 합의를 조속히 마련해야 한다는 내용의 결의가 만장일치로 채택됐다. 국제사회가 유엔총회 차원에서 AI 관련 결의를 공식 채택한 것은 이번이 처음이다. 미국 주도로 제출된 이번 결의안은 AI 개발 및 활용이 빠르게 진행되고 있다는 점을 인식하고, 안전하고 신뢰할 수 있는 AI 시스템에 관한 글로벌 합의를 이루는 게 시급하다는 점을 강조했다. 국내에서도 AI 기술에 대한 규범 및 법적 테두리 마련을 위해 논의가 꾸준히 진행 중이나 아직은 더디다는 평가가 나온다. 국회에 발의된 AI 관련 법안은 모두 계류 중인데다, 총선 일정 등을 감안하면 이른 시간 내 법안 처리 가능성은 매우 낮다는 것이 업계 평가다.  전문가들은 국내에서 AI 등 신기술 악용으로 인한 피해를 막기 위해 글로벌 스탠더드에 맞춘 적절한 법안 마련 등이 시급하다고 조언한다. 전창배 IAAE 국제인공지능&윤리협회 이사장은 "법과 제도가 제대로 갖춰져 있어야 AI와 같은 신기술을 잘 활용할 수 있다"며 "안전하다는 기준이 마련돼야 소비하는 이용자들도 AI 기술을 믿고 쓸 수 있고, 산업도 발전할 수 있는 것"이라고 진단했다. 김명주 서울여대 바른AI연구센터장(교수)도 "글로벌 'AI 안정성 정상 회의'가 올 5월에 국내에서 열리는 등 우리나라는 글로벌 각국과 규제에 대한 논의를 진행하고 있는 상황"이라며 "글로벌 논의를 보면서 법규도 조정할 필요가 있을 것 같고, 규제안을 만들 대도 AI 개발사 등 국내 기업의 불확실성을 줄이기 위해 유예 기간을 두는 등 조치를 할 필요가 있다"고 지적했다. 한편, 최근 한국 주최로 서울에서 개막한 '제3차 민주주의 정상회의'에 화상으로 참석한 각국 정상들은 딥페이크를 비롯한 AI 가짜뉴스와 허위 정보에 대한 공동 대응에 뜻을 모았다. 윤 대통령은 "가짜뉴스는 국민들이 사실과 다른 정보를 바탕으로 잘못된 판단을 내리도록 선동한다"며 "민주주의의 근간인 선거를 위협하고 있다. 이는 민주주의에 대한 분명한 도발"이라고 지적했다.  yjjoe@fnnews.com 조윤주 임수빈 기자