【 실리콘밸리=홍창기 특파원】 "11월 선거를 위해 투표를 하지 않는 것이 중요하다. 우리는 투표가 중요할 때 민주당에 투표하는 것이 얼마나 중요한지 알고 있다. 이번 화요일(지난 23일)에 투표하는 것은 공화당이 도널드 트럼프를 2024 공화당 대선후보로 당선시킬 수 있게 만드는 것이다." 미국 뉴햄프셔주 민주당 프라이머리(예비경선)직전 민주당원에게 걸려진 가짜 조 바이든 대통령의 가짜전화(로보콜) 내용의 일부 내용이다. 지난 한 해 동안 오픈AI의 생성형 인공지능(AI) 챗GPT 등의 AI 동영상 생성기 같은 강력한 도구가 확산되면서 AI가 선거를 지배할 것이라는 우려가 현실이 되고 있다. 최근 미국 뉴햄프셔주 민주당 대선 주자 경선을 앞두고 조 바이든 미국 대통령의 AI로 생성된 로보콜이 실제로 유권자들에게 전달되면서 위기감은 더 커지고 있다. AI 기술을 기반으로 만들어낸 가짜 오디오, 가짜 비디오, 가짜 이미지 등 딥페이크(Deepfake)가 선거를 앞두고 사실인 것처럼 둔갑되고 있다. 딥페이크는 딥러닝과 페이크(fake·가짜)의 합성어로 AI를 기반으로 얼굴 생김새나 음성 등을 실제처럼 조작한 이미지나 영상 등을 통칭한다.■딥페이크 음성·영상 타겟된 바이든뉴햄프셔주 민주당 프라미어미를 앞두고 등장한 바이든의 가짜 로보콜은 바이든이 평소에 자주 사용하는 "말도 안 되는 소리(a bunch of malarkey)"라는 말로 시작된다. 이어 청취자에게 "11월 선거를 위해 투표를 아껴라"는 말이 이어진다. 투표를 하지 말라는 취지의 발언이 이어지고 마지막에는 "앞으로 전화를 받고 싶지 않으면 2번을 누르면 된다"라는 형식으로 마무리된다. 바이든 대통령이 자주 쓰는 어투와 실제 같은 목소리, 실제 선거전화와 같은 형식은 일부 민주당원들을 혼란스럽게 만들어 신고가 빗발치게 했다. 미국 시민단체 퍼블릭 시티즌의 대표 로버트 와이즈먼은 영국 파이낸셜타임스(FT)에 "뉴햄프셔주의 바이든 목소리 딥페이크 사례는 딥페이크가 선거에 혼란을 야기할 수 있다는 것을 상기시켜 줬다"고 분석했다. AI로 만들어진 바이든의 딥페이크는 또 존재한다. 바로 미국 공화당이 AI가 생성한 딥페이크 동영상을 사용해 만들어 낸 조 바이든 대통령의 재선 후 미국의 미래를 묘사하는 33초 짜리 정치 광고다. 이 정치 광고는 '미국 역사상 가장 약한 대통령 바이든이 2024년 재선된다면'이라는 문구와 더불어 바이든 대통령과 카멀라 해리스 부통령이 서로를 안고 환하게 웃고 있는 장면으로 시작된다. 이어 중국의 대만 침공 장면과 미국 금융시스템 마비, 이민자로 인한 미국 국경 붕괴, 주지사가 민주당인 캘리포니아주 샌프란시스코를 배경으로 한 강력범죄 폭증의 딥페이크 영상이 차례로 보여진다. 바이든이 재선됐을 경우 발생할 수 있는 최악의 상황을 그려낸 것이다. AI로 만들어졌다는 표시는 있다. 그러나 정치 광고 왼쪽 상단에 아주 조그맣게 표시돼 이를 식별하기는 상당히 힘든 것으로 지적되고 있다. 전 미국 법무부 관료이자 선거법 전문가 데이비드 베커 선거혁신연구센터(CEIR) 대표는 AP통신에 "로보콜과 속임수는 오래전으로 거슬러 올라간다"면서도 "선거에 영향을 미치기 위해 생성형 AI 오디오가 사용되기 시작한 것은 최근의 일"이라고 설명했다. ■딥페이크 오디오 급속 확산 왜?최근 AI를 활용한 정치 딥페이크는 이미지나 영상보다 오디오에 초점이 맞춰져 있다. 대중들이 딥페이크 이미지의 존재를 충분히 인식하는데다 딥페이크 음성은 딥페이크 영상보다 제작이 싸고 쉽고 추적이 어려워서다. AI 딥페이크 전문가인 헨리 아즈너는 "대중들은 이미지와 동영상에 비해 음성이 조작됐다고 생각하지 못하는 경향이 있다"면서 "대중들이 딥페이크 오디오에 취약할 수밖에 없다"고 설명했다. 때문에 지금까지 영국을 비롯해 인도, 나이지리아, 수단, 에티오피아, 슬로바키아 등 지구촌 곳곳에서 AI 딥페이크 음성 조작으로 의심되는 사례가 나왔다. 슬로바키아의 경우 선거를 며칠 앞두고 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 AI 생성 오디오 녹음이 사실인 것처럼 확산됐었다. 딥페이크 오디오 사용이 확산되면서 관련 기업들의 몸값도 상승세다. AI 음성 생성 스타트업인 일레븐랩스의 경우 투자가 쇄도하면서 회사 가치가 11억 달러(약 1조5000억 원)로 평가될 정도로 몸값이 급등하고 있다. 이 회사의 AI 음성 생성 서비스는 한 달에 최저 1달러부터 시작되며 고성능 기능을 사용하려면 330달러를 지불하면 된다. AI로 조작된 딥페이크 음성은 주로 전화로 퍼진다는 점에서 출처를 추적하기가 쉽지 않다고 전문가들은 지적했다. AI 딥페이크 전문가 아즈너는 "선거를 앞두고 딥페이크의 순간이 왔다"면서 "서둘러 보호 장치를 마련하지 않으면 선거에서 우리는 대혼란에 직면하게 될 것이다"라고 경고했다. theveryfirst@fnnews.com

[파이낸셜뉴스] 국민의힘 3·8 전당대회 당 대표 선거에 출마했던 황교안 전 미래통합당(국민의힘 전신) 대표 측이 9일 전당대회 투표가 조작됐다는 주장을 제기했다. 황 전 대표의 유튜브 채널인 ‘황교안TV’는 8일 ‘국민의힘 경선 투표 조작 빼박 증거’라는 제목의 동영상을 공개했다. 해당 영상에서 황 전 대표 측 인사들은 지난 4~7일 시행된 전당대회 투표 과정에서 5초 간격으로 집계되는 실시간 투표인 수가 10명 단위로 증가하는 등 확률상 희박한 현상을 확인했고, 이는 조작 가능성을 보여주는 것이라고 주장했다. 해당 영상에 등장한 황 대표 측 인사들은 또 △모바일투표 본인 인증 과정 허술 △그 결과 본인 명의가 아닌 휴대폰에서도 투표할 수 있는 등 대리투표 가능성 △실시간 투표자 수와 투표율 전체를 공개하지 않은 점 등을 들어 ‘투표 조작’ 의혹을 제기했다. 한편 이번 국민의힘 전당대회 투표는 중앙선관위의 ‘K보팅’ 시스템을 이용한 모바일 및 자동응답시스템(ARS) 방식으로 치러졌다. 황 전 대표는 지난 2020년 4·15 총선과 2022년 대통령 선거 사전 투표가 조작됐다고 주장한 바 있다. 중앙선관위는 이와 같은 황 전 대표의 주장이 사실과 다르다며 작년 5월 황 전 대표를 고발했었다. 황 전 대표는는 지난 대선 경선 탈락 이후에도 득표율 조작을 주장하며 경선 중단 가처분, 무효 소송을 제기했지만 기각됐다. sanghoon3197@fnnews.com 박상훈 기자

【파이낸셜뉴스 전주=강인 기자】 선거관리위원회 사전투표가 조작됐다고 주장한 50대에게 무죄가 선고됐다. 전북 전주지법 제11형사부는 공직선거법 위반 혐의로 기소된 A(54)씨에게 무죄를 선고했다고 26일 밝혔다. A씨는 2020년 2월 서울시 중구 한 강연장에서 "중앙선관위가 품질 인증을 받지 않은 불법 프로그램을 쓰고 있다. 사전투표가 조작되고 있으니 참여하지 말라"는 취지의 강연을 한 혐의로 기소됐다. 그는 강연장에서 "이런 엉망진창인 선거제도를 보고도 부정선거가 없다고 말할 수 있느냐. 중앙선관위 앞에서 대규모 집회를 해야 한다"고 주장했다. 검찰은 중앙선관위가 투표 결과를 조작할 수 있는 장비나 프로그램을 사용한 사실이 없다고 보고 A씨를 재판에 넘겼다. 하지만 재판부는 이런 행위가 선거 자유 방해에 해당하지 않는다고 판단했다. 재판부는 "피고인의 발언이 단편적 내용에 기초한 것이라고 하더라도, 내용 자체는 사전 투표 조작 가능성에 관한 주장 및 의견에 불과해 허위사실이라고 단정하기 어렵다"며 "이 사건으로 선거인의 사전 투표에 관한 행위에 어떠한 어려움이나 지장이 초래됐는지 증명되지도 않았다"고 판시했다. kang1231@fnnews.com 강인 기자

[파이낸셜뉴스] 지난 대선 기간 사전투표 조작설을 유포해 투표 참여를 방해한 혐의로 고발된 황교안 전 국무총리와 민경욱 전 의원이 최종 불기소 처분받았다. 7일 법조계에 따르면 서울남부지검 형사6부(이준동 부장검사)는 중앙선거관리위원회(중앙선관위)가 경찰의 불송치 결정에 이의제기한 고발 사건에 대해 전날 혐의없음 처분을 내렸다. 검찰은 선거방해 혐의를 인정하기 어렵다는 취지로 불기소 처분했다. 검찰은 황 전 총리와 민 전 의원의 주장이 실제 투표율에 영향을 미칠 정도는 아니었던 점과 사전투표 대신 본투표를 독려해 선거방해로 볼 수 없었던 점 등을 고려한 것으로 전해진다. 황 전 총리와 민 전 의원은 지난 대선 기간 신문 광고와 집회 발언, 유튜브 채널 등을 통해 사전투표 조작설을 퍼뜨렸다. 중앙선거관리위원회는 올해 3월 이들에 대해 공직선거법 위반 등 혐의로 검찰에 고발장을 냈다. 해당 사건은 당초 서울중앙지검 공공수사2부에 배당됐다가 경찰로 이송됐다. 지난달 23일 경찰이 이들을 불송치하자 중앙선관위가 이의를 신청해 서울남부지검에서 다시 수사를 맡았다. yesyj@fnnews.com 노유정 기자

[파이낸셜뉴스] 민경욱 전 미래통합당(현 국민의힘) 의원이 지난 2020년 4월 15일 실시한 21대 국회의원 선거가 조작됐다며 낸 선거무효 소송이 대법원에서 기각됐다. 대법원 2부(주심 천대엽 대법관)는 28일 민 전 의원이 인천 연수구 선거관리위원회를 상대로 제기한 총선 무효소송을 기각했다. 앞서 연수구 선거관리위원회는 전체 투표수 12만 7000표 중 당시 정일영 더불어민주당 후보자는 5만2800표, 민경욱 미래통합당 후보자는 4만9900표, 이정미 정의당 후보자는 2만3200표를 득표했다는 이유로 정일영 의원이 당선인으로 결정했다. 민 전 의원은 "4·15 총선은 QR코드 전산 조작과 투표조작으로 이뤄진 부정선거"라면서 "투표지 분류기와 서버 등을 통해 개표 결과를 조작하는 등 선거 과정 전반에 걸쳐 부정선거 행위가 있었다"며 소송을 제기했다. 재판부는 "당시 선거에는 공직선거법에 규정된 바에 따라 투·개표 절차 전반에 걸쳐 미래통합당을 비롯한 각 정당 추천의 선거관리위원 및 참관인, 공무원인 개표종사원 등 수많은 인원이 참여했다"며 "부정한 행위를 하기 위해서 고도의 전산 기술과 해킹 능력뿐 아니라 대규모 조직 등이 필요하나 민 의원은 부정선거 실행 주체가 누구인지조차 증명하지 못했다"고 판단했다. 이어 "사전투표지 전부의 QR코드를 민 전 의원이 제공한 프로그램을 이용해 분석했지만, 민 전 의원이 주장하는 바와 같은 선거인에 관한 개인정보 등이 나타나지 않았다"며 "사전투표용지에 일련번호를 QR코드로 인쇄한 것이 선거무효 사유에 해당한다고 볼 수 없다"고 했다.  koreanbae@fnnews.com 배한글 기자

[파이낸셜뉴스] 21대 총선 당시 일각에서 제기됐던 '사전투표 조작설'은 허위라는 법원 판단이 나왔다. 재판부는 다만 선거 제도에 관한 비판적 의견에 대해 엄격한 법적 책임을 물어서는 안 된다며 유포자에게는 무죄를 선고했다. 28일 법조계에 따르면 서울고법 형사6-3부(강경표·원종찬·정총령 부장판사)는 공직선거법 위반 혐의로 기소된 A씨에게 1심과 마찬가지로 무죄를 선고했다. A씨는 21대 총선을 앞둔 2020년 1~2월 자신이 운영하는 유튜브 채널 방송에서 "사전투표가 조작됐다"며 허위 사실을 유포하고, "투표하지 말라"며 선동한 혐의를 받는다. A씨는 사전투표용지에 식별번호가 무작위로 부여돼있고 사전투표함을 본드로 고정시켜 '표 바꿔치기'가 가능하다고 주장했다. 하지만 재판부는 "사전투표용지에 인쇄된 QR코드 일련번호는 각 투표용지에 부여되는 고유한 번호로, 무작위가 아니라 '관할 선거관리위원회별'로 순차적인 일련번호가 부여된다"고 판단했다. 사전투표함을 본드로 고정한다는 주장에 대해서는 "사전투표함은 12개의 철핀으로 고정돼 있어 '플라스틱 틀과 행낭을 본드 내지 유사 접착제로 결합한다'는 A씨 발언은 사실에 부합하지 않는다"고 봤다. 다만 재판부는 이 같은 A씨의 주장이 형사처벌 대상은 아니라고 판단했다. 선거제도에 관한 비판적 발언에 엄격한 법적 책임을 묻는 것이 오히려 선고제도와 선거 결과에 대한 사회적 신뢰를 훼손할 수 있다는 이유에서다. 재판부는 "사전투표에서 '부정선거'를 하는 것은 사실상 불가능함에도, 선거제도에 관해 비판적 발언을 하는 과정에서 일부 사실에 부합하지 않거나 다소 과장되는 표현을 사용할 경우, 선거인들에게 다소 부정적인 영향을 끼칠 우려가 없지는 않다"면서도 "그에 대해 무거운 법적 책임을 묻는 것이 선거제도 및 결과에 대한 사회적 신뢰를 유지하는 해결책이 될 수 없다"고 지적했다. 그러면서 "이에 대해 엄격한 법적 책임을 부과한다면, 선거제도에 대한 비판적 의견을 제기하는 것 자체를 막아 선거제도의 신뢰성·투명성을 제고하기 위한 사회적 토론의 기회를 봉쇄하고, 이에 따라 오히려 선거제도 및 그 결과에 대한 사회적 신뢰를 훼손하는 결과로 이어질 우려가 있다"고 덧붙였다. 검찰이 상고하지 않아 A씨 무죄는 확정됐다.  clean@fnnews.com 이정화 기자

[파이낸셜뉴스]   검찰이 제20대 대통령선거를 앞두고 '사전 투표 조작설'을 유포한 혐의로 중앙선거관리위원회로부터 고발을 당한 황교안 전 미래통합당(현 국민의힘) 대표와 민경욱 전 국민의힘 의원에 대한 수사에 착수했다. 3일 법조계에 따르면 서울중앙지검은 공직선거법상 선거의 자유 방해, 형법상 위계에 의한 공무집행방해 등 혐의로 고발된 황 전 대표와 민 전 의원 사건을 지난2일 선거 사건 전담 부서인 공공수사2부에 배당했다. 중앙선관위는 이달 1일 황 전 대표와 민 전 의원이 오는 4~5일 열리는 사전투표가 조작된다는 허위사실을 유포해 유권자들의 투표 자유권을 침해하고, 선관위 사전투표 직무집행을 방해한 혐의 등으로 검찰에 고발했다. 중선위는 이들이 유튜브, 집회 발언 등을 통해 선과위가 부정선거를 위한 비밀 임시 사무소를 설치하고, 사전투표 용지 불법도장 사용, 법적근거 없는 QR코드 사용 등을 통해 사전투표를 조작한다는 허위사실을 유포했다고 지적했다. 중선위는 특히 이들이 '선관위가 이번 대선에서 부정선거를 준비 중이므로 사전투표를 하면 안 된다'는 취지의 광고를 주요 신문게 반복 게재한 사실도 지적했다. hwlee@fnnews.com 이환주 기자

[파이낸셜뉴스] 엠넷(Mnet)의 아이돌 육성 프로그램 '아이돌학교'의 시청자 투표를 조작한 혐의로 재판에 넘겨진 총괄프로듀서(CP)가 2심에서도 실형을 선고받았다. 서울중앙지법 형사항소8-1부(김예영·장성학·장윤선 부장판사)는 26일 업무방해 등 혐의로 재판에 넘겨진 김모 CP에게 징역 1년을 선고한 원심을 파기하고 징역 8개월을 선고했다. 김모 제작국장 겸 본부장에게는 벌금 1000만원을 선고한 원심을 깨고 징역 4개월에 집행유예 1년을 선고했다. 재판부는 "이들은 유력 방송사 제작국장과 CP로 유료 문자투표 결과를 조작해 시청자에게 재산적 손해와 정신적 상처를 입혔고, 아이돌 지망생 피해자에게도 심각한 상처를 입혔다"며 "다만 사적 이익 도모를 위한 것이 아니라 저조한 화제성으로 시청률과 유료투표 문자 수가 낮게 나오자 회사 손해를 막겠단 이유로 범행에 이른 것으로 보인다"고 지적했다. 재판부는 다만 일부 방송 회차 중 별도 투표 결과 발표가 없었던 회차와 시청자들의 유료문자 투표 결과만 반영된 일부 회차 등에 대한 업무방해 혐의는 무죄로 판단했다. 또 일부 시간 외 투표에 적용된 사기 혐의도 무죄로 봤다. 재판부는 "투표 시작과 종료를 방송 때마다 공지하는 등 널리 알려진 사실"이라며 :순위 결정에 영향을 미칠 의사 없이 투표했을 가능성이 있어 무죄로 판단한다"고 설명했다. 김 제작국장은 1심에서는 방조범에 불과하다며 벌금형을 선고받았지만, 2심에서는 김 CP의 단독 결정이 어려웠을 것으로 보인다며 징역형 집행유예를 선고했다. 이들은 2017년 7월부터 9월까지 엠넷에서 방송된 아이돌학교의 시청자 투표를 조작한 혐의로 기소됐다. 아이돌학교는 걸그룹 연습생들을 교육하고 훈련해 투표순위에 따라 데뷔까지 하는 과정이 담긴 프로그램이다. 해당 사건은 '아이돌학교 투표조작 의혹 진상규명위원회'는 아이돌학교의 투표 조작 정황을 발견해 2019년 9월 서울지방경찰청 사이버수사대에 고발장을 내면서 시작됐다. 1심 재판부는 김 CP에게는 징역 1년을, 김 제작국장에게는 벌금 1000만원을 선고했다. clean@fnnews.com 이정화 기자

[파이낸셜뉴스] 방송통신심의위원회(위원장 정연주)가 엠넷 오디션 프로그램 ‘아이돌학교’에 대해 과징금 3000만원을 부과했다. 방송통신심위원회는 6일 서울 목동 방송회관에서 전체회의를 열고 ‘아이돌학교’ 등 총 12개 프로그램에 대해 심의하고 제재조치 등을 의결했다. 이날 회의에서 걸그룹 멤버 선발 과정의 시청자 투표결과를 조작해 합격자와 탈락자가 바뀌는 내용을 방송한 ‘아이돌학교’에 대해 과징금 3000만원을 부과했다. 또 생활정보 프로그램에서 허위의 사례자, 전문가 등이 출연해 사실과 다른 내용을 방송한 SBS Biz ‘생생경제 정보톡톡’에 대해서는 과징금 1000만원을 부과하기로 결정했다. 남녀 아이돌 그룹 멤버를 선발하는 오디션 프로그램에서 참가자의 사전 온라인 점수를 잘못 입력해 3명의 멤버를 투표결과와 다르게 선발한 KBS-2TV ‘아이돌 리부팅 프로젝트 더 유닛’은 ‘주의’로 최종 의결했다. 이외에도 출연 의료인이 소속된 병원으로 연결되는 전화번호를 자막 고지하고, 진행자가 해당 전화번호로 상담을 권유한 실버아이TV ‘헬스 투데이’, 출연자들이 간접광고 상품임을 밝히고, 해당 상품을 이용하면서 근접촬영해 보여주고 특징·장점 등 상업적 표현을 구체적으로 노출·언급한 tvN·XtvN·tvN STORY의 ‘유 퀴즈 온 더 블록’도 ‘주의’를 받았다. 간이소화용구를 판매하면서 해당 제품을 소화기로 오인케 하거나, 안전사고를 유발할 우려가 있는 내용을 방송한 홈앤쇼핑 ‘이지119 소화기’, 방송광고가 제한되는 시간대에 3편의 맥주 광고를 방송해 ‘방송광고심의에 관한 규정’을 위반한 YTN에 대해서도 ‘주의’로 의결했다. 한편, 정경심 교수의 2심 판결과 관련해 진행자와 출연자들이 대담하는 내용을 방송한 TBS-FM ‘김어준의 뉴스공장’에 대해서는 ‘권고’로 최종 의결했다. jashin@fnnews.com 신진아 기자

[파이낸셜뉴스]  엠넷(Mnet)의 아이돌 육성 프로그램 ‘아이돌학교’의 시청자 투표를 조작한 혐의로 재판에 넘겨진 총괄프로듀서(CP)가 1심에서 징역형을 선고받고 법정구속됐다. 서울중앙지법 형사19단독(이원중 부장판사)는 10일 업무방해 혐의로 기소된 CP 김모씨의 선고공판에서 징역 1년을 선고하면서 ‘도주우려’를 이유로 법정구속했다. 함께 재판에 넘겨진 기획제작국장 겸 본부장 대행 김모씨에 대해서는 벌금 1000만원이 선고됐다. 재판부는 “시청자가 모르게 온라인 투표에 가중치 점수를 반영했을 뿐 아니라 임의로 순위조작해 관련자들에게 조작 방송을 하게 했다"며 "이 사건 업무방해가 충분히 인정된다”고 판시했다. 이어 “시청자의 신뢰를 손상할 뿐만 아니라 시청자들과 투표자들을 우롱하는 결과를 초래했고, 더 나아가 방송 취지에 따라 출연하고 데뷔기회를 박탈당한 경우도 있다"며 "범행을 주도하고 범행횟수와 기간, 가담정도, 피해 규모로 볼 때 비난 가능성이 크다”고 지적했다. 이들은 지난 2017년 7월부터 9월까지 엠넷에서 방송된 아이돌학교의 시청자 투표를 조작한 혐의로 기소됐다. 아이돌학교는 걸그룹 연습생들을 교육하고 훈련해 투표순위에 따라 데뷔까지 하는 과정이 담긴 프로그램이다. 수사가 시작된 건 ‘아이돌학교 투표조작 의혹 진상규명위원회’가 투표 조작 정황을 발견해 2019년 9월 서울지방경찰청 사이버수사대에 고발장을 내면서 불거졌다. 검찰은 지난해 7월 이들을 업무방해 등 혐의로 기소한 바 있다. jihwan@fnnews.com 김지환 기자