[왓츠업실리콘밸리] 딥페이크와 미국 대선

홍창기 실리콘밸리특파원

지난 1월 22일. 불특정다수의 미국 뉴햄프셔주 민주당 당원들은 조 바이든 대통령에게서 걸려온 전화를 받았다. 민주당 대선후보를 선출하기 위한 뉴햄프셔주 예비선거를 하루 앞둔 날이었다. 전화를 받은 당원들은 바이든 대통령이 "투표하지 마라"라고 말하는 것을 또렷하게 들을 수 있었다. 바이든 대통령은 예비선거에 투표하면 오는 11월 예정되어 있는 대선에서 투표할 수 없다고 말했다.

지난 8월 22일. 미국 공화당 대선후보 트럼프 전 대통령은 자신의 SNS에 "수락한다"는 글을 올렸다. 미국 국민가수 테일러 스위프트가 자신을 지지한다는 사진에 대한 답이었다. 트럼프 전 대통령이 자신의 SNS에 올린 사진에서 스위프트는 "트럼프에 투표해라"라고 말하고 있었다. 트럼프 전 대통령이 올린 또 다른 사진에서 스위프트 팬들은 트럼프를 지지한다는 티셔츠를 입고 있었다.

바이든 대통령의 목소리로 걸려온 전화, 트럼프 전 대통령을 지지한다는 스위프트의 사진도 모두 가짜였다. 모두 인공지능(AI)이 만들어 낸 영상·이미지·음성인 딥페이크(Deep fake)였다. 스위프트가 트럼프 전 대통령을 지지한다는 사진과 바이든 대통령의 목소리 모두 가짜인지 진짜인지 구분하기 어려웠다.

정교하게 조작된 스위프트의 가짜 사진은 팬들을 잠시 혼란스럽게 했다. 아직 스위프트는 이번 대선에서 어느 후보를 지지할지 입장을 밝히지 않았다. 감쪽같은 바이든 대통령의 가짜 목소리는 거짓 정보를 흘렸다. 예비선거와 대선 투표는 완전히 별개인데도 예비선거 투표를 막으려 했다. 이미 바이든이 이끄는 미국 정부는 딥페이크의 위험을 인지하고 여러 법안을 마련해 놓았다. 바이든 대통령은 지난해 11월 온라인 플랫폼과 SNS에서 가짜 정보를 막기 위한 규제를 강화하는 내용이 포함된 법안에 서명했다.

빅테크 기업들도 미국 대선을 딥페이크가 좌지우지하는 것을 막기 위해 나섰다. 구글 모회사 알파벳을 비롯해 페이스북 모회사 메타플랫폼, 마이크로소프트(MS), 아마존, 오픈AI 등이다. 지난달에는 애플도 이 대열에 합류했다. 이들은 AI로 생성된 콘텐츠에 워터마크 반영 등을 약속했다. 오픈AI의 생성형 AI챗봇 챗GPT는 대선과 관련된 이미지 생성이 되지 않는다. 구글의 생성형 AI 제미나이도 마찬가지다. 하지만 아직 일론 머스크가 소유한 엑스(X·옛 트위터)나 트럼프 전 대통령이 설립한 SNS '트루스 소셜' 등의 플랫폼은 딥페이크와 관련된 자체 규제에 미온적이다.

더 나아가 트럼프 전 대통령을 지지하는 머스크는 최근에 딥페이크로 생성된 카멀라 해리스 부통령의 가짜 목소리를 자신의 X 계정에 게시하기도 했다. 머스크는 딥페이크로 조작된 민주당 대선후보인 해리스 부통령의 목소리를 이용한 1분52초짜리 영상을 '조작 영상'이라고 표시하지 않았다. 반대로 이 영상의 원작자는 영상이 조작됐다고 표시했다. 딥페이크로 조작된 해리스 부통령은 영상에서 "조 바이든은 토론에서 그의 노망을 드러냈다"고 말했다. 이 영상에 머스크는 "놀랍다"고 글을 썼다.

트럼프 전 대통령도 아직 완성되지 않은 미국 정부의 AI 규제 사각지대를 교묘하게 활용하고 있다. 미국 연방통신위원회(FCC)는 정치광고에서 AI를 사용한 콘텐츠, 특히 딥페이크 기술을 사용한 경우 이를 명확히 공개하도록 하고 있다. 하지만 FCC가 관할하지 않는 온라인 등에서는 이것이 적용되지 않는다. 트럼프 전 대통령은 이 점을 인지하고 스위프트의 가짜 지지 사진을 SNS에 올렸다.

FCC는 바이든 대통령의 가짜 목소리를 제작한 정치 컨설턴트에게 600만달러, 한화로 약 82억원 상당의 벌금을 부과했다.

하지만 대선이 가까워지고 정교한 딥페이크가 계속 생산되면서 딥페이크가 미국 대선 레이스 전체를 흔들 수 있다는 우려가 점점 더 커지고 있다. 딥페이크가 미국 대선의 복병이 될 수도 있다. 딥페이크가 미국 대선판을 좌지우지하는 일은 없어야 한다.

[e-mail]

※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지