[파이낸셜뉴스]  텔레그램 딥페이크 사태가 일어나며 전국적으로 딥페이크에 대한 경각심이 일어나고 있다. 윤석열 대통령은 지난 27일 서울 용산 대통령실 청사에서 열린 제37차 국무회의에 참석해 딥페이크 성범죄에 대한 철저한 수사와 엄벌을 주문했다. 윤 대통령은 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 말했다. 동시에 전문가들은 이제라도 AI 기술이 각종 범죄에 악용되는 것을 막는 법안을 마련하해야 한다고 입을 모은다. AI 생성물임을 알리는 워터마크를 의무적으로 도입하는 등 사람들이 가상 정보라는 사실을 인지해 스스로 판단할 수 있도록 돕는 제도적 장치를 마련해야 한다는 것이다. 그렇다면 전국민이 사용하는 카카오톡의 카카오는 딥페이크에 대한 장치를 어떻게 마련했을까? 28일 업계에 따르면 카카오는 카카오브레인의 인공지능(AI) 이미지 생성 모델 '칼로'에 대해 지난 3월 비가시성 워터마크 기술을 도입했다. 카카오에 따르면 회사는 딥페이크 허위 조작 정보 근절 방안의 하나로 이 같은 방안을 시행했다. 이는 최근 텔레그램 불법 동영상 사태가 일어나기 전인 작년 12월 공직선거법 개정으로 4·10 국회의원 총선거 운동 기간인 현재 유권자를 상대로 한 AI 기반 딥페이크 제작·편집·유포·상영·게시가 금지된 데 따른 조처였다. 카카오는 인물을 기반으로 한 AI 생성물에 대한 공유가 더 활발히 이뤄지는 만큼, 카카오톡 채널 '칼로 AI 프로필' 기능에 비가시성 워터마크를 먼저 도입했다고 소개했다. 또한, 이미지 생성 웹 기반 전문가 도구인 '칼로.ai'에도 비가시성 워터마크가 도입될 예정이라고 덧붙였다. 카카오에 비가시성 워터마크 기술을 공급한 회사는 스냅태그다. 스냅태그는 비가시성 워터마크 기술 기반의 IT 기업이다. 칼로로 이미지를 생성할 경우 스냅태그의 비가시성 워터마크가 이미지 전체에 자동으로 적용된다. 이를 스냅태그 AI 홈페이지에 업로드하면, 비가시성 워터마크를 자동으로 감지해 해당 이미지의 출처와 삽입된 비가시성 워터마크의 유니크 코드를 확인할 수 있다. 유니크 코드는 비가시성 워터마크의 고유 번호이며, 해당 코드를 통해 워터마크 적용 여부부터 AI의 출처, 세부 정보까지 확인할 수 있다. 이는 워터마크 적용 여부 판별에 추가해 원본 데이터 없이 워터마크 적용 여부와 함께 내재된 정보까지 확인할 수 있는 강점이 있다. 지난 4월 스냅태그 민경웅 대표는 “비가시성 워터마크가 AI 이미지의 가짜뉴스, 딥페이크 등과 같은 문제를 해결할 수 있다”며 “생성형 AI 업계 전반에 걸쳐 이러한 워터마크 기술의 도입을 적극적으로 권장하고 있다”고 밝혔다. 이어 “카카오브레인 칼로를 비롯해 다양한 생성형 AI 업체에 비가시성 워터마크가 도입돼 안전한 AI 환경을 만들어나가기를 희망한다”며 “이를 위해 스냅태그도 비가시성 워터마크의 기술력을 높이기 위해 노력하겠다”고 전했다. 추가로 스냅태그는 최근 디지털 휴먼 AI기업인 클레온과 딥페이크 등 AI 콘텐츠의 부정 사용을 방지하는 디지털 휴먼 부정사용 방지 솔루션을 개발했다. 이 솔루션은 실시간으로 이용자의 PC 또는 앱 내에서 생성되는 디지털 휴먼에, 눈에 보이지 않는 워터마크가 서버 없이 이용자 기기에서 콘텐츠의 진위 여부를 판별할 수 있다. 클레온과 함께 출시한 솔루션과 관련해 민경웅 스냅태그 대표는 "이번 협업을 통해 정부가 추진하고 있는 '생성 AI 8대 핵심 과제' 중 AI기술의 안정성 및 신뢰·윤리 확보, 딥페이크를 활용한 가짜 뉴스 대응에 대한 모범 선례가 될 수 있을 것"이라고 언급했다. 한편 스냅태그는 2022년 시리즈A 투자유치에 이어 지난 7월 시리즈B 투자까지 마친 신생 업체다. 시리즈A는 브이아이피자산운용, 타그리스인베스트먼트, 센트럴투자파트너스로부터 투자를 유치했으며 시리즈B는 스톤브릿지벤처스, 카카오인베스트먼트, 키움인베스트먼트로 부터 투자률 유치했다. 스냅태그는 최근 시리즈B 투자유치를 발판 삼아 회사의 비가시성 워터마크 기술이 더욱 다양한 사업에 적용될 수 있도록 기술 개발에 힘을 쓰고 글로벌 기술 표준이 될 수 있도록 추진한다는 계획이다. kakim@fnnews.com 김경아 기자

【실리콘밸리=홍창기 특파원】  페이스북 모회사 메타플랫폼이 다음 달부터 자사의 플랫폼에 게시되는 인공지능(AI) 생성 콘텐츠에 "AI로 만들어졌음"(Made with AI)라는 워터마크(라벨)를 부착한다. 5일(현지시간) 메타의 콘텐츠 정책 담당 부사장 모니카 블리커트는 이날 자사 블로그에 "오는 5월부터 AI 생성 콘텐츠에 라벨을 붙이기 시작할 계획"이라고 밝혔다. 메타는 AI 이미지를 식별하는 업계 표준 방식을 활용한다. 이에 따라 AI 생성 콘텐츠를 감지할 때나 이용자들이 AI 생성 콘텐츠를 게시한다고 공개할 때 해당 이미지나 영상·오디오 콘텐츠에 "Made with AI" 라벨을 붙일 계획이다. 다만 메타는 표현의 자유를 불필요하게 제한하는 위험을 피하기 위해 조작된 콘텐츠를 삭제했던 기존 정책을 변경해 해당 콘텐츠를 놔두기로 했다. 이에 따라 오는 7월부터는 조작된 동영상 콘텐츠를 삭제하는 정책을 중단할 예정이다. 블리커트 부사장은 "우리는 투명성과 추가적인 맥락을 제공하는 것이 조작된 미디어에 대응하는 더 나은 방법이라는 데에 동의한다"고 말했다. AI 생성 콘텐츠에 라벨을 부착한다는 방침은 메타가 이미 여러 차례 예고한 것이다. 메타는 지난 2월 자사의 플랫폼에서 이용자들이 AI로 생성된 이미지를 분명히 식별할 수 있도록 이런 정책을 시행하겠다고 밝힌 바 있다. 한편, 메타를 비롯한 오픈AI와 구글 등 20개 빅테크 기업은 같은 달 16일 독일 뮌헨안보회의(MSC)에 모여 선거를 앞두고 유권자를 속이는 AI 콘텐츠 방지에 노력하기로 합의했다. theveryfirst@fnnews.com 홍창기 기자

최근 윤석열 대통령 모습이 등장하는 허위 조작 영상이 온라인상에 유포되는 등 인공지능(AI) 기술을 활용한 딥페이크(가짜 디지털 조작물·사진) 콘텐츠에 대한 우려가 커지면서 국내 주요 플랫폼사들이 기술 악용 방지에 적극 나서고 있다. 특히 오는 4월 총선을 앞두고 정치적으로 악용되는 것을 막기 위해 자사 기술이나 서비스가 가짜뉴스나 부적절한 이미지 생성에 활용되지 않도록 총력을 기울이고 있다. 26일 업계에 따르면 네이버는 이르면 이번주 중순에 딥페이크 악용 방지에 대해 발표할 예정이다. 네이버 관계자는 "네이버 검색 시 딥페이크 관련 키워드일 경우 주의(경고) 문구를 노출하는 방안 등을 고려 중"이라고 전했다. 네이버는 이미 카페나 블로그에 이미지 등 콘텐츠 업로드 시 허위 정보를 포함한 딥페이크 영상에 대한 주의 문구를 이달부터 노출하고 있다. 주의 문구에는 '불법촬영물 및 아동청소년 성착취 영상, 저작권 또는 사생활 침해, 허위 정보를 포함한 딥페이크 영상은 관련 법률 및 (네이버) 이용약관에 따라 제재를 받을 수 있다'는 내용이 포함됐다. 아울러 네이버의 AI 콘텐츠 필터링 기술인 '그린아이'로 유해 딥페이크를 실시간 차단하고 있다. 생성형 AI 챗봇인 '클로바X'에서도 딥페이크 콘텐츠가 함부로 생성, 악용되지 않도록 했다. 클로바X는 일부 사용자를 대상으로 이미지 편집 기능을 제공하고 있는데, 해당 기능에도 세이프티 조치를 적용했다. 예를 들어 '연예인 얼굴 만들어줘'와 같은 얼굴 합성 이슈가 있는 발화를 입력할 시 답변을 제공하지 않는다. 생성된 이미지에 음란물 등의 콘텐츠가 생성되지 않도록 엔진 필터 적용도 완료했다. 카카오도 여러 유해 콘텐츠를 필터링하는 기술에 대한 연구를 진행하고 있다. 특히 허위정보 혹은 딥페이크를 검출할 수 있는 방향으로 연구가 진행되고 있다. AI 어뷰징 관련 기술적 대응을 위한 팀도 별도로 운영하고 있다. 포털 서비스 다음에도 AI 기술을 활용해 일반 이미지와 부적절한 이미지를 분류해, 유해 이미지를 차단하는 기술을 도입하고 있다. 카카오는 카카오브레인의 이미지 생성 모델 '칼로'에 비가시성 워터마크를 도입하는 기술을 개발 중이다. 이용자에게는 워터마크가 보이지 않으나 기술적으로는 칼로로 생성했다는 여부를 알 수 있도록 하는 기술로, 구글도 해당 기술을 연구 운영 중이다. 전 세계적으로 생성형 AI를 활용한 딥페이크가 논란이 되면서 양사 모두 자체 대응책을 마련한 것으로 분석된다. 아울러 네이버와 카카오를 포함해 구글코리아, 메타, SK커뮤니케이션즈, 틱톡 등은 자율협의체를 구성하고, 선거에 영향을 미칠 수 있는 악의적 딥페이크에 대한 대응 방안을 발표할 예정이다.  한편 정부 차원에서도 대책 마련에 나서고 있다. 방송통신위원회는 지난 23일 딥페이크 허위 정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다. 회의에는 네이버, 카카오, 구글, 메타, 엑스(X), 바이트댄스(틱톡) 관계자들이 참석해 AI 생성물 표시, 탐지 모니터링, 삭제·차단 조치 등과 관련된 자율규제 현황과 강화 방안 등에 대해 의견을 나눴다. soup@fnnews.com 임수빈 기자

내달부터 인공지능(AI) 서비스에서 발생할 수 있는 위험 요인 등을 민간 자율로 평가하는 검·인증 체계와 AI 생성물에 대한 워터마크 표시 제도가 추진된다. 과학기술정보통신부 이종호 장관은 25일 개인정보보호위원회 고학수 위원장, 인공지능 분야 민간 최고위 관계자들과 함께 '제4차 인공지능 최고위 전략대화'를 열고 이 같은 내용을 발표했다. 우선 주요국과 국제기구들이 인공지능 신뢰성 확보를 산업 발전의 전제로 인식해 가이드라인 등 자율 실천방안을 제시하는 상황에서 '국가 인공지능 윤리기준'의 구체적 실천수단으로 채용, 생성형 인공지능 기반 서비스 등 분야별 가이드라인을 마련·확대하고, 민간 자율 신뢰성 검·인증을 다음달부터 추진할 계획이다. 특히 AI 사업 중 고위험 영역 인공지능 개발·실증 사업을 수행하는 기업을 일부 선정해 오는 12월 시범 인증을 추진할 예정이다. 또한 인공지능 자체가 내포하는 편향성, 불투명성 등 기술적 한계와 인공지능 오작동 등에 따른 인공지능의 잠재 위험요인에 대응하기 위해 기존 인공지능의 한계를 극복하고 초거대 인공지능의 신뢰성을 확보하기 위한 기술개발을 내년부터 신규로 추진할 예정이다. 아울러 챗GPT와 같은 초거대 인공지능의 확산으로 안전에 대한 위험성 우려가 확대되는 상황에서 인공지능이 생성한 결과물에 대한 워터마크 도입의 제도화를 검토하고, 고위험 인공지능에 대한 해설서를 내년 1·4분기에 마련하는 등 신뢰성 확보를 위한 제도 정립 과제를 추진할 방침이다. 민간에서는 김유철 LG AI 연구원 부문장이 '인공지능 윤리원칙 실행을 위한 기업의 노력'을 발표하고, JLK 김동민 대표가 '고위험 인공지능 분야에 대한 신뢰성 검·인증의 필요성'을 소개했다. 이종호 과기정통부 장관은"인공지능은 디지털 심화 시대의 핵심기술로서 인공지능의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다"며 "민간 자율 인공지능 신뢰성 검·인증 지원을 비롯한 인공지능 윤리 생태계 기반 조성과, 적합한 규제 체계를 정립해가는 데 힘쓰고, 관계부처와 함께 인공지능 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범이 되기 위하여 최선을 다하겠다"고 말했다. solidkjy@fnnews.com 구자윤 기자

[파이낸셜뉴스] 지난달 기존보다 개선된 인공지능(AI) 기반의 클라우드 소프트웨어를 발표한 구글클라우드가 구글의 '책임있는 AI' 철학을 강조하면서 고객사·이용자가 믿고 이용할 수 있는 점을 내세웠다. 구글 클라우드는 19일 서울 서초구 JW 메리어트 호텔 서울에서 열린 '구글 클라우드 제너러티브 AI 라이브 & 랩스 미디어 교육 세션'에서 이같이 밝혔다. 엄경순 구글클라우드 커스터머 엔지니어링 총괄은 "요즘 가짜 이미지, 환각(할루시네이션), 저작권 등이 사회적으로 문제가 되고 있다"며 "이런 문제를 해결하기 위해 구글클라우드는 구글 딥마인드가 갖고 있는 특허 기술을 기반으로 디지털 워터마킹 기능을 내놓았다"고 설명했다. 구글 클라우드가 공개한 디지털 워터마킹 기술은 이미지 픽셀 내 워터마크를 적용해 이미지 화질 손상, 무단 도용 등을 방지하고, 진위 여부 판별 등이 가능하도록 한 기술이다. 이외에도 구글클라우드는 분산형 클라우드 시스템 내 데이터 소유권·통제권이 온전히 클라우드를 활용하는 기업 고객사에 있어 데이터 보안을 강조하고 있다는 점 강조했다. 엄 총괄은 "구글은 책임있는 AI를 근간으로 엔터프라이즈 고객의 데이터는 고객이 직접 관리하고, 구글은 여기에 접근하지 않는다는 점을 서로의 계약, 약관 등을 통해 약속하고 있다"며 "권한, 소유, 책임을 고객이 직접 통제할 수 있다는 것"이라고 설명했다. 김일호 구글클라우드 커스터머 엔지니어링 매니저도 "구글은 전 세계적으로 38개 지역에서 모든 데이터를 저장하고 있다"며 "이 과정에서 고객에게 데이터를 어디에 저장하고 어떻게 관리할지 선택권이 있다. 보안이 중요하기 때문이 암호화 기술도 적용하고 있다"고 덧붙였다. AI에 최적화돼 있으면서도 안전한 클라우드 인프라를 제공하고 있다는 설명이다. 한편, 구글클라우드는 지난달 '구글클라우드 넥스트 2023' 컨퍼런스에서 공개한 클라우드 협업 소프트웨어 도구 '듀엣AI'와 거대언어모델(LLM)을 활용할 수 있는 플랫폼 '버텍스 AI'의 개선된 버전을 시연했다. 현재 구글클라우드는 LG AI 연구원, 카카오브레인, 삼성전자, 기아, 이마트, 컬리, 위메프, 컴투스, 카카오모빌리티, 대한항공 등 국내 기업에 클라우드 서비스를 제공 중이다.  jhyuk@fnnews.com 김준혁 기자

[파이낸셜뉴스] 정보통신기술 발달에 따른 범죄 사각지대로 지목된 청소년 숙박 애플리케이션(앱) 예약 문제와 딥페이크 영상물 악용 방지 법안이 발의된다. 배현진 국민의힘 의원은 14일 '숙박앱 예약 시 성인인증 의무화'와 딥페이크 기술이 적용된 영상물에 디지털 워터마크 표시를 의무화하는 법안을 발의했다고 밝혔다. 최근 몇몇 숙박 예약앱에서 청소년들도 성인인증 없이 예약이 가능해 숙박업소가 청소년들의 새로운 범행 장소로 활용되고 있다는 지적에 따라 배 의원은 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안'에 청소년 숙박앱 예약을 막기 위한 성인인증 의무화를 담았다. 지난해 6월 남녀 10대 5명이 지적장애 여고생을 모텔에 가두고 오물을 뿌리는 등 집단 폭행하는 사건이 발생한데 이어, 12월에도 10대 남학생 5명이 무인 모텔에서 술을 마시고 내부 기물을 파손해 420만원의 피해 비용 발생하는 등 미성년 출입이 불가능한 숙박업소 출입에 대한 안전장치 마련 필요성이 지적돼왔다. 이외에도 배 의원은 '딥페이크 기술' 대상자 보호에도 나섰다. 최근 인공지능을 기반으로 한 딥페이크 영상 제작과 활용 반경이 넓어지고 있어, 당사자도 모른 채 자신의 얼굴과 음성이 포르노, 금융사기와 같은 범죄에 악용되는 등 무분별한 딥페이크 영상물에 의한 피해도 늘고 있다는 지적이다. 이에 따라 배 의원은 딥페이크 기술이 적용된 영상물은 디지털 워터마크 표시를 의무화하고, 당사자의 의사와 다른 딥페이크 영상물은 삭제를 요청할 수 있도록 해 딥페이크 악용 피해를 사전에 방지하도록 했다. 배 의원은 "급격한 ICT 기술 발달로 일상생활 전반에 긍정적인 변화가 일어나는 한편, 이를 악용하는 범죄 또한 함께 증가하고 있다"며 "기술의 발전은 적극 지원하되 활용과정에서 선의의 피해자가 발생하지 않도록 국회 차원의 제도개선에 앞장서겠다"고 말했다. hjkim01@fnnews.com 김학재 기자

[파이낸셜뉴스] 문화체육관광부가 한국저작권보호원과 함께 한국영화에 대한 복제방지무늬(워터마크) 적용 시범 사업을 추진한다. 복제방지무늬(워터마크)란 눈으로 보기엔 잘 보이지 않지만 전용 프로그램으로 추출하면 숨겨둔 무늬나 글자 등이 드러나는 기술로서, 영화 등의 콘텐츠에 적용하면 해당 콘텐츠가 불법 유출됐을 때, 유출자를 추적할 수 있다. 영상캡처 장치 등을 사용해 유료 온라인 콘텐츠 서비스(플랫폼)의 영상콘텐츠를 불법으로 녹화해 유출하는 경우, 불법 복제된 영상에는 유출자의 흔적이 고스란히 남게 된다. 이번 시범사업은 지난 5월 27일(수)에 열린 ‘저작권 분야 현장 간담회’ 결과를 신속하게 반영한 정책이다. 한국아이피티브이(IPTV)방송협회와 한국영화디지털유통협회는 아이피티브이(IPTV) 사업자가 최종 송출 단계에서 적용하고 있는 복제방지무늬 외에 추가로 영화 공급 단계에서 복제방지무늬를 삽입하면 해당 콘텐츠가 불법 유통될 경우 유출 경로를 더욱 쉽게 파악할 수 있기 때문에 정부가 한국 영화에 복제방지무늬(워터마크)를 넣는 것을 지원해 줄 것을 건의했다. 현재 해외 직배영화는 공급 단계에서도 복제방지무늬를 적용하고 있지만 한국 영화는 최종 송출 단계에서만 적용하고 있다. 문체부는 이번 시범사업을 통해 영화콘텐츠의 온라인 콘텐츠 불법 유통 실태를 점검하고, 영리 목적의 상습 유출자를 적발할 계획이다. 그리고 최근 극장에서 개봉되고 있는 신작 영화가 아이피티브이(IPTV)에 본격적으로 공급되기 전에 복제방지무늬를 지원할 방침이다. 복제방지무늬 적용 시범 영화는 영화유통사들을 대상으로 7월 15일까지 1차 신청을 받아 20편 내외로 선정한다. 개봉 일정이 미확정된 영화들도 9월 중에 30편 내외를 추가로 선정할 계획이다. 복제방지무늬는 육안으로 식별되지 않아 선정되지 않은 영화의 경우에도 간접보호와 상습 유출자 적발에 따른 효과를 누릴 수 있을 것으로 기대된다. 상세한 지원 내용과 접수 방법은 한국저작권보호원 누리집에서 확인할 수 있다. 한국저작권보호원과 영화진흥위원회는 복제방지무늬가 적용된 영상을 모니터링하고, 그 결과를 한국아이피티브이(IPTV)방송협회와 한국영화디지털유통협회에 전달해 아이피티브이(IPTV) 사업자와 영화유통사 측에도 공유한다. 문체부는 시범사업 결과에 따라 향후 온라인 동영상 서비스(OTT) 등 다른 온라인 콘텐츠 서비스(플랫폼)에도 복제방지무늬 지원 시범사업을 확대할 계획이다. 문체부 관계자는 “코로나19 이후 비대면 소비가 가속화되고 영화업계의 온라인 매출 비중이 높아질 것으로 예측됨에 따라 온라인 저작권 보호의 중요성이 높아지고 있다”며 “이번 시범사업은 온라인콘텐츠 저작권 침해 대응을 강화하는 계기가 될 것”이라고 말했다. yccho@fnnews.com 조용철 기자

 미디어 컨버전스(융합) 전문기업인 인스프리트가 멀티미디어 콘텐츠 저작권 보호에 대한 기술 특허를 취득했다.  인스프리트는 13일 ‘오픈 API를 이용한 콘텐츠 정보 워터마크(복제방지표시) 처리 시스템 및 방법’에 대한 기술 특허권을 취득했다고 밝혔다. API란 운영체제와 응용프로그램 사이의 통신에 사용되는 언어나 메시지 형식을 뜻한다.  이번 특허는 사진, 동영상 등 개인 멀티미디어 콘텐츠에 다양한 정보를 넣은 콘텐츠에 대한 저작권 및 개인정보 보호가 가능한 방법에 대한 기술 특허다.  인스프리트의 기술은 오픈 API를 이용함으로써 휴대폰이나 태블릿PC 등을 통해 촬영한 사진이나 동영상에 위치정보, 촬영자정보, 저작권 정보 등의 정보가 포함된 워터마크를 삽입할 수 있다. 특히 단말기 자체 내에 워터마크를 삽입하는 기존 방식과는 달리, 오픈 API에서 제공되는 어플리케이션(응용프로그램)만 다운로드 받으면 되는 게 강점이다.  이에 따라 이용자들은 오픈 API 서버로부터 어플리케이션을 다운받고, 휴대단말의 사진이나 동영상을 워터마크 어플리케이션으로 실행시키면 워터마크를 넣을 수 있다.  인스프리트 관계자는 “웹사이트나 블로그 등에 올려놓은 사진이 불법으로 다운로드되고 전파되면서 저작권 침해 피해가 빈번히 발생하고 있다”면서 “이번 기술이 개인 프라이버시와 저작권 보호 개념을 대중화 하는데 기여할 것”이라고 기대했다. /star@fnnews.com 김한준기자

[파이낸셜뉴스]  인공지능(AI) 산업의 진흥 및 규제에 대한 기본적인 방향을 담은 AI기본법이 21일 국회 첫 문턱을 넘었다. 국회 과학기술정보방송통신위원회는 이날 법안소위를 열고 AI 기본법 제정안과 이동통신단말기유통구조개선법(단통법) 폐지안을 의결했다. AI 기본법은 AI의 건전한 발전 지원과 AI 사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정하는 것이 골자다. AI의 범위를 정의하고, 정부가 AI 정책 방향을 수립하게 하며, 생성형 AI 저작물에 워터마크를 다는 등의 내용이다. 이번 제정안에서 금지 AI에 대한 규정은 제외됐다. 대신 고영향 AI에 대한 사업자 책임 조항을 신설, 위험기반 규제를 도입했다. 고영향 AI는 사람의 생명, 신체, 건강과 안전, 기본권의 보호 등 중대한 영향을 미칠 수 있는 AI를 가리킨다. 이날 소위에서는 단통법 폐지안도 통과됐다. 논의 과정에서 국민의힘 박충권 의원의 안과 더불어민주당 김현 의원의 안이 병합돼 통과됐다. 병합안은 공시지원금 제도를 없애고 선택약정할인을 전기통신사업법에 이관하도록 했다. 다만 야당안 중 '지원금의 차별 지급 금지' 조항은 제외됐다. 병합안은 이용자의 거주지, 나이, 신체조건에 따른 차별만 금지하고 가입유형(번호이동·신규가입·기기변경)이나 요금제에 따른 지원금 차별 금지는 규정하지 않기로 했다. act@fnnews.com 최아영 기자

[파이낸셜뉴스] 지방의회 의원들을 상대로 한 딥페이크 불법 합성물 피해 신고가 들어와 경찰이 광역단위 수사에 착수했다. 17일 경찰청에 따르면 서울경찰청 사이버범죄수사대 등 각 지방청은 서울과 인천, 부산과 광주, 대구 등 기초의원 소속 30여명의 딥페이크 협박 메일에 대한 수사에 착수했다. 피해자는 전부 남성 의원으로, 20대부터 40대까지인 것으로 파악됐다. 딥페이크 협박은 주로 메일을 통해 이뤄졌는데, 인터넷에 업로드된 의원들의 사진을 나체의 남성과 여성이 누워있는 사진에 합성한 경우가 많은 것으로 전해졌다. 해당 메일에는 "당신의 범죄 증거를 갖고 있다", "어떤 영향이 터지는지 알고 있을 것", "문자를 보면 당장 연락하라" 등의 협박 메시지도 담긴 것으로 알려졌다. 메일을 보낸 발신자는 불법 합성물 삭제를 대가로 5만달러 상당의 암호화폐를 요구하며 QR코드를 보내 접속을 유도했다. 이러한 범행 수법을 지방의회 의원들을 상대로 시험한 뒤 향후 국회의원이나 고위공직자를 상대로 타깃을 확대할 수 있다는 전망이 제기됐다. 합성 기술을 정교화해 향후 본격적인 선거 국면에서 '딥페이크 공작'에 나설 가능성도 배제할 수 없다는 것이 전문가들의 분석이다. 전문가들은 "딥페이크 불법 협박을 막기 위해 딥페이크 처벌 강화, 워터마크 표시 의무화 등 대책과 함께 합성물 유통 경로인 플랫폼이 자발적 차단을 강화해야 한다"고 지적했다. theknight@fnnews.com 정경수 기자