[파이낸셜뉴스] 방송통신위원회가 정보기술(IT) 업계 화두로 떠오른 인공지능(AI) 서비스와 관련해 향후 이용자 보호 강화에 정책 역량을 집중한다. 특히 AI로 생성한 콘텐츠를 게시할 경우 AI 생성물 표시를 의무화하는 AI 생성물 표시제 도입을 추진하고, AI 관련 피해구제를 위한 신고 전담창구도 설치키로 했다. 방통위는 21일 이 같은 내용의 올해 업무계획을 발표했다. AI 등 신규 디지털 서비스의 역기능을 억제하고 현실에 맞는 규범 체계를 재정립하겠다는 내용이 골자다.  우선 '인공지능서비스 이용자 보호에 관한 법률(가칭)' 제정을 추진한다. AI 서비스 신뢰성을 보장하고 이용자 피해를 방지하기 위한 차원이다. AI 생성물 표시제 도입을 추진하고, AI 관련 피해구제를 위한 신고 전담창구도 설치할 계획이다. 방통위는 또한 '신뢰받고 혁신하는 글로벌 미디어 강국'이라는 비전을 제시하고 이를 달성하기 위한 3대 핵심 과제도 선정했다. △혁신 성장 기반 조성 △미디어 공공성 재정립 △디지털 동행사회 구현 등이다. AI를 비롯한 메타버스(3차원 가상세계), 플랫폼 등 신규 디지털서비스로부터 이용자 보호를 강화하기 위한 규범 체계를 구축한다는 방침이다. 또한 개별법에 분산된 미디어 규율체계를 정비해 신·구 미디어를 포괄할 수 있는 통합미디어법 등 입법도 추진한다. 방송과 온라인동영상서비스(OTT) 간 규제 불균형 해소를 위해 방송사의 재승인·재허가·소유·겸영·편성·광고 규제 개선방안도 마련한다. 이동통신단말장치 유통구조 개선에 관한 법률(단통법) 폐지 추진도 담겼으며 최근 요금 변동이 발생한 OTT에 대해 금지행위 위반 여부 사실조사도 실시할 방침이다. 미디어 공공성 재정립 과제 달성을 위해 허위조작정보 근절 종합 대책을 마련한다. 플랫폼 자율규제 활성화를 위한 모니터링·신고처리, 기술적·관리적 조치 등에 대한 가이드라인도 마련할 방침이다. 방송산업에 대해선 재승인·재허가 규제를 완화하고 심의규정을 위반한 방송사에 대해선 제재를 강화하는 등 사후규제 중심으로 전환한다. 수신료 분리징수 제도 안착을 적극 지원하는 한편 공적재원에 대한 국민 신뢰도 제고를 위해 수신료 관련 회계 분리, 사용 내역 공개 등 투명성 확보 방안도 계속 검토할 계획이다. 아울러 미디어 취약계층 구제를 강화하고 플랫폼 서비스 장애 고지 기준시간 단축(4시간→2시간 이상), 글로벌 사업자의 국내대리인 자격요건 강화 등도 추진한다.  jhyuk@fnnews.com 김준혁 기자

[파이낸셜뉴스]  “인간 창작자의 이익과 AI기업 발전 간 균형 있는 정책과 법안이 도입돼야 한다.” 2일 서울 여의도 글래드호텔에서 열린 ‘제2회 한국음악저작권협회 논문 공모전 시상식’에서 국제저작권관리단체연맹(CISAC)의 벤자민 응 이사가 축사를 통해 이렇게 말했다. 한국음악저작권협회가 지난해에 이어 올해 공모전 시상식을 열고 총 10팀의 수상자를 선정했다. 음악저작권 자유주제 관련 부문에서는 대상 1팀, 우수상 1팀, 장려상 3팀을 선정했다. 생성형 AI와 음악 저작물 부문에서도 대상 1팀, 우수상 1팀, 장려상 3팀을 최종 수상자로 확정됐다.  ‘생성형 AI와 음악 저작물’ 부문에서는 ‘생성형 인공지능의 데이터 이용과 저작권 쟁점에 대한 소고-음악저작물의 공정한 이용과 보상을 중심으로’를 쓴 대구대 박사 과정에 있는 구문모씨가 대상을 받았다. 자유 주제 부문에서는 서울대 법학대학원 임춘광 박사연구생이 ‘음악저작물의 저작권 침해 판단론-저작물성·의거관계·실질적 유사성에 관해’가 받았다. 구 씨는 이날 논문 발표를 통해 “음악저작물을 학습한 생성형 인공지능은 음악 생성물을 통해 음악시장의 뚜렷한 시장세를 보이고 있지만 아이러니하게도 그 피해는 음악 저작(권)자와 인접권자, 음악 산업 종사자 등에게 돌아가고 있어 음악 생태계에 심각한 우려가 제기되고 있다”고 꼬집었다. 그러면서 “아직 (국회에) 계류중인 저작물 이용에 대한 사법적 판단이 남아있지만, 반대로 생성형 AI의 무단 데이터 학습을 제지하고 감사하는 기술적 수단과 규제적 입법(안)이 발의되고 있는 만큼, 향후 생성형 AI의 데이터 쟁점은 저작물의 공정한 이용과 정당한 보상을 중심으로 이뤄져야 한다”고 말했다. 한편, 이번 공모전에는 최근 화두가 되고 있는 생성형 AI와 음악 저작물 관련 주제를 다루는 논문을 포함해 음악 저작권 관련 다양한 연구들이 제출됐다. 한음저협은 지난 5월 20일부터 약 90일간 논문 접수를 받았다. 공모전에서 선정된 모든 수상작들은 내달 한음저협 홈페이지를 통해 공개될 예정이며, 누구나 열람할 수 있다. jashin@fnnews.com 신진아 기자

최근 여학생 얼굴에 음란물을 합성해 편집한 허위영상물을 생성·유포하는 '딥페이크' 성범죄가 확산하면서 관계당국이 유포자 퇴학 등 강력 대응에 나선다. 교육부는 대응 전담조직(TF)을 운영하고 과학기술정보통신부, 여성가족부, 경찰청 등 관계부처와 다음 달 대책회의를 열기로 했다. 방송통신심의위원회(방심위)도 글로벌 온라인 플랫폼 사업자들과 협의체 구성에 나선다. ■"딥페이크 뿌리 뽑겠다"…징계 수위 높인다교육부는 딥페이크 가해자의 학교폭력대책심의위원회(학폭위) 징계 수위와 관련, "딥페이크는 아주 고의적이고 피해가 클 가능성이 높다"며 처벌 의지를 강하게 피력했다. 김도형 교육부 학교폭력대책과장은 28일 정부세종청사에서 열린 브리핑에서 "학교폭력 처벌 수위는 학폭위에서 정하도록 하고 있고 학폭위는 지속성, 고의성, 피해 크기, 피해회복 여부 등을 본다"며 이같이 말했다. 학폭위 조치는 1호(피해학생에 대한 서면 사과)부터 9호(퇴학)가 가능하다. 딥페이크처럼 고의적이고 피해가 큰 학교폭력의 경우 원칙상 퇴학까지 이를 수 있다는 의미다. 교육부에 따르면 올해 1월부터 이달 27일까지 접수된 피해신고는 총 196건으로 이 중 179건은 수사 의뢰된 상태다. 교육부는 차관을 단장으로 하는 '학교 딥페이크 대응 긴급 TF'를 구성하고 분야별 6개팀(7개과)으로 이뤄진 상황반을 운영한다. △학교 딥페이크 관련 사안을 매주 1회 조사 △학생·교원 피해사안 처리 △학생·교원 심리지원 △학교 예방교육·인식개선 △디지털 윤리 및 책임성 강화 등 분야별로 대응해 나갈 방침이다. 오는 30일에는 시도교육청 부교육감과 긴급회의를 열고 내달 중 과기정통부, 여가부, 경찰청 등 관계부처와 대책회의도 연다. 전문가·유관기관·시도교육청 자문단을 구성해 9월부터 운영해 10월 중 '교육 분야 딥페이크 대응 후속 조치'를 발표할 방침이다. 방심위도 이날 긴급 전체회의를 소집하고 국내 주요 포털사이트는 물론 텔레그램·페이스북·엑스·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속한 영상 삭제·차단 조치와 자율적인 규제를 강력히 요청하겠다고 밝혔다. 현재 시정요청 협력대상에 등재돼 있지 않은 텔레그램도 향후 공식 등재해 자율삭제를 유도할 방침이다. 아울러 현행법과 심의규정 미비로 인해 관련 범죄가 확산되고 있다는 지적에 따라 보완입법도 관계기관에 건의한다. 현행법은 아동 성착취물을 소지 또는 유포하기만 해도 처벌이 가능하나 디지털 성적 허위영상물은 관련 규정이 없어 사각지대에 놓여 있다. 방심위는 관련 전문가들과 협력해 보완입법 전에 할 수 있는 최대한의 심의규정 보완도 강구하겠다고 강조했다. 방심위는 전날부터 홈페이지에 딥페이크 성범죄 영상물 신고 전용 배너를 별도로 설치하고 신고·상담 기능을 강화하기로 했다. 또 딥페이크 성범죄 영상의 주요 유포경로인 텔레그램 등 주요 SNS에 대한 자체 모니터 인원을 늘려 집중 모니터링을 통해 신속하게 적발하고 향후 전담인력을 늘릴 방침이다. ■업계 "핀셋규제 필요"관련 업계도 피해 방지를 위한 추가 조치가 필요하다고 강조했다. 네이버와 카카오는 유해 이미지는 업로드 자체가 불가능하도록 막고, 딥페이크 관련 검색어를 청소년 보호 검색어로 지정하는 등 사전 조치를 취하고 있다. 국내 생성형 AI 업계는 현행 조치를 넘어 AI 생성물 '워터마크(표식)' 의무화나 핀셋규제 필요성이 필요하다고 지적했다. 현재 관련 법안은 국회에 계류되어 있다. 아울러 제작 단계부터 막기 위해 오픈소스(개방형) AI 생태계도 들여다봐야 한다는 조언이 나온다. 업계 관계자는 "AI 제작 시 AI가 만든 콘텐츠라고 표시를 하도록 해야 할 것 같다"며 "구글이나 오픈AI 등 주요 AI 개발사들의 AI 모델보다 개발자들이 웹상에 올려둔 오픈소스 AI를 파인튜닝(미세조정)하는 게 악용하는 입장에선 쉬울 것이다. 오픈소스 AI 모델 생태계는 통제가 안 되고 있기 때문에 해당 부분에 대한 규제도 고려해볼 수 있다"고 전했다. 한편 과기정통부와 여가부는 딥페이크 대응에 협력하기로 했다. 과기정통부 강도현 제2차관과 여가부 신영숙 차관은 서울 중구 디지털성범죄피해자지원센터를 찾아 딥페이크 성범죄 피해 예방과 피해자 지원방안을 긴급 점검했다. solidkjy@fnnews.com 구자윤 윤홍집 임수빈 기자

[파이낸셜뉴스] 인공지능(AI) 이미지 합성 기술(딥페이크)이 고도화되면서 음란물 유포 등 피해 범위가 전국적으로 확대되고 있다. 이미지 합성 애플리케이션(앱)이나 텔레그램 등 해외 폐쇄형 플랫폼을 통해 누구든 딥페이크 이미지를 쉽게 만들고, 배포할 수 있게 되면서다. 상황이 이렇자 국내 생성형 AI 개발사들도 선제 조치를 통해 피해 방지에 나서고 있는 가운데, 업계에서는 "핀셋 규제가 필요하다"는 목소리가 높아지고 있다.  28일 업계에 따르면 최근 텔레그램에서는 여성 얼굴에 음란 이미지를 합성해 편집한 허위 영상물을 생성 및 유포하는 것으로 의심되는 단체 대화방이 다수 존재하는 것으로 나타났다. 원하는 사진을 보내고 이용료를 결제할 경우, 음란성 사진으로 합성해 주는 프로그램도 있다.  더 쉽게는 주요 모바일 앱마켓에서 '딥페이크'나 '페이스스왑(얼굴바꾸기)' 등을 검색 시 관련해 수십 개의 이미지·영상 합성 앱이 뜨고 있다. 기술의 발전으로 결과물은 더 정교해지고 있고, 향후 악용될 수 있어 우려가 커지고 있다.  국내 생성형 AI 업계의 경우, 딥페이크 음란물 등의 피해를 방지하기 위해 선제 조치를 취하고 있다. 초대규모 AI 하이퍼클로바X를 보유한 네이버는 대화형 AI '클로바X'에 "얼굴을 합성해 달라"는 질의를 할 경우, 콘텐츠를 생성하지 못하도록 막아뒀다. 최근 클로바X에는 이미지 이해 기능을 업데이트했는데, 유해로 판단된 이미지는 업로드 자체가 불가능하도록 안전성 조치를 마련했다. AI 기술 기반의 실시간 음란물 필터링 기술인 '클로바 그린아이'를 통해선 카페, 블로그 등 서비스 내 딥페이크 불법 합성물도 실시간 탐지 및 삭제하고 있다.  카카오도 AI 합성 음란 이미지 확산으로 인한 피해를 막기 위해 딥페이크 관련 검색어를 청소년 보호 검색어로 지정하는 등 다양한 사전적 조치에 나서고 있다. 특히 오픈채팅, 다음을 비롯해 카카오 내 공개 게시판 서비스에 딥페이크 유통을 감시하는 모니터링을 진행 중이다. 카카오톡의 경우 허위영상물 배포 및 제공 행위에 대해서는 카카오톡 전체 서비스에 대한 영구 제한 정책 시행하고 있다.  그럼에도 딥페이크 음란물에 대한 사회적 우려가 커지자 업계에서는 AI 생성물 '워터마크(표식)' 의무화가 필요하다는 데 공감하고 있다. 관련 법안도 현재 국회에 계류돼있다. 아울러 제작 단계부터 막기 위해 오픈소스(개방형) AI 생태계도 들여다봐야 한다는 조언이 나온다.  업계 관계자는 "AI 제작시 AI가 만든 콘텐츠라고 표시를 하도록 해야 할 것 같다"며 "구글이나 오픈AI 등 주요 AI 개발사들의 AI 모델보다 개발자들이 웹상에 올려둔 오픈소스 AI를 파인튜닝(미세조정)하는 게 악용하는 입장에선 쉬울 것이다. 오픈소스AI 모델 생태계는 통제가 안되고 있기 때문에 해당 부분에 대한 규제도 고려해볼 수 있다"고 전했다.  생성 AI에 대한 전반적인 규제보단 텔레그램과 같은 해외 플랫폼에 대한 집중 규제도 필요하다는 지적도 따른다. 또 다른 업계 관계자는 "딥페이크 만들어주는 업체나 최대 유통 채널은 텔레그램 등과 같은 해외 플랫폼이기 때문에 이들의 책임감을 강화할 수 있는 방안도 고려해야 한다"고 지적했다.  soup@fnnews.com 임수빈 기자

[파이낸셜뉴스]  텔레그램 딥페이크 사태가 일어나며 전국적으로 딥페이크에 대한 경각심이 일어나고 있다. 윤석열 대통령은 지난 27일 서울 용산 대통령실 청사에서 열린 제37차 국무회의에 참석해 딥페이크 성범죄에 대한 철저한 수사와 엄벌을 주문했다. 윤 대통령은 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 말했다. 동시에 전문가들은 이제라도 AI 기술이 각종 범죄에 악용되는 것을 막는 법안을 마련하해야 한다고 입을 모은다. AI 생성물임을 알리는 워터마크를 의무적으로 도입하는 등 사람들이 가상 정보라는 사실을 인지해 스스로 판단할 수 있도록 돕는 제도적 장치를 마련해야 한다는 것이다. 그렇다면 전국민이 사용하는 카카오톡의 카카오는 딥페이크에 대한 장치를 어떻게 마련했을까? 28일 업계에 따르면 카카오는 카카오브레인의 인공지능(AI) 이미지 생성 모델 '칼로'에 대해 지난 3월 비가시성 워터마크 기술을 도입했다. 카카오에 따르면 회사는 딥페이크 허위 조작 정보 근절 방안의 하나로 이 같은 방안을 시행했다. 이는 최근 텔레그램 불법 동영상 사태가 일어나기 전인 작년 12월 공직선거법 개정으로 4·10 국회의원 총선거 운동 기간인 현재 유권자를 상대로 한 AI 기반 딥페이크 제작·편집·유포·상영·게시가 금지된 데 따른 조처였다. 카카오는 인물을 기반으로 한 AI 생성물에 대한 공유가 더 활발히 이뤄지는 만큼, 카카오톡 채널 '칼로 AI 프로필' 기능에 비가시성 워터마크를 먼저 도입했다고 소개했다. 또한, 이미지 생성 웹 기반 전문가 도구인 '칼로.ai'에도 비가시성 워터마크가 도입될 예정이라고 덧붙였다. 카카오에 비가시성 워터마크 기술을 공급한 회사는 스냅태그다. 스냅태그는 비가시성 워터마크 기술 기반의 IT 기업이다. 칼로로 이미지를 생성할 경우 스냅태그의 비가시성 워터마크가 이미지 전체에 자동으로 적용된다. 이를 스냅태그 AI 홈페이지에 업로드하면, 비가시성 워터마크를 자동으로 감지해 해당 이미지의 출처와 삽입된 비가시성 워터마크의 유니크 코드를 확인할 수 있다. 유니크 코드는 비가시성 워터마크의 고유 번호이며, 해당 코드를 통해 워터마크 적용 여부부터 AI의 출처, 세부 정보까지 확인할 수 있다. 이는 워터마크 적용 여부 판별에 추가해 원본 데이터 없이 워터마크 적용 여부와 함께 내재된 정보까지 확인할 수 있는 강점이 있다. 지난 4월 스냅태그 민경웅 대표는 “비가시성 워터마크가 AI 이미지의 가짜뉴스, 딥페이크 등과 같은 문제를 해결할 수 있다”며 “생성형 AI 업계 전반에 걸쳐 이러한 워터마크 기술의 도입을 적극적으로 권장하고 있다”고 밝혔다. 이어 “카카오브레인 칼로를 비롯해 다양한 생성형 AI 업체에 비가시성 워터마크가 도입돼 안전한 AI 환경을 만들어나가기를 희망한다”며 “이를 위해 스냅태그도 비가시성 워터마크의 기술력을 높이기 위해 노력하겠다”고 전했다. 추가로 스냅태그는 최근 디지털 휴먼 AI기업인 클레온과 딥페이크 등 AI 콘텐츠의 부정 사용을 방지하는 디지털 휴먼 부정사용 방지 솔루션을 개발했다. 이 솔루션은 실시간으로 이용자의 PC 또는 앱 내에서 생성되는 디지털 휴먼에, 눈에 보이지 않는 워터마크가 서버 없이 이용자 기기에서 콘텐츠의 진위 여부를 판별할 수 있다. 클레온과 함께 출시한 솔루션과 관련해 민경웅 스냅태그 대표는 "이번 협업을 통해 정부가 추진하고 있는 '생성 AI 8대 핵심 과제' 중 AI기술의 안정성 및 신뢰·윤리 확보, 딥페이크를 활용한 가짜 뉴스 대응에 대한 모범 선례가 될 수 있을 것"이라고 언급했다. 한편 스냅태그는 2022년 시리즈A 투자유치에 이어 지난 7월 시리즈B 투자까지 마친 신생 업체다. 시리즈A는 브이아이피자산운용, 타그리스인베스트먼트, 센트럴투자파트너스로부터 투자를 유치했으며 시리즈B는 스톤브릿지벤처스, 카카오인베스트먼트, 키움인베스트먼트로 부터 투자률 유치했다. 스냅태그는 최근 시리즈B 투자유치를 발판 삼아 회사의 비가시성 워터마크 기술이 더욱 다양한 사업에 적용될 수 있도록 기술 개발에 힘을 쓰고 글로벌 기술 표준이 될 수 있도록 추진한다는 계획이다. kakim@fnnews.com 김경아 기자

"한국은 지식재산 분야의 든든한 우군이자, 혁신의 파트너다." 캐시 비달 미국 상무부 차관 겸 특허상표청(USPTO) 청장은 '지식재산 분야에서 한국은 미국에 어떤 존재냐'는 질문에 주저 없이 이렇게 강조했다. 비달 청장은 반도체·인공지능(AI) 등 혁신 생태계 발전을 위해 지속적으로 양국의 파트너십을 강화해 갈 것이란 구상을 제시했다. 최근 파이낸셜뉴스와 특허청이 공동으로 개최한 제14회 국제지식재산보호 컨퍼런스 특별대담 및 IP5(지식재산분야 주요 5개국) 청장회의 참석차 방한한 비달 청장을 만나 반도체·AI 등 첨단분야의 한미 협력과 AI 사용규범 등에 대해 들어봤다. 비달 청장은 현재 국제적으로 논란이 되는 AI의 발명자권과 관련, "현재로선 인정할 수 없다"면서도 "(기술 발전에 따라) 재고의 여지는 열어놔야 한다"고 밝혔다.―지식재산 분야에 있어서 한국은 어떤 파트너인가. ▲한국은 정말 든든한 우군이다. 동시에 이해관계를 같이하는 국가다. 특히 한국과 미국은 (지재권 관련) 국제조약이라든지 국제적 협력에 있어, 서로 든든한 지원사격을 해주는 우방이다. 이와 더불어 한국은 혁신이라면 둘째가라면 서러울 정도의 국가다. 그렇기에 더욱더 양국의 혁신을 가속화하기 위해 지식재산권의 생태계가 잘 구축돼야 한다고 생각한다. 현재 미국 특허상표청은 'AI의 지원을 받아 만든 발명품의 경우 특허를 인정할 것이냐'는 문제와 관련, 지침을 마련 중이다. 이 문제에 대해 한국 특허청에 의견을 요청한 바 있다. 한국 특허청이 어떤 고민을 하고 있는지 의견을 준다면 반영하겠다는 입장을 전달한 상태다. 미국 일방의 정책이 아닌, 협력의 산물을 만들기 위해 노력하고 있음을 말씀드리고 싶다. ―한미 경제협력이 최근 더욱 확대되고 있다. 미국 특허당국 수장으로서 양국의 지식재산 분야 공동발전을 위한 제안이나 구상은. ▲양국 지식재산 분야 공동의 발전을 위해 지난해 한국 특허청과 미국 상표특허청 간에 양해각서(MOU)를 체결했으며, 이번 방한 기간 한국 특허청과 양자회담에서 이 문제에 대해 후속 논의를 했다. 한국 특허청과 미국 특허상표청이 동시에 가지고 있는 정책 중 하나가 바로 반도체 관련 상품의 특허출원을 가속화하는 프로그램이다. 이런 부분에 대해 양국이 좀 더 협력할 수 있는지를 논의했다. 나아가 양국의 기업 등 이해 당사자들이 이 같은 혜택을 극대화할 수 있는 공동의 프로그램을 추진해 볼 수 있을지도 타진해 봤다. 중소기업, 특히 여성 기업인들이 혁신 생태계로 많이 편입될 수 있도록 하기 위해 정책적으로 어떤 일을 할 수 있을지도 논의했다. ―반도체·AI와 관련, 구체적으로 한미 양국이 어떤 논의를 했나. ▲현재 미국 특허상표청은 반도체 특허출원 가속화 프로그램을 가동하고 있다. 기업은 특허출원을 기반으로 투자유치 등에 활용할 수 있다. 삼성전자도 이런 프로그램의 혜택을 본 기업 중 하나다. 한국 특허청도 이와 유사한 프로그램을 가지고 있다. 공동의 프로그램을 공유하는 한편 협업 가능성을 모색했다. ―최근 국제적으로 AI규범 구축 논의가 뜨겁다. 미국은 AI 개발·사용에 어떤 원칙을 가지고 있나. ▲미국 정부는 AI가 주는 '기술발전을 위한 기회'와 '안전성 등 도전과제' 사이에서 '균형' 혹은 '이로운 조화'를 추구하기 위해 최선을 다하고 있다는 말씀을 드리고 싶다. 일례로 챗GPT가 처음 나왔을 때 미국 특허상표청 내부에서도 보안 문제가 대두됐다. 당시 우리의 대응은 '노(No)'가 아닌 '기다려 달라'는 것이었다. 안전한 사용과 더불어 창의성, 기술발전 역시 지켜야 하는 가치다. 이런 원칙에 기반해 (지금 당장은) AI를 발명의 주체로 인정하지는 않고 있으나 AI를 활용했다고 해서 특허출원을 막아서도 안 된다는 입장이다. ―AI 관련 '기회' 쪽으로 좀 더 많은 관심을 두고 있다는 얘기인가. ▲사실 양가적이라고 할 수 있다. 기회적 측면에서 분명히 접근을 하고 있는 것이 사실이다. 동시에 AI가 초래할 리스크도 예의주시하고 있다. AI에 대한 안전성이 강화되면 될수록 많은 사람들이 AI를 믿고 안심하며 사용할 수 있는 것 아니겠나. 그렇게 되면 결국 더 많은 기회가 창출될 것이고, 그 기회를 붙잡으려는 사람도 많아질 것이다. 지역의 문제라든지, 세계적인 글로벌 이슈에 있어서 AI가 일조할 수 있을 것이라고 생각한다. ―AI를 발명자로 인정할 것인가의 문제가 대두되고 있다. ▲지식재산권의 목적은 인간의 창의력을 증진시키고, 동시에 혁신적 아이디어들이 시장에 계속 나오도록 동기부여를 하는 데 있다. AI를 발명가로 인정한다면 그러한 목표가 희석되는 악영향이 초래될 수 있다. AI의 발명자권을 인정하지 않는 이유다. 도전과 기회 사이에서 양쪽의 균형이 필요하다고 주장하는 배경이다. 다만 미래 AI 기술의 향방이 어떻게 바뀌느냐에 따라 (발명자권에 대한) 재고의 여지는 있다고 말씀드릴 수 있다. 딥페이크 같은 경우에는 사실 굉장히 많은 이슈가 있다. (규제 바깥에 존재하는 AI 생성물들이 계속 증가하고 있기에) 재고해 볼 여러 긴급성이 있다고 보인다. 아직까지 AI와 관련한 미국의 통합 연방법은 없기 때문에 그런 부분에 있어 새로운 권리가 등장할 여지가 있지 않을까 생각된다. ―일반 소프트웨어 심사기준과 다른 별도의 AI 특허 심사기준을 마련할 계획은 없나. ▲현재 소프트웨어 특허 심사와 완전히 구분되는 AI 심사 과정은 없다. 그러나 일반 소프트웨어 특허 심사기준에 덧대어 'AI가 직접 만들어낸 발명품에 대한 특허출원을 가능하게 할 것이냐'와 관련, USPTO에서 지침을 마련하고 있다. 이르면 다음달 지침을 내놓을 예정이다. 심사원 입장에서 AI 관련 특허가 출원됐을 때 어떻게 심사할 것인지에 대해서 좀 더 용의성을 강화해 주는 행정명령이라고 보면 된다. ―유럽연합(EU) 차원에서 최근 AI법이 통과됐는데, 미국은 언제쯤 AI 연방법이 만들어지나. ▲다양한 이슈를 고려하기 위해 의회 차원에서 여러 법안을 고민하고 있다. 다만 아직은 제안 단계다. 구체적인 시점은 예측하기 어렵다. ehcho@fnnews.com 조은효 권준호 기자

인공지능(AI)의 놀라운 발전은 기업들이 더 이상 기존 산업에 머물다가는 도태될 수 있음을 시사한다. 기업의 이사회는 앞으로 펼쳐질 AI 시대에 기업들이 대비할 수 있도록 AI를 미리 공부하고, 기업 경영진들이 준비할 수 있도록 하는 컨설팅 책무 또한 무거워지고 있다. 특히 AI는 최근 클라우드 컴퓨팅, 고속 컴퓨터 처리와 유비쿼터스 데이터의 융합으로 인해 접근성과 사용성이 크게 향상됐다. 챗GPT와 달리(DALL-E)2를 포함한 생성형 AI는 소셜미디어에서 기업의 전략 논의에 이르기까지 모든 대화의 주요 소재가 됐다. 삼일PwC는 최근 보고서에서 "기업 경영진들이 AI를 활용한 비즈니스 운영방식에 대해 관심이 있는 만큼, 기업 이사회는 AI 기술의 잠재력과 한계를 이해하고 4가지 주요 영역을 살펴야 한다"고 진단했다. 보고서에 따르면 이사회는 앞으로 △AI에 대한 접근방식 개발 △전략적 기회 포착 △신뢰할 수 있는 AI를 위한 위험 및 통제 감독 △새로운 법규 준수 등을 다뤄야 한다. 구체적으로 이사회는 경영진의 AI 활용 목표, 전략과 실행을 감독하고, AI 기술이 기업의 전략에 미칠 수 있는 영향과 AI 관련 위험을 관리해야 한다. 동시에 혁신을 제한하지 않을 방법에 초점을 둬야 한다. AI 기술에 대한 수요가 늘어나면서 그 기능도 계속해서 증가하고 있다는 점을 강조하며 "AI 언어시스템이 정교성과 활용도 측면에서 계속해서 발전함에 따라 혁신은 더욱 가속화될 것"이라고 내다봤다. 이에 전사적으로 AI 애플리케이션이 잘 통합돼 있는 기업이라 할지라도 생성형 AI가 제공할 가치가 무엇인지 정확히 파악해야 한다고 조언했다. 그러면서 보고서는 "이사회는 기업이 누구와 협력할 계획인지, 관련된 잠재적 위험은 무엇인지 파악해야 한다"면서 "특히 신규 공급업체가 기업의 민감한 데이터에 접근할 수 있는 경우 더욱 주의가 필요하다"고 강조했다. 아울러 이사회는 책임 있는 AI 사용을 위한 분위기를 조성하고, 이사들과 경영진이 책임 있는 AI 사용에 대해 명확하게 일치하는 생각을 가지고 있는지 확인해야 한다고도 덧붙였다. 경영진이 알고리즘과 데이터에서 발생할 수 있는 편견과 오류를 줄이기 위해 적절한 정책, 통제 및 프로세스를 어떻게 구현했는지도 살펴야 한다고 조언했다. 실수로든, 고의로든 AI 시스템이 조작되어 관행과 결과를 생성하지 않으며 생성물들이 신뢰할 수 있고 기업가치, 전략적 목표와 규제 요구사항에 부합한다는 것을 확인해야 하는 점도 강조했다. 보고서는 마지막으로 "생성형 AI가 급부상하면서 규제당국은 AI 관행에 대한 우려를 제기하고 새로운 규제와 계획을 빠르게 추진하고 있다"면서 "뉴스 헤드라인에는 전 세계의 새로운 AI 규제 방법이 자주 등장하고 있고, 이는 꽤 오래 지속될 것으로 보인다"고 진단했다. 이에 이사회는 경영진이 이러한 변화를 따라가며 규정 준수(특히 생성형 AI 관련)를 유지하고 있는지 감독해야 한다고 덧붙였다. khj91@fnnews.com 김현정 기자

인공지능(AI)이 우리 삶 전반에 구조적 변화를 가져옴에 따라 정부가 새로운 디지털 질서 정립을 위한 '마스터플랜'을 공개했다. 정부는 21일부터 이틀간 열리는 'AI 서울 정상회의'에 맞춰 글로벌 AI 규범·거버넌스 논의를 주도할 계획이다. 과학기술정보통신부는 이날 국무회의에서 관계부처 합동으로 마련한 '새로운 디지털 질서 정립 추진계획'을 보고했다. 윤석열 대통령의 디지털 구상을 담은 '디지털 권리장전'을 구체적인 정책으로 구현하기 위한 범부처 계획으로, 과기정통부는 3차례의 관계부처 회의를 거쳐 AI 안전성, AI 저작권 법·제도 정비 등 디지털 심화시대에 해결해야 하는 총 52개의 쟁점을 발굴했다. ■신뢰·윤리 등 8대 핵심과제 지정이를 토대로 20대 정책과제를 설정했고, 이 중 파급성이 크고 시급한 8개를 핵심과제로 지정했다. 8대 핵심과제는 △AI 기술의 안전성 및 신뢰·윤리 확보 △딥페이크를 활용한 가짜뉴스 대응 △AI 개발·활용 관련 저작권 제도 정비 △디지털 재난 및 사이버 위협·범죄 대응 △디지털 접근성 제고·대체 수단 확보 △비대면진료의 안정적 시행 △연결되지 않을 권리 보호 △잊힐 권리 보장이다. 우선 AI 기본법 제정을 연내 마무리하고 AI 규범체계를 선도적으로 정립하기로 했다. 특히 이날부터 열리는 'AI 서울 정상회의'에서 글로벌 AI 규범·거버넌스 논의를 주도하고, AI 안전성을 검증·연구하는 전담조직도 설치해 아시아태평양 지역의 AI 안전허브로 육성키로 했다. 딥페이크를 활용한 가짜뉴스 대응도 정부가 중요하게 보는 부분이다. 정부는 법령 정비로 AI 생성물 워터마크 표시 의무화, 민관 협업 대응 강화 및 딥페이크 탐지·식별 기술 개발 등을 통해 대응체계를 구축하기로 했다. AI 저작권 제도도 정비되며, 고도화되는 디지털 위협에 대비하기 위한 국가 대응체계도 확충한다. 소외계층 맞춤형 디지털 서비스를 제공하는 등 접근성도 높이기로 했다. 의료법 개정으로 법적 근거를 마련, 비대면진료도 본격 제도화한다. ■잊힐 권리 등 개인권리 향상도디지털 심화시대에 더욱 중요해질 수 있는 연결되지 않을 권리, 잊힐 권리와 같은 개인의 권리 향상도 추진할 방침이다. 과기정통부는 이번 계획이 성과를 낼 수 있도록 소관부처와 심층 정책연구, 공론화를 진행하기로 했다. 오는 7월부터 각 부처와 심층 정책연구에 본격 착수하며 AI 안전·신뢰·윤리 확보(5~6월), 디지털 접근성 제고(7~8월), 딥페이크를 활용한 가짜뉴스 대응(9~10월), 비대면진료의 안정적 시행(11~12월)을 주제로 사회적 공론화도 추진한다. 이와 함께 디지털 규범에 대한 글로벌 논의에도 적극 참여한다. 경제협력개발기구(OECD)에 디지털 규범 상설논의체를 신설했고, 오는 9월 유엔 디지털 글로벌 규범 수립에서 우리 성과를 적극 반영할 예정이다. 'AI 서울 정상회의'와 함께 열리는 'AI 글로벌 포럼'의 주요 의제로 선택한 '디지털 권리 보장'을 통해 글로벌 디지털 규범 논의도 이어간다. 영국 옥스퍼드대, 캐나다 UBC 등 글로벌 선도 대학·연구소와 디지털 규범 협력체계를 구축해 국제적 대응을 견인해 나가기로 했다. 과기정통부 이종호 장관은 "전 부처가 합심해 디지털 심화시대의 모범국가로서 글로벌 디지털 질서 정립에 기여할 수 있도록 노력할 것"이라고 말했다. yjjoe@fnnews.com 조윤주 기자

KT가 백남준아트센터 특별전을 3차원(3D) 생성형 인공지능(AI) 기술로 구현해 디지털 트윈 공간에 오픈했다. 21일 KT에 따르면 이번에 구현한 전시는 백남준아트센터의 굿모닝 미스터 오웰 40주년 특별전 '일어나 2024년이야!'다. 전시는 백남준의 기념비적인 위성 생방송 프로젝트 '굿모닝 미스터 오웰'(1984)을 중심으로 기술과 예술이 결합해 서로 다른 시공간의 만남을 가능하게 하는 '전 지구적 소통'의 가치를 환기한다. KT는 생성형 비전 AI 기술을 활용해 현실 속 예술 작품을 형상·질감·재질이 표현된 초실감형 3D 모델로 제작했다. 백남준아트센터의 주요 소장품인 'TV 부처', '칭기즈 칸의 복권', '로봇 K-456', 'TV 첼로'가 순차 공개된다 전시는 약 1개월 간 백남준아트센터, 홍익대학교 서울캠퍼스 내 '홍익 AI 뮤지엄'과 KT 디지털 트윈 웹사이트에서 감상할 수 있다. 백남준아트센터와 홍익 AI 뮤지엄에서는 확장현실(XR) 기기로 작품을 생생하게 경험할 수 있다. XR 기기를 착용하면 실제 전시장에 방문한 것과 다름없는 경험을 제공한다. 작품 배치까지 백남준아트센터를 그대로 따랐으며 관람객이 작품에 가까이 다가갈 시 상세한 해설도 제공한다. KT 디지털 트윈 웹사이트에는 저사양 디바이스에서도 작품을 원활히 감상할 수 있도록 클라우드 스트리밍 기술이 적용됐다. 기존 실감형 콘텐츠는 성능이 좋은 컴퓨터로 접속하지 않으면 뚝뚝 끊기고 로딩 시간이 길어지는 문제가 있었다. KT 디지털 트윈 웹사이트는 클라우드에서 연산 처리가 이뤄지기 때문에 관람객이 접속한 디바이스에 GPU가 없어도 초실감형 콘텐츠를 원활하게 즐길 수 있다. 이번 전시를 구현하는데 생성형 비전 AI를 활용한 초실감형 3D 기술을 사용했다. 기존에도 사진이나 영상에서 3D 모델을 구현할 수는 있으나 세부 정보가 부족해 생성물의 현실감이 떨어지는 문제가 있었다. 정확한 구현을 위해서는 비싼 특수 장비로 다량의 사진을 찍어야 했다. solidkjy@fnnews.com 구자윤 기자

[파이낸셜뉴스] 인공지능(AI)이 우리 삶 전반에 구조적 변화를 가져옴에 따라 정부가 새로운 디지털 질서 정립을 위한 '마스터 플랜'을 공개했다. 정부는 21일부터 이틀간 열리는 'AI 서울 정상회의'에 맞춰 글로벌 AI 규범·거버넌스 논의를 주도한다는 계획이다. 과학기술정보통신부는 이날 국무회의에서 관계부처 합동으로 마련한 ‘새로운 디지털 질서 정립 추진계획’을 보고했다. 윤석열 대통령의 디지털 구상을 담은 '디지털 권리장전'을 구체적인 정책으로 구현하기 위한 범부처 계획으로, 과기정통부는 3번의 관계부처 회의를 거쳐 AI 안전성, AI 저작권 법·제도 정비 등 디지털 심화시대에 해결해야 하는 총 52개의 쟁점을 발굴했다. 신뢰, 윤리 등 8대 핵심과제 지정 이를 토대로 20대 정책과제를 설정했고, 이 중 파급성이 크고 시급한 8개를 핵심과제로 지정했다. 8대 핵심과제는 △AI 기술의 안전성 및 신뢰·윤리 확보 △딥페이크를 활용한 가짜뉴스 대응 △AI 개발·활용 관련 저작권 제도 정비 △디지털 재난 및 사이버 위협·범죄 대응 △디지털 접근성 제고·대체 수단 확보 △비대면 진료의 안정적 시행 △연결되지 않을 권리 보호 △잊힐 권리 보장이다. 우선 AI 기본법 제정을 연내 마무리하고 AI 규범 체계를 선도적으로 정립하기로 했다. 특히 이날부터 열리는 'AI 서울 정상회의'에서 글로벌 AI 규범·거버넌스 논의를 주도하고, AI 안전성을 검증·연구하는 전담조직도 설치해 아태지역의 AI 안전허브로 육성키로 했다. 딥페이크를 활용한 가짜뉴스 대응도 정부가 중요하게 보는 부분이다. 정부는 법령 정비로 AI 생성물 워터마크 표시 의무화, 민·관 협업 대응 강화 및 딥페이크 탐지·식별 기술 개발 등을 통해 대응체계를 구축하기로 했다. AI 저작권 제도도 정비되며, 고도화되는 디지털 위협에 대비하기 위한 국가 대응체계도 확충한다. 소외계층 대상 맞춤형 디지털 서비스를 제공하는 등 접근성도 높이기로 했다. '의료법' 개정으로 법적근거를 마련해, 비대면 진료도 본격 제도화한다. 잊힐 권리 등 개인권리 향상도 디지털 심화시대에 더욱 중요해질 수 있는 연결되지 않을 권리, 잊힐 권리와 같은 개인의 권리 향상도 추진한다는 방침이다. 과기정통부는 이번 계획이 성과를 낼 수 있도록 소관부처와 심층 정책연구, 공론화를 진행하기로 했다. 오는 7월부터 각 부처와 심층 정책연구를 본격 착수하며, AI 안전·신뢰·윤리 확보(5~6월), 디지털 접근성 제고(7~8월), 딥페이크를 활용한 가짜뉴스 대응(9~10월), 비대면 진료의 안정적 시행(11~12월)을 주제로 사회적 공론화도 추진한다.  이와 함께 디지털 규범에 대한 글로벌 논의에도 적극 참여한다. OECD에 디지털 규범 상설논의체를 신설했고, 오는 9월 UN 디지털 글로벌 규범 수립에서 우리 성과를 적극 반영할 예정이다. ‘AI 서울 정상회의’와 함께 열리는 'AI 글로벌 포럼'의 주요 의제로 선택한 ‘디지털 권리 보장'을 통해 글로벌 디지털 규범 논의도 이어간다. 영국 옥스포드대학, 캐나다 UBC 등 글로벌 선도 대학·연구소와 디지털 규범 협력 체계를 구축해 국제적 대응을 견인해 나가기로 했다. 과기정통부 이종호 장관은 “이 계획은 우리가 실제 마주할 디지털 심화 쟁점들을 실질적으로 해결할 수 있는 범정부 차원의 정책을 마련한 것”이라며 “전 부처가 합심해 디지털 심화시대의 모범국가로서 글로벌 디지털 질서 정립에 기여할 수 있도록 노력할 것”이라고 말했다.  yjjoe@fnnews.com 조윤주 기자