[파이낸셜뉴스]  최근 딥페이크 기술을 악용한 범죄 사례가 증가하며 전국이 들썩이고 있다. 경찰청에 따르면, AI를 이용한 허위 영상물 제작 관련 범죄는 2021년 156건에서 지난해 180건, 올해 상반기에는 297건으로 급증했다. 5일 관련업계에 따르면 정부 또한 딥페이크 악용에 대한 대응 강화 움직임을 보이고 있다. 여성가족부는 인공지능(AI) 기술을 이용해 딥페이크 영상물을 찾아 사업자에 자동으로 삭제를 요청하는 시스템을 내년 구축할 계획이다. 법무부는 딥페이크 음성·영상 위변조 분석장비 도입을 위한 예산을 증액하기로 했다. 특히 경찰은 딥페이크(허위영상물) 성범죄와 관련해 전담수사 인력을 확충하는 방안을 검토하겠다고 밝혔다. 그렇다면 경찰청을 비롯한 관공서가 채택하는 딥페이크 방지 솔루션 상용화에 성공한 기업은 어디일까. 해당 주인공은 AI디지털 휴먼 기업인 '딥브레인AI'다. 딥브레인AI의 딥페이크 탐지 솔루션은 이미지, 오디오, 동영상 등을 분석해 5~10분 내로 딥페이크 여부를 탐지한다. 딥브레인은 한국인 데이터 100만 개와 아시아계 인종 데이터 13만 개 등 총 520만 개 데이터를 학습시켰다. 무엇보다도 딥브레인AI는 국내에서 가장 많은 딥페이크 탐지 레퍼런스를 보유하고 있는 기업이다. 특히 올해 3월에는 경찰청과 협력해 딥페이크 범죄 단속을 돕는 딥페이크 탐지 솔루션을 선보였다. 해당 프로그램은 경찰청 등 수사기관에서 현재 활용되고 있다. 일반 딥페이크 탐지 모델이 서양인 위주 데이터로 구성된 점을 감안해 한국인 데이터 등을 포함하는 등 개선도 이뤄지고 있다. 딥브레인AI 관계자는 "피해 사진 유출 등을 우려해 경찰청에서 쓰는 프로그램은 좀 더 보안성이 강화된 버전"이라면서 "최근엔 관공서 등으로부터 프로그램 문의가 늘고 있다"고 답했다. 딥브레인은 경찰서뿐만 아니라 과학기술정보통신부가 추진하는 '딥페이크 변조 영상AI 데이터' 수행기업에 선정된 바 있으며 국내 여러 관공서와 협력하여 딥페이크 탐지 사업 및 연구를 활발히 진행하고 있다. 해당 기술력을 기반으로 윤석열 대통령과도 협업을 한 바 있다. 여기에 관공서 뿐 아니라 여러 기업과도 협력 중이다. 최근 딥페이크 음란물이 논란이 되자 딥브레인AI는 솔루션을 각급 학교와 관공서, B2B 기업 등에 1개월 무료로 지원하기로 했다. 모바일 영역으로의 사업 확장을 위해 모바일 솔루션 전문 기업인 인포뱅크와 AI 휴먼 영상 제작 업무협약을 체결해 영상 메시지 서비스 시장을 공략 중이다. 또한 SKT ‘AI 최경주 프로젝트’ 참여, KT와 호텔용 AI 컨시어지 서비스 개발, 프리드라이프와 AI 추모 서비스 출시 등 다양한 분야에서 AI 휴먼을 활용한 협업을 이어가고 있다. 최근에는 빅테크 기업 레노버와 공동 웨비나를 진행하고, 기술 협력 파트너십을 체결하는 등 글로벌 시장을 겨냥한 활발한 움직임도 보이고 있다. kakim@fnnews.com 김경아 기자

[파이낸셜뉴스] 인공지능(AI) 전문 기업 딥브레인AI가 'AI 최경주'를 기존 사진, 영상만으로 구현했다. 딥브레인AI는 SK텔레콤이 주최하는 SKT 오픈 2023 대회의 'AI 최경주 제작 프로젝트'에 참여해 최경주 선수를 AI 휴먼으로 구현했다고 30일 밝혔다. 딥브레인AI는 AI 최경주 구현에 가상인간 기술을 접목했다. 여기에 SKT의 음성합성 기술이 함께 접목됐다. 딥브레인AI는 최경주 선수의 사진과 인터뷰 영상만으로 얼굴 데이터를 추출, 딥러닝 학습을 진행시켰다. 이후 별도 촬영한 대역 모델에 영상합성 기술로 립싱크 학습을 접목, SKT의 음성합성 TTS(Text to Speech) 엔진을 결합해 최경주 선수의 목소리를 완성했다. 통상적으로 가상인간 구현에 대상 인물의 별도 스튜디오 방문 및 촬영이 요구되는데, 이와 달리 기존 사진과 영상만으로 AI 인간을 구현했다는 설명이다. AI 최경주는 지난 18일부터 나흘간 열린 KPGA 코리안투어 SKT 오픈 2023에서 해설위원 등으로 등장했다. 딥브레인AI 관계자는 "발화 시 자연스러운 입모양과 제스처를 선보이며 화제를 모았다"며 "AI 휴먼 제작 시 통상적으로 진행하는 500문장의 학습 외에 골프 중계 멘트 립싱크를 위해 골프 용어 학습을 추가적으로 진행했다"고 설명했다. 딥브레인AI는 향후에도 AI 최경주 사례와 같이 영상과 음성만으로 원하는 대상을 AI 휴먼으로 구성할 수 있도록 선택지를 추가할 계획이다. 앞서 딥브레인AI가 제작한 'AI 윤석열', 'AI 김주하' 등은 모두 직접 촬영을 통해 구현한 바 있다. 장세영 딥브레인AI 대표는 "최경주 선수의 사진과 영상을 기반으로 딥러닝 과정을 거쳐 모델과 똑 닮은 AI 휴먼을 구현했다"며 "이제는 스튜디오 촬영 외 또 다른 선택지를 제공해 모델의 시간과 비용을 절약할 수 있어 보다 합리적으로 AI 휴먼 제작이 가능하다"고 말했다. jhyuk@fnnews.com 김준혁 기자

KT가 인공지능(AI) 전문 기업 딥브레인AI와 함께 '국제인공지능대전(AI EXPO KOREA 2023)'에 참가해 'AI 이장우 키오스크'를 선보였다. 15일 KT에 따르면 'AI 이장우 키오스크'는 KT 기가지니 인사이드 플랫폼이 적용된 키오스크로, 딥브레인AI의 가상인간을 결합한 '기가지니 AI휴먼'이다. KT 기가지니 AI휴먼은 가상인간의 외모에 KT의 인공지능 두뇌를 탑재해 실제 사람과 대화를 이어나갈 수 있도록 개발됐다. 딥브레인AI는 후너스엔터테인먼트와 협력해 최근 '팜유왕자'로 많은 사랑을 받고 있는 배우 이장우를 AI휴먼으로 구현하고 국제인공지능대전 전시 현장에서 PC·모바일 형태로 선보였다. 실시간 대화 기능을 구현하기 위해 KT의 AI 음성인식 플랫폼인 기가지니 인사이드와 딥브레인AI의 음성 및 영상 합성, 자연어 처리 기술이 적용됐다. 또한 KT의 AISE(AI Speech Enhancement) 기술을 적용해 전시회나 차량 등 잡음이 많은 다양한 환경에서도 대화가 가능하다. 'AI 이장우 키오스크'는 전시회를 찾은 참관객들 질문에 대해 실시간 답변했다. 질문과 답변은 별도의 복잡한 과정 없이 실제 사람과 대화하듯 음성으로 진행돼 호평을 받았다. 특히 실제 배우와 똑같은 모습은 물론 연상케 하는 말투로 재치 있는 대답을 하며 화제를 모았다. 한 참관객의 "혈액형이 뭐야?"라는 질문에 "원래는 비밀인데 특별히 알려드릴게요. 제 혈액형은 바로, 당신의 이상형?"이라고 답해 웃음을 자아내기도 했다. 아울러 인사와 취미, MBTI 등 개인적인 질문도 자연스럽게 대답했다. KT AI·BigData사업본부 최준기본부장은 "KT의 고도화된 기가지니 인사이드 플랫폼을 적용한 AI휴먼 키오스크를 통해 전시회, 차량 내부 등 잡음이나 소음이 많은 환경에서도 음성인식을 이용한 실시간 대화가 가능해졌다"며 "KT는 앞으로 더욱 기가지니 인사이드 플랫폼을 발전시켜 여러 환경에서 음성인식 성능을 끌어올릴 수 있도록 기술 향상에 힘쓰겠다"고 전했다. solidkjy@fnnews.com 구자윤 기자

KT가 인공지능(AI) 전문 기업 딥브레인AI와 함께 ‘국제인공지능대전(AI EXPO KOREA 2023)’에 참가해 ‘AI 이장우 키오스크’를 선보였다. 15일 KT에 따르면 ‘AI 이장우 키오스크’는 KT 기가지니 인사이드 플랫폼이 적용된 키오스크로, 딥브레인AI의 가상인간을 결합한 ‘기가지니 AI휴먼’이다. KT 기가지니 AI휴먼은 가상인간의 외모에 KT의 인공지능 두뇌를 탑재해 실제 사람과 대화를 이어나갈 수 있도록 개발됐다.  딥브레인AI는 후너스엔터테인먼트와 협력해 최근 '팜유왕자’로 많은 사랑을 받고 있는 배우 이장우를 AI휴먼으로 구현하고 국제인공지능대전 전시 현장에서 PC·모바일 형태로 선보였다. 실시간 대화 기능을 구현하기 위해 KT의 AI 음성인식 플랫폼인 기가지니 인사이드와 딥브레인AI의 음성 및 영상 합성, 자연어 처리 기술이 적용됐다. 또한 KT의 AISE(AI Speech Enhancement) 기술을 적용해 전시회나 차량 등 잡음이 많은 다양한 환경에서도 대화가 가능하다. ‘AI 이장우 키오스크’는 전시회를 찾은 참관객들 질문에 대해 실시간 답변했다. 질문과 답변은 별도의 복잡한 과정 없이 실제 사람과 대화하듯 음성으로 진행돼 호평을 받았다. 특히 실제 배우와 똑같은 모습은 물론 연상케 하는 말투로 재치 있는 대답을 하며 화제를 모았다. 한 참관객의 “혈액형이 뭐야?”라는 질문에 “원래는 비밀인데 특별히 알려드릴게요. 제 혈액형은 바로, 당신의 이상형?”이라고 답해 웃음을 자아내기도 했다. 아울러 인사와 취미, MBTI 등 개인적인 질문도 자연스럽게 대답했다. KT AI·BigData사업본부 최준기본부장은 “KT의 고도화된 기가지니 인사이드 플랫폼을 적용한 AI휴먼 키오스크를 통해 전시회, 차량 내부 등 잡음이나 소음이 많은 환경에서도 음성인식을 이용한 실시간 대화가 가능해졌다”며 “KT는 앞으로 더욱 기가지니 인사이드 플랫폼을 발전시켜 여러 환경에서 음성인식 성능을 끌어올릴 수 있도록 기술 향상에 힘쓰겠다”고 전했다. 딥브레인AI 장세영 대표는 “아시아 최대 규모의 국제인공지능대전에서 AI 이장우 키오스크를 성공적으로 선보이며 AI 휴먼 기술 경쟁력을 다시 한 번 증명하는 계기가 됐다”며 “앞으로도 KT, 후너스엔터테인먼트와 지속적으로 협력해 AI 이장우 키오스크가 관공서, 기업, 엔터테인먼트 등 더욱 다양한 분야에서 활약할 수 있도록 그 영역을 넓혀갈 것”이라고 말했다.  solidkjy@fnnews.com 구자윤 기자

[파이낸셜뉴스] 상조 서비스 기업 프리드라이프가 인공인간(AI휴먼) 전문기업 딥브레인AI와 업무협약을 체결하고 AI 추모 서비스 '리메모리' 사업 협력을 추진한다. 19일 서울 중구 프리드라이프 본사에서 진행된 열린 협약식에는 프리드라이프 김만기 대표, 김재준 부문장, 노아란 본부장과 딥브레인AI 장세영 대표, 한종호 본부장, 박영훈 리더 등 양사 관계자들이 참석했다. 양사는 각 사가 보유한 데이터와 기술력, 노하우 등을 결합해 새로운 추모 문화 제안을 위한 공동 개발에 나서기로 뜻을 모았다. 딥브레인AI는 다양한 산업 분야에 AI 휴먼 솔루션을 제공·지원하는 기업이다. AI 휴먼 영상 제작 플랫폼 'AI스튜디오', AI 영어회화 서비스 '스픽나우', 가상인간 쇼호스트가 진행하는 라이브 커머스, 가상 인플루언서 등 다양한 서비스를 제공 중이다. 김만기 프리드라이프 대표이사는 "프리드라이프가 1위 AI 기술력을 보유한 딥브레인AI와 함께 새로운 장례·추모 문화를 함께 만들어 나갈 것"이라고 말했다. wonder@fnnews.com 정상희 기자

[파이낸셜뉴스]  기업공개(IPO)전문투자기업 혁신투자자문은 지난 8월 이베스트투자증권과 함께 혁신인공지능(AI)신기술조합을 결성하고 공동운용에 나섰다고 8일 밝혔다. 이날 혁신투자자문에 따르면 혁신AI신기술조합은 회사의 1호 신기술사업투자조합이다. 회사 측은 "혁신투자자문과 이베스트투자증권을 공동업무진행조합원으로 한다"며 "투자자(LP)로는 기관투자자 아스투자자문 이외에도 업계 다수 IPO 전문가들이 참여했다"고 밝혔다.  이에 혁신투자자문에 따르면 회사는 최근 딥브레인AI(구 머니브레인)에 투자했다. 딥브레인AI는 MBN방송 AI아나운서, KB은행 AI키오스크 공급 등을 맡고 있는 AI전문기업이다. 이때 회사 측은 지난 8월 2000억원 수준의 기업가치로 500억원 규모 투자유치에 성공했다고 설명했다. 투자에는 KDB산업은행과 IMM인베스트먼트, 포스코기술투자, L&S벤처투자 등이 참여했다. 혁신AI신기술조합은 시리즈B 기업가치보다 약 15% 할인된 밸류에이션으로 투자했다. 혁신AI신기술조합 공동대표펀드매니저는 이경준 혁신투자자문 대표이사(CEO)가 맡았다. 이 대표는 지난 2010년 LIG투자증권(현 케이프투자증권) 투자은행(IB)사업본부에 입사해 JP에셋자산운용, 한앤파트너스자산운용, 한국연금투자자문 등을 거쳤다. 한편 혁신투자자문은 내년 상반기 자산운용업 등록을 목표로 연내 관련 절차를 추진할 계획이다. jo@fnnews.com 조윤진 기자

#KAIST를 졸업한 30대 A씨는 미국 테크 기업에 입사키로 진로를 정했다. 현지 업계 최저치는 연봉 20만달러(약 2억 7000만원) 안팎으로 전해졌다. 국내보다 2~3배 높은 수준이다. 체류비와 편의성 등을 고려하면 국내도 괜찮겠지만 A씨는 미국 행을 택했다. 그는 "1차적으로 연봉이 가장 큰 영향을 미쳤지만, 국내에서 일할 경우 '커리어 한계'에 부딪힐 수 있다는 인식이 강하다"며 "정부 차원의 투자도 적극적이지 않아 보여 어쩔 수 없이 해외행을 선호할 수밖에 없다"고 말했다. 해외 빅테크와 스타트업들이 인공지능(AI) 고도화 경쟁에 나서고 있지만 시간이 흐를 수록 국내 업체들의 인재 확보가 어려워 질 것이라는 전망이 나온다. 오픈AI, 구글 등 빅테크는 고액 연봉을 제시하며 AI 인재 확보에 나서고 있지만 국내 업체들의 경우 대형 개발업체가 아니고서는 해외 인재 확보는 어려운 실정이다. 석박사급 인재들도 해외 선호도가 높아지는 실정이다. 네이버와 카카오, 통신사, 스타트업 등이 기술 개발에 사활을 걸고 있지만 천문학적 자금을 투입 중인 빅테크를 따라잡기는 버거운 수준이라는 진단이다. 이 때문에 AI를 전략 자산으로 설정한 미국 등 일부 국가처럼 우리도 정부 주도 아래 AI 경쟁력 확보에 나서야 한다는 지적이다. ■빅테크 AI 인력 초봉이 10억원 4일 업계에 따르면 글로벌 빅테크가 숙련된 AI 인재에 제시하는 초봉 수준이 9억~10억원에 달하는 것으로 나타났다. 급여 협상 서비스 업체인 로라의 집계를 보면, 오픈AI의 박사급 AI 연구원 초봉은 86만5000달러(약 11억3000만원), 앤트로픽 85만5000만 달러(약 11억2000만원)에 달했다. 인플렉션 AI(82만5000달러, 약 10억8000만원), 아마존(71만9000달러, 약 9억4000만원), 구글 브레인(69만5000달러, 약 9억1000만원) 등도 10억원 안팎에 인재를 끌어오고 있다. 외신 등 보도를 보면 마이크로소프트(MS)의 소프트웨어 엔지니어의 경우 연봉이 최고 123만달러(약 16억5000만원)에 달했다. 최근 AI 인재 확보 경쟁은 심각한 수준이다. 구글 딥마인드, 오픈AI, 미스트랄, 메타 등의 경쟁사로 직위 고하에 상관없이 AI 인재들이 자리를 옮기고 있다. 마크 저커버그 메타 CEO가 직접 구글 딥마인드 연구원들에게 이메일을 통해 영입을 추진할 정도다.국내 사정도 다르지 않다. 고용노동부가 내놓은 '4대 신기술 분야 인력 수급 조사 보고서'를 보면 오는 2027년까지 AI 분야에서 1만2800명의 인력이 부족하다고 분석했다. 그 중에서도 고급인력의 해외유출 우려를 가장 심각하게 짚었다. 실제로 국내 AI 연구원의 평균 연봉은 2~3억원 수준으로 빅테크 기업의 초봉과 상당한 차이가 난다. 국내 AI 스타트업 관계자는 "전 세계 반도체 시장을 주름잡았던 인텔의 위기도 결국 인재 유출이 결정타로 봐야 한다. 한참 잘 나가던 시절 비용 절감 등을 이유로 대규모 인력을 수차례 정리했는데 핵심 인력이 떠났다"며 "유망한 인력은 결국 혁신으로 연결된다"고 지적했다. ■커리어 한계 우려…마스터플랜 필요 전문가들은 정부가 AI 컨트롤타워 역할을 강화해 경쟁력을 높여야 한다고 지적한다. 영국 데이터 분석 매체인 토터스미디어의 '2024 글로벌 AI 인덱스'에 따르면 프랑스는 지난해 13위에서 올해 5위로 급상승했다. 마크롱 정부의 대규모 투자와 AI 연구 개발에 대한 적극적인 지원이 주요 요인으로 지목된다. 한국은 6위에 불과했다. 인프라와 개발 등에선 높은 성적을 기록했지만 운영 환경(35위), 연구(13위) 등으로 AI 법·제도 등 운영 환경이 취약한 것으로 분석됐다. 정부는 지난해 7월에야 국가 AI위원회를 설립하고 1차 회의를 진행한 바 있다. 윤석열 대통령 직속으로 만들어진 국가 AI위원회는 각 부처 장관 등 10명 등 정부위원과 민간 위원 등을 포함해 45명으로 구성됐다. 이미 각 부처에서 AI 연구 거점을 만들거나 AI전담 조직 등을 고려하고 있다. 각 부처별 AI조직과 투자 계획 등을 포함해 정부의 유연한 중장기 계획 시동이 필요할 것으로 보인다. 최병호 고려대 AI 연구소 교수는 "AI로 빠르게 변하고 있는 생태계에 다른 나라들은 우선순위를 높이고 있는데, 우리 정부가 투자를 줄인다면 기업은 경쟁력을 잃고 인재가 유출되는 악순환에 빠질 수 밖에 없다"고 분석했다. 김명주 서울여대 정보보호학과 교수도 "AI 기본법이라는 법적 토대를 빨리 통과시켜서 부처별로 산재한 AI 관련 부서를 통합할 헤드쿼터를 만들어야 한다"며 "AI를 부흥시킬 전략은 부재하고 규제 이야기만 나오고 있는 상태인데, 중장기적인 계획을 가지고 움직일 필요가 있다"고 전했다. yjjoe@fnnews.com 조윤주 주원규 기자

[파이낸셜뉴스] #KAIST를 졸업한 30대 A씨는 미국 테크 기업에 입사키로 진로를 정했다. 현지 업계 최저치는 연봉 20만달러(약 2억 7000만원) 안팎으로 전해졌다. 국내보다 2~3배 높은 수준이다. 체류비와 편의성 등을 고려하면 국내도 괜찮겠지만 A씨는 미국 행을 택했다. 그는 "1차적으로 연봉이 가장 큰 영향을 미쳤지만, 국내에서 일할 경우 '커리어 한계'에 부딪힐 수 있다는 인식이 강하다"며 "정부 차원의 투자도 적극적이지 않아 보여 어쩔 수 없이 해외행을 선호할 수밖에 없다"고 말했다. 해외 빅테크와 스타트업들이 인공지능(AI) 고도화 경쟁에 나서고 있지만 시간이 흐를 수록 국내 업체들의 인재 확보가 어려워 질 것이라는 전망이 나온다. 오픈AI, 구글 등 빅테크는 고액 연봉을 제시하며 AI 인재 확보에 나서고 있지만 국내 업체들의 경우 대형 개발업체가 아니고서는 해외 인재 확보는 어려운 실정이다. 석박사급 인재들도 해외 선호도가 높아지는 실정이다. 네이버와 카카오, 통신사, 스타트업 등이 기술 개발에 사활을 걸고 있지만 천문학적 자금을 투입 중인 빅테크를 따라잡기는 버거운 수준이라는 진단이다. 이 때문에 AI를 전략 자산으로 설정한 미국 등 일부 국가처럼 우리도 정부 주도 아래 AI 경쟁력 확보에 나서야 한다는 지적이다. 빅테크 AI 인력 초봉이 10억원4일 업계에 따르면 글로벌 빅테크가 숙련된 AI 인재에 제시하는 초봉 수준이 9억~10억원에 달하는 것으로 나타났다. 급여 협상 서비스 업체인 로라의 집계를 보면, 오픈AI의 박사급 AI 연구원 초봉은 86만5000달러(약 11억3000만원), 앤트로픽 85만5000만 달러(약 11억2000만원)에 달했다. 인플렉션 AI(82만5000달러, 약 10억8000만원), 아마존(71만9000달러, 약 9억4000만원), 구글 브레인(69만5000달러, 약 9억1000만원) 등도 10억원 안팎에 인재를 끌어오고 있다. 외신 등 보도를 보면 마이크로소프트(MS)의 소프트웨어 엔지니어의 경우 연봉이 최고 123만달러(약 16억5000만원)에 달했다. 최근 AI 인재 확보 경쟁은 심각한 수준이다. 구글 딥마인드, 오픈AI, 미스트랄, 메타 등의 경쟁사로 직위 고하에 상관없이 AI 인재들이 자리를 옮기고 있다. 마크 저커버그 메타 CEO가 직접 구글 딥마인드 연구원들에게 이메일을 통해 영입을 추진할 정도다.국내 사정도 다르지 않다. 고용노동부가 내놓은 '4대 신기술 분야 인력 수급 조사 보고서'를 보면 오는 2027년까지 AI 분야에서 1만2800명의 인력이 부족하다고 분석했다. 그 중에서도 고급인력의 해외유출 우려를 가장 심각하게 짚었다. 실제로 국내 AI 연구원의 평균 연봉은 2~3억원 수준으로 빅테크 기업의 초봉과 상당한 차이가 난다. 국내 AI 스타트업 관계자는 "전 세계 반도체 시장을 주름잡았던 인텔의 위기도 결국 인재 유출이 결정타로 봐야 한다. 한참 잘 나가던 시절 비용 절감 등을 이유로 대규모 인력을 수차례 정리했는데 핵심 인력이 떠났다"며 "유망한 인력은 결국 혁신으로 연결된다"고 지적했다. "커리어 한계도 걱정"...마스터플랜 필요전문가들은 정부가 AI 컨트롤타워 역할을 강화해 경쟁력을 높여야 한다고 지적한다. 영국 데이터 분석 매체인 토터스미디어의 '2024 글로벌 AI 인덱스'에 따르면 프랑스는 지난해 13위에서 올해 5위로 급상승했다. 마크롱 정부의 대규모 투자와 AI 연구 개발에 대한 적극적인 지원이 주요 요인으로 지목된다. 한국은 6위에 불과했다. 인프라와 개발 등에선 높은 성적을 기록했지만 운영 환경(35위), 연구(13위) 등으로 AI 법·제도 등 운영 환경이 취약한 것으로 분석됐다. 정부는 지난해 7월에야 국가 AI위원회를 설립하고 1차 회의를 진행한 바 있다. 윤석열 대통령 직속으로 만들어진 국가 AI위원회는 각 부처 장관 등 10명 등 정부위원과 민간 위원 등을 포함해 45명으로 구성됐다. 이미 각 부처에서 AI 연구 거점을 만들거나 AI전담 조직 등을 고려하고 있다. 각 부처별 AI조직과 투자 계획 등을 포함해 정부의 유연한 중장기 계획 시동이 필요할 것으로 보인다. 최병호 고려대 AI 연구소 교수는 "AI로 빠르게 변하고 있는 생태계에 다른 나라들은 우선순위를 높이고 있는데, 우리 정부가 투자를 줄인다면 기업은 경쟁력을 잃고 인재가 유출되는 악순환에 빠질 수 밖에 없다"고 분석했다. 김명주 서울여대 정보보호학과 교수도 "AI 기본법이라는 법적 토대를 빨리 통과시켜서 부처별로 산재한 AI 관련 부서를 통합할 헤드쿼터를 만들어야 한다"며 "AI를 부흥시킬 전략은 부재하고 규제 이야기만 나오고 있는 상태인데, 중장기적인 계획을 가지고 움직일 필요가 있다"고 전했다. yjjoe@fnnews.com 조윤주 주원규 기자

"기술은 가치중립적인데, 딥페이크 자체가 자칫 범죄로만 인지될 수 있는 점이 우려스럽다." "리걸테크(법+기술) 서비스가 국내 법률시장에 정착하기 위해선 적절한 가이드라인, 법률 데이터의 투명성과 접근성 확보가 가능해야 한다." 5일 서울 송파구 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동개최한 'AI월드 2024'에서 열린 'AI in Life' 세션에서는 딥페이크, 리걸테크, 인공지능(AI) 기반 문화예술 등 일상생활 속 AI 현안에 대한 발표와 토론이 이어졌다. '딥페이크, 범죄인가 혁신인가'를 주제로 진행된 행사 현장에선 딥페이크의 양면성과 향후 전망을 다뤘다. 김덕진 IT커뮤니케이션 연구소장은 "과거엔 '재밌다' 정도였지만, 최근에는 성범죄 등 심각한 사례가 쏟아지면서 관련 문화나 현상에 대해서도 고민하기 시작했다"면서도 "보이스피싱이 생겼다고 전화를 못하게 하거나, 악플이 생겼다고 댓글을 없애버리지 않았듯이 AI 기술 또한 자율에 맞는 책임을 요구해야 한다"고 강조했다. 이정수 딥브레인AI 이사는 "신기술을 어떻게 사용하느냐에 따라 나쁜 기술도, 좋은 기술도 될 수 있기 때문에 양면을 고려해서 정책을 결정하는 게 중요하다"고 짚었다. 임대근 한국외대 학장은 "딥페이크를 범죄 또는 혁신 등 이분법적으로 정의하는 게 무의미하다"며 "인간이 어떻게 활용하느냐에 따라 성격이 규정돼 갈 텐데, 순기능이 강화되는 방향으로 나아갔으면 좋겠다"고 말했다. 악용을 효과적으로 차단할 탐지기술의 발전 필요성도 대두됐다. 이 이사는 "새로운 AI 기술이 나오면 탐지율이 떨어지는 건 어쩔 수 없다"면서도 "다만 1%라도 범죄를 막을 수 있고, 좋은 점이 있다면 보완하기 위해 노력할 예정"이라고 했다. 이어 '리걸테크의 미래'를 주제로 진행된 세션에선 김본환 로앤컴퍼니 대표와 이진 엘박스 대표가 리걸테크 서비스 현황과 미래 필요한 요소들을 논의했다. 김 대표는 "리걸테크 서비스가 있으면 효율성과 생산성은 높이고, 비용은 줄일 수 있다"며 "미네소타 연구에 따르면 AI 기술 도입으로 로펌들은 인력 대비 고소장 작성 시간을 24% 줄였다. 주니어 변호사는 건당 74달러 드는 비용도 LLM은 24센트밖에 들지 않았다"고 전했다. 그러면서 "법률정보는 정확도가 중요시되는데 AI가 잘못된 정보를 제공하는 현상(환각)을 겪지 않도록 관련 법규 및 가이드라인의 중요성 또한 부각될 것으로 본다"고 덧붙였다. 이 대표는 "검색증강생성(RAG)을 통해서 환각을 낮추는 등 기술적 문제를 해결하고 있고, 비용도 낮출 수 있다"며 "법률AI, 법률전문가, 소비자가 공존하는 세상이 열렸다. 법률 전문가와 스타트업이 함께 방법을 모색할 시간"이라고 설명했다. 세션 좌장을 맡은 구태언 법무법인 린 TMT그룹 총괄은 "리걸테크가 보편화되면 로펌들은 지금 인력으로 더 많은 일을 할 수 있고, 젊은 변호사들은 실력을 끌어올릴 수 있을 것"이라고 전망했다. 마지막으로 'AI와 만난 문화예술'을 주제로 진행된 문화예술 세션에선 콘텐츠 창작에 대한 AI 기술의 잠재력에 대한 발표가 이어졌다. 윤석관(활동명 킵콴) AI 콘텐츠 크리에이터는 "AI 기술 발전은 곧 표현의 범위가 확장된다는 이야기"라고 짚었다. 권한슬 스튜디오 프리윌루전 대표는 "AI로 예술의 민주화가 생겼다"며 "AI는 영화계가 겪는 새 변곡점 중 하나로, 이미 일어났고 앞으로도 일어날 일이다. 이를 어떻게 받아들이고 활용하고 안전한 사용할 수 있는가를 논의해야 할 때"라고 강조했다.

[파이낸셜뉴스]"딥페이크는 2011년부터 논란이 돼 왔고 그 때마다 가십거리 정도로 치부됐지만, 최근에서야 충격적이라는 반응이다. 기술은 가치중립적인데, 딥페이크 자체가 자칫 범죄처럼 인지될 수 있는 게 우려스럽다." - 김덕진 IT커뮤니케이션연구소장 5일 서울 송파구 롯데월드타워 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에선 '딥페이크, 범죄인가 혁신인가'를 주제로 딥페이크 기술의 양면성을 다루는 세션이 진행됐다. 해당 세션 발표에 나선 김덕진 IT커뮤니케이션 연구소장은 "과거에는 딥페이크에 대해 단순히 '재밌다' 정도의 반응이었지만, 최근에는 성폭력과 같은 심각한 사례가 쏟아지면서 관련 문화나 현상을 고민하기 시작했다"면서도 "보이스피싱이 있다고 전화를 못하게 하거나, 악플이 생겼다고 댓글을 아예 없애버리지 않았듯이 AI 또한 자율에 맞는 책임을 요구해야 한다"고 강조했다. 부정적인 사례에만 초점을 맞춰 신기술 자체를 막아선 안 된다는 설명이다. 이정수 딥브레인AI 국내사업개발그룹 영업총괄 이사는 "신기술은 나왔을 때 기술을 어떻게 사용하느냐에 따라 좋은 기술도 나쁜 기술도 될 수 있기 때문에 양면을 고려해서 정책을 결정하는 게 중요하다"고 설명했다. 좌장으로 나선 임대근 한국외대 컬처·테크놀로지융합대학장은 "'딥페이크는 범죄 또는 혁신이다'라고 이분법적으로 설정하는 게 무의미하다"며 "딥페이크는 그 자체가 범죄일 수 없고, 인간이 어떻게 활용하느냐에 따라 성격이 규정돼 갈 것"이라고 전했다. 그러면서 "순기능이 부각되고 강화되는 방향으로 갔으면 좋겠다"고 덧붙였다. 생성형 AI 기술 발전 속도에 버금가는 악용 사례 탐지 역량 확보도 중요하다는 의견도 나왔다.  임 학장은 "도구가 발전하면 악용 사례 추적 기술도 발전해야 한다"고 짚었고, 이 이사는 "생성형 AI 기술은 하루가 다르게 변하고 있다. 새로운 기술이 나오면 탐지율이 떨어지는 건 어쩔 수 없다"며 "다만 1%라도 범죄를 예방하고 좋은 점이 있다면 그런 부분을 만족시키면서 보완하려 한다"고 했다. 김 소장은 "추후 더 구체적인 부분에 대한 가이드라인이 필요할 것"이라고 전망했다. jhyuk@fnnews.com 김준혁 이동혁 이해람 기자