관련종목▶
[파이낸셜뉴스] 최근 딥페이크 기술을 악용한 범죄 사례가 증가하며 전국이 들썩이고 있다.
경찰청에 따르면, AI를 이용한 허위 영상물 제작 관련 범죄는 2021년 156건에서 지난해 180건, 올해 상반기에는 297건으로 급증했다.
5일 관련업계에 따르면 정부 또한 딥페이크 악용에 대한 대응 강화 움직임을 보이고 있다. 여성가족부는 인공지능(AI) 기술을 이용해 딥페이크 영상물을 찾아 사업자에 자동으로 삭제를 요청하는 시스템을 내년 구축할 계획이다. 법무부는 딥페이크 음성·영상 위변조 분석장비 도입을 위한 예산을 증액하기로 했다.
특히 경찰은 딥페이크(허위영상물) 성범죄와 관련해 전담수사 인력을 확충하는 방안을 검토하겠다고 밝혔다.
그렇다면 경찰청을 비롯한 관공서가 채택하는 딥페이크 방지 솔루션 상용화에 성공한 기업은 어디일까. 해당 주인공은 AI디지털 휴먼 기업인 '딥브레인AI'다.
딥브레인AI의 딥페이크 탐지 솔루션은 이미지, 오디오, 동영상 등을 분석해 5~10분 내로 딥페이크 여부를 탐지한다. 딥브레인은 한국인 데이터 100만 개와 아시아계 인종 데이터 13만 개 등 총 520만 개 데이터를 학습시켰다.
무엇보다도 딥브레인AI는 국내에서 가장 많은 딥페이크 탐지 레퍼런스를 보유하고 있는 기업이다.
특히 올해 3월에는 경찰청과 협력해 딥페이크 범죄 단속을 돕는 딥페이크 탐지 솔루션을 선보였다.
해당 프로그램은 경찰청 등 수사기관에서 현재 활용되고 있다. 일반 딥페이크 탐지 모델이 서양인 위주 데이터로 구성된 점을 감안해 한국인 데이터 등을 포함하는 등 개선도 이뤄지고 있다.
딥브레인AI 관계자는 "피해 사진 유출 등을 우려해 경찰청에서 쓰는 프로그램은 좀 더 보안성이 강화된 버전"이라면서 "최근엔 관공서 등으로부터 프로그램 문의가 늘고 있다"고 답했다.
딥브레인은 경찰서뿐만 아니라 과학기술정보통신부가 추진하는 '딥페이크 변조 영상AI 데이터' 수행기업에 선정된 바 있으며 국내 여러 관공서와 협력하여 딥페이크 탐지 사업 및 연구를 활발히 진행하고 있다. 해당 기술력을 기반으로 윤석열 대통령과도 협업을 한 바 있다.
여기에 관공서 뿐 아니라 여러 기업과도 협력 중이다.
최근 딥페이크 음란물이 논란이 되자 딥브레인AI는 솔루션을 각급 학교와 관공서, B2B 기업 등에 1개월 무료로 지원하기로 했다.
모바일 영역으로의 사업 확장을 위해 모바일 솔루션 전문 기업인 인포뱅크와 AI 휴먼 영상 제작 업무협약을 체결해 영상 메시지 서비스 시장을 공략 중이다.
또한 SKT ‘AI 최경주 프로젝트’ 참여, KT와 호텔용 AI 컨시어지 서비스 개발, 프리드라이프와 AI 추모 서비스 출시 등 다양한 분야에서 AI 휴먼을 활용한 협업을 이어가고 있다. 최근에는 빅테크 기업 레노버와 공동 웨비나를 진행하고, 기술 협력 파트너십을 체결하는 등 글로벌 시장을 겨냥한 활발한 움직임도 보이고 있다.
kakim@fnnews.com 김경아 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지