[파이낸셜뉴스] 한컴그룹 계열사 한컴위드는 숭실대학교를 주관기관으로, 연세대학교, 성균관대학교와 함께 경찰청의 ‘허위조작 콘텐츠 진위 판별 시스템 개발’ 프로젝트에 국내 연구기관으로 참여한다고 5일 밝혔다. 이번 사업은 2027년까지 앞으로 3년간 허위조작 콘텐츠 탐지를 위한 데이터세트 구축 및 통합 탐지 시스템을 개발하는 것이 주요 골자다. 해당 시스템은 허위 정보를 식별해 사이버 범죄를 예방하고 사회적 혼란을 줄이는 것이 목표다. 초기 단계인 올해는 탐지를 위한 데이터세트 구축과 탐지 모델의 고도화에 집중하며, 내년부터는 머신러닝 기반 자동화 관리 시스템(MLOps)을 적용한 통합 탐지 시스템의 성능 향상과 실증 테스트를 본격적으로 추진할 예정이다. 핵심 기술 연구는 숭실대를 중심으로 성균관대, 연세대, 독일 부퍼탈대, 한컴위드가 함께 수행한다. 숭실대는 딥페이크 음성 탐지 모델을, 성균관대는 딥페이크 영상 및 가짜뉴스 탐지 모델을, 연세대는 표준화된 데이터세트 구축을 각각 담당한다. 부퍼탈대는 다국어 데이터세트 수집과 글로벌 협력 연구를 맡으며, 한컴위드는 다양한 탐지 기술을 통합한 MLOps 기반 시스템의 개발과 실증을 진행한다. 통합 탐지 시스템은 딥페이크 범죄 수사, 비대면 인증 및 심사 과정에서의 진위 판별, 가짜뉴스 유통 추적 등 다양한 분야에 적용될 수 있다. 이를 통해 국가 및 공공기관은 물론 민간 산업 전반의 허위조작 콘텐츠 대응 역량이 크게 강화될 것이라는 기대다. 특히 이번 프로젝트는 경찰청이 주관한 최초의 국제 공동연구 사례로, 독일 기관과 공동으로 연구·개발한다. 딥페이크 탐지 시스템은 언어 차이나 인종의 외형 특성에 따라 성능이 크게 달라질 수 있어 단일 국가나 특정 기관의 탐지 기술만으로는 한계가 있다. 이에 신뢰할 수 있는 탐지 시스템을 구축하려면 다각도의 협력과 기술 공유가 필수적이다. 한컴위드 송상엽 대표는 “인공지능(AI) 기술 발전으로 딥페이크 및 딥보이스 기반의 사이버 범죄가 급증하고 있다”며 “각 기관의 전문성을 바탕으로 고객 요구에 최적화된 맞춤형 설루션을 개발하고, 상용화에 성공하겠다”고 밝혔다.  jiany@fnnews.com 연지안 기자

[파이낸셜뉴스] 경찰이 인공지능(AI)으로 생성된 딥페이크(허위 영상물) 콘텐츠인지 자체적으로 확인할 수 있는 시스템을 개발한다. 경찰청은 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 26일 개최했다. 이번 연구는 국내 경찰과 독일 노르트라베스트팔렌 내무부 범죄수사국과 진행된 첫 국제공동연구다. 경찰은 이번 연구를 통해 급증하는 딥페이크 콘텐츠의 진위를 자체 판별하는 시스템을 구축할 예정이다. 이를 통해 최근 목사방을 비롯해 빈번하게 발생하는 딥페이크 범죄를 사전에 예방한다는 목표다. 경찰은 오는 2027년까지 3년간 판별을 위한 데이터셋 구축과 통합시스템을 개발한다. 경찰은 올해 딥페이크를 비롯한 딥보이스, 가짜뉴스 등을 찾아내는 데이터셋을 구축하고 탐지모델을 고도화한다. 내년에는 머신러닝 모델 개발부터 배포와 운영 과정을 자동화하는 관리 시스템 기반의 성능 고도화를 진행할 예정이다. 최주원 경찰청 미래치안정책국장은 "이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다"고 전했다. theknight@fnnews.com 정경수 기자