딥페이크 범죄 사전 예방 목표
[파이낸셜뉴스] 경찰이 인공지능(AI)으로 생성된 딥페이크(허위 영상물) 콘텐츠인지 자체적으로 확인할 수 있는 시스템을 개발한다.
경찰청은 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 26일 개최했다.
이번 연구는 국내 경찰과 독일 노르트라베스트팔렌 내무부 범죄수사국과 진행된 첫 국제공동연구다.
경찰은 이번 연구를 통해 급증하는 딥페이크 콘텐츠의 진위를 자체 판별하는 시스템을 구축할 예정이다. 이를 통해 최근 목사방을 비롯해 빈번하게 발생하는 딥페이크 범죄를 사전에 예방한다는 목표다.
경찰은 오는 2027년까지 3년간 판별을 위한 데이터셋 구축과 통합시스템을 개발한다. 경찰은 올해 딥페이크를 비롯한 딥보이스, 가짜뉴스 등을 찾아내는 데이터셋을 구축하고 탐지모델을 고도화한다. 내년에는 머신러닝 모델 개발부터 배포와 운영 과정을 자동화하는 관리 시스템 기반의 성능 고도화를 진행할 예정이다.
최주원 경찰청 미래치안정책국장은 "이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다"고 전했다.
theknight@fnnews.com 정경수 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지