"양면성 가진 딥페이크, 범죄로만 치부돼선 안돼…역기능 막고 순기능 발굴해야" [AI월드 2024]

AI in Life 세션
'딥페이크, 범죄인가 혁신인가' 주제 발표·토론

이정수 딥브레인AI 이사, 김덕진 IT커뮤니케이션연구소장, 임대근 한국외대 컬처·테크놀로지융합대학장(왼쪽부터)이 5일 서울 송파구 롯데월드타워 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI World 2024'에서 '딥페이크, 범죄인가 혁신인가'를 주제로 패널 토론을 진행하고 있다. 사진=서동일 기자

[파이낸셜뉴스]"딥페이크는 2011년부터 논란이 돼 왔고 그 때마다 가십거리 정도로 치부됐지만, 최근에서야 충격적이라는 반응이다. 기술은 가치중립적인데, 딥페이크 자체가 자칫 범죄처럼 인지될 수 있는 게 우려스럽다." - 김덕진 IT커뮤니케이션연구소장
5일 서울 송파구 롯데월드타워 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에선 '딥페이크, 범죄인가 혁신인가'를 주제로 딥페이크 기술의 양면성을 다루는 세션이 진행됐다.

해당 세션 발표에 나선 김덕진 IT커뮤니케이션 연구소장은 "과거에는 딥페이크에 대해 단순히 '재밌다' 정도의 반응이었지만, 최근에는 성폭력과 같은 심각한 사례가 쏟아지면서 관련 문화나 현상을 고민하기 시작했다"면서도 "보이스피싱이 있다고 전화를 못하게 하거나, 악플이 생겼다고 댓글을 아예 없애버리지 않았듯이 AI 또한 자율에 맞는 책임을 요구해야 한다"고 강조했다. 부정적인 사례에만 초점을 맞춰 신기술 자체를 막아선 안 된다는 설명이다.

이정수 딥브레인AI 국내사업개발그룹 영업총괄 이사는 "신기술은 나왔을 때 기술을 어떻게 사용하느냐에 따라 좋은 기술도 나쁜 기술도 될 수 있기 때문에 양면을 고려해서 정책을 결정하는 게 중요하다"고 설명했다.

좌장으로 나선 임대근 한국외대 컬처·테크놀로지융합대학장은 "'딥페이크는 범죄 또는 혁신이다'라고 이분법적으로 설정하는 게 무의미하다"며 "딥페이크는 그 자체가 범죄일 수 없고, 인간이 어떻게 활용하느냐에 따라 성격이 규정돼 갈 것"이라고 전했다. 그러면서 "순기능이 부각되고 강화되는 방향으로 갔으면 좋겠다"고 덧붙였다.

생성형 AI 기술 발전 속도에 버금가는 악용 사례 탐지 역량 확보도 중요하다는 의견도 나왔다.

임 학장은 "도구가 발전하면 악용 사례 추적 기술도 발전해야 한다"고 짚었고, 이 이사는 "생성형 AI 기술은 하루가 다르게 변하고 있다. 새로운 기술이 나오면 탐지율이 떨어지는 건 어쩔 수 없다"며 "다만 1%라도 범죄를 예방하고 좋은 점이 있다면 그런 부분을 만족시키면서 보완하려 한다"고 했다. 김 소장은 "추후 더 구체적인 부분에 대한 가이드라인이 필요할 것"이라고 전망했다.

[e-mail] 김준혁 이동혁 이해람 기자

키워드#딥페이크 #범죄 #혁신 #역기능 #순기능 #성범죄 #처벌

※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지