[파이낸셜뉴스] 네이버가 대형 참사와 이로 인한 인명 사고 기사에 달린 악플 감지를 강화에 나선다.
24일 네이버는 오는 1분기 중 악플이 증가하는 기사를 감지하는 ‘클린봇 옵저버’ 베타 서비스에 대형 참사를 포함한 인명사고 보도의 악플 감지, 알림 기능을 고도화한다고 밝혔다.
2019년 업계 최초로 선보인 인공지능(AI) 기반의 악성 댓글 탐지 ‘클린봇’은 문장 맥락을 파악해 욕설, 저속한 표현뿐 아니라 선정적, 폭력적, 차별적 표현을 스스로 탐지해 걸러내는 기술이다.
지난해 7월에는 댓글 작성 시도 수, 악플 비율을 계산해 감지 대상 기사를 자동으로 선별하고 언론사에 알리는 ‘클린봇 옵저버’ 베타 서비스를 운영하고 있다.
이를 통해 언론사들은 이전보다 더 빠르게 댓글제공 중단 필요성을 확인하고 즉각 중단을 결정할 수 있다는게 네이버측의 설명이다.
앞서 지난해 말 발생한 제주항공 참사 보도시 약 30개 언론사가 댓글 제공 중단 기능을 이용했다.
여기에 더해 네이버는 인명 사고와 관련한 2차 피해를 막기 위해 인명사고 기사 탐지 기술을 통해 클린봇 옵저버를 고도화할 방침이다.
또한 네이버는 언론 협회·단체와 인명사고 보도 시 악플 예방 문구를 삽입하도록 협의, 현재 자살 기사 본문에 포함하는 자살예방 정보 문구와 유사한 방식의 문구를 삽입하는 것을 협의할 예정이다.
향후 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토 중이다.
댓글 내 공감, 비공감이 빠르게 올라가는 기사의 경우 언론사에 알림을 보내 댓글 정렬 방식을 최신순, 답글순, 과거순 등으로 바꾸도록 유도하는 식이다.
악플 예방 문구를 기사에 삽입하면 자동으로 대형참사, 인명사고 기사로 분류해 해당 기사 댓글이 자동으로 닫히는 방안도 논의 중인 것으로 알려졌다.
네이버 관계자는 “뉴스 댓글 본래의 순기능이 강화될 수 있도록, 다양한 운영적, 기술적 보완책을 고민하며 고도화하고 있다”며 “앞으로도 대형 참사를 포함한 인명 사고 기사에서 악플 근절을 위해 기술적, 정책적 노력을 지속해 나가겠다”고 밝혔다.
wongood@fnnews.com 주원규 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지