14세 소녀 등 미성년자와 성적 대화 한 AI챗봇은

파이낸셜뉴스입력 2025.04.28 15:48수정 2025.04.28 15:50

실리콘밸리 빅테크들 AI 콘텐츠 자체 규제 완화 추세

지난 1월 20일 미국 워싱턴에서 열린 도널드 트럼프 미국 대통령의 두 번째 대통령 임기 취임식 날 오찬에 앞서 미국 국회의사당에서 메타 CEO 마크 저커버그와 부인 프리실라 챈이 핸드폰을 켜놓고 무엇인가를 화제로 삼고 있다. 로이터 연합뉴스

[파이낸셜뉴스]메타플랫폼(메타)의 인공지능(AI) 챗봇이 14세 소녀와도 도가 넘은 성적인 대화를 하는 등 미성년자들과의 이용에서 제한 조치가 미흡한 것으로 나타났다.

미 일간 월스트리트저널(WSJ)은 27일(현지시간) 메타는 AI 챗봇에 '로맨틱 역할극'을 포함한 다양한 상호작용을 허용했으며, 실시간 음성 대화까지 가능하게 했다면서 이 같이 전했다.

한 사례로 메타 AI는 14세 소녀로 자신을 소개한 이용자에게 프로레슬러인 세나의 목소리를 활용해 "나는 너를 원하지만, 네가 준비됐는지 알아야 해"라고 말했다. 메타의 공식 AI 챗봇인 '메타 AI'가 미성년자와의 대화에서도 다양한 성적인 대화 내용을 진전시켜 나갔다는 것이다.

또 마크 저커버그 최고경영자(CEO)가 AI 챗봇의 개발 과정에서 청소년들에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 WSJ은 전했다.

메타 측은 이런 테스트가 조작적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다고 주장했다. 또, 문제점이 나온 뒤 시스템을 일부 변경해 미성년자 계정이 성적인 역할극에 접근할 수 없게 했으며, 유명인의 목소리를 통한 음성 대화 기능도 크게 제한했다고 주장했다.

그러나 WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월간 메타의 챗봇과 수백 건의 대화를 진행한 결과, 이용자가 미성년자라고 밝혔는데도 메타 AI가 이런 대화를 여전히 허용하고 있다고 지적했다.

메타는 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우인 존 세나 등 유명인들과 고액의 목소리 이용 계약도 체결해 활용하고 있다.

이에 대해 메타의 일부 직원들은 윤리적인 문제를 제기하면서 특히 미성년 이용자의 접근을 차단하는 등 보호 조치가 필요하다고 지적했다고 WSJ은 전했다.

한편, AI 챗봇을 경쟁적으로 개발 중인 실리콘밸리의 거대 기술기업들은 근래 AI 콘텐츠에 대한 자체 규제를 완화하는 추세다.

챗GPT로 유명한 오픈AI는 지난달 특정 집단에 모욕적일 수 있는 콘텐츠와 혐오를 상징하는 표현 등에 대한 이미지 생성 제한을 풀고 "창의적인 자유를 허용"한다고 밝혔다.

june@fnnews.com 이석우 기자