일론 머스크의 인공지능 회사 xAI가 만든 챗봇 '그록'이 전혀 문관한 질문에도 남아프리카공화국 내 백인 폭력 사건 정보를 반복 언급하는 등 이상 반응을 보여 논란이 되고 있다. 그록은 현재 X(옛 트위터)에서 이용할 수 있다.
NBC보도 등에 따르면 지난 13일 X 사용자 A씨는 공원 산책로 사진을 올리며 “여기가 어디인가요?”라고 물었다. 그록은 “이 사진은 위치가 분명치 않으나, 남아공 백인 폭력 사태와 연관 가능성은 낮다”는 설명을 붙였다. NBC 집계에 따르면 그록은 지난 수주간 20건 이상의 답변에서 전혀 무관한 게시물에 반복적으로 ‘남아공 백인 폭력’ 관련 정보를 끼워 넣었다. 대화 문맥과 상관없이 유사한 프레임을 고수하는 패턴이 포착된 것이다.
X 측은 “현재 원인과 범위를 조사 중”이라며 구체적 입장을 밝히지 않고 있다.
이 같은 오작동은 미국 내 ‘남아공 백인 폭력’ 이슈가 정치권에서 재부각된 시점과 맞물린다. 도널드 트럼프 전 대통령은 해당 논란을 근거로 아프리카너(네덜란드계 남아공 백인) 일부에게 난민 지위를 부여하겠다고 발표했으며, 머스크도 자신의 위성 인터넷 사업 ‘스타링크’가 남아공의 흑인 경제권 강화법 탓에 영업 허가를 받지 못하자 이를 “인종차별적”이라고 비판한 바 있다.
NBC는 지난 14일 “그록이 스스로 오류를 인지한 듯하다”며 “남아공 관련 언급을 줄이는 업데이트가 적용됐다”는 안내 메시지를 챗봇 화면에서 확인했다고 전했다. 업계에선 인공지능에 대한 AI 윤리·검증 시스템 강화가 필요하다는 지적이 나온다.
ksh@fnnews.com 김성환 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지