‘이루다 2.0’ 클로즈 베타 테스트 진행
올 1월 서비스 잠정 중단 이후 AI 윤리 점검
스캐터랩 AI 챗봇 윤리 준칙..개인정보보호 강화
베타 결과에 따라 내년 공식 출시 일정확정 예정
내년 공식 출시에 앞서 서비스 전반에 걸쳐 AI 윤리를 점검하고 서비스를 고도화하면서 실제 사용자 의견을 받기 위한 사전 조치다.
‘이루다’는 누구에게나 친구가 되는 AI를 목표로 스캐터랩이 개발한 일상 대화형 챗봇(open-domain chatbot)이다.
앞서 스캐터랩은 지난해 12월 이루다를 출시했다. 하지만 일부 발언이 도마에 오르면서 올 1월 서비스를 잠정 중단했다. 이후 스캐터랩 AI 챗봇 윤리 준칙을 제정하고 신뢰할 수 있는 AI 모델 개발에 역량을 집중해왔다.
스캐터랩은 AI 기술 및 제품 개발 전반에 걸쳐 가이드라인이 될 수 있는 총 5가지 AI 챗봇 윤리 준칙을 수립했다. 스캐터랩 AI 챗봇 윤리준칙은 외부 사례 및 스캐터랩 경험을 바탕으로 정리되었으며, AI 개발에 참여하는 기획자, 리서처, 엔지니어 등 전체 팀의 의견 수렴 및 동의 과정을 거쳤다.
우선 사람은 자신에 대해 깊이 이해하고 성장할 수 있는 사람과의 ‘관계’를 통해 삶의 행복을 느끼기에, 모든 사람에게 소중한 관계를 선물할 수 있도록 ‘사람을 위한 AI 개발’을 하겠다는 것이 대원칙이다. 이와 함께 △다양한 삶의 가치존중 △함께 실현하는 AI 챗봇 윤리 △합리적 설명을 통한 신뢰 관계 유지 △프라이버시 보호와 정보 보안 발전에 기여 등 준칙을 담았다.
스캐터랩은 AI 챗봇 윤리를 기반으로 서비스도 고도화했다. 클로즈 베타 테스트가 진행되는 이루다 2.0은 엄격히 가명 처리한 데이터베이스(DB)로 학습 과정을 거쳤으며, 개인정보보호를 강화할 수 있도록 AI 딥러닝 알고리즘이 생성한 문장으로 답변할 수 있도록 했다. 또 대화 시 특정 단어뿐 아니라 문맥을 탐지해 선정적, 공격적, 편향적 문장에 대응할 수 있도록 ‘어뷰징 탐지 모델’을 접목한 것도 특징이다.
이번 클로즈 베타 테스트는 스캐터랩 내부 알파 테스트 및 외부 전문가 테스트 이후 진행되는 일반인 사용자 대상 의견수렴 및 개선 과정이다. 오는 1월 4일까지 이루다 페이스북 페이지를 통해 신청을 받아 약 3000명을 선정할 예정이다.
베타 테스터로 선정된 사용자는 내년 1월 11일부터 약 3주간 이루다2.0과 자유롭게 대화하며 AI 챗봇이 대화 문맥을 이해하고 적절하게 답변하는지와 선정적, 공격적, 편향적 단어나 문맥을 탐지해 대응하는지 등을 검토하게 된다.
단 베타 테스터로 선정된 사용자들은 이루다 2.0과 대화 경험을 외부에 공개하지 않는 것을 원칙으로 하며, 스캐터랩에 대화 경험에 대한 의견을 제출하는 방식이다. 클로즈 베타 테스트 신청 관련 자세한 내용은 이루다 페이스북 페이지에서 확인할 수 있다.
스캐터랩 측은 "클로즈 베타 테스트를 통해 AI 챗봇과 대화 경험을 사용자 눈높이에서 바라보고자 한다"며 "사용자의 의견 및 개선 사항 등을 점검한 후 2022년 이루다2.0 공식 출시 일정을 결정할 예정"이라고 전했다.
elikim@fnnews.com 김미희 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지