하이퍼클로바X 한국어 답변, GPT-4보다 낫네

한국판 AI평가서 글로벌AI 제쳐

네이버클라우드는 초대규모 인공지능(AI) 하이퍼클로바X가 한국판 AI 성능 평가 체계 'KMMLU'에서 오픈AI, 구글의 생성형 AI보다 높은 점수를 기록했다.

27일 하이퍼클로바X에 따르면 KMMLU는 국내의 대표적인 오픈소스 언어모델 연구팀인 '해례(HAE-RAE)'가 이끈 AI 성능 평가 지표 구축 프로젝트다. 인문학, 사회학, 과학·기술 등 45개 분야에서 전문가 수준의 지식을 묻는 3만5030개 문항으로 구성돼 있다. 수학적 추론 능력과 같이 전 세계 공통적으로 적용 가능한 광범위한 지식을 묻는 문항 비중이 약 80%, 한반도 지리, 국내법 등 한국 특화 문제 해결 능력을 평가하기 위한 문항은 20%를 차지한다.

또 오픈AI, 구글 등 북미 테크 기업들이 자사 AI 성능을 확인하기 위해 주로 사용하는 지표인 'MMLU'는 한국어로 번역하는 경우, 문항의 부정확한 번역과 여러 문제에 내재된 영어권 국가만의 문화적 맥락 때문에 AI 모델의 한국어 능력을 제대로 가늠하기 어려운 한계가 있었다. 네이버클라우드 측은 "KMMLU는 한국어 원본의 시험 문제들로 구성되어, 국내·외 AI의 한국어 이해 역량도 보다 정확하게 평가할 수 있다"고 설명했다.

하이퍼클로바X는 오픈AI의 GPT-3.5-터보와 구글의 제미나이 프로(Gemini-Pro)보다 높은 점수를 기록했다.

한국 특화 지식 기준으로는 오픈AI의 GPT-4보다도 높은 점수를 기록해, 교육, 법률 등 로컬 정보의 중요성이 큰 산업 분야에서는 하이퍼클로바X가 가장 유용할 수 있음을 보였다.

네이버클라우드는 KMMLU를 통해 입증된 하이퍼클로바X의 성능 경쟁력을 바탕으로, 하이퍼클로바X를 보안과 성능을 모두 갖춘 '소버린 AI' 솔루션으로 발전시켜나가겠다는 계획이다. 지난해 10월에 고객사가 폐쇄된 사내망에서 하이퍼클로바X를 사용하며 데이터 유출을 방지할 수 있는 하이브리드 클라우드 서비스 '뉴로클라우드 포 하이퍼클로바X'를 출시했고, 향후 다양한 기업용 솔루션도 선보일 계획이다.

임수빈 기자

※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지