美 평가 리더보드서 0.691점 획득
국내 사용자 특화 LLM 최고 수준
카카오의 자체 개발 AI 모델 '카나나'가 높은 수준의 성능을 보이며, 국산 AI 모델의 경쟁력과 가능성을 보여주고 있다.
25일 업계에 따르면 카카오가 최근 오픈소스로 공개한 '카나나-1.5-8b-instruct' 모델이 한국어 언어 모델(LLM)의 성능을 평가하기 위해 설계된 벤치마크 플랫폼 '호랑이(Horang-i) 리더보드'에서 8B 사이즈(매개변수 80억개) 이하의 모델 가운데 1위를 기록했다.
호랑이 리더보드는 미국 AI 개발자 플랫폼 웨이트앤바이어스(W&B)가 LLM의 한국어 성능 평가 결과의 랭킹을 공개하기 위해 운영하고 있는 평가 리더보드다.
언어 모델의 한국어 능력을 비교하고, 국내외 다양한 언어모델을 대상으로 한국어 범용 성능, 정렬성, 정보 탐색 능력 등을 종합 평가하는 리더보드로, 특히 한국어 환경에서의 실질적 유용성을 중점적으로 평가해 국내 사용자 환경에 특화된 LLM 경쟁력을 가늠하는 중요한 기준으로 평가된다.
'카나나-1.5-8b-instruct' 모델은 8B 이하의 모델 가운데 총점 0.691점을 기록하며 국내 모델 가운데 가장 높은 순위를 차지했다. 호랑이 리더보드가 공개하는 15B 미만의 모델 중에서는 1위를 기록한 'Qwen2.5-14B'와 0.04점의 근소한 차이로 종합 순위 4위 기록했다.
이는 모델의 아키텍처(구조), 데이터셋, 학습 프로세스 등을 모두 처음부터 구축하는 'From scratch(프롬 스크래치)' 방식을 통해 설계 및 개발된 국내 LLM 중 가장 높은 순위에 해당된다.
독자적인 기술력을 바탕으로 개발한 카나나 모델이 높은 성능을 확보했다는 점도 주목할 만 하다. 글로벌 AI 기술 경쟁의 심화와 AI 대전환의 흐름속에 AI 기술 주권의 확보가 중요한 화두로 자리 잡아가며, 최근 챗GPT나 제미나이 등과 같은 독자적인 K-AI 모델을 개발해 전 국민이 사용할 수 있도록 하는 프로젝트가 본격화되고 있다. 조윤주 기자
이 시간 핫클릭
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지