생성형 AI 모델 성능 평가 '빅젠 벤치' 개발
세부 항목 자동 평가하는 후속 연구도 진행
최고논문상은 자연어 처리 분야에서 새로운 연구 방향을 제시하거나 중요한 문제를 해결한 연구 중 올해 가장 혁신적이고 중요성이 높다고 평가를 받은 연구가 선정된다.
논문 1 저자인 김승원 카네기멜론대 박사과정 연구생은 LG AI연구원 초지능랩의 인턴 과정 중 이문태 초지능랩장, 이경재 데이터 스쿼드리더, 서민준 KAIST 교수 연구팀과 함께 생성형 AI 모델 성능을 평가하는 ‘빅젠 벤치’를 개발했다. LG AI연구원과 서민준 KAIST 교수 연구팀이 주도한 이번 연구에는 연세대, 코넬대, 일리노이대, MIT, 워싱턴대 등 여러 대학의 연구진이 함께 참여했다.
빅젠 벤치는 지시사항 수행, 논리적 추론, 도구 사용 능력, 안전성, 다양한 언어와 문화적 맥락 이해 능력 등 생성형 AI 모델이 갖춰야 할 핵심 역량을 9가지로 분류하고 77개의 세부 역할을 잘 수행하는지 평가하는 765개 항목으로 구성됐다.
실제 사람의 평가와 유사한 결과를 도출하기 위해 생성형 AI 모델을 사용하고 평가할 때 주변의 다양한 상황과 주관적 요소를 고려하는 사람의 평가 방식을 모방한 것이라고 LG는 설명했다.
LG AI연구원은 빅젠 벤치를 사용해 103개의 생성형 AI 모델들을 평가한 결과 전문가 집단과의 교차 검증에서 높은 수준의 신뢰도와 타당도를 보여 새로운 벤치마크로의 가능성을 확인했다.
이문태 LG AI연구원 초지능랩장은 “빅젠 벤치는 생성형 AI의 다양한 능력을 객관적이고 종합적으로 평가할 수 있도록 설계됐다"며 "기존 벤치마크들의 한계를 극복하고 인간의 정교한 평가기준에 부합하여 AI 모델의 능력을 파악할 수 있다는 장점이 있다”고 말했다.
LG AI연구원은 연구 과정에서 평가자 역할 AI 모델 5개 중 하나 프로메테우스-2도 오픈소스로 공개했다. 프로메테우스-2는 글로벌 상용 모델 중 최고 성능을 보이는 지피티(GPT)-4와 큰 차이 없이 평가자 역할을 한다고 알려졌다. LG AI연구원은 빅젠 벤치를 기반으로 생성형 AI 모델 개발 과정에서 세부 항목별 성능을 자동으로 평가하는 후속 연구도 진행 중이다.
LG AI연구원이 2020년 12월 출범 이후 NAACL을 비롯, AI의 각 분야별 글로벌 최상위 학회에서 발표한 논문은 234편이다.
LG AI연구원은 △불량 제품을 감지하는 비전 검사 △신물질 합성 및 물성 예측 △멀티모달 AI △차세대 배터리 개발 △의료용 이미지 분석 등 실제 산업에 적용할 수 있는 AI 기술 등 2022년부터 현재까지 국내 120건, 국제(PCT) 108건 등 총 228건의 특허를 출원했다. NAACL은 현지시간 29일부터 5월 4일까지 미국 뉴멕시코주 앨버커키에서 열린다.
kjh0109@fnnews.com 권준호 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지