【파이낸셜뉴스 나주=황태종 기자】발·송전설비 정비 전문 회사인 한전KPS가 인공지능(AI) 거대언어모델(LLM.Large language model)을 새로운 감사 기법으로 도입하는 등 감사업무 혁신에 박차를 가하고 있다. 8일 한전KPS에 따르면 지난 5일 본사 회의실에서 ICT, 감사 관련 부서 담당자들로 구성된 차세대 AI감사 추진반 킥오프 미팅을 갖고 본격적인 활동에 돌입했다. 추진반은 디지털 플랫폼 정부 시대를 맞아 선진화된 지능형 감사를 구현하고자 OpenAI의 'ChatGPT'와 메타의 'LLaMa' 등으로 대표되는 거대언어모델의 감사업무 도입을 추진한다. 이날 킥오프 회의에서는 현재 운용하고 있는 감사업무 단순 안내 챗봇 수준을 뛰어넘어 인공신경망(Neural Network)을 통해 패턴을 학습하고 새로운 결과를 생성하는 거대언어모델(LLM)을 감사 기법에 접목하기 위한 잠재적 도전 과제와 구체적 해결 방안을 논의했다. 특히 AI를 활용할 경우 감사 과정에서 발생할 수 있는 데이터 보안 문제나 기술적인 이슈 등에 대한 심도 있는 토론이 오갔다. 추진반장인 이정주 감사실장은 "차세대 AI 기술이 감사업무에 가져올 혁신적인 변화에 기대가 높다"면서 "앞으로 공공 감사 분야에 범용할 수 있는 윤리적 AI 성숙도 모델(Ethical AI maturity model)을 제시하도록 적극적으로 지원하겠다"라고 말했다. 앞서 한전KPS는 그동안 AI를 적극적으로 활용해 감사업무의 효율성을 높여왔다. 우선 지난해 9월 완료한 'e-감사시스템' 고도화 사업을 통해 비정형화된 감사자료를 데이터베이스화하고 사내 계약, 회계 등 데이터와 국가법령정보센터 법률정보를 'RPA(Robotic Process Automation)'로 연결하는 등 빅데이터 체계를 구축하고 업무 전반을 디지털로 전환 운영하고 있다. 또 공기업 최초로 구축한 비대면 감사시스템인 '랜線 Audit'에 이어 차세대 AI 감사 시스템 구축 3단계 사업을 추진하고 있다. 1단계 사업에서 △광학적 문자인식(Optical character recognition)을 통한 개인정보 비식별화 변환 프로그램 △데이터 기반 감사시스템을 활용한 보고서 양식 자동 생성 △AI기반 특이사항 감지를 통한 상시 모니터링 △자연언어모델(Natural language Processing)을 이용한 과거 징계양정 및 법률정보를 추천하는 '유사 사례 추천' 검색 시스템 등을 도입했다. 한전KPS는 향후 AI 감사 시스템 구축을 위한 단계적 사업 추진을 통해 감사업무 혁신에 박차를 가할 예정이다. 이성규 상임감사는 "초거대 AI 시대로 전환하는 흐름에 맞춰 감사 분야에서도 공공 및 민간 분야가 서로 힘을 합치는 줄탁동시(崒啄同時)가 필요하다"면서 "선진화된 기술을 수용하고 내부적 역량을 동원해 차세대 AI 감사 추진반을 적극 지원하겠다"라고 말했다. hwangtae@fnnews.com 황태종 기자
2024-07-08 12:36:08자체 거대언어모델(LLM) 개발에 집중하던 인공지능(AI) 개발사들이 전략을 바꾸고 있다. 매개변수(파라미터)가 훨씬 적은 소형 거대언어모델(sLLM) 출시하고 AI 기반의 실제 서비스를 출시하는 데 집중하고 있다. 국내 주요 플랫폼사들도 이 같은 흐름에 맞춰 경량화 LLM을 내놓는가 하면, 비용 문제를 해결하기 위해 글로벌 빅테크와 손잡고 생태계를 확장하는 데 힘쓰고 있다. ■산업별 특화모델에 적합28일 업계에 따르면 주요 AI 모델 개발사들은 sLLM을 잇따라 선보이고 있다. 마이크로소프트(MS)는 소형언어모델 '파이-3 미니'를 출시한다. 파이-3 미니의 파라미터는 38억(3.8B)개로, 향후 출시될 매개변수 '파이-3 스몰(7B)'이나 '파이-3 미디엄(14B)'보다도 규모가 작다. 구글도 지난 2월 간단한 챗봇이나 언어 관련 작업에 유용한 파라미터 젬마 2B와 7B를 출시했다. 메타는 라마3를 출시하면서 파라미터 70B 모델과 함께 챗봇과 코딩 지원에 사용되는 소형 모델(8B)도 선보인 바 있다. 파라미터는 AI 모델이 얼마나 많은 복잡한 명령어를 이해할 수 있는 지를 나타낸다. 통상 파라미터가 1000억개 이하인 모델이 sLLM로 분류된다. 파라미터 개수가 많을수록 성능이 좋다고 평가받지만, 최근 기술 발달로 sLLM도 LLM 못지 않은 성능을 내며 비용도 절약할 수 있다는 점에서 많은 기업들이 주목하고 있다. 산업 특화 모델을 만들기도 적합하고 연산 작업이 적어 스마트폰과 같은 개인용 기기에서도 작동해 수요가 많을 것으로 전망된다. 업계 관계자는 "범용인공지능(AGI)를 목표로 하는 게 아니라면 sLLM에 주목할 수밖에 없다. LLM을 구축하고 구동하려면 비용이 너무 많이 들기 때문"이라며 "AI B2B(기업간거래) 시장에서는 특히 '최소 비용, 최고 성능'을 내는 게 중요하기 때문에 경량화 모델 출시가 많아질 것"이라고 설명했다. ■비용 부담에 sLLM 출시국내 기업들도 sLLM를 개발해 왔다. AI 스타트업인 업스테이지는 자체 sLLM '솔라 미니'를 아마존웹서비스(AWS)를 통해 출시한 바 있다. 솔트룩스는 AI 파운데이션 모델 '루시아GPT'를 발표했는데, 루시아GPT의 파라미터 수는 70억~500억 개까지 다양하다. 네이버는 LLM 개발에 주력하되, 비용 절감을 위해 쓰임에 따라 다양한 모델을 출시하고 있다. AI 개발 도구 '클로바 스튜디오'에 자체 초거대 AI 모델인 '하이퍼클로바X'의 경량화 버전 격인 '대시(HCX-DASH)'를 선보였다. HCX-DASH는 문장 생성이나 요약과 같은 비교적 단순한 업무부터 보고서를 작성하거나 맞춤형 챗봇을 구현하는 데 적합한 모델이다. 특히 고객사는 클로바 스튜디오에서 기존 대비 5분의 1 가격으로 신규 모델을 이용할 수 있다. 향후 네이버는 더 복잡한 작업에 맞는 모델도 출시, 하이퍼클로바X 라인업을 구축할 예정이다. 아울러 인텔의 AI 가속기 칩인 '가우디'를 기반으로 AI칩 소프트웨어 생태계를 다양화하고 있다. LLM 모델 운영 시 엔비디아 그래픽처리장치(GPU) 비용에 대한 부담도 커지는 만큼 다양한 대안을 찾기 위해서다. 네이버는 삼성전자와도 AI 추론 칩 '마하1'을 개발 중이다. soup@fnnews.com 임수빈 기자
2024-04-28 18:30:34SK텔레콤이 독일의 글로벌 통신사인 도이치텔레콤과 손잡고 전 세계 통신사들이 쉽고 빠르게 생성형 인공지능(AI) 모델을 개발할 수 있는 '통신사향 AI 거대언어모델(LLM)' 공동 개발에 나선다. 양사는 이 AI LLM을 내년 1·4분기 안에 공개할 예정이다. 22일 SKT에 따르면 양사는 지난 20일 서울 종로구 SK서린빌딩에서 이같은 내용의 협약을 체결했다. SKT 유영상 사장과 정석근 글로벌·AI 테크 사업부장, 도이치텔레콤의 팀 회트게스 회장과 클라우디아 네맛 수석 부회장 등 주요 임원진이 협약식에 참석해 공동개발의향서(LOI)에 서명하고 통신사향 글로벌 생성형 AI 사업에 적극 협력키로 했다. 이번 협약식은 지난 7월 서울 워커힐에서 도이치텔레콤을 비롯 e&, 싱텔 등 글로벌 최대 통신사들이 한 자리에 모여 양해각서(MOU)를 체결한 '글로벌 텔코 AI 얼라이언스'의 첫 번째 결과물이다. 통신사 동맹의 글로벌 AI 사업을 위한 실질적 발판을 마련했다는 점에서 의미가 크다고 SKT측은 설명했다. 양사는 앤트로픽, 메타 등 AI 업체들과 협업해 독일어, 영어, 한국어 등 통신사 특화 다국어 LLM을 공동 개발할 방침이다. 통신사향 LLM은 범용 LLM보다 통신 서비스 관련 영역에 대한 이해도가 높고 이용자 의도도 잘 이해할 수 있어 AI 콜센터와 같은 대 고객 서비스 등에 적합하다는 평가다. 이를 기반으로 유럽, 아시아, 중동 등 전세계 통신사들이 각국 환경에 맞춰 유연하게 AI 에이전트와 같은 생성형 AI 서비스를 개발할 수 있도록 지원한다는 것이 개발 취지다. 통신사들은 통신사 특화형 LLM으로 거대 플랫폼 개발 비용과 시간을 절감할 수 있으며, AI 혁신을 통해 전통적인 통신사업의 패러다임 전환과 함께 새로운 사업 기회와 성장 동력을 확보할 수 있다. 양사는 또 통신사들이 생성형 AI 서비스를 만드는데 활용할 수 있는 AI 플랫폼 기술도 공동 개발해 개발기간과 비용을 단축할 예정이다. 이번 협력을 통해 양사는 최근 생성형 AI를 중심으로 폭증하고 있는 이통사들의 AI 수요에 선제적으로 대응하는 한편, 특정 산업이나 도메인에 최적화 된 생성형 AI의 성공적 도입을 통해 글로벌 AI 생태계의 확장을 촉진할 것을 기대하고 있다. 한편 SKT가 지난 16~20일 스위스 제네바에서 열린 국제전기통신연합 전기통신표준화 부문(ITU-T) SG(Study Group, 연구반) 11에서 제안한 AI통합 패키지 'AI 풀스택의 구조와 연동 규격'이 ITU-T 국제 표준으로 최종 승인됐다. 이번에 승인된 표준은 2021년 12월 SKT가 ITU-T에 제출한 AI 통합 패키지(AI 풀스택)의 필수 기술 구성요소 및 구조와 연동 방식을 규격화한 것으로, SKT 주도로 진행된 AI 기반 연구결과가 이번에 ITU-T 국제 회원국의 회람을 거쳐 국제 표준으로 인정받게 된 것이다. solidkjy@fnnews.com 구자윤 기자
2023-10-22 18:05:30국내 최대 포털인 네이버를 비롯해 국내 기업들이 한국형 거대언어모델(LLM) 인공지능(AI)을 속속 공개하고 있는 가운데 전문가들은 '한국형 특화' 모델의 가능성을 보여줬다며 기대감을 나타냈다. 다만 기업간거래(B2B) 등을 통한 수익모델을 과제로 꼽았다. 파이낸셜뉴스는 국내 기업들이 잇따라 내놓고 있는 초거대 AI와 관련해 △국내 초거대 AI의 장점 △수익모델 △데이터 저작권 등 주요 의제에 대한 지상좌담회를 진행했다. 좌담회에는 김명주 서울여대 바른AI연구센터장(교수), 김주호 한국과학기술원(KAIST) 교수, 이성엽 고려대 기술법정책센터장(교수), 전창배 국제인공지능&윤리협회 이사장(가나다순)이 함께 했다. ―국내 기업들이 출시·개발 중인 초거대 AI의 강점은? ▲김명주=네이버 초거대 AI '하이퍼클로바X'를 직접 써보니 한국 사투리나 고려·삼국시대 기록과 같은 역사·문화 분야에 대한 결과를 잘 알려줘서 챗GPT보다 성능이 나았다. ▲김주호=네이버는 한국형 AI가 왜 필요한지 잘 보여줬다. LG는 계열사가 다양하고 배터리·화학·전자 등 전문영역들이 있어 계열사에서 쓸 수 있는 특화 AI로 포지션을 잘 잡았다. ▲이성엽='하이퍼클로바X'는 한국 특유의 문화나 한국어 관련해선 장점이 있다. 네이버의 학습대상 자체가 블로그나 카페 등 다른 외산 모델이 접근하기 어려운 데이터이기에 그렇다. ▲전창배=국내 기업 LLM은 한국어 데이터를 가장 많이 학습한 것이 장점으로, 질문을 한국어로 했을 때 결과가 바로 나오기에 사용자 만족도와 답변 품질이 더 높다. ―초거대 AI 수익모델, 아직 모호한데. ▲김명주=B2C(기업·소비자간 거래)보다 기업이나 산업군별 특화 서비스를 제공하는 것이 낫다. 기업 입장에선 AI 도입으로 인건비를 많이 줄일 수 있어야만 합리적이라고 느낄 것이다. ▲김주호=기업들이 AI 가능성은 인정하지만 돈을 내고 쓸 가치가 있는지, 믿을 만한 결과를 주는지 물음표가 있다. 원천적 기술이 필요하고 전문영역에서 기술 역량을 더 키워야 한다. ▲이성엽=B2C보다는 B2B(기업간거래)에서 기업들이 필요한 것을 제휴로 해서 모델화하는 건 가능할 거다. 애플 iOS, 구글 안드로이드처럼 수익을 공유하는 모델로 갈 수 있을 거다. ▲전창배=챗GPT처럼 개선된 AI 모델을 유료화할 수 있고 API를 제공해서 기업들이 활용할 수 있도록 하는 수익모델도 나오고 있다. 검색 엔진처럼 광고가 붙을 가능성도 있다. ―국내 기업들 입장에서 비용 절감이 관건인데. ▲김명주=AI 개발사 입장에서는 돈이나 엔지니어, 데이터가 필요해서 비용이 계속 들어갈 수밖에 없다. B2B 사업을 통해 수익을 내도 투자한 것 이상 수익이 나와야 하는데 쉽지 않다. ▲김주호=작은 회사들은 자체 모델 개발하기엔 역량과 자원이 부족하다. 소수의 직접 모델을 만드는 네이버, LG 등을 제외하면 대부분의 회사들이 이들의 서비스를 쓰는 고객이 될 것이다. ▲이성엽=도메인별로 각 기업에 특화된 AI 서비스를 별도로 구축하면 시스템통합(SI) 서비스 같은 형태가 된다. 이 경우 기업 내에서만 사용할 수 있어 보안 이슈는 물론 비용도 줄어든다. ▲전창배=빅테크 기업들이 개발·공개한 클라우드 형태의 API를 쓰면 비용을 절감할 수 있다. 특정 분야에 특화된 소형 LLM 운용 프로그램을 서비스해서 수익화하는 방식이 현실적이다. ―AI 학습을 위해 공짜로 활용하는 뉴스 등 콘텐츠에 사용료를 내야 한다는 주장이 있는데. ▲김명주=뉴스가 AI 학습대상이 되고 있는데 저작권이 있는 데이터로 여겨야 한다. 문제는 건건마다 저작권을 행사하면 기술 발전이 더딜 수 있어 1년 단위로 보상체계를 만들어야 한다. ▲김주호=관련 사안들이 쟁점이 되기 시작하는 시기다. 저작권 콘텐츠를 무분별하게 긁어서 학습 데이터로 쓰는 건 문제가 있다. 다양한 논의를 통해 기준이 만들어져야 하는 상황이다. ▲이성엽=뉴스 콘텐츠에 저작권이 있는 만큼 당사자 간 합의를 통해 적절한 대가를 지불하는 게 맞다. 다만 국가 차원 가이드라인을 정하면 AI 스타트업들은 비용 문제로 사업을 못 한다. ▲전창배=관련 법이 조만간 만들어져 생성형 AI 기업들이 뉴스 등 저작권 데이터를 돈 주고 사야 하는 때가 올 거다. 콘텐츠 기업들이 정당한 대가를 받는 사회가 될 것으로 예상한다. solidkjy@fnnews.com 구자윤 김준혁 임수빈 기자
2023-08-31 18:15:24SK텔레콤이 미국 생성형 인공지능(AI) 기업 '앤트로픽'에 1억달러(약 1300억원) 투자를 통해 글로벌 AI 주도권 확보에 나선다. 13일 SKT에 따르면 지난 5월 앤트로픽에 대한 시리즈C 투자에 이어 이번에 1억달러를 투자하고 AI 사업 협력 강화를 위한 파트너십을 체결했다. 양사는 향후 글로벌 텔코향 다국어 거대언어모델(LLM) 공동 개발 및 AI 플랫폼 구축 등에 힘을 모을 계획이다. 지난달 출범한 '글로벌 텔코 AI 얼라이언스'와 더불어 이번 협력은 SKT가 추진하는 글로벌 AI 경쟁력 강화에 힘을 더할 전망이다. SKT는 전략적 투자자로서 이번 투자를 통해 양사간 강력한 파트너십을 구축함과 동시에 이를 기반으로 SKT-앤트로픽-글로벌 텔코 AI 얼라이언스간 지속 가능한 사업 시너지를 기대하고 있다. SKT와 앤트로픽은 거대언어모델(LLM) 공동 개발 및 AI 플랫폼 구축 등에 있어 사업 협력을 도모한다. 양사는 한국어, 영어, 독일어, 일본어, 아랍어, 스페인어 등을 포함한 글로벌 통신사향 다국어 LLM 을 함께 개발할 계획이다. SKT는 이미 자체 개발·보유한 LLM 성능을 더욱 강화하는 한편 앤트로픽과 함께 새로운 다국어 LLM 모델을 확장함으로써 시너지를 발휘하겠다는 구상이다. 특히 앤트로픽은 기본적인 LLM을 목적에 따라 미세 조정하고 최적화하는 툴을 SKT에 공급할 예정이다. 이를 위해 GPT-3 개발자이자 앤트로픽 공동 창업자인 재러드 카플란이 LLM 전체 기술 방향 및 개발 로드맵을 담당한다. 양사가 공동 개발한 LLM은 앤트로픽 클로드 모델과 더불어 SKT를 통해 국내 기업 등에 제공될 예정이다. SKT는 앤트로픽의 공식 프리미어 파트너사로서 고객 유치 및 사업 확장에 나서게 된다. 아울러 양사는 SKT 중심으로 결성된 '글로벌 텔코 AI 얼라이언스'의 AI 서비스 개발을 위해 다국어 LLM 기반 AI 플랫폼 개발에도 힘을 모은다. 이를 바탕으로 도이치텔레콤(독일어), e&(아랍어), 싱텔(영어) 등 각 기업은 각자 요구사항 및 현지 특색을 반영해 엔드 유저들을 위한 AI 서비스를 속도 있게 개발할 수 있게 된다. 유영상 SKT 사장은 "세계 최고 수준의 AI 테크 기업인 앤트로픽에 대한 전략적 투자를 계기로 협력을 본격화할 것"이라며 "SKT가 보유한 한국어 AI 기술과 앤트로픽의 글로벌 AI 역량을 결합, 글로벌 통신사들과 더불어 AI 생태계를 주도해 나갈 계획"이라고 말했다. solidkjy@fnnews.com 구자윤 기자
2023-08-13 18:18:58국내 인공지능(AI) 스타트업 업스테이지가 개발한 AI 모델이 글로벌 AI 플랫폼인 허깅페이스에서 운영하는 오픈 거대언어모델(LLM) 리더보드에서 2위를 차지했다. 19일 업스테이지에 따르면 허깅페이스는 다양한 언어와 산업에 대한 LLM을 제공하는 글로벌 AI 플랫폼이다. 오픈(Open)AI의 챗GPT, 구글의 바드 등 초거대AI 모델들과 비견되는 300여개의 AI 모델들이 허깅페이스의 오픈 LLM 리더보드에서 경쟁하고 있다. 매일 수 십 개의 AI 모델들이 업데이트되고 있으며, 리더보드는 모델의 추론과 상식 능력 뿐만 아니라 언어 이해 종합 능력과 환각현상(할루시네이션) 방지 등 생성AI 평가에 꼭 필요한 4가지 지표의 평가 점수 평균으로 최종 순위를 결정한다. 업스테이지는 이달 초 자체 구축한 모델을 허깅페이스의 리더보드에 제출해 성능을 평가 받았다. 그 결과 업스테이지의 모델은 메타의 '라마2' 모델에 이어 평균 64.7점으로 2위를 차지했다. 특히 업스테이지의 모델은 생성AI의 가장 큰 문제점 중 하나인 환각현상 방지 지표에서는 56.5점을 기록해 '라마2' 모델의 52.8점의 평가를 뛰어넘는 결과를 기록했다. 특히 비교적 작은 사이즈인 300억 개 매개변수(30B) 모델 규모에서 1위를 차지했다는 점이 주목 받는다. 65B(650억)이하의 작은 규모 LLM은 1조를 넘는 매개변수를 가진 것으로 알려진 빅테크의 초거대AI와 달리 가벼운 규모로 비용 절감효과가 크고 내부 서버에 설치 및 운영이 가능하다. 이에 개별 기업이 활용할 프라이빗 AI 등 활용성이 높을 것으로 점쳐진다. 이번 업스테이지가 완성한 AI 모델을 통해 기업과 기관들은 정보유출에 대한 부담 없이 생성AI를 자체적으로 구축하고 활용할 수 있을 전망이다. 아울러 업스테이지는 추가적으로 국내 다양한 산업의 기업들의 요구에 부응하기 위해 한국어 데이터를 추가 학습시킬 예정이다. 김성훈 업스테이지의 대표는 "업스테이지의 AI 기술력이 치열한 경쟁을 벌이고 있는 생성AI 글로벌 톱 플랫폼의 평가에서도 세계 최고의 성과를 거둬 무척 기쁘다"며 "이번에 입증된 업스테이지의 기술력을 바탕으로 국내 기업은 물론 전세계 모든 기업들이 AI를 편리하게 사용할 수 있도록 노력할 것"이라고 전했다. 임수빈 기자
2023-07-19 17:58:42인공지능(AI) 소프트웨어 전문기업 코난테크놀로지가 파라미터 131억개로 자체개발 초거대언어모델(LLM) '코난 LLM' 출시에 속도를 내고있다. 19일 코난테크놀로지에 따르면 지난 17일 기준 전체 학습 토큰 4920억개, 한국어 토큰 2840억개로 학습을 마쳤다. 총 파라미터(매개변수)는 131억개에 달한다. 13.1B 파운데이션 모델은 파인튜닝을 거쳐 내달 정식 출시된다. 내달 1일 학습을 시작해 오는 10월 중 마무리할 코난 LLM 파운데이션 모델의 파라미터는 400억개다. 전체 토큰 6000억개, 한국어 토큰은 4000억개로 준비 중이다. 코난 LLM은 온프레미스 제공으로 생성형 AI의 보안과 기밀유출 우려를 방지하고 B2B, B2G향 초거대 인공지능(AI)을 표방하는 점이 특징이다. B2C 기반 챗GPT의 경우 질의시 기업의 중요 기밀이 외부로 유출되는 것이 허들로 작용한다. 코난 LLM은 이런 점을 해소하고, 해당 기업이나 기관에 최적화된 지도학습 및 강화학습을 거쳐 문서초안 생성, 문서 요약, 질의, 응대 등에 사용시 뛰어난 성능을 제공할 계획이다. 특정 기업의 API나 오픈소스 기반이 아닌 B2B, B2G 특화로 자체 개발된 생성형 언어 모델은 코난 LLM이 처음으로 출시했다. 합리적인 비용으로 고객 부담을 낮추는데도 신경 썼다. 통상 생성형 AI 학습비용은 토큰 개수보다 파라미터 개수에 더 크게 비례함에 따라 모델 파라미터의 사이즈는 줄이면서 성능을 유지하는 것이 B2B, B2G 제품에서 중요하다. 코난 LLM은 기업 수요에 따라 13.1B와 40B 파라미터 모델 중 해당 기관에 최적화된 사양을 선택하고 강화학습을 거쳐 비용은 합리적으로, 성능은 고도화한다는 전략이다. 김영섬 코난테크놀로지 대표이사는 "자체개발 초거대 언어모델 확보를 위해 24여년간의 기술력을 쏟아 부었다”며 “기업과 기관에 최적화된 모델로 시장 요구에 부응하고 온프레미스 형태로 보안을 강화시켜 생성형 AI 생태계 구축을 이끌겠다”고 말했다. solidkjy@fnnews.com 구자윤 기자
2023-07-19 15:14:06코난테크놀로지가 초거대언어모델 자체개발에 박차를 가한다고 16일 밝혔다. 엔비디아 최신 그래픽처리장치(GPU) 장비 입고로 국내를 넘어 글로벌 빅테크와 겨룰 수 있는 AI 기술 경쟁력을 갖출 것으로 기대를 모은다. 정부는 인공지능(AI) 일상화를 발표했고 챗GPT에 대한 민간의 관심 역시 커지는 상황이다. 이에 따라 코난테크놀로지는 생성형 AI 시장에 선도적으로 대응하기 위해 코난 초거대언어모델(LLM) 개발에 힘을 쏟고 있으며 올해 3·4분기 중 개발을 완료해 발표하는 것을 목표로 하고 있다. 이를 위해 지난 2월 국내에서 가장 먼저 NVIDIA의 H100 장비 8대를 발주했다. 대량 데이터와 파라미터 기반 LLM 학습에는 고성능 GPU 서버가 필요하기 때문이며 4달여간의 기다림 끝에 이번주 입고됐다. 입고 또한 국내 최초라는 것이 회사 측 설명이다. 이로써 코난 GPT를 개발하는데 걸리는 시간을 크게 단축해 개발 우위에 설 수 있을 것으로 보인다. H100 입고 전에는 미국 클라우드 업체 H100 인스턴스를 대량으로 리스해 사용해왔다. 내달 중 13B 파운데이션 모델을 갖추고 H100 입고를 계기로 3·4분기 중 20B 파운데이션 모델을 확보하는 것이 코난LLM 개발 타임라인이다. 통상 AI 산업의 핵심 요소는 장비, 인력, 데이터다. 코난테크놀로지는 지난해 120명에서 올해 157명으로 개발인력을 지속적으로 증원 중이다. 확충된 AI 연구 개발인력을 통해 급변하는 기술들에 대응할 태세를 마련했고 2007년부터 운영한 PulseK AI 분석 서비스를 통해 축적된 약 205억건의 고품질의 한국어 데이터를 갖추고 있다. 특히나 초거대언어모델 구축에 가장 중요한 대량의 한국어 데이터를 보유하고 있다는 점에서 의미를 가진다. 아울러 이번 H100 입고까지 더해져 인공지능 선두 기업으로서의 행보를 증명했다. 이로써 코난테크놀로지는 코난 GPT와 코난 챗GPT(가제)를 필두로 한 LLM 개발에도 박차를 가할 수 있게 됐다. 특히 코난테크놀로지 LLM은 기존 챗GPT와 하이퍼클로바 API에 의존하는 다른 회사와 크게 차별화된다. 코난 GPT의 경우 전체 학습 토큰은 1조개 이상, 이 중 한국어 토큰은 5000억개 이상이다. 한국어 토큰의 경우 국내 빅테크와 겨뤄도 비교우위에 서는 수준이기 때문이다. 김영섬 코난테크놀로지 대표이사는 "차별화 된 환경에서 자체개발 초거대 AI언어모델을 출시해 회사 기밀이나 개인정보 보안 등이 중요한 B2G, B2B시장에 성공적으로 진출하겠다"고 포부를 전했다. solidkjy@fnnews.com 구자윤 기자
2023-06-16 11:45:09[파이낸셜뉴스] 스터닝밸류리서치는 22일 인공지능 AI솔루션 기업인 솔트룩스에 대해 올해를 기점으로 매년 창립 최대 매출을 달성할 전망이라고 진단했다. 다만 투자의견과 목표주가는 제시하지 않았다. 스터닝밸류리서치는 “최근 글로벌 기업들이 적극적인 생성형 AI 솔루션을 회사 시스템에 도입 하고 있는데, 기업에 맞춤화된 자체 생성형 솔루션을 적용하려면 많은 비용과 전문 개발자가 필요하다”라며 “이에 따라 Open AI의 기업용 챗’GPT 유료사용자는 출시 1년만에 100만 가입자를 넘어섰다”라고 밝혔다. 그러면서 “이러한 AI시대에 발맞추어 올해 3월에 출시한 동사의 ‘루시아온’은 솔트룩스의 초거대 언어모델 루시아를 기본 탑재하고도 누구나 생성형AI를 혁신적인 비용으로 도입할 수 있게 됐다”라고 부연했다. 스터닝밸류리서치에 따르면 솔트룩스의 루시아온은 Open AI의 기업용 챗GPT보다 장점 많다는 분석이다. 실제 가격면에서 OpenAI의 기업용 ChatGPT 사용 요금은 사용자 1인당 60달러, 150명 기준 최소 월 9000불, 연 약 10.8만불 정도인 반면, 루시아온의 최소 도입비용은 5000만원으로 1년 사용기준 약 3배 저렴하다. 또한 소규모 기업을 위한 하드웨어 일체형 어플라이언스 제품(루시아온)부터 대규모 온프레미스 구축까지 가능하다. 여기에 기업 맞춤형제작, 높은 보안성, 할루시네이션 최소화가 가능하고, 성능 역시 지난 3월 글로벌 생성형 AI 평가 플랫폼에서 1위를 기록하며 입증했다. 한편 솔트룩스는 ‘인공지능 AI 솔루션’ 전문 기업이다. 동사는 지난 20년간 인공지능 고객센터 구축과 챗봇 고객응대 서비스를 포함한 인공지능 플랫폼 공급 사업뿐 아니라 공공 빅데이터 분석 플랫폼, 비정형 및 고객 목소리 분석에 이르기까지 AI 분야 전반에 걸쳐 다양한 사업을 진행해오고 있다. 삼성전자, LG전자, 현대자동차 등 국내 기업과 행정안전부, 국토부, 행정안전부, 서울교통공사, 국민권익위원회 등 공공기관, 우리은행, NH농협은행, KB국민은행, 한국투자증권 등 금융기관은 물론, 해외 ANA항공과 미즈호은행 등 국내외 2,000개 이상 기업 및 기관을 주요 고객으로 두고 있다. kakim@fnnews.com 김경아 기자
2024-11-22 09:07:01SK브로드밴드가 SK텔레콤과 협업한 인공지능(AI) 솔루션으로 B tv 키즈 콘텐츠 강화에 나선다고 21일 밝혔다. 키즈 서비스 B tv ZEM(잼)에 AI 기술을 접목한 ‘AI로 만든 읽어주는 동화’, ‘AI 영어 더빙 동요’ 콘텐츠를 선보이고 향후 효과적인 AI 콘텐츠들을 추가해 아이와 부모 모두를 만족시키는 플랫폼으로 거듭난다는 계획이다. ‘AI로 만든 읽어주는 동화’는 SK텔레콤이 자체 개발한 AI 솔루션으로 제작됐다. 텍스트 기반의 동화 단행본을 AI가 주문형비디오(VOD)로 만든 콘텐츠다. ‘AI로 만든 읽어주는 동화’는 50페이지 내외 동화책 분량을 4분 남짓 동영상으로 체험할 수 있어 보다 신선하고 몰입도 있는 학습이 가능하다. 특히 SK텔레콤 AI 파트너사인 앤트로픽의 거대언어모델(LLM) 클로드를 활용해 동화 이야기와 메시지를 AI가 분석, VOD 말미 질문을 건네는 ‘독후활동’은 아이 이해력 발달과 정서함양을 돕는 시도다. ‘AI로 만든 읽어주는 동화’는 이달부터 B tv와 모바일 B tv를 통해 ‘파닥파닥 해바라기’ ‘엄마 자판기’ ‘여덟살 오지 마!’ 등 총 12편이 순차적으로 공개된다. ‘AI 영어 더빙 동요’는 SK브로드밴드가 투자하고 콘텐츠 기업 크레이지버드 스튜디오가 제작한 작품인 ‘똘똘이의 그림일기 동요’가 바탕이 됐다. 지난해 B tv를 통해 AI 음성변환 기술이 적용된 영화 ‘정직한 후보2’ 더빙 콘텐츠를 선보인 SK브로드밴드는 번역, 연기, 연출, 노래 편집 및 믹스 등으로 인해 AI 제작 난이도가 최상위로 꼽히는 영어 더빙 동요를 업계 최초로 선보였다. 동요 VOD 속 등장인물 대사는 음성합성 기술을 활용해 감정까지 최대한 원본에 가깝도록 더빙했다. ‘AI 영어 더빙 동요’는 내년 초까지 총 72편이 순차적으로 공개된다. 이강희 SK브로드밴드 세그먼트마케팅 담당은 “이번에 선보이는 다양한 키즈 AI 콘텐츠들로 얻은 AI 기술 노하우를 더욱 고도화시켜 아이와 부모가 함께 만족하는 퀄리티 있는 서비스를 제공할 것”이라고 말했다. solidkjy@fnnews.com 구자윤 기자
2024-11-21 09:07:19