[파이낸셜뉴스] "자동차에 이어 인공지능(AI)로봇 분야에서도 성과를 낼 계획입니다." 이서규 픽셀플러스 대표 (사진)는 10일 "모바일과 보안, 자동차에 이어 AI로봇 분야로 이미지센서 적용 범위를 확대할 것"이라며 이같이 말했다. 픽셀플러스는 시스템반도체(비메모리) 일종인 이미지센서 분야에 주력한다. 이미지센서는 디지털카메라에 들어가 눈 역할을 하는 반도체다. 픽셀플러스는 전 세계 이미지센서 시장에서 삼성전자를 비롯해 일본 소니, 미국 온세미, 중국 옴니비전 등과 경쟁한다. 시장조사업체 IC인사이츠는 이미지센서 시장이 2023년 193억달러(26조원)에서 오는 2026년 269억달러(36조원) 규모로 성장할 것으로 예상했다. 서강대 물리학과를 졸업한 이 대표는 1984년 LG반도체에 입사한 뒤 반도체 엔지니어로 근무했다. 그는 업무와 함께 학업도 병행하며 연세대 석사, 포항공대 박사 학위를 받았다. 학창 시절부터 사회생활까지 '모범생'이었던 그에게 있어 지난 1999년 큰 변화가 찾아왔다. 이 대표는 "외환위기(IMF)로 인한 기업 간 구조조정 '빅딜' 일환으로 LG반도체와 현대전자가 합병해 하이닉스(현 SK하이닉스)로 거듭났다"며 "당시 변화가 큰 회사로부터 벗어나 이미지센서 아이템을 앞세워 창업의 길로 들어섰다"고 말했다. 대기업이라는 '온실'에서 벗어나 '야생'에 들어선 그에게 있어 창업 초창기는 혹독하기만 했다. 2000년 4월 회사를 설립할 당시 5억원 정도 있던 시드머니는 같은 해 10월이 되자 바닥을 드러냈다. 이미지센서 연구개발(R&D)에 예상보다 많은 돈이 들어갔기 때문이다. 이 대표는 "다행히 당시 산업통상자원부에서 부품소재산업 육성에 나섰고, 운이 좋게도 정부 과제 수주를 통해 27억원을 조달할 수 있었다"며 "이를 바탕으로 2002년 업계 최초로 이미지시그널프로세서(ISP)를 통합한 30만화소 이미지센서를 선보일 수 있었다"고 말했다. 픽셀플러스가 선보인 30만화소 이미지센서는 당시 휴대폰에 카메라 기능이 들어가는 트렌드와 맞물려 판매가 활발히 이뤄졌다. 특히 삼성전자 휴대폰 모델 '애니콜' 영상통화를 지원하기 위한 카메라에 픽셀플러스 30만화소 이미지센서가 들어갔다. 이 대표는 "이후 '이효리폰' 등에 추가로 130만화소 이미지센서를 공급하며 회사 실적이 빠르게 증가했다"며 "내친김에 2005년 미국 나스닥 시장에 회사를 상장시켰는데, 이는 국내 기업 중 나스닥에 직상장한 첫 사례였다"고 돌이켰다. 하지만 이후 곧바로 위기가 찾아왔다. 모바일용 이미지센서 경쟁이 나날이 치열해지면서 회사 실적이 매년 하락했다. 매출액은 나스닥에 상장한 그해 389억원에서 4년 만인 2008년 161억원까지 줄었다. 결국 이 대표는 회사가 2009년 나스닥에서 상장 폐지되는 아픔을 겪어야만 했다. 위기는 기회의 또 다른 이름이었다. 이 대표는 나스닥에 상장할 2005년 당시 확보한 자금을 바탕으로 보안용 카메라에 들어가는 이미지센서 개발에 착수했다. 그 결과 3년 만인 2008년 보안용 이미지센서를 처음 선보일 수 있었다. 관련 제품은 2009년부터 국내외 시장에 팔려나가기 시작했으며, 그 결과 2013년 매출액과 영업이익 각각 1494억원, 464억원을 올리며 회사가 완벽히 부활했다. 이 대표는 "당시 일본 소니가 장악한 보안용 이미지센서 시장에 진입해 글로벌 시장 점유율 35%까지 끌어올리며 전 세계 1위 자리까지 올랐다"며 "2015년에는 코스닥 시장에 상장하며 나스닥 퇴출이란 아픔에서 벗어날 수 있었다"고 밝혔다. 이 대표는 모바일과 마찬가지로 보안용 이미지센서 역시 경쟁이 치열해질 것으로 예상하고 자동차 시장으로 눈을 돌렸다. 자동차가 내연기관에서 전기·수소차 등으로 진화하는 과정에서 전장 중요성이 높아지고, 이 과정에서 카메라와 함께 이미지센서 수요 역시 늘어날 것으로 전망했다. 이 대표는 "자동차용 이미지센서 개발에 2012년 착수한 이후 5년 만인 2018년에 자동차 후방카메라용 30만화소 이미지센서를 출시할 수 있었다"며 "이후 회사 사업 구조를 보안에서 자동차로 전환했으며, 현재 회사 매출액 중 자동차가 차지하는 비중은 90%에 달한다"고 말했다. 이 대표는 후방카메라에 이어 전방·측방 카메라에 적용하기 위한 130만화소, 300만화소 이미지센서를 잇달아 출시한 뒤 국내외 유수 완성차, 전장 업체들을 대상으로 프로모션을 진행 중이다. 그는 내년에 관련 제품 공급에 나서 수익성을 개선할 계획이다. 이 대표는 "올해 경기 성남 판교에 연면적 2만1926㎡ 규모로 신사옥을 짓고 입주를 마쳤다"며 "신사옥에서 임직원과 함께 이미지센서 토털솔루션을 공급하는 글로벌 회사로 도약할 것"이라고 강조했다. butter@fnnews.com 강경래 기자

[파이낸셜뉴스] 비큐AI는 문화체육관광부가 주관하고 한국저작권위원회가 추진하는 ‘2024년 인공지능(AI) 원천데이터 나눔 지원 공모사업’의 ‘조선의 5대 궁궐 및 종묘 건축물 이미지 데이터’ 구축을 성공적으로 완료했다고 7일 밝혔다. 해당 과제는 조선의 5대 궁궐인 경복궁, 창덕궁, 창경궁, 덕수궁, 경희궁과 왕실의 신주를 모신 유교 사당인 종묘의 건축물을 대상으로 다양한 각도와 고화질 이미지로 촬영하고 정제해 원천데이터를 구축하는 과제이다. 한국적인 콘텐츠 부족으로 해외에서 서양 또는 중국·일본 객체 위주의 잘못된 인식이 확산하는 데이터 편향 문제 해결하기 위해 진행된 사업이다. 비큐AI는 과제 주관기관으로써 데이터수집을 맡은 굿게이트와 함께 선정돼 사업을 수행했으며, 해당 원천데이터는 한국저작권위원회의 공유마당에 연내 공개될 예정이다. 비큐AI 관계자는 “현재 생성형 AI에 활용 가능한 한국적 콘텐츠가 매우 부족한 현실”이라며 “한국적인 콘텐츠에 특화된 인공지능 원천데이터 구축을 통해 공유저작물의 활용을 촉진하고 산업의 발전과 연구 활성화에 이바지할 것을 기대하고 있다”고 말했다. 국내 코스닥 상장사 비큐AI는 최근 자체 AI 데이터 플랫폼 서비스 RDPLINE(Real-time Data PipeLine)을 통해 업계 최초로 생성형 AI 서비스 제공 기업들에 학습용 뉴스 데이터는 물론 실시간 뉴스 데이터까지 공급하고 있다. 뉴스 데이터는 LLM의 고질적 문제인 할루시네이션(환각) 현상의 최소화가 가능하다. 비큐AI는 관련 기업 중 유일하게 SKT 에이닷에 실시간 뉴스 데이터를 공급하고 있으며, 삼성전자, LG, KT 등 관련 기업들에 학습용 뉴스 데이터 공급계약을 체결한 것으로 확인됐다. RDPLINE을 통해 월간 공급되는 데이터양은 약 10만건을 넘어선 것으로 알려졌다. dschoi@fnnews.com 최두선 기자

[파이낸셜뉴스] 지그재그는 인공지능(AI) 기반 이미지 검색 서비스 '직잭렌즈'의 이용자 수가 2배 이상 증가했다. 전 연령층에서 상품 클릭률이 모두 상승했으나, 특히 SNS 이용이 가장 활발한 20대 초반(20~23) 이용자의 직잭렌즈를 통한 상품 클릭률이 가장 많이 올라 잘파세대의 쇼핑 패턴을 보여줬다. 4일 지그재그를 운영하는 카카오스타일에 따르면 직잭렌즈는 이미지를 분석해 지그재그 내 유사한 형태 및 색상, 패턴을 가진 상품을 찾아주는 인공지능 기반 검색 서비스다. 지난해 5월부터 시범 운영을 시작해 9월 정식 오픈했다. 패션 의류부터 가방, 신발 등 잡화까지 직잭렌즈로 검색할 수 있다. 고객들이 SNS 등에서 발견한 패션 코디 사진을 직잭렌즈에 등록하거나 직접 촬영하면 동일 혹은 유사 상품을 바로 추천해 준다. 지그재그는 패션에 최적화된 빅데이터를 가장 많이 보유한 플랫폼으로서 인공지능 기반의 개인화 추천 상품 서비스는 물론 검색 분야에도 인공지능을 자체적으로 도입했다. 직잭렌즈는 자체 개발한 머신러닝 기술을 통해 데이터가 축적될수록 더욱 정교한 수준의 검색 서비스를 제공한다. 검색 결과에 대한 만족도와 편의성이 높아지면서 올 8월 직잭렌즈 이용자 수는 전년 동월 대비 140% 증가한 것으로 나타났다. 같은 기간 직잭렌즈를 통해 추천된 상품의 클릭률도 72% 증가했다. 상품의 상세 페이지 진입률과 구매 전환율도 두 자릿수로 증가하는 등 성장세를 이어가고 있다. 특히 핀터레스트 등 이미지 기반의 SNS를 통해 다양한 스타일에 영감을 얻는 이른바 '디토(Ditto) 소비' 경향을 보이는 Z세대의 이용률이 빠르게 늘고 있는 것으로 나타났다. 20대 초반(20~23) 이용자의 직잭렌즈를 통한 상품 클릭률은 전년 동월 대비 88% 증가했다. 카카오스타일 관계자는 "앞으로도 개인화 추천 및 이미지 검색 서비스 정확도, 속도 향상을 위해 기술 고도화 노력을 지속할 것"이라고 말했다. wonder@fnnews.com 정상희 기자

【실리콘밸리=홍창기 특파원】  구글의 멀티모달 인공지능(AI) 모델 '제미나이'의 이미지 생성 기능이 6개월 만에 재개된다. 구글은 28일(현지시간) 이날부터 자사의 AI 모델 구독 서비스인 '제미나이 어드밴스드'(Gemini Advanced) 영어 이용자를 대상으로 인물 이미지 생성 기능을 활성화한다고 밝혔다. 지난 2월 인물 이미지 생성 오류로 기능을 중단한 지 6개월 만이다. 당시 제미나이는 미국 건국자와 같은 위인이나 1943년 독일 군인의 이미지를 유색인종으로 생성해 논란을 일으켰다. 순다르 피차이 최고경영자(CEO)는 "용납이 안된다"며 오류를 시인하며 개선을 약속했다. 이와 함께 구글은 자사의 텍스트·이미지 변환 AI 모델 이마젠3(Imagen 3)를 제미나이에 통합한다고 덧붙였다. 이마젠3는 식별할 수 있는 개인이나 미성년자 묘사, 지나치게 잔인하거나 폭력적이고 성적인 장면은 지원하지 않는다. 구글 제미나이 제품 담당 시니어 디렉터인 데이브 시트론은 "기술적인 개선뿐만 아니라 제품 성능 및 기능을 평가하는 기준과 취약점을 테스트하기 위한 훈련을 해왔다"고 말했다. theveryfirst@fnnews.com 홍창기 기자

[파이낸셜뉴스] 네이버의 대화형 인공지능(AI) 에이전트 클로바X가 오는 27일 서비스 업데이트를 통해 시각 정보 처리 능력을 새롭게 추가한다. 또 네이버는 지난 20일 ‘클로바’ 공식 사이트의 기술 블로그를 통해 생성형 AI 기반의 음성 합성 기술도 공개하며, 기반 모델인 하이퍼클로바X를 텍스트 뿐 아니라 이미지, 음성도 동시에 처리할 수 있는 ‘멀티모달’ AI로 고도화하며 생성형 AI 기술 경쟁력을 갖추겠다는 목표다.  22일 네이버에 따르면 오는 27일 클로바X의 이미지 이해 기능 업데이트로, 이용자들은 클로바X 대화창에 업로드한 이미지에서 추출된 정보와 입력한 질의를 바탕으로 AI와 대화할 수 있다. 클로바X는 사진 속 현상을 묘사하거나 상황을 추론하는 등 다양한 지시를 수행할 수 있다. 예를 들어 이미지나 그림 형식으로 되어 있는 표, 그래프를 클로바X가 이해하고 분석하는 것이 가능하다. 기존의 클로바X가 논리적 글쓰기, 코드 작성, 번역 등의 작업에 활발히 사용된 것에서 더 나아가 이미지 이해 능력을 기반으로 개인의 생산성 향상 도구로서 활용 범위가 더 넓어질 전망이다.  특히 네이버의 자체 거대언어모델(LLM) 하이퍼클로바X가 결합해 더 정확하고 신뢰성 있는 서비스를 제공한다. 네이버에 따르면, 실제 대한민국 초·중·고등학교 검정고시 총 1480개 문항을 AI 모델에 이미지 형태로 입력하고 문제를 풀게 한 결과 클로바X는 약 84%의 정답률을 기록하며 오픈AI의 GPT-4o(78%)보다 높은 정답률을 보였다.  네이버는 기술 블로그를 통해 하이퍼클로바X 기반 음성 AI 기술도 공개했다. 기존의 음성 인식, 음성 합성 기술보다 한층 발전한 모델로 LLM의 특징인 뛰어난 문맥 이해 및 지시문 해석 능력을 활용해 언어 구조 및 발음 정확도 개선은 물론 감정 표현까지 더한 자연스러운 대화가 가능하다. AI 음성 기록 ‘클로바노트’, AI 안부전화 ‘클로바 케어콜’, AI 음성 합성 ‘클로바더빙’ 등 다양한 음성 AI 서비스를 운영해온 네이버는 음성 멀티모달 LLM 기술로 더 편리한 서비스를 제공한다는 계획이다. 성낙호 네이버클라우드 하이퍼스케일 AI 기술 총괄은 “거대 언어 모델로 출발한 하이퍼클로바X는 이미지 이해 능력을 더한 거대 시각 언어 모델(Large Vision Language Model), 나아가 음성 멀티모달 언어 모델로 발전하고 있다”며 “하이퍼클로바X의 발전된 능력은 대화형 AI 에이전트 클로바X를 비롯한 여러 네이버 서비스에 도입해 새로운 사용자 가치를 창출하고, 기업용 AI 솔루션으로도 제공하며 하이퍼클로바X 생태계를 더욱 확장해나갈 것”이라고 말했다. 아울러 네이버는 하이퍼클로바X를 멀티모달 LLM으로 고도화하고 서비스에 적용하는 과정에서도 ‘AI 안전성’을 적극적으로 실천할 예정이다. 지난 6월 공개한 네이버의 AI 안전성 실천 체계 ‘네이버 ASF’로 AI 시스템의 잠재적 위험을 평가하고, 특히 음성 AI 기술은 보다 안전한 서비스 제공을 위해 다각도로 검토를 이어갈 방침이다.  soup@fnnews.com 임수빈 기자

퀄컴과 마이크로소프트가 협력한 '코파일럿+ PC', 이 중에서도 삼성전자 '갤럭시 북4 엣지'를 사용해봤다. 스마트폰에서 사용하던 ARM 기반 칩셋으로 윈도를 구동하는 이른바 암트북 또는 암도(ARM+윈도)북으로 불리는 제품군이다. 기자가 써본 제품은 16인치 모델로, 퀄컴 AI PC 프로세서인 퀄컴 '스냅드래곤 X 엘리트'를 탑재했다. 중앙처리장치(CPU)는 퀄컴 오라이온, 신경망처리장치(NPU)는 45TOPS(초당 45조회 연산)를 갖췄다. 화면은 WQXGA+ AMOLED 디스플레이로 최대 120Hz 주사율을 지원해 선명한 데다 터치스크린을 제공해 사용이 편했다. 무게는 1.55kg로 16인치 제품 치고 가벼운 편이었다. 색상은 사파이어 블루로, 전체적인 디자인은 갤럭시북4프로와 비슷하다. 측면은 엣지라는 이름에 걸맞게 더 얇고 깔끔하게 나왔다. 왼쪽 측면에는 HDMI 2.1, USB4.0 C 타입 2개, 오른쪽 측면에는 3.5mm 이어폰 단자, USB 타입A, 마이크로SD 포트가 있다. 그동안 암트북의 단점이었던 호환성 문제는 많이 개선됐다. 지난달 삼성전자가 미호환 사이트를 공개한 뒤 개선에 나서면서 이제 대다수 은행, 증권 사이트를 이용할 수 있게 됐다. 일상에서 자주 쓰는 카카오톡, MS 오피스, 한글, 유튜브, 온라인동영상서비스(OTT) 등을 이용하는 데 문제가 없었다. 어도비 프리미어 프로 같은 디자인 프로그램이나 리그 오브 레전드(LoL) 등의 게임은 여전히 지원되지 않지만 차후 나아질 것으로 기대된다. 무엇보다 이 제품의 최대 장점은 배터리와 발열, 조용함이었다. 벤치마크 테스트를 했음에도 화면 켜짐 시간이 5시간 30분 이상 유지돼 일반적인 웹서핑, 문서 작업 등을 할 경우 배터리는 더 오래 유지될 것이다. 게다가 벤치마크(성능실험) 같은 고도의 작업을 할 때도 발열이나 소음이 많지 않았다. 충전도 빠른 편이었다. 실제 홍보 문구대로 30분 만에 45%가 충전됐고 1시간에 67%, 1시간 50분 만에 100%에 도달했다. AI 기능도 눈에 띄었다. 코파일럿키를 누르면 코파일럿이 바로 실행되면서 원하는 정보 검색이나 생성형 AI 이미지 제작도 가능했다. 그림판 '코크리에이터' 기능도 인상적이었다. 어설프게 자동차를 그린 뒤 만들고 싶은 이미지 설명에 '맑은 날씨에 해변 도로를 달리는 자동차 한 대'라고 입력하고 독창성을 최대로 설정하자 원하던 이미지가 만들어졌다. 아울러 스페인의 유로 2024 우승 당시 시민들 반응을 소개하는 스페인 방송 영상을 재생하는 가운데 CTRL+윈도+L 버튼을 눌러 라이브 캡션을 실행하자 AI가 바로 스페인어를 영어로 번역해줬다. solidkjy@fnnews.com 구자윤 기자

네이버 D2SF(D2 스타트업 팩토리)가 이미지 생성 인공지능(AI) 스타트업 엔엑스엔랩스(NXN Labs)에 신규 투자했다고 8일 밝혔다. NXN Labs는 법인 설립 후 2개월 만에 첫 투자 유치에 성공한 케이스로, 네이버 D2SF는 기술 가치와 잠재력에 주목했다는 입장이다. 이번 투자에는 KB인베스트먼트, 스마일게이트 인베스트먼트가 공동으로 참여했다. NXN Labs는 이커머스에 특화해 가상 피팅 및 모델 제작 등에 활용할 수 있는 이미지 생성 AI 모델을 개발 중이다. 패션 업계를 타깃으로 브랜드의 디자인적 특성을 보존하면서도 고퀄리티의 이미지를 간편히 생성하는 솔루션을 준비하고 있다. NXN Labs는 직접 구축한 데이터셋에 기반해 디자인의 패턴, 모델의 체형까지 정교하게 구현하는 것은 물론 높은 해상도의 매력적인 이미지를 제공한다. NXN Labs의 솔루션을 통해 기존 패션 브랜드가 룩북 및 광고 이미지 제작에 소요했던 많은 시간과 비용이 효율화될 것으로 기대된다. 현재 자체 개발한 모델을 활용해 패션 브랜드사, 국내 이커머스 플랫폼 등과 실증사업(PoC)을 진행하며 사용성을 점검하고 있다. soup@fnnews.com 임수빈 기자

[파이낸셜뉴스] 네이버 D2SF(D2 스타트업 팩토리)가 이미지 생성 인공지능(AI) 스타트업 엔엑스엔랩스(NXN Labs)에 신규 투자했다고 8일 밝혔다.  NXN Labs는 법인 설립 후 2개월 만에 첫 투자 유치에 성공한 케이스로, 네이버 D2SF는 기술 가치와 잠재력에 주목했다는 입장이다. 이번 투자에는 KB인베스트먼트, 스마일게이트 인베스트먼트가 공동으로 참여했다. NXN Labs는 이커머스에 특화해 가상 피팅 및 모델 제작 등에 활용할 수 있는 이미지 생성 AI 모델을 개발 중이다. 패션 업계를 타깃으로 브랜드의 디자인적 특성을 보존하면서도 고퀄리티의 이미지를 간편히 생성하는 솔루션을 준비하고 있다. NXN Labs는 직접 구축한 데이터셋에 기반해 디자인의 패턴, 모델의 체형까지 정교하게 구현하는 것은 물론 높은 해상도의 매력적인 이미지를 제공한다. NXN Labs의 솔루션을 통해 기존 패션 브랜드가 룩북 및 광고 이미지 제작에 소요했던 많은 시간과 비용이 효율화될 것으로 기대된다.  현재 자체 개발한 모델을 활용해 패션 브랜드사, 국내 이커머스 플랫폼 등과 실증사업(PoC)을 진행하며 사용성을 점검하고 있다. 생성 이미지 퀄리티에 대해 긍정적인 피드백을 확인했고 올해 국내외 이커머스, 광고 산업을 중심으로 레퍼런스 구축 협력에 본격 돌입할 예정이다. 내년까지 북미에 상용 솔루션을 출시할 수 있도록 관련 기술을 고도화하고 있다. 이재원 NXN 랩스 대표는 "회사는 상업적 이미지 생성 AI 업계의 넥스트 어도비를 꿈꾸며 누구나 손쉽게 이미지, 비디오를 자유롭게 생성할 수 있는 멀티 모달 AI 기술 스타트업으로 성장하겠다”며 "이런 기술의 가치에 공감하는 네이버 D2SF로부터 투자를 유치하고, 나아가 우수한 기술 스타트업들과 함께 할 수 있어 기대가 크다"고 말했다.  soup@fnnews.com 임수빈 기자

올해는 생성형 인공지능(AI) 활용 원년이 될 것으로 예상되는 가운데 AI 신뢰 및 안정성 문제가 화두로 떠오르고 있다. 생성형 AI가 예상치 못한 결과물을 도출해낼 경우 AI 모델 개발사 이미지에도 큰 타격을 입힐 수 있기 때문에 기업들은 자체적으로 내부 점검 팀을 꾸리는 등 기능 개선에 나서고 있다. 2월 29일 업계에 따르면 구글은 현재 자사 AI 모델 제미나이(Gemini)의 이미지 생성 기능을 일시 중단한 상태다. 제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델로, 구글은 이달 1일 이미지 생성 기능을 추가한다고 발표한 지 20일 만에 해당 서비스를 중단했다. 제미나이의 이미지 생성 서비스 공개 이후 사회관계망서비스(SNS)에는 제미나이가 아인슈타인(사진) 등 역사적 인물을 유색인종으로 잘못 생성하고 있다는 지적이 제기됐다. 더버지 등 외신에 따르면 서비스 중단 후 순다르 피차이 구글 최고경영자(CEO)도 28일(현지시간) 직원들에게 이메일을 통해 이미지 생성 기능 오류에 대해 "문제가 있다. 이용자들에게 불쾌감을 주고 편견을 드러냈다"며 "전혀 용납할 수 없는 일이고, 우리(구글)가 잘못한 것"이라고 시인하기도 했다. 이처럼 생성형 AI가 급속도로 발전함과 동시에 다양한 오류도 나타나며 글로벌 기업들은 AI 신뢰 및 안정성 확보에 집중하고 있다. 마이크로소프트(MS), 구글 등은 AI 레드팀(테스터) 등을 운영하고 있다. 레드팀은 LLM 모델의 취약점을 찾을 뿐 아니라 AI에 대한 신뢰성와 안정성을 확보하는 역할을 한다. 오픈AI도 최근 텍스트를 동영상으로 만들어주는 AI 시스템 소라를 공개하며 영화 제작사, 비주얼 아티스트, 디자이너 등 일부가 합류한 '레드팀'과 함께 안전성 테스트를 거치고 있다고 밝힌 바 있다. 국내 기업들도 생성형 AI의 윤리성에 대해 내부적으로 지속 점검 중이다. 지난해 8월 초대규모 AI '하이퍼클로바X'를 발표한 네이버는 올해 초 AI 안전성 연구를 전담하는 조직 '퓨처 AI 센터'를 신설했다. 센터에서는 AI 안전성을 높이기 위한 기술을 연구하고 AI윤리 정책을 수립할 예정이다. 카카오도 지난해 3월 '카카오 공동체의 책임있는 AI를 위한 가이드라인'을 새로 제정했다. soup@fnnews.com 임수빈 기자

[파이낸셜뉴스] 올해는 생성형 인공지능(AI) 활용 원년이 될 것으로 예상되는 가운데 AI 신뢰 및 안정성 문제가 화두로 떠오르고 있다. 생성형 AI가 예상치 못한 결과물을 도출해낼 경우 AI 모델 개발사 이미지에도 큰 타격을 입힐 수 있기 때문에 기업들은 자체적으로 내부 점검 팀을 꾸리는 등 기능 개선에 나서고 있다.  2월 29일 업계에 따르면 구글은 현재 자사 AI 모델 제미나이(Gemini)의 이미지 생성 기능을 일시 중단한 상태다. 제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델로, 구글은 이달 1일 이미지 생성 기능을 추가한다고 발표한 지 20일 만에 해당 서비스를 중단했다.  제미나이의 이미지 생성 서비스 공개 이후 사회관계망서비스(SNS)에는 제미나이가 아인슈타인 등 역사적 인물을 유색인종으로 잘못 생성하고 있다는 지적이 제기됐다. 더버지 등 외신에 따르면 서비스 중단 후 순다르 피차이 구글 최고경영자(CEO)도 28일(현지시간) 직원들에게 이메일을 통해 이미지 생성 기능 오류에 대해 "문제가 있다. 이용자들에게 불쾌감을 주고 편견을 드러냈다"며 "전혀 용납할 수 없는 일이고, 우리(구글)가 잘못한 것"이라고 시인하기도 했다.  이처럼 생성형 AI가 급속도로 발전함과 동시에 다양한 오류도 나타나며 글로벌 기업들은 AI 신뢰 및 안정성 확보에 집중하고 있다. 마이크로소프트(MS), 구글 등은 AI 레드팀(테스터) 등을 운영하고 있다. 레드팀은 LLM 모델의 취약점을 찾을 뿐 아니라 AI에 대한 신뢰성와 안정성을 확보하는 역할을 한다. 오픈AI도 최근 텍스트를 동영상으로 만들어주는 AI 시스템 소라를 공개하며 영화 제작사, 비주얼 아티스트, 디자이너 등 일부가 합류한 '레드팀'과 함께 안전성 테스트를 거치고 있다고 밝힌 바 있다.  국내 기업들도 생성형 AI의 윤리성에 대해 내부적으로 지속 점검 중이다. 지난해 8월 초대규모 AI '하이퍼클로바X'를 발표한 네이버는 올해 초 AI 안전성 연구를 전담하는 조직 ‘퓨처 AI 센터’를 신설했다. 센터에서는 AI 안전성을 높이기 위한 기술을 연구하고 AI윤리 정책을 수립할 예정이다. 카카오도 지난해 3월 ‘카카오 공동체의 책임있는 AI를 위한 가이드라인'을 새로 제정했다. '카카오 공동체 기술윤리 보고서'에 따르면 카카오의 AI 연구 전문 계열사 카카오브레인은 이미지 생성 모델인 칼로와 LLM인 코GPT2.0 관련 서비스에 대해 모델 학습에 클렌징된 데이터를 사용하고 프롬프트(명령어) 금칙어 필터링, 출력물 자동·육안 확인 등의 내용을 방침으로 하고 있다. 카카오뱅크 등 주요 계열사에서도 자체적으로 AI 윤리 원칙을 수립하고 있다. 정보기술(IT) 업계 관계자는 "AI가 학습하는 정보를 수집하는 단계부터 결과물이 나오는 시점까지 개발사들은 신경 쓸 내용이 많다"며 "AI 개발 및 테스트 시 너무 조심스럽게 접근하는 게 아니냐는 내부 평가도 나오지만, 생성형 AI는 현재 사회적 관심이 큰 사안인 만큼 당연한 조치로 봐야 한다"고 평가했다.  soup@fnnews.com 임수빈 기자