[파이낸셜뉴스]  “제발 (챗GPT를 활용해) 이미지 생성 좀 자제해 달라”는 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO) 당부에도 놓칠 수 없었다. 챗GPT에 "첨부된 사진을 지브리 스타일로 그려 달라"는 입력어를 넣었다.  첨부한 사진은 최근 넷플릭스 화제 드라마인 '폭싹 속았수다'의 포스터였다. 어느새 오애순 역으로 나온 아이유와 양관식 역을 맡은 박보검은 지브리 스튜디오가 제작한 애니메이션 주인공이 됐다. 1일 데이터 플랫폼 기업 아이지에이웍스의 모바일인덱스에 따르면 지난달 27일 챗GPT 국내 일간 활성 이용자 수(DAU)는 역대 최다인 125만2925명으로 집계됐다.  지난달 10일 챗GPT DAU가 103만3733명으로 첫 100만명대를 기록한 데 이어 약 2주 만에 최다 기록을 새롭게 썼다. 한 달 전인 지난달 1일 기준 챗GPT DAU는 79만9571명 정도에 그쳤다. 챗GPT 이용자가 폭증한 이유는 오픈AI가 지난달 25일 선보인 챗GPT-4o 모델의 새로운 AI 이미지 생성 기능 덕이라는 분석이 나온다. 해당 서비스가 시작된 뒤 소셜네트워크서비스(SNS)엔 이미지 생성 기능을 활용해 자신의 사진을 디즈니와 심슨 등 인기 애니메이션 화풍으로 바꿔 올리는 게 세계적인 유행처럼 번졌다. 그 중에서도 단연 인기를 끈 그림체는 '센과 치히로의 행방불명', '하울의 움직이는 성' 등 일본의 대표 애니메이션 제작사인 지브리 스튜디오의 화풍이었다. 이용을 자제해 달라는 올트먼 CEO까지 자신의 X(옛 트위터) 계정 프로필 사진을 지브리 화풍으로 생성해 올렸다 명령어를 일일이 입력할 필요 없이 이용자의 의도를 파악해 이미지를 생성하다 보니 사용하는데 어렵지 않았다. 개인 사진을 첨부한 뒤 "지브리 스튜디오의 애니메이션 ‘센과 치히로의 행방불명‘ 스타일로 그려달라"고 요청했다. 그 동안 챗GPT로 이미지를 생성할 때와 비교하면 시간은 다소 걸렸다. 한참 '작업 중' 표시가 뜨더니 지브리 애니메이션 같은 이미지가 나타났다. 그저 바다에서 찍은 평범한 여행 사진은 지브리 화풍을 만나 새롭게 됐다. 전 세계적인 인기와 함께 우려의 목소리는 나온다.  일단 올트먼 CEO는 "그래픽처리장치(GPU)가 녹는다"는 과장된 표현을 사용해 기술적 부작용을 걱정했다. 이용 자제를 요청한 이유다.  미국의 IT전문지 인터레스팅엔지니어링(IE)은 31일(현지시간) 'AI 지브리 아트로 100만명이 몰려들면서 GPU를 녹여'라는 제목에서 이 같은 문제점이 나타나는 이유를 설명했다. IE에 따르면 기존 챗GPT로 이미지를 생성하던 것과 달리 지브리 스타일 등 세부적인 예술적 사항을 넣어야 하는 이미지는 훨씬 더 많은 컴퓨팅 리소스가 필요하다. 일단 AI가 지브리 스튜디오의 방대한 데이터 세트를 분석한 뒤 복잡한 예술적 기법을 적용해 픽셀 단위로 렌더링해야 한다는 게 IE의 설명이다.  결국 오픈AI는 GPU 부담을 줄이기 위한 대응책으로 무료 사용자는 하루 이미지 생성수를 3개로 제한했다. 여기에 저작권 침해나 혐오 표현을 담은 콘텐츠가 의도치 않게 생성될 수도 있다. CNBC는 이미 일부 예술가와 해당 애니메이션 팬들은 AI 도구가 전설적인 애니메이터의 작품을 모방하는 게 윤리적으로 문제 있다고 주장하고 있다고 전했다. y27k@fnnews.com 서윤경 기자

생성형 인공지능(AI) 챗GPT의 신규 이미지 생성 기능이 인기를 끌면서 저작권 침해를 둘러싼 논란이 불거지고 있다. 법조계에선 제휴 없이 학습이 이뤄졌다면 저작권법 위반이 될 수 있다는 의견과 단순한 '분위기'를 구현한 것이라면 문제가 되지 않는다는 의견 등 다양한 해석이 나오고 있다. 3월 31일 법조계에 따르면 지난 25일 공개된 '챗GPT-4o의 이미지 생성 기능'과 관련해 저작권법 위반 여부를 두고 논쟁이 이어지고 있다. 해당 기능은 이용자가 업로드한 사진을 특정 애니메이션 제작사나 만화가의 화풍에 맞춰 수정해달라고 명령하면 이에 따라 제작해 준다. 최근 소셜미디어에는 지브리 스튜디오, 월트 디즈니 컴퍼니 등 유명 에니메이션 제작사의 화풍으로 변환한 이미지가 빠르게 확산되고 있다. 이는 AI가 다양한 애니메이션 작품을 학습했기 때문에 가능한 것으로 보이지만, 챗GPT 개발사 오픈AI 측은 지브리를 비롯한 애니메이션 제작사와의 저작권 계약 여부를 명확히 밝히지 않고 있다. 지난 2023년 한국저작권위원회와 문화체육관광부가 공동 발간한 '생성형 AI 저작권 안내서'에 따르면, AI가 생성한 이미지가 기존 저작물과 동일하거나 유사하다고 판단될 경우 저작권 침해 문제를 제기할 수 있다. 판단 기준으로는 △AI가 기존 저작물을 참고해 생성했는지(의거성) △기존 저작물과 실제로 비슷한지(실질적 유사성)가 고려된다. 그러나 법조계에서는 '화풍'과 '스타일'은 저작권법의 보호 대상이 되기 어렵다는 반응이 대체적이다. 박애란 한국저작권위원회 변호사는 "장르, 화풍은 저작권법 보호 대상이 되기 어렵고, 구체적인 '표현'만 보호된다는 법리가 있다"며 "예를 들어 과거 반 고흐의 그림은 저작권 보호를 받을 수 있어도, 고흐 특유의 화풍 자체에는 저작권을 주장할 수 없었다"고 설명했다. 다만 스타일과 표현물의 경계를 명확히 구분하기 어렵다는 한계점이 있다. scottchoi15@fnnews.com 최은솔 기자

[파이낸셜뉴스] 생성형 인공지능(AI) 챗GPT의 신규 이미지 생성 기능이 인기를 끌면서 저작권 침해를 둘러싼 논란이 불거지고 있다. 법조계에선 제휴 없이 학습이 이뤄졌다면 저작권법 위반이 될 수 있다는 의견과 단순한 '분위기'를 구현한 것이라면 문제가 되지 않는다는 의견 등 다양한 해석이 나오고 있다. 3월 31일 법조계에 따르면 지난 25일 공개된 '챗GPT-4o의 이미지 생성 기능'과 관련해 저작권법 위반 여부를 두고 논쟁이 이어지고 있다. 해당 기능은 이용자가 업로드한 사진을 특정 애니메이션 제작사나 만화가의 화풍에 맞춰 수정해달라고 명령하면 이에 따라 제작해 준다. 최근 소셜미디어에는 지브리 스튜디오, 월트 디즈니 컴퍼니 등 유명 에니메이션 제작사의 화풍으로 변환한 이미지가 빠르게 확산되고 있다. 이는 AI가 다양한 애니메이션 작품을 학습했기 때문에 가능한 것으로 보이지만, 챗GPT 개발사 오픈AI 측은 지브리를 비롯한 애니메이션 제작사와의 저작권 계약 여부를 명확히 밝히지 않고 있다. 지난 2023년 한국저작권위원회와 문화체육관광부가 공동 발간한 '생성형 AI 저작권 안내서'에 따르면, AI가 생성한 이미지가 기존 저작물과 동일하거나 유사하다고 판단될 경우 저작권 침해 문제를 제기할 수 있다. 판단 기준으로는 △AI가 기존 저작물을 참고해 생성했는지(의거성) △기존 저작물과 실제로 비슷한지(실질적 유사성)가 고려된다.  그러나 법조계에서는 '화풍'과 '스타일'은 저작권법의 보호 대상이 되기 어렵다는 반응이 대체적이다. 박애란 한국저작권위원회 변호사는 "장르, 화풍은 저작권법 보호 대상이 되기 어렵고, 구체적인 '표현'만 보호된다는 법리가 있다"며 "예를 들어 과거 반 고흐의 그림은 저작권 보호를 받을 수 있어도, 고흐 특유의 화풍 자체에는 저작권을 주장할 수 없었다"고 설명했다. 다만 스타일과 표현물의 경계를 명확히 구분하기 어렵다는 한계점이 있다. 박 변호사는 "일부 판례를 보면 스타일 영역임에도 저작권 침해가 인정된 사례가 있다"며 "이론적으로는 원칙이 존재하지만, 실제로 이를 구분하는 것은 쉽지 않다"고 했다. 저작권 분야를 전문으로 하는 법무법인 정향의 이승우 변호사도 "화풍 자체는 대법원 판례상 저작권 보호 대상인 '구체적인 표현'이 아닐 것 같다"며 "일본의 비슷한 판례에서는 특정 표현물이 아닌 화풍은 저작권 침해 대상이 아니라고 판단했다"고 설명했다.  반면 AI 이미지 생성을 저작권 침해로 볼 수 있다는 반대 의견도 존재한다. 앞서 언급된 문체부 안내서에는 "원하는 스타일의 AI 산출물 도출을 위해 특정 작가의 작품 또는 특정 이미지를 집중적으로 학습시켜 이를 적용할 경우 해당 작품 등과 동일·유사한 산출물이 생성됨으로써 저작권 침해 가능성 또한 현저히 높아질 수 있다"고 언급했다. 저작권 관련 사건을 다뤄온 한 재경법원 판사는 "AI가 생성한 이미지는 학습의 결과물이며, 만약 학습 대상에 대한 제휴가 이뤄지지 않았다면 저작권 침해 소지가 있다"며 "핵심 쟁점은 침해의 주체를 누구로 볼 것인가에 달려 있다"고 분석했다.   이외에도 △AI가 학습 과정에서 저작권을 침해했는지 △저작권법이 아닌 부정경쟁방지법에 따른 제재가 가능한지 △저작권 침해의 주체가 AI 개발사인지, 명령어를 입력한 이용자인지, AI 자체인지 등도 쟁점으로 떠오르고 있다. scottchoi15@fnnews.com 최은솔 기자

【 실리콘밸리=홍창기 특파원】  앤스로픽과 퍼플릭시티 등의 라이벌 기업을 비롯해 구글 등 빅테크와 생성형 인공지능(AI)시장에서 경쟁중인 오픈AI의 올해 매출이 약 20조원에 육박할 것이라는 전망이 나왔다. 26일(현지시간) CNBC는 오픈AI의 올해 매출이 전년 대비 3배 늘어난 127억 달러(약 18조 6613억 원)를 기록할 것이라고 보도했다. 오픈AI의 지난해 매출은 약 37억 달러로 추정된다. 오픈AI 내부에서도 내년까지 AI 매출 확장이 이어질 것으로 예상하고 있다. 이와 관련, 오픈AI는 주초 경영진 개편을 단행했다. 오픈AI 최고경영자(CEO) 샘 올트먼은 AI 연구에 더 집중한다. 또 최고운영책임자(COO) 브래드 라이트캡은 오픈AI의 비즈니스와 글로벌 확장에 더 깊이 관여한다. 아울러 오픈AI는 지난 25일(현지시간) 자사 이미지 생성 인공지능(AI) 모델 '달리'(DALL-E)3 을 '챗GPT 4o(오) 이미지 제네레이션'(ChatGPT 4o Image Generation·이하 챗GPT 이미지)로 대체한다고 발표했다. '챗GPT 이미지'는 오픈AI의 생성형 AI 모델 'GPT-4'의 텍스트 이해 능력과 고급 이미지 생성 기능이 탑재돼 작용한다. 이에 따라 '챗GPT이미지'는 '달리3'보다 훨씬 더 복잡하고 까다로운 이용자가 원하는 정확한 이미지를 생성할 수 있다. 현재 오픈AI와 생성형 AI 분야에서 치열하게 경쟁중인 앤스로픽도 시장 영향력을 확대하기 위해 AI 에이전트 시장 공략에 나섰다. 데이터분석업체 데이터브릭스와 손잡고 자체 AI 에이전트를 구축하려는 기업을 대상으로 AI 도구를 판매하기로 한 것이다. AI 에이전트는 사람이 수행하는 다양한 업무를 AI가 스스로 수행하는 기술이다. 앤스로픽 이외에도 오픈AI, 구글 등이 눈독을 들이고 있다. theveryfirst@fnnews.com 홍창기 기자

【실리콘밸리=홍창기 특파원】  구글의 멀티모달 인공지능(AI) 모델 '제미나이'의 이미지 생성 기능이 6개월 만에 재개된다. 구글은 28일(현지시간) 이날부터 자사의 AI 모델 구독 서비스인 '제미나이 어드밴스드'(Gemini Advanced) 영어 이용자를 대상으로 인물 이미지 생성 기능을 활성화한다고 밝혔다. 지난 2월 인물 이미지 생성 오류로 기능을 중단한 지 6개월 만이다. 당시 제미나이는 미국 건국자와 같은 위인이나 1943년 독일 군인의 이미지를 유색인종으로 생성해 논란을 일으켰다. 순다르 피차이 최고경영자(CEO)는 "용납이 안된다"며 오류를 시인하며 개선을 약속했다. 이와 함께 구글은 자사의 텍스트·이미지 변환 AI 모델 이마젠3(Imagen 3)를 제미나이에 통합한다고 덧붙였다. 이마젠3는 식별할 수 있는 개인이나 미성년자 묘사, 지나치게 잔인하거나 폭력적이고 성적인 장면은 지원하지 않는다. 구글 제미나이 제품 담당 시니어 디렉터인 데이브 시트론은 "기술적인 개선뿐만 아니라 제품 성능 및 기능을 평가하는 기준과 취약점을 테스트하기 위한 훈련을 해왔다"고 말했다. theveryfirst@fnnews.com 홍창기 기자

[파이낸셜뉴스] 네이버의 대화형 인공지능(AI) 에이전트 클로바X가 오는 27일 서비스 업데이트를 통해 시각 정보 처리 능력을 새롭게 추가한다. 또 네이버는 지난 20일 ‘클로바’ 공식 사이트의 기술 블로그를 통해 생성형 AI 기반의 음성 합성 기술도 공개하며, 기반 모델인 하이퍼클로바X를 텍스트 뿐 아니라 이미지, 음성도 동시에 처리할 수 있는 ‘멀티모달’ AI로 고도화하며 생성형 AI 기술 경쟁력을 갖추겠다는 목표다.  22일 네이버에 따르면 오는 27일 클로바X의 이미지 이해 기능 업데이트로, 이용자들은 클로바X 대화창에 업로드한 이미지에서 추출된 정보와 입력한 질의를 바탕으로 AI와 대화할 수 있다. 클로바X는 사진 속 현상을 묘사하거나 상황을 추론하는 등 다양한 지시를 수행할 수 있다. 예를 들어 이미지나 그림 형식으로 되어 있는 표, 그래프를 클로바X가 이해하고 분석하는 것이 가능하다. 기존의 클로바X가 논리적 글쓰기, 코드 작성, 번역 등의 작업에 활발히 사용된 것에서 더 나아가 이미지 이해 능력을 기반으로 개인의 생산성 향상 도구로서 활용 범위가 더 넓어질 전망이다.  특히 네이버의 자체 거대언어모델(LLM) 하이퍼클로바X가 결합해 더 정확하고 신뢰성 있는 서비스를 제공한다. 네이버에 따르면, 실제 대한민국 초·중·고등학교 검정고시 총 1480개 문항을 AI 모델에 이미지 형태로 입력하고 문제를 풀게 한 결과 클로바X는 약 84%의 정답률을 기록하며 오픈AI의 GPT-4o(78%)보다 높은 정답률을 보였다.  네이버는 기술 블로그를 통해 하이퍼클로바X 기반 음성 AI 기술도 공개했다. 기존의 음성 인식, 음성 합성 기술보다 한층 발전한 모델로 LLM의 특징인 뛰어난 문맥 이해 및 지시문 해석 능력을 활용해 언어 구조 및 발음 정확도 개선은 물론 감정 표현까지 더한 자연스러운 대화가 가능하다. AI 음성 기록 ‘클로바노트’, AI 안부전화 ‘클로바 케어콜’, AI 음성 합성 ‘클로바더빙’ 등 다양한 음성 AI 서비스를 운영해온 네이버는 음성 멀티모달 LLM 기술로 더 편리한 서비스를 제공한다는 계획이다. 성낙호 네이버클라우드 하이퍼스케일 AI 기술 총괄은 “거대 언어 모델로 출발한 하이퍼클로바X는 이미지 이해 능력을 더한 거대 시각 언어 모델(Large Vision Language Model), 나아가 음성 멀티모달 언어 모델로 발전하고 있다”며 “하이퍼클로바X의 발전된 능력은 대화형 AI 에이전트 클로바X를 비롯한 여러 네이버 서비스에 도입해 새로운 사용자 가치를 창출하고, 기업용 AI 솔루션으로도 제공하며 하이퍼클로바X 생태계를 더욱 확장해나갈 것”이라고 말했다. 아울러 네이버는 하이퍼클로바X를 멀티모달 LLM으로 고도화하고 서비스에 적용하는 과정에서도 ‘AI 안전성’을 적극적으로 실천할 예정이다. 지난 6월 공개한 네이버의 AI 안전성 실천 체계 ‘네이버 ASF’로 AI 시스템의 잠재적 위험을 평가하고, 특히 음성 AI 기술은 보다 안전한 서비스 제공을 위해 다각도로 검토를 이어갈 방침이다.  soup@fnnews.com 임수빈 기자

네이버 D2SF(D2 스타트업 팩토리)가 이미지 생성 인공지능(AI) 스타트업 엔엑스엔랩스(NXN Labs)에 신규 투자했다고 8일 밝혔다. NXN Labs는 법인 설립 후 2개월 만에 첫 투자 유치에 성공한 케이스로, 네이버 D2SF는 기술 가치와 잠재력에 주목했다는 입장이다. 이번 투자에는 KB인베스트먼트, 스마일게이트 인베스트먼트가 공동으로 참여했다. NXN Labs는 이커머스에 특화해 가상 피팅 및 모델 제작 등에 활용할 수 있는 이미지 생성 AI 모델을 개발 중이다. 패션 업계를 타깃으로 브랜드의 디자인적 특성을 보존하면서도 고퀄리티의 이미지를 간편히 생성하는 솔루션을 준비하고 있다. NXN Labs는 직접 구축한 데이터셋에 기반해 디자인의 패턴, 모델의 체형까지 정교하게 구현하는 것은 물론 높은 해상도의 매력적인 이미지를 제공한다. NXN Labs의 솔루션을 통해 기존 패션 브랜드가 룩북 및 광고 이미지 제작에 소요했던 많은 시간과 비용이 효율화될 것으로 기대된다. 현재 자체 개발한 모델을 활용해 패션 브랜드사, 국내 이커머스 플랫폼 등과 실증사업(PoC)을 진행하며 사용성을 점검하고 있다. soup@fnnews.com 임수빈 기자

[파이낸셜뉴스] 네이버 D2SF(D2 스타트업 팩토리)가 이미지 생성 인공지능(AI) 스타트업 엔엑스엔랩스(NXN Labs)에 신규 투자했다고 8일 밝혔다.  NXN Labs는 법인 설립 후 2개월 만에 첫 투자 유치에 성공한 케이스로, 네이버 D2SF는 기술 가치와 잠재력에 주목했다는 입장이다. 이번 투자에는 KB인베스트먼트, 스마일게이트 인베스트먼트가 공동으로 참여했다. NXN Labs는 이커머스에 특화해 가상 피팅 및 모델 제작 등에 활용할 수 있는 이미지 생성 AI 모델을 개발 중이다. 패션 업계를 타깃으로 브랜드의 디자인적 특성을 보존하면서도 고퀄리티의 이미지를 간편히 생성하는 솔루션을 준비하고 있다. NXN Labs는 직접 구축한 데이터셋에 기반해 디자인의 패턴, 모델의 체형까지 정교하게 구현하는 것은 물론 높은 해상도의 매력적인 이미지를 제공한다. NXN Labs의 솔루션을 통해 기존 패션 브랜드가 룩북 및 광고 이미지 제작에 소요했던 많은 시간과 비용이 효율화될 것으로 기대된다.  현재 자체 개발한 모델을 활용해 패션 브랜드사, 국내 이커머스 플랫폼 등과 실증사업(PoC)을 진행하며 사용성을 점검하고 있다. 생성 이미지 퀄리티에 대해 긍정적인 피드백을 확인했고 올해 국내외 이커머스, 광고 산업을 중심으로 레퍼런스 구축 협력에 본격 돌입할 예정이다. 내년까지 북미에 상용 솔루션을 출시할 수 있도록 관련 기술을 고도화하고 있다. 이재원 NXN 랩스 대표는 "회사는 상업적 이미지 생성 AI 업계의 넥스트 어도비를 꿈꾸며 누구나 손쉽게 이미지, 비디오를 자유롭게 생성할 수 있는 멀티 모달 AI 기술 스타트업으로 성장하겠다”며 "이런 기술의 가치에 공감하는 네이버 D2SF로부터 투자를 유치하고, 나아가 우수한 기술 스타트업들과 함께 할 수 있어 기대가 크다"고 말했다.  soup@fnnews.com 임수빈 기자

올해는 생성형 인공지능(AI) 활용 원년이 될 것으로 예상되는 가운데 AI 신뢰 및 안정성 문제가 화두로 떠오르고 있다. 생성형 AI가 예상치 못한 결과물을 도출해낼 경우 AI 모델 개발사 이미지에도 큰 타격을 입힐 수 있기 때문에 기업들은 자체적으로 내부 점검 팀을 꾸리는 등 기능 개선에 나서고 있다. 2월 29일 업계에 따르면 구글은 현재 자사 AI 모델 제미나이(Gemini)의 이미지 생성 기능을 일시 중단한 상태다. 제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델로, 구글은 이달 1일 이미지 생성 기능을 추가한다고 발표한 지 20일 만에 해당 서비스를 중단했다. 제미나이의 이미지 생성 서비스 공개 이후 사회관계망서비스(SNS)에는 제미나이가 아인슈타인(사진) 등 역사적 인물을 유색인종으로 잘못 생성하고 있다는 지적이 제기됐다. 더버지 등 외신에 따르면 서비스 중단 후 순다르 피차이 구글 최고경영자(CEO)도 28일(현지시간) 직원들에게 이메일을 통해 이미지 생성 기능 오류에 대해 "문제가 있다. 이용자들에게 불쾌감을 주고 편견을 드러냈다"며 "전혀 용납할 수 없는 일이고, 우리(구글)가 잘못한 것"이라고 시인하기도 했다. 이처럼 생성형 AI가 급속도로 발전함과 동시에 다양한 오류도 나타나며 글로벌 기업들은 AI 신뢰 및 안정성 확보에 집중하고 있다. 마이크로소프트(MS), 구글 등은 AI 레드팀(테스터) 등을 운영하고 있다. 레드팀은 LLM 모델의 취약점을 찾을 뿐 아니라 AI에 대한 신뢰성와 안정성을 확보하는 역할을 한다. 오픈AI도 최근 텍스트를 동영상으로 만들어주는 AI 시스템 소라를 공개하며 영화 제작사, 비주얼 아티스트, 디자이너 등 일부가 합류한 '레드팀'과 함께 안전성 테스트를 거치고 있다고 밝힌 바 있다. 국내 기업들도 생성형 AI의 윤리성에 대해 내부적으로 지속 점검 중이다. 지난해 8월 초대규모 AI '하이퍼클로바X'를 발표한 네이버는 올해 초 AI 안전성 연구를 전담하는 조직 '퓨처 AI 센터'를 신설했다. 센터에서는 AI 안전성을 높이기 위한 기술을 연구하고 AI윤리 정책을 수립할 예정이다. 카카오도 지난해 3월 '카카오 공동체의 책임있는 AI를 위한 가이드라인'을 새로 제정했다. soup@fnnews.com 임수빈 기자

[파이낸셜뉴스] 올해는 생성형 인공지능(AI) 활용 원년이 될 것으로 예상되는 가운데 AI 신뢰 및 안정성 문제가 화두로 떠오르고 있다. 생성형 AI가 예상치 못한 결과물을 도출해낼 경우 AI 모델 개발사 이미지에도 큰 타격을 입힐 수 있기 때문에 기업들은 자체적으로 내부 점검 팀을 꾸리는 등 기능 개선에 나서고 있다.  2월 29일 업계에 따르면 구글은 현재 자사 AI 모델 제미나이(Gemini)의 이미지 생성 기능을 일시 중단한 상태다. 제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델로, 구글은 이달 1일 이미지 생성 기능을 추가한다고 발표한 지 20일 만에 해당 서비스를 중단했다.  제미나이의 이미지 생성 서비스 공개 이후 사회관계망서비스(SNS)에는 제미나이가 아인슈타인 등 역사적 인물을 유색인종으로 잘못 생성하고 있다는 지적이 제기됐다. 더버지 등 외신에 따르면 서비스 중단 후 순다르 피차이 구글 최고경영자(CEO)도 28일(현지시간) 직원들에게 이메일을 통해 이미지 생성 기능 오류에 대해 "문제가 있다. 이용자들에게 불쾌감을 주고 편견을 드러냈다"며 "전혀 용납할 수 없는 일이고, 우리(구글)가 잘못한 것"이라고 시인하기도 했다.  이처럼 생성형 AI가 급속도로 발전함과 동시에 다양한 오류도 나타나며 글로벌 기업들은 AI 신뢰 및 안정성 확보에 집중하고 있다. 마이크로소프트(MS), 구글 등은 AI 레드팀(테스터) 등을 운영하고 있다. 레드팀은 LLM 모델의 취약점을 찾을 뿐 아니라 AI에 대한 신뢰성와 안정성을 확보하는 역할을 한다. 오픈AI도 최근 텍스트를 동영상으로 만들어주는 AI 시스템 소라를 공개하며 영화 제작사, 비주얼 아티스트, 디자이너 등 일부가 합류한 '레드팀'과 함께 안전성 테스트를 거치고 있다고 밝힌 바 있다.  국내 기업들도 생성형 AI의 윤리성에 대해 내부적으로 지속 점검 중이다. 지난해 8월 초대규모 AI '하이퍼클로바X'를 발표한 네이버는 올해 초 AI 안전성 연구를 전담하는 조직 ‘퓨처 AI 센터’를 신설했다. 센터에서는 AI 안전성을 높이기 위한 기술을 연구하고 AI윤리 정책을 수립할 예정이다. 카카오도 지난해 3월 ‘카카오 공동체의 책임있는 AI를 위한 가이드라인'을 새로 제정했다. '카카오 공동체 기술윤리 보고서'에 따르면 카카오의 AI 연구 전문 계열사 카카오브레인은 이미지 생성 모델인 칼로와 LLM인 코GPT2.0 관련 서비스에 대해 모델 학습에 클렌징된 데이터를 사용하고 프롬프트(명령어) 금칙어 필터링, 출력물 자동·육안 확인 등의 내용을 방침으로 하고 있다. 카카오뱅크 등 주요 계열사에서도 자체적으로 AI 윤리 원칙을 수립하고 있다. 정보기술(IT) 업계 관계자는 "AI가 학습하는 정보를 수집하는 단계부터 결과물이 나오는 시점까지 개발사들은 신경 쓸 내용이 많다"며 "AI 개발 및 테스트 시 너무 조심스럽게 접근하는 게 아니냐는 내부 평가도 나오지만, 생성형 AI는 현재 사회적 관심이 큰 사안인 만큼 당연한 조치로 봐야 한다"고 평가했다.  soup@fnnews.com 임수빈 기자