[파이낸셜뉴스]   인공지능(AI) 클로드로 유명한 앤스로픽의 기업가치가 1500억달러(약 207조원)을 웃도는 것으로 평가됐다. 신규 자금 모집 과정에서 기업 가치가 이전에 비해 두 배 넘게 뛰었다. 파이낸셜타임스(FT)는 25일(현지시간) 소식통 4명을 인용해 현재 615억달러로 평가받고 있는 앤스로픽 기업가치가 신규 자본 모집 과정에서 그 두배가 넘는 1500억달러 이상으로 껑충 뛰었다고 전했다. 자본 모집 조건이 아직 확정되지는 않았지만 이제 출범 4년짜리 AI 스타트업인 앤스로픽은 이번 자본 모집을 통해 최소 30억달러를 확보할 전망이다. 한 소식통은 신규 자본을 최대 50억달러 확보할 가능성도 있다고 말했다. 이번에 새로 자금을 댈 투자자들은 중동 투자자다. 중동 각국 투자자들이 투자 의향을 밝혔고, 이 가운데 아랍에미리트(UAE) 아부다비의 AI 투자펀드인 MGX도 투자 의사를 전달한 것으로 알려졌다. 앤스로픽은 그동안 중동에서 자금을 확보하는 것을 꺼렸지만 이번에 본격적인 투자 유치 논의가 이뤄지고 있다. 다리오 아모데이 최고경영자(CEO)는 최근 앤스로픽 직원들에게 보낸 내부 메모에서 중동에서 투자를 받으면 “독재자들을 부자로 만들어 줄 수 있다”고 말하며 강한 거부 의사를 보였다. 그러나 그는 “불행하게도 어떤 악당도 우리의 성공으로 이득을 보면 안된다”는 것은 사업을 지속하면서 지키기 어려운 원칙이라고 생각한다”고 말했다. 앤스로픽이 중동의 투자를 받기로 방향을 튼 것은 오픈AI를 비롯한 다른 AI 스타트업들과 자본 확보 경쟁이 치열해졌기 때문이다. AI 스타트업들은 실리콘밸리 뿐만 아니라 중동 소버린 AI 펀드에서도 돈을 끌어 쓰고 있다. 앤스로픽은 오픈AI, 일론 머스크의 xAI, 또 알파벳 산하 구글, 메타플랫폼스, 마이크로소프트(MS) 등 빅테크의 AI 모델과도 경쟁하고 있다. AI 경쟁 선두주자는 챗GPT로 본격적인 AI 시대를 연 오픈AI로 1주일에 5억명이 넘는 이들이 챗GPT를 이용한다. 오픈AI 기업가치는 올해 벌써 3000억달러를 찍었고, 현재 소프트뱅크가 주도하는 투자자들로부터 수백억달러 추가 자본 확보에 나서고 있다. 앤스로픽에 투자하려 하는 MGX는 이미 지난해 오픈AI에 투자했다. 한편 앤스로픽의 클로드는 코딩에서 역량을 발휘하고 있고 주변 분야로 영역을 넓히고 있다. 최대 경쟁사 오픈AI는 다음달 GPT5를 공개할 것으로 알려져 있다. dympna@fnnews.com 송경재 기자

【 도쿄=김경민 특파원】 미국의 인공지능(AI) 개발 유망 스타트업인 '앤스로픽'이 올 가을 일본 도쿄에 아시아 첫 영업 거점을 개설한다고 니혼게이자이신문(닛케이)이 26일 보도했다. 회사는 일본 내 기업들의 AI 수요가 인력 부족을 배경으로 꾸준히 증가하고 있다고 판단, 주력 대화형 AI 서비스인 '클로드'의 일본어 대응을 강화할 방침이다. 앤스로픽은 오픈AI 출신 다리오 아모데이 최고경영자(CEO) 등이 2021년 창업한 기업이다. 아마존닷컴이 약 80억달러(약 10조9000억원)를 투자했고 구글도 자금을 댄 생성형 AI 분야의 강자로, 챗GPT로 유명한 오픈AI의 맞수라는 평가를 받고 있다. 앤스로픽은 영국 런던 등에 거점을 운영하고 있다. 아시아 지역 진출은 이번 일본이 처음이다. 회사 측은 "일본을 생성형 AI 서비스 시장으로서 유망하게 보고 있다"고 밝혔다. 컨설팅 전문기업인 PwC재팬그룹에 따르면 일본은 미국·중국·영국·독일에 비해 생성형 AI를 업무에 정식 도입한 기업 비율이 낮아 법인 시장 중심으로 성장 여지가 크다고 평가됐다. 앤스로픽은 일본 거점에서 기업 고객 영업과 지원을 전담할 인력 채용을 본격화할 계획이다. km@fnnews.com

【도쿄=김경민 특파원】 미국의 인공지능(AI) 개발 유망 스타트업인 '앤스로픽'이 올 가을 일본 도쿄에 아시아 첫 영업 거점을 개설한다고 니혼게이자이신문(닛케이)이 26일 보도했다. 회사는 일본 내 기업들의 AI 수요가 인력 부족을 배경으로 꾸준히 증가하고 있다고 판단, 주력 대화형 AI 서비스인 '클로드'의 일본어 대응을 강화할 방침이다. 앤스로픽은 오픈AI 출신 다리오 아모데이 최고경영자(CEO) 등이 2021년 창업한 기업이다. 아마존닷컴이 약 80억달러(약 10조9000억원)를 투자했고 구글도 자금을 댄 생성형 AI 분야의 강자로, 챗GPT로 유명한 오픈AI의 맞수라는 평가를 받고 있다. 앤스로픽은 영국 런던 등에 거점을 운영하고 있다. 아시아 지역 진출은 이번 일본이 처음이다. 회사 측은 "일본을 생성형 AI 서비스 시장으로서 유망하게 보고 있다"고 밝혔다. 컨설팅 전문기업인 PwC재팬그룹에 따르면 일본은 미국·중국·영국·독일에 비해 생성형 AI를 업무에 정식 도입한 기업 비율이 낮아 법인 시장 중심으로 성장 여지가 크다고 평가됐다. 앤스로픽은 일본 거점에서 기업 고객 영업과 지원을 전담할 인력 채용을 본격화할 계획이다. 현재 파나소닉홀딩스, 라쿠텐그룹 등이 앤스로픽과 협업해 AI 기술을 도입 중이다. 앤스로픽은 그동안 일본 내 고객 확보를 아마존과 구글 등 협력사를 통해 진행해왔다. 하지만 앞으로는 스마트폰과 PC에서 사용하는 자사 애플리케이션인 클로드의 일본어 사용자 편의성을 높이고, 자체 영업을 본격적으로 전개할 계획이다. 클로드는 소프트웨어 개발용 소스코드 생성에 강점을 가진 대화형 AI다. 닛케이는 "지난해 4월 오픈AI가 일본 법인을 설립한 데 이어 앤스로픽까지 일본 진출을 선언하면서 양사의 고객 확보 경쟁이 본격화될 전망"이라고 전했다. km@fnnews.com 김경민 기자

[파이낸셜뉴스] 미국에서 ‘오픈AI’의 대항마로 불리는 인공지능(AI) 기술 창업초기기업(스타트업) ‘엔스로픽’의 다리오 아모데이 최고경영자(CEO)가 AI로 인한 대규모 실직 사태를 경고했다. 현지 매체들은 학계나 재계에서 비슷한 예측이 나온 경우는 많지만 실제 AI 기업의 수장이 공개적으로 이러한 예측을 내놓은 것은 매우 드물다고 평가했다. 아모데이는 29일(현지시간) 미국 CNN과 인터뷰에서 “AI가 거의 모든 지적인 업무에서 인간을 능가하기 시작했다”고 말했다. 그는 AI로 인해 가까운 시일 내에 대량 실업이 발생할 수 있다면서 “우리는 사회적으로 이를 해결하려고 노력해야 한다”고 경고했다. 그는 “AI는 나 혹은 다른 CEO 들이 하는 일을 포함해 모두가 하는 일을 더 낫게 해낼 것”이라고 내다봤다. 아모데이는 이미 이달 28일 미국 온라인 정치매체 악시오스와 인터뷰에서 “AI가 기술 및 법률, 컨설팅, 금융 등 주요 사무직 분야에서 인간을 대체할 준비를 마쳤다”고 지적했다. 그는 “AI는 앞으로 5년 안에 모든 하위 사무직 일자리의 절반을 없앨 수 있으며, 그 결과 실업률이 10~20%까지 오를 수 있다”고 주장했다. 미국의 지난 4월 실업률은 4.2%였다. 세계경제포럼(WEF)이 지난 1월 공개한 설문조사에 따르면 세계적으로 41%에 달하는 고용주들이 AI 도입으로 인력을 줄일 의향이 있다고 답했다. 아모데이는 “대중과 정부에 경고하기 위해” 이러한 실업률 전망을 내놨다고 밝혔다. 그는 CNN 인터뷰에서 대량 실업 시대를 맞아 정부가 AI 기업에 따로 세금을 부과해야 할 수도 있다고 주장했다. CNN은 과거의 경우 기술 발전으로 저임금·저숙련 노동자 일자리가 사라졌지만 AI의 진보는 오히려 숙련 사무직 일자리를 빼앗을 수 있다고 분석했다. 이어 직업을 잃은 사무직들이 새로 직업 훈련을 받거나 더 좋은 급여를 받는 직종으로 옮기기 어렵다고 예측했다. 아모데이는 AI 기술의 진보가 과거 다른 기술의 진보와 달리 “더욱 빠르고, 적응하기 힘들며, 광범위한 변화를 초래한다”며 대응하기 어렵다고 설명했다. 그는 CNN과 인터뷰에서도 “경종을 울려야 한다”고 강조했다. 아모데이는 “다른 AI 업계 리더들이 충분하게 경고하지 않고 있다”면서 "누군가는 분명하게 말해야 한다"고 주장했다. 그는 “우리는 (AI의 진보라는) 버스를 멈출 수 없다”면서 “내 위치에서는 오직 기술의 방향을 살짝 바꿀 수 있기를 희망할 뿐”이라고 말했다. 아모데이는 “우리가 위험을 인지하고 대응하면서도 (AI로부터) 이익을 얻을 수도 있다”고 밝혔다. 그는 일반 대중들이 AI 사용법을 배워야 한다고 강조했다. 앤스로픽과 마찬가지로 AI 개발에 열을 올리고 있는 미국 메타플랫폼의 마크 저커버그 CEO도 지난달 29일 마이크로소프트(MS)의 사티아 나델라 CEO와 진행한 대담에서 AI를 언급했다. 저커버그는 당시 “내년에 메타플랫폼에서 개발하는 프로그램 개발의 절반 정도는 AI가 수행할 것”이라고 말했다. 나델라 역시 “현재 MS의 저장소에 프로그램과 다른 프로그램에 있는 코드 중 20~30%는 AI가 썼을 것”이라고 말했다. 한편 IT 리더들 가운데 AI가 노동시장에 도움을 준다고 주장하는 인물도 있다. 미국 반도체 기업 엔비디아의 젠슨 황 CEO는 미국의 비영리 싱크탱크인 밀컨 연구소가 이달 주최한 글로벌 컨퍼런스에서 “여러분은 AI가 아니라 AI를 활용하는 사람에게 일자리를 뺏기게 될 것”이라고 주장했다. 그는 AI가 보편적으로 쓰이면 세계적으로 기업 및 산업 현장에서 기술 격차와 인력 부족 문제가 줄어들 수 있다며, 이로 인해 3000만~4000만명의 사람들이 일자리를 가질 수 있다고 분석했다. pjw@fnnews.com 박종원 기자

【실리콘밸리=홍창기 특파원】  인공지능(AI) 스타트업 앤스로픽은 22일(현지시간) 최신 AI 모델 '클로드 오푸스4'(Claude Opus 4)를 공개했다. 앤스로픽은 챗GPT 개발사 오픈AI 대항마로 아마존과 구글이 투자하고 있다. 앤스로픽은 '클로드 오푸스4'가 코딩에 특화됐다고 소개했다. 이전 시스템보다 훨씬 오랜 시간 동안 자율적으로 컴퓨터 코드를 작성할 수 있다는 설명이다. 이 모델은 7시간 동안 지속해 코딩 작업을 할 수 있다. 이와 함께 앤스로픽은 또 다른 AI 모델 '클로드 소네트4'(Claude Sonnet4)도 함께 발표했다. 앤스로픽 제품 책임자인 마이크 크리거는 "'클로드 오푸스4'는 점점 더 자율적인 AI를 개발하는 앤스로픽의 작업에서 중요한 이정표"라고 말했다 또한 그는 "오푸스4는 더 오랜 시간 독립적으로 작동하고 수행한 작업을 추적할 수 있도록 하는 데 중점을 뒀다"고 설명했다.  앤스로픽은 오푸스4를 통해 포켓몬 게임을 스스로 24시간 동안 연속으로 플레이할 수 있다고 소개했다. 이는 45분 동안 할 수 있었던 이전 모델에 비해 크게 향상된 것이다. 크리거는 "AI가 경제성과 생산성을 갖추려면 모델이 자율적으로 그리고 일관되게 오랜 시간 동안 작업할 수 있어야 한다"고 말했다. 이 모델은 즉각적인 답변을 제공하고 복잡한 질문에 대해서는 시간을 들여 추론할 수 있으며, 웹 검색 기능도 수행할 수 있다고 앤스로픽은 강조했다. 앤스로픽은 오픈AI 창립 멤버였던 다리오 애머데이 남매가 지난 2021년 설립했다. 성능이 우수한 AI 모델로 오픈AI와 경쟁하고 있다. 한편, 구글은 수년 전부터 앤스로픽에 투자, 현재 약 14%의 지분을 보유중이다. 아마존 역시 앤스로픽에 80억 달러를 투자하고 있다. 다만, 아마존의 지분은 알려지지 않았다. theveryfirst@fnnews.com 홍창기 기자

'오픈AI 대항마'로 꼽히는 미국 인공지능(AI) 스타트업 앤스로픽이 한국에서 첫 공식 행사를 열고 국내에 진출할 예정이라고 밝혔다. 국내 AI 스타트업 생태계를 활용해 고객사를 확보하고 기업간거래(B2B) 분야에서 적극적인 협력에 나설 것으로 보인다. 케이트 얼 젠슨 앤스로픽 매출 총괄 책임자는 19일 서울 송파구 시그니엘 서울에서 열린 개발자 행사 '코리아 빌더 서밋'에서 "올해는 아시아태평양 지역에 본격적으로 투자하는 첫 해"라며 "조만간 한국에 들어올 것이라고 기대한다"고 밝혔다. 챗GPT 개발사인 오픈AI 창립 멤버 8인이 지난 2021년 설립한 앤스로픽은 생성형 AI 모델 '클로드'를 통해 단숨에 오픈AI의 대항마로 부상하며 아마존 등으로부터 대규모 자금을 유치하는 데 성공했다. 젠슨 책임자는 "한국은 세계에서 가장 빠르게 성장하는 스타트업들이 모여있는 곳"이라며 "클로드의 한국어 기능도 더욱 개선될 예정이고 한국의 개발자들이 많이 사용하길 바란다"고 설명했다. 앤스로픽이 지난달 출시한 최신 모델 클로드 3.7 소넷(Sonnet)은 확장된 사고 기능을 지원하는 하이브리드 추론 모델로 뛰어난 코딩 능력을 가진 것으로 알려지면서 개발자 등 AI 업계에서 화제가 되고 있다. 기조 연설에 나선 마이클 크리거 앤스로픽 최고제품책임자(CPO)는 "다양한 스타트업과 협력하면서 (앤스로픽도) 많은 것을 배워 나가고 있는 단계고, 우리의 주된 고객은 스타트업"이라며 "많은 고객들이 클로드 3.7을 통해 일반 코딩은 물론 AI 에이전트 코딩의 효율성도 높여갈 수 있다"고 강조했다. 한편, 이날 행사에는 다양한 AI 스타트업 관계자가 행사에 참석했다. 카카오브레인 대표 출신 김일두 오픈리서치 대표를 비롯해 윤태석 인덴트 대표, 김대희 드래프타입 대표 등이 자리를 지켰다. 또 SKT, 뤼튼 테크놀로지스, 라이너, 링크알파 등 스타트업 기술 리더들이 참석해 세션을 마련하기도 했다. 이번 행사를 공동 주최한 콕스웨이브의 이엽 이사는 "콕스웨이브는 앤스로픽과 공동의 목표를 갖고 AI의 안전과 혁신에 대해 노력을 이어갈 것"이라며 "이번 행사를 통해 서로의 인사이트를 공유하고 사람과 AI를 정렬하는 미래를 만들어나가고 싶다"고 전했다. wongood@fnnews.com 주원규 기자

[파이낸셜뉴스] '오픈AI 대항마'로 꼽히는 미국 인공지능(AI) 스타트업 앤스로픽이 한국에서 첫 공식 행사를 열고 국내에 진출할 예정이라고 밝혔다. 국내 AI 스타트업 생태계를 활용해 고객사를 확보하고 기업간거래(B2B) 분야에서 적극적인 협력에 나설 것으로 보인다. 케이트 얼 젠슨 앤스로픽 매출 총괄 책임자는 19일 서울 송파구 시그니엘 서울에서 열린 개발자 행사 '코리아 빌더 서밋'에서 "올해는 아시아태평양 지역에 본격적으로 투자하는 첫 해"라며 "조만간 오피스를 설립하고 한국에 들어올 것이라고 기대한다"고 밝혔다. 챗GPT 개발사인 오픈AI 창립 멤버 8인이 지난 2021년 설립한 앤스로픽은 생성형 AI 모델 '클로드'를 통해 단숨에 오픈AI의 대항마로 부상하며 아마존 등으로부터 대규모 자금을 유치하는 데 성공했다. 젠슨 책임자는 "한국은 세계에서 가장 빠르게 성장하는 스타트업들이 모여있는 곳"이라며 "클로드의 한국어 기능도 더욱 개선될 예정이고 한국의 개발자들이 많이 사용하길 바란다"고 설명했다. 앤스로픽이 지난달 출시한 최신 모델 클로드 3.7 소넷(Sonnet)은 확장된 사고 기능을 지원하는 하이브리드 추론 모델로 뛰어난 코딩 능력을 가진 것으로 알려지면서 개발자 등 AI 업계에서 화제가 되고 있다.  기조 연설에 나선 마이클 크리거 앤스로픽 최고제품책임자(CPO)는 "다양한 스타트업과 협력하면서 (앤스로픽도) 많은 것을 배워 나가고 있는 단계고, 우리의 주된 고객은 스타트업"이라며 "많은 고객들이 클로드 3.7을 통해 일반 코딩은 물론 AI 에이전트 코딩의 효율성도 높여갈 수 있다"고 강조했다. 한편, 이날 행사에는 다양한 AI 스타트업 관계자가 행사에 참석했다. 카카오브레인 대표 출신 김일두 오픈리서치 대표를 비롯해 윤태석 인덴트 대표, 김대희 드래프타입 대표 등이 자리를 지켰다. 또 SKT, 뤼튼 테크놀로지스, 라이너, 링크알파 등 스타트업 기술 리더들이 참석해 세션을 마련하기도 했다. 이번 행사를 공동 주최한 콕스웨이브의 이엽 이사는 "콕스웨이브는 앤스로픽과 공동의 목표를 갖고 AI의 안전과 혁신에 대해 노력을 이어갈 것"이라며 "이번 행사를 통해 서로의 인사이트를 공유하고 사람과 AI를 정렬하는 미래를 만들어나가고 싶다"고 전했다. wongood@fnnews.com 주원규 기자

아마존웹서비스(AWS)가 국내 인공지능(AI) 스타트업의 해외 진출을 돕고 생태계 활성화에 나선다. 18일 서울 강남구 코엑스에서 열린 '2025 AWS 유니콘데이'에서 이기혁 AWS 스타트업 에코시스템 총괄은 "글로벌 벤쳐 캐피탈 등을 포괄하는 AWS의 글로벌 네트워크를 통해 현지에 있는 기업들과 한국인 스타트업을 연결해 더 많은 기회를 제공하려고 한다"며 이같이 밝혔다. 이어 이 총괄은 AI 분야에 대한 투자가 급격히 늘고 있음을 설명하며 "지난해 글로벌에서 가장 큰 투자 업체를 분석하면 75%가 AI, 기업간거래(B2B) 영역에 포진돼 있다"며 "3년 전에만 해도 가능하지 않았던 숫자, 올해는 더 증가할 것으로 예상된다"고 했다. AWS 측은 수많은 '유니콘' 기업들이 AI 분야에서 등장할 것으로 예측하며, 자사가 클라우드부터 생성형 인공지능(AI) 인프라, 구축 솔루션, 애플리케이션 등 자사의 인프라를 통해 지원을 강조했다. 김영태 AWS 시니어 세일즈 매니저는 "90% 이상의 AI 유니콘은 이미 AWS 고객"이라며 "2025년은 본격적인 사업 가치가 생성되고 넥스트 점프하는 한해가 될 것"이라고 말했다. 이어 "올해와 내년에는 더 많은 유니콘들이 생성형 AI 분야에서 나올 것"이라며 "AWS는 팀을 운영하고 VC와 연계해 비즈니스 기회 발굴, 글로벌 진출까지 도우며 함께 성장하는 AI 팀의 여정을 돕고 싶다"고 전했다. 오픈AI의 대항마로 꼽히는 미국 AI 기업 앤스로픽의 마이크 트리거 최고제품책임자(CPO)도 이날 행사에 참석해 한국의 AI 환경과 스타트업을 비롯한 다양한 기업들에 주목하고 있다고 전했다. 크리거 CPO는 "한국 시장이 우리에게 정말 중요한 순간을 맞고 있다"며 "최근 한국에선 AWS 베드록 API를 통해 우리 제품들이 급속히 도입되고 있고, 흥미진진한 성장 기회가 열리고 있고 수많은 고객들이 우리의 모델을 통해 실질적인 비즈니스 가치를 얻고 있다"고 강조했다. 그러면서 크리거 CPO는 지난 2022~2024년까지 한국이 일본에 비해 앤스로픽의 AI '클로드' 이용량이 급격히 늘고 있다는 시각 자료를 띄웠다. 앤스로픽 측에 따르면 다양한 국내 기업들이 클로드를 선택해 개발에 이용하고 있고, AWS와 협업을 바탕으로 전세계 기업들을 돕고 있다. 앤스로픽은 지난달 코딩 특화 모델인 최신 버젼 '클로드 소넷 3.7'을 출시한 바 있다. 크리거 CPO는 신뢰할 수 있고 확장 가능한 AI 에이전트를 개발하고, 최신 모델을 통해 비용 효율성을 극대화하는 것을 목표로 하고 있다고 설명했다. 그는 "AI 에이전트에 대해 많은 개발자들과 관심을 가지고 있다"면서 "1세대 생성형 AI를 회사에 처음 온 인턴으로 비유했다면, 현재는 '회사의 전문가' 수준이 됐고 실질적으로 업무에 도움을 주는 AI 에이전트 개발이 주가 될 것이고 비용 절감이 중요한 부분이 될 것"이라고 예측했다. wongood@fnnews.com 주원규 기자

[파이낸셜뉴스] 중국 '딥시크' 등장 이후 격화되는 인공지능(AI) 기술 경쟁 속에 오픈AI에 이어 앤스로픽(Anthropic)도 한국을 찾는다. ‘오픈AI 대항마’로 꼽히는 앤스로픽은 내달 한국에서 개발자 행사를 열고 국내 주요 AI 기업들을 만날 예정이다. 25일 업계에 따르면 앤스로픽은 오는 3월 19일 서울 잠실 시그니엘에서 ‘코리아 AI 빌더스 서밋’을 연다. 콕스웨이브와 함께 하는 이날 행사에는 마이크 크리거 최고제품책임자(CPO)를 포함한 앤스로픽 핵심 경영진이 참여한다. 오픈AI 창립 멤버들이 설립한 앤스로픽은 최근 자사 최신 AI 모델인 클로드 3.7 소넷을 공개했다. 클로드 3.7 소넷은 추론과 신속 응답을 결합한 '하이브리드' 형태로, 앤스로픽 AI 모델 중 역대 가장 뛰어난 성능을 가지고 있다. 앤스로픽은 '코리아 AI 빌더스 서밋' 행사 홈페이지를 열고 "앤스로픽이 전 세계적으로 성장하면서 한국 스타트업과 만나게 되어 기쁘다"라며 "AI 최전선에서 있는 이라면 우리와 함께하며 앤스로픽의 선도적 모델 제품군에 대해 알아보라"며 참여를 독려하고 있다. 한편 이번에 방한하는 크리거 CPO는 행사 전날인 18일 서울 코엑스에서 열리는 아마존웹서비스(AWS)의 스타트업 행사 ‘유니콘 데이 2025’의 키노트 강연자로도 참석할 예정이다. yjjoe@fnnews.com 조윤주 기자

【실리콘밸리=홍창기 특파원】  오픈AI의 대항마 인공지능(AI) 스타트업 앤스로픽이 자사의 AI 모델에서 유해한 콘텐츠를 유도하는 것을 방지하는 새로운 시스템을 선보였다. 마이크로소프트(MS)와 메타플랫폼을 비롯한 주요 빅테크들이 자사 AI 모델에서 사용자를 보호할 방법을 찾기 위해 경쟁하는 가운데서다. 3일(현지시간) 앤스로픽은 미국 샌프란시스코 본사에서 '헌법적 분류자'라는 새로운 '탈옥'(jailbreaking)" 방지 시스템을 발표했다. '헌법적 분류자'는 앤스로픽의 AI 모델 클로드 3.5 소네트를 구동하는 대규모 언어 모델(LLM)을 보호해준다. 명령어(프롬프트)로 만들어질 수 있는 유해 콘텐츠를 모두 모니터링할 수 있다는 것이다. 앤스로픽은 헌법적 분류자를 자사의 클로드 3.5 소네트에 즉시 적용하지는 않지만 향후 더 업그레이드된 AI 모델이 출시될 경우 이를 구현하는 방안을 고려하고 있다. 앤스로픽이 이런 시스템을 마련한 것은 화학무기 제조 방법 등 불법적이거나 위험한 정보를 생성하도록 AI 모델을 조작하려는 시도인 '탈옥'을 막기 위해서다. AI 모델에 대한 탈옥 시도는 그동안 계속돼 왔다. 프롬프트에 특이한 대문자를 사용하거나 할머니의 인물을 채택, 악의적인 주제에 대한 이야기를 들려달라고 요청하는 것이 대표적이다. 때문에 앤스로픽 이외에 다른 AI 기업들도 앤스로픽처럼 탈옥 시도를 막기 위한 조치를 이미 시행했거나 시행을 앞두고 있다. MS가 '프롬프트 쉴드', 메타가 '프롬프트 가드'를 도입한 것이 대표적이다. 파이낸셜타임스(FT)는 "AI 기업들의 이런 조치는 AI 모델을 안전하게 채택하도록 설득하는 데 도움이 될 수 있다"라고 짚었다. 앤스로픽은 자사 탈옥 방지 시스템의 효과를 검증하기 위해 레드팀 팀원들에게 최대 1만5000달러의 보상금을 제공했다. 레드팀은 조직 내의 취약점을 발견해 경고하는 자정 기구를 뜻한다. 레드 팀원들은 앤스로픽의 탈옥 방지 시스템 방어선을 뚫기 위해 3000시간 이상을 투자했다. 앤스로픽의 AI 모델 클로드 3.5 소네트는 탈옥 방지 보호 장치가 없는 경우 탈옥 시도를 14%만 거부했지만 보호 장치가 가동될 경우 95% 이상의 탈옥 시도를 거부했다. 이와 관련, 앤스로픽의 미르난크 샤르마는 "탈옥 방지 작업의 주된 동기는 심각한 화학 무기 물질에 대한 것이었지만 우리의 탈옥 방지 시스템의 장점은 신속하게 대응할 수 있다는 것이다"라고 말했다. MS의 AI 레드 팀을 이끌고 있는 리더 람 샹카르 시바 쿠마르는 "지난 2016년에 탈옥 위협자는 적대국이었다"면서도 "지금은 10대가 우리를 가장 위협하는 존재다"라고 설명했다. theveryfirst@fnnews.com 홍창기 기자