엔비디아가 엔비디아 이더넷 네트워킹 기술을 통해 엑스AI(xAI)가 구축한 세계 최대 AI 슈퍼컴퓨터 ‘콜로서스(Colossus)’를 가속화하고 있다고 30일 밝혔다. 미국 테네시주 멤피스에 위치한 엑스AI의 콜로서스 슈퍼컴퓨터 클러스터는 엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼을 사용해 10만개의 엔비디아 호퍼 그래픽처리장치(GPU)로 구성된 대규모 시스템을 구현했다. 스펙트럼-X 플랫폼은 표준 기반 이더넷을 사용해 멀티 테넌트, 하이퍼스케일 인공지능(AI) 팩토리에 뛰어난 성능을 제공하도록 설계됐으며 원격 직접 메모리 액세스(RDMA) 네트워크를 지원한다. 콜로서스는 세계에서 가장 큰 AI 슈퍼컴퓨터로, 엑스AI 그록 거대 언어 모델(LLM) 제품군을 훈련하는 데 사용된다. 이 모델은 엑스 프리미엄 구독자를 위한 챗봇 기능을 제공하는 데도 활용된다. 현재 엑스AI는 콜로서스 규모를 두 배로 늘려 총 20만개의 엔비디아 호퍼 GPU로 구성하는 작업을 진행 중이다. 엔비디아와 엑스AI는 지원 시설과 최첨단 슈퍼컴퓨터를 단 122일 만에 구축했다. 일반적으로 이 정도 규모의 시스템을 구축하는 데 수개월에서 수년이 걸리는 기간을 생각하면 매우 빠른 속도라는 것이 회사 측 설명이다. 첫 번째 랙이 바닥에 설치한 시점부터 훈련이 시작되기까지 단 19일이 걸렸다. 초대형 그록 모델을 훈련하는 동안 콜로서스는 전례 없는 네트워크 성능을 달성했다. 네트워크 패브릭의 세 계층 모두에서 이 시스템은 플로우 충돌로 인한 애플리케이션 지연 시간 저하나 패킷 손실이 전혀 발생하지 않았다. 또한 스펙트럼-X 혼잡 제어를 통해 95%의 데이터 처리량을 유지했다. 엔비디아 네트워킹 담당 수석 부사장인 길라드 샤이너는 “AI는 이제 필수적인 존재가 됐으며 향상된 성능, 보안, 확장성, 비용 효율성을 필요로 한다"며 "엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼은 엑스AI와 같은 혁신가들에게 AI 워크로드의 빠른 처리, 분석, 실행을 제공하고 결과적으로 AI 솔루션의 개발과 배포, 출시 시간을 단축할 수 있도록 설계됐다”고 말했다. 일론 머스크는 자신의 X 계정에서 “콜로서스는 세계에서 가장 강력한 훈련 시스템"이라며 "엑스AI 팀과 엔비디아, 그리고 많은 파트너, 공급업체들이 훌륭한 작업을 했다”고 밝혔다. 엑스AI 대변인은 “엑스AI는 세계에서 가장 크고 가장 강력한 슈퍼컴퓨터를 구축했다"며 "우리는 엔비디아의 호퍼 GPU와 스펙트럼-X를 통해 대규모 AI 모델 훈련의 한계를 뛰어넘었으며, 이더넷 표준을 기반으로 초고속화되고 최적화된 AI 팩토리를 구축할 수 있게 됐다”고 전했다. 스펙트럼-X 플랫폼의 핵심은 최대 800Gb/s의 포트 속도를 지원하는 스펙트럼 SN5600 이더넷 스위치로, 스펙트럼-4 스위치 ASIC을 기반으로 한다. 엑스AI는 전례 없는 성능을 위해 스펙트럼-X SN5600 스위치와 엔비디아 블루필드-3 슈퍼NIC를 함께 사용하기로 선택했다. solidkjy@fnnews.com 구자윤 기자
2024-10-30 10:11:26[파이낸셜뉴스] 부산시가 인공지능(AI) 서버업체인 슈퍼마이크로컴퓨터와 친환경 데이터센터 산업 육성을 위해 손을 맞잡았다. 시는 4일 시청에서 슈퍼마이크로컴퓨터, 부산정보산업진흥원과 '친환경 데이터센터 산업 육성을 위한 업무협약'을 체결했다고 밝혔다. 찰스 리앙이 1993년 설립한 슈퍼마이크로컴퓨터는 세계 최대 규모 서버·저장장치 생산 기업이다. 데이터센터 에너지 설계·구축 분야에서도 글로벌 선도 기업인 이 회사는 2023년 기준 55억달러 매출을 달성했고 미국 캘리포니아주 산호세에 본사가 있다. 데이터센터는 AI, 클라우드, 사물인터넷, 빅데이터, 자율주행 등 정보(IT)서비스를 제공하는 기반 시설이다. 친환경 데이터센터는 에너지 효율은 높이고, 탄소배출을 줄일 수 있는 친환경 기술을 접목한 시설이다. 이번 업무협약은 이들 세 기관이 서로 협력해 부산 에코델타시티 그린데이터센터 집적단지를 중심으로 부산에 탄소배출을 줄이는 친환경 데이터센터 산업 생태계를 조성하고, 이를 바탕으로 친환경 건축, 고효율 정보기술(IT) 장비 개발, 신재생에너지 활용 등 전·후방 산업을 육성하기 위해 마련됐다. 협약에 따라 슈퍼마이크로컴퓨터는 친환경 액체 냉각 데이터센터 구축 기술, 데이터센터 에너지 효율 연구개발, 전문 인력양성, 데이터센터 투자유치 등을 지원하고 부산기술지원센터 또는 연구개발(R&D)센터를 구축하는 등 다양한 협력사업을 추진한다. 시와 부산진흥원은 이에 대한 행정적 지원을 제공한다. 이준승 시 행정부시장은 "이번 협약이 에코델타시티 그린데이터센터 집적단지 입주기업에 도움이 될 뿐만 아니라 지역 데이터센터 산업 전반을 활성화하는 중요한 전환점이 될 것"이라며 "인공지능, 반도체, 냉각 장치, 서버 장비 등 데이터센터 산업과 관련한 다양한 전후방 분야 기업 유치도 가능해질 것으로 기대한다”라고 밝혔다. bsk730@fnnews.com 권병석 기자
2024-09-04 09:18:48【실리콘밸리=홍창기 특파원】 일론 머스크 테슬라 최고경영자(CEO)가 테슬라의 인공지능(AI) 슈퍼컴퓨터 센터 내부를 26일(현지시간) 공개했다. 테슬라는 텍사스주 오스틴 본사의 기가 텍사스 핵심 건물을 새롭게 확장하면서 AI 슈퍼컴퓨터 시설을 위한 공간을 대규모로 마련했다. 머스크는 이날 "오스틴의 테슬라 본사에 지어지고 있는 거대한 AI 훈련용 슈퍼클러스터인 코르텍스(Cortex) 내부를 오늘 찍은 영상"이라고 자신의 엑스(X·옛 트위터) 계정에서 밝혔다. 머스크는 엑스에서 데이터센터 형태로 컴퓨팅 시설이 대규모로 설치된 모습을 보여주는 영상을 게시했다. 영상을 보면 넓은 공간에 컴퓨터가 층층이 쌓아 올려진 서버 랙이 계속해서 이어져 있는 것을 볼 수 있다. 그는 "이것이 현실 세계의 AI를 풀어낼 것"(solve real-world AI)이라고 설명했다. 머스크는 지난 6월 초 테슬라의 AI 기술 개발을 위해 엔비디아의 AI 가속기를 대량 구매할 계획을 밝힌 바 있다. 당시 그는 엔비디아 AI 칩 구매를 위해 올해 대략 30억∼40억달러를 쓸 것이라고 전망했다. 이와 관련, 온라인매체 테슬라라티는 "머스크는 테슬라 본사의 슈퍼클러스터에 엔비디아의 H100과 H200 제품을 총 10만개가량 탑재할 계획이다"고 전했다. 머스크가 테슬라 AI 기술 개발에 박차를 가하고 있는 것은 테슬라의 완전자율주행을 구현하기 위해서다. 테슬라는 AI를 통해 현재 '완전자율주행(FSD)' 소프트웨어와 휴머노이드 로봇 옵티머스의 성능을 향상시키겠다는 목표를 가지고 있다. 한편, 아울러 테슬라는 슈퍼컴퓨터 구동에 필요한 냉각 시스템도 해당 시설 옆에 별도로 구축 중이다. theveryfirst@fnnews.com 홍창기 기자
2024-08-27 05:00:31카카오클라우드가 독일에서 개최된 국제 슈퍼컴퓨팅 콘퍼런스에서 발표된 전 세계 슈퍼컴퓨터 순위 TOP500에서 44위와 70위를 기록했다. 28일 카카오엔터프라이즈에 따르면 'TOP500.org'는 전 세계 슈퍼컴퓨터 순위 집계로 지난 1993년 독일과 미국의 대학교수들이 주축이 돼 시작된 프로젝트다. 이후 매년 두 차례 전 세계의 가장 강력한 슈퍼컴퓨터 500대 순위를 발표하고 있다. 카카오클라우드는 올해 처음으로 TOP500에 진출하며 100위권 내에 2종의 슈퍼컴퓨터가 랭크됐다. 순위권에 든 국내 기업 중 클라우드제공사업자(CSP)로는 카카오엔터프라이즈가 유일하다. 44위를 기록한 카카오클라우드는 21.21페타플롭스(PFlops)로 측정됐다. 이는 1초에 2.1경 번 연산이라는 천문학적 처리량을 나타낸다. 일반적인 PC 212만 대가 동시에 연산하는 것과 같다. soup@fnnews.com 임수빈 기자
2024-05-28 18:19:37[파이낸셜뉴스] 율호가 S사와 약 504억원 규모의 종합기술원용 슈퍼컴 증설사업 공급계약을 체결했다고 1일 밝혔다. 이는 지난해 매출액 대비 56.07%이며, 계약기간은 오는 12월 31일까지다. 이번 계약에 따라 율호는 슈퍼컴 구축에 필요한 컴퓨터서버용 그래픽처리장치(GPU) 등 핵심 부품 및 관련 소프트웨어를 공급할 예정이다. 율호는 지난해 3월 약 220억원 규모의 델(Dell Technologies) 소프트웨어를 S사에 한 차례 공급한 바 있다. 이를 통해 율호는 S사의 1차벤더로 등록됐으며 이번이 두 번째 대규모 계약이다. 율호는 글로벌 기업 델의 1등급(Titanium Tire 1) 파트너사다. 델의 주요 제품 유통을 비롯해 스토리지, 서버, 백업 및 관리 솔루션의 공급과 유지보수 지원 사업을 영위하고 있다. 티타늄 등급은 세계 각국의 소수 기업에게만 부여되는 최우수 파트너사 자격이다. 종합기술원은 S사의 이공계 전문 연구소다. △인공지능(AI) 알고리즘 △양자컴퓨팅 △2차전지 소재 △반도체 소재 △바이오 등 다양한 분야의 미래 신기술을 연구하고 있다. 업계에 따르면 보유 중인 슈퍼컴퓨터는 총 2대다. 슈퍼컴퓨터는 정기적인 교체를 통해 성능을 고도화해야 한다. 성능 저하를 막기 위해서는 중앙처리장치(CPU), GPU 등의 추가 증설이 필요하다. 통상 주요 선진국들의 글로벌 기업 및 핵심 연구기관은 4~5년마다 교체하고 있으며, 미국은 3년 주기로 교체한다고 알려졌다. 율호 관계자는 “안정적으로 대규모 데이터를 처리하고 관리하기 위해선 스토리지 서버의 증설이 필수적으로 요구된다”며 “최근 AI, 데이터센터(IDC), 슈퍼컴퓨터 등 엄청난 양의 데이터를 요구하는 산업의 발달로 스토리지 서버 수요가 증가하고 있는 추세”라고 말했다. 그는 이어 “율호는 오랜 업력과 글로벌 핵심 기업과의 파트너십을 기반으로 국내외 다수 기업에 스토리지 제품을 공급, 데이터 전산장비를 개발하고 있다”며 “스토리지 서버 사업 부문은 안정적인 회사의 캐시카우 역할을 수행하고 있으며 앞으로도 슈퍼컴퓨터 시장에서의 입지를 넓히기 위해 최선을 다할 것”이라고 덧붙였다. 한편, 율호는 기존사업의 안정적 성장을 기반으로 탄자니아에서 진행 중인 대규모 광산인수를 조만간 마무리할 예정이다. 니켈, 흑연 등 2차전지 주요 소재 광산 인수가 임박한 상황이다. 광산 인수에 따른 원광 채굴뿐 아니라 탄자니아정부에서 추진하고 있는 광물분석연구소 및 원광 정광, 제련 사업에도 협업 형식으로 참여한다. 이를 통해 국내 2차전지 업체들에게 니켈, 흑연 공급처로 중요한 역할을 할 것으로 기대된다. dschoi@fnnews.com 최두선 기자
2024-04-01 10:06:13[파이낸셜뉴스] 마이크로소프트(MS)와 오픈AI가 1000억달러(약 134조6000억원)를 투입해 인공지능(AI) 슈퍼컴퓨터를 포함한 데이터센터를 구축할 계획이라고 정보통신(IT) 전문매체 디인포메이션이 29일(현지시간) 보도했다. 디인포메이션은 소식통 3명을 인용해 MS와 오픈AI 양사의 고위 임원들이 현재 이 같은 계획을 수립하고 있다고 전했다. 양사가 추진 중인 데이터센터의 핵심은 슈퍼컴퓨터로, 오픈AI의 AI 모델을 구동하기 위해 특별히 제작된 수백만개의 서버 칩이 들어갈 예정이다. 이 데이터센터를 구축하는 프로젝트는 '스타게이트(Stargate)'로 불리고, 앞으로 6년에 걸쳐 추진될 것으로 알려졌다. 데이터센터는 여러 공급업체의 다른 칩을 사용하도록 설계될 예정이다. 이 프로젝트에 드는 비용 1000억달러는 MS가 부담할 가능성이 큰 것으로 전해졌다. 이 같은 예산 규모는 현존하는 최고 수준의 데이터센터와 비교해 100배 이상 큰 규모로, 향후 AI 컴퓨팅 용량을 구축하는 데 필요한 투자가 거대한 규모로 이뤄질 것임을 방증한다고 디인포메이션은 설명했다. MS 대변인은 이 보도에 대해 "우리는 항상 AI 역량의 한계를 확장하기 위해 필요한 다음 세대의 인프라 혁신을 계획하고 있다"고 밝혔다. 다만 MS 측은 슈퍼컴퓨터 구축 계획에 관해서는 직접적으로 언급하지 않았다고 외신은 전했다. welcome@fnnews.com 장유하 기자
2024-03-30 11:07:47인텔은 델 테크놀로지스, 엔비디아, 오하이오 슈퍼컴퓨터 센터(OSC)와 협업해 최첨단 고성능 컴퓨팅(HPC) 클러스터인 카디널(Cardinal)을 23일 공개했다. 카디널은 연구, 교육 및 산업 혁신, 특히 인공지능(AI) 분야에서 증가하는 지역 내 HPC 리소스 수요를 충족하기 위해 특별히 설계됐다. 카디널 클러스터는 증가하는 인공지능(AI) 워크로드 수요를 충족할 수 있는 하드웨어를 갖추고 있다. 기능과 용량 모든 면에서 이번 새로운 클러스터는 2016년에 출시된 오웬스 클러스터를 대체할 시스템보다 더 대규모의 업그레이드가 될 전망이다. 카디널 클러스터는 메모리 사용량이 많은 HPC 및 AI 워크로드를 효율적으로 관리하는 동시에 프로그래밍 기능, 이식성 및 에코시스템 채택을 촉진하는 기반이 되는 델 파워엣지 서버와 고대역폭 메모리(HBM)를 갖춘 인텔 제온 CPU 맥스 시리즈를 활용한 이기종 시스템이다. 단일 소프트웨어 스택과 x86 기반 기존 프로그래밍 모델을 갖춘 이 클러스터는 광범위한 사용 케이스를 처리하고 쉽게 도입 및 배포할 수 있도록 지원하면서 OSC의 처리 능력을 두 배 이상 향상시킬 수 있다. 인텔 데이터 센터 AI 솔루션 제품군 총괄 오기 브르기치 부사장은 “인텔 제온 CPU 맥스 시리즈는 가장 널리 채택된 AI 프레임워크와 라이브러리를 활용하여 HPC 및 AI 워크로드를 개발하고 구현하는 데 최적의 선택지"라며 "이 시스템의 고유한 이기종성을 통해 OSC의 엔지니어, 연구원 및 과학자들이 이 시스템이 제공하는 두 배 이상 메모리 대역폭 성능을 최대한 활용할 수 있도록 지원할 것”이라고 말했다. solidkjy@fnnews.com 구자윤 기자
2024-02-23 10:09:01[파이낸셜뉴스] 구글의 인공지능(AI)이 내놓은 일기 예보가 슈퍼컴퓨터로 계산하는 현대 일기 예보보다 훨씬 빠르고 정확하다는 실험 결과가 나왔다. 연구진들은 스스로 학습하는(머신러닝) AI를 이용하면 복잡한 연산과 비싼 슈퍼컴퓨터 없이도 효율적인 예측이 가능하다고 밝혔다. 파이낸셜타임스(FT)에 따르면 구글의 모회사인 미국 알파벳의 AI 조직인 딥마인드는 지난 14일(이하 현지시간) 세계적인 과학 저널인 사이언스에 동료평가를 마친 논문을 올렸다. 딥마인드의 레미 람 박사팀은 논문을 통해 과거 대기 상태에 대한 재분석 데이터를 머신러닝으로 학습해 중기(10일간) 예보를 하는 AI 모델 '그래프캐스트'를 개발했다고 주장했다. 그래프캐스트는 유럽중기예보센터(ECMWF)의 1979~2017년 재분석 데이터를 학습했다. 해당 AI는 현재와 6시간 전 지구 기상 정보를 이용해 앞으로 6시간의 날씨를 예측하고, 6시간 예측 결과를 다시 입력값으로 사용해 10일간 일기 예보를 생성한다. 그래프캐스트는 전 세계 일기 예보를 위도·경도 단위로 1분 안에 내놓을 수 있다. 연구팀은 ECMWF의 고해상도 예보(HRES)와 정확도를 비교한 결과 그래프캐스트가 중기 예보 기준으로 기온과 기압 등 1380개 검증 항목 가운데 90%에서 더 정확했다고 주장했다. 연구팀은 그래프캐스트가 직접 학습하지 않은 기상 이변 같은 현상의 예측에서도 더 우수한 성능을 보였다며 "이것이 일기 예보의 전환점이 될 것으로 믿는다"고 주장했다. 현대 일기 예보에 주로 쓰이는 수치 예보 방식은 세계 각국의 기상청이 각자의 방정식에 수치를 넣어 슈퍼컴퓨터를 이용해 결과를 계산하는 방식이다. 그 결과 변수가 많아질수록 더 많은 컴퓨터 자원과 비용이 필요하다. 반면 그래프캐스트는 학습한 자료를 토대로 직접 연산을 통해 미래의 기상 상태를 추리한다. ECMWF의 매튜 챈트리 머신러닝 코디네이터는 FT를 통해 "구글 딥마인드의 모델은 2년 전 예상했던 것보다 훨씬 더 빠르고 인상적으로 발전했다"고 말했다. 그는 그래프캐스트가 타사의 AI 모델보다 뛰어나다며 "화웨이의 판구웨더, 엔비디아의 포캐스트넷보다 더 나았을 뿐만 아니라 우리의 자체 예측 시스템보다도 정확했다"고 밝혔다. 챈트리는 "데이터 학습 훈련을 받고 나면 그래프캐스트의 운영 비용은 급격히 저렴해진다"라고 설명했다. 이어 "기존 방정식 계산법은 상당히 에너지 집약적인데 그래프캐스트는 에너지 소비 측면에서 약 1000배 저렴하다"고 지적했다. 그러나 FT는 AI가 지난달 멕시코만을 휩쓸었던 허리케인 ‘오티스’처럼 기상이 갑자기 악화되는 상황에서 전통적인 수치 예보에 비해 나을 것이 없었다고 전했다. 그래프캐스트 연구팀은 머신러닝에 따른 일기 예보가 “전통적인 수치 예보를 대체하는 것으로 보면 안 된다”고 주장했다. 이들은 이번 논문에 대해 “머신러닝이 현재 쓰는 방법을 보완하고 개선하는 데 쓰일 수 있다는 잠재력을 보여주는 증거”라고 설명했다. pjw@fnnews.com 박종원 기자
2023-11-15 13:13:51[파이낸셜뉴스] 생성형 인공지능(AI)의 핵심 반도체를 생산하고 있는 엔비디아(NVDA)가 최근 챗GPT 열풍에 힘입어 시가총액 1조 달러(한화 약 1319조원)에 근접한 가운데, 새로운 AI 슈퍼컴퓨터를 선보였다. '챗GPT 열풍'에 뜬 엔비디아, 새 날개 장착 29일(현지시간) 미국 경제 포털 '야후 파이낸스'는 엔비디아의 관련 발표 내용을 인용해 새로운 AI 슈퍼컴퓨터를 출시한다고 보도했다. 새로운 AI 슈퍼컴퓨터 라인업에는 '엔비디아 DGX GH200'이라는 고성능 슈퍼컴퓨터와 비디오 게임 개발에 생성 AI를 적용한 'Nvidia ACE'라는 플랫폼이 포함된다. 이중 DGX GH200 슈퍼컴퓨터는 단일 GPU(그래픽 처리 장치) 역할을 할 수 있는 256개의 GH200 슈퍼칩이 결합돼, 이전의 반도체보다 메모리가 약 100배에 달하는 새로운 시스템이 탄생한다고 엔비디아는 설명했다. 젠슨 황 최고경영자(CEO)는 DGX GH200에 대해 "생성형 AI, 대규모 언어 모델 및 추천 시스템은 현대 경제의 디지털 엔진"이라고 말했다. 주가 폭등에 시가총액 1조달러 근접 해당 발표는 시장의 기대를 크게 상회하는 실적으로 주가가 급등한 직후 나온 것이다. 지난 26일 뉴욕증시에서 엔비디아는 전거래일보다 2.54% 상승한 389.46 달러(약 51만원)를 기록했다. 시총은 약 9631억 달러(약 1270조원)였으며, 1조달러에 근접한 수치다. 직전일에도 엔비디아는 24.37% 폭등한 379.80 달러(50만원)를 기록한 바 있다. 엔비디아는 이번 분기에 약 110억 달러(약 14조원)의 매출을 기대한다고 밝혔다. 엔비디아에 대한 이번 분기 시장 예상치는 71억5000만 달러(약 9조원) 수준이다. helpfire@fnnews.com 임우섭 기자
2023-05-30 11:05:32【도쿄=조은효 특파원】 일본이 보유한 슈퍼컴퓨터 '후가쿠'가 단순계산속도 등 4개 부문의 성능 평가에서 미국 '서밋'을 제치고 3차례 연속으로 세계 1위에 올랐다. 일본 국립 이화학연구소는 28일 고베시 계산과학연구센터에 설치된 후가쿠가 올 6월의 세계 슈퍼컴퓨터 평가에서 종합 1위를 차지했다고 발표했다. 후가쿠는 이화학연구소와 일본 기업 후지쓰가 공동개발한 슈퍼컴퓨터다. 후가쿠는 단순계산속도(TOP500), 실용적 계산속도(HPCG), AI계산성능(HPL-AI), 빅데이터 처리성능(Graph500) 등 4개 평가 부문에서 모두 1위를 유지했다. 이로써 후가쿠는 작년 6월과 11월에 이어 3차례 연속으로 세계 최고의 슈퍼컴퓨터 지위를 지켰다. 후가쿠는 단순계산 속도에선 지난해 11월 평가 때와 같은 초당 44경2010조 회의 성능으로, 2위인 미국 오크리지국립연구소의 슈퍼컴퓨터 '서밋'(초당 14경 8600조 회)을 큰 격차로 따돌렸다. 일본 이화학연구소는 슈퍼컴퓨터 성능 평가에서 3차례 연속으로 '4관왕'을 차지한 것은 세계적으로 처음이라고 밝혔다. 후가쿠 개발에는 일본 정부도 1100억엔(약 1조1200억원)을 지원했다. 일본은 슈퍼컴 TOP500 분야에서 게이를 앞세워 2011년 6월과 11월 연이어 세계 1위에 오른 이후 미국과 중국에 밀려났다. 그러다 지난해 6월 평가 때 시험가동 중이던 후가쿠를 앞세워 9년 만에 1위를 탈환했다. ehcho@fnnews.com 조은효 기자
2021-06-29 16:53:24