관련종목▶
PIM, 메모리 간 데이터 이동↓...에너지 효율↑
PNM, CPU-메모리 간 발생하는 병목 현상 줄여
삼성전자는 20일, 자사가 개발한 프로세싱인메모리(PIM)를 세계적인 반도체 업체인 AMD의 그래픽처리장치(GPU) 가속기 카드에 탑재해 성능을 입증하는 데 성공했다고 밝혔다.
PIM은 프로세서가 수행하는 데이터 연산 기능을 메모리 내부에 구현한 기술로, 메모리 내부에서 연산 처리가 가능해 중앙처리장치(CPU)와 메모리 간 데이터 이동이 줄어들어 인공지능(AI) 가속기 시스템의 성능과 에너지 효율을 높일 수 있는 장점이 있다. 삼성전자는 연산 기능을 갖춘 차세대 메모리반도체인 PIM 기술을 활용한 메모리 솔루션(HBM-PIM)을 확보하고, 이를 구현하는데 필요한 소프트웨어에 대한 표준화를 완료했다.
삼성전자에 따르면 HBM-PIM 클러스터를 구현해 대규모 AI 및 고성능 컴퓨터 애플리케이션에 적용한 결과 기존 GPU 가속기 대비 성능은 2배 늘고 에너지 소모는 50% 감소했다. 또 8개의 GPU 가속기로 시스템을 구성하고 대용량 AI 언어 모델을 학습시켜 본 결과 HBM-PIM을 탑재한 GPU 가속기가 단순 HBM만을 탑재한 GPU 가속기보다 1년 동안 사용하는 에너지가 약 2100GWh(기가와트시) 가량 절감되는 것으로 나타났다. 탄소 배출량을 약 96만t 가량 줄일 수 있는 양이며, 이는 약 1억 그루의 소나무가 1년 동안 흡수하는 탄소보다 많다.
삼성전자는 고용량 AI 모델을 위한 컴퓨트익스프레스링크(CXL) 기반의 프로세싱니어메모리(PNM) 솔루션도 개발하고 있다.
최근 차세대 D램으로 불리는 CXL은 고성능 컴퓨팅 시스템에서 CPU, GPU, 가속기, 메모리 등을 효율적으로 사용하기 위해 만든 새 표준화 인터페이스다. CPU 증설 없이 메모리의 용량을 쉽게 확장할 수 있도록 한 것이 특징이다. PNM 기술은 메모리를 데이터 연산 기능에 활용해 작업 처리 속도를 높였다. 연산 기능을 메모리 옆에 위치 시켜 CPU-메모리 간 발생하는 병목 현상을 줄이고 시스템 성능을 개선할 수 있다.
또 높은 메모리 대역폭을 요구하는 추천 시스템이나 인-메모리 데이터베이스 등의 응용에서 약 2배 이상 성능이 향상되는 것을 확인했다. 향후 AI, 메타버스 등 미래 산업의 고성능 수요에 대응하고 친환경 경영에도 기여할 것으로 내다봤다.
박철민 삼성전자 메모리사업부 신사업기획팀장(상무)은 "HBM-PIM 클러스터 기술은 업계 최초의 거대 규모 인공지능 분야 맞춤형 메모리 솔루션"이라며 "통합 소프트웨어 표준화 과정을 거쳐 CXL-PNM 솔루션과도 접목해 에너지 절감 및 탄소 배출 저감 효과를 극대화함으로써 친환경 경영에 기여할 것"이라고 말했다.
한편 1993년 메모리 시장 전체에서 1위에 등극한 삼성전자는 현재까지 왕좌를 유지하고 있다. 시장조사기관 옴디아에 따르면 삼성전자의 올해 2·4분기 D램과 낸드 시장 점유율은 각각 43.4%, 33.3%로 세계 1위를 유지했다.
rejune1112@fnnews.com 김준석 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지