[IT 소식] ‘초거대 AI 시대’ 연산하는 메모리로 초격차 만드는 삼성·SK
‘초거대 AI 시대’ 연산하는 메모리로 초격차 만드는 삼성·SK
데이터 폭증 시대…메모리 역할 변화
스스로 정보 처리하는 연산 메모리 개발
데이터 병목 없애고, 전력 소모도 줄여
“연산 기능 추가되면 메모리 선두 韓 수혜”
데이터 저장을 주 역할로 하던 메모리반도체가 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 시스템반도체와 비슷한 연산기능을 갖추는 중이다. 초거대 인공지능(AI)의 등장으로 메모리 역할이 변한 데 따른 것이다. 이전과 비교해 아주 높은 수준의 정보 처리 능력이 필요한 초거대 AI에는 메모리도 연산을 해야만 데이터 흐름이 원활치 않은 데이터 병목 현상이 발생하지 않는다.
24일 시장조사업체 IDC에 따르면 2020년 전 세계 디지털 정보량은 90ZB(제타바이트)로, 99조㎇(기가바이트)에 해당한다. 지구 위 모든 해변 모래알 숫자의 약 1282배에 달한다. 128㎇ 태블릿PC에 이 정보를 저장하고 쌓으면 지구와 달 사이 거리(55만7704㎞)의 약 15배 높이까지 쌓을 수 있다. 데이터 증가 속도는 더욱 가파르게 오르고 있는데, 2025년이면 175ZB에 이를 전망이다.
이런 데이터 처리를 위해 삼성전자와 SK하이닉스 등 글로벌 메모리 선두 기업들은 최근 차세대 D램으로 불리는 PIM(프로세스-인-메모리)을 선보이고 있다. PIM은 CPU나 GPU 등 프로세서가 수행하는 데이터 연산기능을 메모리 내부에 넣은 것이다. PIM을 활용하면 전체 시스템이 데이터 일부를 메모리에서 자체적으로 처리할 수 있어 CPU와 메모리 간 데이터 이동이 줄어 성능이 높아진다. 데이터 이동 과정에서 소모하는 전력도 아낄 수 있다.
삼성전자는 최근 PIM 기술을 활용한 고대역메모리(HBM)인 HBM-PIM 솔루션을 확보하고, AMD의 AI 가속기에 사용되는 GPU M–100에 적용했다. 이를 가지고 대규모 AI와 고성능 컴퓨팅(HPC)에서 성능평가를 했더니 HBM-PIM을 적용하지 않았던 기존과 비교해 성능은 2배 늘고, 에너지소모는 50% 감소했다.
삼성전자는 “8개 GPU 가속기로 시스템을 구성해 대용량 AI 언어 모델을 학습한 결과 HBM-PIM을 결합한 GPU는 이전 시스템과 비교해 연간 사용 전력을 2100GWh(기가와트시) 줄이는 것으로 확인했다”라며 “이는 탄소 배출량 약 96만t을 줄이는 것으로, 1억 그루의 소나무가 1년 동안 흡수하는 탄소보다 많은 양이다”라고 했다.
삼성전자는 HBM-PIM을 활용하면 현재 데이터센터가 직면한 메모리 용량과 대역폭 한계로 인한 데이터 병목 현상 해소라는 과제를 해결할 수 있을 것으로 본다. 또 ESG(환경·사회·지배구조) 경영 측면에서 탄소저감에도 효과를 낼 것으로 여긴다.
SK하이닉스는 PIM으로 GDDR6-AiM(엑셀러레이터-인-메모리)을 개발했다. 1초에 영화 198편을 처리하는 초당 16Gb(기가비트) 속도의 GDDR6에 연산 기능까지 부여한 것이다. 보통 CPU 또는 GPU와 짝을 이루는데, 함께 장착할 경우 연산 속도가 기존에 비해 최대 16배 빨라진다.
GDDR6-AiM은 기존 동작 전압보다 낮은 전압에서 구동이 가능해 전력소모가 적다. CPU와 GPU 간 데이터 이동도 줄여 프로세서가 사용하는 전기도 절약할 수 있게 한다. 그 결과 기존 시스템에 비해 전력소모가 80%쯤 줄어든다.
SK하이닉스 관계자는 “PIM 기술은 대규모 데이터를 처리하거나 실시간으로 데이터를 출력해야 하는 AI, 데이터센터, 고성능 컴퓨팅 등에 적용될 수 있다”라며 “이 분야에서는 연산 특성에 최적화된 기술이 필요한데, PIM 기술이 이를 극복하는 데 도움이 된다”고 했다.
연산 기능이 추가된 메모리가 시장의 중심에 서게 되면, 메모리 강국인 한국에도 긍정적인 효과가 기대된다. 시장조사기관 옴디아에 따르면 삼성전자와 SK하이닉스 등 국내 반도체 기업의 올해 2분기 전 세계 D램 점유율은 71.5%에 달한다. 업계 관계자는 “막대한 데이터 처리가 필요한 고성능 컴퓨팅 각 분야에서 연산 메모리의 존재는 메모리 수요를 흡수하는 결정적 무기가 될 수 있다”라며 “그에 따른 수혜는 PIM 개발에 선도적으로 나서는 한국 메모리 기업이 가장 많이 흡수하게 될 것이다”라고 했다.
원문 : https://biz.chosun.com/it-science/ict/2022/10/24/OPQK5UAMIRALNAUHNUTSOTPXVE/
