[IT 소식] 엔비디아, DGX H100 시스템 상용화 발표

엔비디아, DGX H100 시스템 상용화 발표

전 세계 제조, 의료, 로봇 공학 등 다양한 산업에 고급 AI 기능 제공

[아이티데일리] 인공지능(AI) 컴퓨팅 기술 분야 선두주자인 엔비디아(CEO 젠슨 황)는 ‘엔비디아(NVIDIA) DGX H100’ 시스템 상용화를 시작했다고 3일 밝혔다.

이미 전 세계 다양한 고객들이 인텔리전스 제조를 위해 AI 팩토리와 같은 엔비디아 DGX H100 시스템을 사용하고 있다. 이들은 금융, 의료, 법률, IT 및 통신 분야에서 AI 기반 인사이트를 제공하는 서비스를 만들고, 그 과정에서 산업을 혁신하기 위해 노력하고 있다. 상용화 발표에 따라 세계적인 연구 기관이나 포춘 500대 기업이 아니어도 DGX H100을 사용할 수 있다. 

엔비디아가 DGX H100 시스템의 상용화를 발표했다.

DGX H100 시스템의 각 엔비디아 H100 텐서 코어 GPU는 이전 GPU보다 평균 약 6배 더 뛰어난 성능을 제공한다. 여기에는 DGX H100가 8개가 탑재돼 있으며, 각 GPU에는 생성형 AI 모델을 가속화하도록 설계된 ‘트랜스포머 엔진(Transformer Engine)’이 탑재돼 있다.

8개의 H100 GPU는 엔비디아 NV링크(NVLink)를 통해 연결돼 하나의 거대한 GPU를 생성한다. 뿐만 아니라 이제 조직들은 예전 네트워크보다 2배 빠른 400Gbps 초저지연 ‘엔비디아 퀀텀 인피니밴드(NVIDIA Quantum InfiniBand)’를 사용해 수백 개의 DGX H100 노드를 AI 슈퍼컴퓨터에 연결할 수 있다. 고성능과 효율성을 모두 제공하는 DGX H100은 이전 세대인 DGX A100보다 페타플롭당 킬로와트 수가 2배 향상됐다.

DGX H100 시스템은 컴퓨팅, 스토리지 및 네트워크 인프라를 가속화하고 AI 워크로드를 최적화하기 위한 제품군인 ‘엔비디아 베이스 커멘드(NVIDIA Base Command)’에서 실행된다. 또한 데이터 사이언스 파이프라인을 가속화하고 생성형 AI, 컴퓨터 비전 등의 개발 및 배포를 간소화하는 소프트웨어인 ‘엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)’도 포함돼 있다.

엔비디아 DGX H100 시스템, ‘DGX 포드(POD)’ 및 ‘DGX 슈퍼포드(SuperPOD)’는 엔비디아의 글로벌 파트너사에서 구매할 수 있다.




출처 : 아이티데일리 / 정종길 기자 gil0717@itdaily.kr
 http://www.itdaily.kr/news/articleView.html?idxno=213839