[IT 소식] ‘챗GPT 시대’…리벨리온 AI반도체, 엔비디아·퀄컴 넘었다

 

‘챗GPT 시대’…리벨리온 AI반도체, 엔비디아·퀄컴 넘었다

리벨리온의 AI반도체 아톰 보드. (사진=리벨리온)

 

국내 스타트업 리벨리온이 AI(인공지능)반도체 기술력을 가늠하는 국제 대회에서 엔비디아와 퀄컴을 제치고 우수한 경쟁력을 입증받았다.

리벨리온은 6일 국제 AI반도체의 기술력을 가늠하는 가장 공신력 있는 벤치마크 대회 MLPerf(v3.0)에서  객관적인 성능지표를 통해 국내외 경쟁사 대비 압도적인 기술력을 입증했다고 밝혔다.

벤치마크란 객관적으로 정의된 워크로드(작업량)를 통해 프로세서가 해당 작업을 얼마나 효율적으로 수행할 수 있는지 확인하는 과정이다. MLPerf는 대표적인 NPU(신경망처리장치) 벤치마크다.

리벨리온은 지난 2월 개발한 AI반도체 ‘아톰(ATOM)’으로 이번 성능 테스트를 진행했다. 테스트는 벤치마크에서 대표적으로 사용되는 언어모델인 BERT-Large(이하 BERT)와 비전모델 ResNet50로 진행됐다.

그 결과 아톰은 BERT 부문에서 퀄컴의 최신 AI반도체(클라우드AI100), 엔비디아의 동급 GPU(그래픽처리장치) A2·T4 대비 1.5~2배 앞서는 처리속도를 보였다. ResNet50 부문 싱글스트림 처리속도(0.239ms)에서는 퀄컴 대비 1.4배, 엔비디아 대비 3배 이상의 속도를 입증했다.

싱글스트림 테스트는 1개의 단일 데이터를 처리할 때의 지연속도를 비교한다. 데이터 처리 속도는 칩의 크기에 따라 상이한데, 1개의 단일 데이터 처리 속도를 비교하면 비교적 동등한 조건에서 반도체의 성능을 평가할 수 있다. 즉 리벨리온의 아톰이 동등한 조건에서 높은 처리속도를 보였다는 것은, 설계 측면에서 우수성을 인정받았다는 의미다.

박성현 리벨리온 대표는 “칩의 크기나 공정에 큰 영향을 받지 않는 싱글스트림 지연시간이 코어 아키텍처의 우수성을 가장 잘 드러내는 지표”라며 “리벨리온은 언어모델과 비전모델 모두 싱글스트림 결과를 제출해 글로벌 경쟁력을 입증한 것이 가장 큰 차별점”이라고 강조했다. 

MLPerf BERT 테스트 결과. (자료=리벨리온)

MLPerf ResNet50 테스트 결과. (자료=리벨리온)

최근 마이크로소프트(MS)가 개발한 챗GPT가 대중 사이에서 큰 인기를 끌고 있다. 시장조사업체 스태티스타에 따르면 챗GPT는 출시 5일 만에 이용자수 100만명을 돌파하는 등 유례없는 대중성을 확보했다.

챗GPT는 초거대AI 모델이다. 초거대AI란 대용량 데이터를 스스로 학습해 인간처럼 종합적 추론이 가능한 차세대 AI를 말한다. 대량의 데이터를 스스로 학습하기 때문에, 기본적으로 연산량이 방대하다. 이는 곧 데이터 처리 비용(소모전력), 데이터센터 구축·운영 비용 등으로 연결된다. 챗GPT를 만든 MS, 그리고 또 다른 초거대AI 모델을 구상하는 사업자의 입장에선 비용 문제 해결이 필수적이다.

실제로 MS도 비용절감을 꾀하려는 움직임을 보이고 있다. 업계에 따르면 MS는 최근 리벨리온과 같은 AI반도체 스타트업에게 반도체 샘플을 요구하는 콜드 메일(Cold mail, 일반적으로 협업 제안에 사용됨)을 보내고 있다. MS와 같은 대형 테크 기업이 스타트업에게 콜드메일을 보내는 것은 이례적인 일이다. 그만큼 챗GPT의 비용 절감, 운영 효율화가 시급한 상황으로 풀이된다.

리벨리온이 집중하고 있는 것도 바로 이 대목이다. 현재 챗GPT와 같은 AI플랫폼에는 범용 GPU가 사용된다. 그러나 GPU는 기본적으로 영상처리, 3D렌더링·모델링 등에 사용되는 범용 장치다. 결국 비용 절감을 위해서는 AI 전용 하드웨어가 필요하다.

아톰은 AI 전용 반도체다. 리벨리온에 따르면 아톰의 전력효율은 GPU 대비 비전모델의 경우 10배, 언어모델 3~4배 높다. 이는 아톰이 AI플랫폼에 상용화된다면 전력 소모량을 획기적으로 줄일 수 있다는 의미다. 또 고객들이 기존의 GPU를 사용할 때와 유사한 환경에서 AI서비스가 가능하도록 아톰에 최적화된 컴파일러, 펌웨어, 드라이버 등 소프트웨어도 자체 개발중이다.

박 대표는 “대한민국에서도 GPT같은 트랜스포머를 지원할 수 있는 AI 반도체가 출시됐다는 의의가 크다”며 “언어모델 뿐만 아니라 요즘은 고성능 비전 모델들도 트랜스포머를 사용하기 때문에, AI반도체를 활용한 고성능 서비스를 위해서는 아톰이 국내 유일의 대안이 될 것”이라고 말했다.

한편, 아톰은 삼성전자의 5나노 파운드리를 통해 2024년 1분기 양산 예정이다. 리벨리온은 KT가 올해 중 출시할 초거대 AI서비스 ‘믿음’ 경량화 모델에 아톰을 적용할 예정이다. 

김수민 기자 k8silverxyz@bloter.net

원문 : https://www.bloter.net/news/articleView.html?idxno=600408