"한국판 멜라녹스(Mellanox)를 만들어야 특정 벤더에 종속되는 현상을 막을 수 있다."
인공지능(AI) 개발을 위한 핵심 장비는 그래픽처리장치(GPU)다. 한국에 GPU 26만장을 공급한다는 젠슨 황 엔비디아 CEO의 약속은 한국의 'AI 3강' 전략의 '연료'다. 하지만 GPU만으로 AI를 만들 수는 없다. GPU의 성능을 극대화하는 네트워크·스토리지 가속 기술을 누가 쥐느냐도 향후 AI 패권을 좌우하는 중요한 연결고리다. 이 시장을 향해 조용히 돌진하는 한국 기업이 있다. 바로 망고부스트(MangoBoost)다.
20일(현지시간) 미국 세인트루이스에서 열리고 있는 SC25 행사에서 만난 김장우 대표는 자신감이 넘쳤다.
"한국이 엔비디아 GPU 26만장만을 사 오면, 우리는 완전히 종속된다. GPU 가격도, 납기도, 기술 로드맵도 모두 엔비디아가 결정하게 될 것이다. 균형추를 만들 기술을 우리가 담당하겠다."
◆DPU를 'AI용 네트워크 엔진'으로 재정의… "NPU와 길이 다르다"
망고부스트는 이번 전시에서 DPU(Data Processing Unit) 기반의 새로운 AI 서버 가속 플랫폼을 공개했다. DPU는 흔히 엔비디아의 GPU 경쟁품으로 여겨지지만, 망고부스트는 이를 아예 AI 네트워크 인프라의 중심 칩으로 재해석했다.
김 대표는 지금은 미국 오라클에 인수된 썬마이크로시스템에서 스파크(spark) CPU를 설계했고, 서울대 교수로 연구하다 제자들과 함께 창업에 뛰어들었다. 1990년대~2000년대 초반까지 슈퍼컴퓨터 분야를 주름잡던 썬(SUN)에서 핵심 반도체를 다뤘던 그의 경력은 망고부스트의 단단한 기반이다.
김 대표는 "GPU·NPU는 연산에 집중하지만, DPU는 네트워크와 스토리지를 지능적으로 처리하는 AI 가속기다. GPU가 아무리 많아도, 데이터 이동이 느리면 전체 성능이 형편없어 진다. 우리는 바로 그 병목을 제거한다."
김 대표는 엔비디아도 네트워크 솔루션인 '멜라녹스'를 인수한 후 압도적인 경쟁력을 가지게 됐다고 설명했다.
그가 SC25에서 자신 있게 선보인 망고부스트 신제품이 저가이지만 용량이 크고 느린 하드디스크를 대량으로 집적한 후 DPU를 이용해 속도를 높여준다고 말했다. 하드디스크와 AMD의 GPU를 구성하고 DPU가 데이터전송 속도를 높이는 역할을 한다. SSD를 이용한 장비에 비해 저렴하면서도 비교적 빠른 속도를 처리할 수 있다는 게 김 대표의 설명이다. 이미 주요 반도체기업들의 SSD가 내년 말까지 완판된 것으로 알려진 상황에서, 구하기 쉬운 HDD를 이용해 저렴하게 AI 시스템을 구성할 수 있는 방법이다.
◆AMD와 손잡았다… "한국이 엔비디아 종속을 벗어날 기회"
망고부스트의 기술 전략은 AMD와의 긴밀한 협업을 통해 더욱 구체화하고 있다. 엔비디아의 GPU 독주를 막겠다는 AMD는 자신들의 약점을 메꿔줄 망고부스트가 필요하다. 엔비디아와의 성능 격차를 줄여줄 수 있는 '특효약'이기 때문이다. 최근 엔비디아 지난친 독주로 AMD GPU에 대한 관심이 커지는 상황에서 망고부스트와의 협력은 중요한 전환점이다.
김 대표는 "엔비디아는 이미 글로벌 AI 인프라의 80~90%를 장악했다. 한국이 엔비디아 26만 장을 추가로 도입하면, 국가 차원의 가격 협상력 자체가 사라진다. AMD와 저희 장비를 활용해라도 힘의 균형을 만들어야 한다"고 제안했다.
◆SK하이닉스도 지원 사격
망고부스트 부스에는 SK하이닉스의 'AI 클러스터 벤치마크 스위트' 소개 영상이 걸려있다. SK하이닉스는 최근 고대역폭메모리(HBM)에 이어 AI 클러스터 전체 성능을 업그레이드하기 위한 기술을 개발 중인데 핵심 파트너 중 하나가 바로 망고부스트다.
김 대표는 이미 망고부스트의 기술을 이용한 미국 고객이 상당한 성능 향상 효과를 보고 있다면서 "GPU 보유가 늘어도 데이터 이동을 최적화하는 기술이 없으면 GPU를 완전히 활용할 수 없다. 엔비디아가 멜라녹스를 인수해 경쟁사와 차별화에 성공한 것처럼 망고부스트가 한국판 멜라녹스가 될 것"이라고 선언했다.
출처 아시아경제