하이퍼엑셀 김주영 대표, MIT 테크놀로지 리뷰 코리아 ‘한국 AI의 미래를 바꾸는 30인’ 선정

생성형 AI의 활용이 확대되면서 대규모 언어 모델(LLM)을 실제 서비스 환경에서 효율적으로 구동하는 기술의 중요성이 커지고 있다. 모델의 성능 향상과 함께 추론 과정에서 발생하는 전력 소비와 운영 비용, 데이터 처리 효율이 AI 인프라의 주요 경쟁 요소로 떠올랐다. AI 반도체 기업들도 범용 연산 성능뿐 아니라 LLM 추론에 최적화된 독자적인 반도체 구조 개발에 나서고 있다. 이러한 기술을 개발해 온 하이퍼엑셀의 김주영 대표가 국내 AI 산업의 주요 인물로 선정됐다.

AI 반도체 팹리스 스타트업 하이퍼엑셀(HyperAccel)은 김주영 대표가 MIT 테크놀로지 리뷰 코리아의 ‘THE AI 30: 한국 AI의 미래를 바꾸는 30인’에 선정됐다고 밝혔다.

‘THE AI 30’은 AI 모델 개발과 반도체, 로보틱스, 산업 응용 등 다양한 분야에서 한국 AI 산업의 발전에 기여한 인물 30인을 선정하는 연간 기획이다. 최근 1년간 확인된 연구·기술·사업 성과를 바탕으로 산업의 변화를 이끈 인물을 조명한다.

김주영 대표는 대규모 언어 모델 추론에 특화된 AI 반도체 LPU(LLM Processing Unit) 개발을 주도해 왔다. 하이퍼엑셀은 AI 모델을 학습시키는 과정과 실제 서비스에서 이용자의 요청을 처리하는 추론 과정의 특성이 다르다는 점에 주목하고, LLM 추론에 최적화된 반도체 아키텍처를 개발하고 있다.

LPDDR5X 기반 LPU 개발…데이터센터에서 온디바이스 AI까지

하이퍼엑셀은 2023년 KAIST 김주영 교수가 설립한 AI 반도체 팹리스 스타트업이다. 자체 설계한 LPU 아키텍처를 기반으로 LLM 추론 과정의 처리 효율을 높이고 전력 소비와 운영 비용을 줄이는 기술을 개발하고 있다.

핵심 기술 가운데 하나는 LPDDR5X 메모리를 활용한 독자적인 반도체 설계다. LPDDR5X는 저전력 특성을 갖춘 메모리 규격으로, 하이퍼엑셀은 이를 기반으로 AI 추론 과정에서 발생하는 데이터 처리 부담과 전력 소비를 줄이는 데 주력하고 있다.

회사는 AI 반도체의 성능을 평가할 때 단순 연산 속도뿐 아니라 비용과 전력 대비 얼마나 많은 토큰을 처리할 수 있는지가 중요하다고 보고 있다. LLM 서비스의 이용량이 증가할수록 추론에 필요한 연산 자원과 전력 비용도 함께 늘어나는 만큼, 토큰 처리 효율을 높이는 반도체 기술을 경쟁력으로 확보한다는 전략이다.