KAYTUS, AI 데이터센터 현장 유지보수 서비스 출시…장애 복구 평균 48시간에서 12시간으로

인공지능(AI) 데이터센터의 경쟁력이 GPU 확보와 인프라 구축 규모에서 안정적인 운영 역량으로 확대되고 있다. 대규모 AI 학습과 추론을 수행하는 데이터센터는 수천 개의 가속기와 네트워크, 냉각 시스템이 긴밀하게 연결돼 있어 일부 하드웨어의 장애가 전체 작업에 영향을 줄 수 있다. 특히 컴퓨팅 자원을 시간 단위로 제공하는 클라우드 사업자에게 장비 가동 중단은 연산 자원의 손실뿐 아니라 고객 서비스 차질과 계약상 보상 부담으로 이어질 수 있다. 이에 따라 장애 발생 이후 부품을 조달하고 장비를 수리하는 기존 방식에서 벗어나 제조사 수준의 진단과 유지보수를 데이터센터 현장에서 수행하려는 수요가 커지고 있다.

AI 인프라 기업 KAYTUS는 AI 데이터센터(AIDC)와 하이퍼스케일 컴퓨팅 클러스터를 위한 통합 하드웨어 유지보수 및 기술 지원 서비스 ‘OEM AI 매니지드 서비스(OEM AI Managed Service)’를 출시했다. 이번 서비스는 핵심 교체 부품의 현장 비축과 제조사(OEM) 수준의 진단·수리 역량, 인증 엔지니어의 기술 지원을 결합한 것이 특징이다. 복잡한 하드웨어 장애에 대응하기 위해 필요한 부품과 전문인력을 데이터센터 현장에 배치해 장비 복구에 소요되는 시간을 줄이는 방식이다.

KAYTUS에 따르면 현장 지원 모델을 적용하면 하드웨어 복구 시간을 업계의 일반적인 서비스 수준 대비 30% 이상 단축할 수 있다. 핵심 부품이 현장에 준비된 경우 최단 4시간 이내에 수리가 가능하며, 회사가 제시한 장애 노드 1대당 평균 처리 시간은 12시간이다.

AI 인프라의 운영 안정성이 중요해지는 배경에는 클러스터 규모의 확대가 있다. KAYTUS가 인용한 가트너(Gartner) 전망에 따르면 2026년 전 세계 AI 관련 지출은 2조6700억 달러에 이르며, 이 가운데 약 1조4800억 달러가 AI 인프라에 투입될 것으로 예상된다. 대규모 투자가 이어지면서 데이터센터는 단순히 장비를 구축하는 단계를 넘어 장기간 안정적으로 연산 자원을 제공해야 하는 운영 단계에 접어들고 있다.

AI 학습 환경에서 하드웨어 장애가 미치는 영향은 실제 운영 사례에서도 확인된다. 메타(Meta)가 공개한 라마(Llama) 3.1 405B 기술 보고서에 따르면 1만6384개 GPU로 구성된 클러스터에서 54일간 사전 학습을 진행하는 동안 예기치 못한 중단이 419회 발생했다. 이는 평균 약 3시간마다 한 번씩 학습 작업이 중단된 수준이다. 전체 중단 사례 가운데 약 78%는 하드웨어 장애가 원인으로 확인됐거나 의심되는 사례였다.

대규모 AI 학습 플랫폼을 분석한 SOSP 2025 발표 연구에서도 운영 과정의 장애 문제가 나타났다. 해당 연구에서는 3개월 동안 77만8000건 이상의 학습 작업이 수행되는 과정에서 4만4000건 이상의 장애가 기록됐다. 이처럼 AI 클러스터 규모가 커질수록 개별 장비의 장애를 신속하게 파악하고 복구하는 역량은 전체 시스템의 가용성을 유지하는 데 중요한 요소가 된다.

장애에 따른 경제적 부담도 적지 않다. 업타임 인스티튜트(Uptime Institute)의 2026년 장애 분석에 따르면 조사 응답자의 57%는 가장 최근 경험한 중대한 장애로 10만 달러가 넘는 비용이 발생했다고 답했다. 응답자 5명 중 1명은 손실 규모가 100만 달러를 초과했다고 밝혔다.

일부 컴퓨팅 자원 임대 계약에는 중대한 서비스 수준 협약(SLA) 위반이 발생할 경우 월 임대료의 최대 25%를 보상하도록 하는 조항도 포함돼 있다. AI 데이터센터 사업자에게 장애 복구 시간은 기술적인 운영 지표이면서 수익성과 고객 신뢰에 영향을 미치는 요소인 셈이다.

핵심 부품 현장 비축·24시간 엔지니어 지원…제조사 수리 역량 데이터센터에 배치

KAYTUS가 이번에 선보인 OEM AI 매니지드 서비스는 기존 하드웨어 유지보수 과정에서 발생하는 부품 조달 지연과 공장 반송, 복잡한 장애 진단 문제를 줄이는 데 초점을 맞췄다. 최근 AI 데이터센터는 랙당 전력 밀도가 40kW를 넘는 고밀도 환경으로 발전하고 있다. 컴퓨팅 장비와 네트워크, 냉각 시스템이 긴밀하게 결합돼 있어 장애 원인을 확인하는 과정이 복잡해질 수 있다.

또한 서로 다른 사양의 컴퓨팅 노드와 네트워크 장비를 사용하는 경우 필요한 교체 부품을 확보하는 데 시간이 걸릴 수 있다. 일부 복잡한 장애는 장비를 제조사 공장으로 반송해야 해 수리 기간이 길어지기도 한다.

KAYTUS는 이러한 문제에 대응하기 위해 다섯 가지 유지보수 기능을 통합 제공한다. 먼저 고객의 인프라 구성과 운영 요구사항을 분석해 장비 수명주기 전반에 걸친 맞춤형 하드웨어 유지보수 서비스를 제공한다. 표준적인 데이터센터 구축 환경뿐 아니라 기술적으로 복잡한 인프라도 지원 대상에 포함된다.

핵심 예비 부품은 고객 데이터센터 내부에 비축한다. 컴퓨팅 노드와 네트워크 스위치, 고대역폭 네트워크 인터페이스 카드(NIC) 등 주요 교체 하드웨어를 현장에 확보해 외부 창고에서 부품을 배송받는 시간을 줄인다.

공장에서 사용하는 진단 장비와 전문 수리 도구도 고객 현장에 배치한다. 이를 통해 엔지니어는 장애 장비를 공장으로 보내지 않고도 개별 부품과 노드 전체를 진단하고 수리할 수 있다.

현장 기술 지원은 서비스 등급에 따라 연중무휴 24시간 제공된다. OEM 인증 엔지니어가 장애에 대응하고, 전담 2차 기술 지원(Tier 2) 전문가가 복잡한 문제의 분석과 해결을 지원하는 구조다.

AI를 활용한 장애 예측과 선제적 점검 기능도 포함된다. 정기적인 장비 상태 점검과 지능형 장애 예측을 통해 하드웨어 성능 저하의 초기 징후를 파악하고, 장애가 발생하기 전에 예방 유지보수를 수행하도록 지원한다.