AWS, 파이토치 코드 수정 없이 트레이니움 실행…오픈소스 ‘토치뉴런’ 공개

인공지능(AI) 모델의 규모가 커지면서 학습과 추론에 필요한 컴퓨팅 비용뿐 아니라 서로 다른 반도체 환경에 대응하기 위한 개발 부담도 증가하고 있다. 특히 AI 개발에 널리 사용되는 파이토치(PyTorch)로 모델을 구현하더라도 새로운 AI 가속기에서 실행하려면 기존 코드를 수정하고 성능과 정확성을 다시 검증해야 하는 경우가 많다. 이러한 작업은 하드웨어 도입 비용과 별개로 상당한 엔지니어링 자원을 요구하며, 스타트업과 AI 개발 기업이 컴퓨팅 인프라를 선택하는 데 제약으로 작용한다. 아마존웹서비스(AWS)가 기존 파이토치 코드를 자체 AI 반도체에서 실행할 수 있도록 지원하는 오픈소스 기술을 공개하며 개발 환경의 호환성 개선에 나섰다.

아마존웹서비스(Amazon Web Services, AWS)는 파이토치로 작성한 AI 모델 코드를 별도로 재작성하지 않고 자체 설계한 AI 가속기 ‘AWS 트레이니움(AWS Trainium)’에서 실행할 수 있도록 지원하는 ‘토치뉴런(TorchNeuron)’을 공개했다고 27일 밝혔다.

토치뉴런은 개발자가 기존 파이토치 코드에서 사용할 하드웨어를 지정하는 설정을 변경하면 트레이니움에서 모델을 실행할 수 있도록 설계된 기술이다. 아파치 2.0(Apache 2.0) 라이선스 기반의 오픈소스로 공개됐으며, AWS의 AI 가속기인 트레이니움2(Trainium2)와 트레이니움3(Trainium3)를 지원한다.

파이토치는 AI 연구와 모델 개발에 널리 사용되는 오픈소스 프레임워크다. AWS에 따르면 AI 연구자와 개발자의 약 85%가 파이토치를 활용하고 있지만, 작성한 코드를 다른 하드웨어 환경으로 옮기는 과정에서는 호환성과 성능 최적화 문제가 발생해 왔다.

특히 AI 모델을 새로운 가속기에서 실행하려면 하드웨어에 맞는 코드 수정과 테스트, 재검증이 필요할 수 있다. 기업 입장에서는 반도체의 구매 또는 사용 비용뿐 아니라 기존 소프트웨어를 변경하는 데 투입되는 개발 인력과 시간이 중요한 비용 요소다.

AWS는 토치뉴런을 통해 이러한 이전 부담을 줄이고 개발자가 기존 파이토치 기반 작업 환경을 유지하면서 트레이니움을 선택할 수 있도록 했다. 하드웨어 전환에 필요한 코드 변경을 최소화해 개발 기간과 엔지니어링 비용을 줄이는 것이 목표다.

토치뉴런은 파이토치에 내장된 하드웨어 등록 표준 메커니즘과 연결되는 방식으로 작동한다. 이를 통해 개발자가 기존에 사용하던 모델 테스트와 디버깅, 확장 도구를 트레이니움 환경에서도 활용할 수 있도록 지원한다.

AWS가 진행한 비교 시연에서는 동일한 AI 학습 스크립트를 기존 칩과 트레이니움에서 각각 실행했다. 두 환경에서 변경한 부분은 하드웨어를 지정하는 설정이었으며, 시연 결과 모델은 같은 학습 내용과 속도를 나타냈다. 다만 이는 해당 시연 환경에서 확인된 결과로, 모든 모델과 하드웨어 조합에서 동일한 성능을 보장한다는 의미는 아니다.

음성 AI·신약 개발부터 분산 학습까지…파이토치 생태계와 통합 확대

토치뉴런은 음성 AI와 신약 개발, 로보틱스, 영상, 월드 모델, 자율주행, 대규모언어모델(LLM), 금융 등 다양한 분야에서 활용되고 있다. AWS에 따르면 관련 스타트업과 대기업들이 기존 파이토치 코드의 재작성을 최소화하면서 트레이니움 기반 개발을 진행하고 있다.

음성 AI 기업 카르테시아(Cartesia)는 트레이니움의 파이토치 네이티브 지원 기능을 활용해 기존 파이토치 코드를 최소한으로 수정한 상태에서 표준 추론 파이프라인을 실행했다. 카르테시아는 대화를 기반으로 주변 환경을 학습하고 상호작용하는 AI 기술을 개발하고 있다.

신경정신질환 연구기관인 리버 뇌발달연구소(Lieber Institute for Brain Development)도 토치뉴런 활용을 검토하고 있다. 이 연구소는 조현병 등 주요 신경정신질환의 치료법을 연구하는 기관으로, 분자의 움직임을 계산으로 재현하는 분자동역학 시뮬레이션을 AI 도구로 가속하거나 대체하는 방안을 트레이니움 환경에서 살펴보고 있다.

AWS는 토치뉴런을 자체 반도체 지원 도구로 제공하는 동시에 파이토치 오픈소스 생태계와의 통합도 추진하고 있다. 특정 하드웨어에 종속되는 코드를 줄이기 위해 파이토치 커뮤니티와 협력하고, 관련 변경 사항을 파이토치의 원본 코드인 업스트림(upstream)에 기여하는 방식으로 파이토치가 다양한 반도체에서 활용될 수 있는 하드웨어 중립적 프레임워크로 발전하도록 지원한다는 계획이다.

AI 모델 공유 플랫폼 허깅페이스(Hugging Face)도 자사 AI 개발 도구에 트레이니움 네이티브 지원을 적용했다. 개발자는 AWS 전용 코드를 별도로 작성하지 않고도 허깅페이스의 개발 도구를 활용해 트레이니움에서 작업할 수 있다.