연세대·IBM 양자컴퓨터의 진화…큐비트 줄었는데 처리량은 25배 ‘껑충’

양자컴퓨터의 성능을 이야기할 때 가장 먼저 등장하는 숫자는 큐비트(Qubit)다. 기존 컴퓨터의 비트에 해당하는 양자정보의 기본 단위로, 큐비트가 많을수록 복잡한 연산을 수행할 가능성이 커진다. 그러나 양자컴퓨터의 성능을 큐비트 수만으로 판단하기는 어렵다. 양자 상태를 안정적으로 유지하면서 얼마나 많은 연산을 정확하고 빠르게 수행할 수 있는지가 실제 연구 성능을 결정하기 때문이다.

연세대학교와 IBM이 11월 4일 인천 송도 국제캠퍼스 양자컴퓨팅센터에서 공개한 차세대 양자컴퓨팅 플랫폼은 이러한 변화를 보여준다. 기존 127큐비트 ‘이글(Eagle)’ 프로세서를 최신 120큐비트 ‘나이트호크(Nighthawk)’로 교체하면서 큐비트 수는 줄었지만, 초당 실행 가능한 양자회로는 10만 개 이상으로 늘어났다. IBM이 제시한 회로 처리량 기준으로 기존 시스템보다 25배 높아진 성능이다.

이번 업그레이드는 IBM 퀀텀 네트워크 참여 기관이 자체 시설에서 나이트호크 프로세서를 운영하는 세계 최초 사례다. 연세대학교는 2024년 국내 최초이자 세계 대학 가운데 두 번째로 IBM 퀀텀 시스템 원(Quantum System One)을 도입했으며, 약 2년 만에 첫 번째 프로세서 업그레이드를 진행했다. 기존 시스템의 핵심 프로세서를 교체해 연산 성능을 높이는 방식으로, 양자 연구 인프라의 활용 범위를 넓히는 계기가 됐다.

이날 열린 미디어 브리핑에서는 정재호 연세대학교 양자사업단장과 백한희 IBM 리서치 양자 알고리즘 센터 디렉터가 업그레이드의 배경과 기술적 의미를 소개했으며, 제리 차우(Jerry Chow) IBM 펠로우 겸 양자중심슈퍼컴퓨팅 최고기술책임자(CTO)가 새로운 프로세서의 성능과 연구 활용 가능성을 설명했다.

IBM 퀀텀 나이트호크는 120개의 프로그래머블 큐비트와 고속 큐비트 리셋 아키텍처를 기반으로 초당 10만 개 이상의 양자회로를 실행할 수 있다. 7,500개 이상의 게이트로 구성된 회로에서도 관측 가능량을 정확하게 추정하는 기술적 목표를 달성했으며, 양자 우위(Quantum Advantage) 후보 회로를 대상으로 한 초기 테스트에서는 정확도를 유지하면서 최대 10배 빠른 실행 속도를 보였다.

양자컴퓨터는 계산 결과가 확률적으로 나타나는 특성이 있어 같은 회로를 여러 차례 실행하고 측정 결과를 축적해야 한다. 회로 처리량이 높아지면 연구자는 같은 시간에 더 많은 실험을 진행하고 결과를 빠르게 확보할 수 있다. 큐비트 수를 늘리는 경쟁에서 실제 연산의 속도와 정확성을 높이는 방향으로 기술 개발의 무게중심이 옮겨가고 있는 셈이다.

제리 차우 CTO는 “양자 컴퓨팅에서 샘플은 발전을 이끄는 핵심 요소”라며 “나이트호크 r2를 통해 연세대학교의 양자컴퓨터는 초당 10만 개 이상의 회로를 실행할 수 있으며, 이는 IBM 퀀텀 이글 대비 25배 높은 회로 처리량”이라고 설명했다. 이러한 성능 향상은 연구진이 더 많은 샘플을 빠르게 확보하고 과학적 발견을 위한 실험과 검증을 반복하는 데 도움이 될 것으로 기대된다.

큐비트 경쟁 넘어 실제 연구 성과로…바이오·산업 협력 확대

연세대학교가 새로운 양자컴퓨팅 플랫폼을 활용해 주목하는 분야 중 하나는 바이오다. ‘연세 바이오-퀀텀 이니셔티브(Yonsei Bio-Quantum Initiative)’에 참여하는 연구진은 기존 컴퓨터와 양자컴퓨터를 결합하는 고전-양자 하이브리드 컴퓨팅 방식으로 복잡한 생물학적 시스템을 분석하는 연구를 추진하고 있다.

대표적인 과제는 미토콘드리아 전자전달계 변이와 리 증후군(Leigh Syndrome)의 연관성을 이해하기 위한 공동 연구다. 미토콘드리아는 세포의 에너지 생산에 중요한 역할을 하며, 전자전달계의 이상은 여러 질환과 연결될 수 있다. 연구진은 기존 계산 방식과 양자컴퓨팅을 결합해 이러한 생물학적 현상을 분석할 수 있는 새로운 연구 방법을 모색하고 있다.