리켄이라고도 불리는 이 연구소의 이론 물리학자들은 AI를 활용해 양자 컴퓨팅의 핵심 기술인 GKP(Gottesman-Kitaev-Preskill) 코드의 성능을 향상시키는 중요한 진전을 이뤘다. 리켄이 발표한 이 성과는 특히 광학 시스템에서 안정적인 양자 정보를 유지하는 데 필요한 자원을 대폭 줄여, 오류에 강한 양자 컴퓨터의 실현에 한 걸음 더 다가서게 한다.
리켄 양자 컴퓨팅 센터(RQC)의 프랑코 노리는 “오늘날 가장 강력한 슈퍼컴퓨터의 능력을 넘어서는 잠재력을 양자 컴퓨터는 가지고 있다”면서도, 양자 비트(큐비트)의 취약성은 여전히 풀어야 할 숙제였다고 지적했다.
QKS 그룹의 분석가 비샤크 K는 전통적인 오류 교정 방법인 표면 코드가 논리적 큐비트당 수천 개의 물리적 큐비트를 요구해 확장성 측면에서 큰 장벽을 형성한다고 지적했다.
AI로 큐비트 취약성 극복
큐비트는 환경적 노이즈에 극히 민감하다. 진동, 온도 변화, 전자기 간섭 등이 큐비트의 상태에 개입한다. 2001년에 제안된 GKP 코드는 빛의 모드(mode of light)와 같은 조화 진동자(harmonic oscillator)에서 큐비트를 인코딩함으로써 자원 효율적인 오류 정정 방법을 제시한다. “이 방법은 방대한 하드웨어 없이도 양자 오류 정정을 실현할 유망한 후보다”라고 노리는 설명했다.
그러나 GKP 코드에 필요한 ‘압축 상태’를 생성하기가 실용성 측면에서 도전 과제였다. 특히 광학 시스템에서 그렇다.
비샤크는 머신러닝을 활용해 코드워드 엔벨롭(codeword envelopes)과 오류 해독을 정교화한 AI 최적화 GKP 코드가 전통적인 GKP 코드의 3분의 1에 해당하는 압축 상태와 유사하거나 더 우수한 오류율을 달성할 수 있다고 전했다.
노리, 클레멘스, 나이팅, 예징 젱으로 구성된 리켄 연구팀은 GKP 상태를 최적화하는 딥러닝 방법을 개발해 오류 정정 성능을 유지하면서 생성하기 쉬운 상태를 구현했다.
젱은 성명서에서 “우리의 AI 기반 방법은 GKP 상태의 구조를 미세 조정해 자원 효율성과 오류 복원력 사이의 최적 균형을 달성했다”라며, 인상적인 결과가 나왔다고 강조했다. “신경망은 우리가 처음 예상했던 것보다 훨씬 효율적인 인코딩을 달성했다”라고 그는 말했다.
이 최적화된 코드는 더 적은 압축 상태를 요구하며, 특히 초전도 캐비티나 광학 시스템과 같은 보소닉 시스템(bosonic systems)에서 전통적인 GKP 코드보다 우수한 성능을 보인다.
한편 비샤크는 AI 최적화 GKP 코드가 특정 플랫폼에서 우수하지만 모든 양자 하드웨어에 일반화되지 않을 수 있다고 경고했다. “표면 코드와 LDPC 코드는 초전도체나 포획 이온 시스템에서 더 다목적적인데다, 이미 검증됐다”라고 그는 말했다. 그럼에도 불구하고 리켄의 연구는 특정 아키텍처의 실험적 장벽을 크게 낮추어 실용적 양자 컴퓨팅으로의 진전을 가속화했다고 그는 평가했다.
양자 신뢰성 경쟁
양자 오류 정정은 오늘날 전 세계적인 핵심 과제다. 연구자와 산업 리더들이 큐비트 취약성의 도전 과제를 극복하기 위해 경쟁 중다. 2024년 12월 QEC에서의 AI에 대한 한 연구는 시스템 규모가 확대되고 오류 증후군이 지수적으로 복잡해질수록 AI가 수작업 방법보다 우월함을 강조했다.
비샤크는 AI가 대규모 오류 교정의 복잡성을 관리하는 데 필수적이라고 강조했다. “대규모 양자 시스템에서 오류 증후군의 양과 복잡성은 전통적인 디코더를 압도한다”라고 그는 말했다. 신경망과 강화 학습은 동적 노이즈 패턴에 적응하고 코드 매개변수를 최적화하며 처리 병목 현상을 줄여 AI 기반 솔루션에 경쟁 우위를 제공한다.
이러한 변화는 산업 전략에 영향을 미치고 있으며, 양자 하드웨어 기업들은 AI 전문성이나 파트너십에 투자해 견고한 오류 교정 스택을 개발하고 있다. “AI 최적화 오류 교정을 마스터한 벤더들은 결함 내성 시스템을 더 빠르게 제공해 기업 및 정부 고객을 유치할 것”이라고 비샤크는 예상했다.
리켄 팀이 AI 최적화 GKP 코드를 다중 논리 시스템으로 확장함에 따라 글로벌 양자 신뢰성 경쟁의 핵심 전선이 한층 나아갔다. 그들의 혁신은 AI가 복잡한 오류 교정 프로토콜을 극적으로 단순화할 수 있음을 보여주며, 구글의 알파큐비트(AlphaQubit)과 같은 산업 전반의 변화를 반영한다.
비샤크는 “업계가 AI 강화형 양자 오류 교정으로 전환함에 따라, 확장 가능하고 오류 내성 있는 양자 시스템의 채택이 가속화될 전망이다. AI를 잘 활용하는 기업들이 주도하는 경쟁 지형이 출현할 것”이라고 말했다.
dl-ciokorea@foundryco.com
