열린연구실
양자물리학을 양자정보의 언어로 다시 읽다
QISCA 학생기자단 KAIST 라영식 교수 양자광학 및 양자정보 연구실 탐방
- 탐방연구실 KAIST(한국과학기술원) 라영식 교수
- 글 작성 QISCA 학생기자단 박주현(고려대), 백원준(연세대), 허동원(경희대), 김도겸(한국과학기술원)
어느덧 옷깃을 여미게 되는 선선한 10월, 대한민국의 과학 도시, 대전에 위치한 KAIST 본원을 방문했습니다. 이번에 학생기자단이 찾은 곳은 빛의 양자적 성질을 정밀하게 제어하여 차세대 양자 정보 처리 기술을 개척하는 세계적인 연구 거점, 라영식 교수의 '양자광학 및 양자정보 연구실'입니다.
라영식 교수는 현재 KAIST 물리학과 및 양자대학원에 소속되어있으며, 해당 연구실은 광학적 수단을 활용한 양자컴퓨팅, 대규모 양자 얽힘 상태 제작, 그리고 양자 시스템의 정밀 측정 및 검증 기술을 중점으로 연구하고 있습니다.
0과 1을 넘어선 연속의 세계, 연속변수 양자기술
초전도체나 이온 트랩을 연구하는 많은 그룹이 0과 1로 구분되는 이산적인(discrete) 큐비트에 집중하는 반면, 라영식 교수 연구실은 '연속변수(Continuous Variable)' 양자 기술이라는 차별화된 길을 걷고 있습니다. 이는 불연속적인 행렬 대신 위그너 함수(Wigner function)와 같이 연속적인 힐베르트 공간의 분포를 다루는 기술입니다. 연구실에서는 전자기장 모드의 빛의 상태를 생성, 소멸 연산자를 통한 조화 진동자(harmonic oscillation)에 대응시켜 연속적인 직교량(quadrature)을 탐구합니다.
Y.-S. Ra et al., Nature Physics 16, 144–147 (2020), Fig. 1
이러한 연속적인 양자 상태를 정밀하게 읽어내기 위해 연구실에서는 '호모다인 검출(Homodyne detection)' 방식을 사용합니다. 이는 단순히 광자의 유무만을 판별하는 일반적인 온오프(on-off) 검출기와 달리, 양자 광원을 기준 빛인 국부 발진기(LO) 빛과 간섭시킨 뒤 광검출기로 검출하여 빛의 진폭과 위상 정보를 연속적인 값으로 측정하는 핵심 기술입니다.
이 방식을 활용하면 다중 모드의 빛과 빔 스플리터를 통해 규모가 큰 양자 얽힘 상태를 100%의 확률로 구성하는 것이 가능합니다. 라영식 교수는 초전도체나 이온 트랩 같은 단일 양자 소자의 경우 개수를 늘리려면 소자를 각각 따로 설계해야 해서 무결성을 보장하기 어렵지만, 광학 장치는 광학 모드의 개수를 손쉽게 늘릴 수 있다는 점을 최고의 강점으로 꼽았습니다. 특히 빛의 주파수 모드와 공간 모드를 활용하면 확장성이 크게 높아지는데, 실제로 연구실에서는 15nm 대역폭의 주파수 모드들을 활용해 36큐비트에 해당하는 정보처리 소자를 클러스터 상태로 구현해 냈었습니다.
양자컴퓨터의 패러다임을 바꾸는 측정 기반 양자컴퓨팅(MBQC)
앞서 살펴본 것처럼 빛의 주파수 모드를 활용해 거대한 클러스터 상태를 구현하는 것은 라영식 교수 연구실이 주력하는 '측정 기반 양자컴퓨팅(Measurement-Based Quantum Computing, MBQC)'의 핵심 토대입니다. 기존의 일반적인 양자컴퓨터는 양자 게이트와 양자 얽힘 게이트를 순차적으로 통과시키며 연산을 수행하는데, 이 과정에서 연산 단계가 늘어날수록 피델리티(Fidelity, 충실도)가 급격히 하락하는 등 여러 치명적인 이슈가 발생합니다. 이를 해결하기 위해 까다롭고 어려운 연산 과정을 아예 처음 양자 상태를 생성할 때부터 적용하여 빛으로 거대한 '클러스터 양자 얽힘 상태'를 미리 만들어두고, 이후 각 모드를 국소적으로 측정해 나가며 연산을 완성하는 방식을 사용했습니다.
C. Roh et al., Nature Photonics 19, 526 (2025), Fig. 1.
연구실은 여기서 한 걸음 더 나아가, 단순히 양자 연산만 수행하는 것이 아니라 '양자 오류 정정'까지 동시에 겸할 수 있는 진정한 의미의 광학 기반 결함 허용 양자 컴퓨팅 시스템을 구축하고 있습니다. 기존에는 주로 2차원 평면 구조에서 클러스터 상태를 구현했지만, 연산 중에 발생하는 오류를 실시간으로 보정하기 위해서는 얽힘 구조의 차원을 반드시 확장해야 합니다. 라영식 교수 연구실이 대규모 양자 네트워크 및 컴퓨팅 구축에 필수적인 '3차원 클러스터 양자 얽힘' 연구에 집중하고 있는 이유가 바로 여기에 있습니다.
이처럼 측정 자체가 곧 연산이 되는 패러다임에서는 거대하게 얽힌 양자 상태를 한꺼번에 정밀하게 읽어내는 측정 기술 또한 매우 중요합니다. 하지만 지금까지 양자 상태의 크기를 늘리더라도 이를 동시에 측정하는 기술은 학계에 많이 보고된 바가 없었습니다. 호모다인 측정은 국부 발진기와의 간섭을 이용하고 동시에 위상까지 정밀하게 맞춰야 하므로, 한정된 실험실 테이블 위에 측정 장치를 여러 개 올려놓는 데 물리적 한계가 있어 한 번에 8개 정도밖에 측정하지 못했기 때문입니다. 연구실은 이러한 한계를 극복하기 위해 카메라의 픽셀들을 활용해 여러 모드를 동시에 읽어내는 새로운 양자 호모다인 측정 장치를 연구하고 있으며, 픽셀 간 간섭(cross-talk)을 없애고 독립적인 동시 측정을 구현함으로써 대규모 양자컴퓨팅의 실현을 앞당기고 있습니다.
지수적 한계를 돌파한 양자 프로세스 토모그래피
거대한 양자 상태를 성공적으로 구현하고 측정을 마쳤다면, 다음으로 반드시 거쳐야 할 관문은 그 양자 상태와 연산 과정이 설계한 대로 올바르게 작동했는지 확인하는 검증(Quantum Tomography) 작업입니다. 하지만 양자 시스템의 규모가 커질수록 이 검증 과정의 효율은 급격히 떨어집니다. 예를 들어 노드의 개수를 10개만 늘리려 해도 확인해야 할 리소스가 지수적으로 폭발하듯 증가하기 때문입니다. 이를 돌파하기 위해 라영식 교수 연구실은 효율적인 방식으로 양자 연산의 신뢰성과 특성을 검증하는 '다중 모드 양자 프로세스 토모그래피(Multimode Quantum Process Tomography)' 기술을 독자적으로 개발했습니다.
라영식 교수는 프로세스 토모그래피의 핵심을 "양자 상태가 어떻게 생겼는지 특성화하고, 나아가 양자 상태가 변화하는 규칙을 찾아내 만드는 것"이라고 설명했습니다. 연구실은 규모가 커질 때 지수적으로 증가하던 리소스 부담을 다항식 수준으로 획기적으로 낮추는 데 성공했으며, 기존에 5개 노드에 머물던 검증 규모를 16개 모드까지 대폭 확장했습니다. 특히 16모드 보소닉 가우시안 채널(bosonic Gaussian channel) 연구에서는 각 고유 직교량의 증폭과 추가된 노이즈를 포함해 non-unitary 과정을 완전히 복원해 냈으며, 모드 수의 2차항 규모로 증가하는 잡음 행렬까지 정교하게 규명해 내며 대규모 양자 시스템 검증의 새 지평을 열었습니다.
이러한 정밀 검증을 위해 연구실에서는 빛의 손실에 영향을 덜 받는 결맞음 상태를 시스템에 입력하여 진폭의 변화나 노이즈가 덧붙는 정도를 정확하게 측정해 냅니다. 이때 핵심적인 역할을 하는 장비가 바로 '펄스 셰이퍼(pulse shaper)'입니다. 펄스 셰이퍼로 다중 모드 빛의 특성을 자유자재로 조종해 입력함으로써, 채널을 거치며 발생하는 진폭 변화와 추가 잡음을 모드별로 정확히 진단해 냅니다. 이는 향후 연산 오류에 민감한 모드를 파악하고 보정해 대규모 양자 프로세서의 신뢰성을 높이는 핵심 기반이 됩니다. 즉, 모든 모드를 일괄적으로 개선하는 대신 오류에 민감한 모드의 특성을 정밀하게 파악하고 보정함으로써 대규모 양자 프로세서의 신뢰성을 한층 끌어올리고 있습니다.
한계를 넘어서는 양자 계측과 분산형 센싱
양자 컴퓨팅과 토모그래피에 이어, 라영식 교수 연구실이 강조하는 또 다른 핵심 연구 축은 바로 양자 얽힘이나 스퀴징(squeezing) 등의 특성을 활용해 측정의 한계를 넓히는 '양자 계측(Quantum Metrology)'입니다. 정밀한 계측의 핵심은 신호 대 잡음비(Signal-to-Noise Ratio, SNR)를 극대화하는 데 있습니다. 연구실은 이를 위해 시간 분해능을 혁신적으로 끌어올렸는데, 기존에 마이크로초 수준에 머물던 측정 분해능을 수백 펨토초 수준까지 단축하며 초고속·초정밀 양자 계측 연구를 수행하고 있습니다. 또한 최근 연구에서는 시간 가중치를 최적화하는 기법을 통해 신호 대 잡음비를 기존 11.3dB에서 15.0dB로 대폭 높이는 성과를 거두기도 했습니다.
측정 데이터를 처리하는 Binning 과정에서도 흥미로운 양자 우위가 나타납니다. 연속적인 호모다인 측정 결과를 단 2개의 구간(2-bin)으로 나누어 양자화하더라도 이상적인 고전 측정보다 1.2dB의 양자 향상을 얻을 수 있고, 구간 수를 늘리면 최대 3.8dB까지 향상되며 이론적으로 하이젠베르크 스케일링까지 유지됩니다. 다만 실제 센싱 환경에서는 위상 기준점의 표류나 비가우시안 잡음 같은 변수도 존재합니다. 라 교수는 이러한 환경에서도 양자 이득을 잃지 않기 위해, 위상 변화가 작은 정밀 측정 영역에 대해 구간을 실시간으로 다시 설정하며 적응형으로 대응하는 방안을 연구하고 있습니다.
나아가 연구실은 여러 센서가 얽힘을 공유하며 측정하는 '분산형 양자 센싱(Distributed Quantum Sensing)'의 기초 연구에도 역량을 집중하고 있습니다. 특히 여러 개의 매개변수를 동시에 추정하는 다중 파라미터 추정 환경에서, 각 센서의 가중치를 자율적으로 제어할 수 있도록 만드는 기술을 탐구 중입니다. 이를 활용하면 특수한 케이스에서 개별 성분 각각의 값은 정확히 알지 못하더라도, 시스템 전체의 물리적 특성을 한 번에 정밀하게 측정해 내는 새로운 형태의 양자 센싱이 가능해집니다.
마치며
라영식 교수 연구실은 이처럼 복잡한 양자 시스템을 실험적으로 구현하는 단계를 넘어, 이를 실제 연산에서 활용하기 위한 이론적 프로토콜과 알고리즘을 동시에 개발함으로써 광학 양자 기술의 실용화 가능성을 끊임없이 타진하고 있습니다. 원천 기술의 1차적 마련과 함께, 장기적으로는 고전 컴퓨터로는 결코 풀리지 않는 실제 애플리케이션에서 기술을 운영하는 것에 초점을 맞추고 있는 것입니다. 이러한 혁신적인 연구 결과물들은 네이처 포토닉스(Nature Photonics)를 비롯한 세계 최고 권위의 학술지에 지속적으로 게재되며 그 학술적 가치를 전 세계적으로 인정받고 있습니다.
인터뷰 말미, 라영식 교수는 글로벌 기술 경쟁 속에서 대한민국이 양자 경제 패권을 확보하고 탄탄한 양자 커뮤니티를 형성하기 위해 무엇보다 중요한 것은 '전문성 있는 인력 양성'이라고 역설했습니다. 이를 위해 라 교수는 전문화된 강의를 제공하고 '양자정보'라는 1년 과정의 교육 커리큘럼을 직접 만드는 등 교과목 개발에 각별한 심혈을 기울이고 있습니다.
더불어 대학 연구실 안에만 머무르지 않고, 축적된 연구 노하우나 성과를 주변의 다른 연구소들과 활발히 교류할 수 있는 장을 만드는 것 또한 중요하다고 강조했습니다. 실제로 물리학의 경계를 넘어 공학 분야 연구자들과 함께 시스템 설계를 고민하고 있으며, 한국양자정보학회(QISK)를 비롯한 국내외 학술 활동과 기고문 집필 등을 통해 양자 생태계의 저변을 넓히는 데 앞장서고 있습니다. 기초과학의 단단한 뿌리 위에서 대규모 양자컴퓨팅과 초정밀 계측이라는 실용적 열매를 맺기 위해 나아가는 라영식 교수 연구실의 빛나는 여정은 앞으로도 계속될 것입니다.
뉴스레터 구독
파동의교차,지식의융합 양자세계의 최신소식을 받아보세요.
퀀텀웨이브에서 제공하는 콘텐츠
주목할 만한 최신 연구성과
양자물리학 분야의 혁신적 연구 결과를 쉽게 풀어서 소개하고 해설합니다
양자 세부분야 리뷰
양자컴퓨팅, 양자통신, 양자센서 등 각 분야별 심화 리뷰와 동향 분석
국내 연구실 연구 동향
국내 대학 및 연구기관의 양자 관련 연구 소식과 성과를 전해드립니다
주목할 만한 최신 연구
더 많은 내용보기열린 강의실
대한민국 국방의 중심, 국방과학연구소에서 양자를 만나다.
열린 강의실
국가 표준에서 양자 혁명까지: 한 걸음 더 들어가 본 ‘초전도 양자컴퓨팅 시스템 연구단’
양자 큐레이션
마법 상태 재배: 자원 효율적인 오류 허용 양자컴퓨팅의 구현을 향한 진전
구글 퀀텀 AI(Google Quantum AI) 연구팀이 보편적인 오류 허용 양자 컴퓨팅의 가장 큰 난제였던 '마법 상태(magic state)' 생성 비용을 획기적으로 절감하는 새로운 패러다임, ‘마법 상태 재배(magic state cultivation)’ 기술을 제안했다. 많은 논리적 큐비트 간 상호작용을 필요로 하는 기존의 '마법 상태 증류(magic state distillation)’ 방법과 다르게, 단일 코드 패치 내에서 점진적으로 마법 상태의 신뢰도를 키워 나가는 방식을 사용한다. 그 결과, 마법 상태의 생성 비용이 CNOT 게이트와 비슷한 수준으로 감소하여, 양자 알고리즘의 실질적인 구현에 필요한 자원을 수백에서 수천 배까지 줄일 수 있는 가능성을 열었다. 이는 양자 컴퓨터의 상용화를 향한 중요한 이정표가 될 것이다.




퀀텀웨이브 정기출판물