AI 모델 학습 '가지치기'로 빛 이용 양자 컴퓨팅 신뢰도 높였다

인공지능(AI) 모델을 학습시킬 때 중요한 파라미터는 살리고 그렇지 않은 파라미터는 덜어내 모델을 가볍게 하는 '가지치기' 기법이 많이 쓰인다. 광자 집적회로에 이같은 가자치기를 도입, 양자 컴퓨터와 AI 딥러닝의 신뢰도를 높이는 기술이 개발됐다. 한국연구재단(이사장 이광복)은 서울대학교 박남규·유선규 교수 연구팀이 범용 양자 컴퓨터나 광자회로를 이용한 기계학습의 신뢰도를 높이는 양자 회로 가지치기 기법을 개발했다고 26일 밝혔다. 빛은 초고속·저손실로 막대한 양의 정보를 처리할 수 있는 미래 컴퓨팅 기술로 꼽힌다. 이를 위해선 빛의 상태를 실시간 제어하고 프로그래밍하는 광자 집적회로가 필요하다. 그러나 회로 규모가 커지면 소자의 열잡음이 연산 신뢰도를 떨어뜨리는 문제가 있어 양자 큐비트 수나 딥러닝 뉴런 수를 상용화 가능한 수준으로 늘이기 어렵다. 연구팀은 생물의 뉴런이나 항공망 등 다른 네트워크의 특성에 착안해 광자 회로 분야의 이같은 문제를 극복했다. 적은 수의 뉴런으로도 놀라운 기능을 하는 예쁜꼬마선충이나 허브 구성 요소들이 시스템 구성을 주도하는 항공망 등의 특성을 활용해 광자 하드웨어의 효율을 높이려는 시도다. 양자 컴퓨팅 및 AI에 활용되는 광자 회로의 하드웨어 분석을 진행하는 과정에서, 네트워크의 모든 부분들이 같은 정도의 중요성을 갖지는 않음을 발견했다. 80%의 일을 20%가 담당한다는 네트워크 과학의 파레토 법칙이 광자 회로에서도 발견됨을 확인했다. 이는 허브 소자들이 따로 있으며, 덜 중요한 소자들을 제거해 신뢰도는 높고 전력 소모는 적은 회로를 구현할 수 있음을 의미한다. 연구팀은 이같은 자연계의 숨은 불평등성을 공학적으로 활용하기 위해 딥러닝 소프트웨어 분야에서 활용되는 가지치기 개념을 광자 하드웨어 설계에 도입, '양자 회로 가지치기' 기법을 개발했다. 이를 통해 신뢰도 높은 양자 컴퓨팅 및 딥러닝 가속기 구현이 가능함을 보였다. 박남규 서울대 전기정보공학부 교수는 "이번 연구는 꼭 필요한 소자만 남기는 양자 회로의 미니멀리즘이라고 할 수 있다"라며 "가지치기의 효율이 대규모 양자 컴퓨팅 및 딥러닝 가속기에서 더욱 향상된다는 점은 매우 고무적"이라고 밝혔다. 이 연구는 과학기술정보통신부와 한국연구재단이 추진하는 기초연구실, 우수신진연구사업의 지원으로 수행됐으며, 학술지 '네이처 커뮤니케이션즈(Nature Communications)'에 최근 게재됐다.