AI 더 똑똑하게 만드는 '수학적 방법' 찾았다

국내 연구진이 인공지능(AI) 안정성에 필수 요소인 '강건성'을 확보하고 개선할 조건을 수학적으로 증명해 관심을 끌었다. 강건성은 AI가 어떤 상황에서도 안정적으로 작동하는 정도를 말한다. UNIST는 인공지능대학원 윤성환 교수팀이 AI 학습 필수 단계인 데이터 증강을 통해 AI모델 강건성을 어떻게 높일 수 있는 지에 관한 조건을 수학적으로 증명했다고 19일 밝혔다. 윤성환 교수는 "눈보라에도 차선을 이탈하지 않는 자율주행차나 저화질 사진으로도 암을 진단하는 의료 AI 등을 만들기 위해서는 AI 모델 '강건성'이 뛰어나야 한다"며 ". 데이터 증강은 이러한 강건성을 높이는 기법으로 널리 쓰여왔는데, 그 정확한 강건성 향상 조건을 수학적으로 규명한 것"이라고 설명했다. 윤 교수는 "수학적 검증만으로도 효과적인 증강 기법을 선별할 수 있게 돼 AI 모델 개발에서 생산성을 크게 높일 수 있다"고 부연 설명했다. 딥러닝 모델은 학습한 데이터와 약간만 다른 환경에 노출되면 성능이 급격히 저하된다. 원본 데이터에 인위적으로 변형을 가해 학습량을 늘리는 데이터 증강이 필수적인 이유다. 그러나 어떤 변형 방식이 가장 효과적인지에 대해서는 명확히 밝혀진 바가 없어 수많은 시행착오를 반복해야 했다. 연구팀은 근접 지지 증강(PSA, Proximal-Support Augmentation)이라는 조건을 만족하는 증강일수록 원하는 효과를 거둘 수 있다는 것을 이번 연구에서 밝혀냈다. PSA는 원본 데이터에 미세한 변형을 가해 원본 데이터 주변을 촘촘히 채우는 증강 방식이다. 연구팀은 먼저 데이터 공간과 파라미터 공간에서 변화가 서로 대응된다는 점을 증명한 뒤, PSA 조건을 만족하는 데이터 공간에서의 변화가 파라미터 공간 손실함수 지형도 평평하게 다져준다는 사실을 입증했다. 입력 데이터 주변을 촘촘히 채우면, 이에 대응하는 모델 내부 파라미터 공간도 평평해져 AI가 강건성을 갖추게 된다는 것이 연구진 설명이다. 모델 손실함수 지형이 평탄(Flat Minima)할 경우, 뾰족한 지형(Sharp Minima)에 비해 강건성이 높았다. 실제 실험에서도 PSA 조건을 충족한 데이터 증강 기법이 그렇지 않은 기법보다 월등한 강건성을 나타냈다. 윤성환 교수는 “데이터 증강 설계를 보다 체계적인 과학으로 만든 연구”라며, “자율주행, 의료 영상, 제조 검사처럼 분포가 자주 바뀌는 실제 환경에서 신뢰할 수 있는 AI 모델을 만드는 데 중요한 이론적 기반이 될 것”이라고 말했다. 이 성과는 국제 인공지능 학술대회 중 하나인 전미인공지능학회(AAAI) 2026 정식 논문으로 채택됐다. 올해 학회는 오는 20일부터 27일까지 싱가포르에서 열린다. 연구는 △과학기술정보통신부와 정보통신기획평가원(IITP) '지역지능화혁신인재양성 사업' △UNIST '인공지능대학원' 사업 △UNIST 'AI스타펠로우십' 사업 △'인간지향적차세대 도전형 AI기술 개발' 사업 △한국연구재단 지원 개인기초연구 중견연구 지원을 받아 수행됐다.