"보안과 AI 결합한 모델, 지속 지원해야"
정부가 지원하는 사이버 보안 특화 인공지능(AI) 파운데이션 모델, 일명 '보안 특파모' 개발 사업의 사업자 선정이 눈앞에 다가왔다. 보안 전문가들은 보안 특화 모델의 평가 기준을 어떻게 생각할까. 독파모(독립파운데이션모델) 같은 논란이 생기지 않을까. 보안전문가들 의견은 갈렸다. 지속가능성에 대한 보완 주문부터, 사업 시작부터 방향타를 잘못 잡았다는 지적도 나왔다. 과학기술정보통신부(과기정통부)는 지난 26일 '사이버 보안 특화 AI 파운데이션 모델 개발' 사업 공모를 마감, 사업자 발표를 눈앞에 뒀다. 네이버클라우드가 주도하는 컨소시엄과 SK텔레콤이 주도하는 컨소시엄 등 2개 컨소시엄이 제안서를 제출했다. 과기정통부는 제출 서류의 적합성을 검토하고 외부 전문가 발표 평가를 시행했다. 제안서에는 평가 기준도 포함됐다. 과기정통부는 보안 특파모 선정을 앞두고 수행 방법의 적정성, 추진 체계, 사업 내용 등을 살핀다. 크게 기술력 및 개발 경험, 개발 목표 등 부문을 각 30점씩 배점했고, 시장성 및 파급 효과 측면은 40점씩 배점, 총 100점으로 평가한다. 세부 기준을 보면, 먼저 기술력 및 개발 경험 부문에서는 사이버 보안 특화 데이터 처리 역량 등 '컨소시엄의 기술력'과 더불어 특화 파운데이션 모델, 서비스 개발과 같은 도메인 특화 서비스 상용화 사례 등 '컨소시엄의 개발 경험'을 중점적으로 평가한다. 이어 개발 목표 부문에서는 ▲사이버 보안 특화 파운데이션 모델 개발 전략과 기술의 우수성 ▲컨소시엄 구성의 전략성 ▲사이버 보안 특화 파운데이션 모델 개발 목표의 우수성 및 실현가능성 등을 평가한다. 컨소시엄의 개발 전략은 물론 컨소시엄을 구성하는 기업 및 기관 간의 협력체계, 개발 목표의 혁신성·우수성·실현가능성 등을 중점적으로 평가하겠다는 목표다. 시장성 및 파급 효과 부문에서는 국내 경쟁력 확보 및 시장 진출 계획, 사이버 보안 산업·생태계에 미치는 파급효과와 보안 생태계에 기여할 수 있는 방안 등을 평가한다. 2일 보안 전문가들은 이같은 평가 기준을 두고 여러 평가를 내놨다. 먼저 김승주 고려대 정보보호대학원 교수는 사업 시작부터 방향성이 잘못 설정됐다고 지적했다. 김 교수는 "마이크로소프트 보안팀 등 글로벌 보안 전문 연구진은 어떤 AI 모델을 쓰는지가 아니라, 여러 AI 모델을 어떻게 잘 조화롭게 엔지니어링하는지에 초점을 맞추고 있다. 실제 마이크로소프트의 멀티 모델 에이전틱 보안 시스템 '엠대쉬(MDASH)'도 기본 설계 철학 중 하나가 어떤 AI 모델을 가져다 놓더라도 일정 수준 이상 성능을 내는 AI를 개발하는 것이 목표였다"면서 "우리도 이렇게 방향을 설정했어야 한다. 독립 파운데이션 모델(독파모)을 사용하든, 중국산 AI를 사용하든, 기존 상용 AI 모델을 사용하든 최고 성능을 낼 수 있도록 방향을 잡아야 하는데, 우리는 독파모를 사용하도록 정해놨다"고 진단했다. 그는 "예를 들어 '독파모를 사용해서 기존 상용 AI 대비 최고 수준을 내야지만 만족할 수 있다' 식의 강력한 평가 지표를 제시한 것도 아니다"라며 "우려되는 부분은 상용 솔루션이나 대학에서 연구하는 거대 언어 모델(LLM)들은 이미 보안 분야에서도 최고 성능을 내고 있는데, 독파모를 활용한 사이버 특화 모델이 이보다 성능이 떨어질 경우에는 어떻게 할 것인지를 제시하지 못하고 있다"고 지적했다. 김 교수는 "이에 대한 기준을 명확하게 밝혀야 한다. 예를 들어 '성능이 상용 모델 대비 뒤처지더라도 국가 안보 목적으로 사용할 것이기 때문에 독파모로 모델을 확정했다' 등의 기준이 제시됐어야 한다"며 "성능이 나오지 않는 모델을 모두가 사용하라고 장려할 수는 없는데, 이같은 점을 감안하면 보안 특파모 사업 초기 단계부터 제안서가 잘 만들어지지 않았다고 평가한다"고 밝혔다. 그는 "독파모 자체에 대한 성능 평가 지표도 명확하게 제시된 것이 없다"며 "세계 트렌드와도 일치하지 않는 사업 방향성과 더불어 능력치도 알 수 없는 독파모를 가지고 사이버 보안 특화 모델을 만들라고 하니 이해가 어렵다"고 짚었다. 세부 평가 지표를 두고 시장성과 생태계 파급효과에 가장 많은 점수가 배점돼 있는 점도 우려스러운 대목으로 지목했다. 이용준 극동대 해킹보안학과 교수는 "시장성과 생태계 파급효과에 40점을 배정한 것은 '사업화 중점'이라는 관점에서는 이해되지만, '보안 특화 모델'이라면 보안 성능에 대한 평가 지표가 높아야 하고, 기능 검증 기준이 객관적이며 공정해야 한다"며 "현재 발표된 평가 기준에는 모델 우수성이나 차별성은 있으나, 실제 침해사고 데이터에서의 탐지율·오탐률, 미지·변종 공격 대응력, 적대적 입력에 대한 강건성, 보안 데이터의 출처·품질, 레드팀 평가 등이 구체적으로 드러나지 않았다"고 지적했다. 이어 그는 "특히 단순히 대형 모델을 만드는 것보다 현장에서 얼마나 정확하고 안전하게 동작하며 지속적으로 최신 위협을 학습할 수 있는지에 대한 핵심 평가 지표가 제시돼야 한다"며 "정부가 국내 보안 AI 기술 역량 축적과 AI 전환(AX) 혁신을 사업 목적으로 제시한 만큼, 기술적 신뢰성을 정량적으로 입증하는 평가 체계가 중요하다"고 밝혔다. 국가정보원 3차장을 지낸 윤오준 법무법인 율촌 상임고문은 "전체 배점에서 시장성과 산업 생태계 파급효과 부문이 40점으로 배점됐는데, 기술이나 모델 자체의 우수성보다 너무 높게 배점돼 조정이 필요해 보인다"면서 "사이버보안 특화 모델인데 실제로 보안과 관련된 성능이나, 안전성·신뢰성, 모델 운영능력 등에 대한 평가부분이 구체적으로 제시되지 않아 취약점 탐지, 악성코드 수집, 보안 에이전트 능력, 위협정보나 보안사고 원인분석 등등 기술력이나 개발역량을 체크할 수 있는 내용 보강 필요하다"고 강조했다. 윤 상임고문은 이어 "보안에 특화된 학습데이터 확보, 품질, 정제, 라이센스 등 데이터 경쟁력과 독자적 AI모델 등 기술주권에 대한 평가 부분도 보강이 필요해 보인다"고 부연했다. "보안 특파모는 AI 보안의 일부" 폭넓은 관점에서 보안 특파모뿐 아니라 보안을 위한 여러 AI 모델에 대한 지원책도 확립돼야 한다는 주장도 제기됐다. 과기정통부 사정에 밝은 한 관계자는 "보안 특파모가 보안 생태계에 잘 보급돼서 효과적으로 사용돼야 하는 것이 중요한데, 평가 항목 중 시장성과 생태계 파급효과에 높게 배점된 점은 평가 기준을 나름 잘 세운 것으로 평가된다"며 "이런 부분을 보면 정부도 고민을 많이 한 것으로 보인다"고 평가했다. 다만 이 관계자는 "정부의 의도대로 파운데이션 모델을 직접 만드는 형태로 보안을 위한 AI를 마련할 수도 있는 것이고, 자사 보안 솔루션에 AI를 결합해 에이전트화해 AI 보안을 구현하는 방안 등 여러 방법이 있는 것도 사실"이라며 "지속적으로 보안 기업들과 수요 기업들이 AI를 활용한 다양한 보안 관련 모델을 제안하게 하고, 사업화가 진전될 수 있도록 사업 모델을 발굴·지원하는 방안이 필요하다"고 말했다. 그는 이어 "보안 특파모도 이같은 방안의 한 축일 뿐이지, 보안에 AI를 결합한 형태를 가속화할 수 있는 여러가지 지원 프로그램이 지속적으로 뒷받침돼야 한다"며 "보안 특파모가 만들어졌다고 가정했을 때 대한민국 내 모든 보안기업들이 전부 이를 가져다 사용해야 하는 것은 아닐 것이다. 세제 지원, 바우처 등 다양한 형태로 보안을 위한 AI 개발을 정부가 적극 지원해야 하는데 보안 특파모 개발에만 집중되는 부분은 아쉬움이 있다"고 강조했다. 천정희 서울대 수리과학부 교수도 "객관적인 평가 기준은 공정성 있게 마련된 것 같은데, 주관적인 평가는 어떻게 진행됐는지 알지 못하는 경우가 많다"며 "정량평가 외에도 공정하게 진행될 필요가 있다"고 밝혔다. 사업에 참여하는 한 보안 기업 관계자는 "컨소시엄 주관사 쪽에서 평가에 심혈을 기울이고 있는 것으로 안다"며 "컨소시엄에서 보유하고 있는 데이터량이 많고 다양한 점을 어필할 계획이고, 현재 발표 평가를 앞두고 있는 만큼 작업에 들어간 것으로 알고 있다"고 말했다.
