[기고] ITU-T SG17 회의에서 논의한 AI보안 국제표준

최근 중국 딥시크사의 챗봇 서비스 개시로 미국과 중국 간 거대 언어모델 (LLM) 인공지능 시스템 모델 개발 경쟁이 가열되고 있다. 인공지능(AI) 시스템 신뢰성 (trustwordiness)은 공격에 강력한 인공지능 보안, 프라이버시 침해 없는 인공지능 프라이버시, 편견 없고 악용 없이 동작하는 인공지능 안전에 대한 요구조건을 만족해야 확보될 수 있다. 통상 인공지능 보안은 인공지능 시스템 자체 보안을 강화하는 측면과, 인공지능을 접목해 기존 보안 시스템의 보안 능력을 강화하는 측면으로 구분한다. 인공지능시스템 자체 보안은 모델 추출, 적대적 공격 등 인공지능 시스템에 대한 다양한 사이버 공격을 보안 대책으로 막아 안전한 인공지능 시스템을 운영하는 데 있다. 인공지능을 이용하는 보안(security)은 인공지능 시스템이 백신 등 모든 사이버보안 제품이나 서비스에 적용돼 기존 보안 제품의 대응 능력을 향상하는 데 있다. 또 인공지능 프라이버시(privacy)는 특정 정보 주체의 개인정보가 인공지능시스템의 학습데이터에 포함돼 있는지를 알 수 없게 만드는 등 프라이버시 보호 측면을 다룬다. 인공지능 안전성(safety)은 인공시스템이 사이버 공격에 이용되는 악성코드를 만드는 등 오남용되지 않고, 편견 없이, 책임감 있게 동작하도록 하는 등의 조치를 통해 확보될 수 있다. ITU-T (국제전기통신연합/전기통신표준화부문) 연구회기 (2025-2028)의 첫 번째 ITU-T SG17 (정보보호연구반) 회의가 스위스 제네바 ITU 본부에서 지난 17일 클로싱 총회를 열고 대단원의 막을 내렸다. 이번 회의의 가장 주목받은 논점은 ITU-T SG17의 인공지능 보안 국제표준화 추진 전략 마련 여부였다. 'ITU-T SG17'이 인공지능 보안에 대한 국제표준화를 어떻게 전략적으로 추진할지에 대한 것에 논의가 집중됐다. 인공지능 보안만을 다루는 ITU-T SG17 내 연구과제(Question)를 신설할 지, 국제표준화 기구 간에 인공지능 보안 표준화 활동을 조정할 인공지능 보안 조인트 조정활동 (JCA)을 신설할지 등 다양한 추진 방안을 논의했다. 생성형 인공지능시스템의 경우, 미국과 중국 간 경쟁이 첨예하게 대립하고 있음은 누구나 잘 알고 있는 사실이다. 그러나, 이번 회의에서는 미국을 중심으로 하는 서방 진영과 중국을 중심으로 하는 개도국 진영 간의 인공지능 시스템 보안에 대한 국제표준화를 시급히 추진해야 한다는 데 이견이 없었던 듯하다. 예를 들어 캐나다가 인공지능 보안 국제표준화를 추진하기 위한 전략을 발표했고, 미국도 작년 10월 열린 세계정보통신표준화총회(WTSA-24)에서 수립된 '인공지능 기술에 대한 표준화 활동'에 대한 WTSA-24 신규 결의(WTSA-24 Resolution 101)에 대한 후속 조치로 ITU-T SG17이 인공지능 보안 국제표준화를 적극적으로 추진할 필요가 있다고 강조했다. 또 우리나라도 인공지능 보안 국제표준화의 필요성을 인지하고 이러한 제안을 지지했다. 중국도 인공지능 보안 분야에서 많은 신규 표준화아이템을 제안해 반영했다. 이러한 표면상 의견 합치 배경은 인공지능시스템에 대한 사이버 공격을 막기 위한 다양한 보안 대책과 방안에 대한 국제표준 개발이 시급히 필요하다는 점을 양 진영이 공감하고 있고, ITU-T SG17이 인공지능 보안에 대한 국제표준화 활동을 주도해야 하며, 이를 위한 인공지능 보안의 국제표준화 추진 전략을 마련해야 한다는 데 공감하고 있다는 데 있다고 본다. 인공지능 보안 국제표준화 추진에서 표면적 오월동주의 시대가 시작된 듯하다. 그러나 이러한 상황이 지속되리라고는 단정할 수 없는 측면도 있다. 이번 ITU-T SG17 회의에서 합의한 중요 사항은 ITU-T SG17이 인공지능 보안 국제표준화에서 국제적 리더십을 확대하기 위한 다양한 전략 마련이 필요하고, ITU-T SG17 차원에서 인공지능 보안 국제표준화에 대한 청사진을 마련한 점이다. 이러한 청사진에 기반해 ITU-T SG17에서 향후 인공지능 보안 국제표준화를 적극적으로 추진하기로 했고, 다른 표준화 기구 사이의 표준화 조정 활동이 필요하며, 여러 표준화 기구 간 중복적 국제표준 개발을 막아야 한다는 데 의견을 모았다. 또한 이번 ITU-T SG17 회의에서 중국 등의 제안으로 10건이 넘는 인공지능 보안 분야 신규 표준 아이템이 수립된 점은 주목할 만한 점이다. 이번 회의는 우리에게 시사한 바도 크다. 향후 우리나라도 국가 차원에서 국내 인공지능 보안 및 개인정보보호 전문가들이 모여 인공지능 보안 국제표준화에 대한 종합 대책과 전략 개발이 필요하다. 이를 근거로 ITU-T에서 국제 표준화 활동을 강화하고 리더십을 확보할 필요가 있다. 또 우리나라의 많은 사이버보안 기업과 산업계가 인공지능 보안 국제표준화 과정에 적극 참여, 우리나라 산업체가 생산하는 인공지능 관련 시스템이나 서비스의 보안과 상호운용성을 확보하고, 궁극적으로 우리 기업의 인공지능 보안 제품이나 서비스의 경쟁력을 강화해야 한다. 더불어 인공지능 보안 국제표준화 인력의 활동 지원과 인력 양성을 위한 지원도 필요하다. 보안을 고려하지 않은 인공지능 시스템 구축과 서비스를 운영하면 사이버 공격에 무력화되는 인공지능 서비스와 제품이 되고 말 것이다. 다양한 사이버 공격에 견딜 수 있는 인공지능 시스템을 개발하고 운영해야 인공지능 시스템의 신뢰성을 확보할 수 있다. 이번 ITU-T SG17 회의에서는 '인공지능 보안을 포함한 정보통신시스템의 신뢰성(Trust)'에 대한 신규 기술보고서 아이템을 우리나라 주도로 수립한 점은 의미 있는 성과다. 인공지능 보안과 프라이버시, 그리고 안전성을 확보해야만 인공지능 시스템의 신뢰성을 확보할 수 있다. 인공지능 시스템의 신뢰성을 확보하기 위한 국제표준 개발과 활동에 우리나라가 보다 적극 나서야 한다.