고려대 AI보안연구소 출범..."AI보안 세계1위 기여"
고려대학교 AI보안연구소(AISRI)가 3일 오후 대학내 미래융합기술관에서 개소식을 열고 출범했다. 연구소장은 이상근 정보보호대학원 교수가 맡았다. 이 소장은 서울대 컴퓨터공학부에서 2003년 학사(B.S.) 학위를 취득했다. 석사는 한국과 미국에서 취득했다. 2005년 서울대 전기컴퓨터공학부 석사(M.S.) 학위에 이어 미국 위스콘신 매디슨 대학교 컴퓨터과학과에서 2008년 석사(M.S.) 학위를 받았다. 박사 학위는 2011년 미국 위스콘신 매디슨 대학교에서 컴퓨터과학으로 취득했다. 대통령 안보실 자문(2025년)과 국가정보원 AI 보안 가이드라인 자문(2025년)을 지냈고 현재 개인정보위원회 '인공지능 프라이버시 민관정책협의회' 위원 등으로 활동하고 있다. 이날 이 소장은 "AI시대 핵심 과제는 신뢰"라면서 고려대 AI보안연구소가 추구하는 미션 두 가지를 제시했다. 첫째, 신뢰할 수 있는 AI를 만드는 것 둘째, AI로 안전한 사회를 만드는 것이다. 그는 "이 두 미션은 우리가 다하겠다는 게 아니라 여기 모이신 분들과 함께 만들어 나가겠다"면서 "K-컬처는 유명하지만 K-보안은 잘 안떠오른다. 하루빨리 AI신뢰 1등을 달성해야 한다. 내 개인적 포부이면서 여러분에게 말하고 싶은 것이다. 대한민국 AI 신뢰를 선도하는 AI보안 연구 거점이 되겠다"고 강조했다. 이 소장은 대리자에게 믿고 맡기는 것이 신뢰라면서 "믿고 맡기기 위해서는 불확실성과 취약성 문제를 먼저 해결해야 한다"면서 "AI라는 에이전트에게 맡기려면 AI 목적(개발 의도), 과정(작동 원리), 성능이 먼저 검증돼야 한다"고 짚었다. 연구소가 답하려는 질문 4가지도 밝혔다. 첫째, AI로 더 안전한 사회를 어떻게 만들 것인가(AI해커를 방어하는 AI) 둘째, 공격에 강한 AI를 어떻게 만들 것인가(AI 자체 공격에 대한 강인성) 셋째, 통제 및 신뢰성을 검증 가능한 AI를 어떻게 만들 것인가 넷째, 산업과 사회가 신뢰할 수 있는 AI생태계를 어떻게 만들 것인가 등이다. AI 시대에 보안이 중요해진 배경에 대해 “AI가 단순히 답을 생성하는 도구를 넘어 스스로 판단하고 외부 도구를 호출하며 행동하는 단계로 가고 있다. 이제 잘 작동하는 것으로는 부족하다. 무엇을 하도록 설계됐는지, 실제로 어떤 방식으로 움직이는지, 그 결과를 사람이 통제하고 검증할 수 있는 지가 더 중요해졌다"고 짚었다. 연구소는 고려대 정보보호대학원 산하로 세워졌다. 고려대 정보보호대학원은 2001년 설립, 25년 역사를 자랑한다. 초대 대학원장은 임종인 현 명예교수다. 현재 18명 전임교수와 500명 이상 재학생, 10개 이상 부설센터 연구실을 갖고 있다. 2012년에는 사이버국방학과를, 2024년에는 개인정보보호 대학원을 각각 설립했다. 올해 AISRI가 설립, 25년 역사에 한 페이지를 더했다. 현 대학원장은 정익래로 5대다. 미국 상무부 산하 국가 표준·기술 연구기관인 NIST(National Institute of Standards and Technology(NIST)가 정의하고 있는 신뢰할수 있는 AI(Trustworthy AI)의 7가지 특성도 소개했다. ▲Valid&Reliable(검증 가능하고 일관된 결과물 산출) ▲Safe(사용자와 사회에 위해를 가하지 않음) ▲Secure&Resilient(공격에 강하고 장애시 복원 가능) ▲Accountable&Transparent(의사결정 과정을 추적하고 공개) ▲Explainable&Interpretable(AI이 판단 근거를 사람이 이해 가능) ▲Privacy-Enhanced(개인정보보호와 데이터보안 보장) ▲Fair(유해한 판단을 관리하고 공정한 결과를 보장) 등이다. AISRI는 '보호-검증-확산'을 연결하는 '허브'를 지향한다. 이를 위한 액션으로 리서치, 어슈어런스(Assuracne), 생태계 조성에 주력한다. 리서치와 관련 이 소장은 "정부 부처 자문을 하면서 느낀 것은, 해외 싱크탱크 같은 것이 우리나라에서는 부족하다고 느꼈다"면서 "이 역할을 하겠다"고 약속했다. 또 인증기관 평가와 체계, 표준화 등이 잘 연계돼야 한다면서 산학연이 잘 어우러지는 생테계 조성에도 힘을 쏟겠으며, 생태계가 잘 굴러가게 작은 핵심 톱니바퀴 역할을 하겠다고 말했다. AISRI 조직은 이 소장 외에 3개 센터(AI기술 보안 연구센터, AI기반 보안 연구센터, AI보안 시험평가센터)와 1연구단(산업특화 AI보안 연구단)이 있다. 이외에 운영위원회와 자문위원회, AI보안얼라이언스를 둔다. 이 소장은 독일과 캐나다, 영국을 거론하며 "글로벌 협력도 생각하고 있다"고 덧붙였다. AISRI 설립 멤버는 8명으로 이 소장과 정익래 대학원장(블록체인 ZKP), 김휘강 교수(자동차 보안, CTI), 이중희 교수(공급망 보안, AI HW 트로이목마), 박정흠 교수(디지털포렌식, 침해사고 대응), 신영주 교수(모델 난독화), 윤지원 교수(퀀텀AI, 로봇보안) 등이 이름을 올렸다. 이 소장은 "멤버가 앞으로 더 늘어날 것"이라면서 AISRI가 연구하려는 분야를 매트릭스로 제시했다. 즉, 전략 4축(적대적 공격, 모델 복제, 백도어, 탈옥) × 기술 프런티어(초거대 모델 안정성, 자율에이전트 보안 및 통제) ×공격 지형(AI에이전트 보안 취약점, 오펜시브 보안, AI해커, AI사이버전) ×악용 시나리오(딥페이크, 피싱, 허위정보, 범죄도구)로 구분, 빈틈없는 AI보안연구에 나서겠다면는 것이다. 이 소장은 "이것들이 국가 전략이나 정책 표준화, 인증으로도 이어질 수 있는 그림을 그려본다. 포부는 거창한데, 하나씩 만들어 나가야 할 것 같다. 빌드(Build) 단계, 연결(Connect) 단계, 리드 단계의 세 단계로 나눠 접근하겠다"면서 "연말이나 내년 초에 더 큰 행사를 열기위해 기획하고 있다"고 들려줬다. 홍진배 IITP 원장과 박상원 금보원장이 축사 이날 행사에는 홍진배 정보통신기획평가원(IITP) 원장과 박상원 금융보안원 원장이 참석, 축사를 했다. 홍 원장은 오늘날 우리는 인공지능이 산업과 사회 전반을 근본적으로 변화시키는 시대를 살아가고 있다면서 "특히, 생성형 AI 확산을 넘어 자율적으로 판단하고 행동하는 에이전틱 AI와 로봇·자율 시스템 등 현실 세계에 확장되는 피지컬 AI 등장은 혁신의 기회를 크게 넓히는 동시에, 기존의 사이버 공간을 넘어 물리적 공간까지 연결되는 새로운 보안 위협을 만들어 내고 있다"고 진단했다. 과기정통부 실장 출신인 홍 원장은 부처에 있을때 실장을 포함해 보안 보직을 4번이나 맡은 이 분야 정책전문가이기도 하다. 홍 원장은 에이전틱 AI가 목표 기반으로 스스로 취약점을 탐색하고 공격을 실행하는 특성으로 공격자가 이를 악용할 경우 취약점 탐색부터 공격까지 과정이 지능화 및 자동화 되는 새로운 위협을 만들어 내고 있다면서 "피지컬 AI 시스템을 대상으로 한 사이버 공격은 실제 물리적 사고로 이어질 수 있다"고 우려했다. 이에, 보호해야 할 대상이 전통적인 ICT 인프라 뿐만 아니라 AI 모델과 데이터, 에이전트와 물리 시스템까지 확대되며 보안의 범위 또한 전방위적으로 확장되고 있다면서 "'AI를 활용한 공격'과 'AI를 통한 방어'가 격돌하는 지능형 사이버 전장에서 공격자가 AI를 무기화해 보안 취약점을 파고들 때, 우리의 방어체계 역시 그보다 더 빠르고 정교하게 진화해야 한다"고 강조했다. 특히 AI 기술을 안전하게 활용함과 동시에 지능형 사이버 공격으로부터 안전하게 방어하는 AI 보안기술이 곧 경쟁력인 시대가 도래했다고 생각하면서 "이러한 흐름 속에서 고려대학교 AI보안연구소의 출범은 매우 의미가 크다. 단순한 연구소 설립을 넘어 인공지능 시대에 요구되는 신뢰 기반을 구축하고 AI 보안 분야에서 국가 경쟁력을 확보하기 위한 중요한 연구 거점이 될 것으로 기대한다"고 말했다. 박상원 금융보안원장은 인공지능이 경영의 기본이 되는 'AX(AI 대전환)' 라는 거대한 패러다임 전환을 맞아 금융권이 수백 개 AI 에이전트를 도입하고, 수천억 원을 투자하는 등 'AI 퍼스트' 시대를 열어가고 있다면서 "하지만 AI확산만큼 이를 악용한 보안 위협 또한 전례 없는 속도로 진화하고 있다"고 짚었다. 이어 금융보안원의 올해 AI 레드티밍 수요가 전년 대비 5배 이상 급증했다면서 "이는 안전한 AI 환경을 구축하려는 금융권의 노력을 잘 보여주것"이라면서 "AI 시대 경쟁력은 '신뢰'에서 나오며, 그 신뢰를 가능하게 하는 기반은 'AI 보안'이다"고 강조했다. 이런 시점에서 고려대 AI보안연구소 개소는 무엇보다 중요한 의미를 갖는다면서 "이곳에서 창출될 연구 성과들이 금융산업 뿐만 아니라 국가 전체의 AI 경쟁력을 한차원 높여줄 것으로 기대한다. 금융보안원도 금융권 AI 보안을 위해 노력하겠다"고 약속했다. 또 이번달 '금융분야 AI 보안 실무안내서'를 배포하고, 하반기에는 AI 레드팀 조직을 대폭 확대하겠다면서 "두 기관이 기술 연구와 인력 양성 등에서 긴밀히 협력해 금융산업 뿐 아니라 국가 전체의 AI 경쟁력을 한차원 높여 줄 시너지를 낼 수 있기를 희망한다"고 말했다.
