"금융권, 안전한 보안위해 외부 데이터와 코드 검증 꼭 해야"
"안전한 보안 환경을 위해서는 외부 데이터 모델과 코드 검증이 대단히 중요합니다." 김성웅 금융보안원 산하 금융AI보안연구소장은 8일 마크애니가 개최한 금융권 CISO 및 CPO 대상 조찬 세미나에서 이 같이 밝혔다. 이날 행사는 AI 공격이 갈수록 거세지고 있는 가운데 '지능형AI 위협 대응 금융AX 시대에 필요한 핵심 보안 전략'을 주제로 열렸다. 김 소장은 프런티어 AI보안 위협을 소개하고 금융권 대응 전략을 들려줬다. 특히 그는 보안 운영 방식의 전환을 강조하며 프런티어 AI 보안위협에 적극 대응해야 한다면서 "우리가 사용하는 AI의 신뢰성, 안전성에 대해 끊임없이 평가하고 개선하는 활동을 이어가야 한다"고 강조했다. 또 "보안의 출발점은 자산과 공급망 전체에 대한 가시성 확보"라면서 자산과 공급망 관리를 당부했다. 금융회사 간 유기적 협력도 역설했다. AI발전으로 여러 기관이 동시다발로 금융사고가 일어날 가능성이 있기 때문이다. 지난 4월 미국 앤트로픽이 공개한 범용AI '미토스'가 등장함에 따라 AI발 보안 경계령이 극대화했다. 당시 '미토스'는 27년간 발견하지 못한 취약점을 발견하고, 파이어폭스 취약점을 217개 추가로 식별, 세계를 깜짝 놀라게 했다. 또 지난 7월에는 오픈AI의 AI모델이 사람이 지시를 하지 않았음에도 목표 달성을 위해 허깅페이스를 공격하는 보안 사고가 발생, AI가 자율성을 가졌을때 얼마나 무서운지 경각심을 일깨운 바 있다. 김 소장은 전문지식 없이도 AI를 활용하면 공격이 가능한 시대가 됐다면서 "대응 시간이 공격 시간보다 단축됐다. 패치를 하기도 전에 공격이 들어온다. 공격 공로가 되는 IT자산 및 취약점을 면밀히 파악해야 한다"고 짚었다. 허깅스페이스 사례에서 보듯, AI는 사람 개입없이 사람이 정한 규칙을 뛰어넘어 스스로 공격할 수 있게 돼 우려를 낳고 있는데, 몇 달 전 영국AI연구소 테스트 결과 미토스는 10번 중 3번이나 이런 공격에 성공했다. 기존의 보안체계를 AI위협 대응 체계로 전환하는 것이 시급한 것이다. AI발전을 보면, 2023년만 해도 AI는 각종 질문에 답하는 LLM에 그쳤다. 이후 진화해 2024년 코딩AI에 이어 2025년 AI가 스스로 보안 취약점을 분석하는 에이전틱AI가, 올해는 AI가 분석을 넘어 자동으로 취약점을 탐색하고 공격하는 프런티어AI 시대로 진화했다. 하지만 김 소장은 AI 공격이 "새로운 위협은 아니다"고 전제했다. 이어 "그러나 공격의 규모와 속도 정교함, 정밀성은 과거와 비교가 안될 정도로 확대됐다"고 밝혔다. 세계경제포럼도 "AI는 새로운 공격을 발명하기보다, 공격자의 능력과 범위를 동시에 확대한다"고 밝힌 바 있다. 금보원에서 AI공격 사례를 분석한 경험을 들려준 김 소장은 "AI가 표적형 공격으로 한군데만 공격하는 것이 아니라 동시에 여러 군데를 공격한다. 또 이전과 달리 사람 지시없이도 목표만 내리면 그 방법을 찾는 것도 가능하다. 아직 여기까지 간 사례는 없었지만, 더 발전하면 가능해질 듯하다"고 진단했다. 이처럼 갈수록 진화하는 AI공격에 대응해 금보원은 지난 7월 이에 대응하는 6대 방안을 마련, 각 금융기관에 전달한 바 있다. 6대 대응방안은 ▲경영진 책임 강화(핵심은 보고가 아니라 보고된 위험을 즉시 줄일 수 있는 권한과 실행 체계) ▲자산 및 공급망 관리 강화 ▲취약점 및 패치 관리(목표는 취약점 수 감소가 아닌, 실제 공격 성공 가능성의 우선적 감소) ▲AI 기반 방어 자동화( 핵심은 '완전자동'이아니라 '위험도별 자동화'로 오탐과 과잉대응으로 인한 서비스 중단 방지) ▲침해 확산 방지(중요시스템 분리운영하고 내부망이라는 이유만으로 무조건 신뢰 금지) ▲금융권 공동 대응 및 시스템 복원력 강화(복원력은 '백업보유'가 아니라 즉시 격리하고 실제로 복구되는 능력, 여기에 금융회사 간 유기적 협력으로 위협은 더 빠르게 대응하고 리스크는 더 안전하게 관리) 등이다. 특히 이 소장은 CEO 등 C레벨 경영진의 책임 강화를 지적하며 "패치가 정기적으로 이뤄지고 있는 지, 외부 위협에 열린 곳은 없는 지, 사고시 얼마나 빨리 복구할 수 있는 지 등을 잘 들여다봐야 한다"고 촉구했다. 취약점 및 패치관리 중요성도 언급했다. 취약점 수 감소보다 공격 성공 가능성을 줄이는 게 우선이라면서 "취약점이 하루에도 수백, 아니 수천개가 발견된다. 이 모든 것을 패치하는 건 불가능하다. 지금은 패치 정보를 한 곳에 모아 놓고 관리하는 게 가능하지만 앞으로 얼마나 더 수집할 수 있을 지 모르겠다"고 예상하며 "패치와 함께, 공격이 성공했을때 업무에 얼마나 영향을 미치는 지, 이 부분도 들여다봐야 한다. 패치 외에 웹방화벽 등 다른 보안수단을 통한 대안도 생각해봐야 한다. 무엇보다 공격 가능성 경로가 무언지 끊임없이 파악하고 이를 줄여야 한다"고 말했다. 보안사고를 100% 막는 건 불가능하다. 하지만, 방화벽이 있으면 불이 번지는 걸 막을 수 있듯이, 침해 확산 방지에 주력해야 한다. 김 소장은 공격 발생 후에 방어자가 할 수 있는 최선은 확산 방지라며 제로트러스트(공격자가 이매 내부에 있다고 보고 방어) 체계를 갖출 것을 당부했다. 또 복원력을 강조하며 "복원력은 백업 보유가 아니다. 즉시 격리하고 실제로 복구되는 능력이다. 흔히들 백업만 생각하는데 전환 훈련 등 훈련이 정말 중요하다"고 밝혔다. AI신뢰와 안전과 관련해 정부와 금보원의 노력도 소개했다. 정부는 인공지능기본법제정('26.1 시행)과 함께 과기정통부는 투명성 확보 등 5대 가이드라인도 제정했다. 금융 분야에서는 금융위가 지난 6월 금융분야 인공지능 가이드라인을 공개했고, 금보원도 같은 달 금융분야 인공지능 보안 안내서를 마련, 발표했다. 글로벌적으로는 EU의 AI Act와 미국NIST의 AI RMF 금융분야 적용 등이 있다. 특히 금융당국은 '금융AI 안전성 및 신뢰성 평가기준 프레임워크'를 제정, 발표한 바 있다. 금융AI 신뢰성은 5개 부문의 16개 항목으로 구성됐고, 금융AI 안전성은 5개 부문의 13개 항목으로 이뤄져 있다. 강연 후 이뤄진 질의응답 시간에 김 소장은 금융권이 망분리와 AI 등으로 CISO와 CPO들의 업무가 가중됐다면서 이에 걸맞은 처우 개선이 필요하다면서 "급변하는 AI시대에 보안 투자를 안하면 살아남지 못한다. 인력과 예산도 충분히 확보해야 한다"고 강조했다. 또 기업의 자산식별과 관련해 "CISO와 CPO 뿐 아니라 CIO와 CEO가 적극 협력해야한다"고 밝혔다. 한편 행사를 주관한 마크애니의 강봉원 부사장은 인사말에서 "지금 우리는 지능형 AI 위험이 현실화하고 금융AX 시대가 본격적으로 열리면서 금융 보안의 패러다임 자체가 근본적으로 변화하고 있다"면서 "금융권에 계신 CISO, CPO, 임원분들이 가장 깊이 고민하고 계신 주제로 강의를 준비했다"고 밝혔다.
