• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'에이미 창'통합검색 결과 입니다. (1건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[인터뷰] 美 금융 보안 전문가 "韓 보안 AI, 개발보다 지속 검증 중요"

[멜버른(호주)=장유미 기자] "인공지능(AI) 모델을 처음 평가했을 때 좋은 결과가 나왔다고 해서 안심해서는 안 됩니다. 실제 운영 과정에서도 모델의 행동을 지속적으로 테스트하고 모니터링해야 합니다. 그렇지 않으면 모델이 당초 의도한 방향에서 벗어나는 문제가 발생할 수 있습니다." 한국 정부와 민간 기업들이 사이버보안에 특화된 AI 모델 개발에 속도를 내는 가운데 미국 금융권에서 사이버보안 업무를 담당했던 전문가가 초기 성능 평가보다 지속적인 검증과 관리의 중요성을 강조했다. AI 모델이 실제 업무에 투입된 이후에도 예상대로 작동하는지 확인하고 활용 목적에 적합한 데이터를 확보해야 한다고도 조언했다. 에이미 창 시스코 AI 위협·보안 연구 책임자는 지난 9~11일 호주 멜버른에서 열린 '시스코 라이브 APJC 2026'가 끝난 후 지디넷코리아와 만나 "AI 모델을 특정 상황에서 테스트하고 평가할 때 최초 결과만으로 배포 여부를 판단해서는 안 된다"며 "모델이 시간이 지나면서 어떻게 작동하는지 지속적으로 확인하는 체계가 필요하다"고 강조했다. "韓 보안 특화 AI, 초기 성능 평가로 끝내선 안 돼" 창 책임자는 미국 JP모건체이스에서 사이버보안 관련 업무를 담당한 금융 보안 전문가다. 미국 해군 정보장교와 하원 외교위원회 관련 업무 등을 거쳤으며 현재 시스코에서 AI 위협과 보안 연구를 이끌고 있다. 이번 인터뷰에서 그는 보안 특화 AI 모델을 실제 업무에 적용할 때 성능뿐 아니라 운영 안정성과 데이터 적합성까지 종합적으로 고려해야 한다고 강조했다. 또 보안 특화 AI 모델 개발을 위해선 모델 자체의 성능을 높이는 것뿐 아니라 실제 보안 환경에서 얼마나 안정적으로 작동하고 새로운 위협에 대응할 수 있는지를 중요하게 평가해야 한다고 주장했다. 현재 국내에선 네이버클라우드가 정부 지원을 받아 사이버보안 특화 AI 파운데이션 모델을 개발하고 있다. SK텔레콤도 업스테이지 등 기존 컨소시엄 참여 기업들과 민간 차원의 독자적인 보안 특화 AI 모델 개발을 추진하고 있다. 그는 "특정 상황에서 AI 모델이 어떻게 작동하는지 처음 한 번 평가하는 것으로 끝내서는 안 된다"며 "모델을 배포한 이후에도 지속적인 테스트와 모니터링을 통해 행동을 확인해야 한다"고 말했다. 특히 AI 모델이 시간이 지나면서 당초 의도한 방향에서 벗어날 가능성도 경계했다. 모델의 행동이나 출력 특성이 달라지는 '드리프트'와 개발자가 의도한 목표에 부합하지 않는 '정렬 문제'가 발생할 수 있어서다. 창 책임자는 "지속적인 테스트와 모니터링이 이뤄지지 않으면 모델에서 정렬 문제나 드리프트 문제가 나타날 수 있다"며 "이는 AI 모델이 만들어지고 작동하는 방식의 특성과 관련이 있다"고 설명했다. 보안 특화 AI 모델에 활용되는 데이터의 적합성도 중요한 요소로 제시했다. 모델의 규모나 성능을 높이더라도 실제 사이버보안 업무에 필요한 데이터가 충분히 반영되지 않으면 현장에서 기대한 결과를 얻기 어려울 수 있다는 취지에서다. 그는 "특화 모델에 어떤 데이터가 입력되는지 이해하고 해당 데이터가 실제 활용 목적에 적합한지 확인해야 한다"며 "구체적인 사이버 사고와 보안 업무에 맞는 데이터를 활용해야 실제 현장에서 도움이 되는 정보를 제공할 수 있다"고 강조했다. 금융보안원도 해킹 피해…"'AI·보안' 전문성 단절 해결해야" 창 책임자는 사이버보안 체계를 강화하기 위해서는 기술 개발뿐 아니라 서로 다른 분야의 전문가들이 보유한 지식을 결합해야 한다고 강조했다. AI 모델 개발자와 기존 사이버보안 전문가들이 각자의 영역에서 축적한 지식을 충분히 공유하지 못하면 새로운 보안 위협에 대응하는 데 한계가 발생할 수 있다고 지적했다. 실제 최근 국내에서는 금융권의 사이버보안을 지원하는 금융보안원마저 해킹 피해를 입으면서 기존 보안 체계의 운영과 대응 방식에 대한 우려가 커지고 있다. 이와 관련해 창 책임자는 서로 다른 기술 분야의 전문가들이 협력을 강화할 필요가 있다고 짚었다. 그는 "현재 나타나는 문제 중 하나는 전문성이 서로 분리돼 있다는 점"이라며 "AI 모델 개발자와 AI 과학자들은 모델이 어떻게 작동하는지 깊이 이해하지만 반드시 사이버보안 환경까지 잘 알고 있는 것은 아니다"고 말했다. 그러면서 "사이버보안과 네트워크, 애플리케이션 보안 분야에는 오랜 경험을 가진 수많은 전문가들이 있다"며 "이들이 AI 모델의 특성과 활용 목적을 이해하고 각자의 전문성을 결합할 수 있도록 더 많은 정보 공유와 지식 이전이 이뤄져야 한다"고 강조했다. AI 기술을 보안 업무에 적용하는 과정에서 모델 자체에 대한 보호 장치를 마련해야 한다는 점도 언급했다. 사이버 공격을 탐지하거나 대응하기 위해 AI를 활용하더라도 모델이 의도하지 않은 방향으로 작동할 가능성을 고려해야 한다는 것이다. 창 책임자는 "금융기관을 비롯한 기업들이 직면한 문제를 해결하는 것뿐 아니라 보안 담당자들이 AI 모델에 적절한 보호 장치를 마련하는 것도 중요하다"며 "모델이 의도하지 않거나 원하지 않는 방향으로 작동하지 않도록 해야 한다"고 말했다. "취약점 발견만으로 부족"…보안 대응 인력·인간 판단 중요 창 책임자는 사이버 공격 속도가 빨라지는 상황에서 기업들이 직면한 또 다른 어려움으로 취약점 패치와 보안 대응 인력 부족 문제를 꼽았다. AI를 활용해 취약점을 빠르게 찾아내더라도 이를 실제 시스템에 적용하고 안전성을 확인하는 과정은 별개의 문제라는 판단에서다. 특히 금융회사처럼 여러 서비스와 시스템이 복잡하게 연결된 조직에서는 보안 패치를 적용한 이후 다른 업무에 문제가 발생하지 않는지 확인해야 한다. 취약점을 수정하는 과정에서 정상적인 서비스가 중단되거나 다른 시스템에 영향을 미칠 가능성까지 고려해야 하기 때문이다. 그는 "사이버 공격에 가장 제대로 대비하지 못한 조직은 보안 대응에 필요한 인력이 부족한 곳"이라며 "취약점을 발견하고 존재를 파악하는 것뿐 아니라 실제로 패치를 적용하고 그것이 문제를 해결했는지 확인하는 과정이 중요하다"고 말했다. 이어 "서비스 제공업체라면 보안 패치를 적용하면서 고객에게 제공하는 다른 시스템에 문제가 발생하지 않는지도 살펴야 한다"며 "이러한 작업은 반복적인 검증이 필요하고 여전히 사람의 확인이 요구된다"고 덧붙였다. AI를 활용한 보안 자동화가 확대되더라도 모든 판단을 AI 에이전트에 맡겨서는 안 된다는 점도 강조했다. 특히 기업 전체나 고객에게 중대한 피해를 주거나 여러 시스템에 연쇄적인 장애를 일으킬 수 있는 결정은 사람이 직접 관여해야 한다고 주장했다. 더불어 창 책임자는 위험도와 파급력이 큰 업무일수록 AI에 어느 수준까지 권한을 부여할지 신중하게 결정해야 한다고 밝혔다. AI가 보안 위협을 탐지하고 대응 업무를 지원할 수는 있지만 중대한 영향을 미치는 최종 의사결정까지 전적으로 위임하는 것은 적절하지 않다고 봐서다. 그는 "위험도가 높거나 큰 영향을 미칠 수 있는 결정, 연쇄적인 장애를 일으킬 가능성이 있는 결정은 AI 에이전트에 위임해서는 안 된다"며 "기업이나 고객에게 중대한 영향을 미칠 수 있는 사안이라면 반드시 사람이 의사결정 과정에 참여해야 한다"고 강조했다.

2026.11.17 10:14장유미 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

세무사시험 부정행위 파문...초소형 이어폰·카메라 온라인서 버젓이 판매

AI, 도입 넘어 가치 발굴로…델·구글 클라우드 등 총출동

[르포] 양산 검증 장벽 허문다…SK하이닉스가 용인에 품은 '상생의 팹'

정부, 수능시험장 스마트기기 원천 차단

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.