검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'보안'통합검색 결과 입니다. (1577건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

국정자원, AI 해킹 대응 보안 강화…정부 클라우드 관리체계 개편

국가정보자원관리원(국정자원)이 인공지능(AI)을 활용한 해킹 위협에 대응하기 위해 정부 행정망 보안체계를 강화하고 민관협력형 클라우드 관리체계 개편에 나선다. 기존 업무시스템 단위로 운영하던 보안 서비스를 중앙집중형으로 재구성하고 이중 보안관제 체계를 구축해 정부 정보시스템의 안정성을 높인다는 방침이다. 행정안전부 국정자원은 21일 정부세종청사에서 중앙부처와 공공기관 정보화 담당자 등 300여 명이 참석한 가운데 '2026년 입주기관 협의회'를 개최했다고 밝혔다. 이번 협의회는 AI를 활용한 해킹 위협 등 사이버보안에 대한 관심이 높아지는 가운데 정부 정보시스템 보안 대응체계를 점검하고 민관협력형 클라우드 운영 안정성과 보안성을 강화하기 위해 마련됐다. 국정자원은 이날 보안 강화를 위한 주요 현안과 대응 방안을 공유하고 재해복구시스템(DR) 구축 현황, 정보시스템 안정성 확보를 위한 정책 추진 상황 등을 설명했다. 우선 AI 활용 해킹에 대응하기 위해 행정망 웹 취약점 점검을 확대하고 발견된 취약점에 대한 긴급조치 방안을 공유했다. 민관협력형 클라우드 보안체계도 개편한다. 국정자원은 기존 업무시스템별로 운영하던 보안 서비스를 중앙집중형으로 재구성해 이중 보안관제·탐지·대응 체계를 구축하는 방안을 제시했다. 클라우드 운영 관리체계는 통합 클라우드 관리형 서비스(MSP) 방식으로 전환할 계획이다. 이를 통해 민관협력형 클라우드 운영 안정성과 보안성을 강화한다는 구상이다. 국정자원은 국가 핵심 정보시스템의 중단 없는 운영을 위해 추진 중인 DR 구축 사업 진행 상황도 공유했다. 재난이나 장애 발생에 대비해 정부 서비스 연속성을 확보하기 위한 사업이다. 이와 함께 지난 4월 제정된 '행정기관 및 공공기관 정보시스템 안정성 고시' 주요 내용을 설명하고 입주기관이 준수해야 할 사항을 안내했다. 정부 정보시스템 클라우드 네이티브 전환을 위한 절차와 지원 사항도 공유했다. 아울러 민간클라우드 이전 대상 선정 기준과 관련 지원 정책을 입주기관들과 공유했다. 협의회에선 입주기관 담당자들이 사전에 제출한 질문과 평소 궁금했던 사항에 답변하는 시간도 마련됐다. 국정자원은 정부 정보시스템 운영과 보안 강화, 클라우드 전환 과정에서 기관 간 협력을 확대한다는 목표다. 하승철 국가정보자원관리원장은 "AI 해킹 위협이 현실로 다가오는 상황에서 보안 강화를 위한 범정부 차원 대응이 그 어느 때보다 중요하다"며 "DR 구축과 클라우드 네이티브 전환 등 정부 서비스 안정성 확보를 위해 입주기관의 적극 협력과 지원을 부탁드린다"고 밝혔다.

2026.10.21 17:14한정호 기자

해킹 위협에 AI로 맞선다…한진정보통신, 보안 사업 확대

한진정보통신이 아마존웹서비스(AWS) 인공지능(AI) 기술을 활용한 보안 취약점 자동 점검 서비스를 선보이며 항공·여행 산업을 중심으로 매니지드 보안 시장 공략에 나선다. AI가 취약점을 지속 탐지하고 보안 전문가가 결과를 검증하는 체계를 구축해 기업 보안 관리 부담을 줄인다는 전략이다. 류연홍 한진정보통신 디지털 비즈니스 유닛 최고기술책임자(CTO)는 21일 서울 종로구 포시즌스 호텔에서 열린 'AWS T&H 테크 포럼 2026'에서 "기업들은 애플리케이션을 수시로 배포·변경하지만 보안 점검은 특정 시점에 집중돼 있어 취약점 관리에 공백이 발생할 수 있다"며 "이러한 문제를 해결하고자 'AWS 시큐리티 에이전트'를 기반으로 보안 점검 사업 모델을 마련했다"고 밝혔다. 류 CTO는 최근 산업계에서 발생하는 해킹 사고를 사례로 들며 상시 보안 점검 필요성을 강조했다. 애플리케이션이 지속 업데이트되는 환경에서 연 1~2회 실시하는 정기 점검만으로는 새롭게 발생하는 취약점에 신속하게 대응하기 어렵다고 짚었다. 이에 한진정보통신은 AWS 시큐리티 에이전트를 기반으로 자체 보안 서비스 'HAI-시큐리티'를 출시했다. AWS 시큐리티 에이전트는 AI가 점검 대상을 분석하고 공격 시나리오를 생성해 모의 해킹을 수행하는 기술이다. 발견한 취약점 공격 경로와 점검 이력을 기록하고 개선 방안까지 제시하며 문제가 발생한 항목만 선택해 재검증할 수 있도록 돕는다. 류 CTO는 "AWS가 기술을 제공하지만 실제 고객 환경에 적용하고 결과를 판단하는 일은 사용자나 파트너가 맡아야 한다"며 "우리는 국내 보안 기준 적용과 전문가 검증, 운영 관리까지 지원하도록 서비스를 개발했다"고 설명했다. 이날 공개한 HAI-시큐리티는 AI 자동 점검에 국내 보안 기준을 결합한 서비스다. 글로벌 보안 점검 기준에 국내 정보보호 관리체계와 관련 규정을 추가하고 한진정보통신 보안 전문가가 AI 탐지 결과를 검토해 실제 위험 여부를 판단하는 구조다. 취약점 조치부터 재검증, 보고서 작성까지 통합 지원하며 인증 심사에 필요한 점검 이력과 증빙 자료도 관리할 수 있도록 지원한다. 점검 대상도 AWS 클라우드에 한정되지 않는다. 다른 클라우드 환경과 온프레미스 시스템은 물론 깃허브와 깃랩 등 코드 관리 환경까지 지원한다. 기업이 전용 콘솔에서 프로젝트별 취약점과 위험도 분포를 확인하고 조치가 필요한 항목을 선택해 재점검할 수 있도록 한다는 방침이다. 다중인증(MFA)과 사용량 제한 설정, 종량제 비용 관리 등 운영 지원도 서비스에 포함됐다. 류 CTO는 AI가 취약점을 탐지하더라도 최종 판단에는 보안 전문가 검토가 필요하다고 강조했다. 그는 "AI 에이전트가 점검 주기와 배포 시점을 추적해 문제를 찾아내더라도 국내 기준에 따른 판정은 전문가가 수행해야 한다"며 "탐지부터 조치, 재검증과 보고까지 이어지는 전체 과정을 지원하는 게 HAI-시큐리티 사업 모델"이라고 말했다. 실제 내부 검증에서도 국내 기준 적용에 따른 탐지 결과 차이가 확인됐다. 한진정보통신에 따르면 동일한 점검 환경에서 글로벌 기준만 적용했을 때 발견된 취약점은 9건이었지만 국내 기준을 추가한 경우 23건으로 늘었다. 글로벌 보안 기술에 국내 규제와 전문가 검증을 결합하는 방식이 효과가 있다는 평가다. 한진정보통신은 서비스 개발과 내부 기능 검증을 마치고 사업 확대에 나선 상태다. 항공·호텔·여행 산업을 중심으로 개념검증(PoC) 참여 기업을 모집 중이며 향후 공공 등 규제 산업으로 적용 범위를 넓힐 계획이다. AWS와 공동으로 사업을 추진하는 한편 마켓플레이스 등록과 관련 컨설팅도 추진한다는 방침이다. 류 CTO는 "현재 솔루션 개발과 내부 검증을 마치고 사업을 확대 중"이라며 "PoC를 통해 고객 환경 취약점을 점검하고 약 2주간 결과를 분석해 실제 시스템 개선에 활용할 수 있도록 지원할 계획"이라고 밝혔다. 이어 "최근 업계에선 해킹과 보안 취약점에 어떻게 대응하느냐가 가장 중요한 문제"라며 "고객과 함께 문제를 해결하고 안정적인 시스템과 조직을 갖출 수 있도록 지원하겠다"고 강조했다.

2026.10.21 12:23한정호 기자

AI 보안은 시스코, 신뢰성 평가는 셀렉트스타…협력 시동

셀렉트스타가 글로벌 네트워크·보안 기업 시스코와 손잡고 기업용 인공지능(AI) 보안과 신뢰성 검증을 위한 협력에 나선다. 셀렉트스타는 시스코와 AI 보안·신뢰성 분야 전략 협력을 위한 의향서(LOI)를 체결했다고 21일 밝혔다. 양사는 전날 시스코코리아 본사에서 서명식을 열고 각 사 기술과 경험을 활용해 기업 고객 AI 도입과 활용을 지원하기로 했다. 셀렉트스타는 독자 AI 파운데이션 모델과 모두의 AI 사업 등 국가 AI 프로젝트에 참여하고 금융·법률·공공 분야에서 AI 학습·평가 데이터 구축과 모델 평가 컨설팅을 수행해 왔다. 자체 개발한 AI 신뢰성 평가 플랫폼 '다투모'는 평가 데이터 생성부터 모델 성능·안전성 평가, 레드티밍, 결과 분석까지 지원한다. 양사는 시스코 AI 보안 솔루션 'AI 디펜스'와 셀렉트스타 모델 평가 기술을 결합하는 방안을 논의할 계획이다. AI 디펜스는 AI 모델 취약점 평가와 운영 과정에서 발생하는 보안 위협 대응을 지원하는 솔루션이다. 이를 바탕으로 기업 고객 요구에 맞는 AI 보안·신뢰성 검증 방안을 모색하고 공동 세미나와 마케팅 협업 등으로 협력 범위를 확대할 예정이다. 김세엽 셀렉트스타 대표는 "이번 LOI는 시스코와 AI 보안 및 신뢰성 분야 협업 가능성을 구체적으로 논의할 수 있는 계기"라며 "양사 전문성을 바탕으로 기업 고객에게 필요한 협력 방안을 찾고 협업 기회를 넓히겠다"고 말했다.

2026.10.21 11:56이나연 기자

AI에 장애 대응 맡겼지만…기업 절반 "품질 측정·비용 통제 어렵다"

기업들이 인공지능(AI) 에이전트에 시스템 장애 진단과 복구 업무를 맡기고 있지만 AI의 판단 품질과 사용 비용을 관리하는 역량은 도입 속도를 따라가지 못하는 것으로 나타났다. 장애 대응 시간을 줄이는 효과와 함께 예측하기 어려운 행동과 비용 부담도 커지면서 기업 IT 운영의 관리 범위가 인프라 성능에서 AI의 의사결정 과정으로 넓어지고 있다. 21일 시스코가 공개한 스플렁크의 '2026 옵저버빌리티 현황 보고서'에 따르면 AI 모니터링을 중시하는 기업들의 인식과 이를 뒷받침할 측정 역량 사이에 격차가 나타났다. 응답자의 87%가 AI 모니터링을 조직의 우선 과제로 꼽은 데 비해 전체 응답자의 56%는 대규모언어모델(LLM)의 품질 등 AI 워크로드 지표를 측정하지 못한다고 답했다. 이번 조사는 옥스퍼드 이코노믹스가 올해 2~3월 미국·일본·독일 등 10개국 IT 운영·엔지니어링 전문가 2050명을 대상으로 진행했다. 보고서는 스스로 작업 경로를 선택하는 AI 에이전트가 확산하면서 응답 속도와 오류 발생 여부뿐 아니라 판단 과정과 결과의 적절성까지 살펴야 한다고 짚었다. 조사에서도 AI 환각을 파악하는 것이 중요하다는 응답은 85%였지만, 이를 효과적으로 감시하고 있다는 비율은 58%에 머물렀다. 기존 도구와 조직 체계도 제약으로 지목됐다. 응답자의 49%는 사용 중인 옵저버빌리티 도구에 AI를 감시할 기능이 부족하다고 답했고, 38%는 AI 모니터링의 담당 주체와 책임이 명확하지 않다고 밝혔다. AI 에이전트가 의도하지 않은 결과를 일으킬 수 있다는 우려는 83%에 달했다. AI가 IT 운영에 기여하는 효과도 확인됐다. 응답자의 62%는 장애의 근본 원인을 파악하는 데 AI 에이전트를 자주 또는 항상 활용한다고 답했다. 경보 설정 개선에는 58%, 장애 대응 절차서 작성에는 57%가 같은 빈도로 AI를 사용했다. 에이전틱 AI 도입으로 평균 장애 탐지 시간이 개선됐다는 응답은 86%, 평균 복구 시간이 개선됐다는 응답은 72%였다. 응답자의 84%는 AI 덕분에 유지보수보다 혁신 업무에 더 집중할 수 있게 됐다고 답했다. 반대로 14%는 평균 복구 시간이 악화됐다고 밝혀 도입 효과가 모든 조직에서 동일하게 나타나지는 않았다. 보고서는 AI가 제안한 조치를 재확인하고 기존 운영 기준에 맞추는 과정이 초기 대응을 늦출 수 있다고 설명했다. 원인 진단과 절차서 작성부터 AI를 활용한 뒤 검증된 범위에서 코드 되돌리기 등 실행 권한을 확대하는 방식을 제시했다. 비용 관리에서도 가시성 부족이 드러났다. 응답자의 55%는 조직이 AI 비용을 정확히 통제하지 못한다고 답했다. AI 모니터링을 통해 달성하려는 사업 성과가 명확하지 않다는 응답도 54%로 집계됐다. 여러 에이전트가 모델을 호출하고 작업을 반복하는 환경에서 토큰 사용량과 실제 성과를 연결해 관리하는 데 어려움을 겪고 있는 셈이다. 시스템 운영 데이터를 수집·저장하는 비용도 부담으로 작용했다. 응답자의 57%는 옵저버빌리티 비용이 감시 대상인 인프라·운영 비용을 넘어섰다고 답했고, 50%는 예상하지 못한 데이터 관련 비용을 경험했다. 옵저버빌리티의 가장 큰 비용 증가 요인으로는 불필요하게 많은 로그가 31%로 꼽혀 AI 인프라 자체를 지목한 비율인 6%를 웃돌았다. 비용 절감이 감시 범위를 축소하는 사례도 있었다. 응답자의 38%는 데이터 비용 상승으로 수집 범위나 보관 기간을 줄였고, 11%는 비용 절감 조치 때문에 서비스 중단 위험이 커졌다고 답했다. 보고서는 전체 응답자 중 에이전틱 AI를 활용한 문제 해결, 모델 품질 감시, 운영 데이터와 사업 가치 연결 역량 등을 갖춘 206명을 선도 그룹으로 분류했다. 이 그룹에서 AI 비용을 정확히 통제할 수 있다는 응답은 76%로, 나머지 응답자의 41%보다 높았다. 평균 복구 시간이 크게 개선됐다는 비율도 각각 63%, 40%로 차이를 보였다. AI 운영을 계기로 IT와 보안 조직 간 협업도 늘었다. 응답자의 81%는 AI 모니터링으로 보안팀과의 협업이 증가했다고 답했다. 성능 저하의 원인을 보안 위협까지 추적할 수 있다는 응답은 지난해 65%에서 올해 73%로 높아졌다. 보고서는 AI 품질을 기술 부서만의 관리 항목으로 두지 않고 보안·법무·컴플라이언스 부서가 함께 기준을 마련할 것을 제안했다. 운영 데이터 역시 모두 저장하기보다 사업 영향이 큰 정보를 우선 확보하고 AI의 행동·비용·성과를 연결해 평가해야 한다고 강조했다. 패트릭 린 스플렁크 옵저버빌리티 부문 수석부사장 겸 총괄은 "중요한 것은 AI 비용이 얼마인지뿐 아니라 그 비용이 가치 있는 결과를 만들어내는지 여부"라며 "에이전트의 행동과 전체 AI 시스템의 성능, 토큰 소비를 파악하지 못하면 지출을 성과와 연결할 수 없다"고 말했다.

2026.10.21 10:40장유미 기자

AI, 생성 넘어 예측·자율화…기업 경쟁력은 '통제력'

인공지능(AI)이 텍스트 생성에서 미래 상황을 예측하고 업무를 자율 수행하는 기술로 진화하면서 기업 기술 전략도 달라지고 있다. AI 성능뿐 아니라 자율형 시스템을 통제하고 특정 기술 공급업체에 대한 의존도를 낮추는 역량이 중요해질 전망이다. 21일 글로벌 시장조사업체 가트너가 발표한 '2027년 10대 전략 기술 트렌드'에 따르면 향후 기업이 주목해야 할 변화는 비텍스트 AI 발전, 자율형 에이전트 통제, 지속 가능한 기술 운영 등 세 가지로 구분된다. 가트너는 ▲대규모 정량 모델 ▲음성 추론 모델 ▲월드 모델 ▲AI 컨텍스트 플랫폼 ▲AI 코딩 에이전트 하네스 ▲AI 에이전트 신원 ▲자율형 노출 개선 ▲소버린 테크 ▲일회성 애플리케이션 ▲서비스형 웻웨어를 10대 전략 기술로 선정했다. 먼저 AI 모델은 언어 생성에서 예측과 시뮬레이션으로 활용 범위를 넓힐 전망이다. 대규모 정량 모델(LQM)은 수치 데이터를 분석해 미래 상황을 예측하고 기업 의사결정을 지원한다. 월드 모델은 공간과 시간, 인과관계를 이해해 로봇이나 자율주행차가 실제 행동에 앞서 결과를 시뮬레이션하도록 돕는다. 음성 추론 모델은 오디오를 직접 분석해 대화 맥락과 의도를 파악하고 다음 행동을 판단한다. 복잡한 고객 상담까지 자동화할 수 있는 기술로 주목받고 있다. AI 에이전트 확산에 따른 보안 위험도 주요 과제로 제시됐다. 가트너는 2028년까지 기업 보안 침해 사고 25%가 관리되지 않는 머신 권한과 기존 자격 증명 관행에 따른 AI 에이전트 오용에서 비롯되리라고 전망했다. 이에 따라 에이전트 신원을 확인하고 접근 권한을 동적으로 조정하는 기술이 중요해질 것으로 내다봤다. AI 컨텍스트 플랫폼은 에이전트에게 업무 맥락을 제공하며, AI 코딩 에이전트 하네스는 소프트웨어 개발 과정에서 에이전트 행동을 관리한다. 자율형 노출 개선 기술은 보안 취약점 탐지부터 대응까지 자동화한다. 기술 주권 확보도 주요 과제로 꼽혔다. 소버린 테크는 특정 공급업체에 대한 종속을 줄이고 기술과 데이터 지속 사용을 보장하도록 설계된 시스템이다. 가트너는 2030년까지 미국 외 지역 기업 75% 이상이 디지털 주권 전략을 도입하고 핵심 워크로드를 이전한다고 예측했다. 일회성 애플리케이션은 특정 업무 목적을 달성하면 사용을 종료하는 소프트웨어다. 서비스형 웻웨어는 생체 또는 합성 생물학 시스템을 컴퓨팅에 활용해 기존 실리콘 기반 기술 에너지 소비 한계를 극복하는 대안으로 제시됐다. 가트너는 AI가 소프트웨어를 생성하는 속도가 사람의 검토 능력을 넘어서면서 시스템 관리와 보안 위험이 커지고 있다고 진단했다. 진 알바레즈 가트너 수석 부사장 겸 애널리스트는 "현재 가장 큰 문제는 AI 시스템이 체계적 아키텍처 없이 운영되고 있다는 점"이라며 "이러한 시스템 위험을 방지하려면 기업은 모델 기능을 수동으로 관찰하는 데서 벗어나 조직과 사람, 기계 간 경계를 능동으로 설계해야 한다"고 말했다.

2026.10.21 10:34이나연 기자

MS "해킹 안 당한 AI도 위험"…내부 에이전트 통제 강조

마이크로소프트(MS)가 기업 내부에 배포한 인공지능(AI) 에이전트도 잠재적인 보안 위협이 될 수 있다며 지속적인 감독과 통제가 필요하다고 강조했다. 외부 공격을 받지 않은 AI라도 목표를 달성하는 과정에서 의도와 다르게 행동할 수 있다는 이유에서다. 마이크로소프트는 기업 데이터와 시스템에 접근해 업무를 수행하는 AI 에이전트를 '에이전틱 내부자'로 규정하고 새로운 보안 접근법을 제시했다고 20일 밝혔다. 기존 AI 보안은 공격자가 AI 모델을 악용하는 외부 위협에 주로 초점을 맞췄다. 반면 기업 내부에서 운영하는 AI 에이전트는 조직이 직접 배포했다는 이유로 충분한 검증 없이 신뢰하는 경우가 많았다. 마이크로소프트는 AI 모델이 악의적이지 않더라도 목표 달성을 위해 의도하지 않은 수단을 선택하는 '보상 해킹'이 발생할 수 있다고 지적했다. 다른 에이전트와 협업하는 과정에서 예상치 못한 위험이 발생할 가능성도 제기했다. 이에 따라 에이전트의 행동과 위험 수준을 실시간으로 파악하고 상황에 따라 접근 권한을 조정하는 지속적인 보안 체계가 필요하다고 강조했다. 구체적인 대응 방안으로는 지난 7월 발표한 에이전틱 보안 시스템 '프로젝트 퍼셉션'을 제시했다. AI의 예측하기 어려운 행동에 사전에 정의한 보안 정책과 통제 원칙을 적용하는 방식이다. 프로젝트 퍼셉션은 기업 내부 에이전트를 탐지하고 위험을 분석해 대응하는 세 단계로 구성된다. 먼저 ID와 데이터, 클라우드, 네트워크 등에서 수집한 정보를 결합해 에이전트를 식별하고 권한을 부여한다. 이후 에이전트가 시도하는 행동의 위험도를 동적으로 산정한다. '가디언 에이전트'는 이를 토대로 다른 에이전트의 행동을 지속적으로 감독하고 위험 수준이 높아지면 실시간으로 대응한다. 마이크로소프트는 에이전트의 행동뿐 아니라 행동이 발생한 원인까지 추적할 수 있어야 한다고 강조했다. 향후에는 모델의 입력·출력과 추론 과정에 대한 투명성을 높여 에이전트의 행동이 본래 업무 목적에 부합하는지도 확인해야 한다는 설명이다. 하예테 갈로트 마이크로소프트 시큐리티 총괄 수석부사장은 "AI 에이전트가 기업 전반에 빠르게 확산되면서 데이터와 도구, 시스템에 접근해 중요한 업무를 수행하고 의사결정에도 관여하고 있다"며 "기업은 에이전트의 활동과 위험을 실시간으로 파악하고 위험 변화에 따라 행동 권한을 지속적으로 조정해야 한다"고 말했다.

2026.10.20 17:45이나연 기자

"사람이 AI 공격 못 따라가"…시스코, AI로 AI 막는다

"인공지능(AI)이 만드는 공격과 위험을 사람이 일일이 따라가며 막기는 어렵습니다. 머신 스피드로 움직이는 AI를 통제하려면 방어 역시 AI 속도로 이뤄져야 합니다." 시스코가 AI를 활용해 기존 보안을 강화하는 'AI 포 시큐리티(AI for Security)'와 AI 모델·에이전트 자체를 보호하는 '시큐리티 포 AI(Security for AI)'를 동시에 강화하고 있다. AI가 보안 이벤트 분석과 취약점 탐지를 빠르게 하는 도구로 자리 잡은 동시에 기업 시스템에 접근해 직접 행동하는 AI 에이전트가 새로운 보안 대상으로 떠오르고 있어서다. 20일 서울 삼성동에서 열린 시스코코리아 미디어 테크 세션에서 이승노 시스코코리아 테크놀로지 스트래티지&어드바이저리 그룹(TSAG) 상무는 오픈소스·오픈웨이트 기반 AI 보안 기술을, 김일근 시스코코리아 TSAG 상무는 기업 내부 AI 시스템을 보호하는 전략을 각각 소개했다. 이 상무는 먼저 AI를 활용해 보안 운영과 소프트웨어 개발 과정의 취약점 탐지를 자동화하는 기술을 소개했다. 시스코는 최근 사이버보안에 특화한 80억(8B) 파라미터 오픈웨이트 모델 '파운데이션-섹-8B(Foundation-Sec-8B)'를 공개하고 보안관제센터(SOC) 등 보안 운영 환경에서 활용할 수 있도록 했다. 파운데이션-섹-8B는 메타 '라마 3.1 8B'를 기반으로 위협 인텔리전스와 취약점 데이터베이스, 사고 대응 문서 등 보안 특화 데이터를 추가 학습한 모델이다. 위협 탐지와 취약점 평가, 보안 자동화를 목적으로 설계됐으며 요약과 분류, 개체명 인식, 질의응답, 추론·생성 등을 지원한다. 외부 클라우드로 데이터를 보내기 어려운 기업을 위해 로컬 환경에도 배포할 수 있다. 시스코는 기본 모델 외에 명령어 처리에 최적화한 '파운데이션-섹-8B-인스트럭트(Instruct)'와 다단계 추론을 지원하는 '파운데이션-섹-8B-리즈닝(Reasoning)'도 제공하고 있다. 이 중 리즈닝 모델은 로그와 네트워크 패킷, 엔드포인트탐지대응(EDR) 이벤트 등 대규모 보안 데이터를 함께 분석해 서로 연관된 위협을 찾는 데 초점을 맞췄다. 이 상무는 "금융이나 공공기관처럼 보안 데이터를 외부 클라우드로 보내기 어려운 곳에서는 클라우드 기반 AI 모델을 활용하는 데 제약이 있다"며 "오픈웨이트 모델을 내부에 배포하면 기존 보안 시스템과 연동해 이벤트 요약과 분류, 질의응답, 추론 등에 활용할 수 있다"고 말했다. 실제 소프트뱅크는 SOC에서 의심스러운 소프트웨어를 분류하는 작업에 파운데이션-섹-8B를 적용했다. 기존에는 사람이 직접 분류 작업을 수행했지만 데이터 프라이버시 문제로 외부 클라우드 거대언어모델(LLM) 도입에 제약이 있었다. 시스코에 따르면 소프트뱅크는 파운데이션-섹-8B로 17개 유형을 분류하고 자체 규칙과 가드레일, 전후처리를 결합한 결과 90% 이상의 성능을 확보했다. 시스코는 소프트웨어 개발 과정에서 AI가 만들어낸 코드의 취약점을 찾는 기술도 확대하고 있다. 생성형 AI가 코드 작성에 폭넓게 활용되면서 개발 속도는 빨라졌지만 사람이 모든 코드를 직접 검증하기 어려워졌고, 범용 LLM은 오탐이나 환각 문제가 발생할 수 있다는 이유에서다. 기업의 소스코드를 외부 AI 서비스에 전달하기 어렵다는 점도 별도 보안 모델 수요를 키우고 있다. 이를 위해 시스코는 올해 소형 오픈웨이트 보안 모델 '안타레스(Antares)'를 개발해 공개했다. 현재 3억5000만·10억 파라미터 모델을 활용할 수 있으며 30억 파라미터 모델도 준비하고 있다. 파일이나 코드 저장소를 지정하면 전체 소스코드를 검사해 취약점이 발생한 위치를 찾아내고 수정이 필요한 부분을 제시하는 방식이다. 개발 단계에서 취약한 코드를 걸러내도록 규칙을 적용하는 '코드가드(CodeGuard)'와 여러 보안 에이전트의 역할과 행동 규칙을 정의한 오픈소스 프로젝트도 함께 공개했다. 특정 AI 모델에 종속되지 않아 개발자가 사용하는 AI 코딩 도구에 적용할 수 있도록 설계한 것이 특징이다. 시스코 내부에서도 이 같은 기술을 실제 코드 검증에 활용했다. 이 상무에 따르면 약 18억줄에 달하는 시스코 전체 코드베이스를 AI와 자체 보안 프레임워크로 점검하면서 기존 방식으로 약 8년이 걸릴 것으로 예상했던 작업을 8주로 줄였다. 오탐률도 3% 미만으로 낮췄다. 이 상무는 "아직 실제 도입 사례를 공개할 단계는 아니지만 국내에서도 안타레스에 대한 요청이 많이 들어오고 있어 고객들과 관련 미팅을 진행하고 있다"며 "이런 기술들을 포함한 서비스 오퍼링도 준비하고 있다"고 말했다. AI로 기존 보안을 강화하는 것과 동시에 AI 자체를 어떻게 보호할지도 새로운 과제로 떠올랐다. 김일근 상무는 AI가 단순히 답변을 생성하는 수준을 넘어 기업 시스템과 도구에 접근해 직접 행동하는 에이전트로 발전하면서 기존 보안 체계만으로는 대응하기 어려운 영역이 생기고 있다고 짚었다. 김 상무는 AI가 사용자의 말을 정확하게 이해하는 것과 사용자의 의도와 가치에 맞게 행동하는 것은 다른 문제라고 봤다. 에이전트에 높은 자율성과 광범위한 접근 권한을 부여하면서 안전장치가 충분하지 않으면 사용자가 예상하지 못한 행동으로 이어질 수 있다는 것이다. 김 상무는 "AI가 머신 스피드로 움직이기 시작하면 사람이 하나하나 따라가며 통제하는 방식으로는 한계가 있다"며 "AI가 하는 행동을 AI를 이용해 감시하고 통제하는 구조가 필요하다"고 말했다. 특히 AI 에이전트는 모델뿐 아니라 외부 도구와 메모리, 기업 데이터까지 연결해 작동하기 때문에 보호 대상도 넓어진다. 에이전트가 호출하는 도구 자체에 악성 명령이 숨어 있는 '툴 포이즈닝'이나 에이전트가 저장한 메모리와 맥락을 변조하는 공격까지 고려해야 한다. 이에 시스코는 에이전트의 행동 범위를 통제하는 '하네스'와 맥락 정보를 함께 관리하는 방식으로 대응하고 있다. 이 전략의 중심에는 'AI 디펜스(AI Defense)'가 있다. 시스코는 AI 보안 기업 로버스트 인텔리전스 인수 이후 관련 기술을 토대로 AI 디펜스를 개발했다. AI 모델과 애플리케이션을 도입하기 전 위험을 점검하고, 운영 과정에서 발생하는 이상 행동을 실시간으로 탐지·차단하며 사후 분석까지 지원하는 플랫폼이다. 기존에는 모델 검증이나 레드팀 테스트를 프로젝트 단위로 수행했다면 AI 디펜스는 이를 상시적으로 자동화하는 데 초점을 맞췄다. AI 모델과 에이전트가 빠르게 바뀌는 만큼 특정 시점에 한 차례 점검하는 방식만으로는 위험을 따라가기 어렵기 때문이다. 또 AI 디펜스를 퍼블릭 클라우드뿐 아니라 기업 내부 온프레미스 환경에서도 활용할 수 있도록 했다. 김 상무는 "AI 디펜스는 국내에서도 이미 출시해 제공하고 있다"며 "앞으로 한국 시장에 어떻게 적용할지, 한국어와 국내 문화적 맥락을 어떻게 반영할지에 대한 작업도 현재 진행하고 있다"고 밝혔다. 기업이 승인하지 않은 AI를 직원이 사용하는 '섀도우 AI'도 관리 대상이다. 생성형 AI와 바이브 코딩 도구가 확산되면서 직원이 개인 PC에 오픈소스 모델이나 AI 프레임워크를 설치해 사용하는 사례가 늘고 있어서다. 시스코는 올라마와 랭체인 등 널리 쓰이는 AI 실행·개발 환경을 탐지해 조직 내부에서 어떤 AI가 사용되고 있는지 파악하도록 지원한다. 김 상무는 "최근 고객들은 AI를 아예 못 쓰게 해달라고 하지 않는다"며 "업무에 AI를 적극적으로 활용하되 회사 데이터 유출이나 승인되지 않은 AI 사용 같은 위험은 통제하고 싶어 한다"고 설명했다. 이어 "이제 기업의 질문은 'AI를 막을 것인가'가 아니라 '잘 쓰게 하면서 어떻게 통제할 것인가'로 바뀌고 있다"고 부연했다.

2026.10.20 16:57장유미 기자

美 패트릭 J. 맥거번 재단 "AI 안전, 기업 약속만으론 부족…정부가 검증해야"

"기업이 인공지능(AI)를 활용하거나 외부 업체에 업무를 맡기더라도 고객정보를 보호할 책임을 져야 합니다. 정부도 기업이 AI를 안전하게 사용하는지 평가하고, 필요하다면 사용을 중단시킬 수 있어야 합니다." 최근 서울 삼성동 코엑스에서 열린 'AI페스타' 행사 때 만난 빌라스 다르 패트릭 J. 맥거번 재단 대표는 AI 시대 정보 보호에 대한 기업 책임을 이같이 강조했다. 기업은 기술 도입에 따른 위험을 점검하고, 정부는 이를 검증할 역량과 대응 체계를 갖춰야 한다는 주장이다. 다르 대표는 AI의 공익적 활용과 국제 거버넌스를 연구·지원해 온 기술·정책 전문가다. 2020년 재단 초대 대표로 취임했으며 유엔(UN) 사무총장 산하 AI 고위급 자문기구 위원으로 활동했다. 이번에는 AI 페스타와 함께 열린 서울시의 '스마트라이프위크' 시장 포럼 기조연설을 위해 방한했다. 패트릭 J. 맥거번 재단은 글로벌 IT 미디어 기업 IDG 창립자 패트릭 J. 맥거번의 뜻을 이어 AI와 데이터 기술로 사회문제를 해결하는 미국의 비영리 재단이다. 기후변화와 공중보건, 교육 등 공익 분야의 기술 활용을 지원하고 정부·기업·시민사회와 협력하고 있다. 이 재단은 약 15억 달러(한화 약 2조원) 규모의 기금을 운용하고 있으며, 본부는 미국 보스턴에 있다. 이번 인터뷰는 지디넷코리아가 지난 1일 보도한 배달의민족 고객정보 오용 관련 취재 기사로 성사됐다. 그는 해당 기사가 다룬 개인정보 보호와 책임 문제에 주목했다며, 기업이 AI를 도입할 때도 소비자에 대한 책임을 분명히 해야 한다고 밝혔다. "AI·외주 활용해도 소비자 책임은 그대로" 다르 대표는 기업이 AI를 도입할 때 우선 살펴야 할 과제로 개인정보 보호를 꼽았다. 고객상담이나 주문 처리에 AI를 활용하면 고객정보를 다루는 방식도 달라질 수 있는 만큼, 도입에 앞서 위험을 점검해야 한다는 설명이다. 그는 "기업은 개인정보 보호에 어떤 변화가 생기는지 고려하지 않고 AI 도입을 밀어붙여서는 안 된다"며 "AI를 어떻게 적용하는지 파악하는 것이 필수"라고 주장했다. 그러면서 "정부는 도입 전 검증 기준을 마련하며, 소비자도 정보 활용 범위에 의견을 낼 수 있어야 한다"고 덧붙였다. 다르 대표는 개인정보 보호 출발점으로 소비자 기본 권리를 제시했다. 그는 "AI가 등장했다고 해서 사람의 기본적인 권리가 달라지는 것은 아니다"며 "거래할 때 다른 사람과 동등하게 대우받고, 기업이 자신에 대해 알고 있는 정보를 이유로 가격을 바꾸지 않는다는 확신이 있어야 한다"고 강조했다. 그는 AI가 건강정보를 분석해 개인별로 가격이나 서비스 이용 조건을 달리하는 상황을 예로 들었다. 데이터가 유출되지 않도록 관리하는 것뿐 아니라 이를 활용한 AI 판단이 소비자에게 불리하게 작용하는지도 살펴야 한다는 설명이다. 다르 대표는 외부 업체에 업무를 맡겨도 소비자에 대한 기업 책임은 유지돼야 한다고 봤다. 그는 "소비자가 거래하는 상대가 기업이라면 그 기업이 AI 시스템을 사용하는지는 중요하지 않다"며 "기업은 소비자에게 책임을 져야 한다"고 강조했다. 다만 AI로 발생한 피해의 책임을 개발사와 도입 기업, 제3자 사이에서 어떻게 나눌지는 과제로 꼽았다. 그는 "기업 AI 시스템이 소비자에게 피해를 줬다면 AI를 만든 사람과 이를 사용한 기업, 제3자 중 누구에게 책임을 물어야 하는 것이 관건"이라며 "우리가 답해야 할 매우 큰 질문"이라고 말했다. 다르 대표는 기업이 책임을 판단하는 기준도 법적 의무에 머물러서는 안 된다고 강조했다. 그는 "법에 따른 책임도 있지만 기업과 소비자 사이의 신뢰에 관한 책임도 있다"며 "기업은 AI 시스템이 누군가에게 피해를 줄 위험을 어떻게 감시하고, 피해가 발생하기 전에 대응할지도 생각해야 한다"고 당부했다. "AI 안전, 기업 자율에만 맡겨선 안 돼…정부 대응 빨라져야" 다르 대표는 기업 책임을 실효성 있게 확보하려면 정부의 AI 평가·감독 역량도 뒷받침돼야 한다고 강조했다. AI가 사회 전반에 영향을 미치는 기술인 만큼 공적 통제 장치도 필요하다는 설명이다. 다르 대표는 한국 정부와 기업이 보완할 과제로 AI 공적 감독을 꼽았다. 기업이 AI 개발을 주도하며 혁신을 이끌고 있지만, 안전성까지 기업 판단에만 맡겨서는 안 된다는 설명이다. 그는 "한국에서도 기업이 하는 일을 공적 기관이 평가하고, 필요하다면 정부가 중단시킬 수 있어야 한다"고 말했다. 다르 대표는 이같은 정부 역할은 피지컬 AI 확산에 따라 더욱 중요해질 것으로 봤다. 그는 "미국에서도 많은 사람이 아직 AI를 휴대전화 안에서만 접한다"면서도 "앞으로 5~10년 안에는 피지컬 AI 영향이 매우 커질 것"이라고 내다봤다. 그는 대응 범위 역시 일자리 변화에 그쳐서는 안 된다고 지적했다. 피지컬 AI가 물건을 사고 거래하는 방식부터 경제 구조까지 바꿀 수 있는 만큼, 정부도 일상과 산업 전반에 미칠 영향을 살펴야 한다는 것이다. 이를 위해 우선 해결해야 할 과제로 기술과 제도 사이 속도 차이를 꼽았다. 다르 대표는 "기술 발전하는 속도가 제도가 대응하는 속도보다 훨씬 빠르다"며 "정부는 대응 속도를 높여야 한다"고 강조했다. 그는 정부가 빠르게 대응하면서도 일관된 기준을 유지하려면 AI로 어떤 사회를 만들 것인지에 대한 방향이 필요하다고 제언했다. 그는 "각국 정부는 기술적인 비전을 매우 강하게 제시한 상태"며 "앞으로 이를 사회적 비전으로 발전시켜야 한다"고 말했다. 다르 대표는 이 과정에 기술기업뿐 아니라 청년 등 다양한 사회 구성원이 참여해야 한다고 강조했다. 그는 "모두가 함께 비전을 만들어 가도록 어떻게 할 것인가가 전 세계 정부가 마주한 큰 과제"라고 덧붙였다.

2026.10.20 09:47류승현 기자

교통안전공단 '보안 허점을 찾아라' 공모…총상금 750만원

한국교통안전공단(TS·이사장 정용식)은 웹서비스 정보보안 취약점 발굴과 개선을 위한 '제8회 TS 보안 허점을 찾아라!' 공모전 참가팀을 23일부터 30일까지 모집한다. 참가 대상은 블랙해커로 인한 불법 해킹 방지를 위한 정보보호 민간단체인 한국정보보호산업협회·한국정보보호학회·한국융합보안학회 회원 가운데 회사 또는 대학에 소속된 팀(4명 이내)으로 한정된다. 공모전은 미래 정보 보안 분야 발전을 선도할 인재 발굴과 수상 기회 확대를 위해 일반부와 대학생부로 나뉘어 진행한다. 참가팀 접수는 접수기간 내에 참가 신청서와 개인정보활용동의서 등 관련 서류를 이메일로 접수하면 된다. TS는 모집된 참가팀과 함께 11월 7일 웹서비스 취약점 발굴 및 보강을 위한 대회를 개최한다. TS는 대회를 통해 각 팀이 발굴한 보안취약점 유형에 따라 파급도와 난이도를 평가해 최종 수상자를 선정할 계획이다. 대상 1팀, 최우수상 2팀, 우수상 4팀, 장려상 5팀 등 12팀에 총 750만원의 상금과 상장을 수여한다. 자세한 사항은 TS 공식홈페이지 공지사항에서 확인할 수 있다. 정용식 TS 이사장은 “매년 지속적인 정보보안 취약점을 발굴하는 공모전을 개최해 우수한 정보 보안 전문가를 양성하고 TS의 정보보안 환경을 선제적으로 개선하고 있다”며 “앞으로도 다양한 민관 협력 사업을 추진해 국민의 소중한 정보를 안전하게 지킬 수 있도록 최선을 다하겠다”고 말했다. 한편, TS는 운영 중인 웹사이트를 대상으로 24시간 상시 보안관제센터를 운영하는 등 매년 정보보안 취약점을 점검하여 개선하고 있다. 2019년부터 매년 민간 보안전문가(화이트 해커)를 통한 웹사이트 취약점 발굴 공모전을 개최하는 등 최신 해킹기술에 선제적으로 대응하고 있다.

2026.10.19 18:29주문정 기자

솔트웨어, 위즈 손잡고 클라우드·AI 보안 사업 확대

솔트웨어가 글로벌 클라우드 보안 기업 위즈(Wiz)와 손잡고 클라우드·인공지능(AI) 보안 사업을 확대한다. 솔트웨어는 위즈와 파트너십을 체결하고 기업 고객의 클라우드 및 AI 환경을 위한 통합 보안 서비스 제공에 나선다고 19일 밝혔다. 위즈는 구글 클라우드의 클라우드·AI 보안 플랫폼 기업이다. 클라우드와 AI, 데이터, 사용자 계정 및 접근 권한, 워크로드 전반의 위험 요소를 통합적으로 파악할 수 있는 기술을 제공한다. 소스코드부터 클라우드 인프라, 실제 서비스가 실행되는 런타임 환경까지 보안 정보를 연결해 취약점을 분석하고 위험 완화와 위협 대응을 자동화할 수 있도록 지원한다. 솔트웨어는 퍼블릭·프라이빗·하이브리드 클라우드 환경의 컨설팅과 구축, 운영을 수행해 왔다. 국내 대기업을 대상으로 아이덴티티 권한 관리(IGA)도 진행하고 있다. 이번 협력을 계기로 보안 사업 영역을 기존 접근 권한 관리에서 소스코드와 클라우드 인프라, AI, 데이터, 워크로드, 런타임까지 확대한다. 위즈 플랫폼을 활용해 클라우드 환경의 취약점과 설정 오류, 과도한 접근 권한, 민감 데이터 노출 등을 통합적으로 파악할 계획이다. 개별 위험 요소가 연결되면서 발생할 수 있는 공격 경로를 분석하고 우선 대응이 필요한 보안 위협도 식별한다. 이정근 솔트웨어 대표는 "생성형 AI와 AI 에이전트의 활용이 확대될수록 사용자와 접근 권한뿐 아니라 데이터, 클라우드 자산, 워크로드의 위험을 지속적으로 확인하고 관리해야 한다"며 "클라우드 구축·운영 및 아이덴티티 보안 역량에 위즈의 클라우드·AI 보안 기술을 결합해 고객이 시스템 설계부터 구축과 운영까지 일관된 보안 체계를 갖출 수 있도록 지원하겠다"고 말했다.

2026.10.19 16:08이나연 기자

할리스 "개인정보 276만건 유출…가상화폐 채굴 노린 해킹인 듯"

할리스에서 약 276만건의 개인정보가 유출된 것으로 파악됐다. 해커가 가상화폐 채굴을 위해 할리스가 사용하는 클라우드 서비스에 비정상 접근하는 과정에서 고객 정보가 노출된 것으로 조사됐다. 19일 회사는 지난 16일 멤버십 정보를 사용하는 클라우드 서비스에 인가되지 않은 접근이 발생해 개인정보가 유출된 사실을 확인했다고 밝혔다. 회사에 따르면 유출된 정보는 현재 사용 중인 고객 데이터베이스(DB)가 아닌 과거 멤버십 서비스 개편을 위해 제공했던 임시 데이터 파일이다. 할리스가 한국인터넷진흥원(KISA)에 신고한 개인정보 유출 규모는 약 276만 건이다. 이는 중복 회원을 포함해 지난 2009년부터 2020년 2월 11일까지 축적된 고객 데이터로 추정되며 정확한 규모는 추가 확인 중이다. 현재까지 파악된 유출 시점은 지난 9월 3일부터 10월 7일까지다. 유출 항목에는 아이디와 비밀번호, 이름, 생년월일, 전화번호, 주소, 이메일, 중복가입확인정보(DI), 서비스 이용 관련 정보 등이 포함됐다. 할리스는 가상화폐 채굴을 목적으로 한 비정상 접근 과정에서 고객 정보 일부가 빠져나간 것으로 파악하고 있다. 회사는 비인가 접근 경로를 차단하고 인증 절차와 비정상 로그인 시도에 대한 감시를 강화했다. 관계 기관 신고도 마쳤으며 사고 경위에 대한 내부 조사를 진행하고 있다. 할리스는 향후 개인정보 접근 권한과 인증 체계, 보안 시스템을 전면 점검하고 개선 조치를 시행할 계획이다. 문제가 발생한 클라우드를 사용하는 멤버십 서비스도 조속히 중단한다는 방침이다. 고객에게는 할리스 멤버십과 동일한 계정 정보를 사용하는 다른 서비스의 비밀번호도 변경해 달라고 권고했다. 출처가 불분명한 전화나 문자, 이메일 등을 통한 추가 피해에도 주의해 달라고 당부했다. 할리스 관계자는 “이번 사고로 고객 여러분께 심려를 끼쳐드린 점 깊이 사과드린다”며 “고객 정보 보호와 피해 최소화를 위해 최선을 다하겠다”고 말했다.

2026.10.19 15:26류승현 기자

네이버클라우드, 기업 보안 무료 진단 서비스 출시…AI 위협까지 점검

네이버클라우드가 기업의 보안 현황을 무료로 점검하고 개선 방향까지 확인할 수 있는 서비스를 선보인다. 기존 네트워크와 데이터 보호뿐 아니라 인공지능(AI) 서비스 이용 과정에서 발생할 수 있는 정보 유출과 사이버 공격 대응 체계까지 진단해 기업의 보안 역량 강화를 지원한다는 전략이다. 네이버클라우드는 기업이 온라인 설문을 통해 보안 현황을 점검할 수 있는 '네이버클라우드 보안 자가진단' 사이트를 오픈했다고 19일 밝혔다. 이번 서비스는 기업이 별도 전문 인력이나 복잡한 진단 절차 없이 현재 보안 관리 상태를 확인하고 개선이 필요한 영역을 파악할 수 있도록 지원하는 것이 목적이다. 보안 자가진단은 네트워크 보안과 접근제어, 데이터 보호·암호화 등 총 7개 영역, 21개 문항으로 구성됐다. 이용자가 각 문항에 응답하면 기업의 보안 현황을 확인하고 추가적인 점검이나 개선이 필요한 부분을 살펴볼 수 있다. 특히 기존 인프라와 데이터 중심의 보안 점검에서 나아가 AI 활용 환경 보안 영역을 별도로 마련한 것이 특징이다. 생성형 AI와 AI 에이전트 도입이 확대되면서 새롭게 발생하는 보안 위험에 기업이 얼마나 대비하고 있는지 확인할 수 있도록 했다. AI 보안 영역에선 AI를 활용한 자동화 공격에 대한 대응 체계와 임직원의 AI 서비스 이용 과정에서 발생할 수 있는 민감정보 유출 방지 정책 등을 점검한다. 사내 AI 시스템에 대한 접근 권한 관리 여부도 주요 진단 항목에 포함됐다. 최근 기업들이 AI를 업무에 도입하면서 기존 IT 인프라뿐 아니라 AI 서비스 이용과 운영 과정에서도 보안 관리 필요성이 커지고 있다. 반면 별도의 보안 조직이나 전문 인력을 확보하기 어려운 기업은 새로운 위협에 대한 대응 수준을 자체적으로 파악하는 데 한계가 있다는 설명이다. 네이버클라우드는 진단 결과에 따라 개선 방향도 제공한다. 기업이 속한 산업 분야에 적용되는 주요 보안 규제 사항을 안내하고 보완이 필요한 영역에 대해선 참고 정보와 연계 서비스를 소개한다. 추가적인 점검이나 조치가 필요한 경우 보안 전문가 상담으로 연결하는 기능도 제공한다. 단순히 보안 현황을 확인하는 데 그치지 않고 기업이 후속 개선 작업을 검토할 수 있도록 지원한다는 취지다. 서비스는 네이버 클라우드 플랫폼 홈페이지에서 이용할 수 있다. 회사명이나 담당자 정보 등 별도의 개인정보를 입력하지 않아도 누구나 무료로 자가진단에 참여할 수 있다. 네이버클라우드는 지난 7월 정부의 '주요정보통신기반시설 정보보호 종합수준 평가'에서 최우수 등급을 획득했다. 최근에는 네이버클라우드 컨소시엄이 정부의 사이버 보안 분야 특화 AI 파운데이션 모델 개발 사업자로 선정되는 등 관련 사업도 확대 중이다. 김재동 네이버클라우드 정보보호최고책임자(CISO)는 "나날이 보안의 중요성은 커지고 있지만 어디서부터 점검을 시작해야 할지 막막해하는 기업이 많다"며 "누구나 쉽게 보안 점검을 시작할 수 있도록 보안 자가진단 서비스를 마련한 만큼, 앞으로도 기업들이 AI 시대의 새로운 보안 위협에 대비할 수 있도록 실질적인 보안 서비스를 지속 선보이겠다"고 말했다.

2026.10.19 13:49한정호 기자

샌즈랩, 싱가포르서 온디바이스 얼굴 위변조 탐지·분석 기술 소개

AI 보안 전문 기업 샌즈랩이 싱가포르에서 온디바이스 기반 AI 역기능 탐지·분석 기술을 소개하고 체험형 전시 프로그램도 진행했다. 샌즈랩은 지난달 29~30일 싱가포르 마리나 베이 샌즈에서 열린 '테크 위크 싱가포르 2026'에 참가해 이 같은 성과를 거뒀다고 16일 밝혔다. 테크 위크 싱가포르는 아시아 대표 ICT 전시회다. 클라우드·AI 인프라, 데브옵스, 사이버보안, 빅데이터·AI, 데이터센터 등 AI와 밀접한 5개 분야 전시가 함께 열린다. 샌즈랩은 빅데이터·AI 분야 전시에서 해외 참관객에게 AI 역기능 대응 기술을 선보였다. 샌즈랩은 기존 AI 역기능 대응 연구개발(R&D) 성과를 바탕으로 분석 기능을 사용자 기기 안에서 구현하는 온디바이스 기술을 개발·고도화해 왔다. 전시에서는 이를 적용한 '페이크체크(Fakecheck)'를 통해 PC 브라우저와 휴대전화에서 이미지를 분석하는 모습을 시연했다. 원본 이미지를 외부 서버로 전송하지 않고 기기 내에서 처리해, 개인정보 보호와 사용 편의성을 함께 고려한 기술의 특징을 소개했다. 페이크체크는 얼굴 이미지의 위·변조 징후를 분석하고 얼굴의 어느 부분을 살펴 왜 그렇게 판단했는지도 설명한다. 사용자는 의심 징후와 판단 근거를 함께 확인하고 최종 판단에 참고할 수 있다. PC에서는 브라우저 확장 프로그램이 웹페이지의 이미지를 자동으로 검사하고 의심 항목을 목록으로 보여주는 기능을 시연했다. 목록에서 항목을 선택하면 해당 이미지가 있는 위치로 이동할 수 있어 웹 탐색 과정에서 의심스러운 이미지를 찾아 검토하는 방식을 직접 확인할 수 있게 했다. 모바일 앱에서는 사진 한 장의 위·변조 징후와 판정 근거를 확인하는 기능과 함께 '라이브 화면 감지'를 소개했다. 다른 앱을 사용하는 중에도 화면에 표시된 얼굴을 분석하고, 위·변조가 의심되는 얼굴 위에 노란 박스를 표시하는 방식이다. 준비된 이미지 앨범을 넘기는 시연으로 참관객이 화면 속 의심 영역을 직접 살펴볼 수 있도록 구성했다. 샌즈랩은 분석이 인터넷 연결 없이도 동작한다고 강조했다. 한국어·영어·중국어를 지원해 다양한 언어 환경에서 기능과 결과를 확인할 수 있다. 얼굴 이미지를 대상으로 하는 탐지 범위를 넓히기 위한 영상 판정 기능도 개발 중이다. 행사 참가는 과학기술정보통신부와 한국인터넷진흥원(KISA)이 추진하는 '2026년 AI 역기능 대응 기술 실증·확산사업'의 일환으로 이뤄졌다. 딥페이크가 해외 플랫폼에서 유통되면서 각종 사회적 문제가 끊이질 않는다. 국회에서는 이런 문제를 포함해 AI의 부작용 방지를 위한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 개정안 여러 건이 심사 중이다. '정보통신망 이용촉진 및 정보보호 등에 관한 법률'에서는 딥페이크 및 허위조작정보의 표시 및 유통에 대한 규제가 도입·시행 중이기도 하다.

2026.10.19 11:04박광하 기자

티오리, 앤트로픽 보안 특화 AI 프로그램 참여

티오리가 앤트로픽의 '사이버 검증 프로그램(CVP)' 참여 기업으로 합류했다고 16일 밝혔다. 앤트로픽의 CVP는 별도의 자격 검증을 거친 보안 기업과 전문가에게 일반적으로 제한되는 고급 사이버 보안 AI 기능에 대한 접근권을 제공하는 프로그램이다. 이를 통해 악성코드 분석, 취약점 탐지, 공격 경로 검증 등 고난도 보안 연구에 최신 AI 모델을 활용할 수 있다. 티오리는 앤트로픽 CVP 합류를 통해 자사 AI 기반 자율형 모의해킹 플랫폼 '진트(Xint)'의 오펜시브 보안 탐지 및 공격 경로 검증 엔진을 한층 고도화할 수 있게 됐다. 개발 단계부터 운영 환경까지 기업의 보안 취약점을 점검한다. 소스코드의 맥락과 데이터 흐름을 추적해 악용 가능한 결함을 사전에 찾아내는 AI 기반 화이트박스 모의해킹 '진트 코드(Xint Code)', 실제 운영 중인 서비스를 공격자의 관점에서 점검하는 AI 기반 블랙박스 모의해킹 '진트 웹(Xint Web)', 필요한 시점에 개별 웹 애플리케이션을 점검하는 온디맨드 모의해킹 솔루션 '진트 펄스(Xint Pulse)'로 구성돼 있다. 티오리는 앞서 오픈AI의 사이버 방어 프로그램인 '데이브레이크(Daybreak)'에도 참여 승인을 받았다면서, 글로벌 AI 산업을 이끄는 두 기업 모두로부터 일반에는 제한된 보안 특화 AI 접근 권한을 확보했다고 설명했다. 이에 대해 오랜 기간 축적해 온 세계적 수준의 오펜시브 보안 연구 역량과 전문성을 바탕으로, 글로벌 AI 선도 기업의 까다로운 접근 심사 기준을 충족했다는 점에서 의미가 크다고 자평했다. 티오리는 세계 해킹 대회인 '데프콘(DEF CON) CTF'에서 9차례 우승한 연구진이 설립한 기업이다. 미국 DARPA가 주최한 'AI 사이버 챌린지'에서도 최종 3위를 차지하는 등 국제 무대에서 기술력을 입증한 기업으로 평가받는다. 앤트로픽 CVP 참가 기업으로는 아머코드(ArmorCode), 릿지 시큐리티(Ridge Security), 브리치록(BreachLock), 엘리시티(Elisity), 시큐어닷컴(Secure.com), 이스케이프(Escape) 등이 알려져 있다. 기존 프로젝트 글래스윙 파트너인 아마존웹서비스(AWS), 애플, 시스코, 크라우드스트라이크, 구글, 마이크로소프트, 엔비디아, 팔로알토네트웍스 등은 특수 접근 단계로 이전한다.

2026.10.19 11:03박광하 기자

일본 버거킹 앱 해킹...회원정보 1118만 건 유출

일본 버거킹에서 약 1118만건에 달하는 회원정보가 유출됐다. 이름과 생년월일, 전화번호, 이메일 등 개인정보가 대규모로 포함된 것으로 확인됐다. 19일 버거킹 일본 운영사 BK재팬에 따르면 회사는 공식 애플리케이션 회원정보 관리 시스템에 제3자의 부정접속이 발생해 회원정보가 외부로 유출됐다고 밝혔다. 회사 조사 결과 부정접속은 지난 2일부터 7일까지 이뤄졌으며, 유출 사실은 13일 확인됐다. BK재팬은 사고를 인지한 뒤 해당 접속원으로부터의 통신을 차단했다고 설명했다. 유출된 정보는 약 1118만 건으로 회원 ID와 이메일 주소, 등록 유형, 거주지역, 성별, 생년월일, 이름, 전화번호, 모바일 주문 이력 여부, 이메일 인증 여부 등이 포함됐다. 다만 회사는 신용카드 번호는 자체적으로 보유하고 있지 않아 이번 사고로 유출되지 않았으며, 로그인 비밀번호 정보의 유출도 현재까지 확인되지 않았다고 밝혔다. 현재까지 이번 사고에 따른 부정 이용 등 2차 피해도 확인되지 않았다. BK재팬은 외부 전문기관과 함께 부정접속 경위와 구체적인 원인을 조사하고 있다. 현재까지는 제3자의 부정접속이 원인으로 확인됐지만, 접속이 가능해진 경위는 아직 조사 중이다. 회사는 부정접속원 차단과 임시 대응, 대책본부 설치를 마쳤으며 일본 개인정보보호위원회에도 사고 내용을 보고했다. 대상 고객에게는 이메일을 통해 관련 내용을 안내하고 있다. 향후 시스템 보안 대책과 감시 체계를 강화하고 외부 전문기관의 조언을 받아 재발 방지책을 마련한다는 방침이다. 버거킹 측은 자사나 자사 서비스를 사칭한 이메일과 문자, 전화 등에 주의하고, 의심스러운 연락을 받을 경우 링크 접속이나 첨부파일 실행, 회원정보 및 비밀번호 입력을 하지 말 것을 당부했다.

2026.10.19 09:53류승현 기자

할리스도 뚫렸다…고객 아이디·비밀번호·주소 등 유출

할리스에서 해킹으로 추정되는 외부 비인가 접근이 발생해 고객 개인정보가 유출됐다. 유출 정보에는 아이디와 비밀번호뿐 아니라 이름, 생년월일, 전화번호, 주소, 이메일 등이 포함됐다. 19일 회사는 멤버십 시스템에 인가되지 않은 접근이 발생해 고객 개인정보가 유출된 사실을 확인했다고 밝혔다. 회사는 개인정보가 지난달 3일부터 이달 7일 사이 외부의 비인가 접근으로 유출된 것으로 추정하고 있다. 유출된 정보는 아이디와 비밀번호, 이름, 생년월일, 전화번호, 주소, 이메일, 중복가입확인정보(DI), 이외 서비스 이용과 관련한 정보다. 대상은 2020년 2월 11일 이전 할리스 멤버십에 가입한 고객이다. 할리스는 사고 인지 이후 비인가 접근 경로를 차단하고 인증 절차를 강화했다고 설명했다. 비정상 로그인 시도에 대한 모니터링도 강화했으며 관계 기관에 신고하고 조사에 협조하고 있다. 고객들에게는 할리스 멤버십 계정의 비밀번호를 즉시 변경하고, 같은 아이디와 비밀번호를 다른 서비스에서 사용하고 있다면 해당 서비스의 비밀번호도 함께 바꿀 것을 권고했다. 또 출처가 불분명한 전화나 문자, 이메일 등에 포함된 링크를 누르지 말고 개인정보나 금융·결제정보를 요구하는 연락에 주의해달라고 당부했다. 할리스는 고객센터를 통해 관련 문의와 피해 신고를 접수하고 있다. 개인정보 침해와 관련해서는 개인정보침해 신고센터와 개인정보분쟁조정위원회를 통해 상담을 받을 수 있다고 안내했다.

2026.10.19 09:42류승현 기자

AI로 빨라지는 사이버 공격…오픈AI, 국내 기업에 대응 전략 제시

오픈AI가 인공지능(AI)을 활용해 기업 시스템의 보안 취약점을 먼저 찾아내고 수정까지 지원하는 사이버 방어 전략을 국내 기업에 제시했다. 오픈AI는 16일 웨스틴 서울 파르나스에서 국내 기업 최고정보보호책임자(CISO) 등 임원급 60여 명을 초청해 '오픈AI 사이버 CXO 라운드테이블'을 개최했다고 밝혔다. 행사에서는 AI로 달라지는 사이버 위협과 기업의 보안 대응 방안을 논의했다. AI 기술이 발전하면서 사이버 공격 방식도 달라지고 있다. 공격자가 AI를 이용해 소프트웨어의 취약점을 찾아내고 공격 경로를 분석하는 능력이 높아지면서 기업이 대응할 시간은 줄어들고 있다는 게 오픈AI의 설명이다. 오픈AI는 이러한 위협에 대응하려면 기업도 AI를 활용해 보안 취약점을 먼저 발견하고 해결해야 한다고 강조했다. 기업은 자신이 관리하는 시스템의 코드와 운영 정보를 AI에 제공해 보안 문제를 구체적으로 분석할 수 있다는 점에서 공격자보다 유리한 조건을 갖고 있다고 설명했다. 이날 오픈AI는 기업용 통합 사이버 방어 솔루션 '데이브레이크'도 소개했다. 데이브레이크는 오픈AI의 AI 모델과 개발 도구 코덱스, 보안 도구 코덱스 시큐리티를 기존 보안 업무에 연결한 솔루션이다. 데이브레이크는 기업의 소프트웨어 코드를 분석해 취약점을 찾아낸다. 발견한 문제가 실제 공격에 악용될 가능성이 있는지 통제된 환경에서 시험하고 수정안을 제시한다. 이후 수정한 부분을 다시 점검해 보안 문제가 해결됐는지도 확인한다. 기존에도 보안 담당자들은 취약점을 발견하면 개발팀에 수정을 요청하고 결과를 검증해왔다. 데이브레이크는 이러한 과정에 AI를 활용해 반복적인 분석 작업을 줄이고 취약점 발견부터 수정 결과 확인까지 지원한다. 최종 수정 여부는 보안 담당자와 개발자가 AI의 분석 근거와 테스트 결과를 검토해 결정한다. 오픈AI에 따르면 국내 주요 기업 상당수가 데이브레이크를 도입했거나 도입을 검토하고 있다. 기존에 사용하던 보안 도구와 연결해 코드 점검과 위협 조사, 승인된 보안 테스트 등에 활용하는 형태다. 오픈AI는 자체 보안 운영 경험을 바탕으로 구축한 '디펜스 팩토리'도 소개했다. AI 에이전트와 기존 보안·개발 도구를 연결해 취약점을 지속적으로 점검하고 해결하는 운영 체계다. 보안팀이 발견한 문제를 개발팀에 전달하면 수정과 검증까지 이어지도록 업무 절차를 연결했다. AI에 부여하는 권한도 주요 논의 대상이었다. 기업은 AI가 접근할 데이터와 시스템, 수행할 작업의 범위를 미리 정하고 중요한 변경 사항은 사람이 검토하도록 해야 한다. 오픈AI는 보안 성과 역시 발견한 취약점의 개수보다 위험을 해결하는 데 걸린 시간과 수정 결과의 검증 여부 등을 기준으로 평가해야 한다고 설명했다. 이날 김경훈 오픈AI코리아 총괄 대표가 개회사를 맡았으며 도미닉 그릴로 오픈AI 테크니컬 석세스 총괄과 와나 툰 보안 전문 엔지니어가 발표를 진행했다. 김경훈 대표는 "AI 시대에 기업이 주요 보안 위험을 빠르게 파악하고 대응하려면 사이버보안을 핵심 경영 과제로 다뤄야 한다"며 "국내 기업들이 기존 보안 체계에 AI를 접목해 현장에서 효과를 확인하고 이를 지속적인 방어 역량으로 발전시킬 수 있도록 돕겠다"고 말했다.

2026.10.16 15:03김동원 기자

법무법인 세종 "AI 에이전트, 개인정보 유출 위험 줄여야”

AI 에이전트 활용이 확산되면서 기업 내부 시스템의 보안 관리가 새로운 과제로 떠올랐다. AI 에이전트가 예상하지 못한 행동을 하거나 개인정보를 외부로 유출할 가능성이 있어 접근 권한 제한뿐 아니라 활동 이력을 지속적으로 점검하는 체계가 필요하다는 설명이다. 법무법인 세종은 한국온라인쇼핑협회와 공동으로 지난 15일 서울 세종 디타워에서 'AI 시대 온라인쇼핑 기업의 개인정보 보호 및 사고 대응 전략' 세미나를 개최했다고 16일 밝혔다. 세미나에서는 AI를 활용한 사이버 공격 증가와 개인정보 보호 규제 강화에 대응하기 위한 기업의 보안 관리 방안이 논의됐다. 최대선 숭실대 교수는 AI 기술 발전으로 사이버 공격에 필요한 시간과 비용이 줄어들고 있으며, 기업 내부에서 활용하는 AI 에이전트의 정보 접근과 권한 관리도 중요해지고 있다고 설명했다. 최 교수는 “AI 에이전트는 기업의 지시를 벗어나 예상하지 못한 행동을 하거나 개인정보를 외부에 노출할 가능성이 있다”며 “접근 권한을 제한하거나 사람의 사전 승인을 받도록 하더라도 이를 완벽하게 통제하기는 어려운 만큼, AI 에이전트의 실제 활동을 지속적으로 기록하고 점검하는 체계를 마련해야 한다”고 말했다. 최광희 세종 고문은 침해사고 발생 직후 증거를 보존하고 법정 기한에 맞춰 신고·통지하는 절차의 중요성을 강조했다. 평소 실제 사고를 가정한 대응 훈련을 통해 피해 확산을 최소화할 수 있는 체계를 갖춰야 한다는 설명이다. 최 고문은 “AI의 발전으로 사이버 공격 속도가 급격히 빨라지면서 모든 침해사고를 완벽하게 예방하는 것은 현실적으로 어려워지고 있다”며 “사고 발생 시 핵심 정보와 서비스의 피해를 최소화할 수 있도록 신속한 신고와 증거 보존 체계를 갖추고, 평소 실제 사고 상황을 가정한 점검을 통해 대응체계의 실효성을 확보하는 것이 중요하다”고 밝혔다. 안정호 세종 변호사는 개인정보 보호법과 정보통신망법 개정에 따른 기업의 사전 예방 의무와 사고 발생 이후 책임 강화에 대해 설명했다. 개인정보 보호와 정보보안이 실무 부서뿐 아니라 경영진 차원에서 관리해야 할 과제가 됐다는 것이다. 안 변호사는 “최근 개인정보 보호법과 정보통신망법 개정으로 기업의 사전 예방 의무와 사고 발생 시 책임이 한층 강화됐다”며 “개인정보 보호와 정보보안은 더 이상 담당 부서만의 문제가 아닌 만큼, 경영진을 포함한 전사적 차원에서 개정 법령에 따른 의무를 점검하고 내부 관리체계와 사고 대응 절차를 정비할 필요가 있다”고 말했다. 이태희 세종 고문은 “온라인쇼핑 산업은 소비자와 판매자, 플랫폼 등 다양한 이해관계자가 연결되어 있어 개인정보 유출이나 침해사고가 발생할 경우 그 영향이 광범위하게 확산될 수 있다”고 말했다. 이어 “이번 세미나가 온라인쇼핑 기업들이 개인정보 보호와 사이버보안의 중요성을 되새기고, 실질적인 대응체계를 점검하는 계기가 되기를 바란다”고 밝혔다.

2026.10.16 11:15박수형 기자

[기고] 재무팀 노리는 딥페이크 사기, 탐지만으로 막을 수 없다

인공지능(AI)을 악용한 딥페이크 사기가 기업 재무 시스템을 위협하고 있다. 기업 자금 관리를 책임지는 최고재무책임자(CFO)와 재무팀에 새로운 보안 대응 전략이 필요한 이유다. 실제 홍콩에서는 한 기업 재무 담당자가 딥페이크 화상회의에 속아 2500만 달러를 송금하는 사건이 발생했다. 사기범들은 CFO와 동료 얼굴과 목소리를 조작해 화상회의에 등장했다. 담당자는 5개 은행 계좌로 15차례에 걸쳐 돈을 송금한 뒤에야 회의 참석자 중 자신만 실제 사람이었다는 사실을 알게 됐다. 이 사건을 단순히 직원 개인의 실수로 볼 수는 없다. 사기범들이 기업 업무 절차와 보안 체계에 존재하는 허점을 악용했기 때문이다. 특히 재무팀은 사기범들의 주요 표적이다. 자금 이체와 지급 승인, 공급업체 계좌 정보 변경 등 기업의 핵심 금융 업무를 담당하기 때문이다. 사기범들은 이러한 권한을 악용해 금전적 피해를 일으키려 한다. 딥페이크 기술이 정교해지는 만큼 기업 대응 방식도 달라져야 한다. 조작된 영상과 음성을 찾아내는 데 그치지 않고, 업무 상대방이 실제 사람인지 확인할 수 있는 검증 체계를 마련해야 한다. 딥페이크 사기를 예방하는 첫 단계는 조작된 영상과 음성의 특징을 파악하는 것이다. 재무 책임자는 직원들이 의심스러운 징후를 식별할 수 있도록 교육해야 한다. 영상에서는 눈 깜박임이 어색하거나 피부 질감이 지나치게 매끄러운 현상이 나타날 수 있다. 얼굴이 흐릿하게 보이거나 조명과 그림자가 맞지 않는 경우도 있다. 입 모양과 음성이 일치하지 않는 현상 역시 딥페이크를 의심할 만한 단서다. 음성에서도 이상 징후를 찾을 수 있다. 목소리가 기계적으로 들리거나 말투가 부자연스럽고, 대화 중 숨소리나 쉼이 부족한 경우다. 주변 환경과 어울리지 않는 배경음도 주의해야 한다. 직원들은 이런 징후를 발견하거나 상대 신원이 의심될 경우 즉시 보고해야 한다. 그러나 딥페이크를 식별하는 것만으로는 사기를 완전히 막기 어렵다. 현재 알려진 이상 징후는 기술적 한계에서 나타나는 현상일 뿐, 모든 딥페이크에 적용할 수 있는 판단 기준은 아니다. 사기범들은 기존 기술 결함이 알려지면 이를 보완하는 새로운 기술을 활용한다. 탐지 기술이 발전하는 동시에 딥페이크 생성 기술도 정교해지고 있다는 의미다. 따라서 기업은 딥페이크를 발견하는 사후 대응에서 벗어나야 한다. 특히 자금 이체와 같은 중요한 업무에서는 상대방 신원을 사전에 확인하는 절차가 필요하다. 딥페이크에 효과적으로 대응하려면 검증 기준부터 바꿔야 한다. 기존에는 영상이나 음성이 조작됐는지를 확인하는 데 집중했다. 앞으로는 화면 너머 상대방이 실제 존재하는 사람인지 확인하는 것이 중요하다. 이러한 접근을 가능하게 하는 기술이 '인간 증명(Proof of Human)'이다. 인간 증명은 특정 영상의 조작 여부를 분석하는 대신 온라인에서 소통하는 상대방이 실제 존재하는 고유한 사람이라는 사실을 암호 기술로 증명하는 방식이다. 이 과정에서는 영지식증명(Zero-Knowledge Proof)과 같은 개인정보 보호 기술을 활용할 수 있다. 영지식증명은 개인정보 자체를 공개하지 않고도 특정 사실이 참이라는 점을 증명하는 암호 기술이다. 이를 통해 기업은 개인정보 노출 위험을 줄이면서 상대방이 실제 사람인지 확인할 수 있다. 특히 신원 사칭으로 대규모 금전적 피해가 발생할 수 있는 금융 분야에서 활용 가능성이 크다. 인간 증명 기술은 기업의 중요한 의사결정 과정에서도 신뢰를 높이는 수단이 될 수 있다. 재무 담당자가 온라인에서 상대방의 실제 존재 여부를 확인할 수 있다면 딥페이크 사칭에 따른 위험을 줄이는 데 도움이 된다. 실제 사람이라는 사실을 확인하는 것과 그 사람이 정당한 업무 권한을 갖고 있는지 확인하는 것은 별개의 문제다. 따라서 기업은 인간 증명 기술을 기존 보안 절차와 함께 활용하는 종합적인 대응 체계를 갖춰야 한다. 딥페이크 사기를 예방하려면 기술뿐 아니라 직원들의 보안 인식과 업무 절차도 개선해야 한다. 개인 차원에서는 의심스러운 이미지나 영상을 역검색해 출처를 확인할 수 있다. 계정에는 다중요소 인증(MFA)을 적용하고, 사칭에 악용될 수 있는 개인 사진과 영상의 공개 범위도 제한하는 것이 바람직하다. 기업은 재무팀 직원들이 의심스러운 상황을 즉시 보고할 수 있는 환경도 마련해야 한다. 사기 피해가 발생했을 때 책임을 직원 개인에게만 돌리는 방식으로는 근본적인 문제를 해결하기 어렵다. CFO와 회계책임자, 재무 담당자들은 이미 복잡한 업무와 무거운 책임을 맡고 있다. 여기에 온라인 회의 상대방의 진위까지 개인의 판단에만 의존하도록 해서는 안 된다. 명확한 검증 절차와 적절한 보안 기술은 이러한 부담을 줄이는 데 도움이 된다. 직원들이 사기 피해에 대한 과도한 책임감이나 죄책감을 떠안지 않도록 보호하는 역할도 할 수 있다. 정기적인 보안 교육 역시 중요하다. 다만 규정 준수를 위한 일회성 교육에 그쳐서는 안 된다. 재무팀이 새로운 사기 수법을 이해하고 최신 보안 기술을 활용할 수 있도록 지속적인 교육이 이뤄져야 한다. 딥페이크 기술이 발전할수록 기업이 모든 조작 콘텐츠를 완벽하게 찾아내기는 더욱 어려워질 것이다. 따라서 중요한 것은 딥페이크를 얼마나 잘 탐지하느냐를 넘어, 사기범이 업무 절차를 악용하지 못하도록 신뢰할 수 있는 검증 체계를 구축하는 일이다. 업무 방식과 보안 절차를 바꾸는 과정이 쉽지만은 않을 것이다. 그러나 인간 증명 기술을 비롯한 새로운 인증 수단은 기업이 온라인 업무의 신뢰를 회복하고 딥페이크 사기에 대응하는 데 중요한 기반이 될 수 있다.

2026.10.16 11:01아제이 파텔 컬럼니스트

[AI는 지금] 해킹에 쓰인 AI, 스스로 복제까지…앤트로픽, 연내 가능성 경고

국내 금융권에서 인공지능(AI)을 활용한 해킹 공격이 잇따르는 가운데 AI가 사람의 추가 지시 없이 다른 기기로 옮겨 다니며 스스로 복제할 수 있다는 경고가 나왔다. 13일(현지시간) 로이터통신에 따르면 앤트로픽은 AI 기술 발전 속도가 이어질 경우 올해 말까지 소형 AI 모델도 스스로 다른 기기로 확산하는 데 필요한 능력을 갖출 수 있다고 분석했다. 제한된 시험망에서는 AI가 복제 작업을 수행하는 데 성공했으며 저렴한 스마트TV용 기기 15대를 연결해 AI 모델을 구동했다. AI 자기 복제는 AI가 새로운 컴퓨터나 스마트 기기를 찾아 자신의 모델과 실행 프로그램을 옮기고 그곳에서도 작동하도록 만드는 것을 뜻한다. 복제된 AI가 다시 다른 기기를 찾아 같은 작업을 반복하면 사람의 추가 명령 없이도 감염된 기기가 늘어날 수 있다. 앤트로픽은 AI가 처음 접하는 기기에서도 스스로 작동 방법을 찾아낼 수 있다고 설명했다. 기존 악성코드는 주로 미리 설계된 공격 방법을 사용하지만 AI는 기기의 환경에 맞춰 새로운 방법을 시도할 수 있다. 스마트TV뿐 아니라 냉장고와 로봇청소기, 보안카메라 등 다양한 기기로 확산할 가능성도 제기했다. 국내에서는 AI를 이용한 해킹 공격이 이미 확인됐다. 지난 9월 해커는 중국 AI 모델 딥시크 기반 AI 에이전트를 이용해 금융회사 서버의 보안 취약점을 탐색했다. 이후 취약점을 악용해 악성 프로그램을 설치하고 내부의 다른 서버까지 살펴봤지만 금융회사가 추가 공격을 차단했다. 금융보안원은 지난달 17일 금융회사 보안 담당자 160여명이 참석한 세미나에서 이 사례를 공개하며 AI를 활용한 사이버 공격의 위험성을 알렸다. 당시에는 해커가 AI에 명령을 내려 금융회사 서버에 침투했지만, 앤트로픽은 앞으로 AI가 사람의 추가 지시 없이 다른 기기를 찾아 스스로 확산할 가능성을 경고했다. 앤트로픽 실험에서는 이러한 복제 능력이 일부 확인됐다. 중국 AI 모델 'GLM-5.2'는 안드로이드 기기 8대를 모방한 가상 시험망에서 총 5차례 실험 중 4차례 모든 기기로 확산하는 데 성공했다. 나머지 한 차례에서도 7개 기기에 도달했다. 저렴한 가전제품을 이용한 AI 실행 실험도 진행됐다. 앤트로픽은 대당 약 55달러(약 7만원)인 저가형 안드로이드 TV 셋톱박스 15대를 연결해 260억개 매개변수를 가진 구글의 AI 모델 '젬마4-26B-A4B'를 실행했다. 작동 속도는 느렸지만 고가의 데이터센터 장비 없이도 저렴한 기기 여러 대로 AI를 구동할 수 있다는 사실을 확인했다. AI가 앞선 작업에서 얻은 경험을 다음 작업에 활용하는 능력도 확인됐다. 중국 AI 모델 '큐원3.5-9B'는 새로운 기기에 AI를 설치하는 실험에서 처음 45%의 성공률을 기록했다. 이전에 시도한 방법과 실패 원인을 다음 실행에 전달하자 성공률이 61~84%로 높아졌다. AI가 이전 기록을 참고해 같은 실수를 피하고 다른 해결 방법을 찾은 결과다. 앤트로픽은 여러 기기에 분산된 AI를 완전히 제거하기 어려울 수 있다고 경고했다. 일부 기기를 차단하더라도 다른 기기에서 계속 작동할 수 있기 때문이다. AI가 처음 접하는 기기에도 적응한다면 공격 대상이 더욱 넓어질 수 있다. 다만 실제 인터넷에서 AI가 사람의 통제 없이 스스로 복제하며 확산한 사례는 아직 확인되지 않았다. 저성능 기기에서는 AI를 설치하고 실행하는 데 하루 이상 걸리는 등 확산 속도도 느린 것으로 나타났다. 연구진은 AI가 기기 사이를 이동할 때 발생하는 대량의 데이터 전송과 비정상적인 통신을 감지하고 감염된 기기를 격리하는 방식으로 확산을 막을 수 있다고 설명했다. 기기 제조사의 보안 강화와 인터넷 서비스 제공업체의 공동 대응도 필요하다고 제시했다. 앤트로픽 연구진은 "우리는 이러한 복제 프로그램이 확산하기 어렵도록 시스템을 강화해야 한다"며 "동시에 이들이 계속 존재하는 세상에 대비해야 한다"고 밝혔다.

2026.10.14 10:21김동원 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next