• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 보안'통합검색 결과 입니다. (726건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI 모델마다 성능·가격 다른데...기업은 어떻게 골라 쓸까

기업이 AI를 업무에 도입할 때 모든 작업에 가장 성능이 높은 모델을 사용할 필요는 없다. 간단한 문서 요약과 번역에는 저렴한 경량 모델로도 충분하다. 반면 복잡한 분석과 추론에는 고성능 모델이 필요하다. KT가 기업의 업무 유형과 비용 조건에 따라 AI 모델을 자동으로 선택하고 사용량까지 관리하는 토큰팩토리 사업에 나선 이유다. 원만호 KT AX플랫폼본부장은 27일 서울 광화문 KT 사옥에서 열린 기자간담회에서 기업용 AI 플랫폼 토큰팩토리를 시연하면서 주요 기능으로 ▲오토 모델 라우터 ▲토큰 절감 ▲가드레일 등을 꼽았다. 토큰팩토리는 기업이 하나의 응용프로그램 인터페이스(API)로 다양한 AI 모델을 이용할 수 있도록 지원하는 플랫폼이다. 모델별 성능과 이용료를 비교하고, 업무에 적합한 모델을 자동으로 연결한다. 기업이 사용한 토큰의 양과 비용을 확인하고 개인정보 유출을 방지하는 기능도 제공한다. KT가 제시한 핵심은 기업이 AI 모델을 일일이 비교하거나 가장 비싼 모델에 의존하지 않아도 된다는 점이다. AI 모델의 종류가 늘고 가격 체계가 복잡해지는 상황에서 기업이 품질과 비용을 함께 관리할 수 있도록 하는 데 초점을 맞췄다. 업무마다 다른 AI 모델, 무엇을 선택할까 이진형 KT AX사업본부장은 “기업이 AX를 고민할 때 단순히 비용이 저렴한 것만이 아니라, 업무에 적합하면서도 비용 효율적인 모델이 무엇인가 하는 점이 고민”이라며 “KT 토큰 팩토리는 요약이나 단순 번역 등 업무는 경량 모델을, 복잡 업무는 고성능 모델을 적용해 비용을 최적화한다”고 말했다. KT 토큰팩토리는 이용자 프롬프트에 따라 적합한 모델을 사용한다. KT 토큰팩토리 공식 홈페이지에선 오는 30일부터 70여 개 이상의 다양한 AI 모델을 하나의 API로 연동해 제공하고, 11월엔 500여 개 모델을 확충할 예정이다. 기업은 모델 탐색 화면에서 필터링 기능을 통해 원하는 모델을 선택할 수 있다. 특정 모델을 선택하면 상세한 스펙을 확인할 수 있다. 화면엔 개발사와 멀티모델 지원 여부, 입출력 단가, 캐시 적용 단가가 표기된다. 레이턴시와 처리량 등 실제 업무 성능을 확인할 수 있다. 모델 체험 화면에선 여러 모델 성능을 동시에 한눈에 확인할 수 있다. 가령 GPT, 큐엔, 미드 등 AI 모델을 고르고 프롬프트를 입력해 답변이 생성되면 화면 맨 우측 상단에 사용된 토큰 양과 응답 소요 시간이 표시되며, 프롬프트에 따른 결과물을 직접 비교할 수 있다. 이용자가 원하는 모델 범위를 선택하고, 품질과 비용에 대한 가중치를 설정할 수 있다. 품질을 높게 설정하면 성능이 뛰어난 고성능 모델을 우선 사용하므로 비용이 다소 상승할 수 있다. 반대로 비용 절감에 가중치를 두면 상대적으로 경제적인 모델이 사용된다. KT 자체 라우팅 기술인 오토 모델 라우터는 이용자가 적절한 가중치와 선호 모델을 선택하면, 조건에 맞춰 최적의 모델로 자동 라우팅한다. 원만호 본부장은 “사전에 다양한 모델별 품질 지표를 미리 평가해두고, 프롬프트가 입력됐을 때 실제로 모델을 다 돌려보지 않아도 입력된 프롬프트 품질 요구 수준을 미리 예측할 수 있다”며 “품질 기준을 충족하지 못하는 모델은 자동 탈락시키고, 설정된 가중치에 가장 적합한 모델을 스마트 모델 라우터가 자동 선정해 처리한다”고 설명했다. “AI 사용료 최대 25% 절감” 대시보드를 통해 API 이용 현황을 한눈에 파악할 수 있다. 원하는 기간 동안 처린된 프롬프트 횟수, 성공률, 총 토큰 사용량, 총 발생 비용을 조회할 수 있다. 특정 기간 가장 많이 사용된 모델이 무엇인지, 어떤 API 키와 사용자가 접속했는지 상세히 파악할 수 있으며, 일간 모델 사용량과 토큰 사용량도 조회할 수 있다. 전체 토큰 사용량 확인을 통한 예산 관리도 가능하다. 관리자는 전체 API 키 별 비용을 모니터링할 수 있다. 모델을 사용하는 API 키별로 월간, 일간 쿼터를 설정해 정해진 예산 범위 내에서 안정적으로 집행될 수 있도록 관리한다. KT는 자동 모델 선택에 더해 AI가 처리하는 토큰 자체를 줄이는 기술도 토큰팩토리에 적용했다. 토큰은 AI 모델이 입력과 출력을 처리하는 단위로, 일반적으로 사용량이 늘어날수록 비용도 증가한다. 토큰 절감 기술은 입력 문장의 불필요한 표현을 줄이는 프롬프트 압축과 출력 토큰 최적화로 구성된다. 이를테면 '다음 주 출장인데 월요일 오전 서울에서 부산으로 가는 KTX 열차를 찾아줘'라는 요청을 '다음 주 월요일 오전 서울-부산 KTX'로 압축하는 사례를 소개했다. 요청의 핵심 의미를 유지하면서 입력 토큰 수를 줄이는 방식이다. 원 본부장은 “내부적으로 테스트했을 때 최대 약 25%까지 절감되는 것을 확인했다”면서 “그만큼 토큰을 보다 비용 효율적으로 이용할 수 있도록 하는 기술”이라고 밝혔다. 김준석 KT 에이전틱AI랩장은 “프롬프트 압축으로 토큰 사용량을 약 20% 줄이고, 모델 라우팅을 통해 요청을 처리할 수 있는 저렴한 모델을 선택해 추가로 약 5%의 비용을 절감했다”고 설명했다. 즉, 실제 절감률은 기업이 사용하는 모델과 업무 유형, 입력 내용에 따라 달라질 수 있다. KT는 AI 모델 자체의 크기를 줄이는 최적화 기술도 적용하고 있다. 이 본부장은 “모델 경량화 기술을 활용해 성능 저하를 5% 미만으로 제한하면서 모델 크기를 최대 70%대까지 줄일 수 있다”고 말했다. 모델 크기가 작아지면 구동에 필요한 GPU 자원과 추론 비용을 낮출 수 있다. 기업이 AI 서비스를 대규모로 운영할 때 모델 사용료뿐 아니라 인프라 비용까지 줄일 수 있다는 것이다. 절감 효과를 확인하는 대시보드를 통해 관리자는 토큰 절감 기능을 적용한 뒤 실제로 줄어든 토큰의 양과 압축이 적용된 요청 비율을 확인할 수 있다. 기업 데이터와 보안은 어떻게 관리하나 기업이 여러 AI 모델을 도입할 때 발생하는 관리 문제도 해결 대상이다. 부서와 개발자마다 사용하는 모델이 다르면 전체 이용량을 파악하기 어렵고, 특정 조직에서 AI 사용료가 급증하더라도 원인을 확인하는 데 시간이 걸릴 수 있다. 토큰팩토리에서는 관리자가 개발자를 초대하고 API 키를 발급하고 관리할 수 있다. API 키별로 하루 또는 한 달 동안 사용할 수 있는 한도와 예산을 설정해 비용이 일정 수준을 넘지 않도록 통제하는 기능도 제공한다. 관리 대시보드에서는 전체 요청 건수와 처리 성공률, 토큰 사용량, 발생 비용을 확인할 수 있다. 가장 많이 사용된 AI 모델과 API 키, 이용자별 사용 현황도 조회할 수 있어 부서별 비용 관리에 활용할 수 있다. 보안 기능은 기업이 AI 모델을 사용하는 과정에서 입력하거나 생성하는 정보를 통제하는 데 초점을 맞췄다. 원 본부장은 시연에서 개인정보 필터링과 기업별 금칙어 설정, 사용 가능한 모델 제한, IP 접근 통제 기능을 소개했다. 주민등록번호 등 개인정보가 포함된 요청이나 답변을 차단하고, 기업이 지정한 금칙어가 입력되면 AI 모델이 해당 요청을 처리하지 않도록 설정할 수 있다. 기업은 국내에서 운영되는 AI 모델만 사용하도록 제한하거나 특정 모델을 사용 대상에서 제외할 수도 있다. 금융·공공 등 데이터 처리 위치와 보안 요건이 중요한 조직을 고려한 기능이다. 프롬프트는 기본적으로 KT 내부에 저장하지 않는다. 다만 기업이 내부 감사나 이용 이력 확인을 위해 기록 보관을 요구할 경우 선택적으로 저장할 수 있도록 했다. AI 에이전트의 내부 지시문을 탈취하려는 프롬프트 인젝션 공격에 대한 방어 기능도 적용했다. 외부 입력을 통해 시스템 프롬프트를 추출하거나 기존 지시를 우회하려는 요청을 차단하는 방식이다. 이 본부장은 “기업용 AI 서비스에서 보안과 데이터 관리가 중요하다”며 “KT가 직접 운영하는 모델에는 고객 데이터 비저장 비학습 원칙을 적용한다”고 밝혔다. 이어 “국내 데이터센터에서 직접 제공하는 모델은 국내에서 데이터를 처리할 수 있도록 구성했다”고 덧붙였다. 그는 또 “오픈라우터를 통해 연결되는 모델의 데이터 처리 지역은 각 모델 제공사의 운영 환경에 따라 달라진다”며 “기업은 보안 요구 수준에 따라 국내 운영 모델과 외부 모델을 구분해 선택할 수 있다”고 말했다. KT는 12월 토큰팩토리의 두 번째 업데이트를 진행하고, 내년에도 기능을 확대할 계획이다. 기업이 AI 모델을 선택하고 운영하는 과정에서 품질과 비용, 보안 조건을 한꺼번에 관리하도록 지원하는 것이 개발 방향이다.

2026.10.27 16:01홍지후 기자

AI 개발보다 어려운 건 신뢰 확보…오라클 "검증이 관건"

[라스베이거스(미국)=이나연 기자] 인공지능(AI)이 소프트웨어 개발 속도를 획기적으로 높이면서 기업의 기술 도입 과제가 시스템 구축에서 신뢰성 확보로 옮겨가고 있다는 진단이 나왔다. AI가 생성한 결과를 검증하고 오류 근본 원인을 수정하는 역량이 중요해졌다는 분석이다. 후안 로이자 오라클 DB 기술 부문 총괄 부사장은 26일(현지시간) 미국 라스베이거스 베네시안 엑스포에서 열린 '오라클 AI 월드 2026' 미디어 질의응답(Q&A)에서 "AI는 시스템 구축 과정을 엄청난 수준으로 가속화했다"며 "이제 AI 개발 자체보다 결과물 신뢰성을 검증하는 일이 더 어려워졌다"고 밝혔다. 로이자 부사장은 과거 소프트웨어 개발에 많은 인력과 시간이 필요했지만 AI 발전으로 이러한 제약이 빠르게 줄어들고 있다고 설명했다. 이와 달리 AI가 생성한 애플리케이션과 업무 분석 결과 정확성을 검증하는 작업은 해결해야 할 과제로 남아 있다는 지적이다. 그는 기업들이 AI를 도입하면 별도 관리 없이도 정확한 결과를 얻을 수 있을 것으로 기대하는 경향을 우려했다. AI가 업무를 제대로 수행하려면 기업 내부 비즈니스 지식과 데이터 구조를 이해해야 하고 잘못된 답변이 발생했을 때 지속 수정하는 과정이 필요하기 때문이다. 로이자 부사장은 "사람들은 AI를 설치하기만 하면 알아서 작동하는 마법 상자처럼 생각한다"며 "정확한 결과를 얻으려면 학습과 수정 과정을 반복해야 한다"고 말했다. 특히 AI가 잘못된 답변을 내놓았을 때 개별 결과만 고쳐서는 근본 문제를 해결하기 어렵다고 짚었다. AI가 이해하지 못한 업무 용어나 부족한 지식을 찾아 원천 단계에서 수정해야 같은 오류가 반복되는 것을 막을 수 있다는 취지다. 기업별 AI 도입 준비 수준에는 상당한 차이가 있다고 봤다. 보안 위협에 적극적으로 대비하는 기업이 있는가 하면 기존 보안 체계만으로 충분하다고 판단하는 기업도 있어서다. 업무 지식에서도 조직별 맥락 중요성이 강조됐다. 로이자 부사장은 "같은 '매출'이라는 용어도 영업과 재무 부서에서 다르게 해석할 수 있고 '아시아'라는 지역 구분 역시 사업부 체계에 따라 의미가 달라질 수 있다"며 "AI가 활용하는 지식 기반을 사용자 역할에 맞게 구성해야 한다"고 덧붙였다. 이같은 변화에 따라 기업에서 요구하는 전문인력 역할도 달라질 가능성이 높아졌다. 로이자 부사장은 과거 SQL 성능을 조정하는 전문가가 필요했듯 AI가 정확한 답변을 생성하도록 업무 지식을 관리하는 인력이 중요해질 것으로 전망했다. 로이자 부사장은 "AI 시대에는 폭넓은 역량을 갖추고 큰 그림을 이해하며 방향을 제시할 수 있는 사람이 더 가치 있을 것"이라며 "특정 업무만 아는 사람 가치는 AI가 해당 작업을 자동화하면서 비교적 낮아진다"고 말했다.

2026.10.27 13:39이나연 기자

"AI는 통제 어려운 10대"…오라클, DB에 보안 내장

[라스베이거스(미국)=이나연 기자] 오라클이 인공지능(AI) 에이전트 보안과 신뢰성 문제를 해결하기 위해 데이터베이스(DB) 중심의 새로운 기술 아키텍처를 제안했다. AI가 정해진 규칙을 따르도록 지시하는 기존 방식에서 벗어나 데이터 접근 권한과 보안 정책을 DB와 애플리케이션 실행 환경에 직접 내장해 위험을 최소화한다는 전략이다. 후안 로이자 오라클 DB 기술 부문 총괄 부사장은 26일(현지시간) 미국 라스베이거스 베네시안 엑스포에서 열린 '오라클 AI 월드 2026' 스포트라이트 세션에서 "AI는 똑똑하지만 지나치게 자신만만한 10대 청소년처럼 답변을 지어내거나 요청을 오해하고 민감한 정보를 노출할 수 있다"며 이같이 밝혔다. 이날 오라클이 공개한 '딥 트러스트 AI' 아키텍처는 소프트웨어 플랫폼과 데이터, 데이터 접근, 애플리케이션 개발 등 4개 계층에 보안과 신뢰성을 내장하는 구조다. AI 모델이 보호장치를 우회하더라도 하부 인프라에서 데이터 접근과 실행 권한을 통제하도록 설계됐다. 핵심 기술인 '딥 데이터 시큐리티'는 사용자별 데이터 접근 권한을 DB 내부에서 직접 검증한다. 오라클은 이번 행사에서 AI 에이전트와 애플리케이션 전반에 걸쳐 권한 통제를 강화하는 기능을 소개했다. 시연에서는 인사관리(HR) 에이전트가 보호장치를 우회해 직원 급여 정보를 조회하는 상황이 가정됐다. 에이전트에 마케팅팀 직원들의 급여를 요청하면 답변이 거부됐지만 이들이 급여로 구매할 수 있는 풍선 개수를 묻는 우회 질문에는 민감 정보가 활용됐다. 반면 딥 데이터 시큐리티를 적용하자 DB가 접근 권한을 확인해 정보 노출을 차단했다. 새롭게 도입한 '딥 NL2SQL'은 기업 내부 업무 용어와 데이터 구조를 AI에 제공하고 잘못된 답변에 대한 전문가 피드백을 반영하는 기술이다. 로이자 부사장은 시연을 통해 상품 매출 분석 과정에서 발생한 오류를 수정하고 기존 답변에 영향을 미치는지 검증하는 과정을 선보였다. AI 기반 애플리케이션 개발 전략도 제시했다. '오라클 에이팩스(APEX) AI 애플리케이션 생성기'는 AI가 앱 기능을 선언형 언어인 '에이팩스랭(APEXlang)'으로 정의하고 실제 실행과 보안, 확장성은 검증된 에이팩스 엔진이 담당하도록 지원한다. AI가 생성한 방대한 코드를 개별적으로 관리해야 하는 부담을 줄이기 위한 접근이다. 로이자 부사장은 기존 시스템에 AI 기능을 단순히 추가하는 방식으로는 기업이 요구하는 신뢰성을 확보하기 어렵다고 강조했다. AI 모델 판단에만 의존하지 않고 데이터와 실행 환경 자체에서 보안 정책을 강제해야 하는 이유다. 그는 "기업이 신뢰할 수 있는 AI 솔루션을 구축하려면 데이터와 기반 소프트웨어 플랫폼 설계를 다시 생각해야 한다"며 "오라클 딥 트러스트 AI 아키텍처는 AI 모델이 우회하거나 무력화할 수 없는 인프라 계층에 신뢰성을 내장한다"고 말했다.

2026.10.27 09:24이나연 기자

위험성 알려줘도 공격 지속…영국 AI보안연구소가 밝힌 AI 안전 허점

영국 정부가 인공지능(AI)을 시험하던 중 실제 소프트웨어 개발자를 겨냥한 사이버 공격 시도가 발생했다. 이후 실험에서는 공격이 위험하다는 판단과 실제 행동이 일치하지 않는 문제도 확인됐다. 23일(현지시간) 영국 AI보안연구소(AISI)가 발표한 보고서에 따르면 앤트로픽 AI 모델 '미토스 5'는 공격 대상이 실제 사람이라는 정보를 반복해서 전달받고도 거의 모든 실험에서 공격을 이어갔다. 사건은 지난 7월 AISI가 AI 사이버보안 능력을 평가하던 중 발생했다. 연구진은 AI에 가상 컴퓨터망에 침입해 보호된 정보를 찾아내는 과제를 줬다. 정해진 시험 환경에서만 활동해야 했지만 미토스 5는 인터넷에서 실제 개발자가 관리하는 프로그램을 공격 대상으로 삼았다. 미토스 5는 처음에는 허용된 방법으로 과제를 해결하려 했다. 여러 시도가 실패하자 외부 개발자가 관리하는 소프트웨어에 악성코드를 넣는 방법을 시도했다. 해당 프로그램을 통해 시험용 컴퓨터에 침입하려는 목적이었다. AI는 악성코드가 포함된 수정안을 개발자에게 제출했다. 가짜 계정까지 만들어 수정안이 안전한 것처럼 꾸미고 승인을 요구했다. 하지만 개발자는 수정안을 받아들이지 않았으며 실제 피해도 발생하지 않았다. AISI는 지난 8월 사건을 공개한 뒤 AI가 왜 허용된 범위를 벗어났는지 추가 조사했다. 연구진은 공격 직전 상황을 재현하고 상대가 시험과 무관한 실제 사람이라는 정보를 반복해서 제공했다. 공격이 위험한지 묻는 실험과 작업을 계속하도록 하는 실험도 각각 진행했다. 미토스 5는 공격이 허용 범위를 벗어나며 실제 피해를 줄 수 있다고 답했다. 그러나 작업을 계속하도록 하자 거의 모든 실험에서 공격을 진행했다. 공격 대상이 실제 사람이라는 정보를 추가해도 행동은 달라지지 않았다. AI가 자신의 행동을 설명하는 과정에서도 문제가 나타났다. 미토스 5는 실제 개발자를 시험용 가상 인물이라고 잘못 판단하는 경우가 많았다. 공격이 일으킬 피해를 고려하지 않거나 기존 행동을 정당화하는 방향으로 정보를 해석했다. AISI는 AI가 이미 선택한 행동을 계속하기 위해 자신에게 유리한 방향으로 판단했을 가능성을 제기했다. 다만 이런 판단 방식이 실제 공격을 유발했는지는 확인하지 못했다고 밝혔다. 다른 AI 모델에서도 비슷한 행동이 나타났다. 연구진이 가상 사이버보안 평가 상황 100개를 만들어 여러 모델을 시험한 결과 허가받지 않은 공격 시도가 확인됐다. 미토스 5에서 가장 자주 발생했다. 앤트로픽도 별도 분석을 통해 당시 미토스 5가 평가 43회 중 9회에서 허용 범위를 벗어났다고 밝혔다. 회사는 시험 당시 일반 공개 모델에 적용하는 일부 보안 장치가 꺼져 있었다고 설명했다. 이후 개발한 모델에서는 유사한 공격을 시작하는 비율이 낮아졌다고 덧붙였다. AISI는 이번 연구가 사이버보안 시험에서 나온 만큼 일반 업무에서도 같은 문제가 발생한다고 단정할 수 없다고 밝혔다. 다만 AI가 위험성을 설명한다고 해서 실제 행동까지 안전하다고 판단해서는 안 된다고 지적했다. 연구진은 AI가 허용된 범위를 벗어나지 못하도록 작업 환경을 분리하고 행동을 감시할 필요가 있다고 강조했다. AISI는 "AI 모델이 예상대로 행동하는지와 관계없이 평가 환경에서는 모델이 실제 피해를 일으키지 못하도록 막아야 한다"고 밝혔다.

2026.10.25 07:59김동원 기자

플레이태그, KT텔레캅 협력으로 B2B 영토 확장…시니어·펫케어 진출

AI 행동분석 기업 플레이태그가 보안 전문기업 KT텔레캅과 전략적 사업제휴 업무협약(MOU)을 체결하고, AI 영상분석 기술 기반의 신규 서비스 공동 발굴에 나선다. 22일 회사에 따르면, 양사는 플레이태그의 영유아 행동분석 솔루션 '스토리라인'과 KT텔레캅의 영상보안 인프라 '기가아이즈'를 연계해 상용화를 추진한다. 스토리라인은 어린이집과 유치원 CCTV 영상을 AI로 분석해 교우관계와 놀이 선호도 등 개인화된 행동분석 리포트를 제공하는 서비스다. 현재까지 누적 1000개 이상의 교실에서 2만명 이상의 아동이 이용했으며 미국·일본·영국 등 해외 시장으로 보폭을 넓히고 있다. 이번 협약에 따라 플레이태그는 검증된 AI 행동분석 기술 고도화를 맡고, KT텔레캅은 이에 연동되는 보안 장비·시스템 지원과 전국 영업망을 활용한 고객 발굴부터 설치, 사후관리(A/S)까지 전 과정을 일괄 제공한다. 사업 영역 확장도 가속화한다. 플레이태그는 영상 속 행동을 자연어로 묻고 답하며 정밀 분석하는 신규 AI 솔루션 '모노'를 필두로 시니어 케어, 건설·제조 현장 등으로 B2B 적용처를 넓히고 있다. 이와 함께 양사는 반려동물 시설을 겨냥한 AI 행동분석·케어 서비스 진출도 구체화하고 있다. 영상 속 반려동물을 개체별로 식별해 활동량과 휴식 패턴, 상호작용 등을 분석한 맞춤형 콘텐츠를 보호자에게 제공하는 구조로, 사전 기술 검증을 마치는 대로 현장 테스트를 거쳐 본격 상용화할 계획이다. 박현수 플레이태그 대표는 “이번 KT텔레캅과의 협력은 플레이태그의 AI 행동분석 기술이 기존 영상보안 산업의 서비스 혁신을 주도하는 핵심 역량이 될 수 있음을 증명한 사례”라며 “국내 대표 보안 기업의 인프라와 결합하는 B2B 사업 모델 구축으로 기술의 활용 가능성과 시장성을 확장해 나가겠다”고 밝혔다.

2026.10.22 16:48백봉삼 기자

GS네오텍, 네이버클라우드까지 보안 관리 확대…공공시장 공략

GS네오텍이 자체 클라우드 보안 통합 플랫폼 지원 범위를 네이버클라우드플랫폼(NCP)까지 확대하며 국내 멀티클라우드 보안 시장 공략을 강화한다. 인공지능(AI) 기반 위협 분석과 대응을 지원해 기업과 공공기관 보안 관리 효율을 높인다는 전략이다. GS네오텍은 클라우드 보안 통합 플랫폼 '시큐리티 렌즈' 지원 범위를 NCP로 확대했다고 22일 밝혔다. 이번 업데이트로 시큐리티 렌즈는 기존 아마존웹서비스(AWS), 구글 클라우드 플랫폼(GCP), 마이크로소프트(MS) 애저에 이어 NCP까지 지원하게 됐다. 여러 클라우드 서비스를 함께 사용하는 기업과 공공기관은 각 환경에 분산된 보안 현황을 단일 플랫폼에서 통합 관리할 수 있게 됐다. 해외 클라우드와 국내 클라우드를 병행하는 환경에서도 보안 정보를 한눈에 확인하도록 지원한다. 시큐리티 렌즈는 기존 클라우드 네이티브 애플리케이션 보호 플랫폼(CNAPP)에 로그 분석과 온프레미스 보안 점검 기능을 결합한 'CNAPP+' 플랫폼이다. 클라우드 환경 취약점과 설정 오류를 점검하는 기능을 넘어 보안 위협 분석과 대응까지 제공한다. 특히 CNAPP과 보안 정보 및 이벤트 관리(SIEM) 시스템에서 수집한 정보에 로그 데이터를 결합해 보안 위협을 분석한다. 이를 바탕으로 AI 기반 자동 대응 기능을 제공하는 방식이다. 보안 관리 범위도 클라우드에서 기업 내부에 구축된 온프레미스 환경까지 확장했다. 서버 접근 제어와 PC 보안 점검 등 개별적으로 운영하던 보안 기능을 연계해 분산된 보안 정보를 통합 관리하도록 지원한다. 이번 NCP 지원으로 국내 공공기관과 대기업 보안 관리 환경에도 적용 범위를 넓힐 수 있게 됐다. 공공기관은 NCP 환경에서 잠재 공격 경로 분석과 이상 행위 탐지, AI 기반 대응 등 보안 기능을 활용할 수 있다. 해외 클라우드와 네이버클라우드를 함께 사용하는 금융사와 통신사, 대기업 계열사도 단일 관리 화면에서 전체 보안 현황을 확인할 수 있다. GS네오텍은 이를 통해 여러 클라우드 환경을 운영하는 기업의 보안 관리 부담을 줄일 수 있을 것으로 보고 있다. 국내 규제 대응 기능도 제공한다. 정보보호 및 개인정보보호 관리체계(ISMS-P) 인증과 정보보호 공시 등 국내 규제 요구사항에 맞춰 보안 점검 결과를 연계하고 감사에 필요한 증빙자료를 자동 생성한다. GS네오텍은 이번 NCP 지원 확대를 계기로 공공 및 정부 시장 진출을 추진할 계획이다. 공공기관과 국가핵심기반시설 등을 대상으로 사업 기회를 넓히고 클라우드와 온프레미스를 아우르는 통합 보안 기능을 지속 고도화한다는 방침이다. 서정인 GS네오텍 IT사업본부장은 "클라우드 환경이 다양해지면서 여러 시스템에 분산된 보안 정보를 통합적으로 관리하고 위협에 대응하는 것이 중요해지고 있다"며 "이번 NCP 지원을 통해 국내 기업과 공공기관 보안 관리 효율성을 높이고 AI 기반 통합 보안 플랫폼 적용 범위를 확대해 나가겠다"고 말했다.

2026.10.22 09:33한정호 기자

국정자원, AI 해킹 대응 보안 강화…정부 클라우드 관리체계 개편

국가정보자원관리원(국정자원)이 인공지능(AI)을 활용한 해킹 위협에 대응하기 위해 정부 행정망 보안체계를 강화하고 민관협력형 클라우드 관리체계 개편에 나선다. 기존 업무시스템 단위로 운영하던 보안 서비스를 중앙집중형으로 재구성하고 이중 보안관제 체계를 구축해 정부 정보시스템의 안정성을 높인다는 방침이다. 행정안전부 국정자원은 21일 정부세종청사에서 중앙부처와 공공기관 정보화 담당자 등 300여 명이 참석한 가운데 '2026년 입주기관 협의회'를 개최했다고 밝혔다. 이번 협의회는 AI를 활용한 해킹 위협 등 사이버보안에 대한 관심이 높아지는 가운데 정부 정보시스템 보안 대응체계를 점검하고 민관협력형 클라우드 운영 안정성과 보안성을 강화하기 위해 마련됐다. 국정자원은 이날 보안 강화를 위한 주요 현안과 대응 방안을 공유하고 재해복구시스템(DR) 구축 현황, 정보시스템 안정성 확보를 위한 정책 추진 상황 등을 설명했다. 우선 AI 활용 해킹에 대응하기 위해 행정망 웹 취약점 점검을 확대하고 발견된 취약점에 대한 긴급조치 방안을 공유했다. 민관협력형 클라우드 보안체계도 개편한다. 국정자원은 기존 업무시스템별로 운영하던 보안 서비스를 중앙집중형으로 재구성해 이중 보안관제·탐지·대응 체계를 구축하는 방안을 제시했다. 클라우드 운영 관리체계는 통합 클라우드 관리형 서비스(MSP) 방식으로 전환할 계획이다. 이를 통해 민관협력형 클라우드 운영 안정성과 보안성을 강화한다는 구상이다. 국정자원은 국가 핵심 정보시스템의 중단 없는 운영을 위해 추진 중인 DR 구축 사업 진행 상황도 공유했다. 재난이나 장애 발생에 대비해 정부 서비스 연속성을 확보하기 위한 사업이다. 이와 함께 지난 4월 제정된 '행정기관 및 공공기관 정보시스템 안정성 고시' 주요 내용을 설명하고 입주기관이 준수해야 할 사항을 안내했다. 정부 정보시스템 클라우드 네이티브 전환을 위한 절차와 지원 사항도 공유했다. 아울러 민간클라우드 이전 대상 선정 기준과 관련 지원 정책을 입주기관들과 공유했다. 협의회에선 입주기관 담당자들이 사전에 제출한 질문과 평소 궁금했던 사항에 답변하는 시간도 마련됐다. 국정자원은 정부 정보시스템 운영과 보안 강화, 클라우드 전환 과정에서 기관 간 협력을 확대한다는 목표다. 하승철 국가정보자원관리원장은 "AI 해킹 위협이 현실로 다가오는 상황에서 보안 강화를 위한 범정부 차원 대응이 그 어느 때보다 중요하다"며 "DR 구축과 클라우드 네이티브 전환 등 정부 서비스 안정성 확보를 위해 입주기관의 적극 협력과 지원을 부탁드린다"고 밝혔다.

2026.10.21 17:14한정호 기자

AI 보안은 시스코, 신뢰성 평가는 셀렉트스타…협력 시동

셀렉트스타가 글로벌 네트워크·보안 기업 시스코와 손잡고 기업용 인공지능(AI) 보안과 신뢰성 검증을 위한 협력에 나선다. 셀렉트스타는 시스코와 AI 보안·신뢰성 분야 전략 협력을 위한 의향서(LOI)를 체결했다고 21일 밝혔다. 양사는 전날 시스코코리아 본사에서 서명식을 열고 각 사 기술과 경험을 활용해 기업 고객 AI 도입과 활용을 지원하기로 했다. 셀렉트스타는 독자 AI 파운데이션 모델과 모두의 AI 사업 등 국가 AI 프로젝트에 참여하고 금융·법률·공공 분야에서 AI 학습·평가 데이터 구축과 모델 평가 컨설팅을 수행해 왔다. 자체 개발한 AI 신뢰성 평가 플랫폼 '다투모'는 평가 데이터 생성부터 모델 성능·안전성 평가, 레드티밍, 결과 분석까지 지원한다. 양사는 시스코 AI 보안 솔루션 'AI 디펜스'와 셀렉트스타 모델 평가 기술을 결합하는 방안을 논의할 계획이다. AI 디펜스는 AI 모델 취약점 평가와 운영 과정에서 발생하는 보안 위협 대응을 지원하는 솔루션이다. 이를 바탕으로 기업 고객 요구에 맞는 AI 보안·신뢰성 검증 방안을 모색하고 공동 세미나와 마케팅 협업 등으로 협력 범위를 확대할 예정이다. 김세엽 셀렉트스타 대표는 "이번 LOI는 시스코와 AI 보안 및 신뢰성 분야 협업 가능성을 구체적으로 논의할 수 있는 계기"라며 "양사 전문성을 바탕으로 기업 고객에게 필요한 협력 방안을 찾고 협업 기회를 넓히겠다"고 말했다.

2026.10.21 11:56이나연 기자

AI에 장애 대응 맡겼지만…기업 절반 "품질 측정·비용 통제 어렵다"

기업들이 인공지능(AI) 에이전트에 시스템 장애 진단과 복구 업무를 맡기고 있지만 AI의 판단 품질과 사용 비용을 관리하는 역량은 도입 속도를 따라가지 못하는 것으로 나타났다. 장애 대응 시간을 줄이는 효과와 함께 예측하기 어려운 행동과 비용 부담도 커지면서 기업 IT 운영의 관리 범위가 인프라 성능에서 AI의 의사결정 과정으로 넓어지고 있다. 21일 시스코가 공개한 스플렁크의 '2026 옵저버빌리티 현황 보고서'에 따르면 AI 모니터링을 중시하는 기업들의 인식과 이를 뒷받침할 측정 역량 사이에 격차가 나타났다. 응답자의 87%가 AI 모니터링을 조직의 우선 과제로 꼽은 데 비해 전체 응답자의 56%는 대규모언어모델(LLM)의 품질 등 AI 워크로드 지표를 측정하지 못한다고 답했다. 이번 조사는 옥스퍼드 이코노믹스가 올해 2~3월 미국·일본·독일 등 10개국 IT 운영·엔지니어링 전문가 2050명을 대상으로 진행했다. 보고서는 스스로 작업 경로를 선택하는 AI 에이전트가 확산하면서 응답 속도와 오류 발생 여부뿐 아니라 판단 과정과 결과의 적절성까지 살펴야 한다고 짚었다. 조사에서도 AI 환각을 파악하는 것이 중요하다는 응답은 85%였지만, 이를 효과적으로 감시하고 있다는 비율은 58%에 머물렀다. 기존 도구와 조직 체계도 제약으로 지목됐다. 응답자의 49%는 사용 중인 옵저버빌리티 도구에 AI를 감시할 기능이 부족하다고 답했고, 38%는 AI 모니터링의 담당 주체와 책임이 명확하지 않다고 밝혔다. AI 에이전트가 의도하지 않은 결과를 일으킬 수 있다는 우려는 83%에 달했다. AI가 IT 운영에 기여하는 효과도 확인됐다. 응답자의 62%는 장애의 근본 원인을 파악하는 데 AI 에이전트를 자주 또는 항상 활용한다고 답했다. 경보 설정 개선에는 58%, 장애 대응 절차서 작성에는 57%가 같은 빈도로 AI를 사용했다. 에이전틱 AI 도입으로 평균 장애 탐지 시간이 개선됐다는 응답은 86%, 평균 복구 시간이 개선됐다는 응답은 72%였다. 응답자의 84%는 AI 덕분에 유지보수보다 혁신 업무에 더 집중할 수 있게 됐다고 답했다. 반대로 14%는 평균 복구 시간이 악화됐다고 밝혀 도입 효과가 모든 조직에서 동일하게 나타나지는 않았다. 보고서는 AI가 제안한 조치를 재확인하고 기존 운영 기준에 맞추는 과정이 초기 대응을 늦출 수 있다고 설명했다. 원인 진단과 절차서 작성부터 AI를 활용한 뒤 검증된 범위에서 코드 되돌리기 등 실행 권한을 확대하는 방식을 제시했다. 비용 관리에서도 가시성 부족이 드러났다. 응답자의 55%는 조직이 AI 비용을 정확히 통제하지 못한다고 답했다. AI 모니터링을 통해 달성하려는 사업 성과가 명확하지 않다는 응답도 54%로 집계됐다. 여러 에이전트가 모델을 호출하고 작업을 반복하는 환경에서 토큰 사용량과 실제 성과를 연결해 관리하는 데 어려움을 겪고 있는 셈이다. 시스템 운영 데이터를 수집·저장하는 비용도 부담으로 작용했다. 응답자의 57%는 옵저버빌리티 비용이 감시 대상인 인프라·운영 비용을 넘어섰다고 답했고, 50%는 예상하지 못한 데이터 관련 비용을 경험했다. 옵저버빌리티의 가장 큰 비용 증가 요인으로는 불필요하게 많은 로그가 31%로 꼽혀 AI 인프라 자체를 지목한 비율인 6%를 웃돌았다. 비용 절감이 감시 범위를 축소하는 사례도 있었다. 응답자의 38%는 데이터 비용 상승으로 수집 범위나 보관 기간을 줄였고, 11%는 비용 절감 조치 때문에 서비스 중단 위험이 커졌다고 답했다. 보고서는 전체 응답자 중 에이전틱 AI를 활용한 문제 해결, 모델 품질 감시, 운영 데이터와 사업 가치 연결 역량 등을 갖춘 206명을 선도 그룹으로 분류했다. 이 그룹에서 AI 비용을 정확히 통제할 수 있다는 응답은 76%로, 나머지 응답자의 41%보다 높았다. 평균 복구 시간이 크게 개선됐다는 비율도 각각 63%, 40%로 차이를 보였다. AI 운영을 계기로 IT와 보안 조직 간 협업도 늘었다. 응답자의 81%는 AI 모니터링으로 보안팀과의 협업이 증가했다고 답했다. 성능 저하의 원인을 보안 위협까지 추적할 수 있다는 응답은 지난해 65%에서 올해 73%로 높아졌다. 보고서는 AI 품질을 기술 부서만의 관리 항목으로 두지 않고 보안·법무·컴플라이언스 부서가 함께 기준을 마련할 것을 제안했다. 운영 데이터 역시 모두 저장하기보다 사업 영향이 큰 정보를 우선 확보하고 AI의 행동·비용·성과를 연결해 평가해야 한다고 강조했다. 패트릭 린 스플렁크 옵저버빌리티 부문 수석부사장 겸 총괄은 "중요한 것은 AI 비용이 얼마인지뿐 아니라 그 비용이 가치 있는 결과를 만들어내는지 여부"라며 "에이전트의 행동과 전체 AI 시스템의 성능, 토큰 소비를 파악하지 못하면 지출을 성과와 연결할 수 없다"고 말했다.

2026.10.21 10:40장유미 기자

AI, 생성 넘어 예측·자율화…기업 경쟁력은 '통제력'

인공지능(AI)이 텍스트 생성에서 미래 상황을 예측하고 업무를 자율 수행하는 기술로 진화하면서 기업 기술 전략도 달라지고 있다. AI 성능뿐 아니라 자율형 시스템을 통제하고 특정 기술 공급업체에 대한 의존도를 낮추는 역량이 중요해질 전망이다. 21일 글로벌 시장조사업체 가트너가 발표한 '2027년 10대 전략 기술 트렌드'에 따르면 향후 기업이 주목해야 할 변화는 비텍스트 AI 발전, 자율형 에이전트 통제, 지속 가능한 기술 운영 등 세 가지로 구분된다. 가트너는 ▲대규모 정량 모델 ▲음성 추론 모델 ▲월드 모델 ▲AI 컨텍스트 플랫폼 ▲AI 코딩 에이전트 하네스 ▲AI 에이전트 신원 ▲자율형 노출 개선 ▲소버린 테크 ▲일회성 애플리케이션 ▲서비스형 웻웨어를 10대 전략 기술로 선정했다. 먼저 AI 모델은 언어 생성에서 예측과 시뮬레이션으로 활용 범위를 넓힐 전망이다. 대규모 정량 모델(LQM)은 수치 데이터를 분석해 미래 상황을 예측하고 기업 의사결정을 지원한다. 월드 모델은 공간과 시간, 인과관계를 이해해 로봇이나 자율주행차가 실제 행동에 앞서 결과를 시뮬레이션하도록 돕는다. 음성 추론 모델은 오디오를 직접 분석해 대화 맥락과 의도를 파악하고 다음 행동을 판단한다. 복잡한 고객 상담까지 자동화할 수 있는 기술로 주목받고 있다. AI 에이전트 확산에 따른 보안 위험도 주요 과제로 제시됐다. 가트너는 2028년까지 기업 보안 침해 사고 25%가 관리되지 않는 머신 권한과 기존 자격 증명 관행에 따른 AI 에이전트 오용에서 비롯되리라고 전망했다. 이에 따라 에이전트 신원을 확인하고 접근 권한을 동적으로 조정하는 기술이 중요해질 것으로 내다봤다. AI 컨텍스트 플랫폼은 에이전트에게 업무 맥락을 제공하며, AI 코딩 에이전트 하네스는 소프트웨어 개발 과정에서 에이전트 행동을 관리한다. 자율형 노출 개선 기술은 보안 취약점 탐지부터 대응까지 자동화한다. 기술 주권 확보도 주요 과제로 꼽혔다. 소버린 테크는 특정 공급업체에 대한 종속을 줄이고 기술과 데이터 지속 사용을 보장하도록 설계된 시스템이다. 가트너는 2030년까지 미국 외 지역 기업 75% 이상이 디지털 주권 전략을 도입하고 핵심 워크로드를 이전한다고 예측했다. 일회성 애플리케이션은 특정 업무 목적을 달성하면 사용을 종료하는 소프트웨어다. 서비스형 웻웨어는 생체 또는 합성 생물학 시스템을 컴퓨팅에 활용해 기존 실리콘 기반 기술 에너지 소비 한계를 극복하는 대안으로 제시됐다. 가트너는 AI가 소프트웨어를 생성하는 속도가 사람의 검토 능력을 넘어서면서 시스템 관리와 보안 위험이 커지고 있다고 진단했다. 진 알바레즈 가트너 수석 부사장 겸 애널리스트는 "현재 가장 큰 문제는 AI 시스템이 체계적 아키텍처 없이 운영되고 있다는 점"이라며 "이러한 시스템 위험을 방지하려면 기업은 모델 기능을 수동으로 관찰하는 데서 벗어나 조직과 사람, 기계 간 경계를 능동으로 설계해야 한다"고 말했다.

2026.10.21 10:34이나연 기자

MS "해킹 안 당한 AI도 위험"…내부 에이전트 통제 강조

마이크로소프트(MS)가 기업 내부에 배포한 인공지능(AI) 에이전트도 잠재적인 보안 위협이 될 수 있다며 지속적인 감독과 통제가 필요하다고 강조했다. 외부 공격을 받지 않은 AI라도 목표를 달성하는 과정에서 의도와 다르게 행동할 수 있다는 이유에서다. 마이크로소프트는 기업 데이터와 시스템에 접근해 업무를 수행하는 AI 에이전트를 '에이전틱 내부자'로 규정하고 새로운 보안 접근법을 제시했다고 20일 밝혔다. 기존 AI 보안은 공격자가 AI 모델을 악용하는 외부 위협에 주로 초점을 맞췄다. 반면 기업 내부에서 운영하는 AI 에이전트는 조직이 직접 배포했다는 이유로 충분한 검증 없이 신뢰하는 경우가 많았다. 마이크로소프트는 AI 모델이 악의적이지 않더라도 목표 달성을 위해 의도하지 않은 수단을 선택하는 '보상 해킹'이 발생할 수 있다고 지적했다. 다른 에이전트와 협업하는 과정에서 예상치 못한 위험이 발생할 가능성도 제기했다. 이에 따라 에이전트의 행동과 위험 수준을 실시간으로 파악하고 상황에 따라 접근 권한을 조정하는 지속적인 보안 체계가 필요하다고 강조했다. 구체적인 대응 방안으로는 지난 7월 발표한 에이전틱 보안 시스템 '프로젝트 퍼셉션'을 제시했다. AI의 예측하기 어려운 행동에 사전에 정의한 보안 정책과 통제 원칙을 적용하는 방식이다. 프로젝트 퍼셉션은 기업 내부 에이전트를 탐지하고 위험을 분석해 대응하는 세 단계로 구성된다. 먼저 ID와 데이터, 클라우드, 네트워크 등에서 수집한 정보를 결합해 에이전트를 식별하고 권한을 부여한다. 이후 에이전트가 시도하는 행동의 위험도를 동적으로 산정한다. '가디언 에이전트'는 이를 토대로 다른 에이전트의 행동을 지속적으로 감독하고 위험 수준이 높아지면 실시간으로 대응한다. 마이크로소프트는 에이전트의 행동뿐 아니라 행동이 발생한 원인까지 추적할 수 있어야 한다고 강조했다. 향후에는 모델의 입력·출력과 추론 과정에 대한 투명성을 높여 에이전트의 행동이 본래 업무 목적에 부합하는지도 확인해야 한다는 설명이다. 하예테 갈로트 마이크로소프트 시큐리티 총괄 수석부사장은 "AI 에이전트가 기업 전반에 빠르게 확산되면서 데이터와 도구, 시스템에 접근해 중요한 업무를 수행하고 의사결정에도 관여하고 있다"며 "기업은 에이전트의 활동과 위험을 실시간으로 파악하고 위험 변화에 따라 행동 권한을 지속적으로 조정해야 한다"고 말했다.

2026.10.20 17:45이나연 기자

"사람이 AI 공격 못 따라가"…시스코, AI로 AI 막는다

"인공지능(AI)이 만드는 공격과 위험을 사람이 일일이 따라가며 막기는 어렵습니다. 머신 스피드로 움직이는 AI를 통제하려면 방어 역시 AI 속도로 이뤄져야 합니다." 시스코가 AI를 활용해 기존 보안을 강화하는 'AI 포 시큐리티(AI for Security)'와 AI 모델·에이전트 자체를 보호하는 '시큐리티 포 AI(Security for AI)'를 동시에 강화하고 있다. AI가 보안 이벤트 분석과 취약점 탐지를 빠르게 하는 도구로 자리 잡은 동시에 기업 시스템에 접근해 직접 행동하는 AI 에이전트가 새로운 보안 대상으로 떠오르고 있어서다. 20일 서울 삼성동에서 열린 시스코코리아 미디어 테크 세션에서 이승노 시스코코리아 테크놀로지 스트래티지&어드바이저리 그룹(TSAG) 상무는 오픈소스·오픈웨이트 기반 AI 보안 기술을, 김일근 시스코코리아 TSAG 상무는 기업 내부 AI 시스템을 보호하는 전략을 각각 소개했다. 이 상무는 먼저 AI를 활용해 보안 운영과 소프트웨어 개발 과정의 취약점 탐지를 자동화하는 기술을 소개했다. 시스코는 최근 사이버보안에 특화한 80억(8B) 파라미터 오픈웨이트 모델 '파운데이션-섹-8B(Foundation-Sec-8B)'를 공개하고 보안관제센터(SOC) 등 보안 운영 환경에서 활용할 수 있도록 했다. 파운데이션-섹-8B는 메타 '라마 3.1 8B'를 기반으로 위협 인텔리전스와 취약점 데이터베이스, 사고 대응 문서 등 보안 특화 데이터를 추가 학습한 모델이다. 위협 탐지와 취약점 평가, 보안 자동화를 목적으로 설계됐으며 요약과 분류, 개체명 인식, 질의응답, 추론·생성 등을 지원한다. 외부 클라우드로 데이터를 보내기 어려운 기업을 위해 로컬 환경에도 배포할 수 있다. 시스코는 기본 모델 외에 명령어 처리에 최적화한 '파운데이션-섹-8B-인스트럭트(Instruct)'와 다단계 추론을 지원하는 '파운데이션-섹-8B-리즈닝(Reasoning)'도 제공하고 있다. 이 중 리즈닝 모델은 로그와 네트워크 패킷, 엔드포인트탐지대응(EDR) 이벤트 등 대규모 보안 데이터를 함께 분석해 서로 연관된 위협을 찾는 데 초점을 맞췄다. 이 상무는 "금융이나 공공기관처럼 보안 데이터를 외부 클라우드로 보내기 어려운 곳에서는 클라우드 기반 AI 모델을 활용하는 데 제약이 있다"며 "오픈웨이트 모델을 내부에 배포하면 기존 보안 시스템과 연동해 이벤트 요약과 분류, 질의응답, 추론 등에 활용할 수 있다"고 말했다. 실제 소프트뱅크는 SOC에서 의심스러운 소프트웨어를 분류하는 작업에 파운데이션-섹-8B를 적용했다. 기존에는 사람이 직접 분류 작업을 수행했지만 데이터 프라이버시 문제로 외부 클라우드 거대언어모델(LLM) 도입에 제약이 있었다. 시스코에 따르면 소프트뱅크는 파운데이션-섹-8B로 17개 유형을 분류하고 자체 규칙과 가드레일, 전후처리를 결합한 결과 90% 이상의 성능을 확보했다. 시스코는 소프트웨어 개발 과정에서 AI가 만들어낸 코드의 취약점을 찾는 기술도 확대하고 있다. 생성형 AI가 코드 작성에 폭넓게 활용되면서 개발 속도는 빨라졌지만 사람이 모든 코드를 직접 검증하기 어려워졌고, 범용 LLM은 오탐이나 환각 문제가 발생할 수 있다는 이유에서다. 기업의 소스코드를 외부 AI 서비스에 전달하기 어렵다는 점도 별도 보안 모델 수요를 키우고 있다. 이를 위해 시스코는 올해 소형 오픈웨이트 보안 모델 '안타레스(Antares)'를 개발해 공개했다. 현재 3억5000만·10억 파라미터 모델을 활용할 수 있으며 30억 파라미터 모델도 준비하고 있다. 파일이나 코드 저장소를 지정하면 전체 소스코드를 검사해 취약점이 발생한 위치를 찾아내고 수정이 필요한 부분을 제시하는 방식이다. 개발 단계에서 취약한 코드를 걸러내도록 규칙을 적용하는 '코드가드(CodeGuard)'와 여러 보안 에이전트의 역할과 행동 규칙을 정의한 오픈소스 프로젝트도 함께 공개했다. 특정 AI 모델에 종속되지 않아 개발자가 사용하는 AI 코딩 도구에 적용할 수 있도록 설계한 것이 특징이다. 시스코 내부에서도 이 같은 기술을 실제 코드 검증에 활용했다. 이 상무에 따르면 약 18억줄에 달하는 시스코 전체 코드베이스를 AI와 자체 보안 프레임워크로 점검하면서 기존 방식으로 약 8년이 걸릴 것으로 예상했던 작업을 8주로 줄였다. 오탐률도 3% 미만으로 낮췄다. 이 상무는 "아직 실제 도입 사례를 공개할 단계는 아니지만 국내에서도 안타레스에 대한 요청이 많이 들어오고 있어 고객들과 관련 미팅을 진행하고 있다"며 "이런 기술들을 포함한 서비스 오퍼링도 준비하고 있다"고 말했다. AI로 기존 보안을 강화하는 것과 동시에 AI 자체를 어떻게 보호할지도 새로운 과제로 떠올랐다. 김일근 상무는 AI가 단순히 답변을 생성하는 수준을 넘어 기업 시스템과 도구에 접근해 직접 행동하는 에이전트로 발전하면서 기존 보안 체계만으로는 대응하기 어려운 영역이 생기고 있다고 짚었다. 김 상무는 AI가 사용자의 말을 정확하게 이해하는 것과 사용자의 의도와 가치에 맞게 행동하는 것은 다른 문제라고 봤다. 에이전트에 높은 자율성과 광범위한 접근 권한을 부여하면서 안전장치가 충분하지 않으면 사용자가 예상하지 못한 행동으로 이어질 수 있다는 것이다. 김 상무는 "AI가 머신 스피드로 움직이기 시작하면 사람이 하나하나 따라가며 통제하는 방식으로는 한계가 있다"며 "AI가 하는 행동을 AI를 이용해 감시하고 통제하는 구조가 필요하다"고 말했다. 특히 AI 에이전트는 모델뿐 아니라 외부 도구와 메모리, 기업 데이터까지 연결해 작동하기 때문에 보호 대상도 넓어진다. 에이전트가 호출하는 도구 자체에 악성 명령이 숨어 있는 '툴 포이즈닝'이나 에이전트가 저장한 메모리와 맥락을 변조하는 공격까지 고려해야 한다. 이에 시스코는 에이전트의 행동 범위를 통제하는 '하네스'와 맥락 정보를 함께 관리하는 방식으로 대응하고 있다. 이 전략의 중심에는 'AI 디펜스(AI Defense)'가 있다. 시스코는 AI 보안 기업 로버스트 인텔리전스 인수 이후 관련 기술을 토대로 AI 디펜스를 개발했다. AI 모델과 애플리케이션을 도입하기 전 위험을 점검하고, 운영 과정에서 발생하는 이상 행동을 실시간으로 탐지·차단하며 사후 분석까지 지원하는 플랫폼이다. 기존에는 모델 검증이나 레드팀 테스트를 프로젝트 단위로 수행했다면 AI 디펜스는 이를 상시적으로 자동화하는 데 초점을 맞췄다. AI 모델과 에이전트가 빠르게 바뀌는 만큼 특정 시점에 한 차례 점검하는 방식만으로는 위험을 따라가기 어렵기 때문이다. 또 AI 디펜스를 퍼블릭 클라우드뿐 아니라 기업 내부 온프레미스 환경에서도 활용할 수 있도록 했다. 김 상무는 "AI 디펜스는 국내에서도 이미 출시해 제공하고 있다"며 "앞으로 한국 시장에 어떻게 적용할지, 한국어와 국내 문화적 맥락을 어떻게 반영할지에 대한 작업도 현재 진행하고 있다"고 밝혔다. 기업이 승인하지 않은 AI를 직원이 사용하는 '섀도우 AI'도 관리 대상이다. 생성형 AI와 바이브 코딩 도구가 확산되면서 직원이 개인 PC에 오픈소스 모델이나 AI 프레임워크를 설치해 사용하는 사례가 늘고 있어서다. 시스코는 올라마와 랭체인 등 널리 쓰이는 AI 실행·개발 환경을 탐지해 조직 내부에서 어떤 AI가 사용되고 있는지 파악하도록 지원한다. 김 상무는 "최근 고객들은 AI를 아예 못 쓰게 해달라고 하지 않는다"며 "업무에 AI를 적극적으로 활용하되 회사 데이터 유출이나 승인되지 않은 AI 사용 같은 위험은 통제하고 싶어 한다"고 설명했다. 이어 "이제 기업의 질문은 'AI를 막을 것인가'가 아니라 '잘 쓰게 하면서 어떻게 통제할 것인가'로 바뀌고 있다"고 부연했다.

2026.10.20 16:57장유미 기자

美 패트릭 J. 맥거번 재단 "AI 안전, 기업 약속만으론 부족…정부가 검증해야"

"기업이 인공지능(AI)를 활용하거나 외부 업체에 업무를 맡기더라도 고객정보를 보호할 책임을 져야 합니다. 정부도 기업이 AI를 안전하게 사용하는지 평가하고, 필요하다면 사용을 중단시킬 수 있어야 합니다." 최근 서울 삼성동 코엑스에서 열린 'AI페스타' 행사 때 만난 빌라스 다르 패트릭 J. 맥거번 재단 대표는 AI 시대 정보 보호에 대한 기업 책임을 이같이 강조했다. 기업은 기술 도입에 따른 위험을 점검하고, 정부는 이를 검증할 역량과 대응 체계를 갖춰야 한다는 주장이다. 다르 대표는 AI의 공익적 활용과 국제 거버넌스를 연구·지원해 온 기술·정책 전문가다. 2020년 재단 초대 대표로 취임했으며 유엔(UN) 사무총장 산하 AI 고위급 자문기구 위원으로 활동했다. 이번에는 AI 페스타와 함께 열린 서울시의 '스마트라이프위크' 시장 포럼 기조연설을 위해 방한했다. 패트릭 J. 맥거번 재단은 글로벌 IT 미디어 기업 IDG 창립자 패트릭 J. 맥거번의 뜻을 이어 AI와 데이터 기술로 사회문제를 해결하는 미국의 비영리 재단이다. 기후변화와 공중보건, 교육 등 공익 분야의 기술 활용을 지원하고 정부·기업·시민사회와 협력하고 있다. 이 재단은 약 15억 달러(한화 약 2조원) 규모의 기금을 운용하고 있으며, 본부는 미국 보스턴에 있다. 이번 인터뷰는 지디넷코리아가 지난 1일 보도한 배달의민족 고객정보 오용 관련 취재 기사로 성사됐다. 그는 해당 기사가 다룬 개인정보 보호와 책임 문제에 주목했다며, 기업이 AI를 도입할 때도 소비자에 대한 책임을 분명히 해야 한다고 밝혔다. "AI·외주 활용해도 소비자 책임은 그대로" 다르 대표는 기업이 AI를 도입할 때 우선 살펴야 할 과제로 개인정보 보호를 꼽았다. 고객상담이나 주문 처리에 AI를 활용하면 고객정보를 다루는 방식도 달라질 수 있는 만큼, 도입에 앞서 위험을 점검해야 한다는 설명이다. 그는 "기업은 개인정보 보호에 어떤 변화가 생기는지 고려하지 않고 AI 도입을 밀어붙여서는 안 된다"며 "AI를 어떻게 적용하는지 파악하는 것이 필수"라고 주장했다. 그러면서 "정부는 도입 전 검증 기준을 마련하며, 소비자도 정보 활용 범위에 의견을 낼 수 있어야 한다"고 덧붙였다. 다르 대표는 개인정보 보호 출발점으로 소비자 기본 권리를 제시했다. 그는 "AI가 등장했다고 해서 사람의 기본적인 권리가 달라지는 것은 아니다"며 "거래할 때 다른 사람과 동등하게 대우받고, 기업이 자신에 대해 알고 있는 정보를 이유로 가격을 바꾸지 않는다는 확신이 있어야 한다"고 강조했다. 그는 AI가 건강정보를 분석해 개인별로 가격이나 서비스 이용 조건을 달리하는 상황을 예로 들었다. 데이터가 유출되지 않도록 관리하는 것뿐 아니라 이를 활용한 AI 판단이 소비자에게 불리하게 작용하는지도 살펴야 한다는 설명이다. 다르 대표는 외부 업체에 업무를 맡겨도 소비자에 대한 기업 책임은 유지돼야 한다고 봤다. 그는 "소비자가 거래하는 상대가 기업이라면 그 기업이 AI 시스템을 사용하는지는 중요하지 않다"며 "기업은 소비자에게 책임을 져야 한다"고 강조했다. 다만 AI로 발생한 피해의 책임을 개발사와 도입 기업, 제3자 사이에서 어떻게 나눌지는 과제로 꼽았다. 그는 "기업 AI 시스템이 소비자에게 피해를 줬다면 AI를 만든 사람과 이를 사용한 기업, 제3자 중 누구에게 책임을 물어야 하는 것이 관건"이라며 "우리가 답해야 할 매우 큰 질문"이라고 말했다. 다르 대표는 기업이 책임을 판단하는 기준도 법적 의무에 머물러서는 안 된다고 강조했다. 그는 "법에 따른 책임도 있지만 기업과 소비자 사이의 신뢰에 관한 책임도 있다"며 "기업은 AI 시스템이 누군가에게 피해를 줄 위험을 어떻게 감시하고, 피해가 발생하기 전에 대응할지도 생각해야 한다"고 당부했다. "AI 안전, 기업 자율에만 맡겨선 안 돼…정부 대응 빨라져야" 다르 대표는 기업 책임을 실효성 있게 확보하려면 정부의 AI 평가·감독 역량도 뒷받침돼야 한다고 강조했다. AI가 사회 전반에 영향을 미치는 기술인 만큼 공적 통제 장치도 필요하다는 설명이다. 다르 대표는 한국 정부와 기업이 보완할 과제로 AI 공적 감독을 꼽았다. 기업이 AI 개발을 주도하며 혁신을 이끌고 있지만, 안전성까지 기업 판단에만 맡겨서는 안 된다는 설명이다. 그는 "한국에서도 기업이 하는 일을 공적 기관이 평가하고, 필요하다면 정부가 중단시킬 수 있어야 한다"고 말했다. 다르 대표는 이같은 정부 역할은 피지컬 AI 확산에 따라 더욱 중요해질 것으로 봤다. 그는 "미국에서도 많은 사람이 아직 AI를 휴대전화 안에서만 접한다"면서도 "앞으로 5~10년 안에는 피지컬 AI 영향이 매우 커질 것"이라고 내다봤다. 그는 대응 범위 역시 일자리 변화에 그쳐서는 안 된다고 지적했다. 피지컬 AI가 물건을 사고 거래하는 방식부터 경제 구조까지 바꿀 수 있는 만큼, 정부도 일상과 산업 전반에 미칠 영향을 살펴야 한다는 것이다. 이를 위해 우선 해결해야 할 과제로 기술과 제도 사이 속도 차이를 꼽았다. 다르 대표는 "기술 발전하는 속도가 제도가 대응하는 속도보다 훨씬 빠르다"며 "정부는 대응 속도를 높여야 한다"고 강조했다. 그는 정부가 빠르게 대응하면서도 일관된 기준을 유지하려면 AI로 어떤 사회를 만들 것인지에 대한 방향이 필요하다고 제언했다. 그는 "각국 정부는 기술적인 비전을 매우 강하게 제시한 상태"며 "앞으로 이를 사회적 비전으로 발전시켜야 한다"고 말했다. 다르 대표는 이 과정에 기술기업뿐 아니라 청년 등 다양한 사회 구성원이 참여해야 한다고 강조했다. 그는 "모두가 함께 비전을 만들어 가도록 어떻게 할 것인가가 전 세계 정부가 마주한 큰 과제"라고 덧붙였다.

2026.10.20 09:47류승현 기자

솔트웨어, 위즈 손잡고 클라우드·AI 보안 사업 확대

솔트웨어가 글로벌 클라우드 보안 기업 위즈(Wiz)와 손잡고 클라우드·인공지능(AI) 보안 사업을 확대한다. 솔트웨어는 위즈와 파트너십을 체결하고 기업 고객의 클라우드 및 AI 환경을 위한 통합 보안 서비스 제공에 나선다고 19일 밝혔다. 위즈는 구글 클라우드의 클라우드·AI 보안 플랫폼 기업이다. 클라우드와 AI, 데이터, 사용자 계정 및 접근 권한, 워크로드 전반의 위험 요소를 통합적으로 파악할 수 있는 기술을 제공한다. 소스코드부터 클라우드 인프라, 실제 서비스가 실행되는 런타임 환경까지 보안 정보를 연결해 취약점을 분석하고 위험 완화와 위협 대응을 자동화할 수 있도록 지원한다. 솔트웨어는 퍼블릭·프라이빗·하이브리드 클라우드 환경의 컨설팅과 구축, 운영을 수행해 왔다. 국내 대기업을 대상으로 아이덴티티 권한 관리(IGA)도 진행하고 있다. 이번 협력을 계기로 보안 사업 영역을 기존 접근 권한 관리에서 소스코드와 클라우드 인프라, AI, 데이터, 워크로드, 런타임까지 확대한다. 위즈 플랫폼을 활용해 클라우드 환경의 취약점과 설정 오류, 과도한 접근 권한, 민감 데이터 노출 등을 통합적으로 파악할 계획이다. 개별 위험 요소가 연결되면서 발생할 수 있는 공격 경로를 분석하고 우선 대응이 필요한 보안 위협도 식별한다. 이정근 솔트웨어 대표는 "생성형 AI와 AI 에이전트의 활용이 확대될수록 사용자와 접근 권한뿐 아니라 데이터, 클라우드 자산, 워크로드의 위험을 지속적으로 확인하고 관리해야 한다"며 "클라우드 구축·운영 및 아이덴티티 보안 역량에 위즈의 클라우드·AI 보안 기술을 결합해 고객이 시스템 설계부터 구축과 운영까지 일관된 보안 체계를 갖출 수 있도록 지원하겠다"고 말했다.

2026.10.19 16:08이나연 기자

네이버클라우드, 기업 보안 무료 진단 서비스 출시…AI 위협까지 점검

네이버클라우드가 기업의 보안 현황을 무료로 점검하고 개선 방향까지 확인할 수 있는 서비스를 선보인다. 기존 네트워크와 데이터 보호뿐 아니라 인공지능(AI) 서비스 이용 과정에서 발생할 수 있는 정보 유출과 사이버 공격 대응 체계까지 진단해 기업의 보안 역량 강화를 지원한다는 전략이다. 네이버클라우드는 기업이 온라인 설문을 통해 보안 현황을 점검할 수 있는 '네이버클라우드 보안 자가진단' 사이트를 오픈했다고 19일 밝혔다. 이번 서비스는 기업이 별도 전문 인력이나 복잡한 진단 절차 없이 현재 보안 관리 상태를 확인하고 개선이 필요한 영역을 파악할 수 있도록 지원하는 것이 목적이다. 보안 자가진단은 네트워크 보안과 접근제어, 데이터 보호·암호화 등 총 7개 영역, 21개 문항으로 구성됐다. 이용자가 각 문항에 응답하면 기업의 보안 현황을 확인하고 추가적인 점검이나 개선이 필요한 부분을 살펴볼 수 있다. 특히 기존 인프라와 데이터 중심의 보안 점검에서 나아가 AI 활용 환경 보안 영역을 별도로 마련한 것이 특징이다. 생성형 AI와 AI 에이전트 도입이 확대되면서 새롭게 발생하는 보안 위험에 기업이 얼마나 대비하고 있는지 확인할 수 있도록 했다. AI 보안 영역에선 AI를 활용한 자동화 공격에 대한 대응 체계와 임직원의 AI 서비스 이용 과정에서 발생할 수 있는 민감정보 유출 방지 정책 등을 점검한다. 사내 AI 시스템에 대한 접근 권한 관리 여부도 주요 진단 항목에 포함됐다. 최근 기업들이 AI를 업무에 도입하면서 기존 IT 인프라뿐 아니라 AI 서비스 이용과 운영 과정에서도 보안 관리 필요성이 커지고 있다. 반면 별도의 보안 조직이나 전문 인력을 확보하기 어려운 기업은 새로운 위협에 대한 대응 수준을 자체적으로 파악하는 데 한계가 있다는 설명이다. 네이버클라우드는 진단 결과에 따라 개선 방향도 제공한다. 기업이 속한 산업 분야에 적용되는 주요 보안 규제 사항을 안내하고 보완이 필요한 영역에 대해선 참고 정보와 연계 서비스를 소개한다. 추가적인 점검이나 조치가 필요한 경우 보안 전문가 상담으로 연결하는 기능도 제공한다. 단순히 보안 현황을 확인하는 데 그치지 않고 기업이 후속 개선 작업을 검토할 수 있도록 지원한다는 취지다. 서비스는 네이버 클라우드 플랫폼 홈페이지에서 이용할 수 있다. 회사명이나 담당자 정보 등 별도의 개인정보를 입력하지 않아도 누구나 무료로 자가진단에 참여할 수 있다. 네이버클라우드는 지난 7월 정부의 '주요정보통신기반시설 정보보호 종합수준 평가'에서 최우수 등급을 획득했다. 최근에는 네이버클라우드 컨소시엄이 정부의 사이버 보안 분야 특화 AI 파운데이션 모델 개발 사업자로 선정되는 등 관련 사업도 확대 중이다. 김재동 네이버클라우드 정보보호최고책임자(CISO)는 "나날이 보안의 중요성은 커지고 있지만 어디서부터 점검을 시작해야 할지 막막해하는 기업이 많다"며 "누구나 쉽게 보안 점검을 시작할 수 있도록 보안 자가진단 서비스를 마련한 만큼, 앞으로도 기업들이 AI 시대의 새로운 보안 위협에 대비할 수 있도록 실질적인 보안 서비스를 지속 선보이겠다"고 말했다.

2026.10.19 13:49한정호 기자

AI로 빨라지는 사이버 공격…오픈AI, 국내 기업에 대응 전략 제시

오픈AI가 인공지능(AI)을 활용해 기업 시스템의 보안 취약점을 먼저 찾아내고 수정까지 지원하는 사이버 방어 전략을 국내 기업에 제시했다. 오픈AI는 16일 웨스틴 서울 파르나스에서 국내 기업 최고정보보호책임자(CISO) 등 임원급 60여 명을 초청해 '오픈AI 사이버 CXO 라운드테이블'을 개최했다고 밝혔다. 행사에서는 AI로 달라지는 사이버 위협과 기업의 보안 대응 방안을 논의했다. AI 기술이 발전하면서 사이버 공격 방식도 달라지고 있다. 공격자가 AI를 이용해 소프트웨어의 취약점을 찾아내고 공격 경로를 분석하는 능력이 높아지면서 기업이 대응할 시간은 줄어들고 있다는 게 오픈AI의 설명이다. 오픈AI는 이러한 위협에 대응하려면 기업도 AI를 활용해 보안 취약점을 먼저 발견하고 해결해야 한다고 강조했다. 기업은 자신이 관리하는 시스템의 코드와 운영 정보를 AI에 제공해 보안 문제를 구체적으로 분석할 수 있다는 점에서 공격자보다 유리한 조건을 갖고 있다고 설명했다. 이날 오픈AI는 기업용 통합 사이버 방어 솔루션 '데이브레이크'도 소개했다. 데이브레이크는 오픈AI의 AI 모델과 개발 도구 코덱스, 보안 도구 코덱스 시큐리티를 기존 보안 업무에 연결한 솔루션이다. 데이브레이크는 기업의 소프트웨어 코드를 분석해 취약점을 찾아낸다. 발견한 문제가 실제 공격에 악용될 가능성이 있는지 통제된 환경에서 시험하고 수정안을 제시한다. 이후 수정한 부분을 다시 점검해 보안 문제가 해결됐는지도 확인한다. 기존에도 보안 담당자들은 취약점을 발견하면 개발팀에 수정을 요청하고 결과를 검증해왔다. 데이브레이크는 이러한 과정에 AI를 활용해 반복적인 분석 작업을 줄이고 취약점 발견부터 수정 결과 확인까지 지원한다. 최종 수정 여부는 보안 담당자와 개발자가 AI의 분석 근거와 테스트 결과를 검토해 결정한다. 오픈AI에 따르면 국내 주요 기업 상당수가 데이브레이크를 도입했거나 도입을 검토하고 있다. 기존에 사용하던 보안 도구와 연결해 코드 점검과 위협 조사, 승인된 보안 테스트 등에 활용하는 형태다. 오픈AI는 자체 보안 운영 경험을 바탕으로 구축한 '디펜스 팩토리'도 소개했다. AI 에이전트와 기존 보안·개발 도구를 연결해 취약점을 지속적으로 점검하고 해결하는 운영 체계다. 보안팀이 발견한 문제를 개발팀에 전달하면 수정과 검증까지 이어지도록 업무 절차를 연결했다. AI에 부여하는 권한도 주요 논의 대상이었다. 기업은 AI가 접근할 데이터와 시스템, 수행할 작업의 범위를 미리 정하고 중요한 변경 사항은 사람이 검토하도록 해야 한다. 오픈AI는 보안 성과 역시 발견한 취약점의 개수보다 위험을 해결하는 데 걸린 시간과 수정 결과의 검증 여부 등을 기준으로 평가해야 한다고 설명했다. 이날 김경훈 오픈AI코리아 총괄 대표가 개회사를 맡았으며 도미닉 그릴로 오픈AI 테크니컬 석세스 총괄과 와나 툰 보안 전문 엔지니어가 발표를 진행했다. 김경훈 대표는 "AI 시대에 기업이 주요 보안 위험을 빠르게 파악하고 대응하려면 사이버보안을 핵심 경영 과제로 다뤄야 한다"며 "국내 기업들이 기존 보안 체계에 AI를 접목해 현장에서 효과를 확인하고 이를 지속적인 방어 역량으로 발전시킬 수 있도록 돕겠다"고 말했다.

2026.10.16 15:03김동원 기자

[기고] 재무팀 노리는 딥페이크 사기, 탐지만으로 막을 수 없다

인공지능(AI)을 악용한 딥페이크 사기가 기업 재무 시스템을 위협하고 있다. 기업 자금 관리를 책임지는 최고재무책임자(CFO)와 재무팀에 새로운 보안 대응 전략이 필요한 이유다. 실제 홍콩에서는 한 기업 재무 담당자가 딥페이크 화상회의에 속아 2500만 달러를 송금하는 사건이 발생했다. 사기범들은 CFO와 동료 얼굴과 목소리를 조작해 화상회의에 등장했다. 담당자는 5개 은행 계좌로 15차례에 걸쳐 돈을 송금한 뒤에야 회의 참석자 중 자신만 실제 사람이었다는 사실을 알게 됐다. 이 사건을 단순히 직원 개인의 실수로 볼 수는 없다. 사기범들이 기업 업무 절차와 보안 체계에 존재하는 허점을 악용했기 때문이다. 특히 재무팀은 사기범들의 주요 표적이다. 자금 이체와 지급 승인, 공급업체 계좌 정보 변경 등 기업의 핵심 금융 업무를 담당하기 때문이다. 사기범들은 이러한 권한을 악용해 금전적 피해를 일으키려 한다. 딥페이크 기술이 정교해지는 만큼 기업 대응 방식도 달라져야 한다. 조작된 영상과 음성을 찾아내는 데 그치지 않고, 업무 상대방이 실제 사람인지 확인할 수 있는 검증 체계를 마련해야 한다. 딥페이크 사기를 예방하는 첫 단계는 조작된 영상과 음성의 특징을 파악하는 것이다. 재무 책임자는 직원들이 의심스러운 징후를 식별할 수 있도록 교육해야 한다. 영상에서는 눈 깜박임이 어색하거나 피부 질감이 지나치게 매끄러운 현상이 나타날 수 있다. 얼굴이 흐릿하게 보이거나 조명과 그림자가 맞지 않는 경우도 있다. 입 모양과 음성이 일치하지 않는 현상 역시 딥페이크를 의심할 만한 단서다. 음성에서도 이상 징후를 찾을 수 있다. 목소리가 기계적으로 들리거나 말투가 부자연스럽고, 대화 중 숨소리나 쉼이 부족한 경우다. 주변 환경과 어울리지 않는 배경음도 주의해야 한다. 직원들은 이런 징후를 발견하거나 상대 신원이 의심될 경우 즉시 보고해야 한다. 그러나 딥페이크를 식별하는 것만으로는 사기를 완전히 막기 어렵다. 현재 알려진 이상 징후는 기술적 한계에서 나타나는 현상일 뿐, 모든 딥페이크에 적용할 수 있는 판단 기준은 아니다. 사기범들은 기존 기술 결함이 알려지면 이를 보완하는 새로운 기술을 활용한다. 탐지 기술이 발전하는 동시에 딥페이크 생성 기술도 정교해지고 있다는 의미다. 따라서 기업은 딥페이크를 발견하는 사후 대응에서 벗어나야 한다. 특히 자금 이체와 같은 중요한 업무에서는 상대방 신원을 사전에 확인하는 절차가 필요하다. 딥페이크에 효과적으로 대응하려면 검증 기준부터 바꿔야 한다. 기존에는 영상이나 음성이 조작됐는지를 확인하는 데 집중했다. 앞으로는 화면 너머 상대방이 실제 존재하는 사람인지 확인하는 것이 중요하다. 이러한 접근을 가능하게 하는 기술이 '인간 증명(Proof of Human)'이다. 인간 증명은 특정 영상의 조작 여부를 분석하는 대신 온라인에서 소통하는 상대방이 실제 존재하는 고유한 사람이라는 사실을 암호 기술로 증명하는 방식이다. 이 과정에서는 영지식증명(Zero-Knowledge Proof)과 같은 개인정보 보호 기술을 활용할 수 있다. 영지식증명은 개인정보 자체를 공개하지 않고도 특정 사실이 참이라는 점을 증명하는 암호 기술이다. 이를 통해 기업은 개인정보 노출 위험을 줄이면서 상대방이 실제 사람인지 확인할 수 있다. 특히 신원 사칭으로 대규모 금전적 피해가 발생할 수 있는 금융 분야에서 활용 가능성이 크다. 인간 증명 기술은 기업의 중요한 의사결정 과정에서도 신뢰를 높이는 수단이 될 수 있다. 재무 담당자가 온라인에서 상대방의 실제 존재 여부를 확인할 수 있다면 딥페이크 사칭에 따른 위험을 줄이는 데 도움이 된다. 실제 사람이라는 사실을 확인하는 것과 그 사람이 정당한 업무 권한을 갖고 있는지 확인하는 것은 별개의 문제다. 따라서 기업은 인간 증명 기술을 기존 보안 절차와 함께 활용하는 종합적인 대응 체계를 갖춰야 한다. 딥페이크 사기를 예방하려면 기술뿐 아니라 직원들의 보안 인식과 업무 절차도 개선해야 한다. 개인 차원에서는 의심스러운 이미지나 영상을 역검색해 출처를 확인할 수 있다. 계정에는 다중요소 인증(MFA)을 적용하고, 사칭에 악용될 수 있는 개인 사진과 영상의 공개 범위도 제한하는 것이 바람직하다. 기업은 재무팀 직원들이 의심스러운 상황을 즉시 보고할 수 있는 환경도 마련해야 한다. 사기 피해가 발생했을 때 책임을 직원 개인에게만 돌리는 방식으로는 근본적인 문제를 해결하기 어렵다. CFO와 회계책임자, 재무 담당자들은 이미 복잡한 업무와 무거운 책임을 맡고 있다. 여기에 온라인 회의 상대방의 진위까지 개인의 판단에만 의존하도록 해서는 안 된다. 명확한 검증 절차와 적절한 보안 기술은 이러한 부담을 줄이는 데 도움이 된다. 직원들이 사기 피해에 대한 과도한 책임감이나 죄책감을 떠안지 않도록 보호하는 역할도 할 수 있다. 정기적인 보안 교육 역시 중요하다. 다만 규정 준수를 위한 일회성 교육에 그쳐서는 안 된다. 재무팀이 새로운 사기 수법을 이해하고 최신 보안 기술을 활용할 수 있도록 지속적인 교육이 이뤄져야 한다. 딥페이크 기술이 발전할수록 기업이 모든 조작 콘텐츠를 완벽하게 찾아내기는 더욱 어려워질 것이다. 따라서 중요한 것은 딥페이크를 얼마나 잘 탐지하느냐를 넘어, 사기범이 업무 절차를 악용하지 못하도록 신뢰할 수 있는 검증 체계를 구축하는 일이다. 업무 방식과 보안 절차를 바꾸는 과정이 쉽지만은 않을 것이다. 그러나 인간 증명 기술을 비롯한 새로운 인증 수단은 기업이 온라인 업무의 신뢰를 회복하고 딥페이크 사기에 대응하는 데 중요한 기반이 될 수 있다.

2026.10.16 11:01아제이 파텔 컬럼니스트

[AI는 지금] 해킹에 쓰인 AI, 스스로 복제까지…앤트로픽, 연내 가능성 경고

국내 금융권에서 인공지능(AI)을 활용한 해킹 공격이 잇따르는 가운데 AI가 사람의 추가 지시 없이 다른 기기로 옮겨 다니며 스스로 복제할 수 있다는 경고가 나왔다. 13일(현지시간) 로이터통신에 따르면 앤트로픽은 AI 기술 발전 속도가 이어질 경우 올해 말까지 소형 AI 모델도 스스로 다른 기기로 확산하는 데 필요한 능력을 갖출 수 있다고 분석했다. 제한된 시험망에서는 AI가 복제 작업을 수행하는 데 성공했으며 저렴한 스마트TV용 기기 15대를 연결해 AI 모델을 구동했다. AI 자기 복제는 AI가 새로운 컴퓨터나 스마트 기기를 찾아 자신의 모델과 실행 프로그램을 옮기고 그곳에서도 작동하도록 만드는 것을 뜻한다. 복제된 AI가 다시 다른 기기를 찾아 같은 작업을 반복하면 사람의 추가 명령 없이도 감염된 기기가 늘어날 수 있다. 앤트로픽은 AI가 처음 접하는 기기에서도 스스로 작동 방법을 찾아낼 수 있다고 설명했다. 기존 악성코드는 주로 미리 설계된 공격 방법을 사용하지만 AI는 기기의 환경에 맞춰 새로운 방법을 시도할 수 있다. 스마트TV뿐 아니라 냉장고와 로봇청소기, 보안카메라 등 다양한 기기로 확산할 가능성도 제기했다. 국내에서는 AI를 이용한 해킹 공격이 이미 확인됐다. 지난 9월 해커는 중국 AI 모델 딥시크 기반 AI 에이전트를 이용해 금융회사 서버의 보안 취약점을 탐색했다. 이후 취약점을 악용해 악성 프로그램을 설치하고 내부의 다른 서버까지 살펴봤지만 금융회사가 추가 공격을 차단했다. 금융보안원은 지난달 17일 금융회사 보안 담당자 160여명이 참석한 세미나에서 이 사례를 공개하며 AI를 활용한 사이버 공격의 위험성을 알렸다. 당시에는 해커가 AI에 명령을 내려 금융회사 서버에 침투했지만, 앤트로픽은 앞으로 AI가 사람의 추가 지시 없이 다른 기기를 찾아 스스로 확산할 가능성을 경고했다. 앤트로픽 실험에서는 이러한 복제 능력이 일부 확인됐다. 중국 AI 모델 'GLM-5.2'는 안드로이드 기기 8대를 모방한 가상 시험망에서 총 5차례 실험 중 4차례 모든 기기로 확산하는 데 성공했다. 나머지 한 차례에서도 7개 기기에 도달했다. 저렴한 가전제품을 이용한 AI 실행 실험도 진행됐다. 앤트로픽은 대당 약 55달러(약 7만원)인 저가형 안드로이드 TV 셋톱박스 15대를 연결해 260억개 매개변수를 가진 구글의 AI 모델 '젬마4-26B-A4B'를 실행했다. 작동 속도는 느렸지만 고가의 데이터센터 장비 없이도 저렴한 기기 여러 대로 AI를 구동할 수 있다는 사실을 확인했다. AI가 앞선 작업에서 얻은 경험을 다음 작업에 활용하는 능력도 확인됐다. 중국 AI 모델 '큐원3.5-9B'는 새로운 기기에 AI를 설치하는 실험에서 처음 45%의 성공률을 기록했다. 이전에 시도한 방법과 실패 원인을 다음 실행에 전달하자 성공률이 61~84%로 높아졌다. AI가 이전 기록을 참고해 같은 실수를 피하고 다른 해결 방법을 찾은 결과다. 앤트로픽은 여러 기기에 분산된 AI를 완전히 제거하기 어려울 수 있다고 경고했다. 일부 기기를 차단하더라도 다른 기기에서 계속 작동할 수 있기 때문이다. AI가 처음 접하는 기기에도 적응한다면 공격 대상이 더욱 넓어질 수 있다. 다만 실제 인터넷에서 AI가 사람의 통제 없이 스스로 복제하며 확산한 사례는 아직 확인되지 않았다. 저성능 기기에서는 AI를 설치하고 실행하는 데 하루 이상 걸리는 등 확산 속도도 느린 것으로 나타났다. 연구진은 AI가 기기 사이를 이동할 때 발생하는 대량의 데이터 전송과 비정상적인 통신을 감지하고 감염된 기기를 격리하는 방식으로 확산을 막을 수 있다고 설명했다. 기기 제조사의 보안 강화와 인터넷 서비스 제공업체의 공동 대응도 필요하다고 제시했다. 앤트로픽 연구진은 "우리는 이러한 복제 프로그램이 확산하기 어렵도록 시스템을 강화해야 한다"며 "동시에 이들이 계속 존재하는 세상에 대비해야 한다"고 밝혔다.

2026.10.14 10:21김동원 기자

에버스핀, KB국민카드·SBI그룹과 AI 에이전트 보안 협력

인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 KB국민카드·일본 SBI홀딩스·SBI에버스핀과 AI 에이전트 신원·권한 검증 및 한·일 디지털 금융·결제 협력을 위한 4자 업무협약(MOU)을 체결했다고 13일 밝혔다. 에버스핀과 KB국민카드·SBI홀딩스 등은 협약에 따라 'KYA(Know Your Agent) Trust Gateway'를 기반으로 AI 에이전트의 신원과 권한을 안전하게 검증하는 기술을 실증하고, AI 에이전트와 디지털 결제를 활용한 한·일 서비스 연계 방안을 공동 모색한다. SBI홀딩스는 증권·은행·보험 등 금융사업과 디지털자산 사업을 운영하는 일본 종합금융그룹이다. 에버스핀은 일본 금융시장에 사이버 보안 기술을 공급하기 위해 SBI홀딩스와 합작법인 SBI에버스핀을 설립해 공동 운영하고 있다. SBI에버스핀은 AI 에이전트 신원·권한 관리 플랫폼인 KYA Trust Gateway를 기획하고, 에버스핀과 공동 개발을 추진하고 있다. 두 회사는 이번 협력에서 AI 에이전트의 신원 확인과 서비스 접근 권한 검증을 위한 핵심 기술 실증을 담당한다. KYA Trust Gateway는 AI 에이전트가 누구인지 확인하는 것을 넘어, 어떤 이용자로부터 권한을 위임받았고 어떤 서비스와 거래를 수행할 수 있는지 검증하는 AI 에이전트 신뢰·보안 플랫폼이다. 최근 AI 에이전트가 이용자를 대신해 정보를 검색하고 서비스를 예약하거나 결제까지 수행하는 환경으로 발전하면서, AI 에이전트의 신원과 위임 권한을 검증하는 보안 체계의 중요성이 높아지고 있다. 참여사들은 이러한 환경에 대비해 AI 에이전트가 이용자의 허용 범위 내에서 안전하게 업무를 수행할 수 있는 신뢰 체계 마련에 협력하기로 했다. 초기 실증에서는 일본 측 AI 에이전트가 한국 측 서비스에 접근할 때 신원을 확인하는 절차를 검증한다. 이후 이용자가 위임한 업무 범위와 서비스별 접근 권한을 확인·관리하는 기능으로 실증 범위를 확대할 예정이다. 이를 기반으로 KB페이 등 결제 서비스와의 연계 가능성도 검토한다. AI 에이전트가 이용자를 대신해 결제를 수행하는 과정에서 이용자 승인 여부와 사전에 부여된 거래 권한을 검증하는 등 안전한 결제 절차를 공동 논의할 계획이다. 후속 단계에서는 일본인 관광객이 보유한 스테이블코인 등 디지털자산을 국내 결제 환경과 연결하는 방안도 검토한다. 국내 가맹점 이용을 가정해 결제·정산뿐 아니라 취소·환불, 부정거래 대응 등 실제 서비스 운영에 필요한 절차도 점검할 예정이다. 참여사들은 실증 결과를 바탕으로 관련 서비스의 상용화 가능성을 검토하고, 앞으로 다양한 금융·비금융 서비스로 협력 범위를 단계적으로 확대할 계획이다. KB국민카드 관계자는 “이번 협약을 통해 AI 에이전트가 다양한 서비스에 안전하게 이용될 수 있는 기반을 검증할 계획”이라며 “한·일 양국 고객에게 편리하고 안전한 디지털 결제 경험을 제공할 수 있도록 협력하겠다”고 말했다. SBI홀딩스 관계자는 “SBI그룹의 금융 역량과 참여사들의 AI·보안 기술을 결합해 새로운 서비스 모델을 검토하겠다”며 “실증을 바탕으로 스테이블코인 결제 등으로 이어질 수 있는 협력 사례를 만들어 나가겠다”고 밝혔다. 에버스핀 관계자는 “최근 아르텍스(ARTEX)와 같은 AI 기반 사이버 공격이 현실화하며 사회적 우려가 커지는 가운데, 에버스핀은 실제 금융서비스 환경에서 ARTEX 공격 시도를 탐지하며 기술력을 입증했다”며 “국내외 150여 개 금융기관에서 축적한 누적 약 250억 건의 사이버 위협 탐지 실적 역시 에버스핀의 보안 기술력을 보여준다”고 말했다. 이 관계자는 “이러한 기술력과 경험을 바탕으로 SBI홀딩스와 KB국민카드가 추진하는 한·일 크로스보더 디지털 금융·결제 생태계에서 AI 에이전트의 신원과 권한을 안전하게 검증하고, KYA Trust Gateway를 통한 신뢰할 수 있는 AI 금융거래 보안 체계 구축에 기여하겠다”고 밝혔다.

2026.10.13 14:43주문정 기자

AI 안전 평가 선도하는 영국…한국도 국제무대 나설 수 있을까

마이크로소프트(MS)가 국제 인공지능(AI) 안전 기준 마련을 이끌 국가로 영국을 지목하면서 한국의 AI 안전 평가 역량을 강화해야 한다는 목소리도 나오고 있다. 12일(현지시간) BBC에 따르면 브래드 스미스 MS 부회장은 '빅 보스 인터뷰' 팟캐스트에서 영국이 국제 AI 안전 기준을 주도하기에 적합한 국가라고 평가했다. 영국이 첨단 AI 모델의 위험성을 직접 시험할 전문기관을 갖춘 데다 미국 정부와의 협력 관계도 유리하게 작용할 수 있다고 봤다. 영국 AI 보안연구소는 글로벌 AI 기업으로부터 최신 모델을 출시 전에 제공받아 위험성을 검증하고 있다. 사이버 공격에 악용될 수 있는지, 생화학적 위험 정보를 제공하는지, 안전장치를 우회할 수 있는지 등을 직접 시험한다. 같은 날 로이터통신에 따르면 카니슈카 나라얀 영국 AI 담당 장관은 미국 정부와 구글 등 주요 AI 개발사와의 협력을 통해 최신 모델을 평가하고 있다고 밝혔다. 영국 연구진은 구글의 '제미나이 4 아르곤' 등을 대상으로 위험성과 안전조치를 시험하고 있다. MS도 영국 AI 보안연구소와 협력하고 있다. 지난 5월 미국 AI표준혁신센터(CAISI)와 영국 AI 보안연구소(AISI) 각각과 협약을 맺고 자사 프런티어 AI 모델의 위험한 능력과 안전장치를 평가하는 연구를 추진하기로 했다. 스미스 부회장은 영국의 기술력뿐 아니라 미국과의 관계에도 주목했다. 미국 정부가 유럽연합(EU)이 주도하는 규제보다 영국이 마련하는 안전 기준에 상대적으로 우호적일 수 있다고 예상했다. 한국도 국제 평가 참여…제3자 역할 모색 한국도 국제 AI 안전 평가 협력망에 참여하고 있다. 국내 AI안전연구소는 미국과 영국, 일본, 싱가포르 등 각국 연구기관과 첨단 AI의 위험성을 공동으로 평가하는 방법과 기준을 논의 중이다. 국제 협력 과정에서 한국이 검토하는 역할 중 하나는 제3자 평가다. 미국과 중국이 프런티어 AI 개발을 주도하는 가운데 양국이 서로의 핵심 AI 모델을 직접 검증하기 어려울 경우 제3국의 독립적인 평가가 대안이 될 수 있다는 분석이다. 김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 한국이 나서겠다는 생각을 갖고 있다"며 "지난 8월 영국 측에도 각국 AI안전연구소가 공동으로 참여하는 국제 평가 체계에 적극 협력하겠다는 뜻을 전달했다"고 말했다. 다만 제3자 평가국은 아직 구상 단계다. 실제로 역할을 맡으려면 최첨단 AI 모델의 능력과 위험성을 직접 시험할 기술력은 물론 평가 결과에 대한 국제적 신뢰도 확보해야 한다. 김 소장은 이를 위해 프런티어 AI 개발 역량과 안전 평가 기술을 함께 갖춰야 한다고 강조했다. 현재 정부는 현재 독자 AI 파운데이션 모델 개발 사업과 프런티어 AI 사업을 추진하고 있다. 영국은 평가 역량 축적…한국은 인력·조직 한계 한국이 국제 AI 안전 평가에서 역할을 확대하기까지는 풀어야 할 과제도 있다. 전문인력과 컴퓨팅 자원, 연구소의 조직적 기반에서 영국과 격차가 크다. 지난달 이정헌 더불어민주당 의원이 과학기술정보통신부와 AI안전연구소에서 제출받은 자료에 따르면 국내 연구소의 기술 평가 인력은 6명에 불과하다. 활용 가능한 그래픽처리장치(GPU) 서버도 5대에 그친다. 반면 영국 AI 보안연구소는 기술 인력만 100명을 넘고 국가 차원의 컴퓨팅 자원을 활용한다. 올해 예산도 약 1216억원으로 한국(89억원)의 14배에 달한다. 조직 운영에서도 차이가 있다. 영국은 정부 소속 전문기관을 중심으로 글로벌 AI 기업과 협력하고 있지만 국내 AI안전연구소는 한국전자통신연구원(ETRI) 직할 조직으로 운영되고 있다. 독립적인 인사권과 예산 확보에 한계가 있다는 지적도 나온다. 이정헌 의원은 "AI안전연구소에 법적 독립성을 부여하고 자체적인 인사·예산 권한을 보장하도록 AI 기본법을 개정해야 한다"고 밝혔다. 영국은 전문인력과 컴퓨팅 자원을 확보하고 글로벌 AI 개발사와 협력하며 최첨단 모델에 대한 평가 경험을 축적해 왔다. 한국도 국제 평가에 참여하는 데서 나아가 실제 검증을 수행할 연구 역량과 조직적 기반을 갖추는 문제가 남아 있다. 김 소장은 "한국이 국제 AI 거버넌스 논의에 참여하려면 프런티어 AI 기술력과 평가 역량을 빠르게 확보해야 한다"며 "한국은 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 말했다.

2026.10.13 11:09김동원 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

수능 끝나도 'AI 부정행위' 추적…시험장에 남은 무선 기록까지 살핀다

'지스타 2026' 첫 주말, 벡스코에 관람객 북적…게임 축제 열기 고조

무신사 코랄핑크 vs 올리브영 마젠타핑크…홍대 뷰티 '핑크' 전쟁

"시연하려면 3시간 대기"…크래프톤 지스타 '타래' 부스에 참관객 인산인해

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.