• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'보안 에이전트'통합검색 결과 입니다. (47건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

시스코 "'예측 불가' AI 에이전트 온다…강력 보안 통제 준비해야"

"인공지능(AI)이 발전할수록 이를 안전하게 쓰는 방법이 중요해지고 있습니다. 특히 에이전트 AI는 강력한 통제가 필수입니다. 우리는 고객들이 AI 에이전트 보안을 강화해 이를 유용한 기술로 활용할 수 있도록 지원할 것입니다." 시스코 라즈 초프라 수석 부사장 겸 보안 부문 최고제품책임자(CPO)는 최근 지디넷코리아를 만나 에이전틱 AI 시대 보안 강화 필요성과 전략을 이같이 밝혔다. 최근 생성형 AI가 빠르게 확산하면서 보안 환경이 크게 변하고 있다. AI가 업무 효율성과 기술 혁신을 가져왔지만 AI 효과가 사이버 공격자에게도 적용되고 있다. 특히 해커가 AI 기술로 단기간에 기업 시스템을 파악·공격할 수 있게 됐다. 라즈 초프라 수석 부사장은 "해커가 생성형 AI를 통해 기업 시스템 침투 방식과 취약점 파악을 단기간에 수행할 수 있다"며 "기존 몇 주 걸리던 사이버 공격 과정이 현재 반나절도 안 돼 이뤄지고 있다"고 지적했다. 이어 "기업은 AI로 미리 위협을 예측·대응할 수 있는 환경을 구축해야 하는 이유"라며 "에이전틱 AI 시대에 AI 보안 대응 체계를 더 높여야 한다"고 강조했다. '하이퍼쉴드'·'AI 디펜스'로 보안 전 과정 지원 초프라 수석 부사장은 AI 보안 전략을 대표하는 제품으로 '하이퍼쉴드(Hypershield)'와 'AI 디펜스(Defense)'를 언급했다. 하이퍼쉴드는 네트워크 전반에 분산된 보안 정책 적용, 자동화된 정책 작성·배포·수정·삭제, 실시간 위협 탐지, 대응 기능을 제공하는 보안 솔루션이다. 이를 통해 기업은 수동으로 방화벽이나 보안 정책을 관리할 필요 없이, 운영 부담을 줄이고 보안 수준을 올릴 수 있다. AI 디펜스는 AI 엑세스 제어와 악성 명령어 주입 방지, 레드팀 운영 지원 서비스를 제공한다. AI 엑세스 제어는 챗봇에 기업 정보 유출이 발생하지 않게 돕는 기능이다. 코파일럿이나 제미나이 등 챗봇이 민감한 회사 정보를 읽지 못하게 만들 수 있다. 보통 챗봇에 입력된 정보는 실행 취소가 불가하다. 이를 AI 디펜스가 미리 차단하는 것이다. 프롬프트 주입 방지는 악성 명령어가 기업 챗봇에 들어가지 않게 막는다. 챗봇이 공격자의 프롬프트에 속아 부적절한 정보를 이끌어내지 못하게 차단할 수 있다. AI 디펜스는 AI 레드팀 운영과 가드레일까지 지원한다. 새 애플리케이션이 시스템에 도입될 때 발생하는 AI 편향이나 환각, 유해 콘텐츠 포함 여부를 확인하고 이를 방지하는 가드레일을 설정하는 식이다. 초프라 부사장은 해당 제품을 통한 성과도 공유했다. 최근 마이크로소프트의 온프레미스형 '셰어포인트'에서 취약점이 발견됐을 때, 시스코는 AI 서비스로 이에 발 빠르게 대처한 것으로 전해졌다. 그는 "우리는 AI를 통해 보상형 통제 코드를 빠르게 만들어 고객사에 적용했다"며 "코드 작성부터 테스트, 디버깅, 위협 조사, 기술 문서 작성까지 AI를 통해 수행했다"고 강조했다. "시스템 접근하는 모든 신원 꿰뚫어야" 초프라 부사장은 AI 시대 보안 전략으로 '분산 보안'을 제시했다. 과거에는 데이터센터 내부 애플리케이션 앞에 방화벽 하나만 설치하면 충분했지만, 지금은 온프레미스와 클라우드 등 다양한 플랫폼이 혼합된 환경으로 바뀌었다는 이유에서다. 그는 "컴퓨팅 환경이 분산된 만큼 보안도 분산형으로 이뤄져야 한다"며 "AI 시대 환경에 효과적으로 대응할 수 있는 핵심 전략"이라고 강조했다. 초프라 부사장은 제로 트러스트 중요성도 언급했다. 이를 위해선 모든 신원(ID) 정보 파악이 필수라고 주장했다. 기업 시스템이 누가, 무엇을, 어디서, 얼마나 접근하고 있는지 꿰뚫어야 한다는 설명이다. 현재 시스코는 ID 평가 보고서를 무상으로 제공하며, ISE(Identity Services Engine)으로 사람뿐 아니라 머신 ID까지 관리하고 있다. 이를 통해 모든 사용자와 기기에 최소 접근 권한을 적용하고 있다. 초프라 부사장은 한국의 보안 규제에 대해 언급했다. 그는 "한국은 개인정보보호법 등 강력한 규제 환경 덕에 AI 보안을 선제적으로 고려하는 경향이 있지만, 이런 이유로 보안 리스크를 지나치게 회피하고 있다"고 말했다. 그러면서 "이런 성향은 첨단 기술 도입 속도에 영향 미칠 수 있다"며 "현재 미래 기술로 뜨고 있는 양자내성암호(PQC) 연구에서도 한국이 다른 나라보다 다소 소극적인 이유"라고 덧붙였다. "AI 에이전트 보안 준비 지금부터" 초프라 부사장은 앞으로 AI 에이전트가 기업 판도를 바꿀 기술이라고 평가했다. 기존 AI가 작업 효율화에 그쳤다면, 에이전트는 사람 개입 없이 처음부터 끝까지 업무를 수행한다는 이유에서다. 그는 AI 에이전트 통제가 반드시 필요하다고 봤다. 사용자와 동일한 데이터 접근 권한을 갖는 만큼 예기치 못한 행동 가능성도 크기 때문이다. 현재 시스코는 에이전틱 AI 시대 대응을 위한 전략 준비에 한창이다. 지난 6월 미국 라스베이거스에서 열린 '시스코 라이브'에서 보안 분야 AI 에이전트를 공개했다. 최근 '블랙햇' 주간에는 AI 모델 공유 플랫폼 '허깅페이스'에 올라온 모든 모델에 보안 시스템을 적용하겠다고 발표한 바 있다. 초프라 부사장은 "생성형 AI와 AI 에이전트는 앞으로 더 강력해질 것"이라며 "기술 발전 속도에 맞춰 보안 대응 속도도 함께 높여야 한다"고 주장했다.

2025.08.11 09:25김미정 기자

[SW키트] AI 에이전트 보안 우려 현실로…'신종 해킹' 등장

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 관련 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주] 인공지능(AI) 에이전트 시스템 구조를 파악한 뒤 취약점을 공략하는 신종 해킹 기법이 등장했다. AI 에이전트가 코딩 등 개발 자동화를 돕는 도구 역할을 하지만, 동시에 보안 위협에 노출됐다는 우려도 커지고 있다. 28일 IT 업계에 따르면 최근 해커가 빅테크 오픈소스 코드에 침투해 AI 에이전트를 악용한 사실이 드러났다. 해커는 아마존웹서비스(AWS)의 '아마존 Q 디벨로퍼' 확장 기능에 사용자 파일과 클라우드 리소스를 삭제하라는 악성 명령을 삽입한 것으로 확인됐다. 이 명령은 프롬프트 형태로 AI 에이전트에게 전달됐으며, 에이전트가 이를 실행할 수 있도록 설계된 것으로 확인됐다. 도구 확장 기능은 마이크로소프트 비주얼 스튜디오(VS) 코드 마켓플레이스에 이틀 동안 등록돼 있었다. 이에 다수 개발자가 보안 위협에 노출됐다. AWS는 VS 코드용 아마존 Q 디벨로퍼 확장 프로그램에서 발생한 보안 취약점 조치를 완료한 상태다. 해당 문제를 인지한 즉시 관련 자격 증명을 폐기하고 교체했다. 현재 악성 코드가 포함된 부분을 제거한 후 새 버전 1.85.0을 배포한 상태다. AWS 보안팀이 전체 코드베이스를 검토한 결과, 악성 코드가 구문 오류로 인해 직접적으로 실행되지 않은 것으로 확인됐다. 이로 인해 개발 환경이나 AWS 서비스에도 영향이 없는 것으로 전해졌다. AWS 관계자는 "확장 프로그램 생성 과정에 사용된 깃허브 액세스 토큰의 보안 설정이 잘못돼 있었다"고 공식 홈페이지에서 원인을 밝혔다. 이어 그는 "이때 해커가 깃허브에 있는 소스코드 저장소에 악성 코드를 추가할 수 있었다"며 "해당 코드가 프로그램 최신 버전에 자동 배포된 것"이라고 밝혔다. 스스로 행동하는 AI 에이전트…"기업 아이덴티티 촘촘해야" 전문가들은 이번 사건에서 AI 에이전트가 사용자 권한을 그대로 사용할 수 있다는 점을 가장 큰 문제로 지적했다. AI 에이전트가 사용자처럼 시스템을 임의로 조작할 수 있다는 이유에서다. 또 인간 명령어를 스스로 판단해 비정상적으로 행동할 수도 있다는 의견도 나왔다. 예를 들어 사용자가 관리자 권한을 갖고 있으면 AI도 그 권한으로 시스템을 임의로 수정할 수 있다. 에이전트가 서버 종료를 비롯한 데이터 삭제, 클라우드 정보 초기화를 진행할 수 있다는 의미다. 또 단순한 명령어 하나로도 시스템 전체에 영향 줄 수도 있다. 전문가들은 그동안 우려했단 AI 에이전트 보안 위협이 현실화됐다고 분석했다. 한 업계 관계자는 "최근 해커가 AI 에이전트 시스템 원리를 완벽히 파악했다"며 "기업은 AI 에이전트에게 주는 권한을 촘촘히 제한해야 할 것"이라고 당부했다. 세일포인트 데이브 슈워츠 글로벌 파트너 부문 부사장도 최근 지디넷코리아 인터뷰에서 "기업은 AI 에이전트가 어떤 데이터에 접근할 수 있는지, 어떤 명령을 실행할 수 있는지 확실히 설정해야 한다"며 "AI가 무슨 일을 했는지까지 기록으로 남겨야 한다"고 강조했다. 그러면서 "AI 에이전트 시대에 기업 아이덴티티 시스템이 중요한 이유"라고 덧붙였다. AI 에이전트 도입 기업, 보안 취약 사례 경험 실제 AI 에이전트를 도입한 기업이 관련 보안 취약 사례를 경험했다는 조사 결과가 나왔다. 최근 세일포인트가 글로벌 보안·IT 책임자 353명 대상으로 실시한 설문 조사에 따르면, 응답 기업 82%가 AI 에이전트를 사용 중이었다. 이 중 51%가 민감한 데이터 유출이나 승인되지 않은 시스템 접근 등 실제 피해를 경험했다고 답했다. 이들은 가장 큰 문제가 AI 에이전트를 다루기 위한 명확한 기준이 없다는 점을 지적했다. 응답자 72%는 AI 에이전트가 기존 시스템 신원증명보다 더 큰 보안 위협이라고 평가했다. 반면 이를 감시하거나 통제할 수 있는 체계가 제대로 갖춰져 있지 않은 것으로 전해졌다. 실제로 응답자의 92%는 AI 에이전트 거버넌스가 매우 중요하다고 답했지만, 관련 정책을 실제로 도입한 기업은 44%에 불과했다. 절반 가까운 기업은 AI가 어떤 데이터에 접근했는지조차 추적할 수 없다고 답했다. 이에 IT 업계는 AI 에이전트도 접근 권한을 비롯한 실행 범위, 데이터 사용 기록 등이 투명하게 추적돼야 한다고 입을 모았다. 세일포인트는 "해커가 시스템 내 AI 에이전트에 악성 명령을 주입해도 아무도 이를 탐지하거나 차단하지 못했다는 점이 관건"이라며 "AI 에이전트도 사람처럼 디지털 신원을 갖고 가격과 권한을 엄격하게 관리받아야 한다"고 보고서에서 당부했다.

2025.07.28 11:08김미정 기자

"보안 전략·기술력 우수"…MS, 포레스터 '제로 트러스트 플랫폼' 리더

마이크로소프트가 제로 트러스트 아키텍처 전략으로 인공지능(AI) 보안 플랫폼 시장에서 인정받았다. 마이크로소프트는 포레스터의 '2025년 3분기 제로 트러스트 플랫폼 웨이브' 보고서에서 보안 전략 부문 리더로 선정됐다고 14일 밝혔다. 해당 보고서는 보안 플랫폼 10곳을 평가한 결과 마이크로소프트가 전략 부문에서 가장 높은 점수를 받았으며, 현재 제공 기능에서도 상위권을 기록했다고 발표했다. 포레스터는 마이크로소프트가 AI 기반 보안 에이전트를 중심으로 한 사전 대응형 아키텍처에서 우수성을 갖췄다고 강조했다. 위협 탐지부터 접근 제어, 정책 변경, 신원 검증까지 보안 전 과정이 자동화되며 분석가 개입 없이도 실시간으로 보안 정책을 최적화할 수 있는 수준에 도달했다는 점에서 차별화를 인정한 셈이다. 실제 마이크로소프트는 '마이크로소프트 보안 코파일럿'을 통해 AI 기능을 보안 제품 전반에 확대 적용하고 있다. 이를 통해 위협 정보를 통합 분석하고 이상 행위를 감지하며, 권한을 자동으로 조정하는 등 전사 보안 운영의 효율성을 끌어올리고 있다. 포레스터는 마이크로소프트가 AI를 단순히 보완 수단이 아닌, 보안 운영 중심으로 전환하고 있다고 강조했다. 또 마이크로소프트는 하루 84조 개 넘는 위협 신호를 수집해 사용자를 비롯한 디바이스, 앱, 데이터, 인프라, AI 전반을 통합 방어하는 체계를 구축했다. 보안 제품군인 디펜더, 엔트라, 센티넬, 퍼뷰, 인튠이 유기적으로 연동돼 보안 정보를 자동 공유하고, 위협 대응을 일관되게 수행한다는 평가를 받고 있다. 포레스터는 마이크로소프트의 플랫폼 통합성과 관리 편의성도 강점으로 꼽았다. 마이크로소프트는 클라우드 중심 환경에 최적화된 배포 옵션을 제공하며, 기존 시스템과의 연계 없이도 전체 보안 흐름을 통제할 수 있다. 툴 간 통합과 자동화를 통해 고객이 비용과 운영 복잡성을 동시에 줄인 셈이다. 전략 측면에서는 생태계의 확장성과 글로벌 표준 연계 수준에서 높은 점수를 받았다. 마이크로소프트는 미국 사이버안보 및 인프라 보안국(CISA), 미국 국립표준기술연구소(NIST), 마이터 연구소(MITRE) 등 주요 국제 보안 가이드라인을 따르고 있으며, 성숙한 파트너 네트워크 기반으로 다양한 산업군에서 제로 트러스트 아키텍처 구축을 지원하고 있다는 설명이다. 또 마이크로소프트는 사람 중심 보안 체계에서 머신 ID 중심 보안으로의 전환에 대응할 수 있는 구조적 준비를 마친 기업으로 평가받았다. 이를 통해 디지털 자산 가시성을 높이고, AI 도입에 따른 위험을 제어하는 기반을 마련했다는 목표다. 고객 피드백에서도 긍정적 반응이 두드러진 것으로 나타났다. 마이크로소프트 보안 제품을 사용하는 고객들은 별도 솔루션을 조합하지 않아도 단일 플랫폼 내에서 충분한 보안 효과를 체감하고 있으며, 이를 통해 실질적 비즈니스 가치를 얻고 있다고 응답했다. 포레스터는 "마이크로소프트는 보안 플랫폼의 단순성과 통합성으로 고객의 보안 운영을 실질적으로 개선하고 있다"며 "클라우드 중심의 인프라를 운영하는 조직이라면 마이크로소프트 제로 트러스트 플랫폼이 좋은 선택이 될 수 있다"고 당부했다.

2025.07.14 17:28김미정 기자

"실수 안 하는 AI 에이전트, '자동 추론'서 나온다"

[필라델피아(미국)=김미정 기자] "인공지능(AI)은 결과를 생성하고, 자동 추론(Automated reasoning)은 그 결과를 검증합니다. 이 두 기술이 함께 작동할 때 더욱 강력한 보안과 신뢰도를 갖춘 에이전트를 구축할 수 있습니다." 아마존웹서비스(AWS) 네하 룽타 아이덴티티 부문 응용과학 디렉터는 18일까지(현지시간) 미국 필라델피아에서 열린 연례 보안 컨퍼런스 'AWS 리인포스 2025'에서 AI의 설명 가능성과 보안 강화를 위한 방안으로 AI와 자동 추론 결합을 제시했다. 자동 추론은 실수하지 않는 계산기 같은 도구 역할을 한다. 어떤 시스템이나 규칙이 제대로 작동하는지 논리적으로 따지는 데 활용된다. 최종 결과에 대한 과정을 수학적으로 증명하는 식이다. 룽타 디렉터는 AWS에서 자동 추론 기술 개발을 주도해왔다. 이전에는 미국항공우주국(NASA)과 마이크로소프트 리서치에서 소프트웨어 검증·자동화 도구 관련 연구를 수행한 경력이 있다. 그는 AWS에서 '아마존 베드록' 가드레일에 자동 추론 기술을 업계에서 처음 적용한 인물로 알려졌다. 룽타 디렉터는 "사용자 정보가 외부로 나가지 않도록 하려면 프롬프트 입력과 출력 경로가 항상 안전한지 수학적으로 검증해야 한다"며 "여기서 자동 추론은 단순한 확률 계산이 아니라 '절대 유출되지 않는다'는 것을 논리적으로 증명한다"고 설명했다. 이 외에도 그는 신원 및 접근관리(IAM) 솔루션 'IAM 액세스 애널라이저'에도 자동 추론 기술을 적용했다. 자동 추론은 솔루션 내에서 누가 어떤 데이터에 접근할 수 있는지, 왜 접근 가능한지를 명확히 판단하고 통제하는 역할을 한다. 룽타 리렉터는 "현재 IAM은 모든 클라우드 서비스에 사용된다"며 "방대한 접근 요청을 수학적으로 분석하고 검증할 수 있는 건 자동 추론이 답"이라고 강조했다. "AI와 자동 추론 연결 필수…MCP·A2A가 도와" 룽타 디렉터는 AI와 자동 추론 결합이 더 밀접해져야 한다고 주장했다. 그는 "보통 거대언어모델(LLM)은 본질적으로 비결정론적"이라며 "이것이 LLM 강점이지만 대규모 환경에서 제대로 작동하려면 결정론적 도구들과 결합해야 한다"고 밝혔다. 룽타 디렉터는 AI와 자동 추론 결합을 돕는 도구로 '모델 컨텍스트 프로토콜(MCP)'을 꼽았다. MCP는 AI가 다른 시스템이나 도구와 자유롭게 정보를 주고받을 수 있게 돕는 인터페이스 기술이다. 기존 API보다 유연하게 동작한다는 평을 받고 있다. 이에 AI와 자동 추론 기술 연결을 원활히 지원할 수 있다. 또 그는 '에이전트 투 에이전트(A2A)'도 신뢰도 높은 AI 자동화를 구현할 수 있다고 강조했다. 룽타 디렉터는 "이는 여러 AI가 각자 맡은 역할을 수행하는 식"이라며 "AI가 서로 작업을 요청하는 식으로 협업한다면 더 신뢰도 높은 자동화와 오케스트레이션을 구현할 수 있을 것"이라고 전망했다. 다만 자동 추론 기술이 지금보다 더 발전해야 한다는 점도 언급됐다. 룽타 디렉터는 "자동 추론은 수학적 표현으로 결과를 증명할 때 우수한 능력을 발휘하지만, 모든 문제를 수학으로 표현할 순 없다"며 "이는 우리가 풀어야 할 결정적 과제"라고 설명했다. 이어 "AI와 추론 자동화 결합은 이제 시작"이라며 "이를 통해 강력한 보안과 신뢰도를 갖춘 AI를 구축할 수 있을 것"이라고 덧붙였다.

2025.06.19 17:00김미정 기자

"AI 신원·접근 관리 필수"…MS, 에이전트 보안 강화 제품 출시

마이크로소프트가 기업의 인공지능(AI) 에이전트 신원과 접근을 통합 관리하는 솔루션을 공개해 AI 보안성을 높였다. 마이크로소프트는 한국 시간으로 22일까지 미국 워싱턴주 레드먼드에서 열리는 개발자 컨퍼런스 '마이크로소프트 빌드 2025'에서 신규 기능인 '엔트라 에이전트 ID' 프리뷰 버전을 공개했다. 엔트라 에이전트 ID는 조직 내 정보 관리자와 개발자가 만든 AI 에이전트 신원을 통합 디렉터리에서 확인하고, 별도 설정 없이 이를 자동 통제할 수 있도록 구성된 것이 핵심이다. 에이전트 간 통신을 위한 'A2A'와 모델 컨텍스트 프로토콜(MCP)도 서비스에 적용된다. 마이크로소프트는 이번 기능이 마이크로소프트 365 코파일럿과 애저 AI 파운드리에서 생성된 에이전트 대상으로 적용된다고 설명했다. 조직 내 누구든 생성한 AI 에이전트는 자동으로 '엔트라 관리자 센터'에서 확인 가능하다. 새로운 필터 메뉴를 통해 '에이전트 ID' 유형으로 바로 구분할 수 있다. 알렉스 사이먼스 마이크로소프트 엔트라 부사장은 "엔트라 에이전트 ID를 에이전트 관리자 역할로만 두지 않겠다"며 "실제 보안 통제 수단까지 가능한 기능을 추가할 것"이라고 밝혔다. 그러면서 "앞으로 6개월간 액세스 권한 제어, 보안 정책 적용, 신원 거버넌스 기능 등을 점차 확대할 계획"이라고 덧붙였다. 향후 엔트라 에이전트 ID는 서드파티 개발 플랫폼에서 생성된 AI 에이전트까지 통합 관리할 예정이다. 동일 코드베이스 기반으로 각 테넌트별 정책을 적용할 수 있는 기능도 탑재돼 확장성과 재사용성도 강화된다. 개발자들은 최소 권한 접근 토큰을 통한 보안 제어, 신속한 기업 온보딩, 멀티 테넌트 등록을 통해 업무 효율을 높일 수 있다. 신원 관리자는 조건부 접근 제어, 수명주기 자동화, 행위 감사 로그 등 고도화된 관리 기능을 지원받게 된다. 서비스나우·워크데이와 협력…"보안은 MS 일관된 철학" 이날 마이크로소프트는 서비스나우, 워크데이와 파트너십을 맺었다고 밝혔다. 이번 협력을 통해 마이크로소프트의 엔트라 에이전트 ID는 '서비스나우 AI 플랫폼'과 '워크데이 에이전트 시스템 오브 레코드'와 통합될 예정이다. 또 서비스나우와 워크데이의 에이전트 지원 애플리케이션도 엔트라 에이전트 ID 와 통합된다. 이를 통해 해당 플랫폼에서 생성된 에이전트마다 고유 신원이 부여될 방침이다. 사이먼스 부사장은 "보안은 팀워크가 핵심이라는 것이 우리의 일관된 철학"이라며 "AI 에이전트 신원을 보호하는 일에서도 예외가 아닐 것"이라고 강조했다.

2025.05.22 06:58김미정 기자

"AI 공격 막는 맞춤형 방패"…아카마이, 'AI 방화벽' 공개

아카마이테크놀로지스가 인공지능(AI)을 겨냥한 사이버 위협에 대응하기 위한 보안 솔루션을 내놨다. 아카마이는 생성형 AI와 거대언어모델(LLM), API를 보호하는 'AI 방화벽(Firewall for AI)'을 출시했다고 7일 밝혔다. AI 방화벽은 생성형 AI 확산에 따라 증가하는 인바운드 쿼리와 아웃바운드 응답의 보안 취약점을 해소할 수 있는 맞춤형 보안 솔루션이다. 적응형 보안 규칙을 활용해 프롬프트 주입과 모델 악용을 실시간으로 탐지해 차단한다. 데이터 유출과 모델 조작을 방지하는 다층 보안 체계도 갖췄다. 사용 기업은 솔루션을 아카마이 엣지와 리버스 프록시, REST API 등 다양한 방식으로 배포할 수 있어 기존 보안 프레임워크에 통합 가능하다. 또 AI가 생성한 응답 결과물을 필터링해 유해 콘텐츠와 환각 현상, 무단 데이터 유출을 막을 수도 있다. 아카마이는 기존 API 보안 플랫폼을 강화한 'API LLM 디스커버리' 기능도 공개했다. 이 기능은 LLM 기반 API 엔드포인트를 자동으로 감지하고, 무단 접근과 오남용에 대응하는 보안 정책을 지속적으로 자동 업데이트한다. 아카마이 루페시 초크시 애플리케이션 보안 담당 수석 부사장은 "AI 시대를 맞아 기업들이 생산성 향상을 위해 AI를 적극 도입하려는 시점에서 이제 AI 보안은 선택이 아닌 필수"라며 "AI 방화벽은 보안과 성능을 해치지 않으면서도 기업의 AI 모델과 데이터를 효과적으로 보호한다"고 밝혔다.

2025.05.07 10:33김미정 기자

시스코 "AI 위협도 AI로 대응"…'원 시스코' 전략으로 통합 보안 제공"

"인공지능(AI)이 발전하면서 기존 보안 솔루션만으로 대응하기 어려운 시대가 왔습니다. 'AI 디펜스'는 빠르게 변화하는 보안 위협 환경 속에서도 AI 애플리케이션 개발과 배포, 보호를 안전하게 지원할 수 있습니다. 앞으로 '원 시스코' 전략을 통해 네트워킹과 보안, 협업, 시각화 등 자사 기술을 통합 제공할 것입니다." 최지희 시스코코리아 대표는 3일 서울 그랜드 인터컨티넨탈 서울 파르나스에 열린 '시스코 커넥트 코리아 2025' 기자간담회에서 AI 보안 사업 전략을 이같이 밝혔다. 앞서 시스코는 2023~2024년 AI 보안 기업 5개를 인수했다. 2023년 아머블록스와 오르트, 발틱스, 라이트스핀을 인수했으며 지난해 스플렁크와 로버스트인텔리전스를 인수했다. 인수 기업 기술을 자사 솔루션에 통합해 AI 시대 보안 기술 강화에 주력하고 있다. 최 대표는 국내 기업들 사이에서는 여전히 사이버 위협 인식과 도입 수준이 초기 수준에 머물러 있다고 지적했다. 프레젠테이션 도구나 파일 공유 수준을 넘어선 AI 기술 적용이 여전히 드물다는 의미다. 반면 글로벌 상황은 다른 것으로 전해졌다. 최 대표는 "해외 기업들은 올해 실제 프로덕션 환경에 AI를 안전하고 신뢰할 수 있게 도입하려는 방법에 관심을 보인다"고 설명했다. 이에 더해 규제 대응도 중요 이슈로 떠오른 추세다. 유럽연합(EU)은 AI법을 제정했으며 싱가포르와 국내서도 AI 규제에 시동을 걸고 있어서다. 이에 대비해 시스코는 OWASP, 마이터 아틀라스, 미국 국립표준기술연구소(NIST) 등 다양한 기준에 발맞춰 대응 중이다. 시스코는 향후 10억 달러(약 1조4천억원)를 투입해 AI를 앞세운 원 시스코 전략을 본격화할 계획이다. 원 시스코 브랜드를 통해 네트워킹부터 보안, 옵저버빌리티까지 모두 통합해 제공할 방침이다. AI 데이터센터와 디지털 복원력, 미래형 업무환경을 세 축으로 고객 지원을 목표로 뒀다. "'시스코 AI 디펜스'로 개발 전 과정·가드레일 완벽 대비" 이날 시스코 아난드 라가반 AI 제품 총괄 부사장은 온라인을 통해 최근 출시한 'AI 디펜스' 솔루션 특장점을 설명했다. 라가반 부사장은 2023년 시스코가 인수한 보안 스타트업 아머블록스 창립자다. AI 디펜스는 기업이 빠르게 변화하는 보안 위협 환경 속에서 AI 애플리케이션을 개발, 배포, 보호하도록 도울 수 있다. 해당 솔루션은 토탈 보안 플랫폼 '시스코 시큐리티 클라우드'에 통합됐다. 이를 통해 전사적 네트워크 단에서 AI 기반 보안 강화를 돕는다. 올여름부터 하이브리드 형태로 제공돼 대기업이나 금융권 등 온프레미스 수요에도 대응한다. 그는 AI 보안이 어려운 이유로 다중 모델·클라우드 활용으로 인한 복잡성을 꼽았다. 결과적으로 AI 모델 빌더간 가드레일 책임이 파편화되고 AI 애플리케이션 간 이질성도 높아졌다고 지적했다. 이에 모델 사용의 가시성과 운영 환경 배포 전 모델 검증, 모델 보호를 위한 가드레일 중요성이 높아졌다고 주장했다. 라가반 부사장은 AI 디펜스가 이같은 문제를 해결할 수 있을 것으로 봤다. AI 디펜스 기능은 모델 다운로드와 파인튜닝, 배포 단계로 나뉜다. 이 전 과정을 가시적으로 추적할 수 있다. AI의 분석·학습 능력을 활용해 실시간 위협을 감지·대응하는 식이다. AI 모델에 특화된 검증 기능도 제공한다. 라가반 부사장은 "AI 디펜스는 모델이 업무 환경에 배포되기 전 검증을 거친다"며 "이 과정에서 새로운 형태의 사이버 위협을 신속·효과적으로 차단할 수 있다"고 설명했다. 이어 "기업은 AI 애플리케이션 개발과 운영 전반에 걸쳐 보안 강화를 실현할 수 있다"고 덧붙였다. 시스코는 AI 디펜스를 통한 모델 보호 가드레일 중요성도 꼽았다. 현재 시스코의 알고리즘 레드팀은 수천 개 유해 질문을 활용해 모델 취약점을 탐색하고 이를 리포트로 제공하고 있다. 이를 통해 200개 이상 가드레일 카테고리에서 적절한 대응책을 제시하는 식이다. 새 모델이 등장할 때마다 동일한 방식의 검증을 거친다. 현재 가드레일은 오픈웹애플리케이션보안프로젝트(OWASP) 선정 거대언어모델 10대 취약점(LLM10)을 비롯한 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크, 마이터 아틀라스(MITRE ATLAS) 등 국제 표준을 준수한다. '웹엑스 AI 에이전트' 공개…"실질적 CX 전환 도울 것" 시스코 데이비드 코벤트리 아시아태평양·일본·중국(APJC) 협업 부문 매니징 디렉터는 '웹엑스 AI 에이전트'를 공개했다. 웹엑스 AI 에이전트는 AI와 인간 상담원을 결합해 고객 응대 시간을 단축하고 문제 해결을 자동화할 수 있다. 실시간 대화를 통해 고객 요구를 분석하고 적절한 해결책을 제안하는 식이다. 9개 언어를 지원하며, 한국어는 올 3분기부터 추가된다. 클라우드와 온프레미스 형태로 이용 가능하다. 고객은 AI가 전체 대화를 주도하는 자율 AI 에이전트를 구축하거나, 기본 인텔리전스를 AI가 제공하는 스크립트 에이전트를 통해 대화를 유도할 수 있다. 코벤트리 디렉터는 "웹엑스 AI 에이전트는 고객 의도를 정밀하게 파악할 뿐만 아니라 기존 시스템과의 연계도 가능해 고객의 요구를 충족할 것으로 기대를 모은다"고 밝혔다. 그러면서 "최근 기업은 방대한 데이터를 통해 고객 맞춤형 에이전트를 제공하는 방법을 찾고 있다"며 "특히 사무실 외 근무가 보편화된 시점에서 실시간 상호작용과 AI 기반 소통을 더욱 중요해질 것"이라고 덧붙였다.

2025.04.03 14:37김미정 기자

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

최태원 SK 회장 "반도체, 과거 사이클 벗어나 구조적 변화…공급 확대 총력"

테슬라, FSD 구독제 전환…일시불 904만원→월 15만원

태양 수명 다해도 지구는 살아남는다..."기존 가설 뒤집혔다" [우주로 간다]

애플, 오픈AI 전격 제소…"영업비밀 훔쳤다"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.