• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
인공지능
스테이블코인
배터리
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'보안 에이전트'통합검색 결과 입니다. (24건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"실수 안 하는 AI 에이전트, '자동 추론'서 나온다"

[필라델피아(미국)=김미정 기자] "인공지능(AI)은 결과를 생성하고, 자동 추론(Automated reasoning)은 그 결과를 검증합니다. 이 두 기술이 함께 작동할 때 더욱 강력한 보안과 신뢰도를 갖춘 에이전트를 구축할 수 있습니다." 아마존웹서비스(AWS) 네하 룽타 아이덴티티 부문 응용과학 디렉터는 18일까지(현지시간) 미국 필라델피아에서 열린 연례 보안 컨퍼런스 'AWS 리인포스 2025'에서 AI의 설명 가능성과 보안 강화를 위한 방안으로 AI와 자동 추론 결합을 제시했다. 자동 추론은 실수하지 않는 계산기 같은 도구 역할을 한다. 어떤 시스템이나 규칙이 제대로 작동하는지 논리적으로 따지는 데 활용된다. 최종 결과에 대한 과정을 수학적으로 증명하는 식이다. 룽타 디렉터는 AWS에서 자동 추론 기술 개발을 주도해왔다. 이전에는 미국항공우주국(NASA)과 마이크로소프트 리서치에서 소프트웨어 검증·자동화 도구 관련 연구를 수행한 경력이 있다. 그는 AWS에서 '아마존 베드록' 가드레일에 자동 추론 기술을 업계에서 처음 적용한 인물로 알려졌다. 룽타 디렉터는 "사용자 정보가 외부로 나가지 않도록 하려면 프롬프트 입력과 출력 경로가 항상 안전한지 수학적으로 검증해야 한다"며 "여기서 자동 추론은 단순한 확률 계산이 아니라 '절대 유출되지 않는다'는 것을 논리적으로 증명한다"고 설명했다. 이 외에도 그는 신원 및 접근관리(IAM) 솔루션 'IAM 액세스 애널라이저'에도 자동 추론 기술을 적용했다. 자동 추론은 솔루션 내에서 누가 어떤 데이터에 접근할 수 있는지, 왜 접근 가능한지를 명확히 판단하고 통제하는 역할을 한다. 룽타 리렉터는 "현재 IAM은 모든 클라우드 서비스에 사용된다"며 "방대한 접근 요청을 수학적으로 분석하고 검증할 수 있는 건 자동 추론이 답"이라고 강조했다. "AI와 자동 추론 연결 필수…MCP·A2A가 도와" 룽타 디렉터는 AI와 자동 추론 결합이 더 밀접해져야 한다고 주장했다. 그는 "보통 거대언어모델(LLM)은 본질적으로 비결정론적"이라며 "이것이 LLM 강점이지만 대규모 환경에서 제대로 작동하려면 결정론적 도구들과 결합해야 한다"고 밝혔다. 룽타 디렉터는 AI와 자동 추론 결합을 돕는 도구로 '모델 컨텍스트 프로토콜(MCP)'을 꼽았다. MCP는 AI가 다른 시스템이나 도구와 자유롭게 정보를 주고받을 수 있게 돕는 인터페이스 기술이다. 기존 API보다 유연하게 동작한다는 평을 받고 있다. 이에 AI와 자동 추론 기술 연결을 원활히 지원할 수 있다. 또 그는 '에이전트 투 에이전트(A2A)'도 신뢰도 높은 AI 자동화를 구현할 수 있다고 강조했다. 룽타 디렉터는 "이는 여러 AI가 각자 맡은 역할을 수행하는 식"이라며 "AI가 서로 작업을 요청하는 식으로 협업한다면 더 신뢰도 높은 자동화와 오케스트레이션을 구현할 수 있을 것"이라고 전망했다. 다만 자동 추론 기술이 지금보다 더 발전해야 한다는 점도 언급됐다. 룽타 디렉터는 "자동 추론은 수학적 표현으로 결과를 증명할 때 우수한 능력을 발휘하지만, 모든 문제를 수학으로 표현할 순 없다"며 "이는 우리가 풀어야 할 결정적 과제"라고 설명했다. 이어 "AI와 추론 자동화 결합은 이제 시작"이라며 "이를 통해 강력한 보안과 신뢰도를 갖춘 AI를 구축할 수 있을 것"이라고 덧붙였다.

2025.06.19 17:00김미정 기자

"AI 신원·접근 관리 필수"…MS, 에이전트 보안 강화 제품 출시

마이크로소프트가 기업의 인공지능(AI) 에이전트 신원과 접근을 통합 관리하는 솔루션을 공개해 AI 보안성을 높였다. 마이크로소프트는 한국 시간으로 22일까지 미국 워싱턴주 레드먼드에서 열리는 개발자 컨퍼런스 '마이크로소프트 빌드 2025'에서 신규 기능인 '엔트라 에이전트 ID' 프리뷰 버전을 공개했다. 엔트라 에이전트 ID는 조직 내 정보 관리자와 개발자가 만든 AI 에이전트 신원을 통합 디렉터리에서 확인하고, 별도 설정 없이 이를 자동 통제할 수 있도록 구성된 것이 핵심이다. 에이전트 간 통신을 위한 'A2A'와 모델 컨텍스트 프로토콜(MCP)도 서비스에 적용된다. 마이크로소프트는 이번 기능이 마이크로소프트 365 코파일럿과 애저 AI 파운드리에서 생성된 에이전트 대상으로 적용된다고 설명했다. 조직 내 누구든 생성한 AI 에이전트는 자동으로 '엔트라 관리자 센터'에서 확인 가능하다. 새로운 필터 메뉴를 통해 '에이전트 ID' 유형으로 바로 구분할 수 있다. 알렉스 사이먼스 마이크로소프트 엔트라 부사장은 "엔트라 에이전트 ID를 에이전트 관리자 역할로만 두지 않겠다"며 "실제 보안 통제 수단까지 가능한 기능을 추가할 것"이라고 밝혔다. 그러면서 "앞으로 6개월간 액세스 권한 제어, 보안 정책 적용, 신원 거버넌스 기능 등을 점차 확대할 계획"이라고 덧붙였다. 향후 엔트라 에이전트 ID는 서드파티 개발 플랫폼에서 생성된 AI 에이전트까지 통합 관리할 예정이다. 동일 코드베이스 기반으로 각 테넌트별 정책을 적용할 수 있는 기능도 탑재돼 확장성과 재사용성도 강화된다. 개발자들은 최소 권한 접근 토큰을 통한 보안 제어, 신속한 기업 온보딩, 멀티 테넌트 등록을 통해 업무 효율을 높일 수 있다. 신원 관리자는 조건부 접근 제어, 수명주기 자동화, 행위 감사 로그 등 고도화된 관리 기능을 지원받게 된다. 서비스나우·워크데이와 협력…"보안은 MS 일관된 철학" 이날 마이크로소프트는 서비스나우, 워크데이와 파트너십을 맺었다고 밝혔다. 이번 협력을 통해 마이크로소프트의 엔트라 에이전트 ID는 '서비스나우 AI 플랫폼'과 '워크데이 에이전트 시스템 오브 레코드'와 통합될 예정이다. 또 서비스나우와 워크데이의 에이전트 지원 애플리케이션도 엔트라 에이전트 ID 와 통합된다. 이를 통해 해당 플랫폼에서 생성된 에이전트마다 고유 신원이 부여될 방침이다. 사이먼스 부사장은 "보안은 팀워크가 핵심이라는 것이 우리의 일관된 철학"이라며 "AI 에이전트 신원을 보호하는 일에서도 예외가 아닐 것"이라고 강조했다.

2025.05.22 06:58김미정 기자

"AI 공격 막는 맞춤형 방패"…아카마이, 'AI 방화벽' 공개

아카마이테크놀로지스가 인공지능(AI)을 겨냥한 사이버 위협에 대응하기 위한 보안 솔루션을 내놨다. 아카마이는 생성형 AI와 거대언어모델(LLM), API를 보호하는 'AI 방화벽(Firewall for AI)'을 출시했다고 7일 밝혔다. AI 방화벽은 생성형 AI 확산에 따라 증가하는 인바운드 쿼리와 아웃바운드 응답의 보안 취약점을 해소할 수 있는 맞춤형 보안 솔루션이다. 적응형 보안 규칙을 활용해 프롬프트 주입과 모델 악용을 실시간으로 탐지해 차단한다. 데이터 유출과 모델 조작을 방지하는 다층 보안 체계도 갖췄다. 사용 기업은 솔루션을 아카마이 엣지와 리버스 프록시, REST API 등 다양한 방식으로 배포할 수 있어 기존 보안 프레임워크에 통합 가능하다. 또 AI가 생성한 응답 결과물을 필터링해 유해 콘텐츠와 환각 현상, 무단 데이터 유출을 막을 수도 있다. 아카마이는 기존 API 보안 플랫폼을 강화한 'API LLM 디스커버리' 기능도 공개했다. 이 기능은 LLM 기반 API 엔드포인트를 자동으로 감지하고, 무단 접근과 오남용에 대응하는 보안 정책을 지속적으로 자동 업데이트한다. 아카마이 루페시 초크시 애플리케이션 보안 담당 수석 부사장은 "AI 시대를 맞아 기업들이 생산성 향상을 위해 AI를 적극 도입하려는 시점에서 이제 AI 보안은 선택이 아닌 필수"라며 "AI 방화벽은 보안과 성능을 해치지 않으면서도 기업의 AI 모델과 데이터를 효과적으로 보호한다"고 밝혔다.

2025.05.07 10:33김미정 기자

시스코 "AI 위협도 AI로 대응"…'원 시스코' 전략으로 통합 보안 제공"

"인공지능(AI)이 발전하면서 기존 보안 솔루션만으로 대응하기 어려운 시대가 왔습니다. 'AI 디펜스'는 빠르게 변화하는 보안 위협 환경 속에서도 AI 애플리케이션 개발과 배포, 보호를 안전하게 지원할 수 있습니다. 앞으로 '원 시스코' 전략을 통해 네트워킹과 보안, 협업, 시각화 등 자사 기술을 통합 제공할 것입니다." 최지희 시스코코리아 대표는 3일 서울 그랜드 인터컨티넨탈 서울 파르나스에 열린 '시스코 커넥트 코리아 2025' 기자간담회에서 AI 보안 사업 전략을 이같이 밝혔다. 앞서 시스코는 2023~2024년 AI 보안 기업 5개를 인수했다. 2023년 아머블록스와 오르트, 발틱스, 라이트스핀을 인수했으며 지난해 스플렁크와 로버스트인텔리전스를 인수했다. 인수 기업 기술을 자사 솔루션에 통합해 AI 시대 보안 기술 강화에 주력하고 있다. 최 대표는 국내 기업들 사이에서는 여전히 사이버 위협 인식과 도입 수준이 초기 수준에 머물러 있다고 지적했다. 프레젠테이션 도구나 파일 공유 수준을 넘어선 AI 기술 적용이 여전히 드물다는 의미다. 반면 글로벌 상황은 다른 것으로 전해졌다. 최 대표는 "해외 기업들은 올해 실제 프로덕션 환경에 AI를 안전하고 신뢰할 수 있게 도입하려는 방법에 관심을 보인다"고 설명했다. 이에 더해 규제 대응도 중요 이슈로 떠오른 추세다. 유럽연합(EU)은 AI법을 제정했으며 싱가포르와 국내서도 AI 규제에 시동을 걸고 있어서다. 이에 대비해 시스코는 OWASP, 마이터 아틀라스, 미국 국립표준기술연구소(NIST) 등 다양한 기준에 발맞춰 대응 중이다. 시스코는 향후 10억 달러(약 1조4천억원)를 투입해 AI를 앞세운 원 시스코 전략을 본격화할 계획이다. 원 시스코 브랜드를 통해 네트워킹부터 보안, 옵저버빌리티까지 모두 통합해 제공할 방침이다. AI 데이터센터와 디지털 복원력, 미래형 업무환경을 세 축으로 고객 지원을 목표로 뒀다. "'시스코 AI 디펜스'로 개발 전 과정·가드레일 완벽 대비" 이날 시스코 아난드 라가반 AI 제품 총괄 부사장은 온라인을 통해 최근 출시한 'AI 디펜스' 솔루션 특장점을 설명했다. 라가반 부사장은 2023년 시스코가 인수한 보안 스타트업 아머블록스 창립자다. AI 디펜스는 기업이 빠르게 변화하는 보안 위협 환경 속에서 AI 애플리케이션을 개발, 배포, 보호하도록 도울 수 있다. 해당 솔루션은 토탈 보안 플랫폼 '시스코 시큐리티 클라우드'에 통합됐다. 이를 통해 전사적 네트워크 단에서 AI 기반 보안 강화를 돕는다. 올여름부터 하이브리드 형태로 제공돼 대기업이나 금융권 등 온프레미스 수요에도 대응한다. 그는 AI 보안이 어려운 이유로 다중 모델·클라우드 활용으로 인한 복잡성을 꼽았다. 결과적으로 AI 모델 빌더간 가드레일 책임이 파편화되고 AI 애플리케이션 간 이질성도 높아졌다고 지적했다. 이에 모델 사용의 가시성과 운영 환경 배포 전 모델 검증, 모델 보호를 위한 가드레일 중요성이 높아졌다고 주장했다. 라가반 부사장은 AI 디펜스가 이같은 문제를 해결할 수 있을 것으로 봤다. AI 디펜스 기능은 모델 다운로드와 파인튜닝, 배포 단계로 나뉜다. 이 전 과정을 가시적으로 추적할 수 있다. AI의 분석·학습 능력을 활용해 실시간 위협을 감지·대응하는 식이다. AI 모델에 특화된 검증 기능도 제공한다. 라가반 부사장은 "AI 디펜스는 모델이 업무 환경에 배포되기 전 검증을 거친다"며 "이 과정에서 새로운 형태의 사이버 위협을 신속·효과적으로 차단할 수 있다"고 설명했다. 이어 "기업은 AI 애플리케이션 개발과 운영 전반에 걸쳐 보안 강화를 실현할 수 있다"고 덧붙였다. 시스코는 AI 디펜스를 통한 모델 보호 가드레일 중요성도 꼽았다. 현재 시스코의 알고리즘 레드팀은 수천 개 유해 질문을 활용해 모델 취약점을 탐색하고 이를 리포트로 제공하고 있다. 이를 통해 200개 이상 가드레일 카테고리에서 적절한 대응책을 제시하는 식이다. 새 모델이 등장할 때마다 동일한 방식의 검증을 거친다. 현재 가드레일은 오픈웹애플리케이션보안프로젝트(OWASP) 선정 거대언어모델 10대 취약점(LLM10)을 비롯한 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크, 마이터 아틀라스(MITRE ATLAS) 등 국제 표준을 준수한다. '웹엑스 AI 에이전트' 공개…"실질적 CX 전환 도울 것" 시스코 데이비드 코벤트리 아시아태평양·일본·중국(APJC) 협업 부문 매니징 디렉터는 '웹엑스 AI 에이전트'를 공개했다. 웹엑스 AI 에이전트는 AI와 인간 상담원을 결합해 고객 응대 시간을 단축하고 문제 해결을 자동화할 수 있다. 실시간 대화를 통해 고객 요구를 분석하고 적절한 해결책을 제안하는 식이다. 9개 언어를 지원하며, 한국어는 올 3분기부터 추가된다. 클라우드와 온프레미스 형태로 이용 가능하다. 고객은 AI가 전체 대화를 주도하는 자율 AI 에이전트를 구축하거나, 기본 인텔리전스를 AI가 제공하는 스크립트 에이전트를 통해 대화를 유도할 수 있다. 코벤트리 디렉터는 "웹엑스 AI 에이전트는 고객 의도를 정밀하게 파악할 뿐만 아니라 기존 시스템과의 연계도 가능해 고객의 요구를 충족할 것으로 기대를 모은다"고 밝혔다. 그러면서 "최근 기업은 방대한 데이터를 통해 고객 맞춤형 에이전트를 제공하는 방법을 찾고 있다"며 "특히 사무실 외 근무가 보편화된 시점에서 실시간 상호작용과 AI 기반 소통을 더욱 중요해질 것"이라고 덧붙였다.

2025.04.03 14:37김미정 기자

  Prev 1 2 Next  

지금 뜨는 기사

이시각 헤드라인

공공SW 유지보수 요율 10% 불과…글로벌기업 절반 수준

최진일 이마트24 "특화점포, 상품 테스트베드...CU 의식 안 해"

펄어비스 '붉은사막' 출시 D-7...글로벌 시장 정조준

기름값 상한제 도입…‘1724원의 약속’ 지켜질까

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.