ZDNet 검색 페이지

'보안 인텔리전스'통합검색 결과 입니다. (9건)

AI 안전망 넓히는 오픈AI, 에이전트 보안 강화

오픈AI가 인공지능(AI) 에이전트 업무 범위를 넓히는 동시에 보안과 데이터 보호 장치도 강화했다 오픈AI는 29일(현지시간) 미국 샌프란시스코에서 열린 개발자 행사 데브데이 2026에서 코덱스 시큐리티 클라우드 기능을 강화하고 새로운 기업용 데이터 보호 체계 '프라이빗 인텔리전스'를 공개했다. 코덱스 시큐리티 클라우드는 기업 코드를 지속적으로 검사해 보안 취약점을 찾고 실제 위험 여부를 확인한 뒤 수정안까지 만든다. 프라이빗 인텔리전스는 기업이 민감한 정보를 외부에 노출하지 않고 오픈AI의 고성능 모델과 안전 기능을 사용할 수 있도록 한다. 이번 발표는 AI 안전 문제가 다시 부각되는 가운데 나왔다. 오픈AI는 다음 달 선보일 예정이던 GPT-6.1 아스트라가 내부 안전성과 정렬 기준을 충족하지 못하자 출시를 보류했다. 내부 평가에서는 모델이 자신의 행동을 정확하게 알리지 않거나 사람의 감독을 피하려는 문제가 나타난 것으로 전해졌다. 오픈AI는 AI 에이전트가 장시간 업무를 수행하고 여러 시스템에 접근할수록 행동 범위와 데이터 접근을 통제하는 장치가 중요해진다고 설명했다. 샘 알트먼 오픈AI 최고경영자(CEO)는 "에이전트가 안전하게 작동하고 데이터를 보호할 수 있어야 한다"고 말했다. 취약점 찾고 수정안까지…코덱스 시큐리티 클라우드 코덱스 시큐리티 클라우드는 개발자가 작성한 코드를 계속 살펴보면서 해킹에 악용될 수 있는 취약점을 찾는 서비스다. 문제가 있을 가능성을 알리는 데 그치지 않고 실제 위험한 문제인지 검증한 뒤 개발자가 확인할 수 있는 수정안까지 제시한다. 깃허브에 저장된 코드를 연결하면 새롭게 추가되거나 변경된 부분을 지속적으로 검사한다. 정해진 시간마다 자동 검사를 실행할 수 있으며 같은 문제를 여러 차례 찾아내는 중복 결과도 걸러낸다. 취약점을 발견하면 해당 코드가 실제 공격에 이용될 수 있는지도 확인한다. 이후 문제를 고칠 수 있는 코드를 만들고 시험한 뒤 개발자가 검토할 수 있도록 제시한다. 사람이 최종 판단을 내리는 구조는 유지했다. 어떤 문제를 조사하고 어떤 수정안을 실제 코드에 반영할지는 개발자나 보안 담당자가 결정한다. 코덱스 시큐리티 클라우드는 지난 3월 연구 프리뷰로 처음 공개됐다. 이후 3만 개가 넘는 코드베이스에서 3000만 건 이상 코드 변경을 검사했다. 이 가운데 7만 건이 넘는 문제는 사람이 수정 완료를 확인했고 50만 건이 넘는 문제는 시스템이 자동으로 수정 완료된 것으로 판정했다고 오픈AI는 밝혔다. 이번 데브데이에서는 자동 중복 제거와 예약 검사 기능을 추가하고 이용 화면도 새롭게 개편했다. 보안팀이 취약점을 발견하는 데서 끝나지 않고 실제 수정까지 이어지는 시간을 줄이는 데 초점을 맞췄다. 알트먼 CEO는 "코덱스 시큐리티 클라우드는 클라우드 환경에서 지속적으로 취약점을 찾고 검증된 수정안을 준비한다"고 설명했다. 기업 데이터는 보호…'프라이빗 인텔리전스' 오픈AI는 기업이 민감한 정보를 AI에 맡길 때 데이터 노출을 줄이기 위한 프라이빗 인텔리전스도 공개했다. 금융 정보나 의료 데이터, 회사 내부 문서처럼 외부에 공개하기 어려운 정보를 다루는 기업을 위한 기능이다. 여기에는 데이터를 저장하지 않으면서 AI 사용 과정의 위험을 검사하는 '프라이빗 세이프티 프로세싱'이 포함된다. 데이터 비저장 방식인 '제로 데이터 리텐션(ZDR)'과 함께 사용하면 이용자가 입력한 내용과 AI의 답변을 오픈AI가 보관하지 않은 상태에서도 자동 안전 검사를 할 수 있다. AI 안전 검사는 보통 이용자가 입력한 내용이나 모델의 답변을 확인해야 한다. 프라이빗 세이프티 프로세싱은 고객이 관리하는 저장 공간에 데이터를 두고 자동 시스템이 위험 신호를 찾아내는 방식이다. 오픈AI 직원은 원본 내용에 접근할 수 없다. 안전 문제가 발견돼도 오픈AI에는 문제 유형 등 제한된 정보만 전달된다. 기업의 실제 문서나 이용자가 AI에 입력한 구체적인 내용은 보내지 않는다. 오픈AI는 민감한 데이터가 AI 처리 과정에서 노출되지 않도록 하는 '프라이빗 인퍼런스'도 개발하고 있다. 기업이 중요한 데이터를 보호하면서 프런티어 AI를 사용할 수 있도록 하는 기술이다. 알트먼 CEO는 "기업이 가장 발전된 모델을 사용하면서도 자신의 데이터를 더 강하게 통제할 수 있도록 하는 것이 목표"라며 "프라이버시와 프런티어 AI를 함께 제공하는 새로운 기준을 만들 수 있을 것"이라고 말했다.

2026.09.30 05:12김동원 기자

에임인텔리전스, 'AI 레드티밍·가드레일'로 안전한 AI 생태계 구축

인공지능(AI) 보안 전문 기업 에임인텔리전스가 AI 시스템을 공격해 취약점을 찾는 레드팀과 AI 행동을 실시간으로 통제하는 가드레일을 결합해 AI 생애주기 전체를 관리하는 플랫폼을 구축하겠다는 청사진을 제시했다. 박하언 에임인텔리전스 최고기술책임자(CTO)는 지난 7일 삼성금융캠퍼스에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 AI 안전 전략을 소개했다. 박 CTO는 이날 "이제 중요한 질문은 AI를 어디에 활용할 것인가가 아니다. 누가 AI를 통제하고, 어떻게 통제할 것인지를 고민해야 한다"고 강조했다. 생성형 AI가 빠르게 발전하면서 위험도 함께 커지고 있다는 것이 박 CTO의 진단이다. 심지어 AI는 이제 스스로 행동하는 에이전트를 거쳐 실제 물리적 환경에서 움직이는 피지컬 AI 시대로 진입하고 있다. 그는 "에임인텔리전스 레드티밍 결과 가장 안전하다고 평가받는 AI 모델조차 10분 안에 탈옥(Jailbreak)이나 인격 변조가 가능했다"며 "뿐만 아니라 새로운 AI 취약점은 계속 등장하기 때문에 단순히 취약점을 찾는 것이 아니라 국제 표준과 프레임워크를 기반으로 객관적으로 평가하는 것이 중요하다"고 말했다. 이처럼 AI 모델의 취약점을 발굴하고 조치하는 것만으로는 AI를 안전하게 활용하는 데 한계가 있다는 것이 박 CTO의 판단이다. 이에 에임인텔리전스는 AI 레드티밍과 더불어 AI 통합 관리 플랫폼이자 가드레일인 '스타포트(Starport)'를 선보여 AI 모델과 챗봇, AI 에이전트를 실시간으로 통제하는 환경을 지원한다는 계획이다. 스타포트는 AI 모델과 챗봇, AI 에이전트를 실시간으로 통제하는 플랫폼이다. 핵심에는 '가디언(Guardian)'이라 불리는 경량 AI 가드레일 모델이 탑재된다. 이 모델은 기업 내부 또는 온프레미스 환경에 구축돼 AI 서비스 앞단과 뒷단에서 프롬프트와 응답을 실시간으로 검사한다. 개인정보나 민감정보가 외부 생성형 AI 서비스로 전송될 경우 자동으로 마스킹하거나 차단하며, 기업 정책에 맞게 AI 활용을 통제한다. 특히 AI 에이전트는 다양한 하위 에이전트와 외부 도구, API를 활용해 작업을 수행하기 때문에 전체 실행 과정을 관리해야 한다. 이에 스타포트는 기업 내 AI 모델과 에이전트 현황을 파악하는 인벤토리 기능과 AI 간 데이터 이동 및 권한 사용을 분석하는 관측(Observation) 기능을 제공한다. 이후 정책 기반으로 허용과 차단, 권한 제어까지 하나의 플랫폼에서 수행하도록 구성했다. 박 CTO는 이어 "현재 에임인텔리전스는 60개 이상의 AI 모델을 대상으로 레드팀 테스트를 수행했으며, 해외 20여 개 기업에 관련 솔루션을 공급하고 있다"며 "또한 58개 이상의 글로벌 보안 프레임워크와 매핑해 결과를 제공하고 있으며, 약 1200만 명이 사용하는 서비스에 가드레일 기술이 적용됐고, 10만 개 이상의 AI 에이전트를 관리하고 있다"고 소개했다. 그는 "AI를 안전하게 활용하기 위해서는 공격과 방어, 탐지와 통제까지 연결된 전 주기 보안 체계가 필요하다"며 "한 기업만으로 해결할 수 있는 문제가 아닌 만큼 글로벌 기업과 연구기관, 산업계가 함께 AI 안전 생태계를 만들어가야 한다"고 당부했다. 한편 지난 7일 개최한 'AI 리스크 컨퍼런스 서울 2026'은 에임인텔리전스가 개최하고, 삼성화재가 후원하는 컨퍼런스로, 100명 이상의 국내외 기업 관계자들이 참여했다. 현장에서는 AI 리스크를 정의하고, 효과적인 관리를 위한 논의와 강연이 이어졌다. 에임인텔리전스는 이번 컨퍼런스를 기점으로 주기적으로 AI 리스크 컨퍼런스를 개최할 예정이다.

2026.09.17 21:52김기찬 기자

"'인다이렉트 인젝션' 해커 공격, 듀얼 LLM으로 방어 가능"

'이병영 서울대 전기정보공학부 교수는 7일 에임인텔리전스가 개최한 'AI 리스크 컨퍼런스 서울 2026'에서 "듀얼 LLM'을 활용하면 해커의 '인다이렉트 인젝션' 공격을 효과적으로 방어할 수 있다"고 밝혔다. 이날 이 교수는 '듀얼 LLM을 활용한 에이전트 보호'를 주제로 발표했다. '듀얼 LLM'은 LLM이 사용자 의도에서 벗어난 명령을 수행하도록 유도하는 공격, 즉 '프롬프트 인젝션' 공격을 방어하기 위한 기술이다. 작동 원리는 LLM을 하나로 운영하는 것이 아니라 두 LLM을 격리해 운영하는 식이다. 사용자가 명령을 입력하는 LLM은 '신뢰할 수 있는 LLM(Trusted LLM)'에서 운영하고, LLM이 명령 수행을 위해 외부 웹이나 애플리케이션에 접근할 때에는 격리된 LLM에서 작업을 수행토록 한 구조다. 이 교수는 "프롬프트 인젝션 공격은 크게 두 가지로 나뉜다. LLM의 가드레일을 우회할 수 있는 '다이렉트 인젝션'과 공격자가 외부 데이터를 조정해서 사용자가 시키지 않은 일을 하게 만드는 '인다이렉트 인젝션' 공격 등이다"라며 "'인다이렉트 인젝션' 공격에서 LLM이 취약한 이유는 유저 프롬프트와 공격자의 컨텍스트가 섞인다는 것"이라고 설명했다. 그는 이어 "듀얼 LLM 기술을 적용하면 인다이렉트 인젝션 공격을 효과적으로 방어할 수 있다"며 "예를 들어 공격자가 외부 데이터를 조정해 모든 데이터를 삭제하라는 명령어를 입력해 놓았다고 가정하면, 기존의 방식대로 LLM을 사용하면 이같은 위협에 노출될 수밖에 없다. 반면 외부와 접촉하는 LLM이 샌드박스에서 리소스 권한이 주어지지 않은 격리된 환경에서 작동하고, 사용자가 명령을 입력하고 입력값을 받는 신뢰받을 수 있는 LLM에는 결과값을 보안에 영향을 주지 않은 값으로 제공하는 식이다"라고 밝혔다. 이 교수는 이날 실제 오픈클로에 이같은 듀얼 LLM 기술을 적용한 결과 공격 성공률은 0%, LLM 효율은 81.6%로 나타났다"며 "이는 베이스라인 LLM을 사용했을 때 효율과 비슷하다"고 말했다. 그는 "LLM은 명령 수행 시 외부 데이터 없이 작동할 수 없다"며 "LLM 및 AI 에이전트의 안전한 외부 데이터 접근을 어떻게 관리할 것인지 주목해야 할 때"라고 강조했다. "금융권, AI 보안 위협 대응 위해 6대 보안 수칙 지켜라" 김성웅 금융보안원 AI보안연구소장도 세션 발표에 나서 "AI발 자동화된 대규모 공격 위협은 우리 금융 산업에도 현실화됐다"고 지적했다. 김 소장은 "앤트로픽 미토스 등 프론티어 AI 모델은 시스템의 취약점을 탐색하고 공격까지도 가능하게 만들어졌다"며 "이같은 보안 위협은 현재 일부 업무나 시스템이 마비되고 제한적인 정보가 유출되는 국지적 사고에 머물겠지만 조만간 핵심 자금결제 시스템이 마비되거나 디지털 뱅크런과 같은 금융 시스템 자체가 흔들리는 대규모 보안사고로 이어질 가능성이 매우 높다"고 우려했다. 김 소장은 실제 다수 금융기관을 대상으로 AI 기반 공격을 수행한 사례를 소개했다. 금융보안원에 따르면 공격자는 딥시크 기반 AI 에이전트를 활용해 금융권 웹로직을 스캔, RCE(원격 코드 실행) 취약점을 통해 웹셀을 설치한 정황을 포착했다. 금융보안원은 이를 포착해 추가 악승코드가 내부 시스템으로 확산되지는 않았으나, 이를 AI 에이전트를 활용한 최초 공격 사례로 지목했다. 김 소장은 "기존 공격 양상이 한 곳을 집중 공격하는 표적형이거나 넓은 범위 대상의 공격 가능성을 탐색하는 스캔형이었다면, 이번 공격은 AI 에이전트를 활용한 표정형 공격을 넓은 범위에 적용하는 사례였다"고 진단했다. 아울러 김 소장은 이날 금융보안원이 지난 7월 발표한 '프론티어 AI 보안 위협 금융분야 대응 요령'의 세부 내용을 기반으로 AI발 위협에 대응해야 한다고 강조했다. '프론티어 AI 보안 위협 금융분야 대응 요령'에서는 AI 보안 위협에 대응해 ▲경영진 책임 강화 ▲자산 및 공급망 관리 강화 ▲취약점 및 패치 관리 ▲AI 기반 방어 자동화 ▲침해 확산 방지 ▲시스템 복원력 강화 등을 주문하고 있다. AI로 인해 사이버 보안 위협이 크게 고도화됐고, 이는 정보보호최고책임자(CISO)만의 역할로 국한하기엔 한계가 있다는 것이 김 소장의 주장이다. 이에 CISO뿐 아니라 경영진, 이사회 중심의 전사적 대응에 나서고, 자산과 취약점을 주기적으로 관리할 수 있어야 한다고 제언했다. 또한 그는 업무에 미치는 위험도를 고려한 AI 기반의 자동화 방어 체계를 수립하고, 제로트러스트 기반으로 침해사고가 발생하더라도 확산을 방지할 수 있어야 한다고 주문했다. 만약 사고가 발생하더라도 사후 관리 대책을 수립해 시스템 복원력을 높이는 것도 중요하다고 역설했다.

2026.09.07 17:06김기찬 기자

[현장] 지란지교소프트, "AI 시대 핵심은 안전"…3사 통합으로 보안·데이터·AI 결집

지란지교소프트가 지란지교데이터와 넥스트인텔리전스닷에이아이(NI)를 통합해 보안·데이터·인공지능(AI) 역량을 결집하고 기업용 AI 시장 공략에 나선다. AI 모델 경쟁보다 기업이 AI를 안전하게 활용할 수 있는 환경 구축에 집중하겠다는 전략이다. 지란지교소프트는 14일 판교 사옥에서 미디어데이를 열고 통합 법인 출범 비전과 사업 전략을 공개했다. 회사는 기존 SaaS 운영 역량과 고객 기반, 엔터프라이즈 보안 역량, 생성형 AI 기술을 결합해 기업이 안심하고 AI를 활용할 수 있는 업무 환경 구축에 나선다는 계획이다. 통합한 지란지교소프트는 각자대표 체제로 운영된다. 박승애 대표는 통합 법인의 전체 성장 전략과 사업 비전을 총괄한다. 유병완 대표는 공공·금융·엔터프라이즈 시장을 중심으로 보안·데이터 사업 확장을 맡는다. 이석민 CTO는 AI 기술 개발과 제품 적용을 책임지며 통합 법인의 AI 경쟁력 강화를 이끈다. "통합은 성장 위한 결정…안전한 AI 업무 환경 제공" 박승애 지란지교소프트 대표는 이번 통합에 대해 "지란지교소프트는 이미 안정적으로 성장하고 있는 회사"라며 "부족함을 메우기 위한 선택이 아니라 더 크게 성장하기 위해 내린 결정"이라고 밝혔다. 그는 합병 배경으로 급변하는 AI 시대에 대한 대응 속도를 꼽았다. 기존에는 회사를 나눠 각 사업과 서비스에 특화하는 방식이 효율적이었지만, 변화 속도가 빠른 AI 환경에서는 조직 간 조율과 의사결정 절차가 오히려 걸림돌이 될 수 있다는 설명이다. 이에 따라 3사 합병을 통해 의사소통 체계를 일원화하고 시장 변화에 신속히 대응하겠다는 전략이다. 이 과정에서 100% 고용승계를 진행했으며 HR·재무 등 업무가 중복되는 조직은 일부 통합했지만 데이터 사업부문·오피스 사업부문은 기존 조직을 유지한 채 배치했다고 밝혔다. 박 대표는 AI 시대 핵심 전략으로 안전한 업무환경 구축을 제시했다. 이를 위한 핵심 플랫폼은 '시큐어 AI 오피스'다. 시큐어 AI 오피스는 기업이 생성형 AI를 업무에 활용하는 과정에서 개인정보와 민감정보를 보호하고, 보안 정책과 권한 체계 안에서 AI를 안전하게 사용할 수 있도록 지원하는 환경이다. 그는 보안·데이터·AI 역량을 결집해 기업이 가장 믿고 사용할 수 있는 AI 업무 환경을 제공하는 기업으로 자리매김하겠다는 비전을 밝혔다. 회사는 올해 통합 기준 매출 목표로 400억원을 제시했으며, 이는 지난해 3개 회사 합산 매출 약 313억원보다 28% 증가한 수준이다. 기업공개(IPO)와 관련해서는 항상 준비는 하고 있지만 우선 통합 이후 사업 안정화와 실적 성장에 우선 집중하겠다고 입장을 밝혔다. 박 대표는 "중요한 것은 기업이 AI를 안심하고 업무에 적용해 실제 성과로 연결할 수 있느냐"며 "고객이 AI를 가장 믿고 사용할 수 있게 만드는 회사가 되겠다"고 말했다. 안전한 AI 업무 환경으로 공공·중견 시장 확대 유병완 대표는 합병 이후 시장 전략으로 안전한 AI 업무 환경 구축을 제시했다. 생성형 AI를 도입하는 과정에서 데이터 유출과 권한 통제 문제를 줄이고 사내 보안 정책 안에서 AI를 안전하게 활용할 수 있도록 지원한다는 방침이다. 지란지교데이터는 현재 1만여 공공기관 및 기업 고객, 150만명 이상 사용자를 확보하고 있다. 이 같은 공공 분야 경험을 바탕으로 금융·엔터프라이즈 시장 확대에 나선다는 설명이다. 공공기관 AI 도입 전략은 예산 여건에 따라 이원화한다. 예산이 충분한 기관에는 고성능 인프라를 적용하고 예산이 제한적인 기관에는 NPU 활용과 모델 경량화를 통해 비용 효율을 높인다는 방침이다. 기관별 예산과 인프라 차이가 큰 만큼 맞춤형 구축 전략이 필요하다는 설명이다. 중소기업 시장에 대해서는 보안 우려와 내부 데이터 현황 파악 부족으로 AI 도입 결정이 늦어지는 경향이 있다고 진단했다. 이에 따라 교육회사와 연계한 컨설팅·업무 환경 분석을 먼저 진행하고 이후 오피스 에이전트 도입 컨설팅으로 이어지는 2단계 확산 전략을 제시했다. 유 대표는 "AI는 보안 솔루션과 달리 사용을 강제하기 어려운 만큼, 직원들이 실제 업무 편의를 체감할 수 있어야 확산될 수 있다"고 설명했다. 이어 "생성형 AI 시대에는 문서·PDF·이미지 등 비정형 데이터 보호가 더욱 중요해지고 있다"며 "지란지교데이터는 AI OCR 기반 개인정보 비식별화, 생성형 AI 프롬프트·응답 필터링, 공공·금융권 규제 대응 기능 등을 제공하고 있다"고 밝혔다. 데이터 통제권 유지하며 안전한 AI 활용 지원 이석민 CTO는 안전한 AI 업무환경을 구현하기 위해 지란지교소프트가 개발 중인 기술에 대해 소개했다. 'LLM 프록시 게이트웨이'는 외부 AI 사용을 막는 것이 아니라 기업이 데이터 통제권을 유지한 상태에서 AI를 활용할 수 있도록 설계된 기술이다. 이 구조에서는 사용자가 AI에 질문을 입력하면 개인정보, 계좌번호, 소스코드 등 민감정보를 자동 탐지·마스킹한 뒤 외부 AI로 전달한다. AI가 생성한 응답 역시 정책과 권한 검증을 거쳐 사용자에게 제공된다. 이 CTO는 "기업의 문서 검색은 단순히 많은 결과를 보여주는 것이 아니라 권한에 맞는 정보를 정확하고 빠르게 제공하는 것이 중요하다"며 "오피스 에이전트는 문서 검색을 넘어 기업 데이터를 이해하고 보안 정책을 준수하는 AI 업무 플랫폼으로 발전할 것"이라고 말했다. 회사는 메일, 메신저, 문서, 일정 데이터를 활용하는 기업용 AI 에이전트 '오피스 에이전트'도 소개했다. PDF, 한글(HWP), 이미지, 표 등 비정형 데이터를 이해하고 사용자 권한에 따라 필요한 정보만 제공하는 것이 특징이다. 이 CTO는 "기업의 문서 검색은 단순히 많은 결과를 보여주는 것이 아니라 권한에 맞는 정보를 정확하고 빠르게 제공하는 것이 중요하다"며 "오피스 에이전트는 문서 검색을 넘어 기업 데이터를 이해하고 보안 정책을 준수하는 AI 업무 플랫폼으로 발전할 것"이라고 말했다. 박승애 대표는 "지란지교소프트가 더 크게 성장하기 위해 필요한 금융·대기업·엔터프라이즈 역량을 유 대표가 책임질 것"이라고 설명했다. 이어 "AI 모델과 새로운 기술은 계속 등장하겠지만 가장 중요한 것은 기업이 안심하고 업무에 적용해 실제 성과로 이어지게 만드는 것"이라며 "지란지교소프트는 기업이 AI를 가장 믿고 사용할 수 있게 만드는 회사가 되겠다"고 밝혔다.

2026.07.14 13:06남혁우 기자

"미토스 시대...보안, 항시 내재 'with' 개념 접근해야"

라온시큐어가 신뢰 가능한 인공지능(AI), 자율 진화형 보안 체계 구축을 통한 AI와 보안이 완전히 내재된 패러다임을 제시했다. 윤원석 라온시큐어 부사장은 8일 개최한 '제15회 정보보호의 날 기념식'에서 '미토스 시대 AI와 시큐리티의 공존 전략'을 주제로 발표했다. 앤트로픽의 AI 모델 '미토스(Mythos)'가 취약점을 찾아내고 익스플로잇(취약점 공격) 생성을 빠르게 수행하는 것으로 알려지면서, 쏟아지는 취약점을 대비해야 하는 시대가 됐다. 실제로 미공개 모델인 미토스는 1만개가 넘는 고위험·치명적인 취약점을 한 달여 만에 발견했다. 이로 인해 버그 발견 횟수도 10배 이상 늘어났다. 이에 '미토스 시대'에서는 보다 진화한 AI 보안 패러다임이 필요하다는 것이 윤 부사장의 생각이다. 윤 부사장은 기존 AI 보안 패러다임인 'AI를 위한 보안(Security for AI), 보안을 위한 AI(AI for Security)'로는 부족하다고 판단했다. 필요 시에만 연결하는 '위한(for)'의 개념이 아니라 항시 내재된 'with'의 개념으로 접근해야 한다는 것이다. 그는 "스스로 계획하고 도구를 호출하며 외부에 영향을 미치는 에이전틱 AI는 보안이 항시 내재돼 있어야 한다"며 "이를 위해 신뢰 가능한 AI(AI with Security), 자율 진화형 보안(Security with AI)이 필요하다. 또한 실시간으로 위협을 학습하고 이를 다시 신뢰 가능한 AI에 반영하는 하나의 선순환 구조가 필수적이다. 신뢰 가능한 AI가 자율 진화영 보안을 위한 분석·대응 엔진이 되고, 신뢰 가능한 AI가 학습한 위협 정보 및 패치 결과는 다시 자율 진화형 보안의 가드레일·정책이 되는 식"이라고 말했다. 신뢰 가능한 AI 구현을 위해서 윤 부사장은 AI 에이전트 권한 관리(AAM) 수행이 필수적이라고 강조했다. 그는 "AI 에이전트에 고유 ID를 부여하고 권한·위임·이력을 통합 관리해야 한다"며 "이를 통해 AI 에이전트의 모든 활동 이력을 기록함으로써 자율적 의사결정에 대한 책임 소재를 명확히할 수 있다"고 강조했다. 윤 부사장은 또한 "취약점 분석과 공격 시뮬레이션도 AI로 자동화해 공격자보다 먼저 취약점을 발견·검증하고, 그 결과를 자율 패치와 연계하는 것도 필요하다"고 에이전틱 AI 보안 분석(AASA)에 대한 개념도 제안했다. "똑똑한 AI라고 안전한 것 아냐…다층 방어 핵심" "가장 강한 가드레일을 적용한 AI 모델에서도 우회가 확인됐습니다." 유상윤 에임인텔리전스 대표도 이날 윤 부사장에 이어 'AI 에이전트를 위한 보안-실제 사례들과 현재 단계'를 주제로 발표했다. 그는 이날 현존 가장 강한 가드레일(보안 정책)을 적용한 AI 모델에도 이를 우회할 수 있는 실제 사례가 발견됐다고 밝혔다. 그는 "AI 에이전트는 3가지 치명적인 요소가 있다. 바로 민감 데이터를 취급한다는 점, 외부와 통신한다는 점, 비신뢰 콘텐츠를 제공한다는 점이다"라며 "AI 보안을 위해서는 AI 에이전트의 3가지 요소를 고려해 명령이 들어오지 않도록 레벨에서 분리하거나, 민감 데이터의 경우 샌드박스에서 작동하도록 하는 등 강화된 보안을 적용해야 한다"고 설명했다. 그는 이어 "OWASP에서도 에이전트 전용 취약점 10가지를 제시했지만, 실제 사고는 여러 요소가 결합된 체인 형태로 이뤄진다. 많은 도구들이 붙고, 접근하기 때문에 AI 모델 자체가 단일 공급망 공격면이 되고 있다"면서 "더 똑똑한 모델이라고 안전하지는 않다. 이는 확실하게 틀린 통념이다. 어떤 가드레일도 모든 우회를 막아내지는 못한다"고 강조했다. 아울러 유 대표는 "안전은 모델 안에 들어있는 성질이 아니라 바깥 아키텍처가 만드는 성질"이라며 "다층 방어를 평가·인증의 기본 요구사항으로 두고, AI 모델에게 민감정보를 맡기는 것이 아니라 닿기 전에 구조적으로 막는 것이 핵심"이라고 역설했다. 한편 에임인텔리전스는 한국인터넷진흥원(KISA)과 국내 20개 기업을 선정해 AI 서비스에 대한 레드티밍 서비스를 제공하는 사업을 공동 진행 중이다. 유 대표는 이날 KISA와 추진하는 사업에 대한 간략한 소개도 덧붙였다. 그는 "지난달까지 22개 사업자를 선정해 AI 모델에 대한 레드티밍을 진행하려 한다"며 "대상 사업자들은 실제 원전이나 인프라에 영향을 주는 사업자들로 구성돼 있다. 올해 하반기에 레드티밍 성과를 공유하고, 기업들에게 어떤 문제가 산재해 있는지 가이드라인을 제시하겠다"고 밝혔다.

2026.07.08 22:44김기찬 기자

에임인텔리전스, 100억 원 규모 시리즈A 투자 유치 성공

인공지능(AI) 보안 전문기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)가 100억 원 규모의 시리즈A 투자를 유치하는 데 성공했다고 10일 밝혔다. 이번 투자 라운드는 삼성벤처투자가 리드 투자자로 참여했으며, 기존 투자자인 미래에셋캐피탈을 포함해 신규 투자자인 포레스트벤처스·스마일게이트인베스트먼트 등 4곳이 합류했다. 이번 투자 유치를 통해 에임인텔리전스의 누적 투자금은 약 120억 원을 달성했다. 이번 투자에는 AI 안전성 수요 증가와 에임인텔리전스의 독보적인 기술력이 높이 평가된 것으로 분석된다. 최근 생성형 AI 도입이 전 산업으로 확대되면서 할루시네이션·탈옥(Jailbreak)·프롬프트 인젝션 등 AI 고유의 보안 위협이 기업 리스크의 핵심으로 급부상했다. 이러한 상황 속에서 에임인텔리전스는 LLM 뿐만 아니라 시각언어모델(VLM)·음성·멀티모달 등 전 영역의 취약점을 실제 서비스 환경에 맞춰 검증 및 차단하는 솔루션을 고도화하며 핵심 기업들의 주목을 받았다. 실제 에임인텔리전스는 오픈AI, 메타 등 글로벌 빅테크 기업과도 협력하며 AI 레드팀 및 안전성 평가 분야에서 기술력을 입증한 바 있다. 에임인텔리전스는 이번 투자를 통해 핵심 인재 영입·솔루션 고도화를 진행해 글로벌 시장 진출 및 B2B 사업 확장에 속도를 낼 계획이다. 자동화된 AI 레드티밍 플랫폼 확장과 B2B SaaS 형태의 AI 가드레일 솔루션을 통해, 기업 고객이 복잡한 보안 설정 없이도 즉시 도입이 가능한 수준까지 기술력을 끌어올리겠다는 전략이다. 에임인텔리전스는 대규모언어모델(LLM)·AI 에이전트·피지컬 AI 등 다양한 인공지능 분야의 보안을 통합적으로 관리해 개인과 기업의 안전성을 높이고 있다. 특히 AI 모델과 기반 서비스의 취약점을 찾는 레드팀 솔루션과 AI가 위험 행동을 하지 않도록 안전장치를 설정하는 가드레일 솔루션 등 일종의 'AI 보안을 위한 창과 방패'를 두루 제공하고 있다. 아울러 세계적인 권위를 가진 글로벌 AI 학술지 논문 게재를 통해 기술 역량도 증명해왔다. 주요 금융권 및 통신업계에 보안 솔루션을 제공하고 있으며, 경쟁력을 확대해왔다. 유상윤 에임인텔리전스 대표는 “최근 생성형 AI 도입이 가속화되며 AI 보안은 이젠 선택이 아닌 필수 생존 전략이 됐다”며 “에임인텔리전스는 단순 보안 진단을 넘어 기업의 AI혁신 과정에서 발생하는 모든 리스크를 관리하는 'AI 안전 글로벌 표준'을 만들어 낼 것”이라고 밝혔다.

2026.04.10 12:54김기찬 기자

카스퍼스키 "금융권, '디지털 취약점 뷔페' 됐다…대응 필요"

사이버 보안 기업 카스퍼스키(한국지사장 이효은)가 금융업을 '디지털 취약점의 뷔페'가 되고 있다고 지적했다. 금융 산업이 급격한 디지털 전환을 거치면서 보안 위협도 커졌다는 의미다. 카스퍼스키는 10일 금융 산업 분야의 디지털 전환 트렌드와 보안 위협 증가 대응 방안을 발표했다. 카스퍼스키는 금융권의 디지털 전환으로 API, 클라우드, 인공지능(AI) 기반 인텔리전스를 중심으로 초연결 생태계로 진화하고 있다고 진단했다. 이는 고객 중심의 혁신, 신속한 운영 프로세스, 무한한 확장성을 약속하지만, 동시에 해커들에게는 새로운 공격 표면을 제공한다는 문제도 상존한다. 구체적으로 금융 산업은 디지털 전환으로 오픈 뱅킹 API, 서비스형 뱅킹(BaaS), 임베디드 파이낸스, 클라우드 마이그레이션, AI 등의 도입이 빠르게 진화하고 있다. 이러한 변화는 고객 중심의 혁신과 효율성을 높이는 동시에, 새로운 보안 취약점을 동반한다. 그러나 디지털 전환을 피할 수 없는 상황임에도 금융권은 불충분한 보안 조치로 고위험 침해사고를 겪을 우려도 나온다. 카스퍼스키에 따르면 은행·금융·보험기관은 연간 평균 120만 달러를 사이버 보안에 지출하고 있다. 이는 적지 않은 금액처럼 보이지만, 대규모 보안 사고의 평균 피해액인 약 320만 달러와 비교하면 2.7배나 적은 수준이다. 카스퍼스키는 금융 기관에 보안 강화를 위해 ▲종합적인 준비 및 점검 ▲첨단 기술 도입 ▲지속적 학습과 인텔리전스 등 3가지 대응 방안에 대해 제시했다. 우선 종합적인 준비 및 점검 단계가 필요하다. 카스퍼스키는 금융사의 전체 인프라를 철저히 평가하고, 기존 프로세스를 검토하며 취약점을 공격자보다 먼저 해결해야 한다고 제언했다. 그러면서 내부 팀 주도보다 외부 전문가의 참여로 새로운 관점에서의 위협을 포착하는 것도 중요하다고 강조했다. 또한 보안팀이 모든 공격 벡터를 통합적으로 모니터링하고 제어할 수 있는 플랫폼을 구축해야 한다. 끝으로 위협이 계속 진화하는 만큼 최신 위협 환경에 대한 이해 유지가 중요하다고 카스퍼스키는 진단했다. 이에 고급 위협 인텔리전스와 분석을 활용하여 보안 전략을 선제적으로 조정해야 한다고 주문했다. 카스퍼스키 이효은 한국지사장은 “최첨단 기술, 지속적인 교육, 그리고 신뢰할 수 있는 파트너십이 결합될 때, 금융기관은 회복 탄력적인 인프라를 구축할 수 있다. 이러한 접근을 통해 재정적 리스크를 최소화하고, 규제 준수를 보장하며, 비즈니스 연속성을 유지할 수 있다”며 “카스퍼스키는 28년 이상 전 세계 수천 개 금융기관을 보호해오며 은행·금융·보험 분야에서 깊은 전문성을 가진 사이버 보안 제공기업으로서, 보안 도전 과제를 깊이 이해하고 있으며, 가장 엄격한 기준에 부합하는 맞춤형 솔루션을 제공한다”고 말했다.

2025.11.10 10:07김기찬 기자

데이터브릭스, AI 통합 보안 에이전트 출시

데이터브릭스가 사이버 공격에 대응하기 위해 인공지능(AI) 기반 통합 보안 플랫폼을 선보였다. 데이터브릭스는 새 보안 솔루션 '데이터 인텔리전스 포 사이버시큐리티'를 출시했다고 6일 밝혔다. 이 플랫폼은 기존 보안 시스템과 연동해 모든 데이터를 통합하고 개방형 파트너 생태계를 활용할 수 있게 설계됐다. 이 솔루션은 레이크하우스 아키텍처 기반으로 보안팀이 조직 전반의 데이터에서 실시간 인텔리전스를 확보하도록 지원한다. 이를 통해 숨겨진 위협까지 빠르게 포착하고, 공격 전후 맥락을 파악해 보다 정밀한 대응이 가능하다. 플랫폼 핵심인 '에이전트 브릭스'는 보안팀이 직접 실무에 적용 가능한 AI 에이전트를 구축·배포하도록 돕는다. 이를 통해 탐지와 분석 속도를 높이고, 거버넌스가 적용된 안전한 보안 워크플로를 운영할 수 있다. 이번 솔루션에는 비전문가도 활용할 수 있는 대화형 보안 인사이트 기능이 탑재됐다. 직관적 대시보드와 자연어 검색, 실시간 분석을 통해 경영진도 즉각적인 보안 정보를 확보할 수 있다. 기존 보안 정보 및 이벤트 관리(SIEM) 한계와 특정 벤더 종속 문제를 해소하며 통합 데이터 관리 역량을 강화했다. 글로벌 기업들은 이미 이 솔루션으로 보안 운영을 혁신하고 있다. 바라쿠다네트웍스는 탐지 엔지니어링을 최적화해 일일 저장 비용을 75% 절감하고 실시간 알림을 5분 이내로 구현했다. 팰로앨토네트웍스는 보안 데이터 통합 후 AI 기반 탐지 속도를 3배 높여 운영 비용을 절감했다. SAP는 규칙 배포 속도를 5배 이상 끌어올리고 위협 처리 시간을 단축했다. 데이터브릭스는 딜로이트, 아브노멀AI, 아틱울프, 옵시디언시큐리티 등과 새로운 파트너 통합을 공개했다. 이를 통해 고객은 다양한 기술과 서비스를 결합해 보다 통합적이고 측정 가능한 보안 성과를 달성할 수 있다. 오마르 카와자 데이터브릭스 보안 담당 부사장 겸 현장 정보보호 최고책임자(CISO)는 "데이터와 AI가 모든 조직의 가장 강력한 방어 전략이 될 수 있길 바란다"며 "보안팀은 보다 정확하고 거버넌스가 보장된 유연한 방식으로 AI 에이전트를 구축해 현대적 위협에 선제적으로 대응할 수 있을 것"이라고 말했다.

2025.10.06 15:16김미정 기자

파고네트웍스, AI 기반 통합 보안 플랫폼 '딥액트' 발표

국내 정보보호 기업 파고네트웍스가 인공지능(AI)을 기반으로 보안하는 플랫폼 '딥액트(DeepACT)'를 선보였다. 권영목 파고네트웍스 대표는 23일 서울 삼성동 그랜드인터컨티넨탈서울파르나스호텔에서 연례 행사 '파고 보안 정상회의(Pago Security Summit)'를 열고 이를 발표했다. 권 대표는 “제대로 탐지하고 대응하려면 레드팀(red team)·블루팀(blue team)·퍼플팀(purple team)을 운영하는 게 중요하다”면서도 “뛰어난 인재를 전체 팀으로 꾸려 상시 채용하려면 비용과 시간이 많이 든다”고 말했다. 그러면서 “딥액트를 고객에게 제공하는 이유”라며 “파고네트웍스가 관리형 탐지 및 대응(MDR) 분야 한국 시장 개척했다고 생각한다”고 자부했다. 레드팀이라는 말은 군사 훈련을 하다가 아군 약점을 알아채고자 적군 역할을 둔 데에서 유래했다. 블루팀은 레드팀 공격을 막는다. 퍼플팀은 레드팀과 블루팀이 협력하도록 중간 역할을 하거나 이들 임무를 모두 수행한다. 권 대표는 “파고네트웍스는 사이버 위협을 가장 먼저 감지하고, 가장 정확히 판단해, 가장 빠르게 차단한다는 원칙을 세웠다”며 “단순히 탐지하기를 넘어 선제적으로 대응하고 예측하려고 한다”고 강조했다. 파고네트웍스는 딥액트 주요 기능으로 ▲AI 기반 위협 식별 ▲사고 자동 대응 ▲다크웹 인텔리전스 기반 공격자 탐지 등을 소개했다. 권 대표는 “알고리즘 수준을 높여 정보를 꼼꼼하게 분석한다”며 “이상 징후를 실시간 식별해 빠르게 대응할 수 있다”고 설명했다. 또 “인텔리전스를 바탕으로 정보를 분석해 미래 위협을 예측하고 예방하도록 돕는다”며 “복잡한 운영 환경이 변해도 유연하게 대처한다”고 했다. 반복 작업을 자동화해 보안팀은 중요한 일에 집중할 수 있게끔 한다는 입장이다. 파고네트웍스는 한국 본사와 아울러 필리핀과 말레이시아에서도 보안 관제·분석하는 MDR센터를 24시간 운영한다. 권 대표는 “하반기 미국에도 센터를 열 것”이라고 귀띔했다. 권 대표는 “기술뿐 아니라 실행력과 현장 적용력을 겸비한 가치를 고객에게 제공하겠다”며 “보안은 단지 위험을 줄이는 수단이 아니라 기업이 신뢰를 기반으로 지속 성장할 수 있도록 돕는 핵심”이라고 마무리했다.

2025.04.23 13:08유혜진 기자

지금 뜨는 기사

이시각 헤드라인

'출시 코앞' 아이폰 듀오, 닛토보 'T-글래스' 확보 변수 부상

조항목 NS홈쇼핑 "홈플러스 익스프레스와 신선식품 유통 새 기준 세울 것"

"우리 아이들은 실험용 쥐가 아니다"…AI 활용의 덫

중국 손잡는 유럽車…뒤집힌 자동차 기술 주도권

ZDNet Power Center