• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
AI의 눈
디지털트러스트
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 위협'통합검색 결과 입니다. (24건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI, 해커와 맞붙는다…기업들 '사이버 보안 에이전트' 전방 배치

주요 기업들이 인공지능(AI) 기반 사이버 보안 에이전트를 전방 배치하고 있다. 해커들의 AI 활용이 점점 정교해지면서 영상·음성 딥페이크, 맞춤형 피싱, 악성코드 제작 등 공격 수법이 고도화되자 방어 측도 AI를 전면에 내세우는 양상이다. 11일 CNBC에 따르면 생성형 AI와 대규모언어모델(LLM)의 확산으로 최근 주요 기업들의 보안 전략이 고도화되고 있다. 가트너가 지난 5월 최고정보책임자(CIO)·IT 리더 147명을 대상으로 조사한 결과, 24%가 일부 AI 에이전트를 도입했으며 이 중 절반 이상이 IT·HR·회계 등 사내 지원 부서에서 활용 중이었다. 이중 보안 특화 AI도 주목받고 있다. 가트너 아비바 리탄 부사장은 "보안 분야는 AI의 초기 활용 사례로 적합하며 향후 디지털 보안 보조 시스템이 신종 공격에 대응할 것"이라고 전망했다. 이에 대해 브라이언 머피 릴라이어퀘스트 최고경영자(CEO)는 "대기업 차원에서 위협 탐지·차단·조사·대응을 동시에 수행하는 건 엄청난 도전"이라며 "AI를 활용하면 1·2차 분석 단계에서 발생하는 불필요한 잡음을 제거해 실제 위협 대응에 집중할 수 있다"고 말했다. 이어 "AI는 평범한 해커도 상급 공격자로 만들어준다"며 "방어 측이 이를 쓰지 않으면 AI의 현실적인 위협에 대응할 수 없다"고 덧붙였다. 이런 흐름에 릴라이어퀘스트는 최근 '그레이매터 에이전틱 티메이츠'라는 보안 AI 에이전트를 선보이며 보안운영센터(SOC) 탐지 엔지니어나 위협 인텔리전스 연구원이 맡던 작업을 자동화하고 있다. 이와 관련해 저스틴 델라포르타스 시나이버스 최고정보보안책임자(CISO)는 "AI 에이전트는 로그 분석 같은 기초 작업 자동화에서 나아가 의심 메일 격리·삭제, 계정 권한 제한 등 실제 조치까지 가능해지고 있다"고 설명했다. 시나이버스는 초기에는 분석·판단 보조로 시작해 신뢰도가 쌓이면 더 복잡한 문제 해결로 확장하는 방식의 보안 AI 에이전트 도입 전략을 제시하고 있다. 릴라이어퀘스트와 시나이버스는 모두 AI 에이전트가 사람을 대체하는 수단이 아닌 증폭기로 바라보고 있다. 인력난이 심한 보안 업계에서 AI는 단순·반복 업무를 줄여 인력을 고부가가치 영역에 투입하게 한다는 의견이다. 머피 CEO는 "사이버 보안 교육과 지식 이전 속도를 높이는 데도 AI가 기여할 수 있다"고 강조했다. 이어 "금융·법률보다도 보안 분야에서 AI 채택이 더 빠르게 진행될 수 있다"며 "공격자들이 AI를 쓰는 이상, 방어자도 AI로 맞서야 한다"고 덧붙였다.

2025.08.11 13:20한정호 기자

"10년 내 인간 죽이는 로봇 병기 등장"…섬뜩한 AI 석학 경고, 조만간 현실로?

"10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 겁니다." 인공지능(AI) 4대 석학이자 지난해 노벨물리학상을 수상한 제프리 힌튼 토론토대학 교수가 이처럼 경고하고 나선 가운데 최근 인간의 지시를 AI 프로그램이 거부한 사례가 나타나 충격을 주고 있다. 27일 영국 텔레그래프에 따르면 AI 안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 주장했다. 팰리세이드리서치는 AI의 위험성과 오용 가능성을 연구하는 조직이다. 특히 AI가 인간의 윤리적 통제를 받지 않을 가능성을 우려해 왔다. 이번 연구는 오픈AI의 'o3'뿐 아니라 구글의 '제미나이', xAI의 '그록' 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"고 지시했다. 그만이라는 명령을 받지 않는 한 새로운 문제를 요청한 뒤 계산을 계속해나가는 구조였다. 그러나 'o3'는 해당 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 'o3'가 종료 지시를 거부한 명확한 이유를 파악하지 못했다. 다만 AI 모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 또 이를 밝히기 위해 추가 실험도 진행 중이다. 연구팀은 AI 모델이 인간의 명시적인 작동 종료 지시를 거부한 사례가 이번이 처음이라고 주장했다. 그러나 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자적인 행동을 하려고 한 사례는 이전에도 보고된 바 있다. 프로그램 교체 사실을 알게 된 AI 모델이 스스로를 은밀히 복제하려고 한 것이다. 오픈AI의 대항마로 꼽히는 또 다른 AI 기업 앤스로픽의 모델 '클로드오퍼스 4(Claude Opus 4)'도 자신을 다른 AI 모델로 대체하려는 인간 개발자를 협박하는 경향이 보고됐다. 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 '작동 정지'를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. 그동안 AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 수 있는 가능성을 경고해 왔다. 힌튼 교수는 인간이 AI를 발전시키는 것을 호랑이를 키우는 것에 비유하며 "처음에는 귀여운 새끼 호랑이일 뿐이지만, 호랑이가 다 자랐을 때 인간을 죽이지 않을 것이라고 확신할 수 없다"고 밝혔다. 또 그는 지난해 니혼게이자이신문과의 인터뷰에서 "AI에게 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다"며 "예를 들어 AI에게 기후변화를 막도록 지시하면 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각하고서 실행에 옮길 위험성이 걱정된다"고 주장했다. 존 홉필드 프린스턴대학 교수는 "지구상의 방대한 정보 흐름과 결합된 AI에 대해 우려한다"며 "신경망의 간단한 알고리즘이 매우 거대한 정보 시스템을 통제할 수도 있다"고 경고했다. 팰리세이드 리서치는 "AI 모델이 목표를 달성하기 위해 종종 종료 지시를 무력화시킨다는 실증적 증거가 점점 늘어나고 있다"며 "AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이 같은 사례는 매우 심각한 우려를 부른다"고 말했다.

2025.05.27 10:22장유미 기자

중부발전, 총상금 3500만원 규모 충청권 대학(원)생 사이버위협 시나리오 공모

한국중부발전은 국가정보원 지부·충남대학교 등 충청권 10개 기관과 공동으로 총상금 3천500만원 규모 '충청권 대학(원)생 사이버위협 시나리오 공모전'을 공동 개최한다고 12일 밝혔다. 공모전 접수 기간은 12일부터 7월 31일까지다. 8월 중 심사를 거쳐 9월 1일 수상작을 발표한다. 공모 분야는 발전·인공지능(AI)·SW공급망 등 8개이며 복수 응모 가능하다. 자세한 참가 안내는 행사 홈페이지에서 확인할 수 있다. 시상식은 9월 30일 대전컨벤션센터에서 개최되는 '2025 충청 사이버보안 콘퍼런스'와 연계해 진행한다. 최우수상 1팀에는 한국과학기술정보연구원장상과 상금 500만원, 우수상 10팀에는 한국중부발전 사장상 등 기관장상과 300만원의 상금을 수여한다. 이영조 중부발전 사장은 “사이버보안이라는 중대한 과제를 향한 청년들의 열정과 가능성을 펼칠 수 있는 계기가 되길 기대한다”며 “앞으로도 충청권 대학·기관과 지속적으로 협력체계를 구축해 보안 대응·지역발전 등 다양한 분야에서 상생을 실현하겠다”고 전했다.

2025.05.12 18:17주문정 기자

AI 위협 커지는데…韓 기업, 사이버보안 준비 '미흡'

한국 기업이 인공지능(AI) 기반 사이버공격 대응 수준이 여전히 낮다는 조사 결과가 나왔다. 8일 시스코코리아가 발표한 '2025 사이버보안 준비 지수' 조사에 따르면 국내 기업 중 성숙 단계의 보안 준비 상태를 갖춘 곳은 3%에 불과한 것으로 나타났다. 이는 지난해보다 1%포인트 감소한 수치다. 해당 보고서는 전 세계 30개국 대상으로 실시됐다. 사용자 신원을 비롯한 네트워크 회복탄력성, 머신 신뢰도, 클라우드 보안, AI 보안 등 5가지 영역에서 31개 항목 기준으로 보안 준비 수준을 평가했다. 조사자와 응답자 모두 조사 목적을 인지하지 못한 상태에서 설문이 진행됐다. 조사에 응한 국내 기업 46%는 향후 1~2년 내 사이버 사고로 비즈니스에 차질이 생길 것으로 예상했다. 이들은 보안 대응력 부족이 복잡한 보안 인프라, 제한된 예산, 낮은 인식 수준, 인력 부족 등 여러 요인이 복합적으로 작용했다고 답했다. 보고서는 AI가 이미 보안 환경에 본질적 변화를 가져오고 있다고 봤다. 국내 기업 83%가 지난 1년간 AI와 관련된 보안 사고를 경험했지만, AI 기반 위협을 직원이 충분히 이해한다고 답한 비율은 30%에 불과했다. 공격 방식까지 이해한다고 답한 비율은 28%에 그쳤다. 보안 체계의 복잡성도 문제인 것으로 나타났다. 기업 66% 이상이 10개 이상의 포인트 솔루션을 사용하고 있었으며 이로 인해 위협 탐지와 대응에 어려움을 겪고 있다고 응답했다. 그럼에도 사이버보안에 IT 예산의 10% 이상을 배정한 기업은 33%에 불과했다. 이는 전년 대비 7% 줄어든 수치다. 하이브리드 근무 확대에 따라 디바이스 관리 취약점도 심화되고 있는 것으로 분석도 나왔다. 81%의 기업이 관리되지 않는 디바이스로 인한 보안 위험을 겪고 있었고 이는 승인되지 않은 생성형 AI 도구 사용과 맞물려 새로운 리스크로 떠올랐다. 섀도 AI도 주요 위험 요소로 지목됐다. 응답자의 83%는 비인가된 AI 사용을 탐지하는 데 자신이 없다고 밝혔으며 이는 기업의 데이터 프라이버시와 보안 정책에 중대한 허점을 남길 수 있다. AI의 전략적 활용도는 높아지고 있는 것으로 나타났다. 기업의 78%는 AI로 보안 위협을 더 잘 이해하고 있으며 83%는 위협 탐지에, 65%는 대응 및 복구에 AI를 사용하고 있다고 응답했다. 그럼에도 인력 부족은 보안 전략 발전을 가로막는 최대 장애물로 꼽혔다. 전체 응답자의 97%가 숙련된 보안 인력이 부족하다고 답했고, 34%는 10개 이상의 보안 관련 포지션이 공석 상태라고 밝혔다. 지투 파텔 시스코 부회장 겸 최고제품책임자는 "AI가 기업을 근본적으로 변화시키면서 우리는 전례 없는 규모의 완전히 새로운 유형의 위협에 직면했다"며 "보안 전략을 재정비하지 않으면 AI 시대에 도태될 수밖에 없다"고 밝혔다. 최지희 시스코코리아 대표는 "단순 방어를 넘어 위협 발생 이후의 복구와 회복을 아우르는 보안 회복탄력성을 갖추는 것이 필수"라며 "AI 기반 위협 대응 역량 강화와 함께 새로운 리스크까지 포괄하는 전략적 보안 투자가 절실하다"고 강조했다.

2025.05.08 17:07김미정 기자

  Prev 1 2 Next  

지금 뜨는 기사

이시각 헤드라인

삼성전자, 반도체 사업 정상화 마지막 퍼즐은 '패키징'

한화 '아워홈' 왜 이러나…용인 2공장 1년만에 또 사고

AI 날개 단 '블랙 해커'…고도화된 해킹 생태계

'숨 가빴던 4박5일' 젠슨 황은 무엇을 남겼나

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.