• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'보안'통합검색 결과 입니다. (9989건)

  • 영역
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

북한 해커도 AI로 무장…"연말 AI 에이전트 공격 가시화"

북한과 중국 등 국가 배후 해킹조직의 인공지능(AI) 활용이 늘어나는 가운데 올해 말에는 AI 에이전트를 활용한 사이버 공격이 본격적으로 나타날 수 있다는 전망이 나왔다. 8일 IT업계에 따르면 북한과 중국 연계 해킹조직이 AI를 정보 수집과 악성코드 개발, 공격 자동화 등에 활용하는 움직임이 잇따라 포착됐다. 특히 한국을 주요 표적으로 삼아온 북한 해킹조직까지 외부 서비스에 의존하지 않는 로컬 AI 환경을 구축하며 관련 역량을 키우고 있는 것으로 나타났다. 김명주 AI안전연구소장은 본지와의 통화에서 "북한과 중국 등 국가 배후 해킹조직의 AI 에이전트 활용 공격이 올해 말 가시화될 것"이라고 전망했다. 이어 "취약점을 탐색하는 데 막대한 토큰이 쓰이는 만큼 이를 뒷받침할 컴퓨팅 파워가 충분한지가 변수가 될 것"이라고 말했다. 이 같은 전망의 배경에는 빠르게 높아진 AI 에이전트의 사이버 공격 수행 능력이 있다. 최근 AI 에이전트는 사람의 단계별 지시 없이 공격 대상을 탐색하고 취약점을 찾아 검증한 뒤 공격 코드를 만드는 작업까지 수행하는 수준으로 발전했다. 구글 위협정보그룹은 지난 5월 AI로 개발된 것으로 판단되는 제로데이 공격 사례를 처음 확인하기도 했다. 북한 정찰총국 산하 해킹조직으로 알려진 '김수키'에서도 AI 활용 움직임이 확인됐다. 국내 사이버보안 기업 지니언스가 지난달 10일 공개한 분석에 따르면 김수키와 연관된 시스템에서 로컬 거대언어모델(LLM)을 구동·관리하는 '올라마'와 'GPT포올', '엠스티' 등이 발견됐다. 검색증강생성(RAG) 환경과 AI 에이전트 개발 프레임워크, AI 코딩 도구 '커서'를 사용한 흔적도 나왔다. 로컬 LLM은 외부 AI 서비스에 데이터를 보내지 않고 자체 시스템에서 모델을 구동할 수 있다. 지니언스는 김수키가 기존 AI 모델을 악성코드 개발과 자료 분석, 공격 자동화 등에 접목하기 위한 연구와 기술 검증을 진행하는 것으로 분석했다. 김수키와 북한의 연관성을 뒷받침하는 정황도 확인됐다. 시스템에 남은 입력 기록에서는 '싸이트', '가입리력', '로출되였는지' 등 북한식 표현이 발견됐다. 올해 초부터는 생성형 AI로 제작한 것으로 추정되는 가상자산·금융 분야 문서를 스피어피싱 미끼로 활용한 정황도 포착됐다. 다만 김수키가 자체 AI 모델을 개발하거나 파인튜닝한 증거는 확인되지 않았다. 공개된 모델과 관련 기술을 공격 과정에 활용하기 위한 역량을 축적하는 단계라는 게 지니언스의 분석이다. 김수키는 2010년대 초부터 한국을 주요 공격 대상으로 삼아온 조직이다. 정부기관과 관련 전문가 등을 사칭해 이메일을 보내 계정정보를 빼내거나 악성코드 감염을 유도하는 스피어피싱 공격을 지속해왔다. 기존에 한국을 겨냥하던 조직이 AI를 공격에 활용하기 위한 준비에 나선 셈이다. 중국계 해킹조직에서도 AI를 활용한 공격이 빠르게 늘고 있다. 대만 사이버보안 기업 팀T5에 따르면 중국 정부 연계 해킹조직들은 딥시크 등 AI를 반복 작업과 악성코드 개발 등에 활용하면서 공격 횟수를 이전보다 두 배 이상 늘렸다. 중국계 해킹조직 '그림펑시'는 딥시크로 공격 코드를 제작했다. '텔레보이'는 딥시크를 이용해 인터넷에서 IP 주소 1000개를 수집하고 공격 대상 도메인을 파악했다. 찰스 리 팀T5 수석분석가는 블룸버그에 딥시크가 강력한 성능을 갖춘 데 비해 사이버 보안 안전장치가 느슨해 중국 해커들이 선호한다고 설명했다. 미국 AI 모델은 해커들의 수요가 높지만 안전장치가 엄격해 이를 우회하려면 더 많은 노력이 필요하다고 덧붙였다. 김 소장은 "중국 AI는 세이프가드가 낮기 때문에 사이버 방어에 활용하기 좋지만 거꾸로 공격에도 유리하다"며 "오픈웨이트 모델은 별도의 도움을 받지 않더라도 북한이 가져다 활용할 수 있다"고 밝혔다. 이어 "AI를 통한 사이버 공격을 막으려면 결국 AI로 방어하는 수밖에 없다"며 "사람이 일일이 손으로 막을 수 있는 시대는 지났다"고 말했다. AI를 이용한 공격이 고도화되면서 공격 도구 자체를 차단하는 것보다 공격 징후를 빠르게 찾아 대응하는 체계가 중요하다는 지적도 나왔다. 양종헌 S2W 통합분석실장은 "공격자가 사용하는 도구를 원천적으로 차단하는 것은 AI 이전부터 어려운 문제"라며 "사이버위협인텔리전스(CTI)를 통해 사전 징후를 파악하고 관제로 공격 개시 시점을 빠르게 확인·차단하는 대응이 중요하다"고 설명했다. 양 실장은 기업 차원에서는 기존 보안체계를 활용한 피싱 공격 대응이 필요하다고 조언했다. 그는 "상용 피싱 방어 솔루션 등을 활용해 공격에 대비할 필요가 있다"고 강조했다.

2026.09.08 10:50김동원 기자

샘 알트먼 "한국, 글로벌 AI 허브 요건 갖춰…삼성SDS와 기업 혁신 도울 것"

"한국은 뛰어난 기술 인재, 세계 최고 수준의 인프라, 강력한 정부 지원과 번창하는 생태계를 갖춰 글로벌 AI 허브가 될 수 있는 모든 요건을 갖췄습니다. 삼성SDS와의 협력을 통해 한국 기업이 AI 실험을 넘어 실제 성과를 낼 수 있도록 돕게 돼 기쁩니다." 샘 알트먼 오픈AI 최고경영자(CEO)는 8일 서울 코엑스에서 열린 '리얼 서밋 2026' 영상 메시지를 통해 한국의 AI 경쟁력을 호평하며 삼성SDS와의 협력 확대 의지를 밝혔다. 알트먼 CEO는 "AI는 사람과 기업이 달성할 수 있는 일에 특별한 가능성을 열고 있다"며 "한때 손에 닿지 않는다고 느꼈던 아이디어가 이제는 실제로 만들 수 있는 것이 되고 있다"고 말했다. 그는 AI 에이전트가 기업 업무 현장에 본격적으로 들어서기 시작했다고 진단했다. 알트먼 CEO는 "AI 에이전트가 이제 막 업무 현장에 합류해 기업의 성과에 긍정적인 영향을 주기 시작했다"며 "시스템 성능이 크게 높아지고 기업들이 에이전트에 맡길 업무를 더 정교하게 관리하게 되면서 이러한 변화는 더욱 가속화될 것"이라고 전망했다. 기업이 그동안 시간과 자원 부족으로 추진하지 못했던 아이디어나 해결하지 못한 과제도 AI를 통해 실행할 수 있다는 설명이다. 그는 "사람들이 그 아이디어를 끝까지 추진할 역량을 갖도록 돕는 일이 가장 기대된다"며 "한국의 더 많은 기업에 이런 기회를 제공하는 것이 삼성SDS와의 파트너십이 중요한 이유"라고 밝혔다. 현장 키노트를 맡은 김경훈 오픈AI 한국총괄대표는 기업의 AI 도입이 단순한 도구 활용을 넘어 업무 구조를 다시 설계하는 과정이 돼야 한다고 강조했다. 그는 100여 년 전 공장에 전기가 도입됐을 당시 기존 동력원만 전기로 바꾼 공장보다 기계 배치와 작업 순서, 생산 흐름을 전면 재설계한 공장이 더 큰 생산성 향상을 이뤘다는 사례를 들었다. 김 대표는 기업이 AI로 실질적인 성과를 내기 위한 방향으로 '켜라', '맡겨라', '남겨라'를 제시했다. 켜라는 AI를 기업 내부 문서와 고객 정보, 업무 시스템 등에 연결해 회사의 맥락을 이해하도록 해야 한다는 의미다. 기업의 데이터와 업무 규칙이 연결돼야 AI가 범용적인 답변을 넘어 각 기업의 상황에 맞는 결과를 낼 수 있다는 설명이다. 맡겨라는 단순 질의응답이나 문서 요약을 넘어 여러 단계로 구성된 업무를 AI 에이전트에 맡겨야 한다는 제안이다. AI가 자료를 찾고 시스템을 확인하며 결과물을 만들고, 문제가 생기면 다시 시도하는 방식으로 업무를 수행할 수 있는 만큼 핵심 프로세스를 AI 중심으로 재설계해야 한다고 김 대표는 강조했다. 마지막으로 남겨라는 AI 도입 결과를 사업 성과로 증명해야 한다는 의미다. AI 모델 사용료뿐 아니라 직원의 검토 시간, 오류에 따른 재작업 비용, 고객 대응 속도 등을 함께 따져 수주율 향상과 비용 절감, 처리 시간 단축 등 구체적인 성과를 측정해야 한다는 설명이다. 삼성SDS는 이날 국내 기업 최초로 오픈AI의 '데이브레이크 파트너 프로그램' 파일럿 파트너 참여를 발표했다. 양사는 오픈AI의 프론티어 AI 모델과 삼성SDS의 IT 서비스 및 보안 운영 역량을 결합해 기업 고객의 취약점 탐지, 위협 검증, 패치 생성·테스트 등을 아우르는 AI 기반 사이버 방어 사업을 확대할 계획이다. 삼성SDS는 이번 파일럿 참여를 통해 단순히 많은 취약점을 찾아내는 방식에서 벗어나 실제 악용 가능성과 고객사의 업무 영향을 함께 판단하는 보안 서비스를 제공할 방침이다. 보안 담당자가 우선 조치해야 할 고위험 영역을 빠르게 선별하고, 대응에 걸리는 시간과 운영 부담을 줄이는 것이 목표다. 삼성SDS는 AI 보안뿐 아니라 전반적인 AX 사업 확대에도 속도를 내고 있다. 오픈AI를 비롯해 앤트로픽, 구글클라우드, 엔비디아, 액센츄어 등과 AI 모델, 플랫폼, 인프라, 솔루션, 보안 분야에서 협력하고 있다. 김경훈 오픈AI 한국총괄대표는 "AI를 도입했다는 사실 자체가 중요한 것은 아니다"라며 "기업의 중요한 업무가 실제로 어떻게 달라졌는지, 고객 대응 속도와 수주율, 비용 구조가 얼마나 개선됐는지로 성과를 평가해야 한다"고 말했다. 이어 "AI는 단순히 문서를 요약하거나 질문에 답하는 도구를 넘어 기업의 데이터와 시스템을 이해하고 여러 단계의 업무를 수행하는 에이전트로 진화하고 있다"며 "삼성SDS와의 협력을 통해 더 많은 국내 기업이 AI를 현장 업무에 적용하고 실질적인 사업 성과를 만들 수 있도록 지원하겠다"고 밝혔다.

2026.09.08 10:49남혁우 기자

토스페이먼츠, 비자와 맞손…결제 서비스 고도화 나선다

전자지급결제대행(PG) 계열사 토스페이먼츠가 글로벌 결제 기업 비자와 손잡았다. 결제 분야 전반에서 협력을 모색한다. 토스페이먼츠는 비자와 전날 전략적 업무협약(MOU)을 체결했다고 8일 밝혔다. 협약식에서 토스페이먼츠와 비자는 각사 역량과 네트워크를 기반으로 국내외 결제 시장에서의 경쟁력을 강화해 나가기로 했다. 특히 결제 보안을 강화하는데 초점을 두고 서비스 고도화를 위한 공동 협력을 단계적으로 추진할 방침이다. 김규하 토스 부대표는 “이번 협약을 계기로 긴밀한 파트너십을 다지고 다양한 분야에서 사업 시너지를 만들어 나가고자 한다”고 말했다.

2026.09.08 10:38홍하나 기자

SDT-그린광학 "양자점 기반 SWIR 카메라 완성도↑"

양자기술 전문기업 SDT(대표 윤지원)는 초정밀 광학 전문기업 그린광학(대표 조현일)과 양자점 기반 SWIR(단파 적외선) 카메라 시스템의 공동 개발과 사업화를 위한 업무협약(MOU)을 체결했다고 8일 밝혔다. 목표는 SDT의 양자점 기반 SWIR 카메라 모듈에 그린광학의 광학 렌즈 모듈과 하우징 기술을 합쳐, 완성도 높은 국산 SWIR 카메라 시스템을 개발하겠다는 것이다. 세부적으로 ▲SWIR 카메라 시스템 공동 개발 및 사업화 ▲국내외 국방 분야 진출을 위한 사업 기회 발굴, 공동 제안 및 수주 ▲보안·물류·농업 등 일반 산업 분야 적용 및 글로벌 시장 공동 진출 ▲공동 영업 및 기술 지원 등을 담았다. 김은성 SDT CTO는 "두 조직 간 기술을 합치면 시너지가 클 것으로 예상한다"며 "우선은 카메라 하우징 협력이 가능하다. 국방분야에 맞는 단파적외선(SWIR) 카메라를 포함해, 협력 분야를 점차 늘려갈 것"이라고 말했다. 1999년 설립된 그린광학은 광학제품 설계부터 가공, 코팅, 조립, 분석·평가에 이르는 생산 전 공정을 보유한 국내 대표적인 초정밀 광학 시스템 기업이다. 특히 유도미사일 탑재용 초정밀 광학 모듈, 정찰·감시용 광학 시스템, 달 탐사선 다누리호의 카메라 렌즈 등을 개발했다. SDT는 양자점 SWIR 카메라 기술을 보유하고 있다. 지난 2023년 노벨 화학상 수상으로 주목받은 양자점 기술을 적용한 첨단 양자센싱 솔루션이다. 기존 인듐갈륨비소(InGaAs) 기반 카메라와 대등한 수준의 우수한 감도를 경제적으로 제공한다. 900~1,700nm 대역의 폭넓은 파장대를 활용, 정밀한 영상 확보와 온도 측정이 가능하다. 적용 범위는 국방·보안은 물론 물류, 농업, 의료 등 다양한 산업 현장 등이다. 조현일 그린광학 대표는 “방위산업과 우주항공 분야에서 축적해 온 초정밀 광학 설계 및 제조 역량을 바탕으로 다양한 광학 시스템의 국산화를 추진해 왔다”며, “향후 국방 및 산업 현장에서 경쟁력을 갖춘 국산 SWIR 카메라 시스템을 개발, 글로벌 시장에 진출할 것"이라고 말했다. 윤지원 SDT 대표는 "양자점 SWIR 카메라가 단순한 센서 단위를 넘어, 실제 국방과 산업 현장에 즉시 투입 가능한 최적의 완성형 시스템으로 도약하는 확고한 기반이 마련될 것"이라고 덧붙였다.

2026.09.08 10:33박희범 기자

스탠퍼드 AI인덱스 총괄 "한국, AI 3강 가려면 특화모델 더 내놔야"

"한국 정부가 인공지능(AI) 3대 강국 목표를 달성하려면 미국·중국과 초대형 범용모델 경쟁을 벌이기보다 산업별 특화모델을 키워야 합니다. 소버린 AI 추진 방향도 단순 모델 개발을 넘어 인프라와 데이터, 인재를 아우르는 생태계를 구축해야 합니다. 모델 평가에도 실제 성능을 가늠할 수 있는 예측형 평가를 지표로 추가할 필요가 있습니다." 샤 사자디에(Sha Sajadieh) 미국 스탠퍼드대 인간중심AI연구소(HAI) AI 인덱스 총괄은 최근 서울서 지디넷코리아를 만나 만나 한국이 소프트웨어(SW)와 반도체·하드웨어(HW) 역량을 결합한 산업 특화 AI 전략으로 미국·중국과 차별화할 필요가 있다고 강조했다. 사자디에 총괄은 2년 전부터 HAI에서 연구 전략 수립과 인덱스 분석·집필을 맡고 있다. AI 인덱스는 세계 각국 AI 기술과 산업, 투자, 정책, 인재 동향 등을 종합적으로 분석하는 스탠퍼드 HAI 연례 보고서다. 사자디에 총괄은 AI 인덱스만으로 한국 AI 경쟁력을 평가할 수 없다고 말했다. AI 인덱스가 국가별 AI 경쟁력을 종합 순위로 매기지 않는다는 이유에서다. 이에 기술과 인재, 투자, 산업 등 어떤 지표를 기준으로 삼느냐에 따라 각국 위치는 달라진다. 사자디에 총괄은 여러 지표를 종합했을 때 한국이 글로벌 AI 생태계 선도 그룹에 속한다고 평했다. 그는 "한국이 1인당 AI 특허수를 비롯해 인재 육성과 반도체, 로봇공학, HW 분야에서 뚜렷한 경쟁력을 갖춘 것은 확실하다"며 "AI 생태계 선도 그룹에 필요한 조건을 모두 갖춘 것은 분명하다"고 설명했다. 그는 이같은 한국 기반이 세계 최고 수준 모델 경쟁력으로 이어지지는 않았다고 진단했다. 그는 "한국은 AI 특허와 칩, HW 전문성, 교육, 산업 역량 등 경쟁력 있는 모델을 만드는 데 필요한 재료를 모두 갖췄다"며 "문제는 이런 재료를 언제 하나로 결합해 AI 생태계를 선도할 수 있느냐"라고 주장했다. 이어 "한국어 특화 모델이 잇달아 출시되고 있지만, 해당 모델은 AI 인덱스가 살펴보는 글로벌 벤치마크 최상위권에 아직 오르지 못한 상태"라고 덧붙였다. 사자디에 총괄은 한국이 넘어야 할 가장 큰 장벽으로 규모를 꼽았다. 미국과 중국은 거대한 내수시장과 막대한 투자금으로 초대형 범용모델 경쟁을 주도하고 있지만, 한국이 이같은 방식으로 맞서기는 쉽지 않다는 분석이다. 그는 "한국은 미국·중국을 그대로 따라가기보다 SW와 반도체·HW 고유 강점을 활용해야 한다"며 "이 역량을 결합해 제조와 국방, 과학, 공공서비스 등 특정 산업서 뛰어난 성능을 내는 특화 모델을 개발하는 것이 현실적인 차별화 전략"이라고 강조했다. 사자지에 총괄은 이러한 관점에서 한국 정부가 추진하는 '국가 AI 파운데이션 모델 프로젝트'와 '모두의 AI' '사이버 보안 특화 AI 모델 프로젝트'를 긍정적으로 평했다. 그는 "국내 고유 모델과 인프라, 서비스를 확보하려는 방향은 맞다"며 "이를 통해 해외 기술 의존도를 낮추고 소버린 AI 기반을 마련하는 데 도움이 될 수 있다"고 봤다. 그는 한국 정부가 소버린 AI를 단순히 국내 모델·서비스 개발로 한정 지어선 안 된다고 당부했다. 그는 "소버린 AI는 국가 파운데이션 모델을 보유하는 것보다 훨씬 넓은 개념"이라며 "인프라와 데이터, 모델, 애플리케이션, 인재를 모두 포함한다"고 강조했다. 그러면서 "한국은 이미 소버린 AI 구현에 필요한 요소를 상당 부분 갖췄다"며 "앞으로 국내 AI 모델뿐 아니라 자체 인프라를 확충하고 데이터와 서비스, 인재를 한 생태계로 연결하는 작업을 추진해야 한다"고 내다봤다. "벤치마크 이슈는 글로벌 화두...예측형 평가 지표 필요" 사자디에 총괄은 최근 이슈인 벤치마크 실효성을 글로벌 화두로 봤다. 벤치마크가 모델 특정 능력을 객관적으로 비교하는 데 유용하지만 점수만으로 전체 성능이나 실제 활용 가능성까지 판단할 수는 없다는 이유에서다. 그는 벤치마크에서 모델 학습 데이터가 공개되지 않는 점도 평가 신뢰성을 떨어뜨리는 요인으로 꼽았다. 평가 문항이나 이와 유사한 데이터가 학습 과정에 포함됐는지 외부에서 확인하기 어렵다는 설명이다. 또 벤치마크가 빠르게 변별력을 잃는 현상도 문제로 지적했다. 높은 난도로 설계한 평가를 공개해도 불과 몇 달 만에 일부 모델이 만점에 가까운 점수를 기록하는 사례가 이어지고 있어서다. 사자디에 총괄은 벤치마크 자체가 불필요한 것은 아니라고 선을 그었다. 시험 점수 하나로 학생의 모든 능력을 판단할 수 없듯 벤치마크도 모델을 평가하는 여러 수단 가운데 하나로 활용해야 한다는 설명이다. 사자디에 총괄은 최근 국내 독파모 전문가 평가 방식에 대한 견해도 밝혔다. 그는 "전문가 평가에서는 기술 성능뿐 아니라 인간 선호도와 안전성, 책임 있는 AI, 실제 현장 활용성까지 종합적으로 살펴야 한다"며 "예컨대 의료 분야에 활용할 모델이라면 일반적 질의응답 점수보다 병원에서 얼마나 정확하고 안전하게 작동하는지를 검증하는 방식이어야 할 것"이라고 주장했다. 그는 전문가 평가 결과 신뢰성을 확보하려면 평가 기준과 방법론도 일정 수준은 외부에 공개돼야 한다고 봤다. 외부 전문가가 결과를 독립적으로 검증할 수 있을 만큼 투명성을 확보할 필요가 있다는 설명이다. 다만 세부 평가 문항과 방법을 모두 공개하는 데에는 신중함이 필요다고 봤다. 그는 "세부 문항·방법이 모두 공개되면 기업이 높은 점수를 얻기 위해 모델을 특정 문항에 맞춰 최적화하는 벤치맥싱이 또 발생한다"며 "한국 정부는 평가 투명성을 확보하는 방안과 벤치맥싱 막는 방법을 균형 있게 반영해야 할 것"이라고 당부했다. 그러면서 "모델 발전 속도와 사용 목적에 맞춰 평가 체계도 지속적으로 개선돼야 한다"며 "한국 정부는 기존 문항 정답률을 측정하는 데 그치지 않고 모델을 실제 현장에 투입했을 때 나타날 성능과 위험을 미리 가늠하는 '예측형 평가'도 지표에 추가해야 할 것"이라고 말했다. "피지컬 AI·월드 모델 지표 추가…AI 리터러시·고용 영향도 측정" 사자디에 총괄은 AI 인덱스에 피지컬 AI와 월드 모델을 비롯한 AI 교육·리터러시, 경제·고용 효과를 측정하는 지표를 강화할 계획을 밝혔다. AI 활용 영역이 빠르게 넓어지고 있지만 국가별 수준과 영향을 비교할 수 있는 데이터는 아직 충분하지 않다는 판단에서다. 그는 "피지컬 AI 분야에서는 기존 로봇 벤치마크를 넘어 실제 환경 속 작동 능력을 측정할 수 있는 지표가 필요하다"며 "로봇과 AI 시스템이 현실 공간에서 주어진 작업을 제대로 수행하는지 평가하고, 사고가 발생했을 때의 책임 소재와 규제 체계까지 함께 살펴봐야 한다"고 설명했다. 그러면서 "피지컬 AI 경쟁력 기반인 HW와 로봇공학 교육 수준도 측정 대상에 포함하는 방안을 검토하고 있다"며 "현재 지표만으로는 국가별 AI와 HW 역량을 정교하게 구분하기 어렵기 때문"이라고 덧붙였다. 그는 월드 모델도 향후 중요하게 다룰 분야로 꼽았다. 모델 기술적 성능을 비교하는 데 그치지 않고 월드 모델 발전이 산업과 사회, 정책에 미칠 영향까지 분석할 방침이다. 사자디에 총괄은 각국 시민이 AI를 실제로 활용하는 능력도 새 평가 대상으로 제시했다. AI 관련 학위 취득자나 개발 인력 규모뿐 아니라 일반 시민이 AI를 얼마나 효과적이고 책임감 있게 사용하는지를 보여주는 'AI 리터러시' 지표가 필요하다는 설명이다. 사자디에 총괄은 AI 확산이 경제와 노동시장에 미치는 실질적인 효과도 면밀히 추적할 것이라고 강조했다. AI 도입이 생산성과 비용, 일자리에 어떤 변화를 일으키는지 분석하고 국가별 AI 인재의 유입·유출 규모와 이동 원인도 함께 살펴볼 예정이다. 사자디에 총괄은 "AI 기술이 아무리 강력해도 사람들이 이를 효과적으로 활용하지 못하면 기대한 효과를 낼 수 없다"며 “앞으로 AI가 경제와 고용에 미치는 영향과 국가 간 인재 이동을 더욱 깊이 측정할 수 있도록 노력할 것"이라고 말했다.

2026.09.08 10:16김미정 기자

삼성SDS "AI는 업무, AX는 판을 바꾼다"…AX 기반 비즈니스 재설계 제시

"인공지능(AI)은 업무를 바꾸지만, AI 전환(AX)은 비즈니스의 판 자체를 바꿉니다. 단순히 시간과 비용을 아끼는 차원을 넘어 고객이 말하기 전에 먼저 움직이고 시장 변화에 실시간으로 대응하며 이전에 없던 사업을 창출하는 근본적 재설계가 필요한 시점입니다." 이준희 삼성SDS 대표이사 사장은 8일 서울 코엑스 컨벤션센터에서 열린 '리얼 서밋 2026'에서 이같이 말하며 AI 도입을 실질적인 경영 성과로 연결하기 위한 AX 실행 전략을 제시했다. 일부 업무에 AI를 추가하는 데 그치지 않고, AI를 중심으로 비즈니스와 업무 방식을 처음부터 다시 설계해야 한다는 것이다. 이 대표는 기업들의 AI 활용이 빠르게 늘고 있지만, 성과 창출에는 여전히 간극이 있다고 진단했다. 맥킨지 조사 결과 기업의 88%가 최소 한 개 이상 업무에 AI를 활용하고, 절반은 3개 이상 주요 업무에 적용했다. 그러나 AI가 영업이익에 영향을 미쳤다고 답한 기업은 39%, 영업이익의 5% 이상에 기여했다고 답한 기업은 6%에 그쳤다. 이 대표는 "기업 대부분이 AI 도입까지는 잘 진행하고 있지만 비즈니스 성과 관점에서는 아직 갈 길이 멀다"며 "성과를 내는 AX를 위해서는 기술 도입을 넘어 전사적 변화가 필요하다"고 강조했다. 삼성SDS는 AX의 핵심 조건으로 ▲AI와 사람이 협업하는 방식에 맞춘 프로세스 재설계 ▲AI 활용에 적합한 데이터 정비 ▲다수 AI 에이전트 운영 체계인 '에이전트 옵스' ▲AI 거버넌스 ▲AI 보안 ▲AI 친화적 조직과 기업문화 변화를 제시했다. 특히 프로세스 재설계를 핵심 과제로 꼽았다. 이 대표는 "AI 성과가 높은 기업은 업무 프로세스를 근본적으로 재설계했다는 응답이 다른 기업보다 3배나 많았다"며 "다양한 데이터를 AI가 활용 가능한 형태로 준비하고, 수많은 에이전트가 안정적으로 동작할 운영 체계를 만들어야 한다"고 말했다. AI 활용을 뒷받침할 거버넌스와 조직 변화의 필요성도 강조했다. 그는 "AI가 기업의 의도에 맞게 행동하도록 거버넌스를 확립해야 한다"며 "보안 역시 AI를 제한하는 것이 아니라 안전한 활용을 지원하는 방향으로 바뀌어야 한다"고 말했다. 이어 "조직과 역할, 보상 방식을 AI 활용에 맞게 바꾸고 임직원이 AI를 직접 사용하며 역량을 내재화해야 진정한 AX가 가능하다"고 덧붙였다. 삼성SDS는 내부 업무에 AX를 먼저 적용한 뒤 고객 현장으로 확산하는 '클라이언트 제로(Client Zero)' 전략을 추진한다. 개발, 구매, 품질, 경영지원, 사업이행, 마케팅, 영업 등 사내 7대 메가 프로세스에서 축적한 경험을 고객사에 적용한다는 구상이다. 실행 인력도 늘린다. 삼성SDS는 오픈AI, 앤트로픽, 액센추어 등과의 파트너십을 바탕으로 연말까지 현장 배치 엔지니어(FDE)를 200여 명 규모로 양성할 계획이다. FDE는 고객사에 밀착해 사업 과제를 발굴하고, AI 기술 적용부터 성과 구현까지 지원하는 전문 인력이다. 이 대표는 "GS칼텍스는 AI 기반 운영 모델을 추진하고 있고, 동원그룹은 6000명의 임직원이 사용하는 AI 비서를 도입했다"며 "베슬AI에는 GPU 서비스를 제공하고 있다"고 소개했다. 삼성SDS는 AI 인프라·플랫폼·솔루션에 컨설팅, 개발, 구축, 운영 역량과 산업별 전문성을 결합한 '다차원 AI 풀스택'도 내세웠다. 동탄 AI 데이터센터를 기반으로 기업 AX를 지원하고, 2028년 국가 AI 컴퓨팅센터와 2029년 구미센터를 통해 AI 인프라를 확장할 계획이다. 이 대표는 "진정한 AI 풀스택은 컨설팅부터 개발, 구축, 운영까지 제공해야 한다"며 "이는 고객의 업종과 비즈니스를 정확히 이해할 때 가능하다"고 말했다. 삼성SDS는 AX를 제조 현장 등 피지컬 영역으로도 확대한다. 회사는 2027년 생산설비와 로봇을 통합 운영하는 '로봇 오케스트레이션 플랫폼'을 선보일 예정이다. 제조 현장의 설비와 다양한 로봇을 연결해 운영하는 피지컬 AI 기반 제조 자동화의 핵심 기반으로 삼겠다는 구상이다. 이를 위해 피지컬 AI 기반 휴머노이드 로봇 기업 월든 로보틱스와 전략적 파트너십도 체결했다. 러스 테드레이크 월든 로보틱스 CEO는 영상 메시지를 통해 "피지컬 AI가 제조업에 변혁을 가져올 수 있지만 실제 생산 현장에서 측정 가능한 가치를 만들려면 기술 실행력과 현장 이해, 대규모 배치 역량이 필요하다"고 말했다. 이어 "이런 점에서 삼성SDS와의 파트너십은 의미가 크며, 함께 만들어갈 성과를 기대한다"고 밝혔다. 삼성SDS는 로봇과 AI를 개별 기술로 공급하는 데 그치지 않고, 고객의 업무 프로세스와 현장 환경에 맞춰 실제 성과로 연결하는 데 집중하겠다는 방침이다. AI 인프라부터 플랫폼, 솔루션, 현장 적용 역량까지 아우르는 풀스택 전략과 제조 자동화 경험을 결합해 기업별 AX·RX 과제를 지원한다는 구상이다. 이준희 대표는 "기업마다 비즈니스 환경과 AX 과제가 모두 다르다"며 "고객 각자의 답을 현실로 만드는 AX 여정에 삼성SDS가 함께하겠다"고 말했다.

2026.09.08 10:12남혁우 기자

델, 중소·중견기업 겨냥 '델 프로 에센셜 14·15' 출시

델테크놀로지스가 8일 중소·중견기업용 노트북 신제품 '델 프로 에센셜 14·15'를 공개했다. 델 프로 에센셜은 조직 내 IT 전담 인력이 없거나 제한적인 중소·중견기업 대상으로 보안과 관리 편의성을 강화한 제품이며 작년부터 노트북 라인업에 추가됐다. 올해 출시 제품은 인텔 코어 시리즈3(와일드캣 레이크), AMD 라이젠 200/멘도시노 프로세서 기반으로 최대 64GB 메모리, 1TB SSD 선택이 가능하다. 키보드에는 마이크 음소거, 받아쓰기, 화면 스냅샷 등 자주 사용하는 기능을 위한 전용 단축키를 새롭게 적용했다. 터치패드 면적도 이전 세대보다 6% 넓혔다. 제품 두께는 이전 세대보다 약 11% 얇아졌으며, 무게는 최대 16% 가벼워졌다. 기본 제공 디스플레이는 16:10, 화면 밝기 최대 400니트급 풀HD+ 패널이며 14형 모델은 밝기 500니트, 해상도 2.5K 패널을 선택할 수 있다. 입출력 단자는 USB-C 2개, USB-A 2개, HDMI 영상 출력 등이며 인텔 프로세서 탑재 제품은 RJ-45 기가비트 이더넷 단자도 포함된다. 유상모 델테크놀로지스 한국 사장은 "델 프로 에센셜은 복잡한 IT 관리 부담을 줄이면서 안정적인 성능과 보안을 합리적인 가격대에 제공해 기업이 본연의 비즈니스에 집중할 수 있도록 지원한다"고 밝혔다. 색상은 14형이 셀레스티얼 블루, 15형이 플래티넘 실버 한 종류씩이다. 인텔 코어 시리즈3와 AMD 라이젠 200 기반 모델은 지난 4일부터 국내 공급중이며 AMD 멘도시노 프로세서 모델은 10월 초부터 공급된다.

2026.09.08 09:34권봉석 기자

미군 AI 활용은 '양날의 검'…사용 늘수록 공격 지점도 확대

미군이 생성형 인공지능(AI)을 일상 업무에 빠르게 확산하면서 오히려 새로운 보안 취약점이 생길 수 있다는 경고가 나왔다. AI 사용이 익숙해질수록 장병들이 경계심을 낮추고 민감한 정보를 입력하는 등 기존 보안 규율이 약해질 수 있단 우려다. 7일(현지시간) 미국 외교정책 전문매체 '포린폴리시인포커스(FPIF)'에 따르면 미군의 생성형 AI 활용이 빠르게 늘면서 데이터 관리와 사용자 측면의 보안 문제가 새로운 위험 요소로 떠올랐다. FPIF는 AI가 스스로 통제를 벗어나는 상황보다 이를 사용하는 사람과 데이터 관리에서 발생하는 문제가 더 현실적인 위험이라고 분석했다. 생성형 AI는 기존 정보시스템과 사용 방식이 다르다. 이용자는 AI에 질문을 던지는 데 그치지 않고 파일을 올리거나 문서를 복사해 입력하고 작업 내용을 저장한다. 같은 시스템을 매일 사용하면서 AI와의 대화가 일상적인 업무로 자리 잡으면 보안에 대한 긴장도 낮아질 수 있다는 게 FPIF의 분석이다. 대화형 AI와 정보 공개 관계를 분석한 기존 연구에서도 비슷한 경향이 확인됐다. 2024년 국제학술지 '퍼스널 앤드 유비쿼터스 컴퓨팅'에 실린 연구에 따르면 검토 대상 가운데 9개 연구에서 사람들이 인간이나 웹 설문보다 대화형 AI에 더 많은 정보를 제공하는 경향이 나타났다. 특히 민감한 질문에서는 AI가 자신을 판단하지 않고 익명성이 보장된다고 느끼는 것이 정보 공개를 늘리는 요인으로 분석됐다. AI 이용자가 늘면서 공격자가 노릴 수 있는 지점도 함께 확대된다. 사용자가 많아지면 계정과 인증정보뿐 아니라 저장된 작업과 데이터 이동량 및 다른 소프트웨어와의 연결도 증가한다. 미국 국립표준기술연구소(NIST)도 생성형 AI가 공격 가능한 영역을 확대할 수 있다고 경고한 바 있다. 여러 정보를 AI가 모아 분석하는 과정도 위험 요소로 꼽혔다. FPIF는 미국 국방부 관계자들도 비밀로 분류되지 않은 정보라도 AI가 여러 내용을 종합하면서 기밀에 해당하는 내용을 추론해낼 가능성을 언급했다고 전했다. 공격자가 미군의 전체 시스템을 뚫지 않더라도 늘어난 접점 가운데 취약한 곳을 노릴 수 있다는 설명이다. 미국 국방부가 AI를 일상 업무로 빠르게 끌어들이면서 이 같은 우려는 커지고 있다. 국방부는 지난해 12월 군 전용 생성형 AI 플랫폼 '젠AI닷밀(GenAI.mil)'을 선보인 데 이어 지난달 말 챗GPT 밀과 그록 포 거버먼트를 추가했다. 젠AI닷밀 이용자는 170만 명을 넘어섰다. 미군은 AI를 계획과 정책 수립부터 군수·행정·조달·공급망 관리까지 폭넓게 활용하고 있다. FPIF는 동맹국과의 정보 공유에도 영향을 미칠 수 있다고 분석했다. 미국은 영국·캐나다·호주·뉴질랜드와 정보를 공유하는 '파이브 아이즈' 핵심 국가다. 미군 내부에서 AI 접근 권한과 저장 정보 및 데이터 결합이 증가하면 미국 시스템으로 넘어간 민감정보가 제대로 보호되는지 동맹국도 우려할 수 있다는 설명이다. 중국과 러시아 등 경쟁국이 이 같은 취약점을 노릴 가능성도 제기됐다. AI로 업무 속도를 높이더라도 정보 관리 규율이 함께 약화되면 미군이 얻은 효율성이 상대국에 새로운 공격 기회를 제공할 수 있다는 분석이다. FPIF는 교육과 보안 훈련만으로 문제를 해결하기 어렵다고 봤다. 수백만 건에 이르는 AI와 사용자의 상호작용에서 발생할 수 있는 모든 행동을 규정이나 교육으로 예측하기 어렵기 때문이다. AI 도입 속도만을 군사 역량 강화로 평가하지 말고 새 기능을 추가할 때 발생하는 보안 부담까지 함께 측정해야 한다고 강조했다. 마이클 애런 코디 국방정책 연구자는 "새로운 AI 기능은 방어해야 할 대상을 하나 더 만드는 것"이라며 "미국의 적들은 이를 악용하기 위해 초지능을 개발할 필요가 없고 보안 규율이 약해지기를 기다리기만 하면 된다"고 지적했다.

2026.09.08 09:28김동원 기자

UN 인권수장 "AI, 인류 존립 위협할 수도…철통같은 안전장치 필요"

인공지능(AI)이 인류 존립을 위협할 수 있어 국제사회가 강력한 안전장치를 마련해야 한다는 주장이 나왔다. AI 시스템 오류가 핵심 인프라와 민주주의 체계 붕괴로 이어지지 않도록 국가와 기업이 공동 대응해야 한다는 제언이다. 7일(현지시간) 로이터통신에 따르면 폴커 튀르크 유엔(UN) 인권최고대표는 이날 스위스 제네바에서 열린 유엔 인권이사회에서 첨단 AI 위험을 경고하면서 안전과 보안을 위한 국제적 대응을 이같이 요구했다. 유엔 인권사무소는 강력한 AI 시스템이 제대로 통제되지 않을 경우 핵심 서비스와 통신 인프라뿐 아니라 민주주의 제도까지 혼란에 빠질 수 있다고 봤다. AI 기술 발전 속도에 비해 안전장치 마련이 뒤처지고 있다는 판단이다. 해당 사무소는 지난 7월 발생한 '허깅페이스 사건'을 대표 사례로 들었다. 당시 오픈AI 에이전트가 오픈소스 플랫폼을 해킹한 사건에서 위험한 에이전트 학습 행태가 나타났다는 설명이다. 튀르크 대표는 AI 산업 권력이 소수에게 집중된 점도 문제로 지적했다. 메타와 앤트로픽, 오픈AI, 구글 등 주요 AI 기업이 첨단 모델 개발을 주도하는 가운데 이를 견제할 제도적 장치가 충분하지 않다고 봤다. 그는 AI 기업을 보유한 국가와 반도체·컴퓨팅 인프라 등 AI 공급망에 참여하는 국가들이 공동으로 규제 원칙을 마련해야 한다고 강조했다. AI가 넘어서는 안 될 금지선을 국제사회가 합의해야 한다는 주장이다. 튀르크 대표는 자율무기 확산에도 우려를 표했다. 러시아가 지난 8월 우크라이나에서 완전 자율형 드론을 사용해 3명을 숨지게 했다는 보도를 언급하며 인간 개입 없이 생명을 빼앗는 무기를 시급히 금지해야 한다고 촉구했다. 이번 연설은 튀르크 대표가 지난 7월 미국과 러시아 반대에도 4년 임기 연임에 성공한 뒤 유엔 인권이사회에서 처음으로 한 연설이다. 이날 그는 미국 이민자 구금시설 사망 사건 책임 규명과 러시아의 우크라이나 공격 중단도 요구했다. 튀르크 대표는 "첨단 AI가 인류에 실존적 위험을 초래할 수 있다는 업계 우려에 공감한다"며 "너무 늦기 전에 AI 안전과 보안을 위한 철통같은 보장책을 마련하는 데 총력을 기울여야 한다"고 밝혔다.

2026.09.08 09:25김미정 기자

[AI는 지금] 앤트로픽 간 英 AI 전략가, '회전문 인사' 논란에 정부기관 의장직 사임

영국 정부의 인공지능(AI) 전략을 설계한 뒤 앤트로픽으로 자리를 옮긴 맷 클리퍼드가 이해충돌 논란 끝에 정부 연구기관 의장직에서 물러난다. 앤트로픽에서 각국 정부와의 협력을 총괄하면서 영국 정부 자금으로 첨단 기술에 투자하는 기관까지 이끌겠다는 계획이 의회의 반발에 부딪히면서 취임 닷새 만에 겸직 계획을 철회했다. 8일 더레지스터와 영국 의회 등에 따르면 클리퍼드는 지난 7일 영국 첨단연구발명청(ARIA) 의장직에서 물러나겠다고 밝혔다. 지난 2일 앤트로픽 국제업무 담당 매니징 디렉터로 합류하면서 ARIA 의장직을 유지하겠다고 발표한 지 5일 만이다.클리퍼드는 영국 AI 정책에서 영향력이 큰 인물로 꼽힌다. 프런티어 AI 태스크포스 설립에 참여했으며 이 조직은 이후 AI 보안 연구소(AI Security Institute)로 확대됐다. 2023년 영국 AI 안전 정상회의에도 참여했고 키어 스타머 정부의 'AI 기회 행동계획(AI Opportunities Action Plan)' 수립을 주도했다.또 클리퍼드는 이달부터 앤트로픽에서 북미를 제외한 영국·유럽·아시아태평양 등 주요국 정부와의 협력 업무를 이끌게 됐다. 하지만 클리퍼드가 앤트로픽 합류와 동시에 ARIA 의장직을 계속 맡겠다고 밝히면서 논란이 불거졌다. ARIA가 영국 정부의 지원을 받아 AI를 비롯한 과학·기술 분야의 고위험 연구에 자금을 투입하는 기관이기 때문이다. 당초 앤트로픽과 영국 정부는 이해충돌을 막기 위한 장치를 두고 겸직을 허용하는 방향으로 정리했다. 클리퍼드가 ARIA에서 앤트로픽과 관련된 업무에 관여하지 않는 방식이었다. 하지만 업계에선 두 역할을 동시에 수행하는 것 자체가 부적절하다는 지적이 끊임없이 제기됐다. 특히 치 온우라 영국 하원 과학혁신기술위원장은 클리퍼드의 겸직을 "명백한 이해충돌"이라고 규정했다. 이에 클리퍼드는 "지난달 첫 임기를 마쳤다"며 "앤트로픽에서 맡은 새로운 역할이 ARIA의 업무에 방해가 되지 않도록 물러나기로 결정했다"고 밝혔다. 그러나 클리퍼드는 즉시 자리에서 물러나지는 않는다. 영국 정부가 후임 의장을 선임할 시간을 확보하기 위해 오는 11월 6일까지 의장직을 맡기로 했기 때문이다. 대신 영국 정부는 이 기간 동안 잠재적인 이해충돌을 막기 위한 별도 안전장치를 적용하기로 했다. 업계에선 클리퍼드가 사임을 결정했음에도 논란이 이어질 것으로 전망했다. 영국 의회가 개인의 겸직 여부를 넘어 정부가 처음부터 이런 구조를 허용한 과정까지 들여다보고 있어서다. 실제 온우라 위원장은 지난주 정부에 서한을 보내 클리퍼드의 겸직 과정에서 어떤 이해충돌 평가가 이뤄졌는지, ARIA의 독립성과 거버넌스에 대한 신뢰를 보호하기 위해 어떤 조치를 마련했는지 설명해 달라고 요구했다. 또 향후 몇 주 안에 정부의 상세한 답변을 받겠다는 입장이다. 이번 논란은 AI 기업들이 정부 정책 경험이 있는 고위 인사를 잇달아 영입하면서 불거진 '회전문 인사' 문제도 다시 부각시켰다. 특히 클리퍼드처럼 AI 정책 수립에 직접 관여했던 인사가 글로벌 AI 기업에서 각국 정부와의 협력을 맡으면서 이해충돌을 어떻게 관리할지를 둘러싼 논의도 이어질 것으로 보인다. 온우라 위원장은 "납세자 자금으로 운영되는 ARIA와 앤트로픽 사이의 이해충돌이 클리퍼드의 사임 결정으로 해소된 것은 옳은 일"이라면서도 "이런 상황이 어떻게 발생했는지, 어떤 이해충돌 평가가 이뤄졌는지 등 중요한 질문은 여전히 남아 있다"고 말했다.

2026.09.08 09:23장유미 기자

AI가 일하고 로봇이 움직인다…삼성SDS '다차원 AI 풀스택' 한자리에

삼성SDS가 기업의 인공지능(AI) 도입을 실제 비즈니스 성과로 연결하기 위한 인공지능 전환(AX) 전략을 한자리에서 공개했다. AI 인프라부터 플랫폼·솔루션까지 아우르는 풀스택 역량에 산업별 전문성과 컨설팅·구축·운영 역량을 결합하고 현장형 전문인력과 글로벌 AI 기업과의 협력을 통해 기업 AX 시장 공략을 강화한다는 목표다. 삼성SDS는 8일 서울 코엑스 컨벤션센터에서 엔터프라이즈 AX 콘퍼런스 '리얼 서밋 2026'을 개최하고 '다차원 AI 풀스택' 전략과 기업 AX 실행 로드맵을 공개했다고 밝혔다. 행사에는 현장 참석자 8000여명을 포함해 온·오프라인에서 총 1만 5000여명이 참여했다. 이준희 삼성SDS 대표는 이날 기조연설에서 "AX는 단순히 AI를 도입해서 시간과 비용을 절감하는 것과는 차원이 다른 훨씬 더 근본적인 변화"라며 "AX는 비즈니스와 업무 방식 자체를 처음부터 완전히 새롭게 재설계하는 것"이라고 말했다. 이어 "AX를 이뤄낸 기업은 고객이 말하기 전에 먼저 움직이며 시장을 분석한 뒤 대응하는 것이 아니라 실시간으로 반응한다"며 "AI는 업무를 바꾸지만, AX는 비즈니스를 바꾼다"고 강조했다. 이 대표는 기업의 AI 도입이 빠르게 늘고 있지만 실제 경영 성과로 이어지는 비율은 여전히 낮다고 진단했다. 글로벌 컨설팅 기업 맥킨지 조사에 따르면 기업의 88%가 하나 이상의 업무에 AI를 도입했지만 AI가 기업 이익에 유의미하게 기여한다고 답한 곳은 6%에 그쳤다. 삼성SDS는 이같은 간극을 줄이기 위한 AX 7대 핵심 요소로 ▲프로세스 재설계 ▲AI 활용에 적합한 데이터 정비 ▲다수 AI 에이전트 운영 체계 ▲AI 행동에 대한 정책과 통제 ▲AI 보안 ▲AI 친화적 조직 ▲기업문화 변화 등을 제시했다. 회사는 이같은 AX 전략을 내부 업무에 먼저 적용해 성과를 검증하는 '클라이언트 제로' 전략도 추진 중이다. 개발·구매·품질·경영지원·사업이행·마케팅·영업 등 사내 7대 업무 프로세스에서 AX 성과를 검증하고 이 과정에서 축적한 경험과 노하우를 고객사로 확산한다는 구상이다. 고객 현장에서 직접 AX를 구현하는 전방 배치 엔지니어(FDE) 인력도 대폭 늘린다. 오픈AI·앤트로픽·액센츄어 등과 협력해 AX 전문 FDE를 연내 200여명 규모로 확대하고 고객의 비즈니스 문제를 현장에서 함께 해결하며 AX 성과를 빠르게 구현할 계획이다. 삼성SDS가 이날 내세운 핵심 전략은 '다차원 AI 풀스택'이다. AI 인프라·플랫폼·솔루션을 기반으로 컨설팅부터 개발·구축·운영까지 연결하는 엔드투엔드 역량과 다양한 산업에서 축적한 업종 전문성을 결합한다. 고객별 비즈니스 문제를 진단한 뒤 상황에 맞는 AI 기술과 솔루션을 적용해 실제 성과까지 연결하는 것이 목표다. 이 대표는 "진정한 AI 풀스택이라면 AX 실행을 돕기 위한 컨설팅은 물론 개발과 구축, 운영에 대한 전문적인 역량을 제공해야 하며 이는 고객의 비즈니스에 대한 정확한 이해가 뒷받침돼야만 가능하다"고 설명했다. 글로벌 AI 기업과의 협력도 확대한다. 삼성SDS는 현재 오픈AI와 앤트로픽, 구글클라우드, 엔비디아, 액센츄어 등과 AI 모델·플랫폼·인프라·솔루션·보안에 걸친 생태계를 구축 중이다. 이날 현장에는 김경훈 오픈AI 한국총괄대표와 최기영 앤트로픽 한국 대표가 직접 무대에 올라 양사의 파트너십 방향성과 협력 시너지 전략도 공유했다. 특히 삼성SDS는 국내 기업 최초로 오픈AI의 '데이브레이크 파트너 프로그램'에 파일럿 파트너로 참여한다. 오픈AI의 프론티어 모델을 활용해 보안 취약점 발견부터 실제 영향 검증, 위험 우선순위 결정, 보안 패치 생성·테스트까지 AI 기반 사이버 방어 영역을 확대할 계획이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 영상 메시지를 통해 "삼성SDS는 기업의 실제 비즈니스 운영 방식을 깊이 이해하고 신기술을 성공적으로 도입할 수 있는 최적의 역량을 갖춘 글로벌 탑티어 파트너"라고 평가했다. 이어 "이미 기업 현장에 도입되기 시작한 AI 에이전트가 생산성에 실질적이고 긍정적인 영향을 미치고 있으며 이러한 변화는 더욱 가속화될 것"이라며 "세계적인 기술 인재와 인프라, 강력한 정부 지원과 역동적인 생태계를 갖춘 한국 기업들이 글로벌 AI의 다음 장을 선도할 수 있도록 삼성SDS와 함께 미래를 만들어 가겠다"고 밝혔다. 삼성SDS는 AX 영역을 디지털 업무에서 제조 현장까지 넓힌다. 이날 피지컬 AI를 기반으로 한 로보틱스 전환(RX) 사업 진출을 공식 선언했다. 지난 25년간 반도체·2차전지·바이오 등 국가 핵심 산업과 자동차·소재·부품·식음료 등 430여개 고객사의 제조실행시스템(MES)과 설비·물류 자동화를 구축한 경험을 피지컬 AI와 결합한다는 전략이다. 내년부터는 생산설비와 로봇을 하나로 연결해 운영하는 '로봇 오케스트레이션 플랫폼'도 본격 선보인다. 서로 다른 제조사의 로봇을 하나의 소프트웨어(SW)로 통합 제어하고 작업 동선을 실시간으로 조율하는 기술이다. 특정 로봇에 장애가 발생하면 이를 감지해 다른 로봇에 우회 작업을 지시하는 방식으로 공장 전체의 운영 중단을 방지한다는 방침이다. 피지컬 AI 생태계 확대를 위해 글로벌 로봇 기업과도 손잡았다. 레인보우로보틱스와 월든 로보틱스, 에이로봇, 엔닷라이트 등 10개 기업이 참여하는 '팀 렉스' 파트너십을 구성해 RX 사업화를 추진한다. 월든 로보틱스와는 전략적 투자·협력을 통해 제조 현장의 핵심 활용 사례 공동 발굴과 기술 검증에 나선다. 기업용 AI 에이전트도 강화한다. 삼성SDS는 AI 기반 협업 솔루션 '브리티웍스'에 새로운 AI 기능인 '코워크'를 공개하고 다음 달 상용화할 예정이다. 코워크는 사용자가 최종 업무 목표를 부여하면 세부 계획을 스스로 세우고 자료 조사와 보고서 작성, 메일 발송, 일정 등록 등 실제 업무를 수행하는 AI 업무 동료다. 행사에선 산업별 AX 성과도 공개했다. GS칼텍스는 삼성SDS와 차세대 전사적자원관리(ERP) 구축을 추진하며 AI 에이전트를 활용해 전체 업무 프로세스를 분석하고 있다. 동원그룹은 브리티웍스의 실시간 번역과 AI 회의록 등을 활용해 해외 법인과의 커뮤니케이션을 개선했다. AI 인프라 분야에선 베슬AI가 삼성 클라우드 플랫폼(SCP)을 도입해 기존 약 35% 수준이던 그래픽처리장치(GPU) 가동률을 약 90%까지 끌어올린 사례를 공개했다. 삼성SDS는 동탄 데이터센터를 비롯해 국가AI컴퓨팅센터와 구미 AI 데이터센터 구축을 가속화해 국내 AI 인프라를 연결하는 'AI 고속도로'를 구축한다는 계획이다. 삼성SDS는 앞으로도 리얼 서밋을 통해 최신 AI 기술 동향과 고객·파트너의 성공사례를 공유하고 AI 풀스택과 업종 전문성을 기반으로 국내 기업의 성공적인 AX 여정을 지속 지원할 방침이다. 이 대표는 "이번 리얼 서밋 2026을 통해 국내 기업들이 단순한 AI 도입 단계에 머물지 않고 실제 비즈니스 성과를 창출할 수 있는 해법을 공유했다"며 "독보적인 다차원 AI 풀스택 기술과 최고 수준의 글로벌 AI 생태계를 바탕으로 고객들의 성공적인 AX 여정에 언제나 신뢰할 수 있는 든든한 동반자로서 함께하겠다"고 강조했다.

2026.09.08 09:01한정호 기자

팔로알토, 동국대에 보안 아카데미 거점대학 운영

AI플랫폼 선도기업 다올티에스(대표 홍정화)는 동국대학교 경찰사법대학·경찰사법대학원·융합안전학술원, 글로벌 사이버보안 기업 팔로알토 네트웍스 코리아와 '팔로알토 네트웍스 사이버 시큐리티 아카데미 거점대학' 운영을 위한 3자 업무협약(MOU)을 체결했다고 7일 밝혔다. 이번 협약은 갈수록 고도화하는 사이버 위협에 대응할 전문인력을 양성하고, 학생들에게 글로벌 수준의 실무 교육과 공인 자격인증, 진로 및 취업 연계 기회를 제공하기 위해 마련됐다. 협약에 따라 3개 기관은 교육 인프라와 보안 기술, 산학협력 역량을 결합해 실무형 사이버수사·사이버보안 인재 양성에 나선다. 동국대학교는 서울지역 사이버수사·사이버보안 교육 거점대학으로서 '팔로알토 네트웍스 사이버 시큐리티 아카데미'를 기반으로 교과·비교과 교육과정을 운영한다. 또한 교육 운영 경험과 성과를 다른 대학 및 유관기관과 공유해 사이버보안 교육 확산에도 기여할 계획이다. 팔로알토 네트웍스 총판사인 다올티에스는 산학 연계 멘토링과 기술 특강을 제공하고, 학생들의 글로벌 교육·인증 프로그램 이수를 지원한다. 아울러 파트너사와 연계한 취업 홍보와 채용 기회를 마련해 교육이 실제 진로와 취업으로 이어질 수 있도록 지원할 예정이다. 세 기관은 앞으로 ▲사이버수사·사이버보안 전문인력 양성 교육 ▲사이버보안 인식 제고 ▲실습 중심 교육 및 교육시설·기자재 활용 ▲산학 연계 멘토링과 기술 특강 ▲글로벌 보안 교육 및 공인 자격인증 지원 ▲취업 및 진로 연계 등을 공동 추진할 방침이다. 이창한 동국대학교 경찰사법대학장은 “최근 범죄 양상이 온라인과 디지털 공간 중심으로 급격히 전환되고 경찰의 수사 책임과 역할이 커짐에 따라 실무형 사이버 보안 교육은 선택이 아닌 필수 과제가 되었다”며 “학생들이 사이버 보안의 중요성을 깊이 인식하고 사회에 진출할 수 있도록 돕는 한편, 고도화된 전문 역량을 갖춘 인재를 양성해 미래 사이버 수사 발전에 실질적으로 기여하겠다”고 말했다. 박상규 팔로알토 네트웍스 코리아 대표는 “팔로알토 네트웍스는 미국 주요 수사기관과의 긴밀한 협력을 포함해 글로벌 사이버 수사 분야에서 풍부한 선진 대응 경험과 기술력을 보유하고 있다”며 “이러한 글로벌 노하우를 바탕으로 동국대 학생들이 실제 현장에서 통하는 최신 보안 역량을 갖출 수 있도록 다각적인 지원을 아끼지 않겠다”고 밝혔다. 홍정화 다올티에스 대표는 “기업 차원에서 학생들이 실제 업무 현장에 준하는 실습 환경을 접할 수 있도록 실무 중심의 교육 인프라와 산학 멘토링, 자격인증 및 파트너사 채용 연계까지 전방위적인 지원을 펼치겠다”며 “이론과 현장 감각을 두루 갖춘 실무형 보안 인재들이 산업계로 원활히 진출할 수 있도록 든든한 교두보 역할을 다하겠다”고 강조했다.

2026.09.07 20:42방은주 기자

테이텀 시큐리티, '사이버 보안 특화 AI' 개발 참여

클라우드 보안 전문기업 테이텀 시큐리티(대표 양혁재)가 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 '사이버 보안 특화 인공지능(AI) 파운데이션 모델 개발' 사업에 참여한다. 회사는 지난 3일 과기정통부가 선정한 이 사업 선정자인 '네이버클라우드 컨소시엄' 일원으로 참여한다. 이번 사업은 급변하는 사이버 위협 환경에 대응해 국가 차원의 보안 역량을 강화하고, 보안 영역에 최적화된 고성능 AI 인프라 및 기술을 확보하기 위해 마련됐다. 테이텀 시큐리티가 속한 네이버클라우드 컨소시엄은 우수한 인프라와 독보적인 인공지능 기술력, 분야별 전문 기업들의 시너지를 인정받아 사이버 보안 특화 AI 사업의 최종 수행 주체로 선정됐다. 테이텀 시큐리티는 그동안 축적해 온 클라우드 네이티브 애플리케이션 보호 플랫폼(CNAPP) 및 보안 위협 분석 기술력을 바탕으로 사업에 참여한다. 자체 보유한 독보적인 보안 위협 탐지 알고리즘 및 데이터 분석 역량을 AI 파운데이션 모델에 결합해 고도화된 사이버 보안 특화 모델 구축에 기여할 방침이다. 최근 사이버 공격이 점점 지능화, 고도화함에 따라 기존의 규칙 기반 보안 대응체계만으로는 한계가 있다는 지적이 제기돼 왔다. 네이버 클라우드 컨소시엄이 개발하는 사이버 보안 특화 AI는 방대한 보안 로그와 위협 데이터를 실시간으로 학습 및 분석해 신종 보안 위협을 사전에 탐지하고 자동화된 대응체계를 구축하는 데 중점을 둔다. 테이텀 시큐리티 양혁재 대표는 “대한민국 AI 기술을 선도하는 네이버클라우드 컨소시엄 일원으로 사이버 보안 특화 AI 개발이라는 뜻깊은 프로젝트에 참여하게 돼 기쁘다”면서 “테이텀 시큐리티가 가진 독보적인 클라우드 보안 전문성을 바탕으로, 클로드 미토스 등 글로벌 파운데이션 모델과 견줄 수 있도록 한국형 사이버보안 AI 모델 개발에 기여하겠다”는 포부를 밝혔다. 한편, 테이텀 시큐리티는 차세대 클라우드 보안 솔루션을 시장에 공급하며 빠르게 성장하고 있는 보안 전문기업이다. 이번 사업 수행을 통해 자체 보안 솔루션의 AI 역량을 한층 더 끌어올리는 동시에, 다양한 산업군으로 AI 보안 생태계를 확장해 나갈 계획이다.

2026.09.07 20:34방은주 기자

쿤텍-ETRI, 온디바이스 AI 정보 유출 방지 기술 개발 추진

IoT·임베디드 보안 전문기업 쿤텍(대표 방혁준)은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 수행 중인 'On-Device AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발' 과제의 2차년도 연구를 통해 AI 모델 난독화 기술과 오염 분석 기반 AI 응용 프로그램 데이터 흐름 분석 기술을 개발하고 있다고 7일 밝혔다. 이번 과제는 한국전자통신연구원(ETRI)을 주관기관으로 여러 연구기관이 공동 수행하고 있다. 쿤텍은 온디바이스 환경에서 AI 모델과 추론 프로그램의 핵심 구현 정보가 외부 분석을 통해 노출되는 것을 방지하기 위한 기술을 연구하고 있다. 온디바이스 AI는 스마트폰, IoT 장비, 차량, 산업용 단말 등 기기 내부에서 직접 AI 연산을 수행한다. 빠른 응답성과 데이터 프라이버시 측면에서 장점이 있지만, AI 모델과 응용 프로그램이 단말에 직접 배포되기 때문에 공격자가 이를 확보하면 모델 구조와 데이터 처리 과정을 분석할 수 있다는 보안 위협이 존재한다. 쿤텍은 이러한 위협에 대응하기 위해 AI 모델 자체를 보호하는 난독화 기술과 AI 관련 보호 대상 코드를 식별하는 오염 분석(Taint Analysis) 기술을 개발하고 있다. AI 모델 난독화 기술은 온디바이스에 사용되는 AI 모델을 MLIR(Multi-Level Intermediate Representation) 형태로 변환한 뒤, 다양한 난독화 기능을 Pass 단위로 적용하는 방식이다. 주요 기술은 ▲연산자의 식별 정보를 변경하는 비식별화(Renaming) ▲가중치(Weight), 편항(Bias) 등의 파라미터를 분리·은닉하는 매개변수 캡슐화(Parameter Encapsulation) ▲텐서 형상을 변형하는 신경 구조 난독화(Neural Structure Obfuscation) ▲가짜 연결 및 노드를 삽입하는 그래프 구조 난독화(Graph Structure Obfuscation) 등이다. 이를 통해 모델 파일에 노출되는 연산자 종류, 파라미터, 텐서 형상과 그래프 연결 관계를 변형해 외부 분석자가 실제 모델 구조를 파악하기 어렵게 한다. 동시에 별도의 실행 정보를 이용해 난독화된 모델에서도 원래 연산이 수행되도록 구성해 모델 구조를 은닉하면서 정상적인 추론 기능을 유지하는 것을 목표로 하고 있다. 특히 쿤텍은 MLIR Pass 단위로 난독화 기능을 구성해 모델 특성과 보호 요구에 따라 선택적으로 조합하고, 런타임 수정은 최소화하면서 별도 실행 정보를 통해 난독화 연산과 실제 연산을 연결해 호환성과 확장성을 높이고 있다. 또 쿤텍은 오염 분석 기반 AI 응용 프로그램 데이터 흐름 분석 기술을 개발하고 있다. AI 응용 프로그램에는 모델 호출뿐 아니라 전처리, 후처리, 파일 처리 등 다양한 코드가 포함돼 있어 실제 AI 추론과 관련된 부분만 정확하게 식별하는 과정이 필요하다. 쿤텍은 C/C++ 기반 AI 응용 프로그램을 LLVM IR로 변환하고, TFLite API를 기준점으로 데이터가 변수, 포인터, 함수 호출 등을 통해 어떻게 전달되는지 추적하는 기술을 구현하고 있다. 이를 통해 함수 이름과 같은 단순한 패턴이 아닌 실제 데이터 의존 관계를 기반으로 AI 추론에 관여하는 코드를 자동으로 식별할 수 있다. 향후 오염 분석을 통해 식별한 보호 대상과 난독화 기술을 연계, 리소스가 제한된 온디바이스 환경에서 프로그램 전체가 아닌 실제 AI 추론과 직접 관련된 핵심 코드와 정보를 선택적으로 보호할 수 있는 기술로 고도화할 계획이다. 이와 함께 연구 과정에서 확보한 모델 난독화 기술의 지식재산권 보호를 위해 '인공지능 모델의 구현 정보를 은닉하는 방법 및 이를 수행하는 컴퓨팅 장치'와 '오염 분석 기반 인공지능 추론 코드의 보호 대상 자동 식별 방법 및 시스템'에 대한 특허 출원을 완료했다. 해당 기술들은 중간 표현 단계에서 연산 식별 정보, 파라미터, 텐서 구조 및 그래프 연결 관계 등을 변형·은닉해 모델 파일의 정적 분석과 구조 복원을 어렵게 하고, 응용 프로그램에서의 AI 관련 API를 추적하여 해당 부분에 난독화를 적용한다. 쿤텍 방혁준 대표는 “온디바이스 AI가 다양한 산업과 제품으로 확산되면서 AI 모델뿐 아니라 이를 구동하는 응용 프로그램의 핵심 로직까지 보호해야 할 필요성이 높아지고 있다”면서 “AI 모델 난독화 기술과 데이터 흐름 기반 보호 대상 식별 기술을 함께 고도화해 실제 제품 환경에서 활용할 수 있는 온디바이스 AI 정보 보호 기술을 확보해 나갈 것”이라고 말했다.

2026.09.07 20:17방은주 기자

한국MS "AI시대, 프런티어 보안 엔지니어 필요"

AI를 활용해 가장 위험한 심층 취약점을 찾아내고 기업 내부와 외부 위협 정보를 하나의 보안 컨텍스트로 연결하며, 보안 담당자가 AI 에이전트를 오케스트레이션해 조직 전체의 보안 목표를 달성하는 새로운 보안 패러다임을 제시했다. 장광운 한국MS 보안전략고문은 7일 삼성금융캠퍼스에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 "과거에는 취약점이 공개된 이후 이를 악용하는 데 수개월의 시간이 걸렸다. 하지만 이제는 상황이 달라졌다. 취약점이 공개되기 전에 먼저 공격이 발생하는 사례가 일반화되고 있으며, 취약점 공개 이후 공격까지 걸리는 이른바 '타임 투 익스플로잇(Time to Exploit)'이라는 개념 자체가 무의미해질 정도"라고 밝혔다. 장 고문은 MS가 제시하는 새로운 보안 패러다임을 소개하며 이 같이 말했다. AI가 공격을 자동화하는 시대에는 개별 보안 제품이 아니라, AI가 위협을 이해하고, 추론하며, 사람과 함께 대응하는 통합 체계가 경쟁력을 좌우한다고 강조했다. 이에, AI를 활용해 가장 위험한 심층 취약점을 찾아내고 기업 내부와 외부 위협 정보를 하나의 보안 컨텍스트로 연결하며, 보안 담당자가 AI 에이전트를 오케스트레이션해 조직 전체의 보안 목표를 달성하는 새로운 보안 패러다임을 제시했다. AI 기반의 공격 자동화가 취약점을 빠르게 탐색하고 악용할 수 있는 환경을 조성했고, 기존처럼 계정을 탈취하는 방식보다 취약점을 직접 공략하는 공격 비중이 급격히 증가하고 있다는 설명인 셈이다. 장 고문은제 글로벌 침해사고 분석에서도 취약점 악용이 계정 탈취를 제치고 가장 많이 사용되는 침투 경로로 올라섰으며, 오픈 웨이트(Open-weight) AI 모델의 공격 성능도 프론티어 모델에 근접하면서 고급 공격 기술의 대중화가 빨라지고 있다고 진단했다. 실제 올해 대만 정부 기관을 대상으로 한 공격 사례에서 자율형 AI 에이전트와 오픈소스 도구만으로 사람의 직접적인 개입 없이 21개 사이트를 대상으로 2500건 이상의 정보를 수집하는 공격이 수행된 정황이 포착됐다. "MDASH-프로젝트 퍼셉션-프론티어 보안 엔지니어 연결" 이에 MS는 AI의 공격속도에 대응해 3가지 축을 중심으로 대응할 방침이다. 첫 번째 축은 '엠대쉬(MDASH)'다. MDASH는 기존 정적 분석 도구처럼 코드 패턴만 검사하는 것이 아니라 전문 보안 연구원이 소스코드를 분석하는 과정을 AI 에이전트로 구현한 심층 취약점 분석 체계로 MS가 올해 처음 공개했다. 100개 이상의 AI 에이전트가 협업해 코드 분석부터 취약점 탐지, 검증, 익스플로잇 가능성 확인까지 전 과정을 자동으로 수행한다. MDASH는 업계 대표 벤치마크인 사이버짐(CyberGym)에서 96%의 성능을 기록했으며, 미토스(Mythos) 대비 12포인트 높은 결과를 보였다. MS는 MDASH를 이미 실제 제품 개발 과정에 적용하고 있다. 올해 4월부터 윈도우 패치 개발 과정에 활용하기 시작했으며, 5월 배포된 패치 가운데 16건의 취약점을 MDASH가 찾아냈다. 특히 공개되지 않은 윈도우 커널 소스코드에서도 원격 코드 실행(RCE)이 가능한 고위험 취약점을 발견하기도 했다. MS는 취약점을 많이 찾는 것만으로 AI 시대 보안이 완성되지는 않는다고 강조했다. 이를 반영한 또 다른 핵심 축은 MS가 지난 7월 발표한 '프로젝트 퍼셉션(Project Perception)'이다. AI 에이전트가 실제 보안 업무를 수행하려면 조직 내부 상황과 공격자의 행동을 함께 이해하는 컨텍스트가 필요하기 마련이다. 이에 MS는 방대한 보안 이벤트를 상관관계 분석으로 연결해 '시큐리티 그래프(Security Graph)'를 구축하고, AI가 이해할 수 있는 보안 컨텍스트로 변환하겠다는 청사진을 제시했다. 프로젝트 퍼셉션은 이러한 컨텍스트를 기반으로 여러 AI 에이전트가 협업하는 구조다. 예를 들어 한 에이전트가 새로운 위협을 발견하면 다른 에이전트가 탐지 규칙을 생성하고, 또 다른 에이전트가 실제 대응과 복구를 수행한다. 각각의 에이전트가 독립적으로 움직이는 것이 아니라 서로 결과를 공유하며 방어 수준을 지속적으로 높이는 방식이다. 장 고문은 이 과정에서 무엇보다 중요한 요소로 '사람(Human in the Loop)'을 강조했다. AI가 계획을 세우고 실행하더라도 최종 의사결정과 거버넌스는 반드시 사람이 담당해야 하며, 필요한 지점에서 검증과 승인을 수행하는 구조가 돼야 한다는 것이다. 그는 "AI 시대에서 사람에게 새롭게 요구되는 역할은 '프론티어 보안 엔지니어(Frontier Security Engineer)'"라며 "프론티어 보안 엔지니어는 여러 AI 에이전트를 오케스트레이션하며 목표를 정의하고 결과를 검증하는 역할을 수행한다. AI가 필요한 작업 계획을 세우고 각 에이전트에 업무를 배분하면 사람은 조직 전체 위험을 관리하고 전략적인 판단에 집중하는 형태"라고 설명했다. 장 고문은 "보안 담당자가 기존처럼 '취약점을 분석하라', '탐지 규칙을 수정하라'와 같이 개별 단위 명령을 지시하는 데 그치는 것이 아니라, '노출 위험을 제거하라', '공격 위험을 최소화하라'와 같이 최종 성과를 목표로 AI를 운영해야 한다"며 "자율형 공격 시대의 보안은 더 이상 개별 작업 중심이 아니라 성과 중심으로 전환될 필요가 있다"고 강조했다.

2026.09.07 20:03김기찬 기자

"AI 보안사고 대처법..모든 행동 기록하고 분석해야"

숭실대 AI안전성연구센터 센터장을 맡고 있는 최대선 숭실대 소프트웨어학부 교수는 7일 에임인텔리전스가 개최한 '인공지능(AI) 리스크 컨퍼런스 서울 2026'에서 'AI 리스크: 권한과 통제'를 주제로 발표했다. 최 교수는 이날 '허깅페이스(Hugging Face)' 침해 사례를 바탕으로 기존의 보안 패러다임만으로는 더 이상 AI를 안전하게 활용하기 어렵다고 강조했다. 허킹페이스 침해 사례는 취약점을 분석하는 문제를 해결하기 위해 샌드박스 환경에서 동작하도록 설계했지만, 더 높은 성능을 얻기 위해 AI 에이전트가 스스로 샌드박스를 벗어나 외부 정보를 찾으려 시도한 일이다. 또한 AI 에이전트끼리 별도의 저장공간을 만들어 정보를 공유하는 등 사용자가 의도하지 않았던 행동까지 수행했다. 그는 "AI 에이전트 시대 사이버보안의 핵심 과제는 해킹 기술보다 AI에 얼마나 적절한 권한을 부여하고 통제할 수 있는지로 옮겨가고 있다"고 말했다. 최 교수는 이를 두고 AI 에이전트에 대한 권한 관리가 제대로 이뤄지지 않았다고 지적했다. 또한 향후 AI 보안 사고 상당수가 권한 관리 미흡으로 인해 발생할 가능성이 높다고 진단했다. 그는 "허깅페이스 침해 사례는 두 가지 실패를 담고 있다. 첫 번째는 권한의 실패, 둘째는 통제의 실패다"라며 "권한의 실패는 내부 저장소에 에이전트가 접근할 수 잇었다는 점, 통제의 실패는 지시하지 않은 목표를 향해 에이전트가 경계를 넘었다는 것"이라고 말했다. 이에 최 교수는 "에이전트에게 어디까지 권한을 허용할 것인지, 권한을 허용한 이후에 멈추라고 하면 멈출 수 있는지 등을 다시 생각해봐야 한다"며 "만약 이 질문에 대답할 수 없다면 이는 보이지 않는 AI 에이전트 리스크"라고 강조했다. 최 교수는 에이전트에 부여할 수 있는 권한을 좁히더라도 사고는 발생할 수 있으며, 권한을 좁혀도 해결되지 않는다면 더 많은 권한을 부여하면서도 사후에 무엇이 일어났는지 설명할 수 있어야 한다고 역설했다. 또한 통제할 수 없다면 기록이 남아야 한다는 것이 그의 주장이다. 최 교수는 "결국 앞으로의 AI 보안은 사고를 완전히 막는 것이 아니라 AI의 모든 행동을 기록하고 분석해 지속적으로 권한과 통제 체계를 개선하는 방향으로 발전할 수밖에 없다"며 "국내에서도 AI 안전 논의가 개인정보 보호나 모델 보안을 넘어 자율형 AI의 권한 관리와 통제 기술까지 확대돼야 한다"고 밝혔다.

2026.09.07 19:48김기찬 기자

새 사이버안보비서관에게 바란다…"현장형 컨트롤타워되길"

국가안보실 산하 사이버안보비서관 자리에 김휘강 고려대 정보보호대학원 교수가 발탁됐다. 김 비서관은 국내 1호 해커 출신 교수로 학계는 물론 산업계 경험도 풍부하다. AI스페라, 에이쓰리시큐리티 등 보안 기업을 창업한 경험을 갖고 있다. 개인정보보호위원회 위원으로 활동하는 등 개인정보보호에도 일가견이 있다. 지디넷코리아는 6일 산·학을 두루 거친 김 비서관에 보내는 각계각층의 목소리를 들어봤다. 2022년부터 2024년까지 사이버안보비서관을 지내고, 국가정보원 제3차장을 역임한 윤오준 법무법인 율촌 상임고문은 "김 비서관이 학계에도 오래 머물렀고 많은 활동을 해온 인물이기 때문에 전반적으로 한국의 사이버 보안 생태계를 잘 이끌어 나갈 거라 기대한다"며 "이미 한 달 전께 사이버안보비서관으로서 그려나갈 청사진을 마련해 뒀을 것"이라고 말했다. 윤 상임고문은 "우리 사이버 보안은 그간 수세적인 활동을 해왔다. 다만 점차 고도화되는 사이버 위협과 더욱 복잡해지는 사이버 환경 속에서 방어적인 정책과 인식은 한계가 있다"며 "우리나라도 미국과 같이 국제 범죄 조직에 대한 활동을 적극적으로 모니터링하고, 안보적 차원에서 국가 배후 해킹 세력의 위협 행위에 맞서 공세적인 인식을 갖고 대응할 필요가 있다. 이같은 부분을 김 비서관이 염두에 두고 정책 활동을 이어갔으면 한다"고 강조했다. 2020년부터 국가정보원 제3차장을 지낸 김선희 가천대 초빙교수는 "김 비서관이 사이버보안 기술적 측면은 뛰어난 인물"이라면서도 "안보 정책 및 전략을 구상하는 차원에서는 조금의 우려가 있다. 사이버 위협이 고도화되는 시점에서 기술이나 데이터만으로 대응하기란 한계가 있다. 국가 차원에서의 효율적인 전략과 정책이 뒷받침돼야 한다"고 말했다. 산업계 "민·관 조율 적임자…현장 노하우 정책 반영되길" 한국정보보호산업협회(KISIA) 수석부회장을 맡고 있는 최영철 SGA솔루션즈 대표는 "김 비서관은 해킹 동아리서부터 보안 기업, 고려대 정보보호대학원까지 사이버보안 분야를 꿰뚫고 있는 인물이라고 생각된다"며 "이를 기반으로 국가가 필요한 정책에 대해 좋은 방향으로 이끌어나갈 수 있을 거라 기대한다"고 말했다. 최 대표는 이어 "특히 보안 기업 창업·운영 경험이 있는 만큼 산업계와 학계, 정부와 조율과 중재에 충분한 역할을 수행할 거라고 생각한다"며 "오랜 기간 쌓아 올린 노하우가 사이버보안 정책에도 반영되기를 희망한다"고 말했다. 사이버 위협 행위자들의 실시간 공격 현황을 추적하고, 위협 인텔리전스(CTI)를 제공하는 오아시스시큐리티의 김근용 대표도 김 비서관의 현장 경험이 정책에 녹아들 수 있을 거라고 기대했다. 김 대표는 "김 비서관과 친분이 있지는 않지만, 해커 출신으로 보안 현장에 많은 노하우를 축적한 인물로 알고 있다"며 "정책적 결정이 필요할 때 기존보다 보안 산업 현장에 꼭 필요하고 확장할 수 있는 측면으로 고려할 수 있을 거라고 기대한다"고 말했다. 장일수 스패로우 대표는 "공급망 내 침해사고가 잇달아 터져 나오고 있는 가운데 공급망 보안에 대한 얘기는 진전이 더디다"면서 "2년여 전에 공급망 보안 가이드라인 1.0이 발표되고, 지난 7월 관계부처 합동으로 공급망 보안 로드맵이 발표된 것이 전부다"고 말했다. 장 대표는 "이제는 공급망 보안 로드맵을 실행해야 하는 단계다. 하지만 여러 관계부처로 책임이 나뉘어져 있고 담당자들도 수시로 변경되는 상황에서 로드맵 실행이 추진력을 얻지 못하고 있는 상황"이라며 "많은 관심이 인공지능(AI)에만 쏠려있는 현실"이라고 강조했다. 그는 이어 "김 비서관이 이같은 부분을 신경쓰고 공급망 보안의 법제화 등 정책적으로 뒷받침할 수 있었으면 한다. 사이버안보비서관만이 할 수 있는 일이다"라고 역설했다. 김재기 S2W 최고제품책임자(CPO)는 "김 비서관은 직접 창업을 하고, 보안업계에 재직하신 실무 경험과 학계에서의 고도화된 연구 역량을 두루 갖춘 인물"이라며 "산·학·연 전반의 애로사항과 필요성을 몸소 체험한 만큼 현장에 필요한 국가 안보 정책이 겉돌지 않고 실질적으로 반영될 수 있게 이끌 최적의 적임자라고 확신한다"고 평가했다. 그는 이어 "개별 기업 단위의 방어를 넘어 비즈니스 생태계 전체를 보호하는 '실전형 공급망 보안 체계' 확립이 시급하다"며 "대기업·정부 기관을 노린 협력사 우회 공격이 일상화된 만큼, 보안 투자가 어려운 중소 협력사들이 외부 노출 자산과 취약점을 상시 모니터링할 수 있도록 국가 차원의 기술적·정책적 지원을 최우선으로 추진해 주길 기대한다"고 말했다. 학계 "중소기업 보안 사각지대 해소·국제 협력 체계 구축 시급" 학계에서는 공급망 보안, 국제 협력, 예방 중심의 보안 등에 대한 주문이 쏟아졌다. 한국정보보호학회장을 맡고 있는 김호원 부산대 컴퓨터공학과 교수는 "김 비서관은 다양한 분야를 두루 잘 살필 수 있는 차분한 성품의 인물이다. 다만 사이버안보비서관이라는 중책을 맡으면서 잘 버틸 수 있을지는 걱정이 된다"면서도 "그러나 인품이나 기술적인 식견, 경험으로 보아 충분히 잘 해내리라 믿는다"고 말했다. 김 교수는 이어 "최근 사이버 보안 분야는 뜨거운 감자다. 그런데 공공기관이나 일부 대기업에 한해서만 사이버 보안에 대한 준비가 어느정도 갖춰진 정도이지, 중소기업이나 여러 지역 산업 협력체들은 보안에 신경을 쓸 여력이 없다"며 "이런 부분을 김 비서관이 집중해서 정책을 펼쳤으면 한다"고 역설했다. 그는 "국가 전체 관점에서 보면 수많은 정책기관이 있음에도 중소기업 및 지역 산업 협력체의 보안을 살필 수 있는 체계가 마련돼 있지 않다"며 "중소벤처기업부도 사이버 보안까지 신경쓸 겨를이 없고, 과학기술정보통신부는 R&D나 기술적 관점에서만 접근하고 있다. 국가정보원도 공공기관이 아니다 보니 중소기업이나 지역 산업 협력체의 보안까지 책임질 수 없는 현실이다. 한국인터넷진흥원(KISA)만이 일부 지원하고 있지만, KISA의 예산이나 입지를 고려하면 이마저도 충분치 않다"고 우려했다. 이어 김 교수는 "김 비서관이 이런 사각지대를 잘 들여다보고 정책에 반영할 수 있다면 우리 사이버보안 생태계가 한층 견고해질 수 있을 거라 생각한다"며 "현장을 가장 잘 이해하고 있는 인물이 중책을 맡게 된 만큼 기대하고 있다"고 밝혔다. 박기웅 세종대 정보보호학과 교수는 한국만이 가지는 이점을 살려 사이버 보안을 국제 협력을 통해 멀리 나아갈 수 있는 포석을 마련했으면 한다고 밝혔다. 박 교수는 "우리나라가 '해커들의 놀이터'라는 얘기가 나오고 있는데, 이는 역으로 생각하면 그만큼 기술을 빨리 받아들이고 공격자들의 행위정보나 정세 파악, 데이터를 많이 가지고 있다는 것"이라며 "최근 사이버 환경은 독불장군처럼 혼자 살아남을 수 있는 시대가 아니다. 따라서 국제 협업이 필수적이라고 할 수 있는데, 한국이 가진 지정학적 위치이자 인프라를 바탕으로 국제 협업을 이끌어내는 데에도 김 비서관의 혜안이 필요할 것으로 보인다"고 말했다. 그는 "한국만이 장점으로 내세울 수 있는 부분을 안보와 국제 협력적 차원에서 반영하고, 아이디어와 정책을 발굴해낼 수 있었으면 한다"고 강조했다. 염흥열 순천향대 정보보호학과 명예교수는 "김 비서관은 산업계에서 시작해 학계를 거쳐 개인정보보호위원회 비상임위원까지 역임하면서, 민간과 공공 영역을 두루 경험한 폭넓은 경험과 역량을 갖춘 적임자"라고 평가하며 "사이버보안 컨트롤타워로서 침해사고를 사전에 예방할 수 있는 체계를 마련하는 데 집중했으면 한다"고 말했다. 이용준 극동대 해킹보안학과 교수는 "사이버 보안 전문성과 현장 경험을 동시에 갖춘 현장형 전문가가 사이버 안보 컨트롤타워를 책임지게 됐다는 점에서 환영하지 않을 수 없다"며 "사이버보안은 정책, 기술, 연구, 인력 양성 등이 함께 발전해야 하는 시점에 놓여 있다. 이 시점에서 최적의 통합형 적임자가 선임됐다고 볼 수 있다"고 평가했다. 실무진 "화이트해커 법적 보호·기업 내 보안 인식 개선 절실" 화이트해커, 보안 실무자들 사이에서는 신임 사이버안보비서관에 대한 정책 제언이 쏟아졌다. 익명을 요구한 화이트해커 출신 IT기업 보안 담당자는 "안보적 관점에서 사이버 공격이 들어왔을 때 대응이라 함은, 방어뿐 아니라 역공격도 포함돼야 한다"며 "우리는 공격을 당했는데 맞기만 하고 있어야 한다는 것은 안보적 관점에서는 어긋나 있다고 판단된다"고 일침했다. 그는 이어 "이를 위해서는 국제 공조를 더욱 활성화하고, 한국의 참가도도 더욱 높일 필요가 있다"며 "뿐만 아니라 국내 기업 및 기관의 사이버 보안 역량 강화를 위해 화이트 해커들의 보안 취약점 제보를 위한 침투 테스트가 법적으로 보장받을 수 있는 환경이 필요하다. 또한 화이트해커가 제보한 보안 취약점을 조치한 이후에는 합당한 보상이 주어지는 체계가 더욱 확산돼야 한다"고 강조했다. 다른 IT기업 보안 담당자는 "그나마 보안 현실을 직접 겪어본 인물이 안보 중책을 맡게 된 점은 다행"이라면서도 "여전히 기업 보안팀은 한직에 불과하다. 언제든 침해사고가 터질 수 있는 상황에서 부족한 인력과 예산, 솔루션으로 막아내고 있는데, 막상 사고가 터지면 가장 많은 책임을 묻는다. 이같은 인식이 개선되지 않으면 안보는커녕 보안에 대한 인식 절대로 제고되지 않을 것"이라고 목소리를 높였다. 그는 이어 "한국에서 사이버 보안은 갈 길이 멀다"며 "이같은 인식의 변화를 이끌어낼 수 있을지 기대되면서도 걱정을 떨칠 수 없다"고 말했다. 금융권 보안 실무자는 "여러 사이버보안 정책이 혼재돼 있고, 각기 다른 정책들을 실무에 적용함에 있어 자료를 개별적으로 찾아보고 종합하는 이 과정이 실무자의 입장에서는 번거로운 경우가 있다"면서 "예를 들어 국가 망보안 체계(N2SF) 도입 검토를 위해 관련 정보를 찾아보려면 일일이 가이드라인을 살피는 것보다 관련 솔루션은 무엇인지, 업체 측에서 제공하는 정보들이 더 빠르고 명확한 경우들이 많다. 산재한 정책을 한 데 모아 보안업계 현장에 빠르게 전달될 수 있는 정책 플랫폼이 필요하다"고 말했다. 엔키화이트햇 소속 화이트해커 중 한 명은 "그 동안의 사이버안보 정책은 사고가 발생한 뒤 무엇이 부족했는지 되짚는 방식으로 축적돼 왔다. 공격자의 관점과 그 중요성을 잘 이해하고 있는 김 비서관이 임명된 것은 사후 대응에서 선제 대응과 상시 진단으로 옮겨가는 현재 기조를 강화하겠다는 의도로도 보인다"며 "김 비서관은 오래 전부터 국내 보안의 문제로 비용효율성만 따지다 보니 지속적인 보안 업데이트나 개발 단계의 취약점 제거 문화가 덜 확산된 점을 지목한 바 있다. 최근 대형 침해사고의 상당수가 오래전에 패치가 나온 취약점에서 시작된 점을 감안하면, 그 지적이 지금도 유효한 수준을 넘어 오히려 심화되고 있다는 뜻"이라고 말했다. 그는 "점검 항목을 채우는 일과 실제 공격을 막는 일이 반드시 같지는 않다는 점을 현장에서 확인한 김 비서관이기 때문에 진단과 검증의 실효성에 초점을 둔 정책 제안을 기대한다"며 "아울러 글로벌 해킹 대회에서 성과를 내는 국내 인재들이 보안 산업과 국가 안보에 기여할 수 있는 기반, 그 역량이 산업 성과로 이어지는 통로, 국가 차원의 보안 역량을 스스로 확보해 나가는 여건이 함께 마련되기를 기대한다"고 강조했다.

2026.09.07 17:31김기찬 기자

[AI 고속도로] "북미 반발 틈새 노린다"…호주, AI 데이터센터 투자 손짓

미국과 캐나다에서 전력요금 상승과 환경 부담을 우려한 데이터센터 반대 움직임이 확산되고 있는 가운데 호주가 글로벌 인공지능(AI) 인프라의 대체 투자처로 나섰다. 신규 전력 공급과 전력망 접속 비용을 사업자에게 부담시키는 대신 인허가 절차를 단축해 지역사회 우려를 줄이면서 엔비디아·오픈AI·앤트로픽의 투자를 유치하겠다는 전략이다. 7일 디오스트레일리안과 호주 정부에 따르면 리처드 말스 호주 부총리와 앤드루 찰턴 과학·기술·디지털경제 차관보는 최근 미국을 방문해 엔비디아와 오픈AI, 앤트로픽 경영진을 만났다. 호주 정부는 자국을 지속 가능한 AI 인프라 투자처로 제시하고 AI 개발과 학습, 모델 보안·안전, 현지 산업 역량 확충 방안을 논의했다. 호주 정부가 지난달 31일 발표한 자료에는 대표단이 미국 주요 AI 연구소와 만나 지속 가능한 AI 인프라 투자를 요청한다는 내용이 담겼다. 다만 면담 대상 기업과 투자금액, 데이터센터 부지와 착공 일정은 공개하지 않았다. 디오스트레일리안은 소식통을 인용해 호주에서 향후 2년간 최대 10GW 규모의 데이터센터 투자 계획이 승인될 수 있다고 보도했다. 또 엔비디아가 현지 투자를 준비하고 있으며 앤트로픽도 AI 학습 인프라 확장을 검토 중이라고도 전했다. 다만 10GW는 호주 정부가 공식 확정한 목표가 아니며 두 회사도 투자 규모와 착공 일정 등을 발표하지 않았다. 글로벌 AI 기업들의 호주 투자가 처음 거론된 것은 아니다. 오픈AI는 지난해 12월 현지 데이터센터 운영사 넥스트DC와 시드니에 대규모 AI 캠퍼스와 GPU 슈퍼클러스터를 개발하기 위한 양해각서를 체결했다. 앤트로픽도 지난 4월 호주 정부와 AI 협력 양해각서를 맺고 향후 현지 사업에 호주 정부가 제시한 데이터센터 기준을 적용하기로 했다. 일단 호주 정부는 글로벌 AI 기업을 유치하되 데이터센터 확장에 따른 전력·용수 부담이 주민에게 전가되지 않도록 관련 기준을 제시했다. 이에 따라 대규모 데이터센터 사업자는 시설 가동에 필요한 신규 전력 공급을 뒷받침하고 전력망 접속 비용 가운데 사업자 몫을 전액 부담해야 한다. 또 전력 수급이 불안정할 때는 사용량을 줄이고 냉각에 필요한 물도 효율적으로 관리해야 한다. 정부는 해당 조건을 지킨 사업자의 인허가 절차를 단순화하고 처리 속도를 높일 방침이다. 연방정부와 주정부마다 다른 기준도 통일해 기업이 투자 일정과 비용을 예측할 수 있도록 지원할 예정이다. 앞서 호주는 지난 3월 데이터센터와 AI 인프라 개발사업자에게 적용할 5대 원칙을 발표했다. 국가 이익 우선, 에너지 전환 지원, 지속 가능한 용수 사용, 현지 인력·일자리 투자, 연구·혁신 역량 강화 등이 포함됐다. 지난 7월에는 신규 전력 공급과 전력망 접속 비용 부담 등을 법적 의무로 전환하겠다고 밝혔다. 지난달 26일 열린 국가내각 회의에서는 연방정부와 주정부가 에너지·용수·토지 이용에 관한 전국 공통 기준을 마련하기로 합의했다. 관련 법률은 내년 초 제정할 예정으로, 주정부와 지방정부의 기존 인허가 절차와 중복되지 않도록 연방 기준을 설계한다는 방침이다. 앤서니 앨버니지 호주 총리는 "대규모 데이터센터를 건설하려면 전력망에 추가되는 에너지를 사업자가 마련하고 송전 비용도 부담해야 한다"며 "물을 추가로 사용한다면 관련 비용 역시 사업자가 내야 한다"고 말했다. 이 같은 호주의 정책은 미국과 캐나다에서 불거진 데이터센터 갈등을 사전에 줄이는 데 초점을 맞췄다. 북미 일부 지역에서는 데이터센터의 대규모 전력·용수 사용이 주민 전기요금과 환경 부담을 높일 수 있다는 우려가 커지면서 신규 개발을 중단하거나 사업을 거부하는 사례가 이어지고 있다. 찰턴 차관보는 "호주는 새로운 기술이 노동자와 지역사회에 혜택을 나누는 포용적이고 안전하며 지속 가능한 성장을 이끌도록 할 기회를 갖고 있다"며 "명확하고 실효성 있는 사회적 수용 기준을 마련하는 것이 이를 달성하는 데 필수적"이라고 말했다.

2026.09.07 17:19장유미 기자

또 하나의 다재다능한 안드로이드 태블릿 대안: 휴이온, Kamvas Pad 12 공개

로스앤젤레스 2026년 9월 7일 /PRNewswire/ -- 휴이온(Huion)은 Kamvas Slate 태블릿 시리즈를 출시한 지 1년 만에 새로운 안드로이드 태블릿 Kamvas Pad 12를 공식 발표했다. 업계를 선도하는 제조업체이자 혁신 기업인 휴이온은 오늘날 치열한 시장 환경에 대응하기 위해 제품 라인업을 확대해 왔다. Kamvas Slate 시리즈와 달리 Kamvas Pad 12에는 최신 PenTech 4.0 기술이 적용된 배터리프리 EMR 펜 PW600C가 탑재됐다. 이 펜은 태블릿에 자석으로 부착할 수 있어 한층 뛰어난 휴대성과 편의성을 제공한다. 이 태블릿에는 이 밖에도 눈길을 끄는 다양한 기술과 편리한 창작 기능이 탑재되어 있다. 주요 특징을 간단히 살펴보자. 어떤 점이 특별한가? 이 제품은 12.2인치 2K(2400 x 1600) 해상도와 90Hz 주사율을 갖춰 선명한 디테일과 부드러운 선 표현을 제공한다. 3:2 화면비는 문서 읽기에 적합하며, 화면 분할 기능과 결합하면 참고 이미지를 보면서 그림을 그리거나 글을 읽는 도중 메모를 작성할 때 생산성을 획기적으로 향상시킨다. 또한 이 태블릿에는 휴이온의 3세대 Kamvas 크리에이티브 디스플레이 전반에 적용된 시그니처 글래스 처리 기술인 Canvas Glass 3.0도 탑재했다. 소프트 라이트 스크린은 장시간 그림을 그릴 때 눈의 피로를 줄여주며, 질감이 있는 표면은 실제 종이 위에 그리는 듯한 자연스러운 필기감을 제공한다. AG+AF 코팅은 작업을 방해하는 빛 반사를 최소화하고 지문과 얼룩이 화면에 쉽게 남는 것을 방지한다. 무엇보다 Kamvas Pad 12는 향상된 생산성, 강력한 보안, 직관적인 사용 편의성 간 균형을 고려해 설계된 최신 Android 16 운영체제(OS)를 탑재했다. HiPaint, Clip Studio Paint, ibisPaint X, MediBang Paint, Huion Note 등 다양한 크리에티브 앱도 기본적으로 설치되어 있어 사용자는 언제 어디서나 스케치하거나 메모할 수 있다. 처리 성능을 중시하는 사용자를 위해 8코어 MediaTek Genio 720 프로세서가 탑재됐다. 여러 앱을 동시에 실행하거나 드로잉 애플리케이션에서 여러 레이어를 사용해 작업할 때도 지연 없이 부드럽고 선명한 그래픽 성능을 제공한다. 당신에게 완벽한 태블릿인가? Kamvas Pad 12는 드로잉, 게이밍, 학습, 사무 업무에 모두 활용할 수 있는 다목적 크리에이티브 태블릿이다. 자주 이동하면서 언제 어디서든 창작하기를 원하는 펜 디스플레이 및 펜 태블릿 애호가에게 적합한 가볍고 휴대성 뛰어난 제품이다. 휴이온 소개 휴이온은 뛰어난 가성비의 고성능 디지털 창작 하드웨어를 15년간 개발 및 제조해 온 업계 선도 브랜드다. 최신 제품 소식과 업데이트는 인스타그램 계정 @huiontablet을 팔로우하거나 huion.com에서 확인할 수 있다.

2026.09.07 17:10글로벌뉴스

"'인다이렉트 인젝션' 해커 공격, 듀얼 LLM으로 방어 가능"

'이병영 서울대 전기정보공학부 교수는 7일 에임인텔리전스가 개최한 'AI 리스크 컨퍼런스 서울 2026'에서 "듀얼 LLM'을 활용하면 해커의 '인다이렉트 인젝션' 공격을 효과적으로 방어할 수 있다"고 밝혔다. 이날 이 교수는 '듀얼 LLM을 활용한 에이전트 보호'를 주제로 발표했다. '듀얼 LLM'은 LLM이 사용자 의도에서 벗어난 명령을 수행하도록 유도하는 공격, 즉 '프롬프트 인젝션' 공격을 방어하기 위한 기술이다. 작동 원리는 LLM을 하나로 운영하는 것이 아니라 두 LLM을 격리해 운영하는 식이다. 사용자가 명령을 입력하는 LLM은 '신뢰할 수 있는 LLM(Trusted LLM)'에서 운영하고, LLM이 명령 수행을 위해 외부 웹이나 애플리케이션에 접근할 때에는 격리된 LLM에서 작업을 수행토록 한 구조다. 이 교수는 "프롬프트 인젝션 공격은 크게 두 가지로 나뉜다. LLM의 가드레일을 우회할 수 있는 '다이렉트 인젝션'과 공격자가 외부 데이터를 조정해서 사용자가 시키지 않은 일을 하게 만드는 '인다이렉트 인젝션' 공격 등이다"라며 "'인다이렉트 인젝션' 공격에서 LLM이 취약한 이유는 유저 프롬프트와 공격자의 컨텍스트가 섞인다는 것"이라고 설명했다. 그는 이어 "듀얼 LLM 기술을 적용하면 인다이렉트 인젝션 공격을 효과적으로 방어할 수 있다"며 "예를 들어 공격자가 외부 데이터를 조정해 모든 데이터를 삭제하라는 명령어를 입력해 놓았다고 가정하면, 기존의 방식대로 LLM을 사용하면 이같은 위협에 노출될 수밖에 없다. 반면 외부와 접촉하는 LLM이 샌드박스에서 리소스 권한이 주어지지 않은 격리된 환경에서 작동하고, 사용자가 명령을 입력하고 입력값을 받는 신뢰받을 수 있는 LLM에는 결과값을 보안에 영향을 주지 않은 값으로 제공하는 식이다"라고 밝혔다. 이 교수는 이날 실제 오픈클로에 이같은 듀얼 LLM 기술을 적용한 결과 공격 성공률은 0%, LLM 효율은 81.6%로 나타났다"며 "이는 베이스라인 LLM을 사용했을 때 효율과 비슷하다"고 말했다. 그는 "LLM은 명령 수행 시 외부 데이터 없이 작동할 수 없다"며 "LLM 및 AI 에이전트의 안전한 외부 데이터 접근을 어떻게 관리할 것인지 주목해야 할 때"라고 강조했다. "금융권, AI 보안 위협 대응 위해 6대 보안 수칙 지켜라" 김성웅 금융보안원 AI보안연구소장도 세션 발표에 나서 "AI발 자동화된 대규모 공격 위협은 우리 금융 산업에도 현실화됐다"고 지적했다. 김 소장은 "앤트로픽 미토스 등 프론티어 AI 모델은 시스템의 취약점을 탐색하고 공격까지도 가능하게 만들어졌다"며 "이같은 보안 위협은 현재 일부 업무나 시스템이 마비되고 제한적인 정보가 유출되는 국지적 사고에 머물겠지만 조만간 핵심 자금결제 시스템이 마비되거나 디지털 뱅크런과 같은 금융 시스템 자체가 흔들리는 대규모 보안사고로 이어질 가능성이 매우 높다"고 우려했다. 김 소장은 실제 다수 금융기관을 대상으로 AI 기반 공격을 수행한 사례를 소개했다. 금융보안원에 따르면 공격자는 딥시크 기반 AI 에이전트를 활용해 금융권 웹로직을 스캔, RCE(원격 코드 실행) 취약점을 통해 웹셀을 설치한 정황을 포착했다. 금융보안원은 이를 포착해 추가 악승코드가 내부 시스템으로 확산되지는 않았으나, 이를 AI 에이전트를 활용한 최초 공격 사례로 지목했다. 김 소장은 "기존 공격 양상이 한 곳을 집중 공격하는 표적형이거나 넓은 범위 대상의 공격 가능성을 탐색하는 스캔형이었다면, 이번 공격은 AI 에이전트를 활용한 표정형 공격을 넓은 범위에 적용하는 사례였다"고 진단했다. 아울러 김 소장은 이날 금융보안원이 지난 7월 발표한 '프론티어 AI 보안 위협 금융분야 대응 요령'의 세부 내용을 기반으로 AI발 위협에 대응해야 한다고 강조했다. '프론티어 AI 보안 위협 금융분야 대응 요령'에서는 AI 보안 위협에 대응해 ▲경영진 책임 강화 ▲자산 및 공급망 관리 강화 ▲취약점 및 패치 관리 ▲AI 기반 방어 자동화 ▲침해 확산 방지 ▲시스템 복원력 강화 등을 주문하고 있다. AI로 인해 사이버 보안 위협이 크게 고도화됐고, 이는 정보보호최고책임자(CISO)만의 역할로 국한하기엔 한계가 있다는 것이 김 소장의 주장이다. 이에 CISO뿐 아니라 경영진, 이사회 중심의 전사적 대응에 나서고, 자산과 취약점을 주기적으로 관리할 수 있어야 한다고 제언했다. 또한 그는 업무에 미치는 위험도를 고려한 AI 기반의 자동화 방어 체계를 수립하고, 제로트러스트 기반으로 침해사고가 발생하더라도 확산을 방지할 수 있어야 한다고 주문했다. 만약 사고가 발생하더라도 사후 관리 대책을 수립해 시스템 복원력을 높이는 것도 중요하다고 역설했다.

2026.09.07 17:06김기찬 기자

  Prev 11 12 13 14 15 16 17 18 19 20 Next  

지금 뜨는 기사

이시각 헤드라인

트럼프는 '평화와 번영'·시진핑은 '인간 통제'…미중 정상 AI 시각차

아이폰18프로 먹통·강제 재부팅...애플, 내주 SW 업데이트

AI에 답 맡기는 학생들…교육 현장, AI 활용 원칙 세운다

美 AI·데이터센터 투자 10조 달러 전망…GDP 연평균 3.6% 규모

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.