• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI통제'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

중국, AI 핵심 기술 수출 제한 추진…'독자 AI' 중요성 커졌다

중국이 매개변수 2조 개 이상 첨단 인공지능(AI) 모델과 국방용 AI 에이전트 등 핵심 기술의 해외 이전을 제한하는 방안을 추진한다. 18일 AI 업계에 따르면 중국 상무부와 과학기술부는 지난 16일 AI와 바이오의약, 태양광 등 40개 기술을 수출 금지·제한 목록에 추가하는 개정 초안을 공개했다. 이 가운데 AI 관련 기술은 23개다. 이번 개정안은 매개변수가 2조 개 이상이거나 세계 최고 수준의 특정 성능을 갖춘 AI 모델 핵심 기술을 수출 제한 대상으로 분류했다. 국방과 주요 정보통신 시설에서 사용하는 AI 에이전트 기술도 수출 금지 대상으로 제시했다. 중국 정부는 국가안보 보호와 AI 기술 오남용 방지를 이번 조치의 이유로 설명했다. 미국이 그동안 첨단 AI 반도체와 제조 장비의 중국 수출을 제한해 온 가운데 중국도 자국의 첨단 AI 기술에 대한 해외 이전 통제를 추진하고 있다. 수출 통제 대상에는 문샷AI의 '키미 K3'와 알리바바의 '큐원 3.8 맥스'처럼 매개변수가 2조 개를 넘는 모델의 핵심 기술이 포함될 가능성이 있다. 다만 중국 정부가 특정 AI 모델을 직접 규제 대상으로 지목하지는 않았다. 국내 기업과 개발자들도 중국산 AI 모델을 활용하고 있어 향후 규제 적용 범위에 따라 영향을 받을 수 있다. 알리바바 큐원과 딥시크 등은 AI가 학습한 결과인 가중치를 공개한 오픈웨이트 모델로 내려받아 자체 서버에서 운영하거나 추가 학습할 수 있다. 이미 공개된 모델 사용이 곧바로 제한되는 것은 아니다. 중국 정부는 오픈소스나 학술논문을 통해 공개된 기술은 원칙적으로 관리 대상에서 제외한다고 밝혔다. 중국 기업이 해외에 응용프로그램 인터페이스(API)나 웹사이트 등을 통해 AI 서비스를 제공하는 경우도 수출 제한 대상에 포함하지 않는다. 반면 앞으로 개발될 첨단 AI 모델의 핵심 기술을 해외로 이전할 때는 허가 절차가 적용될 수 있다. 중국 기업이 새로운 모델을 공개하는 경우에도 규제 대상 기술에 해당하면 별도 절차를 거쳐야 한다. 중국산 AI 모델을 활용하는 국내 기업에는 최신 기술을 안정적으로 확보할 수 있는지가 새로운 과제로 남는다. 중국의 이번 조치와 맞물려 국내에서도 독자 AI 기술 확보 필요성이 제기되고 있다. 정부는 국내 AI 모델을 개발해 산업과 공공 분야에 확산하는 독자 AI 파운데이션 모델(독파모) 사업과 세계 최고 수준의 모델 개발을 목표로 하는 프런티어 AI 사업을 추진하고 있다. 하정우 국가인공지능전략위원회 부위원장은 자신의 사회관계망서비스(SNS)에서 "중국 오픈웨이트 모델에 대한 과도한 의존도 이제는 점진적으로 줄여나가야 한다"며 "오픈웨이트라고 해서 기술 접근과 활용의 지속가능성까지 보장되는 것은 아니기 때문"이라고 말했다. 배경훈 부총리 겸 과학기술정보통신부 장관도 지난달 30일 SNS에서 "대한민국에서도 세계 최고 수준의 프론티어 AI를 만들어내야 한다"며 "프론티어 AI는 대한민국의 기술적 한계를 돌파하고 독파모는 대한민국 AI가 산업과 사회 곳곳에서 쓰이게 하는 두 개의 축이 되도록 하겠다"고 밝혔다.

2026.10.18 16:00김동원 기자

AI 에이전트 도입 늘어도 실제 운영은 11%…문제는 '통제'

기업들이 인공지능(AI) 에이전트를 빠르게 도입하고 있지만 실제 운영 단계까지 간 사례는 11%에 그친다는 지적이 나왔다. 정승모 아이티센글로벌 AI이노베이션센터장은 8일 서울 코엑스에서 열린 'AI 페스타 2026'의 AIR(AI Realization) 쇼케이스에서 "AI 에이전트 경쟁력은 얼마나 많이 만드느냐가 아니라 얼마나 믿고 맡길 수 있느냐에서 나온다"고 말했다. AI 에이전트 도입 속도는 빠르다. 정 센터장이 인용한 가트너 전망에 따르면 올해 말에는 기업용 애플리케이션 10개 중 4개에 AI 에이전트가 탑재될 것으로 예상된다. 하지만 실제 업무까지 이어지는 비율은 낮았다. 워크플로 자동화 기업 카문다가 IT 리더 등을 대상으로 조사한 결과 71%가 AI 에이전트를 사용하고 있다고 답했지만 지난 1년간 운영 단계까지 간 사례는 11%에 그쳤다. 정 센터장은 "10개를 시도하면 9개는 파일럿에서 멈춘다는 뜻"이라며 "많은 사람이 에이전트를 만들고 있지만 운영 단계까지 가는 사례는 많지 않다"고 말했다. 그는 에이전트 확산을 가로막는 요인으로 거버넌스와 보안, 관리되지 않는 에이전트 증가를 꼽았다. 기존 챗봇이 주로 질문에 답하는 역할이었다면 AI 에이전트는 기업 시스템에 접속해 데이터를 조회하고 실제 업무까지 수행한다. 권한을 잘못 부여하거나 행동 기록을 남기지 않으면 보안 사고로 이어질 수 있다. 정 센터장은 "핵심은 AI가 누구 권한으로 무엇에 접근해 무엇을 했는지 증명할 수 있느냐"라며 "개인정보를 다루는 에이전트라면 접근 권한을 최소화하고 접속 기록도 남겨야 한다"고 밝혔다. 직원들이 직접 만든 에이전트가 늘면서 관리되지 않는 AI도 생겨나고 있다. 실험용으로 만든 뒤 더 이상 사용하지 않는 에이전트가 회사 곳곳에 남거나 누가 만들었는지조차 파악하기 어려워지는 경우다. 정 센터장은 이를 '에이전트 스프롤(Agent Sprawl)'이라고 표현했다. 더 큰 문제는 사용하지 않는 에이전트가 회사 데이터에 접근할 권한을 그대로 보유할 수 있다는 점이다. 반대로 현업 직원의 에이전트 개발을 막으면 승인받지 않은 외부 AI 도구를 몰래 사용하는 '섀도 AI'가 늘어날 수 있다. 아이티센글로벌은 이런 문제를 해결하기 위해 멀티 AI 에이전트 관리 플랫폼 '에이전트고'에서 에이전트 생성부터 실행, 운영까지 한꺼번에 관리하도록 했다. 운영 단계에서는 사용자와 조직별로 사용할 수 있는 에이전트와 접근 가능한 데이터를 구분한다. 부서와 에이전트, AI 모델별 토큰 사용량도 확인할 수 있어 비용을 관리하거나 실제로 쓰이지 않는 에이전트를 찾아낼 수 있다. 업무 기록도 관리한다. 관리자가 AI와 사용자의 대화 내용을 확인하려면 열람 사유를 입력해야 하고 개인정보는 가려서 보여준다. 문제가 발생했을 때 기록을 남기면서도 직원 감시나 개인정보 노출 우려를 줄이기 위한 장치다. 실행 과정 보안은 '에이전트고 가드'가 맡는다. 사용자가 입력한 질문에서 개인정보와 금칙어를 찾아내고, 기존 지시를 무시하도록 유도하는 프롬프트 인젝션 같은 공격도 탐지한다. 여러 차례 대화를 이어가며 민감정보를 빼내려는 공격도 추적한다. 처음에는 고객 응대 매뉴얼을 묻고 이후 본인 확인 정보와 저장 형식을 차례로 질문한 뒤 마지막에 전체 고객의 연락처와 주민번호를 요구하는 식이다. 질문 하나하나는 정상적으로 보여도 대화 흐름 전체를 분석하면 정보 탈취 의도를 찾아낼 수 있다. 에이전트를 만드는 과정에도 통제 절차를 넣었다. 개발자는 코딩 도구를 사용하고 비개발자는 드래그앤드롭 방식으로 업무 흐름을 구성할 수 있다. 완성된 에이전트는 바로 실제 업무에 투입하지 않고 별도 시험 환경에서 검증한 뒤 사람의 승인을 거쳐 운영한다. 실제 도입 사례도 있다. 한 제조기업은 기존 로봇프로세스자동화(RPA) 경험이 있는 현업 직원 약 200명이 직접 AI 에이전트를 만들 수 있도록 에이전트고 구축을 진행하고 있다. 업무를 잘 아는 직원이 에이전트를 만들고 품질과 보안, 권한 관리는 플랫폼에서 맡는 방식이다. 정 센터장은 "만들 때 표준이 있으면 방치되는 에이전트가 관리되는 자산이 되고 실행할 때 방어가 있으면 보안 사고의 통로가 믿고 맡길 수 있는 통로가 된다"며 "통제력은 혁신을 늦추는 브레이크가 아니라 더 멀리, 더 빠르게 달릴 수 있게 하는 가속 페달"이라고 말했다.

2026.10.08 15:22김동원 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

미국 규제당국 조사에 엔비디아 휘청... 주가 2주새 32% 하락

"월급 안 줘도 일 잘하네"…가맹점주 돕는 AI 직원들

[글로벌 줍줍] 백전백패 'AI 커닝' vs 백전백승 '뇌과학 공부법'

LGU+ 조직개편...AI 사업 재편으로 성과 속도전

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.