• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
AI의 눈
디지털트러스트
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'김기홍'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"현존 보안 체계, 멀티모달 공격 대응 사실상 불가능"

"국제 웹 보안 분야 비영리 재단 OWASP에 따르면 인공지능(AI)이 다른 AI를 공격할 때 97.14% 자율 탈옥에 설공했습니다. 더욱 충격적인 통계는 현존하는 모든 보안 체계, 즉 가드레일이나 AI 에이전트에 대한 보안 운영을 하고 있는 시스템에서 AI가 실제 공격을 수행 했을 때에도 53.6%의 성공률을 기록하며 절반을 넘었습니다. 김기홍 샌즈랩 대표는 한국정보보호학회가 주관해 코엑스에서 16일 열린 '제 32회 정보통신망 정보보호 컨퍼런스'에서 AI 안전 세션 발제자로 나서 이같이 경고했다. 김 대표는 이날 '멀티모달 AI 공격 표면 확장에 따른 보안 패러다임 전환'을 주제로 발표했다. 김 대표는 현재 멀티 모달(다중 양식) 형식의 AI 모델이 구축되면서 위협도 증가하고 있다고 진단했다. 더 많은 모달리티가 더 넓은 공격 표면이 됐다는 얘기다. 그는 AI 모델이 컨텍스트 기반에서 멀티모달로 진화하면서 서로 다른 모달리티를 교차 활용해 AI 모델의 가드레일이나 여러 보안 장치를 우회하고 제약 조건을 우회한 출력을 이끌어내는 공격에 악용되고 있다고 밝혔다. 이어 ▲타이포그래픽 비주얼 프롬프트 ▲교차 모달 난독화 ▲강화학습 기반 멀티모달 공격 ▲스테가노그래피 기반 이미지 공격 ▲서사(Narrative) 기반 멀티모달 공격 ▲VSH(가상 시나리오 최면) 및 오디오 기반 공격 ▲만화 스타일 비주얼 내러티브 및 플로우차트 이미지 변환 공격 ▲교차모달 배경 일관성 공격 ▲암호학적 분산으로 탐지를 회피한 분산 공격 등의 공격 기법이 공격 성공률(ASR)이 두드러졌다고 설명했다. 그는 "이런 공격들의 성공률은 90~97%를 기록하고 있는 반면 방어 유효율은 1~5%로 현저히 낮아 현존 방어 체계로는 멀티모달 공격에 대응이 사실상 불가능하다"며 "오픈AI는 지난 2월 '프롬프트 인젝션 공격은 완전히 패치되지 못할 수도 있다'고 밝혔듯 단일 방어 체계는 한계가 분명하다"고 역설했다. 김 대표는 "교차 모달 통합 방어는 필수"라며 "기술적인 방어와 거버넌스의 동시 진화가 대응의 핵심"이라고 강조했다. 이에 그는 멀티모달 AI로 인해 기하급수적으로 확장한 공격 표면에 대응하기 위해 미래 과제로 ▲공격과 방어 간 비대칭성 해소 ▲교차 모달 통합 가드레일 개발 ▲자율적 퍼플팀 사이클 구축 ▲새 모달리티 선제적 보안 설계 ▲유니가드(UniGuard) 등 멀티모달 방어 프레임워크 구축 등을 제시했다. 한편 이날 AI 안전 발표 세션에서는 나현식 숭실대 AI안전성연구센터 교수가 '국내외 LLM 보안 및 안전성 평가 및 레드티밍'을 주제로 발표했다. 나 교수는 AI 기반 자동화 레드티밍의 핵심 요소와 숭실대 AI안전성연구센터의 국내외 AI 모델 보안 및 안전성 평가 사례에 대해 소개했다. 평가 결과 영어 질의 기준 국내 평균 안전성 점수는 44.2점, 글로벌 모델의 경우 58.8을 기록하며 국내 파운데이션 모델이 뒤처진 것으로 나타났다. 나 교수는 이런 점을 지적하며, 국내 특화 AI 보안·안전성 강화 생태계 구축이 필요하다고 역설했다. 그는 ▲최신 공격·방어 기술 평가 및 결과 공유 오픈 테스트베드 조성 ▲한국어 특화 퍼플티밍 체계를 마련할 수 있는 실험 인프라 구축 ▲연구기관 및 기업 간 협력 기반 강화 등을 대안으로 제시했다.

2026.04.17 00:03김기찬 기자

[디지털 K-헤리티지]㉗ 김기홍 큐리오커넥트 "국가유산 복원과 상호작용, AI-XR기술 중요"

"보는 유산에서 접속하는 유산으로 발전해야 한다. 신라시대 복식과 장신구 등을 3D 에셋으로 만들었고, 정림사지와 석굴암 등을 AI-XR 기술로 재탄생시켰다. 이러한 작업 과정과 결과물이 산업의 표준이 되기를 바란다." 김기홍 큐리오커넥트(Curio Connect) 대표는 24일 서면 인터뷰를 통해 "고증과 창작의 균형이 중요하다"라며 이 같이 밝혔다. 큐리오커넥트는 문화 경험의 진보를 지향하는 기술 창의 기업이다. AI 기반 디지털 휴먼, XR 인터랙션 설계, 사용자 경험(UI/UX) 중심 인터페이스 등 다양한 융합 기술을 자체 모듈화하고 있으며, 디지털 치유 정원, 몰입형 문화유산 해설 서비스, 메타버스 기반 체험형 교육 콘텐츠 등 폭넓은 프로젝트를 수행 중이다. 현재 ETRI(한국전자통신연구원), 국립문화유산연구원 등과 공동 프로젝트를 통해 산업적 연계도 활발히 이어가고 있다. 김 대표는 홍익대학교 게임학과를 졸업하고, 카이스트 문화기술연구소 연구원을 거쳐, 한국전통문화대학교 디지털 헤리티지 전공 박사(국가유산청 산하) 학위를 취득한 국내 1호 디지털 헤리티지 공학박사다. 2024년에는 국가유산 디지털 콘텐츠 대상 최우수상을 수상하며 기술과 콘텐츠 융합의 혁신 사례를 입증했다. 김 대표는 "고증과 창작, 기술과 감성, 기능성과 직관성의 균형을 통해 과거의 유산을 오늘의 감각으로 되살리는 것이 큐리오커넥트의 핵심 미션"이라고 설명했다. 이 회사는 문화경험의 진보를 탐구하는 콘텐츠 구축 기술과 기획자, 프로그래머, 문화유산연구자 등 다양한 분야의 전문가로 구성됐다. AI 기술과 XR 콘텐츠를 융합해 혁신적인 경험을 창출하는 것이 목표로 한다. 특히 김 대표는 "AI-XR로 유산 체험을 설계하고 운영까지 연결하는 일을 한다. 연구개발에서 나온 기술을 현장 상황에 맞게 단순화하고 운영 도구로 묶는다"며 "(기존 콘텐츠는)야외 체험 피크 시간에 생기는 대기와 병목을 줄이는 것이 당면 과제다. 체류 시간 상승과 이탈률 하향을 핵심 지표로 관리한다. 현장에서 즉시 확인이 가능한 수치만 쓴다"고 전했다. 또한 "소규모 조직으로 민첩하게 움직인다. PM-연출-개발-아트의 역할을 명확히 나누고 파트너사와는 분업 경계를 사전에 정한다. 데이터 신뢰가 낮은 구간은 기능을 일시 비활성화한다. 납품과 시연 기준선을 미리 공유해 속도와 신뢰의 균형을 맞춘다"고 덧붙였다. 김 대표는 국가유산청 '서라벌 천년 시간여행'사업을 경북연구원을 통해 한국전통문화대학교 박사과정하면서 참여했으며, 고증을 바탕으로 신라시대 복식·장신구·기물 등의 3D 에셋을 제작한 바 있다. 또 박물관 유물 정보를 활용한 문양과 나전칠기 전통 공예의 재질도 3D 데이터로 구현했다 김 대표는 "창업 이후 시작한 프로젝트 중 하나는 모바일 기반 석굴암 XR 콘텐츠였다. 핵심은 언제 어디서나 석굴암을 체험할 수 있도록 하는 것이었고, 시간대별 광원 변화, 위치·방향 반응형 인터랙션, 조각 정보 탐색 UI, 본존불 포토존 체험 등을 구현했다"며 "단순 복원이 아닌, 사용자의 시선과 움직임이 해석의 인터페이스가 되는 방식이다. 단발성 시연이 아닌, 앞으로 시간 장소 상관없이 석굴암을 경험 할 수 있는 서비스로 마련될 수 있게 할 것"이라고 밝혔다. 디지털 헤리티지의 다음 단계를 묻는 질문에는 "방향은 명확하다. 보는 유산에서 접속하는 유산으로 간다. 중요한 것은 접속의 품질이다. 이는 운영이 만든다. 데이터와 스토리와 운영툴의 순서를 지키면 현장은 바뀐다"며 "네트워크로 접속한 관람객은 소셜미디어로 연결하여 많은 사람들에게 또 다른 정보를 전달 하게 되는 전달자가 되기 마련이다. 학교와 박물관과 야외 유적이 하나의 네트워크로 이어지고, 이용자는 관람자이자 창작자가 된다. 큐리오커넥트 기술력이 이러한 전환 방향에 산업의 표준이 될 수 있도록 더욱 노력할 것"이라고 강조했다.

2025.11.24 10:02이도원 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

디지털자산 제도화 "공론화 진전, 법제화는 제자리"…디지털 금융 B-

중국은 3분 배터리 교체 경쟁…현대차가 구독형 택한 이유

'애플 감성' 담은 페라리 첫 전기차, 7월 성적표 주목

메모리 가격상승에 기업 내 PC 교체 지연...더 미뤄도 될까

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.