• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'디지털 신뢰'통합검색 결과 입니다. (8건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI 시대 디지털 신뢰 회복하려면…"기술·제도·시민 참여 연결 필수"

생성형 인공지능(AI)이 일상 깊숙이 파고들면서 디지털 세상의 신뢰가 새로운 시험대에 올랐다. AI가 만든 가짜 이미지와 영상이 진짜처럼 유통되고, 허위정보와 사칭 범죄가 확산하면서 온라인에서 무엇을 믿어야 할지 판단하기 어려워지고 있다. 기술의 발전 속도에 비해 이용자 보호와 사회적 대응 체계는 여전히 부족하다는 지적도 나온다. 지디넷코리아는 '안전한 AI의 길을 묻다' 기획을 통해 AI가 가져온 디지털 환경 변화와 그 이면의 문제를 짚어본다. 피해 실태와 제도적 한계, 플랫폼의 책임, 시민의 디지털 리터러시 등을 살펴보고 건강하고 신뢰할 수 있는 디지털 생태계를 만들기 위한 해법을 모색한다. [편집자주] 딥페이크 같은 인공지능(AI) 악용 피해를 줄이려면 탐지 기술만으로는 한계가 있다. 콘텐츠 출처를 확인하는 기술까지 발전시켜야 한다. 제도적으로는 기관별로 흩어진 피해 지원 체계를 연결하고, 시민 피해 신고를 정책 개선에 활용해야 한다는 방안도 제시됐다. 국내외 AI 정책 전문가와 기업 관계자들은 AI 악용을 막고 신뢰를 회복하려면 기술·제도·시민 참여를 이같이 연결해야 한다고 강조했다. 기업은 실제 서비스에서 탐지·검증 기술의 성능을 확인하고, 정부는 기관별 피해 대응을 연계하면서 시민 신고 사례를 정책 개선에 활용해야 한다는 설명이다. 최근 AI로 얼굴과 목소리를 정교하게 복제할 수 있게 되면서 사진이나 영상만으로는 진위를 판단하기 어려운 상황이 됐다. 특히 합성 기술은 콘텐츠 제작과 소통을 돕지만, 타인을 사칭하거나 허위 정보를 퍼뜨리는 데 악용되면 개인 일상과 사회적 신뢰를 위협할 수 있다. 일각에선 대응 기술과 제도만으로 모든 악용을 막기 쉽지 않다는 목소리도 나오고 있다. AI 생성물 표시를 지우거나 처음부터 표시 없는 합성물을 만들 수 있고, 이용자 개인이 일일이 가려내는 데도 한계가 있다는 이유에서다. 탐지 기술과 플랫폼 대응, 피해자 지원, 시민의 정보 판별 능력을 함께 강화해야 한다는 논의가 나오는 배경이다. "표시 없는 딥페이크도 탐지해야…AI 연산 칩으로 출처 확인" 딥페이크 대응력을 높이려면 콘텐츠 출처를 확인하는 기술과 표시 없는 합성물도 찾아내는 탐지 기술을 함께 발전시켜야 한다는 주장이 나왔다. 기업이 실제 서비스에서 기술의 성능을 검증할 수 있도록 데이터와 시험 환경을 지원해야 한다는 의견도 제시됐다. 퓨처오브라이프인스티튜트(FLI) 한국 담당자는 딥페이크 대응 기술을 가짜를 찾아내는 데서 콘텐츠 출처를 확인하는 방향으로 넓혀야 한다고 제언했다. 합성 여부를 판단하는 기술뿐 아니라 사진·영상이 어디서 만들어졌는지 확인할 수단까지 갖춰야 한다는 설명이다. 그는 AI가 이미지·영상·음성을 만들 때 연산을 수행하는 반도체 칩 보안 기능을 활용할 수 있다고 설명했다. 콘텐츠 생성 과정에서 칩 기반의 디지털 서명을 남기면, 문제가 발생했을 때 법적 절차에 따라 어느 서비스에서 만든 결과물인지 확인할 수 있다는 구상이다. 그는 "AI 기본법 표시 의무를 성실히 지키는 기업도 이를 객관적으로 보여줄 방법이 마땅치 않다"며 "기술로 의무 이행을 증명할 수 있게 되면 기업 부담도 오히려 줄어들 수 있을 것"이라고 말했다. 이 담당자는 촬영·녹음 단계에서 출처를 기록하는 방식도 제시했다. 카메라나 녹음기가 콘텐츠를 기록하는 순간 보안 칩으로 디지털 서명을 남겨 진본 여부를 확인하는 방식으로, 이미 상용화가 시작된 기술이다. 그는 "한국은 반도체와 스마트폰, 이미지 센서 산업을 모두 갖췄다"며 "이런 기술을 발전시킬 좋은 기회를 가진 국가"라고 말했다. 이어 "AI 생성 단계와 촬영 단계의 검증 기술을 함께 설계하고 국제 표준 논의도 이끌 수 있을 것"이라고 봤다. 박현우 라온시큐어 AI사업본부장은 워터마크 없어도 위조 여부를 판단하는 기술을 고도화해야 한다고 제언했다. 공격자가 워터마크를 지우거나 공개된 생성 모델로 처음부터 표시 없는 딥페이크를 만들 수 있어서다. 박 본부장은 특히 새로운 합성 기법으로 만들거나 압축·재인코딩한 콘텐츠에서도 탐지 성능을 유지해야 한다고 강조했다. 그는 "사진과 동영상뿐 아니라 가짜 음성과 실시간 영상통화까지 탐지 대상을 넓혀야 한다"고 말했다. "흩어진 지원 체계 연결…시민 신고로 정책 사각지대 줄여야" 국내외 AI 업계에선 기관별로 나뉜 지원 체계를 연결하고, 시민의 피해 신고를 제도 개선에 반영해야 한다는 주장도 나왔다. 피해자가 필요한 도움을 신속히 받도록 지원하면서도 신고 사례를 분석해 비슷한 피해 재발을 막아야 한다는 취지다. 국가AI전략위원회는 AI 악용 예방부터 탐지·차단·수사·피해 회복까지 이어지는 대응 체계 구축을 시급한 과제로 꼽았다. 현재 범죄 유형과 대응 단계에 따라 신고·상담 창구가 여러 기관으로 나뉜 상태라, 피해자가 적절한 지원기관을 찾는 데 어려움이 있다는 설명이다. AI전략위원회 관계자는 "정부는 경찰 초기 수사와 방송미디어통신심의위원회의 불법 콘텐츠 차단, 성평등가족부·교육부의 심리·법률 지원, 금융감독원의 금융 피해 대응을 신속하게 연결해야 한다"고 강조했다. 실제 이에 발맞춰 방송미디어통신위원회와 경찰청, 성평등가족부 등 관계부처는 AI전략위 'AI 행동계획'에 따라 AI 범죄근절 종합대응계획을 마련하고 있다. 위원회는 계획 수립 과정에서 부처 간 협업을 지원하고 사회적 합의가 필요한 과제를 발굴·조정할 방침이다. 변형진 이스트소프트 최고AI책임자(CAIO)는 국내 AI 생성물 표시 제도와 C2PA 등 국제 표준의 연계를 강화해야 한다고 제언했다. 기업의 제도 적용 경험을 공유하고 국제 표준과 연결할 구체적인 방안을 마련해야 한다는 설명이다. 변 CAIO는 "정부가 마련한 표시 제도와 가이드라인을 바탕으로 기업의 적용 경험을 공유하고, C2PA 등 국제 표준과의 연계 방안을 구체화해야 한다"며 "국내 기업들이 국내외 서비스 환경에서 신뢰할 수 있는 기술을 개발·적용하는 데 도움이 될 것"이라고 말했다. 출처 표시와 생성 이력 관리, 본인 동의 확인 등 기업의 자발적인 안전조치도 확산해야 한다고 강조했다. 그는 "신뢰 확보를 위한 기업의 자발적인 노력이 인정받고 우수 사례로 공유된다면, 피해 예방을 위한 투자를 촉진하고 국내 생성형 AI 산업의 신뢰와 경쟁력을 높이는 데 도움이 될 것"이라고 밝혔다. 피해 지원 과정에서 접수한 신고를 정책 개선 근거로 활용해야 한다는 의견도 나왔다. 피해 유형과 발생 경로가 기록되면 정부는 제도 빈틈을 보완하고, 기업은 안전장치를 개선할 수 있다는 설명이다. FLI 한국 담당자는 참고 사례로 미국 플로리다주와 추진 중인 AI 피해 대응 사업을 소개했다. 플로리다주 기관들은 FLI와 협력해 정신건강 전문가가 AI로 인한 심리적 피해를 알아보고 대응할 수 있도록 돕는 교육 과정을 개발하고 있다. 시민 누구나 AI 피해를 신고할 수 있는 양식도 마련해 접수된 사례를 정책 근거로 활용할 계획이다. 그는 "AI 챗봇 피해에서 출발한 사업이지만, 피해를 기록하고 정책으로 연결하는 방식은 딥페이크 대응에도 참고할 만하다"고 설명했다. 이어 "시민이 피해를 입었을 때 도움받을 수 있다는 믿음이 있어야 AI 활용도 넓어질 수 있다"며 "안전과 신뢰가 결국 혁신을 받쳐 줄 것"이라고 밝혔다. ※ 본 보도는 한국언론진흥재단 지원을 받아 제작됐습니다.

2026.11.19 14:52김미정 기자

KTC, 'AI 기반 디지털의료제품 안전·신뢰성 확보 기술 연구개발' 성과 발표

한국기계전기전자시험연구원(KTC·원장 양병내)은 13일 서울 잠실 롯데호텔 월드 크리스탈볼룸에서 'AI 기반 디지털의료제품 안전성·신뢰성 확보 기술 개발 연구' 과제 2차년도 성과발표회를 개최한다. 성과발표회에는 KTC·한국산업기술시험원(KTL)·한국화학융합시험연구원(KTR)·디지털헬스보안협회·스패로우·한국전자통신연구원(ETRI)·에스티에이컨설팅(STA)·분당서울대학교병원·동국대학교 산학협력단 등 총 9개 기관으로 구성된 컨소시엄이 참여한다. 디지털의료제품의 안전성과 신뢰성 확보를 위한 연구 성과를 공유하고, 향후 연구 방향을 논의한다. 행사에서는 한국인터넷진흥원(KISA)·국민대학교·로앤서지걸(ROEN SURGICAL)·제이앤피메디(JNPMEDI)에서 안전한 AI 데이터 활용과 의료기기 SBOM 분석 등 '디지털의료제품 데이터·소프트웨어 보안'과 의료로봇 적용 사례와 AI 의료기기 임상시험 등 'AI 의료기기 개발·임상 현장 사례'를 주제로 특별 강연한다. 과제는 식품의약품안전처 출연사업인 '첨단의료 AI 안전성·신뢰성 향상 기술 개발'의 일환으로, KTC가 총괄연구기관으로 선정돼 지난해부터 수행 중이다. 이 사업은 ▲디지털의료제품 통합위험관리시스템 개발 ▲SBOM 저작도구 개발 ▲생성형 AI 디지털의료제품 레드팀 시험 평가 기술 개발 ▲첨단 AI 취약점 글로벌 대응체계 ▲AI 특화 위험관리 ▲유형별 안전 설계·SW 생명주기 거버넌스 등 7개 과제로 구성돼 첨단 의료기기 분야 안전성·신뢰성 평가체계 구축이 목표다. KTC는 '디지털의료제품 보안위험 분석 및 관리체계 개발'과 'SBOM 기반의 디지털의료제품 취약점 연구와 SBOM 저작도구 개발 및 서비스 환경 구축' 성과를 중심으로, ▲보안 위험 관리 모델 가이드라인(안) ▲공급망 통합위험관리시스템 고도화·검증 ▲통합형 SBOM 저작도구와 연동형 API ▲바이너리 분석 데이터셋 ▲수요기업 대상 SBOM 저작도구 실증 결과 내용을 발표한다. 또 ETRI·분당서울대학교병원·STA는 생성형 AI 디지털 의료제품 레드팀 시험 평가 기술과 플랫폼 개발 성과를, 동국대학교 산학협력단과 KTL은 디지털의료제품 위험관리 및 유형별 안전성 거버넌스 체계 구축 결과를 발표한다. KTC는 이번 연구로 디지털 의료제품 개발과 운영 전반에서 발생할 수 있는 보안 취약점에 대한 체계적 관리 시스템, 표준화된 SBOM 저작도구와 취약점 관리 기술 등 보안 기술 고도화와 생성형 AI 기반 디지털 의료제품에 특화된 레드팀 운영 체계 정립으로 새로운 분석·테스트 기법 개발과 기술적 안전성 향상될 것으로 내다봤다. 양병내 KTC 원장은 “올해는 그동안 개발한 기술과 도구를 산업 현장에서 직접 검증하며 한 단계 도약한 해였다”며 “내년 최종 연도에는 연구 성과가 디지털의료제품 안전관리 현장에서 실질적으로 활용될 수 있도록 마무리하겠다”고 밝혔다. 한편, 성과 발표회는 12일까지 사전 등록하면 무료로 참석할 수 있다. 자세한 내용은 이벤터스 홈페이지에서 확인할 수 있다.

2026.11.11 15:29주문정 기자

클라이온 'REX', AI 신뢰성 검증 시장 사각지대 해소 나선다

생성형 AI 도입이 확산됨에 따라 'AI 신뢰성' 검증이 기업 가치의 핵심 요소로 떠오르고 있다. 이에 AI 클라우드 전문기업 클라이온은 AI 신뢰성 검증 및 최적화 솔루션 'REX(RAG evaluation eXpert)'를 통해 공공 및 민간 시장 공략을 본격화한다고 5일 밝혔다. REX는 최근 'LLM 기반 RAG 시스템의 실시간 성능 진단을 위한 평가 장치 및 방법'에 대한 핵심 기술 특허 등록을 완료하며 기술적 차별성을 확보했다. 기존 자동화 평가의 한계 극복, '진단과 처방' 중심의 차별화 예전 AI 신뢰성 검증 솔루션들은 대량의 질문 생성과 일괄 채점 등 자동화 효율성에 집중해왔다. 이로 인해 현장에서는 감점 원인 파악과 구체적인 개선 방향 도출을 개발자 직관에 의존해야 하는 한계가 있었다. 또 정확도 측정에만 치우쳐 편향, 차별, 유해 표현 등 안전성 영역 검증이 미흡하다는 지적을 받아왔다. REX는 단순 채점을 넘어 AI가 스스로 성능 저하 원인을 분석하고 구체적인 개선 방향을 제시한다. 다수의 오류를 자동으로 군집화해 문제의 우선순위를 시각화하며 ▲정확성 ▲안전성(유해성·편향) ▲품질(일관성·간결성) ▲검색·생성 품질 등 4대 축, 12개 지표로 입체 진단을 수행한다. 이는 EU AI Act, NIST AI RMF 등 글로벌 AI 거버넌스 표준의 요구사항을 반영하여 한국어 환경에 최적화한 결과다. 완전 폐쇄망 지원으로 공공·금융 데이터 보안 문제 해결 기존 자동화 솔루션의 또 다른 제약은 외부 클라우드나 외부 AI 연동으로 인한 데이터 유출 위험이었다. 이 때문에 시민 민원, 금융 거래, 환자 진료 등 민감 데이터를 다루는 공공, 금융, 의료 현장에서는 도입이 어려웠다. REX는 외부 호출 없이 내부망에서만 구동되는 '완전 폐쇄망 운영'을 지원해 데이터 보안 공백을 해소했다. 아울러 운영 중인 시스템에 직접 연결해 실시간으로 성능 저하를 감지하는 모드, 최적의 조합을 찾는 실험 모드, 외부 AI 서비스 검증 모드 등 세 가지 평가 환경을 모두 제공한다. 또한 문서 업로드만으로 평가용 데이터셋을 자동 생성하고, 노코딩 환경을 지원해 현업 담당자의 운영 편의성을 높였다. 대규모 공공 AX 사업 경험 바탕의 검증된 기술력 REX는 클라이온이 실제 대규모 공공 AI 구축 사업을 수행하며 얻은 실무 경험과 품질 기준을 바탕으로 개발됐다. 클라이온은 다양한 보안 등급과 모델 환경을 다뤄본 핵심 플레이어다. 주요 사업 수행 실적으로는 ▲서울시 인공지능 챗봇 2.0 구축 ▲교육부 독서교육플랫폼 구축·운영 ▲한국교육개발원 플랫폼 통합운영 ▲부산시 인공지능 융합서비스 도입 ▲경기도 홈페이지 생성형 AI 챗봇 ▲DPG 생성형 AI 페르소나 챗봇 등이 있다. 클라이온 관계자는 "REX는 단순한 자동 채점기를 넘어 '측정-진단-처방-재검증'의 선순환 체계를 구축한 솔루션"이라며 "AI 도입 이후 신뢰성 확보와 검증에 어려움을 겪는 기업과 기관에 명확한 기술적 보증서를 제공하겠다"고 밝혔다.

2026.06.05 14:55백봉삼 기자

AI가 AI를 검증한다…금융권 새 인프라 된 '신뢰성 평가'

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] 금융당국의 망분리 규제 완화 이후 금융권의 생성형 AI 도입이 빠르게 확산되면서 AI 신뢰 검증이 새로운 보안 과제로 급부상하고 있다. 단순히 AI를 도입하는 데서 나아가 그 AI가 제대로 작동하는지 검증하는 체계를 갖추느냐가 금융권 AI 경쟁력의 새 기준이 되고 있다는 분석이다. 이런 흐름을 더 가속하는 건 AI 기반 위협의 등장이다. 앤트로픽 최신 AI '미토스(Mythos)'가 대표적이다. 이 모델은 AI가 스스로 시스템 취약점을 탐색하고 공격 시나리오까지 생성할 수 있다는 점에서 기존 보안 체계만으로는 대응이 어렵다는 위기감이 금융권 전반에 확산되고 있다. 이런 가운데 AI 신뢰성 검증 체계를 실제 금융 현장에 상용화한 사례가 나왔다. 18일 업계에 따르면 셀렉트스타의 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'이 신한은행·우리은행·NH농협은행 등 주요 시중은행에 정식 도입됐다. 이는 국내 생성형 AI 신뢰성 검증 자동화 솔루션이 기술검증(PoC) 단계를 넘어 금융권 실제 운영 단계에 적용된 첫 사례로 평가된다. AI가 실제 업무를 수행하는 'AI 에이전트' 단계로 진화하면서 검증 필요성은 더 커지고 있다. 최근 금융권에서는 대출 심사 보조, 이상거래 탐지, 고객 응대 자동화 등 핵심 업무에 생성형 AI 적용이 확대되고 있다. AI 활용 범위가 넓어질수록 잘못된 판단이나 비정상 응답이 실제 금융 사고나 고객 피해로 이어질 수 있다는 우려도 나온다. 그러나 생성형 AI 서비스 확산과 함께 기존 수작업 중심 검증 체계는 한계를 드러내고 있다. 그동안은 사람이 직접 평가 질문을 설계하고 AI 응답을 검수하는 방식이 일반적이었지만, 서비스 수와 활용 시나리오가 빠르게 늘어나면서 속도와 규모 측면에서 대응이 어려워졌기 때문이다. 업계에서 지금을 'AI 신뢰 검증의 골든타임'으로 보는 이유도 여기에 있다. AI 신뢰성 평가 자동화 시장도 발 빠르게 성장하고 있다. 해외에서는 랭체인, 어라이즈AI, 스케일AI 등이 관련 솔루션을 선보이고 있지만 금융 특화 규제 환경과 한국어 도메인을 반영한 서비스는 제한적이었다. 특히 금융권은 높은 정확성과 안정성이 요구되는 만큼 실제 업무 환경을 반영한 평가 체계 수요가 빠르게 커지고 있다는 분석이다. 셀렉트스타는 이런 시장 공백을 겨냥해 국내 최초 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸'을 출시했다. 다투모 이밸은 100만 개 이상의 평가 질문을 자동 생성하고 AI 서비스 응답을 자동 평가·분석하는 기능을 핵심으로 한다. AI 에이전트 기술 기반으로 생성된 질문은 실제 고객 발화 패턴과 난이도, 금융 도메인 특성을 반영하도록 설계됐으며 프롬프트 인젝션과 환각 등 AI 취약점을 사전에 탐지하는 레드티밍 기능도 포함됐다. 신한은행의 경우 금융 문서 이해 AI 모델 개발을 위한 데이터 구조화, 학습·평가용 데이터셋 설계, 평가 지표 관리 및 자동 평가 환경 구축까지 다투모 이밸이 포괄적으로 적용됐다. 이 같은 실적은 신한금융·KB금융·삼성금융 등 국내 주요 금융그룹 스타트업 프로그램 연속 수상으로도 이어졌다. 셀렉트스타는 금융권에서 축적한 검증 경험을 제조·공공·엔터프라이즈 등 전 산업으로 확대 적용할 계획이다. 이미 세계이동통신사업자연합회(GSMA)와 글로벌 AI 레드팀 챌린지를 공동 주관하고 '오픈 텔코 AI' 파트너십을 체결하는 등 해외 시장에서도 기술력을 인정받고 있다. 회사 측은 아직 글로벌 표준이 확립되지 않은 AI 신뢰성 분야에서 금융권 레퍼런스를 바탕으로 관련 기준을 제시하는 플랫폼으로 자리잡겠다는 목표다. 셀렉트스타 관계자는 "AI 신뢰성 평가는 이제 특정 산업의 선택이 아니라 AI를 도입하는 모든 기업의 필수 과제가 되고 있다"며 "AI 에이전트 시대로 접어들면서 신뢰성 평가의 중요성은 더 커지고 있다"고 말했다.

2026.05.18 14:43이나연 기자

가짜 늑구 사진에 경찰도 속는 AI 시대...허위정보 대응책은

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] AI 기반 콘텐츠 생성 기술이 고도화되면서, 사실 여부를 구별하기 어려운 정교한 가짜뉴스가 빠르게 확산되고 있다. 허위 정보가 공권력 대응까지 왜곡하는 사례가 이어지지만, 이를 직접 규제할 수 있는 법적 장치는 여전히 제한적이다. 제도 공백 속에서 이용자 교육과 함께 플랫폼 책임을 강화해야 한다는 지적이 커지고 있다. 실제 현장에서는 AI로 생성된 이미지와 정보가 수사와 행정 대응에 혼선을 주는 사례까지 발생하며, 허위 정보 확산이 단순 온라인 문제를 넘어 사회적 비용으로 이어지는 양상이다. 최근 대전경찰청 사이버수사대에 따르면, 대전 오월드를 탈출한 늑대 '늑구' 포획에 혼선을 줬던 가짜 사진 유포자 40대가 지난 24일 경찰에 붙잡혔다. 그는 사파리 철조망을 빠져 나간 늑구가 오월드 네거리 인근 거리를 배회하는 모습이 담긴 가짜 사진을 만들어 유포한 혐의를 받고 있다. 인공지능(AI)을 활용해 만들어진 가짜 사진은 재난 문자 송출과 수색에까지 영향을 미치면서 수사에 혼선을 초래했다. AI를 활용한 가짜 사진에 몸살을 앓는 곳은 공권력뿐만이 아니다. 최근에는 AI로 부하 직원과 연인관계인 것처럼 제작한 사진을 사회관계망서비스(SNS) 프로필에 올린 구로구 소속 공무원이 재판에 넘겨지는 사례도 있었다. 이처럼 손쉽게 AI를 이용해 가짜 사진을 만들어 유포하는 경우가 만연해지고, 행정력 낭비로 번지면서 피해는 고스란히 약자의 몫으로 돌아가고 있다. '2025년 디지털성범죄 피해자 지원 보고서'에 따르면 피해자 1만637명을 대상으로 조사한 결과, 연령별 디지털성범죄 피해율은 1020세대가 전체의 77.6%, 성별로 보면 여성이 75.4%를 차지한 것으로 나타났다. 빛처럼 빠른 가짜뉴스 유포 속도…검증 과정은 부재 AI 생성물에 기반한 가짜뉴스의 피해 범위가 큰 이유는 유포 속도에 있다. 가짜뉴스는 사실 확인을 거치지 않은 채 SNS와 인터넷 커뮤니티를 통해 퍼져 끊임없이 확대·재생산된다. 검증 과정에 부재한 상황에서 허위 정보를 제한하는 형사 규정이 제한적이라 이를 막기는 쉽지 않은 것이 현실이다. 유튜브 등 주요 플랫폼은 허위정보 유포만으로는 가입자 정보를 제공하지 않는 경우가 있어 게시자 특정에 어려움이 발생하며, 명예훼손 등 별도의 혐의를 병행해야 신원을 알 수 있다. 미국의 디스커버리 제도를 통해 신원을 확보한 유튜버 '탈덕수용소'가 대표적이다. 디스커버리 제도는 한국 내 소송을 위한 가해자 특정의 필요성을 민사 절차로 소명해 법원을 통해 직접 소환장을 발부받는 형식으로 진행된다. 그동안에는 사실적시 명예훼손이나 모욕죄를 범죄로 보지 않는 미국 법제 특성상 정보 제공이 거부되거나 신원 확보에 장기간이 소요됐다. 또 허위정보 자체를 직접 처벌하는 형사 규정이 제한적이라는 점도 걸림돌이다. 2010년 헌재 위헌 결정 이후 후속 입법이 이뤄지지 않고 있다. 경찰이 플랫폼 사업자에게 직접 삭제 및 차단을 요청할 수 있는 범죄도 디지털 성범죄에 한한다. AI 기본법 등 현행법 허점에…플랫폼 책임 소재 대두 AI 생성물이 실제가 아니라는 점을 명확히 알 수 있도록 생산물 워터마킹 삽입 등을 규정한 'AI 기본법'이 올해 초 시행됐지만, 아직은 역부족이라는 말이 나온다. AI를 활용해 만든 생산물에 곧바로 워터마크가 적용되더라도 편집을 통해 제거 가능하기 때문이다. 전문가들은 AI 툴에 대한 접근성 확대와 알고리즘에 대한 검증 동기 약화가 원인으로, 자정능력 함양과 플랫폼에 대한 책임소재 강화가 병행돼야 한다고 입을 모은다. 김옥태 한국방송통신대학교 미디어영상학과 교수는 “AI를 활용해 신빙성 있어 보이는 가짜 사진을 만들 수 있는 툴의 접근성이 높아진 것이 원인”이라며 “청소년을 시작으로 이용자 교육을 병행하면서 (가짜 뉴스 제재에 대한) 제도 도입에 신중을 기해야 한다. 가짜 뉴스가 플랫폼을 통해 퍼지기에 이들에게 책임을 부과하는 방식이 최선일 것”이라고 말했다. 이재길 한림대 미디어스쿨 교수는 “현재의 미디어 환경에서는 가짜뉴스의 진위를 파악할 동기가 존재하지 않는다는 점이 가장 큰 문제”라면서 “SNS의 추천 알고리즘은 이용자 개개인의 입맛에 맞는 정보, 기존에 익숙하고 이용자의 가치관에 부합하는 정보만 골라서 제공한다. 이런 정보는 진위 여부를 검토하지 않고 그대로 받아들이는 경향이 있다”고 설명했다. 이어 “이용자들의 행동을 제한하는 규제가 얼마나 실효성이 있을지에 대한 의문이 남는다”며 “기계적으로나 기술적으로 문제가 되는 콘텐츠를 플랫폼에서 퇴출시키는 방안이 마련돼야 한다”고 강조했다.

2026.04.28 09:48박서린 기자

'디지털 트러스트' 글로벌 빅테크 뭉쳤다...한화 참여

글로벌 빅테크 기업이 모여 기술에 대한 글로벌 신뢰를 강화하고 책임 있는 혁신을 지원하기 위한 '신뢰할 수 있는 기술 얼라이언스(Trusted Tech Alliance, TTA)'를 출범시켰다. 16일(현지시간) 모바일월드라이브에 따르면 에릭슨, 노키아, 마이크로소프트, 구글, 아마존웹서비스 등 15개 주요 빅테크가 모여 TTA를 출범하면서 투명성, 보안, 데이터 보호에 대한 공동의 약속을 마련했다. 얼라이언스는 디지털 기술에 대한 우려가 증가하는 가운데 혁신의 빠른 속도, 회복력을 갖추고 신뢰할 수 있는 글로벌 인프라 필요성에 대응하는 것을 목표로 삼았다. 인도의 릴라이언스지오, 일본의 NTT도코모와 같은 통신사도 얼라이언스에 참여했고 SAP, 앤트로픽, 코히어, 엔스케일 등 AI 소프트웨어 관련 기업도 이름을 올렸다. 국내 기업으로는 한화가 참여해 눈길을 끈다. TTA의 다섯 가지 창립 원칙은 ▲투명한 기업 지배구조와 윤리적 행동 ▲운영의 투명성, 안전한 개발과 독립적 평가 ▲강력한 공급망과 보안 감독 ▲개방적이고 협력적이며 포용적이고 회복력 있는 디지털 생태계 ▲법치주의와 데이터 보호에 대한 존중 등이다. 보르예 에크홀름 에릭슨 CEO는 “어느 한 기업이나 국가도 단독으로 안전하고 신뢰할 수 있는 디지털 스택을 구축할 수 없다”며 “신뢰와 보안은 함께할 때만 달성될 수 있다”고 말했다. 브래드 스미스 마이크로소프트 사장은 “현재의 지정학적 환경에서, 뜻을 같이하는 기업들이 함께 협력해 보안을 보호하고 높은 글로벌 기준을 발전시켜 국경을 넘어 기술에 대한 신뢰를 유지하는 것이 매우 중요하다”고 강조했다. 김동관 한화그룹 부회장은 “신뢰는 기술이 사회의 가장 시급한 과제를 해결하도록 발전시키는 데 핵심적인 역할을 할 것”이라며 “에너지 안보와 주권 방위에서부터 첨단 제조에 이르기까지 우리는 신뢰받는 생태계가 사회를 보호하고 산업을 강화하며 미래의 회복력을 이끄는 핵심이라고 믿는다”고 밝혔다.

2026.02.16 17:31박수형 기자

"AI 신뢰성 강화"…씽크포비엘, 中 산학연 협력 확대

씽크포비엘이 중국과 인공지능(AI) 신뢰성 기술 교류 협력을 추진하며 글로벌 AI 시장에서 입지를 강화했다. 씽크포비엘은 지난 23~24일 중국 상하이 르네상스 상하이 푸퉈 호텔에서 열린 '2025 AI+연구개발 디지털 서밋'에 참가했다고 26일 밝혔다. 행사에서 회사는 AI 신뢰성 관련 기술을 소개하고 중국 정부·기업·기관·대학·연구소 관계자들과 구체적인 협력 방안을 논의했다. 행사에는 1천명 넘는 글로벌 AI 전문가가 참석했으며 100건 이상의 발표와 토론, 토크쇼가 진행됐다. 씽크포비엘 천선일 매니저는 AI와 거대언어모델(LLM) 평가 방법을 위한 견고성 평가 기술과 사례를 발표했다. 씽크포비엘 부스에는 화웨이, 바이두, 텐센트 등 중국 주요 테크기업과 대학, 연구소, 정부 관계자들이 방문했다. 이들은 기술 시연 후 협력 범위, 사업화 방향 등을 문의했으며 다수 협의가 성사됐다. 씽크포비엘 관계자는 "중국의 높은 관심을 확인한 만큼 올해 안으로 현지 주요 기업·기관·대학과 후속 협력에 나설 계획"이라며 "이번 방문에서 두 국가 간 AI 기술 격차가 더욱 벌어지고 있음을 실감했다"고 밝혔다. 그러면서 "한국이 AI 선도국 관심을 끌만한 기술 발전을 보여주지 못하고 있고 작은 시장에 자본과 인적 자원이 부족해 주변국으로 전락할 수 있다는 위기감을 느꼈다"며 "새 정부가 글로벌 시장에서 경쟁력 강화를 위한 대응 방안을 빠르게 마련하길 바란다"고 덧붙였다. 박지환 씽크포비엘 대표는 "AI 시장 미래 경쟁력이 경제성, 편리성, 신뢰성을 통해 확보될 수 있음을 확신할 수 있었던 시간이었다"고 말했다.

2025.05.26 10:24김미정 기자

KTR, 전기안전공사 손잡고 '에너지 저장 장치' 신뢰성 높인다

KTR(한국화학융합시험연구원·원장 김현철)은 10일 한국전기안전공사(대표 남화영)와 에너지 저장 장치(ESS) 신뢰성을 확보하고 관련 기업의 경쟁력 강화를 돕기 위해 업무협약을 체결했다. KTR과 한국전기안전공사는 업무협약에 따라 ▲ESS 및 신에너지 산업 안전 확보를 위한 연구 및 기술개발 ▲관련 국제표준 개발 및 확산 ▲시험인증 지원 등의 협력사업을 진행한다. 두 기관은 특히 배터리 에너지 저장 시스템(BESS)이 극한 환경에서도 높은 안전성과 신뢰성을 확보할 수 있도록 돕기 위해 검증, 표준모델 개발 등도 함께 수행하기로 했다. KTR은 또 한국전기안전공사와 국내외 ESS 기술 동향 및 분석 정보를 상호 공유하는 등 국내 ESS 산업의 신뢰성 확보와 경쟁력 강화를 위해 노력하기로 했다. 전기안전공사는 전기 설비 분야 디지털 안전 관리체계 구축·기술개발을 비롯해 ESS 안전성평가센터 운영을 통해 ESS·연료전지 등의 안전관리 업무를 수행하고 있다. 김현철 KTR 원장은 “에너지 저장장치의 안전성과 신뢰성 확보는 관련 산업 발전을 위한 필수 선결과제”라며 “국내 대표 에너지분야 시험인증기관인 KTR은 지금까지 쌓아온 노하우와 인프라를 적극 활용, 차세대 에너지 저장장치의 안전성과 신뢰성 보장을 위해 적극 나설 것”이라고 밝혔다.

2025.02.10 17:58주문정 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

수능날의 낯선 풍경…AI 시대의 낡은 시험과 무책임한 언론

AI 창작·글로벌 게임 한자리에…‘지스타 2026’ 부산서 개막

AI 시대 디지털 신뢰 회복하려면…"기술·제도·시민 참여 연결 필수"

"신용카드 한 장에 2000만원"…돈 주고 사는 카드 시장 열릴까

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.