• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
AI페스타26
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'안전 검증'통합검색 결과 입니다. (7건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI 위험 검증하는 나라로…韓, '제3자 평가국' 노린다

인공지능(AI) 경쟁이 모델 성능을 넘어 누가 위험을 판단할 것인지로 번지고 있다. 미국과 중국이 프런티어 AI 경쟁을 주도하면서 양국이 서로의 시스템을 직접 검증하기 어려울 경우 제3국이나 국제기구가 평가를 맡는 방안도 거론되고 있다. 김명주 AI안전연구소장은 23일 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 우리가 나서겠다는 생각을 갖고 있다"며 "다만 아직은 앞서가는 시나리오이자 희망 사항일 뿐 실제 역할을 맡으려면 프런티어 AI 기술과 평가 역량을 갖춰야 한다"고 강조했다. 국제적으로도 프런티어 AI를 공동 평가하고 위험 정보를 공유하려는 움직임이 이어지고 있다. 오픈AI는 21일(현지시간) 한국 등 각국 AI안전연구소가 참여하는 협력망을 활용해 평가 결과를 공유하고 공통 기준을 마련하는 방안을 제안했다. 미중 AI 안전 협의 시작…검증은 누가 최근 AI 개발 속도와 안전을 둘러싼 논쟁이 커지면서 미국과 중국 사이에서도 AI 안전 문제가 의제로 떠올랐다. 양국은 정상회담을 앞두고 관련 논의를 시작했다. 미국은 중대한 AI 사고가 발생할 경우 서로 알리는 통보 체계를 중국 측에 제안했지만 중국은 아직 구체적인 입장을 밝히지 않은 것으로 알려졌다. 김 소장은 "위협의 신호가 보이면 서로 핫라인을 개설해 이야기하고 협의하자는 논의까지 나오고 있다"고 말했다. 통보 체계가 만들어져도 상대국 AI 위험을 누가 확인할지는 남는다. 미국이 중국의 핵심 AI 시스템을 직접 들여다보거나 중국이 미국의 모델을 검사하기는 쉽지 않아서다. 김 소장은 장기적으로 핵확산금지조약(NPT)과 비슷한 국제 통제체제가 AI에서도 등장할 가능성을 거론했다. 실제로 미국과 중국의 안보 전문가 사이에서도 핵 군축과 유사한 안전장치와 위기 소통 채널을 AI에 적용하자는 제안이 나왔다. 한국은 국제 평가체계가 만들어질 경우 참여하겠다는 뜻도 전달했다. 김 소장은 지난 8월 국제 AI 평가 협력망을 조정하는 영국 측과 의견을 나눴고 각국 AI안전연구소가 함께 참여하는 방식이라면 한국도 적극 참여하겠다는 입장을 밝혔다. 이 분야에서 가장 앞서 있다는 평가를 받는 곳은 영국이다. 영국 AI안전연구소는 2023년 11월부터 프런티어 AI를 직접 평가해왔다. 사이버와 생물안보 등 국가안보·공공안전 분야에서 첨단 모델을 반복적으로 시험하면서 평가 방법과 데이터를 축적했다. 김 소장은 영국이 현재 프런티어 AI 평가 기술에서 가장 앞서 있다고 진단했다. 김 소장은 AI안전연구소도 지난 2년간 영국의 평가 기술을 따라잡기 위해 관련 역량을 쌓아왔다고 설명했다. 그는 "한국은 AI 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 강조했다. 국제 논의 발언권, 결국 '경험'에서 나온다 AI 안전 논의에서 한국의 발언권을 키우려면 기술력과 함께 실제 현장에서 쌓은 경험도 중요하다는 지적이 나온다. 박지환 씽크포비엘 대표는 "아직 AI가 실제 현장에서 어떤 문제를 얼마나 자주 일으키는지 충분히 축적되지 않았는데 머릿속에서 만든 기준이 처음부터 정확할 것이라고 기대하기는 어렵다"고 말했다. 그는 혈압 기준을 예로 들었다. 어느 수준부터 치료에 개입할지를 수많은 임상 경험과 데이터를 거쳐 정해온 것처럼 AI도 실제 적용과 실증을 반복하면서 기준을 다듬어야 한다는 설명이다. 박 대표는 "한국이 표준에 대한 현장 실증을 많이 하는 나라가 되는 것이 중요하다"며 "국제기준을 실제 산업과 공공현장에 적용해 무엇이 맞고 무엇이 부족한지를 지속적으로 제시해야 한다"고 강조했다. 현장 경험과 별개로 국제적으로 통용될 표준은 공적인 절차와 합의를 거쳐야 한다. 전종홍 한국전자통신연구원(ETRI) 표준연구본부 책임연구원은 "오픈AI나 앤트로픽이 '표준'이라는 용어를 많이 쓰지만 그렇게 쓴다고 그냥 표준이 되는 것은 아니다"라며 "문서를 만드는 것과 권위를 만드는 것은 다르다"고 밝혔다. 박 대표는 "이런 경험과 데이터가 축적되면 한국의 의견에 무게가 생기고 더 많은 국제 실증과 표준화 논의의 중심에 설 기회가 생긴다"며 "기준을 받아들이는 나라보다 기준이 현실에서 작동하는지를 증명하고 개선하는 나라가 AI 안전 논의의 중심에 설 것"이라고 말했다.

2026.09.23 10:43김동원 기자

AI 속도 조절 제안한 앤트로픽, 모델 개발 전 과정 외부 검증

앤트로픽이 인공지능(AI) 개발 속도를 둘러싼 안전 논의를 실제 검증 단계로 옮긴다. 외부 평가자를 회사 내부에 배치해 AI 개발 과정의 안전성을 검증하기로 했다. 앤트로픽은 18일(현지시간) 자사 블로그를 통해 액센츄어와 프런티어 AI 독립 평가를 위한 파트너십을 체결했다고 밝혔다. 액센츄어의 AI 전문 조직 '패컬티'가 직원과 비슷한 수준의 접근 권한을 받아 모델 훈련부터 개발·배포 과정까지 내부에서 평가한다. 모델 평가와 레드팀 테스트를 비롯해 정렬 평가와 안전장치 시험도 맡는다. 액센츄어는 기업과 정부의 AI 도입을 지원해 온 글로벌 컨설팅·기술 서비스 기업이다. AI와 데이터, 사이버보안, 기업 시스템 구축 등의 사업을 수행하고 있다. 현재 120여 개국에서 약 9000개 고객사를 지원하고 있다. 앤트로픽은 액센츄어가 여러 산업에서 AI를 실제 구축해 온 경험을 모델 안전성 평가에 활용할 수 있다고 설명했다. 이번 협력은 최근 앤트로픽이 제기한 AI '속도조절론'의 후속 조치다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 '우리는 프런티어의 속도를 조절해야 한다'는 글에서 외부 평가자를 AI 기업 내부에 배치하는 방안을 제시했다. 앤트로픽은 이번 협력을 당시 약속을 이행하기 위한 중요한 단계로 규정했다. 내재형 평가로 불리는 이 방식은 완성된 모델을 외부에서 시험하는 기존 평가와 달리 AI가 만들어지는 과정부터 살펴본다. 평가자는 모델 훈련 과정과 개발·배포 과정에서 내려지는 결정을 확인하고 회사 직원들과 직접 소통한다. 평가자는 앤트로픽이 AI 안전과 관련해 내건 약속을 실제로 지키는지 확인하고 내부에서 놓친 위험을 찾는다. 사고가 발생하면 이를 보고하고 AI가 가져올 이점과 위험에 대해 외부에 보다 구체적인 정보를 제공하는 역할도 맡는다. 앤트로픽과 액센츄어는 내재형 평가 역량을 구축하기 위해 앞으로 5년간 각각 최소 10억 달러(약 1조3800억원)를 투자할 예정이다. 다만 내재형 평가는 아직 초기 단계여서 운영 기준은 마련되지 않았다. 평가자가 기업 내부의 어떤 정보까지 접근할 수 있는지와 평가 결과를 어떻게 공개할지에 대한 기준도 정해지지 않았다. 평가 비용을 마련하는 방식도 과제로 남아 있다. 이번 액센츄어의 평가 비용은 앤트로픽이 직접 부담하지만 장기적으로는 공동 기금이나 정부 재원을 활용해야 한다는 게 앤트로픽의 입장이다. 앤트로픽은 여러 외부 기관이 함께 AI를 검증하는 체계도 추진한다. 현재 비영리 AI 평가기관 '메트르' 등과 내재형 평가 방식을 시범 적용하는 방안을 논의하고 있으며 앞으로 몇 주 안에 추가 협력 기관을 발표할 예정이다. 액센츄어와의 협력도 독점 계약이 아니어서 다른 AI 개발사도 같은 방식의 평가를 받을 수 있다. 앤트로픽은 "독립적인 내재형 평가자는 우리의 책임을 줄이는 것이 아니라 이를 더 검증 가능하게 만드는 역할을 한다"며 "모델의 안전에 대한 책임은 여전히 우리에게 있다"고 밝혔다.

2026.09.20 09:37김동원 기자

카본식스-세이프틱스, 제조 현장 '피지컬 AI' 안전검증 개발 맞손

피지컬 인공지능(AI) 기업 카본식스가 로봇 안전 솔루션 업체 세이프틱스와 제조 현장의 피지컬 AI 양산 적용을 위한 업무협약(MOU)을 체결했다고 25일 밝혔다. 이번 협력은 양사 기술을 결합해 로봇 작업을 학습하는 단계부터 안전 검증, 규제 대응, 실제 생산라인 적용까지 하나의 흐름으로 연결하는 통합 안전 워크플로를 구축하는 것이 핵심이다. 카본식스는 AI 기반 로봇 매니퓰레이션 기술과 비정형 로봇 작업을 빠르게 학습·적용하도록 지원하는 로봇 표준품 '시그마키트(SigmaKit)'를 개발하고 있다. 세이프틱스는 산업용 로봇의 안전성을 검증하고 작업 환경을 분석하는 기술을 보유하고 있다. 제조 현장에서 로봇 작업이 늘어남에 따라 양사는 성능 검증을 넘어 실제 양산라인에 가동 가능한 안전 체계를 구체화한다는 목표다. 카본식스는 "피지컬 AI 경쟁력은 생산라인에 얼마나 빠르고 안전하게 적용되는지에 달렸다"며 "세이프틱스와 함께 검증된 양산 적용 사례를 만들겠다"고 말했다.

2026.08.25 10:08진운용 기자

쿠콘, 현대해상 車보험 가입 자동화 지원…맞춤형 API 확산

쿠콘이 편의성과 운영 효율을 높이는 API 서비스 지원을 통해 보험업권 데이터 인프라 사업 확대에 박차를 가한다. 쿠콘은 지난달 현대해상화재보험에 '소유자 검증 차량정보 조회' API를 제공했다고 12일 밝혔다. 이번 API는 자동차보험 가입 과정에서 필수적으로 확인해야 하는 차량 첨단 안전장치 정보를 자동으로 검증하는 것이 핵심이다. 헤드업 디스플레이(HUD)와 차선이탈방지장치 등 차량 안전장치 탑재 여부는 자동차보험 보험료 산정 주요 기준 중 하나로 활용된다. 기존에는 고객이 차량 안전장치 관련 정보를 직접 입력하거나 보험사가 별도 확인 절차를 거쳐야 했다. 이 과정에서 고객은 수기 입력 부담을 겪고 보험사는 정보 검증에 시간이 소요되는 것이 문제로 지적돼왔다. 이에 현대해상은 쿠콘 API를 자동차보험 업무 관련 내부 시스템에 적용해 검증 절차를 간소화했다. 고객이 차량번호와 소유자 정보를 입력하면 안전장치 탑재 여부와 주요 차량 옵션 정보가 실시간으로 조회된다. 특히 외산차 중심으로 기능을 특화해 편의성을 높였다는 설명이다. 해당 기능은 하이플래너(설계사), 법인보험대리점(GA), 텔레마케팅(TM), 사이버마케팅(CM) 등 현대해상 전 판매 채널에 적용된다. 회사 측은 향후 외산차 보험 실적 확대에도 도움이 될 것으로 보고 있다. 보험업계에선 복잡한 심사 구조와 다양한 데이터 검증 수요로 데이터 API 활용 중요성이 커지고 있다. 쿠콘은 금융·핀테크 분야에서 확보한 데이터 연계 역량을 보험업까지 확대하며 보험사 맞춤형 API 라인업을 강화하고 있다. 현재 KB손해보험과 삼성화재 등 주요 보험사도 해당 API를 보험 업무에 활용 중이다. 김종현 쿠콘 대표는 "이번 현대해상 사례는 우리 API가 보험사 핵심 업무 프로세스에서 고객 경험과 운영 효율을 동시에 개선할 수 있음을 보여주는 대표적인 디지털 전환 사례"라며 "앞으로 보험사와 GA 간 보험 상품 데이터를 중계하는 플랫폼 서비스 출시를 준비하는 등 보험 업권에 특화된 데이터 인프라 확장에 지속적으로 나설 계획"이라고 밝혔다.

2026.05.12 13:01한정호 기자

현대오토에버, 차량SW 검증 자동화 도구 '기능안전 국제표준' 인증…대외 협력 확대

현대오토에버가 차량 소프트웨어(SW) 검증 자동화 도구의 안정성을 입증하며 대외 협력 확대에 나선다. 현대오토에버는 '모빌진 엑스-스튜디오'에 대해 자동차 기능안전 국제표준 'ISO 26262' 인증을 받았다고 26일 밝혔다. 현대오토에버가 2023년 자체 개발한 모빌진 엑스-스튜디오는 차량SW의 안전성 검증 작업을 자동화한 프로그램이다. 차량SW는 파워트레인·인포테인먼트 등 자동차 전체 시스템을 제어하는 만큼 안전성을 보장하기 위해 엄격한 테스트가 필요하다. 일반적으로 차량SW 검증에는 ▲모델 인 더 루프(MIL) ▲SW 인 더 루프(SIL) ▲하드웨어 인 더 루프(HIL) 등 세 가지 방법을 활용한다. MIL은 SW를 작동시키는 명령체계인 알고리즘을 이론적으로 검증하는 기법이다. 주로 개발 초기 단계에서 시스템이 올바르게 동작하는지 확인하는 용도로 사용된다. SIL은 실제 SW 코드가 문제없이 동작하는지 확인하는 방법이다. HIL은 SW가 하드웨어와 연결된 상태에서도 문제없이 동작하는지 검증하는 방식이다. 모빌진 엑스-스튜디오는 MIL·SIL·HIL 등 다양한 환경에서 검증을 자동화한다. 이를 통해 기존 수동 방식과 대비해 작업시간이 50% 이상 줄었다는 게 회사 측 설명이다. 또 퇴근 이후나 주말 등 작업자가 없어도 미리 설정한 환경에 맞춰 검증을 수행할 수 있다. 현대오토에버는 이번 ISO 26262 인증을 계기로 모빌진 엑스-스튜디오의 글로벌 수준 신뢰성과 사업 경쟁력을 확보하게 됐다. ISO 26262는 자동차 관련 전기·전자 시스템의 안전성을 검증하는 국제표준이다. 전기·전자 시스템의 오작동으로 인한 위험을 줄이기 위해 국제표준화기구(ISO)가 2011년에 제정했다. 이번 인증은 1894년 설립된 미국 최초 안전규격 개발기관이자 인증기관인 UL 솔루션즈가 주관했다. 현대오토에버는 고객사 프로젝트에서 필요한 기능안전 대응역량을 강화한다. 현재 모빌진 엑스-스튜디오는 다양한 차량SW 검증에 적용되고 있다. 자동차 이외에 항공우주·방산·로봇 등 산업에서도 활용 가능성이 있어 향후 다양한 고객사와 협업을 확대할 방침이다. 현대오토에버 SDV담당 권해영 상무는 "이번 인증으로 검증 자동화 도구의 국제적 신뢰성을 확보했다"며 "경쟁력 있는 서비스를 제공해 고객사의 만족도를 높일 것"이라고 밝혔다.

2026.01.26 15:38한정호 기자

KTC, 오창에 'EV 배터리 화재 안전성·성능 시험평가센터' 착공

한국기계전기전자시험연구원(KTC·원장 안성일)은 16일 충북 청주시 오창테크노폴리스에서 전기차(EV) 배터리 안전성에 대한 근본적인 해법을 제시하고 K-배터리 산업의 글로벌 경쟁력을 한 단계 격상시킬 'EV 배터리 화재안전성 및 성능 시험평가센터' 기공식을 개최했다. KTC는 단순한 시설 건립을 넘어 최근 잇따른 화재 사고로 확산한 국민 불안감을 해소하고 격화하는 글로벌 시장에서 대한민국 배터리 산업의 지속 가능한 성장을 담보할 핵심 인프라로 시험평가센터 구축에 나섰다. KTC가 건립하는 시험평가센터는 총사업비 612억5천만원(정부출연금 155억2천만원, 충북도 92억5천만원, 청주시 92억5천만원, KTC 272억3천만원)을 투입해 2026년 완공을 목표로 하는 세계적 수준의 첨단 인프라다. 시험평가센터가 완공되면 배터리 셀부터 모듈·팩·완성차에 탑재되는 시스템 단위까지 모든 단계에서 화재·성능 검증을 연속적으로 수행할 수 있게 된다. KTC 측은 “시험평가센터는 국내 기업의 신제품 개발 기간을 획기적으로 단축하는 것은 물론, 잠재적 결함을 사전에 파악해 완벽한 수준의 안전성을 확보하는 데 결정적인 역할을 할 것”으로 기대했다. KTC는 시험평가센터를 기반으로 공인시험기관(KOLAS) 자격을 신속하게 획득해 국내 기업이 인증을 위해 시간과 비용을 낭비하지 않고 수출 경쟁력을 곧바로 확보할 수 있도록 '원스톱 지원 체계'를 구축할 방침이다. 안성일 KTC 원장은 “오늘 우리가 내딛는 첫걸음은 단순히 건물을 짓는 것을 넘어, 국민에게는 '안전'에 대한 확고한 믿음을, 우리 기업에는 글로벌 시장을 제패할 '자신감'을 심어주는 일이 될 것”이라며 “세계 최고 수준의 전문성을 바탕으로 K-배터리의 안전 기준을 글로벌 표준으로 만들고, 국민의 생명과 재산을 보호하는 든든한 기술 안보의 방파제가 되겠다”고 밝혔다. 한편, 이날 기공식에는 이복원 충청북도 경제부지사, 신병대 청주 부시장, 이의영 충청북도의회 부의장, 안성일 KTC 원장, 최종서 한국배터리산업협회 상무, 박순기 충북테크노파크 원장, SK온, LG에너지솔루션, 삼성SDI, 에코프로HN, 민테크 등 정·관계 및 산업계 핵심 인사 100여 명이 참석했다.

2025.10.17 01:32주문정 기자

한수원, '통합경영관리 체계'도 수출한다

한수원이 체코 신규 원전에 이어 통합경영관리 체계도 수출길이 열렸다. 한국수력원자력(대표 황주호)은 자체 '통합경영관리 체계'가 세계적인 인증기관인 티유브이슈드(TÜV-SÜD)로부터 국제원자력기구(IAEA) 일반안전요건인 GSR-Part2(General Safety Requirements·Leadership and Management for Safety)를 만족한다는 검증을 받았다고 1일 밝혔다. 통합경영관리는 한수원의 경영시스템으로 원전 건설부터 폐로까지 전주기를 프로세스화했다. 한수원 측은 통합경영관리가 ▲안전 중심의 리더십 ▲품질경영 ▲리스크관리 ▲조직문화 및 지속적인 개선 활동 전반에서 국제 기준에 부합하는 높은 수준의 신뢰성과 실행력을 확보하고 있음을 공식적으로 검증받은 것이라고 전했다. IAEA GSR-Part2는 유럽·중동 국가의 규제 요건이며, 신규 원전 건설 발주자의 입찰 조건에 포함돼 수출 경쟁력 확보에 필수적이다. 특히, 원전 건설·운영을 수출할 때 새롭게 원전을 도입하거나 원전 이용률이 낮은 국가는 통합경영관리 체계도 수출 패키지로 요청하는 사례가 많아 한수원의 수출 경쟁력이 높아지게 됐다. 황주호 한수원 사장은 “이번 검증은 한수원의 안전 중심 가치와 경영 철학이 국제적으로 인정받은 것에 큰 의미가 있다”며 “앞으로 세계 원전 시장에서 한수원의 경쟁력이 매우 높아지고, 원전 수주 활동에도 탄력을 받게 될 것”이라고 말했다. 한편, 한수원은 이번 검증 과정에서 GSR-Part2의 14개 요건, 84개 항목, 513건 등 약 1천400페이지 분량 증빙 문서를 제출한 바 있다.

2025.05.01 13:25주문정 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

글로벌 빅테크·국가대표 AI 총출동…6만 8000명 찾은 AI 페스타, K-AI 존재감 높였다

먹고 입고 쓰는 한글…유통업계, 한글날 제정 100주년 마케팅 활발

삼성전자, 분기 영업익 100조 첫 돌파...글로벌 빅테크 '최초'

삼성·TSMC, 올 3분기도 파운드리 '희비교차'…점유율 격차 확대 전망

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.