• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI평가'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI 안전 평가 선도하는 영국…한국도 국제무대 나설 수 있을까

마이크로소프트(MS)가 국제 인공지능(AI) 안전 기준 마련을 이끌 국가로 영국을 지목하면서 한국의 AI 안전 평가 역량을 강화해야 한다는 목소리도 나오고 있다. 12일(현지시간) BBC에 따르면 브래드 스미스 MS 부회장은 '빅 보스 인터뷰' 팟캐스트에서 영국이 국제 AI 안전 기준을 주도하기에 적합한 국가라고 평가했다. 영국이 첨단 AI 모델의 위험성을 직접 시험할 전문기관을 갖춘 데다 미국 정부와의 협력 관계도 유리하게 작용할 수 있다고 봤다. 영국 AI 보안연구소는 글로벌 AI 기업으로부터 최신 모델을 출시 전에 제공받아 위험성을 검증하고 있다. 사이버 공격에 악용될 수 있는지, 생화학적 위험 정보를 제공하는지, 안전장치를 우회할 수 있는지 등을 직접 시험한다. 같은 날 로이터통신에 따르면 카니슈카 나라얀 영국 AI 담당 장관은 미국 정부와 구글 등 주요 AI 개발사와의 협력을 통해 최신 모델을 평가하고 있다고 밝혔다. 영국 연구진은 구글의 '제미나이 4 아르곤' 등을 대상으로 위험성과 안전조치를 시험하고 있다. MS도 영국 AI 보안연구소와 협력하고 있다. 지난 5월 미국 AI표준혁신센터(CAISI)와 영국 AI 보안연구소(AISI) 각각과 협약을 맺고 자사 프런티어 AI 모델의 위험한 능력과 안전장치를 평가하는 연구를 추진하기로 했다. 스미스 부회장은 영국의 기술력뿐 아니라 미국과의 관계에도 주목했다. 미국 정부가 유럽연합(EU)이 주도하는 규제보다 영국이 마련하는 안전 기준에 상대적으로 우호적일 수 있다고 예상했다. 한국도 국제 평가 참여…제3자 역할 모색 한국도 국제 AI 안전 평가 협력망에 참여하고 있다. 국내 AI안전연구소는 미국과 영국, 일본, 싱가포르 등 각국 연구기관과 첨단 AI의 위험성을 공동으로 평가하는 방법과 기준을 논의 중이다. 국제 협력 과정에서 한국이 검토하는 역할 중 하나는 제3자 평가다. 미국과 중국이 프런티어 AI 개발을 주도하는 가운데 양국이 서로의 핵심 AI 모델을 직접 검증하기 어려울 경우 제3국의 독립적인 평가가 대안이 될 수 있다는 분석이다. 김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 한국이 나서겠다는 생각을 갖고 있다"며 "지난 8월 영국 측에도 각국 AI안전연구소가 공동으로 참여하는 국제 평가 체계에 적극 협력하겠다는 뜻을 전달했다"고 말했다. 다만 제3자 평가국은 아직 구상 단계다. 실제로 역할을 맡으려면 최첨단 AI 모델의 능력과 위험성을 직접 시험할 기술력은 물론 평가 결과에 대한 국제적 신뢰도 확보해야 한다. 김 소장은 이를 위해 프런티어 AI 개발 역량과 안전 평가 기술을 함께 갖춰야 한다고 강조했다. 현재 정부는 현재 독자 AI 파운데이션 모델 개발 사업과 프런티어 AI 사업을 추진하고 있다. 영국은 평가 역량 축적…한국은 인력·조직 한계 한국이 국제 AI 안전 평가에서 역할을 확대하기까지는 풀어야 할 과제도 있다. 전문인력과 컴퓨팅 자원, 연구소의 조직적 기반에서 영국과 격차가 크다. 지난달 이정헌 더불어민주당 의원이 과학기술정보통신부와 AI안전연구소에서 제출받은 자료에 따르면 국내 연구소의 기술 평가 인력은 6명에 불과하다. 활용 가능한 그래픽처리장치(GPU) 서버도 5대에 그친다. 반면 영국 AI 보안연구소는 기술 인력만 100명을 넘고 국가 차원의 컴퓨팅 자원을 활용한다. 올해 예산도 약 1216억원으로 한국(89억원)의 14배에 달한다. 조직 운영에서도 차이가 있다. 영국은 정부 소속 전문기관을 중심으로 글로벌 AI 기업과 협력하고 있지만 국내 AI안전연구소는 한국전자통신연구원(ETRI) 직할 조직으로 운영되고 있다. 독립적인 인사권과 예산 확보에 한계가 있다는 지적도 나온다. 이정헌 의원은 "AI안전연구소에 법적 독립성을 부여하고 자체적인 인사·예산 권한을 보장하도록 AI 기본법을 개정해야 한다"고 밝혔다. 영국은 전문인력과 컴퓨팅 자원을 확보하고 글로벌 AI 개발사와 협력하며 최첨단 모델에 대한 평가 경험을 축적해 왔다. 한국도 국제 평가에 참여하는 데서 나아가 실제 검증을 수행할 연구 역량과 조직적 기반을 갖추는 문제가 남아 있다. 김 소장은 "한국이 국제 AI 거버넌스 논의에 참여하려면 프런티어 AI 기술력과 평가 역량을 빠르게 확보해야 한다"며 "한국은 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 말했다.

2026.10.13 11:09김동원 기자

미 간호사들, 'AI 감시'로 곤혹..."생산성 향상·비용절감에만 눈 멀어"

미국 의료 서비스 조직인 카이저 퍼머넌트의 상담 간호사들이 직장에 도입된 과도한 AI 감시 도구와 통화 시간 제한 때문에 환자 케어의 질이 크게 떨어진다고 고발했다. 상담 간호사는 환자의 전화 상담을 받아 가정 내 치료 가능 여부를 판단하고, 응급실 방문 안내나 의사 예약을 돕는 의료 일선 인력이다. 그러나 카이저 퍼머넌트 경영진은 간호사들에게 환자 1인당 통화 시간을 15분 이내로 끝내도록 압박하며, 이를 초과할 경우 실적 평가에서 불이익을 주거나 정기 회의에서 질책을 이어오고 있다. 로컬뉴스매터스 보도에 따르면, 2010년부터 근무해 온 라켈 알바레스 산체스 간호사는 2025년 자살 위험 환자의 전화를 받고 경찰이 현장에 도착할 때까지 1시간 넘게 통화를 유지해 목숨을 구했다. 하지만 환자를 안심시키는 동안에도 '평균 통화 시간이 길어져 실적 평가에 감점을 받지 않을까' 하는 심각한 불안감에 시달려야 했다. 한 익명의 간호사 역시 말기 암 진단을 받고 충격에 빠진 고령 환자를 위로하고 싶었지만, 통화가 길어져 상사에게 경고를 받을 것이 두려워 황급히 통화를 마칠 수밖에 없었다고 증언했다. 이러한 15분 통화 제한은 실제 의료 현장의 현실을 전혀 반영하지 못한다는 지적이 나온다. 신생아를 키우는 초보 부모나 복합 만성 질환자, 인생이 걸린 진단을 받은 환자들은 장시간의 깊은 상담이 필수적이다. 특히 캘리포니아주 주민의 약 40%가 영어가 아닌 언어를 사용해 통역사가 필요한 상황에서는 통화 시간이 30분을 넘기 일쑤지만, 경영진은 일률적인 시간 단축만을 요구하고 있다는 게 간호사들 주장이다. 여기에 2024년 경영진이 간호사와 환자의 목소리 톤을 AI로 분석해 '공감도'를 평가하는 AI 감시 프로그램까지 시범 도입하면서 현장의 반발은 극에 달했다. 약 10년 경력의 파 뷰(Pha Vue) 간호사는 심장 질환이 우려되는 환자에게 안전을 위해 동일한 조언을 반복했다는 이유로 AI로부터 낮점수를 받았다. 또한 전문적인 간호사 판단에 따라 AI 알고리즘의 권고를 거부하거나 직접 예약을 잡은 경우에도 낮은 평가가 내려졌다. 뷰 간호사는 "우리는 단순한 고객 지원 콜센터 직원이 아니라 환자를 케어하기 위해 존재하는 간호사"라며 "카이저 퍼머넌트가 기술을 통한 생산성 향상과 비용 절감에만 눈이 멀어 간호의 본질을 잊고 있다"고 비판했다. 소비자 옹호 단체 '컨슈머 워치독'의 미셸 라모스 역시 "카이저 퍼머넌트가 오랫동안 의료의 질보다 수익을 우선시해 온 결과가 환자들에게 피해로 돌아가고 있다"고 지적했다. 이 같은 현장의 거센 반발에 대해 카이저 퍼머넌트 측은 "감시 도구는 품질 보증 활동을 지원하기 위한 것이며 인간의 검토를 거치고 있다"고 해명했다. 다만, 구체적인 AI 도구 활용 및 모니터링 체계에 대한 추가 질문에는 답변을 거부했다.

2026.07.30 17:37백봉삼 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

'인앱결제 강제' 구글·애플에 과징금 637억원

LG전자 TV, 3분기 흑자지만…패널값 상승에 다시 '빨간불'

오라클, 오픈AI와 AI 보안 위협 공동 대응…"취약점 찾아 고친다"

해킹책임 묻고 AI예산 따졌지만…과방위 국감 남은 쓴맛

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.