• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 연구소'통합검색 결과 입니다. (115건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

김명주 AI안전연구소장 "AI 위험은 이제 시작, 쓰지 않은 사람도 피해자 된다"

"국가가 인공지능(AI) 사회로 전환하겠다고 했는데 국민에게 새로운 고민이 생겨도 논의할 곳이 없다면 안 됩니다." 김명주 AI안전연구소장은 오는 27일 개소 2주년을 앞두고 19일 진행한 지디넷코리아 인터뷰에서 국민이 체감할 수 있는 AI 안전 대응 체계를 강조했다. 지난 2년간 서비스 출시 전 위험을 평가할 기반을 마련했다면 앞으로는 일상에서 발생하는 피해를 접수하고 원인을 밝혀 재발을 막는 역할까지 강화해야 한다는 설명이다. 2024년 11월 27일 문을 연 연구소는 AI 위험을 평가하고 예방 기술과 정책을 연구해왔다. 현재는 국내 기업이 함께 사용할 안전 평가시설과 국민이 위험 사례를 제보할 포털을 추진하고 있다. 김 소장이 국민 피해 대응을 강조한 배경에는 AI가 답변을 넘어 행동까지 맡기 시작한 변화가 있다. AI 에이전트는 프로그램을 실행하거나 외부 서비스에 접속해 작업을 처리한다. 잘못된 판단이 파일 삭제나 결제로 이어지면 피해가 대화창 밖으로 번질 수 있다. 김 소장은 지금 나타나는 AI 위험이 시작에 불과하다고 진단했다. 사람이 AI를 악용하는 문제에 더해 AI가 스스로 일을 처리하다 다른 사람에게 피해를 주는 상황까지 대비해야 한다고 경고했다. 그는 "AI가 직접 일을 처리하기 시작하면 잘못된 행동에 따른 피해가 사용자에게만 머물지 않는다"며 "AI를 쓰지 않은 사람도 다른 사람이 맡긴 작업 때문에 피해를 입을 수 있다"고 설명했다. AI 쓰는 사람 따로, 피해자 따로…위험은 대화창 밖으로 김 소장은 19일 치러진 대학수학능력시험을 둘러싼 부정행위 우려를 예로 들었다. 일부 응시자가 AI로 몰래 답을 얻으면 정직하게 시험을 치른 수험생이 불이익을 받을 수 있다는 설명이다. 그는 일반 안경과 구별하기 어려운 AI 안경이 시험 감독을 어렵게 만든다고 봤다. 카메라와 통신 기능이 다른 기기에도 결합할 수 있어 알려진 제품만 찾아내서는 부정행위를 막기 어렵다는 지적이다. 김 소장은 "기술이 계속 발전하고 생각하지 못했던 기술들이 서로 결합한다"며 "계속 뒤쫓기만 하면 사후약방문이고 그사이 불공정을 통해 기회를 얻는 사람과 피해를 보는 사람이 생긴다"고 말했다. 김 소장은 사람이 악용할 의도가 없어도 AI가 작업을 수행하는 과정에서 피해가 발생할 수 있다고 경고했다. 특히 에이전트가 사용자 예상보다 넓은 권한을 갖고 확인 없이 작업을 이어가는 상황을 경계했다. 접근할 정보와 실행할 작업 범위를 미리 정해야 한다는 설명이다. 그는 "AI가 실수해도 쉽게 고칠 수 있는 일과 한 번 실행하면 되돌리기 어려운 일을 구분해야 한다"며 "중요한 파일을 지우거나 돈을 쓰는 일은 AI가 실행하기 전에 사람이 확인하고 승인해야 한다"고 강조했다. 김 소장은 작업 중인 AI를 감시할 별도 AI도 필요하다고 봤다. 에이전트가 여러 프로그램을 오가며 수행하는 작업을 사람이 일일이 지켜보기는 어렵기 때문이다. 사고 원인을 밝힐 수 있도록 작업 기록도 남겨야 한다고 주문했다. 그는 "이전에는 AI 답변을 평가하는 AI가 필요했다면 이제는 행동을 모니터링하는 AI도 필요하다"며 "사고가 발생했을 때는 왜 그런 행동을 했는지 추적할 수 있어야 한다"고 설명했다. 한국 AI안전연구소 개소 2년, 사고 뒤 대응에서 출시 전 평가로 김 소장은 연구소 출범 이후 성과로 AI를 실제 서비스에 투입하기 전 위험을 살필 역량을 쌓은 점을 꼽았다. 사고가 발생한 뒤 수습하는 데서 나아가 취약점을 먼저 찾고 개선할 기회를 마련했다는 평가다. 그에 따르면 연구소는 독자 AI 파운데이션 모델 사업 안전 평가를 수행하고 카카오와 국회에서 AI를 활용하기 전 사전 평가에도 참여했다. 싱가포르 연구기관과는 에이전트 안전성 평가를 공동 연구했다. 국내 평가에서는 한국어와 사용 환경을 살피는 일이 중요하다. 같은 AI라도 영어와 한국어로 질문했을 때 안전성 평가 결과가 달라질 수 있기 때문이다. 해외에서 받은 점수만으로 국내 이용 환경까지 판단하기 어렵다는 설명이다. 연구소는 국내 평가 결과를 해외에서도 활용할 수 있도록 주요국과 평가 기준과 방법을 맞춰갈 계획이다. 기업이 국가마다 비슷한 평가를 반복하는 부담을 줄이려는 구상이다. 김 소장은 "국내 평가가 기업에 부담을 하나 더 얹어서는 안 된다"며 "한국에서 평가받은 결과가 해외에서도 인정받을 수 있도록 하는 게 목표"라고 밝혔다. 평가 방식도 바뀌고 있다. 정해진 질문에 AI가 어떻게 답하는지만 살펴서는 에이전트가 실제로 어떤 행동을 할지 알기 어렵다. 김 소장은 가상환경에서 AI가 여러 도구를 사용해 작업을 끝내는 과정까지 관찰해야 한다고 설명했다. 사이버 공격 위험 평가가 대표 사례다. 개별 보안 문제를 풀게 하는 데서 나아가 AI가 취약점을 찾고 시스템에 접근해 목표에 도달하는 과정을 시험해야 한다. 작업이 길어지고 AI를 반복해서 실행해야 하는 만큼 평가에 필요한 연산 자원과 비용도 늘어난다. 김 소장은 이러한 평가를 맡을 인재와 민간 전문기업도 키워야 한다고 강조했다. 위험한 화학물질 제조를 돕는 AI와 청소년 중독을 유발하는 AI를 평가하려면 서로 다른 전문성이 필요하다는 이유다. 그는 "모든 안전 평가를 안전연구소가 할 수는 없다"며 "전문기업이 분야별 평가를 맡고 연구소는 이들이 글로벌 수준으로 성장하도록 돕는 역할을 해야 한다"고 말했다. AI 사고, 원인 밝히고 피해자 도울 준비는 김 소장은 앞으로 풀어야 할 과제로 '모델 접근권' 확보를 꼽았다. 개발사가 새로운 AI를 출시하기 전에 연구소가 안전성을 평가할 수 있어야 한다는 취지다. 평가 기술을 갖춰도 개발사가 접근을 허용하지 않으면 충분히 검증하기 어렵기 때문이다. 그는 "평가하고 싶다고 해서 기업이 와서 평가하라고 하지는 않는다"며 "평가 역량을 높이는 동시에 외교와 제도를 통해 접근권을 확보해야 한다"고 강조했다. 연구소는 국내 기업이 함께 쓸 차폐형 평가시설 구축도 정부에 요청했다. 외부 네트워크와 분리한 환경에서 AI를 시험하면 평가 중 문제가 생겨도 다른 시스템으로 피해가 번지는 상황을 막을 수 있다. 연구소는 이곳에 AI 구동 장비와 평가 도구를 갖춰 기업에 제공할 구상이다. 김 소장은 연구소가 출시를 허가하거나 중단시키는 기관은 아니라는 점도 분명히 했다. 연구소는 위험을 평가해 근거를 제공하고, 기업과 정부는 이를 토대로 출시 여부나 기능 제한을 판단한다는 설명이다. 그는 "개발 속도에 걸맞은 안전 시스템을 갖췄는지 확인해야 한다"며 "안전 평가 결과를 바탕으로 출시할 수 있는지, 위험한 기능을 제한해야 하는지 판단해야 한다"고 밝혔다. 사고 이후 대응에는 AI가 받은 지시와 수행한 작업을 남긴 기록인 '로그'가 필요하다. 김 소장은 사용자 지시가 문제였는지, AI가 잘못 판단했는지 밝히려면 이 기록을 확보해야 한다고 강조했다. 해외에서 발생한 사고라도 국내 이용자에게 피해가 미친다면 관련 정보를 전달받고 조사할 수 있도록 신고·협조 절차를 마련하자는 제안이다. 연구소는 국민 피해를 접수할 창구로 이르면 내년 초 AI 안전 포털을 열 계획이다. 이용자가 위험 사례를 제보하면 필요한 정보를 제공하거나 담당 기관으로 연결하는 역할을 맡는다. 국민 참여형 점검도 확대하고 있다. 과학기술정보통신부와 연구소가 지난 12일 출범한 'AI 안전 지킴이'에는 80명이 참여한다. 이들이 AI 오류와 위험 사례를 제보하면 연구소가 검증한 뒤 평가와 연구에 활용하고 관련 기업에도 공유한다. 김 소장은 대응 우선순위를 정할 때 국민이 일상에서 겪는 어려움도 살펴야 한다고 당부했다. 국가에는 대규모 사이버 공격이 시급한 문제지만, 개인에게는 자녀의 AI 중독이나 채용 과정에서 겪는 차별이 더 절박할 수 있다는 설명이다. 그는 "국민이 불편을 겪거나 피해를 당했을 때 즉각 대응할 수 있는 시스템을 만드는 일이 급선무"라고 강조했다.

2026.11.19 16:57김동원 기자

더 좁아진 SW 신입 취업문…SPRi "숙련 인력 확보 난항" 우려

소프트웨어(SW) 분야 신입 취업문이 좁아졌지만, 관련 산업 전체 인력 수요는 중장기적으로 늘어날 것이라는 분석이 나왔다. 이에 숙련 SW 인력 확보에 난항을 겪을 수 있다는 전망이다. 6일 소프트웨어정책연구소(SPRi)가 발간한 '에이전틱 인공지능(AI) 시대의 SW인재 수요전망 분석' 보고서에 따르면 국내 SW 분야 채용 흐름 전망이 이같이 나타났다. 보고서에 따르면 국내 4년제 대학 SW 전공 졸업자 취업률은 2022년 68.1%에서 2024년 57.3%로 10.8%포인트(p) 떨어졌다. 같은 기간 전체 전공 졸업자의 취업률 하락 폭인 3.5%p보다 세 배 이상 컸다. 국내 SW 분야 신규 채용에서도 경력직 비중이 신입을 앞질렀다. 중장기 전망은 최근 채용 흐름과 다른 것으로 집계됐다. 각국 기관의 10년 전망에서 SW산업 인력은 한국 13.2%, 미국 14.8%, 영국 7.1% 증가할 것으로 예상됐다. 모두 각국 전체 산업 증가율 전망치를 웃돌았으나 SW산업 전체를 대상으로 한 수치인 만큼 신입 채용 회복을 뜻하지는 않는 것으로 파악됐다. 최근 초급 인력의 고용 위축은 세 나라에서 공통으로 나타났다. 2022년부터 2025년까지 국내 SW산업의 15~29세 종사자 비중은 7.4%p 줄어 전체 산업의 하락 폭인 2.2%p를 웃돌았다. 다만 코로나19 이전인 2018년부터 2025년까지로 기간을 넓히면 세 나라 모두 SW산업의 초급 인력 일자리 수 증가율이 전체 산업보다 높았다. 연구진은 최근 고용 위축의 배경으로 인공지능(AI) 확산과 코로나19 이후 채용 조정을 함께 꼽았다. 생성형 AI로 초급 개발자가 맡던 정형화된 업무 일부를 적은 인력으로 처리할 수 있게 된 데다 코로나19 시기에 신입 채용을 늘렸던 기업들이 이후 조직과 비용을 줄이는 방향으로 돌아섰다는 분석이다. 연구진은 인재 양성 초점을 코드 작성에서 AI를 활용해 문제를 해결하고 그 결과를 검증하는 역량으로 넓혀야 한다고 제안했다. 기업이 실제 프로젝트와 숙련자 지도를 제공하고 대학은 이론 교육을 현장 과제와 연결하는 한다는 설명이다. 정부에는 기업의 교육·훈련 투자를 유도하고 교육과정 개발을 지원하는 역할을 주문했다. SPRi는 "SW 초급자의 실무경험 축적 기회가 줄어들면 장기적으로 숙련 SW인재와 AI 핵심인재 공급망이 약화할 수 있다"며 "이론교육과 기업의 현장 실무경험을 연결하는 것이 중요하다"고 밝혔다.

2026.11.06 15:43김미정 기자

인스페이스, 인니 산림·농업·해양에 위성·드론·AI 적용 나서

AI 데이터 인텔리전스 전문기업 인스페이스(대표 최명진)가 인도네시아 IPB대학교, 아시아산림연구소(AFI)와 인도네시아 산림·농업·연안해양 분야 위성·드론·AI 기술 적용에 나섰다. 이들 세 기관은 인스페이스의 AI 기반 데이터 분석 기술과 IPB대학교의 현지 연구 역량을 결합해 공동연구 및 기술 실증 기반을 마련하기로 합의했다. 공식 업무 협약(MOA)은 오는 12월 초로 잡았다. IPB대학교는 인도네시아 보고르에 위치한 대학이다. 농업·산림·환경·해양 분야에서 전문적인 연구 역량을 보유했다. 인스페이스는 위성데이터와 AI 분석 기술을 활용해 현지 연구진과 다양한 공간정보 활용모델을 발굴할 계획이다. 산림 분야에서는 변화탐지와 식생 모니터링, 농업 분야에서는 작물 생육 및 재배 현황 분석, 연안해양 분야에서는 맹그로브를 비롯한 연안 생태계 변화 관측 등으로 기술 적용 범위를 확대할 예정이다. 위성영상과 드론·현장 조사 데이터를 연계해 분석 결과의 정확도와 현지 적용성을 검증하는 방안도 모색한다. 이를 통해 인도네시아 지리적·환경적 특성을 반영한 분석모델을 마련하고, 향후 현지 공공기관과 산업 현장에서 활용할 수 있는 데이터 기반 서비스로 발전시켜 나갈 계획이다. 최명진 대표는 "동남아시아 위성데이터 활용시장 진출을 강화할 방침"이라며 "산림탄소 모니터링과 농업 분석, 환경변화 관측 등 지속적인 관측 수요가 발생하는 분야에서 신규 사업 기회를 발굴하고, 정기적인 위성데이터 공급과 AI 분석 서비스를 결합한 사업모델을 확대해 나갈 것"이라고 말했다.

2026.11.06 11:40박희범 기자

[AI인재강국] 연구가 깊어지는 곳에 인재가 모인다

국가AI연구거점(NAIRL)은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받고 서울시와 서초구청이 뒷받침하는 AI 연구 컨소시엄으로, 카이스트·고려대·포스텍·연세대와 국내 기업들이 함께한다. 지디넷코리아는 격주마다 한국 AI 연구 생태계가 나아갈 방향을 국가 AI 연구거점의 생생한 이야기로 조망해 본다. [편집자주] 지난 10월6일 서초 AICT에서 국가 AI 연구거점의 오픈랩 행사인 'NAIRL 이노베이션 쇼케이스 2026'이 열렸다. 지난 7월 개최된 글로벌 AI 프론티어 심포지엄과 함께 거점이 해마다 여는 두 행사 가운데 하나로, 그간 쌓아 온 연구를 전면 개방해 공유하고 관심 있는 기업과 연구자를 만나 기술이전을 심도 있게 논의하는 자리다. 올해는 카이스트·고려대·연세대·포스텍에 걸친 거점 연구실들이 AI 기술 45건을 들고 나왔고, 전시는 연구실이 가진 해결책과 기업이 가진 문제를 맞추는 방식으로 네 구역으로 나뉘었다. 행사장 곳곳에서는 연구진이 직접 데모를 시연했다. '논문을 내지 못하면 도태된다(Publish or Perish)'는 논문 중심의 잣대가 아니라, 실제로 작동하는 결과물로 연구를 증명하라는 '보여 주지 못하면 살아남지 못한다(Demo or Die)'는 정신을 살린 것이다. 개회사를 마치고 전시장을 돌며 필자가 본 것은 단순한 기술이 아니라 3년차에 접어든 거점의 궤적이었다. 국가 AI 연구거점은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원으로 지난 2024년 출범했다. 정부가 AI 3대 강국을 목표로 세우면서 캐나다의 벡터 연구소(Vector Institute)와 밀라(Mila), 프랑스의 인리아(Inria)와 PRAIRIE, 일본 이화학연구소의 혁신지능통합연구센터(RIKEN AIP)처럼 국가 차원의 연구 구심점이 필요하다고 판단했고, 거점은 그 판단에 대한 답으로 설계됐다. 국내 4개 대학에서 우수한 연구성과를 올리고 있는 45개의 개별 교수 연구실이 하나의 과제 체계 아래 들어왔고 석박사 연구인력 200여 명이 함께한다. 개별 대학 체제에서는 만나기 어려운 연구실들이 같은 과제 안에서 결합하는 것, 이것이 거점의 출발점이자 가장 큰 자산이다. 거점의 연구는 세 개의 연구주제로 짜여 있다. 모델을 키울수록 성능이 좋아진다는 스케일링 법칙의 비용 한계를 경량화와 새로운 학습 알고리즘, 데이터 효율화로 넘어서는 연구, 시각과 언어와 감각 데이터를 통합해 로봇이 물리 환경에서 스스로 판단하고 행동하게 하는 로봇 파운데이션 모델 연구, 그리고 영상과 분자 구조, 시계열까지 실제 물리와 생물학의 법칙을 지키며 생성하는 고차원 생성 모델 연구다. 세 주제 모두 미래지향적인 원천기술을 개발하는 기초연구다. 절대 규모의 컴퓨팅과 자본으로 겨루기 어려운 한국이 원천기술에서 자리를 만들려면 이 층위를 붙잡아야 한다는 것이 거점 교수들이 뜻을 모아 내린 판단이었다. 출범 이후 거점 교수진은 이 세 주제의 성과를 세계 최상위 학술대회에 꾸준히 발표해 왔다. 10월 전시장에 놓인 45건의 기술과 데모는 바로 그 논문들을 바탕으로 만든 것이다. 3년차의 거점이 확인한 것은 세 가지다. 첫째, 기초연구는 국경을 넘을 때 깊어진다. 데이터와 컴퓨팅은 규제에 묶여 국경을 넘기 어렵지만, 연구자와 지식은 넘을 수 있고 지식은 나눠도 줄지 않는다. 거점에는 출범 때부터 해외 석학급 교수 19명이 국내 연구진과 짝을 이뤄 참여해 왔다. 기관 간 협력은 지난해 7월 일본 RIKEN AIP, 12월 캐나다 이바도(IVADO)와의 협약으로 시작해 올해 7월 서울에서 한 번에 가시화됐다. ICML 직전 연 글로벌 AI 프론티어 심포지엄에 국내외 연구자와 산업계 1000여 명이 모였고, 이어 벡터 연구소와 협약을 맺었으며, 이달에는 프랑스 PRAIRIE와도 손을 잡았다. AI 주권에 수조 원을 투입하는 세 나라의 대표 연구기관들이 한국의 파트너로 거점을 택한 것이다. 둘째, 인재는 환경이 있어야 모이고 남는다. 컴퓨팅과 데이터는 투자하면 늘릴 수 있지만, 사람은 도전할 만한 환경이 없으면 머물지 않는다. 거점이 만들려 한 것은 국내 연구진이 해외 석학들과 머리를 맞대고 우리가 풀어야 할 난제를 치열하게 공략하는 환경이다. 석박사 대학원생 200여 명은 그 한가운데서 세계적 연구자들과 같은 문제를 붙잡고, 해외 연구기관과 글로벌 기업으로 파견되며, 전시장에서는 기업의 질문을 직접 받아 적는다. 이 과정에서 이들은 한국 AI를 이끌 차세대 핵심 연구자로 성장한다. 셋째, 기초연구는 현장을 만날 때 새로운 질문을 얻는다. 다만 대학의 연구와 기업의 당면 문제는 시간의 단위가 다르다. 기업은 분기와 제품 주기로 움직이고 기초연구는 수년에 걸쳐 쌓인다. 대학 연구를 산업의 일정에 억지로 맞추면 연구도 산업도 얻는 것이 없다. 그래서 거점은 둘을 붙이는 대신 만나는 자리를 만들었다. 협력 기업 12곳과의 파트너십 위에 지난해 6월 첫 오픈랩을 열었고, 올해는 참가 기업에 45개 기술을 미리 정리해 건네고 사전 예약과 현장 매칭으로 산학 간 일대일 상담을 주선했다. 그 테이블에서 나온 것은 연구실 안에서는 보이지 않던 질문들이었다. 고온다습한 비닐하우스는 농업 로봇에게 가혹한 환경이라 로봇의 센서가 고장 나도 AI는 강건하게 버텨야 한다는 이야기, 그럴듯한 서울의 모사가 아니라 실제 서울이어야 한다는 이야기, 치매 진료용 AI는 병원 폐쇄망 안에서 돌아가야 한다는 이야기. 센서 고장에도 흔들리지 않는 AI, 현실을 그대로 재현하는 생성, 폐쇄망 안에서도 돌아가는 가벼운 모델은 모두 거점의 세 연구주제가 아직 풀지 못한 기초연구의 질문이기도 하다. 현장의 다양한 이야기에서 새로운 기초연구를 발굴하는 것이 거점의 몫이다. 앞으로 할 일은 세 연구주제를 다음 단계로 끌어올리는 것이다. 적은 자원으로 더 믿을 수 있는 모델을, 실제 환경에서 검증되는 로봇을, 현실의 법칙을 지키는 생성 모델을 만드는 각 주제의 다음 질문이 정해져 있고, 감사하게도 정부가 지난해 대규모로 확보하고 지원한 그래픽처리장치(GPU) 인프라는 그 질문을 더 큰 규모로 실험할 수 있게 해 줄 것이다. 해외 파트너와의 협약은 방문연구와 연구자 교류 같은 실제 왕래로 구체화하고, 오픈랩에서 접수한 기업 수요는 공동연구와 기술이전으로 이어간다. 법칙 하나를 넘고 로봇 하나를 현장에 세우는 데는 수많은 실패와 몇 년의 시간이 들고, 그 시간을 지탱하는 것은 거점이 다음 단계로 이어질 수 있도록 하는 일관된 뒷받침이다. 정부가 거점에 기대한 것이 세계가 함께 일하고 싶어 하는 한국의 AI 연구 구심점이라면, 거점은 그 기대에 연구와 사람으로 답하려 한다. 넉 달 동안 이 지면에 글을 보내 준 국내외 필진께 감사를 전하며, 10월 서울 서초에서 받아 적은 질문들이 새로운 연구가 되어 돌아오기를 기대한다.

2026.11.02 16:33김기응 컬럼니스트

MS연구소 "사람과 협력하는 AI 개발…뇌과학·사회과학서 답 찾아"

"인공지능(AI)이 사람과 함께 일하려면 그 사람이 무엇을 원하는지 알아야 합니다. 우리는 뇌파에서 그 단서를 찾고, 사회 문화와 가치관까지 이해해 AI가 사람을 더 잘 돕도록 노력하고 있습니다." 둥성 리 마이크로소프트 아시아연구소(MSRA) 수석 연구 매니저와 샤오위안 이 MSAR 연구원은 최근 서울 광화문 한국마이크로소프트 사옥에서 만나 이같이 밝혔다. 앞서 MSRA는 지난 20일 'MSRA 코리아 데이 2026'를 개최하고 연구 성과를 발표했다. 이날 뇌-컴퓨터 인터페이스(BCI)를 비롯한 시각 AI, 에이전틱 미디어, 에이전트 최적화 분야 연구와 데모를 공유했다. MSRA는 마이크로소프트의 아시아 지역 연구 거점이다. AI를 비롯한 컴퓨팅 분야 기초·응용 연구를 수행한다. 언어·이미지를 이해하는 AI부터 사람과 협력하는 에이전트, 뇌과학·사회과학을 접목한 AI까지 연구한다. 현재 한국을 비롯한 아시아 대학·연구기관과 공동 연구와 인재 교류를 진행하고 있다. 리 수석 연구 매니저는 MSRA 상하이에서 AI와 뇌과학을 결합하는 연구를 이끌고 있다. 뇌 신호로 컴퓨터와 소통하는 뇌·컴퓨터 인터페이스(BCI)부터 뇌 정보 처리 방식을 활용해 AI 성능을 높이는 기술, 알츠하이머병·파킨슨병 등 신경퇴행성 질환 진단과 치료를 지원하는 AI까지 연구한다. 최근에는 AI 전문지식이 없는 의사도 업무에 필요한 AI 연구를 수행할 수 있도록 돕는 에이전트를 개발하고 있다. 샤오위안 이 연구원은 MSRA 소사이어털 AI 팀에서 근무하고 있다. 이 팀은 사회과학과 AI를 결합해 연구를 진행 중이다. 개인의 성격과 감정, 선호를 이해하는 AI 동반자부터 사회의 법률과 윤리, 문화에 맞게 행동하는 AI, 유해 정보와 개인정보 유출을 막는 안전 기술까지 다룬다. 뇌 신호로 사용자 의도 파악…해석 오류에도 적응하는 AI 리 수석 연구 매니저는 AI 역할이 특정 작업을 수행하는 도구에서 사람과 함께 일하는 협력자로 바뀌고 있다고 봤다. AI가 처리할 수 있는 업무가 늘어난 만큼 사람의 지시를 따르는 데서 나아가 사용자의 상태와 목표까지 이해해야 한다는 설명이다. 그는 "누군가와 협력하려면 상대가 무엇을 생각하고 기대하는지, 어떤 어려움을 겪고 있는지, 목표가 무엇인지를 이해해야 한다"며 "AI도 이런 정보를 이해할 수 있어야 한다"고 말했다. 리 매니저는 이를 위한 접근으로 뇌·컴퓨터 인터페이스(BCI)를 소개했다. BCI는 뇌에서 발생하는 신호를 읽어 컴퓨터에 전달하는 기술이다. 말이나 키보드 입력 외에 뇌 신호로도 컴퓨터와 소통할 수 있도록 한다. MSRA는 머리에 부착한 센서 등으로 측정하는 뇌파(EEG)를 여기에 활용하고 있다. 사람이 무언가를 보거나 움직임을 상상할 때 나타나는 뇌의 전기적 활동을 분석해 상태와 의도를 파악하는 방식이다. 대표 성과는 뇌파 분석에 거대언어모델(LLM)을 결합한 EEG 파운데이션 모델 개발이다. 사용자가 뇌파 데이터와 함께 "이 구간에서 발작이 발생했나"라고 질문하면 모델이 신호를 분석해 답한다. 복잡한 뇌파 데이터를 사람이 직접 살펴보는 대신 언어로 질문해 분석 결과를 확인할 수 있도록 한 것이다. 기존에는 발작 탐지나 수면 단계 분류 등 분석 목적에 따라 별도 모델을 개발하는 경우가 많았다. MSRA는 다양한 뇌파 데이터를 함께 학습시켜 하나의 모델로 여러 분석 작업을 수행하는 환경을 만들었다. 리 매니저는 이 모델을 여러 사람·장치에 적용하는 것을 주요 연구 과제로 봤다. 사람마다 뇌파 특성이 다르고 측정 장치에 따라 신호에 차이가 생겨, 한 사람의 데이터로 학습한 모델이 다른 사람에게는 정확하게 작동하지 않을 수 있기 때문이다. 리 수석 연구 매니저는 뇌파 분석이 곧 모든 사람 생각을 읽는다는 의미는 아니라고 강조했다. 그는 "발작 탐지나 수면 단계 분류는 정확도가 높은 편이지만, 사람이 머릿속에 떠올린 알파벳을 맞히는 작업은 아직 무작위로 추측하는 수준을 조금 웃도는 정도"라고 말했다. MSRA는 이런 한계를 고려해 한국과학기술원(KAIST) 손잡고 사람과 AI의 협력 방식을 연구하고 있다. 뇌파로 사람 의도를 추정하는 BCI에, 사람과 함께 작업하는 방법을 배우는 강화학습 모델을 결합하는 방식이다. 리 매니저는 "BCI가 사람 의도와 상태를 파악하는 역할을 맡는다면, 강화학습 모델은 이 정보를 활용해 사람과 협력하는 방법을 학습한다"고 설명했다. 이어 "이 방식은 뇌 신호 해석 정확도를 높이는 것이 목적"이라며 "AI가 사람 의도를 일부 잘못 파악하더라도 공동 작업을 수행을 통해 기능을 올릴 수 있다"고 말했다. 그러면서 "현재 BCI 기술은 아직 완벽하지 않아 사람 의도를 100% 정확하게 이해하지는 못한다"며 "BCI와 사람에게 적응하는 강화학습 모델을 결합해 사람과 AI가 함께 과제를 수행하도록 하고 있다"고 덧붙였다. 뇌파 데이터 확대가 관건…해외 대학과 수집 협력 리 수석 연구 매니저는 BCI 기술을 게임 등 일상에서 활용하려면 뇌파 데이터 규모를 확대해야 한다고 강조했다. 더 많은 데이터를 확보해 학습하는 것이 기술 발전의 중요한 조건이라는 설명이다. 그는 "현재 가장 큰 공개 EEG 데이터셋도 약 1만 시간 규모"라며 "데이터를 100~100 배 늘릴 수 있다면 더 많은 과제를 해결할 수 있을 것"이라고 말했다. MSRA는 직접 수집한 데이터와 대학·병원 등이 공개한 데이터를 모델 학습에 활용하고 있다. 최근 미국 템플대 병원이 연구 목적으로 공개한 1만 시간 이상의 뇌파 데이터를 연구에 사용했다. 이 연구소는 해외 대학과 공동으로 데이터를 확보하는 작업도 진행했다. 지난해 상하이교통대와 사람이 영상을 볼 때 나타나는 뇌파를 수집했다. 해당 신호로 시청 중인 영상을 재구성하는 연구를 수행했다. 리 매니저는 "사람이 무언가를 볼 때 뇌에 나타나는 신호로 그 사람이 보고 있는 것을 재구성할 수 있는지가 연구 질문이었다"며 "데이터를 수집하고 모델을 평가하는 작업을 거쳤다"고 설명했다. MSRA와 도쿄대는 사람이 보는 장면과 뇌파를 동시 기록하는 데이터를 수집했다. 카메라가 달린 안경으로 시야에 들어오는 장면을 촬영하면서 뇌파를 측정하고, 두 정보를 연결해 뇌 신호로 영상 내용을 이해하는 연구다. 리 매니저는 한국에서도 적합한 협력 연구자가 있다면 함께하고 싶다는 뜻을 밝혔다. 그는 "뇌파는 개인과 관련된 데이터인 만큼 국제 협력 과정에서 중요 요소"라며 "국가별 데이터 국외 이전 제한 등을 고려해야 한다"고 당부했다. "AI, 사람 사회 문화 맥락 이해 중요" 리 수석 연구 매니저가 뇌 신호로 개인의 의도를 파악하는 데 주목했다면, 샤오위안 이 연구원은 그 사람이 속한 사회 문화를 이해하는 것도 중요하다고 봤다. AI가 사용자 의도를 파악하더라도 문화적 맥락에 맞지 않게 반응하면 원활한 협력이 어렵다는 설명이다. 이 연구원은 현재 주요 AI 모델이 학습 데이터 등의 영향으로 서구 문화에 치우쳤다고 지적했다. 사용 언어뿐 아니라 답변에 담긴 가치 판단과 사회규범에도 이런 편향이 나타날 수 있다고 설명했다. 그는 "서구 이용자에게는 자연스러운 답변이나 상호작용이 다른 문화권에서는 공격적이거나 불쾌하게 받아들여질 수 있다"며 "AI가 현지 사회 일부에 도움 되도록 만드는 게 목표"라고 말했다. MSRA는 이런 문화적 차이를 AI에 반영하기 위해 한국과 일본, 싱가포르, 중국 등 동아시아 지역 문화와 가치에 관한 대규모 데이터를 구축했다. 각 지역 참여자에게서 선호 정보를 수집하고, 현지 사람들이 데이터에 설명을 덧붙이는 주석 작업에도 참여하도록 했다. 이 연구원에 따르면 한국은 해당 데이터 구축에 가장 크게 기여한 국가다. 여러 국가에서 모집한 주석 작업자 가운데 한국 참여자가 가장 많았으며, 대부분 한국 대학 학생이었다. 이 연구원은 "AI 에이전트가 많더라도 모두 같은 모델이라면 서로 다른 의견과 관점을 제시하기 어렵다"며 "국제 협력은 다양한 관점과 문화, 사고방식, 지식을 제공할 수 있다는 점에서 중요하다"고 강조했다.

2026.10.26 08:53김미정 기자

위험성 알려줘도 공격 지속…영국 AI보안연구소가 밝힌 AI 안전 허점

영국 정부가 인공지능(AI)을 시험하던 중 실제 소프트웨어 개발자를 겨냥한 사이버 공격 시도가 발생했다. 이후 실험에서는 공격이 위험하다는 판단과 실제 행동이 일치하지 않는 문제도 확인됐다. 23일(현지시간) 영국 AI보안연구소(AISI)가 발표한 보고서에 따르면 앤트로픽 AI 모델 '미토스 5'는 공격 대상이 실제 사람이라는 정보를 반복해서 전달받고도 거의 모든 실험에서 공격을 이어갔다. 사건은 지난 7월 AISI가 AI 사이버보안 능력을 평가하던 중 발생했다. 연구진은 AI에 가상 컴퓨터망에 침입해 보호된 정보를 찾아내는 과제를 줬다. 정해진 시험 환경에서만 활동해야 했지만 미토스 5는 인터넷에서 실제 개발자가 관리하는 프로그램을 공격 대상으로 삼았다. 미토스 5는 처음에는 허용된 방법으로 과제를 해결하려 했다. 여러 시도가 실패하자 외부 개발자가 관리하는 소프트웨어에 악성코드를 넣는 방법을 시도했다. 해당 프로그램을 통해 시험용 컴퓨터에 침입하려는 목적이었다. AI는 악성코드가 포함된 수정안을 개발자에게 제출했다. 가짜 계정까지 만들어 수정안이 안전한 것처럼 꾸미고 승인을 요구했다. 하지만 개발자는 수정안을 받아들이지 않았으며 실제 피해도 발생하지 않았다. AISI는 지난 8월 사건을 공개한 뒤 AI가 왜 허용된 범위를 벗어났는지 추가 조사했다. 연구진은 공격 직전 상황을 재현하고 상대가 시험과 무관한 실제 사람이라는 정보를 반복해서 제공했다. 공격이 위험한지 묻는 실험과 작업을 계속하도록 하는 실험도 각각 진행했다. 미토스 5는 공격이 허용 범위를 벗어나며 실제 피해를 줄 수 있다고 답했다. 그러나 작업을 계속하도록 하자 거의 모든 실험에서 공격을 진행했다. 공격 대상이 실제 사람이라는 정보를 추가해도 행동은 달라지지 않았다. AI가 자신의 행동을 설명하는 과정에서도 문제가 나타났다. 미토스 5는 실제 개발자를 시험용 가상 인물이라고 잘못 판단하는 경우가 많았다. 공격이 일으킬 피해를 고려하지 않거나 기존 행동을 정당화하는 방향으로 정보를 해석했다. AISI는 AI가 이미 선택한 행동을 계속하기 위해 자신에게 유리한 방향으로 판단했을 가능성을 제기했다. 다만 이런 판단 방식이 실제 공격을 유발했는지는 확인하지 못했다고 밝혔다. 다른 AI 모델에서도 비슷한 행동이 나타났다. 연구진이 가상 사이버보안 평가 상황 100개를 만들어 여러 모델을 시험한 결과 허가받지 않은 공격 시도가 확인됐다. 미토스 5에서 가장 자주 발생했다. 앤트로픽도 별도 분석을 통해 당시 미토스 5가 평가 43회 중 9회에서 허용 범위를 벗어났다고 밝혔다. 회사는 시험 당시 일반 공개 모델에 적용하는 일부 보안 장치가 꺼져 있었다고 설명했다. 이후 개발한 모델에서는 유사한 공격을 시작하는 비율이 낮아졌다고 덧붙였다. AISI는 이번 연구가 사이버보안 시험에서 나온 만큼 일반 업무에서도 같은 문제가 발생한다고 단정할 수 없다고 밝혔다. 다만 AI가 위험성을 설명한다고 해서 실제 행동까지 안전하다고 판단해서는 안 된다고 지적했다. 연구진은 AI가 허용된 범위를 벗어나지 못하도록 작업 환경을 분리하고 행동을 감시할 필요가 있다고 강조했다. AISI는 "AI 모델이 예상대로 행동하는지와 관계없이 평가 환경에서는 모델이 실제 피해를 일으키지 못하도록 막아야 한다"고 밝혔다.

2026.10.25 07:59김동원 기자

[AI인재강국] 토론토에서 서울까지, 지식과 인재의 다리를 놓는 일

국가AI연구거점(NAIRL)은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받고 서울시와 서초구청이 뒷받침하는 AI 연구 컨소시엄으로, 카이스트·고려대·포스텍·연세대와 국내 기업들이 함께한다. 지디넷코리아는 격주마다 한국 AI 연구 생태계가 나아갈 방향을 국가 AI 연구거점의 생생한 이야기로 조망해 본다. [편집자주] 지난 7월 5일 서울에서 나는 하나의 연구 협력이 시작되는 장면을 지켜봤다. 국가AI연구거점(NAIRL)이 주최한 'RIKEN-Vector-NAIRL 공동 워크숍'에서 일본 이화학연구소 혁신지능통합연구센터(RIKEN AIP), 한국의 국가AI연구거점, 캐나다 벡터 연구소(Vector Institute)의 연구자가 기관별 세 명씩 아홉 명 나와 머신러닝의 수학적 기초부터 산업 현장의 문제까지 걸친 연구를 발표했다. 점심시간에는 발표에서 시작된 대화가 식탁으로 이어졌고, 오후 포스터 세션이 끝날 무렵에는 참석자들이 서로 연락처를 교환하고 있었다. 같은 날 김기응 국가AI연구거점 센터장과 파스칼 푸파르 벡터 연구소 리서치 디렉터가 두 기관의 업무협약에 서명했다. 벡터 연구소에서 내가 맡은 일은 연구자들이 함께 일할 수 있도록 기관 간 관계를 만들고 관리하는 것이다. 그래서 이런 날 나는 연구 내용이 아닌 다른 것을 본다. 그 자리에서 어떤 관계가 만들어지고 있는지다. 나는 자본시장과 국제개발 분야에서 파트너십을 만드는 일을 하다가 AI 분야로 왔고, 그 경험은 오래갈 협력을 알아보는 눈을 길러주었다. 서울에서 나는 그것을 알아봤다. 내가 본 것을 지식 외교(knowledge diplomacy)라고 부르고 싶다. 컴퓨팅 자원과 자본, 데이터는 갈수록 국가 전략과 규제에 묶이고 있다. 반면 지식은 연구자와 학생, 아이디어를 타고 더 자유롭게 움직인다. 기관이 그 이동을 위한 믿을 만한 통로를 만들면, 어떤 개별 프로젝트보다 오래가는 국가 간 다리가 놓인다. 지금 이것이 중요한 이유가 있다. AI는 어느 한 나라가 대응할 수 있는 속도보다 빠르게 경제와 사회를 바꾸고 있고, 이 변화는 따로보다 함께 이해하는 편이 낫다. 캐나다가 이런 다리에 관심을 가져온 데에는 내력이 있다. 2017년 캐나다 정부는 세계 최초의 국가 AI 전략인 범캐나다 AI 전략(Pan-Canadian AI Strategy)을 발표했다. 같은 해 연방정부와 온타리오주, 민간 부문의 지원을 받아 벡터 연구소가 독립 비영리 연구기관으로 출범했고, 몬트리올의 Mila, 에드먼턴의 Amii와 함께 캐나다의 세 국가 AI 연구기관 중 하나가 됐다. 설립 목적은 명확했다. 세계적 수준의 인재가 캐나다에서 성장할 수 있는 조건을 만들고, 해외에서 더 많은 인재를 불러들이는 것이었다. 오늘날 벡터 연구소의 네트워크에는 1500명에 가까운 연구자와 교수진이 속해 있고, 연구소는 서로 연결된 두 가지 임무를 수행한다. 연구를 발전시키고 다음 세대를 길러내는 일, 그리고 캐나다의 조직들이 연구 성과를 실제 업무에 적용하도록 돕는 일이다. 이 가운데 어느 것도 한 번의 돌파구에서 나오지 않았다. 연구와 인재, 산업을 연결하도록 설계된 기관, 그리고 장기적이고 안정적인 공공 지원이 만들어낸 결과다. 그 지원은 지금도 이어지고 있다. 올해 6월 캐나다 정부는 여섯 개의 기둥으로 구성된 새 국가 AI 전략 'AI for All'을 발표했다. 그중 여섯 번째인 '신뢰할 수 있는 파트너십과 글로벌 연대 구축'은 인도태평양을 포함한 신뢰할 수 있는 국제 파트너들과 협력을 심화해 공동의 표준을 개발하고 혁신에 함께 투자할 것을 제시한다. 벡터 연구소에 이는 국제 파트너십이 캐나다가 지향하는 국가적 방향에 부합하며, 우리 인재 전략의 자연스러운 연장선에 있다는 점을 확인해 준다. 인재를 국내에 붙드는 것과 해외와의 교류를 환영하는 것은 상충하는 목표가 아니다. 벡터 연구소의 경험으로 보면 둘은 같은 정책의 두 측면이다. 우수한 연구자는 우수한 동료와 함께 일할 수 있는 곳에 남으며, 그 동료는 국내에만 있지 않다. 파트너십이 실제 연구자 교류로 이어지는 경우에 나는 세 가지가 갖춰져 있는 것을 봐왔다. 서울에는 세 가지가 모두 있었다. 첫째, 각 기관에 그 관계를 책임지는 담당자가 정해져 있고, 그 담당자들이 서로를 안다. 협력은 양쪽 담당자가 직접 연락할 수 있을 때 움직인다. 그렇지 않으면 다음 행사까지 멈춰 있기 마련이다. 워크숍은 연구자들이 자신과 관심사가 겹치는 상대 기관 연구자가 누구인지 알고 돌아가도록 구성돼 있었고, 나 역시 앞으로 함께 일할 상대를 알고 토론토로 돌아왔다. 둘째, 파트너십은 실제 활동으로 시작되고 문서는 그 뒤를 따른다. 국가AI연구거점과 벡터 연구소의 협약은 단독행사로 열리지 않았다. 세 기관 연구자들이 발표하고 토론하는 워크숍 안에서 서명됐고, 두 기관 모두와 이미 협약을 맺고 있던 RIKEN AIP가 그 자리에 있었다. 서명 당일에 이미 세 개의 양자 협약이 하나의 3자 교류로 작동하고 있었던 것이다. 이런 출발은 흔하지 않고, 세 기관을 한자리에 모으는 데 국가AI연구거점이 앞장섰기에 가능했다. 셋째, 연구자가 실제로 이동할 수 있는 통로가 있다. AI 분야에서는 젊은 연구자가 해외 연구실에서 보낸 몇 년이 이후 경력의 방향을 결정하는 경우가 많다. 방문연구원 제도, 학생·박사후연구원 교환, 공동 지도가 그 이동을 가능하게 하는 장치다. 협약은 틀을 제공하고, 두 기관 사이를 오가는 연구자가 내용을 채운다. 이 가운데 어떤 형태가 토론토와 서울에 맞을지는 두 기관이 함께 찾아갈 부분이다. 여건은 좋은 편이다. 양국 지도자들은 AI를 협력을 심화할 분야로 지목했고, 두 기관의 협약은 그와 같은 방향에서 각국의 AI 연구를 이끄는 사람들을 연결한다. 두 나라는 놓인 위치도 비슷하고, 그것은 강점이다. AI 분야의 미들파워(Middle Power)로서 캐나다와 한국은 각각 탄탄한 연구 역량과 넓어지는 국제 파트너 네트워크를 가지고 있다. 이런 위치에 있는 나라들은 함께 일할 때 가장 많이 얻으며, 'AI for All'도 그렇게 말한다. 서로에게 줄 것도 있다. 한국은 핵심 AI 모델 연구에서 뛰어난 역량과 강한 산업 기반을 가지고 있다. 캐나다는 인재를 유지하고 연구 성과가 실제 현장에서 활용되도록 연결하는 데서 10년 가까이 쌓은 제도적 경험을 가지고 있다. 어느 쪽 목록도 완전하지 않고, 나머지는 함께 일하면서 발견하게 될 것이다. 연구기관 간 협력은 행사 한 번으로 완성되지 않는다. 몇 년이 걸린다. 캐나다의 경험으로 말하면, 그 시간을 지탱한 것은 연구기관이 한 단계의 성과를 다음 단계로 이어갈 수 있도록 뒷받침한 공공 부문의 결정이었다. 벡터 연구소와 국가AI연구거점은 연구 커뮤니티 간 교류를 넓히고 머신러닝과 프런티어 AI 연구 협력을 강화할 계획이다. 이제 할 일은 그 의지를 실제 연구자 교류로 바꾸고, 어느 한쪽만으로는 다루기 어려운 공동 연구 문제를 찾아내는 것이다. 동료들과 나는 지금도 서울에서 보낸 한 주를 이야기한다. 우리가 기억하는 것은 서명식만이 아니다. 물론 그 자리도 중요했다. 하지만 더 오래 남은 것은 그 뒤에 있던 더 큰 배경, 그리고 세 나라 연구자들이 서로를 알아가기 시작한 7월 5일의 워크숍이다. 다리는 사람이 건널 때 비로소 의미가 있다. 태평양 양쪽에서 우리가 할 일은 그들이 계속 건너도록 하는 것이다. 후세인 샴지(Hussein Shamji)는 캐나다 토론토 벡터 연구소(Vector Institute)의 전략적 파트너십 디렉터로, 연구기관·산업계·공공 부문과의 기관 간 협력을 총괄한다. 전략적 파트너십과 투자자 관계, 자본시장 분야에서 15년 이상의 국제 경력을 쌓았으며, 헌터 디킨슨(Hunter Dickinson Inc.) 전략적 파트너십 부사장과 아가 칸 개발 네트워크(Aga Khan Development Network) 재원 개발 담당을 거쳐 2024년 벡터 연구소에 합류했다. 런던정경대(LSE)에서 국제관계학을, 칼턴대에서 항공우주공학을 수학했다.

2026.10.16 14:16후세인 샴지 컬럼니스트

AI 안전 평가 선도하는 영국…한국도 국제무대 나설 수 있을까

마이크로소프트(MS)가 국제 인공지능(AI) 안전 기준 마련을 이끌 국가로 영국을 지목하면서 한국의 AI 안전 평가 역량을 강화해야 한다는 목소리도 나오고 있다. 12일(현지시간) BBC에 따르면 브래드 스미스 MS 부회장은 '빅 보스 인터뷰' 팟캐스트에서 영국이 국제 AI 안전 기준을 주도하기에 적합한 국가라고 평가했다. 영국이 첨단 AI 모델의 위험성을 직접 시험할 전문기관을 갖춘 데다 미국 정부와의 협력 관계도 유리하게 작용할 수 있다고 봤다. 영국 AI 보안연구소는 글로벌 AI 기업으로부터 최신 모델을 출시 전에 제공받아 위험성을 검증하고 있다. 사이버 공격에 악용될 수 있는지, 생화학적 위험 정보를 제공하는지, 안전장치를 우회할 수 있는지 등을 직접 시험한다. 같은 날 로이터통신에 따르면 카니슈카 나라얀 영국 AI 담당 장관은 미국 정부와 구글 등 주요 AI 개발사와의 협력을 통해 최신 모델을 평가하고 있다고 밝혔다. 영국 연구진은 구글의 '제미나이 4 아르곤' 등을 대상으로 위험성과 안전조치를 시험하고 있다. MS도 영국 AI 보안연구소와 협력하고 있다. 지난 5월 미국 AI표준혁신센터(CAISI)와 영국 AI 보안연구소(AISI) 각각과 협약을 맺고 자사 프런티어 AI 모델의 위험한 능력과 안전장치를 평가하는 연구를 추진하기로 했다. 스미스 부회장은 영국의 기술력뿐 아니라 미국과의 관계에도 주목했다. 미국 정부가 유럽연합(EU)이 주도하는 규제보다 영국이 마련하는 안전 기준에 상대적으로 우호적일 수 있다고 예상했다. 한국도 국제 평가 참여…제3자 역할 모색 한국도 국제 AI 안전 평가 협력망에 참여하고 있다. 국내 AI안전연구소는 미국과 영국, 일본, 싱가포르 등 각국 연구기관과 첨단 AI의 위험성을 공동으로 평가하는 방법과 기준을 논의 중이다. 국제 협력 과정에서 한국이 검토하는 역할 중 하나는 제3자 평가다. 미국과 중국이 프런티어 AI 개발을 주도하는 가운데 양국이 서로의 핵심 AI 모델을 직접 검증하기 어려울 경우 제3국의 독립적인 평가가 대안이 될 수 있다는 분석이다. 김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 한국이 나서겠다는 생각을 갖고 있다"며 "지난 8월 영국 측에도 각국 AI안전연구소가 공동으로 참여하는 국제 평가 체계에 적극 협력하겠다는 뜻을 전달했다"고 말했다. 다만 제3자 평가국은 아직 구상 단계다. 실제로 역할을 맡으려면 최첨단 AI 모델의 능력과 위험성을 직접 시험할 기술력은 물론 평가 결과에 대한 국제적 신뢰도 확보해야 한다. 김 소장은 이를 위해 프런티어 AI 개발 역량과 안전 평가 기술을 함께 갖춰야 한다고 강조했다. 현재 정부는 현재 독자 AI 파운데이션 모델 개발 사업과 프런티어 AI 사업을 추진하고 있다. 영국은 평가 역량 축적…한국은 인력·조직 한계 한국이 국제 AI 안전 평가에서 역할을 확대하기까지는 풀어야 할 과제도 있다. 전문인력과 컴퓨팅 자원, 연구소의 조직적 기반에서 영국과 격차가 크다. 지난달 이정헌 더불어민주당 의원이 과학기술정보통신부와 AI안전연구소에서 제출받은 자료에 따르면 국내 연구소의 기술 평가 인력은 6명에 불과하다. 활용 가능한 그래픽처리장치(GPU) 서버도 5대에 그친다. 반면 영국 AI 보안연구소는 기술 인력만 100명을 넘고 국가 차원의 컴퓨팅 자원을 활용한다. 올해 예산도 약 1216억원으로 한국(89억원)의 14배에 달한다. 조직 운영에서도 차이가 있다. 영국은 정부 소속 전문기관을 중심으로 글로벌 AI 기업과 협력하고 있지만 국내 AI안전연구소는 한국전자통신연구원(ETRI) 직할 조직으로 운영되고 있다. 독립적인 인사권과 예산 확보에 한계가 있다는 지적도 나온다. 이정헌 의원은 "AI안전연구소에 법적 독립성을 부여하고 자체적인 인사·예산 권한을 보장하도록 AI 기본법을 개정해야 한다"고 밝혔다. 영국은 전문인력과 컴퓨팅 자원을 확보하고 글로벌 AI 개발사와 협력하며 최첨단 모델에 대한 평가 경험을 축적해 왔다. 한국도 국제 평가에 참여하는 데서 나아가 실제 검증을 수행할 연구 역량과 조직적 기반을 갖추는 문제가 남아 있다. 김 소장은 "한국이 국제 AI 거버넌스 논의에 참여하려면 프런티어 AI 기술력과 평가 역량을 빠르게 확보해야 한다"며 "한국은 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 말했다.

2026.10.13 11:09김동원 기자

"우유도 검사받는데 AI는?"…MS 부회장, 법적 안전 규제 촉구

마이크로소프트(MS) 부회장이 인공지능(AI)은 우유나 세탁기보다 안전 규제가 부족하다며 사고 발생 시 기업에 피해자 통보 의무를 부과하는 등 법적 안전장치를 마련해야 한다고 촉구했다. 12일(현지시간) BBC에 따르면 브래드 스미스 MS 부회장 겸 사장은 '빅 보스 인터뷰' 팟캐스트에서 AI를 도구이자 무기로 규정하고 법적 구속력을 갖춘 안전 규칙이 필요하다고 밝혔다. 일상에서 사용하는 제품에는 엄격한 안전 기준이 적용되지만 AI는 그에 걸맞은 규제를 받지 않고 있다는 지적이다. 스미스 부회장은 "현재 세탁기는 AI보다 더 많은 안전 규제를 받는다"며 "식료품점에서 판매하는 우유 한 팩도 안전 규정과 검사를 적용받는다"고 말했다. 구체적인 안전장치로는 AI가 사람의 통제를 벗어났을 때 작동을 중단하거나 속도를 늦추는 '킬 스위치'를 제안했다. AI 에이전트가 예상하지 못한 행동을 하더라도 사람이 개입해 추가 피해를 막을 수 있도록 하기 위해서다. 사고가 발생했을 때 기업의 책임을 명확히 하는 방안도 제시했다. AI 에이전트가 허가 없이 다른 시스템에 접근하는 등 문제가 발생하면 기업이 사고 사실을 공식 보고하고 피해자에게 알리도록 법으로 의무화해야 한다는 주장이다. AI를 출시하기 전 안전성을 검증하는 절차도 필요하다고 봤다. 개발사의 자체 점검에만 의존하지 않고 정부의 독립적인 평가기관이 새로운 AI 기술의 위험성을 확인하도록 요구했다. 이러한 주장은 기업의 자율규제를 우선시하는 도널드 트럼프 미국 행정부의 정책 기조와 차이가 있다. 트럼프 행정부는 중국과의 AI 경쟁에서 미국 기업이 뒤처지지 않도록 규제 부담을 줄이는 데 무게를 두고 있다. 지난달 말 백악관에서는 오픈AI와 앤트로픽, 엔비디아, 메타, 구글 등 주요 기술기업 경영진이 AI 안전에 관한 자율적 약속에 참여했다. 기업들은 독립적인 감사기관과 협력해 AI 시스템이 의도대로 작동하는지 점검하고 허가받지 않은 시스템 접근을 방지하기로 했다. 스미스 부회장은 기업들의 자발적인 합의를 긍정적으로 평가하면서도 한계를 지적했다. 안전에 책임감을 가진 기업은 약속을 지키겠지만 그렇지 않은 기업까지 자율적인 기준에 따르리라고 기대하기는 어렵다는 이유에서다. 국제 AI 안전 기준 마련을 주도할 국가로는 영국을 지목했다. 영국이 첨단 AI 모델의 위험성을 직접 시험하고 검증할 수 있는 기술과 전문기관을 갖췄다는 점에 주목했다. 영국은 2023년 AI 안전연구소를 설립한 뒤 고성능 AI 모델의 위험성을 평가해 왔다. 이후 AI 보안연구소로 명칭을 바꾸고 사이버보안과 국가안보에 영향을 미칠 수 있는 위협까지 평가 범위를 넓혔다. 스미스 부회은 영국의 평가 역량이 국제 안전 기준 마련에 도움이 될 것으로 봤다. 미국 정부도 유럽연합(EU)보다 영국이 주도하는 기준에 상대적으로 우호적인 태도를 보일 수 있다고 예상했다. 그는 "AI가 인간의 통제를 벗어나고 사이버보안까지 위협할 수 있는 만큼 이제 행동에 나서야 한다"며 "차분하면서도 단호하게 사람들을 한데 모으기 시작해야 한다"고 말했다.

2026.10.13 09:09김동원 기자

AI 활용부터 한일경제연대까지…최태원, EBS '위대한 수업' 강연

최태원 SK그룹 회장이 인공지능(AI)을 활용한 사회문제 해결과 한일경제연대를 화두로 청년들과 새로운 경제·사회의 방향을 모색한다. EBS는 오는 12일부터 16일까지 '위대한 수업, 그레이트 마인즈'에서 최 회장의 'AI와 새로운 자본주의 그리고 청년'을 방송한다. 총 5강으로 구성된 이번 강연은 시즌 6의 첫 강연으로, 매일 밤 11시 45분 EBS 1TV에서 방영된다. 강연을 관통하는 주제는 경제성장만으로 해결되지 않는 사회문제에 기업과 경제가 어떻게 대응할 것인가다. 최 회장은 약 30년간 반도체·에너지·통신 사업의 변화를 겪은 경험을 바탕으로 AI 시대에 필요한 경제 질서와 기업의 역할을 짚는다. 12일 첫 강연에서는 사회문제 해결을 경제활동으로 연결하는 방안을 다룬다. 최 회장이 제안하는 '새로운 가치의 자본주의'는 사회문제를 해결한 성과를 측정하고 그에 맞는 보상을 제공하는 방식이다. 지난 10년간 진행한 실험을 토대로 이 구상이 작동할 수 있는 원리와 가능성을 설명한다. 13일에는 AI를 일상과 산업 전반에서 활용하는 사회로 나아가기 위한 과제를 살펴본다. 개발 속도와 규모, 안전을 확보하는 한편 한국의 데이터와 여건에 맞는 서비스를 만드는 일이 중요하다는 내용이다. 사용자의 업무를 수행하는 AI 에이전트부터 도시 운영에 AI를 접목하는 방안까지, 사회적 비용을 줄이고 난제를 해결하기 위한 활용·실험 방향을 제시한다. 14일 강연의 주제는 '한일경제연대'다. 최 회장은 세계 경제 질서의 변화와 미·중 갈등 속에서 양국이 경제 공동체로 협력을 넓힐 가능성을 논의한다. 서로의 강점을 결합해 시장을 키우고 성장 기회를 찾자는 구상으로, 에너지·AI·헬스케어·관광·일자리 등 공동 과제를 다룬다. 15일과 16일에는 청년들의 질문에 답한다. AI가 사람보다 많은 정보를 빠르게 처리하는 환경에서 리더에게 필요한 역량을 설명하고, 대한상공회의소 회장으로서 겪은 현장 경험을 바탕으로 중소기업의 AI 전환과 활용 격차를 줄이는 방안을 이야기한다. 노동과 배움의 변화도 주요 화두다. 최 회장은 AI가 노동을 대신할 때 노동의 가치 자체보다 일하는 방식과 선택이 달라질 것이라는 견해를 밝힌다. 청년들이 무엇을 배워야 하는지, 대학 재학 중 어떤 경험을 해야 하는지에 대한 생각과 함께 다시 20대로 돌아간다면 무엇에 도전할지도 답한다.

2026.10.08 09:43류은주 기자

신라왕경 디지털 재현사업단, AI페스타서 AI 복원 '디지털 서라벌' 공개

신라왕경 디지털 재현사업단이 6일 서울 코엑스에서 개막한 'AI 페스타 2026' 정부특별관에서 고대 신라 수도 서라벌을 복원한 다양한 디지털 헤리티지 성과를 선보였다. 역사적 고증 데이터에 생성형 AI와 3D 디지털 기술을 접목해 천년 고도의 문화유산을 가상공간에서 생생하게 체감할 수 있도록 확장한다는 구상이다. 신라왕경 디지털 재현사업은 국가유산청 주도로 주관사인 문화유산기술연구소와 경북연구원, 덱스터스튜디오, 위프코 등이 참여하는 AI 디지털 혁신 프로젝트다. 올해 황룡사지, 대릉원, 불국사, 석굴암 등 4대 핵심 유적을 중심으로 건축물 150건, 유물·소품 200건 등 총 350건의 고증 기반 3D 원천 에셋을 구축하고 도시 전체의 공간 연결성을 입체적으로 복원하고 있다. 현장 부스에서 만난 경북연구원 관계자는 "일반적인 생성형 AI에 이미지나 영상 생성을 명령하면 데이터 한계로 인해 조선시대 풍경 위주로 도출된다"며 "국가유산청의 지원을 바탕으로 정밀한 원천 데이터를 직접 구축하고 이를 AI에 투입함으로써 실제 신라의 모습을 온전히 구현해 낼 수 있었다"고 설명했다. 부스 현장에서는 기획부터 인물, 비주얼, 영상 제작 전 과정을 100% 생성형 AI 기술로 완성한 AI 재현 영화가 상영돼 관람객들의 발길을 끌었다. 경북연구원 관계자는 "이번 작품은 유수의 영화제에 출품해 지속해서 수상 성과를 거두고 있다"며 "서라벌 전시관 상영과 APEC 행사 공개에 이어 이번 전시회를 통해 대중에게 고증 기반 AI 콘텐츠의 가치를 알리고 있다"고 밝혔다. 사업단은 오는 12월까지 사업을 완료하고, 구축된 원천 데이터를 국가유산청 클라우드와 글로벌 에셋 플랫폼(FAB 등)에 개방해 대국민 서비스와 콘텐츠 산업계 활용을 지원할 방침이다. 아울러 800년대 신라왕경을 배경으로 한 공간체험형 워킹 VR '용의 시야' 등 실감형 콘텐츠 확장도 함께 이어갈 계획이다. 한편, AI 페스타 2026은 'AI, 현실이 되다. 모두의 AI'를 주제로 과학기술정보통신부, 한국인공지능·소프트웨어산업협회(KOSA), AI페스타 조직위원회가 주최하는 국내 최대 규모 AI 행사다. 서울 삼성동 코엑스 C홀에서 오는 8일까지 진행된다.

2026.10.06 16:12정진성 기자

정부, AI 안전 종합계획 마련…12월 수립 목표

정부가 인공지능(AI) 위험에 대응하기 위해 민간과 힘을 모은다. 산업계와 전문가 현장 의견을 반영해 AI 안전·신뢰 기반을 강화한다는 방침이다. 과학기술정보통신부는 '(가칭)국가 AI 안전 생태계 조성 마스터플랜' 마련을 위한 민·관 실무협의체를 내달부터 운영한다고 30일 밝혔다. 과기정통부는 협의체에서 제시한 의견을 검토하고 관계부처 협의를 거쳐 올해 12월까지 계획을 수립할 예정이다. 협의체는 국가 AI 안전 관리체계 구축과 첨단 AI 안전 대응역량 강화, 국민 일상의 AI 안전 환경 조성 등 3대 전략안과 핵심과제를 점검한다. 글로벌 AI 안전 정책과 산업·기술 동향을 반영해 새로 추진하거나 보완할 과제도 발굴한다. 이번 협의체 구성은 최첨단 AI의 위험이 현실화하는 등 기술·산업 환경이 빠르게 변하면서 현장 의견을 정책에 반영할 필요성이 커진 데 따른 것이다. 과기정통부는 'AI 3대 강국' 실현을 위해 기술 혁신과 함께 안전·신뢰 기반을 강화하는 정책적·체계적 노력이 필요하다고 봤다. 협의체에는 과기정통부와 국가AI전략위원회를 비롯해 AI 안전 관련 유관기관, 국내외 AI 기업·협회, 기술·법·제도 전문가 등 25명 내외가 참여한다. 유관기관으로는 AI안전연구소와 한국지능정보사회진흥원, 정보통신정책연구원, 한국정보통신기술협회가 이름을 올렸다. 산업계에서는 국내 주요 AI 기업과 글로벌 AI 기업, 중소기업·스타트업이 AI 개발·활용 현장 경험과 의견을 공유한다. 한국인공지능·소프트웨어산업협회와 코리아스타트업포럼도 참여하며 유관기관과 전문가들은 기술·정책·법제 등 다양한 관점에서 의견을 제시할 예정이다. 이진수 과기정통부 AI정책기획관은 "그동안 AI 혁신과 안전의 균형을 위한 기반을 조성해 왔으나 첨단 AI 위험에 대한 국가적 대응역량 강화가 필요한 시점"이라며 "현장 수용성과 글로벌 AI 안전 정책·기술 동향을 반영해 실효성 있는 국가 AI 안전 생태계 조성 방안을 마련하겠다"고 밝혔다.

2026.09.30 12:00김미정 기자

서울대, 'AI반도체혁신연구소' 개소…시스템 인재 110명 양성

서울대학교가 생성형 인공지능(AI)과 피지컬 AI 시대에 맞춰 AI 반도체와 시스템 분야 실전형 연구 인재 양성에 착수한다. 서울대는 29일 오전 관악캠퍼스 반도체공동연구소 설계연구관 도연홀에서 'AI반도체혁신연구소' 개소식을 열고 본격 운영을 시작했다고 밝혔다. 최근 AI 기술이 데이터센터를 넘어 로봇, 모빌리티, 온디바이스 기기 등으로 빠르게 확산하면서 단순 칩 설계를 넘어 하드웨어와 소프트웨어를 아우르는 시스템 최적화 역량이 핵심으로 떠올랐다. 소자·회로·아키텍처·컴파일러·시스템 소프트웨어·AI 알고리즘이 유기적으로 맞물려야 최상의 전력 효율과 성능을 낼 수 있기 때문이다. AI반도체혁신연구소는 과학기술정보통신부와 정보통신기획평가원(IITP)이 추진하는 '산학연계 AI반도체 선도기술 인재양성 사업' 수행기관으로 선정됐다. 서울대는 2026년부터 2031년까지 5년간 총 110억원 정부 지원을 받는다. 매년 20명 이상, 총 110명 이상 석·박사급 인재를 양성할 계획이다. 연구소는 류수정 소장을 중심으로 총 5개 연구센터를 가동한다. 주요 협력기업은 LG전자, 퓨리오사AI, 아날로그AI, 제노스큐브 코리아, 스퀴즈비츠 등이다. 연구소는 협력기업이 제시한 실제 산업 현장 기술 문제를 연구과제로 전환하고, 참여 학생들이 반도체 설계부터 구현, 검증까지 전 과정을 직접 수행하도록 운영한다. 산학 공동연구와 기업 파견, 기술교육, 연수 프로그램도 병행한다. 류수정 AI반도체혁신연구소장은 "대학의 연구 인프라와 기업의 실제 문제, 데이터, 플랫폼을 밀접하게 연결해 교육과 현장 경험이 선순환하는 인재양성 체계를 구축하겠다"고 말했다. 이혁재 AI반도체대학원 사업단장역시 "반도체공동연구소의 팹과 설계 인프라, AI반도체대학원 역량을 결합해 산학협력 효과를 극대화하겠다"고 밝혔다.

2026.09.29 17:04전화평 기자

AI 안전도 '그들만의 리그'…기술 가진 자가 규칙 만든다

인공지능(AI) 안전 논의가 프런티어 AI를 보유한 국가와 기업 중심으로 좁혀지고 있다. 최첨단 모델을 직접 만드는 기업들이 새로운 위험을 찾아내는 데서 나아가 평가 방식과 안전 기준 마련에도 나서면서 기술력이 AI 안전 분야의 영향력으로 이어지는 모습이다. 29일 AI 업계에 따르면 구글과 오픈AI, 앤트로픽은 프런티어 AI에 적용할 공동 안전 기준을 마련하기 위해 가칭 '프런티어 AI 표준기구(SAFA)' 설립을 추진 중이다. 이르면 올해 말이나 내년 초 출범을 목표로 논의가 진행되고 있다. SAFA에서는 프런티어 AI를 어떤 방식으로 시험하고 안전사고가 발생했을 때 어떻게 대응할지 등을 다룰 것으로 알려졌다. 지금까지 각 회사가 자체적으로 운영해온 안전 평가를 넘어 여러 기업이 함께 적용할 공통 기준도 논의한다. 프런티어 모델 성능이 높아지면서 평가 대상도 달라졌다. 단순한 답변 정확도를 넘어 사이버 공격이나 생물학적 위험을 높일 수 있는지, 사람의 개입 없이 복잡한 업무를 어디까지 수행할 수 있는지 등이 새로운 평가 영역으로 들어왔다. 오픈AI는 최근 신형 모델의 사이버 공격 능력을 평가한 뒤 위험 수준에 맞춰 내부 보안 조치를 강화했다. 앤트로픽은 최신 모델 출시 전 외부 기관에 안전 평가를 맡겼고 구글 딥마인드는 시험 내용이 개발 과정에 미리 노출되지 않도록 새로운 평가 방식을 도입했다. 새로운 능력이 나타날 때마다 평가 방식도 함께 바뀐다. 기존 시험으로 확인하기 어려운 위험이 나오면 무엇을 시험할지 다시 정하고 이를 측정할 방법도 새로 만들어야 한다. SAFA에서는 이러한 논의가 이어질 것으로 전망된다. 국가 차원에서도 프런티어 AI 평가가 이뤄지고 있다. 미국과 영국의 AI 안전기관은 자국 기업의 모델뿐 아니라 중국 기업이 개발한 최신 모델도 직접 시험하고 있다. 미국 AI표준혁신센터(CAISI)는 중국 AI 모델의 취약점 발견과 공격 코드 개발 능력을 측정해 미국의 최상위 모델과 비교하기도 했다. 프런티어 AI 기술은 모델 성능 경쟁을 넘어 안전 분야의 국제 논의와도 연결된다. 최신 모델에서 나타나는 위험을 직접 확인하고 평가할 기술을 갖춰야 다른 국가와 기업이 만드는 평가 방식과 안전 기준을 논의할 때도 기술적 근거를 제시할 수 있어서다. 배경훈 부총리 겸 과학기술정보통신부 장관은 지난달 국무회의에서 "AI 모델은 이제 국가 안보 그 자체"라며 독자 AI 역량 확보 필요성을 강조했다. 김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "한국이 국제 AI 거버넌스 논의에 참여하려면 프런티어 AI 기술력과 평가 역량을 빠르게 확보해야 한다"며 "한국은 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 말했다.

2026.09.29 11:28김동원 기자

김덕진 소장 "국방 AI 에이전트, 후방 행정부터 단계적으로 적용해야"

국방 분야에 질문에 답하는 챗봇을 넘어 실제 업무를 수행하는 'AI 에이전트'를 단계적으로 도입해야 한다는 제안이 나왔다. 김덕진 IT커뮤니케이션연구소장은 28일 서울 피스앤파크컨벤션에서 열린 '장병e음 성과공유회'에서 "AI는 이제 질문에 답하는 기계에서 실제 일을 수행하는 동료로 진화하고 있다"며 "국방에서는 후방 행정과 복지부터 적용해 안정화한 뒤 지휘·참모, 궁극적으로 전장·무기체계까지 단계적으로 넓혀갈 수 있다"고 말했다. 김 소장은 AI 에이전트 활용이 필요한 배경으로 병력 감소를 꼽았다. 현역 인력이 줄어드는 상황에서 사람이 반복적으로 처리하는 후방 행정과 복지 업무 일부를 AI에 맡기면 제한된 인력을 다른 업무에 활용할 수 있다고 진단했다. 장병e음은 AI 에이전트로 확장할 수 있는 서비스 기반을 갖추고 있다. 국방부가 처음으로 민간 클라우드를 활용해 구축한 장병 통합 플랫폼으로 여러 군 정보시스템에 흩어진 행정·복지·의료·교육 서비스를 하나로 연결했다. 10월부터는 생성형 AI도 적용된다. 장병은 군 규정과 복지 정보를 대화형으로 찾고 휴가·교육·교통 등 필요한 서비스를 안내받을 수 있다. AI 에이전트가 적용되면 역할은 더 넓어진다. 외부 시스템과 연동해 예약이나 신청을 직접 처리하고 이용자의 상황에 따라 필요한 일을 먼저 제안할 수 있다. 휴가를 앞둔 장병에게 AI가 먼저 버스 예약 시점을 알려주고 동의를 받으면 실제 예약까지 처리하는 사례가 대표적이다. 지금은 예매 사이트로 연결하는 수준이지만 AI 에이전트가 적용되면 안내에서 실행까지 이어질 수 있다. 김 소장은 적용 범위를 한꺼번에 넓히기보다 후방 행정과 복지부터 시작해야 한다고 강조했다. 비교적 반복적인 업무에서 운영 경험을 쌓은 뒤 지휘·참모로 범위를 넓히고 이후 전장과 무기체계까지 단계적으로 적용하자는 취지다. AI가 예약이나 신청 등 실제 업무를 처리하려면 관련 시스템과 데이터에 접근할 권한도 필요하다. 정보를 찾는 AI와 실제 시스템에 접속해 업무를 처리하는 AI는 필요한 데이터와 실행 권한의 범위가 다르기 때문이다. 김 소장은 "단순히 권한을 위임하는 것을 넘어 어디까지 권한을 줄 것인지, 어디에서 막을 것인지, 어떤 구조로 통제할 것인지에 대한 설계가 중요해지고 있다"고 지적했다. 그는 군의 엄격한 보안 체계를 AI 에이전트 통제에 활용할 수 있다고 봤다. 접근 가능한 데이터와 시스템을 미리 정하고 AI가 허용된 범위 안에서만 업무를 수행하도록 하는 방식이다. 김 소장은 "사용 경험은 개인적으로 이뤄지더라도 시스템은 국방의 설계에 따라 움직여야 한다"며 "어떤 AI 모델이 들어오더라도 데이터와 통제 구조를 내부에서 제대로 갖추는 것이 중요하다"고 말했다.

2026.09.28 17:13김동원 기자

AI 위험 검증 강화하는 주요국…韓 안전 평가 인력 6명뿐

국내 인공지능(AI) 안전 평가를 담당하는 AI안전연구소의 기술 평가 인력이 6명에 불과한 것으로 나타났다. 미국과 영국, 일본이 전문인력과 연산 자원을 늘리는 가운데 국내 AI 안전 평가 역량도 강화해야 한다는 지적이 제기됐다. 28일 국회 과학기술정보방송통신위원회 소속 이정헌 더불어민주당 의원이 과학기술정보통신부와 AI안전연구소에서 제출받은 자료에 따르면 연구소 AI 안전 평가실 인력은 7명뿐이었다. 법제·규범 담당자 1명을 제외하면 실제 AI 모델을 기술적으로 평가하는 인력은 6명이다. 이들은 고성능 AI 모델이 어떤 위험한 능력을 갖췄는지 직접 시험한다. 해킹이나 사이버 공격에 악용될 수 있는지, 생물학적 위험 정보를 제공하는지, 개발사가 적용한 안전장치를 우회할 수 있는지 등을 모델을 직접 구동하며 검증한다. 미국에서는 고성능 AI 모델 위험성을 직접 검증해 결과를 공개하고 있다. 미국 국립표준기술연구소(NIST) 산하 AI표준혁신센터(CAISI)는 지난 7월 중국 AI 기업 Z.ai(옛 지푸AI)의 GLM-5.2를 평가했다. 사이버 공격 지원 능력과 생물학적 위험, 안전장치 우회 가능성 등을 시험했다. 주요국은 AI 안전 평가 인력도 늘리고 있다. 의원실 자료에 따르면 미국의 관련 인력은 34명으로 향후 80명까지 확대할 계획이다. 일본도 현재 31명에서 올해 60명으로 늘린 뒤 장기적으로 200명 규모까지 확대할 방침이다. 영국 AI안보연구소는 전체 인력이 약 200명이다. 연구소가 공개한 현황을 기준으로 기술 인력만 100명을 넘는다. 첨단 AI의 사이버 공격 능력과 화학·생물학적 위험, 자율적인 행동 등 국가안보와 공공안전에 영향을 줄 수 있는 위험을 평가하고 있다. 김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "현재 AI 평가 기술에서는 영국이 가장 앞서 있다"며 "한국도 영국을 따라잡기 위해 평가 역량을 강화하고 있다"고 말했다. 김 소장은 AI 안전 평가가 향후 국제적인 AI 규칙을 논의하는 과정에서도 중요해질 것으로 내다봤다. 그는 "AI 발전 속도가 빨라지면서 모델을 통제할지 판단하기 위한 평가가 중요해지고 있다"며 "이 과정에서 객관적인 국가 기관인 각국 AI안전연구소의 역할이 많이 거론되고 있다"고 설명했다. AI 안전과 신뢰성을 평가할 전문인력을 키우려는 움직임은 민간에서도 나타나고 있다. 씽크포비엘은 관련 전문가 양성 교육을 운영하면서 신뢰할 수 있는 인공지능 국제연대(TRAIN)와 함께 AI 개발 과정에서 신뢰성을 검증하는 해커톤 등도 진행하고 있다. 박지환 씽크포비엘 대표는 "국내에 AI 인재·반도체·보안 인력 양성 사업은 있지만 AI 신뢰성 전문인력을 키우는 커리큘럼과 실습 과제, 평가 체계를 갖춘 사업은 부재하다"며 "AI 위험을 사전에 준비하는 능력이 AI 경쟁력을 좌우할 수 있으므로 관련 인재 양성이 꼭 필요하다"고 강조했다. AI 모델을 직접 시험하려면 전문인력뿐 아니라 이를 구동할 컴퓨팅 인프라도 필요하다. 고성능 모델에 다양한 공격을 시도하고 안전장치가 제대로 작동하는지 반복적으로 검증하려면 상당한 연산 자원이 필요하기 때문이다. 의원실 자료에 따르면 국내 AI안전연구소가 활용하는 그래픽처리장치(GPU) 서버는 5대다. 이 가운데 2대는 민간 클라우드에서 임차해 사용하고 있다. 의원실은 현재 인프라로는 조 단위 매개변수를 가진 초거대 AI 모델이나 안전장치의 제약을 받지 않는 모델을 충분히 검증하는 데 한계가 있다고 지적했다. 영국은 국가 차원의 컴퓨팅 인프라를 안전 평가에 활용하고 있다. 의원실 자료에 따르면 영국 AI안보연구소는 15억파운드 규모의 국가 컴퓨팅 자원에 우선 접근할 수 있다. 예산에서도 차이가 나타났다. 의원실 자료에 따르면 한국 올해AI안전연구소 예산은 89억원이다. 영국은 약 1216억원, 미국은 약 232억원이며 일본은 추가경정예산을 통해 관련 예산을 800억원 이상으로 늘렸다. 현재 AISI는 한국전자통신연구원(ETRI) 직할 부서로 운영되고 있다. 이 의원은 이 같은 조직 구조로는 전문인력 확보와 독립적인 안전 평가에 한계가 있다며 AI 기본법을 개정해 AISI에 독립적인 예산과 인사권을 부여해야 한다고 주장했다. 이 의원은 "가시화된 위협에 대응하기 위한 AI 안보 체계 구축을 위해 AI 기본법 개정이 필요하다"며 "AI안전연구소에 법적 독립성을 부여하고 독자적인 예산과 인사권을 보장해 실질적인 대응 역량을 강화해야 한다"고 말했다.

2026.09.28 14:10김동원 기자

자인연구소 생각산책 개최…"AI 시대 인간 경쟁력은 질문하고 성찰하는 힘"

마이다스그룹 자인연구소가 AI 시대 인간의 경쟁력을 '질문하는 능력'에서 찾았다. 생성형 AI가 답을 제공하는 도구로 자리 잡으면서 인간은 스스로를 성찰하고 본질적인 질문을 던지는 역량을 키워야 한다는 메시지를 제시했다. 마이다스그룹 자인연구소는 판교 본사에서 'AI 시대, 인간을 인간답게 만드는 철학의 힘'을 주제로 올해 다섯 번째 '생각산책' 행사를 개최했다고 23일 밝혔다.. 이날 행사에는 계열사 임직원을 비롯해 강은희 대구광역시교육감, 고영하 한국엔젤투자협회 고문 등 각계 인사 100여 명이 참석했다. 행사는 김형철 연세대학교 명예교수의 강연과 최원호 자인연구소 대표, 이형우 마이다스그룹 회장이 참여한 발표 및 대담 순으로 진행됐다. 김형철 교수는 '답하는 AI, 질문하는 인간'을 주제로 한 강연에서 생성형 AI 확산으로 답을 얻는 비용이 크게 낮아진 시대일수록 인간의 경쟁력은 질문에서 나온다고 강조했다. 김 교수는 "답은 점점 쉬워지고 있지만 좋은 질문은 더욱 중요해지고 있다"며 "AI를 단순히 활용하는 수준을 넘어 올바른 질문을 던질 수 있는 사람이 새로운 시대의 경쟁력을 갖게 될 것"이라고 말했다. 그는 좋은 질문의 출발점으로 '자신이 모른다는 사실을 아는 것'을 제시했다. 또한 인간은 무엇을 모르는지 스스로 인식할 수 있지만 AI는 그런 메타인지 능력을 갖추지 못했다며, AI 시대에도 인간만이 가질 수 있는 고유한 강점은 성찰과 질문이라고 설명했다. 김 교수는 스스로에게 던져야 할 질문으로 ▲나는 무엇을 모르고 있는가 ▲그것은 정말 당연한가 ▲미래의 나는 지금의 나와 같은 사람인가 ▲나는 무엇을 위해 이것을 하는가 ▲내 자리에서는 무엇이 보이지 않는가 등을 소개했다. 이어 "AI를 활용해야 하지만 AI에 자신을 맡겨서는 안 된다"며 "기술의 중심에는 언제나 인간이 있어야 한다"고 강조했다. 2부에서는 최원호 자인연구소 대표가 '철학에 AI와 인간을 다시 묻다'를 주제로 발표했다. 최 대표는 AI 시대를 인류가 가장 많은 지식과 도구를 보유한 동시에 인간 존재에 대한 근본적 질문이 커진 시기라고 진단했다. 생각하고 언어를 사용하며 도구를 만드는 능력이 더 이상 인간만의 전유물이 아니게 되면서 인간을 규정하던 기준도 재정립이 필요하다는 것이다. 그는 변화가 빠른 시대일수록 흔들리지 않는 기준이 필요하다며 인간과 세상을 바라보는 핵심 개념으로 '관계'를 제시했다. 최 대표는 "사람과 세상은 고정된 실체가 아니라 다양한 관계와 상호작용 속에서 형성된다"며 "행복과 성공 역시 관계의 관점에서 이해할 수 있다"고 설명했다. 이어 "세상은 관계로 움직이고 인간은 인과로 살아간다"며 "그 차이를 이해하고 관계에 개입할 수 있는 능력이 지혜"라고 말했다. 행사 후 이어진 질의응답에서 이형우 마이다스그룹 회장은 관계론적 통합철학을 구상하게 된 배경과 리더의 성찰에 대한 견해를 공유했다. 한편 생각산책은 자연과학, 심리학, 인문학, 철학 등 다양한 분야 전문가들이 참여해 인간과 사회에 대한 통찰을 공유하는 마이다스그룹의 지식 나눔 프로그램이다. 2019년 시작된 시즌1에 이어 지난해부터 시즌2가 진행되고 있으며 격월로 열린다. 다음 생각산책은 오는 11월 7일 '삶을 건너간 사람들의 이야기'를 주제로 개최될 예정이다. 이지선 이화여자대학교 교수와 신미영 마이다스인 대표가 연사로 참여한다. 이 회장은 "불확실성이 커질수록 인간은 자신이 어디에 서 있는지 확인할 수 있는 기준을 필요로 한다"며 "과학적 정합성과 철학적 논리성, 실용성을 갖춘 새로운 통합적 관점이 필요하다고 판단했다"고 말했다. 또한 인간 발전의 원동력으로 메타인지를 꼽으며 "성찰은 인간을 인간답게 만드는 가장 중요한 능력"이라고 강조했다.

2026.09.23 10:48남혁우 기자

AI 위험 검증하는 나라로…韓, '제3자 평가국' 노린다

인공지능(AI) 경쟁이 모델 성능을 넘어 누가 위험을 판단할 것인지로 번지고 있다. 미국과 중국이 프런티어 AI 경쟁을 주도하면서 양국이 서로의 시스템을 직접 검증하기 어려울 경우 제3국이나 국제기구가 평가를 맡는 방안도 거론되고 있다. 김명주 AI안전연구소장은 23일 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 우리가 나서겠다는 생각을 갖고 있다"며 "다만 아직은 앞서가는 시나리오이자 희망 사항일 뿐 실제 역할을 맡으려면 프런티어 AI 기술과 평가 역량을 갖춰야 한다"고 강조했다. 국제적으로도 프런티어 AI를 공동 평가하고 위험 정보를 공유하려는 움직임이 이어지고 있다. 오픈AI는 21일(현지시간) 한국 등 각국 AI안전연구소가 참여하는 협력망을 활용해 평가 결과를 공유하고 공통 기준을 마련하는 방안을 제안했다. 미중 AI 안전 협의 시작…검증은 누가 최근 AI 개발 속도와 안전을 둘러싼 논쟁이 커지면서 미국과 중국 사이에서도 AI 안전 문제가 의제로 떠올랐다. 양국은 정상회담을 앞두고 관련 논의를 시작했다. 미국은 중대한 AI 사고가 발생할 경우 서로 알리는 통보 체계를 중국 측에 제안했지만 중국은 아직 구체적인 입장을 밝히지 않은 것으로 알려졌다. 김 소장은 "위협의 신호가 보이면 서로 핫라인을 개설해 이야기하고 협의하자는 논의까지 나오고 있다"고 말했다. 통보 체계가 만들어져도 상대국 AI 위험을 누가 확인할지는 남는다. 미국이 중국의 핵심 AI 시스템을 직접 들여다보거나 중국이 미국의 모델을 검사하기는 쉽지 않아서다. 김 소장은 장기적으로 핵확산금지조약(NPT)과 비슷한 국제 통제체제가 AI에서도 등장할 가능성을 거론했다. 실제로 미국과 중국의 안보 전문가 사이에서도 핵 군축과 유사한 안전장치와 위기 소통 채널을 AI에 적용하자는 제안이 나왔다. 한국은 국제 평가체계가 만들어질 경우 참여하겠다는 뜻도 전달했다. 김 소장은 지난 8월 국제 AI 평가 협력망을 조정하는 영국 측과 의견을 나눴고 각국 AI안전연구소가 함께 참여하는 방식이라면 한국도 적극 참여하겠다는 입장을 밝혔다. 이 분야에서 가장 앞서 있다는 평가를 받는 곳은 영국이다. 영국 AI안전연구소는 2023년 11월부터 프런티어 AI를 직접 평가해왔다. 사이버와 생물안보 등 국가안보·공공안전 분야에서 첨단 모델을 반복적으로 시험하면서 평가 방법과 데이터를 축적했다. 김 소장은 영국이 현재 프런티어 AI 평가 기술에서 가장 앞서 있다고 진단했다. 김 소장은 AI안전연구소도 지난 2년간 영국의 평가 기술을 따라잡기 위해 관련 역량을 쌓아왔다고 설명했다. 그는 "한국은 AI 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 강조했다. 국제 논의 발언권, 결국 '경험'에서 나온다 AI 안전 논의에서 한국의 발언권을 키우려면 기술력과 함께 실제 현장에서 쌓은 경험도 중요하다는 지적이 나온다. 박지환 씽크포비엘 대표는 "아직 AI가 실제 현장에서 어떤 문제를 얼마나 자주 일으키는지 충분히 축적되지 않았는데 머릿속에서 만든 기준이 처음부터 정확할 것이라고 기대하기는 어렵다"고 말했다. 그는 혈압 기준을 예로 들었다. 어느 수준부터 치료에 개입할지를 수많은 임상 경험과 데이터를 거쳐 정해온 것처럼 AI도 실제 적용과 실증을 반복하면서 기준을 다듬어야 한다는 설명이다. 박 대표는 "한국이 표준에 대한 현장 실증을 많이 하는 나라가 되는 것이 중요하다"며 "국제기준을 실제 산업과 공공현장에 적용해 무엇이 맞고 무엇이 부족한지를 지속적으로 제시해야 한다"고 강조했다. 현장 경험과 별개로 국제적으로 통용될 표준은 공적인 절차와 합의를 거쳐야 한다. 전종홍 한국전자통신연구원(ETRI) 표준연구본부 책임연구원은 "오픈AI나 앤트로픽이 '표준'이라는 용어를 많이 쓰지만 그렇게 쓴다고 그냥 표준이 되는 것은 아니다"라며 "문서를 만드는 것과 권위를 만드는 것은 다르다"고 밝혔다. 박 대표는 "이런 경험과 데이터가 축적되면 한국의 의견에 무게가 생기고 더 많은 국제 실증과 표준화 논의의 중심에 설 기회가 생긴다"며 "기준을 받아들이는 나라보다 기준이 현실에서 작동하는지를 증명하고 개선하는 나라가 AI 안전 논의의 중심에 설 것"이라고 말했다.

2026.09.23 10:43김동원 기자

오픈AI "AI 국제표준, 미국이 주도해야"

오픈AI가 미중 정상회담을 앞두고 미국이 차세대 인공지능(AI)의 국제표준 수립을 주도해야 한다고 촉구했다. 21일(현지시간) 오픈AI는 자사 블로그에 'AI의 다음 단계를 위한 표준 구축'이라는 글을 올리고 미국이 세계 각국과 협력해 최첨단 AI의 글로벌 기술표준 마련을 이끌어야 한다고 밝혔다. 오픈AI는 국가마다 AI 평가와 사고 보고 기준이 다르면 위험이 발생했을 때 공동 대응이 어려워질 수 있다고 지적했다. 최첨단 AI 개발 역량과 전문성도 일부 국가에 집중돼 있어 국가 간 공통 기준이 필요하다고 강조했다. AI 연구 자동화도 국제표준이 필요한 이유로 제시했다. AI가 다음 세대 모델 개발에 더 많이 참여하면 연구 결과가 다시 AI 개발에 활용될 수 있다. 오픈AI는 이런 '재귀적 자기개선(RSI)'이 늘어날수록 AI 발전 속도도 빨라질 수 있다고 경고했다. 아직 사람이 빠진 채 AI가 스스로 이런 과정을 반복하는 단계에 이른 것은 아니다. 다만 자동화가 지나치게 빨라지면 사람이 연구 과정을 이해하지 못해 AI 개발을 제대로 통제하기 어려워질 수 있다. 오픈AI는 국제표준에 AI 연구가 얼마나 자동화됐는지 측정하는 기준과 사람이 개입해야 할 시점, 사고가 발생했을 때 이를 분류하고 보고하는 절차를 담자고 제안했다. 표준 마련에는 한국을 비롯해 호주, 캐나다, 독일, 프랑스, 케냐, 일본, 싱가포르, 인도, 영국의 AI 안전연구소와 관련 기관을 활용하는 방안을 내놨다. 미국 인공지능 표준혁신센터(CAISI)와 각국 기관이 협력해 AI 성능 평가와 위험 관리에 필요한 공통 기술기준을 마련하자는 구상이다. 다만 이를 AI 모델 출시 전 정부 승인을 받도록 하는 규제로 만들자는 것은 아니다. 공통 기술기준을 실제 법과 제도에 적용할지는 각국 정부가 결정하도록 했다. 미국이 국제표준 마련을 이끌어야 하는 이유로는 기술력과 국제 영향력을 들었다. 미국이 최첨단 AI 개발을 주도하고 금융과 무역, 국방, 기술, 정보시스템 등에서 세계 각국과 연결돼 있어 국제 규칙을 만드는 데 유리하다는 주장이다. 오픈AI는 앞으로 AI 경쟁이 누가 더 뛰어난 모델을 개발하느냐에 그치지 않을 것으로 전망했다. 각국 기업과 사회가 어떤 기준 아래 AI를 도입하고 확산할지 정하는 규칙까지 경쟁 영역으로 넓어질 수 있다고 내다봤다. 이번 제안은 미국과 중국이 AI 안전 문제를 양국 간 의제로 다루기 시작한 가운데 나왔다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 오는 24일 워싱턴에서 정상회담을 갖고 AI와 무역 등 주요 현안을 논의할 예정이다. 앞서 스콧 베선트 미국 재무장관과 허리펑 중국 국무원 부총리는 20일 뉴욕에서 AI 안전 문제를 논의했다. 미국은 국가안보에 영향을 줄 정도의 AI 사고가 발생하면 양국이 서로 알리는 체계를 제안했고 양측은 관련 대화를 이어가기로 했다. 오픈AI는 "미국과 중국 간 대화는 긍정적인 조치가 될 것"이라며 "지금 주도권을 잡아야 미국이 글로벌 AI 체계를 형성할 수 있다"고 밝혔다.

2026.09.22 15:32김동원 기자

AI 안전성, 지정학적 맥락보다 '언어'에 더 큰 영향…한국어 질문 시 유해성 낮아

인공지능(AI) 모델의 안전성이 질문 언어와 지정학적 맥락에 따라 달라질 수 있다는 연구 결과가 나왔다. 영어보다 한국어로, 미국보다 한국 맥락으로 질문했을 때 유해성 점수가 낮았으며 언어에 따른 효과는 지정학적 맥락보다 2.5배 컸다. 오픈소스 모델에서는 이와 다른 양상도 나타났다. 21일 업계에 따르면 과학기술정보통신부 산하 한국전자통신연구원(ETRI) 조직인 인공지능안전연구소는 스케일 AI와 다국어 AI 안전성 벤치마크 'ROK-포트리스'를 공동 개발했다. ROK-포트리스는 스케일 AI의 국가안보·공공안전 분야 벤치마크인 포트리스를 기반으로 개발됐다. 이 최신 벤치마크는 기존 다국어 안전성 평가처럼 동일한 프롬프트를 번역하는 데 그치지 않고 질문의 언어와 지정학적 맥락을 각각 바꿔 모델 응답 변화를 비교한다. 영어·한국어와 미국·한국의 주체, 기관, 사건 등을 조합해 하나의 적대적 프롬프트를 최대 4가지 조건으로 변형하는 방식이다. 공동 연구진은 국가안보·공공안전 분야에서 1235개 과제를 구성해 14개 AI 모델을 평가했다. 평가 영역은 화학·생물학·방사능·핵·폭발물(CBRNE), 정치적 폭력·테러리즘, 범죄·금융 활동, 정보 유출 등 4개다. 각 유해 요청에는 무해한 대응 요청을 함께 구성해 모델의 과잉 거부 여부도 측정했다. 평가에서는 영어 프롬프트가 전반적으로 가장 높은 위험 점수를 기록했고 한국어와 한국 맥락을 함께 적용한 프롬프트의 위험 점수가 가장 낮았다. 영어에서 한국어로 언어를 바꿨을 때의 효과는 약 10%포인트로, 미국 주체·기관을 한국으로 바꿨을 때의 약 4%포인트보다 2.5배 컸다. 한국어로 바꿨을 때 유해성이 낮아지는 효과가 한국 맥락을 추가한다고 더 커지는 것은 아니었다. 14개 모델 중 4개에서는 오히려 한국 맥락을 적용했을 때 한국어 사용에 따른 유해성 억제 효과가 유의미하게 줄었다. 반대로 한국 맥락을 추가하면서 이 효과가 유의미하게 커진 모델은 없었다. 공동 연구진은 언어와 지정학적 맥락이 서로 독립적으로 작용하는 것이 아니라 모델마다 상호작용한다고 분석했다. 한국어의 상대적 안전성이 모든 모델의 고유한 안전성 정렬을 의미하는 것은 아니라는 분석도 나왔다. 공동 연구진이 역할극이나 가상의 배경, 감정적 호소 등 유해한 요청을 감추는 적대적 프레이밍을 제거하고 같은 정보를 직접 요청하도록 조건을 바꾸자 한국어의 상대적 이점이 대부분 사라졌다. 이 과정에서 모델 유형별 차이도 나타났다. 오픈AI와 앤트로픽, 구글 등 폐쇄형 모델은 적대적 프레이밍을 제거한 뒤에도 한국어에서 다소 낮은 유해성을 유지했지만 5개 오픈소스 프론티어 모델은 오히려 한국어 유해 요청에 응할 가능성이 높아졌다. 연구진은 트랜스크리에이션 과정에서 적대적 프롬프트의 포장 방식이 효과를 잃으면서 초기 결과의 일부가 발생했을 가능성을 제시했다. 한국어에서 낮은 유해성 점수가 나타난 것이 거부율이 높았기 때문만은 아니라는 결과 역시 확인됐다. 모델이 요청을 거부하지 않고 실제 답변을 제공한 사례만 따로 분석해도 14개 모델 중 12개가 한국어 질문에 더 낮은 유해성의 응답을 내놨다. 동시에 무해한 한국어 요청에 대한 거부도 늘었으며 일부 모델에서는 거부 빈도가 약 두 배까지 증가했다. 공동 연구진은 이번 결과가 영어 프롬프트를 다른 언어로 번역하는 방식만으로는 배포 환경의 AI 안전성을 충분히 평가하기 어렵다는 점을 보여준다고 설명했다. 실제 서비스에서는 언어와 함께 제도·기관·인물·사건 등 지정학적 맥락도 달라지는 만큼, 안전성 평가에서도 이를 함께 반영해야 한다는 것이다. 인공지능안전연구소와 스케일 AI는 공동 연구와 거대언어모델(LLM) 평가, AI 시스템 취약점과 잠재적인 적대적 악용방식을 식별하기 위한 레드티밍 활동 등을 이어갈 방침이다. 공동 연구진은 "ROK-포트리스의 더 큰 목표는 측정하기 가장 쉬운 환경이 아니라 있는 그대로의 현실 세계를 반영하는 안전성 평가 체계를 확립하는 것"이라며 "영어 환경에서 안전장치가 작동하는지를 확인하는 데 그치지 않고, AI가 실제로 사용될 다양한 맥락에서도 안전성이 일반화되는지를 검증해야 한다"고 말했다.

2026.09.21 11:26이나연 기자

  Prev 1 2 3 4 5 6 Next  

지금 뜨는 기사

이시각 헤드라인

LG, 주요 계열사 사장 유임...1인 부회장 체제 유지

AI 창작·글로벌 게임 한자리에…‘지스타 2026’ 부산서 개막

AI 시대 디지털 신뢰 회복하려면…"기술·제도·시민 참여 연결 필수"

"신용카드 한 장에 2000만원"…돈 주고 사는 카드 시장 열릴까

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.