• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
CES2026
스테이블코인
배터리
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 법'통합검색 결과 입니다. (93건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

앤트로픽, 클로드에 '헬스케어 전용 서비스' 출시

인공지능(AI) 스타트업 앤트로픽이 수익성 높은 헬스케어 시장 공략을 위해 환자와 의료진이 자사 AI 챗봇을 통해 의료 정보를 쉽게 활용할 수 있도록 하는 기능을 선보였다. 11일(현지시간) 블룸버그 등 외신에 따르면 앤트로픽은 자사 AI 제품 클로드에 미국 의료정보보호법(HIPAA)을 준수하는 새로운 헬스케어 전용 서비스를 출시한다고 밝혔다. 이 서비스는 병원과 의료기관, 일반 소비자가 보호 대상 건강 정보를 다루는 데 활용할 수 있다. 또한 앤트로픽은 과학 데이터베이스를 제품에 통합하고, 생물학 연구를 위한 고도화된 기능도 추가했다. 소비자 측면에서는 사용자가 애플 헬스와 펑션 헬스 등 앱에 저장된 건강 데이터를 내보낼 수 있도록 허용해 의료 기록을 모아 의료진과 더 쉽게 공유할 수 있도록 했다. 앤트로픽은 경쟁사 오픈AI가 의료진을 위한 임상 사례 분석 도구와 일반 사용자가 검사 결과·식단·운동 기록을 검토할 수 있는 기능을 공개한 지 며칠 만에 이번 기능을 발표했다. 마이크 크리거 앤트로픽 최고제품책임자(CPO)는 “AI가 가장 큰 영향을 미칠 수 있는 영역을 경제 전반에서 살펴보면 규제와 데이터 측면에서 올바른 조치가 이뤄질 경우 헬스케어는 매우 적합한 분야”라며 “(이번 도구들이) 사용자가 자신의 데이터를 더 잘 이해하고 의료진과의 대화를 통해 더 많은 지식을 얻을 수 있도록 돕는데 초점이 맞춰져 있다”고 설명했다. 2021년 설립된 앤트로픽은 엔지니어들 사이에서 인기를 끄는데 더해 생물물리학 전공 다리오 아모데이 최고경영자(CEO)의 경력을 바탕으로 의료 분야에서도 초기 성과를 내기 시작했다. 회사에 따르면 미국 최대 비영리 의료 시스템 중 하나인 배너 헬스에서는 2만2천명 이상의 임상의가 클로드를 사용하고 있으며 이 중 85%가 업무 속도와 정확성이 향상됐다고 응답했다. 이외에도 노보 노디스크, 스탠퍼드 헬스케어 등과 협업하고 있다. 다만, 앤트로픽은 오픈AI 뿐만 아니라 기존 대형 IT 기업과 신생 스타트업들의 치열한 경쟁에 직면해 있다. 이들은 AI를 활용해 신약 개발, 의료 문서 자동화, 환자 기록 분석 등에 도전하고 있다. 아울러, 민감한 개인정보를 다루고 고위험 의료 판단을 보조하는 과정에서 프라이버시와 안정성에 대한 새로운 위험도 제기되고 있다. 앤트로픽은 “의료 관련 답변은 펍메드, 미국 의료 제공자 식별자(NPI) 등록부 등 신뢰할 수 있는 출처를 인용해 제공된다”며, 이를 통해 의료진이 결과를 신뢰할 수 있도록 하겠다고 설명했다. 이어 “의료 사용자 데이터를 모델 학습에 사용하지 않겠다”고 덧붙였다.

2026.01.12 12:33박서린

AI기본법 시행 보름 앞으로…업계 '준비 부족' 토로

인공지능(AI) 포괄 규제로는 전 세계 최초인 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 오는 22일부터 본격 시행된다. AI 기본법 발효가 보름 앞으로 다가왔지만 업계는 규제 준수를 위한 준비 시간이 부족하고 세부 기준이 모호해 혼란스럽다는 입장이다. 정부는 애초 방침대로 일정 기간 과태료 부과를 유예하고 컨설팅에 집중할 것을 강조했다. AI 법·규제·정책 플랫폼 기업 코딧 부설 글로벌정책실증연구원과 황정아 더불어민주당 의원은 6일 서울 여의도 국회의원회관에서 AI 기본법 투명성·책임성 라운드테이블을 개최했다. 스타트업 "규제 준수 비용 과도…글로벌 경쟁력 후퇴 우려" 이호영 툰스퀘어 대표는 스타트업 입장에서 규제 준수에 필요한 커뮤니케이션 비용과 에너지가 과도하게 쓰인다고 토로했다. 이 대표는 "법률 검토 및 대응 문서 작성 등에 상당한 자원이 투입된다"며 "중국이나 인도 등 해외 기업들이 기술적으로 빠르게 추격하는 상황에서 유연하지 못한 규제는 국내 기업의 경쟁력을 후퇴시킬 수 있다"고 우려했다. 정지은 코리아스타트업포럼 대외정책분과위원장(코딧 대표)은 AI 기본법 시행 시기의 압박을 강조했다. 정 위원장은 "많은 스타트업이 법의 구체적인 내용을 인지하지 못하고 있어 준비를 위한 최소 6개월 이상의 유예 기간과 적극적인 홍보가 필요하다"고 말했다. 투명성 라벨링 규제의 불명확성도 문제로 꼽았다. 정 위원장은 "AI를 어느 정도 비율로 활용했을 때 표시 의무가 발생하는지 기준이 모호하다. 또 가시적인 라벨링이 사용자 경험이나 콘텐츠 미감을 해칠 수 있다"며 "50인 미만 소규모 기업에 대해서는 미국 등의 사례처럼 규제 적용 예외나 면책 조항을 두어야 한다"고 제언했다. 측정 불가능한 기준·과도한 자료 요구 우려도 쟁점 정주연 스타트업얼라이언스 선임전문위원은 고성능 AI 기준인 '누적 연산량'의 비현실성을 지적했다. 정 위원은 "시스템 단위에서 측정이 거의 불가능하므로 해외 사례처럼 시스템이 아닌 모델 단위로 기준을 적용해야 한다"고 말했다. 고영향 AI 여부 확인 시 학습 데이터 개요나 영업 비밀이 포함될 수 있는 정보까지 요구하는 것도 문제라는 지적도 나왔다. 정 위원은 "기업에 과도한 부담이 되며 서비스 개요 중심의 단계적 요청이 필요하다"고 밝혔다. 이용 사업자가 개발 사업자에게 자료를 요청할 수 있는 조항은 "영업 비밀 침해나 사업자 간 분쟁을 야기할 수 있어 자료 범위를 구체화하거나 삭제해야 한다"고 주장했다. 과기정통부·NIA "국민 보호 위한 최소 규제…유연하게 운영" 김형준 한국지능정보사회진흥원(NIA) AI법제도센터 센터장은 "AI 기본법은 기업의 위험 감소가 아닌 국민의 생명, 신체, 기본권에 대한 위험을 방지하자는 것"이라며 "고영향 분야라면 엄격한 안전장치가 필수적"이라고 반박했다. 김 센터장은 "특정 활용 비율을 정하는 것보다 맥락과 상황에 따른 투명성 확보가 중요하다"며 "법안에 형사 처벌 규정이 없는데 사법적 리스크가 과도하게 부풀려진 측면이 있다"고 설명했다. 그러면서 "AI 생태계의 기본적인 사항을 정하는 법으로써 일단 시작하고 보완해 가는 관점이 필요하다"고 덧붙였다. 최우석 과학기술정보통신부 인공지능안전신뢰지원과 과장은 업계의 불안을 인지하고 있다며 "법 시행 후에도 과태료 부과나 사실 조사를 최소 1년 이상 유예하고 컨설팅과 법안 홍보에 집중할 계획"이라고 밝혔다. 최 과장은 "기업이 해외로 이전하더라도 국내 서비스 시 법이 적용된다"며 "국내외 역차별이 없도록 유럽연합(EU) 등 주요국과의 규제 협력 및 상호 운용성을 확보하겠다"고 전했다. 이어 "업계의 애로사항과 일반 국민이 느끼는 불안 사이에서 효율적인 지점을 찾아 인간 중심의 AI 발전이 이루어질 수 있도록 가이드라인을 촘촘히 정비하겠다"고 약속했다. 황정아 의원은 마무리 발언을 통해 AI 기본법의 시행과 운용이 현장의 목소리를 무시한 '톱다운(Top-down)' 방식이 돼서는 안 된다고 피력했다. 황 의원은 "수천만 시민의 불안과 수만 명 종사자의 불안을 단순히 숫자로 대비하는 건 옳지 않다"면서 "스타트업과 산업계가 느끼는 불안감이 얼마나 절실한지를 정책 입안자와 입법자들이 더 강하게 인식해야 한다"고 했다.

2026.01.06 17:37이나연

[신간] 인공지능 대전환(AX)과 법

인공지능(AI)이 주도하는 문명사적 전환기, 'AI 대전환' 시대에 법과 정책이 나아가야 할 방향을 종합적으로 제시한 신간 '인공지능 대전환(AX)과 법'이 출간됐다. 이성엽 고려대 기술경영전문대학원 교수가 2021년부터 2025년까지 집필한 197편의 칼럼과 연구를 토대로 AI, 데이터, 플랫폼, 미디어, 통신, 보안, 디지털 권리를 하나의 흐름으로 통합해 분석한 정책 법 에세이형 전문 서적이다. AI를 단순한 기술 혁신의 문제가 아니라, 사회 질서와 국가 거버넌스를 재구성하는 핵심 변수로 바라보며, 법이 기술 발전의 걸림돌이 아니라 디딤돌이 되기 위한 조건을 탐구한 점이 특징이다. 저자는 기술의 발전 속도에 비해 법과 제도가 뒤처지는 '법의 지체' 현상을 진단하면서 규제와 혁신, 자유와 책임, 국가 안보와 산업 경쟁력이 어떻게 조화되어야 하는지를 실천적 관점에서 풀어냈다. 책은 총 8부로 구성됐다. AI 규제의 방향과 생성형 AI를 둘러싼 글로벌 쟁점, 데이터 경제와 개인정보 보호, 플랫폼 경쟁과 독점 규제를 비롯해 리걸테크, 가상자산, 메타버스 등 디지털 신산업의 법적 과제, 통신미디어 산업 재편, 디지털 환경에서의 새로운 권리 문제, 사이버 안보와 정보보호, AI 시대의 국가 거버넌스와 균형국가 모델까지 폭넓게 다뤘다. 개별 규제나 제도 해설에 그치지 않고, 디지털 사회 전체 구조를 조망한다는 점이 눈길을 끄는 부분이다. 특히 AI 규제를 제로섬의 문제로 보지 않고, 혁신을 강조하면 권리가 훼손되고 권리를 강조하면 산업이 위축된다는 이분법을 넘어 법이 서로 다른 가치들이 공존하고 공진화하도록 설계되어야 한다는 관점을 제시했다. 이를 통해 AI를 둘러싼 규제 논쟁을 기술 통제의 문제가 아닌 사회 설계의 문제로 확장한다. 책은 정책 입안자와 법률가, AI 데이터 플랫폼 산업 종사자뿐 아니라 AI 시대의 법과 사회를 준비하는 대학생과 로스쿨 수험생에게도 유용한 길잡이가 될 것으로 기대된다. 빠르게 변화하는 기술 환경 속에서 한국이 실제로 선택해야 할 법과 정책 방향을 제시하며, AI 3대 강국을 향한 국가 전략에 법이 어떤 역할을 해야 하는지를 분명히 짚는다. 저자 이성엽 교수는 “AI 대전환은 기술의 문제가 아니라 우리가 어떤 사회를 만들 것인지에 대한 법적, 철학적 선택의 문제”라며 “이 책이 인공지능 시대에 요구되는 법적 지혜를 공유하고, 법이 혁신의 걸림돌이 아닌 디딤돌이 되는 데 기여하길 바란다”고 말했다. (이성엽 지음, 박영사)

2026.01.05 14:55박수형

AI기본법 개정안 국회 통과...국가AI전략위·AI연구소 법적 근거 마련

과학기술정보통신부는 AI기본법 개정안이 30일 국회 본회의를 통과했다고 밝혔다. 개정안은 최민희, 이정헌, 장철민, 최보윤 의원이 대표 발의한 AI기본법 개정안 9건에 대해서 국회 심사 과정에서 여야 합의를 통해 하나의 법안으로 병합해 마련됐다. 내년 1월22일 시행을 앞두고 있는 상황에서 공공분야가 마중물이 되어 AI산업 혁신을 촉진하고 장애인 등 취약계층의 AI 접근성을 강화하는 내용 등이 핵심이다. 법안의 주요 내용은 ▲국가인공지능전략위원회 개편 사항의 법제화 ▲인공지능연구소 설립 운영 ▲공공분야 AI 수요 창출 ▲AI 분야 창업 활성화 지원 ▲AI 전문인력 지원 ▲공공데이터의 학습용데이터 제공 근거 마련 ▲AI기술 활용 교육 지원 ▲AI취약계층 접근성 보장 및 비용 지원 근거 마련 등이다. 먼저 AI기본법 제17조에 따라 대통령 소속으로 국가인공지능위원회의 설치 근거를 두고 있으나 지난 9월 국가인공지능위원회가 국가인공지능전략위원회로 개편됨에 따라 AI기본법이 시행되기 전 관련 규정의 정비가 필요했다. 이에 따라 국가인공지능위원회의 명칭을 국가인공지능전략위원회로 개편하고 위원회 심의 의결 기능을 강화해 위원회가 명실상부한 국가 AI정책 컨트롤타워 기능을 역할을 하도록 법률상 근거를 마련했다. 범용 인공지능(AGI) 등 AI 분야의 최첨단 기술을 확보를 위한 인공지능연구소의 설립 운영 근거를 법률에 신설했다. 인공지능연구소는 과기정통부 또는 대학과 기업 등이 설립할 수 있고, 정부와 지자체가 이를 지원할 수 있다. 공공분야의 AI 활용을 촉진하고 AI 수요를 창출하기 위하여 국가기관 등이 업무 수행에 필요한 제품·서비스를 구매하거나 용역 발주 시 AI제품과 서비스를 우선 고려하도록 하고, AI제품과 서비스를 도입한 기관에 손해 발생 시 해당 AI제품과 서비스의 구매 사용 업무 담당자는 고의 또는 중과실이 없는 경우 해당 기관에 대한 배상 책임을 면책하도록 법적 근거를 마련했다. 중앙행정기관의 장은 중소기업벤처부 장관과 협의해 벤처투자모태조합을 활용해 AI분야 창업을 지원할 수 있도록, AI창업 지원 펀드 조성 근거를 신설했다. 또한 해당 펀드에 국가·지자체 뿐만 아니라 일반 국민도 참여할 수 있는 AI창업 지원 국민 펀드도 조성할 수 있도록 했다. 개정안에서는 법 제6조에 따른 인공지능 기본계획 수립 시 공공데이터를 학습용 데이터로 제공하기 위한 기준·범위 등에 관한 사항을 포함하도록 해 공공데이터를 학습용 데이터로 적극 활용하기 위한 제도적 기반을 마련했다. 또한 인공지능 기본계획에 AI기술의 이해와 활용을 위한 교육의 지원 홍보에 관한 사항도 포함하도록 하여 대국민 AI기술 활용 교육을 적극 지원할 수 있는 근거도 포함됐다. 과기정통부 장관은 전문인력에 대한 ▲교육훈련 프로그램을 개발·활용하는 사업을 추진할 수 있도록 하고 ▲전문인력의 취업 지원, 공직 진출 기회 확대, 국제교류 활성화, 처우 증진 등 근로환경 개선을 위한 사업도 추진할 수 있는 근거를 확보했다. AI 취약계층에 대한 접근성을 보장하고 저소득층 비용지원을 위한 근거도 마련했다. AI제품과 서비스의 이용에 어려움을 겪는 AI취약계층의 의견을 국가AI 정책 개발과 수립 과정에 반영하도록 하고, 국가와 지자체가 경제적 여건으로 AI제품과 서비스를 이용하기 어려운 국민에 대하여 비용을 지원할 수 있도록 했다. 개정안은 국무회의, 대통령 재가를 거쳐 AI기본법이 시행되는 새해 1월22일에 맞춰 함께 시행될 예정이다. 단, AI기본법 시행령 개정이 필요한 ▲AI분야 창업 활성화 지원 ▲공공분야 AI 수요 창출 ▲AI 취약계층 비용지원 관련 사항은 개정안 공포 후 6개월 뒤에 시행될 예정이다. 배경훈 부총리은 “이번 AI기본법 개정안 국회 통과는 국내 AI 산업 발전을 위해 정부와 국회가 함께 협력한 의미있는 성과”라며 “AI기본법이 국내 AI산업발전을 돕는 든든한 파트너가 되도록 지원하겠다”고 말했다.

2025.12.30 20:22박수형

공정위, 구독서비스 '다크패턴' 문제 주목...제도 정비 본격화

정부가 구독 서비스 총액 표시와 손쉬운 해지 절차 마련, 소비자에게 불리한 계약 변경 시 사전 동의 의무화 등을 위한 제도 정비에 본격 나선다. 시장 감시와 가이드라인 제정을 통해 구독경제 전반의 소비자 보호를 강화한다는 방침이다. 공정거래위원회는 한국소비자원과 공동으로 '구독경제와 소비자 이슈' 정책보고서를 29일 발간했다. 보고서는 코로나19 이후 비대면 거래 확산과 디지털 기술 발전으로 구독서비스 이용이 급증하면서 소비자와 사업자 간 정보 비대칭이 커지고, 다크패턴과 같은 문제 행위가 늘고 있다는 점에 주목했다. 실태조사 결과, 소비자들이 가장 많이 겪는 문제는 ▲표시된 요금과 실제 결제 금액의 차이 ▲중요 계약 내용 변경에 대한 미흡한 고지 ▲복잡한 해지 절차였다. 특히 해지 과정에서 버튼을 숨기거나 PC에서만 해지가 가능하도록 하는 등 해지를 어렵게 만드는 구조에 대한 불만이 가장 컸다. 공정위는 기본요금 외 추가 비용이 존재하거나 부가가치세를 제외해 가격을 표시하는 관행이 소비자의 오인을 유발한다고 지적했다. 또한 계정 공유 범위 제한 등 계약 조건이 변경되는 경우에도 소비자 고지가 충분하지 않다고 봤다. 해지 단계에서는 본인 인증, 설문조사 등 여러 절차를 거쳐야 하는 구조가 대표적인 문제로 꼽혔다. 이 같은 행위는 올해 2월 시행된 개정 전자상거래법에 따라 다크패턴 규제 대상에 포함된다. 다만 조사 시점이 법 시행 초기였던 만큼 소비자들이 규제 효과를 체감하는 데는 한계가 있었다고 공정위는 설명했다. 공정위는 향후 다크패턴에 대한 시장 감시를 강화하는 한편, 총액 표시와 손쉬운 해지 절차 등에 대해 사업자가 이해하기 쉬운 가이드라인을 마련하고 교육·홍보를 병행할 방침이다. 특히 소비자에게 불리한 계약 변경의 경우 사전 동의를 받도록 제도 정비가 필요하다고 밝혔다. 또 보고서는 구독서비스가 방문판매법상 계속거래이면서 동시에 전자상거래법 적용 대상인 만큼, 해지·정보 제공·금지 행위 등에서 두 법 간 관계를 명확히 할 필요가 있다고 지적했다. 공정위는 무제한 이용이라는 구독서비스 특성을 반영하면서도 소비자 보호와 사업자 우려를 함께 고려한 균형 있는 규율체계를 검토하겠다는 입장이다. 공정위는 “이번 보고서는 급성장하는 구독서비스 시장에서 소비자 보호를 위해 정부와 사업자가 주목해야 할 영역을 구체적으로 제시한 첫 연구”라며 “후속 제도 개선을 통해 구독서비스 시장에서 소비자 보호를 강화해 나가겠다”고 밝혔다.

2025.12.29 14:31류승현

과기정통부, AI기본법 시행령 입법예고…"규제는 최소화, 지원은 확실하게"

과학기술정보통신부(이하 과기정통부)가 인공지능(AI)기본법 시행을 앞두고 필요 최소 규제 원칙을 재확인했다. 더불어 최소 1년 계도 기간과 'AI 안전, 신뢰 지원 데스크'로 기업 지원을 강화하겠다고 밝혔다. 과기정통부는 24일 'AI기본법 시행 대비 설명회'를 열고 입법예고 과정에서 제기된 주요 쟁점에 대해 정부 입장을 정리했다. 설명회에는 과기정통부 이진수 인공지능정책기획관, 심지섭 사무관, 김국현 과장, 최우석 과장 등이 참석했다. 법무법인 화우 여현동 변호사, 법무법인 광장 정창우 변호사, 법무법인 율촌 김선희 변호사도 해석 쟁점을 보탰다. 이번 설명회의 핵심은 시행 초기 혼선을 줄이기 위한 운영 방침이다. 과기정통부는 법 시행 이후 최소 1년 이상 계도 기간을 운영하고, 원칙적으로 현장 점검과 사실 조사를 최소화하겠다고 했다. 다만 인명 피해나 중대한 인권 침해 등 사회적 파장이 큰 사안은 예외적으로 조사할 수 있다고 설명했다. 주요 쟁점은 ▲AI사업자 정의와 책임 구분 ▲투명성(표시, 고지) 의무 ▲고영향 AI 범위와 확인 절차 등이었다. AI사업자 책임 구분은 모델 개발사, 플랫폼, 솔루션 업체, 최종 서비스 사업자가 얽힌 구조에서 개발사업자와 이용사업자의 경계가 불명확하다는 문제로 제기됐다. 책임이 겹치면 준법 비용이 급증할 수 있다는 우려도 나왔다. 플랫폼 기반 창작, 유통 서비스가 늘면서 책임 범위가 어디까지 확장될지 민감하다는 지적이다. 현장에서는 "네이버 웹툰 작가가 AI 채색 도구를 사용해 웹툰을 그렸다면 작가가 독자에게 이를 알려야 하느냐"는 질문도 제기됐다. 이에 대해 심지섭 사무관은 "표시 의무는 AI 서비스를 제공하는 AI 사업자(네이버 등 플랫폼)에게 있다"며 "작가는 서비스를 이용하는 '이용자'이므로 현행법상 직접적인 표시 의무가 없다"고 말했다. 이진수 인공지능정책기획관도 "현장에서 이용사업자와 이용자를 혼동하는 사례가 반복되고 있다"며 "당장은 가이드라인을 보강하고 현장 사례를 축적해 혼선을 줄이는 데 초점을 두겠다"고 설명했다. 투명성 의무는 AI가 만든 결과물임을 표시, 고지하는 내용이다. 산업계는 서비스 경쟁력과 이용자 경험을 고려해 표시 방식의 유연성을 요구한 반면, 시민사회는 이용자 알 권리 강화를 강조했다. 정부는 세부 기준을 가이드라인으로 정교화하되 기술 변화에 맞춰 지속 보완하겠다는 입장이다. 웹툰 플랫폼이나 SNS 등에서 사용자가 AI 도구를 이용해 콘텐츠를 만들 때, 플랫폼 사업자와 이용자 중 누구에게 표시 의무가 있는지도 쟁점이었다. 김국현 과장은 "현행법상 이용자는 수범자가 아니므로 의무가 없지만, 플랫폼 사업자(이용사업자)가 투명성 확보 의무를 부담하게 된다"고 설명했다. 과기정통부는 기술 발전에 따라 '비가시적 표시(워터마크 등)'를 일반화하거나, 제도 실효성을 높이기 위한 개선 방안도 함께 논의할 계획이다. 고영향 AI를 판단하는 기준을 둘러싼 논쟁도 이어졌다. 사람의 생명이나 신체, 기본권에 중대한 영향을 미칠 수 있는 고영향 AI 판단에서 현행 기준인 '누적 연산량'이 실제 성능이나 위험성을 충분히 반영하지 못한다는 지적이 나왔다. 산업계는 알고리즘 효율화로 적은 연산량으로도 고성능을 내는 모델이 등장한 현실을 반영해야 한다는 주장이다. 김국현 과장은 "현재 공개된 고시안에는 누적 연산량 외에도 '최첨단 기술 적용 여부'와 '기본권 침해 우려' 등 세 가지 요건을 모두 충족해야 고영향 AI로 본다는 내용이 담겨 있다"고 말했다. 이어 향후 국제 기준(글로벌 스탠다드)이 정립되면 이를 적극 반영해 판단 기준을 개선하겠다고 덧붙였다. 기업이 정부에 해당 여부를 질의하면 30일 내 답변하도록 한 규정에 대해 산업계는 기간 단축을 요구했다. 과기정통부는 답변 기한을 '30일'로 설정하되, 연장이 필요한 경우 1회에 한해 사유와 기간을 서면으로 통지하도록 시행령에 반영했다고 밝혔다. 과기정통부는 법 시행에 따른 현장 부담을 완화하기 위한 지원책도 제시했다. 최소 1년 이상의 규제 유예(계도 기간)를 운영하며, 해당 기간 인명 사고나 인권 침해 등 중대한 사회적 문제가 발생하지 않는 한 사실 조사나 처벌을 유예한다는 방침이다. 이진수 인공지능정책기획관은 "EU도 내년 8월 시행 예정이던 고위험 AI 규제를 2027년 말까지 유예하는 방안을 검토 중"이라며 "우리도 해외 동향과 기술 발전 속도에 맞춰 유연하게 대응하겠다"고 밝혔다. 또한 스타트업이나 중소기업이 서비스의 규제 대상 여부를 문의하면 전문가 상담과 법적 의무 이행 컨설팅을 제공하는 'AI 안전, 신뢰 지원 데스크(가칭)'를 운영할 계획이다. 최우석 과장은 "기업들이 법에 저촉되는지 몰라 불안해하지 않도록 적극적으로 지원하고, 예비 심사를 통해 인증 비용 부담도 덜어줄 계획"이라고 말했다. 과기정통부는 제도 시행 이후에도 문제점을 지속 보완하기 위해 '제도개선 연구반'을 가동하고, 산업계, 시민단체, 학계가 참여하는 논의 결과를 향후 법 개정에 반영한다는 계획도 밝혔다. 이진수 인공지능정책기획관은 "AI기본법은 규제와 진흥을 함께 담은 기본 규범"이라며 "기업이 예측 가능하게 혁신하고, 국민이 안심하고 AI를 활용할 수 있도록 제도를 유연하게 운영하겠다"고 강조했다.

2025.12.24 13:56남혁우

인권위 "AI 기본법 시행령, 인권 보호 장치 보완해야"

인공지능(AI) 기술 확산이 가속화되는 가운데, 정부가 추진 중인 'AI 기본법' 시행령이 인권 보호 측면에서 미흡하다는 국가인권위원회의 공식 문제 제기가 나왔다. 인권위는 고영향 AI에 대한 정의와 보호 장치가 구체화되지 않을 경우 국민 기본권 침해로 이어질 수 있다고 보고 제도 보완을 촉구했다. 인권위는 내년 1월 22일 시행을 앞둔 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)' 시행령 제정안과 관련해 인권 관점에서 보완이 필요하다는 의견을 과학기술정보통신부 장관에게 제시했다고 21일 밝혔다. 인권위는 우선 생명·신체·기본권에 중대한 영향을 미칠 수 있는 '고영향 AI'의 범위를 시행령에 구체적으로 규정해야 한다고 지적했다. 현행 시행령안에는 대통령령으로 정하도록 한 고영향 AI의 구체적 영역이 빠져 있어 AI 개발·이용 과정에서 사업자의 책임 범위와 기준이 불명확하다는 것이다. 특히 인권위는 고영향 AI가 의도된 목적대로 사용되는지 사전에 점검할 수 있도록 영향평가를 실시할 법적 근거를 마련해야 한다고 강조했다. AI 분석이나 판단 결과에 오류나 편향이 있을 경우 해당 결과가 실제 의사결정에 활용되면서 헌법이 보장하는 기본권을 침해할 위험이 크다는 판단에서다. AI 기본법 적용 제외 대상에 대한 재검토 필요성도 제기됐다. 인권위는 시행령안에서 국방 또는 국가안보 목적 AI 외에 '이중 용도'까지 법 적용 제외 대상으로 포함한 것은 위임 범위를 벗어날 소지가 있다고 봤다. 이에 따라 법 적용 제외 대상 지정 권한은 국방부 장관이 아닌 국가AI전략위원회가 심의·결정하도록 해야 한다고 제언했다. 아울러 AI 사업자가 보호해야 할 이용자 범위가 채용회사·병원·금융기관 등에만 한정돼 실제 영향을 받는 구직자·환자·대출 신청자 등 당사자에 대한 보호 공백이 발생할 수 있다고 지적했다. 인권위는 이들에 대한 명확한 보호 조치를 법령에 반영해야 한다고 밝혔다. 이 밖에도 고성능 AI 안전성 확보 기준의 하향 조정 문제, 안전성·신뢰성 관련 문서 보관 기간 연장, 고영향 AI의 영향평가 실효성 강화, 국가AI전략위원회 내 인권 전문가 참여 확대 등도 시행령 보완 과제로 제시했다. 인권위는 "정부가 AI 전환을 속도감 있게 추진하며 국가 경쟁력과 삶의 질 향상을 도모하고 있지만, 오류·편향된 AI 판단이 의사결정에 활용되면 인간의 존엄과 평등권, 사생활의 자유 등 기본권을 침해할 위험이 있다"고 지적했다. 이어 "향후 AI 관련 법·정책 수립 과정에서 인권 보호가 충분히 반영되길 기대한다"고 덧붙였다.

2025.12.21 14:18한정호

[기고] EU 디지털 간소화 방안과 한국 AI 기본법 과제

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 한국은 세계적으로 인공지능(AI) 기술 수용과 활용이 가장 활발한 국가 중 하나다. 오픈AI는 한국의 챗GPT 유료 구독자 수가 미국에 이어 세계 2위를 차지한다고 발표한 바 있다. 그러나 이런 기술 도입 속도에 비해 AI 규제와 제도적 틀 마련은 상대적으로 늦게 시작됐다. 한국은 AI 관련 제도 정비 과정에서 유럽의 강력한 AI 법안(EU AI Act)과 미국의 규제 동향을 면밀히 관찰하며 영향 받았다. 한국의 AI 관련 법령은 개인정보, AI, 플랫폼 규제 등에서 EU 모델을 상당 부분 참조하면서도, 산업 진흥 필요성과의 균형을 추구하는 모델로 평가받고 있다. 올해 1월 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 제정돼 내년 1월 시행을 앞뒀다. 현재 시행령과 고시, 가이드라인 등 하위법령 마련 작업이 진행 중이다. 과학기술정보통신부는 지난 9월 8일 하위법령 제정방향을 공개하고 대국민 의견을 수렴한 후, 지난달 12일 시행령 제정안을 입법예고하면서 규제보다는 진흥에 무게를 두고 최소한의 규제체계를 도입하는 데 집중했다고 밝혔다. 국내 하위법령 정비가 이뤄지는 가운데, 지난달 19일 EU 집행위원회가 '디지털 간소화 방안(Digital Package)'을 공식 발표했다. 이 방안은 최근 몇 년간 EU AI 법안, 데이터법, 디지털서비스법(DSA), 디지털시장법(DMA) 등 여러 규제를 연속적으로 도입하면서 발생한 복잡성과 중복규제 문제를 해결하고자 디지털 규제환경을 포괄적으로 개편하는 것이다. 기업의 부담과 법적 불확실성을 줄이고 시장 혁신과 경쟁력을 강화하는 것을 목표로 한다. 주요 내용은 데이터, 사이버보안, AI 규제를 단순화하는 '디지털 옴니버스 규정(Digital Omnibus Regulation)'을 포함한다. 특히 AI 규제 간소화 측면에서 주목할 만한 변화가 있다. EU AI 법안의 원활한 시행을 위해 고위험 AI 규제 적용 시점을 최대 16개월 연기하는 조치가 포함됐다. 예컨대 고용·법 집행 등 민감 분야의 고위험 AI 규정 시행은 2026년 8월에서 2027년 12월로 연기된다. 기술문서 작성 의무 완화 등 기존 중소기업에만 적용되던 완화 조치는 종업원 750명 미만의 중견기업(SMC)까지 확대 적용된다. 기업 내부에서 제한적 용도로 사용하는 AI에 대해서는 EU 데이터베이스 등록 의무를 면제했다. 데이터 측면에서 GDPR 개정을 통해 AI 개발·운영을 위한 개인정보 처리가 '정당한 이익'에 해당한다는 근거를 명시함으로써 AI 모델 학습·운용에 개인정보를 활용할 수 있는 범위를 확대했다. EU의 디지털 간소화 방안은 아직 최종 통과나 확정까지 회원국 간 논의와 유럽의회 승인 절차가 남아있으며, 디지털 기본권 후퇴 가능성이나 빅테크 편향성에 대한 비판도 제기되고 있다. 그럼에도 EU의 규제 정비 방향성은 국내 AI 정책과 하위법령 정비에도 일정한 영향을 미칠 것으로 예상된다. 새 정부가 AI전환(AX)을 통해 AI 3대 강국으로 도약하겠다는 강력한 의지를 밝혔고, 하위법령 정비 방향도 규제보다는 진흥에 무게중심을 둔 상황에서, EU 역시 규제를 간소화하고 산업 진흥과 기본권 보호의 조화를 도모하는 방향으로 무게추를 옮긴 만큼 이런 방향성이 더욱 탄력을 받을 것으로 전망된다. EU AI 법안이 고위험 AI 규정의 적용 시점을 차등 연기한 것은 국내 규제 적용의 범위와 속도를 조절하는 데 참고할 수 있을 것으로 보인다. 또한 규제의 통합절차 간소화 등 '규제효율'을 도모하는 설계원리를 반영한 디지털 인프라 구축 논의가 가속할 것으로 예상된다. 그럼에도 규제 강도와 기본권 보호에 대한 강조 측면에서 EU AI 법안은 여전히 높은 수준의 요구사항을 유지하고 있다. 국제규범과의 호환성을 확보하되 국내 산업 여건과 균형을 이룰 수 있는 정교한 접근이 필요한 시점이다.

2025.12.16 10:30노은영

韓, AI 기본법 시행 한 달 앞으로…"중소·스타트업 대응 부족"

인공지능(AI) 규제의 선두에 섰던 유럽연합(EU)에서 규제 완화 흐름이 나타나는 가운데 우리나라가 내년 1월 세계 최초로 AI 법규 시행에 나선다. 글로벌 AI 규제 기조가 이같이 엇갈리면서 국내 산업계에서는 경쟁력 위축에 대한 우려가 점차 커지고 있다. 15일 업계에 따르면 과학기술정보통신부는 지난 8일 AI 기본법 투명성 규제와 관련한 비공개 간담회를 연 것으로 전해졌다. 이날 네이버, 카카오 등 국내·외 AI 기업이 참석했다. 이날 간담회에서는 AI 생성물에 표시를 부착하는 방안이 핵심 쟁점으로 논의된 것으로 확인됐다. 이미지, 영상, 음성 등 AI가 만들어낸 콘텐츠에 사람이 인식할 수 있는 표시를 적용해 AI로 제작됐음을 알리려는 취지다. AI 활용 확산 과정에서 이용자 혼란을 줄이고 투명성을 높이기 위한 규제로 해석된다. 국내 AI 기본법은 지난해 12월 26일 국회 본회의를 통과했으며, 올해 1월 21일 공포됐다. 시행 시점은 공포 후 1년이 지난 내달 22일이다. EU는 한국보다 AI 법 제정 시점은 빨랐지만, 실제 적용은 내년 8월 예정이다. EU집행위원회는 지난달 규제 완화 내용을 담은 '디지털 간소화' 방안도 발표했다. 이에 유럽에서는 과도한 규제가 AI 경쟁력을 약화할 수 있다는 우려가 이어지고 있다. 특히 미국 빅테크가 규제 완화를 요구해 온 점도 정책 변화에 영향을 미쳤다는 분위기다. 이런 상황에서 국내 AI 업계는 유럽과 달리 한국의 조기 시행 결정에 의문을 제기하고 있다. 특히 AI 법 준비 기간이 지나치게 짧다는 점이 부담으로 지목되고 있다. AI 기본법 시행 직전에 시행령이 확정될 가능성이 크기 때문이다. 중소기업과 스타트업의 AI 법 대응 여력이 부족할 것이란 전망도 나오고 있다. 실제 스타트업얼라이언스가 국내 AI 스타트업 101곳 대상으로 조사한 결과에 따르면 응답 기업 98%가 AI 기본법에 대비한 실질적 대응 체계를 갖추지 못한 것으로 나타났다. 국내 AI 스타트업 업계 관계자는 "현재 기업이 가장 걱정하는 부분은 AI 법 준비 기간이 매우 짧다는 것"이라며 "AI 기본법 시행 직전 시행령이 확정될 경우 스타트업은 막막할 것"이라고 지적했다.

2025.12.15 09:55김미정

트럼프, 주정부 AI 규제 무력화 행정명령…"흩어진 법 쓸모 없어"

도널드 트럼프 미국 대통령이 주정부 인공지능(AI) 규제를 무력화하는 행정명령에 서명했다. AI 규제 권한을 연방정부로 일원화해 기술 개발 속도를 높이겠다는 구상이다. 14일 뉴욕타임스(NYT)에 따르면 트럼프 대통령은 AI 산업을 제한하는 주정부 법을 무력화하는 내용을 담은 행정명령에 서명했다. 이번 행정명령은 연방정부가 주정부의 AI 규제를 직접 막을 수 있도록 한 조치다. 이제 법무장관은 미국의 AI 경쟁력에 맞지 않는 주법 상대로 소송을 제기할 수 있다. 주정부가 규제를 유지할 경우 연방 인프라 사업에 대한 자금 지원을 중단할 수도 있다. 트럼프 대통령은 주마다 다른 AI 규제가 쌓이면서 기업과 시장에 혼란이 커지고 있다고 지적해 왔다. 그는 연방정부가 통합 기준을 마련해야만 미국이 중국보다 앞서 AI 기술 경쟁력을 유지할 수 있다고 강조했다. 트럼프 대통령은 최근 AI 산업을 지원하는 방향으로 정책 기조를 강화하고 있다. 실제 AI 규제를 완화하고 연방 데이터 접근을 허용하는 행정명령을 잇달아 내놨다. AI 인프라 구축 관련 장벽도 낮췄다. 이번 행정명령에 반대 목소리가 나올 것으로 예측되고 있다. 주법을 무효화할 권한이 의회에 있다는 점 때문이다. NYT는 "주정부와 소비자 단체가 소송에 나설 가능성이 크다"고 분석했다. 앞서 각 주는 AI 안전과 소비자 보호를 위한 자체 법을 도입해 왔다. 연방 차원의 규제가 미흡하다는 이유에서다. 전국 주의회협의회에 따르면 올해 모든 주와 영토가 AI 관련 법안을 발의했으며, 38개 주가 약 100개 법을 채택했다. 트럼프 대통령은 백악관 집무실에서 기자들에게 "법은 한 곳에서 나와야 한다"며 "50개의 서로 다른 법으로 운영될 순 없다"고 강조했다.

2025.12.14 11:22김미정

"엔비디아 GPU 있어도 전기세 걱정"…AI 인재 육성 막힌 대학 현실

"국내 대학이 엔비디아 그래픽처리장치(GPU)를 확보하기 시작했습니다. 그러나 사용량이 늘어날수록 매월 수십억원에 달하는 전기료 압박을 겪고 있습니다. 이를 해결할 수 있는 보호 장치가 절실합니다." 연세대 한순구 경제학과 교수는 9일 일 국회 본청에서 열린 과학기술정보방송통신위원회 공청회에서 AI 인재 양성 걸림돌에 대해 이같은 사례를 공유했다. 인재 배출을 위한 인프라 보급 정책이 새로운 문제를 낳고 있다는 설명이다. 한 교수는 GPU 전기값이 부담스럽다는 교내 공대 교수 목소리를 공유했다. 그는 "우리 학교는 매달 몇십억 씩 드는 전기값을 감당하기 어려운 상황으로 보인다"며 "정부가 엔비디아 GPU를 학교에 제공해도 전기세 때문에 마음 놓고 쓸 수 없는 것으로 알고 있다"고 말했다. 학교가 GPU 활용을 위한 내부 결재와 예산 압박으로 장비 사용에 부담을 느낀다는 설명이다. 정부가 AI 인재 양성을 위해 대학에 GPU를 제공하지만, 막상 대학은 전기료로 이를 제대로 돌리지 못하는 실정이다. 앞서 정부는 대학을 비롯한 연구소, 스타트업 등이 고성능 GPU를 활용할 수 있도록 'AI 컴퓨팅 자원 임차 지원' 제도를 운용하기 시작했다. 이 제도는 엔비디아 GPU를 정부가 대량 확보한 뒤 공공·산학연 기관에 클라우드 형태로 제공하는 식이다. 또 GPU 서버 단위·카드 단위 등으로 선택해 임차할 수 있다. 이날 국내 AI 인재 해외 유출은 여전하다는 목소리도 나왔다. 국내 AI 대학원에서도 박사급 인재가 배출되기 시작했지만, 유능한 인재는 해외 빅테크나 연구소로 떠난다는 지적이다. 최재식 김재철AI대학원 교수는 "앞으로 해외로 떠난 AI 인재를 국내로 귀환시키는 '순환형 인재 육성 모델'이 절실하다"고 주장했다. 한순구 교수도 "미국과 중국에 인재를 보내서 기술을 습득시킨 뒤 다시 한국으로 오게 만드는 모델도 만드는 게 좋을 것"이라고 강조했다. 더불어민주당 최형두 의원은 "현재 아시아 최고 수준의 이공계·자연계 졸업생을 한국으로 유치하는 제도를 만들고 있다"며 "이를 위해 영주권·국적 취득 절차 간소화와 장기 연구비자 확대 등을 추진하고 있다"고 설명했다. 이어 "이는 국내 대학·연구기관의 교수·연구인력 부족 문제를 완화하는 효과도 있을 것"이라고 기대했다.

2025.12.09 15:49김미정

"AI 기본법만으로 부족"…산학계, '한국형 표준 체계' 필요성 한목소리

산업 전반에 인공지능(AI)이 빠르게 확산되는 가운데, 현장의 요구를 직접 반영한 AI 기술 표준화 논의가 본격화되고 있다. 이에 한국인공지능산업협회(AIIA)와 산·학계는 산업별 AI 데이터 활용, 표준화 방향, 규제·법제 변화 등 다양한 현안을 공유하며 실질적인 표준 생태계 전략을 모색했다. 한국정보통신기술협회(TTA) 김정헌 팀장은 1일 서울 양재 엘타워에서 열린 'AI 기술 표준화 세미나'에서 "AI가 단순 도구를 넘어 스스로 작동하는 에이전틱 AI로 진화하고 있고 피지컬 AI와 결합해 산업 전반으로 스며드는 중요한 시점인 만큼, 현장의 의견을 신속하게 표준에 반영하고 민간 중심의 생태계를 강화할 것"이라고 밝혔다. 이날 세미나는 TTA ICT 표준화포럼인 '지능정보기술·의약데이터표준화포럼' 공동 주관과 AIIA 주최로 진행됐다. AI 기본법, 데이터·의약·저작권 등 주요 분야의 표준화 이슈를 다루며 산·학계와 법제 전문가가 참여해 현장에서 마주한 구체적 요구와 과제를 공유했다. 먼저 전주대학교 김시열 교수는 AI 시대 데이터 소유권·저작권·부정경쟁방지법 내 데이터 보호 체계 등 법적 쟁점들을 설명했다. 그는 "데이터는 단일한 소유권 개념으로 정리하기 어렵고 저작권·개인정보·부경법 등 다양한 규범이 복합적으로 적용되는 특수성을 가진다"며 "산업 현장에서 실무자가 참고할 수 있는 명확한 가이드라인이 필요하다"고 지적했다. 이어 전주대 안상호 교수는 의약 데이터 표준화의 지연 문제를 짚었다. 그는 "의약품 데이터는 식약처·심평원 간 코드 체계조차 연동되지 않는 등 국내 표준화가 걸음마 단계"라며 "국제 'IDMP·RxNorm' 체계와의 매핑을 포함해 의약 데이터 거버넌스를 구축할 주체가 필요하다"고 설명했다. 특히 가천대 조영임 교수는 산업 AI 밸류코드 표준 'IA3I'를 제안했다. 그는 산업계가 실제로 활용할 수 있는 10자리 AI 분류코드 체계를 구축해 산업 AI 개발·정책·투자 판단의 실시간성·정확성을 높인다는 목표다. 조 교수는 기존 산업 분류코드(KSIC), 기존 AI 산업·기술 분류체계의 한계를 짚으며 현재의 분류체계는 산업 AI를 세밀하게 포착하지 못한다고 지적했다. 그가 제안한 새로운 IA3I 체계는 ▲산업코드(2자리) ▲AI 기술·서비스·데이터(6자리) ▲산업 적용 목적·파급효과(2자리)를 결합한 구조로, 국내외 표준(ISO·IEC·KS)과의 연계 가능성까지 고려해 설계됐다. 조 교수는 "이 체계는 산업 AI를 국제표준 수준에서 코드화한 최초의 프레임"이라며 "향후 국가 연구개발(R&D), 기업 투자, 산업계 데이터 분석에 즉시 활용할 수 있고 1~2년간 현장 의견을 수렴해 KS·국제표준으로 제정하는 것을 목표로 한다"고 밝혔다. 이어 "산업별 AI 적용 현황을 실시간으로 파악하고 정책·제도에 바로 반영할 수 있는 유연한 분류 체계가 필요하다"고 덧붙였다. 이날 소개된 산업 AI 코드 예시에는 디지털 마케팅·제조·헬스케어·에너지 등 복수 산업의 AI 적용 사례가 포함됐다. 10자리 코드만 보면 어떤 산업에 어떤 AI 기술이 어떤 목적을 위해 쓰였는지 즉시 확인할 수 있도록 해 정부의 AI 정책 수립과 산업 분석 속도를 개선한다는 취지다. 학계 발표 이후에는 한국지능정보사회진흥원(NIA) 김형준 AI법제도센터장이 내년 1월 시행될 AI 기본법과 하위법령을 소개했다. 그는 "AI 기본법은 규제만이 아니라 AI 산업 육성, 데이터 인프라, 전문인력 양성, 공공 AI 도입 등 진흥과 안전을 균형 있게 설계한 법"이라며 "민간에서 우려하는 고영향 AI 판단 기준은 국내 산업 환경을 고려해 과도한 규제 적용을 피하는 방향으로 설계했다"고 강조했다. 이어진 산업계 발표에서는 제조·산업 AI 현장에서 마주한 표준화의 시급성이 제기됐다. 써로마인드·티벨·셀렉트스타 등 기업들은 제조 AI를 위한 데이터 표준화 필요성, 산업별로 차별화된 AI 검증 기준 마련, AI 신뢰성을 확보하기 위한 표준화 대응 전략 등을 발표하며 현장 중심의 표준 체계가 마련돼야 한다고 제언했다. 이날 참석자들은 산업 AI가 급속히 확산되는 만큼 표준화 작업이 개념 논의를 넘어 실질적인 적용 단계로 이동해야 한다는 목소리를 냈다. 특히 산업별 데이터 품질 기준, 검증 체계, 법제 연계, R&D 지원 체계가 함께 작동해야 표준화의 효과가 극대화된다는 의견이다. 이날 세미나에 참석한 한 기업인은 "생성형 AI에 이어 피지컬 AI까지 등장하는 빠른 변화의 흐름속에서 우리도 표준화·제도 속도를 맞춰야 한다"며 "해외 시스템이 국내 시장을 잠식하기 전에 정부·산업계·학계가 함께 협력해 실무적으로 활용 가능한 한국형 표준을 마련해야 한다"고 강조했다.

2025.12.01 13:39한정호

[기고] 인공지능 특이점으로 가는 출발점

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] '특이점(singularity)'은 수학이나 물리학에서 사용되던 용어다. 수학적으로 정의될 수 없는 점이나 블랙홀 중심에 있어 밀도가 무한대로 시공간이 붕괴되는 점과 같이 우리가 이해하고 있는 물리 법칙이 적용되지 않는 점을 말한다. 이처럼 알려져 있는 물리 법칙으로 설명할 수 없는 예측 불가능한 변화가 발생하는 지점을 설명하는 개념이다. 요즘은 인공지능(AI)의 '기술적 특이점'이란 말이 많이 사용된다. 컴퓨팅 파워 등 기술이 기하급수적인 속도로 발전하면서 현재 인간이 상상하기 어려운 변화가 온다는 것이다. AI 연구자이자 미래학자인 레이 커즈와일이 AI에 특이점이라는 개념을 적용하면서 대중들에게도 널리 알려졌다. 레이 커즈와일은 인류가 수천 년 동안 특이점을 향해 대장정을 펼쳐 왔는데, 이제 전력 질주 구간에 이르렀다고 한다. 순식간에 모두 스마트폰을 들고 다니게 된 것처럼 AI 기술도 일상 생활 깊숙이 들어올 것이고 우리의 사고도 크게 확장될 것이라는 주장이다. 레이 커즈와일이 말한 것처럼 AI 기술은 어지러울 정도로 빠르게 발전하고 있다. 구글, 오픈AI, 마이크로소프트 등의 연구진이 참여해 2023년 7월경 발표한 AI 규제 관련 보고서 '프런티어 AI 규제: 공공 안전을 위협하는 신흥 위험 관리(Frontier AI Regulation: Managing Emerging Risks to Public Safety)'에서는 1천26 플롭(FLOP)을 사용해 학습된 모든 기초 모델이 충분히 위험한 능력을 보일 잠재력을 가지고 있다고 간주하는 것을 제안했다. 이는 2023년 10월 당시 바이든 대통령이 1천26 FLOP을 일종의 규제 기준으로 하는데 영향을 미쳤다. 다만 트럼프 대통령은 취임 직후 바이든 행정부의 이 행정명령이 AI 혁신을 저해하는 과잉 규제라며 페지했다. 2년이 지난 현 시점까지는 1천26 FLOP을 만족하는 AI 모델이 공식적으로 공개 되지는 않은 것으로 보이나, 머지않아 이를 충족하는 AI 모델이 나올 것으로 예상된다. 기술이 빠르게 발전하며 일상의 풍경을 바꿔놓으면 일상을 규율하는 제도, 규범 역시 변화가 필요하다. AI 기술에 대한 법과 제도도 한창 정비 중이다. 유럽연합(EU)은 세계 최초로 AI 법 제정해 2024년 8월부터 단계적으로 시행하고 있다. 다만 건강, 안전, 기본권과 관련된 공익의 일관되고 높은 수준의 보호를 보장하기 위한 '고위험 AI(High Risk AI system)'에 대한 규제가 2026년 8월 시행 예정이었는데, 최근 그 시행 시기를 2027년 12월로 16개월 연기한다고 발표했다. 미국은 연방 차원에서 AI 전반을 다루는 법이 나오지는 않았지만 캘리포니아 등 여러 주에서 '투명성 의무' 등에 대한 다양한 법안이 제정되고 있다. 일본은 올해 6월 AI의 연구개발, 이용을 촉진하기 위한 진흥법을 마련헸다. 우리나라도 2025년 1월 AI 기본법이 제정돼 2026년 1월부터 시행될 예정이다. 한국의 AI 기본법은 AI 산업 발전을 위해 정부가 다양한 지원을 하는 방안과 함께 AI를 안전하고 신뢰성 있는 기반 하에 이용할 수 있도록 하는 방안을 담고 있다. 법 시행을 앞두고 시행령이 입법예고 됐고, 투명성 확보 의무, 고영향 AI 사업자 책무 등에 관련된 고시와 가이드라인도 나왔다. 생성형 AI 또는 고영향 AI를 이용한 제품 또는 서비스를 제공하는 AI사업자는 그 제품 또는 서비스가 해당 AI에 기반해 운용된다는 사실을 이용자에게 사전에 고지해야 하는 등 투명성을 확보할 의무를 진다. 또 생성형 AI 또는 이를 이용한 제품이나 서비스를 제공하는 경우 그 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시해야 한다. 이 때 사람이 직접 인식할 수 없더라도 소프트웨어를 통해 확인할 수 있는 방식의 비가시적 표시도 가능하다. 다만 이 경우에는 생성형 AI에 의해 생성됐다는 사실을 1회 이상 안내 문구, 음성 등으로 제공해야 한다. AI 기본법 시행령을 입법예고하며 발표된 보도자료에는 규제보다 진흥에 무게를 두면서 필요 최소한의 유연한 규제 체계를 도입하는 것이라고 강조돼 있다. 그러나 여러 가이드라인들이 제시됐음에도 여전히 모호하고 불명확 부분이 많다는 현장 사업자들의 목소리도 있다. 특이점으로 가는 고속도로가 열릴지, 지난한 여정의 서막이 오른 것일지, 출발점에 서있다.

2025.11.26 10:41법무법인(유) 태평양 유재규 변호사

[현장] 시행 앞둔 AI 기본법…대응 전략은 '사람 개입·거버넌스'

내년 우리나라 '인공지능(AI) 기본법' 시행을 앞두고 기업과 기관의 AI 활용 방식이 근본적으로 재편될 조짐이 나타나고 있다. 고영향 AI에 대한 규제 체계가 구체화되면서 기존 자동화·AI 기반 서비스의 의사결정 구조를 전면 재설계해야 하는 상황이다. 업계에서는 AI를 더 많이 활용해야 하는 시대적 흐름과 동시에, 투명성 확보·위험 관리·책임 구조 정비라는 새로운 의무가 부상하면서 대응 전략 마련이 시급하다는 목소리가 나온다. 한국능률협회컨설팅(KMAC)과 법무법인 린은 21일 서울 역삼 포스코타워에서 '고영향 AI 활용에 따른 비즈니스 설계와 실행 전략' 세미나를 개최해 AI 기본법 시행의 핵심 쟁점과 실무 대응 방향을 제시했다. 행사는 AI 기본법이 내년 1월 본격 적용되면서 조직이 마주하게 될 법적·운영적 변화에 대비하기 위한 자리로 마련됐다. EU는 설계부터 규제, 한국은 고지 중심…느슨한 범용 AI 규정 첫 발표자로 나선 법무법인 린 방석호 AI산업센터장은 유럽연합(EU) AI법과 국내 AI 기본법의 차이를 짚으며 "국내 법은 EU의 '고위험' 개념을 '고영향'으로 대체했지만, 범용 AI 규제는 상당 부분 비워놓은 구조"라고 설명했다. 그는 EU가 학습 데이터와 모델 구조 등 기술적 투명성 공개를 의무화한 반면, 한국은 최종 이용자에게 '이 서비스는 AI가 사용됐다'는 사실만 고지하면 되는 수준에 그쳐 규제 밀도가 낮다고 평가했다. 또 방 센터장은 "국내 기준은 최근 발표된 미국 캘리포니아의 프론티어 모델 기준을 사실상 그대로 가져와, 학습 연산량 10²⁶ 플롭스(FLOPs) 이상만 고영향으로 추정하도록 했다"며 "결국 국내 사업자는 범용 AI 규제에서 빠져 있는 셈이지만, 고영향 분야로 응용하는 순간 책임은 훨씬 커진다"고 강조했다. 이어 법무법인 린 구태언 변호사는 업권별로 고영향 AI 지정 가능성을 분석하며 기업이 취해야 할 방향을 제시했다. 그는 "대출 자동심사, 채용 서류 자동평가, 교육·의료 영역의 자동 의사결정 등은 사람이 개입하지 않으면 고영향 AI로 판단될 소지가 크다"며 "특히 '사람이 최종 결정한다'는 구조를 명확히 포함해야 지정 위험을 피할 수 있다"고 말했다. 구 변호사는 금융 분야 사례를 언급하며 "앱에서 10분 만에 대출 승인 여부가 나오는 현재 프로세스는 사실상 완전 자동화된 AI 의사결정"이라며 "이 경우 개인은 '내 금리가 왜 이렇게 나왔는지 설명하라'고 요구할 수 있고 이는 고영향 지정 요청으로 이어질 수 있다"고 경고했다. 그러면서 "채용 영역에서도 AI가 정량·정성 평가를 수행해 지원자를 컷오프하는 구조는 고영향 판단 위험이 높다"며 "면접·평가 결과를 참고자료로만 활용하고 사람이 이를 재검토한 기록을 남기는 절차가 필요하다"고 설명했다. AI 기본법 대응 핵심은 '사람 개입·문서화·거버넌스' KMAC 손권상 AI·빅데이터 본부장은 기업이 실무적으로 대응해야 할 'AI 거버넌스 체계'를 제시했다. 그는 "기업 대부분이 AI를 쓰고 있지만, 실제로 어떤 모델을 어디에 쓰고 있는지조차 정리되지 않은 곳이 많다"며 "프로세스 단계별로 AI 개입 여부, 의사결정 영향력, 위험 수준을 평가하는 것이 첫 단계"라고 강조했다. 손 본부장은 금융권 대출 심사와 HR 채용 프로세스를 사례로 들며 기업이 AI 기반 업무를 다시 설계하는 과정을 세부적으로 설명했다. 업무 프로세스에서 AI가 판단을 내린 뒤 사람이 이를 재검토하는 구조가 반드시 포함돼야 하고 AI 결과를 '참고값'으로 낮춰 최종 결정은 사람이 하는 체계를 문서화하는 것이 핵심이다. 또 고영향 판단 여부를 ▲사람 개입성 ▲결과의 확정성 ▲영향력의 크기 세 항목으로 분류해 진단할 것을 제안했다. 손 본부장은 "고객 리스크 사전분류, 신용등급 자동 산출, AI 면접 평가 등은 고영향으로 판정될 가능성이 높기 때문에 별도의 모니터링 절차와 재검토 체계가 필요하다"고 짚었다. 아울러 기업 내부에 AI 윤리위원회와 전담 조직을 설치해 지속적인 모니터링 체계를 갖출 필요가 있다고 강조했다. AI 윤리 기준 수립, 모델 검증 매뉴얼, 데이터 처리 가이드라인 등 전사 AI 운영지침을 마련해야 한다는 것이다. 손 본부장은 "AI 기본법이 규정하는 고영향 AI는 앞으로 더 많은 산업과 업무 영역에서 등장할 것"이라며 "사전 검토·위험·감독·문서화·법적 대응이라는 5단계 구조를 실무 절차에 그대로 이식하는 것이 가장 현실적 대응"이라고 조언했다. 이어 "앞으로 AI를 도입하면 기술만 바꾸는 것이 아니라 기업의 일하는 방식 전체가 재설계되는 패러다임 변화가 찾아올 것"이라며 "기업이 이러한 전환을 효과적으로 헤쳐나갈 수 있도록 전문성을 바탕으로 지원하겠다"고 덧붙였다.

2025.11.21 18:11한정호

과기정통부, 'AI기본법 시행령' 입법예고…산업 진흥·신뢰 기반 균형 추진

과학기술정보통신부가 인공지능(AI) 산업 발전과 안전·신뢰 기반 조성을 위한 '인공지능 기본법 시행령' 제정안을 마련하고 40일간 입법예고에 들어갔다. 과학기술정보통신부는 내년 1월 시행을 앞둔 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 인공지능 기본법)'의 구체적 시행 방안을 담은 시행령 제정안을 공개하고 국민 의견을 수렴한다고 12일 밝혔다. 이번 제정안은 인공지능 산업의 육성과 안전·신뢰 확보라는 두 가지 축을 균형 있게 반영해 마련됐다. 과기정통부 누리집 내 '입법·행정예고' 게시판에서 확인할 수 있으며 의견은 12월 22일까지 이메일 또는 우편으로 제출할 수 있다. 과기정통부는 산업계, 시민단체, 전문가, 관계 부처 등의 폭넓은 의견을 반영했으며, 지난 9월에는 국가 인공지능전략위원회 보고를 통해 초안을 공개한 데 이어 고시·방침(가이드라인) 초안과 함께 대국민 의견수렴 절차를 진행했다. 한국지능정보사회진흥원(NIA) 누리집에서도 내년 1월 21일까지 관련 의견을 접수받고 있다. 시행령 제정안은 크게 세 가지 방향에서 구성됐다. 첫째, 인공지능 산업 육성을 위해 연구개발, 학습용 데이터 구축, 기술 도입·활용, 중소기업·창업 지원 등 법률상 지원사업의 기준을 명확히 규정했다. 또한 인공지능 집적단지의 지정 기준과 절차를 마련해 산업 지원의 법적 기반을 구체화했다. 둘째, 국가 인공지능 정책 추진을 위한 지원 기관 운영 규정을 명시했다. 인공지능 안전·신뢰 업무를 수행할 인공지능안전연구소, 정책·국제규범 정립을 위한 인공지능정책센터, 그리고 인공지능 집적단지 전담기구의 지정·운영 근거를 시행령에 담았다. 셋째, 인공지능의 안전성과 투명성 확보를 위한 제도를 구체화했다. 고영향 인공지능의 판단 기준을 '누적 연산량 10의 26승 FLOPs 이상'으로 정하고 사업자가 생성형 인공지능을 활용할 경우 이용자에게 이를 사전 고지하도록 의무화했다. 특히 실제와 구분이 어려운 생성물의 경우, 이용자의 연령이나 신체적 조건을 고려해 생성형 인공지능 결과물임을 명확히 인식할 수 있도록 했다. 고영향 인공지능 확인 절차는 기본 30일, 최대 60일까지 연장 가능하며 연장 사유를 문서로 명시해 기업 부담을 최소화하도록 했다. 또 인공지능 서비스의 사회적 영향과 기본권 침해 가능성을 평가하는 '인공지능 영향평가' 제도를 도입해 사업자가 스스로 영향 완화 방안을 마련할 수 있도록 했다. 과기정통부는 시행 초기 혼란을 최소화하기 위해 과태료 부과 전 최소 1년 이상 계도기간을 운영한다. 이 기간 동안 기업의 제도 참여와 의무 이행을 지원하기 위해 '인공지능 기본법 지원 이음 터(플랫폼)'를 운영하고 상담·가이드라인 제공 등 맞춤형 지원을 진행할 예정이다. 향후 인공지능 검·인증 및 영향평가 수행 비용 지원도 추진한다. 배경훈 과기정통부 장관은 "이번 시행령 제정안은 대한민국이 인공지능 3대 강국으로 자리잡기 위한 제도적 초석이 될 것"이라며 "입법예고 기간 현장의 다양한 의견을 적극 수렴해 산업 진흥과 신뢰 기반 조성의 균형을 이루겠다"고 밝혔다.

2025.11.12 16:39남혁우

美 트럼프·빅테크 등쌀에 못 이겼나…EU, AI 규제 속도 조절 나서

유럽연합(EU)이 인공지능(AI) 규제법을 일부 완화하는 방안을 추진 중인 것으로 알려졌다. 미국 정부와 빅테크 기업들의 강한 반발 속에 EU가 AI 경쟁력을 높이기 위해 이처럼 나선 것으로 분석된다. 7일 영국 파이낸셜타임스(FT)에 따르면 EU 집행위원회는 오는 19일 발표될 '단순화 패키지'를 통해 지난해 발효된 AI 규제법을 포함한 디지털 규제 조항 일부를 완화할 방침이다. EU AI법은 고위험 AI 시스템에 대해 세계에서 가장 엄격한 규제라는 평가를 받아 왔다. 세계 첫 포괄적 AI 규제로, AI 기술 활용 제품이 EU 시장에 출시되기 위해 지켜야 할 규칙이 담겼다. AI법에 따르면 규제는 AI 기술의 위험 수준에 따라 4단계로 이뤄진다. 지난 해 8월 발효됐으나, 상당수 조항이 내년부터 시행 예정이다. 이 중 건강·안전·기본권에 심각한 위험을 줄 수 있는 고위험 AI 관련 규제는 내년 8월 본격 시행될 계획이다. 하지만 도널드 트럼프 미국 대통령과 글로벌 빅테크들은 그간 EU의 움직임에 강하게 반발해왔다. 메타를 비롯한 주요 기술 기업들은 "EU의 과도한 AI 규제가 유럽을 첨단 기술 서비스로부터 고립시킬 수 있다"고 경고해왔다. 유럽 내부에서도 혁신을 가로막는 과도한 규제라고 비판 받아왔다. 이 같은 상황 속에 EU는 최근 트럼프 행정부가 우크라이나에 대한 지원을 중단하거나 무역 갈등을 재점화할 가능성을 우려해 지난 8월 잠정 무역합의를 체결했다. 이후 EU는 AI 법과 디지털 규제 전반에 대해 미국 정부와 조율을 이어왔다. EU가 논의 중인 AI 규제 완화안에는 고위험 AI 규정을 위반한 기업에 법 적용을 1년 유예하는 안이 포함됐다. 시장에 혼선을 주지 않고 법 취지에 맞도록 시스템을 수정할 시간을 보장하기 위한 것으로, 이런 내용을 담은 초안은 집행위원회 내부 및 EU 회원국들과 비공식 논의 중이다. 또 AI 투명성 의무 위반에 대한 벌금 부과 시점을 2027년 8월로 연기해 기업들이 제도에 적응할 시간을 확보하도록 하는 내용도 이번에 포함된 것으로 전해졌다. 이에 따라 고위험 AI 규정은 내년 8월 그대로 시행하되 위반 기업의 기업 처벌 1년 유예, AI 투명성 규제는 규정 본격 시행을 내년 8월에서 내후년 8월로 미루게 됐다. EU 집행위 대변인은 "AI법 일부 조항의 시행을 잠정 연기하는 방안이 논의 중"이라며 "다양한 방안이 검토되고 있다"고 말했다. 앞서 EU는 지난 2월 인공지능 육성안을 담은 '인베스트 AI 이니셔티브'를 발표하며 일부 규제 완화를 예고한 바 있다. 또 EU 집행위는 지난 달 역내 산업의 저조한 AI 활용도를 높이기 위해 10억 유로(약 1조6천580억원)를 투입하는 전략을 발표해 주목 받았다. FT는 "이번 AI 규제 완화 움직임은 AI 투자를 경쟁적으로 확대하고 있는 미국·중국에 대응해 경쟁력을 높이려는 EU의 노력이 반영된 것"이라고 분석했다.

2025.11.07 17:58장유미

앤트로픽 공동창업자 "AI 안전, 인류에 필수…韓, 클로드 사용 톱5"

"우리는 인공지능(AI)의 발전이 안전하고 인류에게 유익해야 한다는 신념, 즉 '안전'이 가장 중요하다는 믿음으로 회사를 설립했습니다." 벤자민 만 앤트로픽 공동창업자는 지난 3일 지디넷코리아와 만나 이같이 말했다. 그는 기술 경쟁의 소용돌이 속에서도 'AI 안전'이 인류의 미래를 위한 필수 요소임을 거듭 강조했다. 7일 앤트로픽 'AI 경제 지수'에 따르면 한국은 '클로드' AI 모델의 전체 사용량 및 1인당 기준 사용량 모두에서 전 세계 상위 5위권에 오른다. 이 회사의 '안전 우선' 철학은 국내 시장에서도 큰 호응을 얻고 있는 것이다. 만 공동창업자는 지난 2017년 닉 보스트롬의 '슈퍼인텔리전스'를 읽고 AI 안전에 눈을 떴다고 회상했다. 그는 "초지능 AI 통제의 어려움을 깨달았다"며 "GPT-3로 스케일링 법칙의 엄청난 이점을 증명했음에도 안전에 대한 신념으로 오픈AI를 떠났다"고 밝혔다. 이어 "AGI로의 안전한 전환을 위해 오픈AI에 있었으나 '안전' 가치에 보다 잘 기여하기 위해 앤트로픽에 합류했다"고 설명했다. 그는 한국 시장의 폭발적인 성장세에도 주목했다. 특히 한국은 '클로드 코드'가 빠르게 성장하는 시장으로, 지난 4개월간 한국의 주간 활성 이용자 수(WAU)가 6배 증가했다는 점을 강조했다. 전 세계에서 '클로드 코드'를 가장 많이 이용한 것이 바로 한국 소프트웨어 엔지니어라는 것이다. 이러한 한국 시장의 중요성은 구체적인 파트너십과 투자로 이어지고 있다. 만 공동창업자는 "SK텔레콤과는 통신사에 특화된 모델을 함께 구축했다"며 "SK가 이 모델을 전 세계 다른 통신사에 보급하는 데 도움을 주고 있으며 이는 우리가 전 세계에서 맺은 최고의 파트너십 중 하나"라고 말했다. 이어 "슈퍼로이어 같은 스타트업의 법률 자동화 성공 사례 역시 괄목할 만하다"고 언급했다. 이러한 성장세에 발맞춰 앤트로픽은 현지화 및 파트너 지원과 대한민국 경제가 실질적으로 필요로 하는 부분에 대한 이해를 위해 현지 주재가 매우 중요하다고 판단하고 적극적으로 인력을 채용할 계획이다. 최근 발표된 정부의 AI 기본법에 대해서도 긍정적인 입장을 표명했다. 만 공동창업자는 "투명성, 윤리, 안전을 중시하는 우리의 '헌법적 AI' 접근 방식은 한국의 AI 기본법과 그 의도가 완벽하게 일치한다"며 "우리는 한국 정부와 협력할 생각에도 매우 기쁘며 현재 관계자들과 대화를 진행 중"이라고 밝혔다. 앤트로픽이 지난달 발표한 클로드 '소네트 4.5'가 코딩과 AI 에이전트 분야에서 최고 성능을 보이는 비결은 특정 '돌파구(Breakthrough)'가 아닌 '임계점(Critical threshold)'을 넘었기 때문이라고 밝혔다. 음성 인식이 오류율 1%의 임계점을 돌파하며 대중화된 것처럼 '소네트 4.5' 역시 개별 작업의 성공률이 비약적으로 높아져 복잡한 '에이전틱 워크플로우'의 효용성을 극대화할 수 있게 됐다는 분석이다. 만 공동창업자는 현재 AI의 역할에 대해서는 '자동화(Automation)'가 아닌 '기존 인력의 가속화(Acceleration)'로 정의했다. 그는 라쿠텐의 7시간짜리 작업을 앤트로픽의 AI 모델이 수행한 사례를 들며 이는 결과가 정확한지 자동으로 검증하는 훌륭한 '테스트 하네스(Test Harnesses)'가 있었기에 가능했다고 강조했다. 더불어 앤트로픽은 AI 안전을 구호에 그치지 않고 구체적인 기술로 구현하고 있다. '헌법적 AI'를 통해 AI가 스스로 보편적 가치를 학습하도록 유도하고 '기계론적 해석 가능성' 연구로 모델의 '뇌'를 들여다보며 '기만' 행위를 탐지한다. 또 '책임감 있는 스케일링 정책'을 통해 '생물학적 안전 등급'과 같은 자체 규제를 적용한다는 설명이다. 앤트로픽 코리아 팀을 꾸릴 때 가장 중요한 자질로 만 공동창업자는 '컬처 핏'을 꼽았다. 그는 "회사의 임무, 즉 초지능 AI가 있는 사회로의 전환이 인류에게 안전하고 유익하도록 만드는 데 진심으로 공감하는 것이 가장 중요하다"며 "우리는 이를 정말, 정말로 강조한다(Really, really mean it)"고 역설했다. 이어 "진실성과 지적 개방성을 갖춘 인재를 찾는다"고 덧붙였다. 그는 자신을 매일 움직이게 하는 원동력이 무엇인지에 대한 기자의 질문에는 현재 한 살과 세 살 된 두 아이의 긍정적인 미래가 바로 그것이라고 밝혔다. 만 공동창업자는 "(이번) 한국 방문을 통해 세상이 이 기술을 얼마나 필요로 하는지를 깨달았다"며 "(동시에) 이 기술이 '안전'해야 할 필요성을 절실히 느꼈다"고 말했다. 아래는 벤자민 만 앤트로픽 공동창업자와의 일문일답. Q. 많은 AI 스타트업이 기술 경쟁에 집중할 때 당신과 앤트로픽의 공동 창업자들은 AI 안전에 집중하며 오픈AI를 떠나 회사를 창업했다. 안전이 단순한 선택이 아닌 인류의 미래를 위한 '필수 요소'라고 믿게 된 결정적인 계기나 순간은 무엇이었나. A. 지난 2017년 닉 보스트롬(Nick Bostrom)의 '슈퍼인텔리전스(Superintelligence)'를 읽고 AI 안전에 대해 처음으로 진지하게 고민하게 됐다. 초지능 AI를 통제하는 것이 얼마나 어려울지 깨닫고 눈을 뜬 기분이었다. 최초에 오픈AI에 합류한 것은 당시 AI의 프론티어를 개척하려는 유일한 연구소였기 때문이다. 지난 2019년 'GPT-2'가 나왔을 때 이것이 바로 범용인공지능(AGI)로 가는 길이라고 확신했다. 그래서 오픈AI에 합류해 앤트로픽 공동 창업자들인 다리오 아모데이, 톰 브라운과 GPT-3 프로젝트를 시작했다. 우리는 보다 유능한 모델 없이는 AI 안전 문제에서 실질적인 진전을 이룰 수 없다고 느꼈다. 당시 한 구글 논문은 "모델의 스케일을 증가시킬 이유가 없다"거나 "규모 확장의 이점이 없고 오히려 (수확 체감으로) 한계에 부딪혔다"고 했다. 우리는 GPT-3 논문으로 정반대를 보여줬다. 실제로는 "규모를 키울수록 엄청난 수확(Huge Returns)이 발생한다"는 점과 "그런 확장성의 이점이 둔화될 기미가 전혀 보이지 않는다"는 것을 증명한 것이다. 오픈AI를 떠난 이유에 대해 구체적으로 말하자면 우리 공동 창업자들은 모두 AGI로의 전환이 안전하고 인류에게 유익해야 한다는 신념, 즉 '안전'이 가장 중요하다고 믿었기 때문이다. 초창기에 우리가 오픈AI에 있었던 이유도 정확히 그 이유 때문이었으나 어느 시점부터는 AI의 '역량과 안전' 또는 '경제적 이익과 안전' 사이에 딜레마가 발생하는 지점에서 반복적으로 작은 충돌들을 겪게 됐다. 결국 우리는 회사를 떠나 우리만의 회사를 차리는 것이 '안전'이라는 가치에 보다 잘 기여할 수 있는 길이라고 느꼈다. Q. 클로드 '소네트 4.5'가 AI 에이전트와 코딩 분야에서 최고 모델로 자리 잡고 있다. 이런 에이전트 중심의 접근을 가능하게 한 핵심 기술 돌파구는 무엇인가. 이것이 기업 도입을 어떻게 이끌고 있으며 '에이전틱 워크플로우'가 산업 생산성을 어떻게 바꿀 것이라 보나. A. 우리가 스택 전반에 걸쳐 훌륭한 작업을 수행해왔기 때문이라고 생각한다. 경쟁사들이 사전 훈련(Pre-training)이나 사후 훈련(Post-training)에 실패했다는 소문을 들어 왔다. 반대로 우리는 수년간 스케일링을 진행하며 '수확 감소'를 전혀 목격하지 못했다. '소네트 4.5'가 갑자기 좋아진 것은 특정 기술적 '돌파구(Breakthrough)' 때문이 아니다. 오히려 '임계점(Critical Threshold)'을 넘었기 때문이다. 음성 인식이 30년 넘게 존재했지만 지난 2010년대 구글이 단어 오류율을 1% 수준으로 낮추는 '임계점'을 돌파하자 비로소 모두가 일상적으로 사용하게 된 것과 같다. 코딩 모델도 마찬가지다. 이전 모델인 '소네트 3.5'에서 사람들이 에이전틱 코딩의 이점을 처음 발견하기 시작했다면 '소네트 4.5'는 개별 작업의 성공률이 비약적으로 높아졌다. 그 덕분에 여러 작업을 복잡한 체인으로 연결할 수 있게 되면서 효용성에 있어 거대한 변화가 일어난 것이다. 생산성 측면에서 볼 때 우리는 아직 '자동화(Automation)'의 시대가 아니라 '기존 인력의 가속화(Acceleration)' 시대에 있다고 본다. 일례로 라쿠텐 사례를 보면 숙련된 인간 개발자가 7시간을 투입해야 하는 '쿠다(CUDA) 커널 조작' 작업을 인간의 개입 없이 모델이 거의 전적으로 수행했다. 이것이 가능했던 이유는 매우 훌륭한 '테스트 하네스(Test Harnesses)' 덕분이었다. 즉 에이전트가 작업을 마쳤을 때 그 결과가 정확하다는 것을 (자동으로) 검증할 수 있었기 때문이다. Q. '클로드 코드(Claude Code)'가 '소네트 4.5'로 구동되면서 초기 아키텍처 설계부터 버그 수정까지 거의 모든 것을 처리할 수 있게 된 것 같다. 인상 깊었던 유즈케이스가 있나. 특히 한국에서의 경험 중 공유할 만한 사례가 있나. A. 오늘 SKT AI 서밋에서 '클로드' 해커톤이 열릴 예정이라 기대가 크다. 한국은 '클로드 코드'의 가장 큰 시장 중 하나며 제품에 대한 한국의 열정에 감탄하고 있다. 실제로 우리의 AI 코딩 어시스턴트 '클로드 코드' 전체 사용자의 4분의 1 이상이 아시아·태평양 지역에 속해 있는데 그중에서도 한국의 성장세가 놀랍다. 한국에서는 지난 4개월 동안 클로드 코드의 주간 활성 이용자 수(WAU)가 6배 증가하는 높은 성장세를 기록했다. 보다 인상적인 것은 현재 전 세계에서 클로드 코드를 가장 많이 이용한 사용자 1위가 바로 한국 소프트웨어 엔지니어로 기록됐다는 점이다. 구체적인 사용 사례를 들자면 SK와는 정말 훌륭한 파트너십을 맺고 있다. 특히 SK텔레콤과는 통신사에 특화된 모델을 함께 구축했다. SK는 이 모델을 전 세계 다른 통신사에 보급하는 데 도움을 주고 있으며 이는 우리가 전 세계에서 맺은 최고의 파트너십 중 하나다. 또 슈퍼로이어라는 한국 스타트업은 클로드를 활용해 법률 자동화(Legal Automation)를 성공적으로 구현하고 있다. 물론 이 기술은 모든 곳에 사용될 수 있지만 특정 분야에서 훨씬 더 많이 사용되고 있다. 우리가 발간하는 'AI 경제 지수(AI Economic Index)'는 사람들이 우리 모델을 어떻게 사용하는지 연구하는데 (방금 한국 사례에서 보듯) 코딩이 최고의 영역 중 하나다. 그 외에도 마케팅, 교육, 헬스케어 및 생명 과학 산업에서도 많은 활용 사례를 보고 있다. Q. 방금 'AI 경제 지수(AI Economic Index)'를 언급했다. 앤트로픽은 AI가 자동화 등 사회에 미칠 문제를 완화하기 위해 많은 노력을 기울이는 것 같다. 'AI 경제 지수'가 그 한 예시인데 앤트로픽 팀이 AI 안전을 위해 노력하는 다른 사례들도 공유해 줄 수 있나. A. 'AI 경제 지수'가 그 대표적인 사례다. 더불어 근본적인 AI 정렬(Alignment) 측면에서도 몇 가지 분야에서 노력하고 있다. 첫째는 '헌법적 AI(Constitutional AI)'다. 이는 '클로드'가 스스로 학습하고 정렬하는 자연어 원칙들의 집합이다. 우리는 샌프란시스코의 소수 인원이 미래의 가장 강력한 AI가 가져야 할 가치를 결정해서는 안 된다고 생각했다. 그래서 '집단적 헌법 AI(Collective Constitutional AI)' 프로젝트를 시작해 전 세계 사람들에게 어떤 가치를 AI가 가져야 하는지 물었고 놀랍게도 그 가치들이 예상보다 훨씬 더 일치(Aligned)한다는 것을 발견했다. 이는 정렬 문제를 해결할 수 있다는 희망을 줬다. 둘째는 '기계론적 해석 가능성(Mechanistic Interpretability)' 연구다. 과거엔 AI 모델을 '블랙박스'로 여겼지만 이 연구의 목표는 모델이 작동하는 동안 그 '뇌'와 생각을 들여다보고 무슨 일이 일어나는지 이해하는 것이다. 모델이 강력해질수록 이는 매우 중요하다. 궁극적인 목표는 모델에게 무언가를 시켰을 때 모델이 '기만(Deception)'에 대해 생각하는 것을 알아차리는 것이다. 우리는 오늘날의 모델에서도 그런 기만 행위를 포착하는 것에 대한 논문을 발표한 바 있다. 모델이 매우 강력해졌을 때 이런 기만적인 생각을 멈추게 하거나 시스템을 종료시키기 위해 이 탐지 기술은 매우 중요하다. 마지막은 '책임감 있는 스케일링 정책(Responsible Scaling Policy)'이다. 이는 '생물학적 안전 등급(Bio Safety Level)'을 모델로 한 것이다. 천연두 바이러스를 다루려면 고도로 규제된 시설과 전신 방호복이 필요한 것과 같다. 마찬가지로, 우리 AI가 특정 모델을 생성할 때까지 우리가 스스로 약속한 특정 보안 및 규정 준수 요구 사항을 갖추지 못한다면 우리는 그 모델을 사용하거나 상용화하지 않을 것이다. 우리는 다른 업계 기업들도 이 표준을 채택하도록 노력하고 있다. Q. 한국 정부가 최근 AI 기본법을 발표했다. 유럽연합(EU) AI법과 유사하게 AI 개발과 안전 사이의 균형을 맞춘 법안으로 평가받는다. 앤트로픽의 '안전 우선' 철학이나 '헌법 AI'와 시너지가 있을 것 같은데 한국에 오피스를 런칭하는 만큼 한국 시장 및 공공 부문과 어떻게 협력할 계획이며 어떤 기여를 하고 싶은가. A. 투명성, 윤리, 안전을 중시하는 우리의 '헌법 AI' 접근 방식은 한국의 AI 기본법과 그 의도가 완벽하게 일치한다. 지사 설립에 관해 말하자면 한국은 전 세계적으로 가장 중요한 시장 중 하나다. 실제로 우리 'AI 경제 지수' 데이터에 따르면 한국은 클로드의 전체 사용량 및 1인당 기준 사용량 모두에서 전 세계 상위 5위권에 오른다. 현지화, 파트너 지원, 한국 경제의 필요를 이해하기 위해 '현지 주재(Local Presence)'가 매우 중요하다고 생각한다. 그래서 우리는 이곳에서 상당히 공격적으로 인력을 채용할 계획이다. 보다 많은 인력을 두게 될 예정에 기쁘다. 더불어 우리는 한국 정부와 협력할 생각에도 매우 기쁘며 현재 관계자들과 대화를 진행 중이다. Q. 앤트로픽은 세계에서 가장 주목받는 AI 스타트업 중 하나다. 앤트로픽 코리아 팀을 꾸릴 때 개발자, 마케터 등 직군을 떠나 공통적으로 찾는 가장 중요한 자질이나 기술은 무엇인가. A. 우리는 '컬처 핏 인터뷰(Cultural Interview)'를 통해 이를 테스트한다. 우리에게 가장 중요한 것은 사람들이 '우리의 임무에 정렬(Mission-aligned)'되는 것이다. 즉, 우리 회사에 합류하는 이유가 '초지능 AI가 있는 사회로의 전환이 인류에게 안전하고 유익하도록 만드는 데' 진심으로 관심을 갖고 있기 때문이어야 한다. 많은 회사가 이렇게 말하지만 우리는 '정말이지, 정말로(Really, really mean it)' 그렇다. 이 임무가 자신의 삶과 가족, 친구들에게 어떤 의미인지 깊이 생각해 본 사람이라는 것을 보여주는 것이 중요하다. 우리의 '변화 이론(Theory of Change)'이나 '책임감 있는 스케일링 정책(Responsible Scaling Policy)' 같은 문서를 읽어보는 것도 도움이 될 것이다. 기본적으로는 '진실성(Integrity)'과 '지적 개방성(Intellectual Openness)'의 증거도 본다. 우리는 대체로 '자아가 강하지 않고(Low Ego)', 개인의 성과에 연연하기보다 올바른 일을 하려고 노력한다. Q. '초지능(Superintelligence)'을 안전하게 개발해야 하는 책임을 자주 언급했다. 매일 새로운 제품이 쏟아지는 이 극도로 가속화되는 중대한 환경에서 당신을 매일 집중하고 동기 부여하게 만들고 아침에 침대에서 일어나게 하는 가장 큰 원동력은 무엇인가. A. 근본적으로 나를 움직이는 힘은 우리가 앤트로픽을 시작한 이유와 같다. 바로 초지능 AI로의 전환이 잘 진행되도록 하는 것이다. 나에게는 한 살과 세 살 된 아이가 있다. 나는 내 아이들의 미래가 긍정적인 미래가 되기를 진심으로 바란다. 때때로 지출 보고서 같은 사소한 일을 할 때는 이 목표가 멀게 느껴지기도 한다. 그런데 지난주 일본, 그리고 이번 주 한국처럼 다른 나라에서 잠재 고객과 개발자들을 만나는 것이 목표에 계속 집중하는 데 큰 도움이 됐다. (이번 방문을 계기로) 세상이 이 기술을 얼마나 필요로 하는지, 그리고 동시에 이 기술이 안전해야 할 필요성이 얼마나 큰지 역시 절실히 느낀다.

2025.11.07 12:52조이환

오픈AI, '공익기업' 전환 확정…MS가 지분 27% 확보

오픈AI와 마이크로소프트(MS)가 5년간 이어온 전략적 협력 관계를 재정비했다. 오픈AI가 비영리 구조에서 벗어나 공익기업(PBC)으로 전환하면서 MS는 27%의 지분을 확보하고 양사 파트너십이 투자·기술·지배구조 전반에서 새롭게 재편됐다. 29일 월스트리트저널(WSJ)에 따르면 오픈AI는 기존 비영리 지배 구조를 벗어나 영리 법인인 PBC로 전환을 완료했다. 이번 전환으로 MS는 오픈AI 그룹 PBC의 약 27% 지분을 확보하게 됐으며 투자 가치는 약 1천350억 달러(약 193조원)에 달한다. 이로써 MS는 시가총액 4조 달러(약 5천728조원)를 돌파했다. 오픈AI는 이사회 재편 및 재자본화 작업을 통해 비영리 모회사를 '오픈AI 재단'으로 명명하고 의료와 인공지능(AI) 안전·복원력 분야에 250억 달러(약 35조원)를 투입할 계획이다. 특히 이번 조치는 향후 오픈AI의 기업공개(IPO) 가능성을 열어주는 발판이 될 것으로 예상된다. 양사 파트너십은 이번 계약으로 새로운 국면에 들어섰다. MS는 오픈AI의 프런티어 모델 독점 파트너로 남되, 양사는 상호 독립적 연구와 제품 개발을 병행할 수 있게 된다. 특히 MS는 오픈AI 기술에 대한 지식재산권(IP) 독점권을 2032년까지 연장받았으며 오픈AI는 일부 제품을 제3자와 공동 개발할 수 있는 권한을 확보했다. 다만 API 기반 제품은 여전히 MS 애저 클라우드를 통해서만 제공된다. 미국 정부의 국가안보 관련 고객에게는 클라우드 제공업체와 무관하게 API 접근을 허용할 수 있게 됐다. 아울러 오픈AI는 MS의 기존 클라우드 인프라에 추가로 2천500억 달러(약 357조원) 규모의 애저 서비스를 구매한다. 반면 MS는 오픈AI의 주요 컴퓨팅 자원 공급권에 대한 우선 협상권을 포기하며 오픈AI의 자율성을 일부 인정했다. 이번 협력 구조는 오픈AI가 향후 '일반 인공지능(AGI)' 달성을 선언할 상황에 대비한 장기적 장치도 포함하고 있다. 오픈AI가 AGI 달성을 공식적으로 선언하면 독립된 전문가 패널이 이를 검증하게 되며 그 시점까지 MS의 연구 관련 지식재산(IP) 권한은 2030년까지 유지된다. 또 양사는 AGI 이후에도 각자 독립적으로 기술을 개발하고 상용화할 수 있도록 제도적 근거를 마련했다. 오픈AI는 이번 PBC 전환을 통해 연구·인재·자금 조달의 유연성을 확보하며 지속가능한 AI 혁신의 사회적 역할을 강화한다는 목표다. 오픈AI는 "이번 협력의 확장은 인류 전체가 AI의 혜택을 누릴 수 있도록 하는 우리의 사명을 한층 강화하는 것"이라며 "MS와 함께 책임 있는 AI 혁신의 속도를 높여갈 것"이라고 말했다.

2025.10.29 10:07한정호

박정훈 의원, 가짜 AI광고 방지법 대표발의

국회 과학기술방송통신위원회 소속 박정훈 의원(국민의힘)이 최근 온라인상에서 급증하고 있는 AI 생성 가짜 광고 문제에 대응하기 위해 '가짜 AI광고 방지법'을 대표발의 했다고 28일 밝혔다. 최근 SNS와 유튜브를 중심으로 AI가 '의사'나 '약사'로 위장해, “이 약만 먹으면 10㎏이 빠진다”, “S대 출신 의사가 보장한다”는 식의 광고가 확산되고 있다. 영상은 마치 전문가의 건강 조언처럼 보이지만 실상은 존재하지도 않는 'AI 합성 의사'가 만든 가짜 콘텐츠로 소비자를 기만하여 피해자가 양산되고 있다. 사람의 얼굴과 목소리를 정교하게 모방한 '딥페이크 광고'는 단순한 해프닝이 아니라 AI 시대의 새로운 사회적 위험으로 부상하고 있다. 이러한 현상에 대해 방송통신심의위원회나 식품의약품안전처 등 관련 기관이 실질적인 대응을 하지 못하고 있다는 점이 문제로 꼽힌다. 박정훈 의원실이 AI 합성 광고 관련 심의 및 시정요구 현황을 요구하는 자료에 대해 방심위는 “관련법의 부재로, AI 합성 인물 광고 건에 대해서는 별도 통계 관리하고 있지 않다”고 답변해왔다. 이에 따라, 박 의원은 AI가 소비자를 속이는 허위 광고를 근절하기 위해 정보통신망법 개정안을 발의했다. 개정안은 ▲인공지능으로 생성된 실제와 구분하기 어려운 영상, 음향, 이미지 등을 활용한 광고의 경우, 반드시 'AI 생성물'임을 명확히 표시하도록 의무화했으며 ▲해당 표시를 훼손하거나 위조 변조하는 행위를 금지하고 ▲정보통신서비스 제공자(플랫폼 사업자)는 표시 의무를 위반한 광고가 게시될 경우 지체 없이 삭제할 책임을 지도록 했다. 박 의원은 “폭발적인 속도로 발전하는 AI 기술을 법제도가 따라가지 못하며 그로 인한 피해가 소비자에게 전가되고 있다”며 “국회 과학기술방송통신위원회 위원으로서 AI 기술 발전을 위해 물심양면 뒷받침하는 동시에 입법공백으로 인해 발생할 수 있는 부작용 또한 면밀히 살피도록 하겠다”고 말했다.

2025.10.28 12:47박수형

디지털의료기기 특성에 맞는 실적보고 서식 마련

식품의약품안전처는 의료기기 생산 등 실적 보고 제도의 효율적 운영을 위해 '의료기기 생산 및 수출・수입・수리실적 보고에 관한 규정' 일부개정안을 10월22일 행정예고했다. 이번 개정안에서는 디지털의료제품법 시행('25.1.24.)으로 디지털의료기기 분류 체계가 기존의 품목 중심에서 제품코드 중심으로 변경됨에 따라 디지털의료기기 특성에 맞게 제품코드에 따라 실적을 보고할 수 있도록 보고 서식을 신설하는 한편, 종사자 보고서식을 세분화하여 의료기기 산업 동향 파악 등을 위한 활용성을 제고하고, 비밀유지 의무규정을 신설하여 실적보고 자료 보안에 대한 책임성을 강화했다. 소프트웨어 내장 디지털의료기기의 경우 이번 개정안에 따라 2026년 1월부터 신설된 보고서식으로 생산 등 실적을 보고하여야 하므로, 해당 제품의 제조・수입업체 등은 새로운 보고서식에 따른 실적보고를 사전에 준비해야 한다. 소프트웨어 내장 디지털의료기기는 전자·기계장치 등 하드웨어에 디지털의료기기소프트웨어가 설치 또는 유무선으로 연결된 디지털의료기기(AI 활용 CT, MRI)를 말한다. 한편 디지털의료제품법 시행에 따라 서비스나 구독 등의 형태로 제공되어 생산과 판매의 구분이 명확하지 않은 독립형 디지털의료기기소프트웨어의 경우에는 실적보고 대상에서 제외한 바 있으며, 업계 산업동향 파악을 위한 별도의 조사·연구를 실시할 예정이다. 독립형 디지털의료기기소프트웨어는 전자·기계장치 등에 결합되지 아니하고 범용 컴퓨터 같은 환경에서 운영되는 불면증 치료 소프트웨어 등 소프트웨어 기반 디지털의료기기를 말한다. 식약처 이남희 의료기기안전국장은 “디지털의료기기 특성에 맞는 보고서식 마련을 통하여 관련 산업동향 파악 등에 도움이 될 것으로 예상된다”며, “개선된 실적보고 제도를 통해 수집된 자료를 의료기기 산업동향 분석 및 업계 지원방안 마련 등에 적극 활용할 수 있도록 하겠다”고 밝혔다.

2025.10.22 10:37조민규

  Prev 1 2 3 4 5 Next  

지금 뜨는 기사

이시각 헤드라인

'K-AI' 주도권 잡을 4개 정예팀은…정부, 첫 심사 발표 임박

눈앞으로 다가온 '피지컬 AI'…CES 2026이 증명했다

로보티즈, 14년 만에 휴머노이드 다시 만든다

디지털자산거래소 대주주 지분 제한 '논란'

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.