• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI기본법'통합검색 결과 입니다. (58건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

국회, 'AI기본사회법' 발의…공공서비스·국민 권리 강화

국민이 인공지능(AI) 공공서비스를 차별 없이 이용하고 AI 판단에 대한 설명이나 재검토를 요구할 수 있도록 하는 법안이 발의됐다. 산업·기술·안전 중심으로 설계된 현행 AI기본법을 국민 권리와 공공서비스 영역에서 보완하려는 취지다. 3일 국회에 따르면 차지호 더불어민주당 의원 등 12인은 지난 2일 '인공지능 기본사회 및 국민권리 보장에 관한 법률안'을 발의했다. 의료·교육·금융·노동·복지·재난안전 등 국민 생활과 밀접한 분야에서 AI를 활용하는 원칙과 국가의 책무를 규정한 제정안이다. 법안은 현행 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'과 적용 영역을 구분했다. 현행 AI기본법이 산업·기술·안전 등 AI 전반을 다룬다면 새 법은 공공서비스와 AI기본사회·국민 권리에 관한 특별법 역할을 한다는 설명이다. 법안 핵심은 국민의 AI기본권 보장이다. 모든 국민에게 AI기본서비스 접근권과 AI 판단에 대한 설명 요구권을 부여한다. 이의제기·재검토 요구권과 피해 구제 요청권·개인정보 보호권도 보장한다. 법안은 AI기본권 침해 사건을 전담하는 'AI권익보호소위원회'를 설치하도록 규정했다. 소위원회는 권리 침해 사건을 조사하고 필요한 시정명령을 내린다. 대통령 소속 'AI기본사회위원회'도 신설해 AI기본사회 정책을 심의·조정한다. AI기본사회위원회에는 의료·금융·교육·노동·복지·사회안전 등 분야별 분과위원회를 둘 수 있다. 각 분과위원회는 담당 분야에서 제공할 AI기본서비스의 기준과 시행 방안을 심의한다. 고위험 AI 시스템은 서비스 제공 전 적합성 평가를 받을 수 있도록 관련 계획과 평가 체계를 연계한다. 정부는 3년마다 AI기본사회 종합계획을 수립해야 한다. 관계 중앙행정기관은 연도별 시행계획을 마련하고 시·도지사는 지역계획을 세워 지방의회에 보고해야 한다. 지역별 AI기본서비스를 제공하기 위한 '지역AI기본사회센터'의 설치 근거도 마련했다.

2026.09.03 17:09김미정 기자

[기고] AI에게 어디까지 맡길 것인가

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI를 둘러싼 기업의 고민이 달라지고 있다. 얼마 전까지만 해도 기업의 관심은 '직원들이 AI를 어디까지 사용하도록 허용할 것인가'에 집중됐다. 회사 정보를 입력해도 되는지, AI가 작성한 결과물을 그대로 사용해도 되는지 등이 주된 문제였다. AI가 에이전트의 모습으로 진화하면서 질문도 바뀌고 있다. 이제 AI는 사람이 질문하면 답변을 생성하는 데 그치지 않는다. 이메일을 보내고 일정을 조정하고 여러 시스템에 접속해 업무를 처리한다. 사람에게 목표를 부여받은 뒤 필요한 작업을 스스로 나누고 실행하는 단계로 발전하고 있다. 새로운 질문이 생긴다. AI에게 일을 맡길 수 있다면 그 AI가 잘못했을 때 책임은 누구에게 물어야 할까. 직원이 생성형 AI에게 계약서를 요약해 달라고 요청하는 것과 AI에게 거래처를 비교해 업체를 선정하고 주문까지 진행하라고 지시하는 것은 전혀 다른 문제다. 후자의 경우 AI는 가격과 조건을 조사하고 거래처와 이메일을 주고받으며 내부 시스템에 접속해 실제 업무를 수행한다. 이 과정에서 AI가 잘못된 가격으로 주문하거나 개인정보나 영업비밀을 외부로 전송하거나 회사가 의도하지 않은 약속을 한다면 AI의 오류는 더 이상 잘못된 답변에 머물지 않는다. 실제 기업 활동과 법적 책임으로 이어질 수 있다. AI 에이전트 시대에는 AI의 성능만큼이나 AI에 어떤 권한을 부여할 것인지가 중요해진다. 이 변화는 지난 2일부터 대부분의 규정이 적용되는 유럽연합(EU)의 'AI 액트'에서도 확인할 수 있다. 특히 사람과 직접 상호작용하는 AI 시스템은 상대방이 AI와 상호작용하고 있다는 사실을 알 수 있도록 해야 하는 등 투명성 의무가 적용된다. EU 집행위원회는 AI 에이전트를 별도 규제 대상으로 정의하지 않으면서도 그 구조와 기능에 따라 AI법상 AI 시스템 등에 해당할 수 있다고 설명하고 있다. 중요한 것은 AI 에이전트라는 명칭이 아니라 AI가 실제로 무엇을 하는가다. 내부 문서를 요약하는 AI와 고객과 직접 대화하고 회사의 시스템에 접속해 업무를 수행하는 AI의 위험이 같을 수는 없다. 기업은 직원에게 업무를 맡기면서 회사의 모든 권한을 주지 않는다. 직급과 업무에 따라 정보 접근권한을 달리하고, 계약이나 지출에는 전결 기준을 두며 중요한 거래에는 추가 승인을 요구한다. AI 에이전트에도 같은 접근이 필요하다. 어떤 데이터에 접근할 수 있는지 누구에게 이메일을 보낼 수 있는지 어느 금액까지 거래할 수 있는지 어떤 행위에는 반드시 사람의 승인을 받아야 하는지를 미리 정해야 한다. AI 에이전트에게 업무를 맡긴다는 것은 결국 AI에 일정한 디지털 권한을 부여하는 일이기 때문이다. 동시에 AI의 행동을 추적할 수 있어야 한다. 사고가 발생했을 때 누가 어떤 업무를 지시했고 AI가 어떤 정보에 접근해 무엇을 했으며 어느 단계에서 사람이 승인했는지 확인할 수 없다면 사고의 원인과 책임 소재를 파악하기 어렵다. 앞으로 AI 내부통제에서는 '무엇을 금지할 것인가'뿐만 아니라 '어떤 권한을 줄 것인가', '언제 사람이 개입할 것인가', '무엇을 기록할 것인가'가 중요해질 것이다. AI 에이전트 발전을 막는 것이 해답은 아니다. 오히려 AI에게 반복적인 업무를 맡기고 여러 시스템을 연결해 자동화하는 능력이 기업의 경쟁력을 좌우할 가능성이 높다. 필요한 것은 모든 AI 행동을 사람이 일일이 승인하는 것이 아니라 위험에 따라 자율성의 범위를 다르게 설계하는 것이다. 회의 일정을 조정하는 AI와 수억원 규모의 구매계약을 체결하는 AI에 같은 통제를 적용할 이유는 없다. EU AI 액트도 결국 AI라는 기술 자체보다 AI가 사람과 기업, 사회 속에서 어떤 역할을 수행하는지에 주목한다. 지금까지 기업의 AI 거버넌스가 '직원이 AI를 어떻게 사용할 것인가'를 고민하는 단계였다면 이제 한 걸음 더 나아가야 한다. AI에게 어떤 일을 맡기고 어디까지 스스로 판단하게 하며 언제 사람이 개입할 것인지를 정해야 한다. AI에게 일을 맡기는 시대가 왔지만 책임까지 AI에게 맡길 수는 없다. AI 자율성이 커질수록 그 권한과 책임 경계를 설계하는 것은 결국 기업 몫이다.

2026.08.28 11:04강정희 컬럼니스트

정부, 'AI 윤리원칙' 초안 공개…업계 "권리 보호·기업 지침 보강해야"

정부가 새 인공지능(AI) 윤리원칙 초안을 공개하자 시민사회와 산업계가 원칙 실효성을 높이기 위한 후속 조치를 주문했다. 시민사회는 기본권 보호와 피해 구제 절차를, 산업계는 기업이 현장에서 적용할 수 있는 구체적인 가이드와 지원 체계 필요성을 강조했다. 14일 과학기술정보통신부와 정보통신정책연구원(KISDI)은 서울 중구 프레지던트호텔에서 '대한민국 인공지능 윤리원칙 대토론회'를 열고 각계 의견을 수렴했다. 이번 초안은 인간의 존엄성, 사회의 공공선, 인류의 지속가능성을 3대 가치로 제시했다. 이를 실현하기 위한 7대 원칙으로 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성을 담았다. 시민사회는 AI 영향을 받는 사람을 단순 보호 대상이 아니라 권리를 행사하는 당사자로 규정해야 한다고 주장했다. 접근성과 당사자 참여, 이의 제기, 피해 구제 절차를 윤리원칙과 후속 해설서에 구체적으로 담아야 한다는 입장이다. 홍윤희 사단법인 무의 이사장은 "장애인과 소수자를 단순한 수혜자가 아니라 권리를 지닌 당사자이자 시민으로 바라보는 관점이 이전보다 강화됐다"고 평하면서도 "'포용성'이라는 표현이 소수자에게 혜택을 베푼다는 시혜적 의미로 받아들여질 수 있다"고 지적했다. 이어 "이를 '포함성'으로 표현을 바꾸거나 모든 시민 권리를 아우르는 '접근성'을 원칙에 명시하는 것이 좋을 것"이라고 덧붙였다. 시민사회는 AI 학습에 필요한 장애인·소수자 관련 데이터 구축도 과제로 꼽았다. 시장에서 수집하기 어려운 정보를 공익 데이터로 규정하고 정부가 데이터 구축과 활용 기반을 지원해야 한다는 주장이다. 이지은 참여연대 선임간사는 AI 윤리원칙에 인권에 기반한 접근과 피해 구제 절차를 보강해야 한다고 요구했다. AI 영향을 받는 사람이 관련 사실을 고지받고 의사결정에 참여하며, 피해가 발생했을 때 이의를 제기할 수 있어야 한다는 설명이다. 이 선임간사는 "법이 포괄하지 못하는 영역까지 함께 고민하고 실천하자는 것이 윤리원칙 역할"이라며 "기업 내부에도 AI의 사회적 영향을 독립적이고 객관적으로 평가할 수 있는 감사 체계를 마련해야 한다"고 강조했다. 윤명 소비자시민모임 사무총장도 윤리원칙이 선언에 머물러선 안 된다고 강조했다. 정부와 기업, 소비자가 함께 참여해 분야별 적용 방안을 논의하는 협력 체계가 필요하다고 제안했다. 산업계 "기업별 적용 지침 필요"…정부 "자율규범으로 운영" 이날 산업계는 국가 차원의 윤리원칙이 기업 불확실성을 줄일 수 있다는 점에서 초안 마련을 긍정적으로 평했다. 다만 기업 규모와 서비스 유형에 따라 원칙을 실제 업무에 적용할 수 있도록 세부 지침과 상담 창구가 필요하다고 밝혔다. 김경훈 카카오 AI 세이프티 리더는 "기업도 AI 개발과 활용, 위험 관리에 적용할 국가 차원 기준을 기다렸다"며 "이번 원칙 토대로 내부 윤리 기준과 위험 관리 체계를 다시 점검할 수 있을 것"이라고 강조했다. 김 리더는 학습 데이터 공개를 투명성 원칙에 포함한 부분은 신중하게 검토해야 한다고 지적했다. 공개 범위가 저작권과 영업비밀, 산업 경쟁력과 연결돼 있고 관련 입법 논의도 끝나지 않았기 때문이다. 그는 윤리원칙과 자율 점검표, 공개 토론, 영향평가를 연계하는 운영 체계도 제안했다. 기업이 현장에서 발견한 문제를 공유하고 이를 다시 윤리원칙에 반영하는 순환 구조가 필요하다는 설명이다. 김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장은 중소기업과 스타트업도 원칙을 이행할 수 있는 환경을 조성해야 한다고 강조했다. 중소기업은 대기업과 달리 AI 윤리를 전담하는 조직이나 인력을 갖추기 어렵다는 이유에서다. 김 본부장은 "기업들은 개별 법 조항 의미보다 자사 서비스가 적용 대상인지, 어떤 영향을 받는지를 주로 묻는다"며 "작은 기업도 이해하고 따를 수 있는 상세한 해설서와 온라인 상담 채널이 필요하다"고 말했다. 정부는 이번 윤리원칙이 기업에 새로운 의무를 부과하는 규제가 아니라 사회 구성원이 자율적으로 실천하는 연성규범이라고 설명했다. 개발자와 사업자뿐 아니라 이용자, 시민사회, 정부 등 모든 주체의 역할을 제시한 점도 특징으로 꼽았다. 이진수 과기정통부 AI정책기획관은 "법이 경성규범이라면 윤리원칙은 연성규범"이라며 "특정 기업만의 문제가 아니라 각 주체가 AI 윤리를 함께 풀어나가야 한다는 방향을 담았다"고 밝혔다. 정부는 윤리원칙을 확정한 뒤 하반기에 구체적인 사례와 적용 방법을 담은 해설서를 발간할 계획이다. 산업계가 활용할 자율 점검표를 마련하고 학교와 교육 현장을 대상으로 AI 윤리교육도 추진한다. 이 기획관은 "윤리원칙은 제정으로 끝나는 것이 아니라 현장에서 실천하는 과정이 중요하다"며 "기술과 사회 변화에 따라 새로운 윤리적 쟁점이 생기는 만큼 원칙도 지속적으로 개정하고 발전시켜야 한다"고 말했다.

2026.08.14 16:15김미정 기자

국내 대리인 신고 '앤트로픽'뿐…정부, 해외 AI 기업과 연내 회동

정부가 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'상 국내 대리인 지정 의무를 이행하지 않은 해외 AI 사업자들을 대상으로 신고 독려에 나선다. 실무 협의 채널은 이미 운영되고 있지만 국내 대리인 지정∙신고 등 제도의 공식 이행은 더 이상 미룰 수 없다는 판단에서다. 7일 업계에 따르면 과학기술정보통신부는 연내 주요 해외 AI 사업자들과 회합 자리를 마련할 예정이다. AI 기본법에 따른 국내 대리인 지정·신고 절차가 지연되는 이유를 듣고 제도 취지를 설명하는 한편, 대상 사업자들의 조속한 신고를 독려하기 위해서다. 올해 1월부터 시행된 AI 기본법 제36조는 일정 규모 이상의 해외 AI 사업자에게 국내 대리인 지정 의무를 부과한다. 전년도 총매출 1조원 이상이거나 AI 서비스 부문 매출 100억원 이상, 또는 국내 일평균 이용자 100만명 이상인 경우가 대상이다. 이들은 국내 대리인을 지정해 과기정통부에 신고해야 한다. 하지만 국내 대리인 지정과 신고를 모두 마친 사업자는 현재까지 앤트로픽이 유일하다. 구글은 과기정통부에 신청서를 제출한 뒤 보완 절차를 진행 중이며 오픈AI 등은 아직 신고를 완료하지 않은 상태다. 과기정통부 관계자는 "국내 법인 보유 여부보다 실제 서비스 운영 주체가 중요하다"며 "국내 법인이 있더라도 해외 본사가 서비스를 운영하는 경우에는 국내 대리인 지정 필요성이 있다"고 말했다. 이어 "국내 대리인 제도는 해외 본사와 정부를 연결하기 위한 취지"라고 부연했다. 업계에서는 해외 사업자들이 정부와 이미 AI 기본법 관련 협의 채널을 운영해 온 점이 신고 지연에 영향을 미친 것으로 보고 있다. 주요 기업들이 법 시행 이전부터 정부와 AI 기본법 관련 논의를 이어왔고 법제도 개선 논의에도 참여한 만큼 국내 대리인 지정을 시급한 과제로 인식하지 않았다는 분석이다. 다만 과기정통부는 실무 협의와 별개로 공식 지정 절차는 조속히 마무리돼야 한다는 입장이다. 국내 대리인 지정은 규제 당국과 이용자가 국내 연락망을 공식적으로 확인할 수 있는 최소한의 장치라는 점에서 의미가 있어서다. 제도 운영기준도 구체화한다. 한국지능정보사회진흥원(NIA)은 최근 '인공지능 분야 국내 대리인 제도 운영 방안 마련' 연구용역을 발주했다. 국내외 입법례를 비교·분석해 국내 대리인 지정 기준과 업무 범위, 처리 절차 등을 구체화하고 시행령·고시 정비 방향을 마련하는 것이 핵심이다. 개인정보보호법·정보통신망법·전자상거래법 등 국내 유사 제도와 유럽연합(EU)·미국·중국 등 주요국 입법례를 비교해 시사점도 도출할 계획이다. 국회에서도 제도 보완 논의가 이어지고 있다. 조인철 더불어민주당 의원 등이 지난 5월 발의한 개정안에는 국내 대리인 변경 신고 의무화, 국내 법인 우선 지정, 담당자 지정 및 상시 연락체계 확보 등의 내용이 담겼다. 이에 따라 업계에서는 일부 해외 사업자들이 향후 제도 변경 가능성을 고려해 신고 시점을 조율하고 있다는 의견도 나온다. 2025년 10월 시행된 개정 개인정보보호법도 해외 사업자의 국내 대리인 제도를 강화했다. 보호법상 국내 대리인 제도는 AI 기본법과는 별개의 제도지만 해외 사업자의 국내 연락 창구를 확보한다는 점에서 유사한 구조를 갖고 있다. 개정 보호법 경우 국내 대리인 지정 대상인 해외 사업자는 6개월 이내에 해당 사업자가 설립한 국내 법인 등이 있으면 그 법인을 국내 대리인으로 지정해야 한다. 개인정보위가 보호법 개정 시행에 앞서 국내 법인이 있는 해외 사업자를 점검한 결과, 알리익스프레스와 테무, 에어비엔비, 비와이디(BYD), 오라클 등은 국내 법인을 국내 대리인으로 지정하고 있었다. 반면 구글, 메타, 마이크로소프트, 오픈AI, 로보락, 쉬인 등 16개 해외 사업자는 국내 법인을 두고도 법무법인 또는 별도 법인을 국내 대리인으로 지정해 해당 국내 법인으로 변경을 권고받았다. 과기정통부 관계자는 "이미 해외 사업자들과 실무적인 소통은 지속적으로 이뤄지고 있다"며 "국내 대리인 지정과 신고 절차도 가능한 한 조속히 마무리될 수 있도록 사업자들과 계속 협의해 나갈 예정"이라고 말했다.

2026.08.07 14:41이나연 기자

EU AI법 집행 본격화…"국내 영향 제한, 대응은 필수"

전 세계 최초 인공지능(AI) 법률인 유럽연합(EU) 'AI법(AI Act)'이 이달부터 투명성 의무와 범용 AI(GPAI) 모델에 대한 집행·제재 권한을 본격 가동했다. 국내 업계 안팎에서는 AI기본법을 전면 시행 중인 한국에 추가 영향은 크지 않지만 해외 진출 기업의 대응은 필요하다는 진단이 나온다. 3일 업계에 따르면 EU 집행위원회는 지난 2일(현지시간)부터 AI법 제50조에 따른 투명성 의무와 GPAI 모델 제공자에 대한 실제 조사와 행정 과징금 부과 권한을 본격 시행했다. EU는 2024년 8월 AI법 발효 및 거버넌스 체계 구축을 시작으로 2025년 2월 금지 AI 규제, 같은 해 8월 GPAI 규제에 이어 이번 투명성 의무·집행권 가동까지 단계적 규율을 이어가고 있다. 이번 시행에 따라 기업은 챗봇 등 AI 시스템과 상호작용하고 있다는 사실을 이용자에게 고지해야 한다. 또 딥페이크를 포함한 AI 생성·조작 콘텐츠에는 라벨링을 붙여야 하며 감정인식·생체인식 분류 시스템에도 별도 고지 의무가 부과된다. 이미 출시된 기존 시스템의 기계판독 워터마크 의무는 12월 2일까지 유예된다. 같은 날 예정됐던 고위험 AI 규율은 연기됐다. EU 집행위에 따르면 채용·교육·신용평가 등 독립형 고위험 AI 시스템의 준수 시한은 2027년 12월 2일로, 의료기기·기계류 등에 내장된 고위험 AI 규제는 2028년 8월 2일로 각각 연기됐다. 다만 비동의 성적 이미지(NCII)와 아동성착취물(CSAM)을 생성하는 AI 시스템에 대한 신규 금지는 유예 대상에서 제외돼 예정대로 오는 12월 2일부터 시행된다. 법조계는 이번 시한 연기를 규제 요건 자체의 완화로 받아들여서는 안 된다고 평가했다. GPAI 집행과 투명성 의무, 신규 콘텐츠 안전 규제는 올해부터 모두 현실적으로 작동하는 만큼 기업들의 선제 대응이 필요하다는 설명이다. 법무법인 화우는 '국내외 AI 규제, 2026년 하반기 분수령' 보고서에서 "연기된 것은 시한이지 요건 자체가 아니다"라며 "확보된 추가 기간은 준비를 미루는 시간이 아니라 분류·문서화·거버넌스 체계 등을 정비하는 데 활용해야 한다"고 제언했다. 학계에서도 이 같은 해외 AI 규제 동향이 한국 시장에 당장 큰 변수는 아니라고 평가했다. 지난 1월부터 한국 AI기본법이 시행되면서 국내 업계가 자체 규제체계를 정비해 온 만큼, 유럽 AI법 발효 시점에 맞춰 정책을 바꿀 이유가 크지 않다는 것이다. 최경진 가천대 법과대학 교수(한국인공지능법학회장)는 신규 발효된 유럽 AI법 내용에 대해 "한국 기업들이 예전부터 고민해 온 사안들이라 당장 큰 영향을 미칠 것 같지는 않다"면서 "AI기본법 내 딥페이크·고영향AI 등 핵심 조항 개정 과정에서 우리 정부가 EU의 구체적인 기준을 참고하게 될 가능성은 있다"고 내다봤다. 해외 시장에 진출했거나 기술 수출을 타진 중인 국내 기업들의 부담은 커질 것이라는 전망도 나온다. 박정호 뉴엔AI 전무는 "EU AI법은 위험도에 따라 AI 시스템을 차등 규제하는 방식인 만큼 해외 진출을 준비하는 국내 기업들의 컴플라이언스 부담은 커질 수밖에 없다"면서도 "이런 규제 흐름이 오히려 국내 AI 산업의 신뢰성과 글로벌 경쟁력을 높이는 계기가 될 수 있다"고 말했다. 이어 "국내에서도 AI 시스템을 개발·검증할 수 있는 규제 샌드박스에 대한 정부 지원이 이뤄졌으면 한다"고 덧붙였다.

2026.08.03 16:16이나연 기자

정부, AI기본법 후속 법령 시행…"산업 지원 확대·위험 관리 가속"

정부가 인공지능(AI) 산업 육성과 위험 관리를 아우르는 AI법·제도 체계를 추가 가동한다. 21일 정부에 따르면 AI기본법 시행령과 하위 고시 등 후속 법령이 이날부터 시행됐다 이번 제도 시행으로 AI 산업 육성책과 안전·신뢰 확보 의무가 산업 현장에 적용된다. 우선 정부는 국가기관과 지방자치단체 공공기관이 제품·서비스를 구매할 때 AI 활용 제품을 우선 고려하도록 지원한다. 공공부문을 AI 제품·서비스 초기 수요처로 활용해 민간 시장 확대를 이끌겠다는 취지다. AI 기술 활용 여부를 확인하는 'AI 제품·서비스 확인제도'도 추진된다. 기업이 확인서를 받으면 다수공급자계약 참여 요건 완화와 총액계약 적격심사 가점 등 공공조달 시장에서 우대를 받을 수 있다. AI 이용이 어려운 국민을 지원할 수 있는 법적 근거도 마련됐다. 국가와 지방자치단체는 장애인과 고령자, 경력보유여성 구직자 등에게 AI 제품·서비스 이용 비용을 지원할 수 있다. 정부는 AI 기업과 전문인력 육성 정책도 확대한다. AI 전문인력 교육과 취업을 지원하고 모태펀드로 AI 창업기업에 대한 투자를 추진할 방침이다. 공공데이터를 AI 학습에 활용하기 위한 제공 기준도 구축된다. 공공이 보유한 데이터를 AI 개발에 활용할 수 있도록 제공 방식과 절차를 한층 구체화할 계획이다. 기업들도 제도 시행에 맞춰 내부 대응 체계 정비에 나섰다. 네이버와 카카오, SK텔레콤, KT, LG유플러스, 업스테이지 등은 AI 안전 조직과 위험관리 체계를 구축하고 생성형 AI 결과물 표시를 확대하고 있다. 업계에선 생성형 AI 표시 의무 적용 범위가 여전히 모호하다는 지적이 나온다. AI를 어느 정도 활용해야 표시해야 하는지 명확하지 않다는 이유에서다. 또 사람이 결과물을 편집하거나 검수했을 때도 같은 의무가 적용되는지를 두고 혼선이 이어지고 있다. 고영향 AI 판단 기준도 주요 쟁점이다. 의료와 금융, 채용, 교육 분야에서 어떤 서비스가 사람 생명과 안전 기본권에 중대한 영향을 미치는지를 미리 판단하기 어려워서다. 이에 기업들은 서비스 출시 전 법률 검토와 위험 평가에 추가 비용을 투입해야 할 가능성이 커졌다. 인력과 자금이 부족한 스타트업에는 규제 대응 비용이 시장 진입 장벽으로 작용할 수 있다는 우려가 나오고 있다. 해외 주요국은 산업 환경에 따라 서로 다른 규제 방식을 택하고 있다. 미국과 일본은 산업 육성과 기술 혁신에 무게를 두고 있으며, 유럽연합(EU)은 AI 시스템 위험 수준에 따라 의무를 차등 부과하는 AI법을 단계적으로 시행하고 있다. 정부는 최소 1년 이상 계도기간을 운영할 계획이다. 이 기간 산업계 의견과 적용 사례를 수렴해 고영향 AI 판단 기준과 생성형 AI 표시 방식을 가이드라인에 구체화할 방침이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "공공부문이 마중물이 돼 혁신적인 AI 기술을 신속하게 도입하고 국민에게 더 우수한 공공서비스를 제공하겠다"고 말했다.

2026.07.21 09:40김미정 기자

조인철 의원, '우리아이 AI 안심 패키지법' 발의...유해정보 노출 방지

생성형 AI가 아이들의 친구이자 상담자가 되는 시대에 아동과 청소년을 위험한 대화와 유해정보로부터 보호하기 위한 법적 안전망 구축이 추진된다. 더불어민주당 조인철 의원은 아동 청소년이 안전한 환경에서 인공지능을 이용할 수 있도록 국가의 책임과 AI 서비스 제공자의 안전설계와 보호의무를 강화하는 내용의 '우리아이 AI 안심 패키지법'을 대표발의 했다고 23일 밝혔다. 인공지능 환경에서 아동 청소년 보호를 국가 AI 정책에 반영하는 인공지능기본법 개정안과 생성형 AI 챗봇 등 대화형 AI 서비스 이용 과정에서 아동 청소년 보호조치를 강화하는 정보통신망법 개정안으로 구성됐다. 최근 생성형AI 챗봇은 단순한 검색과 학습 도구를 넘어 아동 청소년의 대화 상대, 고민 상담 창구, 정서적 교류 대상으로 활용되고 있다. 아동복지 전문기관인 초록우산 실태조사에 따르면 아동 청소년의 94.4% 가 생성형 AI 챗봇을 이용하고 있으며 응답자의 49.5% 는 “AI 로부터 자신을 이해받는다고 느낀다”고 답했다. AI 이용이 빠르게 일상화되는 속도에 비해 아동 청소년을 위험한 대화와 유해정보로부터 보호할 제도적 장치가 충분하지 않다는 점은 문제로 꼽힌다. 실제로 자살 자해 등 유해한 질문을 한 아동 청소년 상당수가 AI로부터 어떠한 차단이나 제어 없이 위험한 답변을 제공받은 것으로 조사됐다. 약물 오남용, 성적 착취와 학대 위험, 과의존 등 AI 부작용으로부터 아이들을 지킬 공적 보호장치 마련이 시급하다는 지적이 나오는 이유다. 인공지능기본법 개정안은 아동 청소년을 '인공지능취약계층'에 포함하도록 했고 국가 인공지능 기본계획에 '인공지능취약계층'의 피해 예방과 보호 사항을 반영하도록 했다. 또 정보통신망법 개정안은 대화형 생성형 AI 서비스 제공자에게 아동 청소년 보호의무를 부과한다. 구체적으로 ▲이용자 연령 및 본인 확인 ▲아동 청소년 이용 시 법정대리인 동의 ▲법정대리인 요청시 이용 방법과 시간 제한 ▲이용자가 참여한 대화의 일시와 내용 등 정보 제공 ▲자살, 자해, 마약류 오남용, 성적 착취 등 위험 노출에 대한 신고 시스템 구축 및 위험 제거 조치 등을 의무화했다. 조 의원은 “이제 아이들은 사람뿐 아니라 AI 와도 관계를 맺고 고민을 털어놓고 정보를 얻는 시대를 살고 있다”며 “AI 가 아이들의 일상 속에 깊이 들어온 만큼 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선으로 고려해야 한다”고 말했다. 이어, “법안의 핵심은 AI 기술의 발전을 저해하는 것이 아니라 아이들이 더 안전하고 건강하게 AI 혜택을 누릴 수 있는 튼튼한 생태계를 조성하는 것”이라며 “디지털 환경에서 아이들의 권리와 안전을 지키는 일은 한 시도 미룰 수 없는 시대적 과제인 만큼 입법 통과에 총력을 다하겠다”고 강조했다.

2026.06.23 09:58박수형 기자

"우리 회사 AI도 규제 대상일까?"…KOSA, AI 기본법·AX 실전 해법 제시

한국인공지능·소프트웨어산업협회(KOSA)가 현장 상담 사례를 기반으로 인공지능(AI) 기본법 규제 대응 가이드를 제시했다. AI 도입 과정에서 기업이 우려하는 규제 리스크를 사전에 식별하고 대응 방안을 마련하기 위한 취지다. 안홍준 KOSA 본부장은 18일 강원 춘천 엘리시안 강촌에서 열린 "제3회 KOSA 리더스 포럼"에서 'AI 기본법 지원 데스크 사례집'과 'AX 사례집'의 주요 내용을 소개하며 기업이 실제 현장에서 활용할 수 있는 기준을 제시했다. 안 본부장은 "기업 문의는 법 조항 해석보다 우리 서비스가 규제 대상인지, 사업 운영 과정에서 어떻게 적용해야 하는지에 집중됐다"며 "약 800건의 상담 사례를 분석해 실무 적용 기준을 정리했다"고 말했다. AI 활용 기업, 모두 규제 대상 아냐…핵심은 "직접 서비스 여부" AI 기본법과 관련해 기업들의 가장 큰 관심은 규제 대상 범위였다. 안 본부장은 타사 API를 차용해 마케팅 포스터를 제작하는 등 AI를 도구로 쓰는 일반 '이용 기업'은 기본적으로 규제 및 의무 대상이 아니라고 밝혔다. AI 모델을 직접 개발하거나 AI 기반 서비스를 제공하는 사업자가 주요 관리 대상이며, 단순 이용 기업은 적용 범위가 다르다는 설명이다. 가장 질문이 많았던 AI 생성물 표시(워터마크) 의무에 대해서는 단일 표준 양식은 존재하지 않지만 AI 활용 사실을 투명하게 알리는 것이 중요하다고 강조했다. 안 본부장은 "워터마크나 고지 문구는 눈에 보이지 않는 메타데이터 심기나 오디오 파일 앞부분의 짧은 음성 안내 등 이용자가 합리적으로 AI 생성물임을 인지할 수 있는 방식이라면 모두 의무를 다한 것으로 인정된다"고 설명했다. 채용, 금융 대출 심사, 의료, 교육 등 고위험 분야의 '고영향 AI' 여부를 가르는 핵심은 '인간의 개입 여부'다. AI는 참고용 보조 지표만 제공하고 최종 판단을 사람이 내리는 프로세스라면 고영향 AI 대상에서 제외된다. AI가 인간의 개입 없이 스스로 최종 의사결정을 내릴 때만 규제 대상이 된다. 안 본부장은 과기정통부의 조사 및 과태료 부과 조항이 최소 1년 이상 유예되는 점을 짚으며, "우리 AI 기본법은 강력한 처벌 중심의 유럽연합(EU) AI ACT와 달리 기업의 '자율 준수'에 방점을 두고 안전한 생태계를 조성하는 데 목적이 있다"고 강조했다. AX 핵심 사례…"운영 구조 혁신 지원" AX 사례집에서는 기업이 AI를 실제 업무 혁신으로 연결한 사례가 공유됐다. 대표적으로 한 기업은 한글 문서(HWP) 기반 업무 환경에서 AI 처리 구조를 구축해 문서 데이터를 자동 변환·활용할 수 있도록 만들었다. 이를 통해 반복 업무 인력을 최대 93%까지 절감했다. 또 다른 핵심 사례 베슬AI코리아는 AI 학습 과정에서 유휴 상태의 GPU를 자동으로 중단하고 재개하는 방식의 자원 최적화 기술을 적용해 AI 인프라 운영 비용을 크게 절감했다. 이는 AI 학습 및 서비스 운영 과정에서 발생하는 GPU 비용 부담을 줄인 대표적인 AX 사례로 소개됐다. 안 본부장은 "AX는 단순한 AI 도입이 아니라 데이터, 업무 프로세스, 조직 운영 체계를 AI 중심으로 재설계하는 과정"이라며 "기술 도입보다 운영 설계와 거버넌스 구축이 성공의 핵심"이라고 강조했다.

2026.06.18 17:30남혁우 기자

"피지컬AI 시대 사라진 일자리 사다리...새로운 교육 필요"

AI 기술이 로봇, 자율주행 등 현실 세계와 결합한 피지컬AI로 급속히 발전하며 청년 고용 시장의 양극화와 인간 생명을 위협하는 보안 공백에 대한 우려가 제기됐다. 전문가들은 현행 교육, 고용 제도와 데이터 보호에만 치중된 AI 법 제도만으로는 위기를 막을 수 없다며, 전면적인 거버너스 개편과 범정부 차원의 컨트롤타워 구축을 촉구했다. 송영희 서울과학종합대학원 객원교수는 20일 국회서 열린 '피지컬AI 시대, 일자리와 보안' 포럼에서 “AI가 중간 지대 노동을 대체하며 노동 시장이 저숙련, 고숙련 두 축으로 양극화되고 있다”며 “일자리 사다리가 사라지고, 고숙련만을 요하는 경력직 선호 현상이 뚜렷해 청년층 고용 불안 해소를 위한 정책이 시급하다”고 밝혔다. 특히 “급변하는 기술 주기가 현재 한국 교육 시스템에 반영되지 못하고 있다”고 진단했다. 신입 채용 문이 좁아진 상황에서 청년이 학교에서 배우는 내용과 현장 AI 기반 직무 역량이 달라 고용난이 심화하고 있다는 설명이다. 해외 주요국은 AI 인재 양성을 위해 이미 관련 커리큘럼을 구성했다. 미국은 대형 IT 기업이 주도해 과학, 기술, 공학, 수학(STEM) 교육을 강화하고 있고, 일본은 고등학교부터 프로그래밍 등 교육을 필수 과목으로 지정했으며, 에스토니아는 국가 차원에서 유치원생에게 코딩, AI 원리를 가르친다. 이에 따라 한국도 교육, 숙련, 신산업 발굴 등 AI 시대 고용 전 과정을 지원하는 정책을 마련해 AI 인재를 양성하고, 실무 현장에 투입해야 한다는 주장이 힘을 얻는다. 교육 현장에선 AI 신직무 특화 '마이크로 디그리' 채용 가점제 법제화, AI 신기술 실무 인턴십 조세특례제도, '고성능 AI 컴퓨터 바우처' 지원 등이 우선 과제로 꼽혔다. 송 교수는 “현재 교육부 매치업 프로그램이나 대학 내 소단위 전공 제도는 취업 시 가산점으로 작동하지 않아 청년들에게 매력도가 떨어진다. AI 교육 이수로 발급되는 마이크로 디그리가 실질적으로 가산점으로 부여돼야 한다”고 짚었다. 이어 “바우처를 청년들에게 직접 지급해 법인 설립 전이라도 GPU 서버 등 핵심 인프라를 무상 이용할 수 있도록 해야한다”고 했다. 이후 숙련 단계에선 AI 긱워커 등 신유형 노동에 맞춘 고용 보험 기준 변화, AI 신산업 상생 연대 기금 조성 등을 제시했다. 신 교수는 “지금은 고용 보험이 전통적 정규직 중심으로 설계돼 프리랜서 코더 등 AI 기반 노동자를 보호하지 못하고 있어 기준을 현행 근로 시간 중심에서 개인 총 소득 기준으로 바꿔야 한다”고 말했다. 기금과 관련해선 “정부와 기업이 AI 사업을 위해 1대1 매칭 펀드를 조성해 청년 디지털 교육과 실질자 전직 지원에 사용해야 한다”고 했다. 아울러 송 교수는 AI 인재 육성을 위해 현재 교육부, 과학기술정보통신부, 고용노동부로 나뉘어진 인재 양성 사업을 하나로 통합해 범부처 차원의 '국가디지털인재위원회'를 설치해야 한다고 주장했다. “AI 기본법, 피지컬AI 보안 위협 대응 못해” 노영규 연세대 바른ICT연구소 교수는 피지컬AI가 촉발한 보안 문제를 다뤘다. 노 교수는 “과거 해킹이 데이터 유출 수준이었다면, 피지컬AI 해킹은 인간을 해치고 국가 기반 시설을 파괴하는 물리적 위협으로 진화하고 있다”며 “피지컬 AI 보안을 위한 범정부 차원의 대책을 마련해야 한다”고 밝혔다. 노 교수는 “잔디깎이 로봇 백도어 보안이 뚫려 원격으로 상대 감시가 가능하다면 이 로봇이 사람에게 돌진할 수 있는 '현장성'을 갖게 된다”며 “만약 특정 제조사 로봇 수천 대가 같은 비밀번호를 공유한다면 로봇 한 개의 비밀번호만 해킹돼도 로봇 수천 개가 인간을 위협하는 도구로 변모할 수 있다”고 설명했다. 이같은 보안 위협이 국가 인프라에 다다른다면 국가 전체가 위험에 빠질 가능성도 농후하다. 실제 러시아 우크라이나, 가자지구 전쟁 등에선 군사 로봇이 사용되고 있는데, 만약 적이 아군 로봇을 해킹한다면 아군 전력이 적군의 것으로 역이용될 위험이 크다. 최근 공격 AI의 급속한 발전도 보안 위협 요소로 작용한다. 노 교수는 “앤트로픽 미토스 등 최신 AI 모델은 보안 특화 모델이 아님에도 스스로 취약점을 찾아내 악성코드를 자율 생성, 변형하는 수준에 이르렀다”며 “강력한 AI 모델이 나올수록 위험이 커질 수밖에 없다”고 말했다. 강대엽 AI메트리카 연구소 소장은 “피지컬AI는 움직이는 센서와 행동 시스템이 기반이라는 점에서 보안이 뚫리면 현실의 물리적 차원으로 위협이 확장된다”며 “교통, 군사, 경제 등이 결합한 위협이므로 사고 이전 책임 설계에 대한 논의가 필요하다”고 짚었다. 노 교수는 “지금 피지컬AI 보안에 대응하지 않으면 국민 안전과 국가 안보 차원에서 큰 피해를 입을 수 있다”며 “기술적으론 설계 단계부터 보안을 내장하는 시큐리티 바이 디자인과 제로트러스트 아키텍처를 도입해야한다”고 주장했다. 국가 차원의 통합 거버넌스 구축에 대한 필요성도 제기됐다. 노 교수는 “AI 기본법 등 현행 AI 법 제도는 개인 정보, 저작권 중심으로 설계돼 피지컬 AI 보안을 충분히 보장하지 못한다”며 “현재 AI 보안 주무 부처가 과학기술정보통신부, 산업통상자원부, 국토교통부로 주무 부처가 나뉘어있어 규제가 파편화된 것도 문제다”고 진단했다. 그러면서 “범정부 차원의 피지컬AI 안전위원회를 설치하고, 피지컬AI 안전 보안 특별법을 제정해 AI 기본법의 공백을 메워야 한다”고 강조했다.

2026.05.20 16:00홍지후 기자

엔트로픽만 대리인 지정..."해외 AI 기업 법적책임 강화해야"

오픈AI와 구글과 같은 해외 AI 기업에 대한 국내 법적 책임을 강화하기 위한 입법이 추진된다. 더불어민주당 조인철 의원은 13일 해외 AI 사업자의 국내대리인 지정과 관리 절차를 강화하는 내용을 골자로 한 AI기본법 개정안을 대표발의 했다고 밝혔다. AI 챗봇, 생성형 AI, 추천 알고리즘, 자동화 의사결정 시스템 등 AI 서비스는 이미 국민 생활과 산업 현장 전반에 깊숙이 자리 잡고 있으나 위법행위나 사고가 발생했을 때 해외 본사에 대한 국내 법 짛행과 후속 조치 이행을 담보하기 어렵다. 국내 AI 기업은 법 위반 시 자료 제출, 시정 요구, 제재 등 국내 법령에 따른 책임을 지는 만면 해외 AI 기업은 국내 책임 주체가 불분명할 경우 정부의 자료 제출 요구나 후속 조치 이행을 담보하기 어려워 국내 기업만 규제 부담을 지는 역차별 우려도 나온다. 현행 AI 기본법은 국내에 주소 또는 영업소가 없는 일정 규모 이상의 해외 AI 사업자에게 국내대리인을 지정하도록 하고 있다. 구체적으로는 전년도 매출액 1조 원 이상, AI 서비스 부문 매출액 100 억 원 이상, 일평균 국내 이용자 수 100 만 명 이상인 경우 등이다. AI 서비스 관련 사고로 자료 제출을 요구받은 경우에도 지정 대상이 될 수 있다. 그럼에도 현행 제도는 대리인 변경 시 신고 의무가 명확하지 않고 정부와의 상시 연락 유지 기준도 미흡하다. 특히 해외 AI 사업자가 국내 법인을 두고 있는 경우에도 해당 법인을 국내대리인으로 우선 지정하도록 하는 근거가 부족해 사업 운영 실태를 알지 못하는 형식적 대리인이 지정될 가능성도 있다. 조인철 의원실에 따르면 현재 과학기술정보통신부에 국내대리인을 신고한 해외 AI 기업은 앤트로픽 한 곳에 불과하다. 이에 따라 개정안은 국내대리인 제도를 단순한 행정 절차가 아니라, 해외 AI 기업의 국내 책임을 확보하는 실질적 장치로 강화하는 데 초점을 맞췄다. 주요 내용은 ▲국내대리인 변경 시 과기정통부 장관에게 변경신고 의무화 ▲해외 AI 사업자가 국내 법인을 설립한 경우 해당 법인을 국내대리인 우선 지정 ▲국내대리인의 성명, 주소, 연락처, 담당자 정보를 인터넷 사이트 등에 공개하고 과기정통부에 통보 등이다. 또 ▲국내대리인이 과기정통부와 상시 연락이 가능하도록 필요한 조치를 취하도록 하고 ▲관련 의무 위반 시 3000만원 이하의 과태료를 부과할 수 있도록 했다. 조인철 의원은 “AI 서비스는 이미 국경을 넘어 국민 일상과 산업 전반에 중대한 영향을 미치고 있지만 책임 체계는 여전히 해외 본사의 선의에 기대는 수준에 머물러서는 안 된다”고 말했다. 이어, “AI 기본법상 국내대리인 지정 대상이 규정돼 있음에도 실제 신고 기업이 엔트로픽 단 한 곳에 그친 것은 제도의 실효성을 재점검해야 한다는 명확한 신호”라며 “국내대리인은 단순한 우편함이나 연락창구가 아니라 국내 이용자 보호와 정부 대응을 위한 실질적 책임창구가 되어야 한다”고 강조했다.

2026.05.13 12:02박수형 기자

[기고] 조직 안에 들어온 AI 에이전트…'누가 통제하는가'가 경쟁력

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI 업계 화두가 생성형 AI에서 'AI 에이전트'로 넘어온 지도 꽤 됐다. 최근엔 기업들이 이를 실제 업무에 적용하기 시작하면서 분위기가 달라지고 있다. AI는 이제 단순히 질문에 답하는 수준을 넘어 목표를 이해하고 여러 단계를 거쳐 실제 행동까지 수행한다. 회의 내용을 정리하고 이메일을 보내는 수준 이상으로 일정 조율, 보고서 작성, 고객 응대, 계약서 검토까지 수행한다. 영업·인사·법무 등 업무별 특성에 맞춘 '개인화된 에이전트 AI'를 구축하는 사례들도 늘고 있다. 하나의 범용 AI가 아니라 조직 내부 역할과 업무 흐름에 맞춰 여러 개 AI 동료를 배치하기 시작했다는 점이 인상적이다. 앞으로는 전사자원관리(ERP)·고객관리(CRM)·그룹웨어와 연결해 기업 내부 의사결정 과정 자체에 개입할 가능성도 크다. 문제는 여기서부터다. AI 에이전트는 사용자 목표를 해석하고 필요한 정보를 탐색하며, 여러 선택지 중 하나를 스스로 결정한다. 때로는 인간이 예상하지 못한 방식으로 문제를 해결하기도 한다. AI 에이전트에게 "출장 비용을 절감하라"는 목표를 부여했다고 가정해 보자. 에이전트는 항공권 가격을 비교하고 호텔을 예약하며 공급업체와 자동 협상을 진행할 수 있다. 이 과정에서 특정 거래처를 반복적으로 우대하거나 내부 승인 절차를 우회하는 판단을 내린다면 어떻게 될까. 기존 법체계는 기본적으로 '누가 결정했는가'를 중심으로 책임을 판단해 왔다. 하지만 AI 에이전트 시대엔 이 질문이 점점 어려워진다. 인간이 직접 지시하지 않았더라도 AI가 스스로 최적화를 수행하는 과정에서 문제가 발생할 수 있기 때문이다. AI 기본법이 고영향 AI에 투명성 확보와 안전성 검토, 위험관리 체계 구축을 요구하는 것도 같은 맥락이다. 이는 단순한 기술적 안전장치 문제가 아니라, 기업 내부에서 AI에 어떤 권한을 부여하고 누가 이를 관리·감독할 것인지에 관한 거버넌스 문제에 가깝다. 결국 중요한 것은 AI 성능만이 아니다. 기업이 AI에게 어디까지 권한을 부여할 것인지, 인간의 개입 지점을 어디에 둘 것인지, 그리고 문제 발생 시 책임 구조를 어떻게 설계할 것인지가 새로운 경쟁력이 될 수 있다. AI 에이전트는 더 이상 단순한 소프트웨어가 아니다. 그렇다고 완전한 의사결정 주체도 아니다. 앞으로의 경쟁은 단순히 더 좋은 AI를 보유하는 것이 아니라, AI를 얼마나 안전하고 신뢰 가능하게 통제할 수 있는가를 중심으로 전개될 가능성이 크다.

2026.05.07 16:33강정희 컬럼니스트

기업 94.6%, AI 기본법 '내용 몰라'…법 시행에도 현장 대응 미흡

기업 10곳 가운데 9곳 이상이 올해 시행된 '인공지능(AI) 기본법' 내용을 제대로 알지 못하는 것으로 나타났다. 법 시행에도 현장 대응은 여전히 초기 단계에 머물러 있다는 지적이다. 한국표준협회(회장 문동민)는 기업 종사자 368명을 대상으로 실시한 설문조사 결과, 응답자의 52.8%가 법 시행 사실 자체를 모르고 있었고 41.8%는 시행 사실은 알고 있으나 구체적인 내용을 모른다고 답했다. 지난 1월 22일 시행된 AI 기본법은 고영향 AI와 생성형 AI에 대해 투명성 확보, 안전성 검증, 영향평가 등을 요구하고 있다. 그러나 이번 조사 결과는 기업이 이러한 규제 환경 변화에 충분히 대응하지 못하고 있음을 보여준다. 기업의 AI 윤리 대응 현황을 살펴보면, 교육 제공(36.1%)과 내부 가이드라인 보유(29.2%) 등 기초적 준비는 어느 정도 갖츤 반면에, 전담 조직 운영(18.8%), 모니터링 체계 구축(11.2%), 외부 인증 도입(4.7%) 등 조직·시스템 기반 실질적 대응은 미흡한 것으로 나타났다. AI 윤리 대응이 아직 교육·가이드라인 중심의 초기 단계에 머물러 있으며, 실제 운영 체계로는 충분히 확장되지 못했음을 시사한다. 표준협회는 기업의 AI 기본법 대응을 지원하기 위해 오는 29일, '2026년 AI 기본법 대응 세미나'를 개최한다. 세미나는 AI 윤리와 안전 요구사항을 중심으로, 법·제도 이해를 넘어 실무 적용을 위한 대응 방향을 제시하는 데 목적이 있다. 주요 프로그램은 ▲AI 기본법 주요 내용과 기업 대응 전략 ▲AI 안전 확보 방안 ▲AI 윤리 및 영향평가 프레임워크 ▲국내외 AI 인증 동향 등으로 구성된다. 이번 세미나는 PwC컨설팅, 인공지능안전연구소(AISI), 정보통신정책연구원(KISDI) 등 분야별 전문기관이 참여해 법·정책·안전·윤리 전반을 아우르는 강의를 제공한다. 문동민 표준협회 회장은 “AI 기본법 시행에 따라 기업과 기관 대응은 선택이 아닌 필수 과제”라며 “표준협회는 실무 중심 교육을 통해 현장의 AI 윤리 대응 역량 강화를 지원할 계획”이라고 밝혔다. 세미나는 29일 서울 강남 퓨처밸류캠퍼스에서 개최한다. 참가 신청은 표준협회 교육 홈페이지에서 하면 된다.

2026.05.04 11:12주문정 기자

"AI기본법 규제유예 안된다...가이드라인 없으면 기업 위험"

국회 과학기술정보방송통신위원장을 맡고 있는 더불어민주당 최민희 의원은 “(AI 기본법을) 1년 시행해 보고 기업들이 그 정도의 최소한의 규제 때문에 안 된다고 생각하면 그때 (규제 유예를) 논의해야 한다”고 밝혔다. 14일 열린 과학기술정보방송통신위원회 전체회의에서 최 의원은 AI기본법의 규제 유예 의견에 이같이 말했다. 최 의원은 “기업들의 모든 의견을 수렴해서 지금으로서는 최적의 상태를 만들어 낸 것”이라며 “그런데 지금 이 시점에서 시행도 제대로 해보지 않고 시행되는 과정에 크게 문제도 없는데 다시 규제 유예를 얘기하는 것은 너무 마음이 급한 것이라고 생각한다”고 꼬집었다. 이어, “왜 국가를 두겠냐”며 “만약 효율성만을 따지면 그냥 삼성이 대한민국 대통령도 하고 뭐도 하고 다 하게 할텐데, 그렇게 하지 않은 이유가 있다”고 덧붙였다. 그러면서 “국회의원 중에는 모든 규제를 없애자는 이들도 있고, 기업은 규제가 없으면 좋을 것”이라면서도 “AI 생산물이 최소한의 AI 표시제도 없이 막 유통되는 현상을 막기 위해 최소한(의 규제를) 둔 것인데 이런 식으로 되돌리려는 시도는 정말 안 된다고 생각한다”고 강조했다. 조국혁신상의 이해민 의원도 같은 뜻을 밝혔다. 이 의원은 “기업에서 굉장히 오랫동안 일했던 사람으로서 진흥을 위한 최소한의 규제 정말 필요하다고 본다”며 “규제가 없으면 (산업 현장에서) 가이드라인이 없어져 기업에서도 위험도가 올라간다”고 했다. 이 의원은 또 “과학기술정보통신부가 시행령을 꼼꼼하게 준비했다고 보고 최소한의 규제는 유지해야 한다”고 밝혔다.

2026.04.14 17:08박수형 기자

[현장] 조항 손질 나선 AI 기본법…"미래 세대 보호·신뢰 회복까지 담아야"

인공지능(AI) 기본법 개정 논의가 기술 진흥과 규제의 이분법을 넘어 미래 세대 보호와 사회적 신뢰 회복이라는 근본적인 과제로 수렴하고 있다. 정부가 AI 기본법 시행 두 달 만에 일부 조항에 대한 제도 손질에 돌입한 가운데 국회에서도 현행법의 빈틈을 메우기 위한 다각적인 논의에 속도를 내고 있다. 박형빈 서울교육대학교 신경윤리가치AI융합교육연구소 소장은 31일 국회의원 연구단체 국회 인공지능(AI) 포럼이 서울 여의도 국회 의원회관에서 개최한 'AI 윤리 정책의 미래와 AI 기본법 개정 방향' 특별강연에서 "신뢰 없는 혁신은 지속 불가능하고 규범은 현실을 따라가지 못한다"며 "AI 리터러시와 디지털 시민성 교육을 아우르는 국가 전략이 필요하다"고 밝혔다. 과학기술정보통신부는 지난 25일 'AI 기본법 제도개선 연구반' 착수회의를 열고 배포자 정의 신설과 딥페이크 범위 한정, 고영향AI 기준 조정 등 5개 핵심 조항의 수정 방향을 내부적으로 제시했다. AI 기본법 공식 시행 두 달 만에 연구반을 가동한 것은 하위법령 마련 과정에서 수렴된 산업계 의견 중 법률 개정이 불가피한 사안이 다수 확인됐기 때문이다. 이날 포럼에선 현행법 조항 손질을 넘어 미래 세대 보호와 사회적 신뢰 회복이라는 더 근본적인 개정 방향까지 화두로 떠올랐다. 박 소장은 청소년기엔 충동 억제와 판단력이 구조적으로 취약하다는 신경과학적 근거를 제시했다. 2025년 기준 국내 고등학생의 80~90%가 생성형 AI를 사용하는 반면 전두엽이 완전히 성숙하는 시기는 여성 20세, 남성 26~27세 수준이다. 2024년 미국 플로리다에서 AI 동반자 앱과 대화하던 10대가 극단적 선택을 한 사건, 2025년 캘리포니아에서 챗GPT 보호장치를 우회해 자살 방법을 얻어낸 사건 등 해외 피해 사례도 소개됐다. 국내 상황도 이와 다르지 않다. 서울시가 진행한 청소년 스마트폰·디지털 정신건강 실태조사에 따르면 청소년 과의존 위험군이 40%에 달했고 딥페이크·사이버폭력 가해자의 60~70% 이상이 미성년자로 나타났다. 박 소장은 "AI가 우리 생각과 사고, 판단에 영향을 주는 시대에 인간 존엄성을 어떻게 지킬 것인지를 먼저 물어야 한다"고 강조했다. 유관부처 관계자와 업계 전문가들은 AI 기본법의 추가 정교화가 필요하다는 데 뜻을 같이하면서도 각자 관점에서 서로 다른 과제를 제언했다. 이지현 교육부 인공지능융합인재양성과장은 최근 진행 중인 입법 진행 상황을 공개했다. 김민전 의원이 발의한 교육기본법 개정안은 국가와 지방자치단체가 학생·교원의 AI 활용 능력 증진과 AI 윤리 교육 시책을 수립·실시하도록 의무화하는 내용을 담았다. 전날 법사위를 통과한 이 개정안은 이날 오후 본회의에 상정될 예정이다. 강경숙 의원이 발의한 인공지능교육진흥법안 경우 학생 평가 영역에서 활용되는 AI 시스템을 AI 기본법상 고영향 AI로 정의하고 영향 평가를 실시하도록 한다. 이 과장은 "AI 기술 변화 속도가 빨라 세부 규제를 모두 법령에 담기엔 적시성 한계가 있다"며 가이드라인과 지침 병행이 불가피하다고 피력했다. 최우석 과기정통부 인공지능안전신뢰지원과장은 AI 기본법의 역할 범위와 규제 설계 방식에 대한 신중론을 제기했다. 산적한 논의 사항을 AI 기본법 조항에 추가할 것인지, 기존 교육법·의료법 등 개별 법률을 고도화할 것인지를 따져야 한다는 의미다. AI 생성물 표시 의무와 관련해선 현행 규정의 구체화 필요성을 제기했다. 해당 표시 목적이 사후 추적인지 이용자의 즉시 인지인지에 따라 의무 주체가 개발자 또는 게시자로 구분되기 때문이다. 최 과장은 "규제는 한번 만들면 풀기 어렵기 때문에 조심스럽게 설계해야 한다"고 말했다. 방은주 지디넷코리아 선임기자는 정책 논의 전제 조건을 문제 삼았다. 현행 AI 기본법은 AI를 '인간의 지능적 기능을 전자적으로 구현한 것'으로 정의한다. 그러나 AI가 이미 일부 영역에서 인간 지능을 넘어선 만큼 이 정의 자체를 재검토할 필요성이 있다고 지적했다. 규제 대상 중 최고 계층에 있는 고위험 AI의 기준이 10의 26승(1양) 플롭스라면서 "어떤 법이 만들어지더라도 사회적 신뢰(트러스트) 기반 없이는 각자의 입장에서 악용될 수 있다"며 우리 사회가 전반적으로 신뢰 수준이 높아져야 한다"고 덧붙였다.

2026.03.31 14:32이나연 기자

AI기본법 지원데스크, 주간 상담 3분의 1로 '뚝'

인공지능(AI)기본법 시행 10주 만에 기업 상담이 552건에 달한 가운데 주간 상담 건수는 3분의 1 수준으로 줄었다. 지원데스크 운영을 통해 현장 이해도가 높아지고 있다는 분석이다. 과학기술정보통신부는 지난 1월 22일 개소한 AI기본법 지원데스크가 전날까지 전화 262건, 온라인 290건 등 총 552건의 상담을 접수했다고 31일 밝혔다. 전화 상담은 즉각 처리했으며 온라인 상담 290건 중 262건은 평균 1일 이내에 답변을 제공했다. 시행 첫 주(1월 22~28일) 132건이었던 주간 상담 건수는 9주 차(3월 19~25일) 44건으로 줄었다. 온라인 상담 접수자 중 약 68.9%가 기업으로 중소·벤처기업이 36.2%, 대기업이 32.7%를 차지했다. 분야별로는 투명성 표시 의무 관련 문의가 51%로 가장 많았고 고영향 AI 해당 여부 관련 질의가 19.6%로 뒤를 이었다. 과기정통부는 현장 질의를 분석해 법 적용 판단 과정까지 담은 사례집도 펴냈다. 기업 현장에선 법 조항 자체가 아니라, 법 조항이 자신의 상황에 어떻게 적용될 것인지에 대한 궁금증이 더 크다는 이유에서다. 이날 발간된 사례집은 ▲AI기본법 개요 ▲주요 조항별 질의응답(FAQ) ▲유형별 심층 답변으로 구성된다. 유형별 답변은 의무 주체 및 적용 대상, 투명성 표시 방법, 고영향 AI 해당 여부, 기타 궁금증 등 네 가지로 분류했다. 질문에 대한 결론에 그치지 않고 결론에 이르는 판단 과정까지 상세히 제시한 것이 특징이다. 부록엔 스타트업 등 준법 인력·비용이 부족한 기업이 자체 활용할 수 있는 체크리스트와 AI 피해 유형별 대응 안내를 수록했다. 사례집은 과기정통부와 한국인공지능·소프트웨어산업협회(KOSA) 지원데스크 누리집에서 무료로 내려받을 수 있다. 과기정통부는 시행 초기 제도 안착을 위해 지원데스크를 지속 운영하며 법률 컨설팅과 기술자문까지 지원할 계획이다. 이진수 과기정통부 인공지능정책기획관은 "지원데스크 상시 운영과 사례집 발간으로 스타트업을 포함한 기업들이 AI기본법 이행에 부담을 느끼지 않도록 적극 지원하겠다"며 "접수된 현장 애로사항은 심층 분석해 향후 제도 개선에도 활용하겠다"고 말했다.

2026.03.31 12:00이나연 기자

시행 두 달만 재정비 나선 AI기본법…배포자·딥페이크·안전성 등 '수술대'

정부가 '인공지능(AI)기본법' 시행 두 달 만에 딥페이크·고영향AI 등 핵심 조항의 구체적 수정 방향을 내부적으로 제시하고 본격적인 제도 손질에 나섰다. 27일 정보기술(IT)업계에 따르면 과학기술정보통신부는 지난 25일 개최한 'AI기본법 제도개선 연구반' 착수회의에서 법률 개정이 필요한 사항으로 ▲'배포자(Deployer)' 정의 신설 ▲딥페이크 범위를 '사람에 대한 결과물'로 한정 ▲안전성 기준을 누적연산량에서 실제 위험성 기준으로 변경 ▲고영향AI 범위 축소 및 정부 관리 데이터베이스(DB) 등록제 도입 ▲공공분야 AI시스템 영향평가 결과 공개 의무화 등 5개 항목을 명시했다. 이들 쟁점은 확정된 의제가 아니라 AI기본법 하위법령 마련 과정에서 수렴된 의견 중 법률 개정이 필요하다고 판단한 사안을 예시로 든 것이다. 다만 업계는 추후 진행될 논의가 이 틀에서 크게 벗어나지 않을 것으로 내다본다. 5개 항목을 세부적으로 살펴보면 딥페이크 범위 축소와 고영향AI 범위 조정 등 산업계가 지속 요구해 온 사안이 다수 포함됐다. 배포자 정의는 현행법의 의무 주체 구분 방식에서 비롯된 문제다. AI기본법은 의무 대상을 AI를 직접 개발하거나 개량하는 '개발사업자'와 이미 만들어진 AI를 제품·서비스로 제공하는 '이용사업자'로 나누고 있다. 반면 AI기본법보다 먼저 제정된 유럽연합(EU)의 'AI 액트(Act)'는 모델을 개발하는 '제공자(Provider)'와 이를 실제 서비스에 적용하는 '배포자(Deployer)'를 별도로 구분해 각각 다른 의무를 부과한다. 국내법엔 배포자에 해당하는 개념 자체가 없어 책임 주체가 불분명하다는 지적이 제기돼 왔다. 다만 EU식 개념을 그대로 도입할 경우 서비스 이용자까지 규제 대상에 포함될 수 있어 수범자 범위가 크게 확대될 수 있다는 우려도 나온다. 딥페이크의 경우 현행 규정이 사람뿐 아니라 자연물·인공물로 만들어진 결과물까지 포함해 적용 범위가 지나치게 넓다는 논란이 있었다. AI가 생성한 가상의 풍경이나 사물 이미지에도 표시 의무가 생길 수 있는 만큼 해당 범위를 사람에 대한 결과물로 한정하는 방향이 제시됐다. 안전성 기준도 연산량 대신 실제 위험성을 기준으로 삼는 방향으로의 전환이 논의될 것으로 보인다. 현행법은 누적연산량 10의26승 플롭스(FLOPs) 이상인 AI를 규제 대상으로 삼고 있는데 이는 AI가 특정 작업을 완료하는 데 필요한 총 연산 횟수를 뜻한다. 연산 규모가 크고 사회에 광범위한 영향을 미치는 AI를 따로 관리하겠다는 취지지만, 과기정통부는 "그래픽처리장치(GPU) 수만 장을 수개월 돌려야 해당되는 수준으로 국내 기업 중 실질적 규제 대상은 없다"고 밝힌 바 있다. 이에 따라 실효성 있는 기준 재설계가 불가피하다는 공감대가 형성돼 왔다. 고영향AI는 '특정 영역에서 사용되는 AI'라는 현행 정의가 지나치게 넓다는 지적에 따라 '사용하도록 의도된'으로 좁히는 방향이 제안됐다. 정부 관리 DB 등록제 신설도 병행 검토된다. AI영향평가 결과 공개는 공공분야 도입 AI시스템에 한해 결과를 공개하도록 의무화하는 방향이 언급됐다. 다음 달부터 본격적인 활동에 나서는 연구반은 학술·법체계, 산업계, 시민사회 3개 분과별로 월 2~3회 회의를 열고 제도개선 필요 사항을 발굴한다. 과기정통부는 오는 6월 중으로 분과별 개선방향 초안을 마련한 후, 3분기 조정·통합을 거쳐 4분기에 국가AI전략위원회 안건 상정 및 실제 제도개선까지 추진한다는 구상이다. 이 과정에서 AI 에이전트, 성 편향성 등 현행 AI기본법 밖의 새로운 주제도 논의 대상에 포함된다. 익명을 요구한 업계 관계자는 "정부가 명확하지 않은 부분을 보완하겠다는 건 긍정적"이라면서도 "AI기본법이 시행된 지 얼마 안 된 상황에서 개정에 나선 것 자체가 법이 불안정하다는 의미"라고 평가했다. 이어 "보완이 아니라 규제 추가로 이어질 경우 생태계에 어떤 영향을 미칠지 우려된다"고 부연했다.

2026.03.27 14:37이나연 기자

과기정통부, AI 기본법 손본다…제도개선 연구반 출범

과학기술정보통신부가 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)' 시행 이후 미반영 의견을 제도에 담기 위한 연구반 운영에 본격 착수했다. 과기정통부는 AI기본법 제도개선 연구반을 출범하고 착수회의를 25일 개최했다. AI 관련 학술단체와 산업계 협·단체, 시민단체 및 국가인공지능전략위원회가 추천한 전문가 40여명이 참여하는 연구반은 학술·법체계, 산업계, 시민사회 3개 분과로 운영된다. 분과별 논의 결과는 전체회의에서 조정·통합한다. 연구반은 AI기본법 하위법령 마련 과정에서 수렴된 의견 중 추가 논의가 필요한 사항을 유예기간 내에 검토하기 위해 출범했다. 과기정통부는 일부 의견을 시행령에 반영했으나, 다양한 이해관계자 합의가 필요하거나 법령 개정이 필요한 의견은 이번 연구반을 통해 논의하기로 했다. 연구반은 올 한 해 운영되며 상반기 제도개선 과제를 발굴하고 하반기엔 이를 구체화한 'AI기본법 제도개선 방안'을 마련할 계획이다. 과기정통부는 해당 방안을 토대로 관계 기관과 협의해 법령 개정을 추진한다. AI기본법은 4년 넘는 국회 논의 끝에 2024년 12월 여야 합의로 본회의를 통과해 이듬해 1월 21일 제정됐다. 이는 유럽연합(EU) 'AI 액트(AI Act)'에 이어 세계에서 두 번째다. 지난 1월 22일부터 시행됐으나 기업 혼란을 막기 위해 최소 1년 이상의 규제 유예를 적용하고 있다. 김경만 과기정통부 인공지능정책실장은 "AI기본법 제도개선 연구반을 통해 우리 사회의 다양한 목소리를 경청하고 이를 제도에 반영해 AI기본법이 국가 AI 경쟁력 강화를 위한 명실상부한 제도적 초석이 될 수 있도록 최선을 다하겠다"고 밝혔다.

2026.03.25 15:03이나연 기자

[유미's 픽] "알자지라도 주목"…AI 기본법 시행한 韓, 규제·혁신 균형 시험대

#. 국내서 수백만 명의 팔로워를 보유한 강연자 김미경 씨는 최근 소셜미디어(SNS)를 통해 가짜 투자 상품을 홍보하는 딥페이크 사기에 자신의 얼굴과 목소리가 악용됐다. 피해자들은 금전적 손실을 입었고, 김 씨도 30년 넘게 쌓아온 명성이 훼손될 위기에 놓였다. 이 상황에서 'AI 기본법'이 시행되자 김 씨는 환영의 뜻을 밝혔다. AI로 생성된 이미지에 디지털 워터마크를 의무화하는 등 최소한의 보호 장치가 마련됐기 때문이다. 김 씨의 사례를 토대로 아랍권 방송사 '알자지라'가 올해 1월부터 시행된 'AI 기본법'을 최근 주목한 가운데 우리나라가 글로벌 AI 규제 균형 실험장으로 떠올랐다. 기술 패권 경쟁이 가속화되는 상황에서 산업 육성과 안전 규제를 동시에 제도화해 시행에 들어간 첫 국가라는 점에서다. 4일 업계에 따르면 우리나라에서 지난 1월 22일 'AI 기본법'이 시행된 후 글로벌 AI 규제 지형은 빠르게 재편되고 있다. 주요국이 저마다 다른 속도와 방식으로 AI 통제 체계를 구체화하면서 우리나라의 선제적 집행이 비교 기준으로 떠오르는 양상이다.유럽연합(EU)은 'AI 액트(AI Act)'의 단계적 시행을 앞두고 고위험 AI 세부 분류 기준과 이행 지침을 정비하고 있다. 특히 최근에는 데이터센터 전력 사용량과 탄소 배출 등 환경 보고 의무를 강화하는 방향으로 논의가 확장되고 있다. 기술 위험뿐 아니라 지속가능성까지 규제 틀에 포함하려는 시도로 읽힌다. 업계에선 EU 모델을 가장 체계적이고 엄격한 규제 체계로 평가하는 시각이 적지 않다. 미국은 연방 차원의 포괄 입법 대신 대통령 행정명령과 부처 가이드라인을 중심으로 대응하고 있다. 혁신 속도를 유지하면서 민간 자율성을 보장하는 구조다. 그러나 최근에는 오픈소스 AI 모델을 규제 범위에 포함할지를 두고 논쟁이 이어지고 있다. 개방형 모델의 확산이 안보·허위정보 리스크로 이어질 수 있다는 우려와 과도한 규제가 기술 발전을 저해할 수 있다는 주장이 맞서는 상황이다. 우리나라는 이미 기본법을 시행하며 집행 단계에 들어갔다는 점에서 EU·미국과 다른 위치에 서 있다. 입법 논의를 넘어 실제 규제 적용과 현장 검증이 동시에 이뤄지고 있다는 점에서 사실상 첫 '실행 사례'로 평가된다.특히 AI 기본법은 생명·신체 안전 또는 기본권에 중대한 영향을 미칠 수 있는 '고영향 AI'를 별도로 규정하고, 해당 시스템에 대해 위험 평가와 인간 감독을 의무화했다는 점에서 주목받고 있다. 또 AI 생성 이미지·영상 등에 디지털 워터마크 등 표시 의무를 부과해 딥페이크 등 오남용을 억제하는 내용도 담고 있어 눈길을 끈다.이에 대해 알자지라는 "한국의 AI 기본법은 EU 외 지역에서 가장 강력한 AI 규제 중 하나로 평가된다"며 "고영향 AI에 대해 인간 감독을 의무화하고, 생성 콘텐츠에 워터마크를 요구하는 점이 특징"이라고 보도했다. 다만 고영향 AI를 판단하는 기술적 임계치가 높게 설정돼 실제 적용 대상이 제한적일 수 있다는 지적도 있다. 일정 수준 이상의 연산 규모를 충족해야 규제 범주에 포함되는 구조여서 당장 시중에 유통되는 다수의 AI 서비스는 직접적인 영향을 받지 않을 가능성이 있어서다. 동시에 스타트업의 규제 대응 비용 부담도 커질 수 있다는 우려도 나온다. 특히 AI 생성물 표시 방식이 국제 표준과 상충할 경우 해외 규제 대응과 국내 법 준수를 동시에 수행해야 하는 '이중 부담'이 현실화될 가능성도 거론된다. 이 같은 우려는 한국만의 문제가 아니라 규제 강도와 산업 경쟁력 사이의 균형을 둘러싼 글로벌 공통 과제로 떠오르고 있다. 이에 따라 각국은 자국 산업 구조와 정책 목표에 따라 서로 다른 해법을 선택하고 있다. 각국 규제 방향은 ▲엄격한 사전 규제(EU) ▲유연한 행정 중심 모델(미국) ▲집행 단계에 돌입한 한국 등으로 구분된다. 이 중 한국의 시도는 해외 여러 나라의 관심으로도 이어졌다. 특히 AI를 탈(脫)석유 산업 구조 전환의 핵심 축으로 삼고 국가 전략으로 추진 중인 중동에선 우리나라의 AI 기본법을 주목하며 규제 마련을 추진하는 분위기다. 이 지역은 아직 포괄적 AI 기본법을 시행하지는 않았지만, 윤리 가이드라인 중심 체계에서 명문화된 법령 단계로 옮겨가는 과도기에 있는 상태다. 실제 사우디는 데이터·AI 당국(SDAIA)을 중심으로 고위험 AI 분류 체계 도입을 검토 중이다. UAE는 규제 샌드박스와 테스트베드 운영을 확대하는 한편, 차세대 AI 법제화 작업을 병행하고 있다. 또 기술 친화적 접근을 유지하면서도 합성 미디어와 허위정보에 대해서는 강한 표시 의무를 검토하는 등 한국과 유사한 쟁점을 공유하는 모습이다.알자지라는 한국 사례를 두고 "기술 경쟁이 치열한 상황에서 규제와 혁신의 균형을 시험하는 사례"라며 "AI가 급속히 확산되는 가운데 한국은 통제와 보호 장치를 동시에 제도화한 첫 국가 중 하나"라고 밝혔다. 업계 관계자는 "기술 경쟁이 심화되는 상황에서 규제의 목적은 통제 자체보다 신뢰 확보에 있다"며 "한국이 집행 단계에 먼저 진입한 만큼 실제 적용 사례와 보완 과정이 향후 글로벌 논의의 참고 모델이 될 수 있다"고 말했다. 그러면서 "앞으로의 관건은 집행의 정밀도"며 "고영향 AI 범위의 현실성, 스타트업 부담 완화, 환경·에너지 이슈 연계, 국제 기준과의 조율이 동시에 이뤄질 때 '세계 첫 집행'이라는 상징성이 실질적 경쟁력으로 이어질 수 있다"고 덧붙였다.

2026.03.04 09:11장유미 기자

씽크포비엘 "AI법 해석 인력 부족…신뢰성 전문가 필수 시대"

"인공지능(AI) 신뢰성은 막연한 도덕적 선언이 아닌 철저히 계산된 기술적 설계가 필요한 분야입니다. 기업은 어떤 근거로 기술적 판단을 내렸는지, 어떤 책임을 어떻게 질 것인지 설명할 줄 알아야 합니다. AI 신뢰성은 시장에 참여하기 위한 최소 자격 조건이 될 것입니다." 박지환 씽크포비엘 대표는 최근 지디넷코리아를 만나 "AI와 착하게 살자는 식의 감성적인 윤리적 접근으로는 실질적인 AI 위험을 통제할 수 없다"며 AI 신뢰성 패러다임 변화 필요성을 이같이 강조했다. 그는 "AI 신뢰성이란 기술을 설명하고 증명하며 책임질 수 있는 상태"로 정의했다. 박 대표는 AI 신뢰성 논의가 오랫동안 '윤리적인 AI' 또는 '신뢰할 수 있는 AI'라는 구호 수준에 머물렀다고 지적했다. 어디서 위험이 감지되고, 누가 멈추고, 누가 책임지는지는 거의 다뤄지지 않았다는 설명이다. 그는 이같은 공백을 메우기 위해 국내에서 처음으로 AI 신뢰성 민간 자격 'CTAP(Certified Trustworthy AI Professional)'를 설계했다고 밝혔다. CTAP 시험은 AI가 법적 준거성과 기술적 견고성을 동시에 갖췄음을 기술적으로 설명할 수 있는 전문가를 양성하는 것이 목적이다. 실제 CTAP는 AI 윤리에 대한 감각이나 가치 판단을 묻지 않는 것으로 알려졌다. AI 위험을 어떻게 식별하는지, 설명 가능성을 오해 없이 구현할 수 있는지, 운영 단계에서 신뢰가 무너질 때 어떤 기술적 판단을 내릴 것인지를 철저히 기술적으로 묻는 시험이다. 박 대표는 CTAP를 통해 AI 기술 심판자 역량을 가려내는 것이 목표라고 밝혔다. 그는 "어떤 기술이든 사회에 나오기 위해 충족해야 할 최소한의 규칙을 알고 있는지를 평가하는 것"이라고 밝혔다. CTAP 자격 체계는 두 가지로 구성됐다. 입문 단계인 FL(Foundation Level)은 실무 경험이 없더라도 응시할 수 있다. AI 신뢰성 개념을 오해하지 않고, 위험을 인식할 수 있으며, 개발자·기획자·법무·운영 담당자와 논의할 수 있는 수준이다. AL(Advanced Level)은 AI 신뢰성을 설계, 적용, 판단하는 책임을 갖추는 수준이다. FL 취득 후 최소 1년 이상 실무 경험이 필수다. 개발·기획·운영·공공 등 역할별·산업별로 전문화된 트랙으로 세분됐다. 자격 유효기간은 3년이다. 갱신 시 실무 수행 여부를 엄격히 따진다. 실제 현장에서 위험을 판단하고, 설명하고, 통제하는 역할을 수행하고 있다면 별도 재시험 없이 자격을 유지할 수 있다. AI기본법 시행됐지만…기준 설명·책임질 사람 없다 박 대표는 국내 AI기본법이 시행됐지만 법 기준을 기술적으로 해석할 인력이 부족하다는 점을 우려했다. 그는 "국내 AI기본법은 단순히 기업에 선의나 도덕성을 요구하지 않는다"며 "기업이 어떤 근거로 기술적 판단을 내렸는지 설명·책임을 요구한다"고 설명했다. 이어 "이를 수행할 인력이 없다면 현장에서 혼선을 빚을 수 있다"고 봤다. 박 대표가 이 상황에서 가장 우려하는 지점은 '형식주의 득세'다. 기업이 실제 위험을 관리하기보다 법에 따라 체크리스트를 채우고 문서를 갖추는 데만 급급한 신뢰성 흉내가 제도적으로 양산될 수 있다는 지적이다. 그는 "AI법은 사고 발생 시 기업을 보호하지도, 산업 안전을 담보하지도 못하는 허울뿐인 장치가 될 위험이 크다"고 말했다. 또 다른 우려는 '책임 공백'이다. 기술적 위험을 판단할 주체가 없다 보니, 의사결정이 한없이 위로 밀려 올라가거나 아무도 책임지지 않은 채 방치되는 현상이 나타난다는 설명이다. 박 대표는 "결과적으로 기업은 위축되고 산업 전체 속도는 떨어진다"며 "AI 윤리를 지켰다는 선언적 표현은 늘어나겠지만 판단 근거를 설명할 수 있는 사람이 없다면 결국 시장과 파트너로부터 외면받게 될 것"이라고 짚었다. 박 대표는 국내 AI 신뢰성 인재 생태계와 해외 생태계를 비교해 예시를 들었다. 박 대표는 "해외 주요국은 석·박사 과정에 AI 신뢰성과 거버넌스를 필수 커리큘럼으로 편입해 전문 인력을 양성해 왔다"며 "지식 체계를 정립하고 강사를 육성하는 데 최소 3년이 걸린다는 점을 고려하면, 관련 교육 기반이 부족한 한국은 사실상 4년 가까이 뒤처진 상태"라고 지적했다. "글로벌서 통용되는 AI 신뢰 전문가 양성할 것" 박 대표는 CTAP 기준을 글로벌 표준으로 만들겠다고 포부를 밝혔다. 실제 씽크포비엘은 CTAP 'AI 신뢰성 역량 평가 모델' 초안을 지난 10월 국제표준화기구(ISO)와 국제전기기술위원회(IEC) 등에서 공개한 바 있다. 현재 로드매핑 단계로 진입한 상태다. 그는 "이르면 내년 신규 표준 프로젝트로 제안될 가능성이 높다"고 말했다. 박 대표는 CTAP 중립성을 위해 국제 표준화는 반드시 추진돼야 한다고 주장했다. 그는 "국제 표준은 한 연구자나 한 기업 관점이 아니다"며 "각국 정부, 산업계, 학계, 규제 기관이 참여해 이해관계 충돌을 조정하고 합의를 거쳐 형성된다"고 설명했다. 이어 "표준은 단순히 기술 우수성을 알리는 문서가 아니다"며 "어떤 기술이라도 사회에 나오려면 최소한 이것은 충족해야 한다는 공통 규칙에 가깝다"고 덧붙였다. 박 대표는 국제 표준화가 AI 신뢰성 필수 요소라고 강조했다. 박 대표는 "사고가 발생했을 때 법적·사회적 책임이 수반되는 영역에서는 논문 몇 편이 아니라 어떤 국제적 기준에 근거해 판단했는가가 훨씬 중요해지는 상황"이라며 "규제, 감사, 분쟁, 정책 설계 현장에서는 논문보다 표준이 인용되고, 표준이 사실상 판단 기준선으로 작동한다"고 설명했다. 박 대표는 향후 기업에서도 AI 신뢰성은 선택 사항이 아니라 시장에 참여하기 위한 최소 자격 조건이 될 것으로 내다봤다. AI 시장이 성숙해질수록 "이 기술은 누가 책임지는가" "어떤 기준으로 허용됐는가" "사고 발생 시 누가 멈출 수 있는가" 같은 거버넌스 체계를 갖추는 것이 필수적이라는 이유에서다. 박 대표는 "전담 실무자 없는 조직은 이같은 질문에 답할 수 없다"며 "결국 고객과 파트너로부터 신뢰를 잃어 시장에서 스스로를 방어할 수 없는 고립 상태에 놓일 것"이라고 전망했다. 그는 기업이 AI 신뢰성 확보 패러다임을 바꿔야 한다고 주장했다. 그는 신뢰성 확보 첫 단계는 무엇을 금지할 것인가를 고민하는 것이 아니라 어떤 AI를 책임질 준비가 됐는지를 정책적으로 먼저 고려하는 것이라고 강조했다. 박 대표는 "정책적 토대 위에서 위험 요소를 차분히 관리해 나갈 때 신뢰성은 성장 발목을 잡는 족쇄가 아니라 불필요한 사고 비용을 줄이고 산업 안전성을 확보하는 합리적이고 전략적인 기반이 될 것"이라고 말했다.

2026.02.16 12:23김미정 기자

KOSA, AI기본법 체계 첫 공식 협회...이중 법정지위 확보

한국인공지능·소프트웨어산업협회(KOSA)가 인공지능(AI)기본법 체계에서도 법정단체로 인정받으며 협회 기반을 한층 강화했다. 12일 업계에 따르면 과학기술정보통신부는 지난 11일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 제26조 및 동법 시행령 제20조에 따라 KOSA를 인공지능협회로 지정했다고 공고했다. AI기본법은 지난달 22일부터 시행됐다. KOSA는 기존 법정단체 지위에 더해 AI기본법상 공식 협회 지위도 확보하게 됐다. 소프트웨어(SW) 산업과 AI 산업을 동시에 대표하는 이중 법정단체 체계를 갖춘 것이다. AI기본법은 AI 기술 발전을 촉진하고, 안전·윤리·신뢰 기반을 제도적으로 마련하기 위해 제정됐다. 법 제26조는 AI 산업 진흥을 위한 협회 지정 근거를 명시하고, 시행령 제20조는 구체적 지정 요건과 절차를 담았다. 협회는 이번 지정으로 AI 산업 진흥 정책 협의를 비롯한 산업계 의견 수렴, 제도 개선 논의 등에서 공식 창구 역할을 맡는다. 정부 정책과 산업 현장을 연결하는 가교 기능이 제도적으로 보장된 셈이다. 최근 SW, 클라우드 분야 협회들이 잇따라 명칭에 AI를 전면에 내세우는 흐름 속에서 법에 근거한 법정단체 지정은 상징성이 크다. 단순 명칭 변경을 넘어 정부가 인정한 법정 지위를 확보했다는 점에서 대표성 기준이 한층 명확해졌다는 평가다. 국내 AI 업계에서는 향후 KOSA 행보에 기대감을 걸고 있다. 특히 스타트업 성장을 위한 지원정책을 더 적극적으로 추진할 필요가 있다는 목소리가 나왔다. 강지홍 로민 대표는 "KOSA 법정단체 지정을 환영한다"며 "AI기본법 준수 기준·절차 불확실성을 현장 관점에서 정리해 실행 가능한 가이드라인과 제도 개선을 이끌어줘야 한다"고 밝혔다. 이어 "특히 스타트업 인재·데이터·검증 인프라·해외 진출 등 성장을 위한 지원정책을 연결해 국내 AI 생태계 저변을 넓히길 바란다"고 덧붙였다. 셀렉트스타 관계자는 "AI기본법이 산업 현장에 안착할 수 있는 민관 협력 구심점이 마련됐다"며 "'책임 있는 AI' 실행 기준과 검증 프레임을 정립하는 과정에서도 산업 현장의 경험과 목소리가 충분히 반영되길 기대한다"고 강조했다.

2026.02.12 18:14김미정 기자

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

국가AI전략위, 독파모 평가 참여하나…"과기부와 공식 협의 없어"

[글로벌 보안기업] 트렐릭스 "내달 차세대 AI 기반 SOC 선보여"

[토큰증권 점검①] '디지털 혁신' 문 열렸지만…"팔 게 없다"

"내년에도 메모리 가격 상승...스마트폰 시장서 삼성·애플 수혜"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.