• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI기본법'통합검색 결과 입니다. (65건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"워터마크, 지우면 그만"…AI기본법 책임·표시 의무 손질해야

인공지능(AI) 기본법이 올해 초 시행된 이후 최소 1년간의 계도기간에 제도 개선 논의가 이어지면서 현행법의 책임 구조와 AI 생성물 표시 방식을 재정비해야 한다는 전문가 제언이 나왔다. AI 개발·운영 주체별 역할에 맞춰 의무를 조정하고 생성 콘텐츠의 출처를 기술적으로 검증할 수 있는 체계를 마련해야 한다는 지적이다. 20일 한국인공지능산업협회(AIIA)가 서울 서초구 엘타워에서 개최한 제63회 AIIA(AI Is Anywhere) 조찬포럼에서 박상철 서울대 법학전문대학원 부교수와 김동화 마크애니 상무는 AI 기본법의 입법 쟁점과 생성형 AI 콘텐츠의 신뢰성 확보 방안을 각각 발표했다. 박상철 교수는 고영향 AI 규제에서 의무를 부담하는 사업자와 실제 시스템 운영 주체가 일치하지 않는 문제를 지적했다. AI 시스템을 공공기관에 공급하는 스타트업이 영향평가나 AI 활용 사실 고지 의무를 부담할 수 있지만 운영기관을 대신해 이를 수행하기는 어려워서다. 박 교수는 "AI 시스템을 공급하는 사업자가 운영기관을 대신해 영향평가를 하거나 운영 사실을 고지할 수는 없다"며 "그렇다고 운영자에게 의무를 모두 넘기면 AI를 활용하는 전 산업에 지나친 규제가 될 수 있어 고민이 필요하다"고 말했다. AI 생성 콘텐츠의 표시 의무도 개선 과제로 꼽았다. 가시적 워터마크는 이미지 편집으로 쉽게 제거할 수 있어 실효성이 떨어지는 만큼 비가시 워터마크나 메타데이터를 활용하고 플랫폼의 탐지·표시 기능을 지원해야 한다는 주장이다. 박 교수는 "기본적으로 모든 사업자가 비가시적 워터마크나 메타데이터를 중심으로 해야 한다는 데 공감대가 있다"며 "플랫폼들이 이를 탐지하거나 표시하도록 지원하는 부분도 맞물려 돌아가야 한다"고 밝혔다. 다만 AI 생성물을 유포하는 주체의 표시 의무를 어디까지 확대할지는 신중하게 검토해야 한다고 강조했다. 성범죄나 소비자·투자자 기만 등 위험성이 높은 분야에 집중할지, AI 생성물 전반으로 확대할지 사회적 합의가 필요하다는 설명이다. 김동화 상무도 현행 AI 생성물 표시 방식의 기술적 한계를 지적하며 콘텐츠 출처 증명 체계의 보완을 주문했다. AI 생성 여부를 사후에 탐지하기보다 생성 단계부터 출처 정보를 기록해야 한다는 것이다. 김 상무는 "현재 가장 큰 문제는 텍스트 한 줄로 누구나 콘텐츠 생성이 가능하다는 것"이라며 "기존에는 조작이 발생한 다음 대응에 집중했다면 처음 만들 때부터 정보를 넣어 증명하는 쪽으로 바뀌었다"고 말했다. 대안으로는 C2PA와 비가시 워터마크의 결합을 제시했다. C2PA는 콘텐츠의 생성 주체와 제작·수정 이력을 기록해 출처와 진본성을 검증하는 공통 기술 규격이다. 유통 과정에서 C2PA 메타데이터가 삭제되더라도 콘텐츠 내부에 남긴 비가시 워터마크로 출처 추적을 보완할 수 있다. 김 상무는 유럽연합(EU) AI법(AI Act)과 비교해 국내 AI 기본법에서도 기계가 판독할 수 있는 출처 표시 기술의 활용을 뒷받침할 필요가 있다고 제안했다. 출처 검증 대상 역시 이미지·영상뿐 아니라 PDF 등 문서까지 확대해야 한다고 강조했다. 김 상무는 "콘텐츠 신뢰는 탐지가 아니라 증명의 문제"라며 "C2PA와 워터마크는 함께 갈 때 완성될 수 있고 기업들은 규제보다 더 빨리 준비해야 한다"고 말했다.

2026.10.20 09:57이나연 기자

챗GPT 제친 10대 AI 친구…이용 시간도 법으로 관리한다

청소년의 인공지능(AI) 챗봇 과몰입 우려가 커지면서 국회에서 미성년자 보호조치 강화를 위한 정보통신망법 개정안 발의가 잇따르고 있다. 이용자의 연령 확인과 이용시간 제한 수단 제공 등을 의무화해 청소년의 과도한 AI 이용을 예방하려는 취지다. 14일 국회 의안정보시스템에 따르면 이주희 더불어민주당 의원은 이러한 내용의 '정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법)' 일부개정법률안을 지난 8일 대표발의했다. 해당 개정안은 지난 12일 국회 과학기술정보방송통신위원회에 회부됐으며 아직 상정되지는 않았다. 연령 확인·이용 시간 제한 의무화…위반 시 과태료 3000만원 개정안은 생성형 AI 기반 대화형 정보통신서비스 사업자에게 19세 미만 미성년자를 위한 보호조치를 의무화하는 것이 골자다. 사업자는 이용자의 연령과 본인 여부를 확인하고 과도한 이용에 관한 주의사항과 이용시간 경과 내역을 표시해야 한다. 미성년자 본인이나 법정대리인이 요청하면 서비스 이용방법과 이용시간, 이용시간대를 제한할 수 있는 수단도 제공해야 한다. 과거 게임 셧다운제처럼 특정 시간대에 청소년의 접속을 일률적으로 차단하는 대신 이용자나 보호자가 필요에 따라 제한 기능을 설정하는 방식이다. 보호조치를 이행하지 않은 사업자에는 3000만원 이하의 과태료가 부과된다. 구체적인 조치 방법과 절차는 대통령령으로 정하며, 법안이 국회를 통과하면 공포 후 6개월이 지난 날부터 시행된다. 현행 정보통신망법 제44조의8은 만 14세 미만 아동에게 대화형 서비스를 제공하는 사업자가 부적절한 정보 제공을 막도록 노력해야 한다고 규정한다. 이번 개정안은 19세 미만 미성년자에 대한 과몰입 방지 조항을 신설하고 구체적인 보호조치 이행을 의무화했다는 점에서 차이가 있다. 'AI 안심 패키지법' 이어 추가 입법…국감서도 과몰입 지적 조인철 더불어민주당 의원도 지난 6월 '우리 아이 AI 안심 패키지법'을 대표발의했다. AI 기본법과 정보통신망법 개정안으로 구성된 패키지법은 지난달 8일 국회 과방위 전체회의에 처음 상정됐다. 조 의원의 정보통신망법 개정안에는 연령·본인 확인과 법정대리인 동의, 이용시간 제한 외에도 대화 기록 제공과 자살·자해, 성적 착취 등 고위험 상황에 대한 신고·대응체계 마련이 담겼다. 이 의원의 개정안이 과몰입 방지에 초점을 맞췄다면 조 의원의 법안은 유해 대화 대응까지 포괄하는 등 보다 폭넓은 보호조치를 담고 있다. 청소년 AI 이용 문제는 최근 국정감사에서도 제기됐다. 지난 12일 국회 과방위의 방송미디어통신위원회 국정감사에서 이주희 의원은 AI 캐릭터 채팅 서비스 '제타'의 올해 2월 월간 이용시간이 약 1억 1000만 시간으로 챗GPT의 2배를 넘었다고 지적했다. 제타 이용자의 약 90%는 10대와 20대인 것으로 나타났다. 이 의원은 AI 캐릭터와 친구나 연인처럼 대화하는 서비스가 확산하면서 부모나 교사가 위험 상황을 파악하기 어렵다고 우려했다. 김종철 방송미디어통신위원장도 청소년 보호 필요성에 공감하며 관계 부처와 협의해 관련 입법을 지원하겠다는 입장을 밝혔다. 청소년 AI 보호 법안이 잇따라 제출되면서 국회 심사 과정에서는 연령 확인 의무와 이용시간 관리 범위 등이 논의될 전망이다. 두 개정안에 유사한 보호조치가 포함된 만큼 구체적인 이행 방식도 검토 대상이 될 것으로 보인다. 이 의원은 개정안 제안 이유에서 "최근 생성형 AI 기반 대화형정보통신서비스의 이용 확산에 따라 미성년자의 장시간·심야 이용이나 과도한 몰입이 문제되고 있다"며 "미성년자의 건전한 정보통신서비스 이용환경을 조성하려는 것"이라고 말했다.

2026.10.14 11:42이나연 기자

AI 영상, 겉만 봐선 모른다…내용까지 읽는 AI 각광

인공지능(AI)으로 생성한 영상이 빠르게 확산되면서 콘텐츠의 제작 여부를 표시하는 것을 넘어 실제 내용과 맥락을 분석하는 기술에 대한 수요가 커지고 있다. AI가 만든 영상이라는 사실만으로는 유해성이나 플랫폼 정책 위반 여부를 판단하기 어려워서다. 12일 영상 이해 AI 기업인 파일러에 따르면 올해 기준 자체 AI 기술을 통해 하루 약 200만개의 영상을 처리하고 있다. 누적 처리량은 약 10억개에 달한다. 파일러는 엔비디아 기술 파트너로서 시각·음성·텍스트·메타데이터를 통합해 영상의 의미와 맥락을 분석하는 기술을 상용화하고 있다. 영상 분석이 중요해지는 배경에는 방대한 콘텐츠 유통 규모가 있다. 유튜브가 지난해 창립 20주년을 맞아 공개한 자료에 따르면 하루 평균 2000만개 이상의 영상이 새롭게 게재된다. 사람이 일일이 검토하기 어려운 분량인 만큼 AI를 활용한 자동 분석의 필요성도 높아지고 있다. AI 콘텐츠의 출처를 알리는 제도적 장치도 확대되는 추세다. 국내에서는 AI기본법 제31조에 따라 인공지능사업자가 생성형 AI 결과물에 생성 사실을 표시해야 한다. 유튜브도 지난 5월부터 AI로 생성하거나 의미 있게 변형한 영상의 표시 위치를 강화해 쇼츠에는 영상 위에 직접, 일반 영상에는 플레이어 아래에 관련 정보를 표시하도록 했다. 다만 AI 생성 여부와 콘텐츠의 안전성은 별개의 문제다. AI로 제작한 영상이라도 교육이나 엔터테인먼트 등 정상적인 콘텐츠일 수 있는 반면, 사람이 만든 영상도 유해하거나 플랫폼 정책을 위반할 수 있다. 유튜브 역시 AI 생성 여부 표시와 별개로 모든 콘텐츠에 커뮤니티 가이드라인을 적용하고 있다. 콘텐츠와 이용자의 안전을 관리하는 '트러스트 앤드 세이프티(T&S)' 분야에서도 AI 기반 영상 분석 기술이 주목받고 있다. 영상은 화면과 음성, 자막 등 여러 정보가 시간의 흐름에 따라 복합적으로 나타나 단순 키워드 탐지만으로 전체 맥락을 파악하기 어렵다. 같은 표현이나 장면도 전후 상황에 따라 의미가 달라질 수 있어 종합적인 분석이 요구된다. 국내에서도 관련 기술의 상용화가 이뤄지고 있다. 파일러는 자체 영상 이해 AI인 '옴니' 모델을 기반으로 영상 속 시각·청각 정보와 텍스트를 분석한다. 이를 통해 광고가 게재되는 콘텐츠의 유해성을 판단하는 브랜드 안전성과 개별 광고주의 기준에 부합하는지를 평가하는 브랜드 적합성 영역을 지원하고 있다. 글로벌 시장에서도 콘텐츠 자체를 분석하는 역량을 강조하는 추세다. 미국 미디어등급위원회(MRC)는 지난해 10월 사이트·도메인 단위 광고 검증만 인증받은 사업자가 별도의 콘텐츠 단위 인증 없이 해당 서비스를 브랜드 안전성 검증으로 표방하지 못하도록 하는 정책을 발표했다. 해당 정책은 6개월의 유예기간을 거쳐 지난 4월부터 적용되고 있다. 업계 관계자는 "AI 라벨과 워터마크가 콘텐츠의 제작 방식을 알려준다면 T&S 정책과 콘텐츠 분석 기술은 실제 내용과 맥락을 바탕으로 안전성을 판단하는 역할을 한다"며 "누가 어떤 근거로 콘텐츠의 안전성을 판단하느냐가 중요하다"고 말했다.

2026.10.12 10:57이나연 기자

"같은 AI도 나라 바뀌면 다시 만들어야"…AWS가 짚은 규제 장벽

국가마다 제각각인 인공지능(AI) 규제가 기업 해외 진출을 가로막는 새로운 장벽이 되고 있다는 지적이 나왔다. 프레데리코 코스타 아마존웹서비스(AWS) 아시아태평양(APAC) AI 정책총괄은 6일 서울 코엑스에서 열린 'AI 페스타 2026' AI 서밋에서 "AI는 국경을 넘지만 AI 규제는 국경마다 다르다"고 말했다. 코스타 총괄은 국가별로 다른 AI 규제와 데이터 이전, 클라우드 운영 기준이 기업의 해외 진출 비용을 높인다고 지적했다. 같은 서비스를 새로운 시장에 내놓을 때마다 현지 규정에 맞춰 다시 설계해야 하기 때문이다. 그는 "가장 큰 비용은 단일 국가의 규제에서 발생하는 경우가 드물다"며 "규칙이 늘어날수록 기업은 각 시장에 맞춰 같은 서비스를 조금씩 다르게 다시 구축해야 한다"고 밝혔다. 실제로 AI 규제 방식은 국가마다 다르다. 한국은 AI 기본법을 시행한 반면 일본은 상대적으로 가벼운 규율 체계를 택했다. 싱가포르는 단일 법률 대신 프레임워크를 활용하고 인도는 별도의 AI 법률 없이 기존 법률을 적용하고 있다. 규제 대응에 들어가는 비용이 커지면 AI 투자 여력이 줄어드는 문제가 생긴다. 코스타 총괄이 인용한 스트랜드 파트너스 조사에 따르면 유럽 기업들은 기술 예산의 약 40%를 규제 준수에 사용했다. 규제 의무가 불확실하다고 답한 기업은 그렇지 않은 기업보다 AI 투자 계획을 약 20% 낮게 잡았다. 韓 AI 기본법은 참고 사례…"첫해 지도에 초점" 코스타 총괄은 한국의 AI 기본법 운영 방식은 다른 국가가 참고할 사례로 평가했다. 시행 첫해부터 강한 집행에 나서기보다 기업이 규제에 적응하고 세부 기준을 마련할 시간을 줬다는 이유에서다. 그는 "한국은 첫해를 집행보다 지도에 초점을 맞춘 기간으로 설정했다"며 "기업과 정부가 의무를 실제 이행 가능한 형태로 만드는 방향을 개발할 시간을 줬다는 점에서 올바른 순서"라고 말했다. 이어 "자체 AI 프레임워크를 개발하는 국가들과 논의할 때 한국을 중요한 교훈으로 자주 지목한다"고 밝혔다. 각국이 추진하는 '소버린 AI'에 대해서는 자국 기술 확보가 글로벌 생태계와의 단절로 이어져서는 안 된다고 강조했다. 자체 AI 모델과 기술, 인프라를 확보하는 '역량'과 세계의 AI 기술을 활용할 수 있는 '연결성'을 함께 가져가야 한다는 입장이다. 데이터를 반드시 자국에 보관해야 한다는 접근에도 신중한 입장을 보였다. 그는 "데이터 보호와 명확한 책임이라는 주권의 목표는 과도한 데이터 현지화 요건 없이도 달성할 수 있다"며 "현지화는 여러 수단 가운데 하나이며 종종 비용이 많이 드는 수단"이라고 설명했다. 규제 파편화 해법은 '국제표준' 국가별로 갈라진 규제를 연결할 해법으로는 국제 표준과 상호운용성을 제시했다. ISO 42001과 미국 국립표준기술연구소(NIST) AI 위험관리 프레임워크 등 공통 기준을 활용하면 기업이 시장마다 AI 거버넌스 체계를 새로 구축하는 부담을 줄일 수 있다. 규제 강도는 AI 자체보다 실제 용도와 위험 수준에 따라 달리해야 한다고 봤다. 대출 심사 AI와 상품 추천 챗봇처럼 이용자에게 미치는 영향이 다른 서비스를 같은 수준으로 규제해서는 안 된다는 취지다. 코스타 총괄은 기업의 해외 진출을 위해 각국의 규제를 없애는 것이 아니라 국가 간 규제 차이에서 발생하는 비용을 줄이는 방향으로 정책을 설계해야 한다고 강조했다. 그는 "균형 잡히고 국제적으로 정합성을 갖춘 규제는 서비스 확장에 필요한 신뢰를 만들고 기업의 발목을 잡는 국경 간 비용을 낮춰 AI 도입을 가속할 수 있다"며 "역량과 연결성을 함께 구축하는 데 있어 한국보다 더 좋은 위치에 있는 국가는 많지 않다"고 말했다.

2026.10.06 16:10김동원 기자

AI기본법 연구반, 조문화 착수…제도개선 속도낸다

지난 1월 시행된 'AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)' 제도개선을 논의해온 연구반이 실제 법안 조문을 구체화하는 단계에 들어갔다. 연구반 논의를 바탕으로 법안을 다듬는 작업반이 이달 본격화되면서 AI기본법 개정 논의에도 속도가 붙고 있다. 23일 업계에 따르면 AI기본법 제도개선 연구반과 연계된 제도개선 작업반이 9월부터 운영을 시작했다. 작업반에는 기존 연구반의 분과장급 인사들이 참여하며 법안을 조문 단위로 검토하기 위한 전문가들도 함께 참여한다. 과학기술정보통신부는 지난 3월 말 AI기본법 제도개선 연구반을 학술·법체계, 산업계, 시민사회 등 3개 분과로 구성해 운영해왔다. 50명 규모로 꾸려진 연구반은 각 분과에서 AI기본법 개선 방향과 쟁점을 논의한 뒤 전체회의를 통해 의견을 조정·통합한다. 과기정통부는 이를 통해 도출된 방안을 토대로 관계기관 등과 협의를 거쳐 4분기 제도개선을 추진할 계획이다. 신설된 작업반은 이같은 연구반 논의를 실제 법안 형태로 구체화하는 역할을 담당한다. 문서화된 회의 결과만으로는 논의 과정에서 오간 의미를 충분히 전달하기 어렵다는 판단에 따라 관련 인사들이 작업반에 직접 참여해 의견을 설명하거나 논의를 진행하는 방식이다. 작업반에서는 기존에 논의됐던 AI기본법 개정 쟁점뿐 아니라 AI 에이전트와 피지컬 AI 등 최근 새롭게 부상한 기술·사회적 사안도 살펴본다. 국회에 발의된 AI기본법 개정안의 주요 쟁점 역시 논의 대상이다. 이는 작년 12월부터 과기정통부와 정보통신정책연구원(KISDI)이 참여해 마련한 '대한민국 인공지능 윤리원칙' 관련 작업반·자문단과는 별개의 조직이다. 인공지능 윤리원칙은 KISDI가 실무를 맡아 마련한 반면, 이번 AI기본법 제도개선 작업반은 한국지능정보사회진흥원(NIA)이 실무를 맡고 있다. NIA 관계자는 "분과별 논의에서 의견이 첨예하게 갈리는 사안의 경우 하나의 안으로 확정하기보다 조문별로 1안·2안 등 복수안을 마련하는 방식도 검토 중"이라며 "전체적인 의견을 들어보면서 법안을 구체화하고 있다"고 말했다.

2026.09.23 11:12이나연 기자

AI 공공조달 문턱 낮아졌지만…"납품 후 책임까지 따져야"

인공지능(AI) 제품의 공공조달 진입 문턱이 낮아지고 있지만 기업들이 확인서 취득과 입찰 참여에만 집중해서는 안 된다는 지적이 나왔다. AI는 납품 이후에도 데이터와 모델이 지속적으로 바뀌는 만큼 계약 단계에서부터 업데이트와 성능 유지, 보안사고 등에 대한 책임 범위를 명확히 해야 한다는 목소리다. 방석호 법무법인 린 AI산업센터장은 17일 서울 강남구 포스코타워 역삼에서 열린 'AI 기본법, 대비하고 계신가요?' 세미나에서 "AI는 일회성 검수로 끝날 수가 없는 제품"이라며 "데이터 업데이트와 그 비용을 누가 부담하고 그로 인해 보안에 뚫리면 그 책임을 누가 질지 봐야 한다"고 밝혔다. KMAC과 법무법인 린, 셀렉트스타가 공동 주최한 이번 행사는 AI 기본법 시행에 따른 기업의 대응 방안과 실제 운영 사례를 공유하는 자리로 마련됐다. 이날 방 센터장은 AI기본법 시행령에 따라 공공기관의 AI 제품·서비스 조달 과정에도 변화가 생길 수 있다고 강조했다. AI기본법 제16조 3항에 따라 국가기관 등은 제품·서비스 구매나 용역 발주 시 대통령령으로 정하는 AI 제품·서비스를 먼저 고려해야 한다. 사업계획 수립부터 예산 편성, 제안요청서(RFP) 작성까지 AI 대안 검토가 실무에서 새로운 주안점이 된다. AI 기업의 조달 진입을 돕는 AI 제품·서비스 확인서도 도입됐다. 한국인공지능·소프트웨어산업협회(KOSA)가 신청을 접수하고 한국정보통신기술협회(TTA)가 기술심사를 진행하며 절차는 최대 45일 이내 마무리된다. 다만 확인서는 품질·보안 인증이 아니라 조달 과정에서 일부 기술요건이나 납품실적 등을 대신 입증하는 수단이다. 방 센터장은 "확인이라는 단어와 법에서 말하는 검증은 완전히 성격이 다르다"며 "확인서가 AI의 안전성이나 신뢰성까지 보증하는 것은 아니다"라고 말했다. 조달 계약의 진입장벽도 낮아졌다. 다수공급자계약(MAS) 경쟁 요건은 기존 3개사 이상에서 2개사 이상으로 완화됐고, 일부 적격심사에서는 확인서 보유 제품에 기술점수 1.5점 가점이 적용된다. 상용소프트웨어(SW) 제3자 단가계약에서도 기존 납품실적 요건이 완화됐다. 하지만 업계에서는 AI를 기존 제품과 같은 방식으로 평가하는 데에는 한계가 있다고 본다. 혁신제품 지정에 활용되는 기술성숙도(TRL) 7은 실제 운용환경에서 작동 가능한 시제품을 요구하지만, 납품 이후에도 학습과 모델 개량이 계속되는 AI 특성을 충분히 반영하기 어려워서다. 방 센터장은 "AI는 계속 학습하고 모델이 개량돼야 하는데 납품 시점을 기준으로 성숙도를 판단하는 기존 방식에는 한계가 있다"며 "일반 제품처럼 검수와 납품으로 절차를 끝내는 방식이 AI에는 맞지 않는 구조"라고 지적했다. 공공데이터와 실증 기회의 개방도 과제다. AI 제품은 실제 현장에서 데이터를 활용해 학습·개선해야 한다. 공공데이터가 폐쇄적으로 운영되면 기존 납품·개발 실적을 가진 사업자와 신규 AI 기업 간 실증 기회 격차가 커질 수 있다. 공공조달과 국방조달 간 단절 역시 AI 산업 육성을 위해 풀어야 할 과제로 꼽힌다. 현행 공공조달의 AI 제품 우선 고려 제도는 국방에 원칙적으로 적용되지 않는다. 민간에서 개발한 AI가 공공에서 실증된 뒤 국방으로 확장되는 경로가 제도적으로 연결되지 않은 셈이다. 방 센터장은 "민수·공공·국방이 각각 별개의 시장"이라며 "이 시장을 어떻게 연결할 것인가가 큰 숙제"라고 말했다. 이어 "미국의 경우 민수 시장에 존재하는지를 먼저 검색하고 찾아보고 그게 존재하면 그걸 우선 구매하도록 법이 돼 있다"며 "시장이 법으로 연결된 것"이라고 부연했다.

2026.09.17 16:42이나연 기자

포티투마루, 정부 공인 AI 제품·서비스로 공공 진출 탄력

포티투마루의 도메인 특화 경량 언어모델과 고정밀 검색증강생성(RAG) 솔루션이 정부의 인공지능(AI) 제품·서비스로 인정받으며 공공 AI 조달시장 진출 기반을 확보했다. 포티투마루는 'LLM42 v.1.1'과 'RAG42 v.1.3'이 정부 'AI 제품·서비스 확인제' 인증을 동시에 취득했다고 16일 밝혔다. AI 제품·서비스 확인제는 AI 기본법 시행령에 근거해 실제 AI 처리 연산체계와 학습·추론 성능을 갖춘 제품과 서비스를 확인하는 제도다. 이렇게 공인된 제품은 다수공급자계약(MAS) 참여와 일반 입찰 적격심사, 소프트웨어 단가계약 등 공공조달 과정에서 우대받을 수 있다. LLM42 v.1.1은 공공·국방·제조 등 보안이 중요한 분야를 겨냥한 경량 언어모델이다. 인터넷이 차단된 폐쇄망(온프레미스) 환경에서 근거 기반 질의응답과 문서 요약, 업무 문서 작성, 도표·이미지 분석 등을 지원하도록 설계됐다. RAG42 v.1.3은 기관 내부 문서를 검색해 질문과 관련된 근거를 언어모델에 제공하는 엔터프라이즈 RAG 솔루션이다. PDF·워드·한글(HWP)·스캔 이미지 등을 딥러닝 기반 문서 분석과 광학문자인식(OCR)으로 처리한다. 또 의미 기반 검색과 재정렬을 거쳐 답변에 필요한 정보를 제공하며 문서별 접근 권한과 검색 로그, 답변 품질 평가 기능도 지원한다. 두 제품은 한국정보통신기술협회(TTA)의 서류 심사와 시연 및 현장 기술 심사를 거쳐 AI 처리 연산체계의 동작성과 결과 출력, 연계 구동성을 검증받았다. 포티투마루는 앞서 LLM42로 공공·민간 AI 신뢰성 인증을 각각 국내 최초로 획득했다. 이번 확인제 취득을 계기로 공공기관과 지자체 등을 대상으로 AI 솔루션 공급 및 공공조달 시장 공략을 확대할 계획이다. 김동환 포티투마루 대표는 "대한민국 1호 인공지능 신뢰성 인증에 더해 이번 조달 우대 자격까지 완비했다"며 "검증된 기술적 완성도와 신뢰성을 바탕으로 중앙 부처 및 지자체, 공공기관의 AI 전환(AX) 구축 사업과 공공 조달 시장 공략에 속도를 낼 것"이라고 강조했다.

2026.09.16 15:03이나연 기자

국회, 'AI기본사회법' 발의…공공서비스·국민 권리 강화

국민이 인공지능(AI) 공공서비스를 차별 없이 이용하고 AI 판단에 대한 설명이나 재검토를 요구할 수 있도록 하는 법안이 발의됐다. 산업·기술·안전 중심으로 설계된 현행 AI기본법을 국민 권리와 공공서비스 영역에서 보완하려는 취지다. 3일 국회에 따르면 차지호 더불어민주당 의원 등 12인은 지난 2일 '인공지능 기본사회 및 국민권리 보장에 관한 법률안'을 발의했다. 의료·교육·금융·노동·복지·재난안전 등 국민 생활과 밀접한 분야에서 AI를 활용하는 원칙과 국가의 책무를 규정한 제정안이다. 법안은 현행 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'과 적용 영역을 구분했다. 현행 AI기본법이 산업·기술·안전 등 AI 전반을 다룬다면 새 법은 공공서비스와 AI기본사회·국민 권리에 관한 특별법 역할을 한다는 설명이다. 법안 핵심은 국민의 AI기본권 보장이다. 모든 국민에게 AI기본서비스 접근권과 AI 판단에 대한 설명 요구권을 부여한다. 이의제기·재검토 요구권과 피해 구제 요청권·개인정보 보호권도 보장한다. 법안은 AI기본권 침해 사건을 전담하는 'AI권익보호소위원회'를 설치하도록 규정했다. 소위원회는 권리 침해 사건을 조사하고 필요한 시정명령을 내린다. 대통령 소속 'AI기본사회위원회'도 신설해 AI기본사회 정책을 심의·조정한다. AI기본사회위원회에는 의료·금융·교육·노동·복지·사회안전 등 분야별 분과위원회를 둘 수 있다. 각 분과위원회는 담당 분야에서 제공할 AI기본서비스의 기준과 시행 방안을 심의한다. 고위험 AI 시스템은 서비스 제공 전 적합성 평가를 받을 수 있도록 관련 계획과 평가 체계를 연계한다. 정부는 3년마다 AI기본사회 종합계획을 수립해야 한다. 관계 중앙행정기관은 연도별 시행계획을 마련하고 시·도지사는 지역계획을 세워 지방의회에 보고해야 한다. 지역별 AI기본서비스를 제공하기 위한 '지역AI기본사회센터'의 설치 근거도 마련했다.

2026.09.03 17:09김미정 기자

[기고] AI에게 어디까지 맡길 것인가

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI를 둘러싼 기업의 고민이 달라지고 있다. 얼마 전까지만 해도 기업의 관심은 '직원들이 AI를 어디까지 사용하도록 허용할 것인가'에 집중됐다. 회사 정보를 입력해도 되는지, AI가 작성한 결과물을 그대로 사용해도 되는지 등이 주된 문제였다. AI가 에이전트의 모습으로 진화하면서 질문도 바뀌고 있다. 이제 AI는 사람이 질문하면 답변을 생성하는 데 그치지 않는다. 이메일을 보내고 일정을 조정하고 여러 시스템에 접속해 업무를 처리한다. 사람에게 목표를 부여받은 뒤 필요한 작업을 스스로 나누고 실행하는 단계로 발전하고 있다. 새로운 질문이 생긴다. AI에게 일을 맡길 수 있다면 그 AI가 잘못했을 때 책임은 누구에게 물어야 할까. 직원이 생성형 AI에게 계약서를 요약해 달라고 요청하는 것과 AI에게 거래처를 비교해 업체를 선정하고 주문까지 진행하라고 지시하는 것은 전혀 다른 문제다. 후자의 경우 AI는 가격과 조건을 조사하고 거래처와 이메일을 주고받으며 내부 시스템에 접속해 실제 업무를 수행한다. 이 과정에서 AI가 잘못된 가격으로 주문하거나 개인정보나 영업비밀을 외부로 전송하거나 회사가 의도하지 않은 약속을 한다면 AI의 오류는 더 이상 잘못된 답변에 머물지 않는다. 실제 기업 활동과 법적 책임으로 이어질 수 있다. AI 에이전트 시대에는 AI의 성능만큼이나 AI에 어떤 권한을 부여할 것인지가 중요해진다. 이 변화는 지난 2일부터 대부분의 규정이 적용되는 유럽연합(EU)의 'AI 액트'에서도 확인할 수 있다. 특히 사람과 직접 상호작용하는 AI 시스템은 상대방이 AI와 상호작용하고 있다는 사실을 알 수 있도록 해야 하는 등 투명성 의무가 적용된다. EU 집행위원회는 AI 에이전트를 별도 규제 대상으로 정의하지 않으면서도 그 구조와 기능에 따라 AI법상 AI 시스템 등에 해당할 수 있다고 설명하고 있다. 중요한 것은 AI 에이전트라는 명칭이 아니라 AI가 실제로 무엇을 하는가다. 내부 문서를 요약하는 AI와 고객과 직접 대화하고 회사의 시스템에 접속해 업무를 수행하는 AI의 위험이 같을 수는 없다. 기업은 직원에게 업무를 맡기면서 회사의 모든 권한을 주지 않는다. 직급과 업무에 따라 정보 접근권한을 달리하고, 계약이나 지출에는 전결 기준을 두며 중요한 거래에는 추가 승인을 요구한다. AI 에이전트에도 같은 접근이 필요하다. 어떤 데이터에 접근할 수 있는지 누구에게 이메일을 보낼 수 있는지 어느 금액까지 거래할 수 있는지 어떤 행위에는 반드시 사람의 승인을 받아야 하는지를 미리 정해야 한다. AI 에이전트에게 업무를 맡긴다는 것은 결국 AI에 일정한 디지털 권한을 부여하는 일이기 때문이다. 동시에 AI의 행동을 추적할 수 있어야 한다. 사고가 발생했을 때 누가 어떤 업무를 지시했고 AI가 어떤 정보에 접근해 무엇을 했으며 어느 단계에서 사람이 승인했는지 확인할 수 없다면 사고의 원인과 책임 소재를 파악하기 어렵다. 앞으로 AI 내부통제에서는 '무엇을 금지할 것인가'뿐만 아니라 '어떤 권한을 줄 것인가', '언제 사람이 개입할 것인가', '무엇을 기록할 것인가'가 중요해질 것이다. AI 에이전트 발전을 막는 것이 해답은 아니다. 오히려 AI에게 반복적인 업무를 맡기고 여러 시스템을 연결해 자동화하는 능력이 기업의 경쟁력을 좌우할 가능성이 높다. 필요한 것은 모든 AI 행동을 사람이 일일이 승인하는 것이 아니라 위험에 따라 자율성의 범위를 다르게 설계하는 것이다. 회의 일정을 조정하는 AI와 수억원 규모의 구매계약을 체결하는 AI에 같은 통제를 적용할 이유는 없다. EU AI 액트도 결국 AI라는 기술 자체보다 AI가 사람과 기업, 사회 속에서 어떤 역할을 수행하는지에 주목한다. 지금까지 기업의 AI 거버넌스가 '직원이 AI를 어떻게 사용할 것인가'를 고민하는 단계였다면 이제 한 걸음 더 나아가야 한다. AI에게 어떤 일을 맡기고 어디까지 스스로 판단하게 하며 언제 사람이 개입할 것인지를 정해야 한다. AI에게 일을 맡기는 시대가 왔지만 책임까지 AI에게 맡길 수는 없다. AI 자율성이 커질수록 그 권한과 책임 경계를 설계하는 것은 결국 기업 몫이다.

2026.08.28 11:04강정희 컬럼니스트

정부, 'AI 윤리원칙' 초안 공개…업계 "권리 보호·기업 지침 보강해야"

정부가 새 인공지능(AI) 윤리원칙 초안을 공개하자 시민사회와 산업계가 원칙 실효성을 높이기 위한 후속 조치를 주문했다. 시민사회는 기본권 보호와 피해 구제 절차를, 산업계는 기업이 현장에서 적용할 수 있는 구체적인 가이드와 지원 체계 필요성을 강조했다. 14일 과학기술정보통신부와 정보통신정책연구원(KISDI)은 서울 중구 프레지던트호텔에서 '대한민국 인공지능 윤리원칙 대토론회'를 열고 각계 의견을 수렴했다. 이번 초안은 인간의 존엄성, 사회의 공공선, 인류의 지속가능성을 3대 가치로 제시했다. 이를 실현하기 위한 7대 원칙으로 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성을 담았다. 시민사회는 AI 영향을 받는 사람을 단순 보호 대상이 아니라 권리를 행사하는 당사자로 규정해야 한다고 주장했다. 접근성과 당사자 참여, 이의 제기, 피해 구제 절차를 윤리원칙과 후속 해설서에 구체적으로 담아야 한다는 입장이다. 홍윤희 사단법인 무의 이사장은 "장애인과 소수자를 단순한 수혜자가 아니라 권리를 지닌 당사자이자 시민으로 바라보는 관점이 이전보다 강화됐다"고 평하면서도 "'포용성'이라는 표현이 소수자에게 혜택을 베푼다는 시혜적 의미로 받아들여질 수 있다"고 지적했다. 이어 "이를 '포함성'으로 표현을 바꾸거나 모든 시민 권리를 아우르는 '접근성'을 원칙에 명시하는 것이 좋을 것"이라고 덧붙였다. 시민사회는 AI 학습에 필요한 장애인·소수자 관련 데이터 구축도 과제로 꼽았다. 시장에서 수집하기 어려운 정보를 공익 데이터로 규정하고 정부가 데이터 구축과 활용 기반을 지원해야 한다는 주장이다. 이지은 참여연대 선임간사는 AI 윤리원칙에 인권에 기반한 접근과 피해 구제 절차를 보강해야 한다고 요구했다. AI 영향을 받는 사람이 관련 사실을 고지받고 의사결정에 참여하며, 피해가 발생했을 때 이의를 제기할 수 있어야 한다는 설명이다. 이 선임간사는 "법이 포괄하지 못하는 영역까지 함께 고민하고 실천하자는 것이 윤리원칙 역할"이라며 "기업 내부에도 AI의 사회적 영향을 독립적이고 객관적으로 평가할 수 있는 감사 체계를 마련해야 한다"고 강조했다. 윤명 소비자시민모임 사무총장도 윤리원칙이 선언에 머물러선 안 된다고 강조했다. 정부와 기업, 소비자가 함께 참여해 분야별 적용 방안을 논의하는 협력 체계가 필요하다고 제안했다. 산업계 "기업별 적용 지침 필요"…정부 "자율규범으로 운영" 이날 산업계는 국가 차원의 윤리원칙이 기업 불확실성을 줄일 수 있다는 점에서 초안 마련을 긍정적으로 평했다. 다만 기업 규모와 서비스 유형에 따라 원칙을 실제 업무에 적용할 수 있도록 세부 지침과 상담 창구가 필요하다고 밝혔다. 김경훈 카카오 AI 세이프티 리더는 "기업도 AI 개발과 활용, 위험 관리에 적용할 국가 차원 기준을 기다렸다"며 "이번 원칙 토대로 내부 윤리 기준과 위험 관리 체계를 다시 점검할 수 있을 것"이라고 강조했다. 김 리더는 학습 데이터 공개를 투명성 원칙에 포함한 부분은 신중하게 검토해야 한다고 지적했다. 공개 범위가 저작권과 영업비밀, 산업 경쟁력과 연결돼 있고 관련 입법 논의도 끝나지 않았기 때문이다. 그는 윤리원칙과 자율 점검표, 공개 토론, 영향평가를 연계하는 운영 체계도 제안했다. 기업이 현장에서 발견한 문제를 공유하고 이를 다시 윤리원칙에 반영하는 순환 구조가 필요하다는 설명이다. 김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장은 중소기업과 스타트업도 원칙을 이행할 수 있는 환경을 조성해야 한다고 강조했다. 중소기업은 대기업과 달리 AI 윤리를 전담하는 조직이나 인력을 갖추기 어렵다는 이유에서다. 김 본부장은 "기업들은 개별 법 조항 의미보다 자사 서비스가 적용 대상인지, 어떤 영향을 받는지를 주로 묻는다"며 "작은 기업도 이해하고 따를 수 있는 상세한 해설서와 온라인 상담 채널이 필요하다"고 말했다. 정부는 이번 윤리원칙이 기업에 새로운 의무를 부과하는 규제가 아니라 사회 구성원이 자율적으로 실천하는 연성규범이라고 설명했다. 개발자와 사업자뿐 아니라 이용자, 시민사회, 정부 등 모든 주체의 역할을 제시한 점도 특징으로 꼽았다. 이진수 과기정통부 AI정책기획관은 "법이 경성규범이라면 윤리원칙은 연성규범"이라며 "특정 기업만의 문제가 아니라 각 주체가 AI 윤리를 함께 풀어나가야 한다는 방향을 담았다"고 밝혔다. 정부는 윤리원칙을 확정한 뒤 하반기에 구체적인 사례와 적용 방법을 담은 해설서를 발간할 계획이다. 산업계가 활용할 자율 점검표를 마련하고 학교와 교육 현장을 대상으로 AI 윤리교육도 추진한다. 이 기획관은 "윤리원칙은 제정으로 끝나는 것이 아니라 현장에서 실천하는 과정이 중요하다"며 "기술과 사회 변화에 따라 새로운 윤리적 쟁점이 생기는 만큼 원칙도 지속적으로 개정하고 발전시켜야 한다"고 말했다.

2026.08.14 16:15김미정 기자

국내 대리인 신고 '앤트로픽'뿐…정부, 해외 AI 기업과 연내 회동

정부가 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'상 국내 대리인 지정 의무를 이행하지 않은 해외 AI 사업자들을 대상으로 신고 독려에 나선다. 실무 협의 채널은 이미 운영되고 있지만 국내 대리인 지정∙신고 등 제도의 공식 이행은 더 이상 미룰 수 없다는 판단에서다. 7일 업계에 따르면 과학기술정보통신부는 연내 주요 해외 AI 사업자들과 회합 자리를 마련할 예정이다. AI 기본법에 따른 국내 대리인 지정·신고 절차가 지연되는 이유를 듣고 제도 취지를 설명하는 한편, 대상 사업자들의 조속한 신고를 독려하기 위해서다. 올해 1월부터 시행된 AI 기본법 제36조는 일정 규모 이상의 해외 AI 사업자에게 국내 대리인 지정 의무를 부과한다. 전년도 총매출 1조원 이상이거나 AI 서비스 부문 매출 100억원 이상, 또는 국내 일평균 이용자 100만명 이상인 경우가 대상이다. 이들은 국내 대리인을 지정해 과기정통부에 신고해야 한다. 하지만 국내 대리인 지정과 신고를 모두 마친 사업자는 현재까지 앤트로픽이 유일하다. 구글은 과기정통부에 신청서를 제출한 뒤 보완 절차를 진행 중이며 오픈AI 등은 아직 신고를 완료하지 않은 상태다. 과기정통부 관계자는 "국내 법인 보유 여부보다 실제 서비스 운영 주체가 중요하다"며 "국내 법인이 있더라도 해외 본사가 서비스를 운영하는 경우에는 국내 대리인 지정 필요성이 있다"고 말했다. 이어 "국내 대리인 제도는 해외 본사와 정부를 연결하기 위한 취지"라고 부연했다. 업계에서는 해외 사업자들이 정부와 이미 AI 기본법 관련 협의 채널을 운영해 온 점이 신고 지연에 영향을 미친 것으로 보고 있다. 주요 기업들이 법 시행 이전부터 정부와 AI 기본법 관련 논의를 이어왔고 법제도 개선 논의에도 참여한 만큼 국내 대리인 지정을 시급한 과제로 인식하지 않았다는 분석이다. 다만 과기정통부는 실무 협의와 별개로 공식 지정 절차는 조속히 마무리돼야 한다는 입장이다. 국내 대리인 지정은 규제 당국과 이용자가 국내 연락망을 공식적으로 확인할 수 있는 최소한의 장치라는 점에서 의미가 있어서다. 제도 운영기준도 구체화한다. 한국지능정보사회진흥원(NIA)은 최근 '인공지능 분야 국내 대리인 제도 운영 방안 마련' 연구용역을 발주했다. 국내외 입법례를 비교·분석해 국내 대리인 지정 기준과 업무 범위, 처리 절차 등을 구체화하고 시행령·고시 정비 방향을 마련하는 것이 핵심이다. 개인정보보호법·정보통신망법·전자상거래법 등 국내 유사 제도와 유럽연합(EU)·미국·중국 등 주요국 입법례를 비교해 시사점도 도출할 계획이다. 국회에서도 제도 보완 논의가 이어지고 있다. 조인철 더불어민주당 의원 등이 지난 5월 발의한 개정안에는 국내 대리인 변경 신고 의무화, 국내 법인 우선 지정, 담당자 지정 및 상시 연락체계 확보 등의 내용이 담겼다. 이에 따라 업계에서는 일부 해외 사업자들이 향후 제도 변경 가능성을 고려해 신고 시점을 조율하고 있다는 의견도 나온다. 2025년 10월 시행된 개정 개인정보보호법도 해외 사업자의 국내 대리인 제도를 강화했다. 보호법상 국내 대리인 제도는 AI 기본법과는 별개의 제도지만 해외 사업자의 국내 연락 창구를 확보한다는 점에서 유사한 구조를 갖고 있다. 개정 보호법 경우 국내 대리인 지정 대상인 해외 사업자는 6개월 이내에 해당 사업자가 설립한 국내 법인 등이 있으면 그 법인을 국내 대리인으로 지정해야 한다. 개인정보위가 보호법 개정 시행에 앞서 국내 법인이 있는 해외 사업자를 점검한 결과, 알리익스프레스와 테무, 에어비엔비, 비와이디(BYD), 오라클 등은 국내 법인을 국내 대리인으로 지정하고 있었다. 반면 구글, 메타, 마이크로소프트, 오픈AI, 로보락, 쉬인 등 16개 해외 사업자는 국내 법인을 두고도 법무법인 또는 별도 법인을 국내 대리인으로 지정해 해당 국내 법인으로 변경을 권고받았다. 과기정통부 관계자는 "이미 해외 사업자들과 실무적인 소통은 지속적으로 이뤄지고 있다"며 "국내 대리인 지정과 신고 절차도 가능한 한 조속히 마무리될 수 있도록 사업자들과 계속 협의해 나갈 예정"이라고 말했다.

2026.08.07 14:41이나연 기자

EU AI법 집행 본격화…"국내 영향 제한, 대응은 필수"

전 세계 최초 인공지능(AI) 법률인 유럽연합(EU) 'AI법(AI Act)'이 이달부터 투명성 의무와 범용 AI(GPAI) 모델에 대한 집행·제재 권한을 본격 가동했다. 국내 업계 안팎에서는 AI기본법을 전면 시행 중인 한국에 추가 영향은 크지 않지만 해외 진출 기업의 대응은 필요하다는 진단이 나온다. 3일 업계에 따르면 EU 집행위원회는 지난 2일(현지시간)부터 AI법 제50조에 따른 투명성 의무와 GPAI 모델 제공자에 대한 실제 조사와 행정 과징금 부과 권한을 본격 시행했다. EU는 2024년 8월 AI법 발효 및 거버넌스 체계 구축을 시작으로 2025년 2월 금지 AI 규제, 같은 해 8월 GPAI 규제에 이어 이번 투명성 의무·집행권 가동까지 단계적 규율을 이어가고 있다. 이번 시행에 따라 기업은 챗봇 등 AI 시스템과 상호작용하고 있다는 사실을 이용자에게 고지해야 한다. 또 딥페이크를 포함한 AI 생성·조작 콘텐츠에는 라벨링을 붙여야 하며 감정인식·생체인식 분류 시스템에도 별도 고지 의무가 부과된다. 이미 출시된 기존 시스템의 기계판독 워터마크 의무는 12월 2일까지 유예된다. 같은 날 예정됐던 고위험 AI 규율은 연기됐다. EU 집행위에 따르면 채용·교육·신용평가 등 독립형 고위험 AI 시스템의 준수 시한은 2027년 12월 2일로, 의료기기·기계류 등에 내장된 고위험 AI 규제는 2028년 8월 2일로 각각 연기됐다. 다만 비동의 성적 이미지(NCII)와 아동성착취물(CSAM)을 생성하는 AI 시스템에 대한 신규 금지는 유예 대상에서 제외돼 예정대로 오는 12월 2일부터 시행된다. 법조계는 이번 시한 연기를 규제 요건 자체의 완화로 받아들여서는 안 된다고 평가했다. GPAI 집행과 투명성 의무, 신규 콘텐츠 안전 규제는 올해부터 모두 현실적으로 작동하는 만큼 기업들의 선제 대응이 필요하다는 설명이다. 법무법인 화우는 '국내외 AI 규제, 2026년 하반기 분수령' 보고서에서 "연기된 것은 시한이지 요건 자체가 아니다"라며 "확보된 추가 기간은 준비를 미루는 시간이 아니라 분류·문서화·거버넌스 체계 등을 정비하는 데 활용해야 한다"고 제언했다. 학계에서도 이 같은 해외 AI 규제 동향이 한국 시장에 당장 큰 변수는 아니라고 평가했다. 지난 1월부터 한국 AI기본법이 시행되면서 국내 업계가 자체 규제체계를 정비해 온 만큼, 유럽 AI법 발효 시점에 맞춰 정책을 바꿀 이유가 크지 않다는 것이다. 최경진 가천대 법과대학 교수(한국인공지능법학회장)는 신규 발효된 유럽 AI법 내용에 대해 "한국 기업들이 예전부터 고민해 온 사안들이라 당장 큰 영향을 미칠 것 같지는 않다"면서 "AI기본법 내 딥페이크·고영향AI 등 핵심 조항 개정 과정에서 우리 정부가 EU의 구체적인 기준을 참고하게 될 가능성은 있다"고 내다봤다. 해외 시장에 진출했거나 기술 수출을 타진 중인 국내 기업들의 부담은 커질 것이라는 전망도 나온다. 박정호 뉴엔AI 전무는 "EU AI법은 위험도에 따라 AI 시스템을 차등 규제하는 방식인 만큼 해외 진출을 준비하는 국내 기업들의 컴플라이언스 부담은 커질 수밖에 없다"면서도 "이런 규제 흐름이 오히려 국내 AI 산업의 신뢰성과 글로벌 경쟁력을 높이는 계기가 될 수 있다"고 말했다. 이어 "국내에서도 AI 시스템을 개발·검증할 수 있는 규제 샌드박스에 대한 정부 지원이 이뤄졌으면 한다"고 덧붙였다.

2026.08.03 16:16이나연 기자

정부, AI기본법 후속 법령 시행…"산업 지원 확대·위험 관리 가속"

정부가 인공지능(AI) 산업 육성과 위험 관리를 아우르는 AI법·제도 체계를 추가 가동한다. 21일 정부에 따르면 AI기본법 시행령과 하위 고시 등 후속 법령이 이날부터 시행됐다 이번 제도 시행으로 AI 산업 육성책과 안전·신뢰 확보 의무가 산업 현장에 적용된다. 우선 정부는 국가기관과 지방자치단체 공공기관이 제품·서비스를 구매할 때 AI 활용 제품을 우선 고려하도록 지원한다. 공공부문을 AI 제품·서비스 초기 수요처로 활용해 민간 시장 확대를 이끌겠다는 취지다. AI 기술 활용 여부를 확인하는 'AI 제품·서비스 확인제도'도 추진된다. 기업이 확인서를 받으면 다수공급자계약 참여 요건 완화와 총액계약 적격심사 가점 등 공공조달 시장에서 우대를 받을 수 있다. AI 이용이 어려운 국민을 지원할 수 있는 법적 근거도 마련됐다. 국가와 지방자치단체는 장애인과 고령자, 경력보유여성 구직자 등에게 AI 제품·서비스 이용 비용을 지원할 수 있다. 정부는 AI 기업과 전문인력 육성 정책도 확대한다. AI 전문인력 교육과 취업을 지원하고 모태펀드로 AI 창업기업에 대한 투자를 추진할 방침이다. 공공데이터를 AI 학습에 활용하기 위한 제공 기준도 구축된다. 공공이 보유한 데이터를 AI 개발에 활용할 수 있도록 제공 방식과 절차를 한층 구체화할 계획이다. 기업들도 제도 시행에 맞춰 내부 대응 체계 정비에 나섰다. 네이버와 카카오, SK텔레콤, KT, LG유플러스, 업스테이지 등은 AI 안전 조직과 위험관리 체계를 구축하고 생성형 AI 결과물 표시를 확대하고 있다. 업계에선 생성형 AI 표시 의무 적용 범위가 여전히 모호하다는 지적이 나온다. AI를 어느 정도 활용해야 표시해야 하는지 명확하지 않다는 이유에서다. 또 사람이 결과물을 편집하거나 검수했을 때도 같은 의무가 적용되는지를 두고 혼선이 이어지고 있다. 고영향 AI 판단 기준도 주요 쟁점이다. 의료와 금융, 채용, 교육 분야에서 어떤 서비스가 사람 생명과 안전 기본권에 중대한 영향을 미치는지를 미리 판단하기 어려워서다. 이에 기업들은 서비스 출시 전 법률 검토와 위험 평가에 추가 비용을 투입해야 할 가능성이 커졌다. 인력과 자금이 부족한 스타트업에는 규제 대응 비용이 시장 진입 장벽으로 작용할 수 있다는 우려가 나오고 있다. 해외 주요국은 산업 환경에 따라 서로 다른 규제 방식을 택하고 있다. 미국과 일본은 산업 육성과 기술 혁신에 무게를 두고 있으며, 유럽연합(EU)은 AI 시스템 위험 수준에 따라 의무를 차등 부과하는 AI법을 단계적으로 시행하고 있다. 정부는 최소 1년 이상 계도기간을 운영할 계획이다. 이 기간 산업계 의견과 적용 사례를 수렴해 고영향 AI 판단 기준과 생성형 AI 표시 방식을 가이드라인에 구체화할 방침이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "공공부문이 마중물이 돼 혁신적인 AI 기술을 신속하게 도입하고 국민에게 더 우수한 공공서비스를 제공하겠다"고 말했다.

2026.07.21 09:40김미정 기자

조인철 의원, '우리아이 AI 안심 패키지법' 발의...유해정보 노출 방지

생성형 AI가 아이들의 친구이자 상담자가 되는 시대에 아동과 청소년을 위험한 대화와 유해정보로부터 보호하기 위한 법적 안전망 구축이 추진된다. 더불어민주당 조인철 의원은 아동 청소년이 안전한 환경에서 인공지능을 이용할 수 있도록 국가의 책임과 AI 서비스 제공자의 안전설계와 보호의무를 강화하는 내용의 '우리아이 AI 안심 패키지법'을 대표발의 했다고 23일 밝혔다. 인공지능 환경에서 아동 청소년 보호를 국가 AI 정책에 반영하는 인공지능기본법 개정안과 생성형 AI 챗봇 등 대화형 AI 서비스 이용 과정에서 아동 청소년 보호조치를 강화하는 정보통신망법 개정안으로 구성됐다. 최근 생성형AI 챗봇은 단순한 검색과 학습 도구를 넘어 아동 청소년의 대화 상대, 고민 상담 창구, 정서적 교류 대상으로 활용되고 있다. 아동복지 전문기관인 초록우산 실태조사에 따르면 아동 청소년의 94.4% 가 생성형 AI 챗봇을 이용하고 있으며 응답자의 49.5% 는 “AI 로부터 자신을 이해받는다고 느낀다”고 답했다. AI 이용이 빠르게 일상화되는 속도에 비해 아동 청소년을 위험한 대화와 유해정보로부터 보호할 제도적 장치가 충분하지 않다는 점은 문제로 꼽힌다. 실제로 자살 자해 등 유해한 질문을 한 아동 청소년 상당수가 AI로부터 어떠한 차단이나 제어 없이 위험한 답변을 제공받은 것으로 조사됐다. 약물 오남용, 성적 착취와 학대 위험, 과의존 등 AI 부작용으로부터 아이들을 지킬 공적 보호장치 마련이 시급하다는 지적이 나오는 이유다. 인공지능기본법 개정안은 아동 청소년을 '인공지능취약계층'에 포함하도록 했고 국가 인공지능 기본계획에 '인공지능취약계층'의 피해 예방과 보호 사항을 반영하도록 했다. 또 정보통신망법 개정안은 대화형 생성형 AI 서비스 제공자에게 아동 청소년 보호의무를 부과한다. 구체적으로 ▲이용자 연령 및 본인 확인 ▲아동 청소년 이용 시 법정대리인 동의 ▲법정대리인 요청시 이용 방법과 시간 제한 ▲이용자가 참여한 대화의 일시와 내용 등 정보 제공 ▲자살, 자해, 마약류 오남용, 성적 착취 등 위험 노출에 대한 신고 시스템 구축 및 위험 제거 조치 등을 의무화했다. 조 의원은 “이제 아이들은 사람뿐 아니라 AI 와도 관계를 맺고 고민을 털어놓고 정보를 얻는 시대를 살고 있다”며 “AI 가 아이들의 일상 속에 깊이 들어온 만큼 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선으로 고려해야 한다”고 말했다. 이어, “법안의 핵심은 AI 기술의 발전을 저해하는 것이 아니라 아이들이 더 안전하고 건강하게 AI 혜택을 누릴 수 있는 튼튼한 생태계를 조성하는 것”이라며 “디지털 환경에서 아이들의 권리와 안전을 지키는 일은 한 시도 미룰 수 없는 시대적 과제인 만큼 입법 통과에 총력을 다하겠다”고 강조했다.

2026.06.23 09:58박수형 기자

"우리 회사 AI도 규제 대상일까?"…KOSA, AI 기본법·AX 실전 해법 제시

한국인공지능·소프트웨어산업협회(KOSA)가 현장 상담 사례를 기반으로 인공지능(AI) 기본법 규제 대응 가이드를 제시했다. AI 도입 과정에서 기업이 우려하는 규제 리스크를 사전에 식별하고 대응 방안을 마련하기 위한 취지다. 안홍준 KOSA 본부장은 18일 강원 춘천 엘리시안 강촌에서 열린 "제3회 KOSA 리더스 포럼"에서 'AI 기본법 지원 데스크 사례집'과 'AX 사례집'의 주요 내용을 소개하며 기업이 실제 현장에서 활용할 수 있는 기준을 제시했다. 안 본부장은 "기업 문의는 법 조항 해석보다 우리 서비스가 규제 대상인지, 사업 운영 과정에서 어떻게 적용해야 하는지에 집중됐다"며 "약 800건의 상담 사례를 분석해 실무 적용 기준을 정리했다"고 말했다. AI 활용 기업, 모두 규제 대상 아냐…핵심은 "직접 서비스 여부" AI 기본법과 관련해 기업들의 가장 큰 관심은 규제 대상 범위였다. 안 본부장은 타사 API를 차용해 마케팅 포스터를 제작하는 등 AI를 도구로 쓰는 일반 '이용 기업'은 기본적으로 규제 및 의무 대상이 아니라고 밝혔다. AI 모델을 직접 개발하거나 AI 기반 서비스를 제공하는 사업자가 주요 관리 대상이며, 단순 이용 기업은 적용 범위가 다르다는 설명이다. 가장 질문이 많았던 AI 생성물 표시(워터마크) 의무에 대해서는 단일 표준 양식은 존재하지 않지만 AI 활용 사실을 투명하게 알리는 것이 중요하다고 강조했다. 안 본부장은 "워터마크나 고지 문구는 눈에 보이지 않는 메타데이터 심기나 오디오 파일 앞부분의 짧은 음성 안내 등 이용자가 합리적으로 AI 생성물임을 인지할 수 있는 방식이라면 모두 의무를 다한 것으로 인정된다"고 설명했다. 채용, 금융 대출 심사, 의료, 교육 등 고위험 분야의 '고영향 AI' 여부를 가르는 핵심은 '인간의 개입 여부'다. AI는 참고용 보조 지표만 제공하고 최종 판단을 사람이 내리는 프로세스라면 고영향 AI 대상에서 제외된다. AI가 인간의 개입 없이 스스로 최종 의사결정을 내릴 때만 규제 대상이 된다. 안 본부장은 과기정통부의 조사 및 과태료 부과 조항이 최소 1년 이상 유예되는 점을 짚으며, "우리 AI 기본법은 강력한 처벌 중심의 유럽연합(EU) AI ACT와 달리 기업의 '자율 준수'에 방점을 두고 안전한 생태계를 조성하는 데 목적이 있다"고 강조했다. AX 핵심 사례…"운영 구조 혁신 지원" AX 사례집에서는 기업이 AI를 실제 업무 혁신으로 연결한 사례가 공유됐다. 대표적으로 한 기업은 한글 문서(HWP) 기반 업무 환경에서 AI 처리 구조를 구축해 문서 데이터를 자동 변환·활용할 수 있도록 만들었다. 이를 통해 반복 업무 인력을 최대 93%까지 절감했다. 또 다른 핵심 사례 베슬AI코리아는 AI 학습 과정에서 유휴 상태의 GPU를 자동으로 중단하고 재개하는 방식의 자원 최적화 기술을 적용해 AI 인프라 운영 비용을 크게 절감했다. 이는 AI 학습 및 서비스 운영 과정에서 발생하는 GPU 비용 부담을 줄인 대표적인 AX 사례로 소개됐다. 안 본부장은 "AX는 단순한 AI 도입이 아니라 데이터, 업무 프로세스, 조직 운영 체계를 AI 중심으로 재설계하는 과정"이라며 "기술 도입보다 운영 설계와 거버넌스 구축이 성공의 핵심"이라고 강조했다.

2026.06.18 17:30남혁우 기자

"피지컬AI 시대 사라진 일자리 사다리...새로운 교육 필요"

AI 기술이 로봇, 자율주행 등 현실 세계와 결합한 피지컬AI로 급속히 발전하며 청년 고용 시장의 양극화와 인간 생명을 위협하는 보안 공백에 대한 우려가 제기됐다. 전문가들은 현행 교육, 고용 제도와 데이터 보호에만 치중된 AI 법 제도만으로는 위기를 막을 수 없다며, 전면적인 거버너스 개편과 범정부 차원의 컨트롤타워 구축을 촉구했다. 송영희 서울과학종합대학원 객원교수는 20일 국회서 열린 '피지컬AI 시대, 일자리와 보안' 포럼에서 “AI가 중간 지대 노동을 대체하며 노동 시장이 저숙련, 고숙련 두 축으로 양극화되고 있다”며 “일자리 사다리가 사라지고, 고숙련만을 요하는 경력직 선호 현상이 뚜렷해 청년층 고용 불안 해소를 위한 정책이 시급하다”고 밝혔다. 특히 “급변하는 기술 주기가 현재 한국 교육 시스템에 반영되지 못하고 있다”고 진단했다. 신입 채용 문이 좁아진 상황에서 청년이 학교에서 배우는 내용과 현장 AI 기반 직무 역량이 달라 고용난이 심화하고 있다는 설명이다. 해외 주요국은 AI 인재 양성을 위해 이미 관련 커리큘럼을 구성했다. 미국은 대형 IT 기업이 주도해 과학, 기술, 공학, 수학(STEM) 교육을 강화하고 있고, 일본은 고등학교부터 프로그래밍 등 교육을 필수 과목으로 지정했으며, 에스토니아는 국가 차원에서 유치원생에게 코딩, AI 원리를 가르친다. 이에 따라 한국도 교육, 숙련, 신산업 발굴 등 AI 시대 고용 전 과정을 지원하는 정책을 마련해 AI 인재를 양성하고, 실무 현장에 투입해야 한다는 주장이 힘을 얻는다. 교육 현장에선 AI 신직무 특화 '마이크로 디그리' 채용 가점제 법제화, AI 신기술 실무 인턴십 조세특례제도, '고성능 AI 컴퓨터 바우처' 지원 등이 우선 과제로 꼽혔다. 송 교수는 “현재 교육부 매치업 프로그램이나 대학 내 소단위 전공 제도는 취업 시 가산점으로 작동하지 않아 청년들에게 매력도가 떨어진다. AI 교육 이수로 발급되는 마이크로 디그리가 실질적으로 가산점으로 부여돼야 한다”고 짚었다. 이어 “바우처를 청년들에게 직접 지급해 법인 설립 전이라도 GPU 서버 등 핵심 인프라를 무상 이용할 수 있도록 해야한다”고 했다. 이후 숙련 단계에선 AI 긱워커 등 신유형 노동에 맞춘 고용 보험 기준 변화, AI 신산업 상생 연대 기금 조성 등을 제시했다. 신 교수는 “지금은 고용 보험이 전통적 정규직 중심으로 설계돼 프리랜서 코더 등 AI 기반 노동자를 보호하지 못하고 있어 기준을 현행 근로 시간 중심에서 개인 총 소득 기준으로 바꿔야 한다”고 말했다. 기금과 관련해선 “정부와 기업이 AI 사업을 위해 1대1 매칭 펀드를 조성해 청년 디지털 교육과 실질자 전직 지원에 사용해야 한다”고 했다. 아울러 송 교수는 AI 인재 육성을 위해 현재 교육부, 과학기술정보통신부, 고용노동부로 나뉘어진 인재 양성 사업을 하나로 통합해 범부처 차원의 '국가디지털인재위원회'를 설치해야 한다고 주장했다. “AI 기본법, 피지컬AI 보안 위협 대응 못해” 노영규 연세대 바른ICT연구소 교수는 피지컬AI가 촉발한 보안 문제를 다뤘다. 노 교수는 “과거 해킹이 데이터 유출 수준이었다면, 피지컬AI 해킹은 인간을 해치고 국가 기반 시설을 파괴하는 물리적 위협으로 진화하고 있다”며 “피지컬 AI 보안을 위한 범정부 차원의 대책을 마련해야 한다”고 밝혔다. 노 교수는 “잔디깎이 로봇 백도어 보안이 뚫려 원격으로 상대 감시가 가능하다면 이 로봇이 사람에게 돌진할 수 있는 '현장성'을 갖게 된다”며 “만약 특정 제조사 로봇 수천 대가 같은 비밀번호를 공유한다면 로봇 한 개의 비밀번호만 해킹돼도 로봇 수천 개가 인간을 위협하는 도구로 변모할 수 있다”고 설명했다. 이같은 보안 위협이 국가 인프라에 다다른다면 국가 전체가 위험에 빠질 가능성도 농후하다. 실제 러시아 우크라이나, 가자지구 전쟁 등에선 군사 로봇이 사용되고 있는데, 만약 적이 아군 로봇을 해킹한다면 아군 전력이 적군의 것으로 역이용될 위험이 크다. 최근 공격 AI의 급속한 발전도 보안 위협 요소로 작용한다. 노 교수는 “앤트로픽 미토스 등 최신 AI 모델은 보안 특화 모델이 아님에도 스스로 취약점을 찾아내 악성코드를 자율 생성, 변형하는 수준에 이르렀다”며 “강력한 AI 모델이 나올수록 위험이 커질 수밖에 없다”고 말했다. 강대엽 AI메트리카 연구소 소장은 “피지컬AI는 움직이는 센서와 행동 시스템이 기반이라는 점에서 보안이 뚫리면 현실의 물리적 차원으로 위협이 확장된다”며 “교통, 군사, 경제 등이 결합한 위협이므로 사고 이전 책임 설계에 대한 논의가 필요하다”고 짚었다. 노 교수는 “지금 피지컬AI 보안에 대응하지 않으면 국민 안전과 국가 안보 차원에서 큰 피해를 입을 수 있다”며 “기술적으론 설계 단계부터 보안을 내장하는 시큐리티 바이 디자인과 제로트러스트 아키텍처를 도입해야한다”고 주장했다. 국가 차원의 통합 거버넌스 구축에 대한 필요성도 제기됐다. 노 교수는 “AI 기본법 등 현행 AI 법 제도는 개인 정보, 저작권 중심으로 설계돼 피지컬 AI 보안을 충분히 보장하지 못한다”며 “현재 AI 보안 주무 부처가 과학기술정보통신부, 산업통상자원부, 국토교통부로 주무 부처가 나뉘어있어 규제가 파편화된 것도 문제다”고 진단했다. 그러면서 “범정부 차원의 피지컬AI 안전위원회를 설치하고, 피지컬AI 안전 보안 특별법을 제정해 AI 기본법의 공백을 메워야 한다”고 강조했다.

2026.05.20 16:00홍지후 기자

엔트로픽만 대리인 지정..."해외 AI 기업 법적책임 강화해야"

오픈AI와 구글과 같은 해외 AI 기업에 대한 국내 법적 책임을 강화하기 위한 입법이 추진된다. 더불어민주당 조인철 의원은 13일 해외 AI 사업자의 국내대리인 지정과 관리 절차를 강화하는 내용을 골자로 한 AI기본법 개정안을 대표발의 했다고 밝혔다. AI 챗봇, 생성형 AI, 추천 알고리즘, 자동화 의사결정 시스템 등 AI 서비스는 이미 국민 생활과 산업 현장 전반에 깊숙이 자리 잡고 있으나 위법행위나 사고가 발생했을 때 해외 본사에 대한 국내 법 짛행과 후속 조치 이행을 담보하기 어렵다. 국내 AI 기업은 법 위반 시 자료 제출, 시정 요구, 제재 등 국내 법령에 따른 책임을 지는 만면 해외 AI 기업은 국내 책임 주체가 불분명할 경우 정부의 자료 제출 요구나 후속 조치 이행을 담보하기 어려워 국내 기업만 규제 부담을 지는 역차별 우려도 나온다. 현행 AI 기본법은 국내에 주소 또는 영업소가 없는 일정 규모 이상의 해외 AI 사업자에게 국내대리인을 지정하도록 하고 있다. 구체적으로는 전년도 매출액 1조 원 이상, AI 서비스 부문 매출액 100 억 원 이상, 일평균 국내 이용자 수 100 만 명 이상인 경우 등이다. AI 서비스 관련 사고로 자료 제출을 요구받은 경우에도 지정 대상이 될 수 있다. 그럼에도 현행 제도는 대리인 변경 시 신고 의무가 명확하지 않고 정부와의 상시 연락 유지 기준도 미흡하다. 특히 해외 AI 사업자가 국내 법인을 두고 있는 경우에도 해당 법인을 국내대리인으로 우선 지정하도록 하는 근거가 부족해 사업 운영 실태를 알지 못하는 형식적 대리인이 지정될 가능성도 있다. 조인철 의원실에 따르면 현재 과학기술정보통신부에 국내대리인을 신고한 해외 AI 기업은 앤트로픽 한 곳에 불과하다. 이에 따라 개정안은 국내대리인 제도를 단순한 행정 절차가 아니라, 해외 AI 기업의 국내 책임을 확보하는 실질적 장치로 강화하는 데 초점을 맞췄다. 주요 내용은 ▲국내대리인 변경 시 과기정통부 장관에게 변경신고 의무화 ▲해외 AI 사업자가 국내 법인을 설립한 경우 해당 법인을 국내대리인 우선 지정 ▲국내대리인의 성명, 주소, 연락처, 담당자 정보를 인터넷 사이트 등에 공개하고 과기정통부에 통보 등이다. 또 ▲국내대리인이 과기정통부와 상시 연락이 가능하도록 필요한 조치를 취하도록 하고 ▲관련 의무 위반 시 3000만원 이하의 과태료를 부과할 수 있도록 했다. 조인철 의원은 “AI 서비스는 이미 국경을 넘어 국민 일상과 산업 전반에 중대한 영향을 미치고 있지만 책임 체계는 여전히 해외 본사의 선의에 기대는 수준에 머물러서는 안 된다”고 말했다. 이어, “AI 기본법상 국내대리인 지정 대상이 규정돼 있음에도 실제 신고 기업이 엔트로픽 단 한 곳에 그친 것은 제도의 실효성을 재점검해야 한다는 명확한 신호”라며 “국내대리인은 단순한 우편함이나 연락창구가 아니라 국내 이용자 보호와 정부 대응을 위한 실질적 책임창구가 되어야 한다”고 강조했다.

2026.05.13 12:02박수형 기자

[기고] 조직 안에 들어온 AI 에이전트…'누가 통제하는가'가 경쟁력

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI 업계 화두가 생성형 AI에서 'AI 에이전트'로 넘어온 지도 꽤 됐다. 최근엔 기업들이 이를 실제 업무에 적용하기 시작하면서 분위기가 달라지고 있다. AI는 이제 단순히 질문에 답하는 수준을 넘어 목표를 이해하고 여러 단계를 거쳐 실제 행동까지 수행한다. 회의 내용을 정리하고 이메일을 보내는 수준 이상으로 일정 조율, 보고서 작성, 고객 응대, 계약서 검토까지 수행한다. 영업·인사·법무 등 업무별 특성에 맞춘 '개인화된 에이전트 AI'를 구축하는 사례들도 늘고 있다. 하나의 범용 AI가 아니라 조직 내부 역할과 업무 흐름에 맞춰 여러 개 AI 동료를 배치하기 시작했다는 점이 인상적이다. 앞으로는 전사자원관리(ERP)·고객관리(CRM)·그룹웨어와 연결해 기업 내부 의사결정 과정 자체에 개입할 가능성도 크다. 문제는 여기서부터다. AI 에이전트는 사용자 목표를 해석하고 필요한 정보를 탐색하며, 여러 선택지 중 하나를 스스로 결정한다. 때로는 인간이 예상하지 못한 방식으로 문제를 해결하기도 한다. AI 에이전트에게 "출장 비용을 절감하라"는 목표를 부여했다고 가정해 보자. 에이전트는 항공권 가격을 비교하고 호텔을 예약하며 공급업체와 자동 협상을 진행할 수 있다. 이 과정에서 특정 거래처를 반복적으로 우대하거나 내부 승인 절차를 우회하는 판단을 내린다면 어떻게 될까. 기존 법체계는 기본적으로 '누가 결정했는가'를 중심으로 책임을 판단해 왔다. 하지만 AI 에이전트 시대엔 이 질문이 점점 어려워진다. 인간이 직접 지시하지 않았더라도 AI가 스스로 최적화를 수행하는 과정에서 문제가 발생할 수 있기 때문이다. AI 기본법이 고영향 AI에 투명성 확보와 안전성 검토, 위험관리 체계 구축을 요구하는 것도 같은 맥락이다. 이는 단순한 기술적 안전장치 문제가 아니라, 기업 내부에서 AI에 어떤 권한을 부여하고 누가 이를 관리·감독할 것인지에 관한 거버넌스 문제에 가깝다. 결국 중요한 것은 AI 성능만이 아니다. 기업이 AI에게 어디까지 권한을 부여할 것인지, 인간의 개입 지점을 어디에 둘 것인지, 그리고 문제 발생 시 책임 구조를 어떻게 설계할 것인지가 새로운 경쟁력이 될 수 있다. AI 에이전트는 더 이상 단순한 소프트웨어가 아니다. 그렇다고 완전한 의사결정 주체도 아니다. 앞으로의 경쟁은 단순히 더 좋은 AI를 보유하는 것이 아니라, AI를 얼마나 안전하고 신뢰 가능하게 통제할 수 있는가를 중심으로 전개될 가능성이 크다.

2026.05.07 16:33강정희 컬럼니스트

기업 94.6%, AI 기본법 '내용 몰라'…법 시행에도 현장 대응 미흡

기업 10곳 가운데 9곳 이상이 올해 시행된 '인공지능(AI) 기본법' 내용을 제대로 알지 못하는 것으로 나타났다. 법 시행에도 현장 대응은 여전히 초기 단계에 머물러 있다는 지적이다. 한국표준협회(회장 문동민)는 기업 종사자 368명을 대상으로 실시한 설문조사 결과, 응답자의 52.8%가 법 시행 사실 자체를 모르고 있었고 41.8%는 시행 사실은 알고 있으나 구체적인 내용을 모른다고 답했다. 지난 1월 22일 시행된 AI 기본법은 고영향 AI와 생성형 AI에 대해 투명성 확보, 안전성 검증, 영향평가 등을 요구하고 있다. 그러나 이번 조사 결과는 기업이 이러한 규제 환경 변화에 충분히 대응하지 못하고 있음을 보여준다. 기업의 AI 윤리 대응 현황을 살펴보면, 교육 제공(36.1%)과 내부 가이드라인 보유(29.2%) 등 기초적 준비는 어느 정도 갖츤 반면에, 전담 조직 운영(18.8%), 모니터링 체계 구축(11.2%), 외부 인증 도입(4.7%) 등 조직·시스템 기반 실질적 대응은 미흡한 것으로 나타났다. AI 윤리 대응이 아직 교육·가이드라인 중심의 초기 단계에 머물러 있으며, 실제 운영 체계로는 충분히 확장되지 못했음을 시사한다. 표준협회는 기업의 AI 기본법 대응을 지원하기 위해 오는 29일, '2026년 AI 기본법 대응 세미나'를 개최한다. 세미나는 AI 윤리와 안전 요구사항을 중심으로, 법·제도 이해를 넘어 실무 적용을 위한 대응 방향을 제시하는 데 목적이 있다. 주요 프로그램은 ▲AI 기본법 주요 내용과 기업 대응 전략 ▲AI 안전 확보 방안 ▲AI 윤리 및 영향평가 프레임워크 ▲국내외 AI 인증 동향 등으로 구성된다. 이번 세미나는 PwC컨설팅, 인공지능안전연구소(AISI), 정보통신정책연구원(KISDI) 등 분야별 전문기관이 참여해 법·정책·안전·윤리 전반을 아우르는 강의를 제공한다. 문동민 표준협회 회장은 “AI 기본법 시행에 따라 기업과 기관 대응은 선택이 아닌 필수 과제”라며 “표준협회는 실무 중심 교육을 통해 현장의 AI 윤리 대응 역량 강화를 지원할 계획”이라고 밝혔다. 세미나는 29일 서울 강남 퓨처밸류캠퍼스에서 개최한다. 참가 신청은 표준협회 교육 홈페이지에서 하면 된다.

2026.05.04 11:12주문정 기자

"AI기본법 규제유예 안된다...가이드라인 없으면 기업 위험"

국회 과학기술정보방송통신위원장을 맡고 있는 더불어민주당 최민희 의원은 “(AI 기본법을) 1년 시행해 보고 기업들이 그 정도의 최소한의 규제 때문에 안 된다고 생각하면 그때 (규제 유예를) 논의해야 한다”고 밝혔다. 14일 열린 과학기술정보방송통신위원회 전체회의에서 최 의원은 AI기본법의 규제 유예 의견에 이같이 말했다. 최 의원은 “기업들의 모든 의견을 수렴해서 지금으로서는 최적의 상태를 만들어 낸 것”이라며 “그런데 지금 이 시점에서 시행도 제대로 해보지 않고 시행되는 과정에 크게 문제도 없는데 다시 규제 유예를 얘기하는 것은 너무 마음이 급한 것이라고 생각한다”고 꼬집었다. 이어, “왜 국가를 두겠냐”며 “만약 효율성만을 따지면 그냥 삼성이 대한민국 대통령도 하고 뭐도 하고 다 하게 할텐데, 그렇게 하지 않은 이유가 있다”고 덧붙였다. 그러면서 “국회의원 중에는 모든 규제를 없애자는 이들도 있고, 기업은 규제가 없으면 좋을 것”이라면서도 “AI 생산물이 최소한의 AI 표시제도 없이 막 유통되는 현상을 막기 위해 최소한(의 규제를) 둔 것인데 이런 식으로 되돌리려는 시도는 정말 안 된다고 생각한다”고 강조했다. 조국혁신상의 이해민 의원도 같은 뜻을 밝혔다. 이 의원은 “기업에서 굉장히 오랫동안 일했던 사람으로서 진흥을 위한 최소한의 규제 정말 필요하다고 본다”며 “규제가 없으면 (산업 현장에서) 가이드라인이 없어져 기업에서도 위험도가 올라간다”고 했다. 이 의원은 또 “과학기술정보통신부가 시행령을 꼼꼼하게 준비했다고 보고 최소한의 규제는 유지해야 한다”고 밝혔다.

2026.04.14 17:08박수형 기자

  Prev 1 2 3 4 Next  

지금 뜨는 기사

이시각 헤드라인

삼성전자, 테일러 1공장 후속 설비투자…2나노 생산거점 완성 수순

"아이폰·패드 따로 사는 것보다 낫다"…애플 '아이폰 듀오' 국내 출시

할리스도 털렸는데...스벅·투썸·교촌 앱 보안은

홍범식 LGU+ "해킹 은폐 확인되면 합당한 책임지겠다"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.