검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 기본법'통합검색 결과 입니다. (40건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"산업 진흥 vs 규제"…KOSA, 기업 우려 속 AI 기본법 의견수렴 창구 개설

한국소프트웨어산업협회(KOSA)가 인공지능(AI) 기본법 하위법령 마련을 위해 의견을 모은다. 기업들이 AI 기본법의 지나친 산업규제 가능성에 우려를 표하는 가운데 다양한 이해관계자의 목소리를 직접 반영해 균형 잡힌 법령을 마련하려는 의도다. KOSA는 AI 기본법 시행에 앞서 후속 입법을 위한 'AI 기본법 하위법령 의견수렴 창구'를 개설했다고 6일 밝혔다. AI 기본법은 지난 1월 21일 국회를 통과해 오는 2026년 1월 22일 시행될 예정이다. 다만 '고영향 AI'의 정의와 AI 사업자의 책무 등 주요 조항의 구체적 적용 방식이 정해지지 않은 만큼 이에 대한 의견을 산업계에서 수렴할 필요성이 제기되고 있다. 특히 기업들은 지나친 규제가 국내 AI 경쟁력을 약화시킬 가능성을 경계하고 있다. 특히 ▲AI 투명성 확보 의무 ▲AI 안전성 확보 의무 ▲고영향 AI 기준 및 사업자 책무 ▲AI 영향평가 등 핵심 쟁점이 산업 성장에 미칠 영향을 면밀히 검토해야 한다는 목소리가 크다. 이에 KOSA는 AI 모델을 개발하는 기업뿐 아니라 AI를 활용하는 수요기업, 시민단체 등 폭넓은 의견을 듣겠다는 방침이다. AI 거버넌스 및 인재 육성 정책과 관련된 의견도 수렴한다. KOSA는 이번 의견수렴 결과를 AI 기본법 하위법령 정비단과 관계부처에 전달할 계획이다. 의견을 제출하려는 기업 및 관계자는 KOSA 홈페이지를 통해 참여할 수 있다. 조준희 KOSA 회장은 "AI 기본법 하위법령은 한국 AI 산업의 미래를 결정할 핵심 틀이 될 것"이라며 "산업계와 시민사회의 다양한 의견을 적극 반영해 안전성과 혁신이 조화를 이루는 법령을 마련할 수 있도록 노력하겠다"고 밝혔다.

2025.03.06 16:49조이환

[현장] AI 기본법 시행령 초안, 3월에 나온다…"세밀한 하위 법령 마련 필요"

지난해 12월 세계 두 번째로 인공지능(AI) 기본법이 우리나라에서 제정된 가운데 실효성 있게 추진되기 위해선 입법취지를 충실히 반영하는 방향으로 구체적인 사항들이 규정될 필요가 있다는 지적이 나왔다. 단순히 해외 규제들을 따라가는 것이 아니라 불확실성이 적은 국내 환경에서 먼저 법과 제도를 준수할 수 있는 기반을 세밀하게 마련해야 한다는 주장이다. 정진우 트웰브랩스 공동창업자는 26일 오전 국회 제2소회의실에서 진행된 'AI 기본법 현안 논의 토론회'에 참여해 "AI 산업의 지속적인 성장을 위해서는 기본법을 토대로 한 하위 법령 마련, 자원의 효율적 배분, 국가 전략의 체계적 실행이 필수적"이라며 "산업계의 가장 큰 우려는 AI의 신뢰성 확보와 관련된 법적 요건"이라고 밝혔다. 그러면서 "특히 고영향 인공지능 사업자의 책무(제34조)와 관련해 향후 규제가 강화될 가능성이 있다는 점이 고민"이라면서도 "다만 최소한의 법적 처벌 요건(제31조 1항 및 제36조 1항)만을 규정하고 있어 단기적으로는 산업계에 부담이 크지 않을 것으로 보인다"고 부연했다. AI 기본법은 AI 개발과 활용에 관한 기본원칙과 정부의 지원 방향을 규정한 법으로, 내년 1월 22일부터 시행될 예정이다. AI 관련 법안이 시행되는 것은 유럽연합(EU)에 이어 전 세계 두 번째로 ▲AI의 건전한 발전과 신뢰 기반 조성을 위한 추진체계 ▲인공지능기술 개발 및 산업 육성 ▲AI 윤리 및 신뢰성 확보 등을 중점적으로 다루고 있다. 공진호 과기정통부 과장은 "올해 1월 하위법령 정비단을 구성해 상반기까지 하위법령 및 가이드라인을 마련하는 것을 목표로 하고 있다"며 "이르면 3월 중에 시행령 초안을 마련해 다양한 의견을 수렴할 수 있도록 할 것"이라고 밝혔다. 이어 "하위법령은 국가 AI 경쟁력 강화라는 입법 취지를 살릴 수 있도록 방향을 잡아가고 있다"며 "기업들에게 불필요한 규제가 있지 않도록 시행할 예정으로, 기업들이 이에 대비할 수 있는 시간을 충분히 가질 수 있도록 노력할 것"이라고 덧붙였다. 김민준 랭코드 대표는 이날 토론회에서 AI 기본법에 영향을 크게 받는 AI 사업자 외에 AI 모델이나 제품을 도입해 사용하는 수요기업들이 아직 법규나 제도에 대해 인지가 낮다는 점을 지적했다. 이에 향후 정책 시행 및 거버넌스 차원에서 이들을 고려할 필요가 있다고 주장했다. 김 대표는 "글로벌 진출을 목표하는 스타트업 입장에서는 AI 기본법을 비롯한 국내 법·제도가 글로벌 시장에서 사업 기회와 경쟁 우위를 확보하는 요소가 될 수 있다"며 "다만 각 수요기업 및 사업자가 개별적으로 대응하기에는 (법 적용에) 어려움이 있어 정부 차원에서 자율 인증 프로그램, 컨설팅, 표준화된 가이드라인 등을 제공하면 실무 현장에서 훨씬 수월하게 대응할 수 있을 것"이라고 강조했다. 박성재 로폼 AI센터장은 AI 기본법이 내년 1월 시행되기 전에 '고영향 AI' 범위에 대한 해석도 명확히 할 필요가 있다고 지적했다. 현재 규정에선 '고영향 AI' 범위가 광범위하게 확대될 가능성이 있는 만큼, 민간 자율 AI윤리위원회 등 민간 사업자가 참여한 자율 단체를 통해 고영향 AI 범위에 대한 산업계의 의견이나 최신 AI 기술 실무가 반영될 필요가 있다고 피력했다. 또 박 센터장은 스타트업 등 관련 중소기업 등도 참여할 수 있는 열린 구조를 AI 기본법이 지향해야 AI 산업이 활성화 될 수 있을 것이라고 주장했다. 또 12조에 규정된 AI 안전연구소는 제재를 위한 기관이 아닌 AI의 안전한 발전을 위한 실질적인 지원 기관으로서 역할을 수행할 수 있어야 한다고 봤다. 더불어 AI 기본법 제16~17조에서 기업 지원 내용이 포함된 것과 관련해선 중소기업에 대한 체계적인 지원 체계가 구축될 필요가 있다고도 강조했다. 또 글로벌 협력을 강화하기 위해 글로벌 표준 마련과 함께 국제 협력 체계를 구축할 필요가 있다는 점도 짚었다. 박 센터장은 "인적, 물적 자원이 부족한 중소기업들에게 검증·인증 절차도 큰 부담 요소로 작용할 가능성이 있고, 이로 인해 AI 생태계의 신뢰성과 안전성을 저해할 수도 있다"며 "신산업인 AI 시장에 많은 스타트업들이 뛰어들고 있다는 점을 고려하면 현재의 법안은 과도한 부담으로 작용할 우려가 있다"고 밝혔다. 일부 토론자들은 AI 인재 양성을 위해서도 정부와 국회의 적극적인 지원이 필요하다는 점을 강조했다. 특히 우리나라 인재의 해외 유출이 심각하다는 점을 지적하며 제도 개선이 시급하다고 지적했다. 배순민 KT AI 퓨처 랩장은 "한국은 인재 해외 유출로 인해 투자 지표가 주요국에 점차 밀리고 있는 상황"이라며 "AI 기술의 글로벌 경쟁력 확보와 산업 발전을 위한 투자 확대 및 인재 확보 전략이 필요하다"고 피력했다. 이어 "AI 인재 확보는 국가 경쟁력을 좌우하는 중요한 요소인 만큼 실력있는 인재 양성을 위한 대학의 AI 학과 신·증설 및 적극적인 우수 인재 확보 방안이 필요하다"며 "AI 기술 선도 국가, 기업의 기술을 빠르게 따라잡기 위해서는 기술의 투명성과 확산, 생태계 구성이 반드시 필요하고, 이를 위한 오픈소스 생태계를 강화하고 정부가 전략적으로 지원하는 것도 필요하다"고 부연했다. 정진우 트웰브랩스 공동창업자 역시 "AI 경쟁력을 구성하는 핵심 요소는 데이터, 컴퓨팅 파워, 인재, 글로벌 경쟁력"이라며 "기술 이민 활성화, 해외 빅테크 기업들의 글로벌 AI 연구개발 센터 유치 등을 통해 AI 인재들이 한국에 자리 잡을 수 있도록 입법 및 지원 정책이 필요하다"고 말했다. 신상렬 국가AI위원회 국장은 국제적 동향을 고려해 AI 기본법의 하위법령이 규제보다 '진흥'에 초점이 맞춰져야 한다고 강조했다. 규제 대상‧수준이 AI 산업 활성화에 미칠 영향이 크다고 봐서다. 신 국장은 "AI 기본법에서 규정하고 있는 '고영향 인공지능에 대한 기준', 'AI 사업자 책무' 등은 하위법령 제정 시 명확화를 통해 규제 범위의 불확실성을 해소하고 가이드라인에서는 고영향 인공지능의 적용범위를 좁게 해석하는 방향으로 규정할 필요가 있다"며 "투명성‧안전성‧신뢰성 확보를 위한 의무 관련해서도 사업자 등 이해관계 당사자의 충분한 의견수렴을 거쳐 합리적인 수준에서 결정하는 것이 필요하다"고 밝혔다. 또 국가AI위원회에 대해선 "국가 AI 정책의 컨트롤타워로서 범부처 AI 역량을 결집해 정책 조율, 기술 개발, AI 활용 촉진, 고영향 AI 규율 등에 관한 사항을 심의·의결하는 역할을 할 것"이라며 "급변하는 AI 환경에 적절히 대응하고 AI 기본법 시행을 준비하기 위해 과기정통부와 함께 하위법령 마련을 신속 추진할 것"이라고 설명했다.

2025.02.26 12:46장유미

[현장] "AI, 국가백년지대계"…AI 기본법 유효성 논의 위해 국회의원들 모였다

"지난해 12월 국회가 인공지능(AI) 기본법을 통과시키며 새로운 전환점을 만들어 냈습니다. AI 기본법에 포함된 많은 내용들이 유효, 적절하게 시행될 수 있도록 이번 토론이 중요한 계기가 될 수 있길 바랍니다." 조준희 한국소프트웨어산업협회(KOSA) 회장은 26일 오전 국회 제2소회의실에서 진행된 'AI 기본법 현안 논의 토론회'에 참석해 이처럼 강조했다. 조 회장은 "2023년 초 '챗GPT'로 촉발된 AI 열풍은 잠깐 불어온 단순한 바람에 그치지 않고 이제 전 세계의 가장 중요한 화두로 견고하게 자리 잡아 가고 있다"며 "규모의 경제를 앞세운 선도 국가들의 막대한 물량 공세에 다소 위축되지 않을까 우려도 있었지만, AI 기본법 통과가 새로운 전환점을 만들어 냈다"고 운을 띄었다. 이어 "정부도 이에 화답해 국가AI컴퓨팅센터에 약 2조원가량의 민관 투자를 예정했고, 국가AI위원회에선 '월드베스트 LLM 프로젝트' 등을 포함한 대대적인 AI 정책을 발표하는 등 AI가 명실상부한 국가백년지대계임이 드러났다"며 "이에 발맞춰 업계도 국가 AI 경쟁력을 이른 시일 내에 글로벌 최상위권으로 끌어올리겠다는 다짐을 하고 있다"고 덧붙였다. 조인철 더불어민주당 의원가 주최한 이날 토론회에는 위원장인 최민희 의원을 비롯해 최형두 의원, 황정아 의원 등 국회 과학기술정보방송통신위원회 소속 의원들이 대거 참석해 눈길을 끌었다. 특히 조 의원은 업계가 숙원으로 삼고 있던 AI 기본법을 의정활동 제1호 발의 법안으로 제출하는 등 AI 산업에 상당한 관심을 보이고 있는 인물로 평가 받고 있다. 조 의원은 "'대한민국의 위기'라는 단어가 유독 자주 들리는데 미국은 AI 분야의 압도적 강자로 자리매김했고, 중국은 '딥시크'라는 충격으로 경쟁에 불을 지폈다"며 "이런 각축에 끼지 못한다면 향후 수십 년을 따라만 가다가 기회를 놓칠 수 있다는 불안감이 있다"고 말했다. 그러면서 "대한민국은 늘 위기 앞에 강했고 늘 선구안이 함께 했다는 점에서 AI 기본법이 족쇄가 아닌 청사진이 돼야 할 것"이라며 "세계 두 번째로 제정된 AI 기본법이 보강해야 할 부분이 많지만, 신산업 성장을 방해해선 안 되고 사용자의 권익을 무방비하게 훼손하도록 방치해서도 안될 것"이라고 강조했다. 또 그는 "우리 숙제는 균형점을 찾는 것"이라며 "AI 기본법이 민간의 과감한 도전을 뒷받침할 수 있는 날개가 될 수 있도록 의정 활동에 힘을 보탤 것"이라고 덧붙였다. 이날 참석한 여러 의원들도 국내 AI 기술 발전을 위해 힘을 모으겠다는 의지를 드러냈다. 또 2000년대 초 IT 혁명 시기에 네이버, 카카오 같은 기업들이 등장해 성장했던 것처럼 AI 시대를 맞아 다양한 지원책을 마련해 또 다른 많은 기업들의 성장을 이끌어내겠다는 의지도 내보였다. 최 위원장은 "고위험 AI를 고영향 AI로 개념을 바꾸는 과정에서 여야 간 토론이 많았다"며 "국회가 법과 제도로 기술 발전을 막는 것은 있을 수 없는 일이라고 보고 AI 기본법을 제정했다"고 밝혔다. 이어 "이젠 어떤 것을 보완해야 하는지 심도있게 논의해야 할 필요가 있다"며 "앞으로 우리나라가 AI로 제2의 전성기가 올 수 있기를 기대한다"고 덧붙였다. 황 의원도 이날 토론회에 참석해 현재 AI 춘추전국시대에 접어든 만큼 적절한 시기에 지원책이 마련될 수 있도록 적극 나서겠다는 의지를 드러냈다. 황 의원은 "지금이 AI 지원의 골든타임이라고 생각한다"며 "우리가 거대자본을 이길 수 있을까에 대한 가능성을 딥시크 쇼크에서 봤던 만큼, 우리도 변화, 도전 시기에 기회를 붙잡을 수 있도록 국회에서 입법과 예산, 정책으로 적극 지원하도록 노력할 것"이라고 강조했다. 'AI 기본법으로 연결되는 AI 혁신과 안전'이란 주제로 진행된 이날 토론회에선 이상욱 한양대학교 철학과 교수의 강연도 진행됐다. '혁신과 안전이 공존하는 AI 시대'라는 주제로 진행된 이 강연에선 AI 윤리의 바람직한 방향과 올바른 활용성에 대한 설명이 주를 이뤘다. 이 교수는 "AI를 활용하면서도 인간의 역량을 높이는 방안에 대한 고민과 노력들이 필요하다"며 "특히 착한 혹은 나쁜 AI 구별의 모호성이 부각되고 있는 '이중 사용(dual use)' 문제와 디지털 기술의 과도한 사용에 따른 청소년 유해성 문제를 집중적으로 살펴봐야 한다"고 주장했다. 이어 "혁신적 기술이 인류 발전에 항상 도움이 되는 것은 아니라는 점도 고려해야 한다"며 "AI가 인간을 대체하는 것이 아닌 상호보완적 관계를 맺으며 더 많은 가치를 창출할 수 있는 '증강'의 개념으로 활용해야 한다"고 덧붙였다. 그러면서 "AI 기본법이 우리가 보다 바람직한 AI 시대를 만들어 나가는 데 도움이 되길 바란다"며 "AI가 인류 복지에 지대하게 기여할 수 있는 잠재력이 있지만, 바람직한 미래상을 가지고 거버넌스를 잘 만들었을 때 올바른 방향으로 갈 수 있을 것"이라고 피력했다.

2025.02.26 11:43장유미

[AI는 지금] AI 기본법 정비단 출범…업계 "고영향 AI 정의 신중해야"

과학기술정보통신부가 인공지능(AI) 기본법 하위법령 정비단을 출범하며 AI 산업 육성과 신뢰 기반 조성을 본격화한다. 국내 AI 업계는 이번 정비단 출범이 산업 진흥으로 이어지길 기대하는 동시에 고영향 AI의 정의와 평가 기준에 대한 명확성을 요구하고 있다. 과학기술정보통신부는 지난해 12월 국회에서 통과된 AI기본법이 내년 1월부터 차질 없이 시행될 수 있도록 하위법령 정비단을 통해 시행령 초안을 신속히 마련할 계획이라고 15일 밝혔다. AI 기본법은 지난 2020년 처음 국회에 발의된 이후 오랜 논의를 거쳐 제정됐다. 이 법은 유럽연합(EU)의 AI 법안에 이어 세계 두 번째로 제정된 사례로, AI로 인한 위험을 예방하고 기술 발전을 촉진하는 내용을 담고 있다. 이번에 구성된 하위법령 정비단은 AI 기본법의 핵심 쟁점인 고영향 AI와 생성형 AI의 세부 기준을 구체화하며 법안의 실효성을 높이는 것을 목표로 한다. 고영향 AI란 인간 생명, 신체 안전, 기본권에 중대한 영향을 미칠 수 있는 AI 시스템을 뜻한다. 정비를 위해 과기정통부를 비롯해 국가AI위원회 법제도분과, 산업계 초거대 AI추진협의회, 학계, 법조계 전문가 등이 참여한다. 정비단은 워킹그룹 3개 분과로 구성돼 조항별 세부 내용을 구체화한다. 워킹그룹 1은 AI 안전성 확보 의무와 국내대리인 지정을 담당하고 워킹그룹 2는 AI 투명성 확보 의무, 영향평가, 신뢰성 검증과 인증을 다룬다. 워킹그룹 3은 고영향 AI 기준 설정, 사업자 책무, 사실조사를 주요 검토 대상으로 삼는다. 현재 하위법령에는 ▲ AI기본법 시행령 및 시행규칙 ▲ 고영향 인공지능 기준과 예시에 관한 가이드라인 ▲ 고영향 인공지능 사업자 책무 가이드라인 ▲ 인공지능 안전성 확보 의무 고시 ▲ 인공지능 영향평가 가이드라인 ▲ 인공지능 투명성 확보 의무 가이드라인이 포함됐다. 추후 규제 샌드박스, AI 신뢰성 검증, 사실조사 및 분쟁조정 관련 항목도 추가될 가능성이 높다. 송상훈 과학기술정보통신부 정보통신정책실장은 "이번 법 제정은 우리나라가 AI G3 강국으로 도약할 법적 기반을 마련했다는 점에서 큰 의미가 있다"며 "기업의 예측 가능성을 높이고 투자를 촉진하기 위해 하위법령 정비에 속도를 낼 것"이라고 밝혔다. 국내 AI 업계는 하위법령 정비단 출범을 반기는 분위기다. 제도가 부재해 자의적인 법리해석이 이뤄질 가능성이 현저히 줄어들어 기업이 정해진 범주 내에서 자유롭게 활동을 할 수 있게 됐기 때문이다. 한 AI 업계 관계자 X씨는 "기본법 하위 법령들이 정비되면 법제도상 불확실성이 상당 부분 해소되면서 안정적인 산업 발전이 가능해질 것으로 기대한다"며 "다만 실현되지 않은 위험을 예단하거나 AI 활용 분야와 무관하게 서비스 이용자 규모 등 외적 요소들로 규제 범위를 잡는 등 과잉 입법 이슈가 없도록 향후 논의가 이루어지길 바란다"고 밝혔다. 또 업계 일각에서는 고영향 AI의 정의와 평가 기준의 명확성을 가장 중요한 과제로 보고 있다. AI 업계 관계자 Y씨는 고영향 AI 정의의 중요성을 강조하며 "AI 기본법이 다루는 '고영향'이라는 개념은 이를 서비스하는 기업들에 직접적인 영향을 미칠 것"이라며 "정의를 구체화하는 것이 업계에 실질적인 도움이 될 것"이라고 말했다. 또 다른 업계 관계자 Z씨는 미국 캘리포니아의 사례를 들며 고영향 AI의 평가 방식과 과정이 과학적으로 이뤄져야 할 필요성을 강조했다. Z씨는 "캘리포니아 주지사가 지난해 주 AI법인 'SB 1047' 법안에 거부권을 행사한 사례가 대표적"이라며 "당시 주지사는 단순히 모델의 패러미터가 크다는 이유로 AI를 고위험으로 분류하는 것은 비과학적이라는 비판을 제기했다"고 설명했다. 이어 "의료 분야의 AI처럼 매개변수가 작아도 생명과 안전에 영향을 미칠 수 있는 사례가 있다"며 "분야별 특성을 반영한 고영향 AI의 정의와 평가 기준을 마련할 필요가 있다"고 밝혔다.

2025.01.15 12:14조이환

AI기본법 통과…업계 환영 속 '기대·우려' 교차

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'이 국회 본회의를 통과해 국내 AI 산업 전반에 대한 제도적 틀이 최초로 마련됐다. 업계와 시민사회는 전반적으로 이를 환영하면서도 법 적용 범위, 속도, 구체적인 지원·규제 수단 등에 대해서는 다양한 견해를 내놓고 있다. 27일 업계에 따르면 대한민국 국회가 지난 26일 AI기본법을 통과시킴으로서 한국은 유럽연합(EU)에 이어 세계에서 두 번째로 AI 산업 전반을 포괄하는 기본법을 갖추게 됐다. 정부는 이번 법 제정을 통해 AI 산업을 활성화하면서도 윤리·안전 문제에 대한 대응 시스템을 확립할 수 있을 것으로 기대하고 있다. 이 법에는 과학기술정보통신부(과기정통부)가 정기적으로 'AI 기본계획'을 수립하고 대통령 직속 국가인공지능위원회를 컨트롤타워로 둬 산업 육성과 윤리적 기준을 함께 조율하도록 하는 내용이 담겼다. 또 사람의 생명·안전·기본권에 중대한 영향을 미칠 수 있는 '고영향 AI'를 별도로 분류해 정부가 대상과 범위를 정하는 조항도 포함됐다. 업계와 시민사회는 대체로 AI기본법이 가져올 긍정적 효과에 주목하고 있다. 업계 관계자 A씨는 "AI 산업에 대한 명확한 기준과 지원 방안을 담은 법안이 생겨서 불확실성이 어느 정도 해소될 것 같다"며 "정부 차원에서 업계 이슈를 정리하고 방향을 제시해 준다는 사실만으로도 큰 도움이 될 것"이라고 호평했다. 실제로 기존 AI 업계에서는 법률 공백으로 인한 혼란이 적지 않았다는 반응이다. 생성형 AI나 빅데이터 기반 서비스를 준비하는 기업들이 어떤 규제와 지원을 받을 수 있는지 제대로 파악하기 어려웠고 투자자들도 법적 리스크 때문에 선뜻 자금을 투입하기 망설였기 때문이다. IT 업계 관계자 B씨는 "AI 기술을 활용한 다양한 비즈니스가 만들어지고 있음에도 이와 관련된 법이나 제도가 없어서 답답했다"며 "AI 기본법이 초석이 돼 불확실성이 해소되고 기업이 연구와 비즈니스에만 집중할 수 있게 되길 기대한다"고 말했다. 시민사회 역시 전반적으로 법 제정을 환영한다. 산업과 기술의 진흥 뿐만 아니라 윤리와 안전의 대응이라는 가장 중요한 두 핵심을 모두 고루 다룬 법안이라는 평가다. 특히 내년부터는 AI 에이전트 등 기술에 자율성을 부여하는 상황이 발생할 예정으로, 기본법을 통해 이러한 상황에 대처할 수 있게 될 것을 기대한다. 전창배 국제인공지능윤리협회(IAAE) 이사장은 "이제 우리나라가 글로벌 AI 이니셔티브를 선도할 수 있는 발판을 갖추게 됐다"며 "내년부터는 산학연관과 민간 등 모든 주체가 적극 힘을 합쳐 국내 AI가 글로벌 탑티어로 발돋움 할 수 있는 원년이 되도록 해야 할 것"이라고 강조했다. 이러한 긍정적 평가에도 불구하고 법 제정 속도와 적용 범위에 대한 우려도 제기되고 있다. 특히 AI기본법이 산업 진흥과 윤리·안전 두 측면을 모두 포괄한 만큼 이 둘 사이의 균형이 적절한지에 대한 비판적인 목소리가 나오고 있다. 김상배 정보세계정치학회(KAWPI) 회장 겸 서울대학교 정치외교학부 교수는 "법이 만들어지는 것 자체는 좋은 신호지만 전체적으로 규제 톤이 강해 보이는 면이 있다"며 "유럽 사례를 많이 참고한 것으로 보이는데 미국처럼 규제를 완화해 기술 혁신을 촉진하는 모델도 함께 고려해야 한다"고 말했다. 김 교수의 의견은 AI 패권 경쟁이 격화되고 있는 국제적 환경에서 비롯된다. 미·중 간 치열한 기술경쟁 구도 속에서 법이 지나치게 앞서거나 과도하게 규제 중심으로 설계될 경우 오히려 혁신의 싹을 잘라버릴 위험이 있다는 것이다. 그는 산업을 적극적으로 육성하는 방향을 강조하며 AI 산업의 급속한 변화 속도를 감안해 법 시행령과 구체적인 규정을 업계 상황에 맞게 유연하게 조정할 필요가 있다고 설명했다. 이와 반대로 AI 윤리와 안전의 중요성을 강조하는 의견도 많다. 변순용 서울교육대학교 AI윤리인증교육연구센터장은 법안이 우선 제정된 점에 대해 긍정적으로 평가하면서도 윤리와 안전 측면에서의 세부적인 고려가 부족하다는 점을 지적했다. 특히 AI가 사회 곳곳에서 활용되는 속도가 상상을 초월하고 있는 만큼 산업 진흥에만 초점을 맞출 경우 시민들의 안전과 기본권이 충분히 보호되지 못할 수 있다는 지적이다. 변 교수는 "법에서 정의한 '고영향 AI'의 범위가 다소 추상적"이라며 "인간의 판단을 대체하거나 결정에 깊이 관여하는 AI 시스템일수록 보다 엄격한 윤리 기준이 마련돼야 한다"고 강조했다.

2024.12.27 11:13조이환

AI기본법·단통법 폐지안, 국회 법사위 문턱 넘었다

인공지능(AI) 기본법 제정안과 단말기유통법 폐지안, 디지털포용법 제정안이 17일 국회 법제사법위원회 문턱을 넘어섰다. 이 법안들은 오는 30일 개최 예정인 본회의를 통과할 것으로 전망된다. 법사위는 이날 전체회의를 열어 과학기술정보방송통신위원회를 거친 AI 기본법 제정안, 단통법 폐지안과 일부 조항을 이관한 전기통신사업법 개정안, 디지털포용법 제정안, 수신료 통합징수 내용을 담은 방송법 개정안, 마약 유통 처벌 관련 정보통신망법 개정안 등을 통과시켰다. 수신료 통합징수 조항을 담은 방송법 개정안 외에 법사위를 통과한 디지털 분야 법은 여야 이견이 없는 내용이다. 지난달 말 과방위 전체회의를 통과한 뒤 법사위 심사에 앞서 숙려기간을 거치며 부처 간 이견을 조율 과청을 거쳤다. 방송법 개정안 외에 다른 법안은 법사위 내에서도 별다른 이견이 나오지 않았다. 다만, AI 기본법을 두고 문화체육관광부 국장급 인사의 돌발 발언으로 잠시 논란을 빚었다. AI 기본법안의 주무부처인 과학기술정보통신부는 다른 부처와 이견 조율을 거치면서 산업통상자원부와 법안 내 표준 내용에 관해 합의를 마쳤다. 또 문체부와는 저작권 관련 내용으로 이견이 있었으나 유상임 장관이 이날 오전 한덕수 대통령 권한대행과 유인촌 문체부 장관과 논의 끝에 법안 통과로 정부 방침을 세웠다. 그런 가운데 법사위에서 문체부 저작권국장이 일부 조항 추가를 요구한 것이다. 이에 대해 과방위 더불어민주당 간사인 김현 의원은 법사위 회의에 출석해 “제정법에 대해 21대 국회에서도 충분히 논의됐고, 기본법을 우선 제정하고 각 상임위별로 후속법 논의가 맞다는 것이 과방위 전체회의 입장”이라고 밝혔다. 유상임 과기정통부 장관 역시 “문체부와 저작권법 개정으로 추진하는 것 이야기해왔고, 기본법에서는 가급적 규제는 담지 않고 문체부나 개인정보보호위원회와 규제에 관련해서는 차후 각 부처에서 다루는 것으로 합의를 거쳤다”고 설명했다. 이어, “안타깝다. (문체부) 국장님 의견이 강해 (문체부) 장관님도 안 따르는 것 같다”고 지적했다. 정청래 법사위원장은 “일단 개문발차한 뒤 부족한 부분은 해당 상임위원회에서 해결하는 것으로 하자”며 “부처 간 이견이 있는 법안은 계류시키고 숙성시켜야 하는데 그 부분이 해소된 사항”이라고 말했다. 수신료 통합징수 방송법 개정안에 대해서는 여야 의견이 나뉘었으나 표결에 따라 처리됐다. 이외 다른 법안에 대한 토론은 이뤄지지 않고 과방위 안에 일부 자구 수정을 거친 안으로 통과됐다.

2024.12.17 12:32박수형

AI 산업, 尹 탄핵 정국 속 흔들리나…"초당파적 정책 연속성이 관건"

윤석열 대통령에 대한 탄핵 소추안이 지난 14일 국회 본회의에서 찬성 204표로 가결되면서 국가 인공지능(AI) 정책의 핵심인 AI 기본법 제정과 국가인공지능위원회 운영에 차질이 불가피할 것으로 보인다. 야당 역시 AI 기본법의 중요성에 공감해 정국 안정 이후 법안 처리에 진전이 있을 것으로 전망되나 업계는 신속한 경쟁력 회복의 중요성과 세부적인 정책 수립의 필요성을 강조하고 있다. 16일 업계에 따르면 AI 기본법은 국내 AI 산업계에 일종의 '가이드라인'을 제공하는 법안으로, 고위험 영역에서의 이용 지침과 안전성 확보를 위한 기업의 의무를 명시하고 있다. 이 법안은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체회의를 통과하며 법사위 논의를 거쳐 올해 중 통과가 예상됐으나 지난 9일 법제사법위원회(법사위) 전체회의에서 비상계엄령 관련 '내란 의혹 특검 수사요구안'이 먼저 다뤄지며 후순위로 밀려났다. 또 지난 9월 출범한 국가인공지능위원회(국가AI위원회)도 운영에 차질이 불가피할 것으로 전망된다. 국가AI위원회는 국가 AI 전략을 수립하고 시행하는 컨트롤타워 역할을 담당하는 대통령 직속 기구로, 윤 대통령의 직무정지로 인해 위원회의 정상적인 운영이 어려워질 전망이다. 특히 위원회가 계획했던 내년 1분기 내 국가 AI 전략 수립도 지연될 가능성이 높으며 정권 교체 시 위원 구성 변경으로 업무 연속성마저 위협받을 수 있다. 이로 인해 대폭 증액된 과학기술정보통신부(과기정통부)의 AI 예산 집행과 AI 산업 육성 시스템 마련에도 차질이 예상된다. 기자가 이와 관련해 과기부에 취재를 요청했으나 구체적인 답변을 받지 못했다. 일각에서는 탄핵 정국 이후 정권 교체 가능성이 대두되더라도 야당이 AI 산업의 초당파적 중요성을 인정하고 있기에 이견이 최소화되고 AI 분야가 지속적으로 진흥되리라고 전망하고 있다. 특히 법사위에 계류 중인 기본법안에 대해 이재명 대표 등 당 지도부는 신속 처리와 투자 요건 완화를 포함한 속도감 있는 정책 추진을 요구하고 있는 상황이다. 국가인공지능위원회 역시 대통령 탄핵 소추 상황 속에서도 중요한 역할을 지속해야 한다는 목소리가 나오고 있다. 한 야당 과방위 관계자 A씨는 "AI 산업은 분초를 다투는 중요한 문제이므로 대통령 탄핵 정국과 관계없이 여야가 협력해야 하는 분야"라며 "업무 공백을 최소화하고 AI 산업 발전을 위한 정책을 지속적으로 추진해야 한다"고 밝혔다. 그럼에도 불구하고 업계에서는 주요 정책 중단으로 인한 AI 발전 지연을 우려하고 있다. 치열한 글로벌 AI 경쟁 속에서 현재의 불안정한 정치적 상황이 국내 AI 발전에 불리하게 작용할 수 있다는 것이다. 한 AI 업계 관계자 B씨는 "현재의 정치적 상황은 불가항력이지만 AI 산업은 '골든타임'에 놓여 있다"며 C씨는 "정치와 관계 없이 당파를 초월해 AI 산업에 대한 일관적이고 전폭적인 지원이 필요하다"고 말했다. 이어 "업계 요구를 충분히 반영한 예산 배정과 정책 방향을 마련한다면 국가적 AI 경쟁력 강화에 큰 도움이 될 것"이라고 덧붙였다. 이와 동시에 법·규제 차원을 넘어 산업 발전을 위한 근본 조건 정비도 필요하다는 의견도 제기된다. 정치적 상황과 관계없이 반도체 생산 활성화, 전력 인프라 확충, 원자력 발전 지원 등 기반 산업부터 다뤄야 한다는 주장이다. AI 업계 관계자 C씨는 "규제·법제뿐 아니라 구체적 진흥 방안 논의가 중요하다"며 "어떤 기업에 얼마를 투자하고 무엇을 언제까지 할지 등 실질적 계획을 마련해 AI 산업이 흔들리지 않도록 해야 한다"고 강조했다.

2024.12.16 18:01조이환

'AI 기본법' 국회 과방위 통과...연내 제정 청신호

인공지능(AI) 기본법 제정안이 26일 국회 과학기술정보방송통신위원회를 통과했다. 22대 국회 들어 본격적인 논의를 진행, 첫 법안소위 논의에서 제정법안에 대한 공청회 논의를 준비하고 지난주 법안심사 통과에 이어 상임위를 거친 뒤 27일 법제사법위원회에서 다뤄질 예정이다. 이에 따라, AI 기본법 연내 본회의 통과가 가시화됐다. 과방위는 이날 전체회의를 열어 '인공지능 발전과 신뢰기반 조성 등에 관한 기본법안'을 의결했다. 이 법안은 관련 절차를 거쳐 법사위 상정을 앞두게 됐다. AI 도입 활용 지원...AI 신뢰 확보 AI기본법은 총 19건의 발의법안을 통합 조정한 것으로 주요 골자는 AI 기술과 산업 진흥을 지원해 AI의 건전한 발전에 기여하고, AI 사업자의 투명성과 안정성을 확보해 신뢰 기반을 규정하고 있다. 이를 통해 국민 삶의 질을 높이고 국가 경쟁력을 강화하겠다는 취지다. 구체적으로 국가AI위원회 구성 운영에 대한 법적 근거를 담아 AI 기술을 도입하고 활용하는 데 지원한다. 또 AI직접다지를 지정하고 AI 데이터센터 생태계 구축을 추진하는 동시에 과학기술정보통신부 장관이 사실조사 진행과 시정명령 부과를 이행할 수 있도록 했다. 최근 딥페이크 논란을 반영해 생성형 AI 결과물에 대한 워터마크 등의 표시를 하게 하고 고영향 AI 규율 및 AI 영향평가 조항을 담았다. 고영향 AI와 AI 영향평가는 더불어민주당 이훈기 의원과 조국혁신당 이해민 의원의 발의안에서 따온 개념으로 고위험 영역 AI로 규율하고자 한 것을 이용자 중심 시각의 표현으로 고영향 개념을 도입하고 국민 기본권에 미치는 영향을 살피자는 것이다. 이해민 의원은 “AI 를 '위험한 것'으로 미리 단정 짓지 않고, 사회에 '영향을 미치는 것'으로 바라보면서 그 영향력을 현명하게 관리하자는 취지로 '위험' 대신 '영향'이라는 단어를 제안했다”고 밝혔다. 이훈기 의원은 “급속한 AI 발전에 대한 막연한 기대와 두려움 가운데 AI 발전과 안전성 확보를 위한 기본 법제가 절실했다”며 “다양한 관련 법률안 중 AI가 우리 국민의 기본권에 미치는 영향평가를 포함하는 제정법을 만든 만큼 의미가 남다르다”고 설명했다. EU 이어 전세계 두 번째 AI 법제화 정부는 최우선 과제로 추진한 AI 기본법 제정이 국회 상임위 문턱을 넘어선 데 감사를 표했다. 유상임 과기정통부 장관은 “AI 기본법 제정안 (상임위) 의결로 AI 발전과 신뢰 기반 조성을 위한 제도적인 틀이 갖춰졌다”며 “글로벌 패권 경쟁이 활발한데, 유럽연합(EU)에 이어 전 세계에서 두 번째로 법률을 마련해 글로벌 G3 강국으로 나설 수 있는 기틀을 마련하게 됐다”고 말했다. 과방위는 AI기본법 제정안 마련에 그치지 않고 예산 지원과 함께 후속 법제화를 고민하겠다는 뜻을 밝혔다. 과방위 예결소위원장을 맡고 있는 민주당 정동영 의원은 “우리의 자본은 미국처럼 단기간에 민간에서 막대한 투자가 이뤄질 수 있는 환경이 아니기 때문에 선도적인 인프라 투자가 필요하다”며 “일본, 프랑스, 캐나다에 이어 중동 국가까지 정부가 나서 인프라 투자에 나서는 것도 그같은 이유”라고 운을 뗐다. 이어, “AI 예산을 1조 증액하겠다고 밝힌 것은 정부가 앞서 편성한 수준으로는 AI 주도권을 확보하기에 턱없이 부족하다는 평가 때문이었다”며 “AI를 세계에서 가장 잘 쓰는 나라를 목표로 AI 인프라에 투자해 G3 국가로 만드는 데 정부가 총력을 기울이길 바란다”고 당부했다. 이해민 의원은 “기본법은 그릇을 만드는 법안이라 생각하기 때문에 어떤 부분에서 명확하지 않은 영역이 존재하는 것이 사실이다”며 “앞으로 규제를 담당하게 될 과기정통부는 규제 범위가 어떤 식으로 이뤄지는지, 어떤 문제가 있는지 철저히 검토해 지속적으로 법의 완결성을 더해갈 수 있도록 신경써야 한다”고 주문했다. 최민희 과방위원장은 “과방위에서 기본법을 통과시키면 다른 상임위에서 AI 관련 후속법안이 잇따를 것”이라며 “AI 기본법이 시행되는 과정을 지켜보면서 시민사회와 학계가 걱정하는 인간 생명 전반과 인권 침해 요소 등을 국회가 정부와 상황을 지켜보면서 후속 입법과 개정안을 준비하겠다”고 밝혔다. 그러면서 “100% 안전한 법안이 아닌 것을 알고 있지만 경제의 혁신을 위해 기본법 통과에 뜻을 모았다”고 덧붙였다.

2024.11.26 11:47박수형

AI기본법·단통법 폐지안, 국회 법안소위 통과

인공지능(AI) 기본법 제정안이 법안심사소위 문턱을 넘었다. 핵심 쟁점에 대한 합의가 이뤄지면서 연내 제정 가능성에 파란불이 켜졌다. 아울러 단말기유통법 폐지안도 예상을 넘어 빠른 속도로 법안심사소위를 통과했다. 과학기술정보방송통신위원회는 21일 열린 법안소위에서 AI기본법 발의안 19건을 병합 심사해 통과시켰다. 또 여야 의원이 각각 발의한 단통법 폐지안도 상임위 대안을 마련했고, 디지털포용법 제정안도 통과했다. 우선 AI기본법안은 산업 진흥과 신뢰, 안정성 확보를 위한 규제를 모두 담았다. 예컨대 정부가 AI 진흥계획을 수립하고, 인간의 생명이나 신체 안전과 관련한 AI 기술은 고영향 AI로 분류해 이에 대한 사업자 책임 조항을 포함시켰다. 금지AI에 대한 규정은 제외했다. 최근 딥페이크 논란을 고려해 AI 기반 영상과 사진에는 워터마크를 넣도록 규정했다. AI 기본법 제정안은 지난 회기부터 논의됐고 여야가 조속한 처리에 뜻을 모은 만큼 이르면 다움주 개최 예정인 상임위 전체회의를 거쳐 연내 국회 본회의 통과가 가능할 것이란 전망이 우세하다. 단통법 폐지안은 업계의 예상을 뛰어넘어 빠르게 처리됐다. 추가 논의가 이뤄져야 한다는 전망이 우세했으나 여야가 우선 법안 폐지에 속도를 내기로 하면서 소위 문턱을 깜짝 넘게 됐다. 단통법 폐지안은 국민의힘 박충권 의원 발의안과 더불어민주당 김현 의원 발의안을 병합해 상임위 대안이 마련됐는데, 선택약정할인을 유지하는 방안을 골자로 담았다. 아울러 약정할인 유지를 위해 이통 3사에 대한 유보신고제 도입 조항이 전기통신사업법에 신설되는 안이 통과했다. 여야가 단통법 폐지에 속도를 내기로 한 만큼 전체회의와 국회 본회의까지 오르는 일정도 빠르게 진행될 것으로 전망된다. 다만, 단통법 주요 조항이 전기통신사업법으로 이관되며 새로운 고시와 시행령이 만들어지는 시점을 고려하면 실제 단통법 폐지 시행은 내년 하반기 이후로 예상된다. 이밖에 국민의힘 고동진, 김장겸 의원과 민주당 박민규 의원이 대표발의한 디지털포용법 제정안도 소위 문턱을 넘었다. 정부는 국민이 AI 디지털 혁신 성과를 체감하면서 동시에 누구도 소외되지 않고 디지털 혜택을 누릴 수 있는 디지털포용법 제정에 무게를 실어왔다.

2024.11.21 16:41박수형

유상임 과기정통부 장관 "AI 기본법 연내 통과 희망"

유상임 과학기술정보통신부 장관은 13일 이동통신 3사 CEO 회동 이후 기자들과 만나 "AI 기본법이 연내 통과 될 것이라고 생각하고 있다"고 밝혔다. 유 장관은 통신사 CEO와 첫 회동 소감에 대해 "전체적으로 AI 국면에 접어들어 우리가 국가적으로 다 같은팀이 되지 않으면 힘들겠다는 생각을 했다"고 말했다. 이어, "저 나름대로 민관이 한 마음으로 합치지 않으면 이 시대에 도저히 답이 없다는 그런 차원에서 모두가 공감을 했다"고 덧붙였다. 공정거래위윈회가 통신 3사에 답합 의혹으로 제재를 추진하는 것에 대해서 어떤 대화가 이뤄졌냐는 질문에는 "민관이 같이 협조하는 선에서 마무리 할 수 있도록 노력하겠다"고 답했다. 앞서 공정위는 지난해 2월부터 이통3사가 시장상황반 운영을 통해 판매장려금 상한선을 30만원으로 합의한 것을 담합으로 판단했다. 이에 최대 수조의 과징금을 부과하는 방안을 내부적으로 정하고 전원회의 일정을 조율 중이다.

2024.11.13 15:58최지연

"AI 강국 도약, 기본법부터 전방위적 거버넌스 확립 필수"

인공지능(AI) 강국에 도약하기 위해 기본법 마련부터 전방위적인 AI 거버넌스가 확립돼야 한다는 산업계의 의견이 재차 제기됐다. 생태계 활성화를 위한 종합적인 관리체계를 마련하고 시장 트렌드에 맞춰 지속적인 맞춤형 제도를 갖추자는 뜻이다. 김훈동 KT 컨설팅그룹 AI데이터 리드는 16일 정동영, 최형두 의원이 국회서 주최한 포럼에서 발제를 맡아 “한국적 특성을 고려한 윤리, 문화 안전, 권리, 기술, 데이터 등 종합적인 내용을 포함한 AI 기본법이 필요하다”며 “산학연관 협력에 기반한 실효적인 법안을 제정해 범국가적인 역량을 결집해야 한다”고 말했다. 최근 국가AI위원회가 설립됐고, AI 주무부처인 과학기술정보통신부가 글로벌 패권 경쟁에 맞서 각종 진흥 정책을 내놓고 있지만 구체적인 실행을 위한 법과 제도가 필요하다는 설명이다. 21대 국회부터 AI 기본법 제정 논의가 있었지만 결론을 내리지 못하고 22대 국회 들어 현재 11개 법안이 발의된 상황이다. 기술에 더해 자본력을 앞세운 강대국에 뒤처지지 않으려면 연내 법 제정이 필요하다는 의견이 전문가들 사이에서 지배적이다. AI 기본법 제정과 함께 AI 데이터 공유 거래 활성화 AI 인프라와 R&D 투자 지원 확대도 산업 발전을 위한 요소로 꼽혔다. 김훈동 리드는 “데이터를 거래할 때 투자대비 수익 예측과 가치 평가가 어려운데, 데이터 가격 측정 모델 기반의 거래 환경을 조성하고 데이터 활용에 따른 권리범위를 명확하게 해야 한다”며 “AI도 국가전략기술 범주에 포함해 인프라 투자에 세액공제를 확대해야 투자 환경이 조성될 것”이라고 강조했다. 그는 또 AI 인재 확보를 위해 “범정부 차원의 AI 인재 확보 콘트롤타워를 구성하고 세계적 수준의 연구소를 설립하고 운영하기 위해 민관협력이 추진될 필요가 있다”고 덧붙였다. 그러면서 “국내 시장 규모에서는 확장성과 수익성의 한계가 존재하는데 국내 AI 응용 솔루션 수출기업을 육성해야 한다”고 했다. 이어진 토론에서 이영탁 SK텔레콤 부사장은 “과거 초고속인터넷에 막대한 자금을 왜 투자하냐 비난했고 CDMA도 그랬지만 결국 그 결과로 정보화 강국이 됐다”면서 “AI 산업이 발전하기 위해 인프라 구축이 필수적인데 이에 대한 세제 지원이 이뤄지면 발전을 앞당길 수 있다”고 말했다. 이동수 네이버 이사는 “파운데이션 모델을 갖고 있기 때문에 회사가 반도체 전략에서 유리한 면이 있다”며 “파운데이션 모델과 반도체는 서로 떼어낼 수 없는 관계이기 때문에 AI 반도체를 국가적인 과제의 최상단에 두려면 파운데이션을 중요하게 여겨야 한다”고 설명했다. 이날 포럼에 참석한 유상임 과기정통부 장관은 “AI를 중심으로 산업계가 재편되고 변혁의 소용돌이 속에 있다”며 “국가AI위원회를 발족하면서 3대 국가에 들자고 했는데, 한국이 원팀이 된다면 AI 패권경쟁에서 중국을 넘어서고 싶고 또 할 수 있다고 생각한다”고 말했다. 이어, “가장 시급한 과제는 법적 제도적 장치를 빨리 마련하는 것으로, 민간에서 할 수 있는 일과 별도로 국가가 할 수 있는 일이 크니까 이를 위해 AI 기본법 조속히 제정해야 한다”며 “AI는 계속 진화하기 때문에 기본법이 완벽할 수는 없지만, 기본적인 규제를 마련하고 수시로 개정을 통해 기술 환경에 맞춰갈 수 있다”고 밝혔다.

2024.10.16 14:15박수형

"AI에 국가역량 결집...기본법에는 규제 혁신 양립해야"

“대한민국이 ICT에 집중 투자를 했듯이 AI에 한 번 더 국가적 역량을 결집하자는 컨센서스는 이뤄진 것으로 보인다.” 최민희 과학기술정보방송통신위원회 위원장은 24일 국회서 열린 인공지능(AI) 기본법 공청회 말미에 이같이 말했다. AI 진흥과 규제를 두고 국가가 어떤 법제도를 취해 산업적으로나 사회적으로 이해관계가 엇갈리는 현실이다. 때문에 “머리는 복잡해졌지만, 쟁점은 명확해졌다”며 최민희 과방위원장은 AI 기본법 논의에 속도를 내겠다는 뜻을 분명히 했다. 최 위원장은 “AI 관련법이 21대에서 논의 됐고 통과되지 않았고는 중요하지 않다. 이 법이 만들어져야 하나 만들어지지 말아야 하나에도 온도차가 있고 이견이 있는 것으로 보인다”면서도 “이 자리는 법을 만든다는 전제로 모인 자리”라고 짚었다. 이어, “국제적인 경쟁력을 고려했을 때 우리가 ICT에 집중적으로 투자해서 ICT 강국이 됐듯이, 조금 늦었지만 AI로 대한민국이 그런 시도를 할 것인가 말 것인가를 결정하는 주장에 국회가 호응하고 있는 것이다”고 밝혔다. 이날 공청회에서는 효율적인 AI 기본법을 위해선 지금보다 명확한 AI 정의와 현실적인 규제 적용 범위가 필요하다는 의견이 쏟아졌다. 구체적인 AI 규제 범위와 현실 가능한 위험성을 구체적으로 정해야 향후 부작용 없는 AI법을 구축할 수 있어서다. 참석자들은 AI법을 통해 대한 잠재적 위험 관리와 기술 혁신을 동시에 촉진할 수 있어야 한다는 점에 동의했다. 이에 균형 잡힌 법제도와 거버넌스 체계 구축을 가장 핵심 과제로 제시했다. "22대 국회, AI 진흥만 집착…위험성 고려 미흡" 유승익 한동대 교수는 22대 국회가 AI에 대한 구체적 정의와 잠재적 위험성 등을 고려하지 않는다고 지적했다. 유 교수는 "22대 국회는 진흥 아니면 규제라는 양자택일식으로 AI법을 구상하고 있다"며 "AI 위험성을 구체적 정의 없이 법률에 녹여선 안 된다"고 비판했다. 이어 "결국 유례없는 졸속 입법을 초래할 것"이라고 덧붙였다. 유 교수는 국회가 정의한 AI 개념에 고유한 기술 특성을 담지 못했다고 주장했다. 국회가 정의한 AI 개념이 '지능정보화 기본법' 정의 조항 일부에 '지각' '언어의 이해' 등을 추가하는 데 그쳤다는 이유에서다. 그는 "이 개념은 다른 소프트웨어까지 지칭할 수 있을 정도로 광범위하다"며 "AI 시스템 수준의 자율성과 변화 양상을 포괄하지 못한다"고 했다. 유 교수는 22대 국회의 AI 법률안에도 AI 운영자와 AI 제공자를 세밀하게 구분하지 않은 점도 문제 삼았다. 보통 제공자는 AI 시스템을 만드는 개발자·기업이다. 운영자는 AI를 사용하는 개인·기업을 지칭한다. 그는 "추후 AI 위험이 발생했을 시 누가, 얼마나, 어떤 책임을 져야 하는지 정하기 어려울 것"이라며 "의무에 대한 차등 부과나 제재에 대한 섬세한 제도적 설계마저 어려워질 것"이라고 비판했다. 그는 AI 시스템 개발·활용에 대한 금지 규정도 필요하다고 봤다. 유 교수는 "현재 발의된 법안 중 권칠승 의원 안을 제외하면 금지 규정을 아예 두지 않고 있다"며 "개발·활용에 이런 규정이 없다면 향후 AI 자체가 사용자 안전, 건강, 기본권 등에 중대한 위험을 초래할 수 있다"고 말했다. 유 교수는 고위험 AI 정의에 개선이 필요하다고 주장했다. 특히 공공기관과 산업안전, 고용관계, 신용평가 등에 적용되는 고위험 AI에 대한 개념화가 부족하다는 설명이다. 그는 "고위험 AI 활용에 대한 예외적 개념화는 필수"라며 "민감한 개념일수록 세밀하고 민감히 논의돼야 한다"고 덧붙였다. 그는 이를 개선하기 위해 독립적인 AI 감독·통제를 위한 국가 거버넌스 체계가 중요하다고 제안했다. 유 교수는 "새로운 국가 독립 감독기관 구축이 필요하다"며 "현재 발의된 법안들은 과학기술정보통신부를 주무부처로 규정해 법률 독립성을 유지하기 어렵기 때문"이라고 이유를 밝혔다. 배경훈 LG AI연구원 원장도 AI 위험성에 대한 추가 논의가 필요하다고 강조했다. 배 원장은"AI로 인한 부작용을 막기 위한 적절한 규제는 필요하다"며 "다만 AI 기술 자체보다는 AI로 인한 오남용 방지하는 데 초점 맞춰야 한다"고 말했다. 최경진 가천대 교수 "AI법에 규제·혁신 모두 다뤄야" 최경진 가천대 교수는 올바른 AI 생태계 발전을 위해 규제와 혁신이 양립 가능한 상태로 이뤄져야 한다고 주장했다. 최 교수는 현재 22대 국회가 발의한 AI 법안을 긍정적으로 평가했다. 모든 법안이 신뢰 기반 조성을 입법 목적으로 삼았으며, 이중 다수가 국민 권익과 존엄성 보호를 규정했다는 이유에서다. 다만 AI 개념을 광범위하게 설정하면 실효성 없는 규제안이 나올 수 있다고 우려했다. 이에 최 교수는 AI와 AI 시스템, AI 모델 개념을 각각 구분해야 한다고 봤다. 그는 "규율 대상을 기술적 AI가 아니라 AI 시스템, 서비스로 생각하면 쉬울 것"이라며 "유럽연합(EU)이나 미국 등 해외서도 AI 개념을 세분화한 이유"라고 설명했다. 최 교수는 법률 하나로 모든 AI 문제를 해결할 수 없다며 다각적인 접근 필요성을 주장했다. 그는 "우선 모든 영역에 공통 적용할 수 있는 원칙으로 작동하는 최소한 공통 규제 프레임워크만 AI법에 적용해야 한다"며 "이후 영역 특수성을 고려해 해당 영역을 규율하는 법률 개정이 필요하다"고 강조했다. 그는 다수 법률안에 금지 AI 고려 자체가 부재하단 점을 지적했다. 현재 발의된 법률안 중 더불어민주당 권칠승 의원이 발의한 안을 제외하고 모두 금지 AI에 대한 내용이 포함되지 않은 상태다. 이에 최 교수는 "향후 국민 건강과 안전, 인권을 침해하고 정치질서와 사법 질서를 흔들 수 있는 AI가 개발될 수 있다"며 "이를 통제할 수 있는 수단이 없는 게 현재 법률안 맹점이자 무책임한 입법 태도"라고 비판했다. 최 교수는 AI 기술이 사회에 미치는 영향을 제대로 파악하고 관리하기 위해 평가 시스템을 별도 구축해야 한다고 강조했다. AI 법률안에 적합성 평가 체계와 영향성 평가 체계를 추가해야 한다는 제안이다. 그는 "특히 공공에서 실시간 원격으로 범죄자 탐지하는 기술에 의무적으로 영향평가 제도를 도입하는 식"이라며 "기업들이 자발적으로 해당 평가 체계를 사내에 도입하도록 인센티브 제도가 필요할 것"이라고 덧붙였다.

2024.09.24 19:05김미정

[현장] AI 기본법 제정, 정부·시민사회 '맞손'

인공지능(AI) 기본법 제정의 필요성과 방향을 논의하기 위해 국회 과학기술정보통신위원회와 시민단체가 손을 맞댔다. 더불어민주당 최민희 의원이 12일 국회에서 시민기술네트워크가 함께 주최한 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'에는 정치인·산업계·정부·시민사회가 참석해 AI 법안 제정에 대한 다양한 의견을 나눴다. 특히 과기정통위 소속 의원 대다수가 참석해 기본법 제정의 필요성을 촉구했다. 첫 번째 발제를 진행한 영국 사회혁신연구소 '스프레드아이'의 김정원 대표는 유럽연합(EU)의 AI 기본법에 대해 소개하며 그 핵심 쟁점과 사회적 영향에 대해 논했다. 김 대표는 "EU는 지난 2018년부터 AI 법안에 대한 논의를 시작해 올해 최종안을 발표했다"며 "AI 사용 시 발생할 수 있는 인권 침해를 방지하기 위해 신중한 법안 구성을 추구하고 있다"고 밝혔다. 김 대표에 따르면 AI 기본법의 가장 핵심적인 쟁점은 고위험 AI에 대한 규제와 적합성 평가다. 현재 AI법에 의하면 표준화 기구가 규제를 주로 담당하고 있기 때문이다. 이 기구들은 주로 산업 안전을 담당해 왔다. 그는 "EU가 인권 보호에 초점을 맞췄음에도 평가기준이 이에 대해 충분히 반영되지 못하고 있다"라며 "표준화 기구들이 주로 산업 안전에만 집중하기 때문에 인권 보호가 소홀해질 수 있다"고 밝혔다. 이어서 발제를 맡은 법무법인 혁신의 박지환 변호사는 21대 국회 이후 AI 기본법 국회 입법안의 발의 과정을 설명했다. 박 변호사는 "21대 국회에서 발의된 AI 관련 법안들은 9건이었지만 이는 결국 회의 종료 이후 폐기됐다"며 "이번 22대 국회에서도 이미 10건이 발의되는 등 법안 제정을 위한 논의가 진행 중"이라고 설명했다. 그러면서 "국가 인권위원회에서는 우선 허용, 사후 규제 원칙 원칙을 삭제하라고 권고했다"며 "고위험 인공지능에 대한 규제가 앞으로도 핵심 쟁점이 될 것"이라고 주장했다. 이날 행사에는 과기정통위 소속의 더불어민주당의 김현 의원, 정동영 의원, 조인철 의원, 한민수 의원, 이훈기 의원, 황정아 의원, 노종면 의원, 이정헌 의원과 국민의힘 최형두 의원, 개혁신당 이준석 의원, 조국혁신당 이해민 의원이 참가해 의견을 나눴다. 이준석 개혁신당 의원은 정치권의 AI에 대한 접근 방식에 우려를 표하며 올바른 기술 활용의 필요성을 강조했다 이 의원은 "'챗GPT'와 같은 생성형 AI 등장 후 기술에 대한 관심이 높아졌다"며 "동시에 정치인들은 AI와 관련된 버즈워드에만 집착하는 상황"이라고 밝혔다. 그러면서 "명확한 가이드라인이 없다면 AI 발전이 오히려 국가에 위험을 초래할 수 있다"고 경고했다. 행사를 공동 주최한 최민희 더불어민주당 의원은 행사의 의미와 AI 법안 통과의 긴급성을 강조했다. 최 의원은 "지난 달부터 준비를 시작해 이번 달 빠르게 토론회를 개최했다"며 "앞으로도 법의 조속한 통과를 위해 시민사회의 의견을 바로 반영하겠다"고 밝혔다. 이번 토론회는 좌장인 이원태 아주대 교수의 진행 아래 하정우 네이버클라우드 AI 소장, 남철기 과학기술정보통신부 과장, 오병일 진보네트워크센터 대표 등 다양한 전문가들이 참여해 AI 법안에 대한 의견을 나눴다. 좌장인 이원태 아주대 교수는 "AI 기본법은 사회 전반에 걸친 중요한 문제"라며 "이번 토론회를 통해 다양한 이해관계자의 의견을 반영할 수 있게 되길 바란다"고 밝혔다.

2024.09.12 18:01조이환

'시민이 참여하는 AI기본법' 국회 토론회 열린다

국회 과학기술정보방송통신위원회 위원장을 맡고 있는 최민희 의원(더불어민주당)은 12일 오후 의원회관에서 시민기술네트워크 민경배 대표와 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'를 개최한다. 지난 21대 국회에서 논의된 AI 기본법안들과 해외 입법사례를 살펴보고 시민이 참여하는 AI 기본법의 쟁점사항을 토론하기 위해 마련된 자리다. 우선 법무법인 혁신의 박지환 변호사가 'AI 기본법 국회입법안 해설', 사회혁신연구소 스프레드아이의 김정원 대표가 'AI 기본법 제정 글로벌 현황'에 대해 발제를 맡았다. 이원태 아주대 교수가 좌장을 맡은 토론에는 하정우 네이버클라우드 AI LAB 연구소장, 오병일 진보네트워크센터 대표, 홍윤희 사단법인 무의 이사장, 홍지연 한국교원대 교수, 남철기 과학기술정보통신부 인공지능기반정책과 과장이 참석한다. 최민희 의원은 “지금은 AI 시대라고 말할 정도로 산업, 의료, 교육, 예술 등 일상에서 AI 기술을 활용하며 변화가 만들어지고 있다”며 “급격한 AI 기술 발전으로 인한 사회적 부작용이 발생하는 것도 현실”이라고 말했다. 이어, “딥페이크 영상, 저작권 침해 등 부작용과 관련해 국회가 올바른 방향으로 AI 기술을 활용하기 위한 제도적 기반마련에 앞장서야 한다”며 “시민참여 AI 기본법은 온라인 플랫폼을 활용해 시민과 각계각층의 다양한 의견을 수렴해 법안에 반영하는 크라우드 소싱 기법을 활용할 계획”이라고 밝혔다.

2024.09.10 15:57박수형

국회 AI 기본법 논의 가속도...9월 공청회 연다

국회가 인공지능(AI) 기본법 제정 논의를 다시 시작했다. 지난 21대 국회서 공청회까지 거치고 폐기된 법안을 두고 22대 국회에서는 개별 조항을 꼼꼼히 살피되 법안 논의 속도를 내기로 여야가 뜻을 모았다. 3일 국회 과학기술정보방송통신위원회는 제1차 정보통신방송법안심사소위원회를 열고 50여 법안에 대한 심사를 진행했다. 과방위는 22대 국회 들어 방통위원장, 과학기술정보통신부 장관 인사청문을 비롯해 공영방송 이사 선임 문제를 두고 20여 차례의 전체회의를 개최했으나 법안 논의는 단 한 번도 진행하지 못하고 이날 처음 소위를 가동하기 시작했다. 최대 관심사는 21대 국회 회기 만료로 폐기된 AI 기본법안이 꼽힌다. 유럽연합(EU)과 미국에서도 활발하게 논의가 이뤄지고 있는 법안으로, 소위에서는 여야 의원들이 조속한 법안 통과에 뜻을 모았다. 다만 시급성이 중요하게 여겨지는 법안이나 AI 진흥과 규제의 균형점을 찾자는 의견이 나왔다. AI 역기능을 우려하는 측에서는 추가적인 고민이 필요하다는 의견도 내고 있고, 국회서 논의되고 있는 법안은 규제법이 아니라 기본법인 만큼 최소한의 기본 원칙만 담아 규범을 세우자는 의견도 쏟아지고 있다. 과방위 법안소위에서는 9월 중에 AI 기본법에 대한 토론회와 공청회 일정을 조율해 진행키로 했다. 제정 법안은 공청회 절차를 거쳐야 한다. 21대 국회서도 회기 만료로 폐기됐으나 2022년 당시 공청회를 열었다. 국민의힘 최형두 의원은 법안소위 논의를 끝낸 뒤 예산결산특별위원회 질의에 참여해 “AI 기본법은 공청회를 거치고, 신속하게 진행하자는 여야의 뜻을 모았다”며 한덕수 국무총리에 AI 기본법 제정의 필요성을 물었다. 한 총리는 이에 대해 “AI 기술 혁신과 동시에 안정성 확보라는 것은 우리 정부가 역점을 두는 분야 중 하나다”면서 “AI 안정성 확보를 위해 AI 기본법이 반드시 필요하다고 생각한다”고 밝혔다. 통신업계가 관심을 기울이는 단말기 유통법 폐지와 관련한 법안에 대해서는 추가 논의를 진행키로 했다. 국민의힘 박충권 의원이 단통법 폐지안과 전기통신사업법 개정안을 발의한 가운데 야당 의원들도 부분형 완전자급제 등의 법안 발의를 예고한 터라 향후 병합 논의가 이뤄질 것으로 예상된다. 단통법의 경우 규제 법안 폐지를 다루고 있지만 새로운 규제가 될 수 있다는 지적도 나온다. 단통법의 공시 지원금 규모에 따른 요금할인율이 정해지는데 지원금 제도는 폐지하면서 요금할인을 유지하는 법적 근거가 부족할 수 있다는 이유에서다. 이에 따라 국회 내에서 법안 논의와 별도로 시장의 이해관계자인 통신사를 비롯해 유통, 제조사 등이 참여하는 제도 개선 협의회 논의가 병행되야 한다는 주장이 힘을 얻고 있다. 디지털포용법 제정안도 ICT 복지 차원에서 중요 법안으로 꼽히는데 국민의힘 고동진 의원의 대표발의안 외에 다른 의원의 법안도 함께 논의하자는 의견이 모였다. 이밖에 ICT 규제샌드박스 실증을 위한 규제특례 신속처리 법안과 재난방송 수신 장애지역에 라디오와 DMB 수신 설비를 설치하도록 하는 법안이 논의됐다.

2024.09.03 16:52박수형

민주당 조인철 의원, AI 기본법 제정안 대표발의

국회 과학기술정보방송통신위원회 소속 더불어민주당 조인철 의원은 인공지능(AI)을 통한 국가경쟁력 강화와 AI 발달에 따라 야기되는 인권과 권익 보호를 위한 제도적 장치를 담은 '인공지능산업 육성 및 신뢰 확보에 관한 법률안(AI 기본법)'을 대표발의 했다고 19일 밝혔다. 세계 각국은 AI 시장 선점을 위해 막대한 투자와 함께 법과 제도의 정비를 서두르는 반면 대한민국은 관련 법 미비로 인해 정부의 인공 지능 산업 진흥을 위한 지원은 물론 규제가 제대로 이루어지지 못하고 있다. 시민사회에서는 AI 발전으로 인한 잠재적 위험성에 대한 안전장치가 마련되어 있지 않아 우려를 표명해 왔다. 이에 따라, 조인철 의원은 ▲인공지능 관련 사업과 연구 지원 ▲인공지능집적단지 지정과 지원 ▲인공지능 실증사업 지원 ▲인공지능의 잠재적 위험성 제거 등의 내용을 AI 기본법 제정안에 담았다. 조인철 의원은 “현재 AI 시장 선점을 위해 세계 각국과의 무한 경쟁 중임에도 불구하고 입법 미비로 정부 지원의 한계가 있었던 것이 사실”이라며 “AI 기본법을 통해 대한민국 AI 산업의 진흥은 물론 광주가 인공지능 대표 도시로 발돋움하는 계기가 될 것”이라고 말했다.

2024.06.19 15:07박수형

[유미's 픽] "22대 국회는 좀 다를까"…21대서 폐기된 'AI 기본법' 재추진 관심

22대 국회 임기가 30일 시작되면서 국내 인공지능(AI) 기업들이 다시 희망을 걸고 있다. 21대 국회에서 결국 '인공지능산업 육성 및 신뢰 확보에 관한 법률(AI 기본법)'이 통과되지 못했지만, 이번에는 빠른 속도로 법 제정을 추진해 글로벌 AI 경쟁에서 경쟁력을 키울 수 있게 적극 지원에 나서야 한다고 목소리를 높이고 있다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥을 규율한 법안이다. AI 기본법이 제정돼야 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. AI 기술 도입과 활용 지원, 산업 육성, AI 윤리원칙에 따른 정책 수립, 고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 입법 실패로 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 지난 2022년 말 발의된 AI 기본법은 지난해 2월 국회 과학기술정보방송통신위원회(과방위) 법안2소위를 통과한 후 21대 국회에서 상임위 전체 회의에 계류 중이었다. 과학기술정보통신부는 여야 의원들이 개별 발의했던 7개의 AI 관련 법안을 가장 최근 발의된 윤두현 국민의힘 의원안인 '인공지능산업 육성 및 신뢰 확보에 관한 법률'을 기반으로 통합시켜 입법을 추진해왔다. 21대 국회 임기 만료를 앞두고 정부와 산업계는 한 목소리로 AI기본법의 빠른 통과를 촉구했다. 그러나 21대 과방위 여야는 일본 라인야후 사태, 방심위의 징계 남발·예산 낭비 문제 등과 관련한 이견 다툼으로 기싸움을 벌이다 결국 AI 기본법을 해결하지 못하고 폐기시켰다. 기업연구소법, 망무임승차방지법, 디지털포용법, 디지털안전서비스법 등 AI 기본법과 함께 논의되고 있던 다른 법안들도 사라졌다. 여야 간 첨예한 갈등으로 '역대 최저' 법안처리율을 기록한 21대 국회가 종료되면서 AI 기본법은 결국 22대 국회로 공이 넘겨졌다. 다시 원점으로 돌아가 22대 국회에서 AI 기본법을 재검토해야 한다는 점에서 일단 연내 법안 통과는 어려울 것이란 전망이 지배적이다. 더불어 21대 국회에서 과방위 소속이던 여당 의원들이 이번에 불출마·경선탈락·낙선으로 전멸한 데다 22대 국회에 AI 전문가가 소수라는 점에서도 우려하는 목소리가 짙다. 업계 관계자는 "22대 국회 개원 후 다시 입법 발의 단계부터 시작해야 해 법안 통과와 시행령 마련 등 AI 시대를 대비하기 위한 법제도 정비는 늦어질 수밖에 없다"며 "법 제정이 계속 지연되면서 AI 관련 규제에 대한 불확실성이 커져 투자가 위축되고 산업의 경쟁력이 저하될 수도 있다는 점에서 걱정된다"고 말했다. 또 다른 관계자는 "새 법안 마련에는 여야 간 합의부터 정부 부처와 시민사회 의견수렴 등 절차가 필요하다"며 "법제사법위원회 심사, 본회의 통과까지 끝나려면 연내 법안 통과 가능성은 희박하다"고 관측했다. 업계에선 전 세계적으로 AI 학습·저작물에 의한 분쟁이 늘어나는 분위기 속에 우리나라가 AI 관련 기본법이 없어 대응에 제대로 나서지 못하고 있다는 점을 우려했다. 반면 전 세계 주요 각국은 생성형 AI로 인한 딥페이크, 저작권 분쟁, 윤리 이슈 등으로 몸살을 앓자, AI 관련법 제정에 속도를 내고 있다. 실제 유럽연합(EU)의 입법기관인 유럽의회는 지난 3월 AI 개발 기업이 지켜야 할 의무 등을 규정한 포괄적 규제법을 세계 최초로 마련했다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 이 외에 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 영국과 캐나다도 법률, 의료 등에 AI 기본 원칙을 세워 준수하고 있다. 업계 관계자는 "AI 규제 법안이 만들어져야 AI 기술 개발에 속도를 낼 수 있고 투자도 받을 수 있다"며 "현재로선 규제 불확실성이 제일 큰 리스크"라고 토로했다. 이 같은 분위기를 의식해 여당인 국민의힘은 22대 첫 의원 워크숍에서 AI 전문가인 김명주 서울여대 교수를 초청해 AI 정책 이슈를 챙기는 모습을 보였다. 김 교수는 국제인공지능윤리협회(IAAE) 회장을 맡고 있다. 김 교수는 이날 강연에서 AI 산업 진흥의 중요성, 더불어 AI 신뢰성 확보를 위해 AI 기본법을 조속히 제정할 필요가 있다고 강조했다. 또 지속가능한 AI와의 공존사회를 위해 글로벌 진입 장벽이 되고 있는 '규제 도입'도 피할 수 없다고 피력했다. 이에 국민의힘은 AI기본법을 새롭게 만들어 이번 국회에서 조속히 추진한다는 계획이다. 업계 관계자는 "AI 기본법에 대해 국민의힘에서 많은 관심을 갖고 있다"며 "특히 안철수, 권칠승 의원은 1호 법안으로 발의하려는 움직임도 보이고 있어 기대감이 크다"고 말했다. 과기부는 22대 국회에서 AI 기본법 논의가 빠르게 이뤄지길 기대했다. 또 발의에 나서는 의원이 있다면 적극 지원한다는 방침이다. 과기부 관계자는 "AI 규제는 시장의 불확실성이나 AI 사업에 기본적인 시그널이 될 수 있기 때문에 필요하다"며 "(21대 국회에서) 폐기됐지만 여러 기록이 있어 22대 국회에 재입법 될 것으로 확신하고, 개의하자마자 이런 부분에 움직임이 있을 것으로 생각한다"고 말했다. 업계 관계자는 "성급한 규제가 능사는 아니지만 여러 산업에서 제도 공백으로 인한 피해가 이미 잇따르고 있다는 사실을 (정치권이) 간과해선 안된다"면서도 "AI 규제는 양날의 검 같아 규제가 산업의 걸림돌이 될 수 있다는 점에서 선발주자들의 움직임을 참고해 규제와 발전이 동시에 가능한 합의점을 찾도록 우리나라도 적극 나서야 한다"고 강조했다.

2024.05.30 16:43장유미

[유미's 픽] "빛 좋은 개살구?"…'AI 기본법' 없는 韓, 'AI 서울 서밋'서 주도권 잡을까

우리나라 정부가 새로운 먹거리로 떠오른 인공지능(AI) 시장에서 존재감을 드러내기 위한 본격적인 움직임에 나섰지만 '빛 좋은 개살구'에 그친다는 지적이 나온다. 'AI 서울 정상회의'로 글로벌 주도권을 잡으려고 나섰으나, 'AI 기본법'도 제대로 갖추지 않은 상황에서 AI 서비스 기업들에 대한 지원책도 없이 보여주기식 행사에만 혈안된 듯한 모습을 보이고 있어서다. 21일 업계에 따르면 한국과 영국은 이날부터 양일간 서울에서 'AI 정상회의'를 공동 주최한다. 지난해 11월 영국에서 처음 열린 'AI 안전성 정상회의'에 이어 두 번째로 열리는 행사로, 혁신·안전·포용성 등 AI 거버넌스 3대 원칙이 제시될 예정이다. 특히 첫째 날에는 오후 8시 30분부터 10시까지 90분 동안 정상 세션이 화상회의 방식으로 열린다. 윤석열 대통령과 리시 수낵 영국 총리가 주재하는 이번 회의의 주제는 'AI 안전성 정상회의를 토대로, 혁신적이고 포용적인 미래로'다. 장관 세션은 오는 22일 오후 2시 20분부터 5시 40분까지 한국과학기술연구원(KIST)에서 대면으로 개최된다. 이종호 과기정통부 장관과 미셸 더넬란 영국 과학혁신기술부 장관이 공동 의장을 맡고, 19개국 이상의 정부, 산업계, 학계 및 시민사회의 주요 인사들이 참여할 예정이다. 이날 장관 세션에선 AI 안전성 확립과 지속 가능한 AI 발전에 대해 논의한다. 각국의 AI 안전 연구소 설립 현황을 공유하는 한편, 미래의 AI 위험 요인을 진단하고 안전성 강화 방안을 모색한다. 또 AI 개발에 따른 막대한 전력 소모가 우려되면서 저전력 반도체 등 우리나라의 AI 반도체 비전도 공개할 것으로 예상된다. 같은 날 부대행사로 열리는 'AI 글로벌 포럼'은 오전 9시부터 오후 6시까지 진행된다. 포럼은 오전의 고위급 라운드 테이블과 오후의 전문가 세션으로 구성된다. 전문가 세션은 유튜브로 중계돼 일반 국민도 볼 수 있다. 다만 'AI 서울 정상회의'는 지난해 영국에서 열린 1차 회의보다 거물급 인사들의 참여가 많지 않은 것으로 알려졌다. 1차 회의에는 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 무스타파 술레이만 딥마인드 공동 창립자 등 거물급 인사들이 참여했다. 반면 이번 'AI 서울 정상회의'는 눈에 띄는 인사들이 많지 않다. 앤드류 응 미국 스탠퍼드대 교수, 엘리자베스 켈리 미국 AI안전연구소장, 나타샤 크램튼 마이크로소프트(MS) 최고 AI 책임자(CAIO), 톰 루 구글 딥마인드 부사장, 롭 셔먼 메타 최고개인정보보호책임자(CPO), 잭 클락 앤스로픽 공동창업자, 에이단 고메즈 코히어 CEO, 사바스티안 나일스 세일즈포스 최고법률책임자(CLO), 크리스티나 몽고메리 IBM 최고개인정보보호·신뢰책임자 등이 일단 거론되고 있다. 또 정부는 'AI 대부'로 알려진 제프리 힌튼 토론토대 교수에게 행사 참석을 요청했으나, 부상을 당했다는 이유로 거절 당한 것으로 전해졌다. 파이어폭스(Firefox) 웹브라우저를 만든 모질라의 공공정책 책임자 린다 그리핀도 다음에 열릴 파리 행사에 집중하고 있다며 불참 의사를 전했다. 일각에선 '챗GPT'로 AI 시장을 이끌고 있는 오픈AI에서 안전팀을 이끌고 있던 일리야 수츠케버 공동창업자가 이번 행사에 참여해 힘을 실어줄 것으로 기대했지만, 'AI 서울 정상회의'를 앞두고 관련 팀이 해체된 데다 수츠케버까지 떠나게 되면서 아쉽다는 반응을 내놨다. AI의 안전성 문제를 경시한다는 지적을 받고 있는 오픈AI는 이번 'AI 서울 정상회의'에 제이슨 권 CSO(최고전략책임자)를 참석시킬 예정이다. 한국계인 그는 'AI 수익화'를 우선 시 하는 샘 알트먼 오픈AI 최고경영자(CEO)를 적극 지지하는 인물로 알려졌다. 업계 관계자는 "이번에는 가상 정상회의로 진행되는 만큼 1차 영국 회의 때보다 굵직한 참석자들이 많지 않은 데다 작은 규모로 진행될 예정"이라며 "내년 초 프랑스에서 열리는 3차 회의가 정식 대면행사이기 때문에 상대적으로 AI 서울 정상회의는 전 세계적으로 주목을 많이 받지 못하는 분위기"라고 밝혔다. 1차 회의 때만큼의 결과물을 제대로 내놓을 지에 대해서도 기대감이 다소 낮은 상태다. 이전 회의에선 한국, 미국, 중국 등 28개국 대표와 기업들이 AI 기술에 따른 잠재적 위험을 완화하기 위한 '블레츨리 선언'을 발표한 바 있다. 여기엔 AI 기술을 안전하게 개발하고 활용하도록 국가 간에 공동으로 노력하자는 약속이 담겼다. 업계 관계자는 "선거에서 기만적 AI 사용을 막자는 '뮌헨 기술협약' 등 그간 IT 기업들의 자율 규제에 초점이 맞춰진 합의는 몇 차례 있었다"며 "이번에 안전한 AI 활용과 혁신 지속 사이 균형을 갖춘 IT 기업들의 합의문이 나올지 모르겠으나, 안전·혁신·포용이란 형이상학적 주제를 토대로 실효성 있는 결과물을 내놓을 수 있을지 의문"이라고 밝혔다. 또 다른 관계자는 "각 국가별로 AI 주권을 위한 소버린 AI(Sovereign AI)를 추진 중"이라며 "각 나라마다 상황이 다르기 때문에 (당장 이번에 결정될 것이 아니라) 적정한 규제의 선을 국제적으로 합의하는데는 시일이 오래 걸릴것으로 보인다"고 말했다. 우리나라가 'AI 거버넌스'를 제시할 환경이 자체적으로 갖춰져 있지 않다는 점도 글로벌 AI 주도권을 가지기엔 걸림돌이 되고 있다는 지적도 나온다. 전 세계 주요국이 앞 다퉈 AI 제도 정비에 나서고 있는 반면, 우리나라는 'AI 기본법'조차 장기간 국회 문턱을 넘지 못하고 방치되다 결국 폐기 수순을 밟고 있어서다. 'AI 기본법'은 지난해 초 발의된 뒤 1년 넘게 국회 상임위원회에 계류돼 있었으나, 과학기술정보방송통신위원회 여야가 마지막까지 합의점을 찾지 못해 결국 이달 말 21대 국회 임기 종료와 함께 폐기되는 것으로 결론이 났다. AI 주요 3개국(G3)으로 도약하겠다는 윤석열 정부의 구호만 요란했다는 평가가 나온다. 이에 대해 과방위 소속 한 의원 관계자는 "공들여 쌓은 AI기본법이 21대 국회에서 무산됐다"며 "(과방위) 전체회의에 대한 양당 합의가 되지 않아 개최하지 않기로 했다"고 말했다. 이어 "일정을 다시 만들어 오는 29일까지 본회의에 올리기에는 물리적으로 어렵다"고 덧붙였다. 반면 유럽연합(EU)의 입법기관인 유럽의회는 지난 3월 AI 개발 기업이 지켜야 할 의무 등을 규정한 포괄적 규제법을 세계 최초로 마련했다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 이 외에 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 업계 관계자는 "규제를 더 담아야 한다는 의견과 산업 육성이 먼저란 주장이 맞서며 'AI 기본법'은 그간 국회에서 계속 갈피를 잡지 못했다"며 "일종의 가이드라인도 없어 AI 산업 전체가 표류하고 있는 우리나라가 글로벌 'AI 거버넌스'를 제시한다는 게 다소 앞뒤가 맞지 않는 느낌"이라고 지적했다. 또 다른 관계자는 "'서울 AI 정상회의'가 서울에서 열리기 전까지 'AI 기본법'이 당연히 통과될 것으로 기대했지만 결국 폐기 수순을 밟는다는 점이 굉장히 아쉽다"며 "'AI 기본법' 논의를 멈춘 국가에서 AI 안전을 논의하는 것이 사실 민망하다"고 말했다. 반면 이 같은 분위기 속에서도 우리나라가 'AI 서울 정상회의' 개최를 이끌어 냈다는 점에 대해 긍정적으로 평가하는 의견도 나왔다. 업계 관계자는 "영국에서 열린 1차 회의 때만큼은 아니지만 여러 나라들이 AI 거버넌스를 우리나라에서 논의하는 기회를 가졌다는 자체만으로도 대단한 일이라고 생각된다"며 "'AI 서울 정상회의' 개최는 국내 AI 기술 수준을 해외에서도 인정하고 있다는 의미"라고 평가했다.

2024.05.21 09:37장유미

말 많던 'AI 기본법' 결국 무산...22대 국회로 공 넘겨

21대 국회 과학기술정보방송통신위원회(위원장 장제원)에 계류된 '인공지능(AI) 기본법'이 결국 폐기된다. 21대 국회 임기 종료가 임박했음에도 여야가 끝까지 합의에 적극 나서지 않아 방치됐던 탓이다. 21일 정치권에 따르면 과방위 여야는 이날 열릴 예정이던 전체회의를 개최하지 않기로 했다. 막판 회의 운영과 안건 협의에서 이견을 보인 탓이다. 앞서 '일본 라인야후 사태' 등이 불거지면서 여야는 당초 과방위 전체회의 개회 필요성에 공감하는 듯 했다. 그러나 라인과 관련된 현안 질의에만 집중하자는 여당과 방심위의 징계 남발·예산 낭비 문제도 함께 다루자는 야당이 서로 입장 차를 좁히지 못해 결국 회의는 최종 무산됐다. 과방위는 올 1월 전체회의 이후 감감무소식이었다. 이 탓에 'AI 기본법'은 희생양이 됐다. 이번 과방위의 전체회의 미개최로 일정상 오는 29일까지 국회 본회의를 통과시키기 어렵게 됐기 때문이다. 앞서 과학기술정보통신부는 지난 3년 간 여야 의원들이 개별 발의했던 7개의 AI 관련 법안을 가장 최근 발의된 윤두현 국민의힘 의원안인 '인공지능산업 육성 및 신뢰 확보에 관한 법률'을 기반으로 통합시켜 입법을 추진해왔다. 법안 주요 내용으로는 ▲AI 기술도입과 활용 지원 ▲AI 기술 개발과 창업지원 등 산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲AI 신뢰성 확보를 위한 근거 마련 ▲고위험영역 AI 고지의무 부과 등 산업 진흥과 안전한 AI 사용을 위한 내용이 포함됐다. 과방위 소속 의원 한 보좌관은 "공 들여 쌓은 'AI 기본법'이 21대 국회에서 무산됐다"며 "(과방위) 전체회의는 양당 합의가 되지 않아 미개최하기로 했고, 일정을 다시 만든다고 해도 (AI 기본법을) 본회의에 올리기에는 물리적으로 어렵다"고 말했다. 이에 따라 21대 국회가 끝나면 AI 기본법은 폐기된다. 기업연구소법, 망무임승차방지법, 디지털포용법, 디지털안전서비스법 등 AI 기본법과 함께 논의되고 있던 다른 법안들도 사라지게 됐다. 21대 국회 과방위에서 계류 중이던 법안들은 임기 종료일인 이달 29일까지 국회 본회의를 통과하지 않으면 자동 폐기된다. 공을 넘겨 받는 22대 국회는 'AI 기본법'을 처음부터 논의해야 하는 처지가 됐다. 이르면 오는 7월부터 진행될 것이란 점에서 해당 법안 통과 시점은 더 늦춰질 것으로 보인다. 더불어 21대 국회에서 과방위 소속이던 여당 의원들이 이번에 불출마·경선탈락·낙선으로 전멸했다는 점에서 AI 기본법이 원점에서 논의될 가능성이 높아졌다. 또 22대 국회에 AI 전문가가 소수라는 점에서도 우려하는 목소리가 짙다. 업계 관계자는 "22대 국회 개원 후 다시 입법 발의 단계부터 시작한다면 법안 통과와 시행령 마련 등 AI 시대를 대비하기 위한 법제도 정비는 늦어질 수밖에 없다"며 "법 제정이 계속 지연되면서 AI 관련 규제에 대한 불확실성이 커져 투자가 위축되고 산업의 경쟁력이 저하될 수도 있다는 점에서 걱정된다"고 말했다. 지난해 국가인권위원회와 시민단체가 법안에 명시된 '우선허용·사후규제' 원칙에 대해 반대를 표명한 것도 걸림돌이다. 이 원칙은 미국 등 빅테크에 한참 뒤처진 국내 AI 산업 진흥을 위해 추진됐으나, AI의 무분별한 개발·활용에 따른 위험을 지적하는 목소리가 높았다. 이에 기존 법안보다 AI의 부작용 억제에 초점을 맞춘 입법에 무게가 실리는 모습이다. 법무법인 세종은 '제22대 국회의원 선거, 그 결과와 영향'이라는 보고서를 통해 "야당인 더불어민주당은 AI에 내재된 위험성과 우리 사회에 미칠 부작용을 우려해 AI의 개발 단계에서부터 엄격한 규제를 마련하겠다는 공약을 제시하고 있다"며 "AI 산업 진흥을 위한 규제 완화 기조에도 불구하고 AI의 전주기에 걸쳐 발생할 수 있는 사회적·경제적·윤리적 리스크를 통제하기 위한 규제를 도입할 가능성이 높다"고 말했다. 업계에선 전 세계적으로 AI 학습·저작물에 의한 분쟁이 늘어나는 분위기 속에 우리나라가 AI 관련 기본법이 없어 대응에 제대로 나서지 못하고 있다는 점을 우려했다. 반면 전 세계 주요 각국은 생성형 AI로 인한 딥페이크, 저작권 분쟁, 윤리 이슈 등으로 몸살을 앓자, AI 관련법 제정에 속도를 내고 있다. 실제 유럽연합(EU)의 입법기관인 유럽의회는 지난 3월 AI 개발 기업이 지켜야 할 의무 등을 규정한 포괄적 규제법을 세계 최초로 마련했다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 이 외에 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 영국과 캐나다도 법률, 의료 등에 AI 기본 원칙을 세워 준수하고 있다. 업계 관계자는 "성급한 규제가 능사는 아니지만 여러 산업에서 제도 공백으로 인한 피해가 이미 잇따르고 있다는 사실을 (정치권이) 간과해선 안된다"면서도 "AI 규제는 양날의 검 같아 규제가 산업의 걸림돌이 될 수 있다는 점에서 선발주자들의 움직임을 참고해 규제와 발전이 동시에 가능한 합의점을 찾도록 우리나라도 적극 나서야 한다"고 강조했다.

2024.05.21 08:17장유미

한덕수 총리 "AI 기본법, 이번 회기 안에 제정되도록 국회와 소통"

한덕수 국무총리가 “국회에 계류 중인 인공지능(AI) 기본법이 이번 회기 안에 제정될 수 있도록 국회와 더욱 긴밀히 소통하고 협의할 것”이라고 밝혔다. 한 총리는 2일 서울 중구 대한상공회의소에 한국일보 주최로 열린 한국포럼 축사에서 “정부는 AI 기본법을 제정해 산업발전을 위한 지원책을 종합적으로 수립하고 AI 공정성, 투명성, 책임성을 확보하는 방안을 마련하고자 한다”며 이같이 말했다. AI 기본법은 국회서 1년 넘게 계류 중이다. 한 총리는 “지금 우리를 둘러싼 4차 산업혁명은 기업의 생산 방식과 우리의 생활 양식뿐 아니라, 산업 구조와 경제 성장에 근본적인 변화를 일으키고 있다”면서 “4차 산업혁명의 핵심인 디지털 기술의 특성상 국경에 구애받지 않고, 소수의 글로벌 빅테크들이 세계 시장을 독점해가고 있다”고 진단했다. 이어, “자칫 조금이라도 기술 개발에 뒤처질 경우 산업의 주도권과 시장을 잃는 것은 물론이고, 경제 안보의 측면에서도 큰 위협이 될 수 있다”며 “AI가 글로벌 기술 혁신의 핵심이자, 새로운 경제 질서가 되고 있다”고 강조했다. 그러면서 “정부는 AI 강대국 3위의 국가비전을 제시하고, 기술혁신과 인재양성에 주력하고 있다”며 “21일에는 AI 서울 정상회의가 개최되는데, 글로벌 규범과 거버넌스 정립을 위한 의미 있는 성과를 도출해 내겠다”고 밝혔다.

2024.05.02 18:31박수형

Prev 1 2 Next