검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 법'통합검색 결과 입니다. (135건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[현장] "AI, 국가백년지대계"…AI 기본법 유효성 논의 위해 국회의원들 모였다

"지난해 12월 국회가 인공지능(AI) 기본법을 통과시키며 새로운 전환점을 만들어 냈습니다. AI 기본법에 포함된 많은 내용들이 유효, 적절하게 시행될 수 있도록 이번 토론이 중요한 계기가 될 수 있길 바랍니다." 조준희 한국소프트웨어산업협회(KOSA) 회장은 26일 오전 국회 제2소회의실에서 진행된 'AI 기본법 현안 논의 토론회'에 참석해 이처럼 강조했다. 조 회장은 "2023년 초 '챗GPT'로 촉발된 AI 열풍은 잠깐 불어온 단순한 바람에 그치지 않고 이제 전 세계의 가장 중요한 화두로 견고하게 자리 잡아 가고 있다"며 "규모의 경제를 앞세운 선도 국가들의 막대한 물량 공세에 다소 위축되지 않을까 우려도 있었지만, AI 기본법 통과가 새로운 전환점을 만들어 냈다"고 운을 띄었다. 이어 "정부도 이에 화답해 국가AI컴퓨팅센터에 약 2조원가량의 민관 투자를 예정했고, 국가AI위원회에선 '월드베스트 LLM 프로젝트' 등을 포함한 대대적인 AI 정책을 발표하는 등 AI가 명실상부한 국가백년지대계임이 드러났다"며 "이에 발맞춰 업계도 국가 AI 경쟁력을 이른 시일 내에 글로벌 최상위권으로 끌어올리겠다는 다짐을 하고 있다"고 덧붙였다. 조인철 더불어민주당 의원가 주최한 이날 토론회에는 위원장인 최민희 의원을 비롯해 최형두 의원, 황정아 의원 등 국회 과학기술정보방송통신위원회 소속 의원들이 대거 참석해 눈길을 끌었다. 특히 조 의원은 업계가 숙원으로 삼고 있던 AI 기본법을 의정활동 제1호 발의 법안으로 제출하는 등 AI 산업에 상당한 관심을 보이고 있는 인물로 평가 받고 있다. 조 의원은 "'대한민국의 위기'라는 단어가 유독 자주 들리는데 미국은 AI 분야의 압도적 강자로 자리매김했고, 중국은 '딥시크'라는 충격으로 경쟁에 불을 지폈다"며 "이런 각축에 끼지 못한다면 향후 수십 년을 따라만 가다가 기회를 놓칠 수 있다는 불안감이 있다"고 말했다. 그러면서 "대한민국은 늘 위기 앞에 강했고 늘 선구안이 함께 했다는 점에서 AI 기본법이 족쇄가 아닌 청사진이 돼야 할 것"이라며 "세계 두 번째로 제정된 AI 기본법이 보강해야 할 부분이 많지만, 신산업 성장을 방해해선 안 되고 사용자의 권익을 무방비하게 훼손하도록 방치해서도 안될 것"이라고 강조했다. 또 그는 "우리 숙제는 균형점을 찾는 것"이라며 "AI 기본법이 민간의 과감한 도전을 뒷받침할 수 있는 날개가 될 수 있도록 의정 활동에 힘을 보탤 것"이라고 덧붙였다. 이날 참석한 여러 의원들도 국내 AI 기술 발전을 위해 힘을 모으겠다는 의지를 드러냈다. 또 2000년대 초 IT 혁명 시기에 네이버, 카카오 같은 기업들이 등장해 성장했던 것처럼 AI 시대를 맞아 다양한 지원책을 마련해 또 다른 많은 기업들의 성장을 이끌어내겠다는 의지도 내보였다. 최 위원장은 "고위험 AI를 고영향 AI로 개념을 바꾸는 과정에서 여야 간 토론이 많았다"며 "국회가 법과 제도로 기술 발전을 막는 것은 있을 수 없는 일이라고 보고 AI 기본법을 제정했다"고 밝혔다. 이어 "이젠 어떤 것을 보완해야 하는지 심도있게 논의해야 할 필요가 있다"며 "앞으로 우리나라가 AI로 제2의 전성기가 올 수 있기를 기대한다"고 덧붙였다. 황 의원도 이날 토론회에 참석해 현재 AI 춘추전국시대에 접어든 만큼 적절한 시기에 지원책이 마련될 수 있도록 적극 나서겠다는 의지를 드러냈다. 황 의원은 "지금이 AI 지원의 골든타임이라고 생각한다"며 "우리가 거대자본을 이길 수 있을까에 대한 가능성을 딥시크 쇼크에서 봤던 만큼, 우리도 변화, 도전 시기에 기회를 붙잡을 수 있도록 국회에서 입법과 예산, 정책으로 적극 지원하도록 노력할 것"이라고 강조했다. 'AI 기본법으로 연결되는 AI 혁신과 안전'이란 주제로 진행된 이날 토론회에선 이상욱 한양대학교 철학과 교수의 강연도 진행됐다. '혁신과 안전이 공존하는 AI 시대'라는 주제로 진행된 이 강연에선 AI 윤리의 바람직한 방향과 올바른 활용성에 대한 설명이 주를 이뤘다. 이 교수는 "AI를 활용하면서도 인간의 역량을 높이는 방안에 대한 고민과 노력들이 필요하다"며 "특히 착한 혹은 나쁜 AI 구별의 모호성이 부각되고 있는 '이중 사용(dual use)' 문제와 디지털 기술의 과도한 사용에 따른 청소년 유해성 문제를 집중적으로 살펴봐야 한다"고 주장했다. 이어 "혁신적 기술이 인류 발전에 항상 도움이 되는 것은 아니라는 점도 고려해야 한다"며 "AI가 인간을 대체하는 것이 아닌 상호보완적 관계를 맺으며 더 많은 가치를 창출할 수 있는 '증강'의 개념으로 활용해야 한다"고 덧붙였다. 그러면서 "AI 기본법이 우리가 보다 바람직한 AI 시대를 만들어 나가는 데 도움이 되길 바란다"며 "AI가 인류 복지에 지대하게 기여할 수 있는 잠재력이 있지만, 바람직한 미래상을 가지고 거버넌스를 잘 만들었을 때 올바른 방향으로 갈 수 있을 것"이라고 피력했다.

2025.02.26 11:43장유미

[AI 리더스] 최형두 의원 "불필요한 규제 완화, 韓 도약 기회…제조 AI로 글로벌 선도해야"

"인공지능(AI) 산업 발전을 위해 불필요한 규제는 줄이고 실질적 피해를 방지하는 균형 있는 정책이 필요합니다. 특히 우리에게 강점이 있는 제조를 위한 거대행동모델(LAM)과 안정적인 전력 공급을 통해 글로벌 AI 경쟁력을 갖춰야 합니다. 이를 위해 경남·마산을 AI 제조 혁신 거점으로 키우고 국가 차원의 투자와 민간 협력을 확대해야 합니다." 최형두 국민의힘 의원은 최근 기자와의 인터뷰에서 인공지능(AI) 산업 경쟁력을 높이기 위한 전략을 제시했다. 그는 AI 규제 혁신과 인프라 확충 제조 AI 육성을 통해 한국이 글로벌 AI 선도국으로 도약해야 한다고 강조했다. 25일 업계에 따르면 AI 기술이 빠르게 발전하면서 산업 전반에 걸쳐 규제와 인프라 확충이 핵심 과제로 떠오르고 있다. 이에 최형두 국민의힘 의원은 규제 개혁, 전력 인프라 확충, 제조 LAM 육성, 지역 AI 클러스터 구축 등의 종합 전략이 필요하다고 강조했다. 그는 디지털 교과서 도입에 대한 오해, 스타트업 노동 규제, 데이터센터 전력 수급 불안 등을 주요 해결 과제로 지목했다. 또 국가 AI 경쟁력 제고를 위해 경남 마산을 AI 제조업 혁신 거점으로 조성하기 위해 디지털 자유무역지역 및 아시안 공학기술원(AIT) 설립을 추진 중이라고 밝혔다. "AI 규제, 혁신을 저해하지 않는 균형 필요" 최 의원에 따르면 지난해 12월 국회에서 통과된 AI 기본법은 현재 구체적인 시행을 위해 하위법령 정비단이 구성돼 논의를 진행 중이다. 다만 법안에 포함된 '고위험 AI' 개념은 입안 단계에서는 모호하게 규정됐던 상황이어서 기술 발전을 저해할 수 있다. 그는 AI의 위험성이 과장돼 아직 존재하지 않는 상상 속의 위협을 근거로 연구개발을 규제하는 것은 바람직하지 않다고 주장했다. 실제로 그는 최근 세계적 AI 전문가인 얀 르쿤 메타 AI 수석과 만나 규제가 산업 발전에 미칠 영향을 심도 있게 다뤘다. 논의 과정에서 르쿤 교수 역시 불필요한 규제는 AI 연구개발을 저해할 뿐이며 실질적인 피해를 방지하는 방향으로 초점을 맞춰야 한다는 점에서 공감했다고 밝혔다. 최 의원은 "최근 함께 논의했던 르쿤 교수는 AI 연구개발을 규제해서는 안되고 오픈소스 AI 플랫폼을 제한하면 AI 산업 전반이 위축될 것이라고 역설했다"며 "기술 자체가 아니라 딥페이크, 허위정보 유포, 사기 등 실제 피해를 초래하는 행위를 중심으로 규제를 적용해야 한다"고 지적했다. 디지털 재난방지법의 필요성도 강조됐다. 이 법은 기간통신·부가통신·데이터센터 등으로 분산된 기존 재난관리 체계를 통합해 디지털 인프라의 안정성을 강화하는 것을 목표로 한 법으로, 최 의원은 판교 데이터센터 화재 이후 관련 법·제도의 개선 필요성을 제기하며 법안 발의를 주도한 바 있다. 그는 "디지털 재난을 선제적으로 대비하고 신속한 복구가 가능하도록 법적 일관성을 확보해야 한다"고 강조했다. 디지털 교과서 도입을 둘러싼 오해에 대해서도 입장을 분명히 했다. 최 의원은 일각에서 제기하는 디지털 교과서를 활용한 학생들의 게임 남용 가능성이 사실과 다르다고 지적했다. 그는 "야당을 비롯해 일각에서는 학생들이 디지털 교과서를 이용해 게임을 할 가능성이 있다고 주장하지만 이는 사실과 다르다"며 "디지털 교과서는 K-클라우드와 연동돼 있어 원천적으로 게임 접속이 불가능하다"고 강조했다. 이어 "야당이 근거 없는 우려를 조장하며 잘못된 프레임을 씌우고 있다"고 비판했다. 이같이 최 의원은 AI 산업 발전과 규제의 균형이 무엇보다 중요하다고 강조했다. 완전한 규제 부재는 국민의 안전과 정보 보호 측면에서 위험을 초래할 수 있지만 무조건적인 규제 강화는 연구개발을 위축시켜 산업 성장을 저해할 수 있다는 것이다. 그는 "AI 규제는 안전과 혁신의 균형을 맞춰야 한다"며 "산업 발전을 저해하지 않으면서도 국민을 보호할 수 있는 실질적인 정책이 필요하다"고 강조했다. AI 성장, 핵심은 인프라 확충과 인재 확보…전력·노동 환경 개선 시급 최 의원에 따르면, AI 산업이 급속도로 성장하면서 데이터센터의 전력 수요도 빠르게 증가하고 있다. 그는 단순히 AI 반도체를 확보하는 것만으로는 한계가 있으며 이를 효과적으로 활용할 수 있는 제조 AI 전략과 안정적인 전력 공급 체계 구축이 필수적이라는 입장을 밝혔다. 그는 "AI 연산량 증가로 인해 데이터센터의 전력 소비가 폭발적으로 늘어나고 있다"며 "안정적인 전력 공급이 없으면 AI 산업이 글로벌 경쟁력을 잃는다"고 경고했다. 실제로 글로벌 기업들은 전력을 확보하기 위해 사력을 다하고 있는 상황이다. 마이크로소프트(MS)는 자체 소형 원자로(SMR)를 도입하고 있으며 구글은 재생에너지 연동을 확대하는 방식으로 AI 연산 인프라를 구축하고 있다. 최 의원은 "우리도 원전과 재생에너지를 병행 활용해 AI 데이터센터가 안정적으로 운영될 수 있도록 해야 한다"고 주장했다. 특히 원자력 발전은 AI 산업 전력 수급 문제를 해결할 현실적인 해결책으로 꼽힌다. 최 의원은 "한국형 원전은 체르노빌이나 후쿠시마와 다르게 높은 안전성을 갖추고 있다"며 "재생에너지는 기상 조건에 따라 변동성이 크기 때문에 이를 보완하는 안정적인 전력 공급원이 반드시 필요하다"고 말했다. AI 산업 전략과 관련해 최 의원은 "초거대 AI 경쟁에서 한국이 미국과 중국을 따라가기엔 현실적 한계가 있다"며 "다만 제조업 강국으로서 제조 AI인 LAM 분야에서 글로벌 선도국이 될 기회가 있다"고 주장했다. 이어 "LLM 역시 꾸준한 발전은 물론 필요하나 국가적 역량이 제한된 상황에서 단순히 '패스트 팔로워'가 아니라 '퍼스트 무버'가 되기 위해서는 많은 고민이 필요하다"고 덧붙였다. 또 그는 중국 AI 스타트업 딥시크 사례를 언급하며 AI 반도체를 단순히 개발하는 것보다 이를 어떻게 활용할 것인지가 더 중요하다고 지적했다. 딥시크는 자체 연구비를 최소화하면서도 기존 AI 모델을 효과적으로 학습시켜 오픈AI를 위협하는 수준의 성과를 냈다. 최 의원은 "단순히 AI반도체뿐 아니라 이를 활용한 제조 AI 최적화 기술을 확보해야 한다"고 강조했다. 최근 국내 AI 산업의 인재 유출이 빈번해지는 가운데 최 의원은 노동 규제 개혁의 필요성 역시 강조했다. 그는 "네이버, LG 같은 국내 기업에서 어렵게 키운 인재들이 시니어 단계에서 결국 실리콘밸리로 떠나는 현실을 바꿔야 한다"며 "이를 위해 연구 인력에게 충분한 보상을 제공할 수 있는 환경을 조성하고 해외 우수 인재를 유치할 수 있는 적극적인 정책이 필요하다"고 밝혔다. 단순한 보상 문제를 넘어 노동 환경 개선도 중요하다고 강조했다. 최 의원에 따르면 IT 업계 내부에서도 연구·개발 직군에 한해 더 많은 근무 시간을 허용해야 한다는 의견이 일부 나오고 있다. 그는 업계 관계자들 사이에서도 "규제가 아니라 자율적으로 더 일할 수 있는 환경이 필요하다"는 주장이 존재한다는 점을 짚으며 혁신 산업 특성을 반영한 노동 정책이 필요하다고 지적했다. 최 의원은 "AI 스타트업과 연구소에서 7시간 노동만 강제하면 실리콘밸리와 경쟁할 수 없다"며 "혁신 산업에는 유연한 근무 환경이 보장돼야 한다"고 강조했다. 제조 AI, 마산을 테스트베드로…디지털 자유무역지역 '추진' 최 의원은 경남·마산이 제조 AI의 최적의 테스트베드라고 강조하며 이를 AI 산업 중심지로 육성하기 위한 구체적인 전략을 제시했다. 그는 제조업 강점을 활용해 스마트 공장과 AI 테스트베드를 구축하고, 이를 디지털 자유무역지역으로 발전시켜 글로벌 기업들이 참여할 수 있도록 해야 한다고 밝혔다. 그는 "창원과 마산은 한국의 대표적인 제조업 중심지로, 항공·선박·자동차·원전 산업이 밀집돼 있다"며 "이미 스마트 공장 기반이 형성돼 있어 제조 AI와 결합하면 산업 혁신을 선도할 수 있다"고 말했다. 그는 제조 공정 데이터 활용이 핵심이라고 강조했다. AI를 활용해 생산 데이터를 정제하고 최적화하면 글로벌 시장에서도 경쟁력을 갖출 수 있다는 분석으로, 데이터를 활용한 스마트 제조가 단순한 자동화를 넘어 AI가 직접 분석하고 최적 생산 방식을 찾아내는 단계로 갈 수 있다는 것이다. 이를 위한 인재 양성 전략으로 그는 아시안 공학기술원(AIT) 설립 계획을 밝혔다. 그는 "카이스트 등과 협력해 AIT를 설립하고 동남아시아를 포함한 해외 공학 인재를 적극 유치해야 한다"며 "실현만 된다면 이를 통해 제조 AI를 연구·개발할 우수 인력을 국내에서 양성하고 글로벌 경쟁력을 확보할 수 있다"고 밝혔다. 최 의원은 마산을 디지털 자유무역지역으로 지정하는 방안도 추진하고 있다. 이로써 글로벌 테크 기업과 중견 제조업체들이 AI 및 제조 데이터를 활용할 수 있는 환경을 조성하겠다는 계획이다. AI 산업 발전을 위한 정부 재정 투자 확대 필요성도 강조했다. 현재 야당은 추가경정예산(추경) 편성을 요구하며 총 35조원 규모의 예산안을 제시한 상태다. 다만 이 중 상당 부분이 미래를 위한 AI·반도체·첨단산업 등 미래 산업 투자 비중은 상대적으로 낮아 국가 성장에 제약이 발생할 수 있다는 것이 최 의원의 분석이다. 최 의원은 "민주당이 주장하는 추가경정 예산 35조원 중 AI에 대한 직접 투자 비중이 너무 낮다"며 "AI 데이터센터 구축·반도체 연구개발·스타트업 지원 등에 전략적으로 집중 투자해야 한다"고 지적했다. 또 그는 정부 예산만으로는 한계가 있다며 민간 기업의 참여를 유도하기 위한 특수목적회사(SPC) 활용 방안을 제시했다. 이는 국내외 기업들이 AI 인프라에 적극적으로 투자할 수 있도록 법적·제도적 환경을 마련하는 전략이다. 최형두 국민의힘 의원은 AI 산업이 단편적인 정책만으로는 성장할 수 없다고 강조했다. 그는 "AI 발전을 위해서는 전력·데이터·인력·규제·재정 등 모든 요소가 유기적으로 결합돼야 한다"며 "여야를 가리지 않고 모두가 한 마음이 돼 통합된 전략을 추진할 때만 대한민국이 글로벌 AI 선도국으로 도약할 수 있다"고 강조했다.

2025.02.25 09:46조이환

'AI 3대 강국' 목표 세운 韓, 대규모 투자 시동…조준희 "산업용 LLM에 주목해야"

최근 우리나라 정부가 인공지능(AI) 분야를 국가 전략 기술로 지정하고 집중 지원에 나선 가운데 국내 기업들이 산업용 거대언어모델(LLM) 개발에 적극 나서야 한다는 주장이 나왔다. 23일 업계에 따르면 조준희 한국소프트웨어협회장은 최근 자신의 소셜미디어(SNS) 페이스북 계정을 통해 "AI는 국가적으로 전략물자 수준 이상으로 생각해야 되고, 일종의 '핵무기'와 같다고 봐야 된다"며 "앞으로는 우리를 보호하는 무기로서의 AI를 가질 것이냐, AI 핵우산에 기댈 것이냐의 선택일 것"이라고 강조했다. 그러면서 "산업 보국을 위해서는 기업 수와 고용이 동반해서 늘어야 되는데 그런 면에서 우리가 소홀히 보고 있는 산업용 LLM 시장에 큰 기대감을 가지고 있다"며 "특히 제조 강국으로서의 산업 특화 LLM 개발 부분은 수출 측면에서도 선전 할 수 있다고 생각한다"고 덧붙였다. 조 회장이 이처럼 주장하고 나선 것은 최근 우리나라에서 AI 산업 발전을 위해 정부와 기업이 다각도로 방안을 모색하고 있는 상황에서 방향성을 제시하기 위한 것으로 분석된다. 앞서 정부는 지난 20일 제3차 국가AI위원회 회의를 진행해 '국가대표 정예팀'을 선발하는 한편, 빠른 시간 안에 세계 최고 수준의 LLM을 개발할 수 있도록 데이터와 그래픽처리장치(GPU) 등을 전폭 지원하겠다는 계획을 내놓은 바 있다. 특히 AI 컴퓨팅 인프라 확충을 위해 단기적으로는 내년 상반기까지 1만8천 장 규모의 첨단 GPU를 확충하기로 했다. 1만 장은 국가AI컴퓨팅센터를 중심으로 올해 안에 마련하고 나머지 8천여 장은 슈퍼컴퓨터 6호기 구축을 통해 확보한다. 장기적으로 2030년까지 국가AI컴퓨팅센터 내 국산 AI 반도체 비중을 50%로 끌어올려 저전력·고성능의 국산 AI 반도체 경쟁력을 높인다는 계획이다. 초기에는 엔비디아 등의 GPU를 쓰되 국산 AI 반도체의 성능을 검증해 점차 비율을 늘린다는 방침이다. 범용인공지능(AGI) 구현에 필요한 핵심 원천기술 확보도 추진하고 있다. 약 1조원을 투입할 계획으로, 현재 예비타당성 조사가 진행 중이다. 이에 대해 조 회장은 "국가 AI 역랑 강화 방안들은 어려운 환경에서 시기 적절하고 정교하게 잘 만들어졌다"며 "실행에 만전을 기하면 승산이 있다고 본다"고 말했다. 정부가 이처럼 나선 것은 AI 주도권을 둘러싼 글로벌 시장 경쟁이 갈수록 격화되고 있어서다. 미국은 지난 달 오픈AI, 오라클을 중심으로 AI 데이터센터에 약 730조원을 투자하는 '스타게이트 프로젝트'를 발표했다. 이에 질세라 유럽연합(EU)은 'AI기가팩토리 프로젝트'를 포함해 300조원가량을 투자키로 했다. 프랑스도 AI데이터센터에 약 163조원을 투자할 것이란 계획을 최근 공개했다. 하지만 우리나라는 미국, 중국에 이어 'AI 3대 강국'을 목표로 하고 있지만 '쩐의 전쟁'에선 다소 밀리는 모양새다. 한국은 일단 글로벌 AI 생태계에서 싱가포르·영국·프랑스와 함께 3위권으로 평가 되고 있지만, 고성능 AI 모델을 개발하기에는 국내 인프라가 부족하다는 지적을 받고 있다. 실제 지난해 기준 우리나라가 보유한 엔비디아의 AI 반도체 'H100'은 약 2천 개로, 미국 빅테크 메타의 15만 개, 마이크로소프트(MS)의 15만 개에 비해 상당히 낮은 수치다. 기술격차도 갈수록 커지고 있다. 미국과는 지난해 3월 기준 1.3년에 달했고 유럽과는 1년, 중국과는 0.9년의 차이가 났다. AI 고급 인재의 해외 이탈도 많아지면서 기술 개발에도 상당히 어려움을 겪고 있다. 이에 카카오는 자체 LLM 개발 중심 전략에서 선회해 오픈AI와 손을 잡았다. LLM 개발에 수천억원이 든다는 점에서 부담이 컸기 때문이다. 하지만 업계에선 카카오의 이 같은 전략에 대해 상당한 아쉬움을 드러냈다. 카카오가 파운데이션 AI 모델 개발에 소요되는 대규모 투자 비용을 절감하는 효과가 있겠지만, 자체적인 AI 역량 확보가 어려워져 향후 해외 진출에 어려움을 겪을 수도 있다고 판단해서다. 조 회장은 "국내 국민 메신저를 운영하는 대기업의 미국 LLM기업과의 제휴는 AI가 국가 기간산업이라는 철학이 부재한 보여주기식의 쉬운 접근"이라며 "(이 같은 전략은) 성공하기 어려울 것"이라고 주장했다. 이어 "AI는 LLM, GPU, 고대역폭메모리(HBM), 프로세싱-인-메모리(PIM), 클라우드, 양자 등 대규모 융합 산업으로, 어느 하나도 포기할 수 없는 주요 테크산업인 만큼 협업과 종합적인 접근이 중요하다"며 "올해 (우리나라가 AI기본법과 관련해) 세부 규정과 시행령을 더 정교하게 만들어서 미국 빅테크 기업을 적절히 견제하고 국내 산업을 증진시킬 수 있도록 (모두의) 균형있는 노력이 필요할 것"이라고 덧붙였다.

2025.02.23 15:37장유미

AI기본법 시행 앞서 정부·기업 한자리…글로벌 경쟁력 확보 방안 논의

인공지능(AI)기본법 시행에 앞서 정부와 산업관계자들이 모여 발전방향을 논의하기 위한 토론회가 개최한다. 한국소프트웨어산업협회(KOSA)는 산하 초거대AI추진협의회와 더불어민주당 조인철 의원실과 'AI기본법 현안 논의 토론회'를 개최한다고 20일 밝혔다. 오는 26일 국회 제2소회의실에서 진행하는 이번 토론회는 지난해 12월 26일 의결된 AI기본법의 시행에 앞서 산업계와 정부 관계자들이 한자리에 모여 법안이 국내 AI산업에 미칠 영향과 향후 발전방향을 논의하고자 마련됐다. AI기본법은 4년간의 논의 끝에 의결된 법안이다. 인공지능에 관한 국가 차원의 거버넌스 체계 정립과 AI 산업의 체계적 육성, AI 위험의 사전예방 등을 주요 내용으로 담고 있다. 토론회에서는 한양대학교 이상욱 교수가 '혁신과 안전이 공존하는 AI 기본법'을 주제로 발제를 진행한다. 이어지는 패널토론에서는 AI기본법의 실효성 있는 이행 방안과 산업 발전을 위한 제도적 지원 방안을 심도 있게 논의할 예정이다. 토론에는 과학기술정보통신부 공진호 과장, 랭코드 김민준 대표이사, 로폼 박성재 AI센터장, 네이버 박우철 변호사, KT AI2X Lab 배순민 소장, 국가인공지능위원회 신상렬 국장, 인공지능산업융합사업단(AICA) 오상진 단장, SK텔레콤 이영탁 성장지원실장, 트웰브랩스 정진우 이사가 참여한다. 조준희 협회장은 "이번 토론회를 통해 AI기본법의 실효성 있는 이행 방안과 AI산업 발전을 위한 제도적 지원 방안이 도출될 것으로 기대한다"며, "특히 국내 AI산업의 경쟁력 강화와 글로벌 시장 진출을 위한 실질적인 방안이 논의될 예정"이라고 말했다. 토론회를 주최한 조인철 의원은 "전기나 증기기관 같은 일상 전반에 적용될 범용 기술로 분류되는 AI 기술을 따라잡지 못하면 대한민국은 시대의 흐름에서 도태하게 말 것"이라고 우려하며 "지난해 국회가 AI기반 조성에 집중한 제정법을 마련한 만큼, 여기에 민간 부문의 과감한 도전이 더해져 독자적 AI플랫폼을 구축하고 글로벌 경쟁력을 확보할 수 있도록 더욱 성심껏 국회 차원의 법적‧제도적 뒷받침을 이어가겠다"고 약속했다

2025.02.20 17:16남혁우

"고려아연 상호출자·순환출자 관련 공정거래법 위반 검토"

공정위가 지난달 신고 접수한 고려아연 상호출자·순환출자 회피 탈법행위 관련 내용의 공거래법위반 여부를 검토한다. 또 로봇·인공지능(AI) 등 미래산업 경쟁력과 직결된 반도체 설계와 관련된 시높시스-앤시스 기업결합 건을 전원회의에 상정해 심의한다. 한기정 공정거래위원장은 17일 간담회에서 올해 핵심 프로젝트로 하도급·유통·소비자 분야 주요 과제 이행상황을 설명했다. 한 위원장은 지난달 말 접수된 고려아연의 공정거래법 위반행위 관련 신고사건 관련, 고려아연이 해외 계열사 명의만 이용해 규제를 회피하는 탈법행위를 했다는 신고인 측 주장이 있어 사실관계 확인 등 통상적인 사건처리 절차를 거쳐 공정거래법 위만 여부를 면밀히 검토하기로 했다고 말했다. 지난해 5월 미국 시높시스-앤시스 기업결합과 관련, 한 위원장은 “해외 사업자간 결합이지만 로봇·AI 등 미래산업 경쟁력과 직결된 반도체 설계와 관련돼 국내 반도체 시장에 미치는 영향이 매우 크다”며 “시장에 미치는 경쟁제한 우려를 심층적으로 검토했고 이달 초 안건 상정한 후 전원회의 심의를 앞두고 있다”고 설명했다. 한 위원장은 이어 “시높시스-앤시스 건은 지난해 8월부터 시행된 공정거래법상 '기업결합 자진 시정방안 제출 제도'를 적용한 최초 사례”라며 “시장 정보를 풍부하게 보유한 기업에 먼저 경쟁제한 우려 시정방안을 제출하게 해 시정조치를 부과하는 선진적·효율적 제도가 첫발을 내딛게 됐다”고 말했다. 한 위원장은 또 “중소 하도급업체가 대금을 제때 지급받을 수 있도록 보호장치를 확대하는 종합 개선대책을 추진하고 있다”며 “최근 학계·법조계·사업자단체 추천 전문가로 '하도급대금 지급보장 강화 TF'를 구성했고 25일 1차 회의를 개최한다”고 밝혔다. 한 위원장은 “중소기업의 대금지급 안정성을 강화면서도 원사업자의 불합리한 부담은 해소하는 균형적 방안을 마련하겠다”고 덧붙였다. 한 위원장은 “티메프 사태를 계기로 온라인 중ㄱ대거래 분야 대금 정산기한을 단축하는 대규모 유통업법 개정안이 발의된 후 직매입·특약매입 등 전통적 소매업에서도 행행법상 대금지급 기한이 너무 길다는 의견이 제시됐다”며 “백화점·TV홈쇼핑·쇼핑몰 등 11개 업태 139개 유통브랜드·납품업체를 대상으로 진행중인 서면 실태조사 결과를 분석해 제도 개선 필요성 등을 검토할 계획”이라고 밝혔다. 한 위원장은 또 “플랫폼 사업자·공공기관을 사칭한 온라인 광고대행 계약체결이나 효과가 낮은 키워드광고를 등록한 후 계약을 해지할 때 과도한 위약금을 부과하는 등 불법행위로 자영업자 피해가 큰 상황”이라며 “과학기술정보통신부·경찰·한국인터넷광고재단 등과 민관 합동 광고대행 TF를 신설해 민생 피해구제 방안을 마련 중”이라고 말했다. 공정위는 11일부터 한국인터넷광고재단 홈페이지에 '온라인 광고대행 사기 신고센터'를 개설해 운영 중이다.

2025.02.17 18:41주문정

[기고] 인공지능 시대, 무분별한 중복 규제 지양해야

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI) 규제의 근간이 될 수 있는 인공지능기본법(AI기본법)이 지난 1월 국회에서 정부로 이송돼 공포됨에 따라 내년부터 본격적인 시행을 앞두고 있다. 이같은 상황에서 프라이버시 분야에서의 AI 규제에 관한 법안도 새롭게 발의됐다. 지난달 31일자 개인정보 보호법 일부개정법률안이 바로 그것이다. 공개된 주요 내용에 따르면 개인정보보호위원회의 심의·의결을 거친 경우 적법하게 수집한 개인정보는 AI 개발을 위해 활용할 수 있게 된다. 이 과정에서 정보주체의 권리 침해가 발생하지 않도록 사전 및 사후적 조치도 마련됐다. 다시 말해 사전적으로 개인정보 처리방침을 통한 투명성 확보 조치를 이행하도록 하고 사후적으로는 개인정보보호위원회의 주기적인 관리 및 점검을 통해 개인정보의 안전성을 확보하겠다는 계획이다. 이는 개인정보보호위원회가 올해 6대 핵심 추진과제 중 하나로 세운 AI 시대 개인정보 규율체계 혁신 과제와 궤를 같이 한다. 이미 현행 개인정보 보호법 제15조 제4항은 당초 수집 목적과 합리적으로 관련된 범위 내에서는 안전성 확보 조치를 취하였는지 여부 등을 고려해 정보주체의 동의 없이도 개인정보를 추가적으로 이용할 수 있도록 규정해 두고 있다. 이에 따라 특정 서비스 제공 목적으로 수집한 개인정보를 AI 서비스 개발에 이용하는 행위는 현재도 충분히 가능하다고 판단된다. 개인정보보호위원회 역시 AI 시대 안전한 개인정보 활용 정책방향을 통해 위와 동일한 입장을 표명한 바 있다. 이번 개정안은 주로 기본 서비스 관련 개인정보를 관련이 없는 기타 서비스 개선이나 신규 서비스 개발을 위해 이용하는 경우에 대비한 것으로 이해된다. 다시 말해 다른 서비스나 신규 서비스의 경우 기존 서비스 개선에 비해 정보주체의 예측가능성이 떨어질 것이므로, 이를 위한 AI 개발에 대해서는 보다 엄격하게 개인정보보호위원회의 심의·의결을 요구하겠다는 취지다. 규제의 강도 측면에서 합리적인 규제라고 생각된다. 다만 세부적인 규제 내용은 추가적인 검토를 통해 완성해 나가야 할 것이다. 내년부터 시행 예정인 AI기본법은 이미 일부 AI에 대해 투명성 확보 의무 및 안전성 확보의무를 부과하고 있다. 이에 따라 개인정보 보호법 개정안을 통해 규율되는 투명성 확보 조치와 안전성 확보 조치 역시 단순한 중복 규제에 그치지 않도록 해야 한다. 이를 위해 제도 시행 전부터 부처 간 협력을 통해 각 규제의 유기적인 정착을 도모해야 한다. 향후에는 프라이버시 분야 외에 다른 부처에서도 다른 법안을 통해 AI에 관한 규제를 연이어 도입할 것으로 예상된다. AI와 같이 광범위한 분야에서 사용될 수 있는 기술에 대해 각 부처별로 관심을 갖고 규제를 도입하려는 시도 자체는 어찌 보면 당연한 것이다. 다만 앞서 본 것처럼 AI가 화두로 떠오른다고 해서 각 부처가 무분별하게 중복 규제를 하는 상황은 반드시 피해야 한다. 규제가 필수적이라 하더라도 사전에 별 다른 논의 없이 부처별 규제들이 우후죽순처럼 도입되기만 한다면 수범자 입장에서는 큰 혼란이 초래될 수밖에 없다. 일례로 광고성 정보 전송과 관련한 정보통신망법에 따른 규제와 개인정보 보호법에 따른 규제 역시 과도한 중복 규제로 여기는 여론이 많았다. 두 규제를 통합하려는 시도는 줄곧 있어 왔지만 아직까지 혼란은 이어져 오고 있다. 그 외에 지난 2020년 데이터3법을 통합하려는 시도에도 불구하고 복잡하게 얽힌 문제로 개인정보 보호법과 신용정보법 간의 통합은 무산되었다. 이같이 처음부터 규제가 여러 갈래로 흩어져 있는 상황에서는 중복 규제가 발생할 것이 우려된다. 다만 나중에 이를 다시 주어 담는 통합작업을 하는 것 역시 너무나 어려운 작업임은 그간의 선례에 비추어 볼 때 자명하다. 그렇다고 과도한 중복 규제를 그대로 두는 것은 사업자들에게 짐을 돌리는 것밖에 되지 않는다. 동시에 규제기관 간에 서로 눈치만 보며 상황을 애매하게 방치하는 것 역시 법치국가에서 허용해서는 안 된다. 어려운 시국 속에서도 AI기본법이 극적으로 국회에서 통과된 만큼 이 법안이 누더기 규제가 되지 않도록 제도 도입 초기부터 각 부처 간 원활한 협의를 통해 유기적인 규제 로드맵을 완성하기를 기대해 본다.

2025.02.14 15:41법무법인 태평양 이준호

'AI 안전성 확보 전략 포럼' 열린다

한국데이터법정책학회는 20일 오후 3시 한국프레스센터에서 'AI 안전성 및 신뢰성 확보를 위한 전략'이라는 주제로 제14회 AI 윤리법제포럼을 개최한다. 이날 포럼에서는 서울여대 정보보호학부 교수, 인공지능윤리정책 포럼 위원장을 지내고 현재 AI안전연구소 초대 소장을 맡고 있는 김명주 소장이 주제 발표를 맡았다. 포럼 회장인 이성엽 교수는 “한국에서도 AI 기본법상 안전성, 신뢰성 확보 규정이 도입됐고, 최근 딥시크 층격으로 인해 AI를 통한 정보보안 위험이 증대되고 있는 상황에서 AI 안전성과 신뢰성 확보를 책임지고 있는 기관의 전략을 듣고 향후 과제를 논의하는 의미 있는 세미나가 될 것이다”고 밝혔다. 한편 AI 윤리법제포럼은 AI 시대의 법제도와 윤리 이슈에 대해 논의하기 위한 전문가 모임으로 정기적으로 생성형 AI의 주요 윤리, 법제, 정책 이슈에 관한 세미나를 개최하고 있다. 1회 포럼에서 ▲생성 AI에서 윤리 이슈를 시작으로 ▲생성형 AI의 기술적 이해 ▲생성형 AI의 저작권 이슈와 과제 ▲생성형 AI의 개인정보의 이슈와 과제 ▲생성형 AI의 경쟁상의 이슈와 과제 ▲주요국의 AI 규제 현황과 시사점 ▲생성형 AI에서 가짜뉴스의 이슈와 과제 ▲생성형 AI에서 시큐리티 이슈와 과제 ▲디지털 통상과 인공지능 ▲생성형 AI 기술, 산업 동향과 시사점 ▲한국의 AI 반도체, 클라우드 전략 ▲AI 규제법의 국내외 동향 분석, 평가와 향후 과제 ▲AI 법제 및 거버넌스 개선방향 등의 주제를 다뤘다.

2025.02.13 14:22박수형

유상임 과기정통부 장관 "올해 내 GPU 1만 5천 개 확보"

정부가 오는 2030년까지 GPU 3만개를 구입하기로 했던 일정을 4년 정도 앞당겨, 2026년 말이나 늦어도 2027년 초까지 모두 확보하기로 했다. 올해에만 1만 5천개를 구입할 계획이다. 유상임 과기정통부 장관은 4일 정부서울청사에서 '25년도 과기정통부 핵심과제 추진상황' 대국민 보고를 위한 브리핑에서 이같이 언급했다. 이날 과기정통부 기자단과의 질의응답은 '딥시크 등 AI' 현안에 집중됐다. 유 장관은 "챗GPT의 진화와 딥시크 충격 이후 2030년가서 GPU 3만 개를 확보해봐야 아무런 의미가 없다"며 "우선 광주 데이터센터 등에서 미리 쓸 수 있도록 일부를 선 구입한뒤 나중에 국가 차원에서 국가AI슈퍼컴퓨터 센터로 모으는 작업을 할 것"이라고 말했다. 유 장관은 또 "국내에서도 딥시크와 유사한 모델을 갖고 있는 기업이 10개 정도 된다. 다만 떨어지는 정확도는 개선하면 될 것"이라며 "올해 내 1만 5천개를 모두 확보할 계획"이라고 덧붙였다. 올해 내 한국과학기술정보연구원은 슈퍼컴퓨터 6호기를 도입하며 GPU 8천800개를 확보할 계획이다. 이에 앞서 진행한 브리핑에서 유 장관은 과기정통부의 올해 사업계획을 밝히며 이달 내 AI컴퓨팅 인프라 발전전략을 공개할 것이라고 언급했다. 또 오는 3월에는 민관합동 양자전략위원회도 출범시킬 계획이다. 과기정통부는 AI사업기반 확충의 핵심인 국가 AI컴퓨팅 센터 구축사업 설명회를 오는 7일 개최한다. 오는 28일까지 사업참여의향서를 제출하는 기업·기관 등에 공모지침서를 제공한다. 이와함께 이달 말에는 ▲AI컴퓨팅 인프라 확충 ▲데이터센터 규제개선 등을 포함하는 'AI컴퓨팅 인프라 발전전략'을 공개할 예정이다. 핵심 전략기술 신속 확보를 위한 집중 지원도 이루어진다. 당장 이날 오후 '1조원 규모의 과학기술혁신펀드' 조성을 위해 전담은행 및 펀드 운용사와 양해각서(MOU) 교환이 진행된다. 과기정통부는 올해 우선 2천500억 원 이상으로 민간펀드를 조성, 12대 국가전략기술 혁신기업과 국가R&D 기술사업화 기업 등에 투자할 계획이다. 양자분야 범부처 역량 결집에도 적극 나설 계획이다. 확정되진 않았지만, 오는 3월 '민관합동 양자전략위원회'를 출범시켜, 양자기술개발과 산업육성을 가속화한다는 복안이다. 또 같은 달 국가전략기술 등 선도형R&D에 대한 투자를 강화하고 게임체인저 분야 최적의 투자전략을 제시하는 2026년도 국가연구개발사업 투자방향도 발표한다. 정부 국제협력R&D 사업을 분석한 뒤 최적의 투자분야와 협력파트너를 모색하는 '글로벌R&D 2.0 전략'도 이달 내 마련한다. 가계통신비 부담 경감 등 통신분야 민생지원에도 나선다. 이달 내 알뜰폰 도매대가 인하를 위한 관련 고시 개정을 행정예고한다. 3월엔 국민의 합리적 통신 요금제 선택을 지원하기 위해 '최적요금제 고지제도' 도입을 위해 전기통신사업법 개정을 추진한다. 지역 소상공인의 성장을 지원하는 지역채널 커머스방송 제도화를 위해 케이블TV와 홈쇼핑 등 이해관계자 협의(2월)와 스미싱 피해 예방을 위해 스미싱 발송을 사전차단하는 엑스레이(X-Ray) 시스템 시범사업을 추진한다. 엑스레이 시스템은 이용자가 문자 중계사/재판매사에 대량문자 발송을 요청하면, 문자 내용에 스미싱URL이 포함돼 있는지 여부를 판단하는 시스템이다. 마지막으로 범부처 기술사업화 생태계 혁신, R&D 시스템 개선을 위해 가칭 '국가R&D 기술사업화 전략'을 오는 3월 내 발표한다. 이외에 이공계 대학원생들을 위한 연구생활 장려금 사업 공모를 2월부터 개시한다. 또 출연연 자율성, 투명·윤리경영을 위한 규정 개정도 이달 내 마무리지을 계획이다. 유상임 장관은 “엄중한 정국상황에서 어려운 민생경제를 지원하고, 경제회복에 기여하기 위해 모두가 무거운 책임감을 갖고 최선을 다하고 있다"며 " 핵심과제들이 국민의 삶과 산업현장에서 체감되도록 꼼꼼하게 점검하고 국민들께 소상히 설명드릴 것”이라고 밝혔다.

2025.02.04 12:37박희범

英, AI로 아동 성적 이미지 생성하면 처벌

영국 정부가 인공지능(AI)으로 아동 성 학대 이미지를 생성하는 행위를 불법으로 규정하기 위한 법안을 발의했다. 3일 BBC 등 외신에 따르면 영국이 전 세계에서 처음으로 AI 성 학대를 법적으로 처벌하기 위한 법적 조치에 나섰다. 해당 법안은 '범죄 및 치안 법안(Crime and Policing Bill)'에 포함된 상태로, 이달 중 국회서 논의될 예정이다. 법 적용 대상은 아동 성 학대 이미지 생성하는 AI 도구 소지자다. 해당 도구로 관련 이미지를 제작하거나 배포, 사용법 안내 행위도 불법이다. 아동 성 학대 콘텐츠 웹사이트를 운영하는 행위도 마찬가지다. 정부는 수사 시 범죄와 관련한 디지털기기 보안 잠금을 임의로 해제할 수 있다. 다수 외신은 온라인 범죄자가 AI로 아동 성 학대 자료를 제작하는 사례가 증가한 가운데 영국 정부가 나선 것으로 분석하고 있다. 인터넷워치재단에 따르면 지난해 관련 이미지 보고 수치가 작년보다 5배 증가한 것으로 나타났다. 그동안 전 세계에서 아동이 노골적인 모습으로 등장하는 콘텐츠 제작·배포가 금지였다. 다만 AI를 통해 해당 콘텐츠를 생성할 때 구체적인 법 적용이 어려웠다. 이에 영국 정부는 AI로 아동 성 착취 콘텐츠를 만든 제작자에게도 명확한 처벌을 내리기 위해 나선 것이다. 예벳 쿠퍼 영국 내무장관은 "온라인뿐 아니라 오프라인에서도 아동 성 학대를 근절하는 것이 사이버 범죄로부터 대중을 강력히 보호할 방법"이라고 말했다.

2025.02.03 10:16김미정

"AI 영향력 키우려 꼼수 부렸나"…오픈AI 투자한 MS, 美·英 규제 당국 압박 거세져

마이크로소프트(MS)와 '챗GPT' 개발사 오픈AI의 파트너십에 대해 미국과 영국 규제당국의 압박이 거세지는 모양새다. 20일 테크크런치, 블룸버그통신 등 주요 외신에 따르면 미국 연방거래위원회(FTC)는 지난 17일 내놓은 보고서에서 MS의 오픈AI에 대한 130억 달러(약 19조원) 규모의 투자를 두고 반독점법 위반을 우려한 것으로 전해졌다. MS의 클라우드 컴퓨팅에서의 지배력이 초기 인공지능(AI) 시장으로 확장할 수 있다고 본 것이다. 클라우드 컴퓨팅 시장 점유율 2위인 MS는 지난 2019년부터 오픈AI와 파트너십을 체결하고 대규모 투자를 단행해 지분 49%를 확보했다. 당초 오픈AI와의 파트너십 영향이 클라우드 사업에 국한될 것이라는 예상과 달리 소프트웨어 라이선스, AI 제품, 사이버 보안 등 MS의 전반적인 사업 영역으로 지배력이 확대됐다는 지적이 나오고 있다. 현재 MS는 오픈AI 파트너십을 통해 연간 10억 달러(약 1조4천억원) 매출을 올리고 있다. 또 AI 분야에서만 연간 30억 달러(약 4조3천억원)의 매출을 기대하고 있다. 이 같은 분위기 속에 FTC는 MS의 오픈AI 투자가 AI 개발사들이 향후 MS에 의해 완전히 인수될 위험을 높인다고 봤다. 앞서 영국 경쟁시장국(CMA)도 MS의 오픈AI 투자뿐 아니라 인플렉션AI, 미스트랄AI 투자에 대한 반독점법 위반 여부를 검토하며 압박 수위를 높인 바 있다. FTC는 아마존과 구글이 AI 스타트업 앤트로픽에 대해 투자하는 것도 반독점법 위반 가능성이 높다고 봤다. 아마존과 구글은 앤트로픽에 대해 각각 80억 달러와 20억 달러를 투자한 바 있다. 업계에선 빅테크들이 이 같은 움직임을 통해 AI 시장을 독점하면서 새로운 후발주자 탄생을 어렵게 만들고 있다고 지적했다. '챗GPT'가 생성형 AI 열풍을 일으킨 이후 2년 동안 주요 AI 스타트업들은 비용이 많이 들고 컴퓨팅 집약적인 기술 개발을 지원받기 위해 빅테크 기업들에 의존해 온 바 있다. 이를 두고 FTC는 빅테크 기업들이 이런 스타트업들에 투자한 자금 중 일부를 자신들의 제품과 서비스에 사용하도록 요구하고 있다고 지적했다. 아울러 이런 파트너십이 소중한 AI 인재를 대기업 중심으로 집중시키고 칩 개발과 모델 훈련, 데이터를 대기업이 독점적으로 확보할 가능성을 높인다고 우려했다. FTC 리나 칸 의장은 성명을 통해 "FTC 보고서는 빅테크 기업들의 파트너십이 어떻게 잠금 효과(lock-in·다른 제품 선택에 제한을 두는 현상)를 만드는 지를 보여준다"며 "스타트업들이 핵심적인 AI 자원을 잃으며 민감한 정보를 노출해 공정한 경쟁을 저해할 수 있는지에 대해서도 조명하고 있다"고 말했다. FTC는 지난해 이들 빅테크 기업의 AI 스타트업에 대한 투자에 대해 조사를 해왔다. 이 조사 결과는 향후 조치에 대한 정보를 제공하는 데 사용될 수 있다. 보고서는 "빅테크 기업 중 한 곳이 AI 스타트업과 거래 과정에서 기밀인 재무 성과 정보에 접근할 수 있었다"며 "또 다른 계약에서는 AI 스타트업의 핵심 자산인 모델 출력 결과에 대형 빅테크 기업이 접근할 수 있도록 허용됐다"고 우려했다. 법무부 반독점부서 부차관보를 역임한 로저 P. 알포드 노트르담 로스쿨 법학 교수는 "빅테크 기업이 소규모 기업 인수를 파트너십, 투자 등으로 반독점 심사를 회피하는 경우가 발생하고 있다"며 "과도한 규제는 혁신을 제한할 수 있지만, 과소 규제는 반경쟁적인 기술 관행의 문을 열어주고 소비자 피해로 나타날 수 있다"고 지적했다.

2025.01.20 09:56장유미

EU, AI법 위반시 최대 '매출 7% 벌금'...기업들 비상

가트너(Gartner)가 발표한 'EU AI법 준비를 위한 1단계: 발견과 목록화' 보고서에 따르면, 2024년 말부터 단계적으로 시행되는 EU AI법이 기업들에게 막대한 재정적 리스크를 안길 것으로 전망된다. EU AI법의 단계별 시행 일정 공개 EU AI법은 2025년 2월부터 단계적으로 시행된다. 첫 단계로 2025년 2월부터 금지된 AI 시스템에 대한 규제가 시작되며, 2025년 8월부터는 범용 AI와 처벌 규정이 적용된다. 2026년 8월에는 대부분의 규정이 시행되고, 최종적으로 2027년 8월에는 Article 6.1과 Annex II에 해당하는 규정이 시행된다. 이러한 단계적 접근은 기업들이 충분한 준비 기간을 가질 수 있도록 설계되었다. AI 위험도별 규제 체계 상세 공개 EU AI법은 AI 시스템을 위험도에 따라 세 가지 범주로 분류한다. '금지된 AI'는 사용자의 자유의지를 침해하거나 '사회적 점수 매기기'에 사용되는 시스템으로, 법 집행 목적 등 극히 제한적인 예외를 제외하고는 전면 금지된다. '고위험 AI'는 인간에게 영향을 미치는 대부분의 AI 기술이 해당되며, 엄격한 요구사항을 준수해야 한다. '저위험 AI'는 AI 기반 추천 시스템이나 스팸 및 바이러스 필터 등이 포함되며, 재고 관리나 문서화 등 비교적 가벼운 요구사항이 적용된다. AI 도입 유형 분류와 대응 전략 가트너는 기업의 AI 도입을 네 가지 유형으로 분류했다. 첫째는 '와일드 AI'로, 직원들이 업무를 위해 공개된 AI 도구를 사용하는 경우다. 둘째는 '임베디드 AI'로, 기업이 사용하는 솔루션에 내장된 AI 기능을 의미한다. 셋째는 '하이브리드 AI'로, 기성 AI 모델과 기업 데이터를 결합한 형태이며, 마지막으로 '인하우스 AI'는 기업이 자체적으로 개발한 AI 시스템을 말한다. EU AI법의 추가 규제 요구사항 EU AI법은 특정 AI 기반 애플리케이션에 대해 위험성 평가, 투명성 의무, EU 전역 데이터베이스 등록을 요구한다. 특히 시스템적 위험을 수반하는 최고 성능의 범용 AI에는 추가적인 의무 요구사항이 적용된다. 기업들은 이러한 요구사항을 준수하기 위해 자사의 AI 시스템을 철저히 점검하고 필요한 조치를 취해야 한다. 기업의 실질적 대응 방안 가트너는 기업의 효과적인 AI 시스템 관리를 위해 구체적인 실행 방안을 제시했다. 우선 기업 아키텍처, 제3자 리스크 관리, 변경 관리, 조달 프로세스를 적절히 수정하여 새로운 AI 기능과 서비스의 도입을 지속적으로 모니터링해야 한다. 완벽한 발견보다는 점진적인 진행이 중요하며, 일반개인정보보호법(GDPR) 준수를 위해 작성된 처리활동기록(RoPA)과 개인정보영향평가(PIA)를 활용하면 발견 및 목록화 과정을 상당히 단축할 수 있다. AI 시스템 카탈로그화를 위한 구체적 행동 지침 기업들은 각 AI 시스템에 대해 상세한 정보를 수집하고 문서화해야 한다. 시스템명, 처리하는 개인정보의 종류(특히 인종, 민족, 정치적 성향, 성별, 성적 지향, 종교적 신념, 노조 가입 여부, 유전자, 생체인식, 건강 데이터 등 민감정보), 처리 목적, 관련 업무 프로세스, 벤더 정보, 개인정보 처리의 법적 근거 등을 포함해야 한다. 가트너는 데이터 중심의 접근을 권장하며, 특히 민감한 개인정보를 처리하는 인사나 마케팅 부서의 AI 시스템을 우선적으로 점검할 것을 조언했다. EU 법률 체계와의 연관성 EU AI법은 기존의 다양한 EU 법률과 연계돼 있다. 기계류 지침, 장난감 안전 지침, 의료기기 규정, 민간항공보안 규정 등 17개 이상의 EU 법률이 AI법과 직접적으로 연관되어 있다. 이러한 기존 EU 법률의 적용을 받는 AI 시스템은 대부분 고위험 AI로 분류될 가능성이 높다. 따라서 기업들은 자사의 AI 시스템이 이러한 법률과 관련이 있는지 세심하게 검토해야 한다. ■ 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.

2025.01.18 17:28AI 에디터

[AI는 지금] AI 기본법 정비단 출범…업계 "고영향 AI 정의 신중해야"

과학기술정보통신부가 인공지능(AI) 기본법 하위법령 정비단을 출범하며 AI 산업 육성과 신뢰 기반 조성을 본격화한다. 국내 AI 업계는 이번 정비단 출범이 산업 진흥으로 이어지길 기대하는 동시에 고영향 AI의 정의와 평가 기준에 대한 명확성을 요구하고 있다. 과학기술정보통신부는 지난해 12월 국회에서 통과된 AI기본법이 내년 1월부터 차질 없이 시행될 수 있도록 하위법령 정비단을 통해 시행령 초안을 신속히 마련할 계획이라고 15일 밝혔다. AI 기본법은 지난 2020년 처음 국회에 발의된 이후 오랜 논의를 거쳐 제정됐다. 이 법은 유럽연합(EU)의 AI 법안에 이어 세계 두 번째로 제정된 사례로, AI로 인한 위험을 예방하고 기술 발전을 촉진하는 내용을 담고 있다. 이번에 구성된 하위법령 정비단은 AI 기본법의 핵심 쟁점인 고영향 AI와 생성형 AI의 세부 기준을 구체화하며 법안의 실효성을 높이는 것을 목표로 한다. 고영향 AI란 인간 생명, 신체 안전, 기본권에 중대한 영향을 미칠 수 있는 AI 시스템을 뜻한다. 정비를 위해 과기정통부를 비롯해 국가AI위원회 법제도분과, 산업계 초거대 AI추진협의회, 학계, 법조계 전문가 등이 참여한다. 정비단은 워킹그룹 3개 분과로 구성돼 조항별 세부 내용을 구체화한다. 워킹그룹 1은 AI 안전성 확보 의무와 국내대리인 지정을 담당하고 워킹그룹 2는 AI 투명성 확보 의무, 영향평가, 신뢰성 검증과 인증을 다룬다. 워킹그룹 3은 고영향 AI 기준 설정, 사업자 책무, 사실조사를 주요 검토 대상으로 삼는다. 현재 하위법령에는 ▲ AI기본법 시행령 및 시행규칙 ▲ 고영향 인공지능 기준과 예시에 관한 가이드라인 ▲ 고영향 인공지능 사업자 책무 가이드라인 ▲ 인공지능 안전성 확보 의무 고시 ▲ 인공지능 영향평가 가이드라인 ▲ 인공지능 투명성 확보 의무 가이드라인이 포함됐다. 추후 규제 샌드박스, AI 신뢰성 검증, 사실조사 및 분쟁조정 관련 항목도 추가될 가능성이 높다. 송상훈 과학기술정보통신부 정보통신정책실장은 "이번 법 제정은 우리나라가 AI G3 강국으로 도약할 법적 기반을 마련했다는 점에서 큰 의미가 있다"며 "기업의 예측 가능성을 높이고 투자를 촉진하기 위해 하위법령 정비에 속도를 낼 것"이라고 밝혔다. 국내 AI 업계는 하위법령 정비단 출범을 반기는 분위기다. 제도가 부재해 자의적인 법리해석이 이뤄질 가능성이 현저히 줄어들어 기업이 정해진 범주 내에서 자유롭게 활동을 할 수 있게 됐기 때문이다. 한 AI 업계 관계자 X씨는 "기본법 하위 법령들이 정비되면 법제도상 불확실성이 상당 부분 해소되면서 안정적인 산업 발전이 가능해질 것으로 기대한다"며 "다만 실현되지 않은 위험을 예단하거나 AI 활용 분야와 무관하게 서비스 이용자 규모 등 외적 요소들로 규제 범위를 잡는 등 과잉 입법 이슈가 없도록 향후 논의가 이루어지길 바란다"고 밝혔다. 또 업계 일각에서는 고영향 AI의 정의와 평가 기준의 명확성을 가장 중요한 과제로 보고 있다. AI 업계 관계자 Y씨는 고영향 AI 정의의 중요성을 강조하며 "AI 기본법이 다루는 '고영향'이라는 개념은 이를 서비스하는 기업들에 직접적인 영향을 미칠 것"이라며 "정의를 구체화하는 것이 업계에 실질적인 도움이 될 것"이라고 말했다. 또 다른 업계 관계자 Z씨는 미국 캘리포니아의 사례를 들며 고영향 AI의 평가 방식과 과정이 과학적으로 이뤄져야 할 필요성을 강조했다. Z씨는 "캘리포니아 주지사가 지난해 주 AI법인 'SB 1047' 법안에 거부권을 행사한 사례가 대표적"이라며 "당시 주지사는 단순히 모델의 패러미터가 크다는 이유로 AI를 고위험으로 분류하는 것은 비과학적이라는 비판을 제기했다"고 설명했다. 이어 "의료 분야의 AI처럼 매개변수가 작아도 생명과 안전에 영향을 미칠 수 있는 사례가 있다"며 "분야별 특성을 반영한 고영향 AI의 정의와 평가 기준을 마련할 필요가 있다"고 밝혔다.

2025.01.15 12:14조이환

AI기본법 하위법령 정비단 출범···"고영향AI 기준 신중 마련"

과학기술정보통신부(과기정통부)는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)' 하위법령 정비단을 본격 출범한다고 15일 밝혔다. AI기본법은 지난 2020년 7월 국회에서 법안이 처음 발의된 이후 4년이 넘는 기간 동안 다양한 의견을 수렴하며 논의된 법안으로, 22대 국회에서 여야 합의를 거쳐 19개 법안을 병합하고 작년 12월 26일 본회의를 통과했다. 이후 올 1월 14일 국무회의 의결을 거쳐 1월 중 공포될 예정으로 2026년 1월부터 시행한다. 법안은 유럽연합(EU)에 이어 세계에서 두 번째로 제정한 법안이다. 인공지능에 관한 국가 차원의 거버넌스 체계를 정립하고, 인공지능 산업을 체계적으로 육성하며, 인공지능으로 인해 발생할 수 있는 위험을 사전에 예방하기 위한 내용으로 구성됐다. 과기정통부는 AI기본법 제정 효과를 민간에서 조속히 체감할 수 있게 위해 하위법령 정비단을 구성, 운영한다. 정비단에는 과기정통부와 산업계‧학계‧법조계 전문가를 비롯해 국가AI위원회 법제도분과도 함께 참여한다. 법제처(미래법제혁신기획단)도 정비단 회의에 참여해 하위법령 제정에 대한 컨설팅을 지원한다. 정비단은 15일 출범 회의를 거쳐 시행령 초안을 신속히 마련할 예정이다. 특히, 법안에 포함한 고영향AI, 생성형AI 등에 대해서는 해외 입법동향, AI 경쟁력 강화라는 정책목표 달성 등을 고려해 그 기준과 적용사례를 구체화해 나갈 것이다. 이를 통해 AI기본법이 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 AI G3 강국으로 도약할 수 있는 법적 기반이 될 수 있게 할 계획이다. 과기정통부는 우선 정비단 전문가를 중심으로 시행령 초안을 마련한 뒤 관계부처 및 이해관계자 의견수렴을 폭넓게 진행하는 등 긴밀한 소통을 추진할 방침이다. 아울러, 하위법령 마련과 병행해 법에 근거한 주요 가이드라인 및 고시에 대한 별도 태스크포스(TF) 3개(각 10여명의 민간전문가 참여)도 함께 운영할 예정이다. 특히, 고영향 AI 기준과 예시에 관한 가이드라인의 경우 분야별 전문성이 특히 중요하다는 점을 고려, 국가AI위원회를 중심으로 산학연 전문가, 관계부처 등이 참여해 분야별로 초안을 마련하고 이해관계자 의견수렴을 진행한다. 송상훈 과기정통부 정보통신정책실장은 “인공지능을 둘러싼 치열한 글로벌 경쟁 속에서 우리나라가 혁신과 안전을 조화롭게 반영한 AI기본법 제정을 함으로써 AI G3 강국으로 도약할 수 있는 기반을 마련했다"면서 “기업의 예측가능성을 제고하고, 투자를 촉진하기 위해서는 하위법령 제정에 서두를 필요가 있다”고 밝혔다. 이어 “하위법령 정비단 운영과 민간이 체감할 수 있는 각종 산업 지원 시책의 수립을 속도감 있게 추진해 나가는 등 최선의 노력을 기울이겠다”고 말했다.

2025.01.15 12:00방은주

방통위, AI 이용자 보호 대책 세운다

방송통신위원회가 인공지능(AI) 산업 발전과 동시에 이용자 보호를 위한 조치에 나선다. AI 이용자보호 종합계획을 수립하고, '생성형AI 이용자보호 가이드라인'과 AI 이용자보호법을 제정한다는 계획이다. 방통위는 14일 이같은 내용의 2025년도 업무계획을 최상목 대통령 권한대행 경제부총리에 보고했다. 생성형 AI 이용자보호 가이드라인은 서비스의 설명가능성을 보장하고, 필터링과 신고 등 기술적 관리적 조치 등의 구체적 방법을 제시하게 된다. 또 AI 이용자보호법은 AI 유형별 차등 규제와 이용자보호 업무평가, 분쟁조정제도 등을 규정하게 된다. 아울러 생성형 AI로 인한 위험요소를 신고, 검증하고 이를 공유할 수 있는 이용자 참여형 포털을 구축키로 했다. 디지털 불법 유해정보 차단을 위한 종합적 대응도 강화한다. 마약이나 도박 등 민생과 직결된 불법정보가 신속하게 차단될 수 있도록 절차를 개선하고, 딥페이크 성범죄물 등 불법촬영 의심 영상물을 '선(先) 임시차단, 후(後) 심의' 할 수 있도록 법적 근거를 마련한다. 허위조작정보 확산을 방지하기 위해 민관 합동 자율규제 권고안을 마련해 사업자의 자정활동을 유도하고, 정보 생성과 유포 등 단계적 규제 체계를 정립한다. 불법스팸 근절을 위해 범죄수익 몰수, 과징금 부과 등 제재를 강화하고, AI 스팸 필터링 개선, 해외문자 차단함 신설 등 기술적·관리적 보호조치를 강화하여 불법스팸 차단의 실효성을 높인다. 방송의 사회적 책임 강화를 위해 방송사 재허가 재승인 심사나 방송평가 시 저출생 위기 극복, 재난피해 예방프로그램 편성내역 등을 반영해 공익성 심사 평가를 강화하고, 재허가 재승인 조건 이행 여부를 점검해 허가 승인 제도의 실효성을 제고할 계획이다. 재난방송의 체계적인 관리와 지원을 위해 '재난방송관리지원법' 제정을 추진하고, 재난방송 사각지대 해소를 위해 수신환경 실태조사와 도로 터널 등의 중계설비 설치를 위한 기술지원 컨설팅을 제공한다. 한국판 디지털서비스법인 가칭 온라인서비스 이용자보호법을 제정해 플랫폼 상 불법 유해정보 유통 방지, 콘텐츠 노출기준 공개 등 플랫폼 사업자의 사회적 책무를 강화한다. 방송과 OTT 등 신·구 미디어의 동반 성장을 지원하고 일관된 규율체계를 정립하기 위해 개별법에 분산된 규제를 통합 정비하는 미디어 통합법제 마련을 추진한다. 차세대 방송의 지속 가능한 혁신성장을 위해 UHD, DMB, AM 라디오 등 기존 지상파 매체의 정책 개편 방안을 포함한 방송혁신 전략을 수립한다. 위치정보 산업의 중장기 발전 로드맵으로서 '위치정보 이용 활성화 계획'을 수립해 규제 개선, 산업 지원, 인력 양성 등 분야별 지원 전략을 마련한다. 방송사의 규제부담 완화를 위해 방송사업 허가 승인 시 조건 등 부과 원칙 및 사유를 공개하고 허가 승인 유효기간 범위를 확대하고, 소유 겸영규제와 광고 편성규제를 완화해 방송산업의 경쟁력과 자율성을 강화한다. 방송콘텐츠의 해외유통 활성화를 위해 새해 상반기 중 캐나다와 시청각 공동제작협정을 체결하고, 공동제작비 지원, 국제 컨퍼런스 개최 등을 추진한다. 또한 토종 OTT 사업자의 해외진출 지원을 위해 해외시장과 이용행태 정보를 제공하고 '국제 OTT 포럼'을 개최한다. 단말기 유통법 폐지에 따라 하위 법령 정비 등 후속조치를 추진하는 동시에 단말기 유통시장의 불공정행위와 이용자 피해 방지를 위해 '단말기 유통환경 개선 종합시책'을 마련한다. 쇼핑, 배달, 교육 등 민생 밀접 플랫폼 서비스의 이용자 피해 유발 행위를 집중 점검하고, 다크패턴, 하이재킹 자동실행 광고 등 이용자를 기만하거나 선택권을 제한하는 행위에 대해서도 엄정 대응한다. 보편적 디지털 미디어 복지도 확대한다. 시각·청각장애인을 위한 맞춤형TV 지원을 확대한다. 또 장애인방송 품질 제고를 위해 품질 평가체계를 마련하고 시범평가를 실시하는 등 소외계층의 미디어 접근성을 강화한다. 아울러 전국 어디서나 미디어교육 서비스를 제공받을 수 있도록 시청자미디어센터를 차질 없이 구축하고, 센터 방문이 어려운 도서·산간 지역민과 장애인 등을 위해 '찾아가는 미디어 나눔버스'를 추가 운영할 예정이다. 김태규 방통위원장 직무대행은 “디지털 미디어 환경의 변화 속에서 가장 중요한 것은 국민이 안전하고 신뢰할 수 있는 이용 환경을 만드는 것”이라며 “방통위는 국민 보호와 권익 증진을 최우선 과제로 삼아 AI, 디지털 플랫폼, 방송 등 모든 영역에서 국민이 체감할 수 있는 정책을 구현하겠다”고 밝혔다. 이어, “현재 위원회 공백으로 인해 정책 추진에 어려움이 있지만, 방통위는 국민 불편을 최소화하고 위원회가 재구성되는 즉시 업무를 정상화할 수 있도록 실무적 준비를 철저히 하겠다”고 덧붙였다.

2025.01.14 16:00박수형

AI 패권시대, 글로벌 3강 도약 정부전략과 실행 방안은?

정치, 산업, 학계 전문가들이 한자리에 모여 국가 인공지능(AI) 경쟁력 강화를 위한 종합적인 전략을 논의했다. 글로벌 AI 패권 경쟁에서 우위를 점하기 위해 소버린 AI 역량 확보, 데이터 관리, 제도적 기반 마련 등 다각도의 접근 방안을 모색하며 대한민국 AI 산업 발전을 위한 이정표를 제시했다. 14일 서울 여의도 국회의원회관에서 열린 '글로벌 AI 3강을 위한 AI진흥 TF 2차 간담회'에서는 대한민국의 AI 경쟁력 강화와 글로벌 AI 강국으로의 도약을 위한 다양한 정책 및 실행 방안이 논의되었다. 정동영 민주당 AI진흥 태스크포스(TF) 단장이 주최한 이번 간담회는 포함한 정치, 산업, 학계 전문가들이 참여했다. 하정우 네이버 클라우드 AI 이노베이션 센터장이 관련 내용을 발제하고 차지호 의원이 진행을 맡았다. 정동영 단장은 "영국과 프랑스는 대규모 AI 투자 전략을 발표하며 국가 지도자가 직접 AI 발전을 지휘하고 있다"며 "반면 대한민국의 국가 AI 위원장은 윤석열 대통령인데, 현재 직무가 정지된 상태"라며 국내 AI 발전의 어려움을 지적했다. 이어 "하지만 대통령이 직무를 수행하지 못한다고 해서 국가의 AI 발전이 멈출 수는 없다"며 "국가의 미래가 걸린 문제인 만큼 글로벌 AI 3강 강국으로 도약하기 위해 초당적 협력과 지속적인 투자, 그리고 강력한 리더십이 필요하다"고 강조했다. 간담회 발제를 맡은 하정우 센터장은 글로벌 AI 경쟁 상황을 분석하며, "AI 기술은 단순한 기술적 도구를 넘어 경제와 안보에 직결되는 전략 자산으로 인식되고 있다"며 "각국이 자국 내 AI 역량을 키우는 이유에 대해 "글로벌 데이터 블록화와 AI 수출 규제 등의 변화 속에서 독자적 기술 확보는 국가 생존의 문제"라고 AI의 중요성을 강조했다. 하 센터장은 "미국, 중국과 같은 국가들은 AI를 군사, 경제, 공공 분야의 핵심 기술로 활용하고 있으며, 특히 미국은 AI 모델과 인프라 수출을 제한하며 전략적 자산으로 보호하고 있다"고 글로벌 AI 현황에 대해 밝혔다. 이러한 상황 속에서 "대한민국이 AI 강국으로 자리 잡기 위해서는 데이터를 기반으로 한 소버린(Sovereign) AI 역량을 확보해야 한다"고 주장했다. 그는 소버린 AI의 중요성을 "독자적으로 AI를 개발하고 운영할 수 있는 능력"이라고 정의하며 "이것이 없다면 해외 기술 의존도가 높아지고 국가 안보와 경제 경쟁력이 약화될 수 있다"고 경고했다. 이를 위해 데이터 확보, AI 반도체, 에너지 인프라 등 AI 생태계를 구성하는 요소들을 체계적으로 발전시켜야 한다고 제안했다. 또한 대한민국은 이미 네이버, LG AI 연구원과 같은 주요 기업이 높은 수준의 AI 기술을 보유하고 있어 충분한 가능성을 가지고 있다며 국가적 투자와 지원의 필요성을 강조했다. 이에 송상훈 과기정통부 정보통신정책실장은 정부의 AI 정책 방향을 소개하며, "민간 공동출자를 통해 국가 AI 컴퓨팅 센터를 설립하고, 국산 NPU를 활용해 기술 생태계를 활성화하겠다"고 발표했다. 또한 "AI 기본법 제정과 규제 개선을 통해 AI 경쟁력 강화를 위한 제도적 기반을 마련했다"며 "이를 기반으로 국내 AI 경쟁력 확보를 위해 최선을 다해 지원하겠다"고 밝혔다. 반면 김영환 의원은 AI 발전에 따른 사회적 불평등과 윤리적 문제를 지적하기도 했다. 그는 "AI는 경제적 격차를 확대할 가능성이 있으므로 포용적이고 책임 있는 AI 정책이 필요하다"고 주장했다. 또한, 공공 데이터의 가공 및 공개를 확대해 AI 발전에 기여해야 한다고 제안했다. 이에 대해 송상훈 실장은 "디지털포용법을 통해 AI와 같은 디지털 기술에 접근성을 높이고, AI 리터러시를 강화하여 불평등 문제를 완화하는 방안을 마련하고 있다"고 답했다. 또한, 다양한 AI 안전성 및 윤리 이슈에 대응하기 위한 정부의 노력도 언급했습니다. 이와 함께 하정우 AI센터장은 "AI가 국가적 자산인 만큼 포용성을 확대하는 동시에 독자적인 기술 역량을 갖추는 것이 중요하다"고 강조하며, AI 데이터 및 인프라를 강화하고 글로벌 협력을 통해 한국형 AI 생태계를 구축해야 한다는 의견을 덧붙였다. 차지호 의원은 간담회를 마무리하며 "AI는 단순한 기술적 혁신을 넘어 사회적 변화를 주도하는 핵심 기술"이라며 "간담회에서 논의된 다양한 의견과 제안이 대한민국이 글로벌 AI 강국으로 도약하는 데 중요한 밑거름이 될 것"이라고 말했다.

2025.01.14 15:11남혁우

[AI는 지금] AI 기본법 TF 발족…"산업 진흥·규제 사이 균형 찾기 과제"

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'의 구체적인 하위법령 마련을 위해 정부가 태스크포스(TF)를 출범시킨다. 이를 통해 AI 산업 발전과 국민 안전 간 균형을 맞추고 국제 표준에도 부합하는 규제와 진흥 방안을 마련하겠다는 계획이다. 국내 업계 전반에서는 환영의 목소리를 내고 있으나 일부에서는 과연 법안이 최선의 선택이었는지에 대한 의문도 제기되고 있다. 11일 업계에 따르면 과학기술정보통신부(이하 과기정통부)는 AI 기본법 시행령 제정을 위한 산학연관 태스크포스(TF)를 이달 중 발족한다. TF에는 국가인공지능위원회 법·제도 분과위원회, 관계부처, 산업계, 학계, 연구기관 등 전문가 그룹이 폭넓게 참여할 예정이다. TF의 핵심 논의 대상은 AI 기본법에서 강조한 '고영향 AI'의 정의와 규율 방안이다. 고영향 AI는 사람의 생명·안전 및 기본권에 중대한 영향을 미칠 가능성이 있는 시스템을 의미하며 이를 구체화한 가이드라인은 올해 6월까지 마련될 계획이다. 지난해 말 국회를 통과한 AI 기본법은 AI 사업자가 고영향 AI를 제공할 경우 사전 검·인증을 받도록 권고하고 관련 제품이나 서비스 이용 시 사용자에게 미리 고지할 것을 명시하고 있다. 과기정통부는 TF 논의를 통해 가이드라인 수립 과정에서 기업과 이용자의 의견을 적극 수렴하겠다며 AI 기술 발전과 법제의 조화를 추구하고 국제 표준과도 부합하는 규제 체계를 마련할 계획이라고 밝혔다. 이 같은 움직임에 국내 AI 업계는 기대감을 드러내고 있다. 그간 법률 공백으로 인해 생성형 AI나 빅데이터 서비스 등 신기술을 준비하는 기업들은 명확한 규제·지원 체계를 파악하기 어려웠고 투자자들도 법적 리스크를 우려해 선뜻 자금 투입을 결정하기 쉽지 않았다는 게 업계의 설명이다. 한 AI 업계 관계자 A씨는 "AI 산업에 대한 명확한 기준과 지원 방안을 담은 법안이 생겨 불확실성이 줄어들 것으로 보인다"며 "정부가 업계 이슈를 정리하고 방향을 제시해준다는 사실만으로도 큰 도움이 될 것"이라고 전했다. 다만 이러한 산업 현장의 기대는 그동안 규제가 부재했던 상황에서 비롯된 불확실성이 컸기 때문이라는 분석도 있다. 명확한 법적 기준이 없던 시기에는 각기 다른 해석과 더불어 정부의 입장을 지나치게 의식해야 하는 어려움이 있어왔다는 설명이다. 실제로 해외 업계에서는 사뭇 다른 의견이 나온다. 글로벌 테크기업 관계자 S씨는 "법안 통과 당시 해외 언론은 EU에 이어 한국이 두 번째로 AI '규제'를 통과시켰다고 보도하며 국내 AI 기술 발전을 저해할 소지가 있는지를 염려하는 분위기였다"며 "'가이드라인'이나 '행정명령' 같은 탄력적 방안이 더 효과적이지 않았을지 의문이 든다"고 덧붙였다. 현재 국가 차원에서 AI를 법률로 직접 규제한 사례는 한국이 EU에 이어 두 번째로 꼽힌다. EU는 지난해 3월 세계 최초의 포괄적 AI 규제인 'AI법'을 가결해 내년 8월 전면 시행할 예정이다. 이와 반대로 미국의 경우에는 연방 차원의 AI 관련 법안이 없으며 지난 2023년 발표된 AI 행정명령도 연방기관 지침 수준이어서 민간에 대한 처벌 조항은 포함되지 않았다. 일본 역시 가이드라인 중심의 '소프트 로(soft law)' 접근 방식을 채택하고 있다. 그럼에도 국내 업계는 이미 통과된 AI 기본법을 기반으로 산업 발전을 위한 구체적인 세부안 마련에 기대감을 표하고 있다. 한 업계 관계자는 "기본법이 국회를 통과한 만큼 이제는 산업 성장에 실질적으로 기여할 수 있는 구체적 안들이 발전하길 희망한다"며 "정부와 업계의 지속적인 협력을 통해 AI 생태계를 더욱 활성화할 수 있길 바란다"고 강조했다.

2025.01.11 14:30조이환

고려대 법학전문대학원, 데이터·AI법 전문과정 개설

고려대학교 데이터인공지능법 연구센터가 3기 '데이터 인공지능법 전문과정'을 개설한다고 7일 밝혔다. 고려대 법학전문대학원은 변호사 양성의 로스쿨 교육 외에 현대의 전문적인 다양한 주제에 대해 공개강좌(ESEL)를 운영해 관련 분야 종사자들을 재교육하고 있다. 이에 따라 개설된 전문과정이다. 디지털 기술 혁신으로 인해 데이터의 사회적 산업적 가치가 제 분야에서 인정되고 있으며 생성형 인공지능, 디지털 플랫폼 등 데이터의 활용에 따른 다양한 법적 사회적 문제가 전세계적으로 제기되고 있다. 특히 생성형 인공지능 기술은 기업과 개인에게 일상화가 이뤄지고 있으며 이에 따른 법적, 정책적 논의가 본격화되고 있다. 데이터 인공지능법 전문과정은 디지털 대전환에서 비롯하는 복잡다기한 법적 과제와 문제에 대해 강의 및 토론하는 강좌를 제공한다. 국가와 공공기관, 로펌, 사기업체 등 사회 각 분야에서 데이터와 인공지능 등에 관한 업무를 담당하는 공무원, 공공기관 및 사기업의 임직원, 변호사 등이 대상이다. 국내 최고의 데이터, 인공지능 전문가들이 강사진으로 참여하며 2기와 마찬가지로 1년 과정으로 개설돼 내실 있는 교과과정 운영과 원우 간 교류의 기회를 확대할 계획이다. 4월부터 11월까지 19주 35개 강좌와 워크샵, 공개세미나로 구성될 예정이다. 이 과정을 수료하는 경우 고려대 총장 명의의 수료증이 수여되고 고려대 총교우회 정회원 자격도 부여된다. 이성엽 주임 교수는 “지난해 12월 한국이 EU에 이어 세계 2번째로 인공지능기본법을 통과시켰고 1년 뒤 시행을 앞둔 상황에서 국내외 AI, 데이터법의 쟁점에 대한 강의와 토론을 통해 하위 법령 제정이나 기업의 인공지능법 대응에 도움을 줄 것으로 기대한다”고 말했다. 원서접수는 2월1일부터 2월28일까지다.

2025.01.07 13:46박수형

고동진 의원, 특별비자법 국회 제출..."반도체·AI 등 해외 S급 인력 유치해야"

국회 산업통상자원중소벤처기업위원회 소속 고동진 국회의원은 AI기술 분야와 반도체, 소프트웨어, 디스플레이, 바이오, 이차전지, 배터리 등 첨단전략산업의 해외 고급인재 유치를 위한 특별비자법(출입국관리법 개정안)을 국회에 제출했다고 7일 밝혔다. 최근 생성형 AI의 발전과 함께 AI 기술 인재확보 국가가 세계 경제를 주도하게 되면서 세계는 AI 패권 확보 및 관련 우수 인재 유치에 사활을 걸고 있고, 반도체, 소프트웨어, 디스플레이, 바이오, 이차전지, 배터리 등 첨단산업 분야의 기업 및 산업계에서는 해외의 고급 기술전문가 영입 및 유치를 강력히 희망하고 있다. 하지만 국내 인구 대비 해외전문인력 비중(0.09%)은 싱가포르(6.6%), 호주(0.3%), 일본(0.3%), EU(0.2%), 대만(0.2%) 등 해외 사례 대비 최저 수준이며, 국내의 해외인재 유입 매력도 순위(2020년 36위 → 2023년 43위)는 계속 낮아지고 있는 실정이다. 이런 상황에서, 미국, 영국, 호주, 대만, 싱가포르, 일본 등 세계 각국은 인공지능 기술과 첨단산업의 고급인재 유치를 위해 사증 발급 기준을 완화하는 동시에 절차를 간소화하는 정책을 본격 추진하고 있다. 이에 고동진 의원은 우리나라도 해외 고급인재 유치를 위해 법무부장관이 관계 중앙행정기관 및 지방자치단체와 협의해 대통령령이 정하는 기준과 절차 등에 따라 특별사증을 발급할 수 있도록 해, 사증 발급 기준과 절차를 완화 및 간소화하도록 하는 '출입국관리법 개정안'을 대표발의했다. 고 의원은 “현재 전세계의 주요 경쟁국들은 S급 첨단산업 인재 유치를 위해 사활을 걸고 경쟁을 하고 있는데, 우리나라의 경우는 현재까지 국내 양성 위주에 그쳤던 바 해외 인재 유치 노력은 상대적으로 부족했다”며 “해외 고급인재 유치 특별비자법을 시급히 통과시켜 대한민국의 혁신적인 산업 발전과 기술 개발을 이뤄내야 한다”고 강조했다.

2025.01.07 08:44장경윤

오픈AI, 영리법인 전환 '공식화'…경쟁사·전직원·시민단체 '반발'

오픈AI가 공익법인(PBC)으로의 전환을 공식화하며 영리 구조로의 전환을 본격 추진하고 있다. 이를 통해 대규모 자본 유치를 가능케 해 일반인공지능(AGI) 개발을 가속화한다는 계획이다. 30일 테크크런치 등 외신에 따르면 오픈AI는 기존 영리 자회사를 공익법인(PBC)으로 전환하고 비영리 조직의 자회사 통제권을 철회하겠다고 지난 27일 밝혔다. 이러한 변화는 새로운 조직 구조가 투자자들에게 더 나은 조건을 제공할 것이라는 판단에 따른 것이다. 오픈AI는 지난 2015년 '모두를 위한 AI'라는 설립 취지 아래 비영리 조직으로 설립됐다. 다만 지난 2019년 이후로는 연구 비용 문제로 인해 비영리 이사회가 통제하는 영리 자회사를 설립한 후 AI 개발을 진행해 왔다. 그럼에도 불구하고 기하급수적으로 증가하는 AI 개발 비용을 충당하기 위해 지난 9월부터는 비영리 조직에 공익법인의 통제권이 주어지지 않는 새로운 구조로 전환할 계획을 세운 것으로 알려졌다. 새로운 구조에서는 기존 투자 유치 시 적용됐던 수익 상한제가 철폐될 방침으로, 이에 따라 투자자 수익이 증가하고 보다 많은 자본을 유치하기가 용이해질 전망이다. 다만 완전 영리화 우려를 불식시키기 위해 비영리 조직이 공익법인(PBC)의 주식을 상당수 보유하게 할 예정이다. 구조 변경 과정에서 오픈AI의 최대 투자자인 마이크로소프트(MS)와의 이해관계도 주목된다. 양측은 이번 전환이 완료되면 마이크로소프트가 오픈AI의 지분을 얼마나 보유할지를 결정할 방안을 모색 중인 것으로 알려졌다. 경쟁 기업들과 동등한 조건에서 투자 유치 경쟁에 나서기 위한 것도 이번 전환의 주요 이유 중 하나다. 경쟁사인 xAI와 앤트로픽 등이 최근 대규모 투자 유치를 성공적으로 이루고 있는 AI 시장 상황을 반영한 결정이라는 설명이다. 오픈AI의 전환 계획에 대해 회사의 일부 전직원들은 안전성보다 상업성을 우선시하는 조직 문화에 대한 우려를 제기하고 있다. 전 연구원이었던 캐롤 웨인라이트는 오픈AI가 "비영리로 설립됐지만 영리 기업처럼 행동한다"고 비판했다. 또 지난 10월 회사를 떠난 마일스 브런디지는 새로운 구조가 비영리 조직이 형식적인 역할만 할 수 있게 될 가능성을 경고했다. 그는 "현재 회사 거버넌스에 세부사항에 대한 논의가 놀라울 정도로 부족하다"며 "공익법인의 운영이 기존 비영리 사명과 일치하리라는 보장은 없다"고 지적했다. 오픈AI의 전환 계획에 대해 경쟁사들도 반발하고 있다. 일론 머스크가 창립한 xAI는 오픈AI가 경쟁사를 배제하고 시장 점유율 확대를 시도하고 있다며 이달 초 영리 기업 전환을 막아달라는 가처분 신청을 법원에 제기했다. 메타 역시 캘리포니아 법무장관에게 오픈AI의 영리화가 실리콘밸리 전체에 '지각 변동'을 초래할 것이라고 경고했다. 메타 관계자는 공식 서한을 통해 "오픈AI의 새 비즈니스 모델은 비영리 투자자가 정부의 세제 혜택을 받으며 영리 기업 수준의 수익을 얻을 수 있는 구조"라고 비판했다. 시민단체 역시 비판행렬에 가세했다. AI 정책 관련 시민단체인 엔코드는 오픈AI의 영리법인 전환이 공익성을 약화시킬 것이라고 주장했다. 소수의 투자자들을 위한 이익을 창출하는 조직이 AGI를 개발할 기술을 통제해서는 안된다는 주장이다. 엔코드 소속 변호사들은 "오픈AI의 운영 통제권이 공익법인으로 넘어갈 경우 첨단 AI 안전성을 보장하는 데 법적 책임을 지던 조직이 이제 주주의 이익을 고려해야 하는 조직으로 변하게 될 것"이라고 주장했다.

2024.12.30 09:45조이환

AI기본법 통과…업계 환영 속 '기대·우려' 교차

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'이 국회 본회의를 통과해 국내 AI 산업 전반에 대한 제도적 틀이 최초로 마련됐다. 업계와 시민사회는 전반적으로 이를 환영하면서도 법 적용 범위, 속도, 구체적인 지원·규제 수단 등에 대해서는 다양한 견해를 내놓고 있다. 27일 업계에 따르면 대한민국 국회가 지난 26일 AI기본법을 통과시킴으로서 한국은 유럽연합(EU)에 이어 세계에서 두 번째로 AI 산업 전반을 포괄하는 기본법을 갖추게 됐다. 정부는 이번 법 제정을 통해 AI 산업을 활성화하면서도 윤리·안전 문제에 대한 대응 시스템을 확립할 수 있을 것으로 기대하고 있다. 이 법에는 과학기술정보통신부(과기정통부)가 정기적으로 'AI 기본계획'을 수립하고 대통령 직속 국가인공지능위원회를 컨트롤타워로 둬 산업 육성과 윤리적 기준을 함께 조율하도록 하는 내용이 담겼다. 또 사람의 생명·안전·기본권에 중대한 영향을 미칠 수 있는 '고영향 AI'를 별도로 분류해 정부가 대상과 범위를 정하는 조항도 포함됐다. 업계와 시민사회는 대체로 AI기본법이 가져올 긍정적 효과에 주목하고 있다. 업계 관계자 A씨는 "AI 산업에 대한 명확한 기준과 지원 방안을 담은 법안이 생겨서 불확실성이 어느 정도 해소될 것 같다"며 "정부 차원에서 업계 이슈를 정리하고 방향을 제시해 준다는 사실만으로도 큰 도움이 될 것"이라고 호평했다. 실제로 기존 AI 업계에서는 법률 공백으로 인한 혼란이 적지 않았다는 반응이다. 생성형 AI나 빅데이터 기반 서비스를 준비하는 기업들이 어떤 규제와 지원을 받을 수 있는지 제대로 파악하기 어려웠고 투자자들도 법적 리스크 때문에 선뜻 자금을 투입하기 망설였기 때문이다. IT 업계 관계자 B씨는 "AI 기술을 활용한 다양한 비즈니스가 만들어지고 있음에도 이와 관련된 법이나 제도가 없어서 답답했다"며 "AI 기본법이 초석이 돼 불확실성이 해소되고 기업이 연구와 비즈니스에만 집중할 수 있게 되길 기대한다"고 말했다. 시민사회 역시 전반적으로 법 제정을 환영한다. 산업과 기술의 진흥 뿐만 아니라 윤리와 안전의 대응이라는 가장 중요한 두 핵심을 모두 고루 다룬 법안이라는 평가다. 특히 내년부터는 AI 에이전트 등 기술에 자율성을 부여하는 상황이 발생할 예정으로, 기본법을 통해 이러한 상황에 대처할 수 있게 될 것을 기대한다. 전창배 국제인공지능윤리협회(IAAE) 이사장은 "이제 우리나라가 글로벌 AI 이니셔티브를 선도할 수 있는 발판을 갖추게 됐다"며 "내년부터는 산학연관과 민간 등 모든 주체가 적극 힘을 합쳐 국내 AI가 글로벌 탑티어로 발돋움 할 수 있는 원년이 되도록 해야 할 것"이라고 강조했다. 이러한 긍정적 평가에도 불구하고 법 제정 속도와 적용 범위에 대한 우려도 제기되고 있다. 특히 AI기본법이 산업 진흥과 윤리·안전 두 측면을 모두 포괄한 만큼 이 둘 사이의 균형이 적절한지에 대한 비판적인 목소리가 나오고 있다. 김상배 정보세계정치학회(KAWPI) 회장 겸 서울대학교 정치외교학부 교수는 "법이 만들어지는 것 자체는 좋은 신호지만 전체적으로 규제 톤이 강해 보이는 면이 있다"며 "유럽 사례를 많이 참고한 것으로 보이는데 미국처럼 규제를 완화해 기술 혁신을 촉진하는 모델도 함께 고려해야 한다"고 말했다. 김 교수의 의견은 AI 패권 경쟁이 격화되고 있는 국제적 환경에서 비롯된다. 미·중 간 치열한 기술경쟁 구도 속에서 법이 지나치게 앞서거나 과도하게 규제 중심으로 설계될 경우 오히려 혁신의 싹을 잘라버릴 위험이 있다는 것이다. 그는 산업을 적극적으로 육성하는 방향을 강조하며 AI 산업의 급속한 변화 속도를 감안해 법 시행령과 구체적인 규정을 업계 상황에 맞게 유연하게 조정할 필요가 있다고 설명했다. 이와 반대로 AI 윤리와 안전의 중요성을 강조하는 의견도 많다. 변순용 서울교육대학교 AI윤리인증교육연구센터장은 법안이 우선 제정된 점에 대해 긍정적으로 평가하면서도 윤리와 안전 측면에서의 세부적인 고려가 부족하다는 점을 지적했다. 특히 AI가 사회 곳곳에서 활용되는 속도가 상상을 초월하고 있는 만큼 산업 진흥에만 초점을 맞출 경우 시민들의 안전과 기본권이 충분히 보호되지 못할 수 있다는 지적이다. 변 교수는 "법에서 정의한 '고영향 AI'의 범위가 다소 추상적"이라며 "인간의 판단을 대체하거나 결정에 깊이 관여하는 AI 시스템일수록 보다 엄격한 윤리 기준이 마련돼야 한다"고 강조했다.

2024.12.27 11:13조이환

Prev 1 2 3 4 5 6 7 Next