ZDNet 검색 페이지

'EU AI법'통합검색 결과 입니다. (10건)

[기고] EU 데이터법과 인공지능 산업의 발전 방향

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 유럽연합(EU)이 제정하고 실행해 전 세계에 영향을 미치고 있는 많은 법령들이 있다. 개인정보에 관한 강한 보호와 규제를 천명한 일반정보보호규정(GDPR)이 그러하다. 전 세계에서 최초로 입안해 시행했지만 여전히 많은 논란이 제기되고 있는 EU 인공지능(AI)법 역시 전 세계 국가들로부터 반향을 불러일으키고 있다. EU가 이미 관련 법을 제정하고 시행하고 있는 상황에서 우리나라 역시 이에 대한 입법 논의가 이루어지지 않는다면 입법부가 책임을 다하지 않는 것처럼 보일 수 있다. 입법기관 구성원들 역시 마치 아무 일도 하지 않는 사람처럼 비칠 수 있어 무엇이든 조치를 취해야 한다는 압박감을 느낄지도 모른다. 근래의 EU 법안 패키지들 중 시행을 앞두고 있지만 국내에 잘 알려지지 않은 법이 있다. 법의 정식 명칭은 '데이터의 공정한 접근 및 사용에 관한 조화로운 규칙에 관한 규정'이고 줄여서는 EU 데이터법(EU Data Act)라고 부른다. 이 법은 지난해 1월에 제정이 됐고 이로부터 20개월 이후인 올해 9월부터 단계적 시행을 앞두고 있으니 사실 그 시행이 얼마 남지 않은 법이다. 이 법은 EU 내 커넥티드 제품 및 관련 서비스 사용 과정에서 생성되거나 제공되는 정보에 대해 적용된다고 한다. 이용자가 사용하는 것과 관련한 데이터, 이용자의 사용 환경과 관련한 데이터를 수집 및 생성한다. 또 그 정보가 전달할 수 있는 제품의 경우에는 기본적으로 이 법이 적용이 된다. 대부분의 법이 그러하듯 정의 조항을 읽어 봐도 그 내용이 무엇인지를 정확하기 이해하기 어려운 것은 이 법도 마찬가지다. 소위 얘기하는 커넥티드카, 건강 모니터링 기기, 스마트 홈 기기, 스마트폰 등이 이 법의 적용대상이 됨에는 별다른 의문이 없다. 이와 유사하게 서버와 이용자 기기 사이에서 데이터의 교환이 이루어지는 제품과 관련 서비스에 대해서는 모두 적용되므로 그 적용범위가 매우 넓다고 할 수 있다. 이 법은 커넥티드 제품 제조자에게 데이터 접근 중심의 설계를 의무화하고 사용자에게 데이터 제공 관련 정보를 명확하고 이해하기 쉬운 방식으로 안내할 책임을 부과하고 있다. 또 사용자의 요청이 있을 경우 제품이나 관련 서비스에서 생성된 데이터에 대한 접근 권한을 사용자에게 제공해야 하며 데이터 보유자는 사용자가 지정한 제3자와 해당 데이터를 공유할 수 있도록 해야 한다. 이 법은 의무사항을 위반한 경우 제재 수단에 대해 구체적으로 규정하고 있지는 않다. 어쩌면 이 법이 큰 주목을 받지 못하는 것은 이처럼 제재수단에 대해 법 자체에서 규정하고 있지 않기 때문일지도 모르겠다. 그럼에도 불구하고 이 법은 각 회원국에 대해 데이터법 위반자에게 부과할 과징금을 EU 내 연간 매출액 등 여러 요소를 고려해 산정하도록 하는 의무를 부여하고 있다. 이에 따라 이 법을 위반할 경우 매출액을 기준으로 한 과징금이 부과될 것이라는 점에는 큰 의문이 없다. EU 데이터법은 개인정보를 포함한 데이터의 유통을 규율하는 법률인 만큼, 개인정보 유통을 다루는 GDPR과 유사한 규정들이 일부 포함돼 있다. 글로벌 서비스를 제공하는 기업의 입장에서는 GDPR 사례에서처럼 어차피 EU 내 규제를 준수해야 하므로, 커넥티드 제품의 데이터 처리와 관련해서도 EU 데이터법 기준에 맞추어 전 세계 서비스를 동일한 수준으로 확장할 가능성이 충분하다. 과거에는 이용자로부터 수집됐지만 개인정보에 해당하지 않는 데이터의 처리는 이른바 익명정보의 영역으로 간주돼 GDPR의 적용을 받지 않았다. 또 해당 데이터가 저작권법의 보호 대상이거나 그 처리 행위가 부정경쟁행위에 해당하지 않는 이상 별다른 규제가 존재하지 않았다고 볼 수 있다. 반대로 곧 시행되는 EU 데이터법은 데이터의 수집 및 제공에 일정한 의무를 부과함으로써 이제는 이용자로부터 수집하는 데이터에 대해서도 일정한 책임과 준수해야 할 요건이 발생한다는 점을 인식할 필요가 있다. 이에 따라 기존과는 다른 관점에서 데이터 활용에 대한 발상의 전환이 요구된다. AI 산업과 관련해서도 마찬기지이다. EU 이용자로부터 커넥티드 제품을 이용해 데이터를 수집하는 경우에는 비록 개인정보가 아니라 하더라도 EU 데이터법 준수를 항상 명심해야 한다. 이용자로부터 수집한 데이터를 인공지능 서비스 개발을 위한 학습용 데이터로 사용하고자 하는 경우에도 해당 법의 준수를 미리 유의해야 한다. AI 서비스 간의 경쟁이 점점 더 치열해지고 있다. 단순히 산업 내의 문제가 아니라 국가의 생존을 위한 기술패권 다툼의 영역이 되어 가고 있는 상황이다. 이러한 상황에서 EU데이터 법의 제정과 시행이 EU 역내 국가의 경쟁력과 글로벌 시장에 어떠한 영향을 미칠지는 아직 판단하기는 어렵지만 AI를 비롯해 데이터 관련 산업의 경쟁력에 상당한 파급력을 가지게 될 것이다. 산업 보호를 명분으로 제정된 많은 법들이 오히려 기존 사업자들보다 새롭게 시장에 진입하려는 스타트업이나 신생 기업들에게 더 무겁게 작용하는 모습을 우리는 여러 차례 목격해왔다. 우리나라는 적어도 법제 측면에서는 '패스트 팔로워'를 넘어 '퍼스트 무버'로서의 입지를 점차 구축해가고 있으며 실제로 EU 데이터법과 유사한 법제를 이미 보유하고 있다. 이에 따라 산업의 보호와 발전이라는 관점에서 보다 심도 있는 논의가 이루어지고 전략적인 입법 방향이 마련되기를 기대한다.

2025.04.01 15:22법무법인 태평양 강태욱

EU, AI법 위반시 최대 '매출 7% 벌금'...기업들 비상

가트너(Gartner)가 발표한 'EU AI법 준비를 위한 1단계: 발견과 목록화' 보고서에 따르면, 2024년 말부터 단계적으로 시행되는 EU AI법이 기업들에게 막대한 재정적 리스크를 안길 것으로 전망된다. EU AI법의 단계별 시행 일정 공개 EU AI법은 2025년 2월부터 단계적으로 시행된다. 첫 단계로 2025년 2월부터 금지된 AI 시스템에 대한 규제가 시작되며, 2025년 8월부터는 범용 AI와 처벌 규정이 적용된다. 2026년 8월에는 대부분의 규정이 시행되고, 최종적으로 2027년 8월에는 Article 6.1과 Annex II에 해당하는 규정이 시행된다. 이러한 단계적 접근은 기업들이 충분한 준비 기간을 가질 수 있도록 설계되었다. AI 위험도별 규제 체계 상세 공개 EU AI법은 AI 시스템을 위험도에 따라 세 가지 범주로 분류한다. '금지된 AI'는 사용자의 자유의지를 침해하거나 '사회적 점수 매기기'에 사용되는 시스템으로, 법 집행 목적 등 극히 제한적인 예외를 제외하고는 전면 금지된다. '고위험 AI'는 인간에게 영향을 미치는 대부분의 AI 기술이 해당되며, 엄격한 요구사항을 준수해야 한다. '저위험 AI'는 AI 기반 추천 시스템이나 스팸 및 바이러스 필터 등이 포함되며, 재고 관리나 문서화 등 비교적 가벼운 요구사항이 적용된다. AI 도입 유형 분류와 대응 전략 가트너는 기업의 AI 도입을 네 가지 유형으로 분류했다. 첫째는 '와일드 AI'로, 직원들이 업무를 위해 공개된 AI 도구를 사용하는 경우다. 둘째는 '임베디드 AI'로, 기업이 사용하는 솔루션에 내장된 AI 기능을 의미한다. 셋째는 '하이브리드 AI'로, 기성 AI 모델과 기업 데이터를 결합한 형태이며, 마지막으로 '인하우스 AI'는 기업이 자체적으로 개발한 AI 시스템을 말한다. EU AI법의 추가 규제 요구사항 EU AI법은 특정 AI 기반 애플리케이션에 대해 위험성 평가, 투명성 의무, EU 전역 데이터베이스 등록을 요구한다. 특히 시스템적 위험을 수반하는 최고 성능의 범용 AI에는 추가적인 의무 요구사항이 적용된다. 기업들은 이러한 요구사항을 준수하기 위해 자사의 AI 시스템을 철저히 점검하고 필요한 조치를 취해야 한다. 기업의 실질적 대응 방안 가트너는 기업의 효과적인 AI 시스템 관리를 위해 구체적인 실행 방안을 제시했다. 우선 기업 아키텍처, 제3자 리스크 관리, 변경 관리, 조달 프로세스를 적절히 수정하여 새로운 AI 기능과 서비스의 도입을 지속적으로 모니터링해야 한다. 완벽한 발견보다는 점진적인 진행이 중요하며, 일반개인정보보호법(GDPR) 준수를 위해 작성된 처리활동기록(RoPA)과 개인정보영향평가(PIA)를 활용하면 발견 및 목록화 과정을 상당히 단축할 수 있다. AI 시스템 카탈로그화를 위한 구체적 행동 지침 기업들은 각 AI 시스템에 대해 상세한 정보를 수집하고 문서화해야 한다. 시스템명, 처리하는 개인정보의 종류(특히 인종, 민족, 정치적 성향, 성별, 성적 지향, 종교적 신념, 노조 가입 여부, 유전자, 생체인식, 건강 데이터 등 민감정보), 처리 목적, 관련 업무 프로세스, 벤더 정보, 개인정보 처리의 법적 근거 등을 포함해야 한다. 가트너는 데이터 중심의 접근을 권장하며, 특히 민감한 개인정보를 처리하는 인사나 마케팅 부서의 AI 시스템을 우선적으로 점검할 것을 조언했다. EU 법률 체계와의 연관성 EU AI법은 기존의 다양한 EU 법률과 연계돼 있다. 기계류 지침, 장난감 안전 지침, 의료기기 규정, 민간항공보안 규정 등 17개 이상의 EU 법률이 AI법과 직접적으로 연관되어 있다. 이러한 기존 EU 법률의 적용을 받는 AI 시스템은 대부분 고위험 AI로 분류될 가능성이 높다. 따라서 기업들은 자사의 AI 시스템이 이러한 법률과 관련이 있는지 세심하게 검토해야 한다. ■ 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.

2025.01.18 17:28AI 에디터

"삼성과 AI 격차 더 벌어지나"…애플, EU AI법 '자발적 준수 협약' 불참할까

애플이 삼성전자와 구글, 아마존 등이 동참키로 한 유럽연합(EU)의 인공지능(AI)법 준수를 위한 '자발적 협약'에 참여할 지 관심이 쏠린다. 애플은 아직 동참 의사를 밝히지 않은 상태로, 최근 EU 집행위와 경쟁법 위반 등으로 갈등을 빚고 있기 때문이란 분석이 나온다. 22일 업계에 따르면 삼성전자는 다음주께 공식화하는 EU 집행위원회 주도 'AI 협약(AI Pact)'에 참여한다. 이번 협약식은 참여 기업 관계자들이 참석한 가운데 오는 25일 벨기에 브뤼셀 집행위 본부에서 열린다. AI 협약은 업계가 EU의 'AI 법'이 본격 시행되기 전 유예기간에도 안전하고 투명한 AI 사용을 위해 노력하겠다는 자발적 서약이다. EU의 AI법은 세계 최초의 포괄적 AI 규제로, AI 기술을 접목한 제품이 EU 시장에 출시되는 과정에 적용되는 규칙이다. 집행위는 AI법이 지난 8월 발효됐지만 고위험 AI 규제 등 대부분 규정이 전면 시행되기까지는 시간이 걸릴 것으로 보여 그간 기업들을 대상으로 협약 참여를 독려해왔다. 현재까지 참여 의사를 밝힌 곳은 삼성전자 외에 구글, 아마존, 마이크로소프트(MS) 등 100여 개 IT 업체인 것으로 알려졌다. 반면 최근 EU 규제당국과 각을 세우고 있는 애플은 여전히 동참 의사를 밝히지 않았다. EU 집행위가 올 초 발효된 유럽 디지털시장법(DMA) 상 명시된 '상호운용성'을 지키기 위해 애플의 핵심 전략인 '폐쇄적 생태계'를 개방하라고 연일 압박하고 있는 것이 영향을 준 것으로 분석된다. 집행위는 최근 아이폰에서 삼성전자 갤럭시워치 등 타사 스마트 기기와 연결성을 높이지 않으면 천문학적 벌금을 물리겠다고 경고한 바 있다. AI 협약에 따르면 참여 기업은 '고위험' AI 기술로 분류될 만한 자사 시스템을 사전 점검한다. 또 AI법 준수를 위한 조직 내 AI 거버넌스 전략 수립 등이 요구되며 12개월 뒤 집행위에 진행 경과를 공유해야 한다. EU의 AI법은 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 4단계로 나눠 차등 규제가 이뤄진다. 우선 인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 원천 금지된다. 또 챗GPT를 비롯한 범용 AI(AGI)에 대해서는 AI 학습과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무도 주어진다. 일부 규정부터 순차 적용되며 2026년 8월부터 전면 시행된다. AI 기술 관련 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5%를, 의무 규정 위반 시 3%의 과징금이 각각 부과될 수 있다. 업계에선 이번 일로 삼성전자가 일종의 'AI법 적응 기간'을 가질 수 있게 됐다는 점에서 적절한 결정이라고 평가했다. 업계 관계자는 "삼성전자는 주요 제품에 AI 기술을 광범위하게 활용하고 있다"며 "이번 협약 동참을 통해 EU에 법 준수 의지를 부각하는 전략적 효과도 어느 정도 누릴 수 있을 것으로 보인다"고 봤다.

2024.09.22 18:14장유미

[현장] "챗GPT 시대 맞는 AI법 필요"…국회, AI 규제 관련 논의

"지난 21대 국회에서 인공지능(AI) 법을 만들려고 했으나 법제화의 현실이 챗GPT 이전 수준에 머물러 있었습니다. 생성형AI가 나오고 있는 상황에서 알파고 입장에서 법제를 만들면 안되잖아요. 탄탄한 토대 하에 법을 만들기 위해 이번 간담회를 열었습니다." 더불어민주당 조승래 국회의원은 4일 국회 제4간담회실에서 '인공지능(AI)과 디지털 전환(DX)의 미래 정책 방향' 간담회에서 제대로 된 AI 기본법이 필요하다고 말했다. 이번 간담회에서는 AI 기술 확산에 따른 사회경제적 영향과 AI 법제화의 방향에 대해 발표가 이뤄졌다. 조 의원은 "AI는 몇 년 전부터 깊숙하게 들어와 있는 주제지만 국회의 시각은 알파고에 멈춰 있는 것 아닌가라는 의문 들었다"라며 "기술이 합의보다 먼저 가버리는 시기지만 합의가 먼저 이뤄지지 않으면 자칫 속박으로 작용할 수도 있다"고 우려했다. 한국지능정보사회진흥원(NIA) 이용진 AI 정책 본부장은 "과기정통부에 따르면 AI가 성공적으로 도입될 경우 연간 300조원 이상의 경제 효과가 있다"며 "2026년까지 123조원에 가까운 매출 증가와 약 187조원의 비용 절감 효과가 있을 수 있다"고 강조했다. 특히 제조업에선 약 24조원의 매출 상승, 54조원의 비용 절감 효과가 있을 수 있을 수 있다며 산업별로 허들을 정확히 파악해 규제를 만드는 것이 매우 중요하다고 덧붙였다. 이번 간담회는 과학기술정보통신부 후원으로 조 의원과 국민의힘 최형두 국회의원을 포함해 박영선 전 중소벤처기업부 장관, 과기정통부 류제명 네트워크정책실장, 조국혁신당 강경숙 국회의원 등이 참석했다. 이어진 발표에서 법무법인 광장 고환경 변호사는 일본, 미국에 비해 한국은 내세울 수 있는 AI 기술 기업이나 유니콘 기업이 없는 것이 현실이라며 학습데이터나 관리 체계 투자 측면에서 한국이 약점을 갖고 있다고 말했다. 고 변호사는 "AI 기술에 대해서는 대규모 자본 투자가 불가피하기 때문에 규제 불확실성을 빨리 해결해줘야 한다"며 "AI 안전연구소 설치와 관련해서도 실증적 테스트를 통해서 위험에 대해 어느 정도 대처해야 하는지 연구가 적극적으로 이뤄져야 할 필요가 있다"고 언급했다. 고 변호사는 거버넌스를 통해 일관된 정책과 AI와 관련한 최소한도의 예측 가능성을 제시하는 것이 필요하다며 자율규제 방안 마련을 중심으로 최소한의 규제만을 담은 입법 검토가 절실하다고 발언했다. 고 변호사는 앤드류 응 교수의 발언을 인용해 "EU AI 법은 제대로 존재한 적 없는 AI 리스크에 대한 강도 높은 규제를 표하고 있다"며 "이는 시장 뿐 아니라 규제 실패까지도 우려되는 상황"이라고 비판했다. 이어 "EU AI 법의 과징금 부담이 매우 크기 때문에 애플, 메타 등 빅테크가 AI 서비스 출시를 보류했다"며 "소비자들의 AI 서비스가 크게 제한될 조짐이 있다"고 아쉬움을 표했다. 이어진 토론에서 법무법인 세종 장준영 AI 센터장은 "규제적 측면에선 유럽을 참고하고 기술적 측면에선 미국을 참고할 필요가 있다"며 "우리나라는 유럽과 미국 사이에서 어떤 스탠스를 취해야 하는지 균형점을 잘 도출해야 한다"고 강조했다. 또 "AI는 정보처리 기술이 발전해 오며 나타난 데이터 처리 기술의 화룡점정"이라며 "해외의 AI 법을 참고하는 것도 좋지만 우리나라에서 여태 동안 해왔던 데이터 활성화 관련 법안들을 계승하는 AI 기본법이 만들어지길 바란다"고 기대했다. 류 실장은 "지난 3일 과방위에서 늦더라도 AI 기본법 관련해서 제대로 된 논의와 공청회를 한 번 거치고 가면 좋겠다는 의견이 있었다"며 "정책들이 추진되고 예산이 투입되려면 법적 근거가 필요한 만큼 국회가 신뢰할 수 있는 AI를 만들기 위한 법적 근거를 신속히 만들어 주길 바란다"고 말했다.

2024.09.04 16:50양정민

[현장] EU AI법 발효… AI 전문 변호사 "투명성이 가장 중요"

"유럽 연합(EU) 인공지능(AI) 법은 적용 범위가 굉장히 넓습니다. 국내에서 출시 되는 AI 서비스여도 EU 시민을 상대로 하면 국가·주소지 관계 없이 법이 준수돼야 하죠. EU AI 법을 명확히 알아야 하는 이유 중 하나입니다." 지난 2일부로 EU AI 법이 발효된 가운데, AI를 주로 다루는 법조 전문가가 EU AI 법에 대한 의견을 밝혔다. 법무법인 원 고인선 변호사는 7일 서울 강남에서 열린 트레인 코리아 주최 '비어 트레인' 세미나에서 '법에서 요구하는 AI 투명성이란 무엇인가?'라는 주제로 발표를 진행했다. 고 변호사는 "AI 산출물이 EU에서 사용되기만 해도 법이 적용된다"며 "당장 금지된 인공지능 관련 조항은 내년 2월부터 시행되기 때문에 관련 종사자들은 법안을 살펴볼 필요가 있다"고 언급했다. 고 변호사는 EU AI 법에서 중요하게 들여다봐야 하는 건 AI 투명성 개념이라고 강조했다. 출시가 될 수 없는 절대적 금지 AI와 달리 고위험 AI와 제한적 AI에 주로 적용되기 때문이다. AI 투명성이란 명확한 데이터 사용 정책을 수립하고 시스템이 왜 그러한 추천을 제공하는지 공개해야 하는 개념이다. 그는 "AI 투명성 개념에서 중요한 건 '추적 가능성'과 '설명 가능성'이다"라며 "AI가 할 수 있는 것과 없는 것에 대한 고지가 충분히 돼야 하고 영향을 받는 인간에 대한 권리 고지도 필요하다"고 강조했다. 고 변호사는 고위험 AI 시스템에 대한 투명성 의무에 대해 ▲설계 및 개발 ▲사용 설명서 첨부 ▲기술문서 관리 ▲로그 관리 ▲인적 감독 ▲EU 데이터베이스 등록이 필요하다고 강조했다. 이어 제50조에 등록된 AI 투명성 의무는 주로 제한적 AI에 적용된다며 ▲감정인식 시스템·생체인식 분류 시스템 ▲딥페이크 등에 의무를 진다고 설명했다. 고 변호사는 "현재 만들어진 법은 기본법의 성격을 크게 가진다"며 "시행령 등 하위법령 등이 나와야 현재 법이 다루지 못하는 부분이나 정확한 규제에 대해 언급할 수 있을 것"이라고 말했다.

2024.08.07 16:39양정민

"한국은 기본법도 없는데"…EU, 세계 최초로 AI 법안 발효

유럽연합(EU)이 인공지능(AI)법을 세계 최초로 발효했다. AI 기술의 안전하고 책임 있는 개발 및 사용을 촉진하기 위함이다. 2일 CNBC 등 외신에 따르면 EU AI법은 회원국·의회·집행위원회의 최종 승인을 받아 지난 1일부터 시행됐다. 이 법은 AI의 부정적 영향을 줄이고 기술 개발을 촉진하는데 필요한 법적 프레임워크 마련을 위해 도입됐다. EU AI법은 '금지 AI', '고위험 AI', '범용 AI 시스템' 등 총 12개의 주요 장으로 구성돼 있다. 특히 AI 시스템의 위험도를 기준으로 규제를 달리하는 '위험 기반 접근법(Risk-based approach)'을 채택해 엄격한 규제를 적용하거나 심지어는 금지한다. EU는 인권 침해 여부를 '금지·고위험 AI'의 주요 기준으로 삼는다. 여기에는 중국이 운영하는 시민 점수 체계나 구직자에게 순위를 매기는 이력서 스캐닝 도구와 같이 시민 자유·노동자 권리를 심각하게 침해하는 AI가 포함된다. 생성 AI에 대한 규제도 포함된다. 법안은 오픈AI '챗GPT', 구글 '제미나이', 앤트로픽 '클로드' 등을 범용 AI 시스템으로 규정하고 저작권 준수·투명성 공개·사이버 보안 보호 등 엄격한 규제를 부과한다. EU AI법은 시행 즉시 발효됐지만 대부분의 조항은 내후년부터 적용될 예정이다. 특히 상용 생성 AI 시스템에 대한 기업 의무 이행에는 36개월의 유예 기간이 주어졌다. 법안을 위반한 사업자는 최대 3천500만 유로(한화 522억원) 또는 연간 매출의 7%를 벌금으로 부과 받게 된다. 법안 실현을 위해 EU는 지난 3월 AI 사무소를 개설했다. 27개 유럽 회원국의 AI 관련 협력을 이끌고 법안 준수 여부를 모니터링 및 감독할 예정이다. EU 당국은 "AI법 최초 도입은 글로벌 표준을 만들기 위한 중요한 단계"라며 "이미 EU의 일반데이터보호규정(GDPR)은 국제 데이터 규제의 표준으로 작용한 바 있다"고 밝혔다.

2024.08.02 16:54조이환

EU, 세계 첫 'AI법' 확정…이사회 최종 승인

세계 첫 인공지능(AI) 규제법으로 관심을 모으고 있는 유럽연합(EU)의 AI법이 마침내 최종 확정됐다. 유럽이사회는 21일(현지시간) AI법을 최종 승인했다고 테크크런치를 비롯한 주요 외신들이 일제히 보도했다. 이에 앞서 유럽 의회는 지난 3월 AI법을 압도적인 찬성으로 통과시켰다. 보도에 따르면 유럽이사회는 이날 “AI법은 전 세계 최초 사례로 획기적인 법이다”면서 “앞으로 AI 규제에 관한 글로벌 표준을 만들 수 있을 것이다”고 의미 부여했다. 유럽이사회의 최종 승인을 받은 AI법은 앞으로 관보에 게재되며, 20일이 경과한 후에는 공식 발효된다. ■ 2021년 첫 발효…얼굴인식 기술 사용도 엄격 제한 EU가 처음 AI법을 발의한 것은 지난 2021년이었다. 이후 격렬한 토론 과정을 거친 끝에 2023년 12월 초 유럽의회와 유럽이사회, 유럽연합집행위원회(EC)의 최종 합의안을 이끌어내는 데 성공했다. 당시 EU 주요 기구들은 안면인식 기술 사용 등을 놓고 의견이 팽팽하게 갈렸다. 또 챗GPT나 구글 바드 같은 파운데이션 모델 규제 방법을 놓고도 서로 이해관계가 엇갈려 공방을 벌이기도 했다. 하지만 결국 합의안을 이끌어낸 데 성공하면서 역사적인 AI법의 토대를 마련하게 됐다. EU의 AI법이 본격 적용될 경우 챗GPT 같은 생성 AI 개발 업체에 대해선 투명성 의무가 강화된다. 생성형 AI 기술은 시장에 내놓기 전에 투명성 의무를 준수하도록 의무화했다. 또 '딥페이크' 같은 이미지는 반드시 AI로 생성했다는 사실을 밝히도록 했다. 생성형 AI 관련 조항은 2021년 'AI법'이 처음 발의될 때는 포함되지 않았다. 하지만 이듬 해 챗GPT가 각광을 받으면서 오남용 우려가 확산되자 입법 과정에서 생성 AI 관련 조항들이 추가됐다. 자율주행차 같은 고위험 기술을 사용하는 기업들 역시 데이터를 공개해야만 한다. 이와 함께 안전 강화를 위해 엄격한 테스트를 거치도록 했다. 핵심 쟁점 중 하나였던 얼굴인식 기술 사용도 엄격하게 제한하기로 했다. 이에 따라 테러범 추적이나 국가 안보 같은 꼭 필요한 경우 외에는 얼굴인식 기술을 사용할 수 없도록 했다. 금지 규정을 위반할 경우에는 최대 3천500만 유로(약 500억원) 혹은 세계 매출 7%에 해당하는 벌금을 내야 한다. ■ 회원국 합의 과정에선 몇몇 국가가 강력 반발하기도 지난 2월엔 회원국 합의 과정을 거쳤다. 하지만 이 과정도 순탄치는 않았다. 당시 오스트리아는 데이터 보호 규정에 대해 문제를 제기한 반면 독일과 프랑스는 챗GPT나 바드 같은 선진 AI 모델들이 EU AI 기업들을 무력화할 수 있다고 경고했다. 이탈리아도 시종일관 AI법에 대해 침묵하면서 한 때 합의안 도출에 대한 의구심이 제기되기도 했다. 하지만 EC가 독일, 프랑스, 오스트리아 등이 관심 갖는 부분에 대한 공식 선언을 포함시키기로 하면서 찬성 진영으로 돌아서게 됐다. 이런 과정을 거친 끝에 유럽의회 표결까지 통과한 데 이어 이번에 유럽이사회 승인을 받으면서 마지막 관문을 넘어가게 됐다.

2024.05.21 22:27김익현

법무법인 원, 기업인 위한 '유럽연합 AI법' 세미나 개최

기업이 반드시 알아야 할 '유럽연합(EU) 인공지능(AI)법' 핵심을 설명하는 행사가 열린다. 법무법인 원과 모두의연구소는 이달 17일 모두의연구소 강남 캠퍼스에서 'EU AI법과 기업 대응'을 주제로 세미나를 개최한다고 15일 밝혔다. 이번 세미나는 AI 활용 분야를 4단계 위험 등급으로 정의한 EU의 새로운 AI 규제 내용에 대한 기업 이해도를 높이기 위해 마련됐다. 딥페이크, 저작권, 개인정보 문제 등 AI 기술 악용으로 인한 기업의 법적 리스크를 확인하고 점검 및 대응 계획 수립을 목표로 뒀다. 세미나는 법무법인 원 AI대응팀 오정익 변호사 발표로 시작한다. 법무법인 원 김윤명 전문위원, 그리고 인이지 장윤석 사업총괄이사의 발표가 이어진다. 이어지는 토론에서는 법무법인 원 AI대응팀장 이유정 변호사 사회로 자유 토론이 진행된다. 세미나 참가 신청은 법무법인 원 홈페이지를 통해 가능하다. 법무법인 원 AI대응팀은 2020년 출범 후 AI 기술 활용 기업들이 부딪치는 다양한 법률 이슈 및 보안 문제에 대한 법률 자문을 제공하고 있다. 행사를 함께 개최하는 모두의연구소는 다양한 AI 기업, 기관, 단체 교육을 진행하고 있다. 법무법인 원 AI대응팀장 이유정 변호사는 "EU 의회가 AI법을 통과시킨 이후 글로벌 기업 대응에 나서고 있다"며 "법 적용 시점은 약 2년간의 유예 기간이 있지만 EU AI법은 포괄적인 규제를 규정하는 기본법인만큼 향후 경영 전략과 방향성을 검토를 위해서라도 면밀하게 검토하고 대응할 필요가 있다"고 강조했다. 이어 "법무법인 원 AI대응팀은 기업을 위한 AI 규제 대응, 컴플라이언스 자문, AI 윤리 교육 등 다각도의 법률 서비스를 제공할 계획이다"고 덧붙였다.

2024.04.15 10:56김미정

한국 AI기본법, 총선 후 재논의…"개발자도 의견 내야"

국회에 계류 중인 '인공지능(AI) 기본법' 논의가 재활성화할 전망이다. 이에 업계 관계자들은 효과적인 법 논의에 개발자도 포함하는 등 다양한 소통이 이뤄져야 한다고 주장했다. 중소·스타트업 지원 등 구체적인 논의까지 추진해야 한다고 입을 모았다. 정부 관계자는 총선 이후 AI 기본법에 대한 회의를 재시작할 예정이라고 최근 본지에 귀띔했다. 국내 AI법은 2021년 7월 더불어민주당 정필모 의원, 국민의힘 윤두현 의원 등이 제출한 7개 법안을 통합한 안건이다. 이 법은 지난해 2월 과학기술정보방송통신위원회 법안2소위까지 통과했지만, 여전히 상임위 전체회의에 계류 중이다. 법안2소위 통과 직후 시민단체가 AI법 핵심인 '우선허용·사후규제' 원칙을 강력히 반대했기 때문이다. 당시 AI주무부처인 과학기술정보통신부는 법안 통과를 위해 시민단체를 설득했으나 긍정적인 성과를 얻지 못했다. 이에 과기정통부는 우선허용·사후규제 원칙 등을 포함해 법안을 수정하기 시작했다. 수정본은 완성한 상태며 4월 10일 총선 후 논의된다. 정확한 논의 날짜는 미정이다. 정부 관계자는 "정부는 시민단체와 기업 의견을 골고루 넣는 방향으로 법을 수정했다"며 "단지 기술만 생각하는 것이 아닌 AI의 사회적 파장, 윤리적 이슈까지 고려해 수정본을 마련했다"며 "이 과정에 윤리학자와 사회학자도 해당 과정에 참여했다"고 설명했다. "기술자도 법안 논의 참여해야…구체성 필요" 업계 관계자들은 국내 AI법 논의가 규제와 지원이라는 모순된 양면을 균형 있게 맞춰야 한다고 입을 모았다. 균형 유지를 위해 개발자의 논의 참여, 법 구체화 필요성 등을 주장했다. 서울교육대 김봉제 윤리교육과 교수 겸 AI 가치판단 디자인 센터장은 "AI 기술자도 법안 논의에 적극 나서야 한다"고 강조했다. 김봉제 교수는 "한두번에 그치는 기술 자문이나 의견 제시와 같은 일시적 참여를 말하는 것이 아니다"며 "개발자의 법안 논의 참여는 지속적이어야 한다"고 말했다. 김봉제 센터장은 "현재 AI 기술 변화 속도는 상당히 빠르다"며 "기술자가 법안 논의에 참여함으로써 기술 변화를 지속적으로 알려줄 것"이라고 설명했다. 그는 "이는 법안이 산업 발전에 방해되지 않는 최소한의 조치다"고 덧붙였다. 김 교수는 AI법 논의에 중소·스타트업을 제외해선 안 된다고 강조했다. 일반적으로 AI법이 적용되면, 기업은 개인정보 보호, 사이버 보안, 인권, 윤리적 영향 등 기술 준법 여부 확인을 위한 고려를 종합적으로 해야 한다. 그는 "이러한 성능 평가에는 상당한 비용이 든다"며 "일반적으로 대기업은 이 비용을 감당할 수 있지만, 중소·스타트업은 버거울 수 있다"고 했다. 김봉제 교수는 "정부는 AI법 평가에 드는 비용을 중소·스타트업에 지원하는 등 구체적인 대안 논의도 필요하다"고 했다. 법무법인 원 오정익 변호사도 법 구체성에 집중해야 한다고 강조했다. 오정익 변호사는 "예를 들어, 주요 인프라 관련 AI 시스템 중 어느 범위를 고위험 AI에 넣어야 하는지, 개발사가 어느 기준에 맞춰 품질관리시스템을 갖춰야 하는지 등을 논의 과정에서 명확히 제시해야 한다"고 강조했다. 서울고등법원 강민구 전 부장판사는 정부가 법을 만들더라도 미국식 산업 진흥 기조를 소홀히 해선 안 된다고 했다. 강 전 부장판사는 "AI 기술은 아직 한창 성장해야 할 시기"라며 "정부가 서둘러서 엄격한 유럽식 규제에 치우치는 우를 범해선 안 된다"고 덧붙였다.

2024.03.18 14:11김미정

EU, 'AI법' 만장일치 승인…마지막 관문 넘었다

세계 최고 인공지능(AI) 규제법으로 관심을 모았던 유럽연합(EU)의 AI법이 마지막 큰 관문을 넘었다. EU 회원국들이 2일(현지시간) AI법에 만장일치로 찬성했다고 폴리티코를 비롯한 주요 외신들이 일제히 보도했다. 이에 따라 EU에선 생체 정보 수집을 엄격하게 제한하고 투명성 의무를 강화하는 것을 골자로 하는 AI법 시행에 속도가 붙게 됐다. ■ 생체정보 사용 엄격 제한…자율주행 기술 사용 땐 데이터 공개 의무화 EU의 AI법이 본격 적용될 경우 챗GPT 같은 생성 AI 개발 업체에 대해선 투명성 의무가 강화된다. 생성 AI 기술은 시장에 내놓기 전에 투명성 의무를 준수하도록 의무화했다. 또 '딥페이크' 같은 이미지는 반드시 AI로 생성했다는 사실을 밝히도록 했다. 자율주행차 같은 고위험 기술을 사용하는 기업들 역시 데이터를 공개해야만 한다. 이와 함께 안전 강화를 위해 엄격한 테스트를 거치도록 했다. 핵심 쟁점 중 하나였던 얼굴인식 기술 사용도 엄격하게 제한하기로 했다. 이에 따라 테러범 추적이나 국가 안보 같은 꼭 필요한 경우 외에는 얼굴인식 기술을 사용할 수 없도록 했다. 금지 규정을 위반할 경우에는 최대 3천500만 유로(약 500억원) 혹은 세계 매출 7%에 해당하는 벌금을 내야 한다. 회원국 합의에도 불구하고 AI법이 최종 확정된 것은 아니다. 최종 관문으로 유럽의회 표결 절차를 다시 거쳐야 한다. 유럽의회는 2주 내에 관련 위원회에서 AI법을 승인한 뒤 오는 4월 전체 투표를 하게 된다. 이런 과정을 거친 뒤 각 회원국에 효력을 발휘하기까지는 12~24개월 정도 걸릴 것으로 예상된다. ■ 독일-프랑스 반대 움직임에 한 때 긴장…EC, 중재자 역할 EU 규제 당국은 'AI법' 합의안을 도출하기까지 많은 우여곡절을 겪었다. 유럽의회와 유럽이사회, 유럽연합집행위원회(EC)는 지난 해 12월 초 난상토론을 거듭한 끝에 AI법 최종 합의안을 이끌어내는 데 성공했다. 당시 EU 주요 기구들은 안면인식 기술 사용 등을 놓고 의견이 팽팽하게 갈렸다. 또 챗GPT나 구글 바드 같은 파운데이션 모델 규제 방법을 놓고도 서로 이해관계가 엇갈려 공방을 벌이기도 했다. 하지만 결국 합의안을 이끌어낸 데 성공하면서 역사적인 AI법의 토대를 마련하게 됐다. 마지막 관문은 이번 합의 과정도 수월하지는 않았다. 특히 반대 의사를 표명해 왔던 오스트리아 뿐 아니라 EU 양대 강국인 독일과 프랑스도 반대표를 던질 가능성이 제기되면서 긴장감이 감돌기도 했다. 보도에 따르면 오스트리아는 데이터 보호 규정에 대해 문제를 제기한 반면 독일과 프랑스는 챗GPT나 바드 같은 선진 AI 모델들이 EU AI 기업들을 무력화할 수 있다고 경고했다. 이탈리아도 시종일관 AI법에 대해 침묵하면서 한 때 합의안 도출에 대한 의구심이 제기되기도 했다. 하지만 EC가 독일, 프랑스, 오스트리아 등이 관심 갖는 부분에 대한 공식 선언을 포함시키기로 하면서 찬성 진영으로 돌아서게 됐다. 폴커 비싱 독일 디지털교통부 장관은 폴리티코와 인터뷰에서 “우리는 AI법이 의료 기기 이용에는 적용되지 않는다는 점을 분명히 해달라고 요구했다”고 밝혔다.

2024.02.03 10:13김익현

지금 뜨는 기사

이시각 헤드라인

"요금 올리거나, 무료 풀거나"…OTT, 전략 분화

"책 대신 '아이패드'로 수업을"…디지털이 바꾼 교실 풍경은

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

[ZD브리핑] 아시아 IT 박람회 컴퓨텍스 개최...21대 대선 후보 첫 토론회

ZDNet Power Center