검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 연합'통합검색 결과 입니다. (44건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

EU, AI로 '사회적 점수 평가·결정 조작' 전면 금지

유럽연합(EU)이 지난해 공표된 인공지능(AI)법에서 규정한 '위험성 높은 AI 시스템' 전면 금지 조치를 본격 적용한다. 테크크런치에 따르면 EU는 2일(현지시간)부터 '용납할 수 없는 위험'을 초래하는 AI 시스템의 사용을 금지했다. 유럽 의회가 지난 해 3월 최종 승인한 'AI법'은 8월부터 공식 발효됐다. 이 법이 규정한 가장 위험성이 높은 '용납할 수 없는 AI'는 6개월 준수 시한을 거친 뒤 이날부터 전면 금지된다. AI 법은 위험 수준을 네 단계로 나눈다. AI 스팸 필터 등의 '최소 위험군'은 규제 대상이 아니며 챗봇 등 '제한적 위험군'은 가벼운 감독을 받는다. AI 의료 추천 기능 등 '고위험군'은 강한 규제를 받으며 가장 위험한 '용납할 수 없는 AI'는 법적으로 전면 금지된다. 이번 규제로 ▲사회적 점수 평가(social scoring) ▲사람의 결정을 기만적으로 조작 ▲취약 계층 악용 ▲외모로 범죄 가능성을 예측하는 AI 기술 사용이 금지된다. 또 ▲생체 데이터를 활용해 성적 지향 등 개인 특성을 추론하는 AI ▲공공장소에서 실시간 생체 인식을 수행하는 AI ▲직장·학교에서 감정을 분석하는 AI ▲온라인 및 보안 카메라를 활용해 얼굴인식 데이터베이스를 구축하는 AI도 금지 대상이다. 기업이 이러한 AI 시스템을 EU 내에서 운영할 경우 본사가 어디에 있든 관계없이 강력한 제재를 받는다. 위반 시 최대 3천500만 유로(한화 약 5천억원) 또는 연 매출의 7% 중 높은 금액이 벌금으로 부과된다. 다만 본격적인 벌금 부과는 오는 8월부터 시작된다. EU는 법 시행에 앞서 지난해 9월 'EU AI 협약'에 참여한 100여 개 기업의 자율 준수를 유도했다. 아마존, 구글, 오픈AI 등 주요 기업이 동참했지만 메타와 애플, 프랑스 AI 스타트업 미스트랄은 서명을 거부했다. 다만 전문가들은 금지 대상 AI가 극히 일부의 기술에 해당하기 때문에 대부분의 기업이 큰 영향을 받지 않을 것으로 보고 있다. 규제에는 일부 예외도 있다. 공공장소 생체 인식 시스템은 특정 위협을 예방하거나 실종자를 찾는 경우 법 집행 기관이 제한적으로 사용할 수 있다. 또 직장·학교 내 감정 분석 AI도 의료적 필요성이 입증되면 허용된다. 다만 모든 예외 적용에는 엄격한 정부 승인 절차가 필요하다. 로브 섬로이 슬로터앤메이 로펌 기술 담당 책임자는 "기업들은 AI 규제가 단독으로 존재하는 것이 아님을 기억해야 한다"며 "일반데이터 보호법(GDPR) 등 기타 법률 프레임워크들이 이미 존재하는 상황에서 이들이 AI기본법과 서로 어떻게 맞물리는지를 이해하는 것이 매우 중요할 것"이라고 강조했다.

2025.02.03 10:29조이환 기자

글로벌 AI 거물들, 한달 뒤 MWC로 모인다

오는 3월 스페인 바르셀로나에서 열리는 MWC25에 주요 인공지능(AI) 인사들과 글로벌 ICT 정책을 진두지휘하는 인물들이 모인다. 하루가 다르게 급변하는 AI 기술 발전 경쟁에서 최고의 전문가들이 한 자리에 모인 덕에 향후 AI 논의에 대한 재정의가 이뤄질 전망이다. 29일(현지시간) 세계이동통신사업자연합회(GSMA)는 MWC 컨퍼런스에 참여하는 키노트 발표자 추가 명단을 발표했다. 새해 MWC 무대는 글로벌 AI의 다양한 트렌드를 한 눈에 살펴볼 수 있을 것으로 예상된다. 총 19개 무대에서 약 1천200명의 연사가 참여하는 MWC에 첫 키노트 스피커 추가 명단에 글로벌 주요 AI 인사 명단이 확인됐기 때문이다. 내로라하는 AI 인사 다 모인다 먼저 AI 인사로 저서 '특이점이 온다(The Singularity Is Near)'로 잘 알려진 레이몬드 커즈와일이 MWC에 참여한다. 특이점주의를 통해 2045년까지 나노, 로봇, 생명공학 등의 발전으로 인간 수명이 무한이 연장되고 인간 수준의 AI(AGI)가 등장한다는 주장을 지난 2005년에 내놓은 인물이다. 세계에서 비상장 기업 중 가장 몸값이 비싼 데이터브릭스의 최고 AI 담당자인 나빈 라오 부사장도 MWC를 찾는다. 인텔 출신의 나빈 라오는 모자이크ML이란 생성형 AI 플랫폼 회사를 창립했는데, 데이터브릭스가 이 회사를 전격 인수했다. 데이터브릭스의 주요 투자자로 메타 등이 꼽히는데 투자 유치 규모만 약 22조원에 달하고 기업가치는 약 90조원으로 평가받고 있다. 미스트랄AI의 아르튀르 멘슈 CEO도 MWC25를 빛낼 인물로 꼽힌다. 미스트랄AI는 미국과 중국 중심의 글로벌 AI 패권 전장에서 프랑스를 주요 경쟁국 반열에 끌어올린 기업으로 평가받고 있다. 이 회사는 자체 개발 AI 언어 모델을 통해 유럽의 챗GPT로 불리는 르 챗(Le Chat)을 내놨다. 미국의 빅테크들 인수합병 시도에도 매각하지 않겠다는 뜻을 천명하고 있다. MWC25 참여 인사 가운데 퍼플렉시티의 아라빈드 스리니바스 CEO도 빼놓을 수 없다. 퍼플렉시티는 챗GPT의 오픈AI는 물론 구글과 경쟁 구도를 갖춘 AI 검색 엔진 스타트업으로, 국내에서 SK텔레콤과 협업 관계로 잘 알려져 있다. 특히 최근 도널드 트럼프 대통령이 취임한 뒤 미국에서 틱톡 금지법이 논의되는 가운데, 퍼플렉시티가 틱톡 인수에 나서며 이목을 끌고 잇다. 셔터스톡의 알렉산드라 살라 AI데이터사이언스 총괄책임자도 MWC 참여 명단에 이름을 올렸다. 알렉산드라 살라는 유네스코 여성AI윤리플랫폼 공동의장으로, AI 윤리 문제에 대해 목소리를 높이고 있다. 셔터스톡은 유명한 스톡 이미지 사이트를 운영하는 미국 회사로, 오픈AI와 협력해 이미지 AI 달리를 기반으로 AI 이미지 생성 서비스를 내놨다. 미국-유럽, 글로벌 ICT 주도권 전쟁 번질까 AI에 특화된 인물과 함께 글로벌 ICT 정책의 정점에 있는 인사가 MWC 무대에 오른다. 특히, 유럽의 2인자와 트럼프 2기 정부의 핵심 참모가 MWC에 동시에 참석하게 되면서 세간의 이목을 끌고 있다. EU집행위원회(EC)에서 친환경전환 및 공정경쟁 부문 부위원장으로 지난해 임명된 테레사 리베라 스페인 제3부총리가 MWC 참여 명단에 올랐다. 그는 유럽연합(EU)에서 빅테크의 서비스와 디지털 시장 규정 준수를 살피는 역할을 맡고 있다. 테레사 리베라가 맡고 있는 수석 부집행위원장은 우르줄라 폰데어라이엔 집행위원장에 이어 EU의 2인자로 여겨지는 자리다. 브랜든 카 미국 연방통신위원회(FCC) 위원장도 MWC에 참여한다. 지난 2023년 MWC에서는 티에리 EC 브르통 내부시장 집행위원이 MWC에 참석해 당시 갓 넷플릭스 CEO 자리에 오른 그렉 피터스와 빅테크 기업의 네트워크 투자 공정분담에 대한 설전을 벌였는데, 유럽과 미국 양측에서 훨씬 더 거물급 지위에 있는 인물이 모이게 된 셈이다. 브랜든 카 위원장은 지난 2017년 트럼프 1기 정부에서 FCC 상임위원으로 발탁된 뒤 트럼프 2기 정부 집권과 함께 FCC 위원장에 올랐다. 불과 닷새 전에 FCC의 주요 보직 인사를 내린 뒤 지난 이틀간 바이든 정부의 통신 인프라 정책을 뒤엎는 결정을 내놓으며 세계를 주목하게 하는 인물이다. 테레사 리베라 수석 부집행위원장과 브랜든 카 위원장이 내놓는 한마디마다 세계 각국의 ICT 정책 소관 장관들의 셈법이 복잡해질 것으로 보인다. MWC에는 200개 이상의 국가에서 ICT 정책 결정권을 가진 장관급 인사들이 모이는 자리(GSMA Ministerial Programme)가 마련된다. 한편, 에듀테크 기업으로 역사상 가장 큰 투자를 받은 것으로 알려진 유니콘 기업인 멀티버스(Multiverse)의 유언 블레어 CEO가 MWC 연사로 참여한다. 유언 블레어 CEO는 토니 블레어 전 영국 총리의 첫째 아이다.

2025.01.30 17:25박수형 기자

AI 시대 지속가능한 통신산업 성장 논의 열려

AI 미래가치 포럼 제3차 회의가 16일 서울 역삼동 한국과학기술컨벤션센터에서 개최됐다. AI 미래가치 포럼은 AI 기술 발전과 함께 급변하는 산업 환경 속에서 AI를 선도하는 핵심주체로서의 통신사업자 역량을 강화하고, AI 관련 정책 규제개선 방안 등을 모색해 정부, 국회의 정책 수립과정에 건전한 의견을 제시하기 위해 국내 주요 통신사업자와 AI 법제도, 기술분야 전문가들이 합심하여 지난해 9월 출범했다. 최근 열린 CES 2025에서는 산업별 버티컬 AI, AI와 로봇의 융합, 개인 맞춤형 AI 서비스 등 혁신적인 AI 기술과 서비스들이 선보여지면서 AI 시대가 본격적으로 열리고 있음을 실감하게 하고 있다. 이날 회의에서는 'AI 시대, 통신산업의 지속 가능한 성장 비전'이라는 주제로, 국내 통신사업자들의 최신 AI 서비스 전략을 공유하고 관련 전문가들과 함께 심도 있는 논의를 통해 향후 통신 산업의 발전 방향을 모색했다. 참석 전문가들은 제조, 물류, 미디어, 바이오, 로봇 등 다양한 산업 분야에서 AI 기술을 손쉽게 활용할 수 있도록 하는 것이 국가경쟁력 강화에 필수적이며 이를 위해 통신사업자의 신속한 AI 서비스 인프라 구축과 다양한 비즈니스 모델 출시를 정책적으로 지원해야 한다고 의견을 모았다. 포럼 의장을 맡은 이성엽 고려대 기술경영전문대학원 교수는 “통신사업자들이 신속하게 AI 서비스 인프라를 구축하고 또 다양한 비즈니스 모델을 창출할 수 있도록 필요한 정책지원 방안과 규제 개선 방안을 지속 발굴해 정책당국에 의견을 개진해 우리 산업전반에 AI 혁신이 일어나도록 노력하자”고 밝혔다. 이상학 한국통신사업자연합회 부회장은 “포럼에서 논의된 내용과 전문가 의견들을 바탕으로 오는 3월경에는 국내 AI 기본법에서 규제위험 분석, 통신사업자 신사업 방안 등에 대한 포럼 산출물을 발표할 계획”이라며 “지속적인 포럼 개최를 통해 산업계의 목소리를 대변해 나갈 것”이라고 밝혔다.

2025.01.16 16:33박수형 기자

[AI는 지금] AI 기본법 TF 발족…"산업 진흥·규제 사이 균형 찾기 과제"

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'의 구체적인 하위법령 마련을 위해 정부가 태스크포스(TF)를 출범시킨다. 이를 통해 AI 산업 발전과 국민 안전 간 균형을 맞추고 국제 표준에도 부합하는 규제와 진흥 방안을 마련하겠다는 계획이다. 국내 업계 전반에서는 환영의 목소리를 내고 있으나 일부에서는 과연 법안이 최선의 선택이었는지에 대한 의문도 제기되고 있다. 11일 업계에 따르면 과학기술정보통신부(이하 과기정통부)는 AI 기본법 시행령 제정을 위한 산학연관 태스크포스(TF)를 이달 중 발족한다. TF에는 국가인공지능위원회 법·제도 분과위원회, 관계부처, 산업계, 학계, 연구기관 등 전문가 그룹이 폭넓게 참여할 예정이다. TF의 핵심 논의 대상은 AI 기본법에서 강조한 '고영향 AI'의 정의와 규율 방안이다. 고영향 AI는 사람의 생명·안전 및 기본권에 중대한 영향을 미칠 가능성이 있는 시스템을 의미하며 이를 구체화한 가이드라인은 올해 6월까지 마련될 계획이다. 지난해 말 국회를 통과한 AI 기본법은 AI 사업자가 고영향 AI를 제공할 경우 사전 검·인증을 받도록 권고하고 관련 제품이나 서비스 이용 시 사용자에게 미리 고지할 것을 명시하고 있다. 과기정통부는 TF 논의를 통해 가이드라인 수립 과정에서 기업과 이용자의 의견을 적극 수렴하겠다며 AI 기술 발전과 법제의 조화를 추구하고 국제 표준과도 부합하는 규제 체계를 마련할 계획이라고 밝혔다. 이 같은 움직임에 국내 AI 업계는 기대감을 드러내고 있다. 그간 법률 공백으로 인해 생성형 AI나 빅데이터 서비스 등 신기술을 준비하는 기업들은 명확한 규제·지원 체계를 파악하기 어려웠고 투자자들도 법적 리스크를 우려해 선뜻 자금 투입을 결정하기 쉽지 않았다는 게 업계의 설명이다. 한 AI 업계 관계자 A씨는 "AI 산업에 대한 명확한 기준과 지원 방안을 담은 법안이 생겨 불확실성이 줄어들 것으로 보인다"며 "정부가 업계 이슈를 정리하고 방향을 제시해준다는 사실만으로도 큰 도움이 될 것"이라고 전했다. 다만 이러한 산업 현장의 기대는 그동안 규제가 부재했던 상황에서 비롯된 불확실성이 컸기 때문이라는 분석도 있다. 명확한 법적 기준이 없던 시기에는 각기 다른 해석과 더불어 정부의 입장을 지나치게 의식해야 하는 어려움이 있어왔다는 설명이다. 실제로 해외 업계에서는 사뭇 다른 의견이 나온다. 글로벌 테크기업 관계자 S씨는 "법안 통과 당시 해외 언론은 EU에 이어 한국이 두 번째로 AI '규제'를 통과시켰다고 보도하며 국내 AI 기술 발전을 저해할 소지가 있는지를 염려하는 분위기였다"며 "'가이드라인'이나 '행정명령' 같은 탄력적 방안이 더 효과적이지 않았을지 의문이 든다"고 덧붙였다. 현재 국가 차원에서 AI를 법률로 직접 규제한 사례는 한국이 EU에 이어 두 번째로 꼽힌다. EU는 지난해 3월 세계 최초의 포괄적 AI 규제인 'AI법'을 가결해 내년 8월 전면 시행할 예정이다. 이와 반대로 미국의 경우에는 연방 차원의 AI 관련 법안이 없으며 지난 2023년 발표된 AI 행정명령도 연방기관 지침 수준이어서 민간에 대한 처벌 조항은 포함되지 않았다. 일본 역시 가이드라인 중심의 '소프트 로(soft law)' 접근 방식을 채택하고 있다. 그럼에도 국내 업계는 이미 통과된 AI 기본법을 기반으로 산업 발전을 위한 구체적인 세부안 마련에 기대감을 표하고 있다. 한 업계 관계자는 "기본법이 국회를 통과한 만큼 이제는 산업 성장에 실질적으로 기여할 수 있는 구체적 안들이 발전하길 희망한다"며 "정부와 업계의 지속적인 협력을 통해 AI 생태계를 더욱 활성화할 수 있길 바란다"고 강조했다.

2025.01.11 14:30조이환 기자