검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 법'통합검색 결과 입니다. (122건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

방통위, AI 이용자 보호 대책 세운다

방송통신위원회가 인공지능(AI) 산업 발전과 동시에 이용자 보호를 위한 조치에 나선다. AI 이용자보호 종합계획을 수립하고, '생성형AI 이용자보호 가이드라인'과 AI 이용자보호법을 제정한다는 계획이다. 방통위는 14일 이같은 내용의 2025년도 업무계획을 최상목 대통령 권한대행 경제부총리에 보고했다. 생성형 AI 이용자보호 가이드라인은 서비스의 설명가능성을 보장하고, 필터링과 신고 등 기술적 관리적 조치 등의 구체적 방법을 제시하게 된다. 또 AI 이용자보호법은 AI 유형별 차등 규제와 이용자보호 업무평가, 분쟁조정제도 등을 규정하게 된다. 아울러 생성형 AI로 인한 위험요소를 신고, 검증하고 이를 공유할 수 있는 이용자 참여형 포털을 구축키로 했다. 디지털 불법 유해정보 차단을 위한 종합적 대응도 강화한다. 마약이나 도박 등 민생과 직결된 불법정보가 신속하게 차단될 수 있도록 절차를 개선하고, 딥페이크 성범죄물 등 불법촬영 의심 영상물을 '선(先) 임시차단, 후(後) 심의' 할 수 있도록 법적 근거를 마련한다. 허위조작정보 확산을 방지하기 위해 민관 합동 자율규제 권고안을 마련해 사업자의 자정활동을 유도하고, 정보 생성과 유포 등 단계적 규제 체계를 정립한다. 불법스팸 근절을 위해 범죄수익 몰수, 과징금 부과 등 제재를 강화하고, AI 스팸 필터링 개선, 해외문자 차단함 신설 등 기술적·관리적 보호조치를 강화하여 불법스팸 차단의 실효성을 높인다. 방송의 사회적 책임 강화를 위해 방송사 재허가 재승인 심사나 방송평가 시 저출생 위기 극복, 재난피해 예방프로그램 편성내역 등을 반영해 공익성 심사 평가를 강화하고, 재허가 재승인 조건 이행 여부를 점검해 허가 승인 제도의 실효성을 제고할 계획이다. 재난방송의 체계적인 관리와 지원을 위해 '재난방송관리지원법' 제정을 추진하고, 재난방송 사각지대 해소를 위해 수신환경 실태조사와 도로 터널 등의 중계설비 설치를 위한 기술지원 컨설팅을 제공한다. 한국판 디지털서비스법인 가칭 온라인서비스 이용자보호법을 제정해 플랫폼 상 불법 유해정보 유통 방지, 콘텐츠 노출기준 공개 등 플랫폼 사업자의 사회적 책무를 강화한다. 방송과 OTT 등 신·구 미디어의 동반 성장을 지원하고 일관된 규율체계를 정립하기 위해 개별법에 분산된 규제를 통합 정비하는 미디어 통합법제 마련을 추진한다. 차세대 방송의 지속 가능한 혁신성장을 위해 UHD, DMB, AM 라디오 등 기존 지상파 매체의 정책 개편 방안을 포함한 방송혁신 전략을 수립한다. 위치정보 산업의 중장기 발전 로드맵으로서 '위치정보 이용 활성화 계획'을 수립해 규제 개선, 산업 지원, 인력 양성 등 분야별 지원 전략을 마련한다. 방송사의 규제부담 완화를 위해 방송사업 허가 승인 시 조건 등 부과 원칙 및 사유를 공개하고 허가 승인 유효기간 범위를 확대하고, 소유 겸영규제와 광고 편성규제를 완화해 방송산업의 경쟁력과 자율성을 강화한다. 방송콘텐츠의 해외유통 활성화를 위해 새해 상반기 중 캐나다와 시청각 공동제작협정을 체결하고, 공동제작비 지원, 국제 컨퍼런스 개최 등을 추진한다. 또한 토종 OTT 사업자의 해외진출 지원을 위해 해외시장과 이용행태 정보를 제공하고 '국제 OTT 포럼'을 개최한다. 단말기 유통법 폐지에 따라 하위 법령 정비 등 후속조치를 추진하는 동시에 단말기 유통시장의 불공정행위와 이용자 피해 방지를 위해 '단말기 유통환경 개선 종합시책'을 마련한다. 쇼핑, 배달, 교육 등 민생 밀접 플랫폼 서비스의 이용자 피해 유발 행위를 집중 점검하고, 다크패턴, 하이재킹 자동실행 광고 등 이용자를 기만하거나 선택권을 제한하는 행위에 대해서도 엄정 대응한다. 보편적 디지털 미디어 복지도 확대한다. 시각·청각장애인을 위한 맞춤형TV 지원을 확대한다. 또 장애인방송 품질 제고를 위해 품질 평가체계를 마련하고 시범평가를 실시하는 등 소외계층의 미디어 접근성을 강화한다. 아울러 전국 어디서나 미디어교육 서비스를 제공받을 수 있도록 시청자미디어센터를 차질 없이 구축하고, 센터 방문이 어려운 도서·산간 지역민과 장애인 등을 위해 '찾아가는 미디어 나눔버스'를 추가 운영할 예정이다. 김태규 방통위원장 직무대행은 “디지털 미디어 환경의 변화 속에서 가장 중요한 것은 국민이 안전하고 신뢰할 수 있는 이용 환경을 만드는 것”이라며 “방통위는 국민 보호와 권익 증진을 최우선 과제로 삼아 AI, 디지털 플랫폼, 방송 등 모든 영역에서 국민이 체감할 수 있는 정책을 구현하겠다”고 밝혔다. 이어, “현재 위원회 공백으로 인해 정책 추진에 어려움이 있지만, 방통위는 국민 불편을 최소화하고 위원회가 재구성되는 즉시 업무를 정상화할 수 있도록 실무적 준비를 철저히 하겠다”고 덧붙였다.

2025.01.14 16:00박수형

AI 패권시대, 글로벌 3강 도약 정부전략과 실행 방안은?

정치, 산업, 학계 전문가들이 한자리에 모여 국가 인공지능(AI) 경쟁력 강화를 위한 종합적인 전략을 논의했다. 글로벌 AI 패권 경쟁에서 우위를 점하기 위해 소버린 AI 역량 확보, 데이터 관리, 제도적 기반 마련 등 다각도의 접근 방안을 모색하며 대한민국 AI 산업 발전을 위한 이정표를 제시했다. 14일 서울 여의도 국회의원회관에서 열린 '글로벌 AI 3강을 위한 AI진흥 TF 2차 간담회'에서는 대한민국의 AI 경쟁력 강화와 글로벌 AI 강국으로의 도약을 위한 다양한 정책 및 실행 방안이 논의되었다. 정동영 민주당 AI진흥 태스크포스(TF) 단장이 주최한 이번 간담회는 포함한 정치, 산업, 학계 전문가들이 참여했다. 하정우 네이버 클라우드 AI 이노베이션 센터장이 관련 내용을 발제하고 차지호 의원이 진행을 맡았다. 정동영 단장은 "영국과 프랑스는 대규모 AI 투자 전략을 발표하며 국가 지도자가 직접 AI 발전을 지휘하고 있다"며 "반면 대한민국의 국가 AI 위원장은 윤석열 대통령인데, 현재 직무가 정지된 상태"라며 국내 AI 발전의 어려움을 지적했다. 이어 "하지만 대통령이 직무를 수행하지 못한다고 해서 국가의 AI 발전이 멈출 수는 없다"며 "국가의 미래가 걸린 문제인 만큼 글로벌 AI 3강 강국으로 도약하기 위해 초당적 협력과 지속적인 투자, 그리고 강력한 리더십이 필요하다"고 강조했다. 간담회 발제를 맡은 하정우 센터장은 글로벌 AI 경쟁 상황을 분석하며, "AI 기술은 단순한 기술적 도구를 넘어 경제와 안보에 직결되는 전략 자산으로 인식되고 있다"며 "각국이 자국 내 AI 역량을 키우는 이유에 대해 "글로벌 데이터 블록화와 AI 수출 규제 등의 변화 속에서 독자적 기술 확보는 국가 생존의 문제"라고 AI의 중요성을 강조했다. 하 센터장은 "미국, 중국과 같은 국가들은 AI를 군사, 경제, 공공 분야의 핵심 기술로 활용하고 있으며, 특히 미국은 AI 모델과 인프라 수출을 제한하며 전략적 자산으로 보호하고 있다"고 글로벌 AI 현황에 대해 밝혔다. 이러한 상황 속에서 "대한민국이 AI 강국으로 자리 잡기 위해서는 데이터를 기반으로 한 소버린(Sovereign) AI 역량을 확보해야 한다"고 주장했다. 그는 소버린 AI의 중요성을 "독자적으로 AI를 개발하고 운영할 수 있는 능력"이라고 정의하며 "이것이 없다면 해외 기술 의존도가 높아지고 국가 안보와 경제 경쟁력이 약화될 수 있다"고 경고했다. 이를 위해 데이터 확보, AI 반도체, 에너지 인프라 등 AI 생태계를 구성하는 요소들을 체계적으로 발전시켜야 한다고 제안했다. 또한 대한민국은 이미 네이버, LG AI 연구원과 같은 주요 기업이 높은 수준의 AI 기술을 보유하고 있어 충분한 가능성을 가지고 있다며 국가적 투자와 지원의 필요성을 강조했다. 이에 송상훈 과기정통부 정보통신정책실장은 정부의 AI 정책 방향을 소개하며, "민간 공동출자를 통해 국가 AI 컴퓨팅 센터를 설립하고, 국산 NPU를 활용해 기술 생태계를 활성화하겠다"고 발표했다. 또한 "AI 기본법 제정과 규제 개선을 통해 AI 경쟁력 강화를 위한 제도적 기반을 마련했다"며 "이를 기반으로 국내 AI 경쟁력 확보를 위해 최선을 다해 지원하겠다"고 밝혔다. 반면 김영환 의원은 AI 발전에 따른 사회적 불평등과 윤리적 문제를 지적하기도 했다. 그는 "AI는 경제적 격차를 확대할 가능성이 있으므로 포용적이고 책임 있는 AI 정책이 필요하다"고 주장했다. 또한, 공공 데이터의 가공 및 공개를 확대해 AI 발전에 기여해야 한다고 제안했다. 이에 대해 송상훈 실장은 "디지털포용법을 통해 AI와 같은 디지털 기술에 접근성을 높이고, AI 리터러시를 강화하여 불평등 문제를 완화하는 방안을 마련하고 있다"고 답했다. 또한, 다양한 AI 안전성 및 윤리 이슈에 대응하기 위한 정부의 노력도 언급했습니다. 이와 함께 하정우 AI센터장은 "AI가 국가적 자산인 만큼 포용성을 확대하는 동시에 독자적인 기술 역량을 갖추는 것이 중요하다"고 강조하며, AI 데이터 및 인프라를 강화하고 글로벌 협력을 통해 한국형 AI 생태계를 구축해야 한다는 의견을 덧붙였다. 차지호 의원은 간담회를 마무리하며 "AI는 단순한 기술적 혁신을 넘어 사회적 변화를 주도하는 핵심 기술"이라며 "간담회에서 논의된 다양한 의견과 제안이 대한민국이 글로벌 AI 강국으로 도약하는 데 중요한 밑거름이 될 것"이라고 말했다.

2025.01.14 15:11남혁우

[AI는 지금] AI 기본법 TF 발족…"산업 진흥·규제 사이 균형 찾기 과제"

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'의 구체적인 하위법령 마련을 위해 정부가 태스크포스(TF)를 출범시킨다. 이를 통해 AI 산업 발전과 국민 안전 간 균형을 맞추고 국제 표준에도 부합하는 규제와 진흥 방안을 마련하겠다는 계획이다. 국내 업계 전반에서는 환영의 목소리를 내고 있으나 일부에서는 과연 법안이 최선의 선택이었는지에 대한 의문도 제기되고 있다. 11일 업계에 따르면 과학기술정보통신부(이하 과기정통부)는 AI 기본법 시행령 제정을 위한 산학연관 태스크포스(TF)를 이달 중 발족한다. TF에는 국가인공지능위원회 법·제도 분과위원회, 관계부처, 산업계, 학계, 연구기관 등 전문가 그룹이 폭넓게 참여할 예정이다. TF의 핵심 논의 대상은 AI 기본법에서 강조한 '고영향 AI'의 정의와 규율 방안이다. 고영향 AI는 사람의 생명·안전 및 기본권에 중대한 영향을 미칠 가능성이 있는 시스템을 의미하며 이를 구체화한 가이드라인은 올해 6월까지 마련될 계획이다. 지난해 말 국회를 통과한 AI 기본법은 AI 사업자가 고영향 AI를 제공할 경우 사전 검·인증을 받도록 권고하고 관련 제품이나 서비스 이용 시 사용자에게 미리 고지할 것을 명시하고 있다. 과기정통부는 TF 논의를 통해 가이드라인 수립 과정에서 기업과 이용자의 의견을 적극 수렴하겠다며 AI 기술 발전과 법제의 조화를 추구하고 국제 표준과도 부합하는 규제 체계를 마련할 계획이라고 밝혔다. 이 같은 움직임에 국내 AI 업계는 기대감을 드러내고 있다. 그간 법률 공백으로 인해 생성형 AI나 빅데이터 서비스 등 신기술을 준비하는 기업들은 명확한 규제·지원 체계를 파악하기 어려웠고 투자자들도 법적 리스크를 우려해 선뜻 자금 투입을 결정하기 쉽지 않았다는 게 업계의 설명이다. 한 AI 업계 관계자 A씨는 "AI 산업에 대한 명확한 기준과 지원 방안을 담은 법안이 생겨 불확실성이 줄어들 것으로 보인다"며 "정부가 업계 이슈를 정리하고 방향을 제시해준다는 사실만으로도 큰 도움이 될 것"이라고 전했다. 다만 이러한 산업 현장의 기대는 그동안 규제가 부재했던 상황에서 비롯된 불확실성이 컸기 때문이라는 분석도 있다. 명확한 법적 기준이 없던 시기에는 각기 다른 해석과 더불어 정부의 입장을 지나치게 의식해야 하는 어려움이 있어왔다는 설명이다. 실제로 해외 업계에서는 사뭇 다른 의견이 나온다. 글로벌 테크기업 관계자 S씨는 "법안 통과 당시 해외 언론은 EU에 이어 한국이 두 번째로 AI '규제'를 통과시켰다고 보도하며 국내 AI 기술 발전을 저해할 소지가 있는지를 염려하는 분위기였다"며 "'가이드라인'이나 '행정명령' 같은 탄력적 방안이 더 효과적이지 않았을지 의문이 든다"고 덧붙였다. 현재 국가 차원에서 AI를 법률로 직접 규제한 사례는 한국이 EU에 이어 두 번째로 꼽힌다. EU는 지난해 3월 세계 최초의 포괄적 AI 규제인 'AI법'을 가결해 내년 8월 전면 시행할 예정이다. 이와 반대로 미국의 경우에는 연방 차원의 AI 관련 법안이 없으며 지난 2023년 발표된 AI 행정명령도 연방기관 지침 수준이어서 민간에 대한 처벌 조항은 포함되지 않았다. 일본 역시 가이드라인 중심의 '소프트 로(soft law)' 접근 방식을 채택하고 있다. 그럼에도 국내 업계는 이미 통과된 AI 기본법을 기반으로 산업 발전을 위한 구체적인 세부안 마련에 기대감을 표하고 있다. 한 업계 관계자는 "기본법이 국회를 통과한 만큼 이제는 산업 성장에 실질적으로 기여할 수 있는 구체적 안들이 발전하길 희망한다"며 "정부와 업계의 지속적인 협력을 통해 AI 생태계를 더욱 활성화할 수 있길 바란다"고 강조했다.

2025.01.11 14:30조이환

고려대 법학전문대학원, 데이터·AI법 전문과정 개설

고려대학교 데이터인공지능법 연구센터가 3기 '데이터 인공지능법 전문과정'을 개설한다고 7일 밝혔다. 고려대 법학전문대학원은 변호사 양성의 로스쿨 교육 외에 현대의 전문적인 다양한 주제에 대해 공개강좌(ESEL)를 운영해 관련 분야 종사자들을 재교육하고 있다. 이에 따라 개설된 전문과정이다. 디지털 기술 혁신으로 인해 데이터의 사회적 산업적 가치가 제 분야에서 인정되고 있으며 생성형 인공지능, 디지털 플랫폼 등 데이터의 활용에 따른 다양한 법적 사회적 문제가 전세계적으로 제기되고 있다. 특히 생성형 인공지능 기술은 기업과 개인에게 일상화가 이뤄지고 있으며 이에 따른 법적, 정책적 논의가 본격화되고 있다. 데이터 인공지능법 전문과정은 디지털 대전환에서 비롯하는 복잡다기한 법적 과제와 문제에 대해 강의 및 토론하는 강좌를 제공한다. 국가와 공공기관, 로펌, 사기업체 등 사회 각 분야에서 데이터와 인공지능 등에 관한 업무를 담당하는 공무원, 공공기관 및 사기업의 임직원, 변호사 등이 대상이다. 국내 최고의 데이터, 인공지능 전문가들이 강사진으로 참여하며 2기와 마찬가지로 1년 과정으로 개설돼 내실 있는 교과과정 운영과 원우 간 교류의 기회를 확대할 계획이다. 4월부터 11월까지 19주 35개 강좌와 워크샵, 공개세미나로 구성될 예정이다. 이 과정을 수료하는 경우 고려대 총장 명의의 수료증이 수여되고 고려대 총교우회 정회원 자격도 부여된다. 이성엽 주임 교수는 “지난해 12월 한국이 EU에 이어 세계 2번째로 인공지능기본법을 통과시켰고 1년 뒤 시행을 앞둔 상황에서 국내외 AI, 데이터법의 쟁점에 대한 강의와 토론을 통해 하위 법령 제정이나 기업의 인공지능법 대응에 도움을 줄 것으로 기대한다”고 말했다. 원서접수는 2월1일부터 2월28일까지다.

2025.01.07 13:46박수형

고동진 의원, 특별비자법 국회 제출..."반도체·AI 등 해외 S급 인력 유치해야"

국회 산업통상자원중소벤처기업위원회 소속 고동진 국회의원은 AI기술 분야와 반도체, 소프트웨어, 디스플레이, 바이오, 이차전지, 배터리 등 첨단전략산업의 해외 고급인재 유치를 위한 특별비자법(출입국관리법 개정안)을 국회에 제출했다고 7일 밝혔다. 최근 생성형 AI의 발전과 함께 AI 기술 인재확보 국가가 세계 경제를 주도하게 되면서 세계는 AI 패권 확보 및 관련 우수 인재 유치에 사활을 걸고 있고, 반도체, 소프트웨어, 디스플레이, 바이오, 이차전지, 배터리 등 첨단산업 분야의 기업 및 산업계에서는 해외의 고급 기술전문가 영입 및 유치를 강력히 희망하고 있다. 하지만 국내 인구 대비 해외전문인력 비중(0.09%)은 싱가포르(6.6%), 호주(0.3%), 일본(0.3%), EU(0.2%), 대만(0.2%) 등 해외 사례 대비 최저 수준이며, 국내의 해외인재 유입 매력도 순위(2020년 36위 → 2023년 43위)는 계속 낮아지고 있는 실정이다. 이런 상황에서, 미국, 영국, 호주, 대만, 싱가포르, 일본 등 세계 각국은 인공지능 기술과 첨단산업의 고급인재 유치를 위해 사증 발급 기준을 완화하는 동시에 절차를 간소화하는 정책을 본격 추진하고 있다. 이에 고동진 의원은 우리나라도 해외 고급인재 유치를 위해 법무부장관이 관계 중앙행정기관 및 지방자치단체와 협의해 대통령령이 정하는 기준과 절차 등에 따라 특별사증을 발급할 수 있도록 해, 사증 발급 기준과 절차를 완화 및 간소화하도록 하는 '출입국관리법 개정안'을 대표발의했다. 고 의원은 “현재 전세계의 주요 경쟁국들은 S급 첨단산업 인재 유치를 위해 사활을 걸고 경쟁을 하고 있는데, 우리나라의 경우는 현재까지 국내 양성 위주에 그쳤던 바 해외 인재 유치 노력은 상대적으로 부족했다”며 “해외 고급인재 유치 특별비자법을 시급히 통과시켜 대한민국의 혁신적인 산업 발전과 기술 개발을 이뤄내야 한다”고 강조했다.

2025.01.07 08:44장경윤

오픈AI, 영리법인 전환 '공식화'…경쟁사·전직원·시민단체 '반발'

오픈AI가 공익법인(PBC)으로의 전환을 공식화하며 영리 구조로의 전환을 본격 추진하고 있다. 이를 통해 대규모 자본 유치를 가능케 해 일반인공지능(AGI) 개발을 가속화한다는 계획이다. 30일 테크크런치 등 외신에 따르면 오픈AI는 기존 영리 자회사를 공익법인(PBC)으로 전환하고 비영리 조직의 자회사 통제권을 철회하겠다고 지난 27일 밝혔다. 이러한 변화는 새로운 조직 구조가 투자자들에게 더 나은 조건을 제공할 것이라는 판단에 따른 것이다. 오픈AI는 지난 2015년 '모두를 위한 AI'라는 설립 취지 아래 비영리 조직으로 설립됐다. 다만 지난 2019년 이후로는 연구 비용 문제로 인해 비영리 이사회가 통제하는 영리 자회사를 설립한 후 AI 개발을 진행해 왔다. 그럼에도 불구하고 기하급수적으로 증가하는 AI 개발 비용을 충당하기 위해 지난 9월부터는 비영리 조직에 공익법인의 통제권이 주어지지 않는 새로운 구조로 전환할 계획을 세운 것으로 알려졌다. 새로운 구조에서는 기존 투자 유치 시 적용됐던 수익 상한제가 철폐될 방침으로, 이에 따라 투자자 수익이 증가하고 보다 많은 자본을 유치하기가 용이해질 전망이다. 다만 완전 영리화 우려를 불식시키기 위해 비영리 조직이 공익법인(PBC)의 주식을 상당수 보유하게 할 예정이다. 구조 변경 과정에서 오픈AI의 최대 투자자인 마이크로소프트(MS)와의 이해관계도 주목된다. 양측은 이번 전환이 완료되면 마이크로소프트가 오픈AI의 지분을 얼마나 보유할지를 결정할 방안을 모색 중인 것으로 알려졌다. 경쟁 기업들과 동등한 조건에서 투자 유치 경쟁에 나서기 위한 것도 이번 전환의 주요 이유 중 하나다. 경쟁사인 xAI와 앤트로픽 등이 최근 대규모 투자 유치를 성공적으로 이루고 있는 AI 시장 상황을 반영한 결정이라는 설명이다. 오픈AI의 전환 계획에 대해 회사의 일부 전직원들은 안전성보다 상업성을 우선시하는 조직 문화에 대한 우려를 제기하고 있다. 전 연구원이었던 캐롤 웨인라이트는 오픈AI가 "비영리로 설립됐지만 영리 기업처럼 행동한다"고 비판했다. 또 지난 10월 회사를 떠난 마일스 브런디지는 새로운 구조가 비영리 조직이 형식적인 역할만 할 수 있게 될 가능성을 경고했다. 그는 "현재 회사 거버넌스에 세부사항에 대한 논의가 놀라울 정도로 부족하다"며 "공익법인의 운영이 기존 비영리 사명과 일치하리라는 보장은 없다"고 지적했다. 오픈AI의 전환 계획에 대해 경쟁사들도 반발하고 있다. 일론 머스크가 창립한 xAI는 오픈AI가 경쟁사를 배제하고 시장 점유율 확대를 시도하고 있다며 이달 초 영리 기업 전환을 막아달라는 가처분 신청을 법원에 제기했다. 메타 역시 캘리포니아 법무장관에게 오픈AI의 영리화가 실리콘밸리 전체에 '지각 변동'을 초래할 것이라고 경고했다. 메타 관계자는 공식 서한을 통해 "오픈AI의 새 비즈니스 모델은 비영리 투자자가 정부의 세제 혜택을 받으며 영리 기업 수준의 수익을 얻을 수 있는 구조"라고 비판했다. 시민단체 역시 비판행렬에 가세했다. AI 정책 관련 시민단체인 엔코드는 오픈AI의 영리법인 전환이 공익성을 약화시킬 것이라고 주장했다. 소수의 투자자들을 위한 이익을 창출하는 조직이 AGI를 개발할 기술을 통제해서는 안된다는 주장이다. 엔코드 소속 변호사들은 "오픈AI의 운영 통제권이 공익법인으로 넘어갈 경우 첨단 AI 안전성을 보장하는 데 법적 책임을 지던 조직이 이제 주주의 이익을 고려해야 하는 조직으로 변하게 될 것"이라고 주장했다.

2024.12.30 09:45조이환

AI기본법 통과…업계 환영 속 '기대·우려' 교차

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'이 국회 본회의를 통과해 국내 AI 산업 전반에 대한 제도적 틀이 최초로 마련됐다. 업계와 시민사회는 전반적으로 이를 환영하면서도 법 적용 범위, 속도, 구체적인 지원·규제 수단 등에 대해서는 다양한 견해를 내놓고 있다. 27일 업계에 따르면 대한민국 국회가 지난 26일 AI기본법을 통과시킴으로서 한국은 유럽연합(EU)에 이어 세계에서 두 번째로 AI 산업 전반을 포괄하는 기본법을 갖추게 됐다. 정부는 이번 법 제정을 통해 AI 산업을 활성화하면서도 윤리·안전 문제에 대한 대응 시스템을 확립할 수 있을 것으로 기대하고 있다. 이 법에는 과학기술정보통신부(과기정통부)가 정기적으로 'AI 기본계획'을 수립하고 대통령 직속 국가인공지능위원회를 컨트롤타워로 둬 산업 육성과 윤리적 기준을 함께 조율하도록 하는 내용이 담겼다. 또 사람의 생명·안전·기본권에 중대한 영향을 미칠 수 있는 '고영향 AI'를 별도로 분류해 정부가 대상과 범위를 정하는 조항도 포함됐다. 업계와 시민사회는 대체로 AI기본법이 가져올 긍정적 효과에 주목하고 있다. 업계 관계자 A씨는 "AI 산업에 대한 명확한 기준과 지원 방안을 담은 법안이 생겨서 불확실성이 어느 정도 해소될 것 같다"며 "정부 차원에서 업계 이슈를 정리하고 방향을 제시해 준다는 사실만으로도 큰 도움이 될 것"이라고 호평했다. 실제로 기존 AI 업계에서는 법률 공백으로 인한 혼란이 적지 않았다는 반응이다. 생성형 AI나 빅데이터 기반 서비스를 준비하는 기업들이 어떤 규제와 지원을 받을 수 있는지 제대로 파악하기 어려웠고 투자자들도 법적 리스크 때문에 선뜻 자금을 투입하기 망설였기 때문이다. IT 업계 관계자 B씨는 "AI 기술을 활용한 다양한 비즈니스가 만들어지고 있음에도 이와 관련된 법이나 제도가 없어서 답답했다"며 "AI 기본법이 초석이 돼 불확실성이 해소되고 기업이 연구와 비즈니스에만 집중할 수 있게 되길 기대한다"고 말했다. 시민사회 역시 전반적으로 법 제정을 환영한다. 산업과 기술의 진흥 뿐만 아니라 윤리와 안전의 대응이라는 가장 중요한 두 핵심을 모두 고루 다룬 법안이라는 평가다. 특히 내년부터는 AI 에이전트 등 기술에 자율성을 부여하는 상황이 발생할 예정으로, 기본법을 통해 이러한 상황에 대처할 수 있게 될 것을 기대한다. 전창배 국제인공지능윤리협회(IAAE) 이사장은 "이제 우리나라가 글로벌 AI 이니셔티브를 선도할 수 있는 발판을 갖추게 됐다"며 "내년부터는 산학연관과 민간 등 모든 주체가 적극 힘을 합쳐 국내 AI가 글로벌 탑티어로 발돋움 할 수 있는 원년이 되도록 해야 할 것"이라고 강조했다. 이러한 긍정적 평가에도 불구하고 법 제정 속도와 적용 범위에 대한 우려도 제기되고 있다. 특히 AI기본법이 산업 진흥과 윤리·안전 두 측면을 모두 포괄한 만큼 이 둘 사이의 균형이 적절한지에 대한 비판적인 목소리가 나오고 있다. 김상배 정보세계정치학회(KAWPI) 회장 겸 서울대학교 정치외교학부 교수는 "법이 만들어지는 것 자체는 좋은 신호지만 전체적으로 규제 톤이 강해 보이는 면이 있다"며 "유럽 사례를 많이 참고한 것으로 보이는데 미국처럼 규제를 완화해 기술 혁신을 촉진하는 모델도 함께 고려해야 한다"고 말했다. 김 교수의 의견은 AI 패권 경쟁이 격화되고 있는 국제적 환경에서 비롯된다. 미·중 간 치열한 기술경쟁 구도 속에서 법이 지나치게 앞서거나 과도하게 규제 중심으로 설계될 경우 오히려 혁신의 싹을 잘라버릴 위험이 있다는 것이다. 그는 산업을 적극적으로 육성하는 방향을 강조하며 AI 산업의 급속한 변화 속도를 감안해 법 시행령과 구체적인 규정을 업계 상황에 맞게 유연하게 조정할 필요가 있다고 설명했다. 이와 반대로 AI 윤리와 안전의 중요성을 강조하는 의견도 많다. 변순용 서울교육대학교 AI윤리인증교육연구센터장은 법안이 우선 제정된 점에 대해 긍정적으로 평가하면서도 윤리와 안전 측면에서의 세부적인 고려가 부족하다는 점을 지적했다. 특히 AI가 사회 곳곳에서 활용되는 속도가 상상을 초월하고 있는 만큼 산업 진흥에만 초점을 맞출 경우 시민들의 안전과 기본권이 충분히 보호되지 못할 수 있다는 지적이다. 변 교수는 "법에서 정의한 '고영향 AI'의 범위가 다소 추상적"이라며 "인간의 판단을 대체하거나 결정에 깊이 관여하는 AI 시스템일수록 보다 엄격한 윤리 기준이 마련돼야 한다"고 강조했다.

2024.12.27 11:13조이환

AI기본법 어떤 내용 담았나···고영향AI 11개 분야로 포괄 규정

26일 국회 본회의를 통과한 AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)은 보칙을 포함해 총 5장(제1장 총칙, 제2장 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계, 제3장 인공지능기술 개발 및 산업 육성, 제4장 인공지능윤리 및 신뢰성 확보, 제5장 보칙)으로 구성됐다. 1장에서는 인공지능과 인공지능 기술이 무엇인지 정의했다. 법에 따르면, 인공지능이란 학습, 추론, 지각, 판단, 언어 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말한다. 또 인공지능기술이란 인공지능을 구현하기 위해 필요한 하드웨어, 소프트웨어 기술 또는 그 활용 기술을 말한다. 특히 1장에는 규제가 필요한 '고영향 인공지능'을 11개 분야로 포괄적으로 규정, 설명했다. 즉, 고영향 인공지능이란 사람 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로 ▲에너지 공급 ▲먹는물 생산 공정 ▲보건의료 제공과 이용체계 구축 및 운영 ▲핵물질과 원자력시설의 안전한 관리 및 운영 ▲범죄 수사나 체포 업무를 위한 생체인식정보(얼굴·지문·홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적·생리적·행동적 특징에 관한 개인정보를 말한다) 분석 및 활용▲채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 ▲'교통안전법' 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영 ▲공공서비스 제공에 필요한 자격 확인, 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, '공공기관의 운영에 관한 법률' 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정 ▲'교육기본법' 제9조제1항에 따른 유아교육·초등교육 및 중등교육에서의 학생 평가 ▲그 밖에 사람의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로, 이 중 어느 한 영역에 미치는 시스템을 말한다. 또 국외에서 이뤄진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우 이 법이 적용된다. 2장에서는 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계(거버넌스)를 규정했다. 법이 규정한 추진체계는 국가AI위원회, 인공지능정책센터, 인공지능안전연구소 등 세 곳이다. 이중 국가AI위원회는 지난 9월말, AI안전연구소는 11월말 이미 출범했다. 이에, 앞으로 설립할 인공지능정책센터에 시선이 쏠렸다. 신설 보다는 NIA 등 기존 공공기관 중 한 곳을 지정할 가능성이 높은 것으로 알려졌다. 3개 조직 중 대통령이 위원장으로 있는 최상위 거버넌스인 국가AI위원회는 위원장 1명(대통령)과 민간 부위원장 1명을 포함한 45명 이내 위원으로 구성한다. AI 정책과 연구개발 전략 수립 뿐 아니라 투자와 규제 발굴 및 개선을 담당한다. 또 고영향 인공지능과 관련한 정책 대응과 규율도 담당한다. 위원회 산하에 필요한 경우 특별위원회를 둘 수 있고, 분과위원회와 전문가로 구성한 자문단도 둘 수 있다. 아직 출범하지 않은 '인공지능정책센터'는 ▲기본계획의 수립·시행에 필요한 전문기술 지원 ▲인공지능과 관련한 시책의 개발 및 관련 사업의 기획·시행에 관한 전문기술 지원 ▲인공지능의 활용 확산에 따른 사회, 경제, 문화 및 국민의 일상생활 등에 미치는 영향의 조사·분석 ▲ 인공지능 및 인공지능기술 관련 정책 개발을 지원하기 위한 동향 분석과 사회,문화 변화와 미래예측 및 법, 제도 조사 연구 ▲다른 법령에서 센터의 업무로 정하거나 센터에 위탁한 사업 ▲ 그 밖에 국가기관등의 장이 위탁하는 사업 등을 수행한다. 이들 공공성 기관과 함께 '한국인공지능진흥협회(이하 협회)' 조항도 담았다. 인공지능 개발과이용 촉진, 인공지능산업 및 인공지능기술의 진흥, 인공지능등에 대한 교육과 홍보 등을 위해 대통령령으로 정하는 바에 따라 과학기술정보통신부장관 인가를 받아 협회를 설립하거나 지정받을 수 있게 했다. 협회는 법인이며 인공지능 제품이나 서비스 이용 촉진 및 확산, 현황 및 관련 통계 조사, 전문인력 양성 교육 및 해외 진출 지원 등의 일을 한다. 이외에도 법안은 과학기술정보통신부장관이 인공지능기술과 관련한 표준화를 위해 표준 제정 등의 사업을 추진할 수 있게 했다. 현재 국가 표준은 산업부 산하 국표원이 담당하고 있어 역할 조정이 필요한 부분이다. 특히 법안은 국가 및 지방자치단체가 인공지능산업 진흥과 인공지능 개발 및 활용의 경쟁력 강화를 위해 인공지능과 인공지능기술 연구·개발을 수행하는 기업, 기관이나 단체의 기능적·물리적·지역적 집적화를 추진할 수 있다고 규정했다. 현재 광주에 AI 단지가 조성돼 있는데, 향후 추가 단지를 선정할 계획이다. 특히 법안은 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 사실을 이용자에게 사전에 고지해야 하며, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의해 생성됐다는 사실을 표시해야 하고, 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있게 고지 또는 표시하도록 했다. 아래는 과기정통부가 발표한 법안의 주요 내용. 국가AI 발전과 신뢰 기반 조성을 위한 추진체계 마련...3년마다 기본계획 수립 과기정통부장관은 관계부처 및 지자체 의견을 수렴해 국가 AI 경쟁력 강화를 위한 인공지능기본계획을 3년마다 수립하고 시행(제6조)할 수 있다. 아울러, 지난 9월 출범한 국가인공지능위원회(위원장 대통령) 운영의 법적 근거를 마련(제7조)하고, 인공지능과 관련해 발생할 수 있는 위험으로부터 국민의 생명‧신체‧재산 등을 보호하기 위한 전문기관으로 인공지능안전연구소 운영 근거(제12조)를 뒀다. R&D, 학습용데이터, 데이터센터, 집적단지 등 산업육성 지원 인공지능 산업육성을 위해 R&D 지원(제13조), 표준화(제14조), 학습용데이터 시책 수립(제15조), AI 도입‧활용 지원(제16조) 등에 대한 정부 지원 근거를 마련했다. 또 AI집적단지 지정(제23조), AI 데이터센터 시책 추진(제25조), AI 융합 촉진(제19조) 등을 통해 대한민국 인공지능 생태계의 혁신적인 발전을 지원하는 한편 AI 전문인력 확보(제21조), 중소기업을 위한 특별지원(제17조), 창업 활성화(제18조) 등 AI 시대를 선도할 인재 양성과 중소·스타트업의 성장을 촉진하기 위한 사항도 함께 담았다. 고영향AI‧생성형AI에 대한 안전‧신뢰 기반 조성 인공지능의 기술적 한계, 오‧남용 등으로 발생가능한 문제를 사전에 예방하기 위해 규제 대상으로 고영향AI와 생성형AI를 정의하고, 투명성 확보 의무(제31조), 안전성 확보 의무(제32조), 사업자 책무(제34조)를 규정했다. 아울러, 민간이 자율적으로 추진하는 AI 안전성‧신뢰성 검‧인증(제30조), 인공지능 영향평가(제35조)에 대한 정부의 지원 근거도 마련했다. 이번 'AI기본법'은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 2026년 1월부터 시행될 예정이다. 정부는 이 법이 신속하게 시장에 안착할 수 있게 하위법령과 가이드라인 마련 등 후속조치도 조기에 추진할 계획이다. 유상임 과기정통부 장관은 "국가 AI경쟁력 강화의 밑거름이 될 AI기본법 국회 통과를 매우 뜻깊게 생각한다”며 “인공지능을 둘러싼 치열한 글로벌 경쟁 속에서 AI기본법 제정을 통해 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 명실상부하게 AI G3 강국으로 도약할 수 있는 중요한 이정표가 마련됐다"고 밝혔다. 이어 "AI기본법 제정은 끝이 아닌 시작”이며 “현장과의 긴밀한 소통을 통해 하위법령 제정과 각종 산업지원 시책 수립을 속도감 있게 추진하고, 국가 AI 컴퓨팅 인프라를 조속히 구축하도록 최선의 노력을 기울이겠다"고 말했다. 한편 AI기본법 통과에 대해 국회 과방위 소속 의원들이 잇달아 소감을 밝혔다. 황정아 의원(민주당, 대전 유성구을)은 "우리가 적극 추진한 인공지능사업자의 인공지능 실증, 성능시험 등을 지원하기 위한 시설, 장비, 설비 구축 등 국가와 지자체의 민간 실증 지원 근거 규정도 반영, AI 기술 발전에 보다 활력을 불어넣을 것으로 기대한다"면서 "딥페이크를 비롯한 AI의 부작용을 막기 위한 규제도 포함됐다. 인공지능사업자가 고영향 인공지능 또는 이를 이용한 제품 서비스를 제공하는 경우 신뢰성 확보를 의무화하도록 했다. 인간의 생명과 신체, 정신적 건강 등에 해가 되지 않는 등의 윤리원칙도 명시했다"고 밝혔다. 이어 과기계의 숙원이자 시대적 과제인 AI기본법이 마침내 통과돼 산업 발전과 신뢰성 확보라는 두 축을 조화롭게 아우르는 법적 기반이 마련됐다면서 "AI기본법 제정은 대한민국의 AI 생태계 구축을 위한 중요한 첫 발걸음"이라고 강조했다. 이훈기 의원(민주당, 인천 남동구을)은 "미국, 유럽 등 세계 각국이 인공지능 법제를 마련하는 상황에서. 우리 역시 우리나라만의 인공지능 발전과 안전성 확보를 위한 법제 마련이 시급했다"면서 "이번에 통과된 기본법에는 인공지능이 우리 국민의 기본권에 미치는 영향평가를 하도록 한 내용이 포함돼 의미가 남다르다"고 진단했다. 실제 이번 제정안은 '인공지능 영향평가' 규정을 포함하고 있다. 영향평가는 사업자가 고영향 인공지능 제품이나 서비스 출시 전에 사회, 경제, 환경 등 사람의 기본권에 미치는 다양한 영향을 고려하도록 한 것으로, 공공기관 등이 채용이나 공공서비스를 위해 인공지능을 사용할 때는 영향평가가 완료된 서비스를 우선 이용하도록 했다. 조인철 의원(민주당, 광주 서구갑)은 광주가 AI 거점도시를 표방하면서 그간 진행한 AI 관련 사업을 중단없이 진행할 수 있게 ▲인공지능집적단지 조성 지원 ▲인공지능 실증 기반 조성 등의 내용을 법안에 포함했면서 "또 인공지능 집적화를 지원하기 위한 전담기관 지정에 대한 근거도 마련했다"고 밝혔다. 광주광역시는 지난 2020년부터 총사업비 4265억 원을 투입해 인공 지능 중심 산업융합 집적단지를 조성해 왔다. 국가 AI데이터센터 등 연구 개발을 지원하는 핵심 기반시설도 구축했다. 오는 2029 년까지 약 9000 억 규모의 '인공지능 실증 밸리 확산사업'을 추진, AI 2 단계 사업에 박차를 가하고 있다. 조 의원은 "AI 기본법이 광주를 AI 거점도시로 성장시키는 발판이 되고, 광주의 AI 발전이 곧 대한민국 전체의 미래 경쟁력을 높이는 마중물이 되기를 기대한다"고 덧붙였다.

2024.12.26 18:34방은주

[기고] 야누스의 얼굴을 가진 인공지능

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 로마 신화에 '야누스'라는 신이 나온다. 출입문으로 드나드는 사람들을 보기 위해 앞뒤에 얼굴을 가진 출입문의 수호신으로 알려져 있다. 세상 만사의 시작을 지배하는 신이기도 해서 한해의 시작인 1월을 뜻하는 영어 단어 '제뉴어리(January)'에 그 흔적을 남기기도 했다. 다만 야누스는 앞과 뒤의 모습이 다른 두 얼굴을 가진 것으로 묘사돼 어떤 일의 양면성, 밝은 면과 어두운 면이 공존하는 것을 표현할 때도 쓰인다. 생성형 인공지능(AI) 기술이 발전하면서 상상 속에서만 가능해 보였던 일들이 현실이 되고 있다. AI 기술이 글 내용을 음성으로 읽어 주고, 음악을 만들고 이미지를 만들어 낸다. 실제로 연기하는 배우 없이 만들어낸 동영상이 크게 어색하지 않은 단계에 이르렀다. 이처럼 AI 기술이 빠른 속도로 발전하면서 AI에 대한 기대가 커지고 있다. 한편으로는 자칫 AI를 이용한 결과물로 인해 정보가 유통되는 생태계의 무결성이나 신뢰성에 영향을 미칠 수 있고, 이로 인해 잘못된 정보가 사실인 것처럼 유통되거나 소비자를 기만하는 등의 문제가 발생할 위험이 있다는 우려도 나온다. AI가 결과물을 생성해 내는 과정이 블랙박스처럼 돼 있고, AI를 통해 만들어낸 결과물이 실제 존재하는 것과 구별하기 어려울 정도라, AI를 이용해 생성하는 결과물을 법률적으로 어떻게 다룰 것인지에 대한 논의도 한창이다. 유럽연합(EU)은 AI법을 제정하며 AI 시스템이 적절한 추적과 설명이 가능한 방식으로 개발 및 사용되고, 인간이 AI 시스템과 상호작용하거나 소통하고 있다는 사실을 인지해야 한다는 '투명성 원칙'을 밝혔다. EU AI법은 이런 원칙에 따라 AI 시스템 제공자가 사람이 아닌 AI 시스템에 의해 결과물이 생성됐음을 감지할 수 있는 기술적 솔루션을 시스템에 내장하도록 했다. 이러한 기술적 솔루션에 더해 AI 기술로 만든 결과물이 기존의 인물, 장소 또는 사건과 현저히 유사해 보는 사람으로 하여금 실제 사실인 것처럼 잘못 인식하게 하는 딥페이크에 대해서는 해당 콘텐츠가 AI에 의해 생성된 것이라는 점을 배포자로 하여금 표시하도록 했다. 우리나라도 'AI 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등'을 '딥페이크 영상 등'이라 정의했다. 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작, 편집, 유포, 상영 또는 게시하는 행위를 하지 못하도록 선거법을 개정했다. 선거운동 기간이 아닌 때도 선거운동을 위해 딥페이크 영상 등을 제작, 편집, 유포, 상영 또는 게시할 때 선관위 규칙으로 정하는 바에 따라 AI 기술 등으로 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 표시하게 했다. 선거운동의 자유를 최대한 보장하면서도 선거의 공정성을 확보하기 위해 AI 기술 등을 이용해 만든 콘텐츠라는 사실을 누구나 쉽게 알아 볼 수 있도록 표시할 의무를 둔 것이다. 최근 국회 소관 상임위를 통과한 AI기본법 제정안도 AI사업자가 생성형 AI 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시하도록 정했다. 또 AI시스템으로 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 AI시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하도록 했다. 다만 AI로 만든 모든 콘텐츠에 'AI를 이용해 생성한 결과물'이라는 표시를 할 필요가 있을지는 의문이다. 선거 등 정보의 출처가 중요한 경우, 또 개인의 인격권 침해가 될 수 있는 경우에는 그 콘텐츠가 AI에 의해 생성된 것인지를 표시할 필요가 있다. 그러나 이러한 경우가 아닌 모든 경우에 표시가 필요할지, 표시를 한다면 어떠한 방식으로 할 것인지, 동영상, 이미지, 텍스트 등 각 콘텐츠의 특징을 고려해 콘텐츠 자체를 향유하는데 방해가 되지 않는 방식이 무엇일지 등 여러 가지 논의가 필요해 보인다. 로마인들은 야누스의 얼굴 중 한쪽은 과거를, 다른 한쪽은 미래를 본다고 생각했다고 한다. 야누스를 세상일의 복잡한 측면, 과거와 미래를 함께 보며 균형을 잡아주는 수호신으로 생각했던 것 같다. AI이 가진 두 얼굴도 균형을 이룰 수 있도록 제정되는 법률이 야누스의 역할을 하기를 기대한다.

2024.12.23 17:23유재규

[AI는 지금] 규제 갈림길 선 AI, 진화 속도 빨라졌다

"인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 가능성이 99.9%에 달합니다. 미래에는 AI가 인간을 반드시 해칠 수 있습니다." 로만 얌폴스키(Roman Vladimirovich Yampolskiy) 루이빌대 사이버보안연구소 교수는 최근 AI의 위험성을 제기하며 이처럼 경고하고 나섰다. 챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들뿐 아니라 국가안보 정부 당국자, AI·보안 전문가들도 함께 AI에 대해 우려하며 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고의 메시지를 잇따라 내놓고 있다. 1984년 개봉해 전 세계적으로 선풍적인 인기를 끈 '터미네이터'는 AI의 위험성을 가장 극명하게 보여주는 영화로 손꼽힌다. '터미네이터'의 배경은 2029년 미국 로스앤젤레스로, AI가 핵전쟁을 일으켜 잿더미를 만들고 남은 인류를 말살하는 과정에서 살아남은 인간들이 투쟁을 벌이는 과정을 담았다. '악의'가 아닌 논리적인 계산을 거쳐 AI가 인간을 적대한다는 내용은 AI가 등장하는 소설과 영화 등에서 숱하게 사용돼 왔다. 하지만 최근 AI의 발전 과정을 보면 이젠 단순히 영화 속 이야기로 치부하기 어렵게 됐다. 실제 지난해 5월 AI가 통제하는 미국 공군의 드론이 적의 지대공 시스템을 찾아 폭격하는 가상훈련에서 AI는 자신의 임무를 방해한다고 인식한 오퍼레이터를 폭격했다. "오퍼레이터를 살해하지 말라"는 사전 명령에도 불구하고 벌어진 일이었다. 가상훈련이었던 만큼 실제로 폭격이 일어나진 않았지만, AI가 인간을 위협하는 일이 현실이 될 수 있다는 가능성을 보여줬다. AI는 데이터를 학습하고 정해진 알고리즘에 따라 추론하는 것이 기본적인 역할이다. 그러나 인터넷이 발전하며 학습할 수 있는 데이터가 급격히 늘어났고, 엄청난 양의 데이터를 AI에게 학습시킬 수 있는 시대가 됐다. 그 결과 방대한 학습량을 기반으로 텍스트, 이미지는 물론 소리, 영상까지 생성해 낼 수 있는 '초거대 AI'가 등장했다. 특히 2022년 11월 오픈AI가 '챗GPT'를 내놓으면서 AI는 새로운 변화를 맞았다. 오픈AI를 필두로 구글, 마이크로소프트, 메타, 아마존 등 주요 빅테크가 연일 새로운 기술을 쏟아내면서 생성형 AI는 불과 2년여 만에 무서운 속도로 발전했다. 오픈AI가 최근 공개한 최신 AI 모델 'GPT-4o'는 텍스트는 물론 음성, 시각 정보까지 이해하고 '인간의 전유물'로 여겨진 창작 영역까지 넘보고 있다. 이처럼 빠른 속도로 AI가 발전하는 것과 동시에 오류도 곳곳에서 나타나고 있다. 구글이 새롭게 선보인 검색 기능 'AI 오버뷰(AI Overview)'는 허위 답변을 제공한다는 비판을 받았고, 오픈AI의 'GPT-4o'에서는 음성 비서 '스카이'가 유명 배우 스칼렛 요한슨(Scarlett Ingrid Johansson)의 목소리를 도용했다는 의혹에 휩싸여 서비스를 한 때 중단했다. 무리한 AI 개발 속도 경쟁이 얼마나 위험한 지를 보여주는 사건이다. AI 기술의 발전은 그 자체로 긍정적일 수 있지만, 기술 혁신과 창작자 권리 보호, 윤리와 도덕성 사이에서 균형을 맞추기 위한 과도기를 겪고 있다. 이 같은 상황에서 AI가 얼마나 위험한지 현 상황을 짚어보고 파악하는 것은 중요한 의미를 갖는다. 인공일반지능(AGI)이 조만간 개발돼 보편화될 것이란 전망 속에 AI의 위험성을 제대로 인지하고 있어야 부작용을 예방하고 향후 AI와 인간이 공존할 수 있게 된다. 유럽연합(EU)뿐 아니라 미국, 중국, 일본 등 세계 각국이 AI 관련 법제화에 속도를 내는 이유도 여기에 있다. 생각하는 기계 'AI'의 등장 현재 생활의 일부로 알게 모르게 들어온 AI는 최근 들어 빠른 속도로 발전했지만 연구 과정은 순탄치만은 않았다. 일단 기계로 빠르고 정확히 계산하는 '컴퓨터'가 등장한 후 이를 활용해 인간의 지적 능력을 인공적으로 만들려는 시도는 1950년대부터 있었다. "기계도 생각할 수 있는가?" 영화 '이미테이션 게임'의 실제 주인공이자 영국의 과학자인 앨런 튜링(Alan Mathison Turing)은 지난 1950년 10월 1일 국제 학술지 옥스퍼드에 게재한 논문 '계산 기계와 지능(Computing Machinery and Intelligence)'의 첫 문장을 이처럼 썼다. 그가 제시한 개념은 1956년 미국 다트머스에서 열린 회의를 통해 '인공지능(AI, artificial intelligence)'이라는 용어로 탄생했다. AI의 태동기로 불리는 1950년대에는 인간의 지식을 기호와 수학적 관계로 표현해 기계에 지능을 부여하려는 '규칙 기반 인공지능' 기술이 많은 관심을 받았다. 이 연구의 기반이 되는 기계적 계산으로 '직접 지능을 구현한다'는 움직임은 '계산주의', '기호주의' 등으로 불렸다. 신경생물학자 프랭크 로젠블랫(Frank Rosenblatt)은 1958년 '퍼셉트론(Perceptron)'이라는 알고리즘을 제시했다. 생물 신경세포인 '뉴런'에서 착안한 퍼셉트론은 입력 정보의 가중치를 조정해 수학적 처리를 거쳐 결과를 내놓는 구조다. 현재는 딥러닝에 쓰이는 인공신경망 모델로 불린다. 로젠블랫은 기초적인 논리연산을 퍼셉트론으로 구현하는 데 성공했고, 이 퍼셉트론에서 '머신러닝'의 기초적인 개념이 탄생했다. 퍼셉트론이 제시된 이후 사람의 뇌 구조를 본떠 기계에 지능을 부여하자는 시도인 '연결주의'라고 불리는 연구 경향이 등장했고, AI 연구의 한 축이 됐다. 하지만 1969년 'AI 대가'인 마빈 민스키(Marvin Lee Minsky)가 퍼셉트론으로 구현할 수 없는 논리연산(XOR연산)이 있다는 논문을 발표한 후 AI를 연구하려는 분위기는 가라앉았다. 머신러닝 등 AI 연구와 관련된 예산이 대규모로 삭감됐기 때문이다. 민스키의 논문으로 AI는 20년 가까이 암흑기를 겪었다. 다만 이때 퍼지 이론, 통계적 데이터 처리법, 데이터 마이닝 등 신경망 기반이 아닌 AI 유관 기술은 점차 발달했다. 암흑기에서 빠져나온 것은 1988년이다. 퍼셉트론 같은 인공 신경망을 층층이 쌓아 XOR연산 불가 문제를 해결한 것이다. 그러나 여러 층으로 신경망을 쌓으면 복잡해지게 돼 머신러닝 조정이 어려워 짐에 따라 지능 구현에 한계를 보인다는 문제점이 드러났다. 또 다층의 신경망을 운용하기 위한 연산 장치(하드웨어)의 발전이 충분하지 않은 데다 AI에 입력시킬 데이터도 부족하다는 시대적 한계도 있었다. 인공 신경망을 층층이 쌓는다는 아이디어는 2010년대의 '딥 러닝(Deep Learing)'으로 이어졌다. 그동안 인터넷의 영향으로 데이터가 기하급수적으로 늘어나고 병렬처리를 중심으로 한 연산 능력도 비약적으로 발달한 덕분에 '딥 러닝'은 출현할 수 있었다. 이후 합성곱신경망(CNN) 등이 발달하며 퍼셉트론부터 이어진 '연결주의' AI 전성시대는 본격화됐다. 특히 2016년에는 구글 딥마인드가 개발한 '알파고'가 등장해 이세돌 9단을 꺾으면서 대중에게도 큰 인상을 남겼다. 생성형 AI 시대 '활짝' 인간을 절대 따라잡을 수 없을 것이라 여겼던 '바둑' 분야에서 특출한 능력을 보여주면서 AI는 우리 삶을 빠르게 바꿀 것이라는 기대가 커졌다. 바둑 외에 AI가 일상에 변화를 주는 일은 그 이후에도 크게 일어나지 않았지만, 컴퓨팅 능력, 반도체 기술 등은 점차 빠른 속도로 발전됐다. 그러나 지난 2022년 말 오픈AI가 '챗GPT'라는 생성형 AI를 선보인 이후 시장은 빠른 속도로 변했다. 이제는 수많은 빅테크 기업이 생성형 AI를 기반으로 한 다양한 서비스를 내놓으면서 AI가 우리 삶에 빠르게 침투하고 있는 분위기다. 이들의 기술 경쟁은 올해 상반기에도 계속됐다. 오픈AI는 지난 2월 동영상 생성 AI '소라(SORA)'를 공개해 시장을 놀라게 했다. 소라가 만든 다양한 영상도 함께 선보였는데, 몇 줄의 프롬프트만으로 최대 1분 길이의 영상을 만들 수 있다는 점에서 주목받았다. 오픈AI 견제에 나선 구글도 같은 달 멀티모달 AI 모델 '제미나이(Gemini) 1.0 울트라'를 업그레이드한 '제미나이 1.5 프로'를 선보였다. 지난 5월에는 '구글 연례 개발자 회의(I/O)'를 통해 검색 엔진에 제미나이를 탑재할 것이란 소식뿐 아니라 구글의 음성 모델을 기반으로 하는 새로운 프로젝트 '아스트라(Astra)'도 공개했다. 이는 AI가 사람처럼 보고, 듣고, 음성으로 대화하면서 이용자의 개인 비서 역할을 하는 기능이다. 오픈AI 대항마로 불리는 앤트로픽(Anthropic)도 올해 3월 생성형 AI 모델 제품군인 '클로드 3'을 공개했다. 특히 가장 성능이 우수한 '클로드 3 오퍼스'는 앤스로픽이 내놓은 첫 '멀티모달' 생성형 AI로 눈길을 끌었다. 사용자는 사진, 차트, 문서 및 기타 유형의 데이터를 업로드하고 이에 대한 분석과 답변을 얻을 수 있다. 메타는 지난 4월 새 AI 모델인 '라마 3(Llama 3)'을 공개했다. 소셜 미디어(SNS) 플랫폼용 챗봇인 메타 AI도 이날 함께 공개했는데, 지난해 9월 베타 서비스를 시작한 지 7개월 만이다. 라마 3을 기반으로 만들어진 메타 AI는 페이스북과 인스타그램 등에 내장돼 사용자 질문에 답함은 물론 이미지 생성도 가능하다. 이 같은 분위기 속에 오픈AI는 지난 5월 'GPT-4o'라는 새로운 플래그십 AI 모델을 발표해 다시 한번 세계적인 관심을 불러일으켰다. GPT-4o는 GPT-4의 개선판으로, 더 빠른 응답속도를 제공하면서 향상된 시각·청각 기능을 갖춘 모델이다. 모델명에 '모든 것(omni)'이라는 뜻으로 o를 붙였는데, 이는 사용자와의 다양한 상호작용 방식을 하나의 모델에 통합해 텍스트, 음성, 이미지, 비디오를 모두 다룰 수 있다는 것을 나타낸다. 'GPT-4o'의 이점은 '향상된 사용자 경험'으로 요약할 수 있다. 대화형 AI 모델의 응답시간은 사용자가 얼마나 자연스럽게 AI와 상호작용을 할 수 있는지를 결정짓기 때문에 사용자 경험에 있어 매우 중요한 요소다. GPT4o는 최소 응답시간 232밀리초, 평균 320밀리초 만에 답할 수 있다. 인간 간의 대화에서 평균 응답시간이 약 200~500밀리초인 점을 감안하면 굉장히 빠른 속도다. 'GPT-4o'는 AI가 말하는 중간에 사용자가 끼어들 수 있도록 설계돼 AI의 말이 끝나기를 기다릴 필요 없이 즉각 다른 요청을 하고 답변을 받을 수 있다는 점도 눈길을 끈다. 이는 자연스러운 대화를 가능하게 해 사용자의 만족도를 크게 높이는 요소로 평가된다. 또 50개가 넘는 언어를 지원하고, 사용자의 명령에 따라 음성의 톤(어조)을 변경하거나 특정한 음성으로 대화를 진행할 수도 있다. 'GPT-4o'의 등장은 대화형 AI의 새로운 시대를 여는 중요한 진전이자, 향후 다양한 분야에서 혁신적인 변화를 불러올 것이란 기대감을 키우고 있다. 이를 통해 앞으로는 국제 콘퍼런스나 다국적 기업의 회의에서 실시간 통번역을 활용하거나, AI 교사가 언제든 학생의 요청에 실시간으로 빠르게 대응해 교육 효과를 높일 수 있을 것으로 예상된다. 미라 무라티 전 오픈AI 최고기술책임자(CTO)는 "GPT-4o는 사람들과 실시간으로 상호작용하며 대화한다"며 "텍스트 외에 이미지와 동영상도 잘 분석할 수 있다"고 강조했다. 'GPT-4o' 등장…'AGI' 시대 임박 'GPT-4o'의 등장 이후 빅테크들의 기술 경쟁이 더 치열해지면서 AI의 발전 속도도 더 가팔라질 것이란 전망이 많다. AI는 이제 주어진 명령을 수행하는 데 그치지 않고 중간에 필요한 업무를 스스로 찾아내 결과물을 도출하는 'AI 에이전트'로 진화하고 있다. 그 종착점으로는 주어진 모든 상황에서 인간처럼 추론, 학습하고 문제를 해결하는 능력을 갖춘 'AGI'가 될 것으로 보고 있다. 인간의 명령 없이도 스스로 판단하고 일할 수 있다는 뜻이다. 영화 아이언맨 속 '자비스', 영화 그녀(Her) 속 '사만다' 같은 수준의 AI가 현실화되는 것도 멀지 않았다. 아직 AGI의 명확한 판별 기준이나 정의는 없다. 오픈AI에선 '인간보다 똑똑한 AI 시스템'으로 AGI를 정의하며 관련 기술 개발에 몰두하고 있다. 오픈AI 전 연구자 출신 대니얼 코코타즐로는 "오픈AI가 최초의 AGI 구축 개발자가 되기 위해 무모하게 경쟁하고 있다"고 말했다. 구글의 '아스트라'도 AGI 프로젝트다. '알파고의 아버지' 데미스 허사비스 구글 딥마인드 CEO는 'AGI 시대 도래'를 선언하며 AGI의 일부 기능을 올 연말 구글 AI '제미나이'에 담겠다고 예고한 바 있다. 허사비스는 "일상생활에 도움을 주는 AGI를 개발하고 싶었다"며 "AGI는 사람처럼 복잡하고 역동적인 세계를 이해하고 대응할 수 있어야 한다"고 강조했다. AGI는 AI의 궁극적 지향점이자 전 세계 기술 패권을 거머쥐는 핵심으로 급부상하며 글로벌 빅테크들의 '쩐의 전쟁'이 벌어지고 있다. 덕분에 최소 30년, 적어도 10년으로 꼽히던 AGI 출현 예측 시기는 최근 5년 내외로 앞당겨지는 추세다. 샘 올트먼 오픈AI 최고경영자(CEO)와 젠슨 황 엔비디아 CEO는 5년 정도 후 AGI 현실화를 내다본다. 일론 머스크 테슬라 CEO는 이르면 내년으로 봤다. 전문가들은 AGI에 대한 통제력 상실 위험에 대비해야 한다는 지적을 속속 내놓고 있다. 스티븐 호킹 박사와 일론 머스크 테슬라 CEO 등은 AGI의 출현이 인간의 생물학적 한계로 인해 인류를 대체할 수 있다고 우려했다. 지난 3월 미국 기업 글래드스톤 AI는 미 국무부 의뢰를 받아 발표한 보고서에서 "가장 발전한 AI 시스템이 최악의 경우 '인류 멸종 수준의 위협'이 될 수 있다"고 경고했다. 제프리 힌튼 캐나다 토론토대학 교수는 "AGI의 상용화가 예상보다 빠를 것"이라며 "그에 따른 위험도 크다"고 경고했다. 오픈AI 전 연구자 출신인 대니얼 코코타즐로는 "AGI가 오는 2027년께 완성될 수 있을 것으로 보인다"며 "AGI가 인류를 파괴하는 재앙이 될 확률은 70%에 달한다"고 말했다. 반면 AGI의 개발은 불가능하다고 주장하는 전문가들도 있다. 앤드류 응(Andrew Ng) 미국 스탠퍼드대학 교수가 대표적으로, AGI에 도달하려면 30~50년이나 더 걸릴 수도 있다고 주장했다. AI가 인류에게 도움이 될 것이라는 'AI 부머(boomer)'로 분류되는 얀 르쿤(Yann LeCun) 미국 뉴욕대 교수는 "인간 수준의 AI 등장 시기를 예측하는 것은 어렵고 위험도 과장됐다"고 평가했다. 인간 위협하는 AI…신뢰도는 '글쎄' AI가 이미 현실에서 인간에게 위협을 줄 만한 일들을 속속 벌이고 있다는 점에서 AGI가 나타나기 전 인간의 선한 의지와 배치되지 않는 '정렬(alignment)' 작업이 필요하다는 지적들도 있다. AGI 기술이 테러조직·해커 등의 손에 잘못 들어가게 될 경우 참사가 일어날 수도 있는 데다 AGI 자체가 인간의 통제를 벗어나 문제를 일으킬 가능성도 있다는 점에서다. 실제 오픈AI '챗GPT'는 탈옥 모드로 해킹돼 논란이 됐다. 플리니 프롬프터(Pliny the Prompter)라는 해커는 X(옛 트위터)를 통해 자신을 'AI 레드팀' 멤버라고 소개하며 오픈AI 커스텀 GPT 편집기를 사용, 새로운 GPT-4o 모델의 모든 제한을 우회하는 방법을 찾아냈다고 밝혔다. 그 결과 AI 챗봇이 욕설을 내뱉게 하고 자동차 탈취 방법을 생성하게 할 뿐 아니라 심지어 폭탄을 제조하는 방법을 안내하도록 했다. AI 환각·편향성 등도 문제다. 구글은 올해 새롭게 선보인 검색 기능 'AI 오버뷰(AI Overview)'에서 허위 답변을 제공해 망신을 톡톡히 당했다. 예컨대 '미국에 얼마나 많은 무슬림 대통령이 있었는가' 질문하자 "버락 오바마는 미국 최초의 무슬림 대통령"이라고 잘못된 답변을 내놓은 것이다. 또 '치즈가 피자에 달라붙지 않는다'라는 사용자의 말에 AI 오버뷰는 "소스에 무독성 접착제 8분의 1컵을 넣으면 된다"는 황당한 조언도 내놨다. 위험성 증가에 AI 규제안 마련 골몰…韓, AI 기본법 연내 통과 '임박' 이처럼 AI에 대한 위험성이 점차 커지면서 이를 제어하기 위해 곳곳에서 방안 마련에 나서고 있다. 유럽연합(EU)이 올해 3월 세계 최초로 포괄적인 AI 기술 규제법안인 'AI법'을 최종 승인한 배경도 이런 위험도를 낮추기 위한 수순으로 분석된다. 2026년 이후 전면 시행될 이 최종안에 따르면 EU는 AI 활용 분야에 대해 총 4단계의 위험 등급으로 구분해 차등 규제할 예정이다. 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7% 수준의 과징금이 부과될 수 있다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억 원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 영국과 캐나다도 법률, 의료 등에 AI 기본 원칙을 세워 준수하고 있다. 영구적인 안전장치가 필요하다는 주장도 있다. 에릭 슈미트 전 구글 최고경영자(CEO)는 최근 개최한 콘퍼런스에서 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 발언해 주목받았다. 이처럼 세계 각국이 AI 관련 법제화에 속도를 내고 있지만 우리나라는 예외다. AI 기본법이 지난해 2월 국회 과학기술정보방송통신위원회의 법안심사소위를 통과하고도 1년 넘게 방치되다 결국 21대 국회가 끝나면서 자동 폐기됐기 때문이다. 22대 국회에서도 연내 통과를 추진해왔지만 이달 초 윤석열 대통령의 비상계엄령 사태로 한 때 위기를 맞기도 했다. 전문가들은 미래 먹거리로 AI 산업을 육성해야 하는 우리나라의 상황에서 진흥과 규제를 아우르는 법 제도가 하루 빨리 갖춰져야 한다고 입을 모은다. 글로벌 AI 기업들과 경쟁이 심화되는 상황에서 법 제정이 늦어질수록 국내 AI 기업들의 경쟁력은 그만큼 떨어질 수밖에 없다고 보고 있다. 이에 국회는 더 이상 늦출 수 없다는데 의견을 같이하고 이달 말께 AI 기본법을 본회의에서 처리하기로 거의 합의를 봤다. AI기본법은 정부가 AI 산업 육성을 지원하고 필요한 규제를 할 수 있도록 관련 법적 근거를 담았다. 대통령 직속 '국가AI위원회'를 설치·운영하고 과학기술정보통신부는 3년마다 국가AI위원회 의결에 따른 AI 정책 방향과 전문인력 양성 등을 담은 국가 AI 전략인 'AI기본계획'을 수립해야 한다. 최형두 국민의힘 의원은 "최근 비상계엄 사태로 야기된 정치적 혼란과 과방위의 7개월간 방송 이슈 집중으로 산업계에 실망을 드려 죄송하다"며 "여야가 힘을 모아 연말 AI 기본법 통과를 목전에 두고 있듯 보다 적극적으로 산업 지원에 나서겠다"고 말했다. 조인철 더불어민주당 의원은 "본회의가 예정된 27일 AI 기본법은 통과될 것 같다"며 "만약 그날 (통과가) 안 되더라도 반드시 AI 기본법을 통과시켜 놓겠다"고 공언했다. 조준희 한국소프트웨어산업협회(KOSA) 회장은 "엄중한 상황에서도 여야 국회와 관계부처의 노력으로 AI 기본법이 연내 제정을 가시화하는 성과를 달성했다"며 "내년을 전 산업의 AI 내재화 원년으로 선포할 것"이라고 강조했다.

2024.12.20 16:54장유미

더불어민주당 조인철 의원 "AI 기본법 이달 27일쯤 통과될 것"

"오는 27일 본회의가 예정된 것으로 알고 있습니다. 그날 인공지능 기본법은 통과될 것 같습니다." 더불어민주당 조인철 의원은 19일 서울 반포 플렌티컨벤션에서 열린 '2024 KOSA 회원 송년의 밤' 행사에서 본회의 의결을 남긴 AI 기본법에 긍정적인 입장을 밝혔다. 이날 행사에서 SW 의정대상을 수상한 조 의원은 "본회의가 예정된 27일 AI 기본법은 통과될 것 같다"며 "만약 그날 (통과가) 안 되더라도 반드시 AI 기본법을 통과시켜 놓겠다"고 강조했다. AI기본법은 전 산업에 걸쳐 핵심 기술로 주목받는 AI의 건전한 발전에 기여하고 AI 사업자의 투명성과 안정성을 확보하기 위한 법안이다. 지난 17일 AI기본법에 대한 법사위 심사를 마치고 오는 27일 본회의만을 남기고 있다. 이번 AI기본법은 22대 국회에서 발의 19건의 법안을 병합한 것으로 AI 기본계획의 수립과 시행, 국가AI위원회 설치 등 산업 육성 및 진흥에 대한 내용과 딥페이크 등 기본권에 중대한 영향을 미칠 수 있는 부분에 대한 규제도 포함한다. 조 의원은 "이번에 준 상은 상값을 톡톡히 하라는 이야기 같다"며 "어려운 일이 있을때 언제든 연락주시면 최선을 다하겠다"고 수상소감을 밝혔다.

2024.12.19 18:40남혁우

정부 "AI기본법 사실조사, 행정조사기본법 규정 반영”

인공지능(AI) 기본법안의 사실조사 조항을 두고 일각에서 단순 민원으로도 조사가 이뤄진다고 주장하는 가운데, 정부는 필요 최소한의 범위 내에서만 사실조사가 가능하다고 설명했다. 과학기술정보통신부는 18일 설명자료를 통해 “법제사법위원회를 통과한 AI기본법안의 사실조사 조항은 AI기본법에만 규정된 것이 아니다”면서 “현행법 상 행정조사의 기본법인 행정조사기본법 제7조 규정을 반영한 일반적인 내용”이라고 밝혔다. 이어, “법사위는 심사 과정에서 업계의 우려를 반영해 사실조사의 내용, 방법, 절차 등에 관해 이 법에서 정하는 사항을 제외하고는 행정조사기본법에서 정하는 바에 따르도록 자구를 수정했다”고 강조했다. 과기정통부는 또 “행정조사기본법에서 규정하는 바와 같이 조사목적을 달성하는데 필요한 최소한의 범위 안에서 실시할 예정”이라며 “다른 법령에서 규정하는 바와 같이 사실조사 조건을 명확히 하기 위해서 민원인의 사적 이해관계에서 민원이 제기됐거나 익명의 탄원, 투서 등에 의해 이뤄지는 등의 경우에는 사실조사를 실시하지 않도록 하위법령에 명시할 계획”이라고 덧붙였다.

2024.12.18 09:15박수형

AI기본법·단통법 폐지안, 국회 법사위 문턱 넘었다

인공지능(AI) 기본법 제정안과 단말기유통법 폐지안, 디지털포용법 제정안이 17일 국회 법제사법위원회 문턱을 넘어섰다. 이 법안들은 오는 30일 개최 예정인 본회의를 통과할 것으로 전망된다. 법사위는 이날 전체회의를 열어 과학기술정보방송통신위원회를 거친 AI 기본법 제정안, 단통법 폐지안과 일부 조항을 이관한 전기통신사업법 개정안, 디지털포용법 제정안, 수신료 통합징수 내용을 담은 방송법 개정안, 마약 유통 처벌 관련 정보통신망법 개정안 등을 통과시켰다. 수신료 통합징수 조항을 담은 방송법 개정안 외에 법사위를 통과한 디지털 분야 법은 여야 이견이 없는 내용이다. 지난달 말 과방위 전체회의를 통과한 뒤 법사위 심사에 앞서 숙려기간을 거치며 부처 간 이견을 조율 과청을 거쳤다. 방송법 개정안 외에 다른 법안은 법사위 내에서도 별다른 이견이 나오지 않았다. 다만, AI 기본법을 두고 문화체육관광부 국장급 인사의 돌발 발언으로 잠시 논란을 빚었다. AI 기본법안의 주무부처인 과학기술정보통신부는 다른 부처와 이견 조율을 거치면서 산업통상자원부와 법안 내 표준 내용에 관해 합의를 마쳤다. 또 문체부와는 저작권 관련 내용으로 이견이 있었으나 유상임 장관이 이날 오전 한덕수 대통령 권한대행과 유인촌 문체부 장관과 논의 끝에 법안 통과로 정부 방침을 세웠다. 그런 가운데 법사위에서 문체부 저작권국장이 일부 조항 추가를 요구한 것이다. 이에 대해 과방위 더불어민주당 간사인 김현 의원은 법사위 회의에 출석해 “제정법에 대해 21대 국회에서도 충분히 논의됐고, 기본법을 우선 제정하고 각 상임위별로 후속법 논의가 맞다는 것이 과방위 전체회의 입장”이라고 밝혔다. 유상임 과기정통부 장관 역시 “문체부와 저작권법 개정으로 추진하는 것 이야기해왔고, 기본법에서는 가급적 규제는 담지 않고 문체부나 개인정보보호위원회와 규제에 관련해서는 차후 각 부처에서 다루는 것으로 합의를 거쳤다”고 설명했다. 이어, “안타깝다. (문체부) 국장님 의견이 강해 (문체부) 장관님도 안 따르는 것 같다”고 지적했다. 정청래 법사위원장은 “일단 개문발차한 뒤 부족한 부분은 해당 상임위원회에서 해결하는 것으로 하자”며 “부처 간 이견이 있는 법안은 계류시키고 숙성시켜야 하는데 그 부분이 해소된 사항”이라고 말했다. 수신료 통합징수 방송법 개정안에 대해서는 여야 의견이 나뉘었으나 표결에 따라 처리됐다. 이외 다른 법안에 대한 토론은 이뤄지지 않고 과방위 안에 일부 자구 수정을 거친 안으로 통과됐다.

2024.12.17 12:32박수형

"AI기본법 '사실조사'는 독소조항...사업자 막대한 규제 부담"

인공지능(AI) 기본법의 조항 중 '사실조사'에 대한 업계 우려가 커진다. 법 위반에 대한 신고나 민원이 접수된 경우에도 정부가 현장조사를 할 수 있어, 과도하다는 목소리다. 조사 실시 요건 제한을 단순 민원 접수에서 위반 행위 인정으로 바꿔야 한다는 의견의 제기됐다. 17일 관련업계에 따르면 이날 국회 법제사법위원회는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)' 논의를 진행한다. AI기본법은 AI 기술의 발전과 안전한 활용을 촉진하기 위해 과학기술정통부가 마련했다. 다만 업계에서는 해당 법안의 '제40조(사실조사 등)'에 대해 우려한다. 먼저 제40조 1항에서는 해당 법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우, 법 위반에 대한 신고를 받거나 민원이 접수된 경우 과기정통부 장관이 AI 사업자에 대해 관련 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 한다고 나와있다. 2항은 과기정통부 소속 공무원에게 사업자의 사무소·사업장에 출입하여 장부·서류, 그 밖의 자료나 물건을 조사하게 할 수 있도록 규정한다고 나와 있는데, 이런 조항들이 다른 법률에 비해 지나치게 쉬운 조사 실시 요건(단순 민원)으로 정부에 과도한 규제권한을 부여해 사업자에 막대한 규제 의무를 부과시킨다는 의견이다. 업계 관계자는 "정보통신망법은 민원 접수에 따른 정부의 권한을 자료 제출로 제한하고 있지만, AI 기본법은 단순 민원 접수로도 현장 조사를 실시할 수 있게 했다. 조사권 오남용이 우려된다"고 말했다. 이어 "경쟁사의 민원이나 악성 민원에도 사실조사를 받을 수 있다는 것은 독소조항이다"라면서 "불완전한 조항에 따른 중대한 법 체계적 문제, 타법과의 형평성 문제가 발생할 수 있다"고 지적했다. 이에 업계에서는 제40조제1항제2호 삭제와 함께 피조사자의 권리 조항 추가를 통한 법 체계적 문제를 해소하는 것을 대안으로 제시했다. 업계 관계자는 "진흥법이라는 이름 아래 이 법의 위반에 대한 신고, 민원만으로 정부가 사실조사의 명분으로 사업자의 사무소, 사업장에 출입하여 장부, 서류, 그밖에 자료나 물건을 조사할 수 있다면 아마 국내 인공지능 사업을 하는 사업자는 주소지를 해외로 옮기거나 국내 영업을 안 할 우려도 있다"고 밝혔다.

2024.12.17 10:33안희정

AI 산업, 尹 탄핵 정국 속 흔들리나…"초당파적 정책 연속성이 관건"

윤석열 대통령에 대한 탄핵 소추안이 지난 14일 국회 본회의에서 찬성 204표로 가결되면서 국가 인공지능(AI) 정책의 핵심인 AI 기본법 제정과 국가인공지능위원회 운영에 차질이 불가피할 것으로 보인다. 야당 역시 AI 기본법의 중요성에 공감해 정국 안정 이후 법안 처리에 진전이 있을 것으로 전망되나 업계는 신속한 경쟁력 회복의 중요성과 세부적인 정책 수립의 필요성을 강조하고 있다. 16일 업계에 따르면 AI 기본법은 국내 AI 산업계에 일종의 '가이드라인'을 제공하는 법안으로, 고위험 영역에서의 이용 지침과 안전성 확보를 위한 기업의 의무를 명시하고 있다. 이 법안은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체회의를 통과하며 법사위 논의를 거쳐 올해 중 통과가 예상됐으나 지난 9일 법제사법위원회(법사위) 전체회의에서 비상계엄령 관련 '내란 의혹 특검 수사요구안'이 먼저 다뤄지며 후순위로 밀려났다. 또 지난 9월 출범한 국가인공지능위원회(국가AI위원회)도 운영에 차질이 불가피할 것으로 전망된다. 국가AI위원회는 국가 AI 전략을 수립하고 시행하는 컨트롤타워 역할을 담당하는 대통령 직속 기구로, 윤 대통령의 직무정지로 인해 위원회의 정상적인 운영이 어려워질 전망이다. 특히 위원회가 계획했던 내년 1분기 내 국가 AI 전략 수립도 지연될 가능성이 높으며 정권 교체 시 위원 구성 변경으로 업무 연속성마저 위협받을 수 있다. 이로 인해 대폭 증액된 과학기술정보통신부(과기정통부)의 AI 예산 집행과 AI 산업 육성 시스템 마련에도 차질이 예상된다. 기자가 이와 관련해 과기부에 취재를 요청했으나 구체적인 답변을 받지 못했다. 일각에서는 탄핵 정국 이후 정권 교체 가능성이 대두되더라도 야당이 AI 산업의 초당파적 중요성을 인정하고 있기에 이견이 최소화되고 AI 분야가 지속적으로 진흥되리라고 전망하고 있다. 특히 법사위에 계류 중인 기본법안에 대해 이재명 대표 등 당 지도부는 신속 처리와 투자 요건 완화를 포함한 속도감 있는 정책 추진을 요구하고 있는 상황이다. 국가인공지능위원회 역시 대통령 탄핵 소추 상황 속에서도 중요한 역할을 지속해야 한다는 목소리가 나오고 있다. 한 야당 과방위 관계자 A씨는 "AI 산업은 분초를 다투는 중요한 문제이므로 대통령 탄핵 정국과 관계없이 여야가 협력해야 하는 분야"라며 "업무 공백을 최소화하고 AI 산업 발전을 위한 정책을 지속적으로 추진해야 한다"고 밝혔다. 그럼에도 불구하고 업계에서는 주요 정책 중단으로 인한 AI 발전 지연을 우려하고 있다. 치열한 글로벌 AI 경쟁 속에서 현재의 불안정한 정치적 상황이 국내 AI 발전에 불리하게 작용할 수 있다는 것이다. 한 AI 업계 관계자 B씨는 "현재의 정치적 상황은 불가항력이지만 AI 산업은 '골든타임'에 놓여 있다"며 C씨는 "정치와 관계 없이 당파를 초월해 AI 산업에 대한 일관적이고 전폭적인 지원이 필요하다"고 말했다. 이어 "업계 요구를 충분히 반영한 예산 배정과 정책 방향을 마련한다면 국가적 AI 경쟁력 강화에 큰 도움이 될 것"이라고 덧붙였다. 이와 동시에 법·규제 차원을 넘어 산업 발전을 위한 근본 조건 정비도 필요하다는 의견도 제기된다. 정치적 상황과 관계없이 반도체 생산 활성화, 전력 인프라 확충, 원자력 발전 지원 등 기반 산업부터 다뤄야 한다는 주장이다. AI 업계 관계자 C씨는 "규제·법제뿐 아니라 구체적 진흥 방안 논의가 중요하다"며 "어떤 기업에 얼마를 투자하고 무엇을 언제까지 할지 등 실질적 계획을 마련해 AI 산업이 흔들리지 않도록 해야 한다"고 강조했다.

2024.12.16 18:01조이환

"투자·인재·제도 열악한데 AI 3강?"…韓, 마이너리그 전락 '우려'

윤석열 대통령의 난데없는 비상계엄 선언 여파로 정국이 탄핵 국면으로 접어들면서 인공지능(AI) 분야 G3(3대 강국) 꿈도 좌절되는 분위기다. AI 기본법 통과가 차일피일 미뤄지며 제도적 기반이 원활히 이뤄지지 않은 탓에 기술도 점차 뒤처지면서 경쟁력이 말레이시아와 같은 '2군 경쟁국'에 해당한다는 분석이 나와 충격을 주고 있다. 11일 업계에 따르면 우리나라는 그간 네이버가 전 세계 세 번째로 '하이퍼클로바 X(HyperCLOVA X)'를 개발한 것을 계기로 '전 세계 AI 3대 강국'으로 도약하겠다는 야심을 드러내왔다. 하지만 투자 환경이 상당히 열악한 데다 정부, 정치권에서 기대 이하의 지원책을 내놓으면서 점차 뒤처지고 있는 분위기다. 실제로 한국지능정보사회진흥원(NIA)이 발간한 '글로벌 정부·민간 분야 AI 투자 동향 분석' 보고서에 따르면 우리나라는 지난해 기준 AI 투자를 선도하는 6개국에 이름을 올리지 못했다. 6개국은 미국·EU(유럽연합)·중국·영국·일본·캐나다로, 이 중 미국은 전 세계 국가의 AI 투자 규모에서 60%가 넘는 비중을 차지하며 압도적 1위에 올랐다. 미국은 마이크로소프트(MS)를 비롯해 오픈AI, 구글 등 생성형 AI 시장 '강자'들을 품고 있어 투자 시장에서 상당히 유리한 위치에 있는 것으로 파악됐다. 또 지난해 미국 정부의 AI 투자는 27억5천만 달러(약 3조8천87억원), 민간 투자는 846억7천만 달러(약 117조2천680억원)에 달했는데 합산 액수는 전 세계 AI 투자액의 약 62%였다. 여기에 오픈AI, 앤트로픽 등 생성형 AI 기업들에 대한 투자가 꾸준히 진행되고 있다는 점도 호재다. 미국 벤처캐피털(VC) 중 하나인 세쿼이아 캐피탈은 보고서를 통해 "아마존웹서비스(AWS), 구글, 메타, MS 등 빅테크는 지난해 오픈AI의 챗GPT와 같은 애플리케이션을 개발하기 위해 AI 인프라에 막대한 투자를 했다"며 "빅테크의 투자는 연간 6천억 달러에 달하는 반면, 수익은 아무리 높게 봐도 1천억 달러 미만"이라고 분석했다. 전 세계 AI 투자도 정부보다는 민간 중심으로 활발히 진행됐다. 지난해 기준 전 세계 정부의 투자는 91억 달러로, 전체 AI 투자에서 6%에 그쳤다. 민간 투자는 94%인 1천328억 달러에 달했다. 지난해 전 세계 정부와 민간 분야 AI 합산 투자액은 1천419억 달러로, 2015년(329억 달러) 대비 4.3배 늘었다. 중국은 정부 주도로 AI 투자가 활발히 진행됐다. 지난해 중국 정부의 AI 투자는 21억1천만 달러로, 주요 6개국 중 정부의 AI 투자 비중(19%)이 가장 높았다. 또 중국 정부와 민간(91억7천만 달러) 투자액을 합치면 112억8천만 달러인데, AI 투자가 많았던 2021년(243억 달러)과 비교하면 절반 이하로 감소한 것으로 나타났다. EU도 최근 들어 AI 투자 움직임이 다소 주춤했던 것으로 나타났다. 지난해 AI 투자 규모는 134억9천만 달러로, 2021년(217억2천만 달러)과 비교 시 62% 수준에 그쳤다. 또 전체 투자에서 정부 비중은 9%가량인 11억9천만 달러로, 3% 수준인 미국, 영국에 비해선 많았다. 영국은 압도적으로 민간 투자가 많았다. 지난해 AI 투자는 72억1천만 달러로, 이 중 97%(70억 달러)가 민간 투자였다. 일본은 2018년 이후 거의 꾸준히 30억~40억 달러 수준으로 AI에 투자 중인데, 지난해에는 34억4천만 달러를 기록했다. 캐나다는 지난해 AI 투자가 전년(92억1천만 달러)에 비해 큰 폭으로 줄어든 34억2천만 달러로 집계됐다. 한국은 주요 6개국 외 비교적 AI 투자가 많은 국가들로 이름만 올렸다. 한국 외에 인도, 사우디아라비아, 싱가포르, 이스라엘, 호주 등도 함께 언급됐다. 이들 국가의 개별 투자규모는 공개 자료의 불충분 등 이유로 소개되지 않았다. 김소미 NIA 선임연구원은 "한국의 경우 전체 국가 중 10위권 내 포함된다"며 "투자금액은 일본·캐나다 대비 조금 못 미치는 수준"이라고 설명했다. 이 같은 설명에 근거해 우리나라의 AI 투자액을 20억~30억 달러 수준으로 추정하면, 전 세계 AI 투자액의 1.5~2.0%에 불과한 것으로 예상된다. 경제협력개발기구(OECD) AI 정책관측소가 집계한 자료에선 다소 구체적인 수치가 나왔다. 지난해 생성형 AI 분야에서 한국의 글로벌 VC 투자 유치 규모는 총 7천500만 달러(약 1천40억원)로, 선두인 미국(163억900만 달러)의 217분의 1수준에 그쳤다. 우리나라의 AI 투자 유치액은 미국뿐 아니라 유럽연합(5억5천900만 달러), 중국(4억800만 달러), 이스라엘(2억9천900만 달러)과도 큰 격차를 보였다. 특히 우리나라는 빅테크들의 AI 스타트업들에 대한 투자 움직임 속에서도 열외된 분위기다. 실제 오픈AI와 앤트로픽, 미스트랄AI, 알레프 알파 등은 이미 수조 원의 투자 유치에 성공하며 업계의 주목을 받았다. 반면 한국 AI 스타트업은 조 단위는거녕 누적 투자 금액이 1천억원을 넘긴 곳이 거의 없는 것으로 알려졌다. 업스테이지(약 1천400여억원) 정도만 눈에 띈다. 업계 관계자는 "최근 기술 경쟁의 우열이 뚜렷해지면서 투자 양상 또한 소수 기업이 독점하는 방향으로 전개되고 있는 분위기"라며 "AI 기술 개발 시 막대한 투자가 필요하지만 국내 투자 환경은 이를 충분히 뒷받침할 만큼 조성돼 있지 않아 기술 개발뿐 아니라 인력 확보에도 어려움을 겪고 있다"고 밝혔다. 이 탓에 우리나라의 AI 기술 성숙도, 잠재력이 전 세계를 기준으로 '2군 경쟁국'에 해당한다는 분석 결과가 나왔다. 보스턴컨설팅그룹(BCG)이 전 세계 73개국을 분석한 'AI 성숙도 매트릭스' 보고서에 따르면, AI 선도국으로 선정된 것은 미국, 중국, 영국, 캐나다, 싱가포르 등 5개국 뿐이다. BCG는 AI 선도국, AI 경쟁국, AI 실천국, AI 도약국 등 크게 4개 그룹으로 분류했다. AI 선도국은 상위 10%, AI 도약국은 하위 10% 국가로 평가됐다. 우리나라는 2군에 해당하는 AI 경쟁국, 이 중에서도 비교적 상위에 해당하는 안정적 AI 경쟁국가로 분류됐다. 같은 그룹에는 일본, 대만, 이스라엘, 홍콩, 독일, 스페인, 프랑스, 호주, 말레이시아, 이스라엘 등이 포함됐다. BCG 보고서는 "2028년까지 전 세계에서 AI 관련 지출이 2배 이상 증가해 6천320억 달러(약 904조원)에 이를 것으로 보인다"며 "이번 보고서에 포함된 73개 국가 중 70% 이상이 AI 대비가 부족하고 생태계 참여, 기술, R&D 등에서 낮은 점수를 보이고 있다"고 지적했다. 이어 "한국의 경우 높은 수준의 AI 노출 정도와 준비도를 갖추고 있다"며 "특히 금융 서비스와 같은 부문에서 AI 기술을 성공적으로 채택하고 있다는 점에서 '안정적 AI 경쟁국가'"라고 평가했다. 하지만 한국은 R&D 및 혁신 분야에서는 AI 선도국 대비 상대적으로 부족한 것으로 분석됐다. 5개의 AI 선도국들은 강력한 R&D 혁신 생태계, 고급 인재 및 교육 시스템, 글로벌 표준 및 규제에 대한 영향력, 다양한 산업 분야에 적용된 AI 기술 등에서 강점을 가진 것으로 진단됐다. 이와 관련해 미국은 AI 컴퓨팅을 위한 필수 하드웨어 및 클라우드 기반 서비스를 전 세계에 공급하고 있다. 중국은 자율주행 플랫폼과 같은 AI 소비재 기술을 수출하며 세계 기술 공급망에서 중요한 역할을 하고 있는 것으로 평가됐다. 또 미국과 싱가포르는 AI 전문 인재 풀에서 강점을 갖고 있고, 중국은 AI 관련 기술 특허에서 선두를 달리고 있는 것으로 나타났다. 이 같은 상황에서 우리나라는 최근 윤석열 대통령의 비상계엄 사태 여파로 혼란을 맞으면서 '8부 능선'을 넘었던 AI 기본법이 통과되지 못하고 장기 표류될 위기까지 처해 난감해진 상태다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였지만 계엄령 선포 이후 제동이 걸렸다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 2027년까지 'AI 3대 강국'를 목표로 인프라 투자와 지원을 구체화하겠다는 정부의 계획도 현재 혼란해진 상황 탓에 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 정치권에서 대통령 탄핵을 우선 순위로 삼고 있어서다. 일단 우리 정부는 우리나라의 AI 기술 수준을 미국, 중국과 견줄 수 있는 수준으로 끌어올리겠다는 각오다. 이를 위해 과학기술정보통신부는 지난 10일 확정된 약 18조9천억원의 내년도 예산을 AI를 비롯한 3대 게임체인저 기술을 중심으로 투자할 예정이다. 업계 관계자는 "한국은 스스로의 실력으로 AI 혁명을 진행하고 있는 몇 안 되는 나라로 꼽히지만, AI 민간투자는 이스라엘(3위)에 비해서도 한참 떨어진 18위에 머문다"며 "AI 3대 강국이 되려면 해외 빅테크와의 확연한 체급 차이도 극복해 나가야 하는데 비상 계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 혼란스러운 데다 투자 움직임마저 소극적이어서 쉽지 않다"고 말했다.

2024.12.11 18:52장유미

계엄·탄핵 정국에 'AI기본법' 표류…韓 AI 경쟁력 저하 우려 ↑

12·3 비상계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 인공지능(AI) 기본법이 장기간 표류할 가능성이 커지면서 업계의 근심이 짙어지고 있다. 해외 빅테크가 속속 새로운 AI 기술을 선보이며 격차를 벌이고 있는 반면, 국내 기업들은 AI 관련 제도 미비로 경쟁력 강화에 속도를 내지 못하면서 점차 글로벌 시장에서 뒤처지고 있다는 위기 의식도 커지고 있다. 11일 업계에 따르면 윤 대통령 탄핵 추진 이후 여야 대립이 극심해지면서 AI 기본법의 통과 시기가 내년으로 밀릴 가능성이 높아졌다. 국회 본회의에선 당초 AI기본법 심의·의결을 지난 10일 처리하려고 했으나, 비상계엄 사태 여파로 이날 내란 혐의 규명을 위한 상설특검 수사요구안만 의결됐다. AI기본법을 비롯한 과학기술정보방송통신위원회(과방위) 안건들은 이날 상정되지도 않았다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 그간 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. 업계에선 예기치 못한 비상계엄과 탄핵정국 전환으로 여야 대립이 심화된 상황에서 정치 공방이 장기화되면 지난 회기처럼 내내 표류하다 끝날까 우려하고 있다. 또 연내 통과를 기점으로 기술력을 끌어올리기 위해 투자·채용에 나서려던 기업들도 당혹감을 감추지 못하고 있다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 업계 관계자는 "정부의 AI 관련 지원이 법 제정 없이 하기에는 현재로선 한계"라며 "기술 발전을 위해선 최소한의 틀이라도 갖춰져야 하는데 다른 현안들에 밀려 법 제정이 계속 이뤄지지 않고 있어 답답하다"고 밝혔다. 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. AI기본법 제정을 의욕적으로 추진해온 과학기술정보통신부는 정기국회 종료 이후에도 임시국회에서 올해 안에 최대한 진척이 이뤄질 수 있게 노력한다는 방침이다. 업계 관계자는 "규제 세부 내용에 대한 찬반을 떠나 규제 불확실성이 해소되는 것만으로도 기업들이 대응하기 수월할텐데 전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞게 된 것이 답답하다"며 "AI에 투자를 집중할 수 있는 법 체계를 마련해야 하는 중요한 상황에서 이 같은 일이 벌어지면서 업계 분위기가 전반적으로 다소 침체된 듯 하다"고 말했다. 또 다른 관계자는 "국가 지원이 제때 이뤄지지 않으면 결국 AI 관련 인력 유출 등의 여파로 막대한 손실이 일어날 수밖에 없을 것"이라며 "산업의 흐름이 굉장히 빠르게 바뀌는 시점에서 이런 일이 발생해 안타깝다"고 밝혔다.

2024.12.11 10:00장유미

[인터뷰] "AI만을 위한 보안책 없어…美 클라우드법 우려 해소 노력"

[라스베이거스(미국)=김미정 기자] "생성형 인공지능(AI) 시대 속 보안 분야는 새로운 도전을 맞이하고 있습니다. 아마존웹서비스(AWS)는 전통적 보안 체계를 유지하면서도 신기술로 AI 보안을 강화하고 있습니다. 한국을 포함한 해외 기업들의 클라우드법(Cloud Act)에 대한 우려를 완화하고, 물리·논리적 접근을 통한 데이터센터 보안 강화에도 총력을 다하고 있습니다." AWS 마크 라이랜드 아마존 보안 총괄 책임은 최근 기자와 만나 생성형 AI와 클라우드, 데이터센터 보안 전략을 이같이 밝혔다. 라이랜드 책임은 13년 동안 아마존에서 근무했다. 그동안 클라우드 제품을 비롯한 데이터센터, 데이터베이스(DB), AI 솔루션에 들어가는 보안을 총괄해 왔다. "AI만을 위한 보안 없다…전통·최신 기술 합쳐야" 마크 라이랜드 책임은 생성형 AI만을 위한 뾰족한 보안은 존재하지 않는다고 강조했다. 전통적인 보안 방식과 최신 보안 방식을 결합하는 게 최선이라고 주장했다. 그는 전통적인 보안으로 시스템 최소 접근 권한과 데이터 암호화, 기밀 컴퓨팅 등 기존 검증된 보안 조치가 생성형 AI 시스템에도 동일하게 적용돼야 한다고 말했다. 그는 "전통적 보안 운영 시스템은 AI 시스템에 내장된 자원을 보호하고 새로운 형태의 AI 오용을 방지할 수 있다"며 "이를 바탕으로 AI로 AI를 점검하는 상호 검증을 할 수 있어 AI의 잠재적 약점을 선제적으로 파악할 수 있다"고 설명했다. 라이랜드는 전통적 방식뿐 아니라 AI를 이용한 생성형 AI 보안에도 힘쓴다고 했다. 우선 AI로 생성된 이미지뿐 아니라 음성, 동영상에도 워터마크를 삽입하려는 방법을 연구 중이다. 이를 통해 AI가 생성한 결과물임을 시스템이 감지할 수 있도록 하기 위해서다. AI 솔루션 개발 과정에서는 AI를 이용해 제품 품질을 높이고 시스템 버그와 보안 취약점을 최소화하고 있다. AWS 레드팀이 AI 모델 배포 전후로 지속적인 공격 시도를 모의 실험함으로써 약점을 찾아내고 내·외부 전문가와 자동화 도구를 활용해 테스트를 확장하는 접근법도 이뤄지고 있다. 그는 "이같은 보안 조치는 아마존이 최근 출시한 '아마존 노바' 에도 적용됐다"고 덧붙였다. 라이랜드는 생성형 AI 보안을 100% 막을 방법은 아직 없다고 주장했다. AI가 공격·방어 양면에서 활용될 수 있기 때문이다. 다만 그는 AI를 통한 이점이 피해보다 더 많다고 했다. 그러면서 "현재로서는 AI를 통한 사이버 방어 능력을 강화하기 위하 막대한 투자가 필요하다"고 덧붙였다. 해외 기업 '클라우드 액트' 우려..."누구도 데이터 못 봐" AWS는 미국의 '클라우드법(Cloud Act)'으로 인한 해외 고객사 우려 해소에도 힘쓰고 있다. 클라우드법은 미국 정부가 법 집행 목적으로 미국 기업이 해외 서버에 보관 중인 데이터에 접근할 수 있도록 허용하는 법이다. 이를 통해 미국 정부는 해외 정부·기업에 데이터 접근을 요청할 수 있다. 한국을 비롯한 해외 기업들은 미국 클라우드법에 대해 우려를 표하고 있다. 이에 라이랜드 책임은 "한국을 비롯한 모든 국가·기업이 이런 이슈에 걱정하는 것을 알고 있다"며 "기술적·정책적으로 이런 우려는 있어선 안 된다"고 주장했다. 그는 미국 정부가 AWS 고객 데이터를 받더라도 이를 바로 활용하지 못한다고 밝혔다. AWS가 미국 정부에 암호화된 데이터를 제공할 수 있지만 이를 해독할 수 있는 기술은 미국 정부뿐 아니라 AWS 내부에도 없다는 이유에서다. 라이랜드 책임은 "AWS 클라우드는 고객 데이터 암호화·관리 아키텍처로 구성됐다"며 "미국 정부가 데이터를 받아도 이를 해독할 수 없는 이유"라고 강조했다. 라이랜드는 AWS가 6개월마다 투명성 보고서 발행을 통해서도 이슈 해결에 힘쓰고 있다고 말했다. AWS는 미국 정부가 요청한 외국 기업·정부 데이터 접근 요청 건수를 보고서로 공개한다. 현재까지 해당 요구 사례는 0건인 것으로 나타났다. 그는 클라우드법 문제를 정부 대 정부 차원의 외교적 영역이라는 점을 강조했다. 이에 라이랜드 책임은 "미국 정부가 외국 기업·정부 데이터 접근을 요구할 때 해당 국가에 직접 요청하도록 합의된 상태"라고 덧붙였다. 데이터센터 보안 강화…'가드듀티'에 AI 탑재 AWS는 데이터센터 보안 강화를 한층 업그레이드했다. 물리·논리적 접근을 분리하는 아키텍처 설계법과 AI를 통한 이상징후 탐지 기술을 활용하고 있다고 밝혔다. 라이랜드 총괄은 AWS가 데이터센터 설립 초기부터 고객 데이터 보호를 위한 '다단계 보안 체계'를 갖췄다고 설명했다. 그는 "데이터센터는 외곽 경비부터 게이트, 건물 가장자리, 내부 복도 진입 시 생체 인증을 거치는 물리적 접근 통제로 이뤄졌다"며 "데이터센터에 들어가는 과정 자체가 타사보다 철저하다"고 강조했다. AWS 데이터센터는 논리적 접근 방식도 핵심 요소로 꼽힌다. 우선 데이터센터에서 근무하는 운영 인력은 장비 운용에 필요한 접근 권한만 갖고 있다. 시스템 내 별도 소프트웨어(SW)나 서비스에 대한 논리적 접근 권한은 없다. 해당 인력은 데이터센터와 떨어진 사무실에서 근무한다. 이를 통해 단순 장비 위치나 형태만 알고는 고객 데이터를 특정하거나 불법 접근을 할 수 없다. 라이랜드 책임은 물리·논리적 접근뿐 아니라 AI를 활용한 이상행동 탐지·경보 기술 강화에도 힘썼다고 강조했다. 현재 AWS는 '가드듀티(GuardDuty)' 기술로 AI 기반 이상행동 탐지와 경보 기능을 업그레이드했다. 특히 비정상적 도메인 네임 시스템(DNS) 조회 패턴, 갑작스런 중앙처리장치(CPU) 사용량 변화, API 호출 위치 불일치 등을 가드듀티로 실시간 감지할 수 있다. 최근 AWS는 다양한 로그와 이벤트를 종합 분석할 수 있는 복합 모델까지 가드듀티에 넣었다. 예를 들어 DNS 이상행동 이후 일정 시간 간격으로 발생하는 API 호출, 클라우드트레인 로그 이상 등을 AI로 파악해 공격 패턴 여부를 판단한다. 그동안 전문가가 직접 분석해야 했던 요소였다. 라이랜드 책임은 "가드듀티는 경고를 '람다' 등 자동화 도구와 연계해 즉각적 대응을 하고 있다"며 "보안 전문가는 최종 경고 분석, 의사결정에만 집중하면 돼 효율적"이라고 강조했다.

2024.12.10 09:52김미정

[기고] AI 발전과 아동·청소년 보호

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI)의 비약적인 발전은 우리의 일상생활에 깊숙이 스며들며 효율성과 편리함을 극대화하고 있다. 개인화된 추천 시스템부터 의료, 교육, 공공서비스에 이르기까지 우리가 직면한 많은 문제를 해결하는 데 기여하고 있다. 그럼에도 눈부신 기술발전의 이면에 존재하는 부작용을 간과할 수 없다. 특히 AI 기술발전이 아동·청소년처럼 기술적 맥락에 취약한 집단에 대해 미칠 영향에 대한 진지한 고민이 필요하다. 오늘날 소셜 네트워크 서비스(SNS)는 단순한 소통의 매개체를 뛰어넘어 거대한 상업적 플랫폼이 됐다. 주요 SNS 기업들은 사용자의 이용패턴, 관심사 등을 분석해 AI 알고리즘에 학습시켜 광고를 포함한 콘텐츠를 추천하는 서비스를 주 수익모델로 삼고 있다. 그런데 이러한 과정에서 대규모의 개인정보 및 데이터 수집과 분석이 이루어지기 때문에 프라이버시와 개인정보 침해 우려가 상존한다. 특히 아동·청소년의 의사결정과 정서에 부정적 영향을 미칠 가능성이 높다. 아동·청소년은 자신이 보는 콘텐츠와 광고가 어떤 의도로 설계되었는지 이해하기 어렵고 이는 무절제한 소비, 유해하거나 부적절한 콘텐츠에 대한 노출, 정체성 혼란과 같은 부작용으로 이어질 수 있기 때문이다. 세계 여러 나라에서는 이같은 문제의식을 기반으로 디지털 환경에서 아동·청소년을 보호하기 위한 방안을 모색하고 있다. 최근 호주가 세계 최초로 16세 미만 미성년자의 SNS 이용을 전면 금지하고 이를 위반한 업체에게 최대 450억원의 벌금을 부과하기로 하는 강력한 법안을 통과시켜 화제가 됐다. 호주는 지난 2022년 1월부터 시행된 '온라인 안전법 2021(Online Safety Act 2021)'에서 '아동을 대상으로 하는 사이버 폭력 자료'를 규정하고 서비스제공자에게 관련 자료를 최소화하기 위한 조치의무를 부과하고 있다. 영국에서는 지난 2017년 몰리 러셀이라는 14세 아동의 자살로 아동에 대한 SNS의 책임에 관한 논의가 촉발된 바 있다. 약 6년간의 논의 끝에 지난 2023년 10월 '온라인 안전법 2023(Online Safety Act 2023)'이 제정 및 공표됐다. 이 법에서는 아동성착취∙성학대 등 범죄에 해당하는 불법콘텐츠와 자살이나 자해, 혐오나 사이버괴롭힘, 그밖에 심각한 위해를 초래할 가능성이 있는 유해콘텐츠를 규정하고 서비스제공자가 불법∙유해콘텐츠를 발견하면 신속히 삭제 또는 차단하도록 했다. 미국 상원은 지난 7월 30일 '아동 온라인 안전법안(KOSA)'과 '어린이 및 10대 온라인 프라이버시 보호법 개정안(COPPA 2.0)'을 묶은 입법 패키지(KOSPA)를 의결했다. 'KOSPA'는 아직 하원 통과를 남겨두고 있지만 미국에서 지난 1998년 제정된 'COPPA' 이후 수십년 만에 연방 차원에서 온라인 아동보호를 위한 주요 법안의 제정을 추진한 것이라는 점에서 의미가 있다. 'KOSA'는 17세 미만 미성년자가 사용할 가능성이 큰 온라인 플랫폼에 대해 ▼정신건강 장애 ▼중독 ▼정신적·신체적 폭력 및 괴롭힘 ▼불법 약물 관련 홍보 및 마케팅 ▼성적 착취 및 학대 ▼약탈적 및 기만적 마케팅 또는 금전적 피해 등 미성년자에게 발생할 수 있는 특정 유해 요소들을 완화하기 위한 조치를 취했다. 합리적인 조치를 취해야 한다는 '주의의무(duty of care)'를 부과하면서 서비스제공자의 관리책임을 콘텐츠 자체가 아니라 서비스의 설계를 중심으로 구성했다는 것이 특징이다. 'COPPA 2.0'은 지난 1998년 제정된 'COPPA'의 개정안으로, 법 적용을 받는 미성년자의 최소연령을 13세에서 16세로 상향해 17세 미만 사용자의 개인정보를 동의없이 수집할 수 없도록 규정하고 아동·청소년을 대상으로 한 맞춤형 광고를 금지하며 '지우기 버튼(Eraser Button)'을 도입해 아동·청소년이 본인의 개인정보를 삭제할 수 있는 기능 제공을 의무화했다. 또 현행법의 '실제 인지(actual knowledge)' 기준을 수정해 플랫폼이 사용자가 미성년자임을 몰랐다는 주장을 할 수 없도록 했다. 국내 법상 디지털 환경에서 아동·청소년을 보호하기 위한 별도의 법령이 존재하지는 않는다. 다만 개인정보보호법상 만 14세 미만 아동의 개인정보처리를 위해서는 법정대리인의 동의를 받도록 하는 규정(제22조의 2), 아동·청소년의 개인정보 처리자를 위한 가이드라인(개인정보보호위원회, 2022. 7. 22.), 만 14세 미만 아동에게 맞춤형 광고를 제공하려면 법정대리인의 동의를 받도록 하는 조치(개인정보보호위원회, 맞춤형 광고에 활용되는 온라인 행태정보 보호를 위한 정책방안, 2024. 1.)들을 마련해 나가고 있는 것으로 보인다. 아동·청소년의 취약성 및 보호필요성을 고려하면 이들에게 AI에 기반한 서비스를 제공하는 사업자에게 상대적으로 많은 책임을 부여할 수밖에 없게 된다. 해외의 규제 흐름도 전반적으로 그러한 방향인 것으로 보인다. 그럼에도 이에 대해서는 표현의 자유 침해, 콘텐츠 검열 가능성 등 위헌적 요소가 존재한다는 비판이 대립하고 있어 지속적인 논의와 연구가 필요하다. 더 나아가 아동·청소년의 권리를 보호하는 규제를 설계하기 위해서는 현대 사회의 디지털 환경이 아동·청소년의 발달에 필수적인 조건이며 알권리와 참여권 실현에 긍정적 역할을 할 수 있다는 점, 아동·청소년 이용자가 단지 피해자에 머무는 것이 아니라 쉽게 가해자의 지위에 놓일 수 있다는 점까지 종합해 섬세한 접근이 필요할 것이다.

2024.12.08 13:09법무법인 태평양 노은영

AI 3대 강국 꿈 또 멀어지나…AI 기본법, 尹 비상계엄 '직격탄'

정보기술(IT)업계가 손꼽아 기다리던 '인공지능(AI)산업 육성 및 발전 등에 관한 법률안(AI기본법)'이 관문 두 개만 남겨 놓은 상태에서 난관에 부닥쳤다. 윤석열 대통령의 갑작스런 비상계엄 선포 여파로 입법 절차에 제동이 걸리면서 연내 제정이 좌초될 위기에 놓였다. 4일 업계에 따르면 여야는 오는 10일 국회 본회의에서 AI 기본법을 처리할 계획이었다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 당초 이 법은 4일 또는 9일 법사위에 안건이 상정될 예정이었다. 하지만 비상계엄 여파로 아직 법사위에 올라가지도 못했다. 현재로선 10일 본회의 일정도 불확실하다. 이 탓에 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 윤석열 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 야당이 윤 대통령에 대한 탄핵안을 발의한 상태이기 때문이다. 업계 관계자는 "전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞으면서 AI 기본법 연내 제정을 추진하려던 동력이 상실된 분위기"라며 "여야 간 예산안 및 탄핵 문제로 정쟁이 격화되면서 지금은 이 법안이 후순위로 밀린 상황"이라고 말했다.

2024.12.04 18:23장유미

Prev 1 2 3 4 5 6 7 Next