검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 법'통합검색 결과 입니다. (135건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

AI기본법 어떤 내용 담았나···고영향AI 11개 분야로 포괄 규정

26일 국회 본회의를 통과한 AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)은 보칙을 포함해 총 5장(제1장 총칙, 제2장 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계, 제3장 인공지능기술 개발 및 산업 육성, 제4장 인공지능윤리 및 신뢰성 확보, 제5장 보칙)으로 구성됐다. 1장에서는 인공지능과 인공지능 기술이 무엇인지 정의했다. 법에 따르면, 인공지능이란 학습, 추론, 지각, 판단, 언어 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말한다. 또 인공지능기술이란 인공지능을 구현하기 위해 필요한 하드웨어, 소프트웨어 기술 또는 그 활용 기술을 말한다. 특히 1장에는 규제가 필요한 '고영향 인공지능'을 11개 분야로 포괄적으로 규정, 설명했다. 즉, 고영향 인공지능이란 사람 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로 ▲에너지 공급 ▲먹는물 생산 공정 ▲보건의료 제공과 이용체계 구축 및 운영 ▲핵물질과 원자력시설의 안전한 관리 및 운영 ▲범죄 수사나 체포 업무를 위한 생체인식정보(얼굴·지문·홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적·생리적·행동적 특징에 관한 개인정보를 말한다) 분석 및 활용▲채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 ▲'교통안전법' 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영 ▲공공서비스 제공에 필요한 자격 확인, 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, '공공기관의 운영에 관한 법률' 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정 ▲'교육기본법' 제9조제1항에 따른 유아교육·초등교육 및 중등교육에서의 학생 평가 ▲그 밖에 사람의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로, 이 중 어느 한 영역에 미치는 시스템을 말한다. 또 국외에서 이뤄진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우 이 법이 적용된다. 2장에서는 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계(거버넌스)를 규정했다. 법이 규정한 추진체계는 국가AI위원회, 인공지능정책센터, 인공지능안전연구소 등 세 곳이다. 이중 국가AI위원회는 지난 9월말, AI안전연구소는 11월말 이미 출범했다. 이에, 앞으로 설립할 인공지능정책센터에 시선이 쏠렸다. 신설 보다는 NIA 등 기존 공공기관 중 한 곳을 지정할 가능성이 높은 것으로 알려졌다. 3개 조직 중 대통령이 위원장으로 있는 최상위 거버넌스인 국가AI위원회는 위원장 1명(대통령)과 민간 부위원장 1명을 포함한 45명 이내 위원으로 구성한다. AI 정책과 연구개발 전략 수립 뿐 아니라 투자와 규제 발굴 및 개선을 담당한다. 또 고영향 인공지능과 관련한 정책 대응과 규율도 담당한다. 위원회 산하에 필요한 경우 특별위원회를 둘 수 있고, 분과위원회와 전문가로 구성한 자문단도 둘 수 있다. 아직 출범하지 않은 '인공지능정책센터'는 ▲기본계획의 수립·시행에 필요한 전문기술 지원 ▲인공지능과 관련한 시책의 개발 및 관련 사업의 기획·시행에 관한 전문기술 지원 ▲인공지능의 활용 확산에 따른 사회, 경제, 문화 및 국민의 일상생활 등에 미치는 영향의 조사·분석 ▲ 인공지능 및 인공지능기술 관련 정책 개발을 지원하기 위한 동향 분석과 사회,문화 변화와 미래예측 및 법, 제도 조사 연구 ▲다른 법령에서 센터의 업무로 정하거나 센터에 위탁한 사업 ▲ 그 밖에 국가기관등의 장이 위탁하는 사업 등을 수행한다. 이들 공공성 기관과 함께 '한국인공지능진흥협회(이하 협회)' 조항도 담았다. 인공지능 개발과이용 촉진, 인공지능산업 및 인공지능기술의 진흥, 인공지능등에 대한 교육과 홍보 등을 위해 대통령령으로 정하는 바에 따라 과학기술정보통신부장관 인가를 받아 협회를 설립하거나 지정받을 수 있게 했다. 협회는 법인이며 인공지능 제품이나 서비스 이용 촉진 및 확산, 현황 및 관련 통계 조사, 전문인력 양성 교육 및 해외 진출 지원 등의 일을 한다. 이외에도 법안은 과학기술정보통신부장관이 인공지능기술과 관련한 표준화를 위해 표준 제정 등의 사업을 추진할 수 있게 했다. 현재 국가 표준은 산업부 산하 국표원이 담당하고 있어 역할 조정이 필요한 부분이다. 특히 법안은 국가 및 지방자치단체가 인공지능산업 진흥과 인공지능 개발 및 활용의 경쟁력 강화를 위해 인공지능과 인공지능기술 연구·개발을 수행하는 기업, 기관이나 단체의 기능적·물리적·지역적 집적화를 추진할 수 있다고 규정했다. 현재 광주에 AI 단지가 조성돼 있는데, 향후 추가 단지를 선정할 계획이다. 특히 법안은 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 사실을 이용자에게 사전에 고지해야 하며, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의해 생성됐다는 사실을 표시해야 하고, 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있게 고지 또는 표시하도록 했다. 아래는 과기정통부가 발표한 법안의 주요 내용. 국가AI 발전과 신뢰 기반 조성을 위한 추진체계 마련...3년마다 기본계획 수립 과기정통부장관은 관계부처 및 지자체 의견을 수렴해 국가 AI 경쟁력 강화를 위한 인공지능기본계획을 3년마다 수립하고 시행(제6조)할 수 있다. 아울러, 지난 9월 출범한 국가인공지능위원회(위원장 대통령) 운영의 법적 근거를 마련(제7조)하고, 인공지능과 관련해 발생할 수 있는 위험으로부터 국민의 생명‧신체‧재산 등을 보호하기 위한 전문기관으로 인공지능안전연구소 운영 근거(제12조)를 뒀다. R&D, 학습용데이터, 데이터센터, 집적단지 등 산업육성 지원 인공지능 산업육성을 위해 R&D 지원(제13조), 표준화(제14조), 학습용데이터 시책 수립(제15조), AI 도입‧활용 지원(제16조) 등에 대한 정부 지원 근거를 마련했다. 또 AI집적단지 지정(제23조), AI 데이터센터 시책 추진(제25조), AI 융합 촉진(제19조) 등을 통해 대한민국 인공지능 생태계의 혁신적인 발전을 지원하는 한편 AI 전문인력 확보(제21조), 중소기업을 위한 특별지원(제17조), 창업 활성화(제18조) 등 AI 시대를 선도할 인재 양성과 중소·스타트업의 성장을 촉진하기 위한 사항도 함께 담았다. 고영향AI‧생성형AI에 대한 안전‧신뢰 기반 조성 인공지능의 기술적 한계, 오‧남용 등으로 발생가능한 문제를 사전에 예방하기 위해 규제 대상으로 고영향AI와 생성형AI를 정의하고, 투명성 확보 의무(제31조), 안전성 확보 의무(제32조), 사업자 책무(제34조)를 규정했다. 아울러, 민간이 자율적으로 추진하는 AI 안전성‧신뢰성 검‧인증(제30조), 인공지능 영향평가(제35조)에 대한 정부의 지원 근거도 마련했다. 이번 'AI기본법'은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 2026년 1월부터 시행될 예정이다. 정부는 이 법이 신속하게 시장에 안착할 수 있게 하위법령과 가이드라인 마련 등 후속조치도 조기에 추진할 계획이다. 유상임 과기정통부 장관은 "국가 AI경쟁력 강화의 밑거름이 될 AI기본법 국회 통과를 매우 뜻깊게 생각한다”며 “인공지능을 둘러싼 치열한 글로벌 경쟁 속에서 AI기본법 제정을 통해 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 명실상부하게 AI G3 강국으로 도약할 수 있는 중요한 이정표가 마련됐다"고 밝혔다. 이어 "AI기본법 제정은 끝이 아닌 시작”이며 “현장과의 긴밀한 소통을 통해 하위법령 제정과 각종 산업지원 시책 수립을 속도감 있게 추진하고, 국가 AI 컴퓨팅 인프라를 조속히 구축하도록 최선의 노력을 기울이겠다"고 말했다. 한편 AI기본법 통과에 대해 국회 과방위 소속 의원들이 잇달아 소감을 밝혔다. 황정아 의원(민주당, 대전 유성구을)은 "우리가 적극 추진한 인공지능사업자의 인공지능 실증, 성능시험 등을 지원하기 위한 시설, 장비, 설비 구축 등 국가와 지자체의 민간 실증 지원 근거 규정도 반영, AI 기술 발전에 보다 활력을 불어넣을 것으로 기대한다"면서 "딥페이크를 비롯한 AI의 부작용을 막기 위한 규제도 포함됐다. 인공지능사업자가 고영향 인공지능 또는 이를 이용한 제품 서비스를 제공하는 경우 신뢰성 확보를 의무화하도록 했다. 인간의 생명과 신체, 정신적 건강 등에 해가 되지 않는 등의 윤리원칙도 명시했다"고 밝혔다. 이어 과기계의 숙원이자 시대적 과제인 AI기본법이 마침내 통과돼 산업 발전과 신뢰성 확보라는 두 축을 조화롭게 아우르는 법적 기반이 마련됐다면서 "AI기본법 제정은 대한민국의 AI 생태계 구축을 위한 중요한 첫 발걸음"이라고 강조했다. 이훈기 의원(민주당, 인천 남동구을)은 "미국, 유럽 등 세계 각국이 인공지능 법제를 마련하는 상황에서. 우리 역시 우리나라만의 인공지능 발전과 안전성 확보를 위한 법제 마련이 시급했다"면서 "이번에 통과된 기본법에는 인공지능이 우리 국민의 기본권에 미치는 영향평가를 하도록 한 내용이 포함돼 의미가 남다르다"고 진단했다. 실제 이번 제정안은 '인공지능 영향평가' 규정을 포함하고 있다. 영향평가는 사업자가 고영향 인공지능 제품이나 서비스 출시 전에 사회, 경제, 환경 등 사람의 기본권에 미치는 다양한 영향을 고려하도록 한 것으로, 공공기관 등이 채용이나 공공서비스를 위해 인공지능을 사용할 때는 영향평가가 완료된 서비스를 우선 이용하도록 했다. 조인철 의원(민주당, 광주 서구갑)은 광주가 AI 거점도시를 표방하면서 그간 진행한 AI 관련 사업을 중단없이 진행할 수 있게 ▲인공지능집적단지 조성 지원 ▲인공지능 실증 기반 조성 등의 내용을 법안에 포함했면서 "또 인공지능 집적화를 지원하기 위한 전담기관 지정에 대한 근거도 마련했다"고 밝혔다. 광주광역시는 지난 2020년부터 총사업비 4265억 원을 투입해 인공 지능 중심 산업융합 집적단지를 조성해 왔다. 국가 AI데이터센터 등 연구 개발을 지원하는 핵심 기반시설도 구축했다. 오는 2029 년까지 약 9000 억 규모의 '인공지능 실증 밸리 확산사업'을 추진, AI 2 단계 사업에 박차를 가하고 있다. 조 의원은 "AI 기본법이 광주를 AI 거점도시로 성장시키는 발판이 되고, 광주의 AI 발전이 곧 대한민국 전체의 미래 경쟁력을 높이는 마중물이 되기를 기대한다"고 덧붙였다.

2024.12.26 18:34방은주

[기고] 야누스의 얼굴을 가진 인공지능

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 로마 신화에 '야누스'라는 신이 나온다. 출입문으로 드나드는 사람들을 보기 위해 앞뒤에 얼굴을 가진 출입문의 수호신으로 알려져 있다. 세상 만사의 시작을 지배하는 신이기도 해서 한해의 시작인 1월을 뜻하는 영어 단어 '제뉴어리(January)'에 그 흔적을 남기기도 했다. 다만 야누스는 앞과 뒤의 모습이 다른 두 얼굴을 가진 것으로 묘사돼 어떤 일의 양면성, 밝은 면과 어두운 면이 공존하는 것을 표현할 때도 쓰인다. 생성형 인공지능(AI) 기술이 발전하면서 상상 속에서만 가능해 보였던 일들이 현실이 되고 있다. AI 기술이 글 내용을 음성으로 읽어 주고, 음악을 만들고 이미지를 만들어 낸다. 실제로 연기하는 배우 없이 만들어낸 동영상이 크게 어색하지 않은 단계에 이르렀다. 이처럼 AI 기술이 빠른 속도로 발전하면서 AI에 대한 기대가 커지고 있다. 한편으로는 자칫 AI를 이용한 결과물로 인해 정보가 유통되는 생태계의 무결성이나 신뢰성에 영향을 미칠 수 있고, 이로 인해 잘못된 정보가 사실인 것처럼 유통되거나 소비자를 기만하는 등의 문제가 발생할 위험이 있다는 우려도 나온다. AI가 결과물을 생성해 내는 과정이 블랙박스처럼 돼 있고, AI를 통해 만들어낸 결과물이 실제 존재하는 것과 구별하기 어려울 정도라, AI를 이용해 생성하는 결과물을 법률적으로 어떻게 다룰 것인지에 대한 논의도 한창이다. 유럽연합(EU)은 AI법을 제정하며 AI 시스템이 적절한 추적과 설명이 가능한 방식으로 개발 및 사용되고, 인간이 AI 시스템과 상호작용하거나 소통하고 있다는 사실을 인지해야 한다는 '투명성 원칙'을 밝혔다. EU AI법은 이런 원칙에 따라 AI 시스템 제공자가 사람이 아닌 AI 시스템에 의해 결과물이 생성됐음을 감지할 수 있는 기술적 솔루션을 시스템에 내장하도록 했다. 이러한 기술적 솔루션에 더해 AI 기술로 만든 결과물이 기존의 인물, 장소 또는 사건과 현저히 유사해 보는 사람으로 하여금 실제 사실인 것처럼 잘못 인식하게 하는 딥페이크에 대해서는 해당 콘텐츠가 AI에 의해 생성된 것이라는 점을 배포자로 하여금 표시하도록 했다. 우리나라도 'AI 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등'을 '딥페이크 영상 등'이라 정의했다. 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작, 편집, 유포, 상영 또는 게시하는 행위를 하지 못하도록 선거법을 개정했다. 선거운동 기간이 아닌 때도 선거운동을 위해 딥페이크 영상 등을 제작, 편집, 유포, 상영 또는 게시할 때 선관위 규칙으로 정하는 바에 따라 AI 기술 등으로 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 표시하게 했다. 선거운동의 자유를 최대한 보장하면서도 선거의 공정성을 확보하기 위해 AI 기술 등을 이용해 만든 콘텐츠라는 사실을 누구나 쉽게 알아 볼 수 있도록 표시할 의무를 둔 것이다. 최근 국회 소관 상임위를 통과한 AI기본법 제정안도 AI사업자가 생성형 AI 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시하도록 정했다. 또 AI시스템으로 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 AI시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하도록 했다. 다만 AI로 만든 모든 콘텐츠에 'AI를 이용해 생성한 결과물'이라는 표시를 할 필요가 있을지는 의문이다. 선거 등 정보의 출처가 중요한 경우, 또 개인의 인격권 침해가 될 수 있는 경우에는 그 콘텐츠가 AI에 의해 생성된 것인지를 표시할 필요가 있다. 그러나 이러한 경우가 아닌 모든 경우에 표시가 필요할지, 표시를 한다면 어떠한 방식으로 할 것인지, 동영상, 이미지, 텍스트 등 각 콘텐츠의 특징을 고려해 콘텐츠 자체를 향유하는데 방해가 되지 않는 방식이 무엇일지 등 여러 가지 논의가 필요해 보인다. 로마인들은 야누스의 얼굴 중 한쪽은 과거를, 다른 한쪽은 미래를 본다고 생각했다고 한다. 야누스를 세상일의 복잡한 측면, 과거와 미래를 함께 보며 균형을 잡아주는 수호신으로 생각했던 것 같다. AI이 가진 두 얼굴도 균형을 이룰 수 있도록 제정되는 법률이 야누스의 역할을 하기를 기대한다.

2024.12.23 17:23유재규

[AI는 지금] 규제 갈림길 선 AI, 진화 속도 빨라졌다

"인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 가능성이 99.9%에 달합니다. 미래에는 AI가 인간을 반드시 해칠 수 있습니다." 로만 얌폴스키(Roman Vladimirovich Yampolskiy) 루이빌대 사이버보안연구소 교수는 최근 AI의 위험성을 제기하며 이처럼 경고하고 나섰다. 챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들뿐 아니라 국가안보 정부 당국자, AI·보안 전문가들도 함께 AI에 대해 우려하며 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고의 메시지를 잇따라 내놓고 있다. 1984년 개봉해 전 세계적으로 선풍적인 인기를 끈 '터미네이터'는 AI의 위험성을 가장 극명하게 보여주는 영화로 손꼽힌다. '터미네이터'의 배경은 2029년 미국 로스앤젤레스로, AI가 핵전쟁을 일으켜 잿더미를 만들고 남은 인류를 말살하는 과정에서 살아남은 인간들이 투쟁을 벌이는 과정을 담았다. '악의'가 아닌 논리적인 계산을 거쳐 AI가 인간을 적대한다는 내용은 AI가 등장하는 소설과 영화 등에서 숱하게 사용돼 왔다. 하지만 최근 AI의 발전 과정을 보면 이젠 단순히 영화 속 이야기로 치부하기 어렵게 됐다. 실제 지난해 5월 AI가 통제하는 미국 공군의 드론이 적의 지대공 시스템을 찾아 폭격하는 가상훈련에서 AI는 자신의 임무를 방해한다고 인식한 오퍼레이터를 폭격했다. "오퍼레이터를 살해하지 말라"는 사전 명령에도 불구하고 벌어진 일이었다. 가상훈련이었던 만큼 실제로 폭격이 일어나진 않았지만, AI가 인간을 위협하는 일이 현실이 될 수 있다는 가능성을 보여줬다. AI는 데이터를 학습하고 정해진 알고리즘에 따라 추론하는 것이 기본적인 역할이다. 그러나 인터넷이 발전하며 학습할 수 있는 데이터가 급격히 늘어났고, 엄청난 양의 데이터를 AI에게 학습시킬 수 있는 시대가 됐다. 그 결과 방대한 학습량을 기반으로 텍스트, 이미지는 물론 소리, 영상까지 생성해 낼 수 있는 '초거대 AI'가 등장했다. 특히 2022년 11월 오픈AI가 '챗GPT'를 내놓으면서 AI는 새로운 변화를 맞았다. 오픈AI를 필두로 구글, 마이크로소프트, 메타, 아마존 등 주요 빅테크가 연일 새로운 기술을 쏟아내면서 생성형 AI는 불과 2년여 만에 무서운 속도로 발전했다. 오픈AI가 최근 공개한 최신 AI 모델 'GPT-4o'는 텍스트는 물론 음성, 시각 정보까지 이해하고 '인간의 전유물'로 여겨진 창작 영역까지 넘보고 있다. 이처럼 빠른 속도로 AI가 발전하는 것과 동시에 오류도 곳곳에서 나타나고 있다. 구글이 새롭게 선보인 검색 기능 'AI 오버뷰(AI Overview)'는 허위 답변을 제공한다는 비판을 받았고, 오픈AI의 'GPT-4o'에서는 음성 비서 '스카이'가 유명 배우 스칼렛 요한슨(Scarlett Ingrid Johansson)의 목소리를 도용했다는 의혹에 휩싸여 서비스를 한 때 중단했다. 무리한 AI 개발 속도 경쟁이 얼마나 위험한 지를 보여주는 사건이다. AI 기술의 발전은 그 자체로 긍정적일 수 있지만, 기술 혁신과 창작자 권리 보호, 윤리와 도덕성 사이에서 균형을 맞추기 위한 과도기를 겪고 있다. 이 같은 상황에서 AI가 얼마나 위험한지 현 상황을 짚어보고 파악하는 것은 중요한 의미를 갖는다. 인공일반지능(AGI)이 조만간 개발돼 보편화될 것이란 전망 속에 AI의 위험성을 제대로 인지하고 있어야 부작용을 예방하고 향후 AI와 인간이 공존할 수 있게 된다. 유럽연합(EU)뿐 아니라 미국, 중국, 일본 등 세계 각국이 AI 관련 법제화에 속도를 내는 이유도 여기에 있다. 생각하는 기계 'AI'의 등장 현재 생활의 일부로 알게 모르게 들어온 AI는 최근 들어 빠른 속도로 발전했지만 연구 과정은 순탄치만은 않았다. 일단 기계로 빠르고 정확히 계산하는 '컴퓨터'가 등장한 후 이를 활용해 인간의 지적 능력을 인공적으로 만들려는 시도는 1950년대부터 있었다. "기계도 생각할 수 있는가?" 영화 '이미테이션 게임'의 실제 주인공이자 영국의 과학자인 앨런 튜링(Alan Mathison Turing)은 지난 1950년 10월 1일 국제 학술지 옥스퍼드에 게재한 논문 '계산 기계와 지능(Computing Machinery and Intelligence)'의 첫 문장을 이처럼 썼다. 그가 제시한 개념은 1956년 미국 다트머스에서 열린 회의를 통해 '인공지능(AI, artificial intelligence)'이라는 용어로 탄생했다. AI의 태동기로 불리는 1950년대에는 인간의 지식을 기호와 수학적 관계로 표현해 기계에 지능을 부여하려는 '규칙 기반 인공지능' 기술이 많은 관심을 받았다. 이 연구의 기반이 되는 기계적 계산으로 '직접 지능을 구현한다'는 움직임은 '계산주의', '기호주의' 등으로 불렸다. 신경생물학자 프랭크 로젠블랫(Frank Rosenblatt)은 1958년 '퍼셉트론(Perceptron)'이라는 알고리즘을 제시했다. 생물 신경세포인 '뉴런'에서 착안한 퍼셉트론은 입력 정보의 가중치를 조정해 수학적 처리를 거쳐 결과를 내놓는 구조다. 현재는 딥러닝에 쓰이는 인공신경망 모델로 불린다. 로젠블랫은 기초적인 논리연산을 퍼셉트론으로 구현하는 데 성공했고, 이 퍼셉트론에서 '머신러닝'의 기초적인 개념이 탄생했다. 퍼셉트론이 제시된 이후 사람의 뇌 구조를 본떠 기계에 지능을 부여하자는 시도인 '연결주의'라고 불리는 연구 경향이 등장했고, AI 연구의 한 축이 됐다. 하지만 1969년 'AI 대가'인 마빈 민스키(Marvin Lee Minsky)가 퍼셉트론으로 구현할 수 없는 논리연산(XOR연산)이 있다는 논문을 발표한 후 AI를 연구하려는 분위기는 가라앉았다. 머신러닝 등 AI 연구와 관련된 예산이 대규모로 삭감됐기 때문이다. 민스키의 논문으로 AI는 20년 가까이 암흑기를 겪었다. 다만 이때 퍼지 이론, 통계적 데이터 처리법, 데이터 마이닝 등 신경망 기반이 아닌 AI 유관 기술은 점차 발달했다. 암흑기에서 빠져나온 것은 1988년이다. 퍼셉트론 같은 인공 신경망을 층층이 쌓아 XOR연산 불가 문제를 해결한 것이다. 그러나 여러 층으로 신경망을 쌓으면 복잡해지게 돼 머신러닝 조정이 어려워 짐에 따라 지능 구현에 한계를 보인다는 문제점이 드러났다. 또 다층의 신경망을 운용하기 위한 연산 장치(하드웨어)의 발전이 충분하지 않은 데다 AI에 입력시킬 데이터도 부족하다는 시대적 한계도 있었다. 인공 신경망을 층층이 쌓는다는 아이디어는 2010년대의 '딥 러닝(Deep Learing)'으로 이어졌다. 그동안 인터넷의 영향으로 데이터가 기하급수적으로 늘어나고 병렬처리를 중심으로 한 연산 능력도 비약적으로 발달한 덕분에 '딥 러닝'은 출현할 수 있었다. 이후 합성곱신경망(CNN) 등이 발달하며 퍼셉트론부터 이어진 '연결주의' AI 전성시대는 본격화됐다. 특히 2016년에는 구글 딥마인드가 개발한 '알파고'가 등장해 이세돌 9단을 꺾으면서 대중에게도 큰 인상을 남겼다. 생성형 AI 시대 '활짝' 인간을 절대 따라잡을 수 없을 것이라 여겼던 '바둑' 분야에서 특출한 능력을 보여주면서 AI는 우리 삶을 빠르게 바꿀 것이라는 기대가 커졌다. 바둑 외에 AI가 일상에 변화를 주는 일은 그 이후에도 크게 일어나지 않았지만, 컴퓨팅 능력, 반도체 기술 등은 점차 빠른 속도로 발전됐다. 그러나 지난 2022년 말 오픈AI가 '챗GPT'라는 생성형 AI를 선보인 이후 시장은 빠른 속도로 변했다. 이제는 수많은 빅테크 기업이 생성형 AI를 기반으로 한 다양한 서비스를 내놓으면서 AI가 우리 삶에 빠르게 침투하고 있는 분위기다. 이들의 기술 경쟁은 올해 상반기에도 계속됐다. 오픈AI는 지난 2월 동영상 생성 AI '소라(SORA)'를 공개해 시장을 놀라게 했다. 소라가 만든 다양한 영상도 함께 선보였는데, 몇 줄의 프롬프트만으로 최대 1분 길이의 영상을 만들 수 있다는 점에서 주목받았다. 오픈AI 견제에 나선 구글도 같은 달 멀티모달 AI 모델 '제미나이(Gemini) 1.0 울트라'를 업그레이드한 '제미나이 1.5 프로'를 선보였다. 지난 5월에는 '구글 연례 개발자 회의(I/O)'를 통해 검색 엔진에 제미나이를 탑재할 것이란 소식뿐 아니라 구글의 음성 모델을 기반으로 하는 새로운 프로젝트 '아스트라(Astra)'도 공개했다. 이는 AI가 사람처럼 보고, 듣고, 음성으로 대화하면서 이용자의 개인 비서 역할을 하는 기능이다. 오픈AI 대항마로 불리는 앤트로픽(Anthropic)도 올해 3월 생성형 AI 모델 제품군인 '클로드 3'을 공개했다. 특히 가장 성능이 우수한 '클로드 3 오퍼스'는 앤스로픽이 내놓은 첫 '멀티모달' 생성형 AI로 눈길을 끌었다. 사용자는 사진, 차트, 문서 및 기타 유형의 데이터를 업로드하고 이에 대한 분석과 답변을 얻을 수 있다. 메타는 지난 4월 새 AI 모델인 '라마 3(Llama 3)'을 공개했다. 소셜 미디어(SNS) 플랫폼용 챗봇인 메타 AI도 이날 함께 공개했는데, 지난해 9월 베타 서비스를 시작한 지 7개월 만이다. 라마 3을 기반으로 만들어진 메타 AI는 페이스북과 인스타그램 등에 내장돼 사용자 질문에 답함은 물론 이미지 생성도 가능하다. 이 같은 분위기 속에 오픈AI는 지난 5월 'GPT-4o'라는 새로운 플래그십 AI 모델을 발표해 다시 한번 세계적인 관심을 불러일으켰다. GPT-4o는 GPT-4의 개선판으로, 더 빠른 응답속도를 제공하면서 향상된 시각·청각 기능을 갖춘 모델이다. 모델명에 '모든 것(omni)'이라는 뜻으로 o를 붙였는데, 이는 사용자와의 다양한 상호작용 방식을 하나의 모델에 통합해 텍스트, 음성, 이미지, 비디오를 모두 다룰 수 있다는 것을 나타낸다. 'GPT-4o'의 이점은 '향상된 사용자 경험'으로 요약할 수 있다. 대화형 AI 모델의 응답시간은 사용자가 얼마나 자연스럽게 AI와 상호작용을 할 수 있는지를 결정짓기 때문에 사용자 경험에 있어 매우 중요한 요소다. GPT4o는 최소 응답시간 232밀리초, 평균 320밀리초 만에 답할 수 있다. 인간 간의 대화에서 평균 응답시간이 약 200~500밀리초인 점을 감안하면 굉장히 빠른 속도다. 'GPT-4o'는 AI가 말하는 중간에 사용자가 끼어들 수 있도록 설계돼 AI의 말이 끝나기를 기다릴 필요 없이 즉각 다른 요청을 하고 답변을 받을 수 있다는 점도 눈길을 끈다. 이는 자연스러운 대화를 가능하게 해 사용자의 만족도를 크게 높이는 요소로 평가된다. 또 50개가 넘는 언어를 지원하고, 사용자의 명령에 따라 음성의 톤(어조)을 변경하거나 특정한 음성으로 대화를 진행할 수도 있다. 'GPT-4o'의 등장은 대화형 AI의 새로운 시대를 여는 중요한 진전이자, 향후 다양한 분야에서 혁신적인 변화를 불러올 것이란 기대감을 키우고 있다. 이를 통해 앞으로는 국제 콘퍼런스나 다국적 기업의 회의에서 실시간 통번역을 활용하거나, AI 교사가 언제든 학생의 요청에 실시간으로 빠르게 대응해 교육 효과를 높일 수 있을 것으로 예상된다. 미라 무라티 전 오픈AI 최고기술책임자(CTO)는 "GPT-4o는 사람들과 실시간으로 상호작용하며 대화한다"며 "텍스트 외에 이미지와 동영상도 잘 분석할 수 있다"고 강조했다. 'GPT-4o' 등장…'AGI' 시대 임박 'GPT-4o'의 등장 이후 빅테크들의 기술 경쟁이 더 치열해지면서 AI의 발전 속도도 더 가팔라질 것이란 전망이 많다. AI는 이제 주어진 명령을 수행하는 데 그치지 않고 중간에 필요한 업무를 스스로 찾아내 결과물을 도출하는 'AI 에이전트'로 진화하고 있다. 그 종착점으로는 주어진 모든 상황에서 인간처럼 추론, 학습하고 문제를 해결하는 능력을 갖춘 'AGI'가 될 것으로 보고 있다. 인간의 명령 없이도 스스로 판단하고 일할 수 있다는 뜻이다. 영화 아이언맨 속 '자비스', 영화 그녀(Her) 속 '사만다' 같은 수준의 AI가 현실화되는 것도 멀지 않았다. 아직 AGI의 명확한 판별 기준이나 정의는 없다. 오픈AI에선 '인간보다 똑똑한 AI 시스템'으로 AGI를 정의하며 관련 기술 개발에 몰두하고 있다. 오픈AI 전 연구자 출신 대니얼 코코타즐로는 "오픈AI가 최초의 AGI 구축 개발자가 되기 위해 무모하게 경쟁하고 있다"고 말했다. 구글의 '아스트라'도 AGI 프로젝트다. '알파고의 아버지' 데미스 허사비스 구글 딥마인드 CEO는 'AGI 시대 도래'를 선언하며 AGI의 일부 기능을 올 연말 구글 AI '제미나이'에 담겠다고 예고한 바 있다. 허사비스는 "일상생활에 도움을 주는 AGI를 개발하고 싶었다"며 "AGI는 사람처럼 복잡하고 역동적인 세계를 이해하고 대응할 수 있어야 한다"고 강조했다. AGI는 AI의 궁극적 지향점이자 전 세계 기술 패권을 거머쥐는 핵심으로 급부상하며 글로벌 빅테크들의 '쩐의 전쟁'이 벌어지고 있다. 덕분에 최소 30년, 적어도 10년으로 꼽히던 AGI 출현 예측 시기는 최근 5년 내외로 앞당겨지는 추세다. 샘 올트먼 오픈AI 최고경영자(CEO)와 젠슨 황 엔비디아 CEO는 5년 정도 후 AGI 현실화를 내다본다. 일론 머스크 테슬라 CEO는 이르면 내년으로 봤다. 전문가들은 AGI에 대한 통제력 상실 위험에 대비해야 한다는 지적을 속속 내놓고 있다. 스티븐 호킹 박사와 일론 머스크 테슬라 CEO 등은 AGI의 출현이 인간의 생물학적 한계로 인해 인류를 대체할 수 있다고 우려했다. 지난 3월 미국 기업 글래드스톤 AI는 미 국무부 의뢰를 받아 발표한 보고서에서 "가장 발전한 AI 시스템이 최악의 경우 '인류 멸종 수준의 위협'이 될 수 있다"고 경고했다. 제프리 힌튼 캐나다 토론토대학 교수는 "AGI의 상용화가 예상보다 빠를 것"이라며 "그에 따른 위험도 크다"고 경고했다. 오픈AI 전 연구자 출신인 대니얼 코코타즐로는 "AGI가 오는 2027년께 완성될 수 있을 것으로 보인다"며 "AGI가 인류를 파괴하는 재앙이 될 확률은 70%에 달한다"고 말했다. 반면 AGI의 개발은 불가능하다고 주장하는 전문가들도 있다. 앤드류 응(Andrew Ng) 미국 스탠퍼드대학 교수가 대표적으로, AGI에 도달하려면 30~50년이나 더 걸릴 수도 있다고 주장했다. AI가 인류에게 도움이 될 것이라는 'AI 부머(boomer)'로 분류되는 얀 르쿤(Yann LeCun) 미국 뉴욕대 교수는 "인간 수준의 AI 등장 시기를 예측하는 것은 어렵고 위험도 과장됐다"고 평가했다. 인간 위협하는 AI…신뢰도는 '글쎄' AI가 이미 현실에서 인간에게 위협을 줄 만한 일들을 속속 벌이고 있다는 점에서 AGI가 나타나기 전 인간의 선한 의지와 배치되지 않는 '정렬(alignment)' 작업이 필요하다는 지적들도 있다. AGI 기술이 테러조직·해커 등의 손에 잘못 들어가게 될 경우 참사가 일어날 수도 있는 데다 AGI 자체가 인간의 통제를 벗어나 문제를 일으킬 가능성도 있다는 점에서다. 실제 오픈AI '챗GPT'는 탈옥 모드로 해킹돼 논란이 됐다. 플리니 프롬프터(Pliny the Prompter)라는 해커는 X(옛 트위터)를 통해 자신을 'AI 레드팀' 멤버라고 소개하며 오픈AI 커스텀 GPT 편집기를 사용, 새로운 GPT-4o 모델의 모든 제한을 우회하는 방법을 찾아냈다고 밝혔다. 그 결과 AI 챗봇이 욕설을 내뱉게 하고 자동차 탈취 방법을 생성하게 할 뿐 아니라 심지어 폭탄을 제조하는 방법을 안내하도록 했다. AI 환각·편향성 등도 문제다. 구글은 올해 새롭게 선보인 검색 기능 'AI 오버뷰(AI Overview)'에서 허위 답변을 제공해 망신을 톡톡히 당했다. 예컨대 '미국에 얼마나 많은 무슬림 대통령이 있었는가' 질문하자 "버락 오바마는 미국 최초의 무슬림 대통령"이라고 잘못된 답변을 내놓은 것이다. 또 '치즈가 피자에 달라붙지 않는다'라는 사용자의 말에 AI 오버뷰는 "소스에 무독성 접착제 8분의 1컵을 넣으면 된다"는 황당한 조언도 내놨다. 위험성 증가에 AI 규제안 마련 골몰…韓, AI 기본법 연내 통과 '임박' 이처럼 AI에 대한 위험성이 점차 커지면서 이를 제어하기 위해 곳곳에서 방안 마련에 나서고 있다. 유럽연합(EU)이 올해 3월 세계 최초로 포괄적인 AI 기술 규제법안인 'AI법'을 최종 승인한 배경도 이런 위험도를 낮추기 위한 수순으로 분석된다. 2026년 이후 전면 시행될 이 최종안에 따르면 EU는 AI 활용 분야에 대해 총 4단계의 위험 등급으로 구분해 차등 규제할 예정이다. 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7% 수준의 과징금이 부과될 수 있다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억 원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 영국과 캐나다도 법률, 의료 등에 AI 기본 원칙을 세워 준수하고 있다. 영구적인 안전장치가 필요하다는 주장도 있다. 에릭 슈미트 전 구글 최고경영자(CEO)는 최근 개최한 콘퍼런스에서 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 발언해 주목받았다. 이처럼 세계 각국이 AI 관련 법제화에 속도를 내고 있지만 우리나라는 예외다. AI 기본법이 지난해 2월 국회 과학기술정보방송통신위원회의 법안심사소위를 통과하고도 1년 넘게 방치되다 결국 21대 국회가 끝나면서 자동 폐기됐기 때문이다. 22대 국회에서도 연내 통과를 추진해왔지만 이달 초 윤석열 대통령의 비상계엄령 사태로 한 때 위기를 맞기도 했다. 전문가들은 미래 먹거리로 AI 산업을 육성해야 하는 우리나라의 상황에서 진흥과 규제를 아우르는 법 제도가 하루 빨리 갖춰져야 한다고 입을 모은다. 글로벌 AI 기업들과 경쟁이 심화되는 상황에서 법 제정이 늦어질수록 국내 AI 기업들의 경쟁력은 그만큼 떨어질 수밖에 없다고 보고 있다. 이에 국회는 더 이상 늦출 수 없다는데 의견을 같이하고 이달 말께 AI 기본법을 본회의에서 처리하기로 거의 합의를 봤다. AI기본법은 정부가 AI 산업 육성을 지원하고 필요한 규제를 할 수 있도록 관련 법적 근거를 담았다. 대통령 직속 '국가AI위원회'를 설치·운영하고 과학기술정보통신부는 3년마다 국가AI위원회 의결에 따른 AI 정책 방향과 전문인력 양성 등을 담은 국가 AI 전략인 'AI기본계획'을 수립해야 한다. 최형두 국민의힘 의원은 "최근 비상계엄 사태로 야기된 정치적 혼란과 과방위의 7개월간 방송 이슈 집중으로 산업계에 실망을 드려 죄송하다"며 "여야가 힘을 모아 연말 AI 기본법 통과를 목전에 두고 있듯 보다 적극적으로 산업 지원에 나서겠다"고 말했다. 조인철 더불어민주당 의원은 "본회의가 예정된 27일 AI 기본법은 통과될 것 같다"며 "만약 그날 (통과가) 안 되더라도 반드시 AI 기본법을 통과시켜 놓겠다"고 공언했다. 조준희 한국소프트웨어산업협회(KOSA) 회장은 "엄중한 상황에서도 여야 국회와 관계부처의 노력으로 AI 기본법이 연내 제정을 가시화하는 성과를 달성했다"며 "내년을 전 산업의 AI 내재화 원년으로 선포할 것"이라고 강조했다.

2024.12.20 16:54장유미

더불어민주당 조인철 의원 "AI 기본법 이달 27일쯤 통과될 것"

"오는 27일 본회의가 예정된 것으로 알고 있습니다. 그날 인공지능 기본법은 통과될 것 같습니다." 더불어민주당 조인철 의원은 19일 서울 반포 플렌티컨벤션에서 열린 '2024 KOSA 회원 송년의 밤' 행사에서 본회의 의결을 남긴 AI 기본법에 긍정적인 입장을 밝혔다. 이날 행사에서 SW 의정대상을 수상한 조 의원은 "본회의가 예정된 27일 AI 기본법은 통과될 것 같다"며 "만약 그날 (통과가) 안 되더라도 반드시 AI 기본법을 통과시켜 놓겠다"고 강조했다. AI기본법은 전 산업에 걸쳐 핵심 기술로 주목받는 AI의 건전한 발전에 기여하고 AI 사업자의 투명성과 안정성을 확보하기 위한 법안이다. 지난 17일 AI기본법에 대한 법사위 심사를 마치고 오는 27일 본회의만을 남기고 있다. 이번 AI기본법은 22대 국회에서 발의 19건의 법안을 병합한 것으로 AI 기본계획의 수립과 시행, 국가AI위원회 설치 등 산업 육성 및 진흥에 대한 내용과 딥페이크 등 기본권에 중대한 영향을 미칠 수 있는 부분에 대한 규제도 포함한다. 조 의원은 "이번에 준 상은 상값을 톡톡히 하라는 이야기 같다"며 "어려운 일이 있을때 언제든 연락주시면 최선을 다하겠다"고 수상소감을 밝혔다.

2024.12.19 18:40남혁우

정부 "AI기본법 사실조사, 행정조사기본법 규정 반영”

인공지능(AI) 기본법안의 사실조사 조항을 두고 일각에서 단순 민원으로도 조사가 이뤄진다고 주장하는 가운데, 정부는 필요 최소한의 범위 내에서만 사실조사가 가능하다고 설명했다. 과학기술정보통신부는 18일 설명자료를 통해 “법제사법위원회를 통과한 AI기본법안의 사실조사 조항은 AI기본법에만 규정된 것이 아니다”면서 “현행법 상 행정조사의 기본법인 행정조사기본법 제7조 규정을 반영한 일반적인 내용”이라고 밝혔다. 이어, “법사위는 심사 과정에서 업계의 우려를 반영해 사실조사의 내용, 방법, 절차 등에 관해 이 법에서 정하는 사항을 제외하고는 행정조사기본법에서 정하는 바에 따르도록 자구를 수정했다”고 강조했다. 과기정통부는 또 “행정조사기본법에서 규정하는 바와 같이 조사목적을 달성하는데 필요한 최소한의 범위 안에서 실시할 예정”이라며 “다른 법령에서 규정하는 바와 같이 사실조사 조건을 명확히 하기 위해서 민원인의 사적 이해관계에서 민원이 제기됐거나 익명의 탄원, 투서 등에 의해 이뤄지는 등의 경우에는 사실조사를 실시하지 않도록 하위법령에 명시할 계획”이라고 덧붙였다.

2024.12.18 09:15박수형

AI기본법·단통법 폐지안, 국회 법사위 문턱 넘었다

인공지능(AI) 기본법 제정안과 단말기유통법 폐지안, 디지털포용법 제정안이 17일 국회 법제사법위원회 문턱을 넘어섰다. 이 법안들은 오는 30일 개최 예정인 본회의를 통과할 것으로 전망된다. 법사위는 이날 전체회의를 열어 과학기술정보방송통신위원회를 거친 AI 기본법 제정안, 단통법 폐지안과 일부 조항을 이관한 전기통신사업법 개정안, 디지털포용법 제정안, 수신료 통합징수 내용을 담은 방송법 개정안, 마약 유통 처벌 관련 정보통신망법 개정안 등을 통과시켰다. 수신료 통합징수 조항을 담은 방송법 개정안 외에 법사위를 통과한 디지털 분야 법은 여야 이견이 없는 내용이다. 지난달 말 과방위 전체회의를 통과한 뒤 법사위 심사에 앞서 숙려기간을 거치며 부처 간 이견을 조율 과청을 거쳤다. 방송법 개정안 외에 다른 법안은 법사위 내에서도 별다른 이견이 나오지 않았다. 다만, AI 기본법을 두고 문화체육관광부 국장급 인사의 돌발 발언으로 잠시 논란을 빚었다. AI 기본법안의 주무부처인 과학기술정보통신부는 다른 부처와 이견 조율을 거치면서 산업통상자원부와 법안 내 표준 내용에 관해 합의를 마쳤다. 또 문체부와는 저작권 관련 내용으로 이견이 있었으나 유상임 장관이 이날 오전 한덕수 대통령 권한대행과 유인촌 문체부 장관과 논의 끝에 법안 통과로 정부 방침을 세웠다. 그런 가운데 법사위에서 문체부 저작권국장이 일부 조항 추가를 요구한 것이다. 이에 대해 과방위 더불어민주당 간사인 김현 의원은 법사위 회의에 출석해 “제정법에 대해 21대 국회에서도 충분히 논의됐고, 기본법을 우선 제정하고 각 상임위별로 후속법 논의가 맞다는 것이 과방위 전체회의 입장”이라고 밝혔다. 유상임 과기정통부 장관 역시 “문체부와 저작권법 개정으로 추진하는 것 이야기해왔고, 기본법에서는 가급적 규제는 담지 않고 문체부나 개인정보보호위원회와 규제에 관련해서는 차후 각 부처에서 다루는 것으로 합의를 거쳤다”고 설명했다. 이어, “안타깝다. (문체부) 국장님 의견이 강해 (문체부) 장관님도 안 따르는 것 같다”고 지적했다. 정청래 법사위원장은 “일단 개문발차한 뒤 부족한 부분은 해당 상임위원회에서 해결하는 것으로 하자”며 “부처 간 이견이 있는 법안은 계류시키고 숙성시켜야 하는데 그 부분이 해소된 사항”이라고 말했다. 수신료 통합징수 방송법 개정안에 대해서는 여야 의견이 나뉘었으나 표결에 따라 처리됐다. 이외 다른 법안에 대한 토론은 이뤄지지 않고 과방위 안에 일부 자구 수정을 거친 안으로 통과됐다.

2024.12.17 12:32박수형

"AI기본법 '사실조사'는 독소조항...사업자 막대한 규제 부담"

인공지능(AI) 기본법의 조항 중 '사실조사'에 대한 업계 우려가 커진다. 법 위반에 대한 신고나 민원이 접수된 경우에도 정부가 현장조사를 할 수 있어, 과도하다는 목소리다. 조사 실시 요건 제한을 단순 민원 접수에서 위반 행위 인정으로 바꿔야 한다는 의견의 제기됐다. 17일 관련업계에 따르면 이날 국회 법제사법위원회는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)' 논의를 진행한다. AI기본법은 AI 기술의 발전과 안전한 활용을 촉진하기 위해 과학기술정통부가 마련했다. 다만 업계에서는 해당 법안의 '제40조(사실조사 등)'에 대해 우려한다. 먼저 제40조 1항에서는 해당 법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우, 법 위반에 대한 신고를 받거나 민원이 접수된 경우 과기정통부 장관이 AI 사업자에 대해 관련 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 한다고 나와있다. 2항은 과기정통부 소속 공무원에게 사업자의 사무소·사업장에 출입하여 장부·서류, 그 밖의 자료나 물건을 조사하게 할 수 있도록 규정한다고 나와 있는데, 이런 조항들이 다른 법률에 비해 지나치게 쉬운 조사 실시 요건(단순 민원)으로 정부에 과도한 규제권한을 부여해 사업자에 막대한 규제 의무를 부과시킨다는 의견이다. 업계 관계자는 "정보통신망법은 민원 접수에 따른 정부의 권한을 자료 제출로 제한하고 있지만, AI 기본법은 단순 민원 접수로도 현장 조사를 실시할 수 있게 했다. 조사권 오남용이 우려된다"고 말했다. 이어 "경쟁사의 민원이나 악성 민원에도 사실조사를 받을 수 있다는 것은 독소조항이다"라면서 "불완전한 조항에 따른 중대한 법 체계적 문제, 타법과의 형평성 문제가 발생할 수 있다"고 지적했다. 이에 업계에서는 제40조제1항제2호 삭제와 함께 피조사자의 권리 조항 추가를 통한 법 체계적 문제를 해소하는 것을 대안으로 제시했다. 업계 관계자는 "진흥법이라는 이름 아래 이 법의 위반에 대한 신고, 민원만으로 정부가 사실조사의 명분으로 사업자의 사무소, 사업장에 출입하여 장부, 서류, 그밖에 자료나 물건을 조사할 수 있다면 아마 국내 인공지능 사업을 하는 사업자는 주소지를 해외로 옮기거나 국내 영업을 안 할 우려도 있다"고 밝혔다.

2024.12.17 10:33안희정

AI 산업, 尹 탄핵 정국 속 흔들리나…"초당파적 정책 연속성이 관건"

윤석열 대통령에 대한 탄핵 소추안이 지난 14일 국회 본회의에서 찬성 204표로 가결되면서 국가 인공지능(AI) 정책의 핵심인 AI 기본법 제정과 국가인공지능위원회 운영에 차질이 불가피할 것으로 보인다. 야당 역시 AI 기본법의 중요성에 공감해 정국 안정 이후 법안 처리에 진전이 있을 것으로 전망되나 업계는 신속한 경쟁력 회복의 중요성과 세부적인 정책 수립의 필요성을 강조하고 있다. 16일 업계에 따르면 AI 기본법은 국내 AI 산업계에 일종의 '가이드라인'을 제공하는 법안으로, 고위험 영역에서의 이용 지침과 안전성 확보를 위한 기업의 의무를 명시하고 있다. 이 법안은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체회의를 통과하며 법사위 논의를 거쳐 올해 중 통과가 예상됐으나 지난 9일 법제사법위원회(법사위) 전체회의에서 비상계엄령 관련 '내란 의혹 특검 수사요구안'이 먼저 다뤄지며 후순위로 밀려났다. 또 지난 9월 출범한 국가인공지능위원회(국가AI위원회)도 운영에 차질이 불가피할 것으로 전망된다. 국가AI위원회는 국가 AI 전략을 수립하고 시행하는 컨트롤타워 역할을 담당하는 대통령 직속 기구로, 윤 대통령의 직무정지로 인해 위원회의 정상적인 운영이 어려워질 전망이다. 특히 위원회가 계획했던 내년 1분기 내 국가 AI 전략 수립도 지연될 가능성이 높으며 정권 교체 시 위원 구성 변경으로 업무 연속성마저 위협받을 수 있다. 이로 인해 대폭 증액된 과학기술정보통신부(과기정통부)의 AI 예산 집행과 AI 산업 육성 시스템 마련에도 차질이 예상된다. 기자가 이와 관련해 과기부에 취재를 요청했으나 구체적인 답변을 받지 못했다. 일각에서는 탄핵 정국 이후 정권 교체 가능성이 대두되더라도 야당이 AI 산업의 초당파적 중요성을 인정하고 있기에 이견이 최소화되고 AI 분야가 지속적으로 진흥되리라고 전망하고 있다. 특히 법사위에 계류 중인 기본법안에 대해 이재명 대표 등 당 지도부는 신속 처리와 투자 요건 완화를 포함한 속도감 있는 정책 추진을 요구하고 있는 상황이다. 국가인공지능위원회 역시 대통령 탄핵 소추 상황 속에서도 중요한 역할을 지속해야 한다는 목소리가 나오고 있다. 한 야당 과방위 관계자 A씨는 "AI 산업은 분초를 다투는 중요한 문제이므로 대통령 탄핵 정국과 관계없이 여야가 협력해야 하는 분야"라며 "업무 공백을 최소화하고 AI 산업 발전을 위한 정책을 지속적으로 추진해야 한다"고 밝혔다. 그럼에도 불구하고 업계에서는 주요 정책 중단으로 인한 AI 발전 지연을 우려하고 있다. 치열한 글로벌 AI 경쟁 속에서 현재의 불안정한 정치적 상황이 국내 AI 발전에 불리하게 작용할 수 있다는 것이다. 한 AI 업계 관계자 B씨는 "현재의 정치적 상황은 불가항력이지만 AI 산업은 '골든타임'에 놓여 있다"며 C씨는 "정치와 관계 없이 당파를 초월해 AI 산업에 대한 일관적이고 전폭적인 지원이 필요하다"고 말했다. 이어 "업계 요구를 충분히 반영한 예산 배정과 정책 방향을 마련한다면 국가적 AI 경쟁력 강화에 큰 도움이 될 것"이라고 덧붙였다. 이와 동시에 법·규제 차원을 넘어 산업 발전을 위한 근본 조건 정비도 필요하다는 의견도 제기된다. 정치적 상황과 관계없이 반도체 생산 활성화, 전력 인프라 확충, 원자력 발전 지원 등 기반 산업부터 다뤄야 한다는 주장이다. AI 업계 관계자 C씨는 "규제·법제뿐 아니라 구체적 진흥 방안 논의가 중요하다"며 "어떤 기업에 얼마를 투자하고 무엇을 언제까지 할지 등 실질적 계획을 마련해 AI 산업이 흔들리지 않도록 해야 한다"고 강조했다.

2024.12.16 18:01조이환

"투자·인재·제도 열악한데 AI 3강?"…韓, 마이너리그 전락 '우려'

윤석열 대통령의 난데없는 비상계엄 선언 여파로 정국이 탄핵 국면으로 접어들면서 인공지능(AI) 분야 G3(3대 강국) 꿈도 좌절되는 분위기다. AI 기본법 통과가 차일피일 미뤄지며 제도적 기반이 원활히 이뤄지지 않은 탓에 기술도 점차 뒤처지면서 경쟁력이 말레이시아와 같은 '2군 경쟁국'에 해당한다는 분석이 나와 충격을 주고 있다. 11일 업계에 따르면 우리나라는 그간 네이버가 전 세계 세 번째로 '하이퍼클로바 X(HyperCLOVA X)'를 개발한 것을 계기로 '전 세계 AI 3대 강국'으로 도약하겠다는 야심을 드러내왔다. 하지만 투자 환경이 상당히 열악한 데다 정부, 정치권에서 기대 이하의 지원책을 내놓으면서 점차 뒤처지고 있는 분위기다. 실제로 한국지능정보사회진흥원(NIA)이 발간한 '글로벌 정부·민간 분야 AI 투자 동향 분석' 보고서에 따르면 우리나라는 지난해 기준 AI 투자를 선도하는 6개국에 이름을 올리지 못했다. 6개국은 미국·EU(유럽연합)·중국·영국·일본·캐나다로, 이 중 미국은 전 세계 국가의 AI 투자 규모에서 60%가 넘는 비중을 차지하며 압도적 1위에 올랐다. 미국은 마이크로소프트(MS)를 비롯해 오픈AI, 구글 등 생성형 AI 시장 '강자'들을 품고 있어 투자 시장에서 상당히 유리한 위치에 있는 것으로 파악됐다. 또 지난해 미국 정부의 AI 투자는 27억5천만 달러(약 3조8천87억원), 민간 투자는 846억7천만 달러(약 117조2천680억원)에 달했는데 합산 액수는 전 세계 AI 투자액의 약 62%였다. 여기에 오픈AI, 앤트로픽 등 생성형 AI 기업들에 대한 투자가 꾸준히 진행되고 있다는 점도 호재다. 미국 벤처캐피털(VC) 중 하나인 세쿼이아 캐피탈은 보고서를 통해 "아마존웹서비스(AWS), 구글, 메타, MS 등 빅테크는 지난해 오픈AI의 챗GPT와 같은 애플리케이션을 개발하기 위해 AI 인프라에 막대한 투자를 했다"며 "빅테크의 투자는 연간 6천억 달러에 달하는 반면, 수익은 아무리 높게 봐도 1천억 달러 미만"이라고 분석했다. 전 세계 AI 투자도 정부보다는 민간 중심으로 활발히 진행됐다. 지난해 기준 전 세계 정부의 투자는 91억 달러로, 전체 AI 투자에서 6%에 그쳤다. 민간 투자는 94%인 1천328억 달러에 달했다. 지난해 전 세계 정부와 민간 분야 AI 합산 투자액은 1천419억 달러로, 2015년(329억 달러) 대비 4.3배 늘었다. 중국은 정부 주도로 AI 투자가 활발히 진행됐다. 지난해 중국 정부의 AI 투자는 21억1천만 달러로, 주요 6개국 중 정부의 AI 투자 비중(19%)이 가장 높았다. 또 중국 정부와 민간(91억7천만 달러) 투자액을 합치면 112억8천만 달러인데, AI 투자가 많았던 2021년(243억 달러)과 비교하면 절반 이하로 감소한 것으로 나타났다. EU도 최근 들어 AI 투자 움직임이 다소 주춤했던 것으로 나타났다. 지난해 AI 투자 규모는 134억9천만 달러로, 2021년(217억2천만 달러)과 비교 시 62% 수준에 그쳤다. 또 전체 투자에서 정부 비중은 9%가량인 11억9천만 달러로, 3% 수준인 미국, 영국에 비해선 많았다. 영국은 압도적으로 민간 투자가 많았다. 지난해 AI 투자는 72억1천만 달러로, 이 중 97%(70억 달러)가 민간 투자였다. 일본은 2018년 이후 거의 꾸준히 30억~40억 달러 수준으로 AI에 투자 중인데, 지난해에는 34억4천만 달러를 기록했다. 캐나다는 지난해 AI 투자가 전년(92억1천만 달러)에 비해 큰 폭으로 줄어든 34억2천만 달러로 집계됐다. 한국은 주요 6개국 외 비교적 AI 투자가 많은 국가들로 이름만 올렸다. 한국 외에 인도, 사우디아라비아, 싱가포르, 이스라엘, 호주 등도 함께 언급됐다. 이들 국가의 개별 투자규모는 공개 자료의 불충분 등 이유로 소개되지 않았다. 김소미 NIA 선임연구원은 "한국의 경우 전체 국가 중 10위권 내 포함된다"며 "투자금액은 일본·캐나다 대비 조금 못 미치는 수준"이라고 설명했다. 이 같은 설명에 근거해 우리나라의 AI 투자액을 20억~30억 달러 수준으로 추정하면, 전 세계 AI 투자액의 1.5~2.0%에 불과한 것으로 예상된다. 경제협력개발기구(OECD) AI 정책관측소가 집계한 자료에선 다소 구체적인 수치가 나왔다. 지난해 생성형 AI 분야에서 한국의 글로벌 VC 투자 유치 규모는 총 7천500만 달러(약 1천40억원)로, 선두인 미국(163억900만 달러)의 217분의 1수준에 그쳤다. 우리나라의 AI 투자 유치액은 미국뿐 아니라 유럽연합(5억5천900만 달러), 중국(4억800만 달러), 이스라엘(2억9천900만 달러)과도 큰 격차를 보였다. 특히 우리나라는 빅테크들의 AI 스타트업들에 대한 투자 움직임 속에서도 열외된 분위기다. 실제 오픈AI와 앤트로픽, 미스트랄AI, 알레프 알파 등은 이미 수조 원의 투자 유치에 성공하며 업계의 주목을 받았다. 반면 한국 AI 스타트업은 조 단위는거녕 누적 투자 금액이 1천억원을 넘긴 곳이 거의 없는 것으로 알려졌다. 업스테이지(약 1천400여억원) 정도만 눈에 띈다. 업계 관계자는 "최근 기술 경쟁의 우열이 뚜렷해지면서 투자 양상 또한 소수 기업이 독점하는 방향으로 전개되고 있는 분위기"라며 "AI 기술 개발 시 막대한 투자가 필요하지만 국내 투자 환경은 이를 충분히 뒷받침할 만큼 조성돼 있지 않아 기술 개발뿐 아니라 인력 확보에도 어려움을 겪고 있다"고 밝혔다. 이 탓에 우리나라의 AI 기술 성숙도, 잠재력이 전 세계를 기준으로 '2군 경쟁국'에 해당한다는 분석 결과가 나왔다. 보스턴컨설팅그룹(BCG)이 전 세계 73개국을 분석한 'AI 성숙도 매트릭스' 보고서에 따르면, AI 선도국으로 선정된 것은 미국, 중국, 영국, 캐나다, 싱가포르 등 5개국 뿐이다. BCG는 AI 선도국, AI 경쟁국, AI 실천국, AI 도약국 등 크게 4개 그룹으로 분류했다. AI 선도국은 상위 10%, AI 도약국은 하위 10% 국가로 평가됐다. 우리나라는 2군에 해당하는 AI 경쟁국, 이 중에서도 비교적 상위에 해당하는 안정적 AI 경쟁국가로 분류됐다. 같은 그룹에는 일본, 대만, 이스라엘, 홍콩, 독일, 스페인, 프랑스, 호주, 말레이시아, 이스라엘 등이 포함됐다. BCG 보고서는 "2028년까지 전 세계에서 AI 관련 지출이 2배 이상 증가해 6천320억 달러(약 904조원)에 이를 것으로 보인다"며 "이번 보고서에 포함된 73개 국가 중 70% 이상이 AI 대비가 부족하고 생태계 참여, 기술, R&D 등에서 낮은 점수를 보이고 있다"고 지적했다. 이어 "한국의 경우 높은 수준의 AI 노출 정도와 준비도를 갖추고 있다"며 "특히 금융 서비스와 같은 부문에서 AI 기술을 성공적으로 채택하고 있다는 점에서 '안정적 AI 경쟁국가'"라고 평가했다. 하지만 한국은 R&D 및 혁신 분야에서는 AI 선도국 대비 상대적으로 부족한 것으로 분석됐다. 5개의 AI 선도국들은 강력한 R&D 혁신 생태계, 고급 인재 및 교육 시스템, 글로벌 표준 및 규제에 대한 영향력, 다양한 산업 분야에 적용된 AI 기술 등에서 강점을 가진 것으로 진단됐다. 이와 관련해 미국은 AI 컴퓨팅을 위한 필수 하드웨어 및 클라우드 기반 서비스를 전 세계에 공급하고 있다. 중국은 자율주행 플랫폼과 같은 AI 소비재 기술을 수출하며 세계 기술 공급망에서 중요한 역할을 하고 있는 것으로 평가됐다. 또 미국과 싱가포르는 AI 전문 인재 풀에서 강점을 갖고 있고, 중국은 AI 관련 기술 특허에서 선두를 달리고 있는 것으로 나타났다. 이 같은 상황에서 우리나라는 최근 윤석열 대통령의 비상계엄 사태 여파로 혼란을 맞으면서 '8부 능선'을 넘었던 AI 기본법이 통과되지 못하고 장기 표류될 위기까지 처해 난감해진 상태다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였지만 계엄령 선포 이후 제동이 걸렸다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 2027년까지 'AI 3대 강국'를 목표로 인프라 투자와 지원을 구체화하겠다는 정부의 계획도 현재 혼란해진 상황 탓에 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 정치권에서 대통령 탄핵을 우선 순위로 삼고 있어서다. 일단 우리 정부는 우리나라의 AI 기술 수준을 미국, 중국과 견줄 수 있는 수준으로 끌어올리겠다는 각오다. 이를 위해 과학기술정보통신부는 지난 10일 확정된 약 18조9천억원의 내년도 예산을 AI를 비롯한 3대 게임체인저 기술을 중심으로 투자할 예정이다. 업계 관계자는 "한국은 스스로의 실력으로 AI 혁명을 진행하고 있는 몇 안 되는 나라로 꼽히지만, AI 민간투자는 이스라엘(3위)에 비해서도 한참 떨어진 18위에 머문다"며 "AI 3대 강국이 되려면 해외 빅테크와의 확연한 체급 차이도 극복해 나가야 하는데 비상 계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 혼란스러운 데다 투자 움직임마저 소극적이어서 쉽지 않다"고 말했다.

2024.12.11 18:52장유미

계엄·탄핵 정국에 'AI기본법' 표류…韓 AI 경쟁력 저하 우려 ↑

12·3 비상계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 인공지능(AI) 기본법이 장기간 표류할 가능성이 커지면서 업계의 근심이 짙어지고 있다. 해외 빅테크가 속속 새로운 AI 기술을 선보이며 격차를 벌이고 있는 반면, 국내 기업들은 AI 관련 제도 미비로 경쟁력 강화에 속도를 내지 못하면서 점차 글로벌 시장에서 뒤처지고 있다는 위기 의식도 커지고 있다. 11일 업계에 따르면 윤 대통령 탄핵 추진 이후 여야 대립이 극심해지면서 AI 기본법의 통과 시기가 내년으로 밀릴 가능성이 높아졌다. 국회 본회의에선 당초 AI기본법 심의·의결을 지난 10일 처리하려고 했으나, 비상계엄 사태 여파로 이날 내란 혐의 규명을 위한 상설특검 수사요구안만 의결됐다. AI기본법을 비롯한 과학기술정보방송통신위원회(과방위) 안건들은 이날 상정되지도 않았다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 그간 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. 업계에선 예기치 못한 비상계엄과 탄핵정국 전환으로 여야 대립이 심화된 상황에서 정치 공방이 장기화되면 지난 회기처럼 내내 표류하다 끝날까 우려하고 있다. 또 연내 통과를 기점으로 기술력을 끌어올리기 위해 투자·채용에 나서려던 기업들도 당혹감을 감추지 못하고 있다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 업계 관계자는 "정부의 AI 관련 지원이 법 제정 없이 하기에는 현재로선 한계"라며 "기술 발전을 위해선 최소한의 틀이라도 갖춰져야 하는데 다른 현안들에 밀려 법 제정이 계속 이뤄지지 않고 있어 답답하다"고 밝혔다. 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. AI기본법 제정을 의욕적으로 추진해온 과학기술정보통신부는 정기국회 종료 이후에도 임시국회에서 올해 안에 최대한 진척이 이뤄질 수 있게 노력한다는 방침이다. 업계 관계자는 "규제 세부 내용에 대한 찬반을 떠나 규제 불확실성이 해소되는 것만으로도 기업들이 대응하기 수월할텐데 전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞게 된 것이 답답하다"며 "AI에 투자를 집중할 수 있는 법 체계를 마련해야 하는 중요한 상황에서 이 같은 일이 벌어지면서 업계 분위기가 전반적으로 다소 침체된 듯 하다"고 말했다. 또 다른 관계자는 "국가 지원이 제때 이뤄지지 않으면 결국 AI 관련 인력 유출 등의 여파로 막대한 손실이 일어날 수밖에 없을 것"이라며 "산업의 흐름이 굉장히 빠르게 바뀌는 시점에서 이런 일이 발생해 안타깝다"고 밝혔다.

2024.12.11 10:00장유미

[인터뷰] "AI만을 위한 보안책 없어…美 클라우드법 우려 해소 노력"

[라스베이거스(미국)=김미정 기자] "생성형 인공지능(AI) 시대 속 보안 분야는 새로운 도전을 맞이하고 있습니다. 아마존웹서비스(AWS)는 전통적 보안 체계를 유지하면서도 신기술로 AI 보안을 강화하고 있습니다. 한국을 포함한 해외 기업들의 클라우드법(Cloud Act)에 대한 우려를 완화하고, 물리·논리적 접근을 통한 데이터센터 보안 강화에도 총력을 다하고 있습니다." AWS 마크 라이랜드 아마존 보안 총괄 책임은 최근 기자와 만나 생성형 AI와 클라우드, 데이터센터 보안 전략을 이같이 밝혔다. 라이랜드 책임은 13년 동안 아마존에서 근무했다. 그동안 클라우드 제품을 비롯한 데이터센터, 데이터베이스(DB), AI 솔루션에 들어가는 보안을 총괄해 왔다. "AI만을 위한 보안 없다…전통·최신 기술 합쳐야" 마크 라이랜드 책임은 생성형 AI만을 위한 뾰족한 보안은 존재하지 않는다고 강조했다. 전통적인 보안 방식과 최신 보안 방식을 결합하는 게 최선이라고 주장했다. 그는 전통적인 보안으로 시스템 최소 접근 권한과 데이터 암호화, 기밀 컴퓨팅 등 기존 검증된 보안 조치가 생성형 AI 시스템에도 동일하게 적용돼야 한다고 말했다. 그는 "전통적 보안 운영 시스템은 AI 시스템에 내장된 자원을 보호하고 새로운 형태의 AI 오용을 방지할 수 있다"며 "이를 바탕으로 AI로 AI를 점검하는 상호 검증을 할 수 있어 AI의 잠재적 약점을 선제적으로 파악할 수 있다"고 설명했다. 라이랜드는 전통적 방식뿐 아니라 AI를 이용한 생성형 AI 보안에도 힘쓴다고 했다. 우선 AI로 생성된 이미지뿐 아니라 음성, 동영상에도 워터마크를 삽입하려는 방법을 연구 중이다. 이를 통해 AI가 생성한 결과물임을 시스템이 감지할 수 있도록 하기 위해서다. AI 솔루션 개발 과정에서는 AI를 이용해 제품 품질을 높이고 시스템 버그와 보안 취약점을 최소화하고 있다. AWS 레드팀이 AI 모델 배포 전후로 지속적인 공격 시도를 모의 실험함으로써 약점을 찾아내고 내·외부 전문가와 자동화 도구를 활용해 테스트를 확장하는 접근법도 이뤄지고 있다. 그는 "이같은 보안 조치는 아마존이 최근 출시한 '아마존 노바' 에도 적용됐다"고 덧붙였다. 라이랜드는 생성형 AI 보안을 100% 막을 방법은 아직 없다고 주장했다. AI가 공격·방어 양면에서 활용될 수 있기 때문이다. 다만 그는 AI를 통한 이점이 피해보다 더 많다고 했다. 그러면서 "현재로서는 AI를 통한 사이버 방어 능력을 강화하기 위하 막대한 투자가 필요하다"고 덧붙였다. 해외 기업 '클라우드 액트' 우려..."누구도 데이터 못 봐" AWS는 미국의 '클라우드법(Cloud Act)'으로 인한 해외 고객사 우려 해소에도 힘쓰고 있다. 클라우드법은 미국 정부가 법 집행 목적으로 미국 기업이 해외 서버에 보관 중인 데이터에 접근할 수 있도록 허용하는 법이다. 이를 통해 미국 정부는 해외 정부·기업에 데이터 접근을 요청할 수 있다. 한국을 비롯한 해외 기업들은 미국 클라우드법에 대해 우려를 표하고 있다. 이에 라이랜드 책임은 "한국을 비롯한 모든 국가·기업이 이런 이슈에 걱정하는 것을 알고 있다"며 "기술적·정책적으로 이런 우려는 있어선 안 된다"고 주장했다. 그는 미국 정부가 AWS 고객 데이터를 받더라도 이를 바로 활용하지 못한다고 밝혔다. AWS가 미국 정부에 암호화된 데이터를 제공할 수 있지만 이를 해독할 수 있는 기술은 미국 정부뿐 아니라 AWS 내부에도 없다는 이유에서다. 라이랜드 책임은 "AWS 클라우드는 고객 데이터 암호화·관리 아키텍처로 구성됐다"며 "미국 정부가 데이터를 받아도 이를 해독할 수 없는 이유"라고 강조했다. 라이랜드는 AWS가 6개월마다 투명성 보고서 발행을 통해서도 이슈 해결에 힘쓰고 있다고 말했다. AWS는 미국 정부가 요청한 외국 기업·정부 데이터 접근 요청 건수를 보고서로 공개한다. 현재까지 해당 요구 사례는 0건인 것으로 나타났다. 그는 클라우드법 문제를 정부 대 정부 차원의 외교적 영역이라는 점을 강조했다. 이에 라이랜드 책임은 "미국 정부가 외국 기업·정부 데이터 접근을 요구할 때 해당 국가에 직접 요청하도록 합의된 상태"라고 덧붙였다. 데이터센터 보안 강화…'가드듀티'에 AI 탑재 AWS는 데이터센터 보안 강화를 한층 업그레이드했다. 물리·논리적 접근을 분리하는 아키텍처 설계법과 AI를 통한 이상징후 탐지 기술을 활용하고 있다고 밝혔다. 라이랜드 총괄은 AWS가 데이터센터 설립 초기부터 고객 데이터 보호를 위한 '다단계 보안 체계'를 갖췄다고 설명했다. 그는 "데이터센터는 외곽 경비부터 게이트, 건물 가장자리, 내부 복도 진입 시 생체 인증을 거치는 물리적 접근 통제로 이뤄졌다"며 "데이터센터에 들어가는 과정 자체가 타사보다 철저하다"고 강조했다. AWS 데이터센터는 논리적 접근 방식도 핵심 요소로 꼽힌다. 우선 데이터센터에서 근무하는 운영 인력은 장비 운용에 필요한 접근 권한만 갖고 있다. 시스템 내 별도 소프트웨어(SW)나 서비스에 대한 논리적 접근 권한은 없다. 해당 인력은 데이터센터와 떨어진 사무실에서 근무한다. 이를 통해 단순 장비 위치나 형태만 알고는 고객 데이터를 특정하거나 불법 접근을 할 수 없다. 라이랜드 책임은 물리·논리적 접근뿐 아니라 AI를 활용한 이상행동 탐지·경보 기술 강화에도 힘썼다고 강조했다. 현재 AWS는 '가드듀티(GuardDuty)' 기술로 AI 기반 이상행동 탐지와 경보 기능을 업그레이드했다. 특히 비정상적 도메인 네임 시스템(DNS) 조회 패턴, 갑작스런 중앙처리장치(CPU) 사용량 변화, API 호출 위치 불일치 등을 가드듀티로 실시간 감지할 수 있다. 최근 AWS는 다양한 로그와 이벤트를 종합 분석할 수 있는 복합 모델까지 가드듀티에 넣었다. 예를 들어 DNS 이상행동 이후 일정 시간 간격으로 발생하는 API 호출, 클라우드트레인 로그 이상 등을 AI로 파악해 공격 패턴 여부를 판단한다. 그동안 전문가가 직접 분석해야 했던 요소였다. 라이랜드 책임은 "가드듀티는 경고를 '람다' 등 자동화 도구와 연계해 즉각적 대응을 하고 있다"며 "보안 전문가는 최종 경고 분석, 의사결정에만 집중하면 돼 효율적"이라고 강조했다.

2024.12.10 09:52김미정

[기고] AI 발전과 아동·청소년 보호

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI)의 비약적인 발전은 우리의 일상생활에 깊숙이 스며들며 효율성과 편리함을 극대화하고 있다. 개인화된 추천 시스템부터 의료, 교육, 공공서비스에 이르기까지 우리가 직면한 많은 문제를 해결하는 데 기여하고 있다. 그럼에도 눈부신 기술발전의 이면에 존재하는 부작용을 간과할 수 없다. 특히 AI 기술발전이 아동·청소년처럼 기술적 맥락에 취약한 집단에 대해 미칠 영향에 대한 진지한 고민이 필요하다. 오늘날 소셜 네트워크 서비스(SNS)는 단순한 소통의 매개체를 뛰어넘어 거대한 상업적 플랫폼이 됐다. 주요 SNS 기업들은 사용자의 이용패턴, 관심사 등을 분석해 AI 알고리즘에 학습시켜 광고를 포함한 콘텐츠를 추천하는 서비스를 주 수익모델로 삼고 있다. 그런데 이러한 과정에서 대규모의 개인정보 및 데이터 수집과 분석이 이루어지기 때문에 프라이버시와 개인정보 침해 우려가 상존한다. 특히 아동·청소년의 의사결정과 정서에 부정적 영향을 미칠 가능성이 높다. 아동·청소년은 자신이 보는 콘텐츠와 광고가 어떤 의도로 설계되었는지 이해하기 어렵고 이는 무절제한 소비, 유해하거나 부적절한 콘텐츠에 대한 노출, 정체성 혼란과 같은 부작용으로 이어질 수 있기 때문이다. 세계 여러 나라에서는 이같은 문제의식을 기반으로 디지털 환경에서 아동·청소년을 보호하기 위한 방안을 모색하고 있다. 최근 호주가 세계 최초로 16세 미만 미성년자의 SNS 이용을 전면 금지하고 이를 위반한 업체에게 최대 450억원의 벌금을 부과하기로 하는 강력한 법안을 통과시켜 화제가 됐다. 호주는 지난 2022년 1월부터 시행된 '온라인 안전법 2021(Online Safety Act 2021)'에서 '아동을 대상으로 하는 사이버 폭력 자료'를 규정하고 서비스제공자에게 관련 자료를 최소화하기 위한 조치의무를 부과하고 있다. 영국에서는 지난 2017년 몰리 러셀이라는 14세 아동의 자살로 아동에 대한 SNS의 책임에 관한 논의가 촉발된 바 있다. 약 6년간의 논의 끝에 지난 2023년 10월 '온라인 안전법 2023(Online Safety Act 2023)'이 제정 및 공표됐다. 이 법에서는 아동성착취∙성학대 등 범죄에 해당하는 불법콘텐츠와 자살이나 자해, 혐오나 사이버괴롭힘, 그밖에 심각한 위해를 초래할 가능성이 있는 유해콘텐츠를 규정하고 서비스제공자가 불법∙유해콘텐츠를 발견하면 신속히 삭제 또는 차단하도록 했다. 미국 상원은 지난 7월 30일 '아동 온라인 안전법안(KOSA)'과 '어린이 및 10대 온라인 프라이버시 보호법 개정안(COPPA 2.0)'을 묶은 입법 패키지(KOSPA)를 의결했다. 'KOSPA'는 아직 하원 통과를 남겨두고 있지만 미국에서 지난 1998년 제정된 'COPPA' 이후 수십년 만에 연방 차원에서 온라인 아동보호를 위한 주요 법안의 제정을 추진한 것이라는 점에서 의미가 있다. 'KOSA'는 17세 미만 미성년자가 사용할 가능성이 큰 온라인 플랫폼에 대해 ▼정신건강 장애 ▼중독 ▼정신적·신체적 폭력 및 괴롭힘 ▼불법 약물 관련 홍보 및 마케팅 ▼성적 착취 및 학대 ▼약탈적 및 기만적 마케팅 또는 금전적 피해 등 미성년자에게 발생할 수 있는 특정 유해 요소들을 완화하기 위한 조치를 취했다. 합리적인 조치를 취해야 한다는 '주의의무(duty of care)'를 부과하면서 서비스제공자의 관리책임을 콘텐츠 자체가 아니라 서비스의 설계를 중심으로 구성했다는 것이 특징이다. 'COPPA 2.0'은 지난 1998년 제정된 'COPPA'의 개정안으로, 법 적용을 받는 미성년자의 최소연령을 13세에서 16세로 상향해 17세 미만 사용자의 개인정보를 동의없이 수집할 수 없도록 규정하고 아동·청소년을 대상으로 한 맞춤형 광고를 금지하며 '지우기 버튼(Eraser Button)'을 도입해 아동·청소년이 본인의 개인정보를 삭제할 수 있는 기능 제공을 의무화했다. 또 현행법의 '실제 인지(actual knowledge)' 기준을 수정해 플랫폼이 사용자가 미성년자임을 몰랐다는 주장을 할 수 없도록 했다. 국내 법상 디지털 환경에서 아동·청소년을 보호하기 위한 별도의 법령이 존재하지는 않는다. 다만 개인정보보호법상 만 14세 미만 아동의 개인정보처리를 위해서는 법정대리인의 동의를 받도록 하는 규정(제22조의 2), 아동·청소년의 개인정보 처리자를 위한 가이드라인(개인정보보호위원회, 2022. 7. 22.), 만 14세 미만 아동에게 맞춤형 광고를 제공하려면 법정대리인의 동의를 받도록 하는 조치(개인정보보호위원회, 맞춤형 광고에 활용되는 온라인 행태정보 보호를 위한 정책방안, 2024. 1.)들을 마련해 나가고 있는 것으로 보인다. 아동·청소년의 취약성 및 보호필요성을 고려하면 이들에게 AI에 기반한 서비스를 제공하는 사업자에게 상대적으로 많은 책임을 부여할 수밖에 없게 된다. 해외의 규제 흐름도 전반적으로 그러한 방향인 것으로 보인다. 그럼에도 이에 대해서는 표현의 자유 침해, 콘텐츠 검열 가능성 등 위헌적 요소가 존재한다는 비판이 대립하고 있어 지속적인 논의와 연구가 필요하다. 더 나아가 아동·청소년의 권리를 보호하는 규제를 설계하기 위해서는 현대 사회의 디지털 환경이 아동·청소년의 발달에 필수적인 조건이며 알권리와 참여권 실현에 긍정적 역할을 할 수 있다는 점, 아동·청소년 이용자가 단지 피해자에 머무는 것이 아니라 쉽게 가해자의 지위에 놓일 수 있다는 점까지 종합해 섬세한 접근이 필요할 것이다.

2024.12.08 13:09법무법인 태평양 노은영

AI 3대 강국 꿈 또 멀어지나…AI 기본법, 尹 비상계엄 '직격탄'

정보기술(IT)업계가 손꼽아 기다리던 '인공지능(AI)산업 육성 및 발전 등에 관한 법률안(AI기본법)'이 관문 두 개만 남겨 놓은 상태에서 난관에 부닥쳤다. 윤석열 대통령의 갑작스런 비상계엄 선포 여파로 입법 절차에 제동이 걸리면서 연내 제정이 좌초될 위기에 놓였다. 4일 업계에 따르면 여야는 오는 10일 국회 본회의에서 AI 기본법을 처리할 계획이었다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 당초 이 법은 4일 또는 9일 법사위에 안건이 상정될 예정이었다. 하지만 비상계엄 여파로 아직 법사위에 올라가지도 못했다. 현재로선 10일 본회의 일정도 불확실하다. 이 탓에 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 윤석열 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 야당이 윤 대통령에 대한 탄핵안을 발의한 상태이기 때문이다. 업계 관계자는 "전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞으면서 AI 기본법 연내 제정을 추진하려던 동력이 상실된 분위기"라며 "여야 간 예산안 및 탄핵 문제로 정쟁이 격화되면서 지금은 이 법안이 후순위로 밀린 상황"이라고 말했다.

2024.12.04 18:23장유미

'AI 기본법' 국회 과방위 통과...연내 제정 청신호

인공지능(AI) 기본법 제정안이 26일 국회 과학기술정보방송통신위원회를 통과했다. 22대 국회 들어 본격적인 논의를 진행, 첫 법안소위 논의에서 제정법안에 대한 공청회 논의를 준비하고 지난주 법안심사 통과에 이어 상임위를 거친 뒤 27일 법제사법위원회에서 다뤄질 예정이다. 이에 따라, AI 기본법 연내 본회의 통과가 가시화됐다. 과방위는 이날 전체회의를 열어 '인공지능 발전과 신뢰기반 조성 등에 관한 기본법안'을 의결했다. 이 법안은 관련 절차를 거쳐 법사위 상정을 앞두게 됐다. AI 도입 활용 지원...AI 신뢰 확보 AI기본법은 총 19건의 발의법안을 통합 조정한 것으로 주요 골자는 AI 기술과 산업 진흥을 지원해 AI의 건전한 발전에 기여하고, AI 사업자의 투명성과 안정성을 확보해 신뢰 기반을 규정하고 있다. 이를 통해 국민 삶의 질을 높이고 국가 경쟁력을 강화하겠다는 취지다. 구체적으로 국가AI위원회 구성 운영에 대한 법적 근거를 담아 AI 기술을 도입하고 활용하는 데 지원한다. 또 AI직접다지를 지정하고 AI 데이터센터 생태계 구축을 추진하는 동시에 과학기술정보통신부 장관이 사실조사 진행과 시정명령 부과를 이행할 수 있도록 했다. 최근 딥페이크 논란을 반영해 생성형 AI 결과물에 대한 워터마크 등의 표시를 하게 하고 고영향 AI 규율 및 AI 영향평가 조항을 담았다. 고영향 AI와 AI 영향평가는 더불어민주당 이훈기 의원과 조국혁신당 이해민 의원의 발의안에서 따온 개념으로 고위험 영역 AI로 규율하고자 한 것을 이용자 중심 시각의 표현으로 고영향 개념을 도입하고 국민 기본권에 미치는 영향을 살피자는 것이다. 이해민 의원은 “AI 를 '위험한 것'으로 미리 단정 짓지 않고, 사회에 '영향을 미치는 것'으로 바라보면서 그 영향력을 현명하게 관리하자는 취지로 '위험' 대신 '영향'이라는 단어를 제안했다”고 밝혔다. 이훈기 의원은 “급속한 AI 발전에 대한 막연한 기대와 두려움 가운데 AI 발전과 안전성 확보를 위한 기본 법제가 절실했다”며 “다양한 관련 법률안 중 AI가 우리 국민의 기본권에 미치는 영향평가를 포함하는 제정법을 만든 만큼 의미가 남다르다”고 설명했다. EU 이어 전세계 두 번째 AI 법제화 정부는 최우선 과제로 추진한 AI 기본법 제정이 국회 상임위 문턱을 넘어선 데 감사를 표했다. 유상임 과기정통부 장관은 “AI 기본법 제정안 (상임위) 의결로 AI 발전과 신뢰 기반 조성을 위한 제도적인 틀이 갖춰졌다”며 “글로벌 패권 경쟁이 활발한데, 유럽연합(EU)에 이어 전 세계에서 두 번째로 법률을 마련해 글로벌 G3 강국으로 나설 수 있는 기틀을 마련하게 됐다”고 말했다. 과방위는 AI기본법 제정안 마련에 그치지 않고 예산 지원과 함께 후속 법제화를 고민하겠다는 뜻을 밝혔다. 과방위 예결소위원장을 맡고 있는 민주당 정동영 의원은 “우리의 자본은 미국처럼 단기간에 민간에서 막대한 투자가 이뤄질 수 있는 환경이 아니기 때문에 선도적인 인프라 투자가 필요하다”며 “일본, 프랑스, 캐나다에 이어 중동 국가까지 정부가 나서 인프라 투자에 나서는 것도 그같은 이유”라고 운을 뗐다. 이어, “AI 예산을 1조 증액하겠다고 밝힌 것은 정부가 앞서 편성한 수준으로는 AI 주도권을 확보하기에 턱없이 부족하다는 평가 때문이었다”며 “AI를 세계에서 가장 잘 쓰는 나라를 목표로 AI 인프라에 투자해 G3 국가로 만드는 데 정부가 총력을 기울이길 바란다”고 당부했다. 이해민 의원은 “기본법은 그릇을 만드는 법안이라 생각하기 때문에 어떤 부분에서 명확하지 않은 영역이 존재하는 것이 사실이다”며 “앞으로 규제를 담당하게 될 과기정통부는 규제 범위가 어떤 식으로 이뤄지는지, 어떤 문제가 있는지 철저히 검토해 지속적으로 법의 완결성을 더해갈 수 있도록 신경써야 한다”고 주문했다. 최민희 과방위원장은 “과방위에서 기본법을 통과시키면 다른 상임위에서 AI 관련 후속법안이 잇따를 것”이라며 “AI 기본법이 시행되는 과정을 지켜보면서 시민사회와 학계가 걱정하는 인간 생명 전반과 인권 침해 요소 등을 국회가 정부와 상황을 지켜보면서 후속 입법과 개정안을 준비하겠다”고 밝혔다. 그러면서 “100% 안전한 법안이 아닌 것을 알고 있지만 경제의 혁신을 위해 기본법 통과에 뜻을 모았다”고 덧붙였다.

2024.11.26 11:47박수형

염재호 국가AI위원회 부위원장 "AI기본법 제정 시급"

염재호 국가AI위원회 부위원장이 AI기본법 제정의 시급함을 강조하고 나섰다. 염 부위원장은 한국법제연구원(원장 한영수)이 25일 그랜드인터컨티넨탈서울에서 개최한 제63회 입법정책포럼에서 'AI 시대 문명사의 대전환'을 주제로 초청 강연했다. 이 자리에서 염 부위원장은 AI 발전이 기술이나 산업의 변화를 넘어 정치적, 사회적, 경제적, 법적, 문화적 질서를 근본적으로 재구성하는 중요한 전환점에 있다는 점을 설명하며, 이를 뒷받침하기 위한 AI기본법 제정의 시급함을 강조했다. 염 부위원장은 또 "AI위원회가 과기정통부서 시작했지만, 갈수록 중요해지며 대통령이 위원장을 맡게 됐다"며 이어 ▲AI 시대의 대학 교육 ▲전 세계 AI 관련 법 동향과 함께 정부에서 발표한 디지털권리장전의 주요 내용과 국가AI위원회 전략, 정책 방향에 대해 설명했다. 염 부위원장은 제19대 고려대 총장을 지냈다. 2023년 9월 개교한 태재대학교 초대 총장을 맡고 있다. 이전에는 국가과학기술위원회 위원, 과학재단 이사 등을 역임했다. 한영수 한국법제연구원장은 “AI의 혁신성을 최대화하면서 안전성은 최소화하고, 모든 인류가 AI 기술로부터 소외되지 않도록 입법이 이루어져야 한다”고 전했다. 한편, 한국법제연구원은 다양한 분야의 전문가를 초청, 입법성과를 공유하고 새로운 입법과제를 발굴하는 입법정책포럼을 지속 개최하고 있다.

2024.11.25 18:01박희범

AI기본법·단통법 폐지안, 국회 법안소위 통과

인공지능(AI) 기본법 제정안이 법안심사소위 문턱을 넘었다. 핵심 쟁점에 대한 합의가 이뤄지면서 연내 제정 가능성에 파란불이 켜졌다. 아울러 단말기유통법 폐지안도 예상을 넘어 빠른 속도로 법안심사소위를 통과했다. 과학기술정보방송통신위원회는 21일 열린 법안소위에서 AI기본법 발의안 19건을 병합 심사해 통과시켰다. 또 여야 의원이 각각 발의한 단통법 폐지안도 상임위 대안을 마련했고, 디지털포용법 제정안도 통과했다. 우선 AI기본법안은 산업 진흥과 신뢰, 안정성 확보를 위한 규제를 모두 담았다. 예컨대 정부가 AI 진흥계획을 수립하고, 인간의 생명이나 신체 안전과 관련한 AI 기술은 고영향 AI로 분류해 이에 대한 사업자 책임 조항을 포함시켰다. 금지AI에 대한 규정은 제외했다. 최근 딥페이크 논란을 고려해 AI 기반 영상과 사진에는 워터마크를 넣도록 규정했다. AI 기본법 제정안은 지난 회기부터 논의됐고 여야가 조속한 처리에 뜻을 모은 만큼 이르면 다움주 개최 예정인 상임위 전체회의를 거쳐 연내 국회 본회의 통과가 가능할 것이란 전망이 우세하다. 단통법 폐지안은 업계의 예상을 뛰어넘어 빠르게 처리됐다. 추가 논의가 이뤄져야 한다는 전망이 우세했으나 여야가 우선 법안 폐지에 속도를 내기로 하면서 소위 문턱을 깜짝 넘게 됐다. 단통법 폐지안은 국민의힘 박충권 의원 발의안과 더불어민주당 김현 의원 발의안을 병합해 상임위 대안이 마련됐는데, 선택약정할인을 유지하는 방안을 골자로 담았다. 아울러 약정할인 유지를 위해 이통 3사에 대한 유보신고제 도입 조항이 전기통신사업법에 신설되는 안이 통과했다. 여야가 단통법 폐지에 속도를 내기로 한 만큼 전체회의와 국회 본회의까지 오르는 일정도 빠르게 진행될 것으로 전망된다. 다만, 단통법 주요 조항이 전기통신사업법으로 이관되며 새로운 고시와 시행령이 만들어지는 시점을 고려하면 실제 단통법 폐지 시행은 내년 하반기 이후로 예상된다. 이밖에 국민의힘 고동진, 김장겸 의원과 민주당 박민규 의원이 대표발의한 디지털포용법 제정안도 소위 문턱을 넘었다. 정부는 국민이 AI 디지털 혁신 성과를 체감하면서 동시에 누구도 소외되지 않고 디지털 혜택을 누릴 수 있는 디지털포용법 제정에 무게를 실어왔다.

2024.11.21 16:41박수형

국회AI포럼, 인공지능법 여야 공동 발의

국회AI포럼의 이인선 대표 의원(국민의힘)과 조승래 연구책임의원(더불어민주당)이 공동으로 인공지능법을 대표 발의했다 . 국회AI포럼은 지난 7월 창립총회를 갖고 출범을 알린 뒤 각계 전문가를 초청해 AI 업계 동향과 AI 시대 법제 마련 필요성, AI 관련 해외 입법 동향 등을 논의해왔다. 이같은 논의 결과를 바탕으로 18일 '인공지능 진흥에 관한 법률안'과 '인공지능의 안전 및 신뢰 기반 조성에 관한 법률안' 2건을 공동으로 대표발의 했다. 인공지능 산업 분야 진흥을 위해 제도적으로 인공지능기술의 개발과 관련 산업의 활성화를 지원할 근거 규정을 마련하고, 안전하고 신뢰할 수 있는 인공지능의 발전 및 이용을 담보할 수 있는 기본 사항 등을 인공지능 진흥법에 담았다. 아울러 인공지능의 개발 및 이용 과정에서 발생할 수 있는 위험에 대비하기 위해 국민의 건강이나 안전, 권리와 의무에 중대한 영향을 미칠 우려가 있는 인공지능에 관한 규율체계를 정립하는 내용으로 인공지능 안전 및 신뢰법을 마련했다. 이인선 의원은 “대한민국이 인공지능 강국으로 도약하기 위한 첫 걸음이 인공지능 기본법인데, 국회 AI 포럼에서 다양한 의견을 모은 기본법을 발의하게 되어 기쁘게 생각한다”며 “포럼에서는 미래 사회의 변화를 선도하고 우리의 삶을 혁신적으로 변화시킬 수 있는 인공지능 기술의 발전과 활용을 지원하는 활동을 지속적으로 이어가겠다”고 말했다. 조승래 의원은 “AI 포럼 출범 이후 약 4개월간의 전문가 논의 등을 거쳐 법안을 여야가 함께 공동으로 발의한 만큼 해당 법안이 국회에서 잘 논의되어 대한민국이 인공지능 분야에서 앞서나갈 수 있는 기반이 되길 바란다”고 강조했다.

2024.11.18 16:07박수형

"국가AI전략 수립...디지털안전법 제정 추진”

과학기술정보통신부가 국가인공지능위원회 중심으로 수립될 '국가AI전략'의 내실 있는 이행으로 국가 AI와 디지털 경쟁력을 높인다는 방침이다. 체계적인 디지털 재난 안전관리를 위해서는 디지털안전법안을 제정하고 사업자 자발적 안전관리를 위한 디지털 안전관리 협의체 발족을 추진키로 했다. 유상임 과학기술정보통신부 장관은 지난 15일 브리핑을 열어 이번 정권의 ICT 분야 정책 성과로 ▲AI 디지털 경쟁력 제고 ▲글로벌 디지털 질서정립 주도 ▲네트워크 고도화 ▲디지털 안전 확보 ▲디지털 민생 안정 등을 꼽으며 이와 같은 추진계획을 밝혔다. 디지털 경제 패권국가 과기정통부는 지난 2022년 대통령 뉴욕구상 이후로 '대한민국 디지털 전략'을 수립하고 초거대AI 경쟁력 강화 방안, AI 디지털 혁신성장 전략 등을 발표했다. ICT규제샌드박스로 기업 매출은 806억원, 신규 고용 7천여명 창출 등을 이끌기도 했다. 범부처 AI일상화 프로젝트를 통해 국민 생활 속 AI를 확산하고 전국 디지털 배움터를 중심으로 3년간 총 244만명에게 디지털 교육을 제공한 점도 성과로 꼽았다. AI 기업 매출 연 40%대 증가를 기록했고 올해 영국 토터스미디어가 발표한 글로벌AI인덱스에서 우리나라는 6위를 차지했다. 또 대통령 뉴욕구상 이후, 세계경제포럼, 파리 디지털 비전 포럼 등에서 글로벌 디지털 질서 논의를 주도하고, 정부는 이를 종합해 '디지털 권리장전'을 발표했다. 올해 AI서울정상회의를 통해 서울선언도 도출했다. 이를 토대로 글로벌 선도국과 함께 지속적으로 디지털 질서를 주도하고 AI 디지털 시대의 시급한 쟁점에 대해 관계부처와 함께 힘을 모아 대응해 나갈 예정이다. 또 정부 후반기에는 국민이 AI 디지털 혁신 성과를 체감할 수 있도록 정책 역량을 집중하고, 누구도 소외되지 않고 디지털 혜택을 누릴 수 있도록 디지털포용법 제정을 추진할 계획이다. 디지털 인프라 혁신 더욱 튼튼한 디지털 인프라 구축을 위해 6G 이동통신, 저궤도 위성통신 등 차세대 네트워크 핵심기술 확보에 착수했다. 올해 4월 5G 전국망을 구축하고, 1천500여개 마을로 농어촌 초고속인터넷망을 확장했다. 미디어콘텐츠 산업융합 발전방안을 수립하고 5년간 1조원 규모 전략펀드 조성과 세제지원 확대에도 나섰다. 카카오 장애사고 등을 전화위복으로 삼아 디지털서비스 안정성 강화방안을 마련하며 디지털 장애 발생을 대폭 줄였다. 아울러 중저가 단말 출시 유도와 함께, 5G 요금제 개편, 알뜰폰 활성화 등에 노력을 기울였고 보이스피싱, 딥페이크 등 디지털 범죄 예방과 대응도 강화했다. 디지털 기술로 국민 안전과 편의에도 크게 기여했다. 도로 지하차도 침수 위험 상황을 내비게이션으로 실시간으로 알리는 서비스를 개시하고, 디지털 긴급구조 기술을 경찰의 인명 구조 작업에 적용하고 있다. 정부 후반기에는 디지털안전법 제정을 추진하고 유상임 장관 지휘에 따라 출범한 디지털 민생지원 추진단 중심으로 불법스팸 척결, IP카메라 보안강화 등을 살핀다는 계획이다.

2024.11.17 12:00박수형

산업부, 산업 AI 정책 진두지휘할 '산업인공지능과' 신설

산업부가 산업 전반에 인공지능(AI)을 스며들게 할 산업 AI 정책을 담당할 '산업인공지능과'를 신설한다. 또 대통령 주재 반도체 특위와 반도체 특별회계 신설 내용을 담은 '반도체 특별법' 제정을 추진하고 'AI 반도체 생태계 지원방안'을 마련한다. 원전 생태계 완전 정상화를 위해 2027년까지 11조원 이상의 일감을 추가 발주한다. 박성택 산업통상자원부 제1차관은 13일 정부세종청사에서 윤석열 정부 임기 반환점을 맞아 그동안 추진해 온 산업·통상·에너지 분야 정책 성과와 함께 이러한 내용을 담은 향후 계획을 발표했다. 박 차관은 “우리 산업은 지금 탄소중립과 AI로 대별되는 산업 대전환의 변곡점에 있다”며 “조만간 산업 AI 정책을 진두지휘할 산업인공지능과를 신설할 계획”이라고 밝혔다. 박 차관은 “부내에 태스크포스(TF)를 가동하고 있는데, 조만간 새로운 시대에 걸맞은 새로운 산업정책을 제시하도록 하겠다”고 덧붙였다. 산업인공지능과는 산업기술융합정책관실에서 산업 디지털전환 사업을 추진하고 있는 산업디지털전환추진팀도 일부 추가해 산업정책관실에 신설된다. 산업부 관계자는 “2000년대 초반 전자상거래가 한창 시작했을 때 전자상거래과를 만들어 정책을 총괄했던 것과 비슷한 개념”이라면서 “AI는 특히 각 경영에서 더 접목해야 하는 부분이어서 총괄적 기능을 수행하게 될 것”이라고 설명했다. 산업부는 내년도 산업정책에 AI를 가장 중요한 포인트로 둔다는 계획이다. 산업인공지능과는 대통령 주재로 만들어진 국가AI위원회와 더불어 정부의 AI 정책에 힘을 싣는 역할을 하게 된다. 산업부는 또 17조원 저리대출 본격 시행 등 기존에 발표한 '반도체 생태계 종합지원 방안'을 차질없이 이행하고 투자세액공제 일몰을 2027년으로 연장하는 방안을 추진한다. 미국 신 정부와 협력을 강화하는 한편 이달 개최 예정인 반도체 다자회의 등을 통해 국내 기업의 글로벌 비즈니스 불확실성을 최소화한다는 계획이다. 내년에는 '반도체 생산국 당사국 회의' 의장국 자격으로 한·미·일·대만·EU를 잇는 '반도체 철의 동맹' 구축을 주도한다. 대통령 주재 반도체 특위와 반도체 특별회계 신설, 주 52시간 규제 적용 제외 등을 담은 '반도체 특별법' 제정을 추진하고 연내에 'AI 반도체 생태계 지원방안'을 마련해 반도체 산업 내 새로운 성장 동력을 확보할 계획이다. 2027년까지 11조원 이상 원전 관련 일감을 추가로 발주해 원전 생태계 완전 정상화를 꾀한다. 정치 환경과 무관하게 안정적이고 일관되게 원전 생태계를 지원하는 법·제도적 기반을 만들기 위해 '원전산업특별지원법'도 제정을 추진한다. 또 원전산업의 중장기 청사진을 제시하고 생태계 고도화 등 이행 계획을 반영한 '2050 중장기 원전산업 로드맵' 수립을 추진하기로 했다. 박 차관은 “수출의 온기가 지역·중소기업·민생 전반으로 확산하도록 진단부터 처방까지 면밀하게 살피는 한편, 미국 신행정부와 한미 통상관계를 안정시키는 데 산업부 역량을 집중하겠다”고 말했다. 이어 “반도체·자동차·이차전지 등 주력 산업에서 전개될 수 있는 다양한 가능성에 대해 기업들과 소통하면서 치밀하게 대응하겠다”고 덧붙였다.

2024.11.13 18:04주문정

유상임 과기정통부 장관 "AI 기본법 연내 통과 희망"

유상임 과학기술정보통신부 장관은 13일 이동통신 3사 CEO 회동 이후 기자들과 만나 "AI 기본법이 연내 통과 될 것이라고 생각하고 있다"고 밝혔다. 유 장관은 통신사 CEO와 첫 회동 소감에 대해 "전체적으로 AI 국면에 접어들어 우리가 국가적으로 다 같은팀이 되지 않으면 힘들겠다는 생각을 했다"고 말했다. 이어, "저 나름대로 민관이 한 마음으로 합치지 않으면 이 시대에 도저히 답이 없다는 그런 차원에서 모두가 공감을 했다"고 덧붙였다. 공정거래위윈회가 통신 3사에 답합 의혹으로 제재를 추진하는 것에 대해서 어떤 대화가 이뤄졌냐는 질문에는 "민관이 같이 협조하는 선에서 마무리 할 수 있도록 노력하겠다"고 답했다. 앞서 공정위는 지난해 2월부터 이통3사가 시장상황반 운영을 통해 판매장려금 상한선을 30만원으로 합의한 것을 담합으로 판단했다. 이에 최대 수조의 과징금을 부과하는 방안을 내부적으로 정하고 전원회의 일정을 조율 중이다.

2024.11.13 15:58최지연

Prev 1 2 3 4 5 6 7 Next