검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI기본법'통합검색 결과 입니다. (28건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[기고] AI 대전환의 시대, 기업이 지금 챙겨야 할 세가지 체크리스트

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 제21대 정부가 공식 출범하며 '인공지능(AI) 3대 강국 도약'을 국정 핵심과제로 내세웠다. 100조원 규모의 투자, 범정부 차원의 AI 진흥전략, 규제 정비, AI 인재 양성 등 국가적 지원이 본격화되는 지금은 기업에게도 분명히 기회의 시기다. 다만 AI 기술을 무조건적으로 끌어오는 것이 능사는 아니다. AI는 고도화된 데이터 기반 기술인 만큼 그 활용에는 반드시 데이터를 둘러싼 법·윤리·사회적 책임까지 함께 고려해야 한다. 그렇다면 지금 기업은 무엇을 준비해야 할까. 조직 내에 AI 도입 또는 서비스 개발 등을 고려 중이라면 아래 세 가지 질문부터 스스로 던져봐야 한다. 우리가 사용하는 데이터…어디까지 합법적으로 활용 가능한가? AI는 결국 '데이터'에서 시작된다. 다만 서비스 개발 또는 이용 과정에서 데이터를 활용하는 데에는 명확한 법적 한계가 존재한다. 개인정보보호법, 부정경쟁방지법, 저작권법 등 국내 규제뿐 아니라 유럽이나 미국 등 글로벌 규제 환경까지 고려해야 하기 때문이다. 실제로 지난해 미국에서는 파라마운트(Paramount)가 AI 기반 추천시스템 운영 중 구독자 동의 없이 데이터를 제3자와 공유했다는 명목으로 집단 소송에 휘말렸고 올해에는 링크드인이 유사한 이슈로 소송에 직면했다. 이용자의 개인 메시지를 사전 동의 없이 AI 학습에 활용했다는 의혹이 제기된 것이다. 이러한 사례는 데이터 활용이 단순한 '기술적 선택'이 아니라 '법적 책임'과 직결되는 사안임을 보여준다. 동시에 정교하게 구성된 동의 관리 체계와 핵심적 관리 도구로서의 데이터 계보(Data Lineage)가 가진 의의를 잘 드러낸다. 데이터 계보는 데이터의 수집부터 중간 가공, 최종 활용까지 전 과정을 추적·기록하는 체계다. 이를 통해 사고 발생 시 원인을 신속히 진단하고 규제에 효과적으로 대응하며 데이터의 신뢰성을 확보하고 조직 전반의 데이터 관리 효율성을 높일 수 있다. 이에 따라 사전에 데이터 계보를 점검하고 활용 과정이 관련 규제에 저촉되지 않는지 검토해 두는 것이 필요하다. AI가 만든 결과물…책임질 준비가 돼 있는가? AI의 판단 결과가 실제 서비스나 의사결정에 직접 영향을 미치는 시대다. 그 결과에 대한 책임을 누가 지는가는 단순한 이론적 논의에 머물지 않는다. 특히 '설명 가능성', '편향 방지', '책임 주체' 등에 대한 내부 기준이 없을 경우 예상치 못한 법적 분쟁에 휘말릴 수 있다. 일례로 지난해 에어 캐나다는 AI 챗봇이 잘못된 할인 정책 정보를 제공했다는 이유로 법적 책임을 부담하게 됐다. 고객은 챗봇 안내에 따라 항공권을 구매했으나 해당 정보는 실제 정책과 달랐다. 법원은 챗봇 역시 기업의 공식 채널로 간주된다며 책임을 인정했다. 또 다른 사례로, 미국 사법부에서 활용된 재범 위험도 평가 알고리즘은 특정 집단에 불리한 결과를 반복적으로 산출해 AI가 학습 데이터에 포함된 사회적 편향을 그대로 재현하거나 강화할 수 있음을 보여줬다. 이는 기술적 결함을 넘어 기업의 법적·윤리적 책임 문제로 이어질 수 있음을 시사한다. 결국 AI를 활용한 결과물에 대해 그에 대한 책임의 수준을 명확히 하고 그 책임을 완화하기 위한 사전적 검토를 수행할 필요가 있다. 우리 조직…AI 관련 규제 변화에 유연하게 대응할 체계를 갖추고 있을까? 새 정부는 인공지능기본법 하위법령을 조속히 마련하겠다고 밝혔다. AI 산업의 예측 가능성을 높이고 기술 개발을 장려하려는 취지지만 구체적인 가이드라인은 여전히 불명확한 상태다. 이에 따라 지금은 '제도화 초기 단계'이자 기업이 스스로 방향을 잡아야 하는 전략적 준비 기간이다. 법이 시행되기 이전에 기술, 법률, 윤리의 경계를 명확히 정하고 내부 정책과 대응 프로토콜을 사전에 설계해 둘 필요가 있다. 이 과정에서는 테크, 법무팀, 경영진은 물론 보안 조직, 개인정보 보호 및 데이터 전문가까지 협업하는 통합 거버넌스 체계가 핵심이다. 조직 내 정보 관리의 사각지대를 최소화하고 외부 변화에 유연하게 대응하기 위한 기본 틀이기 때문이다. AI는 이제 단순한 기술 트렌드를 넘어 모든 산업의 판을 바꾸는 핵심 전략이 됐다. 그 흐름에 올라타는 것은 더 이상 선택이 아닌 조직의 경쟁력과 지속 가능성을 좌우하는 생존의 조건이다. 기업이 기대했던 효과를 얻기 위해서는 법과 기술이 만나는 지점에서 균형 있게 대응할 수 있는 기반을 다질 필요가 있다. 적어도 위 세 가지 질문에 명확히 답할 수 있다면 변화의 흐름 속에서 새로운 성장과 혁신을 이끌어 낼 수 있을 것이다.

2025.06.10 09:42이수화 법무법인 태평양

"AI기본법 규제 3년 유예"...황정아 의원 법안 발의

내년 1월 시행을 앞둔 인공지능(AI) 기본법의 규제 조항을 3년 뒤로 미루는 내용의 법안이 발의됐다. 17일 국회에 따르면 더불어민주당 황정아 의원은 이날 AI기본법 내 산업 진흥 규정은 예정대로 시행하고 사업자 의무 규제는 유예하는 법 개정안을 발의했다. 과도한 규제가 기술 발전을 위축시킬 수 있어 진흥 규정을 제외하고 규제 관련 규정은 일정 기간 추가로 유예하자는 것이다. 이를 통해 저성장과 민생경제 위기를 극복하자는 게 황 의원실의 설명이다. 황 의원이 발의한 법안에서 3년 유예 대상은 AI 투명성, 안정성 확보 의무와 고영향 AI에 관련한 조항이다. 이 법안이 국회를 통과하게 되면 AI기본법은 내년 1월22일부터 시행하되, 규제와 관련된 조항은 2029년 1월22일부터 시행되게 된다. 민주당 주요 대선 예비후보들이 AI 진흥 관련 공약을 내놓고 있는 터라 황 의원이 발의한 법안이 이목을 끈다. 다만, 법 시행 이전에 추가 유예가 논의되는 점을 두고 상임위 내에서 이견이 충돌하면서 법 통과 여부를 점치기는 어려운 상황이다.

2025.04.17 17:03박수형

유상임 장관 "AI 보릿고개 온다...여야 모두 추경 도와달라"

유상임 과학기술정보통신부 장관이 인공지능(AI) 인프라 확보를 위해 여야가 추가경정예산 확보에 힘을 모아달라고 요청했다. 대통령 탄핵으로 자신의 임기는 두 달 정도 남았다면서도 AI 국가경쟁력 문제에서는 논의를 지속해야 한다는 뜻이다. 유상임 장관은 7일 정부세종청사에서 열린 부처 핵심 업무 브리핑에서 “2030년까지 (AI 선도 국가를 따라잡기 힘들게 됐다”며 “눈에 보이는 굉장한 어려움이 닥쳐오는데, 여야가 이 문제는 정쟁을 생각하지 말고 추경이 진행됐으면 좋겠다”고 밝혔다. 대통령 탄핵에 따른 차기 대선 정국으로 접어들면서 AI 인프라 확충 정책의 지속 여부에 대한 기자의 질문에, 유 장관은 “대한민국 사람 중에 가장 애타는 사람은 제가 아닐까 생각한다”고 운을 뗐다. 이어, “올해 GPU를 들여올 공산이 없다”며 “그래서 GPU 구매가 시급하다고 계속 말씀을 드렸는데 국가적으로 올 한해가 보릿고개가 되어 1년이 비어있는 시기가 아니길 바란다”고 말했다. 유 장관은 또 “(AI 시대에) 9개월이 (뒤처지면) 예년 같으면 3년 뒤처지는 꼴이 되는데, 지금 한 1년여 뒤졌다고 얘기하는데 나중에 4년이 뒤처진 꼴이 될 수 있고, 아마 우리는 2030년까지 거의 따라잡기 힘들 것”이라고 진단했다. 그러면서 “국가 미래를 생각해 조속한 시일 내에 여야정 협의회를 통해 추경이라도 빨리 진행해달라”고 요청했다. AI 정책의 연속성을 위해서라도 인프라 확충과 함께 이니셔티브를 놓치지 말아야 한다는 뜻을 강조했다. 유 장관은 “사실 장관에 취임할 때 게임체인저가 얼마나 화두가 되는지 정확히 인식을 못 했다”면서도 “AI도 디지털의 하나지만, AI로 인해 디지털의 대전환을 이끌고 있다는 것을 절실하게 느끼게 됐다”고 말했다. 이어, “AI를 우리가 놓치면 5년 그리고 10년 후에, 선진국으로 겨우 헐레벌떡 들어왔는데 다시 이탈될 가능성이 크다”며 “민관이 잘 대처한다면 세계 10위 국가가 아니라 세계 3위 국가로 올라설 수 있는 기회가 있기 때문에 AI 컴퓨팅 인프라도 강조했지만 AI 부분의 이니셔티브를 붙잡고 있어야 한다”고 설명했다. 국회서 AI 기본법이 제정된 이후 과기정통부에서는 시행령, 가이드라인과 같은 후속 하위법령 제정 단계를 밟고 있는데, 최소 규제 원칙을 지키겠다는 뜻을 거듭 밝히기도 했다. 유 장관은 “이번 주부터 국내외 산업계, 한계 그리고 다양한 이해관계 집단과 릴레이 의견 수렴을 추진할 계획”이라며 “예컨대 국내 AI 대기업, 국내 AI 중소 스타트업, 해외의 AI 기업, 학계, 시민단체, 국회, 일반 전문가 집단과 공청회 등의 여러 형태로 소통해 우리가 암아야 할 하위 법령이 어떤 것이 있는지, 그리고 그 규제의 수위가 적절한지 이런 부분을 심도 있게 논의할 예정”이라고 밝혔다. 이어, “우선 (AI를)개발하는 사람에게는 가급적 문턱이 낮아야 하고, 이용하는 사람에 여러 불편을 줄 수 있으니까 각각의 영역에서 문제가 될 수 있는 내용을 규제하게 될 것”이라며 “규제의 수위를 어떻게 하느냐는 것이 과기정통부 차원에서 굉장히 관심을 가지고 있는데, 규제가 높아서는 안된다고 생각한다”고 강조했다. 그러면서 “규제는 최소화한다는 원래의 원칙을 지킬 것”이라며 “다방면의 의견을 청취해 최소한의 규제를 담은 하위법령이 만들어지도록 노력하겠다”고 덧붙였다. 대선 정국으로 접어들며 정부조직체계(거버넌스) 논의가 부상하고 있는데, AI를 별도 부처로 떼어내는 점에 대해 부정적인 인식을 보였다. 유 장관은 “다른 나라에서 AI부처가 있다고 알고 있고, AI는 디지털의 하나니까 디지털부가 있고 몇몇 나라에서는 부총리 역할도 하고 있다”며 “아마 대선 후보자들이 비전을 제시할 것이라고 예상하지만, AI만 떼어내 (별도) 부처로 반드는 것은 썩 바람직하지 않다고 생각한다”고 했다. 이어, “다만 과기정통부가 AI, AI와 결합된 바이오, 그 다음에 양자 등 3대 게임체인저를 이끌고 있는 주무 부처인데 지금의 조직은 조금 부족해 보인다고 생각한다”며 “국가적인 아젠다를 이끄는 부처는 다음 정부에서 부총리급으로 격상해야 된다고 개인적으로 생각한다”고 말했다.

2025.04.07 15:05박수형

[기고] 인공지능, 변호사와 닮은 꼴일까

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 업무에 인공지능(AI)을 사용하는 것이 당연한 시대가 되고 있다. AI 서비스가 포털의 검색서비스처럼 대중화되고 있는 것을 보니 변호사보다 법을 더 잘 아는 AI도 곧 현실이 될 것으로 보인다. 그렇다면 똑똑한 AI가 변호사를 대신할 수 있느냐는 궁금증이 생긴다. 답은 현재로서는 법적 제약이 있어서 어렵다는 것이다. 자격을 갖춘 변호사만 법률사무를 처리할 수 있도록 변호사법이 제한하고 있어서 AI가 법률사무를 처리하는 것은 불법이기 때문이다. 법전을 뒤져야 법률을 알 수 있었던 예전과 달리 법령의 내용, 적용사례, 법원 절차나 제출서류, 작성방법 같은 것은 인터넷에서 쉽게 찾을 수 있게 됐다. 또 법절차에 관한 경험담도 검색 서비스를 통해 쉽게 접할 수 있게 됐다. 이같은 요즘 상황에서 자격을 갖춘 변호사만 법률사무를 처리할 수 있게 제한하고 있는 이유가 궁금할 수 있다. 여기에는 여러 가지 이유가 있을 수 있지만 가장 근본적인 이유는 법률관계가 사람에게 미치는 영향이 크고 중요하기 때문이다. 업무로서의 법률관계에 관한 해석이나 조언을 수행하기 위해서는 법률 지식이 있는 것만으로는 충분하지 않으며 의뢰인의 비밀을 지키고 법조 윤리를 지키는 전문가에게만 허용해야 안전하다는 설명이다. 실제로 변호사는 법률 지식에 관한 시험 통과만을 요구받지 않는다. 지속적으로 윤리교육을 받을 의무, 특수한 상황에서는 수임 자료를 제출해서 점검을 받을 의무가 부과되는 등 간접적인 형태로 직업윤리가 요구되고 있다. 또 협회를 통한 자율적인 감시도 이루어지고 있다. 그런데 얼마 전 제정돼 오는 2026년 1월에 시행되는 AI기본법은 AI 서비스에 윤리와 신뢰성에 관한 권고나 의무를 구체적으로 요구한다. 그런데 이는 변호사에게 요구되는 윤리와 닮은 점이 있다. 본래 윤리란 법으로 그 내용을 확정하기 어렵기 때문에 관련 규정을 법률에서 정하는 경우가 많지 않다. 그런데 AI기본법에서는 AI 윤리를 비록 장려 형태지만 중요사항으로 규정하고 있다. 또 서비스가 AI에 기반해 운용된다는 점과 AI 결과물이라는 점을 이용자에게 알려야 하는 투명성 의무, AI의 위험과 안전사고에 대한 대응 체계를 갖추고 이행 결과를 정부에 제출해야 하는 안전성 확보에 관한 의무를 일정 요건에 해당하는 사업자에게 추가로 부과하고 있다. 이는 AI서비스가 이용자에게 중대한 영향을 줄 가능성이 있기 때문에 서비스가 윤리를 준수하고 외부 견제를 받도록 간접적인 안전조치를 취한 것으로 보인다. 변호사는 법률 지식과 자격시험 통과뿐만 아니라 윤리 준수와 외부 견제를 요구받는다. 이는 사용자에게 중요한 영향을 미치는 AI 서비스에 투명성과 안전성 조치를 요구하는 것과 닮아 있다. 더 넓게 보면 공통점은 보다 많아진다. 온라인에서 법률 정보, 판례, 해설서를 검색하고 제공하는 서비스는 변호사 자격 없이도 운영할 수 있다. 다만 구체적인 법률관계를 해석하고 자문하는 등 본격적인 법률 업무를 수행하려면 변호사 자격이 필요하다. 마찬가지로 AI 서비스도 일반적인 경우에는 특별한 제약이 없지만 사회적으로 중요한 영향을 미치는 서비스라면 정부가 개입하겠다는 태도를 보이고 있다. 향후에도 이러한 흐름은 계속될 가능성이 크다. 정부가 AI의 구체적인 내용에 개입하는 것은 어렵고 적절하지도 않다는 점을 생각하면 미래에는 법률 사무처럼 중요한 서비스를 위해 AI가 일정한 자격시험을 통과하는 제도가 생기는 것이 아닐까 섣부른 추측을 해 본다. 나아가 AI가 계속 발달한다면 변호사 자격까지 갖추고 법률사무를 처리하게 되는 것도 허황한 꿈은 아닐수 있다는 생각이 든다.

2025.03.17 14:28법무법인 태평양 류광현

[AI 리더스] 최형두 의원 "불필요한 규제 완화, 韓 도약 기회…제조 AI로 글로벌 선도해야"

"인공지능(AI) 산업 발전을 위해 불필요한 규제는 줄이고 실질적 피해를 방지하는 균형 있는 정책이 필요합니다. 특히 우리에게 강점이 있는 제조를 위한 거대행동모델(LAM)과 안정적인 전력 공급을 통해 글로벌 AI 경쟁력을 갖춰야 합니다. 이를 위해 경남·마산을 AI 제조 혁신 거점으로 키우고 국가 차원의 투자와 민간 협력을 확대해야 합니다." 최형두 국민의힘 의원은 최근 기자와의 인터뷰에서 인공지능(AI) 산업 경쟁력을 높이기 위한 전략을 제시했다. 그는 AI 규제 혁신과 인프라 확충 제조 AI 육성을 통해 한국이 글로벌 AI 선도국으로 도약해야 한다고 강조했다. 25일 업계에 따르면 AI 기술이 빠르게 발전하면서 산업 전반에 걸쳐 규제와 인프라 확충이 핵심 과제로 떠오르고 있다. 이에 최형두 국민의힘 의원은 규제 개혁, 전력 인프라 확충, 제조 LAM 육성, 지역 AI 클러스터 구축 등의 종합 전략이 필요하다고 강조했다. 그는 디지털 교과서 도입에 대한 오해, 스타트업 노동 규제, 데이터센터 전력 수급 불안 등을 주요 해결 과제로 지목했다. 또 국가 AI 경쟁력 제고를 위해 경남 마산을 AI 제조업 혁신 거점으로 조성하기 위해 디지털 자유무역지역 및 아시안 공학기술원(AIT) 설립을 추진 중이라고 밝혔다. "AI 규제, 혁신을 저해하지 않는 균형 필요" 최 의원에 따르면 지난해 12월 국회에서 통과된 AI 기본법은 현재 구체적인 시행을 위해 하위법령 정비단이 구성돼 논의를 진행 중이다. 다만 법안에 포함된 '고위험 AI' 개념은 입안 단계에서는 모호하게 규정됐던 상황이어서 기술 발전을 저해할 수 있다. 그는 AI의 위험성이 과장돼 아직 존재하지 않는 상상 속의 위협을 근거로 연구개발을 규제하는 것은 바람직하지 않다고 주장했다. 실제로 그는 최근 세계적 AI 전문가인 얀 르쿤 메타 AI 수석과 만나 규제가 산업 발전에 미칠 영향을 심도 있게 다뤘다. 논의 과정에서 르쿤 교수 역시 불필요한 규제는 AI 연구개발을 저해할 뿐이며 실질적인 피해를 방지하는 방향으로 초점을 맞춰야 한다는 점에서 공감했다고 밝혔다. 최 의원은 "최근 함께 논의했던 르쿤 교수는 AI 연구개발을 규제해서는 안되고 오픈소스 AI 플랫폼을 제한하면 AI 산업 전반이 위축될 것이라고 역설했다"며 "기술 자체가 아니라 딥페이크, 허위정보 유포, 사기 등 실제 피해를 초래하는 행위를 중심으로 규제를 적용해야 한다"고 지적했다. 디지털 재난방지법의 필요성도 강조됐다. 이 법은 기간통신·부가통신·데이터센터 등으로 분산된 기존 재난관리 체계를 통합해 디지털 인프라의 안정성을 강화하는 것을 목표로 한 법으로, 최 의원은 판교 데이터센터 화재 이후 관련 법·제도의 개선 필요성을 제기하며 법안 발의를 주도한 바 있다. 그는 "디지털 재난을 선제적으로 대비하고 신속한 복구가 가능하도록 법적 일관성을 확보해야 한다"고 강조했다. 디지털 교과서 도입을 둘러싼 오해에 대해서도 입장을 분명히 했다. 최 의원은 일각에서 제기하는 디지털 교과서를 활용한 학생들의 게임 남용 가능성이 사실과 다르다고 지적했다. 그는 "야당을 비롯해 일각에서는 학생들이 디지털 교과서를 이용해 게임을 할 가능성이 있다고 주장하지만 이는 사실과 다르다"며 "디지털 교과서는 K-클라우드와 연동돼 있어 원천적으로 게임 접속이 불가능하다"고 강조했다. 이어 "야당이 근거 없는 우려를 조장하며 잘못된 프레임을 씌우고 있다"고 비판했다. 이같이 최 의원은 AI 산업 발전과 규제의 균형이 무엇보다 중요하다고 강조했다. 완전한 규제 부재는 국민의 안전과 정보 보호 측면에서 위험을 초래할 수 있지만 무조건적인 규제 강화는 연구개발을 위축시켜 산업 성장을 저해할 수 있다는 것이다. 그는 "AI 규제는 안전과 혁신의 균형을 맞춰야 한다"며 "산업 발전을 저해하지 않으면서도 국민을 보호할 수 있는 실질적인 정책이 필요하다"고 강조했다. AI 성장, 핵심은 인프라 확충과 인재 확보…전력·노동 환경 개선 시급 최 의원에 따르면, AI 산업이 급속도로 성장하면서 데이터센터의 전력 수요도 빠르게 증가하고 있다. 그는 단순히 AI 반도체를 확보하는 것만으로는 한계가 있으며 이를 효과적으로 활용할 수 있는 제조 AI 전략과 안정적인 전력 공급 체계 구축이 필수적이라는 입장을 밝혔다. 그는 "AI 연산량 증가로 인해 데이터센터의 전력 소비가 폭발적으로 늘어나고 있다"며 "안정적인 전력 공급이 없으면 AI 산업이 글로벌 경쟁력을 잃는다"고 경고했다. 실제로 글로벌 기업들은 전력을 확보하기 위해 사력을 다하고 있는 상황이다. 마이크로소프트(MS)는 자체 소형 원자로(SMR)를 도입하고 있으며 구글은 재생에너지 연동을 확대하는 방식으로 AI 연산 인프라를 구축하고 있다. 최 의원은 "우리도 원전과 재생에너지를 병행 활용해 AI 데이터센터가 안정적으로 운영될 수 있도록 해야 한다"고 주장했다. 특히 원자력 발전은 AI 산업 전력 수급 문제를 해결할 현실적인 해결책으로 꼽힌다. 최 의원은 "한국형 원전은 체르노빌이나 후쿠시마와 다르게 높은 안전성을 갖추고 있다"며 "재생에너지는 기상 조건에 따라 변동성이 크기 때문에 이를 보완하는 안정적인 전력 공급원이 반드시 필요하다"고 말했다. AI 산업 전략과 관련해 최 의원은 "초거대 AI 경쟁에서 한국이 미국과 중국을 따라가기엔 현실적 한계가 있다"며 "다만 제조업 강국으로서 제조 AI인 LAM 분야에서 글로벌 선도국이 될 기회가 있다"고 주장했다. 이어 "LLM 역시 꾸준한 발전은 물론 필요하나 국가적 역량이 제한된 상황에서 단순히 '패스트 팔로워'가 아니라 '퍼스트 무버'가 되기 위해서는 많은 고민이 필요하다"고 덧붙였다. 또 그는 중국 AI 스타트업 딥시크 사례를 언급하며 AI 반도체를 단순히 개발하는 것보다 이를 어떻게 활용할 것인지가 더 중요하다고 지적했다. 딥시크는 자체 연구비를 최소화하면서도 기존 AI 모델을 효과적으로 학습시켜 오픈AI를 위협하는 수준의 성과를 냈다. 최 의원은 "단순히 AI반도체뿐 아니라 이를 활용한 제조 AI 최적화 기술을 확보해야 한다"고 강조했다. 최근 국내 AI 산업의 인재 유출이 빈번해지는 가운데 최 의원은 노동 규제 개혁의 필요성 역시 강조했다. 그는 "네이버, LG 같은 국내 기업에서 어렵게 키운 인재들이 시니어 단계에서 결국 실리콘밸리로 떠나는 현실을 바꿔야 한다"며 "이를 위해 연구 인력에게 충분한 보상을 제공할 수 있는 환경을 조성하고 해외 우수 인재를 유치할 수 있는 적극적인 정책이 필요하다"고 밝혔다. 단순한 보상 문제를 넘어 노동 환경 개선도 중요하다고 강조했다. 최 의원에 따르면 IT 업계 내부에서도 연구·개발 직군에 한해 더 많은 근무 시간을 허용해야 한다는 의견이 일부 나오고 있다. 그는 업계 관계자들 사이에서도 "규제가 아니라 자율적으로 더 일할 수 있는 환경이 필요하다"는 주장이 존재한다는 점을 짚으며 혁신 산업 특성을 반영한 노동 정책이 필요하다고 지적했다. 최 의원은 "AI 스타트업과 연구소에서 7시간 노동만 강제하면 실리콘밸리와 경쟁할 수 없다"며 "혁신 산업에는 유연한 근무 환경이 보장돼야 한다"고 강조했다. 제조 AI, 마산을 테스트베드로…디지털 자유무역지역 '추진' 최 의원은 경남·마산이 제조 AI의 최적의 테스트베드라고 강조하며 이를 AI 산업 중심지로 육성하기 위한 구체적인 전략을 제시했다. 그는 제조업 강점을 활용해 스마트 공장과 AI 테스트베드를 구축하고, 이를 디지털 자유무역지역으로 발전시켜 글로벌 기업들이 참여할 수 있도록 해야 한다고 밝혔다. 그는 "창원과 마산은 한국의 대표적인 제조업 중심지로, 항공·선박·자동차·원전 산업이 밀집돼 있다"며 "이미 스마트 공장 기반이 형성돼 있어 제조 AI와 결합하면 산업 혁신을 선도할 수 있다"고 말했다. 그는 제조 공정 데이터 활용이 핵심이라고 강조했다. AI를 활용해 생산 데이터를 정제하고 최적화하면 글로벌 시장에서도 경쟁력을 갖출 수 있다는 분석으로, 데이터를 활용한 스마트 제조가 단순한 자동화를 넘어 AI가 직접 분석하고 최적 생산 방식을 찾아내는 단계로 갈 수 있다는 것이다. 이를 위한 인재 양성 전략으로 그는 아시안 공학기술원(AIT) 설립 계획을 밝혔다. 그는 "카이스트 등과 협력해 AIT를 설립하고 동남아시아를 포함한 해외 공학 인재를 적극 유치해야 한다"며 "실현만 된다면 이를 통해 제조 AI를 연구·개발할 우수 인력을 국내에서 양성하고 글로벌 경쟁력을 확보할 수 있다"고 밝혔다. 최 의원은 마산을 디지털 자유무역지역으로 지정하는 방안도 추진하고 있다. 이로써 글로벌 테크 기업과 중견 제조업체들이 AI 및 제조 데이터를 활용할 수 있는 환경을 조성하겠다는 계획이다. AI 산업 발전을 위한 정부 재정 투자 확대 필요성도 강조했다. 현재 야당은 추가경정예산(추경) 편성을 요구하며 총 35조원 규모의 예산안을 제시한 상태다. 다만 이 중 상당 부분이 미래를 위한 AI·반도체·첨단산업 등 미래 산업 투자 비중은 상대적으로 낮아 국가 성장에 제약이 발생할 수 있다는 것이 최 의원의 분석이다. 최 의원은 "민주당이 주장하는 추가경정 예산 35조원 중 AI에 대한 직접 투자 비중이 너무 낮다"며 "AI 데이터센터 구축·반도체 연구개발·스타트업 지원 등에 전략적으로 집중 투자해야 한다"고 지적했다. 또 그는 정부 예산만으로는 한계가 있다며 민간 기업의 참여를 유도하기 위한 특수목적회사(SPC) 활용 방안을 제시했다. 이는 국내외 기업들이 AI 인프라에 적극적으로 투자할 수 있도록 법적·제도적 환경을 마련하는 전략이다. 최형두 국민의힘 의원은 AI 산업이 단편적인 정책만으로는 성장할 수 없다고 강조했다. 그는 "AI 발전을 위해서는 전력·데이터·인력·규제·재정 등 모든 요소가 유기적으로 결합돼야 한다"며 "여야를 가리지 않고 모두가 한 마음이 돼 통합된 전략을 추진할 때만 대한민국이 글로벌 AI 선도국으로 도약할 수 있다"고 강조했다.

2025.02.25 09:46조이환

'AI 3대 강국' 목표 세운 韓, 대규모 투자 시동…조준희 "산업용 LLM에 주목해야"

최근 우리나라 정부가 인공지능(AI) 분야를 국가 전략 기술로 지정하고 집중 지원에 나선 가운데 국내 기업들이 산업용 거대언어모델(LLM) 개발에 적극 나서야 한다는 주장이 나왔다. 23일 업계에 따르면 조준희 한국소프트웨어협회장은 최근 자신의 소셜미디어(SNS) 페이스북 계정을 통해 "AI는 국가적으로 전략물자 수준 이상으로 생각해야 되고, 일종의 '핵무기'와 같다고 봐야 된다"며 "앞으로는 우리를 보호하는 무기로서의 AI를 가질 것이냐, AI 핵우산에 기댈 것이냐의 선택일 것"이라고 강조했다. 그러면서 "산업 보국을 위해서는 기업 수와 고용이 동반해서 늘어야 되는데 그런 면에서 우리가 소홀히 보고 있는 산업용 LLM 시장에 큰 기대감을 가지고 있다"며 "특히 제조 강국으로서의 산업 특화 LLM 개발 부분은 수출 측면에서도 선전 할 수 있다고 생각한다"고 덧붙였다. 조 회장이 이처럼 주장하고 나선 것은 최근 우리나라에서 AI 산업 발전을 위해 정부와 기업이 다각도로 방안을 모색하고 있는 상황에서 방향성을 제시하기 위한 것으로 분석된다. 앞서 정부는 지난 20일 제3차 국가AI위원회 회의를 진행해 '국가대표 정예팀'을 선발하는 한편, 빠른 시간 안에 세계 최고 수준의 LLM을 개발할 수 있도록 데이터와 그래픽처리장치(GPU) 등을 전폭 지원하겠다는 계획을 내놓은 바 있다. 특히 AI 컴퓨팅 인프라 확충을 위해 단기적으로는 내년 상반기까지 1만8천 장 규모의 첨단 GPU를 확충하기로 했다. 1만 장은 국가AI컴퓨팅센터를 중심으로 올해 안에 마련하고 나머지 8천여 장은 슈퍼컴퓨터 6호기 구축을 통해 확보한다. 장기적으로 2030년까지 국가AI컴퓨팅센터 내 국산 AI 반도체 비중을 50%로 끌어올려 저전력·고성능의 국산 AI 반도체 경쟁력을 높인다는 계획이다. 초기에는 엔비디아 등의 GPU를 쓰되 국산 AI 반도체의 성능을 검증해 점차 비율을 늘린다는 방침이다. 범용인공지능(AGI) 구현에 필요한 핵심 원천기술 확보도 추진하고 있다. 약 1조원을 투입할 계획으로, 현재 예비타당성 조사가 진행 중이다. 이에 대해 조 회장은 "국가 AI 역랑 강화 방안들은 어려운 환경에서 시기 적절하고 정교하게 잘 만들어졌다"며 "실행에 만전을 기하면 승산이 있다고 본다"고 말했다. 정부가 이처럼 나선 것은 AI 주도권을 둘러싼 글로벌 시장 경쟁이 갈수록 격화되고 있어서다. 미국은 지난 달 오픈AI, 오라클을 중심으로 AI 데이터센터에 약 730조원을 투자하는 '스타게이트 프로젝트'를 발표했다. 이에 질세라 유럽연합(EU)은 'AI기가팩토리 프로젝트'를 포함해 300조원가량을 투자키로 했다. 프랑스도 AI데이터센터에 약 163조원을 투자할 것이란 계획을 최근 공개했다. 하지만 우리나라는 미국, 중국에 이어 'AI 3대 강국'을 목표로 하고 있지만 '쩐의 전쟁'에선 다소 밀리는 모양새다. 한국은 일단 글로벌 AI 생태계에서 싱가포르·영국·프랑스와 함께 3위권으로 평가 되고 있지만, 고성능 AI 모델을 개발하기에는 국내 인프라가 부족하다는 지적을 받고 있다. 실제 지난해 기준 우리나라가 보유한 엔비디아의 AI 반도체 'H100'은 약 2천 개로, 미국 빅테크 메타의 15만 개, 마이크로소프트(MS)의 15만 개에 비해 상당히 낮은 수치다. 기술격차도 갈수록 커지고 있다. 미국과는 지난해 3월 기준 1.3년에 달했고 유럽과는 1년, 중국과는 0.9년의 차이가 났다. AI 고급 인재의 해외 이탈도 많아지면서 기술 개발에도 상당히 어려움을 겪고 있다. 이에 카카오는 자체 LLM 개발 중심 전략에서 선회해 오픈AI와 손을 잡았다. LLM 개발에 수천억원이 든다는 점에서 부담이 컸기 때문이다. 하지만 업계에선 카카오의 이 같은 전략에 대해 상당한 아쉬움을 드러냈다. 카카오가 파운데이션 AI 모델 개발에 소요되는 대규모 투자 비용을 절감하는 효과가 있겠지만, 자체적인 AI 역량 확보가 어려워져 향후 해외 진출에 어려움을 겪을 수도 있다고 판단해서다. 조 회장은 "국내 국민 메신저를 운영하는 대기업의 미국 LLM기업과의 제휴는 AI가 국가 기간산업이라는 철학이 부재한 보여주기식의 쉬운 접근"이라며 "(이 같은 전략은) 성공하기 어려울 것"이라고 주장했다. 이어 "AI는 LLM, GPU, 고대역폭메모리(HBM), 프로세싱-인-메모리(PIM), 클라우드, 양자 등 대규모 융합 산업으로, 어느 하나도 포기할 수 없는 주요 테크산업인 만큼 협업과 종합적인 접근이 중요하다"며 "올해 (우리나라가 AI기본법과 관련해) 세부 규정과 시행령을 더 정교하게 만들어서 미국 빅테크 기업을 적절히 견제하고 국내 산업을 증진시킬 수 있도록 (모두의) 균형있는 노력이 필요할 것"이라고 덧붙였다.

2025.02.23 15:37장유미

AI기본법 시행 앞서 정부·기업 한자리…글로벌 경쟁력 확보 방안 논의

인공지능(AI)기본법 시행에 앞서 정부와 산업관계자들이 모여 발전방향을 논의하기 위한 토론회가 개최한다. 한국소프트웨어산업협회(KOSA)는 산하 초거대AI추진협의회와 더불어민주당 조인철 의원실과 'AI기본법 현안 논의 토론회'를 개최한다고 20일 밝혔다. 오는 26일 국회 제2소회의실에서 진행하는 이번 토론회는 지난해 12월 26일 의결된 AI기본법의 시행에 앞서 산업계와 정부 관계자들이 한자리에 모여 법안이 국내 AI산업에 미칠 영향과 향후 발전방향을 논의하고자 마련됐다. AI기본법은 4년간의 논의 끝에 의결된 법안이다. 인공지능에 관한 국가 차원의 거버넌스 체계 정립과 AI 산업의 체계적 육성, AI 위험의 사전예방 등을 주요 내용으로 담고 있다. 토론회에서는 한양대학교 이상욱 교수가 '혁신과 안전이 공존하는 AI 기본법'을 주제로 발제를 진행한다. 이어지는 패널토론에서는 AI기본법의 실효성 있는 이행 방안과 산업 발전을 위한 제도적 지원 방안을 심도 있게 논의할 예정이다. 토론에는 과학기술정보통신부 공진호 과장, 랭코드 김민준 대표이사, 로폼 박성재 AI센터장, 네이버 박우철 변호사, KT AI2X Lab 배순민 소장, 국가인공지능위원회 신상렬 국장, 인공지능산업융합사업단(AICA) 오상진 단장, SK텔레콤 이영탁 성장지원실장, 트웰브랩스 정진우 이사가 참여한다. 조준희 협회장은 "이번 토론회를 통해 AI기본법의 실효성 있는 이행 방안과 AI산업 발전을 위한 제도적 지원 방안이 도출될 것으로 기대한다"며, "특히 국내 AI산업의 경쟁력 강화와 글로벌 시장 진출을 위한 실질적인 방안이 논의될 예정"이라고 말했다. 토론회를 주최한 조인철 의원은 "전기나 증기기관 같은 일상 전반에 적용될 범용 기술로 분류되는 AI 기술을 따라잡지 못하면 대한민국은 시대의 흐름에서 도태하게 말 것"이라고 우려하며 "지난해 국회가 AI기반 조성에 집중한 제정법을 마련한 만큼, 여기에 민간 부문의 과감한 도전이 더해져 독자적 AI플랫폼을 구축하고 글로벌 경쟁력을 확보할 수 있도록 더욱 성심껏 국회 차원의 법적‧제도적 뒷받침을 이어가겠다"고 약속했다

2025.02.20 17:16남혁우

[기고] 인공지능 시대, 무분별한 중복 규제 지양해야

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI) 규제의 근간이 될 수 있는 인공지능기본법(AI기본법)이 지난 1월 국회에서 정부로 이송돼 공포됨에 따라 내년부터 본격적인 시행을 앞두고 있다. 이같은 상황에서 프라이버시 분야에서의 AI 규제에 관한 법안도 새롭게 발의됐다. 지난달 31일자 개인정보 보호법 일부개정법률안이 바로 그것이다. 공개된 주요 내용에 따르면 개인정보보호위원회의 심의·의결을 거친 경우 적법하게 수집한 개인정보는 AI 개발을 위해 활용할 수 있게 된다. 이 과정에서 정보주체의 권리 침해가 발생하지 않도록 사전 및 사후적 조치도 마련됐다. 다시 말해 사전적으로 개인정보 처리방침을 통한 투명성 확보 조치를 이행하도록 하고 사후적으로는 개인정보보호위원회의 주기적인 관리 및 점검을 통해 개인정보의 안전성을 확보하겠다는 계획이다. 이는 개인정보보호위원회가 올해 6대 핵심 추진과제 중 하나로 세운 AI 시대 개인정보 규율체계 혁신 과제와 궤를 같이 한다. 이미 현행 개인정보 보호법 제15조 제4항은 당초 수집 목적과 합리적으로 관련된 범위 내에서는 안전성 확보 조치를 취하였는지 여부 등을 고려해 정보주체의 동의 없이도 개인정보를 추가적으로 이용할 수 있도록 규정해 두고 있다. 이에 따라 특정 서비스 제공 목적으로 수집한 개인정보를 AI 서비스 개발에 이용하는 행위는 현재도 충분히 가능하다고 판단된다. 개인정보보호위원회 역시 AI 시대 안전한 개인정보 활용 정책방향을 통해 위와 동일한 입장을 표명한 바 있다. 이번 개정안은 주로 기본 서비스 관련 개인정보를 관련이 없는 기타 서비스 개선이나 신규 서비스 개발을 위해 이용하는 경우에 대비한 것으로 이해된다. 다시 말해 다른 서비스나 신규 서비스의 경우 기존 서비스 개선에 비해 정보주체의 예측가능성이 떨어질 것이므로, 이를 위한 AI 개발에 대해서는 보다 엄격하게 개인정보보호위원회의 심의·의결을 요구하겠다는 취지다. 규제의 강도 측면에서 합리적인 규제라고 생각된다. 다만 세부적인 규제 내용은 추가적인 검토를 통해 완성해 나가야 할 것이다. 내년부터 시행 예정인 AI기본법은 이미 일부 AI에 대해 투명성 확보 의무 및 안전성 확보의무를 부과하고 있다. 이에 따라 개인정보 보호법 개정안을 통해 규율되는 투명성 확보 조치와 안전성 확보 조치 역시 단순한 중복 규제에 그치지 않도록 해야 한다. 이를 위해 제도 시행 전부터 부처 간 협력을 통해 각 규제의 유기적인 정착을 도모해야 한다. 향후에는 프라이버시 분야 외에 다른 부처에서도 다른 법안을 통해 AI에 관한 규제를 연이어 도입할 것으로 예상된다. AI와 같이 광범위한 분야에서 사용될 수 있는 기술에 대해 각 부처별로 관심을 갖고 규제를 도입하려는 시도 자체는 어찌 보면 당연한 것이다. 다만 앞서 본 것처럼 AI가 화두로 떠오른다고 해서 각 부처가 무분별하게 중복 규제를 하는 상황은 반드시 피해야 한다. 규제가 필수적이라 하더라도 사전에 별 다른 논의 없이 부처별 규제들이 우후죽순처럼 도입되기만 한다면 수범자 입장에서는 큰 혼란이 초래될 수밖에 없다. 일례로 광고성 정보 전송과 관련한 정보통신망법에 따른 규제와 개인정보 보호법에 따른 규제 역시 과도한 중복 규제로 여기는 여론이 많았다. 두 규제를 통합하려는 시도는 줄곧 있어 왔지만 아직까지 혼란은 이어져 오고 있다. 그 외에 지난 2020년 데이터3법을 통합하려는 시도에도 불구하고 복잡하게 얽힌 문제로 개인정보 보호법과 신용정보법 간의 통합은 무산되었다. 이같이 처음부터 규제가 여러 갈래로 흩어져 있는 상황에서는 중복 규제가 발생할 것이 우려된다. 다만 나중에 이를 다시 주어 담는 통합작업을 하는 것 역시 너무나 어려운 작업임은 그간의 선례에 비추어 볼 때 자명하다. 그렇다고 과도한 중복 규제를 그대로 두는 것은 사업자들에게 짐을 돌리는 것밖에 되지 않는다. 동시에 규제기관 간에 서로 눈치만 보며 상황을 애매하게 방치하는 것 역시 법치국가에서 허용해서는 안 된다. 어려운 시국 속에서도 AI기본법이 극적으로 국회에서 통과된 만큼 이 법안이 누더기 규제가 되지 않도록 제도 도입 초기부터 각 부처 간 원활한 협의를 통해 유기적인 규제 로드맵을 완성하기를 기대해 본다.

2025.02.14 15:41법무법인 태평양 이준호

AI기본법 하위법령 정비단 출범···"고영향AI 기준 신중 마련"

과학기술정보통신부(과기정통부)는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)' 하위법령 정비단을 본격 출범한다고 15일 밝혔다. AI기본법은 지난 2020년 7월 국회에서 법안이 처음 발의된 이후 4년이 넘는 기간 동안 다양한 의견을 수렴하며 논의된 법안으로, 22대 국회에서 여야 합의를 거쳐 19개 법안을 병합하고 작년 12월 26일 본회의를 통과했다. 이후 올 1월 14일 국무회의 의결을 거쳐 1월 중 공포될 예정으로 2026년 1월부터 시행한다. 법안은 유럽연합(EU)에 이어 세계에서 두 번째로 제정한 법안이다. 인공지능에 관한 국가 차원의 거버넌스 체계를 정립하고, 인공지능 산업을 체계적으로 육성하며, 인공지능으로 인해 발생할 수 있는 위험을 사전에 예방하기 위한 내용으로 구성됐다. 과기정통부는 AI기본법 제정 효과를 민간에서 조속히 체감할 수 있게 위해 하위법령 정비단을 구성, 운영한다. 정비단에는 과기정통부와 산업계‧학계‧법조계 전문가를 비롯해 국가AI위원회 법제도분과도 함께 참여한다. 법제처(미래법제혁신기획단)도 정비단 회의에 참여해 하위법령 제정에 대한 컨설팅을 지원한다. 정비단은 15일 출범 회의를 거쳐 시행령 초안을 신속히 마련할 예정이다. 특히, 법안에 포함한 고영향AI, 생성형AI 등에 대해서는 해외 입법동향, AI 경쟁력 강화라는 정책목표 달성 등을 고려해 그 기준과 적용사례를 구체화해 나갈 것이다. 이를 통해 AI기본법이 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 AI G3 강국으로 도약할 수 있는 법적 기반이 될 수 있게 할 계획이다. 과기정통부는 우선 정비단 전문가를 중심으로 시행령 초안을 마련한 뒤 관계부처 및 이해관계자 의견수렴을 폭넓게 진행하는 등 긴밀한 소통을 추진할 방침이다. 아울러, 하위법령 마련과 병행해 법에 근거한 주요 가이드라인 및 고시에 대한 별도 태스크포스(TF) 3개(각 10여명의 민간전문가 참여)도 함께 운영할 예정이다. 특히, 고영향 AI 기준과 예시에 관한 가이드라인의 경우 분야별 전문성이 특히 중요하다는 점을 고려, 국가AI위원회를 중심으로 산학연 전문가, 관계부처 등이 참여해 분야별로 초안을 마련하고 이해관계자 의견수렴을 진행한다. 송상훈 과기정통부 정보통신정책실장은 “인공지능을 둘러싼 치열한 글로벌 경쟁 속에서 우리나라가 혁신과 안전을 조화롭게 반영한 AI기본법 제정을 함으로써 AI G3 강국으로 도약할 수 있는 기반을 마련했다"면서 “기업의 예측가능성을 제고하고, 투자를 촉진하기 위해서는 하위법령 제정에 서두를 필요가 있다”고 밝혔다. 이어 “하위법령 정비단 운영과 민간이 체감할 수 있는 각종 산업 지원 시책의 수립을 속도감 있게 추진해 나가는 등 최선의 노력을 기울이겠다”고 말했다.

2025.01.15 12:00방은주

[AI는 지금] AI 기본법 TF 발족…"산업 진흥·규제 사이 균형 찾기 과제"

'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'의 구체적인 하위법령 마련을 위해 정부가 태스크포스(TF)를 출범시킨다. 이를 통해 AI 산업 발전과 국민 안전 간 균형을 맞추고 국제 표준에도 부합하는 규제와 진흥 방안을 마련하겠다는 계획이다. 국내 업계 전반에서는 환영의 목소리를 내고 있으나 일부에서는 과연 법안이 최선의 선택이었는지에 대한 의문도 제기되고 있다. 11일 업계에 따르면 과학기술정보통신부(이하 과기정통부)는 AI 기본법 시행령 제정을 위한 산학연관 태스크포스(TF)를 이달 중 발족한다. TF에는 국가인공지능위원회 법·제도 분과위원회, 관계부처, 산업계, 학계, 연구기관 등 전문가 그룹이 폭넓게 참여할 예정이다. TF의 핵심 논의 대상은 AI 기본법에서 강조한 '고영향 AI'의 정의와 규율 방안이다. 고영향 AI는 사람의 생명·안전 및 기본권에 중대한 영향을 미칠 가능성이 있는 시스템을 의미하며 이를 구체화한 가이드라인은 올해 6월까지 마련될 계획이다. 지난해 말 국회를 통과한 AI 기본법은 AI 사업자가 고영향 AI를 제공할 경우 사전 검·인증을 받도록 권고하고 관련 제품이나 서비스 이용 시 사용자에게 미리 고지할 것을 명시하고 있다. 과기정통부는 TF 논의를 통해 가이드라인 수립 과정에서 기업과 이용자의 의견을 적극 수렴하겠다며 AI 기술 발전과 법제의 조화를 추구하고 국제 표준과도 부합하는 규제 체계를 마련할 계획이라고 밝혔다. 이 같은 움직임에 국내 AI 업계는 기대감을 드러내고 있다. 그간 법률 공백으로 인해 생성형 AI나 빅데이터 서비스 등 신기술을 준비하는 기업들은 명확한 규제·지원 체계를 파악하기 어려웠고 투자자들도 법적 리스크를 우려해 선뜻 자금 투입을 결정하기 쉽지 않았다는 게 업계의 설명이다. 한 AI 업계 관계자 A씨는 "AI 산업에 대한 명확한 기준과 지원 방안을 담은 법안이 생겨 불확실성이 줄어들 것으로 보인다"며 "정부가 업계 이슈를 정리하고 방향을 제시해준다는 사실만으로도 큰 도움이 될 것"이라고 전했다. 다만 이러한 산업 현장의 기대는 그동안 규제가 부재했던 상황에서 비롯된 불확실성이 컸기 때문이라는 분석도 있다. 명확한 법적 기준이 없던 시기에는 각기 다른 해석과 더불어 정부의 입장을 지나치게 의식해야 하는 어려움이 있어왔다는 설명이다. 실제로 해외 업계에서는 사뭇 다른 의견이 나온다. 글로벌 테크기업 관계자 S씨는 "법안 통과 당시 해외 언론은 EU에 이어 한국이 두 번째로 AI '규제'를 통과시켰다고 보도하며 국내 AI 기술 발전을 저해할 소지가 있는지를 염려하는 분위기였다"며 "'가이드라인'이나 '행정명령' 같은 탄력적 방안이 더 효과적이지 않았을지 의문이 든다"고 덧붙였다. 현재 국가 차원에서 AI를 법률로 직접 규제한 사례는 한국이 EU에 이어 두 번째로 꼽힌다. EU는 지난해 3월 세계 최초의 포괄적 AI 규제인 'AI법'을 가결해 내년 8월 전면 시행할 예정이다. 이와 반대로 미국의 경우에는 연방 차원의 AI 관련 법안이 없으며 지난 2023년 발표된 AI 행정명령도 연방기관 지침 수준이어서 민간에 대한 처벌 조항은 포함되지 않았다. 일본 역시 가이드라인 중심의 '소프트 로(soft law)' 접근 방식을 채택하고 있다. 그럼에도 국내 업계는 이미 통과된 AI 기본법을 기반으로 산업 발전을 위한 구체적인 세부안 마련에 기대감을 표하고 있다. 한 업계 관계자는 "기본법이 국회를 통과한 만큼 이제는 산업 성장에 실질적으로 기여할 수 있는 구체적 안들이 발전하길 희망한다"며 "정부와 업계의 지속적인 협력을 통해 AI 생태계를 더욱 활성화할 수 있길 바란다"고 강조했다.

2025.01.11 14:30조이환

AI기본법 어떤 내용 담았나···고영향AI 11개 분야로 포괄 규정

26일 국회 본회의를 통과한 AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)은 보칙을 포함해 총 5장(제1장 총칙, 제2장 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계, 제3장 인공지능기술 개발 및 산업 육성, 제4장 인공지능윤리 및 신뢰성 확보, 제5장 보칙)으로 구성됐다. 1장에서는 인공지능과 인공지능 기술이 무엇인지 정의했다. 법에 따르면, 인공지능이란 학습, 추론, 지각, 판단, 언어 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말한다. 또 인공지능기술이란 인공지능을 구현하기 위해 필요한 하드웨어, 소프트웨어 기술 또는 그 활용 기술을 말한다. 특히 1장에는 규제가 필요한 '고영향 인공지능'을 11개 분야로 포괄적으로 규정, 설명했다. 즉, 고영향 인공지능이란 사람 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로 ▲에너지 공급 ▲먹는물 생산 공정 ▲보건의료 제공과 이용체계 구축 및 운영 ▲핵물질과 원자력시설의 안전한 관리 및 운영 ▲범죄 수사나 체포 업무를 위한 생체인식정보(얼굴·지문·홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적·생리적·행동적 특징에 관한 개인정보를 말한다) 분석 및 활용▲채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 ▲'교통안전법' 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영 ▲공공서비스 제공에 필요한 자격 확인, 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, '공공기관의 운영에 관한 법률' 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정 ▲'교육기본법' 제9조제1항에 따른 유아교육·초등교육 및 중등교육에서의 학생 평가 ▲그 밖에 사람의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로, 이 중 어느 한 영역에 미치는 시스템을 말한다. 또 국외에서 이뤄진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우 이 법이 적용된다. 2장에서는 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계(거버넌스)를 규정했다. 법이 규정한 추진체계는 국가AI위원회, 인공지능정책센터, 인공지능안전연구소 등 세 곳이다. 이중 국가AI위원회는 지난 9월말, AI안전연구소는 11월말 이미 출범했다. 이에, 앞으로 설립할 인공지능정책센터에 시선이 쏠렸다. 신설 보다는 NIA 등 기존 공공기관 중 한 곳을 지정할 가능성이 높은 것으로 알려졌다. 3개 조직 중 대통령이 위원장으로 있는 최상위 거버넌스인 국가AI위원회는 위원장 1명(대통령)과 민간 부위원장 1명을 포함한 45명 이내 위원으로 구성한다. AI 정책과 연구개발 전략 수립 뿐 아니라 투자와 규제 발굴 및 개선을 담당한다. 또 고영향 인공지능과 관련한 정책 대응과 규율도 담당한다. 위원회 산하에 필요한 경우 특별위원회를 둘 수 있고, 분과위원회와 전문가로 구성한 자문단도 둘 수 있다. 아직 출범하지 않은 '인공지능정책센터'는 ▲기본계획의 수립·시행에 필요한 전문기술 지원 ▲인공지능과 관련한 시책의 개발 및 관련 사업의 기획·시행에 관한 전문기술 지원 ▲인공지능의 활용 확산에 따른 사회, 경제, 문화 및 국민의 일상생활 등에 미치는 영향의 조사·분석 ▲ 인공지능 및 인공지능기술 관련 정책 개발을 지원하기 위한 동향 분석과 사회,문화 변화와 미래예측 및 법, 제도 조사 연구 ▲다른 법령에서 센터의 업무로 정하거나 센터에 위탁한 사업 ▲ 그 밖에 국가기관등의 장이 위탁하는 사업 등을 수행한다. 이들 공공성 기관과 함께 '한국인공지능진흥협회(이하 협회)' 조항도 담았다. 인공지능 개발과이용 촉진, 인공지능산업 및 인공지능기술의 진흥, 인공지능등에 대한 교육과 홍보 등을 위해 대통령령으로 정하는 바에 따라 과학기술정보통신부장관 인가를 받아 협회를 설립하거나 지정받을 수 있게 했다. 협회는 법인이며 인공지능 제품이나 서비스 이용 촉진 및 확산, 현황 및 관련 통계 조사, 전문인력 양성 교육 및 해외 진출 지원 등의 일을 한다. 이외에도 법안은 과학기술정보통신부장관이 인공지능기술과 관련한 표준화를 위해 표준 제정 등의 사업을 추진할 수 있게 했다. 현재 국가 표준은 산업부 산하 국표원이 담당하고 있어 역할 조정이 필요한 부분이다. 특히 법안은 국가 및 지방자치단체가 인공지능산업 진흥과 인공지능 개발 및 활용의 경쟁력 강화를 위해 인공지능과 인공지능기술 연구·개발을 수행하는 기업, 기관이나 단체의 기능적·물리적·지역적 집적화를 추진할 수 있다고 규정했다. 현재 광주에 AI 단지가 조성돼 있는데, 향후 추가 단지를 선정할 계획이다. 특히 법안은 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 사실을 이용자에게 사전에 고지해야 하며, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의해 생성됐다는 사실을 표시해야 하고, 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있게 고지 또는 표시하도록 했다. 아래는 과기정통부가 발표한 법안의 주요 내용. 국가AI 발전과 신뢰 기반 조성을 위한 추진체계 마련...3년마다 기본계획 수립 과기정통부장관은 관계부처 및 지자체 의견을 수렴해 국가 AI 경쟁력 강화를 위한 인공지능기본계획을 3년마다 수립하고 시행(제6조)할 수 있다. 아울러, 지난 9월 출범한 국가인공지능위원회(위원장 대통령) 운영의 법적 근거를 마련(제7조)하고, 인공지능과 관련해 발생할 수 있는 위험으로부터 국민의 생명‧신체‧재산 등을 보호하기 위한 전문기관으로 인공지능안전연구소 운영 근거(제12조)를 뒀다. R&D, 학습용데이터, 데이터센터, 집적단지 등 산업육성 지원 인공지능 산업육성을 위해 R&D 지원(제13조), 표준화(제14조), 학습용데이터 시책 수립(제15조), AI 도입‧활용 지원(제16조) 등에 대한 정부 지원 근거를 마련했다. 또 AI집적단지 지정(제23조), AI 데이터센터 시책 추진(제25조), AI 융합 촉진(제19조) 등을 통해 대한민국 인공지능 생태계의 혁신적인 발전을 지원하는 한편 AI 전문인력 확보(제21조), 중소기업을 위한 특별지원(제17조), 창업 활성화(제18조) 등 AI 시대를 선도할 인재 양성과 중소·스타트업의 성장을 촉진하기 위한 사항도 함께 담았다. 고영향AI‧생성형AI에 대한 안전‧신뢰 기반 조성 인공지능의 기술적 한계, 오‧남용 등으로 발생가능한 문제를 사전에 예방하기 위해 규제 대상으로 고영향AI와 생성형AI를 정의하고, 투명성 확보 의무(제31조), 안전성 확보 의무(제32조), 사업자 책무(제34조)를 규정했다. 아울러, 민간이 자율적으로 추진하는 AI 안전성‧신뢰성 검‧인증(제30조), 인공지능 영향평가(제35조)에 대한 정부의 지원 근거도 마련했다. 이번 'AI기본법'은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 2026년 1월부터 시행될 예정이다. 정부는 이 법이 신속하게 시장에 안착할 수 있게 하위법령과 가이드라인 마련 등 후속조치도 조기에 추진할 계획이다. 유상임 과기정통부 장관은 "국가 AI경쟁력 강화의 밑거름이 될 AI기본법 국회 통과를 매우 뜻깊게 생각한다”며 “인공지능을 둘러싼 치열한 글로벌 경쟁 속에서 AI기본법 제정을 통해 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 명실상부하게 AI G3 강국으로 도약할 수 있는 중요한 이정표가 마련됐다"고 밝혔다. 이어 "AI기본법 제정은 끝이 아닌 시작”이며 “현장과의 긴밀한 소통을 통해 하위법령 제정과 각종 산업지원 시책 수립을 속도감 있게 추진하고, 국가 AI 컴퓨팅 인프라를 조속히 구축하도록 최선의 노력을 기울이겠다"고 말했다. 한편 AI기본법 통과에 대해 국회 과방위 소속 의원들이 잇달아 소감을 밝혔다. 황정아 의원(민주당, 대전 유성구을)은 "우리가 적극 추진한 인공지능사업자의 인공지능 실증, 성능시험 등을 지원하기 위한 시설, 장비, 설비 구축 등 국가와 지자체의 민간 실증 지원 근거 규정도 반영, AI 기술 발전에 보다 활력을 불어넣을 것으로 기대한다"면서 "딥페이크를 비롯한 AI의 부작용을 막기 위한 규제도 포함됐다. 인공지능사업자가 고영향 인공지능 또는 이를 이용한 제품 서비스를 제공하는 경우 신뢰성 확보를 의무화하도록 했다. 인간의 생명과 신체, 정신적 건강 등에 해가 되지 않는 등의 윤리원칙도 명시했다"고 밝혔다. 이어 과기계의 숙원이자 시대적 과제인 AI기본법이 마침내 통과돼 산업 발전과 신뢰성 확보라는 두 축을 조화롭게 아우르는 법적 기반이 마련됐다면서 "AI기본법 제정은 대한민국의 AI 생태계 구축을 위한 중요한 첫 발걸음"이라고 강조했다. 이훈기 의원(민주당, 인천 남동구을)은 "미국, 유럽 등 세계 각국이 인공지능 법제를 마련하는 상황에서. 우리 역시 우리나라만의 인공지능 발전과 안전성 확보를 위한 법제 마련이 시급했다"면서 "이번에 통과된 기본법에는 인공지능이 우리 국민의 기본권에 미치는 영향평가를 하도록 한 내용이 포함돼 의미가 남다르다"고 진단했다. 실제 이번 제정안은 '인공지능 영향평가' 규정을 포함하고 있다. 영향평가는 사업자가 고영향 인공지능 제품이나 서비스 출시 전에 사회, 경제, 환경 등 사람의 기본권에 미치는 다양한 영향을 고려하도록 한 것으로, 공공기관 등이 채용이나 공공서비스를 위해 인공지능을 사용할 때는 영향평가가 완료된 서비스를 우선 이용하도록 했다. 조인철 의원(민주당, 광주 서구갑)은 광주가 AI 거점도시를 표방하면서 그간 진행한 AI 관련 사업을 중단없이 진행할 수 있게 ▲인공지능집적단지 조성 지원 ▲인공지능 실증 기반 조성 등의 내용을 법안에 포함했면서 "또 인공지능 집적화를 지원하기 위한 전담기관 지정에 대한 근거도 마련했다"고 밝혔다. 광주광역시는 지난 2020년부터 총사업비 4265억 원을 투입해 인공 지능 중심 산업융합 집적단지를 조성해 왔다. 국가 AI데이터센터 등 연구 개발을 지원하는 핵심 기반시설도 구축했다. 오는 2029 년까지 약 9000 억 규모의 '인공지능 실증 밸리 확산사업'을 추진, AI 2 단계 사업에 박차를 가하고 있다. 조 의원은 "AI 기본법이 광주를 AI 거점도시로 성장시키는 발판이 되고, 광주의 AI 발전이 곧 대한민국 전체의 미래 경쟁력을 높이는 마중물이 되기를 기대한다"고 덧붙였다.

2024.12.26 18:34방은주

[AI는 지금] 규제 갈림길 선 AI, 진화 속도 빨라졌다

"인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 가능성이 99.9%에 달합니다. 미래에는 AI가 인간을 반드시 해칠 수 있습니다." 로만 얌폴스키(Roman Vladimirovich Yampolskiy) 루이빌대 사이버보안연구소 교수는 최근 AI의 위험성을 제기하며 이처럼 경고하고 나섰다. 챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들뿐 아니라 국가안보 정부 당국자, AI·보안 전문가들도 함께 AI에 대해 우려하며 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고의 메시지를 잇따라 내놓고 있다. 1984년 개봉해 전 세계적으로 선풍적인 인기를 끈 '터미네이터'는 AI의 위험성을 가장 극명하게 보여주는 영화로 손꼽힌다. '터미네이터'의 배경은 2029년 미국 로스앤젤레스로, AI가 핵전쟁을 일으켜 잿더미를 만들고 남은 인류를 말살하는 과정에서 살아남은 인간들이 투쟁을 벌이는 과정을 담았다. '악의'가 아닌 논리적인 계산을 거쳐 AI가 인간을 적대한다는 내용은 AI가 등장하는 소설과 영화 등에서 숱하게 사용돼 왔다. 하지만 최근 AI의 발전 과정을 보면 이젠 단순히 영화 속 이야기로 치부하기 어렵게 됐다. 실제 지난해 5월 AI가 통제하는 미국 공군의 드론이 적의 지대공 시스템을 찾아 폭격하는 가상훈련에서 AI는 자신의 임무를 방해한다고 인식한 오퍼레이터를 폭격했다. "오퍼레이터를 살해하지 말라"는 사전 명령에도 불구하고 벌어진 일이었다. 가상훈련이었던 만큼 실제로 폭격이 일어나진 않았지만, AI가 인간을 위협하는 일이 현실이 될 수 있다는 가능성을 보여줬다. AI는 데이터를 학습하고 정해진 알고리즘에 따라 추론하는 것이 기본적인 역할이다. 그러나 인터넷이 발전하며 학습할 수 있는 데이터가 급격히 늘어났고, 엄청난 양의 데이터를 AI에게 학습시킬 수 있는 시대가 됐다. 그 결과 방대한 학습량을 기반으로 텍스트, 이미지는 물론 소리, 영상까지 생성해 낼 수 있는 '초거대 AI'가 등장했다. 특히 2022년 11월 오픈AI가 '챗GPT'를 내놓으면서 AI는 새로운 변화를 맞았다. 오픈AI를 필두로 구글, 마이크로소프트, 메타, 아마존 등 주요 빅테크가 연일 새로운 기술을 쏟아내면서 생성형 AI는 불과 2년여 만에 무서운 속도로 발전했다. 오픈AI가 최근 공개한 최신 AI 모델 'GPT-4o'는 텍스트는 물론 음성, 시각 정보까지 이해하고 '인간의 전유물'로 여겨진 창작 영역까지 넘보고 있다. 이처럼 빠른 속도로 AI가 발전하는 것과 동시에 오류도 곳곳에서 나타나고 있다. 구글이 새롭게 선보인 검색 기능 'AI 오버뷰(AI Overview)'는 허위 답변을 제공한다는 비판을 받았고, 오픈AI의 'GPT-4o'에서는 음성 비서 '스카이'가 유명 배우 스칼렛 요한슨(Scarlett Ingrid Johansson)의 목소리를 도용했다는 의혹에 휩싸여 서비스를 한 때 중단했다. 무리한 AI 개발 속도 경쟁이 얼마나 위험한 지를 보여주는 사건이다. AI 기술의 발전은 그 자체로 긍정적일 수 있지만, 기술 혁신과 창작자 권리 보호, 윤리와 도덕성 사이에서 균형을 맞추기 위한 과도기를 겪고 있다. 이 같은 상황에서 AI가 얼마나 위험한지 현 상황을 짚어보고 파악하는 것은 중요한 의미를 갖는다. 인공일반지능(AGI)이 조만간 개발돼 보편화될 것이란 전망 속에 AI의 위험성을 제대로 인지하고 있어야 부작용을 예방하고 향후 AI와 인간이 공존할 수 있게 된다. 유럽연합(EU)뿐 아니라 미국, 중국, 일본 등 세계 각국이 AI 관련 법제화에 속도를 내는 이유도 여기에 있다. 생각하는 기계 'AI'의 등장 현재 생활의 일부로 알게 모르게 들어온 AI는 최근 들어 빠른 속도로 발전했지만 연구 과정은 순탄치만은 않았다. 일단 기계로 빠르고 정확히 계산하는 '컴퓨터'가 등장한 후 이를 활용해 인간의 지적 능력을 인공적으로 만들려는 시도는 1950년대부터 있었다. "기계도 생각할 수 있는가?" 영화 '이미테이션 게임'의 실제 주인공이자 영국의 과학자인 앨런 튜링(Alan Mathison Turing)은 지난 1950년 10월 1일 국제 학술지 옥스퍼드에 게재한 논문 '계산 기계와 지능(Computing Machinery and Intelligence)'의 첫 문장을 이처럼 썼다. 그가 제시한 개념은 1956년 미국 다트머스에서 열린 회의를 통해 '인공지능(AI, artificial intelligence)'이라는 용어로 탄생했다. AI의 태동기로 불리는 1950년대에는 인간의 지식을 기호와 수학적 관계로 표현해 기계에 지능을 부여하려는 '규칙 기반 인공지능' 기술이 많은 관심을 받았다. 이 연구의 기반이 되는 기계적 계산으로 '직접 지능을 구현한다'는 움직임은 '계산주의', '기호주의' 등으로 불렸다. 신경생물학자 프랭크 로젠블랫(Frank Rosenblatt)은 1958년 '퍼셉트론(Perceptron)'이라는 알고리즘을 제시했다. 생물 신경세포인 '뉴런'에서 착안한 퍼셉트론은 입력 정보의 가중치를 조정해 수학적 처리를 거쳐 결과를 내놓는 구조다. 현재는 딥러닝에 쓰이는 인공신경망 모델로 불린다. 로젠블랫은 기초적인 논리연산을 퍼셉트론으로 구현하는 데 성공했고, 이 퍼셉트론에서 '머신러닝'의 기초적인 개념이 탄생했다. 퍼셉트론이 제시된 이후 사람의 뇌 구조를 본떠 기계에 지능을 부여하자는 시도인 '연결주의'라고 불리는 연구 경향이 등장했고, AI 연구의 한 축이 됐다. 하지만 1969년 'AI 대가'인 마빈 민스키(Marvin Lee Minsky)가 퍼셉트론으로 구현할 수 없는 논리연산(XOR연산)이 있다는 논문을 발표한 후 AI를 연구하려는 분위기는 가라앉았다. 머신러닝 등 AI 연구와 관련된 예산이 대규모로 삭감됐기 때문이다. 민스키의 논문으로 AI는 20년 가까이 암흑기를 겪었다. 다만 이때 퍼지 이론, 통계적 데이터 처리법, 데이터 마이닝 등 신경망 기반이 아닌 AI 유관 기술은 점차 발달했다. 암흑기에서 빠져나온 것은 1988년이다. 퍼셉트론 같은 인공 신경망을 층층이 쌓아 XOR연산 불가 문제를 해결한 것이다. 그러나 여러 층으로 신경망을 쌓으면 복잡해지게 돼 머신러닝 조정이 어려워 짐에 따라 지능 구현에 한계를 보인다는 문제점이 드러났다. 또 다층의 신경망을 운용하기 위한 연산 장치(하드웨어)의 발전이 충분하지 않은 데다 AI에 입력시킬 데이터도 부족하다는 시대적 한계도 있었다. 인공 신경망을 층층이 쌓는다는 아이디어는 2010년대의 '딥 러닝(Deep Learing)'으로 이어졌다. 그동안 인터넷의 영향으로 데이터가 기하급수적으로 늘어나고 병렬처리를 중심으로 한 연산 능력도 비약적으로 발달한 덕분에 '딥 러닝'은 출현할 수 있었다. 이후 합성곱신경망(CNN) 등이 발달하며 퍼셉트론부터 이어진 '연결주의' AI 전성시대는 본격화됐다. 특히 2016년에는 구글 딥마인드가 개발한 '알파고'가 등장해 이세돌 9단을 꺾으면서 대중에게도 큰 인상을 남겼다. 생성형 AI 시대 '활짝' 인간을 절대 따라잡을 수 없을 것이라 여겼던 '바둑' 분야에서 특출한 능력을 보여주면서 AI는 우리 삶을 빠르게 바꿀 것이라는 기대가 커졌다. 바둑 외에 AI가 일상에 변화를 주는 일은 그 이후에도 크게 일어나지 않았지만, 컴퓨팅 능력, 반도체 기술 등은 점차 빠른 속도로 발전됐다. 그러나 지난 2022년 말 오픈AI가 '챗GPT'라는 생성형 AI를 선보인 이후 시장은 빠른 속도로 변했다. 이제는 수많은 빅테크 기업이 생성형 AI를 기반으로 한 다양한 서비스를 내놓으면서 AI가 우리 삶에 빠르게 침투하고 있는 분위기다. 이들의 기술 경쟁은 올해 상반기에도 계속됐다. 오픈AI는 지난 2월 동영상 생성 AI '소라(SORA)'를 공개해 시장을 놀라게 했다. 소라가 만든 다양한 영상도 함께 선보였는데, 몇 줄의 프롬프트만으로 최대 1분 길이의 영상을 만들 수 있다는 점에서 주목받았다. 오픈AI 견제에 나선 구글도 같은 달 멀티모달 AI 모델 '제미나이(Gemini) 1.0 울트라'를 업그레이드한 '제미나이 1.5 프로'를 선보였다. 지난 5월에는 '구글 연례 개발자 회의(I/O)'를 통해 검색 엔진에 제미나이를 탑재할 것이란 소식뿐 아니라 구글의 음성 모델을 기반으로 하는 새로운 프로젝트 '아스트라(Astra)'도 공개했다. 이는 AI가 사람처럼 보고, 듣고, 음성으로 대화하면서 이용자의 개인 비서 역할을 하는 기능이다. 오픈AI 대항마로 불리는 앤트로픽(Anthropic)도 올해 3월 생성형 AI 모델 제품군인 '클로드 3'을 공개했다. 특히 가장 성능이 우수한 '클로드 3 오퍼스'는 앤스로픽이 내놓은 첫 '멀티모달' 생성형 AI로 눈길을 끌었다. 사용자는 사진, 차트, 문서 및 기타 유형의 데이터를 업로드하고 이에 대한 분석과 답변을 얻을 수 있다. 메타는 지난 4월 새 AI 모델인 '라마 3(Llama 3)'을 공개했다. 소셜 미디어(SNS) 플랫폼용 챗봇인 메타 AI도 이날 함께 공개했는데, 지난해 9월 베타 서비스를 시작한 지 7개월 만이다. 라마 3을 기반으로 만들어진 메타 AI는 페이스북과 인스타그램 등에 내장돼 사용자 질문에 답함은 물론 이미지 생성도 가능하다. 이 같은 분위기 속에 오픈AI는 지난 5월 'GPT-4o'라는 새로운 플래그십 AI 모델을 발표해 다시 한번 세계적인 관심을 불러일으켰다. GPT-4o는 GPT-4의 개선판으로, 더 빠른 응답속도를 제공하면서 향상된 시각·청각 기능을 갖춘 모델이다. 모델명에 '모든 것(omni)'이라는 뜻으로 o를 붙였는데, 이는 사용자와의 다양한 상호작용 방식을 하나의 모델에 통합해 텍스트, 음성, 이미지, 비디오를 모두 다룰 수 있다는 것을 나타낸다. 'GPT-4o'의 이점은 '향상된 사용자 경험'으로 요약할 수 있다. 대화형 AI 모델의 응답시간은 사용자가 얼마나 자연스럽게 AI와 상호작용을 할 수 있는지를 결정짓기 때문에 사용자 경험에 있어 매우 중요한 요소다. GPT4o는 최소 응답시간 232밀리초, 평균 320밀리초 만에 답할 수 있다. 인간 간의 대화에서 평균 응답시간이 약 200~500밀리초인 점을 감안하면 굉장히 빠른 속도다. 'GPT-4o'는 AI가 말하는 중간에 사용자가 끼어들 수 있도록 설계돼 AI의 말이 끝나기를 기다릴 필요 없이 즉각 다른 요청을 하고 답변을 받을 수 있다는 점도 눈길을 끈다. 이는 자연스러운 대화를 가능하게 해 사용자의 만족도를 크게 높이는 요소로 평가된다. 또 50개가 넘는 언어를 지원하고, 사용자의 명령에 따라 음성의 톤(어조)을 변경하거나 특정한 음성으로 대화를 진행할 수도 있다. 'GPT-4o'의 등장은 대화형 AI의 새로운 시대를 여는 중요한 진전이자, 향후 다양한 분야에서 혁신적인 변화를 불러올 것이란 기대감을 키우고 있다. 이를 통해 앞으로는 국제 콘퍼런스나 다국적 기업의 회의에서 실시간 통번역을 활용하거나, AI 교사가 언제든 학생의 요청에 실시간으로 빠르게 대응해 교육 효과를 높일 수 있을 것으로 예상된다. 미라 무라티 전 오픈AI 최고기술책임자(CTO)는 "GPT-4o는 사람들과 실시간으로 상호작용하며 대화한다"며 "텍스트 외에 이미지와 동영상도 잘 분석할 수 있다"고 강조했다. 'GPT-4o' 등장…'AGI' 시대 임박 'GPT-4o'의 등장 이후 빅테크들의 기술 경쟁이 더 치열해지면서 AI의 발전 속도도 더 가팔라질 것이란 전망이 많다. AI는 이제 주어진 명령을 수행하는 데 그치지 않고 중간에 필요한 업무를 스스로 찾아내 결과물을 도출하는 'AI 에이전트'로 진화하고 있다. 그 종착점으로는 주어진 모든 상황에서 인간처럼 추론, 학습하고 문제를 해결하는 능력을 갖춘 'AGI'가 될 것으로 보고 있다. 인간의 명령 없이도 스스로 판단하고 일할 수 있다는 뜻이다. 영화 아이언맨 속 '자비스', 영화 그녀(Her) 속 '사만다' 같은 수준의 AI가 현실화되는 것도 멀지 않았다. 아직 AGI의 명확한 판별 기준이나 정의는 없다. 오픈AI에선 '인간보다 똑똑한 AI 시스템'으로 AGI를 정의하며 관련 기술 개발에 몰두하고 있다. 오픈AI 전 연구자 출신 대니얼 코코타즐로는 "오픈AI가 최초의 AGI 구축 개발자가 되기 위해 무모하게 경쟁하고 있다"고 말했다. 구글의 '아스트라'도 AGI 프로젝트다. '알파고의 아버지' 데미스 허사비스 구글 딥마인드 CEO는 'AGI 시대 도래'를 선언하며 AGI의 일부 기능을 올 연말 구글 AI '제미나이'에 담겠다고 예고한 바 있다. 허사비스는 "일상생활에 도움을 주는 AGI를 개발하고 싶었다"며 "AGI는 사람처럼 복잡하고 역동적인 세계를 이해하고 대응할 수 있어야 한다"고 강조했다. AGI는 AI의 궁극적 지향점이자 전 세계 기술 패권을 거머쥐는 핵심으로 급부상하며 글로벌 빅테크들의 '쩐의 전쟁'이 벌어지고 있다. 덕분에 최소 30년, 적어도 10년으로 꼽히던 AGI 출현 예측 시기는 최근 5년 내외로 앞당겨지는 추세다. 샘 올트먼 오픈AI 최고경영자(CEO)와 젠슨 황 엔비디아 CEO는 5년 정도 후 AGI 현실화를 내다본다. 일론 머스크 테슬라 CEO는 이르면 내년으로 봤다. 전문가들은 AGI에 대한 통제력 상실 위험에 대비해야 한다는 지적을 속속 내놓고 있다. 스티븐 호킹 박사와 일론 머스크 테슬라 CEO 등은 AGI의 출현이 인간의 생물학적 한계로 인해 인류를 대체할 수 있다고 우려했다. 지난 3월 미국 기업 글래드스톤 AI는 미 국무부 의뢰를 받아 발표한 보고서에서 "가장 발전한 AI 시스템이 최악의 경우 '인류 멸종 수준의 위협'이 될 수 있다"고 경고했다. 제프리 힌튼 캐나다 토론토대학 교수는 "AGI의 상용화가 예상보다 빠를 것"이라며 "그에 따른 위험도 크다"고 경고했다. 오픈AI 전 연구자 출신인 대니얼 코코타즐로는 "AGI가 오는 2027년께 완성될 수 있을 것으로 보인다"며 "AGI가 인류를 파괴하는 재앙이 될 확률은 70%에 달한다"고 말했다. 반면 AGI의 개발은 불가능하다고 주장하는 전문가들도 있다. 앤드류 응(Andrew Ng) 미국 스탠퍼드대학 교수가 대표적으로, AGI에 도달하려면 30~50년이나 더 걸릴 수도 있다고 주장했다. AI가 인류에게 도움이 될 것이라는 'AI 부머(boomer)'로 분류되는 얀 르쿤(Yann LeCun) 미국 뉴욕대 교수는 "인간 수준의 AI 등장 시기를 예측하는 것은 어렵고 위험도 과장됐다"고 평가했다. 인간 위협하는 AI…신뢰도는 '글쎄' AI가 이미 현실에서 인간에게 위협을 줄 만한 일들을 속속 벌이고 있다는 점에서 AGI가 나타나기 전 인간의 선한 의지와 배치되지 않는 '정렬(alignment)' 작업이 필요하다는 지적들도 있다. AGI 기술이 테러조직·해커 등의 손에 잘못 들어가게 될 경우 참사가 일어날 수도 있는 데다 AGI 자체가 인간의 통제를 벗어나 문제를 일으킬 가능성도 있다는 점에서다. 실제 오픈AI '챗GPT'는 탈옥 모드로 해킹돼 논란이 됐다. 플리니 프롬프터(Pliny the Prompter)라는 해커는 X(옛 트위터)를 통해 자신을 'AI 레드팀' 멤버라고 소개하며 오픈AI 커스텀 GPT 편집기를 사용, 새로운 GPT-4o 모델의 모든 제한을 우회하는 방법을 찾아냈다고 밝혔다. 그 결과 AI 챗봇이 욕설을 내뱉게 하고 자동차 탈취 방법을 생성하게 할 뿐 아니라 심지어 폭탄을 제조하는 방법을 안내하도록 했다. AI 환각·편향성 등도 문제다. 구글은 올해 새롭게 선보인 검색 기능 'AI 오버뷰(AI Overview)'에서 허위 답변을 제공해 망신을 톡톡히 당했다. 예컨대 '미국에 얼마나 많은 무슬림 대통령이 있었는가' 질문하자 "버락 오바마는 미국 최초의 무슬림 대통령"이라고 잘못된 답변을 내놓은 것이다. 또 '치즈가 피자에 달라붙지 않는다'라는 사용자의 말에 AI 오버뷰는 "소스에 무독성 접착제 8분의 1컵을 넣으면 된다"는 황당한 조언도 내놨다. 위험성 증가에 AI 규제안 마련 골몰…韓, AI 기본법 연내 통과 '임박' 이처럼 AI에 대한 위험성이 점차 커지면서 이를 제어하기 위해 곳곳에서 방안 마련에 나서고 있다. 유럽연합(EU)이 올해 3월 세계 최초로 포괄적인 AI 기술 규제법안인 'AI법'을 최종 승인한 배경도 이런 위험도를 낮추기 위한 수순으로 분석된다. 2026년 이후 전면 시행될 이 최종안에 따르면 EU는 AI 활용 분야에 대해 총 4단계의 위험 등급으로 구분해 차등 규제할 예정이다. 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7% 수준의 과징금이 부과될 수 있다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억 원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 영국과 캐나다도 법률, 의료 등에 AI 기본 원칙을 세워 준수하고 있다. 영구적인 안전장치가 필요하다는 주장도 있다. 에릭 슈미트 전 구글 최고경영자(CEO)는 최근 개최한 콘퍼런스에서 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 발언해 주목받았다. 이처럼 세계 각국이 AI 관련 법제화에 속도를 내고 있지만 우리나라는 예외다. AI 기본법이 지난해 2월 국회 과학기술정보방송통신위원회의 법안심사소위를 통과하고도 1년 넘게 방치되다 결국 21대 국회가 끝나면서 자동 폐기됐기 때문이다. 22대 국회에서도 연내 통과를 추진해왔지만 이달 초 윤석열 대통령의 비상계엄령 사태로 한 때 위기를 맞기도 했다. 전문가들은 미래 먹거리로 AI 산업을 육성해야 하는 우리나라의 상황에서 진흥과 규제를 아우르는 법 제도가 하루 빨리 갖춰져야 한다고 입을 모은다. 글로벌 AI 기업들과 경쟁이 심화되는 상황에서 법 제정이 늦어질수록 국내 AI 기업들의 경쟁력은 그만큼 떨어질 수밖에 없다고 보고 있다. 이에 국회는 더 이상 늦출 수 없다는데 의견을 같이하고 이달 말께 AI 기본법을 본회의에서 처리하기로 거의 합의를 봤다. AI기본법은 정부가 AI 산업 육성을 지원하고 필요한 규제를 할 수 있도록 관련 법적 근거를 담았다. 대통령 직속 '국가AI위원회'를 설치·운영하고 과학기술정보통신부는 3년마다 국가AI위원회 의결에 따른 AI 정책 방향과 전문인력 양성 등을 담은 국가 AI 전략인 'AI기본계획'을 수립해야 한다. 최형두 국민의힘 의원은 "최근 비상계엄 사태로 야기된 정치적 혼란과 과방위의 7개월간 방송 이슈 집중으로 산업계에 실망을 드려 죄송하다"며 "여야가 힘을 모아 연말 AI 기본법 통과를 목전에 두고 있듯 보다 적극적으로 산업 지원에 나서겠다"고 말했다. 조인철 더불어민주당 의원은 "본회의가 예정된 27일 AI 기본법은 통과될 것 같다"며 "만약 그날 (통과가) 안 되더라도 반드시 AI 기본법을 통과시켜 놓겠다"고 공언했다. 조준희 한국소프트웨어산업협회(KOSA) 회장은 "엄중한 상황에서도 여야 국회와 관계부처의 노력으로 AI 기본법이 연내 제정을 가시화하는 성과를 달성했다"며 "내년을 전 산업의 AI 내재화 원년으로 선포할 것"이라고 강조했다.

2024.12.20 16:54장유미

더불어민주당 조인철 의원 "AI 기본법 이달 27일쯤 통과될 것"

"오는 27일 본회의가 예정된 것으로 알고 있습니다. 그날 인공지능 기본법은 통과될 것 같습니다." 더불어민주당 조인철 의원은 19일 서울 반포 플렌티컨벤션에서 열린 '2024 KOSA 회원 송년의 밤' 행사에서 본회의 의결을 남긴 AI 기본법에 긍정적인 입장을 밝혔다. 이날 행사에서 SW 의정대상을 수상한 조 의원은 "본회의가 예정된 27일 AI 기본법은 통과될 것 같다"며 "만약 그날 (통과가) 안 되더라도 반드시 AI 기본법을 통과시켜 놓겠다"고 강조했다. AI기본법은 전 산업에 걸쳐 핵심 기술로 주목받는 AI의 건전한 발전에 기여하고 AI 사업자의 투명성과 안정성을 확보하기 위한 법안이다. 지난 17일 AI기본법에 대한 법사위 심사를 마치고 오는 27일 본회의만을 남기고 있다. 이번 AI기본법은 22대 국회에서 발의 19건의 법안을 병합한 것으로 AI 기본계획의 수립과 시행, 국가AI위원회 설치 등 산업 육성 및 진흥에 대한 내용과 딥페이크 등 기본권에 중대한 영향을 미칠 수 있는 부분에 대한 규제도 포함한다. 조 의원은 "이번에 준 상은 상값을 톡톡히 하라는 이야기 같다"며 "어려운 일이 있을때 언제든 연락주시면 최선을 다하겠다"고 수상소감을 밝혔다.

2024.12.19 18:40남혁우

정부 "AI기본법 사실조사, 행정조사기본법 규정 반영”

인공지능(AI) 기본법안의 사실조사 조항을 두고 일각에서 단순 민원으로도 조사가 이뤄진다고 주장하는 가운데, 정부는 필요 최소한의 범위 내에서만 사실조사가 가능하다고 설명했다. 과학기술정보통신부는 18일 설명자료를 통해 “법제사법위원회를 통과한 AI기본법안의 사실조사 조항은 AI기본법에만 규정된 것이 아니다”면서 “현행법 상 행정조사의 기본법인 행정조사기본법 제7조 규정을 반영한 일반적인 내용”이라고 밝혔다. 이어, “법사위는 심사 과정에서 업계의 우려를 반영해 사실조사의 내용, 방법, 절차 등에 관해 이 법에서 정하는 사항을 제외하고는 행정조사기본법에서 정하는 바에 따르도록 자구를 수정했다”고 강조했다. 과기정통부는 또 “행정조사기본법에서 규정하는 바와 같이 조사목적을 달성하는데 필요한 최소한의 범위 안에서 실시할 예정”이라며 “다른 법령에서 규정하는 바와 같이 사실조사 조건을 명확히 하기 위해서 민원인의 사적 이해관계에서 민원이 제기됐거나 익명의 탄원, 투서 등에 의해 이뤄지는 등의 경우에는 사실조사를 실시하지 않도록 하위법령에 명시할 계획”이라고 덧붙였다.

2024.12.18 09:15박수형

"AI기본법 '사실조사'는 독소조항...사업자 막대한 규제 부담"

인공지능(AI) 기본법의 조항 중 '사실조사'에 대한 업계 우려가 커진다. 법 위반에 대한 신고나 민원이 접수된 경우에도 정부가 현장조사를 할 수 있어, 과도하다는 목소리다. 조사 실시 요건 제한을 단순 민원 접수에서 위반 행위 인정으로 바꿔야 한다는 의견의 제기됐다. 17일 관련업계에 따르면 이날 국회 법제사법위원회는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)' 논의를 진행한다. AI기본법은 AI 기술의 발전과 안전한 활용을 촉진하기 위해 과학기술정통부가 마련했다. 다만 업계에서는 해당 법안의 '제40조(사실조사 등)'에 대해 우려한다. 먼저 제40조 1항에서는 해당 법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우, 법 위반에 대한 신고를 받거나 민원이 접수된 경우 과기정통부 장관이 AI 사업자에 대해 관련 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 한다고 나와있다. 2항은 과기정통부 소속 공무원에게 사업자의 사무소·사업장에 출입하여 장부·서류, 그 밖의 자료나 물건을 조사하게 할 수 있도록 규정한다고 나와 있는데, 이런 조항들이 다른 법률에 비해 지나치게 쉬운 조사 실시 요건(단순 민원)으로 정부에 과도한 규제권한을 부여해 사업자에 막대한 규제 의무를 부과시킨다는 의견이다. 업계 관계자는 "정보통신망법은 민원 접수에 따른 정부의 권한을 자료 제출로 제한하고 있지만, AI 기본법은 단순 민원 접수로도 현장 조사를 실시할 수 있게 했다. 조사권 오남용이 우려된다"고 말했다. 이어 "경쟁사의 민원이나 악성 민원에도 사실조사를 받을 수 있다는 것은 독소조항이다"라면서 "불완전한 조항에 따른 중대한 법 체계적 문제, 타법과의 형평성 문제가 발생할 수 있다"고 지적했다. 이에 업계에서는 제40조제1항제2호 삭제와 함께 피조사자의 권리 조항 추가를 통한 법 체계적 문제를 해소하는 것을 대안으로 제시했다. 업계 관계자는 "진흥법이라는 이름 아래 이 법의 위반에 대한 신고, 민원만으로 정부가 사실조사의 명분으로 사업자의 사무소, 사업장에 출입하여 장부, 서류, 그밖에 자료나 물건을 조사할 수 있다면 아마 국내 인공지능 사업을 하는 사업자는 주소지를 해외로 옮기거나 국내 영업을 안 할 우려도 있다"고 밝혔다.

2024.12.17 10:33안희정

"투자·인재·제도 열악한데 AI 3강?"…韓, 마이너리그 전락 '우려'

윤석열 대통령의 난데없는 비상계엄 선언 여파로 정국이 탄핵 국면으로 접어들면서 인공지능(AI) 분야 G3(3대 강국) 꿈도 좌절되는 분위기다. AI 기본법 통과가 차일피일 미뤄지며 제도적 기반이 원활히 이뤄지지 않은 탓에 기술도 점차 뒤처지면서 경쟁력이 말레이시아와 같은 '2군 경쟁국'에 해당한다는 분석이 나와 충격을 주고 있다. 11일 업계에 따르면 우리나라는 그간 네이버가 전 세계 세 번째로 '하이퍼클로바 X(HyperCLOVA X)'를 개발한 것을 계기로 '전 세계 AI 3대 강국'으로 도약하겠다는 야심을 드러내왔다. 하지만 투자 환경이 상당히 열악한 데다 정부, 정치권에서 기대 이하의 지원책을 내놓으면서 점차 뒤처지고 있는 분위기다. 실제로 한국지능정보사회진흥원(NIA)이 발간한 '글로벌 정부·민간 분야 AI 투자 동향 분석' 보고서에 따르면 우리나라는 지난해 기준 AI 투자를 선도하는 6개국에 이름을 올리지 못했다. 6개국은 미국·EU(유럽연합)·중국·영국·일본·캐나다로, 이 중 미국은 전 세계 국가의 AI 투자 규모에서 60%가 넘는 비중을 차지하며 압도적 1위에 올랐다. 미국은 마이크로소프트(MS)를 비롯해 오픈AI, 구글 등 생성형 AI 시장 '강자'들을 품고 있어 투자 시장에서 상당히 유리한 위치에 있는 것으로 파악됐다. 또 지난해 미국 정부의 AI 투자는 27억5천만 달러(약 3조8천87억원), 민간 투자는 846억7천만 달러(약 117조2천680억원)에 달했는데 합산 액수는 전 세계 AI 투자액의 약 62%였다. 여기에 오픈AI, 앤트로픽 등 생성형 AI 기업들에 대한 투자가 꾸준히 진행되고 있다는 점도 호재다. 미국 벤처캐피털(VC) 중 하나인 세쿼이아 캐피탈은 보고서를 통해 "아마존웹서비스(AWS), 구글, 메타, MS 등 빅테크는 지난해 오픈AI의 챗GPT와 같은 애플리케이션을 개발하기 위해 AI 인프라에 막대한 투자를 했다"며 "빅테크의 투자는 연간 6천억 달러에 달하는 반면, 수익은 아무리 높게 봐도 1천억 달러 미만"이라고 분석했다. 전 세계 AI 투자도 정부보다는 민간 중심으로 활발히 진행됐다. 지난해 기준 전 세계 정부의 투자는 91억 달러로, 전체 AI 투자에서 6%에 그쳤다. 민간 투자는 94%인 1천328억 달러에 달했다. 지난해 전 세계 정부와 민간 분야 AI 합산 투자액은 1천419억 달러로, 2015년(329억 달러) 대비 4.3배 늘었다. 중국은 정부 주도로 AI 투자가 활발히 진행됐다. 지난해 중국 정부의 AI 투자는 21억1천만 달러로, 주요 6개국 중 정부의 AI 투자 비중(19%)이 가장 높았다. 또 중국 정부와 민간(91억7천만 달러) 투자액을 합치면 112억8천만 달러인데, AI 투자가 많았던 2021년(243억 달러)과 비교하면 절반 이하로 감소한 것으로 나타났다. EU도 최근 들어 AI 투자 움직임이 다소 주춤했던 것으로 나타났다. 지난해 AI 투자 규모는 134억9천만 달러로, 2021년(217억2천만 달러)과 비교 시 62% 수준에 그쳤다. 또 전체 투자에서 정부 비중은 9%가량인 11억9천만 달러로, 3% 수준인 미국, 영국에 비해선 많았다. 영국은 압도적으로 민간 투자가 많았다. 지난해 AI 투자는 72억1천만 달러로, 이 중 97%(70억 달러)가 민간 투자였다. 일본은 2018년 이후 거의 꾸준히 30억~40억 달러 수준으로 AI에 투자 중인데, 지난해에는 34억4천만 달러를 기록했다. 캐나다는 지난해 AI 투자가 전년(92억1천만 달러)에 비해 큰 폭으로 줄어든 34억2천만 달러로 집계됐다. 한국은 주요 6개국 외 비교적 AI 투자가 많은 국가들로 이름만 올렸다. 한국 외에 인도, 사우디아라비아, 싱가포르, 이스라엘, 호주 등도 함께 언급됐다. 이들 국가의 개별 투자규모는 공개 자료의 불충분 등 이유로 소개되지 않았다. 김소미 NIA 선임연구원은 "한국의 경우 전체 국가 중 10위권 내 포함된다"며 "투자금액은 일본·캐나다 대비 조금 못 미치는 수준"이라고 설명했다. 이 같은 설명에 근거해 우리나라의 AI 투자액을 20억~30억 달러 수준으로 추정하면, 전 세계 AI 투자액의 1.5~2.0%에 불과한 것으로 예상된다. 경제협력개발기구(OECD) AI 정책관측소가 집계한 자료에선 다소 구체적인 수치가 나왔다. 지난해 생성형 AI 분야에서 한국의 글로벌 VC 투자 유치 규모는 총 7천500만 달러(약 1천40억원)로, 선두인 미국(163억900만 달러)의 217분의 1수준에 그쳤다. 우리나라의 AI 투자 유치액은 미국뿐 아니라 유럽연합(5억5천900만 달러), 중국(4억800만 달러), 이스라엘(2억9천900만 달러)과도 큰 격차를 보였다. 특히 우리나라는 빅테크들의 AI 스타트업들에 대한 투자 움직임 속에서도 열외된 분위기다. 실제 오픈AI와 앤트로픽, 미스트랄AI, 알레프 알파 등은 이미 수조 원의 투자 유치에 성공하며 업계의 주목을 받았다. 반면 한국 AI 스타트업은 조 단위는거녕 누적 투자 금액이 1천억원을 넘긴 곳이 거의 없는 것으로 알려졌다. 업스테이지(약 1천400여억원) 정도만 눈에 띈다. 업계 관계자는 "최근 기술 경쟁의 우열이 뚜렷해지면서 투자 양상 또한 소수 기업이 독점하는 방향으로 전개되고 있는 분위기"라며 "AI 기술 개발 시 막대한 투자가 필요하지만 국내 투자 환경은 이를 충분히 뒷받침할 만큼 조성돼 있지 않아 기술 개발뿐 아니라 인력 확보에도 어려움을 겪고 있다"고 밝혔다. 이 탓에 우리나라의 AI 기술 성숙도, 잠재력이 전 세계를 기준으로 '2군 경쟁국'에 해당한다는 분석 결과가 나왔다. 보스턴컨설팅그룹(BCG)이 전 세계 73개국을 분석한 'AI 성숙도 매트릭스' 보고서에 따르면, AI 선도국으로 선정된 것은 미국, 중국, 영국, 캐나다, 싱가포르 등 5개국 뿐이다. BCG는 AI 선도국, AI 경쟁국, AI 실천국, AI 도약국 등 크게 4개 그룹으로 분류했다. AI 선도국은 상위 10%, AI 도약국은 하위 10% 국가로 평가됐다. 우리나라는 2군에 해당하는 AI 경쟁국, 이 중에서도 비교적 상위에 해당하는 안정적 AI 경쟁국가로 분류됐다. 같은 그룹에는 일본, 대만, 이스라엘, 홍콩, 독일, 스페인, 프랑스, 호주, 말레이시아, 이스라엘 등이 포함됐다. BCG 보고서는 "2028년까지 전 세계에서 AI 관련 지출이 2배 이상 증가해 6천320억 달러(약 904조원)에 이를 것으로 보인다"며 "이번 보고서에 포함된 73개 국가 중 70% 이상이 AI 대비가 부족하고 생태계 참여, 기술, R&D 등에서 낮은 점수를 보이고 있다"고 지적했다. 이어 "한국의 경우 높은 수준의 AI 노출 정도와 준비도를 갖추고 있다"며 "특히 금융 서비스와 같은 부문에서 AI 기술을 성공적으로 채택하고 있다는 점에서 '안정적 AI 경쟁국가'"라고 평가했다. 하지만 한국은 R&D 및 혁신 분야에서는 AI 선도국 대비 상대적으로 부족한 것으로 분석됐다. 5개의 AI 선도국들은 강력한 R&D 혁신 생태계, 고급 인재 및 교육 시스템, 글로벌 표준 및 규제에 대한 영향력, 다양한 산업 분야에 적용된 AI 기술 등에서 강점을 가진 것으로 진단됐다. 이와 관련해 미국은 AI 컴퓨팅을 위한 필수 하드웨어 및 클라우드 기반 서비스를 전 세계에 공급하고 있다. 중국은 자율주행 플랫폼과 같은 AI 소비재 기술을 수출하며 세계 기술 공급망에서 중요한 역할을 하고 있는 것으로 평가됐다. 또 미국과 싱가포르는 AI 전문 인재 풀에서 강점을 갖고 있고, 중국은 AI 관련 기술 특허에서 선두를 달리고 있는 것으로 나타났다. 이 같은 상황에서 우리나라는 최근 윤석열 대통령의 비상계엄 사태 여파로 혼란을 맞으면서 '8부 능선'을 넘었던 AI 기본법이 통과되지 못하고 장기 표류될 위기까지 처해 난감해진 상태다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였지만 계엄령 선포 이후 제동이 걸렸다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 2027년까지 'AI 3대 강국'를 목표로 인프라 투자와 지원을 구체화하겠다는 정부의 계획도 현재 혼란해진 상황 탓에 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 정치권에서 대통령 탄핵을 우선 순위로 삼고 있어서다. 일단 우리 정부는 우리나라의 AI 기술 수준을 미국, 중국과 견줄 수 있는 수준으로 끌어올리겠다는 각오다. 이를 위해 과학기술정보통신부는 지난 10일 확정된 약 18조9천억원의 내년도 예산을 AI를 비롯한 3대 게임체인저 기술을 중심으로 투자할 예정이다. 업계 관계자는 "한국은 스스로의 실력으로 AI 혁명을 진행하고 있는 몇 안 되는 나라로 꼽히지만, AI 민간투자는 이스라엘(3위)에 비해서도 한참 떨어진 18위에 머문다"며 "AI 3대 강국이 되려면 해외 빅테크와의 확연한 체급 차이도 극복해 나가야 하는데 비상 계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 혼란스러운 데다 투자 움직임마저 소극적이어서 쉽지 않다"고 말했다.

2024.12.11 18:52장유미

계엄·탄핵 정국에 'AI기본법' 표류…韓 AI 경쟁력 저하 우려 ↑

12·3 비상계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 인공지능(AI) 기본법이 장기간 표류할 가능성이 커지면서 업계의 근심이 짙어지고 있다. 해외 빅테크가 속속 새로운 AI 기술을 선보이며 격차를 벌이고 있는 반면, 국내 기업들은 AI 관련 제도 미비로 경쟁력 강화에 속도를 내지 못하면서 점차 글로벌 시장에서 뒤처지고 있다는 위기 의식도 커지고 있다. 11일 업계에 따르면 윤 대통령 탄핵 추진 이후 여야 대립이 극심해지면서 AI 기본법의 통과 시기가 내년으로 밀릴 가능성이 높아졌다. 국회 본회의에선 당초 AI기본법 심의·의결을 지난 10일 처리하려고 했으나, 비상계엄 사태 여파로 이날 내란 혐의 규명을 위한 상설특검 수사요구안만 의결됐다. AI기본법을 비롯한 과학기술정보방송통신위원회(과방위) 안건들은 이날 상정되지도 않았다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 그간 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. 업계에선 예기치 못한 비상계엄과 탄핵정국 전환으로 여야 대립이 심화된 상황에서 정치 공방이 장기화되면 지난 회기처럼 내내 표류하다 끝날까 우려하고 있다. 또 연내 통과를 기점으로 기술력을 끌어올리기 위해 투자·채용에 나서려던 기업들도 당혹감을 감추지 못하고 있다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 업계 관계자는 "정부의 AI 관련 지원이 법 제정 없이 하기에는 현재로선 한계"라며 "기술 발전을 위해선 최소한의 틀이라도 갖춰져야 하는데 다른 현안들에 밀려 법 제정이 계속 이뤄지지 않고 있어 답답하다"고 밝혔다. 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. AI기본법 제정을 의욕적으로 추진해온 과학기술정보통신부는 정기국회 종료 이후에도 임시국회에서 올해 안에 최대한 진척이 이뤄질 수 있게 노력한다는 방침이다. 업계 관계자는 "규제 세부 내용에 대한 찬반을 떠나 규제 불확실성이 해소되는 것만으로도 기업들이 대응하기 수월할텐데 전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞게 된 것이 답답하다"며 "AI에 투자를 집중할 수 있는 법 체계를 마련해야 하는 중요한 상황에서 이 같은 일이 벌어지면서 업계 분위기가 전반적으로 다소 침체된 듯 하다"고 말했다. 또 다른 관계자는 "국가 지원이 제때 이뤄지지 않으면 결국 AI 관련 인력 유출 등의 여파로 막대한 손실이 일어날 수밖에 없을 것"이라며 "산업의 흐름이 굉장히 빠르게 바뀌는 시점에서 이런 일이 발생해 안타깝다"고 밝혔다.

2024.12.11 10:00장유미

AI 3대 강국 꿈 또 멀어지나…AI 기본법, 尹 비상계엄 '직격탄'

정보기술(IT)업계가 손꼽아 기다리던 '인공지능(AI)산업 육성 및 발전 등에 관한 법률안(AI기본법)'이 관문 두 개만 남겨 놓은 상태에서 난관에 부닥쳤다. 윤석열 대통령의 갑작스런 비상계엄 선포 여파로 입법 절차에 제동이 걸리면서 연내 제정이 좌초될 위기에 놓였다. 4일 업계에 따르면 여야는 오는 10일 국회 본회의에서 AI 기본법을 처리할 계획이었다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 당초 이 법은 4일 또는 9일 법사위에 안건이 상정될 예정이었다. 하지만 비상계엄 여파로 아직 법사위에 올라가지도 못했다. 현재로선 10일 본회의 일정도 불확실하다. 이 탓에 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 윤석열 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 야당이 윤 대통령에 대한 탄핵안을 발의한 상태이기 때문이다. 업계 관계자는 "전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞으면서 AI 기본법 연내 제정을 추진하려던 동력이 상실된 분위기"라며 "여야 간 예산안 및 탄핵 문제로 정쟁이 격화되면서 지금은 이 법안이 후순위로 밀린 상황"이라고 말했다.

2024.12.04 18:23장유미

'AI 기본법' 국회 과방위 통과...연내 제정 청신호

인공지능(AI) 기본법 제정안이 26일 국회 과학기술정보방송통신위원회를 통과했다. 22대 국회 들어 본격적인 논의를 진행, 첫 법안소위 논의에서 제정법안에 대한 공청회 논의를 준비하고 지난주 법안심사 통과에 이어 상임위를 거친 뒤 27일 법제사법위원회에서 다뤄질 예정이다. 이에 따라, AI 기본법 연내 본회의 통과가 가시화됐다. 과방위는 이날 전체회의를 열어 '인공지능 발전과 신뢰기반 조성 등에 관한 기본법안'을 의결했다. 이 법안은 관련 절차를 거쳐 법사위 상정을 앞두게 됐다. AI 도입 활용 지원...AI 신뢰 확보 AI기본법은 총 19건의 발의법안을 통합 조정한 것으로 주요 골자는 AI 기술과 산업 진흥을 지원해 AI의 건전한 발전에 기여하고, AI 사업자의 투명성과 안정성을 확보해 신뢰 기반을 규정하고 있다. 이를 통해 국민 삶의 질을 높이고 국가 경쟁력을 강화하겠다는 취지다. 구체적으로 국가AI위원회 구성 운영에 대한 법적 근거를 담아 AI 기술을 도입하고 활용하는 데 지원한다. 또 AI직접다지를 지정하고 AI 데이터센터 생태계 구축을 추진하는 동시에 과학기술정보통신부 장관이 사실조사 진행과 시정명령 부과를 이행할 수 있도록 했다. 최근 딥페이크 논란을 반영해 생성형 AI 결과물에 대한 워터마크 등의 표시를 하게 하고 고영향 AI 규율 및 AI 영향평가 조항을 담았다. 고영향 AI와 AI 영향평가는 더불어민주당 이훈기 의원과 조국혁신당 이해민 의원의 발의안에서 따온 개념으로 고위험 영역 AI로 규율하고자 한 것을 이용자 중심 시각의 표현으로 고영향 개념을 도입하고 국민 기본권에 미치는 영향을 살피자는 것이다. 이해민 의원은 “AI 를 '위험한 것'으로 미리 단정 짓지 않고, 사회에 '영향을 미치는 것'으로 바라보면서 그 영향력을 현명하게 관리하자는 취지로 '위험' 대신 '영향'이라는 단어를 제안했다”고 밝혔다. 이훈기 의원은 “급속한 AI 발전에 대한 막연한 기대와 두려움 가운데 AI 발전과 안전성 확보를 위한 기본 법제가 절실했다”며 “다양한 관련 법률안 중 AI가 우리 국민의 기본권에 미치는 영향평가를 포함하는 제정법을 만든 만큼 의미가 남다르다”고 설명했다. EU 이어 전세계 두 번째 AI 법제화 정부는 최우선 과제로 추진한 AI 기본법 제정이 국회 상임위 문턱을 넘어선 데 감사를 표했다. 유상임 과기정통부 장관은 “AI 기본법 제정안 (상임위) 의결로 AI 발전과 신뢰 기반 조성을 위한 제도적인 틀이 갖춰졌다”며 “글로벌 패권 경쟁이 활발한데, 유럽연합(EU)에 이어 전 세계에서 두 번째로 법률을 마련해 글로벌 G3 강국으로 나설 수 있는 기틀을 마련하게 됐다”고 말했다. 과방위는 AI기본법 제정안 마련에 그치지 않고 예산 지원과 함께 후속 법제화를 고민하겠다는 뜻을 밝혔다. 과방위 예결소위원장을 맡고 있는 민주당 정동영 의원은 “우리의 자본은 미국처럼 단기간에 민간에서 막대한 투자가 이뤄질 수 있는 환경이 아니기 때문에 선도적인 인프라 투자가 필요하다”며 “일본, 프랑스, 캐나다에 이어 중동 국가까지 정부가 나서 인프라 투자에 나서는 것도 그같은 이유”라고 운을 뗐다. 이어, “AI 예산을 1조 증액하겠다고 밝힌 것은 정부가 앞서 편성한 수준으로는 AI 주도권을 확보하기에 턱없이 부족하다는 평가 때문이었다”며 “AI를 세계에서 가장 잘 쓰는 나라를 목표로 AI 인프라에 투자해 G3 국가로 만드는 데 정부가 총력을 기울이길 바란다”고 당부했다. 이해민 의원은 “기본법은 그릇을 만드는 법안이라 생각하기 때문에 어떤 부분에서 명확하지 않은 영역이 존재하는 것이 사실이다”며 “앞으로 규제를 담당하게 될 과기정통부는 규제 범위가 어떤 식으로 이뤄지는지, 어떤 문제가 있는지 철저히 검토해 지속적으로 법의 완결성을 더해갈 수 있도록 신경써야 한다”고 주문했다. 최민희 과방위원장은 “과방위에서 기본법을 통과시키면 다른 상임위에서 AI 관련 후속법안이 잇따를 것”이라며 “AI 기본법이 시행되는 과정을 지켜보면서 시민사회와 학계가 걱정하는 인간 생명 전반과 인권 침해 요소 등을 국회가 정부와 상황을 지켜보면서 후속 입법과 개정안을 준비하겠다”고 밝혔다. 그러면서 “100% 안전한 법안이 아닌 것을 알고 있지만 경제의 혁신을 위해 기본법 통과에 뜻을 모았다”고 덧붙였다.

2024.11.26 11:47박수형

염재호 국가AI위원회 부위원장 "AI기본법 제정 시급"

염재호 국가AI위원회 부위원장이 AI기본법 제정의 시급함을 강조하고 나섰다. 염 부위원장은 한국법제연구원(원장 한영수)이 25일 그랜드인터컨티넨탈서울에서 개최한 제63회 입법정책포럼에서 'AI 시대 문명사의 대전환'을 주제로 초청 강연했다. 이 자리에서 염 부위원장은 AI 발전이 기술이나 산업의 변화를 넘어 정치적, 사회적, 경제적, 법적, 문화적 질서를 근본적으로 재구성하는 중요한 전환점에 있다는 점을 설명하며, 이를 뒷받침하기 위한 AI기본법 제정의 시급함을 강조했다. 염 부위원장은 또 "AI위원회가 과기정통부서 시작했지만, 갈수록 중요해지며 대통령이 위원장을 맡게 됐다"며 이어 ▲AI 시대의 대학 교육 ▲전 세계 AI 관련 법 동향과 함께 정부에서 발표한 디지털권리장전의 주요 내용과 국가AI위원회 전략, 정책 방향에 대해 설명했다. 염 부위원장은 제19대 고려대 총장을 지냈다. 2023년 9월 개교한 태재대학교 초대 총장을 맡고 있다. 이전에는 국가과학기술위원회 위원, 과학재단 이사 등을 역임했다. 한영수 한국법제연구원장은 “AI의 혁신성을 최대화하면서 안전성은 최소화하고, 모든 인류가 AI 기술로부터 소외되지 않도록 입법이 이루어져야 한다”고 전했다. 한편, 한국법제연구원은 다양한 분야의 전문가를 초청, 입법성과를 공유하고 새로운 입법과제를 발굴하는 입법정책포럼을 지속 개최하고 있다.

2024.11.25 18:01박희범

Prev 1 2 Next