[기고] AI 생태계 속 규제 패러다임의 변화…'AI 거버넌스'

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 미국은 지난 2022년 10월 국가 안보 우려를 이유로 특정 성능 이상의 인공지능 및 슈퍼컴퓨터용 반도체 등의 대중 수출을 금지했다. 이후 지난해 10월에는 기존보다 사양이 낮은 인공지능(AI) 반도체 칩의 수출을 금지시켰다. 최근에는 엔비디아와 AMD의 중동 국가에 대한 최신 AI 칩의 대규모 판매 라이선스 발급을 늦추고 있다는 소식도 전해지고 있다. 올해 7월에는 프랑스 규제 당국이 AI 칩 선두 주자인 엔비디아를 반독점법 위반으로 제재할 예정이라는 보도가 나왔다. 이는 브루노 르메르 프랑스 재무장관이 "엔비디아의 지배력이 국가 간 '불평등 증가'를 야기하고 공정한 경쟁을 옥죄고 있다"는 발언을 한 이후 8개월만이다. 프랑스 외에도 미국과 유럽연합(EU), 중국, 영국 등도 엔비디아의 반독점 위반 여부에 대해 검토 중이라고 한다. '생성형 AI 경쟁이 국가 대항전처럼 흘러간다'는 이야기가 실로 와닿는 국제정세가 아닐 수 없다. 일본 총무성이 지난해 11월 네이버 클라우드에 저장된 라인야후 이용자의 개인정보 유출 사태와 관련해 라인야후에 네이버의 자본 관계 재검토를 요구한 것도 이러한 맥락에서 이해할 수 있다. 그러나 더이상 '데이터 보호주의' 또는 '우리나라 기업 강탈'이라고 분노만 할 것이 아니라 AI 국가 대항전에서 밀려나지 않기 위해 우리가 갖추어야 할 경쟁력이 무엇인지 반면교사로 삼아야 할 시점이다. 디지털화는 빅데이터 시대를 열었다. 데이터가 폭발적으로 증가하고 데이터의 원천도 내부에서 외부로 확대됐다. 또 다양한 원천으로부터 데이터를 수집해 통합, 분석해 업무에 주고받는 데이터의 활용 능력을 내재화하는 것은 근본 경쟁력이 됐다. 이는 국제적인 전략 경쟁에서 핵심 기술로 떠오르는 AI의 개발과 성과로 직결된다. 데이터의 속성상 잘 주고받는 것도 중요하지만, 잘 지키는 것도 주요한 화두가 되다 보니 개인정보와 같은 데이터 보호 규제는 점점 강화되고 있다. 이에 따라 잘 지키는 데이터 컴플라이언스를 준수하면서도 외부와도 데이터를 활발히 주고받을 수 있으려면 데이터 거버넌스를 정립하는 것이 필수가 됐다. 또 데이터는 AI 거버넌스의 핵심일 수 밖에 없다. 거버넌스의 의미에 관해 구체적으로 합의된 정의는 없으나, 'AI 거버넌스'는 AI와 관련된 목표를 달성하기 위해 조직을 지도, 통제하고 책임을 묻는 시스템을 의미한다. 동시에 AI의 개발, 활용으로 발생하는 위험들을 다루기 위해 필요한 일정한 제도적 접근방식을 말하는 것으로 이해하면 크게 틀리지 않을 것이다. 생성형 AI의 능력이 빠르게 향상되고 있고 AI의 활용 영역이 확장됨에 따라 우리가 예상하지 못하거나 미처 들여다보지 못하는 영역에서 발생할 문제점이나 위험성에 대해 걱정하는 목소리는 최근 높아지고 있다. 이러한 문제를 다루기 위해서는 일정한 제도적 접근방식 필요하고 AI 거버넌스를 구축해야 한다는 점에 대해선 어느 정도 합의가 이루어진 것 같다. 이에 따라 AI 거버넌스의 모범이 되기 위한 법을 만들기 위한 노력도 많아졌다. 올해 5월 21일에는 AI에 관한 세계 최초의 포괄적인 법인 EU 인공지능법(the Artificial Intelligence Act)이 EU 이사회에 의해 최종 승인돼 공포만 남겨두고 있다. 미국에서는 규제보다 진흥에 힘을 실은 인공지능 관련 법안이 연간 200개씩이나 발의되는 상황이라고 한다. AI 거버넌스와 관련해 얼마나 정교하게 제도적 접근을 할 것인지가 현안이라면 그 규제의 수준이 중요할 것이고, 핵심은 결국 리스크 관리로 가게 될 것이다. 리스크 관리 체계를 잘 만들어서 그 역량을 강화하는 게 주요국이 지향하는 바인 것 같다. 우리나라 역시 AI 관련 법안 발의가 증가하는 추세다. 기술 경쟁력뿐 아니라 제도 경쟁력의 동반성장이 중요한 만큼 우리나라도 AI 거버넌스를 구축함으로써 글로벌 AI 거버넌스의 대화에서 주도권을 빼앗겨서는 안 될 것이다. 이처럼 각국 및 유관 기관들은 AI의 리스크를 관리하기 위한 방법론들을 만들어내고 있고 상호 정합성을 가지는 방안을 모색하고 있다. 이들은 AI 산업 생태계의 구성원들에게 전 세계적으로 구축되는 AI 거버넌스 속에서 스스로 규율할 수 있는 내부통제 시스템을 갖추도록 요구할 것이다. 전 세계를 무대로 활동하는 우리 기업들은 AI 시스템을 설계하고 개발하고 이용하고 테스트하고 사용하는 조직 내에서 리스크 관리 문화를 만들어야 한다. 이를 구현하는 AI 거버넌스를 구축하는데도 주저하지 말아야 할 것이다.