ZDNet 검색 페이지

'AI 거버넌스'통합검색 결과 입니다. (31건)

[美 대선 속 AI-하] 美 대선, 국내 AI에 미칠 영향과 대응 방안은

미국 대선이 3개월 남짓 남았습니다. 공화당 대통령 후보 도널드 트럼프와 민주당 후보 카멀라 해리스는 정치색 만큼이나 인공지능(AI) 정책도 제각각입니다. 당선 결과에 따라 전 세계 AI 발전과 거버넌스에 미칠 파장이 큰 이유입니다. [美 대선 속 AI]은 두 후보 AI 정책에 어떤 차이점과 공통점이 있는지, 이에 따라 한국 등 아시아·태평양 국가들은 AI 사업·법제화 전략을 어떻게 마련해야 하는지 등에 대해 총 2편에 걸쳐 보도하겠습니다. [편집자주] 오는 11월 미국 대선 결과가 글로벌 인공지능(AI) 생태계에 큰 영향을 미칠 것으로 예상됨에 따라 국내에서도 이에 대비한 대응 전략 마련의 필요성이 커지고 있다. AI 초강대국이자 빅테크 중심지인 미국의 AI 정책 변화는 한국 등 아시아-태평양 국가의 AI 거버넌스와 산업에도 중대한 영향을 미치기 때문이다. 31일 업계 전문가들은 해리스 후보가 AI 다자주의와 국제협력을 촉진할 수 있지만 동시에 미국 AI 산업에 대한 규제를 강화할 것으로 분석했다. 이렇게 된다면 미국과 협력하거나 진출한 국내 AI 기업들도 큰 영향을 받을 수밖에 없다. 트럼프 후보는 AI 분야에서 '미국 우선주의'를 외치며 시장·거버넌스 분야의 주도권을 쥐기 위한 노골적인 행보를 보일 것이라고 전문가들은 예측했다. 특히 AI를 전략자원화 한다면 한국의 AI 정책에도 전면 재검토가 필요하다고 지적했다. 어느 후보가 대통령이 돼도 국내 AI 분야에는 큰 도전이 주어질 것으로 보인다. 이에 산업계·학계에서는 이에 맞춘 대처 방안을 마련해야 한다고 입을 모았다. 국내 기업의 AI 기술 역량을 강화하고 소프트파워를 갖춰야 한다는 것이 전문가들의 진단이다. 해리스, 규제 강화로 韓 AI 시장 '위협'…글로벌 거버넌스에는 '기회' 해리스 후보의 당선은 국내 테크 기업들에 부정적 영향을 줄 수 있다고 전문가들은 전망했다. AI 안전성 강조로 인한 규제 강화와 미국 주도 AI 표준화가 기업들에 부담을 줄 수 있기 때문이다. 현재 해리스 후보의 공식적인 AI 정책은 발표되지 않았다. 이에 전문가들은 두가지 시나리오를 제시했다. 먼저 해리스 후보가 바이든 행정부의 기조를 이어받아 현재 수준의 규제를 유지하는 것이다. 일각에서는 해리스 후보가 AI 규제를 강조해왔지만 동시에 실리콘 밸리 유력 벤처투자자들의 지원을 받고 있다는 점을 지적했다. 이에 현재의 AI 정책을 근본적으로 수정하지는 않을 것이라고 예측했다. 다른 하나는 AI 안전성과 윤리적 사용을 위한 규제를 보다 강화하는 것이다. 규제가 강화되면 미국에 진출했거나 미국 기업과 협력하는 국내 AI 기업들도 큰 타격을 입을 수 밖에 없다고 전문가들은 진단했다. 규제 변화에 맞추기 위해 추가적인 비용을 지출할 수밖에 없기 때문이다. 하정우 네이버 AI 센터장은 "해리스 후보가 AI 안전 규제 가이드라인을 설정하고 이를 준수하도록 압박할 가능성이 있다"며 "해리스에 의해 미국 주도의 표준화가 이뤄진다면 국내 기업들도 미국이 설정한 규칙에 따라야 할 수 있다"고 예상했다. 해리스 후보 당선이 한국 AI 거버넌스에 있어서는 기회를 창출할 수도 있다는 전문가 견해도 나왔다. 해리스 후보가 국제협력과 다자주의를 중시하는 경향을 보이기 때문에 한국도 글로벌 AI 규범 설정에 보다 깊이 관여할 수 있다고 진단했다. 한 국내 AI 기업 거버넌스 관계자는 "현재 미국은 우방국 중심으로 글로벌 AI 규범을 수립하려는 접근법을 취하고 있다"며 "대서양 우방국인 영국이 '블레츨리 선언'을 통해 글로벌 AI 규범을 수립하려는 움직임을 보인 것처럼 아태지역에서는 일본의 'G7 히로시마 프로세스'가 대표적 사례"라고 말했다. 한국도 미국의 우방으로서 일본의 전례를 따른 바 있다. 지난해 일본에서 개최된 'G7 히로시마 프로세스'에 이어 올해 5월에는 국내에서 '서울 AI 정상회의'가 개최됐기 때문이다. 또 오는 9월에는 군사 AI에 대한 규제안을 다루는 '리에임(REAIM)' 국제 회의가 외교부와 국방부 주관으로 열릴 예정이다. 국내 AI 기업 거버넌스 관계자는 "해리스 후보 당선 시에는 한국이 이러한 국제 이니셔티브들에 지금보다 많이 참여할 수 있을 것으로 보인다"고 전망했다. '미국 우선주의' 트럼프, 韓 기업·거버넌스에 전면적 부담 전문가들은 트럼프 전 대통령이 재선에 성공하면 글로벌 AI 거버넌스에 큰 변화가 있을 것으로 예상했다. 트럼프 후보는 재임 기간 동안 동맹국 및 국제기구와의 관계를 무시하고 미국의 이익을 최우선으로 하는 외교 전략을 펼쳤기 때문이다. 국내 AI 거버넌스 관계자는 "트럼프가 재선된다면 미국이 자국 규범만을 전면적으로 강요할 가능성이 크다"며 "이에 글로벌 다자주의적 AI 규범이 사라져 아태지역 전반과 국내에도 큰 영향을 미칠 수 있다"고 예측했다. 시장 측면에서도 트럼프 후보의 당선은 국내 테크기업들에 부담을 줄 가능성이 크다. 이미 그는 재임 중 '미국 우선주의(America First)'를 강조하며 기존 무역협상의 재협상을 한국과 동맹국들에 강력히 요구했다. 트럼프 재임기에는 AI가 주요 화두가 아니었기에 이와 관련된 외국과의 마찰이 상대적으로 적었다. 이와 반대로 현재 그의 공식 씽크탱크는 AI를 전략자원화하고 타국을 배제하는 계획인 'AI 맨해튼 프로젝트' 전략을 주장하고 있다. 또 트럼프 캠프의 부통령 후보인 JD 밴스는 미국이 다른 나라를 앞서 AI 개발을 가속화할 필요성을 여러 차례 강조했다. 하 센터장은 이러한 트럼프 진영의 행보에 대해 "미국이 AI를 전략기술로 묶어 최첨단 AI 기술의 교류를 제한할 우려가 있다"며 "이러면 북미 시장에서 우리의 AI 관련 비즈니스 기회가 제한될 수 있다"고 예측했다. 또 전문가들은 트럼프 후보의 노골적인 대중국 견제가 아태지역의 반도체 공급망에도 심각한 불안정성을 초래할 수 있다고 진단했다. 업계 관계자는 "바이든 정부 들어 미국이 중국에 가하고 있는 반도체 규제가 트럼프가 당선 시 더욱 강화될 가능성이 크다"며 "그렇게 된다면 중국, 미국과 반도체 분야에서 긴밀히 연계된 한국은 직격탄을 맞을 것"이라고 분석했다. 누가 당선돼도 도전과제 발생…韓, 경쟁력 강화·소프트 파워 역량 필수 전문가들은 해리스, 트럼프 후보 중 누가 당선돼도 국내에 많은 도전과제가 발생할 것으로 내다봤다. 이는 해리스, 트럼프 후보 모두가 궁극적으로 미국 대통령이라는 점 때문이다. 해리스가 국제협력과 다자주의를 강조해도 그의 최종적인 우선순위는 미국의 국익이다. 더 나아가 트럼프는 '미국 우선주의'를 강력히 고수하는 인물이다. 전문가들은 이에 대한 대처 방안으로 국내 기업의 자체 경쟁력 강화를 강조했다. 하 센터장은 "두 후보 모두 쉽지 않은 상황을 초래할 수 있기 때문에 자체적인 기술 역량을 키워야 한다"며 "AI 분야에 자체적인 필살기를 마련해 둬 미국에게 매력적인 AI 동맹으로 인식돼야 한다"고 밝혔다. 거버넌스 측면에서도 마찬가지다. 한국은 현재 정부 주도로 'AI 서울 정상회의' 등 영미권이 주도하는 다자협력에 참가하고 있다. 이와 반대로 AI 중진국 및 개발도상국과의 협력에는 상대적으로 소홀한 측면이 있었다. 이들과의 협력이 제3의 선택지로 기능할 수 있음을 전문가들은 지적했다. 현재 미국과 중국이 서로 치열하게 경쟁하는 상황에서 제3국들이 양자택일에 부담을 느끼고 있기 때문이다. 실제로 UAE 등 중동 국가들은 지난해 미국의 압박으로 중국과의 AI 사업기회를 포기 한 바 있다. 이런 가운데 한국은 매력적인 대안이 될 수 있다. 이에 하 센터장은 "현재 우리는 미국, 영국, 캐나다 중심의 AI 안전 동맹체제 위주로 편승해 왔다"며 "상황을 보면서 동시에 동남아시아나 중동 국가들과도 협력해 '소버린 AI' 기회를 모색할 지에 대해서도 고민해야 한다"고 강조했다. 전문가들은 미국과 중국이라는 두 AI 초강대국 사이에 낀 한국이 세계적인 패권을 장악할 절대적 역량을 갖추지 못한 점을 아쉬워했다. 그러면서 이를 극복하기 위해 '소프트파워'가 필요하다고 지적했다. 세계인들에게 나라의 매력을 전파해 설득에 성공한 것처럼 AI 분야에서도 마찬가지의 노력이 필요하다는 것이다. 임용 서울대학교 법학전문대학원 부교수 겸 서울대 AI정책 이니셔티브(SAPI) 디렉터는 "K-드라마가 성공한 것처럼 매력을 통해 세계를 이끌 수 있다"며 "이러한 설득력을 갖추기 위해선 정부, 학계, 산업 등 다양한 차원에서 AI와 관련된 관계를 구축해 우리 메시지를 전달해야 한다"고 강조했다.

2024.08.31 06:00조이환

[美 대선 속 AI-상] 해리스·트럼프 상반된 AI 정책…공통점도 있다?

미국 대선이 약 3개월 남았습니다. 공화당 대통령 후보 도널드 트럼프와 민주당 후보 카멀라 해리스는 정치색 만큼이나 인공지능(AI) 정책도 제각각입니다. 당선 결과에 따라 전 세계 AI 발전과 거버넌스에 미칠 파장이 큰 이유입니다. [美 대선 속 AI]은 두 후보 AI 정책에 어떤 차이점과 공통점이 있는지, 이에 따라 한국 등 아시아·태평양 국가들은 AI 사업·법제화 전략을 어떻게 마련해야 하는지 등에 대해 총 2편에 걸쳐 보도하겠습니다. [편집자주] 카멀라 해리스 미국 부통령과 도널드 트럼프 전 대통령이 각각 민주당과 공화당 대선 후보로 나선 가운데 전 세계가 이들의 인공지능(AI) 정책에 주목하고 있다. 그동안 두 후보가 상반된 AI 정책을 펼칠 것이란 예측이 나왔지만 의외로 공통점도 있는 것으로 나타났다. 15일 CNBC 등 외신 매체들에 따르면 카멀라 해리스 부통령은 지난 5일 민주당 대통령 선거 후보로 공식 확정됐다. 이에 따라 해리스 후보는 도널드 트럼프 공화당 후보와 오는 11월 대선에서 맞붙게 된다. 이에 전 세계 정부와 기업은 해리스·트럼프 후보의 AI 정책에 주목하며 대응책을 준비하고 있다. 미국 테크 업계에서는 해리스 부통령을 지지하는 100명 넘는 인사들이 '카멀라를 위한 벤처 캐피털리스트'를 결성했다. 이와 동시에 일론 머스크, 피터 틸 등 유명 기업가들도 트럼프 후보에 대한 지지를 공식 천명했다. 정계에서는 최근 AI사무소를 설립한 유럽연합(EU)이 트럼프 후보 당선에 대비해 전담 대응팀을 구성한 것으로 알려졌다. 전문가들은 이번 선거 결과가 향후 4년간 전 세계 AI 발전과 거버넌스에 큰 영향을 미칠 것으로 예측하고 있다. AI 기술이 어느 때보다 빠르게 발전 중인 현재 미국이 이 분야에서 세계 선두를 달리고 있다는 이유에서다. 해리스, AI 안전·혁신 조화 강조…트럼프, 미국 우선 대규모 투자 구상 전문가들은 해리스 후보가 대통령으로 당선될 경우 규제·개발 간 균형을 맞춰 AI 정책을 추진할 것으로 봤다. 트럼프 후보의 경우 기존 성향에 따라 '미국 우선주의'를 강하게 내세우고 규제를 완화하는 동시에 국가 주도의 AI 계획을 추진할 것으로 내다봤다. 특히 해리스 후보는 조 바이든 대통령과 비슷한 기조를 이어가며 AI 개발과 규제를 병행할 것이란 전망이 나왔다. 실제 해리스 후보는 지난 10월 바이든 행정부가 추진한 'AI 행정명령'의 핵심 책임자 역할을 맡았다. 이를 통해 AI 안전과 보안을 강화하고 혁신을 촉진하는 사업을 주도한 바 있다. 여러 측면에서 볼 때 해리스 후보는 AI 발전을 노동자 권리·교육·프라이버시·국제 협력 등의 가치와 접목시킬 것으로 보인다. 캘리포니아 주 검사 재직 시절 프라이버시와 데이터 관련 법안을 주도한 경험도 해당 예측을 뒷받침한다. 아기스 파파게오르기우 그리스 총리실 외교분석관 겸 영국 런던정경대 국제관계사 강사는 "해리스 후보는 기술 혁명을 최대한 활용하면서도 시민 복지를 저해하지 않을 법 제도 구축의 필요성을 잘 이해하고 있다"며 "그리스 정부 소속으로서가 아니라 개인적으로 봤을 때 해리스 후보는 AI의 안전한 개발과 사용을 우선시할 것"이라고 기자와의 통화에서 밝혔다. 트럼프 행정부의 AI 정책과 관련해 전문가들은 '미국 우선주의(America First)'를 중심으로 전개될 것이라고 입을 모았다. 알렉스 토 싱가포르 기술전문변호사 겸 정책 컨설턴트는 "트럼프 당선 시 공식 로드맵이 아닌 성향에 따른 '톱다운' 의사결정이 AI 정책에도 적용될 가능성이 크다"며 "이에 예측이 힘들고 본인의 개인적 성향이 강하게 반영될 것"이라고 분석했다. 이 분석은 트럼프 전 대통령이 재임 기간 동안 일관적으로 보인 미국 이익에 대한 강한 집착이 그대로 이어질 수 있음을 시사한다. 이에 따라 자국 AI 성장을 위해 기업 규제가 완화할 가능성이 크다. 또 AI 산업 성장을 위해 국가 주도로 대규모 투자를 시행하는 결과가 발생할 수 있다. 실제로 트럼프 대통령은 AI와 반도체 등 첨단 산업 분야에서 규제의 빗장을 완전히 풀겠다고 호언장담한 바 있다. 이러한 접근법은 규제가 혁신을 저해할 수 있다는 우려에서 비롯된 것이다. 또 트럼프 후보가 부통령 후보로 지명한 제임스 데이비드 밴스 상원의원 역시 지난 7월 상원 청문회에서 AI 규제보다 개발을 우선시해야 한다고 강조한 바 있다. 일각에서는 일론 머스크, 피터 틸 등의 공화당 지지가 이러한 행보와 맞물려 있는 것으로 분석한다. 자국 AI 우선 발전을 위한 국가 주도의 거대 프로젝트가 추진될 것이란 전망도 나왔다. 미 워싱턴포스트(WP)가 입수한 공화당 선거 캠프 내부문서에 따르면 트럼프 후보의 씽크탱크 아메리카 퍼스트 정책 연구소는 'AI 맨해튼 프로젝트' 시행을 검토한 바 있다. AI 맨해튼 프로젝트는 국가가 AI를 주요 전략 자원으로 설정하고 이 산업에 대규모 투자를 실시하려는 계획이다. 이를 통해 자국 AI 성장을 지원하고, 국외 AI 개입을 차단하겠다는 의도다. 해당 계획이 시행될 경우 미 국방부, CIA 등과 협력하는 팔란티어·안두릴 등의 미국 테크 기업들이 거대한 수혜를 볼 것으로 예측된다. 파파게오르기우 분석관은 "트럼프 후보는 AI 개발·사용에 있어 미국이 세계의 '등대' 역할을 하는 것을 바란다"며 "AI의 군사적 사용에 있어서도 윤리적 경계를 넘을 가능성이 있다"고 밝혔다. 미중 경쟁 우위·기업 주도 AI 성장에선 '초당파적' 행보 전문가들은 두 대선 후보의 정책과 성향이 매우 상이하지만 유사성도 있다고 입을 모았다. 미·중 AI 경쟁에서 우위를 점하기 위한 방향성과 기업친화적 행보가 대표적이다. 토 변호사는 "양자 대결 구도가 흑백논리처럼 굳어져 있지만 이는 단면만 보는 것"이라며 "해리스 부통령도 트럼프 전 대통령이 강조하는 안보와 자유를 간과하지는 않을 것"이라고 짚었다. 또 그는 "트럼프 후보도 해리스 후보가 집중하는 프라이버시, 노동권, 교육 등의 인간적 가치를 완전히 부정하지 않는다"고 강조했다. 두 후보 모두 중국과의 AI 경쟁에서 우위를 점하기 위한 견제책을 유지할 것으로 예측된다. 앞서 바이든 정부는 중국 견제를 위해 반도체 수출 규제를 최초 시행한 바 있다. 당시 바이든 대통령은 AI 기술 발전에 활용할 반도체 생산·제작 통로를 차단함으로써 기술 경쟁서 중국을 이기기 위한 목적이었다. 일각에선 해당 제한 조치가 두 후보 중 누가 당선돼도 유지될 것으로 봤다. 해리스 후보는 바이든 대통령 기조를 잇고, 트럼프 후보는 중국 견제와 미국 우선주의를 유지해야 하기 때문이다. 양당 후보는 AI 기술 발전이 정치 권력이 아닌 기업에서 나온다는 점에 동의하고 있다. 누가 대통령으로 당선돼도 AI 성장을 위해 어느 정도 기업친화적 전략을 취할 가능성이 높다. 이에 해리스 후보가 AI 안전과 규제를 중요시 여긴다고 하지만, 이를 정책으로 실현할 가능성이 낮다는 예측이 나오고 있다. 현재 마크 큐반 등 실리콘 밸리 유력 인사들이 해리스 후보의 스폰서다. AI 생태계 특성상 스타트업 역할이 크다는 점도 이유다. 오픈AI와 구글, 마이크로소프트 등 빅테크가 기술 혁신을 상당히 이뤘지만, 주요 스타트업도 지대한 역할을 한다. 현재 미국 스타트업은 빅테크와 손잡고 텐서플로우(TenserFlow)나 파이토치(PyTorch) 등의 라이브러리를 활용해 AI 연구를 오픈소스화 해 영향력을 행사하고 있다. 그동안 해리스 후보는 바이든 대통령과 중소·스타트업을 위한 진흥 정책을 펼쳐 왔다. 공화당 부통령 후보로 나선 트럼프 러닝메이트 JD 벤스도 스타트업에 대한 전폭적 지원을 약속했다. 이에 두 후보 모두 빅테크뿐 아니라 중소·스타트업에 친화적 행보를 보일 전망이다. 파파게오르기우 분석관은 "특정 대통령의 정책이 AI의 상업적 사용과 국제 협력을 보다 촉진할 수는 있겠지만 그 뿐"이라며 "AI 혁신은 대기업, 전문 스타트업, 소규모 회사 간의 협력을 통해 가능하지 법과 제도만으로 이루어지는 것은 아니다"라고 강조했다.

2024.08.15 15:00조이환

임용 서울대 교수 "글로벌 AI 거버넌스, 한국이 이끌어야"

"우리 AI 기술은 세계에서 얼마 안되는 거대언어모델(LLM)을 자체 생산하는데서 볼 수 있듯 경험과 기반이 갖춰진 상태입니다. 거버넌스 분야에서의 글로벌 논의 역시 대한민국이 주도하도록 성심성의껏 지원하는 것이 제 목표입니다." 서울대학교 법학전문대학원 임용 교수는 지난 12일부터 이틀간 개최된 '서울 AI 정책 컨퍼런스 2024(Seoul AI Policy Conference)'에 참가한 후 기자와 만나 이같은 포부를 밝혔다. 그는 행사를 주최한 서울대 AI 정책 이니셔티브(SAPI) 총책임자로, 지난 20년간 변호사·로스쿨 교수로서 활동하며 국제 AI 거버넌스 이슈들을 연구해왔다. SAPI가 서울대학교 인공지능신뢰성 연구센터(CTAI)와 함께 주최한 이번 행사에는 60명이 넘는 연사가 참여했다. 이 중 3분의 2는 해외 전문가들이었다. 특히 제이슨 권 오픈AI 최고전략임원과 세계적 법학자인 크리스토퍼 유 펜실베이니아대학교(유펜) 교수가 참석해 관심을 모았다. 14일 업계에 따르면 국내에서 주도한 AI 국제 협력은 이번이 처음은 아니다. 이해진 네이버 대표가 지난 7월 젠슨 황 엔비디아 대표와 함께 AI 발전을 논의하는 등 글로벌 기술 혁신을 주도해왔다. 지난 5월에는 과학기술정보통신부가 영국 정부와 함께 서울 AI 정상회의를 주최하는 등 거버넌스 분야에서도 발전이 있었다. 그럼에도 이번 행사가 특별히 주목받는 이유는 민간·학계가 주도해 AI 거버넌스 논의를 총망라했다는 점이다. AI 기술이 국경을 초월하는 이슈인만큼 글로벌 정합성을 고려한 연사 구성과 주제 선정이 이뤄졌다. 특히 기존에 자주 다뤄진 AI 인권과 거버넌스뿐만 아니라 표준화·경쟁·저작권·프라이버시·가짜 정보 등 다양한 주제가 논의됐다. 임 교수는 "포괄적인 논의를 위해 하루 짜리로 계획했던 행사를 이틀로 늘렸다"며 "우선순위 때문에 다루지 못한 주제도 있다"고 말했다. 반응은 뜨거웠다. 이틀 내내 청중들이 자리를 가득 메웠고 예측한 인원보다 참가자가 많아 행사장 밖에도 원격 텔레비전과 자리가 마련됐다. 임 교수는 "국내 AI 규제와 거버넌스가 니치(Niche) 분야임에도 불구하고 자발적으로 참석한 외국인 청중들이 많았다"며 "서울 정상회의가 추구한 논의를 학계가 이은 이번 행사를 통해 한국이 기술뿐만 아니라 거버넌스도 주도하길 바란다"고 강조했다. '서울 AI 정책 컨퍼런스'의 성공 배경에는 SAPI의 글로벌 연구 네트워크가 있었다. 지난 2017년 창설 이후 SAPI는 다양한 국내·해외 연구진과의 협업으로 인적 네트워크를 구축해 왔으며 이번 행사에서 그 성과를 총체적으로 활용했다. 특히 임 교수는 "유펜 법전원 및 기술, 혁신 및 경쟁 센터(CTIC)와의 협업 경험이 세계적 석학인 크리스토퍼 유 교수를 초청할 수 있었던 배경"이라며 "유 교수 같은 스타 학자뿐만 아니라 기술·거버넌스 발전 현장에서 땀 흘리고 있는 젊은 신진 연구자들도 초청했다"고 설명했다. 이번 컨퍼런스에선 한국뿐만 아니라 미국, 유럽, 일본의 산·학·연 전문가들이 각자의 입장을 공유하며 AI 규제 철학의 차이를 논의하기도 했다. 유럽연합(EU)은 권역 내 통일성을 유지하고 회원국이 개별 법을 적용하지 않으려는 목표를 가지고 있다. 일본은 저출산과 고령화 문제를 고려한 연성 접근을 취하고 있다. 또 미국은 경쟁 기반의 실험적 접근을 채택했다. 임 교수는 "각 나라별로 상이한 AI 거버넌스 철학과 그 배경을 모두 살펴보며 고민해야 한다"며 "이를 또 경제, 정치, 사회, 행정, 안보, 문화 등 다양한 측면에서 감안할 때만 우리에게 맞는 AI 규제를 만들 수 있다"고 강조했다. 현재 AI 기술은 발전 초기 단계에 있으며 아직 본격적인 AI의 도입 역시 이뤄지지 않은 상태다. 생성 AI가 최초로 등장해 대중에게 자리잡은 것은 겨우 1년 반 전의 일이다. 또 대다수의 기업들은 아직 AI 전환(AX)을 시작하지 않고 있다. 임 교수는 "아직 우리는 다른 나라들의 혁신적 실험들을 참고하며 미래에 대비할 여유가 있다"며 "열매 '아보카도'가 너무 늦게 따도 맛이 없고 일찍 따도 먹지 못하듯 'AI'라는 과실을 제 때 딸 수 있도록 노력해야 한다"고 설명했다. 적시에 AI 거버넌스를 발전시키기 위해서는 국내 로컬 데이터가 매우 중요하다. 일례로 한국이 거대언어모델(LLM)을 발전시킬 수 있었던 데에는 기존의 한국어 데이터셋이 중요하게 작용했다. 임 교수는 "마찬가지로 우리 실정에 맞는 입법과 규제를 위해서도 우리 문화와 사회에 맞는 데이터가 필요하다"며 "한국 사회에 걸맞는 데이터를 확보할 때에야 비로소 우리를 위한 AI 규제를 입법할 실증적 근거를 마련할 수 있을 것"이라고 주장했다. 그러면서 "이번만큼은 추상적인 담론이나 해외 사례에 의존할 수 없다"며 "AI는 향후 우리의 먹거리로, 적절한 거버넌스와 기술을 발전시키는데 실패한다면 미래를 보장할 수 없게 된다"고 강조했다.

2024.08.14 16:08조이환

[기고] AI 생태계 속 규제 패러다임의 변화…'AI 거버넌스'

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 미국은 지난 2022년 10월 국가 안보 우려를 이유로 특정 성능 이상의 인공지능 및 슈퍼컴퓨터용 반도체 등의 대중 수출을 금지했다. 이후 지난해 10월에는 기존보다 사양이 낮은 인공지능(AI) 반도체 칩의 수출을 금지시켰다. 최근에는 엔비디아와 AMD의 중동 국가에 대한 최신 AI 칩의 대규모 판매 라이선스 발급을 늦추고 있다는 소식도 전해지고 있다. 올해 7월에는 프랑스 규제 당국이 AI 칩 선두 주자인 엔비디아를 반독점법 위반으로 제재할 예정이라는 보도가 나왔다. 이는 브루노 르메르 프랑스 재무장관이 "엔비디아의 지배력이 국가 간 '불평등 증가'를 야기하고 공정한 경쟁을 옥죄고 있다"는 발언을 한 이후 8개월만이다. 프랑스 외에도 미국과 유럽연합(EU), 중국, 영국 등도 엔비디아의 반독점 위반 여부에 대해 검토 중이라고 한다. '생성형 AI 경쟁이 국가 대항전처럼 흘러간다'는 이야기가 실로 와닿는 국제정세가 아닐 수 없다. 일본 총무성이 지난해 11월 네이버 클라우드에 저장된 라인야후 이용자의 개인정보 유출 사태와 관련해 라인야후에 네이버의 자본 관계 재검토를 요구한 것도 이러한 맥락에서 이해할 수 있다. 그러나 더이상 '데이터 보호주의' 또는 '우리나라 기업 강탈'이라고 분노만 할 것이 아니라 AI 국가 대항전에서 밀려나지 않기 위해 우리가 갖추어야 할 경쟁력이 무엇인지 반면교사로 삼아야 할 시점이다. 디지털화는 빅데이터 시대를 열었다. 데이터가 폭발적으로 증가하고 데이터의 원천도 내부에서 외부로 확대됐다. 또 다양한 원천으로부터 데이터를 수집해 통합, 분석해 업무에 주고받는 데이터의 활용 능력을 내재화하는 것은 근본 경쟁력이 됐다. 이는 국제적인 전략 경쟁에서 핵심 기술로 떠오르는 AI의 개발과 성과로 직결된다. 데이터의 속성상 잘 주고받는 것도 중요하지만, 잘 지키는 것도 주요한 화두가 되다 보니 개인정보와 같은 데이터 보호 규제는 점점 강화되고 있다. 이에 따라 잘 지키는 데이터 컴플라이언스를 준수하면서도 외부와도 데이터를 활발히 주고받을 수 있으려면 데이터 거버넌스를 정립하는 것이 필수가 됐다. 또 데이터는 AI 거버넌스의 핵심일 수 밖에 없다. 거버넌스의 의미에 관해 구체적으로 합의된 정의는 없으나, 'AI 거버넌스'는 AI와 관련된 목표를 달성하기 위해 조직을 지도, 통제하고 책임을 묻는 시스템을 의미한다. 동시에 AI의 개발, 활용으로 발생하는 위험들을 다루기 위해 필요한 일정한 제도적 접근방식을 말하는 것으로 이해하면 크게 틀리지 않을 것이다. 생성형 AI의 능력이 빠르게 향상되고 있고 AI의 활용 영역이 확장됨에 따라 우리가 예상하지 못하거나 미처 들여다보지 못하는 영역에서 발생할 문제점이나 위험성에 대해 걱정하는 목소리는 최근 높아지고 있다. 이러한 문제를 다루기 위해서는 일정한 제도적 접근방식 필요하고 AI 거버넌스를 구축해야 한다는 점에 대해선 어느 정도 합의가 이루어진 것 같다. 이에 따라 AI 거버넌스의 모범이 되기 위한 법을 만들기 위한 노력도 많아졌다. 올해 5월 21일에는 AI에 관한 세계 최초의 포괄적인 법인 EU 인공지능법(the Artificial Intelligence Act)이 EU 이사회에 의해 최종 승인돼 공포만 남겨두고 있다. 미국에서는 규제보다 진흥에 힘을 실은 인공지능 관련 법안이 연간 200개씩이나 발의되는 상황이라고 한다. AI 거버넌스와 관련해 얼마나 정교하게 제도적 접근을 할 것인지가 현안이라면 그 규제의 수준이 중요할 것이고, 핵심은 결국 리스크 관리로 가게 될 것이다. 리스크 관리 체계를 잘 만들어서 그 역량을 강화하는 게 주요국이 지향하는 바인 것 같다. 우리나라 역시 AI 관련 법안 발의가 증가하는 추세다. 기술 경쟁력뿐 아니라 제도 경쟁력의 동반성장이 중요한 만큼 우리나라도 AI 거버넌스를 구축함으로써 글로벌 AI 거버넌스의 대화에서 주도권을 빼앗겨서는 안 될 것이다. 이처럼 각국 및 유관 기관들은 AI의 리스크를 관리하기 위한 방법론들을 만들어내고 있고 상호 정합성을 가지는 방안을 모색하고 있다. 이들은 AI 산업 생태계의 구성원들에게 전 세계적으로 구축되는 AI 거버넌스 속에서 스스로 규율할 수 있는 내부통제 시스템을 갖추도록 요구할 것이다. 전 세계를 무대로 활동하는 우리 기업들은 AI 시스템을 설계하고 개발하고 이용하고 테스트하고 사용하는 조직 내에서 리스크 관리 문화를 만들어야 한다. 이를 구현하는 AI 거버넌스를 구축하는데도 주저하지 말아야 할 것이다.

2024.07.05 16:48법무법인 태평양 강정희

싱가포르로 간 고학수, 글로벌 AI 시장 내 韓 주도권 잡기 본격화

고학수 개인정보보호위원회 위원장이 급격히 성장하고 있는 글로벌 인공지능(AI) 시장에서 우리나라의 주도권을 강화하기 위한 움직임에 본격 나섰다. 개인정보위는 고 위원장이 오는 28일부터 29일까지 싱가포르에서 개최되는 '유엔 AI 고위급 자문기구' 3차 대면 회의에 참석한다고 26일 밝혔다. 이번 싱가포르 회의에서는 AI 국제 거버넌스 구축에 필요한 기능(functions), 제도적 형태(institutional forms), 시한(timeline)에 대한 구체성 있는 권고사항을 도출하고 이를 반영한 최종 보고서 초안이 마련될 예정이다. 특히 이번 회의에서는 AI 국제 거버넌스 논의의 외연과 깊이를 확장하기 위해 지난 3월부터 진행해온 영역별·주제별 심층분석(deep-dive) 결과와 시사점을 공유하고 최종 보고서에 반영하는 작업도 병행될 예정이다. 싱가포르 회의에서 마련될 최종 보고서 초안은 자문기구 전체회의 최종 회람 등을 거쳐 오는 6월 말 확정될 전망이다. 이 보고서는 오는 9월 개최되는 유엔 '미래를 위한 정상회의'에서 안토니우 구테레쉬(Antonio Guterres) 유엔 사무총장에게 제출될 예정이다. 개인정보위는 싱가포르 방문을 계기로 현지진출 기업 및 싱가포르 개인정보 감독기구와의 소통도 강화한다. 먼저 이달 28일에는 싱가포르 현지 진출기업 대상 간담회를 개최해 AI·데이터 관련 주요 정책방향을 공유하고 현지 기업들의 건의사항을 청취한다. IT, 금융 등 분야 국내 기업이 참석해 최근 기업들의 관심이 높은 개인정보 국외 이전, AI 개발·서비스를 위한 안전한 데이터 활용 방안에 대한 논의할 예정이다. 참여 기업은 LG CNS와 삼성 SDS, NHN KCP, 하나은행, 대한무역투자진흥공사(코트라) 등이다. 29일에는 싱가포르 개인정보 감독기구(Personal Data Protection Commission, PDPC)를 방문해 '한국-싱가포르 개인정보 법제 개정 동향', 'AI 프라이버시 정책방향' 등 주요 정책 동향을 공유하고 향후 긴밀한 정책 협력·공조 방안을 모색할 예정이다. PDPC는 2012년 제정된 싱가포르 개인정보 보호법에 따라 2013년 1월 2일에 설립된 싱가포르 정보통신미디어개발청 산하 정부기관이다. 고학수 위원장은 "AI 규율에 대해 통일성 있는 국제 논의가 이루어지지 않는 상황에서 보편성, 대표성을 가진 유엔의 최종 보고서 내용과 구속력 수준에 대한 국제적 관심이 높은 상황"이라며 "최종보고서의 방향성과 우리나라 국익이 일치하는 방향으로 논의에 참여하고 주도해 나가겠다"고 밝혔다.

2024.05.26 12:00장유미

오픈AI·구글·메타·UN, 韓 정부 부름에 서울서 한 자리에 모였다…이유는?

"개별 국가마다 인공지능(AI)을 안전하게 활용하고 관리하기 위한 제도와 정책을 만들고 있지만, 국가·지역별로 파편화된 규범은 AI 기술을 통한 혁신이나 규율 체계 형성에 효과적이지 못할 수 있습니다. 긴밀한 국제적 소통·협력과 유연한 사고에 기반한 논의과정을 통해 인류 전체가 함께 번영을 누릴 수 있는 조화롭고 상호운용적인 AI 거버넌스 체계를 마련해야 합니다." 고학수 개인정보보호위원회 위원장이 23일 서울 더 플라자 호텔에서 열린 'AI와 데이터 거버넌스 국제 컨퍼런스'에 참석해 이처럼 강조했다. 이날 컨퍼런스는 AI 시대 데이터 거버넌스의 미래에 대해 활발한 대화를 나누는 자리로, 고 위원장은 상호운용적인 AI 거버넌스 체계 마련에 대해 여러 차례 강조했다. 아만딥 싱 길(Amandeep Singh Gill) 유엔 기술특사도 기조연설에서 고 위원장의 의견에 동의하며 AI 기술 남용에 따른 위험성을 경고함과 동시에 데이터 악용에 대해 우려했다. 그는 "데이터와 AI 거버넌스는 밀접히 연결돼 있다"며 "이는 데이터가 AI 시스템에 투입되는 핵심 원천일 뿐 아니라 AI 모델이나 결과만 보아서는 AI 리스크에 적절히 대응할 수 없기 때문"이라고 말했다. 이어 "이 때문에 유엔 AI 고위급 자문기구(UN AIAB)가 국제 AI 거버넌스 다섯 원칙 중 하나로 데이터 거버넌스를 포함했다"며 "데이터를 잘 관리하고 잠재력을 이끌어 내는 것이 'AI 거버넌스'에 있어 가장 중요한 부분이라고 본다"고 덧붙였다. 이번 컨퍼런스에는 고 위원장과 아만딥 싱 길 기술특사 외에도 유엔 AI 자문위원들과 국제기구 및 국내외 AI 관련 전문가, 산·학·연 관계자 등 300여 명이 참석해 AI 시대 데이터 거버넌스의 미래에 대해 활발한 대화를 나눴다. 이번 국제 컨퍼런스는 개인정보위가 UN AIAB와 협력해 마련한 자리다. AI 서울 정상회의에 이어 개최된 데다 특히 전 세계의 AI 및 데이터 관련 전문가들이 한 자리에 모여 AI와 데이터 거버넌스에 관한 심도 있는 논의를 진행했다는 점에서 의미가 크다고 개인정보위 측은 설명했다. 이후 진행된 세션에선 임용 서울대 법학전문대학원 교수의 진행으로 유엔 등 공공부문 전문가 그룹과 산업계 그룹으로 나뉘어 AI 거버넌스와 데이터 거버넌스에 대한 논의가 이뤄졌다. UN AIAB 자문위원 등 공공부문 전문가가 참여한 첫 번째 세션에서는 '글로벌 AI 거버넌스'를 주제로 '국제 공조와 상호운용성의 전망'에 대해 논의했다. 임용 교수는 AI 거버넌스와 관련한 글로벌 협력의 의미와 상호운용성 확보를 위한 국제기구 및 각국 정부의 역할, 글로벌 AI 거버넌스를 구축하는 데 있어 폭넓은 접근성과 포용성의 가치에 대해 화두를 던졌다. 라티파 알 압둘카림(Latifa Al-Abdulkarim) 유엔 UN AIAB 자문위원이자 사우디아라비아 국회의원은 "디지털 격차를 넘은 협력을 촉진하고, 소외가 발생하지 않도록 국제 AI 거버넌스를 이행할 유연하고 포용적인 접근이 필요하다"며 "이를 위해서는 범국가적 AI 정책 강화와 현존하는 AI 거버넌스 간 조화가 필요하다"고 언급했다. 그러면서도 "각국의 주권과 문화적 규범을 존중해야 한다"고 덧붙였다. 고학수 개인정보위 위원장은 현시점을 두고 글로벌 AI 거버넌스에 다양한 접근을 하는 모색기이자 과도기라고 진단했다. 또 AI 시장이 고착화되기 전에 글로벌 대화가 최대한 빨리 적극적으로 진행돼야 한다고 주장했다. 고 위원장은 "각국 기관 간 지속적인 대화를 통해 글로벌 표준과 상호운용 시스템을 만들어가는 것이 정부의 역할"이라며 "균형 잡힌 시각에 기반한 규율 체계를 형성하기 위하여 AI가 가져올 편익과 기회, 새로운 도전에 대해 국제적 차원의 지속적 논의와 고민이 계속돼야 한다"고 강조했다. 데니스 웅(Denise Wong) 싱가포르 개인정보 감독기구(PDPC) 부위원장은 포용적인 글로벌 협력이 기술 발전과 신뢰성 있는 AI 생태계 구축의 핵심 요소라고 주장했다. 나아가 전통적 AI와 생성형 AI 모두를 위한 싱가포르의 '모델 거버넌스 프레임워크(Model Governance FRAMEwork)'가 상호운용성 확대를 위한 기반을 제공한다고 소개했다. 카린 퍼셋(Karine Perset) 경제개발기구(OECD) AI 정책연구소장은 "OECD 역시 상호운용성을 핵심 가치로 삼고 있다"며 "최근 OECD 장관회의에서 AI 관련 권고문을 검토했다"고 언급했다. 또 그는 "OECD의 AI 원칙이 여러 국가의 정책에 반영돼 글로벌 상호운용성의 기반이 된다"고 평가했다. 토마스 바시콜로(Thomas Basikolo) 국제전기통신연합(ITU) 통신표준화 정책 프로그램 책임자는 ITU가 2017년부터 100개 이상의 AI 표준을 공개하고 120개 이상의 표준을 개발하고 있다고 설명했다. 또 AI 포 굿(AI for Good) 글로벌 써밋과 같은 이니셔티브를 통해 이해관계자 간 논의를 촉진하고 있다고 언급했다. 더불어 의료, 농업, 재해관리 분야를 사례로 들며 효과적 AI 거버넌스 구축에 있어 표준화의 중요성을 강조했다. 패널로도 참여한 아만딥 싱 길 유엔 기술특사는 "편향되고 오도하는 추론, 개인의 불안과 행태 조작, 부분적이고 비인간적인 표현 등은 모두 적절하지 않은 데이터 거버넌스에서 기인한다"며 "올바른 데이터 거버넌스는 공공 및 민간 부문 전반에서 올바른 이용과 신뢰할 수 있는 협력을 촉진할 수 있다"고 강조했다. 이어진 주요 데이터 기업들의 두 번째 세션은 '글로벌 AI 맥락의 데이터 거버넌스'를 주제로 진행됐다. 진행자인 임용 교수는 AI와 관련해 기업들이 당면한 데이터 거버넌스의 과제와 그 대응 방안에 대해 질의했다. 멜린다 클레이보(Melinda Claybaugh) 메타(Meta) 프라이버시 정책 디렉터는 이번 컨퍼런스에 대해 기존의 법·제도가 AI 기술 발전에 어떻게 적용되는지와 관련한 UN AIAB, G7, OECD 등 국제 논의에 기여할 것이라고 평가했다. 또 AI 및 데이터 거버넌스에 대한 다양한 국제적·국내적 이니셔티브 간 조율 방안에 대한 의견교환이 기대된다고 언급했다. 김성훈 업스테이지 대표는 책임 있는 AI 개발과 윤리적인 AI 및 데이터 활용에 최선을 다하고 있다고 강조했다. 또 김 대표는 "업스테이지가 그간 쌓아온 경험과 노하우를 공유해 AI의 거대한 잠재력을 적절히 활용할 수 있는 정책 환경 조성에 기여하고 싶다"며 "업스테이지는 데이터 오너십(ownership)의 중요성을 바탕으로 기여한 데이터에 비례해 보상을 제공하고 이익 공유 파트너십을 창출하는 '1조 토큰 클럽'을 이끌어 나가고 있다"고 설명했다. 하정우 네이버 클라우드 센터장은 데이터와 AI 거버넌스에 있어서 각 국가와 지역의 주권(Sovereignty)을 존중하는 것이 중요하다고 피력했다. 프론티어(frontier) AI와 같은 강력한 생성형 AI의 오픈소스화를 위한 안전한 거버넌스 체계는 특정 기업만의 결정이 아닌 정부와 글로벌 커뮤니티를 포함한 다양한 이해관계자들과의 합의가 중요하다고 언급했다. 애슬리 판툴리아노(Ashley Pantuliano) 오픈 AI 법률고문은 "AI 관련 안전한 프라이버시 보호 수단을 지속적으로 혁신하기 위한 정부 및 업계 관계자와의 대화를 환영한다"며 "오픈 AI가 널리 이용되는 AI 모델을 개발하므로 책임 있는 AI 활용과 데이터 거버넌스를 위한 논의에 참여하는 것이 중요하다"고 언급했다. 이어 "오픈 AI의 툴이 사람들에게 편익을 제공하고 있지만 한편으로는 AI 기술에 위험이 동반한다는 것을 알고 있다"며 "AI를 안전하고 이롭게 유지하기 위해 전념하고 있다"고 강조했다. 유니스 훵(Eunice Huang) 구글(Google) 아태지역 인공지능 및 신흥기술 부서장은 "AI가 대다수 분야에서 우리가 살아가고, 일하고, 배우는 방식을 근본적으로 변화시킬 잠재력을 갖고 있다"며 "데이터 개방성(data openness)은 지속적 혁신을 가능케 하는 환경 조성에 중요한 역할을 한다"고 밝혔다. 또 그는 "AI가 제공하는 기회를 모두가 온전히 활용하기 위해 데이터 거버넌스에 대한 사려 깊고 균형 잡힌 접근이 필요하다"고 덧붙였다. 이번 컨퍼런스를 주최한 고학수 개인정보위 위원장은 "이번 컨퍼런스가 AI와 데이터 거버넌스에 관한 글로벌 논의에 또 하나의 디딤돌을 놓은 것"이라며 "AI 기술 발전이 더 많은 사람의 편익으로 연결될 수 있게 하는 포용적인 데이터 거버넌스 마련을 위해 앞으로도 국제 논의에 주도적으로 참여하겠다"는 의지를 밝히며 행사를 마무리했다.

2024.05.23 12:00장유미

美·中 정부 'AI 리스크' 첫 회동

세계 인공지능(AI) 패권을 두고 경쟁하는 미국과 중국이 AI 리스크와 거버넌스에 관한 정부간 대화를 시작한다. 중국 언론 신화왕이 인용한 중국 외교부 북미·오세아니아부의 공식 계정에 따르면 미국과 중국 정상이 14일(현지시간) 스위스 제네바에서 AI를 논의하기 위한 첫 정부간 대화를 개최한다. 이번 대화는 지난해 11월 샌프란시스코 미중 정상회담 때 합의됐던 양자 대화 계획을 이행하는 차원이다. 대화에서는 인공지능 기술 리스크, 글로벌 거버넌스 및 각 관심 사안에 대한 교류가 이뤄지게 된다. 산업적으로 협력하면서도 상호 견제하는 두 국가가 AI 기술 악용 등에 관한 경고성 메세지를 내놓을 지 관심이다. 지난 달 26일 블링컨 미국 국무장관은 임기 내 두번째 중국 방문을 맞아 주중 미국대사관에서 기자회견을 열고 미중 양국간 상호 교류에 대해 언급하면서 지난해 샌프란시스코에서 열린 미중 정상 회담 이후 다단계적 교류를 재개하면서, 향후 몇 주 내 양국 정부가 AI에 관한 첫 대화를 열 것이라고 밝힌 바 있다. 영국 토터스미디어가 지난해 발표한 '2023년 글로벌 AI 지수 순위'에 따르면 투자, 혁신, 실천 등 세 지표를 사용해 평가된 AI 국가 발전 순위에서 미국이 세 지표에서 1위를 차지하고 중국은 2위에 올랐다. 2020년 이래 이 순위에서 미국과 중국은 줄곧 1~2위를 지키고 있다. 미국 국무부 사이버안보국(CSET)에 따르면 미국과 중국은 AI 연구에서 가장 많이 협력하는 국가이기도 하다.

2024.05.14 07:10유효정

데이터브릭스, 한국 시장서 연간 100% 성장

데이터브릭스는 23일 서울 인터컨티넨탈코엑스에서 개최한 '데이터 인텔리전스 데이' 컨퍼런스' 관련 기자간담회에서 지난 회계연도에 한국에서 연간 100% 이상의 성장을 달성했다고 발표했다. 국내 기업의 데이터 및 AI 수요 급증에 따른 결과라고 회사측은 설명했다. 데이터브릭스는 급속한 제품 혁신에 힘입어 지난 1월 31일 마감된 회계연도를 기준으로 전 세계적으로 16억 달러 (약 2조2천억원)이상의 매출을 기록했으며, 연간 50% 이상의 성장을 달성했다. 데이터브릭스는 지난 3월 출시 당시 표준 벤치마크에서 모든 오픈소스 모델을 능가하는 범용 대형언어모델(LLM) DBRX를 선보였다. 데이터 선도 기업들은 이미 데이터브릭스의 데이터 인텔리전스 플랫폼을 활용해 다양한 워크로드에서 비용 효율성과 고성능을 보장하는 동시에 비즈니스 운영을 최적화하고, 예측 분석 및 AI 애플리케이션 등을 통해 혁신을 이끌며, 고급 데이터 거버넌스 및 분석 기능을 통해 의사 결정을 개선해나가고 있다. 데이비드 마이어 데이터브릭스 제품 담당 수석부사장은 기조연설에서 “기업의 데이터 프로젝트를 AI와 결합하고자 할 때 실패로 귀결되기 쉬운데, 이는 워낙 다양한 사일로 시스템이 존재하기 때문”이라며 “데이터와 AI 시스템의 사일로는 내재적으로 복잡하며 거버넌스와 보안도 이 때문에 더 어려워지고, 여러 개발언어와 시스템을 이해해 쉽게 만들 수 있는 고도화된 기술인력도 확보하기 어렵다”고 말했다. 그는 “데이터브릭스의 레이크하우스 '델타레이크'는 비정형과 정형 데이터 모두를 레이크로 가져와서 정교화한 다음 데이터 복제와 이동없이 레이크 자체에서 활용하게 하므로 근본적으로 단순하다”며 “데이터레이크하우스만으로 충분하지 않고, 그 위에 거버넌스 레이어 '유니티 카탈로그'를 얹어 SQL, 스칼라, 자바, R 같은 각기 다른 엔트리 진입지점을 관리하고 데이터모델이나 노트북까지 모두 관리할 수 있다”고 강조했다. 데이터브릭스의 유니티 카탈로그는 전체 데이터 플랫폼의 거버넌스를 관리하는 계층이다. 모든 데이터 쿼리는 유니티 카탈로그를 거치게 되고, 사용자별로 데이터 접근권한을 관리할 수 있다. 유니티 카탈로그는 데이터브릭스 솔루션 외에 다양한 외부 거버넌스 시스템과도 통합가능하다. 데이터브릭스는 모자이크ML을 인수하고 최근 DBRX란 개방형 언어모델을 출시하는 등 생성형 AI 분야에 공격적인 투자를 하고 있다. 생성형 AI를 자사 플랫폼에 접목해 자연어로 데이터를 활용하게 하는 데이터 민주화를 추구한다. 데이비드 마이어 부사장은 “생성형 AI 자체를 레이크하우스에 녹여 근본적으로 새로운 것을 가능하게 했다”며 “데이터 인텔리전스 엔진을 델타레이크와 유니티 카탈로그 위에 얹어서 생성형 AI로 데이터 의미를 이해한다”고 말했다. 그는 “플랫폼에서 파티셔닝, 인덱싱, 레이어링, 리퀘스트 등의 기능을 자동화했으며, AI가 데이터 트래픽 패턴을 학습해 데이터를 재작성하고 사용자의 사용 행태에 따라 더 적은 비용으로 쿼리를 수행하도록 진화한다”며 “최고의 데이터웨어하우스는 훨씬 더 간결한 레이크하우스”라고 강조했다. 그는 “1년전 인수한 모자이크ML은 고객의 모델 학습과 미세조정을 더 저렴한 비용으로 할 수 있게 하며, 최대 10배의 비용을 절감시켜준다”며 “DBRX는 미세조정이나 자체 모델을 완벽히 제어할 수 있다”고 덧붙였다. 이날 기조연설에서 염화음 크래프톤 딥러닝실 데이터실장과 문효준 엘지전자 데이터플랫폼실 팀장이 무대에 올라 자사의 데이터브릭스 플랫폼 활용 사례를 공유했다. 에드 렌타 데이터브릭스 아태지역 총괄 부사장은 “데이터브릭스 클라우드의 한국 리전 범위를 확대하고 서버리스 SQL을 5월 출시할 예정”이라며 “한국어 기술 지원을 시작하고, 제품 교육 및 인증 프로그램의 한국어 지원도 5월 중 이뤄질 것이며, 생성형 AI 기능의 한국 리전 확대와 모델 서빙, 벡터 서치 등도 한국에서 쓸 수 있을 것”이라고 밝혔다. 에드 렌타 데이 부사장은 “한국은 아태지역에서 가장 빠르게 성장하는 시장 중 하나”라며 “한국이 기업의 AI 도입에 대한 야심찬 목표를 가지고 있는 시장인 만큼, 데이터브릭스는 보다 많은 한국 고객들이 자체적인 프라이빗 데이터를 사용해 안전하게 AI를 활용할 수 있도록 지속적으로 지원해나갈 계획”이라고 말했다. 데이터브릭스의 데이터 인텔리전스 데이는 데이터브릭스 고객, 업계 리더, 기술 전문가, 파트너가 주도하는 심층 세션을 통해 자연어로 데이터 인사이트를 확보하는 방법부터 데이터 프라이버시 보호 및 제어를 유지하면서 생성형AI 애플리케이션을 개발하는 혁신적인 방법까지 자세히 살펴볼 수 있다. LG전자, 크래프톤, 여기어때컴퍼니, 정육각, 하이퍼커넥트, 신세계I&C, 스캐터랩, 아임웹 등이 연사로 나서 데이터 및 AI 여정을 공유했다.

2024.04.23 16:05김우용

"생성형 AI의 보안은 '안전'과' 정확성'을 함께 원한다"

“기업은 AI를 활용할 때 관리 가능하고 안전할 뿐만 아니라, 매우 정확하고 관련성 높은 결과물을 요구한다. 이미 챗봇이 '환각' 현상으로 인해 고객에게 부정확한 답변을 제공하고, 이로 인해 기업이 어려움을 겪은 사례도 많이 존재한다. 좋은 AI 전략을 세우려면 강력한 데이터 전략이 필요하다. 기업은 사내에서 자체 AI 모델을 구축하고, 기업 내부 데이터로 해당 모델을 학습시켜 부정확한 답변을 생성하지 않도록 하며, 궁극적으로 지적재산(IP)에 대한 소유권을 갖기를 원하고 있다.” 페르민 세르나 데이터브릭스 최고보안책임자(CSO)는 본지와 서면인터뷰에서 최근 생성형 인공지능(AI) 트렌드 속에서 나타나는 데이터 보안 분야의 체크포인트를 이같이 요약했다. 그는 “AI는 자동화로 생산성을 향상시키고, 데이터에 기반한 의사 결정을 통한 효율성 증대와 성공적인 비즈니스 등 다양한 이점을 제공한다”며 “미국을 비롯한 전 세계 조직이 이러한 이점을 인지함에 따라 AI를 도입하는 사례가 늘고 있지만 동시에 보안과 개인정보 보호에 관한 우려로 인해 AI 프로젝트를 실제 업무에 적용할 때 신중을 기하는 추세”라고 설명했다. 기업의 데이터 보안 전략은 생성형 AI 환경에서 새롭게 업그레이드돼야 하는 상황이다. 데이터 통제 및 관리, 규제 준수 같은 안전을 보장하는 생성형 AI를 만들면서도, 맥락에 적합한 정확한 답변과 성능을 구현해야 한다. IT 보안이 생성형 AI를 맞아 전보다 더 넓은 범위를 고려해야 하는 것이다. 이에 대해 페르민 세르나 CSO는 중요한 조언을 몇가지 제시했다. 그는 단일한 데이터 플랫폼을 구축해 통합적인 보안과 거버넌스 체계를 갖춰야 한다고 강조했다. 데이터 및 AI에 대한 통합 가시성, 데이터 및 AI에 대한 단일 권한 모델, AI 기반 모니터링 및 통합 가시성 등의 접근 방안을 소개하기도 했다. Q. 기업용 생성형 AI에 대해 내부 데이터를 접근할 때 권한 및 보안등급 관리, 규제 준수 등 거버넌스와 컴플라이언스 이슈가 있다. 이에 대한 조언을 한다면? 지난해 JP 모건 체이스, 버라이즌, 삼성전자 등이 고객 정보 및 소스 코드에 대한 통제권을 잃을 수 있는 잠재적 위험을 줄이기 위해 챗GPT 사용을 금지한다고 발표한 바 있다. 이는 거버넌스 도구를 '데이터의 세계'에서 '데이터와 AI의 세계'로 확장해야 하는 이유를 보여주는 대표적인 예다. 서로 다른 여러 플랫폼, 시스템 및 공급업체에 걸쳐 데이터와 AI를 관리하는 일은 매우 복잡하다. 모든 조직이 직면하고 있는 가장 큰 과제 중 하나는, 데이터 사일로와 데이터 개인정보 보호 및 제어에 관한 문제다. 조직에서 사용하는 시스템이나 플랫폼마다 데이터가 중복되거나 시스템 간에 이동될 수 있으며, 또 플랫폼마다 보안 및 거버넌스에 대한 접근 방식이 다를 수 있다. 레이크하우스 아키텍처에 구축된 데이터브릭스 데이터 인텔리전스 플랫폼과 같은 단일 통합 플랫폼을 선택하면 통합 보안 및 거버넌스를 통해 하나의 데이터 사본을 AI에서 비즈니스 인텔리전스(BI)에 이르는 다양한 사용 사례에 저장하고 사용할 수 있어, 이러한 보안 위험을 완화할 수 있다. Q. 데이터브릭스는 생성 AI 시대의 데이터 거버넌스와 컴플라이언스에 어떤 해법을 제시할 수 있나? 데이터브릭스는 2020년에 데이터 웨어하우스와 데이터 레이크의 장점을 결합하고 통합하기 위해 레이크하우스를 분야를 개척했다. 레이크하우스는 (1) 조직 내 모든 데이터 소스(정형, 반정형, 비정형 데이터)를 함께 쿼리하고 (2) 데이터를 사용하는 모든 워크로드(BI, AI 등)를 통합된 방식으로 관리할 수 있는 통합 시스템을 제공한다. 레이크하우스는 독자적인 데이터 플랫폼 범주로 자리 잡았으며, 현재 기업에서 널리 채택되어 대부분의 벤더 스택에 통합되어 있다. MIT 테크놀로지 리뷰 인사이트 보고서에 따르면, 전 세계 CIO의 74%가 자사의 레이크하우스를 보유하고 있다고 답했다. 레이크하우스 도입은 이미 시장에서 대세로 자리 잡았지만, 데이터브릭스는 레이크하우스와 생성형 AI를 결합해 데이터 인텔리전스 플랫폼이라는 새로운 범주의 데이터 플랫폼을 만들었다. 데이터 인텔리전스 플랫폼을 통해 기업은 자연어를 사용하여 한 곳에서 데이터를 통합, 관리 및 활용할 수 있다. 데이터 인텔리전스 플랫폼은 생성형 AI 모델을 사용하여 기업 데이터의 의미를 파악하고 플랫폼의 모든 부분에서 이렇게 이해한 내용들을 활용한다. 데이터브릭스의 통합 거버넌스 솔루션인 유니티 카탈로그를 통해 조직은 모든 클라우드 및 플랫폼에서 정형 및 비정형 데이터, 머신러닝 모델, 노트북, 대시보드 및 파일을 원활하게 관리할 수 있다. Q. 회사 내부 보안조직의 대응법이 있으면 소개해달라. 데이터브릭스의 데이터 및 AI 거버넌스 접근 방식은 아래와 같다 1. 데이터 및 AI에 대한 통합 가시성: 조직은 생성형 AI를 통해 자연어를 사용하여 데이터와 AI를 안전하게 검색하고, 이해하고, 인사이트를 추출하여 생산성을 높일 수 있다. 2. 데이터 및 AI에 대한 단일 권한 모델: 통합 인터페이스로 액세스 관리를 간소화해 데이터 및 AI 자산에 대한 액세스 정책을 정의하고 모든 클라우드 또는 데이터 플랫폼에서 이러한 정책을 일관되게 적용 및 감사할 수 있다. 또한, 조직은 행과 열을 세밀하게 제어하여 보안을 강화하는 동시에 원활하게 확장되는 로우코드 속성 기반 액세스 정책을 통해 액세스를 효율적으로 관리할 수 있다. 3. AI 기반 모니터링 및 통합 가시성: AI를 사용하면 모니터링을 자동화하고 오류를 진단하며 데이터 및 ML 모델 품질을 유지할 수 있다. 조직은 개인 식별 정보(PII) 데이터를 자동으로 감지하고, 모델 드리프트를 추적하며, 데이터 및 AI 파이프라인 내의 문제를 효과적으로 해결하여 정확성과 무결성(integrity)을 유지하는 사전 예방적 알림의 이점을 누릴 수 있다. Q. 방어자 입장에서 AI를 어떻게 받아들여야 바람직할까? AI는 조직이 방대한 양의 데이터를 선별해 패턴을 모니터링하고 분석하는 데 도움을 준다. AI는 이렇게 학습된 패턴을 기준선으로 삼아 비정상적인 행동을 감지하고 시스템에 대한 무단 액세스를 제한할 수 있다. 또한, AI는 위험의 우선순위를 정하고 멀웨어와 침입의 가능성을 즉시 감지하여 분석가의 1차 작업을 보강하는 데 도움을 줄 수 있다. 데이터 인텔리전스 플랫폼과 생성형 AI를 사용하면 조직 내 사이버 보안 팀들은 자연어를 사용하여 사고의 영향과 보안 속성에 대해 질문을 할 수도 있다. Q. 세계 각국에서 AI 안전에 대한 규제가 나오기 시작했다. 조직에서 AI 안전을 담당하는 주체는 누가 돼야 하고, 어떻게 무수한 규제에 대응하고 정책변경에 빠르게 적응할 수 있을까? 새롭게 생겨나는 AI 규제는 다양하고 복잡한 요구 사항을 가지고 있지만, 한편으로는 반복되는 주제를 담고 있다. 일반적으로 5가지 주요 영역에서 의무가 발생한다: 1. AI 개발 및 배포 주기의 모든 단계에서 필요한 데이터 및 모델 보안과 개인 정보 보호 2. 출시 전 위험 평가, 계획 및 완화 - 데이터 학습과 가드레일 구현에 중점을 두고 편향성, 부정확성 및 기타 잠재적 피해를 해결 3. 출시 시 필요한 문서 - 개발 과정에서 수행한 단계와 AI 모델 또는 시스템의 특성(기능, 제한 사항, 학습 데이터 설명, 위험, 완화 조치 등)에 관한 내용 포함 4. 출시 후 모니터링 및 지속적인 위험 완화 - 부정확하거나 기타 유해한 결과물 생성 방지, 보호 대상 그룹에 대한 차별 방지, 사용자가 AI를 다루고 있음을 인지하도록 하는 데 중점을 둠 5. 대규모 모델을 학습하고 실행하는 데 사용되는 에너지가 환경에 미치는 영향 최소화 이러한 목표를 달성하려면 모든 조직이 데이터와 AI 모델에 대한 완전한 소유권과 통제권을 확보하고 AI 개발 및 배포의 모든 단계에서 포괄적인 모니터링, 개인정보 보호 제어, 거버넌스를 이용할 수 있어야 한다. 조직은 데이터 품질을 제공하고, 더 안전한 애플리케이션을 제공하며, 규제 표준을 준수하는 데 도움이 되는 책임 있는 AI 목표를 달성하기 위한 통합된 접근 방식을 필요로 한다.

2024.04.16 10:07김우용

베리타스 "생성 AI, 직장 내 분열과 민감 정보 노출 야기”

베리타스테크놀로지스는 직작 내 생성형 AI에 대한 글로벌 설문조사 결과를 22일 발표했다. 조사 결과에 따르면 직장 내 생성형 AI에 대한 혼란으로 인해 직원 간 분열이 발생하는 동시에 민감한 정보가 노출될 위험성이 커지고 있는 것으로 나타났다. 국내 응답자의 80% 이상(글로벌 평균 71%)이 업무 중에 챗GPT 같은 생성형 AI 툴을 사용하며 고객 정보, 직원 정보, 회사 재무 정보를 입력하는 등의 위험한 행동을 한 적이 있다고 인정했다. 국내 응답자의 44%(글로벌 평균 53%)가 직장 동료들이 업무에 AI를 활용하는 것은 불공정한 행위이며, 이러한 행위는 업무 경쟁에서 '부정행위'이라고 생각한다고 답했다. 국내 응답자의 46%(글로벌 평균 39%)가AI 툴 사용이 초래하는 가장 큰 위협요인으로 민감한 정보 노출 리스크를 꼽았다. 업무에 생성형 AI를 활용하는 것에 대한 의견과 관계없이 국내 응답자 94%(글로벌 평균 90%)가 사용에 대한 가이드라인과 정책이 중요하다고 답했지만, 현재 직원들에게 의무적으로 사용 지침을 제공하는 곳은 국내 기업의 40%(글로벌 평균 36%)에 불과한 것으로 나타났다. 국내 직장인의 약 3분의1(32%, 글로벌 평균 31%)이 고객 정보, 직원 정보, 회사 재무 정보 등 잠재적으로 민감한 정보를 생성형 AI 툴에 입력한 적이 있다고 인정했다. 설문 결과에 따르면 국내 직장인의 약 절반(46%, 글로벌 평균39%) 정도가 AI 툴 사용이 민감한 정보를 유출할 수 있다고 생각하며, 32%(글로벌 평균 37%)만이 이로 인해 조직이 데이터 개인정보 보호 규정 준수에 위배될 수 있다고 생각하는 것으로 나타났다. 국내 직장인의 57%(글로벌 평균 56%)가 생성형 AI 툴을 매주 사용한다고 답한 반면, 18%(글로벌 평균 28%)는 전혀 사용하지 않는다고 답했다. 이처럼 상당수의 직장인이 생성형 AI를 사용하지 않는 이유는 국내 응답자의 59%(글로벌 평균 57%)만이 소속 조직으로부터 허용되는 것과 허용되지 않는 것에 대한 지침을 받았기 때문일 수 있다. 이는 적어도 두 가지 부정적인 결과를 초래할 수 있다. 첫째, 국내 응답자 중 44%(글로벌 평균 53%)가 생성형 AI를 사용하는 일부 직원들이 그렇지 않은 직원들보다 불공정한 이점을 누린다고 답해 직원 간의 분열과 부정적인 직장 문화가 조성될 가능성이 높아진다. 둘째, 많은 직장인이 생성형 AI를 적절하게 활용해 업무 효율성을 높일 수 있는 기회를 놓치고 있을 수 있다. 예를 들어, 생성형 AI를 사용하고 있는 직장인들은 정보에 대한 빠른 접근(국내 응답자 55%, 글로벌 평균 48%), 생산성 향상(국내 응답자 35%, 글로벌 평균 40%), 새로운 아이디어 창출(국내 응답자 및 글로벌 평균 모두 34%), 업무상 문제를 해결하기 위한 조언 참고(국내 응답자 및 글로벌 평균 모두 22%) 등의 혜택을 누리고 있다고 응답했다. 국내 직원의 4분의 3 이상(80%, 글로벌 평균 77%)이 조직 내 생성형 AI 사용에 대한 가이드라인, 정책 또는 교육을 제공받기를 원한다고 답했다. 가장 큰 이유로는 직원들이 생성형 AI가 비즈니스에 미칠 수 있는 위험을 줄이기 위해서(국내 응답자 48%, 글로벌 평균 43%), 적절한 툴 사용법을 배우기 위해서(국내 응답자 40%, 글로벌 평균 68%), 직장에서 공평한 경쟁을 도모하기 위해서(국내 응답자 28%, 글로벌 평균 25%) 등이었다. 베리타스코리아의 이상훈 지사장은 "생성형 AI 활용 방법이나 활용 여부에 대한 조직 내 지침 없이 일부 직원들은 잠재적으로 조직을 위험에 처하게 할 수 있는 방식으로 AI를 활용하고 있다”며 “다른 직원들은 아예 활용을 주저하고 이를 적극 활용하고 있는 동료들을 원망하기도 한다”고 설명했다. 그는 “두 상황 모두 이상적이지 않으며 조직은 규정 준수 위반과 같은 문제에 직면하거나 전체 인력의 효율성을 높일 수 있는 기회를 놓칠 수도 있다”며 ”이와 같은 두 가지 문제 모두 무엇이 허용되고 무엇이 허용되지 않는지에 대한 효과적인 생성형 AI 가이드라인과 정책을 제공함으로써 해결할 수 있다"고 덧붙였다. 그는 "이를 올바른 데이터 규정 준수 및 거버넌스 툴 세트와 결합해 그 이행과 지속적인 활동을 모니터링하고 관리하는 것이 중요하다”며 “직원들은 이로 인해 직무 만족도가 상승할 것이고 조직은 위험 요인의 증가 없이 기술의 혜택을 누릴 것"이라고 강조했다. 설문조사는 시장조사 기관 쓰리젬이 작년 12월 1일부터 13일까지 실시했다. 표본은 호주(1천명), 브라질(1천명), 중국(1천명), 프랑스(1천명), 독일(1천명), 일본(1천명), 싱가포르(500명), 한국(500명), UAE(500명), 영국(2천명) 및 미국(2천명)의 직장인 1만1천500명으로 구성됐다. 베리타스테크놀로지스는 오는 3월 6일 오후 2시부터 '베리타스 어센드 솔루션 데이' 온라인 컨퍼런스를 개최할 예정이다. 전 세계 30여개 도시에서 진행되는 글로벌 이벤트로, 점점 복잡해지는 멀티 클라우드 환경에서 기업 데이터의 관리와 보호를 최적화하는 방법에 대한 솔루션을 공유할 예정이다.

2024.02.22 14:39김우용

서비스나우-EY, 생성형 AI 전략적 제휴 확대

디지털 비즈니스 플랫폼 서비스나우는 EY와 전략적 제휴를 확대하고 생성형 AI에 대한 컴플라이언스, 거버넌스 및 리스크 관리 솔루션을 제공한다고 31일 밝혔다. EY는 서비스나우의 나우 어시스트 생성형 AI 기능을 활용해 EY 임직원 및 고객에게 향상된 경험을 선사할 예정이다. 신규 AI 솔루션은 서비스나우의 리스크 관리 솔루션에 대한 EY의 역량 강화를 목표로 한다. 새로 개발된 솔루션은 AI의 관리 및 거버넌스를 개선해 규제 요건에 대한 적절한 컴플라이언스를 비롯해 윤리적이고 투명하며 책임감 있는 비즈니스를 촉진할 것으로 기대된다. 여기에는 AI 검색 및 인벤토리 관리, 정책 관리 및 구현, 리스크 계층화, 자동화된 모니터링 등 필수 기능을 제공하는 EY AI 거버넌스 및 규제 준수 솔루션이 포함된다. 해당 서비스는 1분기 출시 예정이다. 더불어, EY는 IT 및 HR 비즈니스 기능 전반에 걸쳐 IT 서비스 관리(ITSM) 프로플러스, HR 서비스 제공(HRSD) 프로플러스, 나우 어시스트 생성형 AI 도구 등 서비스나우의 생성형 AI 기능을 활용할 예정이다. 이를 통해 40만 명 이상의 EY 임직원의 경험을 향상시킨다는 계획이다. 서비스나우와 EY는 리스크, 글로벌 비즈니스 서비스, 공급망 및 제조 관리, 기술 혁신 등 다양한 분야에서 서비스를 제공하며 오랜 기간 협력해 왔다. 이번 제휴 확대는 2021년 12월에 서비스나우와 EY가 발표한 금융 및 세무 서비스 혁신에 기반한다. 올해 금융 서비스, 제조, 생명과학 등 특정 산업을 위한 추가 서비스도 선보일 계획이다. 카민 디 시비오 EY 회장 겸 최고경영자(CEO)는 “2024년 오늘 날 최고 경영진의 아젠다를 아우르는 하나의 주제는 AI의 혁신적인 잠재력”이라며 “다수의 고객이 기술을 도입할 때 적절한 거버넌스를 구축하는 데 어려움을 겪고 있다”고 설명했다. 그는 “EY와 서비스나우는 조직이 AI 리스크 관리 및 규제 준수 문제를 비즈니스 가치 창출의 기회로 전환할 수 있도록 지원할 것”이라며 “서비스나우와의 협업을 확대하며 획기적인 기술을 통해 제휴 관계를 성장시킬 수 있어 기쁘다”고 강조했다. 빌 맥더멋 서비스나우 회장 겸 CEO는 “생성형 AI는 상상력을 자극했다”며 “EY는 비용을 절감하고 생산성을 높이며 성장을 가속화하기 위해 서비스나우와 매우 긴밀하게 협업하고 있다”고 밝혔다. 그는 “해당 파트너십을 통해 서비스나우 플랫폼에 생성형 AI를 유례없이 빠른 속도로 도입할 수 있을 것”이라고 덧붙였다.

2024.01.31 11:18김우용

지금 뜨는 기사

이시각 헤드라인

이재명 대통령 "AI 혁신에만 전념할 환경 만들겠다"

통신사가 직접 'AI 스마트폰' 만들어 판다

JMS 그 이후...넷플릭스, ‘나는 신이다’ 후속 ‘나는 생존자다’ 공개

국내 OTT, 해외서도 끊김 없이 보려면…여름휴가·연휴 안전한 시청법

ZDNet Power Center