• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 규제'통합검색 결과 입니다. (67건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

앤트로픽 CEO "캘리포니아 AI 법안, 혁신 촉진할 것"

캘리포니아 주 상원 표결을 앞두고 있는 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 대해 앤트로픽 대표가 긍정적인 평가를 내렸다. 25일 유에스뉴스에 따르면 캘리포니아 AI 규제 법안인 'S.B. 1047'의 상원 표결이 지난 20일 시작됐다. 이 법안은 1억 달러 이상의 개발 비용이 들거나 일정량의 컴퓨팅 파워를 요구하는 고급 AI 모델에 대한 테스트를 의무화하는 내용을 담고 있다. 이는 AI 개발에 있어 안전성을 강화하기 위함이다. 다리오 아모데이 앤트로픽 대표는 이번 법안이 AI 개발에 긍정적인 영향을 미칠 수 있다고 평가했다. 특히 AI 기술 환경의 변화에 테크 업계가 대비하도록 지원할 수 있다고 주장했다. 법안은 AI 모델이 오작동할 경우 이를 종료할 수 있는 '킬 스위치' 설치를 의무화하고 있다. 또 사업자와 AI 개발자가 규정을 위반할 경우 캘리포니아 주 법무장관이 이에 소송을 제기할 수 있다. 이는 AI 기술의 오남용을 방지하기 위한 조치로 해석된다. 앞서 구글, 메타, 오픈AI 등 주요 테크기업들은 이 법안이 캘리포니아 주를 AI 개발에 불리한 환경으로 만들 우려가 있다고 지적했다. 특히 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 주 상원의원에게 공개서한을 보내 AI 규제는 연방 정부의 권한 아래 이뤄져야만 한다고 주장한 바 있다. 아모데이 대표는 "법안 내용이 개정됨에 따라 초기의 우려가 크게 줄어들었다"며 "이번 법안이 AI 개발 과정에서 혁신과 안전성을 모두 담보할 수 있을 것으로 기대한다"고 말했다.

2024.08.25 09:20조이환

오픈AI, 캘리포니아 AI 법안 반대…주 상원의원 "말도 안 되는 소리"

지난 20일부터 미국 캘리포니아 주 의회가 표결 중인 인공지능(AI) 규제 법안에 대한 의견이 분분하다. 22일 테크크런치 등 외신에 따르면 오픈AI 이사가 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 반대하는 목소리를 냈다. 이에 주 상원의원이 "말도 안 되는 소리"라고 일축했다. 해당 법안은 캘리포니아 내 AI 개발 사업자들에게 모델 안전성 테스트 등 사전 예방 조치를 요구하는 내용을 담고 있다. 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 상원의원에게 공개서한을 보내 "법안이 AI 혁신을 저해할 것"이라고 지적했다. 그러면서 그는 법안이 시행될 경우 "캘리포니아의 엔지니어들과 테크기업들이 다른 주로 떠날 수 있다"며 "미국의 경쟁력을 위해 최첨단 모델의 규제는 국가 차원에서 진행돼야 한다"고 밝혔다. 이에 법안을 발의한 스콧 위너 상원의원은 오픈AI의 주장이 논리적이지 않다고 반박했다. 그는 법안이 캘리포니아에 본사를 두지 않은 기업에도 적용되므로 기업들이 주를 떠날 필요가 없다고 강조했다. 또 오픈AI가 법안의 구체적인 조항을 비판하지 않고 단순히 연방 규제를 요구하는 점에 대해서도 비판했다. 해당 법안 표결은 오는 30일까지 진행된다. 통과될 경우 개빈 뉴섬 캘리포니아 주지사의 서명을 받게 된다. 뉴섬 주지사의 입장은 아직 명확하지 않지만 법안이 통과될 경우 산업계의 강력한 반발이 예상된다. 특히 오픈AI 측은 캘리포니아 주의 규제 환경 변화에 대한 우려로 샌프란시스코 사무실 확장 계획을 보류하고 있는 것으로 알려졌다. AI 업계 관계자는 "캘리포니아의 AI 규제가 통과하는지 여부에 따라 산업계의 대응이 달라질 수 있다"며 "실리콘 밸리가 위치해 테크 기업들이 몰린 지역이기 때문에 이번 표결에 많은 것이 걸려있다"고 밝혔다.

2024.08.22 15:24조이환

[기고] 리걸테크 서비스와 '우물 안 개구리'

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 최근 한 로펌에서 인공지능(AI) 기반 법률 챗봇 서비스를 출시했다가 이슈가 됐다. 대한변호사협회가 해당 로펌 소속 일부 변호사에 대한 징계절차를 추진하고 있기 때문이다. 협회는 해당 서비스가 '변호사가 아닌 자가 변호사가 아니면 할 수 없는 업무를 통해 보수나 그 밖의 이익을 분배받아서는 안 된다'는 변호사법 제34조 제5항을 위반했다는 것을 문제 삼고 있다. 생성 AI가 등장한 이래 해외에서는 판례 검색을 넘어 매우 광범위한 영역에서 리걸테크 서비스가 이뤄지고 있다. 또 AI를 통해 실질적인 법적 리스크 분석이나 상담에까지 이르는 깊이 있는 서비스를 제공하고 있다. 전 세계 리걸테크 기업 수는 지난해 말을 기준으로도 이미 7천여 개에 달했다. 우리나라가 올해 5월 AI 서울 정상회의를 성공적으로 개최해 글로벌 AI 기술 및 서비스를 선도하는 국가로 발돋움하고 있음에도 국내 리걸테크 기업은 지난해 말 기준 30여 개에 불과했다. 대표적인 리걸테크 서비스도 변호사들이 이용하는 판례 검색 서비스 수준에 그치고 있다. 전문가들은 국내 리걸테크 산업이 아직 초기단계에 머물러 있다고 진단하고 있다. 그 이유는 아마 AI 관련 규제, 특히 AI 기반 법률 서비스와 관련해 아무런 규제나 지침·해석이 존재하지 않기 때문이다. 이에 따라 업계에서도 출시 가능한 서비스의 형태를 가늠하는 것을 매우 어렵고 부담스러워 하는 것으로 추측되고 있다. 과잉 규제는 업계를 위축시킬 수 있다. 반대로 규제가 없다면 업계는 어디까지가 가능하고 어디부터는 금지되는 서비스인지를 예측할 수 없게 된다. 이에 따라 역설적으로 서비스 출시를 하지 않거나 매우 제한된 범위로만 소극적으로 출시할 수 밖에 없게 된다. 법률 서비스 업계는 특히나 제공 가능한 서비스의 테두리나 한계에 대한 공신력 있는 규범해석이 반드시 필요하다고 느낄 것이다. 법무부 역시 이러한 갈등 상황을 인지하고 있다. 이에 지난 해 일본 법무성이 발간한 'AI 등을 이용한 계약서 등 관련 업무지원 서비스 제공과 변호사법 제72조와의 관계에 대하여' 가이드라인 등을 참고해 관련 지침을 만들 계획이라고 알려져 있다. 일본의 경우 '보수'를 받을 목적으로 출시됐고 '법률사건'에 관계됐으며 '법률사무'를 처리하는 AI 법률 서비스는 일본 변호사법 제72조 위반에 해당한다. 참고로 이 조항은 국내 변호사법 제34조 제5항 및 제109조 제1호와 매우 유사하다. 또 앞서 언급된 AI 기반 법률 챗봇 서비스에서 핵심적으로 문제가 됐던 비변호사의 법률사무 취급 금지에 관한 내용을 담고 있어 참고할 의의가 있다. 일본 가이드라인의 내용을 좀 더 살펴보자. 가이드라인은 '법률사건' 요건과 관련해 '법률상 권리 의무에 다툼 없이 이른바 기업법무에서 취급하는 계약관계 사무 중 통상적인 업무에 수반되는 계약체결을 위한 통상적인 협의나 법적 문제점에 대한 검토'는 소위 '사건성'이 없으므로 AI 법률 서비스가 가능한 영역이라고 설명하고 있다. '법률사무' 요건의 경우 AI 법률 서비스가 계약서 작성·심사·관리 업무 지원 서비스를 제공할 때 이용자가 입력·기재한 내용에 따라 비정형적이고 구체적·개별적인 내용을 표시할 수 있다. 또 개별 사안에 따른 개별적인 법적 분석이 이뤄지는 경우도 있다. 이런 경우 서비스가 변호사법 위반에 해당될 수 있다고 가이드는 설명하고 있다. 가이드는 이를 대략적인 범위 또는 한계로서 제시하고 있는데 이는 눈여겨볼 만한 기준으로 생각된다. 물론 일본의 가이드라인도 법해석과 적용은 최종적으로 법원의 판단에 맡겨져 있으며 이 가이드라인은 '일반론'임을 밝히고 있다. 또 가이드라인이 많은 내용을 담고 있다고 보기는 어려워서 관련된 추가적인 논의와 해석이 뒤따라야 할 것이다. 그럼에도 이 가이드라인은 제도권 내에서 허용될 수 있는 AI 법률 서비스의 테두리를 일정 부분이라도 제시하며 업계가 어떤 방향성을 가지고 AI 법률 서비스를 설계해야 할지에 관한 단서를 제공한다. 나아가 향후 AI 기술·서비스의 발전에 맞춰 업계와의 논의를 거치며 제도를 개선하고 조정해 나갈 시작점을 마련했다는 점에서 작지 않은 의의가 있다. 실제로 일본은 가이드라인 발표 후 리걸테크 서비스 산업이 급성장한다는 평가를 받고 있다. 또 일본 로펌에서 근무하면서 실무를 겪어본 필자의 경험으로도 적어도 AI 기술 활용에 있어서는 일본 법조계가 한국보다 더 빠른 진전을 보여주고 있다는 생각이 든다. 국내 법조 서비스는 한국이라는 지역적 제한과 한국어라는 언어적 한계를 안고 있다. 글로벌 서비스가 이루어지는 리걸 테크의 영역에서 우리의 시야가 너무 좁았던 것이 아닌가를 다시 고민해볼 필요가 있다. 우리도 AI 기반 법률 서비스에 관한 지침 등을 통해 리걸테크 서비스들이 출시될 수 있는 '테두리'를 마련하기를 희망한다. 이를 통해 궁극적으로 우물 안 개구리에 그치지 않고 국민의 일상에 도움이 되는 AI 기반 법률 서비스들이 활발히 제공될 터전이 마련되기를 기대해 본다.

2024.08.20 14:24법무법인 태평양 상지영

[美 대선 속 AI-상] 해리스·트럼프 상반된 AI 정책…공통점도 있다?

미국 대선이 약 3개월 남았습니다. 공화당 대통령 후보 도널드 트럼프와 민주당 후보 카멀라 해리스는 정치색 만큼이나 인공지능(AI) 정책도 제각각입니다. 당선 결과에 따라 전 세계 AI 발전과 거버넌스에 미칠 파장이 큰 이유입니다. [美 대선 속 AI]은 두 후보 AI 정책에 어떤 차이점과 공통점이 있는지, 이에 따라 한국 등 아시아·태평양 국가들은 AI 사업·법제화 전략을 어떻게 마련해야 하는지 등에 대해 총 2편에 걸쳐 보도하겠습니다. [편집자주] 카멀라 해리스 미국 부통령과 도널드 트럼프 전 대통령이 각각 민주당과 공화당 대선 후보로 나선 가운데 전 세계가 이들의 인공지능(AI) 정책에 주목하고 있다. 그동안 두 후보가 상반된 AI 정책을 펼칠 것이란 예측이 나왔지만 의외로 공통점도 있는 것으로 나타났다. 15일 CNBC 등 외신 매체들에 따르면 카멀라 해리스 부통령은 지난 5일 민주당 대통령 선거 후보로 공식 확정됐다. 이에 따라 해리스 후보는 도널드 트럼프 공화당 후보와 오는 11월 대선에서 맞붙게 된다. 이에 전 세계 정부와 기업은 해리스·트럼프 후보의 AI 정책에 주목하며 대응책을 준비하고 있다. 미국 테크 업계에서는 해리스 부통령을 지지하는 100명 넘는 인사들이 '카멀라를 위한 벤처 캐피털리스트'를 결성했다. 이와 동시에 일론 머스크, 피터 틸 등 유명 기업가들도 트럼프 후보에 대한 지지를 공식 천명했다. 정계에서는 최근 AI사무소를 설립한 유럽연합(EU)이 트럼프 후보 당선에 대비해 전담 대응팀을 구성한 것으로 알려졌다. 전문가들은 이번 선거 결과가 향후 4년간 전 세계 AI 발전과 거버넌스에 큰 영향을 미칠 것으로 예측하고 있다. AI 기술이 어느 때보다 빠르게 발전 중인 현재 미국이 이 분야에서 세계 선두를 달리고 있다는 이유에서다. 해리스, AI 안전·혁신 조화 강조…트럼프, 미국 우선 대규모 투자 구상 전문가들은 해리스 후보가 대통령으로 당선될 경우 규제·개발 간 균형을 맞춰 AI 정책을 추진할 것으로 봤다. 트럼프 후보의 경우 기존 성향에 따라 '미국 우선주의'를 강하게 내세우고 규제를 완화하는 동시에 국가 주도의 AI 계획을 추진할 것으로 내다봤다. 특히 해리스 후보는 조 바이든 대통령과 비슷한 기조를 이어가며 AI 개발과 규제를 병행할 것이란 전망이 나왔다. 실제 해리스 후보는 지난 10월 바이든 행정부가 추진한 'AI 행정명령'의 핵심 책임자 역할을 맡았다. 이를 통해 AI 안전과 보안을 강화하고 혁신을 촉진하는 사업을 주도한 바 있다. 여러 측면에서 볼 때 해리스 후보는 AI 발전을 노동자 권리·교육·프라이버시·국제 협력 등의 가치와 접목시킬 것으로 보인다. 캘리포니아 주 검사 재직 시절 프라이버시와 데이터 관련 법안을 주도한 경험도 해당 예측을 뒷받침한다. 아기스 파파게오르기우 그리스 총리실 외교분석관 겸 영국 런던정경대 국제관계사 강사는 "해리스 후보는 기술 혁명을 최대한 활용하면서도 시민 복지를 저해하지 않을 법 제도 구축의 필요성을 잘 이해하고 있다"며 "그리스 정부 소속으로서가 아니라 개인적으로 봤을 때 해리스 후보는 AI의 안전한 개발과 사용을 우선시할 것"이라고 기자와의 통화에서 밝혔다. 트럼프 행정부의 AI 정책과 관련해 전문가들은 '미국 우선주의(America First)'를 중심으로 전개될 것이라고 입을 모았다. 알렉스 토 싱가포르 기술전문변호사 겸 정책 컨설턴트는 "트럼프 당선 시 공식 로드맵이 아닌 성향에 따른 '톱다운' 의사결정이 AI 정책에도 적용될 가능성이 크다"며 "이에 예측이 힘들고 본인의 개인적 성향이 강하게 반영될 것"이라고 분석했다. 이 분석은 트럼프 전 대통령이 재임 기간 동안 일관적으로 보인 미국 이익에 대한 강한 집착이 그대로 이어질 수 있음을 시사한다. 이에 따라 자국 AI 성장을 위해 기업 규제가 완화할 가능성이 크다. 또 AI 산업 성장을 위해 국가 주도로 대규모 투자를 시행하는 결과가 발생할 수 있다. 실제로 트럼프 대통령은 AI와 반도체 등 첨단 산업 분야에서 규제의 빗장을 완전히 풀겠다고 호언장담한 바 있다. 이러한 접근법은 규제가 혁신을 저해할 수 있다는 우려에서 비롯된 것이다. 또 트럼프 후보가 부통령 후보로 지명한 제임스 데이비드 밴스 상원의원 역시 지난 7월 상원 청문회에서 AI 규제보다 개발을 우선시해야 한다고 강조한 바 있다. 일각에서는 일론 머스크, 피터 틸 등의 공화당 지지가 이러한 행보와 맞물려 있는 것으로 분석한다. 자국 AI 우선 발전을 위한 국가 주도의 거대 프로젝트가 추진될 것이란 전망도 나왔다. 미 워싱턴포스트(WP)가 입수한 공화당 선거 캠프 내부문서에 따르면 트럼프 후보의 씽크탱크 아메리카 퍼스트 정책 연구소는 'AI 맨해튼 프로젝트' 시행을 검토한 바 있다. AI 맨해튼 프로젝트는 국가가 AI를 주요 전략 자원으로 설정하고 이 산업에 대규모 투자를 실시하려는 계획이다. 이를 통해 자국 AI 성장을 지원하고, 국외 AI 개입을 차단하겠다는 의도다. 해당 계획이 시행될 경우 미 국방부, CIA 등과 협력하는 팔란티어·안두릴 등의 미국 테크 기업들이 거대한 수혜를 볼 것으로 예측된다. 파파게오르기우 분석관은 "트럼프 후보는 AI 개발·사용에 있어 미국이 세계의 '등대' 역할을 하는 것을 바란다"며 "AI의 군사적 사용에 있어서도 윤리적 경계를 넘을 가능성이 있다"고 밝혔다. 미중 경쟁 우위·기업 주도 AI 성장에선 '초당파적' 행보 전문가들은 두 대선 후보의 정책과 성향이 매우 상이하지만 유사성도 있다고 입을 모았다. 미·중 AI 경쟁에서 우위를 점하기 위한 방향성과 기업친화적 행보가 대표적이다. 토 변호사는 "양자 대결 구도가 흑백논리처럼 굳어져 있지만 이는 단면만 보는 것"이라며 "해리스 부통령도 트럼프 전 대통령이 강조하는 안보와 자유를 간과하지는 않을 것"이라고 짚었다. 또 그는 "트럼프 후보도 해리스 후보가 집중하는 프라이버시, 노동권, 교육 등의 인간적 가치를 완전히 부정하지 않는다"고 강조했다. 두 후보 모두 중국과의 AI 경쟁에서 우위를 점하기 위한 견제책을 유지할 것으로 예측된다. 앞서 바이든 정부는 중국 견제를 위해 반도체 수출 규제를 최초 시행한 바 있다. 당시 바이든 대통령은 AI 기술 발전에 활용할 반도체 생산·제작 통로를 차단함으로써 기술 경쟁서 중국을 이기기 위한 목적이었다. 일각에선 해당 제한 조치가 두 후보 중 누가 당선돼도 유지될 것으로 봤다. 해리스 후보는 바이든 대통령 기조를 잇고, 트럼프 후보는 중국 견제와 미국 우선주의를 유지해야 하기 때문이다. 양당 후보는 AI 기술 발전이 정치 권력이 아닌 기업에서 나온다는 점에 동의하고 있다. 누가 대통령으로 당선돼도 AI 성장을 위해 어느 정도 기업친화적 전략을 취할 가능성이 높다. 이에 해리스 후보가 AI 안전과 규제를 중요시 여긴다고 하지만, 이를 정책으로 실현할 가능성이 낮다는 예측이 나오고 있다. 현재 마크 큐반 등 실리콘 밸리 유력 인사들이 해리스 후보의 스폰서다. AI 생태계 특성상 스타트업 역할이 크다는 점도 이유다. 오픈AI와 구글, 마이크로소프트 등 빅테크가 기술 혁신을 상당히 이뤘지만, 주요 스타트업도 지대한 역할을 한다. 현재 미국 스타트업은 빅테크와 손잡고 텐서플로우(TenserFlow)나 파이토치(PyTorch) 등의 라이브러리를 활용해 AI 연구를 오픈소스화 해 영향력을 행사하고 있다. 그동안 해리스 후보는 바이든 대통령과 중소·스타트업을 위한 진흥 정책을 펼쳐 왔다. 공화당 부통령 후보로 나선 트럼프 러닝메이트 JD 벤스도 스타트업에 대한 전폭적 지원을 약속했다. 이에 두 후보 모두 빅테크뿐 아니라 중소·스타트업에 친화적 행보를 보일 전망이다. 파파게오르기우 분석관은 "특정 대통령의 정책이 AI의 상업적 사용과 국제 협력을 보다 촉진할 수는 있겠지만 그 뿐"이라며 "AI 혁신은 대기업, 전문 스타트업, 소규모 회사 간의 협력을 통해 가능하지 법과 제도만으로 이루어지는 것은 아니다"라고 강조했다.

2024.08.15 15:00조이환

임용 서울대 교수 "글로벌 AI 거버넌스, 한국이 이끌어야"

"우리 AI 기술은 세계에서 얼마 안되는 거대언어모델(LLM)을 자체 생산하는데서 볼 수 있듯 경험과 기반이 갖춰진 상태입니다. 거버넌스 분야에서의 글로벌 논의 역시 대한민국이 주도하도록 성심성의껏 지원하는 것이 제 목표입니다." 서울대학교 법학전문대학원 임용 교수는 지난 12일부터 이틀간 개최된 '서울 AI 정책 컨퍼런스 2024(Seoul AI Policy Conference)'에 참가한 후 기자와 만나 이같은 포부를 밝혔다. 그는 행사를 주최한 서울대 AI 정책 이니셔티브(SAPI) 총책임자로, 지난 20년간 변호사·로스쿨 교수로서 활동하며 국제 AI 거버넌스 이슈들을 연구해왔다. SAPI가 서울대학교 인공지능신뢰성 연구센터(CTAI)와 함께 주최한 이번 행사에는 60명이 넘는 연사가 참여했다. 이 중 3분의 2는 해외 전문가들이었다. 특히 제이슨 권 오픈AI 최고전략임원과 세계적 법학자인 크리스토퍼 유 펜실베이니아대학교(유펜) 교수가 참석해 관심을 모았다. 14일 업계에 따르면 국내에서 주도한 AI 국제 협력은 이번이 처음은 아니다. 이해진 네이버 대표가 지난 7월 젠슨 황 엔비디아 대표와 함께 AI 발전을 논의하는 등 글로벌 기술 혁신을 주도해왔다. 지난 5월에는 과학기술정보통신부가 영국 정부와 함께 서울 AI 정상회의를 주최하는 등 거버넌스 분야에서도 발전이 있었다. 그럼에도 이번 행사가 특별히 주목받는 이유는 민간·학계가 주도해 AI 거버넌스 논의를 총망라했다는 점이다. AI 기술이 국경을 초월하는 이슈인만큼 글로벌 정합성을 고려한 연사 구성과 주제 선정이 이뤄졌다. 특히 기존에 자주 다뤄진 AI 인권과 거버넌스뿐만 아니라 표준화·경쟁·저작권·프라이버시·가짜 정보 등 다양한 주제가 논의됐다. 임 교수는 "포괄적인 논의를 위해 하루 짜리로 계획했던 행사를 이틀로 늘렸다"며 "우선순위 때문에 다루지 못한 주제도 있다"고 말했다. 반응은 뜨거웠다. 이틀 내내 청중들이 자리를 가득 메웠고 예측한 인원보다 참가자가 많아 행사장 밖에도 원격 텔레비전과 자리가 마련됐다. 임 교수는 "국내 AI 규제와 거버넌스가 니치(Niche) 분야임에도 불구하고 자발적으로 참석한 외국인 청중들이 많았다"며 "서울 정상회의가 추구한 논의를 학계가 이은 이번 행사를 통해 한국이 기술뿐만 아니라 거버넌스도 주도하길 바란다"고 강조했다. '서울 AI 정책 컨퍼런스'의 성공 배경에는 SAPI의 글로벌 연구 네트워크가 있었다. 지난 2017년 창설 이후 SAPI는 다양한 국내·해외 연구진과의 협업으로 인적 네트워크를 구축해 왔으며 이번 행사에서 그 성과를 총체적으로 활용했다. 특히 임 교수는 "유펜 법전원 및 기술, 혁신 및 경쟁 센터(CTIC)와의 협업 경험이 세계적 석학인 크리스토퍼 유 교수를 초청할 수 있었던 배경"이라며 "유 교수 같은 스타 학자뿐만 아니라 기술·거버넌스 발전 현장에서 땀 흘리고 있는 젊은 신진 연구자들도 초청했다"고 설명했다. 이번 컨퍼런스에선 한국뿐만 아니라 미국, 유럽, 일본의 산·학·연 전문가들이 각자의 입장을 공유하며 AI 규제 철학의 차이를 논의하기도 했다. 유럽연합(EU)은 권역 내 통일성을 유지하고 회원국이 개별 법을 적용하지 않으려는 목표를 가지고 있다. 일본은 저출산과 고령화 문제를 고려한 연성 접근을 취하고 있다. 또 미국은 경쟁 기반의 실험적 접근을 채택했다. 임 교수는 "각 나라별로 상이한 AI 거버넌스 철학과 그 배경을 모두 살펴보며 고민해야 한다"며 "이를 또 경제, 정치, 사회, 행정, 안보, 문화 등 다양한 측면에서 감안할 때만 우리에게 맞는 AI 규제를 만들 수 있다"고 강조했다. 현재 AI 기술은 발전 초기 단계에 있으며 아직 본격적인 AI의 도입 역시 이뤄지지 않은 상태다. 생성 AI가 최초로 등장해 대중에게 자리잡은 것은 겨우 1년 반 전의 일이다. 또 대다수의 기업들은 아직 AI 전환(AX)을 시작하지 않고 있다. 임 교수는 "아직 우리는 다른 나라들의 혁신적 실험들을 참고하며 미래에 대비할 여유가 있다"며 "열매 '아보카도'가 너무 늦게 따도 맛이 없고 일찍 따도 먹지 못하듯 'AI'라는 과실을 제 때 딸 수 있도록 노력해야 한다"고 설명했다. 적시에 AI 거버넌스를 발전시키기 위해서는 국내 로컬 데이터가 매우 중요하다. 일례로 한국이 거대언어모델(LLM)을 발전시킬 수 있었던 데에는 기존의 한국어 데이터셋이 중요하게 작용했다. 임 교수는 "마찬가지로 우리 실정에 맞는 입법과 규제를 위해서도 우리 문화와 사회에 맞는 데이터가 필요하다"며 "한국 사회에 걸맞는 데이터를 확보할 때에야 비로소 우리를 위한 AI 규제를 입법할 실증적 근거를 마련할 수 있을 것"이라고 주장했다. 그러면서 "이번만큼은 추상적인 담론이나 해외 사례에 의존할 수 없다"며 "AI는 향후 우리의 먹거리로, 적절한 거버넌스와 기술을 발전시키는데 실패한다면 미래를 보장할 수 없게 된다"고 강조했다.

2024.08.14 16:08조이환

금융권 망분리 규제 특례 시행…생성형AI 활용 가능해진다

금융위원회가 인터넷 차단(망 분리) 규제를 단계별로 개선해 금융업권의 생성형 인공지능(AI)과 서비스형 소프트웨어(SaaS) 등을 활용할 수 있게 하기로 했다. 13일 오후 김포 KB국민은행 통합IT센터에서 열린 '금융분야 망 분리 개선 로드맵' 행사에서 김병환 금융위원장은 "클라우드·AI 등 급변하는 IT 환경 하에서 일률적인 망 분리 의무화 정책은 우리나라에만 존재하는 대표적인 규제로 국내 금융산업의 글로벌 경쟁력을 저해하는 요인으로 지적받고 있다"며 "망 분리 규제를 일시에 완화하기보다는 충분한 안전 장치를 전제로 단계적인 규제 개선을 추진해 나갈 계획"이라고 말했다. 크게 망 분리 규제는 두 가지 방향으로 바뀔 전망이다. 하나는 즉시 망 분리 규제가 필요한 부분에 대해서는 규제 샌드박스(특례)로, 다른 하나는 '디지털 금융보안법'을 제정해 전반적인 금융업권의 보안에 관해 다루겠다는 것이다. 금융사는 규제 특례를 통해 생성형AI를 쓸 수 있게 된다. 금융사 내부와 AI모델(외부) 간 연결을 위한 망 분리 규제 특례나, 해외 소재 AI를 통한 가명정보 처리를 위한 데이터 특례를 부여해 생성형AI 개발과 적용이 가능해진다는 것이 금융위 측 설명이다. 그러나 해외 소재 AI에 가명처리된 개인 정보를 처리하는 데이터 특례는 개인정보보호법이 걸려 있어 개인정보보호위원회와 논의가 필요하다. 금융위 측은 "예상되는 리스크에 대한 보안대책을 조건으로 부과하고 금융감독원·금융보안원이 신청 기업별 보안 점검·컨설팅을 실시하는 등 충분한 안전장치를 마련할 계획"이라고 설명했다. 사내 업무에만 활용됐던 클라우드 기반 SaaS도 이용 보안 관리, 고객 관리(CRM) 등에 쓸 수 있도록 규제 특례가 부여된다. 향후 규제 특례로 도출된 사례를 통해 금융위는 올해 4분기부터 디지털 금융보안법 마련을 준비한다. 법의 기본은 금융사가 세부 보안 통제를 자율적으로 구성하되, 사고 발생 시 배상 책임을 확대하고 과징금을 부과하는 방향이다. 이밖에 제3자 리스크(3rd-party risk)에 대한 관리를 강화하기 위해 관련 제도 정비를 추진한다는 방침이다. 김병환 위원장은 "그동안 망 분리에 기대어 보안 분야 투자에 소홀함이 있었다면, 지속적으로 확대해 나가는 계기가 되길 바란다"며 "제도 개선 상황을 주시하면서 필요한 보완 조치를 취해나가겠다"고 강조했다.

2024.08.13 14:00손희연

[현장] '두 갈래'로 나뉜 AI 거버넌스 모델…韓 선택은?

세계 각국 정부가 인공지능(AI) 거버넌스 모델을 두 가지 방향으로 통일하고 있다는 주장이 나왔다. 유럽에선 유럽연합(EU) AI법이 기준이 돼 규제를 강화하는 반면, 북미와 아시아는 완화적 접근을 선호하고 있어서다. 한국을 비롯한 미국, 독일, 일본의 전문가들은 12일 서울 페럼홀에서 열린 '서울 AI 정책 컨퍼런스 2024'에 각국 AI 거버넌스 현황을 소개했다. 토론 목표는 AI 기술 발전 속에서 각국이 AI 규제와 혁신을 어떻게 조화시킬 수 있을지에 대한 해법 모색이다. 펜실베니아대 크리스토퍼 유 교수는 "현재 AI는 규제보다 발전이 더 필요한 단계"라며 "이를 위해 전 세계 다양한 글로벌 거버넌스 모델을 살펴볼 필요가 있다"고 강조했다. 유 교수는 EU의 AI법을 그 시작점으로 꼽았다. EU는 헬스케어, 자율주행 등 고위험 산업에 위험도 기반으로 AI법을 적용하고 있다. 또 최근 생성형 AI로 인해 다목적 AI에 대한 규제를 도입했다. EU 국가는 법적 구속력 있는 AI 법에 따라 향후 2년 동안 전담 기관인 AI 오피스를 운영하고 각 회원국들의 책임 기관을 선정하는 작업을 진행할 계획이다. 튀빙겐대 미셸 핑크 교수는 "EU의 AI법 제정은 회원국들이 자국 AI법을 따로 제정하는 것을 방지하기 위한 목적"이라며 "앞으로 유럽 내 AI 거버넌스는 EU가 총괄할 것"이라고 전망했다. 이와 달리 미국은 산업별로 맥락에 맞는 규제를 적용하는 유연한 접근법을 취하고 있다. 실제 바이든 정부가 지난해 11월 제정한 행정명령은 산업별로 특정 규칙을 적용하는 '연성 규제(Soft law)' 성격을 지녔다. 이런 접근법은 AI 혁신을 촉진하면서도 필요한 규제를 유지하는 데 중점을 둔다. 일본도 미국 기조를 따라 수평적 연성법을 통해 AI 정책을 추진하고 있다. 일본은 법이 혁신을 방해하지 않게 하고자 '인간 중심적 AI 솔루션'을 목표로 하는 '소사이어티 5.0' 비전을 제시한 바 있다. 게이오대 요시나가 쿄코 교수는 "AI가 저출산 고령화 등 일본 사회 문제 해결의 중요한 솔루션으로 떠오르고 있다"며 "이에 따라 법적 구속력 없는 포괄적 법안을 구상 중"이라고 밝혔다. 한국도 혁신을 강조하는 방향으로 나아가고 있다. 지난 2020년 최초로 AI 법안을 발의하고 국내 산업 경쟁력 강화를 위한 다양한 노력을 기울였다. 현재 국내 정부는 혁신과 안전의 조화를 위해 EU 규제를 일정 부분 참고하고 있다. 과학기술정보통신부는 현재 EU AI법을 참고해 고위험AI와 금지된AI, 생성형 AI 정의 등을 한국 체계에 맞게 반영하기 위해 노력 중인 것으로 알려졌다. 과기정통부 남철기 AI기반정책과장은 "AI 혁신을 중시하면서도 국내 상황에 맞는 규제 체계를 구축해 나가고 있다"며 "기술 발전 속도가 매우 빠르기 때문에 유연한 규제 프레임워크를 마련하는 것이 중요하다"고 강조했다.

2024.08.12 17:22조이환

美 캘리포니아, AI 규제안 통과 '임박'…빅테크·학계 '긴장'

미국 캘리포니아 주 의회가 초강력 인공지능(AI) 규제법안 'SB 1047'을 통과시킬 가능성이 커지면서 실리콘밸리 빅테크 기업들이 긴장하고 있다. 이 법안이 통과되면 AI 혁신과 오픈소스 개발에 거대한 타격을 줄 것으로 예상된다. 8일 월스트리트저널 등 외신에 따르면 캘리포니아 주 하원은 이번 주 'SB 1047' 법안을 표결에 부칠 예정이다. 이 법안은 지난 5월 상원에서 여야가 합의해 통과됐기에 하원에서도 무난히 통과될 것으로 보인다. SB 1047의 주요 내용은 둘로 나뉜다. 우선 5억 달러(약 6천890억원) 넘는 피해 발생 가능성이 있는 사이버 보안 공격을 시행하거나 생물학·핵무기를 개발할 수 있는 능력의 AI 모델 개발을 금지하는 것이다. 또 AI 개발자들은 주기적으로 안전 테스트 결과를 보고하고 통제가 어려울 때는 이를 중단할 '킬 스위치'를 도입해야 한다. 이 법안은 훈련에 1억 달러 이상(약 1천376억원)의 비용이 드는 모델에 적용되며 실리콘밸리의 주요 AI 기업들은 물론이고 중소기업과 스타트업들도 이에 해당된다. AI 업계는 이 법안에 강하게 반발하고 있다. 특히 오픈소스 모델을 사용하는 기업의 반발이 특히 심한 것으로 전해졌다. 이들 업체가 사용자의 제품 사용 용도를 예측하는 것은 불가능하기 때문이다. 이에 따라 'SB 1047'이 발효될 경우에는 AI 오픈소스 생태계가 극도로 위축될 것으로 예상된다. 'AI의 대모'로 불리는 페이페이 리 스탠포드 대학교 교수는 "이 법안은 태생적으로 오픈소스 개발을 억제할 것"이라며 "개발 커뮤니티와 학계에 큰 피해를 줄 수 밖에 없다"고 말했다. 리 교수의 말처럼 'SB 1047'의 통과는 AI 연구 및 교육 환경에도 부정적인 영향을 미칠 것으로 예측된다. 학생들과 연구자들은 이미 기업에 비해 데이터와 컴퓨팅 자원 측면에서 불리한 상황에 놓여있기 때문이다. 이 상황에서 개발자의 법적 부담이 증가하고 오픈소스가 사실상 제한될 경우 학계는 큰 타격을 받을 수 밖에 없다. 현재 미국 전역의 주 의회에 약 400개의 AI 관련 법안이 상정되어 있지만 캘리포니아 주는 그 중 가장 적극적으로 AI 규제를 추진하고 있다. 실리콘밸리가 캘리포니아에 위치해 미국 기술혁신의 상당수가 이 지역에서 진행됨을 감안하면 그 파급력은 엄청나다. 한 테크 업계 관계자는 "SB 1047 법안은 AI 혁신을 저해하고 학계와 중소기업에 큰 타격을 줄 것"이라며 "캘리포니아 주 의회는 이 법안의 부작용을 고려하고 신중히 검토해야 한다"고 강조했다.

2024.08.08 17:41조이환

"한국은 기본법도 없는데"…EU, 세계 최초로 AI 법안 발효

유럽연합(EU)이 인공지능(AI)법을 세계 최초로 발효했다. AI 기술의 안전하고 책임 있는 개발 및 사용을 촉진하기 위함이다. 2일 CNBC 등 외신에 따르면 EU AI법은 회원국·의회·집행위원회의 최종 승인을 받아 지난 1일부터 시행됐다. 이 법은 AI의 부정적 영향을 줄이고 기술 개발을 촉진하는데 필요한 법적 프레임워크 마련을 위해 도입됐다. EU AI법은 '금지 AI', '고위험 AI', '범용 AI 시스템' 등 총 12개의 주요 장으로 구성돼 있다. 특히 AI 시스템의 위험도를 기준으로 규제를 달리하는 '위험 기반 접근법(Risk-based approach)'을 채택해 엄격한 규제를 적용하거나 심지어는 금지한다. EU는 인권 침해 여부를 '금지·고위험 AI'의 주요 기준으로 삼는다. 여기에는 중국이 운영하는 시민 점수 체계나 구직자에게 순위를 매기는 이력서 스캐닝 도구와 같이 시민 자유·노동자 권리를 심각하게 침해하는 AI가 포함된다. 생성 AI에 대한 규제도 포함된다. 법안은 오픈AI '챗GPT', 구글 '제미나이', 앤트로픽 '클로드' 등을 범용 AI 시스템으로 규정하고 저작권 준수·투명성 공개·사이버 보안 보호 등 엄격한 규제를 부과한다. EU AI법은 시행 즉시 발효됐지만 대부분의 조항은 내후년부터 적용될 예정이다. 특히 상용 생성 AI 시스템에 대한 기업 의무 이행에는 36개월의 유예 기간이 주어졌다. 법안을 위반한 사업자는 최대 3천500만 유로(한화 522억원) 또는 연간 매출의 7%를 벌금으로 부과 받게 된다. 법안 실현을 위해 EU는 지난 3월 AI 사무소를 개설했다. 27개 유럽 회원국의 AI 관련 협력을 이끌고 법안 준수 여부를 모니터링 및 감독할 예정이다. EU 당국은 "AI법 최초 도입은 글로벌 표준을 만들기 위한 중요한 단계"라며 "이미 EU의 일반데이터보호규정(GDPR)은 국제 데이터 규제의 표준으로 작용한 바 있다"고 밝혔다.

2024.08.02 16:54조이환

"AI가 내 일자리 뺏을까"…新 러다이트 운동 확산

인공지능(AI) 도입에 대한 찬성과 반대 여론이 팽팽히 맞선 가운데 관련 논의와 규제를 촉구하는 목소리가 커지고 있다. 29일 가디언에 따르면 패션 브랜드 시어룩스(SheerLuxe)는 이번 달 AI 패션·라이프스타일 편집자 '림(Reem)'을 도입했다. 패션에 해박한 20대 여성을 콘셉트로 한 '림'은 팔로워에게 제품을 추천하는 등 인간 직원이 하던 일을 처리할 계획이었다. 이는 여론의 거센 반발을 불렀고 시어룩스는 사흘 만에 사과 성명을 발표했다. 이는 시어룩스만의 사례가 아니다. 런던에 위치한 프린스찰스극장(The Prince Charles Cinema)은 지난 6월 AI 제작 영화 상영을 계획하다가 관객의 반대로 이를 취소했다. 최근 실리콘밸리의 인사(HR) 소프트웨어 스타트업 래티스(Lattice)도 인간과 근무하는 AI직원을 도입하려다 뭇매를 맞고 이를 철회한 바 있다. 이처럼 최근 기업들이 AI 도입을 시도하다가 소비자의 거센 반발에 직면하는 사례가 증가하고 있다. 다수 외신은 AI가 인간의 노동기회를 박탈할 것이라는 우려로 생긴 반발이라고 평가했다. 최근 일부 반 AI 운동가들은 자신들을 신(新) '러다이트(Luddite)'로 칭하며 반기술운동을 주도하고 있다. 이들은 인터넷과 소셜미디어 힘으로 AI 반대 운동을 강력히 추진 중이다. 특히 미국 샌프란시스코에서 활동하는 세이프 스트리트 레벨(Safe Street Rebel)은 자율주행 택시를 공격하는 등 적극적인 오프라인 활동도 병행하고 있다. 반면 일각에서는 AI가 인류를 해방시킬 기술 혁명이라고 주장했다. 지난해 영국 AI 정상회의를 주도했던 매트 클리포드 엔터프리너퍼스트(Entrepreneur First) 대표는 최근 한 행사에서 AI를 두고 '영국을 위한 최고의 기회'로 묘사한 바 있다. 이처럼 두 입장이 서로 팽팽히 대치하고 있는 상황에서 가디언은 "AI가 긍정적 변화를 가져올 가능성은 충분히 존재하지만 현재 피해도 만든다"며 "기술이 규제되지 않는다면 대중의 반발은 더욱 커질 것"이라고 경고했다.

2024.07.29 11:08조이환

"디지털산업 경쟁력 첫걸음, 새 입법 아닌 규제 철폐"

"디지털산업 육성을 위해선 새로운 입법보다는 기존 규제를 철폐하는 개정 작업이 필요하다...규제를 개선하기 위해서는 디지털 경제 관련 정책을 총괄할 부처가 필요하고, 국가대표급 AI기업 양성에 대한 국가적 지원이 필요하다." 차세대 디지털산업 육성에 앞서 규제가 개선되지 않으면 디지털산업이 한국에 뿌리내리기 어려울 것이라는 업계 의견이 나왔다. 25일 국회 의원회관 제1세미나실에서는 국회 '디지털경제3.0포럼' 창립식이 열렸다. 디지털경제3.0포럼은 이성권 의원과 새로운 미래 김종민 의원이 공동대표를 맡고 있는 국회의원 연구단체다. 이번 행사는 포럼 창립식과 함께 기념 세미나를 열어 향후 포럼의 운영 방향과 연구 방법 등을 모색하고자 마련됐다. 이날 행사에는 포럼의 축사를 맡은 박찬대 더불어민주당 원내대표와 한동훈 국민의힘 대표 등 여야 의원들이 참석해 디지털경제부문 진흥책에 대한 의견을 청취했다. 포럼 창립기념 세미나의 첫 번째 기조 발제는 '왜 디지털경제3.0인가'라는 주제로 박성호 한국인터넷기업협회장이, 두 번째 기조 발제는 '디지털 기반 스타트업 육성 방안'이라는 주제로 구태언 코리아스타트업포럼 부의장이 맡았다. 박 회장은 '디지털경제3.0'의 핵심을 인공지능(AI)으로 소개하고, 디지털산업 경쟁력 강화를 위한 과제로 ▲디지털 규제 개선 ▲디지털 경제정책 컨트롤타워 구축 ▲국가 차원의 지원을 꼽았다. 박 회장은 "중국과 미국의 AI 투자 규모가 한국보다 월등히 크다"며 "AI 패권경쟁을 위해 네이버, 카카오 등 국내 기업도 투자를 받아야야 하지만 국내는 규제상황이 불확실해 다들 투자를 어려워하는 분위기"라고 진단했다. 그는 "외부효과를 고려하지 않는 정책은 시장에 부정적인 영향만 미친다"면서 "국내에는 규제영향평가 제도가 없고, 명분에만 집착한 나머지 증거 기반 실용적 법제가 미흡하다"고 지적했다. 박 회장은 "디지털산업 육성을 위해선 새로운 입법보다는 기존 규제를 철폐하는 개정 작업이 필요하며, 기존 법안에 대한 평가도 있어야 한다"며 "규제를 개선하기 위해서는 디지털 경제 관련 정책을 총괄할 부처가 필요하고, 인식도를 제고해 국가대표급 AI기업 양성에 대한 국가적 지원이 필요하다"고 주장했다. 구 부의장은 기조 발제를 통해 디지털경제3.0 기반 혁신 스타트업 4대 분야인 ▲인공지능·기계학습 ▲블록체인·암호 자산 기술 ▲빅데이터·데이터 분석 ▲메타버스·확장 현실에 대해 설명하고 분야별 육성 방안에 대해 제언했다. 그는 '웹3'로 불리는 블록체인 산업 현황을 설명하면서 "정부가 중재자가 아닌 이해관계의 당사자로서 규제 혁신에 비중립적인 태도를 보이고 있다"고 꼬집었다. 구 부의장은 AI 분야 스타트업도 한국에서는 산업을 키우기 어렵다고 비판했다. 산업 성장을 막는 대표적인 규제로는 '개인정보보호법'과 '저작권법'을 꼽았다. 그는 "개인정보보호법이 보호하는 범위가 너무 넓어서 데이터를 활용하는 AI 서비스를 제공할 수 없는 경우가 한 둘이 아니다"며 "요즘같이 폭우가 내릴 때 유용한 재난 AI 개발도 이대로는 난망하다"고 탄식했다. 디지털산업의 분야별 육성 방안에 대해 구 부의장은 "인공지능 스타트업에 대해서는사후에 규제를 하는 방식으로 속도감을 주는 것이 중요하며, 블록체인 등 암호 자산은 '분산금융'을 허용해야 한다'고 주장했다. 이성권 의원은 "디지털 산업의 빠른 성장은 우리에게 무한 가능성과 기회를 제시해 주고 있지만, 그에 따른 초격차 시대의 도래와 함께 선도자의 역할 또한 강하게 요구받고 있다"며 "초격차 시대를 선도하기 위해 혁신적인 아이디어, 창의적인 기술과 함께 규제개혁·제도개선이 중요하다"고 강조했다. 그러면서 "디지털경제3.0포럼이 디지털산업의 경쟁력 제고를 위한 정책과제를 발굴하고 대한민국의 지속적인 성장과 발전 전략도 함께 논의하고 모색해 나가는 정책 공간으로 만들자"고 제안했다.

2024.07.25 19:07정석규

엔비디아, 중국 시장 판매용 AI 칩 연구

엔비디아가 중국 시장을 겨냥한 맞춤형 플래그십 인공지능(AI) 칩을 개발 중이다. 22일(현지시간) 로이터 등 외신에 따르면, 엔비디아는 현재 미국의 대중국 수출규제 기준에 맞춘 중국 시장용 플래그십 AI 칩을 개발 중이다. 로이터는 해당 플래그십 AI 칩이 엔비디아의 '블랙웰(Blackwell)' 칩 시리즈가 기반이 될 것으로 예상했다. 엔비디아는 올해 말 대량 생산될 예정인 블랙웰 칩 시리즈를 지난 3월 공개했다. 엔비디아에 따르면 블랙웰 AI 칩은 챗봇 답변 등 일부 작업에서 이전 모델보다 30배 더 빠른 속도를 자랑한다. 로이터는 "엔비디아는 중국 유통 기업 인스퍼(Inspur)와 협력해 앞으로 나올 AI 칩 출시와 배포를 진행할 것"이라고 보도했다. 하지만 엔비디아와 인스퍼는 해당 사안에 대해 공식적인 입장을 내지 않았다. 미국은 지난해 중국에 대한 첨단 반도체 수출 통제를 강화하면서 군사력에 도움이 될 슈퍼컴퓨터 기술 유출을 막으려 했다. 이에 엔비디아는 중국 시장을 위해 성능을 수출 기준에 맞춘 AI 칩을 개발하는 것이다. 2년 전까지만 해도 엔비디아의 대중국 매출은 전체 매출의 26%을 차지할 정도로 큰 비중을 차지했다. 하지만 미국의 제재 여파로 올해 들어 엔비디아의 대충국 매출에서 전체의 17%까지 떨어졌다. 리서치 그룹 세미애널리시스(SemiAnalysis)의 추정에 따르면, 엔비디아는 올해 중국에서 100만개 이상의 AI 칩을 판매할 예정이며, 이는 120억달러(약 16조6천620억원) 이상의 가치가 있다.

2024.07.23 10:03정석규

메타, EU서 생성형 AI 무기한 연기..."규제 불확실"

메타가 유럽에서 생성형 인공지능(AI) 시스템 출시를 미루며 유럽의 규제 불확실성을 이유로 들었다. 지난 21일(현지시간) 메나에프엔(MENAFN) 등 외신에 따르면, 메타는 이날 유럽 사용자를 위한 최신 생성형 AI 인터페이스의 무기한 출시 연기를 발표했다. 메타가 밝힌 연기의 주요 사유는 '불분명한 EU 규제체계'다. 메타가 연기한 프로그램은 오픈소스 대형언어모델(LLM) '라마3(Lama3)'을 활용한 멀티모달 프로그램으로, 페이스북·인스타그램·메신저·왓츠앱 등 메타의 플랫폼에서 텍스트·이미지·지도를 통합하고 생성하도록 설계됐다. 메타는 원래 해당 프로그램을 이달 안에 출시할 예정이었지만, 유럽 연합에서 출시를 보류하기로 결정했다. 지난 5월 말, 유럽연합의 27개 회원국은 2026년 발효될 인공지능 규제 법안을 승인했다. 다만 유럽연합이 시행 중인 '개인정보보호규정(GDPR)'이 메타의 출시 연기에 영향을 미쳤다. GDPR은 지난 2018년부터 EU 각 회원국에서 시행중이며 유럽 연합(EU)의 시민의 데이터를 활용하는 경우 GDPR을 준수해야 한다. GDPR의 주요 항목으로는 ▲사용자가 본인의 데이터 처리 관련 사항을 제공 받을 권리 ▲열람 요청 권리 ▲정정·삭제 요청 권리 등이 있다. 메타 관계자는 "AI 언어 모델을 개발하는 데 중요한 인터넷에 게시된 공개 데이터를 사용할 때 유럽의 규제와 충돌할 가능성이 있다"며 "유럽 각국의 GDPR 해석도 어떻게 이뤄질 지 확실하지 않다"고 말했다. 다만 그는 "GDPR과 유사한 규제를 만든 영국에서는 명확한 규제 지침을 받았으며, 이를 통해 영국에서는 이 프로그램을 출시할 수 있다"고 밝혔다.

2024.07.22 09:21정석규

[기고] 알고리즘과 AI의 차이점…규제가 중요한 이유

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 알고리즘과 인공지능(AI)은 현대 기술의 중심에 자리잡고 있다. 이 둘은 종종 혼용되거나 유사한 개념으로 이해되기도 하지만 그 본질과 작동 방식, 응용 분야는 다소 다르다. 알고리즘은 특정 작업을 수행하기 위해 설계된 명확한 단계적 절차나 규칙의 집합이다. 이들은 입력 데이터를 받아 처리하고 결과를 도출하는 과정에서 일련의 지침을 따른다. 예를 들어 정렬 알고리즘은 숫자나 문자의 리스트를 특정 순서로 정렬하는데 사용된다. 알고리즘은 수학적 논리와 명확한 지침을 바탕으로 작동하며 예측 가능하고 재현 가능한 결과를 제공한다. 반면 AI는 기계가 인간의 지능적 행동을 모방할 수 있도록 하는 기술의 집합이다. AI는 머신 러닝, 딥 러닝 등 다양한 기술을 포함하며 이러한 기술들은 데이터를 통해 학습하고 패턴을 인식하며 예측을 수행할 수 있다. AI 시스템은 스스로 데이터를 분석하고 경험을 통해 성능을 향상시키며 복잡한 문제를 해결할 수 있다. 이는 알고리즘과 달리 더 큰 유연성과 자율성을 제공하지만, 그 결과는 항상 예측 가능하거나 명확하지 않을 수 있다. 알고리즘과 AI는 많은 공통점을 가지지만 규제의 필요성이 있어서 중요한 차이점이 존재한다. 알고리즘은 명확한 규칙에 따라 작동하므로 이에 대한 규제가 상대적으로 간단하다. 즉 알고리즘의 코드와 로직을 분석함으로써 그 작동 방식을 이해하고 문제가 발생할 경우 이를 수정할 수 있을 것이다. 하지만 AI는 그 복잡성과 자율성 때문에 규제가 더 어렵다. AI 시스템은 수많은 데이터를 기반으로 학습하고 그 작동 원리는 불투명한 경우가 많다. 이로 인해 AI의 결정에 어떤 편향이나 오류가 발생할 수 있는지 이해하고 검증하기는 매우 어려울 것이다. 이에 따라 AI에 대한 규제는 신중하게 접근해야 한다. AI의 정의가 아직 명확하지 않고 그 응용 분야도 빠르게 변화하고 있기 때문에 성급한 규제는 기술 발전을 저해하거나 의도치 않은 결과를 초래할 수 있다. 예컨대 지나치게 엄격한 규제는 AI 연구 및 개발의 속도를 늦출 수 있다. 이는 글로벌 경쟁력에 부정적인 영향을 미칠 수 있다. 반면 규제가 너무 느슨하면 AI의 오남용이나 윤리적 문제를 방지할 수 없을 것이다. AI 규제의 복잡성은 그 기술적 특성뿐만 아니라 사회적, 윤리적 측면에서도 나타난다. AI는 개인 정보 보호, 데이터 보안, 윤리적 결정 등 다양한 문제를 포함하고 있으며 이는 단순한 기술적 규제로 해결할 수 없는 경우가 많다. 자율 주행 차량 내 AI의 경우 도로 안전과 관련된 복잡한 윤리적 결정을 내릴 수 있어야 한다. 이러한 상황에서 AI의 행동을 규제하는 것은 기술적 문제뿐만 아니라 사회적 합의와 윤리적 기준을 필요로 한다. 이에 AI 규제는 단계적이고 포괄적인 접근이 필요하다. 먼저 AI 시스템의 투명성을 높이는 것이 중요하다. 이는 AI가 어떤 방식으로 작동하는지, 어떤 데이터에 기반해 학습했는지를 명확히 밝히는 것을 의미한다. AI의 결과에 대한 책임도 명확히 해야 한다. 이는 AI 시스템의 오작동이나 잘못된 결정에 대해 누가 책임을 질 것인지를 규명하는 과정이다. 마지막으로 AI의 사회적, 윤리적 영향을 평가하고 이에 대한 기준을 마련해야 한다. 이는 AI가 사회에 미치는 긍정적, 부정적 영향을 균형 있게 고려하는 것을 의미한다. 알고리즘은 이미 규제되고 있으며 이는 그 명확한 정의와 예측 가능한 특성 덕분이다. 반면 AI는 그 정의와 응용이 아직 명확하지 않고, 복잡성과 자율성으로 인해 규제가 더 어려운 상황이다. 이에 따라 AI 규제는 신중하게 접근해야 한다. 또 기술적, 사회적, 윤리적 측면을 모두 고려하는 포괄적인 접근도 필요하다. 이는 AI가 사회에 긍정적인 영향을 미치면서도 그 위험을 최소화할 수 있는 길을 마련할 것이다.

2024.07.19 17:20법무법인 태평양 정상훈

트럼프 부통령 후보 "AI 규제보다 개발 우선"…IT 커뮤니티 '옹호'

최근 도널드 트럼프 전 미국 대통령의 공화당 부통령 후보로 지명된 제임스 데이비드 밴스 상원의원이 오픈소스 인공지능(AI)을 옹호하는 발언으로 IT 커뮤니티 지지를 받고 있다. 19일 미국 테크 전문지 벤처비트에 따르면 밴스 의원은 지난 13일 '미국인 프라이버시 보호와 AI 가속' 상원 청문회에 참석해 AI의 과도한 규제에 반대하는 입장을 밝혔다. 이날 청문회에서 밴스 의원은 "AI 분야에서 고점을 차지한 빅테크 대표들이 신기술 리스크에 대해 말하고 규제를 강조한다"며 "이는 빅테크에 유리할 뿐 미국 소비자들에게는 도움되지 않는다"고 말했다. 일부 기술 전문가들은 이를 오픈소스 AI를 지지하는 발언으로 해석하고 소셜미디어 엑스(X) 계정에 밴스의 발언을 인용하며 칭찬했다. 특히 오픈소스 기반 AI 모델 공급업체 아바커스 AI(Abacus AI)의 빈두 레디 대표는 "밴스가 완벽하게 해냈다"며 "해결책은 오픈소스"라고 강조했다. 밴스 의원은 자수성가한 벤처 캐피탈리스트 출신의 공화당 상원의원이다. 미 남부 지역 애환을 다룬 베스트셀러 '힐빌리의 노래(Hillbilly Eledgy)' 저자로도 알려져 있다. 또 그는 유명한 자유지상주의 투자자 피터 틸의 지원을 받아왔다. 외신은 밴스 의원이 AI 기술에 대한 입장으로 인해 향후 메타 같은 오픈소스 모델 개발사 지원을 받을 수 있을 것이라고 전망했다. 동시에 "트럼프 전 대통령과의 정책 일치 여부는 여전히 미지수"라고 분석했다.

2024.07.19 11:55조이환

총리 바뀐 英…키어 스타머 등장에 AI 규제 방향 바뀔까

키어 스타머 노동당 대표 겸 영국 총리가 찰스 3세 국왕의 '킹스스피치'에 앞서 인공지능(AI) 관련 규제에 나설 것을 시사했다. 어떤 방식으로 법안을 만들지는 구체적으로 발언하지 않았으나 AI에 대한 영국 정부의 움직임이 앞으로 달라질 것이란 관측이 나온다. 18일 로이터, BBC 등 외신에 따르면 키어 스타머 영국 총리는 AI 규제를 포함해 경제 성장을 촉진하는 국정과제 법률 35개를 도입하겠다고 말했다. 예상을 빗나간 부분은 AI 규제다. 스타머 총리의 연설 중 AI 관련 내용은 강력한 AI 모델을 개발하는 사람들을 겨냥한 법을 제정하겠다고 언급한 정도였다. 당초 외신들은 스타머 정부가 향후 오픈AI의 챗GPT 서비스 등 거대언어모델(LLM) 제작 규제에 무게를 둘 것으로 관측했다. 스타머 총리는 이날 발언에서 어떠한 방식으로 AI 규제를 단행할지 구체적인 방법은 언급하지 않았다. 이는 사이버 보안, 스마트 데이터 법안 등 법안 기조를 자세히 말한 것과는 차이가 있었다. 다만 일자리 등 노동자들의 권리를 AI가 빼앗지 않도록 하겠다고 스치듯 발언했다. 이에 연설을 지켜보던 AI 개발·연구소들은 한숨을 돌렸다. 나단 베네이치 에어 스트리트 캐피탈 AI 투자 그룹 창립 파트너는 "정부가 프런티어 모델 규제를 서두르지 않아 관계자들이 안도했다"며 "영국은 AI 규제에 대해 유럽연합(EU)에 비해 경쟁 우위에 있지만 우리는 이것보다 더 신중하게 결정해야 한다"고 주장했다. 영국의 수장이 바뀌며 영국 정부가 AI를 바라보는 관점도 바뀔 것으로 전망된다. 지난 5월 한국과 영국이 공동 주최한 'AI 서울 정상회의'에서 나온 AI 3대 거버넌스 원칙 혁신·안전·포용성을 포함해 수낵 총리의 기조가 스타머 정부에서도 이어질지는 불분명하다. 수낵 전 총리는 작년 11월 블레츨리 파크에서 중국·사우디아라비아·케냐·프랑스 등과 AI 안전성 관련 정상회담을 열었다. 이 회담에서 영국 정부는 '프런티어' AI 시스템의 위험성을 경고하고 AI 안전 위험을 파악·정책 구축·협력에 나서는 '블레츨리 선언'을 선포하는 등 AI 활용·규제에 적극적인 움직임을 보인 바 있다. 키어 스타머는 14년 만에 노동당의 정권 교체를 이뤄냈다. 영국 노동당은 지난 5일 열린 총선에서 650석 중 412석을 차지하며 보수당을 제치고 새로운 집권 여당이 됐다. 반면 보수당은 121석만을 얻으며 창당 190년 만에 역대 최소 의석을 기록했다. 리시 수낵 전 총리는 선거 결과에 책임을 지고 총리직과 보수당 대표를 자진 사퇴했다. 로이터 등 외신은 키어 스타머가 총리가 된 만큼 수낵 전 총리가 추진했던 것과는 다른 새로운 AI 법안이 영국에 필요하단 의견도 내놨다. 에이다 러브에이스 연구소 가이아 마커스 이사는 "AI 시스템은 이미 우리의 일상생활, 공공 서비스에서 혜택을 주지만 사람과 사회에 다양한 위험도 존재한다"며 "의회에서 또 다른 AI 법안을 하루 빨리 제출할 필요가 있다"고 주장했다.

2024.07.18 15:47양정민

메타, '라마' 차기 버전 유럽에 안 판다…왜?

메타가 인공지능(AI) 모델 '라마(Llama)'의 차기 멀티모달 버전을 유럽연합(EU) 기업들에 팔지 않기로 했다. 유럽 규제환경이 예측 불가능하다는 이유에서다. 미국 뉴스매체 액시오스는 18일 메타가 몇 달 후 출시할 '라마' 멀티모달 버전을 EU 시장에 출시하지 않을 것이라며 이같이 보도했다. 이에 따라 유럽 기업들은 비디오를 비롯한 오디오, 이미지, 텍스트를 모두 이해·처리하는 라마 멀티모달 모델을 사용할 수 없게 된다. 또 비EU 기업들도 이 모델을 사용한 제품과 서비스를 유럽에서 제공할 수 없게 될 가능성이 높다. 다만 텍스트 전용 버전인 '라마 3'는 EU 내에서도 출시 될 예정이다. 메타는 이런 결정을 내린 이유가 EU의 기존 데이터 보호법인 일반데이터보호법(GDPR) 때문이라는 입장이다. 이 기업은 지난 5월 페이스북·인스타그램 게시물을 통해 모델을 훈련할 계획이었다. 당시 유럽 사용자들에게 데이터 수집을 거부할 수 있는 권리인 옵트아웃(opt-out)을 지원했다. 그러나 EU 규제 당국은 6월 데이터 훈련을 중단하라는 명령을 내렸다. 메타가 GDPR에 반하는 행보를 보인다는 이유에서다. 메타 관계자는 "EU와 유사한 법을 가진 영국에서는 이러한 문제를 겪지 않고 있다"며 "영국 시장에는 새로운 모델을 출시할 계획"이라고 밝혔다. 외신은 이번 사건이 미국 빅테크와 유럽 규제 당국 간 갈등이 커지고 있음을 암시한다고 분석했다. 액시오스는 "EU는 개인정보 보호와 독점 금지 문제를 중요하게 보고 있다"며 "이는 기술 기업들과 상반된 입장"이라고 언급했다.

2024.07.18 14:57조이환

메타, 유럽서 '메타 AI' 출시 계획 중단...규제 압박에 굴복

메타(Meta)가 인공지능(AI) 비서 '메타 AI'를 유럽에 출시하지 않을 것이라고 밝혔다. 유럽 규제 당국의 압박에 굴복한 것이다. 14일(현지시간) 더버지·로이터·테크크런치 등 외신에 따르면 메타는 아일랜드 데이터 보호 위원회(DPC)가 페이스북과 인스타그램 프로필에 공개적으로 게시된 콘텐츠를 이용해 대규모 언어 모델(LLM)을 훈련하는 것을 연기해달라고 회사에 요청했다고 밝혔다. 메타는 자사의 블로그에 "유럽의 개인정보보호당국(DPAs)을 대신한 아일랜드 위원회(DPC)의 요청에 실망했다"며 "우리는 지난 3월부터 유럽 규제 기관들의 의견을 반영해 AI 훈련 과정을 변경하고 정보를 제공하는 등 소통을 해왔기 때문"이라고 설명했다. 메타는 최근 유럽 사용자들에게 데이터를 수집할 것이라고 통보하기 시작했으며, 유럽 개인 정보 보호법을 준수하기 위해 옵트아웃 옵션을 제공했다. 또 메타는 아일랜드의 요청으로 유럽 당국에 열등한 제품을 제공할 수 밖에 없다고 밝혔다. 메타는 "(LLM 훈련에) 현지 정보를 넣지 않고는 이용자들에게 '이류'의 경험만 제공할 수 있다"면서 "이는 현재 유럽에서 메타 AI를 출시할 수 없다는 것을 의미한다"고 말했다. 유럽 규제 당국은 메타의 일시 중단을 환영한다는 입장이다. 유럽디지털권리센터 NOYB(None of Your Business)와 여러 유럽 국가들은 메타의 개인 데이터 수집을 반대하며 메타에게 불만을 제기했던 상태다. 스티븐 아몬드 영국 정보국장실 규제리스크 담당 전무는 성명에서 "메타가 영국 내 서비스 이용자들로부터 공유받은 우려를 반영하고, 페이스북과 인스타그램 이용자 데이터를 활용해 생성 AI를 훈련하려는 계획을 일시 중지하고 검토해달라는 우리의 요청에 응한 것을 기쁘게 생각한다"고 밝혔다.

2024.06.15 18:53최지연

"100년 내 인간 멸종 가능성 99.9%"…10년 내 AI 킬러 등장 예언 속 섬뜩한 경고 잇따라

"인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 가능성이 99.9%에 달합니다. 미래에는 AI가 인간을 반드시 해칠 수 있습니다." 로만 얌폴스키 루이빌대 사이버보안연구소 교수가 최근 AI의 위험성을 제기하며 이처럼 경고하고 나섰다. 챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들뿐 아니라 국가안보 정부 당국자, AI·보안 전문가들도 함께 우려하며 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고의 메시지를 잇따라 내놓고 있다. 6일 비즈니스인사이더 등 외신에 따르면 AI 전문가인 얌폴스키 교수는 지난 4일 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연해 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 안에 버그 없이 고도로 복잡한 소프트웨어를 만들 수 있는지에 달려 있다"고 주장했다. 그러면서 "하지만 AI 모델이 의도하지 않은 작업을 안전하게 수행하도록 만들 수 없기에 사고를 피할 가능성은 낮다"며 "AI는 이미 실수를 저질렀는데 사고나 탈옥을 경험하기도 했고, 개발자가 의도하지 않은 일을 성공적으로 수행한 대형언어모델(LLM)은 하나도 없을 것"이라고 덧붙였다. 또 그는 "인공일반지능(AGI)이 등장하게 되면 문제가 더 커진다"며 "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측이 어렵다"고 강조했다. AGI는 인간 수준의 사고가 가능해 주제에 구애받지 않고 성공적으로 문제를 해결할 수 있는 AI다. 이에 일각에선 향후 인간이 AI를 통제하는 것이 사실상 불가능하고 안전성과 관련된 문제가 필연적으로 발생할 수밖에 없다고 보고 있다. 얌폴스키 교수는 결국 인류의 운명이 3가지 중 하나일 것으로 관측했다. ▲AI가 모두를 죽이는 상황 ▲AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황 ▲모든 인간이 목적을 완전히 상실하는 상황 등이다. 얌폴스키 교수뿐 아니라 많은 전문가들은 AI가 일자리를 빼앗고 창의적으로 발전해 앞으로는 인간의 존재 가치가 없어질 것이라는 지적을 내놓고 있다. 앞서 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 지난 3월 미국 국무부의 의뢰로 작성한 보고서에선 미국 연방 정부가 AI로 인해 재앙을 피할 수 있는 시간이 얼마 남지 않았다고 경고했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여 명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 보고서는 "최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성이 있다"며 "어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다"고 경고했다. 이어 "AI와 AGI의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 "AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다"고 덧붙였다. 'AI 대부'로 불리는 제프리 힌턴 캐나다 토론토대 명예교수는 더 섬뜩한 예언을 내놨다. 지난 3월 일본 니혼게이자이신문과의 인터뷰에선 "AI에 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다"며 "10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 것"이라고 주장했다. 최근에는 오픈AI와 구글 전·현직 직원들도 AI의 급속한 발전에 대한 우려를 표하는 성명을 발표했다. AI의 위험성을 다루기엔 기업의 내부 규제 시스템에 기대는 것만으로는 부족해 AI와 관련된 사법 체계가 구축돼야 한다고 강조했다. 이들은 "우리는 AI 기술에 의해 야기되는 심각한 위험을 알고 있다"며 "기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양한 위험이 도사리고 있다"고 말했다. 이어 "AI 기업은 기술로 인해 발생하는 다양한 종류의 위험에 대한 상당한 비공개 정보를 보유하고 있지만 이런 정보 중 일부를 정부 또는 사회와 공유할 의무가 약하다"며 "우리는 이러한 기술을 모두 신뢰할 수 있다고 생각하지는 않는다"고 덧붙였다. 이 때문에 AI를 제어하기 위한 방안 마련을 위한 움직임도 곳곳에서 나오고 있다. 유럽연합(EU)이 올해 3월 세계 최초로 포괄적인 AI 기술 규제법안인 'AI법'을 최종 승인한 배경도 이런 위험도를 낮추기 위한 수순으로 분석된다. 2026년 이후 전면 시행될 이 최종안에 따르면 EU는 AI 활용 분야에 대해 총 4단계의 위험 등급으로 구분해 차등 규제할 예정이다. 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7% 수준의 과징금이 부과될 수 있다. 영구적인 안전장치가 필요하다는 주장도 있다. 에릭 슈미트 전 구글 최고경영자(CEO) 는 최근 개최한 컨퍼런스에서 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 발언해 주목 받았다. 반면 일각에서는 이 같은 주장들이 너무 비관적이라고 지적했다. 유명 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연한 다수 AI 전문가들은 AI의 인간 멸종 가능성을 1~20%로 예상했다. 또 옥스포드대학교가 최근 실시한 과학자 2천778명 대상 설문 조사에서는 5%에 불과하다는 결과가 나왔다. 아르빈드 크리슈나 IBM 최고경영자(CEO)는 지난달 미국에서 열린 '밀컨 글로벌 콘퍼런스'에 참석해 AI 기술에 대한 정부 규제를 비판하며 "규제를 과도하게 하면 혁신이 (규제 범위 안에서) 융화돼 경쟁을 저해할 수 있다"며 "과도한 규제는 규제를 하지 않는 것보다 더 나쁘다"고 피력했다.

2024.06.06 10:32장유미

[유미's 픽] "22대 국회는 좀 다를까"…21대서 폐기된 'AI 기본법' 재추진 관심

22대 국회 임기가 30일 시작되면서 국내 인공지능(AI) 기업들이 다시 희망을 걸고 있다. 21대 국회에서 결국 '인공지능산업 육성 및 신뢰 확보에 관한 법률(AI 기본법)'이 통과되지 못했지만, 이번에는 빠른 속도로 법 제정을 추진해 글로벌 AI 경쟁에서 경쟁력을 키울 수 있게 적극 지원에 나서야 한다고 목소리를 높이고 있다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥을 규율한 법안이다. AI 기본법이 제정돼야 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. AI 기술 도입과 활용 지원, 산업 육성, AI 윤리원칙에 따른 정책 수립, 고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 입법 실패로 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 지난 2022년 말 발의된 AI 기본법은 지난해 2월 국회 과학기술정보방송통신위원회(과방위) 법안2소위를 통과한 후 21대 국회에서 상임위 전체 회의에 계류 중이었다. 과학기술정보통신부는 여야 의원들이 개별 발의했던 7개의 AI 관련 법안을 가장 최근 발의된 윤두현 국민의힘 의원안인 '인공지능산업 육성 및 신뢰 확보에 관한 법률'을 기반으로 통합시켜 입법을 추진해왔다. 21대 국회 임기 만료를 앞두고 정부와 산업계는 한 목소리로 AI기본법의 빠른 통과를 촉구했다. 그러나 21대 과방위 여야는 일본 라인야후 사태, 방심위의 징계 남발·예산 낭비 문제 등과 관련한 이견 다툼으로 기싸움을 벌이다 결국 AI 기본법을 해결하지 못하고 폐기시켰다. 기업연구소법, 망무임승차방지법, 디지털포용법, 디지털안전서비스법 등 AI 기본법과 함께 논의되고 있던 다른 법안들도 사라졌다. 여야 간 첨예한 갈등으로 '역대 최저' 법안처리율을 기록한 21대 국회가 종료되면서 AI 기본법은 결국 22대 국회로 공이 넘겨졌다. 다시 원점으로 돌아가 22대 국회에서 AI 기본법을 재검토해야 한다는 점에서 일단 연내 법안 통과는 어려울 것이란 전망이 지배적이다. 더불어 21대 국회에서 과방위 소속이던 여당 의원들이 이번에 불출마·경선탈락·낙선으로 전멸한 데다 22대 국회에 AI 전문가가 소수라는 점에서도 우려하는 목소리가 짙다. 업계 관계자는 "22대 국회 개원 후 다시 입법 발의 단계부터 시작해야 해 법안 통과와 시행령 마련 등 AI 시대를 대비하기 위한 법제도 정비는 늦어질 수밖에 없다"며 "법 제정이 계속 지연되면서 AI 관련 규제에 대한 불확실성이 커져 투자가 위축되고 산업의 경쟁력이 저하될 수도 있다는 점에서 걱정된다"고 말했다. 또 다른 관계자는 "새 법안 마련에는 여야 간 합의부터 정부 부처와 시민사회 의견수렴 등 절차가 필요하다"며 "법제사법위원회 심사, 본회의 통과까지 끝나려면 연내 법안 통과 가능성은 희박하다"고 관측했다. 업계에선 전 세계적으로 AI 학습·저작물에 의한 분쟁이 늘어나는 분위기 속에 우리나라가 AI 관련 기본법이 없어 대응에 제대로 나서지 못하고 있다는 점을 우려했다. 반면 전 세계 주요 각국은 생성형 AI로 인한 딥페이크, 저작권 분쟁, 윤리 이슈 등으로 몸살을 앓자, AI 관련법 제정에 속도를 내고 있다. 실제 유럽연합(EU)의 입법기관인 유럽의회는 지난 3월 AI 개발 기업이 지켜야 할 의무 등을 규정한 포괄적 규제법을 세계 최초로 마련했다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 이 외에 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 영국과 캐나다도 법률, 의료 등에 AI 기본 원칙을 세워 준수하고 있다. 업계 관계자는 "AI 규제 법안이 만들어져야 AI 기술 개발에 속도를 낼 수 있고 투자도 받을 수 있다"며 "현재로선 규제 불확실성이 제일 큰 리스크"라고 토로했다. 이 같은 분위기를 의식해 여당인 국민의힘은 22대 첫 의원 워크숍에서 AI 전문가인 김명주 서울여대 교수를 초청해 AI 정책 이슈를 챙기는 모습을 보였다. 김 교수는 국제인공지능윤리협회(IAAE) 회장을 맡고 있다. 김 교수는 이날 강연에서 AI 산업 진흥의 중요성, 더불어 AI 신뢰성 확보를 위해 AI 기본법을 조속히 제정할 필요가 있다고 강조했다. 또 지속가능한 AI와의 공존사회를 위해 글로벌 진입 장벽이 되고 있는 '규제 도입'도 피할 수 없다고 피력했다. 이에 국민의힘은 AI기본법을 새롭게 만들어 이번 국회에서 조속히 추진한다는 계획이다. 업계 관계자는 "AI 기본법에 대해 국민의힘에서 많은 관심을 갖고 있다"며 "특히 안철수, 권칠승 의원은 1호 법안으로 발의하려는 움직임도 보이고 있어 기대감이 크다"고 말했다. 과기부는 22대 국회에서 AI 기본법 논의가 빠르게 이뤄지길 기대했다. 또 발의에 나서는 의원이 있다면 적극 지원한다는 방침이다. 과기부 관계자는 "AI 규제는 시장의 불확실성이나 AI 사업에 기본적인 시그널이 될 수 있기 때문에 필요하다"며 "(21대 국회에서) 폐기됐지만 여러 기록이 있어 22대 국회에 재입법 될 것으로 확신하고, 개의하자마자 이런 부분에 움직임이 있을 것으로 생각한다"고 말했다. 업계 관계자는 "성급한 규제가 능사는 아니지만 여러 산업에서 제도 공백으로 인한 피해가 이미 잇따르고 있다는 사실을 (정치권이) 간과해선 안된다"면서도 "AI 규제는 양날의 검 같아 규제가 산업의 걸림돌이 될 수 있다는 점에서 선발주자들의 움직임을 참고해 규제와 발전이 동시에 가능한 합의점을 찾도록 우리나라도 적극 나서야 한다"고 강조했다.

2024.05.30 16:43장유미

  Prev 1 2 3 4 Next  

지금 뜨는 기사

이시각 헤드라인

2나노에 묶인 삼성 '엑시노스' 로드맵…최적화가 성패 가른다

서로 닮아가는 채용 플랫폼…데이팅·사주로 차별화 꾀하기도

작고 강하게…한국형 '로봇 손' 주도권 놓고 각축전

"따로 또 같이"...글로벌 서비스 ‘라인’은 현지화+기술통합 어떻게 하나

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.