ZDNet 검색 페이지

'정상회의'통합검색 결과 입니다. (49건)

AI 정상회의 '서울 선언'..."글로벌 거버넌스 새 방향 제시했다"

21일부터 이틀간 한국서 열린 AI 서울 정상회의에서 '서울 선언'이 채택되고 부속서인 'AI 안전 과학에 대한 국제 협력을 위한 서울 의향서'를 통해 AI 글로벌 거버넌스가 추구할 방향으로 안전, 혁신, 포용이 제시됐다. 한덕수 국무총리는 22일 한국과학기술연구원(KIST)에서 열린 AI 글로벌 포럼 개회식에서 “일관성 있고 상호 운용 가능한 AI 글로벌 거버넌스를 구축하는데 한국이 지속적으로 노력할 것”이라고 밝혔다. 조태열 외교부 장관은 “윤석열 대통령이 지난해 파리 이니셔티브를 통해 표명한 AI 글로벌 거버넌스 형성에의 기여 의지를 구현한 것”이라며 “AI 서울 정상회의와 AI 글로벌 포럼 개최를 계기로 인권, 법치 등 근본적 가치에 부합하는 AI 글로벌 거버넌스 형성에 더욱 기여해 나갈 것”이라고 말했다. 이종호 과학기술정보통신부 장관은 “14개 국내외 AI 기업이 서울 선언에 화답해 AI 책임, 발전, 혜택 등 기업이 추구할 방향을 담은 자발적 약속인 '서울 AI 기업 서약'을 발표했다”면서“이 서약은 AI 안전 연구소 피드백 반영, 첨단 AI 개발 투자 지속, 중소 스타트업 성장 지원, 사회적 약자의 편의성을 개선하고 글로벌 도전과제 해결을 위한 AI 개발 등 지속가능한 AI 생태계 발전을 위한 AI 선도기업의 책임을 포함했다”고 설명했다. 기조연설을 맡은 앤드류 응 스탠퍼드대 교수는 “모든 근로자가 AI로 생산성을 높이는 데 도움을 받을 수 있다”며 “이를 위해 기업들이 AI를 안전하고 책임있게 쓸 수 있도록 교육해야 한다”고 강조했다. 보스턴다이나믹스 창업자인 마크 레이버트는 이어진 기조연설에서 후쿠시마 원전 점검 로봇을 사례로 들며 “인류가 직면한 문제를 AI로 해결할 수 있고, 로봇도 마찬가지다”라며 “11년 동안 점검하지 못한 후쿠시마 원전의 원자로 점검을 로봇을 통해 점검할 수 있었다”고 소개했다. 이날 오전에 열린 고위급 라운드테이블에는 영국 미셸 더넬란 과학혁신기술부 장관, 프랑스 크리술라 자카로풀루 개발국제협력부 국무장관, 싱가포르 자닐 푸투치어리 정보통신부 선임 국무장관, 고학수 개인정보보호위원회 위원장, 미국 세스 센터 국무부 핵심신흥기술특사대행 등 70여명의 고위급 인사와 저명 인사들이 모여 혁신, 안전, 포용을 주제로 토론이 진행됐다. 이들은 ▲오픈소스 모델과 데이터 공유를 통한 협력적 개방적 AI 혁신 방안을 논의하고 ▲AI 기술이 아닌 AI의 위험한 적용이 규제의 대상이 되어야 하며 ▲AI 위험성 평가는 사실과 데이터를 바탕으로 이루어져야 한다고 입을 모았다. 아울러 ▲AI 관련 국제 규범은 공통의 AI 거버넌스 기준을 제공하고 경쟁을 저해하지 않아야 하고 ▲프론티어AI 기술의 오남용과 사고를 줄이기 위해 제3자 테스트의 제도화가 필요하며 ▲고급AI 시스템의 안전 보장을 위해서는 적절한 국제 보고제도가 필요하다는 점이 제안됐다. 오후에는 전문가 세션이 열렸다. 염재호 태재대 총장이 좌장을 맡은 첫 세션에서는 강도현 과기정통부 차관이 디지털 권리를 강화하고 디지털 격차를 줄이기 위한 정책을 소개하며 디지털 권리장전을 사례로 들었다. 토니 가프니 벡터연구소장이 좌장을 맡은 두 번째 세션에서는 고진 디지털플랫폼정부위원장이 공공 부문에서의 AI 적용을 소개하고 이후 AI가 기후 변화, 공중 보건 위험, 에너지 및 식량 문제와 같은 글로벌 도전 과제의 해결에 기여할 방안과 인간의 삶의 질 향상과 장애인 및 노인과 같은 취약계층을 위한 의료, 교육 및 보호 서비스 개선에 초점을 맞춰 논의가 진행됐다. 대면회의로 열린 AI 서울 정상회의의 장관 세션에는 이종호 과기정통부 장관과 미셸 더넬란 장관이 주재하며, 28개국이 동참한 'AI 안전, 혁신, 포용 증진을 위한 서울 장관 성명'을 채택했다. 이종호 과기정통부 장관은 “A지난해 블레츨리와 이번 서울에서의 성과를 내년 프랑스에서 개최되는 AI 행동 정상회의로 이어나가 국제사회의 역량을 결집해 AI의 안전, 혁신, 포용을 달성하는 '서울 효과'를 일으키기를 바란다”며 “AI 서울 정상회의와 AI 글로벌 포럼 개최를 바탕으로 확보한 리더십을 바탕으로 앞으로도 글로벌 AI 거버넌스와 규범 정립을 위해 국제사회와 긴밀하게 연대해 나가겠다”고 밝혔다.

2024.05.22 17:40박수형

[유미's 픽] "주도권 잡는다고?"…AI 서울 서밋, 尹 노력에도 반쪽짜리 행사로 그쳤나

"인공지능(AI)은 우리 삶과 일하는 방식, 세상과 소통하는 방식을 근본적으로 바꾸고 있습니다. 안전하고 혁신적이며 포용적인 AI를 만들기 위한 국제사회의 노력에 동참하겠습니다." 이재용 삼성전자 회장은 지난 21일 저녁 청와대 영빈관에서 개최된 'AI 서울 정상회의'에 참석해 이처럼 밝혔다. 이 자리에는 이해진 네이버 글로벌투자책임자(GIO) 등 국내 주요 정보통신기술(ICT) 수장들과 슈미트재단, 구글 딥마인드, 앤트로픽, xAI, 미스트랄AI, 오픈AI, 마이크로소프트, 아마존 웹서비스, 메타 등 글로벌 빅테크 관계자들도 참여해 '안전·혁신·포용'을 AI 거버넌스(규범가치)의 3대 우선 목표로 삼았다. 22일 업계에 따르면 정부는 'AI 서울 정상회의'를 통해 삼성전자, SK텔레콤, KT, LG AI 연구원, 네이버, 카카오 등 국내 기업과 오픈AI, 구글, 마이크로소프트, 앤스로픽, IBM, 세일즈포스, 코히어 등 해외 기업 총 14곳이 '서울 AI 기업 서약'을 했다는 점을 가장 큰 성과로 내세웠다. 서약에는 AI의 책임 있는 개발과 활용을 위해 AI 안전기관과의 협력을 강화하고, 워터마크 등 AI가 생성하는 콘텐츠 식별을 위한 조치와 국제표준 개발을 위한 협력을 강화하는 내용이 포함됐다. AI의 지속 가능한 발전과 혁신을 위해 첨단 AI 모델과 시스템 개발에 투자하는 것은 물론 공동 프로젝트와 펀드 조성 등을 통해 중소기업 및 스타트업과 협력하고 인턴십과 교육 프로그램 등 전문 인재를 양성하는 방안도 담겼다. AI의 공평한 혜택 보장을 위해 사회적 약자를 위한 AI 서비스를 출시하고, 글로벌 난제 해결을 위한 AI 솔루션을 개발해 다양성과 포용성을 높일 것도 약속했다. 정부는 지난해 11월 영국 블레츨리파크에서 열린 AI 안전성 정상회의에서 다뤘던 '안전'에 새롭게 '혁신'과 '포용'을 더한 'AI 거버넌스 3원칙'을 이번에 제시했다는 점에서 의미를 부여했다. 윤석열 대통령은 "각국 정상들은 ▲AI 안전 ▲AI 혁신 ▲AI 포용이라는 3대 목표에 공감대를 이뤘고, AI의 위험과 기회를 균형있게 다뤄야 한다는 기본 방향을 공유하게 됐다"며 "(지난해 영국 정상회의 당시) 블레츨리 파크에서 이룬 각료간 합의를 보다 격상시켰다는 점에서 의미가 크다"고 강조했다. 이번 회의의 성과를 두고 업계는 일단 환영의 뜻을 표했다. AI 모델 개발 단계에서부터 기업들이 스스로 위험 수위를 조절해 나가기로 합의했다는 점에서다. 기업들은 위험을 충분히 완화할 수 없는 경우 AI모델을 개발하거나 배포하지 않겠다는 뜻과 함께 AI가 초래할 위험의 임계값을 설정키로 했다. 임계값은 각국 정부를 포함해 신뢰할 수 있는 기관의 의견을 수렴해 정할 예정이다. 또 내·외부 레드팀을 통한 AI 모델에 대한 위협을 평가하고 사이버 보안과 내부 위협 방지를 위해 투자하겠다는 내용도 포함됐다. 제3자를 통한 문제점 점검과 보고 장려, AI 생성 콘텐츠를 식별하는 메커니즘 개발 등도 서약 내용에 담겼다. 이에 업계에선 'AI 서울 선언'이 장관급 합의에 그쳤던 영국 블레츨리 선언보다는 확실히 한 발 더 나아간 것이라고 평가했다. 구글 딥마인드 법률 고문이자 거버넌스 책임자인 톰 루는 "이번 약속은 주요 개발자들 사이에서 최첨단 AI 안전에 관한 중요한 모범 사례를 확립하는 데 도움이 될 것"이라며 "이 협약은 과학적 근거에 기반을 둔 대화를 나눌 수 있는 집중적인 국제 안전 서밋의 가치를 보여준다"고 밝혔다. 업계 관계자는 "빅테크들이 AI 기술과 관련된 사후 규제를 하기에는 기준이 애매한 게 많았다"며 "AI 모델 개발 단계부터 안전성 가드레일을 설정하겠다는 것 자체로는 굉장히 의미 있는 일"이라고 평가했다. 또 다른 관계자는 "AI 윤리와 법제화, 규범 등을 두고 각국의 주도권 경쟁이 치열해진 상황에서 이번 정상회의는 국내 AI 기업들이 글로벌로 진출하는 데 마중물이 될 것으로 기대한다"면서도 "다만 이번 국회에서 AI 기본법이 폐기가 될 예정인 만큼, 향후 국내 AI 기본법 제정 등에 속도를 내 글로벌 AI 규범 국가로서 위상을 지킬 필요가 있다"고 밝혔다. 일각에선 구체적인 기준이 제시되지 못하고 여전히 형이상학적인 선언에만 그쳤다는 점에서 아쉬움을 드러냈다. 기업들이 선언 이후 AI 모델 개발 과정에서 어떻게 '안전성'을 고려할 지에 대해 구체적인 계획을 드러내지 않았다는 점도 'AI 서울 선언'에 큰 의미를 부여하기엔 미흡하다고 지적했다. 업계 관계자는 "현재 거대언어모델(LLM)로 사실상 돈을 버는 기업들이 없고 기준을 삼을 만한 케이스가 나온 것이 없다 보니 구체적으로 AI 개발에 대한 방향성을 내놓기에는 애매한 부분이 있는 것 같다"며 "모델 개발 과정에서 안전성을 염두에 둔다고 해도 어떻게 활용하는 지에 따라 문제가 발생할 수 있다는 점에서 '사후 규제'도 좀 더 명확히 논의할 필요가 있을 것 같다"고 지적했다. 그러면서 "지난해 영국 '블레츨리 선언'에서 '서울 AI 선언'이 더 의미있게 진전된 모습을 보였다고 보기에는 아쉬운 점이 많다"며 "빅테크들이 기술 개발 중심에서 'AI 윤리' 측면을 좀 더 고려하는 모습을 이번에 보였다고 볼 수 있겠지만, '블레츨리 선언'을 재확인 하는 수준에 그쳤다"고 덧붙였다. 정부가 'AI 서울 정상회의'를 운영하는 것과 관련해서도 미숙했다는 평가도 나왔다. 내년 초 프랑스에서 열리는 3차 회의가 정식 대면행사로 열리는 것과 달리 화상 정상회의로 진행된다는 점에서 전 세계적인 주목을 크게 받지 못했다는 평가도 이어졌다. 차기 회의는 내년에 프랑스에서 'AI 행동 정상회의'라는 명칭으로 개최될 예정이다. 이번 회의에 참석한 업계 관계자는 "우리나라 정부와 총리실, 외교부, 과기부가 의무적으로 방어에만 나설 뿐 이번 행사에 대해 적극 홍보하는 분위기도 아닌 것 같았다"며 "사우디 등 다른 나라에서 치르는 'AI 서밋'과 비교하면 준비 과정이나 규모 등 전반적으로 수준 이하였다"고 꼬집었다. 그러면서 "특히 총리가 10분 이상 늦었음에도 행사장에 있는 참석자들에게 어떤 공지도 하지 않고 기다리게 하는 촌극도 연출됐다"며 "국내 행사는 그래도 된다고 쳐도 국제 행사를 이렇게 운영하면서 일정을 연기 시키는 것 자체가 매우 아쉽다"고 덧붙였다.

2024.05.22 17:12장유미

AI정상회의 '서울선언' 채택..."AI 안전·혁신·포용 담아"

'안전하고 혁신적이며 포용적인 AI를 위한 서울 선언'이 AI 서울 정상회의서 채택됐다. 윤석열 대통령은 “각국 정상들은 AI 안전, 혁신, 포용이라는 3대 목표에 공감대를 이뤘다”며 “서울 선언은 정상간 합의로, 각료간 합의를 보다 격상시켰다는 점에서 의미가 크다”고 밝혔다. 윤 대통령은 AI 서울 정상회의 첫날 일정으로 리시 수낙 영국 총리와 함께 정상세션을 주재하면서 글로벌 AI 거버넌스에 관한 합의를 이끌어냈다. AI 서울 정상회의의 주요 논점은 지난해 11월 영국 블레츨리파크에서 열린 AI 안전성 정상회의에서 다뤘던 안전에 더해 혁신과 포용을 더한 AI 거버넌스 3원칙이다. 윤 대통령은 “AI가 미칠 수 있는 악영향을 최소화하고 우리 사회의 안녕과 민주주의가 훼손되지 않도록 AI의 안전성을 확보해야 한다”며 “대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라고 말했다. 이어, “AI가 가진 커다란 잠재력을 구현해내기 위해서는 자유롭고 개방적인 연구개발을 통해 AI의 혁신을 추구해야 한다”면서 “AI 혁신은 글로벌 경제에 새로운 성장동력을 부여하고, 환경오염 등 전 지구적인 난제를 풀어가는 데 큰 도움을 줄 것”이라고 덧붙였다. 윤 대통령은 또 “거주지역과 소득 수준에 관계 없이 누구나 AI의 혜택을 누릴 수 있도록 AI의 포용성을 확보하는 것도 중요하다”며 “미래 세대에게 혁신의 혜택이 이어지도록 지속 가능한 AI 발전이 이뤄져야 할 것”이라고 강조했다. 정상회의에 참여한 정상들은 안전성, 혁신성, 포용성이 AI가 추구해야 할 목표라는 점에 공감대를 형성했고 글로벌 기업들은 AI 위험을 자발적으로 예방하겠다고 서약했다. 각국 정상들은 서울 선언을 통해 AI 거버넌스의 3대 우선 목표로 안전, 혁신, 포용을 제시하고 각국 AI 안전연구소 간 네트워크를 조성하고 글로벌 협력을 촉진하자는 데 뜻을 모았다. 또 인간의 창의력과 AI 사용의 선순환, 사회문화 언어 성별 다양성 증진, 환경적으로 지속 가능한 기술과 인프라 증진 등을 추구해야 한다며 초국경적인 협력의 중요성을 강조했다. 정상 세션에는 카말라 데비 해리스 미국 부통령, 저스틴 트뤼도 캐나다 총리, 올라프 숄츠 독일 총리, 로렌스 웡 싱가포르 총리, 기시다 일본 총리, 조르자 멜로니 이탈리아 총리, 에마뉘엘 마크롱 프랑스 대통령, 베라 요우로바 EU 부집행위원장이 참여했다. 국제기구에서는 안토니오 구테레쉬 UN 사무총장, 마티아스 코먼 OECD 사무총장이 참여했다. AI 기업을 대표해서는 에릭 슈미트 슈미트재단 설립자, 데비스 허사비스 구글 딥 마인드 회장, 다리오 아모데이 앤트로픽 회장, 이재용 삼성전자 회장, 이해진 네이버 창업자, 아서 멘슈 미스트랄AI 회장, 안나 마칸주 오픈AI 부사장, 브래드 스미스 마이크로소프트 사장, 데이비드 자폴스키 아마존 웹-서비스 부회장, 닉 클레그 메타 사장, 일론 머스크 xAI 설립자 등이 참여했다.

2024.05.22 06:22박수형

[유미's 픽] "빛 좋은 개살구?"…'AI 기본법' 없는 韓, 'AI 서울 서밋'서 주도권 잡을까

우리나라 정부가 새로운 먹거리로 떠오른 인공지능(AI) 시장에서 존재감을 드러내기 위한 본격적인 움직임에 나섰지만 '빛 좋은 개살구'에 그친다는 지적이 나온다. 'AI 서울 정상회의'로 글로벌 주도권을 잡으려고 나섰으나, 'AI 기본법'도 제대로 갖추지 않은 상황에서 AI 서비스 기업들에 대한 지원책도 없이 보여주기식 행사에만 혈안된 듯한 모습을 보이고 있어서다. 21일 업계에 따르면 한국과 영국은 이날부터 양일간 서울에서 'AI 정상회의'를 공동 주최한다. 지난해 11월 영국에서 처음 열린 'AI 안전성 정상회의'에 이어 두 번째로 열리는 행사로, 혁신·안전·포용성 등 AI 거버넌스 3대 원칙이 제시될 예정이다. 특히 첫째 날에는 오후 8시 30분부터 10시까지 90분 동안 정상 세션이 화상회의 방식으로 열린다. 윤석열 대통령과 리시 수낵 영국 총리가 주재하는 이번 회의의 주제는 'AI 안전성 정상회의를 토대로, 혁신적이고 포용적인 미래로'다. 장관 세션은 오는 22일 오후 2시 20분부터 5시 40분까지 한국과학기술연구원(KIST)에서 대면으로 개최된다. 이종호 과기정통부 장관과 미셸 더넬란 영국 과학혁신기술부 장관이 공동 의장을 맡고, 19개국 이상의 정부, 산업계, 학계 및 시민사회의 주요 인사들이 참여할 예정이다. 이날 장관 세션에선 AI 안전성 확립과 지속 가능한 AI 발전에 대해 논의한다. 각국의 AI 안전 연구소 설립 현황을 공유하는 한편, 미래의 AI 위험 요인을 진단하고 안전성 강화 방안을 모색한다. 또 AI 개발에 따른 막대한 전력 소모가 우려되면서 저전력 반도체 등 우리나라의 AI 반도체 비전도 공개할 것으로 예상된다. 같은 날 부대행사로 열리는 'AI 글로벌 포럼'은 오전 9시부터 오후 6시까지 진행된다. 포럼은 오전의 고위급 라운드 테이블과 오후의 전문가 세션으로 구성된다. 전문가 세션은 유튜브로 중계돼 일반 국민도 볼 수 있다. 다만 'AI 서울 정상회의'는 지난해 영국에서 열린 1차 회의보다 거물급 인사들의 참여가 많지 않은 것으로 알려졌다. 1차 회의에는 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 무스타파 술레이만 딥마인드 공동 창립자 등 거물급 인사들이 참여했다. 반면 이번 'AI 서울 정상회의'는 눈에 띄는 인사들이 많지 않다. 앤드류 응 미국 스탠퍼드대 교수, 엘리자베스 켈리 미국 AI안전연구소장, 나타샤 크램튼 마이크로소프트(MS) 최고 AI 책임자(CAIO), 톰 루 구글 딥마인드 부사장, 롭 셔먼 메타 최고개인정보보호책임자(CPO), 잭 클락 앤스로픽 공동창업자, 에이단 고메즈 코히어 CEO, 사바스티안 나일스 세일즈포스 최고법률책임자(CLO), 크리스티나 몽고메리 IBM 최고개인정보보호·신뢰책임자 등이 일단 거론되고 있다. 또 정부는 'AI 대부'로 알려진 제프리 힌튼 토론토대 교수에게 행사 참석을 요청했으나, 부상을 당했다는 이유로 거절 당한 것으로 전해졌다. 파이어폭스(Firefox) 웹브라우저를 만든 모질라의 공공정책 책임자 린다 그리핀도 다음에 열릴 파리 행사에 집중하고 있다며 불참 의사를 전했다. 일각에선 '챗GPT'로 AI 시장을 이끌고 있는 오픈AI에서 안전팀을 이끌고 있던 일리야 수츠케버 공동창업자가 이번 행사에 참여해 힘을 실어줄 것으로 기대했지만, 'AI 서울 정상회의'를 앞두고 관련 팀이 해체된 데다 수츠케버까지 떠나게 되면서 아쉽다는 반응을 내놨다. AI의 안전성 문제를 경시한다는 지적을 받고 있는 오픈AI는 이번 'AI 서울 정상회의'에 제이슨 권 CSO(최고전략책임자)를 참석시킬 예정이다. 한국계인 그는 'AI 수익화'를 우선 시 하는 샘 알트먼 오픈AI 최고경영자(CEO)를 적극 지지하는 인물로 알려졌다. 업계 관계자는 "이번에는 가상 정상회의로 진행되는 만큼 1차 영국 회의 때보다 굵직한 참석자들이 많지 않은 데다 작은 규모로 진행될 예정"이라며 "내년 초 프랑스에서 열리는 3차 회의가 정식 대면행사이기 때문에 상대적으로 AI 서울 정상회의는 전 세계적으로 주목을 많이 받지 못하는 분위기"라고 밝혔다. 1차 회의 때만큼의 결과물을 제대로 내놓을 지에 대해서도 기대감이 다소 낮은 상태다. 이전 회의에선 한국, 미국, 중국 등 28개국 대표와 기업들이 AI 기술에 따른 잠재적 위험을 완화하기 위한 '블레츨리 선언'을 발표한 바 있다. 여기엔 AI 기술을 안전하게 개발하고 활용하도록 국가 간에 공동으로 노력하자는 약속이 담겼다. 업계 관계자는 "선거에서 기만적 AI 사용을 막자는 '뮌헨 기술협약' 등 그간 IT 기업들의 자율 규제에 초점이 맞춰진 합의는 몇 차례 있었다"며 "이번에 안전한 AI 활용과 혁신 지속 사이 균형을 갖춘 IT 기업들의 합의문이 나올지 모르겠으나, 안전·혁신·포용이란 형이상학적 주제를 토대로 실효성 있는 결과물을 내놓을 수 있을지 의문"이라고 밝혔다. 또 다른 관계자는 "각 국가별로 AI 주권을 위한 소버린 AI(Sovereign AI)를 추진 중"이라며 "각 나라마다 상황이 다르기 때문에 (당장 이번에 결정될 것이 아니라) 적정한 규제의 선을 국제적으로 합의하는데는 시일이 오래 걸릴것으로 보인다"고 말했다. 우리나라가 'AI 거버넌스'를 제시할 환경이 자체적으로 갖춰져 있지 않다는 점도 글로벌 AI 주도권을 가지기엔 걸림돌이 되고 있다는 지적도 나온다. 전 세계 주요국이 앞 다퉈 AI 제도 정비에 나서고 있는 반면, 우리나라는 'AI 기본법'조차 장기간 국회 문턱을 넘지 못하고 방치되다 결국 폐기 수순을 밟고 있어서다. 'AI 기본법'은 지난해 초 발의된 뒤 1년 넘게 국회 상임위원회에 계류돼 있었으나, 과학기술정보방송통신위원회 여야가 마지막까지 합의점을 찾지 못해 결국 이달 말 21대 국회 임기 종료와 함께 폐기되는 것으로 결론이 났다. AI 주요 3개국(G3)으로 도약하겠다는 윤석열 정부의 구호만 요란했다는 평가가 나온다. 이에 대해 과방위 소속 한 의원 관계자는 "공들여 쌓은 AI기본법이 21대 국회에서 무산됐다"며 "(과방위) 전체회의에 대한 양당 합의가 되지 않아 개최하지 않기로 했다"고 말했다. 이어 "일정을 다시 만들어 오는 29일까지 본회의에 올리기에는 물리적으로 어렵다"고 덧붙였다. 반면 유럽연합(EU)의 입법기관인 유럽의회는 지난 3월 AI 개발 기업이 지켜야 할 의무 등을 규정한 포괄적 규제법을 세계 최초로 마련했다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 이 외에 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 업계 관계자는 "규제를 더 담아야 한다는 의견과 산업 육성이 먼저란 주장이 맞서며 'AI 기본법'은 그간 국회에서 계속 갈피를 잡지 못했다"며 "일종의 가이드라인도 없어 AI 산업 전체가 표류하고 있는 우리나라가 글로벌 'AI 거버넌스'를 제시한다는 게 다소 앞뒤가 맞지 않는 느낌"이라고 지적했다. 또 다른 관계자는 "'서울 AI 정상회의'가 서울에서 열리기 전까지 'AI 기본법'이 당연히 통과될 것으로 기대했지만 결국 폐기 수순을 밟는다는 점이 굉장히 아쉽다"며 "'AI 기본법' 논의를 멈춘 국가에서 AI 안전을 논의하는 것이 사실 민망하다"고 말했다. 반면 이 같은 분위기 속에서도 우리나라가 'AI 서울 정상회의' 개최를 이끌어 냈다는 점에 대해 긍정적으로 평가하는 의견도 나왔다. 업계 관계자는 "영국에서 열린 1차 회의 때만큼은 아니지만 여러 나라들이 AI 거버넌스를 우리나라에서 논의하는 기회를 가졌다는 자체만으로도 대단한 일이라고 생각된다"며 "'AI 서울 정상회의' 개최는 국내 AI 기술 수준을 해외에서도 인정하고 있다는 의미"라고 평가했다.

2024.05.21 09:37장유미

대통령실 "AI정상회의 의제는 안정성·포용·혁신"

윤석열 대통령이 21일 리시 수낙 영국 총리와 공동으로 AI 서울 정상회의를 개최한다. 이 자리에는 G7 정상과 UN, EU, OECD 수장과 삼성, 네이버, 구글, 아마존, 메타, 마이크로소프트, 오픈AI가 참여한다. 지난해 영국서 열린 정상회의에 이어 이번 회의에서는 포용과 혁신 의제까지 다루기로 했다. 왕윤종 국가안보실 3차장은 20일 용산 대통령실 브리핑에서 “AI 서울 정상회의에서 각국 정상은 글로벌 AI 기업 CEO와 안전성, 혁신, 포용성 등 AI의 핵심 가치를 기반으로 한 거버넌스에 대해 논의할 예정”이라고 밝혔다. 이어, “21일 정상 세션에서는 안전하고 혁신적이고 포용적인 AI를 위한 합의문 채택도 추진 중”이라며 “22일에는 과학기술정보통신부 장관이 영국 과학혁신기술부 장관과 공동으로 장관 세션을 주재하고, 아울러 우리 외교부와 과기부가 공동 주최하는 AI 글로벌 포럼이 같은 날 동시에 개최돼 전 세계 AI 분야 전문가들과 함께 다양한 시각을 논의할 것”이라고 설명했다. 왕 차장은 또 “이번 정상회의서는 지난해 영국에서 개최된 AI 안전성 정상회의와 동일하게 G7 정상과 싱가포르, 호주 정상이 초청됐다”며 “그 외에 UN, EU(유럽연합), OECD(경제협력개발기구) 등 국제기구 수장과 AI 산업을 이끄는 핵심 글로벌 기업인 삼성, 네이버 그리고 구글, 아마존, 메타, 마이크로소프트, 오픈 AI도 초청한다”고 말했다. 그러면서 “작년 영국에서 주최한 정상회의가 AI의 안전성에 초점을 맞췄다면 이번 회의는 안전성 이외에도 포용과 혁신까지 의제를 확대했다”며 “이에 따라 AI가 가진 위험성 측면 이외에도 긍정적 측면, 인류사회에 기여할 혜택의 측면까지 균형 있게 포괄한 논의를 기대한다”고 덧붙였다. 왕 차장은 “우리나라는 독자적 초거대 AI 모델을 보유하고 있다”며 “ICT, 반도체 분야에서 글로벌 경쟁력을 갖춘 디지털 선도국으로 윤 대통령의 AI 서울 정상회의 주최 배경으로 이런 일련의 디지털 AI 구상과 우리 기업의 선도적 디지털 기술력을 국제사회가 인정했기 때문이다”고 강조했다.

2024.05.20 15:56박수형

'AI 서울정상회의' 21일 개막···기후변화 등 글로벌 도전과제 다뤄

미국, 영국 등 주요국 정상과 국제기구 수장, 국내외 빅테크 대표들이 참여하는 'AI 서울 정상회의'가 21~22일 국내서 온오프라인으로 열린다. 'AI 서울 정상회의'의 첫 스타트이자 주요국 정상이 참여하는 회의는 오프라인으로 열리지 않고 온라인(영상회의)으로 21일 오후 8시 30분부터 10시까지 1시간 30분간 비공개로 이뤄진다. 행사 개막에 앞서 환영 리셉션이 21일 오후 5시~6시25분까지 더 플라자서울호텔 다이아몬드홀 22층에서 열린다. 이번 'AI 서울 정상회의'는 작년 11월 영국 블레츨리 파크에서 처음 세계 정상이 모여 AI 안전을 논의한 'AI 안전성 정상회의'에 이은 두번째 AI정상회의다. 한국과 영국 정부가 공동으로 주최한다. 행사는 '정상세션'과 '장관세션'으로 나눠 열린다. '정상 세션'은 21일 온라인으로, '장관 세션'은 22일 한국과학기술연구원(KIST)에서 오전 9시~오후6시 오프라인으로 진행된다. 정부는 작년 영국 정상회의와 차별화했다. 작년 영국 회의와 달리 국내외 빅테크들이 참여하는 'AI 글로벌 포럼'도 함께(22일) 개최한다. 이 행사는 우리 정부가 단독으로 만들었다. 특히 이번 'AI 서울 정상회의'는 '안전(Safety)'에만 초점을 둔 작년 영국행사와 달리 안전을 포함해 혁신, 포용까지 키워드를 3개로 늘렸다. 과기정통부는 송상훈 정보통신정책실장, 엄열 정보통신정책관, 김경만 AI기반정책관이 참석한 가운데 17일 입기자들에게 'AI 서울정상회의' 백브리핑을 실시했다. ■ 작년 영국선 'AI 안전'만 다뤄...이번엔 안전과 혁신, 포용도 함께 논의 정상 세션은 'AI 안전성 정상회의를 토대로, 혁신적이고 포용적인 미래로'를 주제로 열린다. 한-영 양국 정상이 회의를 공동 주재한다. 과기정통부는 "작년 영국에서 개최한 'AI 안전성 정상회의'가 AI 위기 대응에 집중했다면, 이번 'AI 서울 정상회의'는 '안전'에만 국한하지 않고 혁신, 포용을 아우르는 것으로 확대했다. 과기정통부는 "안전, 혁신, 포용을 AI 거버넌스 3대 목표로 삼아 국제사회에 제시할 계획"이라면서 "AI 3대 거버넌스는 뉴욕 구상('22.9), 파리 이니셔티브('23.6), 디지털 권리장전('23.9) 등을 통해 펼쳐왔던 우리 A와・디지털 비전을 글로벌 이니셔티브와 규범을 새로 정립하는데 의의가 있다"고 설명했다. '장관 세션'은 22일 오후 2시 20분부터 5시 40분까지 KIST에서 대면으로 열린다. KIST는 역사적인 곳이다. 우리나라 최초 정부출연 종합 연구기관(1966년)이자, 슈퍼컴퓨터를 도입(1988년)한 곳으로 우리나라 과학・디지털 기술 발전에서 중추 역할을 하고 있다. '장관 세션'은 이종호 과학기술정보통신부 장관과, 영국 과학혁신기술부 미셸 더넬란 장관이 공동 의장을 맡는다. 19개국 이상 정부, 산업계, 학계 및 시민사회 주요 인사들이 한다. 2개 세션으로 나눠 열린다. 세션1은 'AI 안전성 확립 역량 강화'를, 세션2는 '지속가능한 AI 발전 촉진'을 다룬다. 첫 번째 세션에서는 ▲주요국 'AI 안전 연구소' 설립 현황 공유와 글로벌 공조 방안 논의(세션 1-1) ▲ 1차 정상회의 후속 조치인 'AI 안전 국제 과학 보고서'를 토대로 현재와 가까운 미래의 AI 위험 요인을 진단하고 안전성 강화 방안(1-2)이 다뤄진다. 두 번째 세션에서는 에너지, 환경, 일자리 등 AI가 초래하는 부작용에 대해 회복 탄력성을 확보하기 위한 방안을 논의한다. AI 개발과 운영에 따른 막대한 전력이 소모하면서 이에 대응할 필요성이 높아졌고, 저전력 반도체 등 우리나라의 AI・반도체 비전을 중심으로 새로운 글로벌 아젠다를 마련한 것이라고 과기정통부는 설명했다. ■ 고위급 라운드테이블 1~3과 전문가 세션 두 개 선보여...국내외서 총 42명 참여 민간 전문가들이 참여하는 'AI 글로벌 포럼'은 22일 오전 9시 개회식을 시작으로 오후 6시까지 진행한다. 다수가 비공개다. 이날 오전 비공개 행사로 ▲고위급 라운드 테이블 1~3 (오전 10시~12시20분)이, 오후에는 공개행사로 ▲전문가 세션1(오후 2시20분~3시 50분) ▲전문가 세션2(오후 4시~17시40분)가 각각 진행된다. 오후에 열리는 전문가 세션은 일반 국민도 청취하실 수 있게 유튜브로 생중계한다. ▲고위급 라운드테이블1(AI혁신 미래 탐색: 개방적이고 협력적인 모델이 핵심인가?): AI개발을 적극적으로 촉진할 수 있는 메커니즘을 탐구하기 위한 세션으로, 특히 두가지 혁신 가능성 있는 엔진인 오픈소스 AI와 공개 접근 데이터베이스를 중점 살핀다. 오픈소스 AI는 발전한 도구와 알고리즘을 대규모 기업부터 개별 개발자까지 다양한 이해 관계자에게 접근 가능하게 함으로써 AI 혁신을 대중화할 것으로 기대된다. 이러한 접근 방식은 협력적인 기여를 통해 기술 발전을 가속화할 뿐만 아니라, 오늘날의 디지털 시대에서 필수적인 투명성 수준도 보장한다. 하지만 오픈 소스, 고성능, 일반적인 목적의 AI 모델이 국가 및 공공 안전을 위협할 수 있다는 우려도 있는 상황이다. 혁신 논의에서 중요한 것은 데이터 거버넌스 체계의 중추적 역할인데, 특히 정부는 AI 혁신을 촉진하기 위한 공개 접근 데이터베이스 필요성과 개인 프라이버시 보호 및 데이터 보안을 보장하는 필수적인 사항을 균형있게 고려해야 한다. 이에 '고위라운데테이블1'에서는 규제 접근 방식과 산업 현황이 다른 국가들의 연사들을 초청해 안전과 개인정보보호 우려를 해결하면서 혁신의 공개 및 협력적 모델을 촉진하는 경험을 공유하고 비교한다. 좌장은 프랑스 개발&국제파트너십 장관 Chrysoula Zacharopoulou이 맡는다. ■고위급 라운드테이블 2(포괄적인 안전 거버넌스-AI 위험의 전 범위 식별 및 대응): AI 개발과 배포와 관련한 잠재 위험은 세계적인 우려다. 이런 위험은 개인정보 침해부터 취업 시장 혼란, 고급 AI시스템이 일으킬 수 있는 잠재적인 재난 위험까지 다양하다. AI 관련 위험의 전 범위에 대한 대응은 국경을 넘어 세계적으로 협력적이고 종합적인 접근을 통해 이뤄져야 한다. 또 포괄적인 AI 위험 관리에는 각 지역의 일관된 접근 방식을 보장하기 위해 더 포용적인 대화가 필요한 상황이다. 이 세션에서는 AI 위험의 주요 범주를 식별하고 거버넌스 간의 잠재적인 충돌 또는 분열을 논의한다. 좌장은 싱가포르 정부기술&헬스케어 장관 Janil Puthucheary가 맡는다. ▲고위급 라운드테이블 3(AI 혜택 공유 및 거버넌스 체계 포용성 강화): AI는 모든 영역에서 지식과 정보에 대한 접근을 변화시켜 전 세계적으로 더 큰 번영을 가져올 수 있는 큰 잠재력을 제시한다. 하지만 만약 AI가 소수 이익만을 가져온다면, 이는 전 세계적인 불평등과 격차를 더욱 심화시킬 수 있다. 우리나라는 기술 공유 및 역량 강화를 위한 노력을 시작했다. 예컨대, 올해부터 한국은 한-아세안 주요 디지털 혁신 프로젝트 일환으로 아세안 국가들의 포괄적인 디지털 전환을 지원하고 있다. 이 프로젝트는 데이터 생태계 구축, 고성능 컴퓨팅 시스템 구축, 교육 및 훈련, 그리고 탄소 중립과 의료에 AI 적용을 지원한다. 한국의 AI 기업들도 AI 격차를 줄이는 데 중요한 역할을 하고 있다. 이 중 많은 기업이 보다 다양한 언어와 문화를 수용하기 위해 AI 서비스를 개발하고 있다. 이 세션에서는 세계의 주요 기관이 무엇을 하고 있는지 특히, AI의 긍정적인 사용 사례에 초점을 맞춰 더 포괄적인 거버넌스 체계를 개발할 가능성을 모색한다. 좌장은 영국 과학·혁신·기술 장관 Michelle Donelan가 맡는다. ■ 어떤 인물들이 참여?...앤드류 응과 오픈AI 한국인 실세 제이슨 권도 방한 고위 라운드테이블 1~3에 참여하는 연사는 국내외 통틀어 총 42명이다. 이중 한국에서는 강도현 과학기술정보통신부 제 2차관과 고학수 개인정보보호위원회위원장을 비롯해 ▲오혜연 KAIST 교수 ▲배순민 KT 책임감 있는 AI센터장 ▲최경진 가천대학교 인공지능 빅데이터 정책연구센터장 ▲하정우 네이버클라우드 AI이노베이션터장 ▲이경전 경희대학교 교수 ▲이홍락 LG AI연구원 CSAI(최고 AI 과학자) ▲이상호 카카오 최고AI책임자 등 민관서 9명이 참여한다. 외국에서는 ▲사우디아라비아 데이터&AI 총괄(President) 압둘라 빈 샤라프 알감디(Abdullah bin Sharaf Alghamdi) ▲한국주재 이스라엘 대사 아키바 토르(Akiva Tor) ▲UN 기술사무총장 엔보이 아맨딥 싱 길(Amandeep Singh Gill) ▲AI펀드 매니징디렉퍼 파트너 앤드류 응(Andrew Ng) ▲인터내셔널피스 기술 부문 부디렉터 아서 넬슨(Arthur Nelson) ▲스위스 디지털 부문 헤드 겸 외무 장관 베네딕트 웨슬러(Benedikt Wechsler) ▲IBM 최고신뢰임원 크리스티나 몽고메리(Christina Montgomery) ▲웨스트인디대학 컨트롤시스템그룹 대표 겸 UN AI자문관 크레이그 람랄(Craig Ramlal) ▲미국 AI안전기구 디렉터 엘리자베스 켈리(Elizabeth Kelly) ▲캐나다 혁신·과학·기술 부장관 프판시스 빌로듀(Francis Bilodeau) ▲CSIS 산하 AI와 첨단기술을 위한 와드와니센터 디렉터 그레고리 C. 애런(Gregory C. Allen) ▲필리핀 정보기술장관 이반 존 유이(Ivan John E. Uy) ▲앤스로픽 공동창업자 잭 클락(Jack Clark) ▲오픈AI 최고전략임원 제이슨 권(Jason Kwon)▲OECD 혁신·과학·기술 부문 디렉터 제리 시한(Jerry Sheehan)가 참여한다. 또 ▲유럽위원회 AI&디지털산업 디렉터 루실리아 시올리(Lucila Sioli) ▲보스턴 다이나믹스 설립자 겸 AI연구소 대표디렉터 마크 라이버트(Marc Raibert) ▲스페인 디지털전환&공공기능 장관 메이트 레도(Mayte Ledo) ▲카타르 ICT장관 모함메드 AI 매나이(Mohammed Al Mannai) ▲일본AI연구소 총괄 무라카미 아키코 ▲마이크로소프트 최고책임AI임원 나타샤 크램튼(Natasha Crampton) ▲인도네시아 ICT 부장관 네자르 파트리아(Nezar Patria) ▲옥스퍼드대 마틴AI거버넌스 디렉터 로버트 F 트래거(Robert F. Trager) ▲메타 부사장 겸 파이버시임원 로브 셔먼(Rob Sherman) ▲세일즈포스 사장 겸 최고법률임원 세바스쳔 닐스(Sabastian Niles) ▲ 미 국무부 크리티컬&이머징기술 부대표 세스 센터(Seth Center) ▲독일 디지털&수송 연방장관 스테펀 쉬노르(Stefan Schnorr) ▲구글 딥마인드 부사장 톰 루(Tom Lue) ▲ 이스라엘민주연구기관 시니어 펠로 테힐라 슈와츠 알슐러(Tehilla Shwarts Shwarts Altshuler) ▲벡터인스터튜트 CO 토니 개프니(Tony Gaffney) ▲스위스 에꼴폴리텍연방 Touradj Ebrahimi, ▲공간경쟁력연구프로젝트 CEO 일리 바르크타리(Ylli Bajraktari)가 패널 토의 등에 참여한다. ■ 전문가 세션엔 어떤 내용이?...저작권과 디지털 권리 보장 등 다뤄▲전문가 세션 1(디지털 공동번영 사회를 위한 디지털 권리 보장): 22일 오후 2시20분~3시50분 한국과학기술연구원(KIST) 대회의실에서 열린다. 좌장은 태재대학교 총장이 맡았다. 강도현 과기정통부 2차관이 기조연설을 한다. 연사는 아만다 매냠 오드리 디지털법&권리 고문, 제리 쉬한 OECD DSTI, 조준희 한국소프트웨어산업협회장, 이성웅 아마존웹서비스코리아 AI&ML 정책책임자, 마커스 앤더리룽 거버넌스AI 정책센터 총괄, 파멜라크리립코우스카 폴란드 디지털부문 총괄, 윤동욱 브리티시컬럼비아대학교(UBC) 부교수 등이 참여한다. 행사 초록에 따르면, 세계는 디지털 변혁과 함께 거대한 문명적 변화에 직면하고 있으며, 디지털 기술은 경제적 및 사회적 혁신의 기반으로 자리 잡았다. 우리는 인공지능 서비스를 사용해 원하는 것을 만들어낼 수 있으며, 스마트폰과 인터넷을 통해 언제 어디서든 세계의 뉴스를 찾고 전파할 수 있다. AI와디지털 기술을 효과적으로 습득하고 활용하는 것은 개인에게 경쟁 우위를 제공할 뿐만 아니라, 국가 산업, 경제 및 사회 전반에 거쳐 원동력이 된다. 하지만 AI와 디지털 기술 발전과 함께, 발전된 AI 모델 속에서 개발도상국과 문명사회의 디지털 격차와 과소평가와 같은 새로운 도전들에 직면하고 있다. 디지털 기술에 접근할 수 없는 미래 세대는 교육 기회를 상실할 수 있으며, 이는 사회적 격차를 야기할 수 있는 디지털 배제로 이어질 수 있다. 아래 이번 세션의 주요 토픽들 ▲디지털 권리 소개: 다양한 국가들이 디지털 권리를 강화하고 디지털 격차를 줄이기 위한 정책 및 이니셔티브를 소개하며, 특히 디지털 자원에 대한 평등한 접근과 디지털 신원 보호를 보장하는 데 특별한 주안점을 둡니다. ▲디지털 시대 기본 가치 보장: 디지털 시대에서 유지해야 할 핵심 가치를 논의한다. 개인정보보호, 표현의 자유, 정보 접근 등과 같은 가치를 유지하기 위해 필요한 전략을 모색한다. ▲ 디지털 시대의 지속 가능한 혁신: 생성 인공지능이 제기한 문제 (예: 저작권 문제 및 데이터 자산 보호 범위 등)를 탐구한다. 이러한 변화를 수용하고 성공적인 디지털 변혁을 이끌어내기 위해 필요한 노력도 논의한다. · 디지털 시대 대비하기:심화한 디지털 사회의 우려사항 및 부장용(예: 딥 페이크로 생성된 가짜 뉴스 및 AI 안전 문제 등)을 확인하고 대책을 논의한다. 이런 우려사항에 대응하고 개인과 사회를 보호하기 위한 효과적인 대응 방안을 모색한다. ▲국제 협력 방안: 모든 이에게 디지털 기술의 명백한 혜택을 가져다 주기 위해 정부, 국제기구, 기업 및 시민간 국제 협력 중요성을 논의한다. 각 정부, 국제 기구, 기업 및 시민이 공동 번영을 실현하기 위해 해야 할 역할을에 대해 아이디어를 공유한다. ■ 전문가 세션 2(AI 기회 및 혜택 세계 확산): 22일 오후 4시부터 5시40분까지 한국과학기술연구원(KIST) 대회의실에서 열린다. 주제는'디지털 권리, AI 기회·혜택'이다. 행사 초록에 따르면, 생성AI 등장으로 AI는 점점 더 정교하고 다재다능한 도구로 발전해 기술 진보의 새 시대를 열었다. 더불어 스마트폰, 로봇, 차량 등과 같은 하드웨어와 AI간 결합은 인간 능력을 전례 없는 방식으로 향상시키고 있다. 이제는 세계와 AI 기술 발전을 공유하기 위한 노력을 기울일 때다. 이에, 국제 기구, 고위 정부 관료, 글로벌 빅테크 기업, 학계 학자들과 함께 아래의 네가지 주제를 자세히 논의한다. ▲공공 부문의 AI 적용: 공공 및 행정 부문 내에서 최근 AI 사용 사례를 강조한다. 첫째, 공공 서비스 개선 둘째, 정부 행정 프로세스 자동화 셋째, 재난 및 비상 상황에서 시민 안전 강화에 중점을 둔다 ▲글로벌 도전 과제 해결: AI가 기후 변화, 공중 보건 위험, 에너지 및 식량 문제와 같은 글로벌 도전 과제를 극복하는 데 어떻게 기여할 수 있는지, 각 국, 기업, 학계가 어떤 역할을 해야 하는지에 대해 논의한다. ▲인간의 삶의 질 향상: AI 채택을 통한 공공의 이익 증진을 상상하며, 특히 장애인 및 노인과 같은 취약 계층을 위한 의료, 교육 및 보호 서비스 개선에 초점을 맞춘다. 또 AI 발전에 대한 공정한 접근과 혜택을 보장하기 위한 국제 협력 촉진에 대해 논의한다. 이 행사 좌장은 가브리엘라 라모스 유네스코 소셜&휴면과학 부총괄이다. 기조 연설은 고진 디지털플랫폼정부위원회 위원장이 한다. 행사 연사는 배순민 KT 책임감 있는 AI 센터장, 첸다 통 캄보디아 통신당국총괄, 크리스티나 몽고메리 IBM 최고신뢰임원, 댄 핸드릭스 xAI 안전고문, 멜라니 나카가와 마이크로소프트 최고지속성임원, 세바스티안 닐스 세일즈포스 최고법률임원, 서범석 루닛 대표, 스테파노 폴리도리 ITU-T 스터디그룹 기술장관 자문, 토리 가프니 벡터연구소 CEO, 라첼 로버트 시스코 최고매출임원 부사장 등이다.

2024.05.18 14:27방은주

"AI가 준 피해, 어디까지 감수할 수 있나"…정부, AI 서울 정상회의서 논의

"인공지능(AI) 위험성 범위는 무한대다. 인류는 AI로 인한 피해를 어디까지 감수할지 알아야 한다. 그래야 피해를 막을 수 있다. 각국 정부가 'AI 리스크 용납 범위'를 정해야 하는 이유다. 이는 내달 서울서 열리는 'AI 서울 정상회의' 주요 주제다." 크리스 메세롤 프론티어모델포럼 대표는 과학기술정보통신부와 네이버클라우드가 이달 11일부터 12일까지 서울 코엑스에서 개최한 'AI 레드팀 챌린지' 기조연설을 통해 내달 한국과 영국이 공동 진행하는 AI 서울 정상회의 핵심 주제를 알리며 이같이 밝혔다. 정부는 내달 21일부터 이틀간 AI 서울 정상회의를 공동개최한다고 밝힌 바 있다. 지난해 11월 영국서 처음 열린 행사다. 각국 정부는 행사에서 AI 안전 역량 강화 방안 공유, 지속 가능한 AI 발전 방안에 협의할 방침이다. 다만 구체적으로 안전성 논의를 어떻게 할 것인지 알려지지 않았다. 이를 크리스 메세롤 대표가 미리 귀띔한 셈이다. 메세롤 대표는 "AI 위험성이 언제, 어느 시점에서 나타날지 모른다"며 "사람은 100% 안전한 AI를 활용할 수 없다"고 설명했다. 또한 "각국 정부는 AI로 인한 위험을 어디까지 감수할 수 있는지 범위를 정해야 한다"며 "'AI 리스크 임계값' 설정이 시급하다"고 재차 강조했다. AI 리스크 임계값이란 인류가 현재 용인할 수 있는 AI 위험성 최대 수준을 뜻한다. 현대사회가 어느 범위까지 AI 위험성을 감수할 수 있는지 알린다. 예를 들어, 임계값이 10으로 정해졌을 경우, 현재 인류는 지표 10을 넘지 않는 범위 내에서만 AI 위험을 감수할 수 있다는 뜻이다. 10을 넘으면 인류는 AI로 인해 피해를 크게 입는다. 크리스 메세롤 대표는 올바른 AI법 규정을 위해서라도 AI 위험성 용납 범위를 설정해야 한다고 했다. 그는 "일단 임계값이 정해지면, 사람은 정해진 범위 내 발생할 수 있는 위험을 예상할 수 있다"며 "이를 사전에 막을 수 있는 AI법이나 정책을 정확히 만들 수 있다"고 설명했다. "정부·기업, AI 취약점 공유 채널 만들어야...모델 상용화 가능 기준도" 메세롤 대표는 각국 정부와 기업이 AI 위험성을 실시간 공유해야 한다고 말했다. 이를 위한 채널도 필요하다고 했다. 그는 "정부와 기업은 AI 보안 취약점을 미리 공유하는 채널이 필요하다"며 "일반 사용자에게 취약점을 공개하기 전에 정부와 기업이 취약점을 보완해야 한다"고 강조했다. 이어 "민간 해커는 공개된 취약점을 볼모로 삼아 AI 제품이나 서비스를 악용한다"며 "선 수정, 후 공지가 안전한 사이버 환경 조성을 돕는다"고 했다. AI 모델 시장 진출 가능 범위도 설정해야 한다고 했다. 지나치게 위험한 AI 모델이 상용화되지 못하도록 막는 조치다. 메세롤 대표는 "AI 모델은 믿을 수 없이 강력해지고 있다"며 "특수한 역량을 갖춘 모델이 무분별하게 시장에 나오지 못하도록 특정 범위를 설정해야 한다"고 강조했다. 이어 "전체적인 사회적 접근법을 통해 각국 정부와 기업이 AI 위험성에 대한 범위 설정에 합의를 봐야 한다"며 "이는 5월 AI 서울 정상회의서 깊게 다뤄질 내용일 것"이라고 덧붙였다. 프론티어모델포럼은 오픈AI를 비롯한 구글, 마이크로소프트, 앤트로픽이 모여 지난해 출범한 포럼이다. 안전하고 책임감 있는 AI를 보장하는 그룹이다. AI 잠재적 위험성을 파악하고 이를 방지하기 위한 방법을 찾는 게 임무다. 이를 통해 AI 안전 표준을 마련한다.

2024.04.14 09:15김미정

강도현 차관 "AI 분야 대한민국 위상 높이겠다"

강도현 과학기술정보통신부 차관은 2일 “인공지능(AI) 분야에서 대한민국의 국제적인 위상을 높이고 싶다”고 밝혔다. 강 차관은 이날 정부세종청사에서 열린 출입기자단 대상 간담회에서 “AI를 두고 세계 각국이 자신의 이해관계가 담긴 거버넌스를 내세워 각축전을 벌이고 있다”며 이같이 말했다. AI와 같은 새로운 디지털 질서가 정립되는 과정에서 한국의 목소리를 담겠다는 뜻이다. 강 차관은 특히 5월 국내서 열리는 'AI 안정성 정상회의(AI Safety Summit)'를 주목했다. 지난해 영국에서 처음 열린 AI 안정성 정상회의는 안전한 AI 활용을 위해 여러 국가와 기업이 모여 협력을 모색한 자리다. 디지털 권리장전을 발표하는 등 한국 정부는 그간 새로운 디지털 질서를 정립하는 데 주도적인 역할을 위해 목소리를 높여왔다. 그런 가운데 AI 글로벌 거버넌스가 논의되는 자리가 국내서 열리는 만큼, 이를 통해 AI 분야에서 위상을 높이겠다는 설명이다. 강 차관은 “이번 정상회의에 여러 글로벌 기업이 많은 관심을 보이고 있다”며 “한국을 방문하는 기업과 국제기구들이 우리 정부에 면담을 요청하고 있다”고 말했다. 그러면서 “AI 거버넌스가 논의되면서 이번 정상회의를 통해 다뤄질 것이고 향후에는 UN에서도 다뤄질 것인데, AI 분야의 새로운 규범을 만드는 과정 그 가운데 대한민국이 있기를 바란다”고 강조했다. 국회에 계류 중인 AI 기본법의 제정이 이뤄지길 원한다는 뜻도 밝혔다. 강 차관은 “디지털 분야 법 여러 안건이 국회서 논의되고 있는데 조속히 통과되길 바란다”며 “AI법은 시작 단계이기 때문에 정도와 내용을 떠나 틀을 만든다는 입장에서 이른 시점의 법안 제정을 희망한다”고 말했다. 이어, “단말기 유통법 폐지 역시 국회서 하루 빨리 논의되길 바라고, 대기업 참여제한을 완화하는 내용의 소프트웨어진흥법도 국회를 하루 빨리 통과하길 바란다”고 덧붙였다. 이밖에 소프트웨어와 보안, 클라우드 등의 여러 인증 제도를 시장 친화적인 방향으로 개편하는 작업이 중요하다는 뜻도 내비쳤다.

2024.04.02 15:23박수형

한국, "2050년 원전발전량 3배" 재확인

이종호 과학기술정보통신부 장관이 오는 2050년까지 국내 원전 발전량 3배 확대를 위한 전략적인 투자를 재차 확인했다. 이 장관은 지난 21일 국제원자력기구(이하 'IAEA')와 벨기에 공동 공동으로 브뤼셀 엑스포에서 열린 '2024 원자력에너지 정상회의」(Nuclear Energy Summit 2024' 한국 수석대표로 참석해 이 같이 말했다. 이 장관은 이 회의에서 우리 나라 원자력 확대 정책 현황과 2050년 탄소중립 달성을 위한 한국 구상을 설명했다. 이 회의는 원자력에너지 분야 첫 다자정상회의다. 원전 운영국을 비롯한 원자력 발전 및 산업을 확장 또는 시작하려는 38개국이 초청받았다. 초청 대상국은 ▲친원자력 유럽연합 내 폴란드, 체코, 불가리아, 루마니아 등 ▲원전운영국인 한국, 미국, 일본, 중국, 영국 등 ▲원자력 발전착수 준비국인 필리핀, 사우디, 이집트, 카자흐스탄 등이다. 이 장관은 국제사회에 △기후변화 대응 △에너지 안보 강화 △경제적 번영과 발전을 위해 원자력 역할을 강조하는 메시지를 전달했다. 이 회의는 화석 발전에서 청정에너지로의 전환을 원하는 국가들의 원자력 지원 확대와 원자력 기술‧산업 혁신이 지속될 수 있도록 적극 지원하기 위해 개최됐다. 지난해 12월 열린 제28차 유엔기후변화협약 당사국총회(COP28)에서는 원자력을 청정에너지 전환의 필수 요소로 인정했다. 이와 함께 이 총회에 참가했던 22개국은 오는 2050년까지 원자력 발전 용량 3배 확대를 선언한 바 있다. "2050년까지 SMR 등 혁신적 연구개발 투자 계속" 이종호 장관은 “한국은 세계 원전 발전용량 5위 국가로서 국제사회 움직임에 동참하기 위해 원자력 확대 정책을 추진하고 있다”고 밝히며 △신한울 3‧4호기 건설 △기존 원전의 계속운전 추진 △소형모듈원전(SMR)을 포함한 차세대원자로의 독자 기술개발과 산업기반 구축지원에 대해 설명했다. 이 장관은 “2050년까지 세계 원자력 발전량 3배 확대를 위해 유망기술인 SMR 등 혁신적 연구개발 투자도 계속해 나갈 것"이라며 "원자력 경쟁력 제고로 이어지는 전략기술 확보, 핵심인력 양성도 놓치지 않을 것"을 천명했다. 이와 함께 이 장관은 “한국이 지난 1971년 원전건설을 시작한 이래 UAE 바라카 원전을 포함, 36개 원전을 성공적으로 지었다”고 소개하며 우리의 우수한 원전 제작 역량과 운영능력을 강조하고," 앞으로도 해외 원전사업에 참여해 글로벌 원자력에너지 수요에 부응하는 노력을 전개할 것"임을 피력했다. 이 장관은 또 우리 정부가 '넷제로' 실현을 위한 현실적 이행수단으로 국제사회에 제시한 '무탄소에너지(CFE) 이니셔티브」' 취지와 향후 구상에 대해서도 비중있게 설명했다. 이 장관은 “인공지능(이하 'AI') 시대에 진입하면서 전력수요가 급증하고 있으나, 국가마다 재생에너지 활용을 위한 환경 여건은 다른 상황이다. 산업발전과 탄소중립이라는 두 가지 목적을 동시에 달성하기 위해서는 원전‧재생에너지‧수소 등 다양한 무탄소에너지원을 적극 활용할 필요가 있다”며 무탄소에너지 이니셔티브 확대를 위한 국제사회 연대를 요청했다. 한편 이종호 장관은 정상회의에 참석한 벨기에, 미국, UAE, 스웨덴 등 각국 수석대표들을 비롯해 국제원자력기구(IAEA), 국제에너지기구(IEA) 사무총장 등과 “오늘날 우리가 AI 일상화에 따라 에너지 증가에 대한 고민이 필요하다”는데 의견을 같이하고, "이에 대한 대책으로 저전력 반도체 기술개발 뿐만 아니라 SMR을 비롯한 원자력의 적극적인 활용의 필요성"을 강조했다. 한편 이번 정상회의에는 한국원자력연구원, 한국수력원자력(주), 한국전력(주) 등 국내 원자력 연구기관 및 산업계도 참석해 주요 협력국 유관기관들과 원전 및 차세대원자로 프로젝트 등의 협업을 위한 논의도 진행했다.

2024.03.23 15:02박희범

지금 뜨는 기사

이시각 헤드라인

적자기업 라포랩스는 SK스토아 인수 왜·어떻게 한다는 걸까

'서울 자가 대기업 김부장' 인사쟁이들은 이렇게 봤다

엔비디아 실적 발표에 쏠린 눈…분석가들의 전망은?

구글, 신규 모델 '제미나이3' 출시…"추론력 최고치"

ZDNet Power Center