검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'UN'통합검색 결과 입니다. (7건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

네이버, UN서 AI 안전 정책 사례 공유

네이버가 5일 스위스의 UN 제네바 사무소에서 개최된 '신기술에 대한 인권 기반의 접근: 컨셉에서 구체적 적용으로' 행사에 참석해 안전한 AI 생태계 구축을 위한 네이버의 노력을 소개했다고 6일 밝혔다. 이 행사는 2022년부터 '신기술에 대한 인권 기반의 접근'을 주제로 단계별 심층 연구를 수행하며 매년 보고서를 발간하고 있는 서울대 인공지능 정책 이니셔티브(SAPI) 및 Universal Rights Group(URG)이 주제네바 대한민국 대표부와 공동으로 주최했다. SAPI 연구진은 '인권 중심의 규범을 업무 현장에 적용하는 현실적인 지침'을 다룬 올해 보고서를 발표하고, 주제네바 대한민국 대표부 윤성덕 대사, 서울대 임용 교수와 스테판 손넨버그 교수, 그리고 UN 인권최고대표사무소 관계자 등이 AI를 비롯한 새로운 디지털 기술을 인권을 바탕으로 발전시키기 위한 다양한 방안을 논의했다. 이 자리에서 네이버는 안전한 AI를 위한 추상적 원칙을 산업 실무에 적용해온 사례들을 공유했다. 발표를 맡은 네이버 정책/RM 아젠다 박우철 변호사는 2022년부터 운영중인 네이버 AI 윤리 자문 프로세스 'CHEC(Consultation on Human-centered AI's Ethical Considerations)'를 소개했다. CHEC는 '네이버 AI 윤리 준칙'을 실제 서비스 출시 과정에 적용하기 위해 설계한 정책이다. 네이버 측은 일방적 점검이 아닌 기획 및 개발 단계에서부터 사회적 관점을 함께 고려하는 상호작용 과정이라는 특징이 있다고 설명했다. 박우철 변호사는 "현장의 상황을 알지 못하면 AI 윤리 원칙은 진부한 이야기가 될 수 있다"며 "네이버는 AI 윤리 원칙을 현장에서 활용할 수 있도록 만들기 위해 SAPI와 같은 학계 전문가와 협업하는 등 많은 노력을 기울였고, CHEC 프로세스를 통해서는 서비스 담당자의 눈높이에 맞춰 현실적인 협업을 진행하기 위해 현장의 서비스 기획 및 개발 과정을 이해하고자 노력했다"고 설명했다. 네이버 AI 윤리 준칙을 구체화하기 위한 다른 정책들에 대한 소개도 이어졌다. 네이버에 따르면, 2023년에 공개한 '사람을 위한 클로바X 활용 가이드'는 빠르게 발전하는 생성형 AI 기술에 네이버 AI 윤리 준칙이 어떻게 적용될 수 있을지에 대해 고민한 결과물이다. 나아가 올해에는 AI 시스템을 개발하고 배포하는 과정에서 AI의 잠재적 위험을 더욱 체계적으로 인식·평가·관리하기 위해 네이버 ASF(AI Safety FRAMEwork)도 새롭게 구축했다. SAPI 디렉터를 맡고 있는 임용 서울대학교 교수는 "이번 행사를 통해, 신기술과 관련된 인권 기반 접근을 업무에 도입하기 위한 보다 실천적인 방안들이 공유되어 의미 있게 생각한다"며 "향후 AI 정책 입안자 및 기업들과 협업을 강화하며 AI에 대한 인권 기반의 접근이 확산될 수 있도록 노력할 것"이라고 밝혔다. 네이버는 다양한 글로벌 커뮤니티와 협업하며 AI 안전성 분야 리더십을 갖춰나가고 있다. 올해 UN의 AI 안전성 보고서 작성에 기술 자문을 제공했다. 다수 빅테크들이 참여하는 개방형 컨소시엄 'MLCommons'에서 AI 안전 벤치마크 구축 작업에 기여했다. 또한 지난 7월에는 AI 워터마크 기술 표준을 구축한 'C2PA(Coalition for Content Provenance and Authenticity)'에 국내 최초로 가입하기도 했다. 하정우 네이버 퓨처 AI 센터장은 "네이버는 AI 기술의 빠른 변화 속에서 주요 AI 기술을 내재화하면서, 서비스 기획·개발 현장과의 긴밀한 소통을 바탕으로 구체적이고 현실적인 안전 정책을 수립함으로써 AI 안전성 분야에서도 글로벌 리더 그룹으로 인정받고 있다"며 "앞으로도 우수한 AI 기술력을 확보하는 한편, 안전하고 지속 가능한 글로벌 AI 생태계를 만드는 데에도 앞장설 것"이라고 말했다.

2024.12.06 09:34조수민

"플라스틱 없는 미래로"…SAP, 부산서 순환 경제 혁신 방안 제시

SAP가 글로벌 비즈니스 역량을 활용해 지속 가능한 미래를 구축하기 위해 나섰다. SAP는 다음달 1일까지 부산에서 개최되는 '유엔 플라스틱 협약 제5차 정부간협상위원회 회의'에 참가해 플라스틱 오염 문제 해결을 위한 협력 방안을 논의한다고 25일 밝혔다. 이 회의는 구속력 있는 국제 협약의 최종 합의를 목표로 한다. SAP는 이미 전 세계 상거래의 87%를 차지하는 고객 네트워크를 기반으로 플라스틱 오염 문제 해결을 지원하고 있다. 이를 위해 기업들이 자재 흐름을 체계적으로 관리할 수 있는 솔루션을 제공해 왔다. 이번 회의에서는 유해 화학물질·불필요한 플라스틱의 단계적 퇴출을 비롯해 순환형 설계를 위한 글로벌 기준 마련과 생산자 책임 재활용 제도 실행 방안이 논의된다. SAP는 회의에서 소프트웨어와 네트워크 기술을 활용한 기여 방안을 공개할 계획이다. 최근 SAP는 플라스틱 문제 해결을 위한 글로벌 비즈니스 연합에도 참여해 각국 정상들에게 강력한 규제를 촉구하는 공개서한에 서명했다. 서한에는 플라스틱 오염 종식을 위해 협약에서 다뤄야 할 핵심 사항들이 담겼다. 스티븐 제이미슨 SAP 지속가능성 제품 마케팅 책임자는 "우리는 유엔 플라스틱 협약의 도전적인 목표를 달성할 수 있는 역량과 시스템을 이미 갖추고 있다"며 "기업의 플라스틱 오염 종식을 위한 기회를 신속히 파악하도록 지원할 것"이라고 말했다.

2024.11.25 17:40조이환

"호주 정부는 1조원 대가 치렀다"…UN, 책임 있는 공공 AI 강조

"인공지능(AI)은 공공 행정을 혁신할 수 있는 강력한 도구입니다. 이러한 AI가 책임감 없이 활용된다면 막대한 비용과 사회적 문제를 초래할 수 있습니다. 이 교훈을 얻기까지 호주 정부는 약 10억 달러(한화 약 1조2천억원)의 대가를 치러야 했습니다." 켈리 포브스 AI 아시아태평양기구(AIAPI) 대표는 지난 30일 인천 송도 컨벤시아에서 열린 '제8회 UN 리저널 심포지엄'에서 이렇게 강조했다. 이번 심포지엄은 '효과적인 거버넌스와 인공지능(AI) 전환을 통한 2030 아젠다 달성'을 주제로 개최돼 아시아태평양 및 동아프리카 등 48개국에서 약 300여 명의 정부 관계자와 전문가가 참석했다. 31일 업계에 따르면 최근 AI 기술의 급속한 발전과 함께 공공 행정 분야에서도 AI 도입이 활발하게 이뤄지고 있다. 이와 함께 딥페이크·가짜 뉴스 등 AI 기술의 오남용이나 책임성 결여로 인한 부작용에 대한 우려도 커지고 있다. 이러한 상황 속에서 포브스 대표는 공공 부문에서의 AI 활용에 대한 경각심을 일깨우기 위해 행사에 참가했다. 포브스 대표는 호주 정부의 '로보 데트(Robo-debt)' 사례를 언급하며 책임 없는 AI 사용이 시민들에게 어떤 결과를 초래할 수 있는지 설명했다. '로보 데트'는 지난 2016년 호주 정부가 복지 수급자의 부채를 자동으로 산정하기 위해 출시했던 AI 시스템으로, 부정확한 데이터와 알고리즘 편향으로 인해 수많은 오류와 부당 청구가 발생한 바 있다. 그 결과 호주 정부는 약 10억 달러(한화 약 1조2천억원) 이상의 소송 비용을 부담해야 했다. 그는 "'로보 데트' 사례는 AI 시스템이 시민의 권리를 침해할 수 있는 위험성을 경고한다"며 "AI의 의사결정 과정에 대한 투명성과 설명 가능성을 높여야 한다"고 강조했다. 이를 위해서는 책임 있는 AI 사용을 위해 정부·민간·학계·시민 사회가 뜻을 모아 협력할 필요가 있다. 이는 AI가 사회적 의사결정 과정에서 점점 중요한 역할을 맡고 있는 상황에서 편향과 투명성 부족 같은 문제를 효과적으로 해결하기 위함이다. 특히 정부는 AI 사용의 기본 원칙과 규제를 마련하고 민간은 기술 개발을 통해 책임 있는 AI 사례를 제시해야 한다는 것이 포브스 대표의 주장이다. 또 학계와 시민 사회는 연구와 감시 역할을 맡아 AI가 시민 권리를 침해하지 않도록 보완할 필요가 있다. 그는 "이러한 다각적인 협력을 통해서만 AI가 진정한 공공의 이익을 실현할 수 있다"며 "이를 전 세계적으로 확장하기 위해서 지역 간 협력을 촉진하기 위한 기술 지원 센터(AI Technical Facility)를 설립하는 것도 하나의 방안"이라고 강조했다. 이어서 발제한 세르주 스틴크위치 유엔대학교 마카오 연구소 소장은 AI가 모든 계층의 목소리를 반영하게 지원할 포용적인 정책이 중요하다고 강조했다. AI 기술은 근본적으로 발전하고 확장될수록 특정 계층이나 그룹의 소외 가능성을 높인다. 이를 방지하기 위해서는 정책적 조치가 핵심적이다. 스틴크위치 소장은 "모든 나라의 정부는 AI가 공공 서비스와 정책 결정에 사용될 때 소외된 이들을 혹시나 더욱 소외시킬 가능성이 없는지를 고려해야 한다"고 강조했다. 또 스틴크위치 소장은 개인정보 보호를 위한 방안으로 합성 데이터(Synthetic Data) 기술의 활용이 중요하다고 언급했다. 합성 데이터는 실제 데이터를 사용하지 않고도 데이터 분석에 필요한 통계적 특징을 구현할 수 있는 인공 데이터로, 개인정보 보호와 데이터 편향 문제를 해결하는 데 기여할 수 있다. 그는 "합성 데이터를 통해 개인을 보호하면서도 유의미한 분석을 수행할 수 있다"며 "이로써 각국은 개방형 소스 AI를 활용해 주권을 유지하면서도 서로의 상황에 맞는 AI 솔루션을 개발할 수 있다"고 말했다. 이어서 발제한 권헌영 고려대 정보보호대학원 교수는 한국의 디지털 플랫폼 정부 사례를 소개하며 데이터 기반 정책 결정과 AI 통합을 위한 국가적 데이터 거버넌스의 중요성에 대해 설명했다. 그는 "한국은 세계 최고 수준의 디지털 인프라를 바탕으로 공공 행정에서 AI를 효과적으로 활용하고 있다"며 "공공 부문 인력의 AI 활용 역량을 강화해 더욱 효율적인 행정 서비스를 제공해야 한다"고 강조했다.

2024.10.31 18:14조이환

[현장] UN 리저널 심포지엄 개막…반기문 "AI로 SDGs 달성 가속화해야"

"인공지능(AI)은 지속가능발전목표(SDGs) 달성을 위한 큰 잠재력을 가지고 있습니다. 그럼에도 불구하고 디지털 격차가 심화되면 그 잠재력이 불균형하게 분배될 위험이 있습니다." 반기문 전 UN 사무총장은 30일 인천 송도 컨벤시아에서 개막한 '제8회 UN 리저널 심포지엄'에서 이같이 강조했다. 이번 심포지엄은 '효과적인 거버넌스와 인공지능(AI) 전환을 통한 2030 아젠다 달성'을 주제로, AI 기술을 활용한 SDGs 달성 방안과 디지털 혁신 전략을 논의하기 위해 개최됐다. UN 경제사회이사회(UN DESA), UN 거버넌스센터(UNPOG), 대한민국 행정안전부, 인천광역시가 공동 주관한 이번 행사에는 아시아태평양 및 동아프리카 등 48개국에서 약 300여 명의 정부 관계자와 전문가가 참석해 다음달 1일까지 진행될 예정이다. 반기문 전 사무총장은 영상 기조연설을 통해 SDGs 달성 현황에 대한 우려를 표하며 AI의 역할과 디지털 격차 해소의 중요성을 강조했다. 그는 현재 SDGs 목표 중 단 17%만이 순조롭게 진행되고 있으며 많은 목표가 정체되거나 후퇴하고 있다고 지적했다. AI는 이러한 상황을 변화시킬 '게임체인저'로 작용할 수 있다. 정부가 AI를 활용해 양질의 데이터를 수집하고 공공 서비스의 효율성을 높임으로써 포용적 발전과 혁신을 이끌어낼 수 있다는 것이다. 이를 위해서는 AI의 오용에 대한 우려를 해소하고 책임 있는 AI 거버넌스를 구축하기 위한 국제적인 협력이 절실한 상황이다. 또 AI 데이터 센터의 환경 영향과 탄소 배출에도 각국이 주의를 기울여야 한다. 이러한 노력에 대해 반 전 총장은 "현재 85%의 국가가 AI 관련 규제나 정책이 없는 상황"이라며 "우선적으로 강력한 국가 기관과 견고한 규제 체계가 필요하다"고 강조했다. 그러면서 "이번 심포지엄이 AI의 변혁적 힘을 실질적으로 활용하는 데 기여하기를 바란다"고 말했다. 이어 연설한 티모시 마크 마시우 파푸아뉴기니 정보통신부 장관은 개도국의 AI 수용과 통합에 대한 관심을 표명하며 자국의 디지털 전환 노력을 소개했다. 그는 AI가 혁신을 촉진하고 효율성을 향상시키며 공공 부문의 서비스 제공을 강화할 수 있는 잠재력이 있다고 역설했다. 파푸아뉴기니는 지난 2020년 디지털 전환 정책을 시작으로 디지털 정부법, 사이버 보안 정책 등 여러 정책과 법안을 도입한 바 있다. 또 정부 포털, 디지털 ID, 디지털 월렛 등을 출시해 국민들이 정부와 원활하게 소통할 수 있는 기반을 마련하고 있다. 또 마시우 장관은 디지털 변혁에 있어서의 포용성과 접근성을 강조했다. 이를 위해서는 AI를 포함한 신기술에 대한 명확한 방향성과 협력이 필요하며 국내외 이해관계자들과의 협력 역시 핵심적이다. 그는 "최근 태평양 제도 ICT 장관 회의에서 '나디 선언'을 채택하고 디지털 변혁, 디지털 인프라, 사이버 보안 등 우선 분야에서 협력하기로 했다"며 "누구도 뒤처지지 않도록 국제 사회와 함께 AI를 책임 있게 활용하겠다"고 강조했다. 이번 행사는 인천광역시와 행정안전부의 적극적인 참여로 더욱 의미를 더했다. 두 기관은 공동 주최를 통해 국제적인 AI 거버넌스 논의에 주도적으로 참여하며 대한민국의 디지털 역량과 공공 행정 혁신 사례를 세계에 알리고자 힘쓰고 있다. 이상민 행정안전부 장관은 환영사에서 국제 협력과 디지털 혁신의 중요성을 강조했다. 실제로 대한민국은 현재 공적개발원조(ODA) 예산을 30% 이상 증액하고, 개발도상국의 공공행정 개선과 디지털 역량 강화를 지원하고 있다. 또 AI 등 첨단기술을 기반으로 혁신적 서비스를 제공하고 사회 문제를 해결하는 디지털 플랫폼 정부를 구현하는 중이다. 이 장관은 "국제사회의 규범과 자유, 평화, 인권의 보편적 가치에 기반한 협력이 필요하다"며 "행안부도 국제 AI 협력을 적극 지원할 것"이라고 강조했다. 유정복 인천시장은 AI 기술의 기회와 위험을 동시에 언급하며 균형 잡힌 접근의 필요성을 강조했다. 이를 위해서는 정부, 기업, 비정부기구들이 협력 네트워크를 구축하는 것이 필수적이다. 유 시장은 "이번 심포지엄에서 AI 기술이 주는 편의와 위험의 균형을 맞춰 나갈 방안을 논의할 것으로 기대한다"며 "AI 규범과 거버넌스를 발전시켜 문제를 최소화하고 안정성을 확보하도록 적극 지원하겠다"고 밝혔다.

2024.10.30 12:16조이환

싱가포르로 간 고학수, 글로벌 AI 시장 내 韓 주도권 잡기 본격화

고학수 개인정보보호위원회 위원장이 급격히 성장하고 있는 글로벌 인공지능(AI) 시장에서 우리나라의 주도권을 강화하기 위한 움직임에 본격 나섰다. 개인정보위는 고 위원장이 오는 28일부터 29일까지 싱가포르에서 개최되는 '유엔 AI 고위급 자문기구' 3차 대면 회의에 참석한다고 26일 밝혔다. 이번 싱가포르 회의에서는 AI 국제 거버넌스 구축에 필요한 기능(functions), 제도적 형태(institutional forms), 시한(timeline)에 대한 구체성 있는 권고사항을 도출하고 이를 반영한 최종 보고서 초안이 마련될 예정이다. 특히 이번 회의에서는 AI 국제 거버넌스 논의의 외연과 깊이를 확장하기 위해 지난 3월부터 진행해온 영역별·주제별 심층분석(deep-dive) 결과와 시사점을 공유하고 최종 보고서에 반영하는 작업도 병행될 예정이다. 싱가포르 회의에서 마련될 최종 보고서 초안은 자문기구 전체회의 최종 회람 등을 거쳐 오는 6월 말 확정될 전망이다. 이 보고서는 오는 9월 개최되는 유엔 '미래를 위한 정상회의'에서 안토니우 구테레쉬(Antonio Guterres) 유엔 사무총장에게 제출될 예정이다. 개인정보위는 싱가포르 방문을 계기로 현지진출 기업 및 싱가포르 개인정보 감독기구와의 소통도 강화한다. 먼저 이달 28일에는 싱가포르 현지 진출기업 대상 간담회를 개최해 AI·데이터 관련 주요 정책방향을 공유하고 현지 기업들의 건의사항을 청취한다. IT, 금융 등 분야 국내 기업이 참석해 최근 기업들의 관심이 높은 개인정보 국외 이전, AI 개발·서비스를 위한 안전한 데이터 활용 방안에 대한 논의할 예정이다. 참여 기업은 LG CNS와 삼성 SDS, NHN KCP, 하나은행, 대한무역투자진흥공사(코트라) 등이다. 29일에는 싱가포르 개인정보 감독기구(Personal Data Protection Commission, PDPC)를 방문해 '한국-싱가포르 개인정보 법제 개정 동향', 'AI 프라이버시 정책방향' 등 주요 정책 동향을 공유하고 향후 긴밀한 정책 협력·공조 방안을 모색할 예정이다. PDPC는 2012년 제정된 싱가포르 개인정보 보호법에 따라 2013년 1월 2일에 설립된 싱가포르 정보통신미디어개발청 산하 정부기관이다. 고학수 위원장은 "AI 규율에 대해 통일성 있는 국제 논의가 이루어지지 않는 상황에서 보편성, 대표성을 가진 유엔의 최종 보고서 내용과 구속력 수준에 대한 국제적 관심이 높은 상황"이라며 "최종보고서의 방향성과 우리나라 국익이 일치하는 방향으로 논의에 참여하고 주도해 나가겠다"고 밝혔다.

2024.05.26 12:00장유미

UN 사무총장 "AI 위협 심각…글로벌 전략 필요"

안토니오 구테흐스 국제연합(UN) 사무총장이 인공지능(AI) 기술의 위험에 대해 경고하면서 공동 대응이 시급하다고 지적했다. 17일(현지시간) CNBC에 따르면 구테흐스 사무총장은 스위스 다보스에서 열린 세계경제포럼 특별연설에서 “AI의 급속한 발전이 의도치 않게 심각한 위험을 초래할 수 있다”고 경고했다. 그는 “모든 생성AI의 상호작용은 의도치 않게 심각한 리스크를 증가시킨다”며 “AI 기술이 폭주할 때 발생할 위협에 대응할 힘이 없는 게 현실”이라고 주장했다. 또 “국제통화기금(IMF)이 경고한 것처럼 AI는 세계 불평등을 악화시킬 가능성이 매우 높다”며 “일부 AI 기술 기업은 이미 개인의 인권과 프라이버시, 사회적 영향 등을 명백하게 무시한 채 이익만을 추구하고 있다”고 덧붙였다. 이에 앞서 크리스탈리나 게오르기에바 IMF 총재는 지난 14일 언론 인터뷰에서 “전 세계 일자리의 약 40%가 AI가 대체할 것으로 예상되며, 특히 화이트컬러 직종이 많은 영향을 받을 것으로 예상된다"고 경고했다. 그는 특히 "선진국 노동자는 60% 가까이 대체될 수도 있다"고 강조했다. 한편 AI 기술을 낙관적으로 전망하는 주장도 있다. 빌 게이츠 마이크로소프트 창립자는 “AI가 인류 생산성의 가장 큰 발전”이라며 “사무직은 물론 생산직 노동자가 일을 덜 하면서 더 많은 돈을 벌 수 있도록 만들 것”이라고 말했다.

2024.01.18 10:09조성진

유엔 경제사회국, 올해 韓 경제 성장률 2.4% 전망

유엔 경제사회국(DESA)은 올해 한국의 실질 국내총생산(GDP) 성장률을 2.4%로 전망했다. 4일(현지시간) 주요외신 보도에 따르면, 이날 유엔 경제사회국은 '2024 세계 경제 상황과 전망' 보고서를 발간하고 올해 한국의 경제 성장률이 2.4%를 기록할 것으로 전망했다. 이는 기획재정부와 한국은행 전망치보다 낙관적인 수준이다. 전날 기획재정부는 '2024년 경제정책방향'을 발표하며 올해 실질 GDP가 2.2% 성장할 것으로 예상했다. 지난해 11월 한국은행은 올해 국내 GDP가 2.1% 성장할 것으로 전망했다. 경제협력개발기구(OECD)는 정부 전망보다 높은 2.3%를 제시했다. 유엔 경제사회국은 “한국에서 고물가가 지속되며 노동자의 실질적인 임금이 줄었고 이는 민간소비 둔화에 영향을 끼쳤다”며 “중앙은행의 긴축적인 통화정책과 높은 시장금리에 따른 금융비용 상승에도 불구하고 지난해 민간투자가 완만하게 회복했다”고 평가했다. 지난해 수출은 반도체를 중심으로 하반기 들어 좋아지는 흐름을 보였다. 기획재정부는 올해 국내 경상수지 흑자 규모를 전년 대비 61.29% 증가한 500억원으로 전망했다. 한편 유엔 경제사회국은 올해 세계 경제 성장률도 2.4%로 전망했다. 이는 지난해 5월 전망치 대비 0.1%포인트 낮은 수준이다.

2024.01.05 08:59조성진