검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'RAI'통합검색 결과 입니다. (4건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

책임감 있는 AI...글로벌 통신사 표준 로드맵 나왔다

세계이동통신사업자연합회(GSMA)가 통신 업계 전반에서 책임 있는 AI(Responsible AI) 로드맵을 내놨다. 통신사들이 AI에 대해 책임감을 갖고 사용할 수 있도록 기준을 제시한 것이다. 17일(현지시간) GSMA에 따르면 RAI 로드맵은 통신사들이 향후 20년까지 AI 활용으로 6천800억 달러 규모가 예상되는 시장에서 책임감 있고 윤리적인 접근 방식을 채택하고 측정할 수 있도록 고안됐다. RAI 성숙도 로드맵은 ▲조직의 비전, 가치와 전략적 목표 ▲운영 모델과 모든 운영에서 AI 거버넌스를 유지하는 방법 ▲규제 요건에 부합하는 기술 통제 ▲타사 생태계와의 협력 ▲기업 변화 관리와 커뮤니케이션 전략 등 5가지 축으로 이뤄졌다. 이에 따라, 조직의 성숙도 수준에 따라 책임감 있게 AI를 사용할 수 있는 적절한 조치를 취할 수 있도록 안내한다. 아울러 공정성, 개인정보 보호, 투명성, 환경 영향 등의 모범 사례 원칙을 따른다. GSMA가 내놓은 RAI 로드맵은 최초의 업계 전반을 다루는 것으로 맥킨지와 함께 개발했다. GSMA 측은 광범위완 협의를 거쳐 기존 글로벌 규제와 OECD를 포함한 국제기구의 권고와 표준, 유네스코의 AI 윤리 권고 사항을 참조했다고 설명했다. 도이치텔레콤, 오렌지, 텔레포니카, 텔스트라, 악시아타 등의 글로벌 통신사들이 로드맵을 따르겠다고 선언했다.

2024.09.18 07:49박수형

[현장] "AI 무기화, 막을 수 있을까"…글로벌 협력이 관건

인공지능(AI) 기술의 책임 있는 사용을 보장하기 위해서는 국제적 협력과 검증 절차가 필수라는 주장이 나왔다. 9일 서울 롯데호텔에서 열린 'REAIM 고위급회의'에서 진행된 '군사 분야 AI의 책임있는 이용 이행 방안' 세션에서 전문가들은 AI의 군사적 사용에 대한 책임성과 신뢰성을 확보하기 위한 구체적 전략과 방안을 논의했다. 이들은 정부와 산업계 간의 협력과 기술적 검증 절차 강화가 필수적이라는 데 의견을 모았다. 이 회의에는 라다 플럼 미국 국방부 디지털 AI 최고책임관, 김종진 한화시스템 전무 겸 우주연구소 부소장, 로셀린다 소이판 투야 케냐 국방장관, 예룬 반 덴 호벤 델프트 공대 교수, 정이 중국과학원 자동화연구소 교수 등이 참석했다. 라다 플럼 최고책임관은 미 국방부가 2020년부터 AI 관련 원칙을 채택해왔다며 AI의 책임 있는 사용을 보장하기 위한 구체적인 실천 방안을 제시했다. 플럼 책임관은 "AI는 기술적으로 매우 복잡하다"며 "이에 따라 AI를 군사 시스템에 적용하는 과정에서 모든 단계에 걸쳐 검증 가능한 가이드라인이 필요하다"고 강조했다. 실제로 플럼 책임관에 따르면 미 국방부는 메사추세츠 공대(MIT)와 협력해 AI 시스템의 불확실성을 정량화하는 툴을 개발했다. 또 이를 AI 모델 선정 및 평가 전체에 적용하고 있다. 그는 "시스템을 모듈화함으로써 설계, 시험평가, 전력화 등 모든 단계에서 검증 절차를 효율적으로 실시해야 한다"며 "이를 통해 각 분야의 전문가와 실시자들이 비용 효율적이면서도 효과적인 방법으로 검증을 할 수 있을 것"이라고 강조했다. 김종진 한화시스템 전무는 방산 기업 관점에서 AI 개발의 투명성과 신뢰성 확보의 어려움을 언급했다. 김 전무는 "AI 시스템은 방산 분야에서 특히 중요한데 그 복잡성 때문에 투명성을 유지하는 것이 어렵다"며 "모듈화를 통해 시스템의 이해도를 높여서 차후 버전 개발도 용이하게 해야 한다"고 말했다. 또 김전무는 AI의 신뢰성 문제를 지적하며 방위산업 분야에서 데이터 부족으로 인한 어려움을 강조했다. 이를 해결하기 위한 방안으로 그는 "AI 시스템의 검증과 신뢰성을 확보하기 위해 정부와의 긴밀한 협력이 필요하다"며 "민관 간 협력을 통해 철저한 검증 절차를 필수적으로 마련해야 한다"고 주장했다. 로셀린다 소이판 투야 케냐 국방장관은 AI와 환경 지속가능성 관계를 강조했다. 투야 국방장관은 AI가 에너지 수요와 환경 보호에 미치는 영향을 언급하며 "AI 기술 역시 지속 가능성 원칙을 반영해 환경 보호 측면에서 긍정적인 변화를 이끌어야 한다"고 주장했다. 이어 발언한 예룬 반 덴 호벤 델프트 공대 교수는 AI 윤리와 규범의 중요성을 언급했다. 그는 "인간의 'AI 통제' 개념을 구체화할 필요성이 있다"며 "AI 시스템에서 공정성과 민주주의 원칙을 반영한 규범적 접근이 필요하다"고 주장했다.

2024.09.09 16:06조이환

KT, 인공지능 안정성 조직 신설

KT가 안전하고 믿을 수 있는 AI 기술을 제공하기 위해 책임감 있는 인공지능 센터(RAIC)를 신설한다고 23일 밝혔다. RAIC는 AI 기술이 사용자에게 유익한 가치를 제공할 수 있도록 관련된 잠재적 위험을 최소화하기 위한 연구를 수행한다. 안전성, 투명성, 개인정보보호 등 AI가 악용될 수 있는 분야에서 위험 수준에 대한 관리 체계를 구축한다. 아울러 사내 적용 중인 AI 윤리원칙을 고도화하는 동시에 실무에서 즉시 이행 가능한 수준의 지침으로도 제작한다. KT는 지난해 AI 윤리원칙을 수립하고 통신 AI 산업의 발전을 위한 백서를 발간했다. 주요 내용은 ▲AI 기술과 제품 개발에서 공정성, 비차별, 투명성, 해석 가능성의 원칙 준수 ▲표준화와 개방형 생태계 통해 자원과 기술 공유 강화 ▲책임감 있는 AI 개발을 위한 사회적 책임 강화 등이다. 최근 EU에서 AI 법이 통과되고 5월 AI 서울 정상회의가 개최되는 등 AI 규범에 관한 국제적 논의와 공조가 활발하게 진행되고 있다. 이에 맞춰 KT는 세계 최고 수준의 AI 연구 기관 캐나다 벡터연구소와 'Responsible AI'를 주요 어젠다로 두고 협력하고 있다. KT는 RAIC 신설로 AI를 사회가 지향하는 가치와 목적에 사용하도록 하는 거버넌스 체계를 확립한다. MWC24에서 선포한 AICT 회사로서의 경영 비전을 구체화하기 위한 방안이다. KT는 RAIC에 ▲AI 윤리 ▲정책 개발 및 협력 ▲소프트웨어 엔지니어링 및 데이터 등 다양한 분야의 전문가를 신규 영입한다. 배순민 KT 상무는 "KT는 투명성, 공정성, 안전성 등 윤리적 가치를 실현해 AI가 일상의 삶과 산업을 혁신하고 사회에 긍정적인 영향을 미치는 기술이 될 수 있도록 'Responsible AI'를 지속 강화해 나갈 것”이라고 밝혔다.

2024.04.23 10:00박수형

메타, '책임 있는 AI팀' 해체

메타가 '책임감 있는 인공지능(RAI)' 팀을 해체했다. 미국 디인포메이션은 18일(현지시간) 메타가 사내 메신저를 통해 이같은 결정을 내렸다고 단독 보도했다. 모든 RAI 팀원은 생성형 인공지능(AI) 제품 개발 부서나 AI 인프라 연구팀으로 이동한다. 이 회사는 앞으로 생성형 AI 제품 개발에 투자와 역량을 집중할 계획을 알렸다. 메타 거대언어모델(LLM) '라마 2'와 AI 챗봇 '메타AI'를 활용해 더 많은 서비스를 출시할 계획이다. 이를 위한 인력과 투자를 충당하기 위해 RAI 팀을 해체하고 개발팀으로 옮긴 셈이다. RAI 팀은 2019년 설립됐다. 메타 AI 모델이 적절하게 학습됐는지 확인하는 역할을 맡았다. 특히 페이스북 게시글 번역, AI 알고리즘 편향, 아동 성학대 알고리즘 등을 발견하면 이를 즉시 삭제·수정하는 일도 했다. 메타가 올해 초 구조조정을 거치면서 RAI 팀 규모와 투자액을 대폭 줄였다. 비즈니스 인사이더 보도에 따르면, 현재 RAI 팀은 '껍데기만 남은 팀'으로 자율성도 잃은 상태다. 메타는 "RAI 팀은 해체했지만, 지속적으로 안전하고 책임감 있는 AI 개발에 투자할 것"이라고 디인포메이션을 통해 밝혔다.

2023.11.19 09:57김미정