"요슈아 벤지오·스튜어트 러셀도 동참"…TTA, AI 신뢰성 확보 나선다

한국정보통신기술협회(TTA)가 범용 인공지능(GPAI)의 위험을 체계적으로 분석하고 국제표준에 기반한 관리 체계를 제시해 기술 안전성·신뢰성을 높이는 데 기여했다. TTA 산하 AI신뢰성센터는 '범용 인공지능 위험 관리 프레임워크' 연구 보고서를 발표했다고 11일 밝혔다. 이번 보고서는 범용 AI의 잠재적 위험을 분석하고 효과적인 관리 방안을 마련하기 위해 국제표준을 반영한 것이 특징이다. TTA는 지난 2021년부터 과학기술정보통신부 및 관계 기관과 협력해 AI 신뢰성 인식 확산을 위해 다양한 연구를 진행해왔다. 이번 연구는 빠르게 발전하는 범용 AI 기술이 사회적·윤리적 영향을 미칠 가능성을 고려해 추진됐다. 보고서는 기존 연구에서 도출된 내용을 토대로 범용 AI에 특화된 8가지 핵심 위험 요소를 정의했다. 이를 통해 AI 관련 이해관계자들이 보다 명확히 위험을 인식하고 대비할 수 있도록 했다. 또 국제표준을 참고해 범용 AI 기술의 특수성을 반영한 위험 관리 프레임워크를 설계했다. 관련 기관에서 활용할 수 있도록 가이드라인을 제공하고 사례 분석을 통해 효과성을 검증했다. TTA가 마련한 프레임워크는 국내 인공지능 사업자들이 안전하고 신뢰할 수 있는 AI 서비스를 제공하는 데 실질적인 도움을 줄 것으로 기대된다. 이를 위해 국내 산·학·연 전문가 20명이 연구자문위원회로 참여해 완성도를 높였다. 또 AI 분야 석학인 요슈아 벤지오 몬트리올대 교수와 스튜어트 러셀 UC버클리대 교수의 의견을 반영해 국제적 공신력을 확보했다. 손승현 TTA 회장은 "최근 중국의 딥시크 공개 이후 개인정보 보호, 저작권, 국가 안보 등 AI 안전성 이슈가 부각되고 있다"며 "이번 연구 보고서가 AI 모델 및 서비스 개발 기업들이 인공지능을 안전하게 관리하는 데 중요한 참고자료가 되길 기대한다"고 밝혔다.