정부 지원 첫 민간 AI신뢰성 인증 12월에 나온다
정부가 지원하는 민간 자율 인공지능(AI) 신뢰성 인증서가 오는 12월 국내서 처음 등장할 전망이다. 한국정보통신기술협회(TTA, 회장 손승현)가 평가해 수여하는 것으로 외형상 민간 자율 인증이지만 과기정통부가 적극 지원하고 있어 다른 민간 인증과 큰 차이가 있다. TTA가 시행하는 AI 신뢰성 인증은 ▲인공지능 학습용 데이터 ▲인공지능 모델 및 알고리즘 ▲인공지능 시스템 ▲사람-인공지능 인터페이스 등 4개 분야를 평가하며 총 평가 항목은 15가지다. 31일 TTA는 박윤규 과기정통부 2차관이 참석한 가운데 서울 서초구 더케이호텔에서 이 같은 내용을 소개하는 '민간자율 방식의 인공지능(AI) 신뢰성 검·인증 설명회'를 개최했다. 행사에는 초거대 인공지능 기업을 비롯한 국내 인공지능 기업과 정부사업 수행기관(NIPA·IITP) 등 100여명이 참석했다. 이날 주제 발표를 한 이강해 TTA 단장(AI융합기획단)은 생성AI가 등장하면서 AI기술 확산과 함께 위험 및 윤리이슈가 대두했다면서 "국내 기업의 인공지능 신뢰성 제고 및 글로벌 경쟁력 강화를 위해 AI 신뢰성 인증을 마련, 추진하게됐다"고 설명했다. 규제가 아니라, 산업 혁신과 진흥은 물론 시장활성화를 통한 경쟁력 확보를 위해 자율방식의 AI신뢰성 인증이 필요하다는 것이다. 우리나라 뿐 아니라 국제적으로 AI 신뢰성 관련 규범과 규제가 마련되거나 논의중이다. 이미 유럽연합(EU)은 올 6월 유럽의회에서 AI에 관한 최초의 규제법이라 불리는 'AI액트(AI ACT)'를 통과시켰고, 미국은 올 5월 국가AI R&D 전략에 이어 7월에는 AI 8대 원칙(8 Commitments)을 마련했다. 우리 정부도 올 4월 초거대AI 경쟁력 강화 방안과 9월 13일 전국민 AI일상화 실행 계획에 이어 10월 25일 제 4차 인공지능 최고위 전략대회에서 인공지능 윤리·신뢰성 확보 추진 계획을 공표했다. 앞서 2020년에는 대한민국 인공지능 윤리 기준을 마련했고 2021년에는 실무자와 개발자, 연구자가 활용하는 개발 안내서도 선보였다. 이강해 단장은 TTA의 AI 신뢰성 인증에 대해 "최신 글로벌 논의와 규범을 반영했고 또 국제 표준 등 기술문서 및 법령에 부합한다"면서 "특히 최근 이슈로 대두한 생성AI 관련 내용도 포함했다. 국내에서 인증을 받으면 미국과 영국에서 요구하는 수준을 다 만족시킬 수 있다"고 강조했다. TTA인증이 '국내용'이 아니고 해외에서도 통한다는 것이다. 이어 이 단장은 TTA인증이 정부 정책과 긴밀한 정합성을 유지하고 있다면서 "정부 지원으로 추진하는 인증으로 향후 정책적, 제도적 지원 가능성이 있다. 또 다양한 이해관계자와의 합의와 의견수렴을 통해 기술 항목을 만드는 등 공신력 있는 3자 검증을 거쳤다"고 덧붙였다. 현재 국내에는 한국표준협회가 주는 'AI+'인증과 '인공지능 신뢰성' 인증을 비롯해 한국인공지능협회, 지능정보산업협회, 한국화학융합시험연구원 등이 주는 다양한 AI 관련 인증이 있는데 이들과 다르다는 것이다. TTA가 마련한 AI신뢰성 인증은 데이터, 모델과 알고리즘, 시스템, 사람-AI 인터페이스 등 4개 분야에 총 15개 항목으로 돼 있는데, 이중 가장 까다로운 부문은 시스템으로 15개 항목 모두를 충족해야 인증을 받을 수 있다. 인증 단계는 8단계로 구성됐다. 신청서를 제출하면 상담(시험환경 합의, 시험대상 요구사항 결정, 수수료 산정)->계약->분석 및 설계->시험(부적합시 소명)->보고서 작성(시험 성적서 및 시험결과서)->인증위원회 상정->심의 결과(적합시 인증서 수여) 등의 절차를 거친다. 이 단장은 "현재 추진중인 고위험성 AI 프로젝트 3개를 대상으로 오는 11월 시험을 수행하고 12월에 인증서를 발급할 예정"이라면서 "내년부터 본격적으로 인증 서비스에 나서겠다"고 밝혔다. 시험 결과는 통과(P), 실패(F), 보류(N/A)로 표시된다. 이 단장은 "통과의 경우 해당 요구사항 및 검증항목을 완전무결하게 충족했음을 의미하는 것은 아니다. 시험 당시 시험의뢰 기업의 노력이 충분함을 의미한다"면서 "이를 유지하기 위해, 시험의뢰기업은 향후 지속적으로 관련 활동과 산출물 마련, 기술 개발 및 적용 등의 기술적·조직적·절차적 노력을 계속 기울여야 함을 의미한다"고 덧붙였다.
