"혁신 속도 따라갈 안전장치는 사람"…LG가 꺼낸 AI 안전 해법

인공지능(AI) 개발 속도를 늦춰 안전장치가 따라갈 시간을 벌자는 '속도조절론'이 확산하는 가운데 LG가 AI 안전을 높이기 위해 이를 만드는 사람의 역량도 함께 키워야 한다고 강조했다. 16일 AI 업계에 따르면 김유철 LG AI연구원 전략부문장은 사우디아라비아 리야드에서 열린 '제4회 유네스코 AI 윤리 글로벌 포럼' 패널 토론에서 AI 개발자와 정책 담당자를 대상으로 한 윤리 교육 필요성을 제기했다. AI 활용법을 가르치는 교육은 빠르게 늘었지만 AI 시스템을 직접 설계·개발·관리하는 사람을 위한 교육은 부족하다고 진단했다. 'AI 윤리 글로벌 포럼'은 각국 정부와 산업계, 학계, 국제기구 관계자들이 모여 AI 윤리와 거버넌스 방향을 논의하는 국제 행사다. 유네스코와 사우디아라비아가 공동 주최하며 지난 14일부터 오는 17일까지 리야드에서 열린다. 김 부문장은 이번 포럼에서 AI 안전을 기술적인 장치만으로 확보하기 어렵다고 강조했다. 개발자와 정책 담당자가 AI를 만드는 과정에서 위험을 파악하고 대응 방법을 판단할 수 있도록 사람의 역량도 함께 높여야 한다고 주장했다. LG AI연구원은 이를 위해 유네스코와 'AI 윤리 무크(MOOC·온라인 공개강좌)'를 공동 개발했다. 지난해 7월 프로젝트를 시작해 올해 7월 정식 공개한 이 강좌에는 약 두 달 만에 전 세계에서 약 3만명이 등록했다. 교육은 11개 언어로 제공한다. 교육은 AI 활용법보다 개발 과정에서 필요한 윤리적 판단에 초점을 맞춘다. 개발자와 연구자, 정책 담당자, 학생 등이 AI를 설계하고 운영하면서 마주하는 문제를 판단하고 대응하는 데 필요한 내용을 담았다. 교육과정은 유네스코 'AI 윤리 권고'를 토대로 구성했다. 공정성과 포용성, 개인정보와 데이터 거버넌스, 투명성과 책임성, 안전·보안 등을 실제 사례를 중심으로 다룬다. LG AI연구원은 자체 AI 개발 과정에서 쌓은 경험도 교육에 반영했다. 모델과 서비스를 개발할 때 위험 요소를 점검하는 윤리영향평가와 데이터 컴플라이언스 사례 등을 공유했다. 최근 글로벌 AI 업계에서는 AI 개발 속도를 둘러싼 안전 논쟁이 거세졌다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 AI 발전 속도가 이를 이해하고 통제하는 능력을 앞지를 수 있다며 프런티어 AI 모델의 개발 속도를 늦춰야 한다고 주장했다. 아모데이는 AI 개발을 중단하자는 것이 아니라 안전 연구와 평가가 기술 발전을 따라갈 시간을 확보해야 한다고 강조했다. 앤트로픽은 외부 평가기관에 내부 직원에 준하는 접근 권한을 제공하고 AI 기업 간 공동 안전기준과 국제 공조도 추진하겠다는 방안을 내놨다. 반면 도널드 트럼프 미국 대통령은 중국과의 AI 경쟁을 이유로 개발 속도를 늦추는 데 부정적인 입장을 나타냈다. 미국이 중국에 앞선 상황에서 AI 개발을 제한하면 경쟁 우위를 내줄 수 있다는 이유를 들었다. LG AI연구원 역시 AI 모델 개발 경쟁에 뛰어들고 있다. 자체 AI 모델 '엑사원'을 개발하고 정부의 독자 AI 파운데이션 모델 프로젝트에도 참여 중이다. 모델 성능을 끌어올리는 동시에 개발 과정에서는 윤리영향평가와 데이터 컴플라이언스 체계를 운영하고 있다. 김 부문장은 "AI 도구를 사용하는 방법을 가르치는 프로그램은 많지만 AI 시스템을 설계하고 개발하고 관리하는 사람을 위한 교육은 거의 없다"며 "혁신의 속도를 따라갈 만큼 빠른 유일한 안전장치는 사람의 역량이라고 믿는다"고 강조했다.