[AI 속도 논쟁③] "200㎞ 달려도 도로에선 100㎞"…한국 AI, 어디서 브레이크 걸까

글로벌 인공지능(AI) 업계에서 개발 속도를 늦춰야 한다는 주장이 커지면서 한국도 같은 브레이크를 밟아야 하는지가 관심사로 떠올랐다. 국내에서는 연구개발까지 늦추기보다 기술 개발은 이어가되 모델이 시장에 나오고 사람을 대신해 행동하는 단계부터 위험에 맞는 안전장치를 강화해야 한다는 목소리가 나온다. 국내 AI 업계와 학계는 한국이 아직 글로벌 프론티어 AI 선두권을 추격하는 상황에서 개발 속도부터 낮추는 것은 현실적이지 않다고 진단했다. 대신 모델 공개와 서비스 출시, 실제 활용을 구분해 단계별로 다른 안전 기준을 적용할 필요가 있다고 봤다. AI 업계 안팎에서는 AI가 맡는 역할과 권한에 따라 안전 기준도 달라져야 한다고 봤다. 질문에 답하는 AI와 예약·결제 등 실제 행동까지 맡는 AI를 같은 수준으로 볼 수 없다는 지적이다. "200㎞ 달리는 차도 도로에선 적정 속도"…개발과 사용은 따로 박지환 씽크포비엘 대표는 17일 지디넷코리아와의 통화에서 한국이 아직 AI 연구개발 속도를 늦출 단계는 아니라고 짚었다. 글로벌 프론티어 AI를 추격해야 하는 만큼 기술 성능을 높이는 연구는 이어가되 실제 사회에서 어디까지 쓰게 할지는 별도의 기준으로 정해야 한다고 봤다. 박 대표는 이를 자동차에 빗댔다. 자동차는 시속 200㎞가 넘는 속도를 낼 수 있도록 개발돼도 실제 도로에서는 시속 80㎞나 100㎞의 제한속도를 적용한다. 일부 승합차처럼 용도나 위험도에 따라 차량 자체의 최고속도를 제한하기도 한다. 그는 "자동차가 시속 200㎞ 넘게 달릴 수 있다고 해서 모든 도로에서 그 속도로 달리게 하지는 않는다"며 "AI도 성능을 어디까지 높일 것인지와 사회에서 어디까지 사용할 수 있게 할지는 구분해야 한다"고 강조했다. 이어 "200㎞ 이상을 달리는 자동차를 연구하는 것처럼 AI 선행 연구는 계속해야 한다"며 "동시에 그 기술을 사회에서 안전하게 사용할 수 있도록 제도를 갖추는 게 필요하다"고 덧붙였다. AI가 답변에서 '실행'으로 넘어가면서 이런 고민은 실제 서비스 현장으로 옮겨가고 있다. 자체 AI 모델과 대국민 서비스를 함께 개발하는 SK텔레콤은 '모두의 AI'에서 병원 예약 등 이용자를 대신해 업무를 수행하는 실행형 AI 에이전트를 준비 중이다. 김지훈 SK텔레콤 AI사업본부장은 에이전트가 직접 행동하는 범위가 넓어질수록 이용자가 어디까지 권한을 맡길지 기준을 세우는 일이 중요해진다고 봤다. 민원이나 금융처럼 개인정보와 돈이 오가는 업무에서는 이용자 동의와 안전장치도 필요하다고 설명했다. SK텔레콤은 이용자 동의 없이 처리할 수 있는 업무와 별도 승인이 필요한 업무를 구분하는 방안을 검토하고 있다. 보안업체와 레드팀도 꾸려 실행형 에이전트의 취약점을 사전에 점검 중이다. 김 본부장은 "에이전트를 어떻게 설계하고 고객 정보를 처리할지, 어떤 방식으로 권한을 얻을지에 대한 논의가 업계에서 더 많이 이뤄져야 한다"며 "성능은 빠르게 높아지고 있지만 관련 가이드라인과 규칙은 아직 초기 단계"라고 말했다. 연구는 계속, 시장에 나올 땐 검증…위험 따라 달라지는 '브레이크' 유창동 한국과학기술원(KAIST) 전기및전자공학부 교수는 기업 내부의 연구개발까지 인위적으로 늦추기는 어렵다고 내다봤다. 다른 국가와 기업들이 개발을 이어가는 상황에서 연구 경쟁 자체를 멈추기는 쉽지 않다는 이유다. 다만 제품을 외부에 내놓기 전에는 별도의 안전 검증이 필요하다고 선을 그었다. 유 교수는 "개발은 계속하더라도 외부로 출시하는 제품은 안전성을 확인하면서 속도를 조절하는 게 맞다"며 "평가 기준과 벤치마크 데이터셋을 마련해 위험 수준을 점검해야 한다"고 제언했다. 정부도 연구개발 속도 자체를 낮추기보다 기술 발전과 안전장치를 함께 끌어올리는 쪽에 무게를 두고 있다. 배경훈 부총리 겸 과학기술정보통신부 장관은 최근 "이미 앞서 있는 나라가 속도를 조절하는 것과 추격하면서 동시에 새로운 시장을 만들어야 하는 나라가 스스로 속도를 낮추는 것은 전혀 다른 문제"라고 밝혔다. 배 부총리는 이를 '속도책임'이라고 표현했다. 그는 "AI 연구개발과 산업 활용에는 과감하게 가속페달을 밟되 위험에는 제대로 작동하는 브레이크를 갖춰야 한다"며 "속도는 경쟁력이고 안전은 지속가능성"이라고 강조했다. 그러나 안전 우려가 커져도 실제 AI 개발 경쟁이 느려질 가능성은 낮다는 관측도 나온다. 일부 기업이나 국가가 속도를 줄이더라도 다른 개발 주체들이 계속 경쟁하는 상황에서는 모두가 동시에 감속하기 어렵다는 이유다. 신정규 래블업 대표는 "아무도 개발 속도를 늦추지 않을 것"이라며 "AI를 직접 만들어보니 위험하다는 점은 이제 확실하고 개발자와 연구자들 사이에서도 이런 위기감이 상당히 일반화돼 있다"고 진단했다. 더 큰 문제는 개발을 이어가는 동안 마련한 안전장치가 예상하지 못한 위험까지 막아낼 수 있느냐다. 신 대표는 기업들이 사전에 여러 대책을 마련하더라도 모든 사고를 미리 차단하기는 어려울 것으로 내다봤다. 그는 "여러 사전 대책을 만들고 도입하겠다는 회사들이 나오겠지만 결국 그것만으로 막지 못하는 큰 사고가 한 번은 날 것"이라며 "그 사고가 치명적이지 않기만을 바란다"고 말했다.