[현장] "벤치마크보다 중요한 건 실전"… AI 리더가 짚은 국내 AI 생태계 과제
"벤치마크 점수가 높다고 고객이 만족하는 것은 아닙니다. 실제 기업 환경에서 실질적인 성능을 내는 것이 진짜 성과입니다." 21일 서울 마포 디캠프에서 열린 '엔비디아 네모트론 개발자 데이 서울 2026'에서 진행된 기술 패널 토론에는 한국 인공지능(AI) 생태계를 이끄는 주요 리더가 참석해 치열하고 솔직한 현장 경험담을 제시했다. 이날 토론은 정규형 엔비디아 솔루션아키텍트(SA) 팀장이 좌장을 맡았고 천성준 SKT AI리서치 엔지니어, 최홍준 업스테이지 부사장, 임정환 모티프 대표, 김수인 엘리스그룹 최고연구책임자(CRO)가 참석해 'K-AI 빌더들의 연결과 글로벌 진출'을 주제로 논의를 이어갔다. "점수보단 실전"… 글로벌 수준 도달한 K-AI, 이제는 추론 효율이 과제 패널들은 공통적으로 국내 기업들이 자체 AI 모델을 개발하는 단계를 넘어, 이를 실제 서비스에 올릴 수 있는 수준으로 고도화하는 것이 중요하다고 입을 모았다. 천성준 SK텔레콤 AI리서치 엔지니어는 "한국 기업도 글로벌 프런티어 모델에 근접한 성능을 낼 수 있다는 점은 이미 입증했다"며 "이제 과제는 추론 효율성과 배포 가능성을 높여 '쓸 만한 모델'을 넘어 '실제로 쓸 수 있는 모델'을 만드는 것"이라고 말했다. 임정환 모티프 대표는 단순한 매개변수 규모 경쟁을 경계했다. 그는 "비슷한 규모의 모델과 경쟁하는 것이 아니라 2~3배 큰 모델과 비견되거나 더 나은 성능을 내는 것이 진짜 기술력의 증거"라며 "현재 3000억개 매개변수(300B) 규모 모델을 비롯해 음성·비디오 생성까지 포함한 다양한 생성형 모델을 개발 중이고 장기적으로는 월드 모델 등으로 확장할 계획"이라고 밝혔다. "데이터 반출 장벽 넘어야"…엣지 환경과 엔드투엔드 인프라 부상 김수인 엘리스그룹 CRO는 산업 현장 도입의 가장 큰 장벽으로 데이터 거버넌스를 지목했다. 김 CRO는 "세계 최고 수준의 모델을 만들어도 실제 현장에 적용하려고 하면 데이터 반출 불가 등 수많은 병목 현상에 부딪힌다"며 "결국 칩, 인프라, 데이터, 모델, 애플리케이션까지 전 레이어를 아우르는 엔드투엔드 전략이 필요하다"고 설명했다. 그는 또 현장 수요가 엣지와 온프레미스 환경으로 확장되고 있다고 진단했다. 고객 데이터가 외부로 나갈 수 없는 경우가 많은 만큼, 실제 서비스 환경에서는 모델 성능뿐 아니라 배포 방식과 운영 구조까지 함께 설계해야 한다는 설명이다. 주최 측인 엔비디아의 소프트웨어 생태계에 대한 개선점도 제기됐다. 천성준 엔지니어는 네모 큐레이터, 메가트론LM 등을 유용하게 활용하고 있다고 언급하면서도 "새로운 알고리즘이 엔비디아의 고속 학습 프레임워크에 반영되는 속도는 지금보다 훨씬 더 빨라질 필요가 있다"고 짚었다. 임정환 대표는 한발 더 나아가 기술적 종속성을 경계했다. 그는 "모델 아키텍처 실험의 자유도가 무엇보다 중요하기 때문에 현재 엔비디아 소프트웨어는 잘 사용하지 않는다"며 "엔비디아가 제공하는 거대한 패키지 틀 안에 갇히게 되면 독자적인 혁신에 한계가 생길 수밖에 없다"고 지적하며 유연한 개발 환경의 필요성을 언급했다. 좌장을 맡은 정규형 팀장은 "현장의 따끔하고 생생한 피드백에 깊이 감사드린다"며 "개발자들이 더 효율적이고 자유롭게 사용할 수 있도록 한국 AI 기업들의 다양한 요구를 본사에 적극 전달해 프레임워크의 유연성을 개선하겠다"고 화답했다. 독자 파운데이션 모델과 소버린 AI… 글로벌 확장 가능성 주목 패널들은 정부가 추진 중인 독자 파운데이션 모델 사업에도 의미를 부여했다. 최홍준 부사장은 "글로벌 수준의 오픈 모델이 국내에 구축되면 민간이 이를 바탕으로 다양한 서비스를 만들 수 있고, 그 혜택이 산업 전반으로 확산될 수 있다"고 말했다. 이어 "동남아 등 많은 국가들은 언어, 문화, 규제 맥락이 달라 각국에 맞는 소버린 AI를 원하고 있다"며 "한국에서의 모델 구축과 인프라 운영 경험은 해외 진출의 자산이 될 수 있다"고 덧붙였다. 이날 토론은 AI 경쟁의 승부처가 더 큰 모델, 더 높은 벤치마크 점수에서 실제 배포와 운영, 데이터 주권, 산업 적용으로 이동하고 있음을 보여줬다. 이번 패널 토론은 독자 파운데이션 모델 프로젝트를 추진 중인 정보통신산업진흥원(NIPA)과 엔비디아가 협력해 마련한 자리다. NIPA는 자사가 보유한 국내 개발자·기업 네트워크를 바탕으로 이번 행사와 국내 AI 생태계를 연결하는 역할을 했다는 설명이다. 박진홍 NIPA 글로벌협력팀장은 "국내 기업에 실질적으로 도움이 될 만한 것이 무엇인지 계속 찾아보면서 함께 하려 한다"며 "구체적으로 어떤 사업을 추가로 추진할지, 어떤 프로그램을 만들지는 아직 확정되지 않았고 향후 더 논의가 필요하다"고 말했다.
