[AI 리더스] 공공 AX에 진심인 삼성SDS…김긍환 상무 "AI 풀스택 앞세워 속도전"

"공공 인공지능 전환(AX)은 현재 봄의 끝자락에 와 있고, 민간 AX는 이미 여름 초입에 들어섰습니다. 공공도 이제 씨를 뿌리는 단계를 넘어 확산으로 가야 합니다. 결국 승부는 규모와 속도에서 갈릴 수밖에 없습니다." 김긍환 삼성SDS 컨설팅팀 상무는 22일 지디넷코리아와의 인터뷰에서 공공 인공지능(AI) 시장이 현재 실증 단계를 지나 본격 확산 국면에 접어들고 있다고 진단했다. 개별 기관이 인프라와 플랫폼, 서비스를 제각각 도입하는 방식으로는 행정 혁신의 속도를 높이기 어려운 만큼, 중앙의 공통 기반 위에서 성공 사례를 빠르게 축적해야 한다고 강조했다. 또 김 상무는 올해 공공 AX 시장의 변곡점이 이미 시작됐다고 봤다. 지난 2024년부터 공공 부문 곳곳에서 개념검증(PoC) 사업이 이어졌다면, 올해부터는 중앙부처를 중심으로 본 구축 사업이 본격화하고 있다고 판단했다. 그는 "이제는 단순히 AI를 시험해보는 단계가 아니다"며 "실제 업무에 적용하고 확산하는 단계로 넘어가고 있다"고 말했다. 공공 AX 승부처는 '공통 기반'…기관별 개별 구축 한계 이 같은 변화는 정부 정책과도 맞물린다. 김 상무는 정부의 AI 기반 지능형 행정환경 확산 정책이 올해 공공 발주 구조를 바꾸고 있다고 진단했다. 실제로 공공기관 AI 사업 제안요청서(RFP)에 범정부 AI 플랫폼 활용 검토 내용이 반영되고 있고, 기관 평가에서도 혁신 성과가 중요한 기준으로 작용하면서 사업 추진 속도도 빨라질 가능성이 커진 분위기다. 이에 맞춰 삼성SDS는 'AI 풀스택'을 해법으로 내세웠다. 공공기관이 AI를 제대로 도입하려면 그래픽처리장치(GPU)를 포함한 인프라, AI 플랫폼, 데이터 구조, 실제 업무에 적용되는 애플리케이션이 모두 맞물려야 하는데, 이를 여러 사업자가 나눠 공급하는 방식으로는 속도와 완성도를 담보하기 어렵다고 판단해서다. 김 상무는 "지금은 기술의 성능만큼이나 얼마나 빠르게, 얼마나 안정적으로 구축하느냐가 중요하다"며 "인프라부터 플랫폼, 솔루션까지 한 번에 가져갈 수 있어야 공공 AX도 속도를 낼 수 있다"고 밝혔다. 이를 위해 삼성SDS는 공공 특화 클라우드와 생성형 AI 플랫폼 '패브릭스(FabriX)', 협업·자동화 솔루션 '브리티웍스(Brity Works)'를 전면에 내세우고 있다. 국가정보자원관리원 대구센터 민관협력형(PPP) 기반 위에서 범정부 AI 공통기반 사업과 지능형 업무관리 플랫폼 사업을 수행하고 있고, 경기도교육청 '경기교육 디지털플랫폼' 사업에도 브리티웍스를 공급하며 공공 레퍼런스를 확대 중이다. 김 상무는 "범정부 공통기반 역시 고정된 플랫폼이 아니라 지속적으로 진화하는 구조여야 한다"며 "대규모언어모델(LLM)뿐 아니라 MCP((Model Context Protocol·AI-외부 시스템 연동 표준), A2A(Agent2Agent·에이전트 간 협업 프로토콜) 등 새로운 기술 요소를 플랫폼 단에서 계속 반영해 각 기관이 필요한 기능을 빠르게 가져다 쓸 수 있어야 한다"고 말했다. '작은 성공' 빠르게 확산해야…성과·변화관리·인프라가 관건 김 상무는 공공 AX의 성공 조건으로 '작은 성공의 빠른 확산'을 꼽았다. 기관 전체를 한 번에 AI 중심으로 전환하는 것은 이상적이지만, 현실적으로는 인프라와 데이터, 사용자 준비 수준을 함께 고려해야 하는 만큼 단계적 접근이 불가피하다는 설명이다. 다만 이 같은 단계적 접근도 기관별로 따로 가는 방식이 아닌 중앙 공통 기반 위에서 이뤄져야 한다고 강조했다. 그는 "작게 시작한다고 해서 인프라까지 기관별로 따로 작게 만들면 비용은 많이 들고 확장성은 떨어진다"며 "범정부 AI 공통기반 같은 플랫폼을 활용해 필요한 기능부터 얹고 이후 사용 사례를 늘려가는 방식이 바람직하다"고 말했다. 이어 "처음엔 작은 사용 사례 하나로 시작하더라도 나중에 50개, 100개로 확대될 때 같은 기반 위에서 자연스럽게 커질 수 있어야 한다"고 덧붙였다. 또 김 상무는 이 과정에서 ISP(정보화전략계획) 단계의 중요성도 피력했다. ISP가 본사업 수주를 보장하는 것은 아니지만, 이 단계에서 사업 방향과 기술 구조가 사실상 결정되는 만큼 삼성SDS도 파트너사와 함께 아키텍처와 데이터 구조 설계에 참여해 초기 방향을 바로잡기 위해 노력 중이라고 설명했다.그는 "ISP 단계에서부터 파트너사와 협업해 국가 표준에 부합하는 데이터 및 기술 아키텍처의 밑그림을 제대로 그려야 본 사업에서의 시행착오를 줄일 수 있다"며 "이는 단순히 시스템 구축에 그치지 않고, 급변하는 GPU 인프라와 AI 모델의 세대교체 주기에 유연하게 대응할 수 있는 클라우드 네이티브 환경을 구현하기 위한 것"이라고 밝혔다. 가장 먼저 성과가 나타날 분야로는 대민 서비스와 공통 행정업무를 지목했다. 민원 자동 분류와 응답, 문서 작성, 보고서 작성, 정보 검색처럼 사용자 수와 사용 빈도가 높은 업무일수록 AI 효과가 빠르게 드러날 수 있다는 판단에서다. 반면 수사나 치안처럼 고도의 특수성과 복잡성을 필요로 하는 업무는 상대적으로 더 신중한 접근이 필요하다고 봤다. 김 상무는 "성과는 특정 업무에 AI를 적용했을 때의 효과에 사용자 수와 사용 빈도를 곱한 것에 비례한다"며 "그런 점에서 민원 서비스나 공통 행정업무가 가장 먼저 체감 성과를 낼 가능성이 크다"고 진단했다. 이어 "올해는 대민 서비스 분야와 AI 기반 안전관리 분야에 예산이 상대적으로 집중될 가능성이 높다"고 내다봤다. 다만 그는 아직 공공 AX 성과를 정량적으로 단정하긴 이르다고 봤다. 특히 정부24 등 일부 사례는 이제 막 시작 단계인 만큼 민원 처리 시간 단축 효과 등을 수치로 평가하기는 어렵다고 밝혔다. 또 현장에서도 우선은 적용 가능성과 확산 가능성을 확인하는 과정이 더 중요하다고 강조했다. 공공기관의 AI 도입 수준은 아직 초기 확산 단계라는 평가도 내놨다. 실제 삼성SDS 자체 조사 결과 공공기관의 AI 도입률은 53% 수준이지만, 실제로 이를 활용하지 않는 기관은 11%에 달했다. 또 전사적으로 도입한 기관은 7% 수준에 그쳤다. 이에 대해 그는 "공공기관의 AI 도입 논의는 이미 전반으로 확산된 상황"이라며 "하지만 체감도 높은 전면 도입은 이제 시작 단계"라고 설명했다. 성과만으론 '부족'…변화관리·인프라가 관건 공공 AX와 민간 AX의 차이점으로는 '경제성'보다 '미션'과 '안정성'의 비중이 더 크다는 점도 짚었다. 민간은 투자 대비 효과가 절대적인 기준이 되지만, 공공은 해당 기관의 고유한 미션을 얼마나 잘 수행하게 하느냐, 서비스 안정성과 보안이 얼마나 담보되느냐가 더 중요한 판단 기준이 된다는 것이다. 이 때문에 공공 AX는 기술 도입 자체보다도 행정 현장에 맞는 적용 방식과 운영 체계를 함께 설계해야 한다고도 강조했다. 김 상무는 "저희가 컨설팅이든 구축 사업이든 빠지지 않고 넣는 것이 변화관리 서비스"라며 "예전처럼 시스템만 만들고 매뉴얼만 주는 방식으로는 안 되기 때문"이라고 설명했다. 이어 "공무원과 조직이 AI를 이해하고 실제 업무에 어떻게 연결할지 함께 만들어가는 과정이 필요하다"며 "우리는 AI 교육과 시스템 활용 교육, 기술 트렌드 교육은 물론 실제 업무 적용 아이디어를 논의하는 워크숍형 프로그램도 병행하고 있다"고 덧붙였다. 인프라의 중요성도 거듭 강조했다. 김 상무는 AI 시대에는 애플리케이션의 완성도만큼이나 GPU 컴퓨팅, 클라우드, 데이터센터 운영 역량을 얼마나 갖췄느냐가 실질적인 차별화 포인트가 된다고 짚었다. 그는 "GPU 기술은 1년 단위로 세대가 바뀔 만큼 기술 휘발성이 강해 기관이 직접 인프라를 구축할 경우 불과 3년만 지나도 노후화 문제에 직면하게 된다"며 "결국 공공 AX의 성패는 최신 인프라를 유연하게 제공할 수 있는 민간 클라우드와 범정부 공통 기반 플랫폼을 얼마나 전략적으로 활용하느냐에 달려 있다"고 역설했다. 이어 "재해복구(DR), GPU 서비스 같은 기반 역량은 AX 확산의 필수 조건"이라며 "공공기관 입장에서 '믿고 맡길 수 있는 AX 파트너'를 판단하는 기준 역시 결국 이러한 하드웨어와 클라우드 인프라의 운영 역량에서 판가름 날 것"이라고 덧붙였다. 김 상무는 향후 AX 수요가 중앙부처를 시작으로 지자체와 공사·공단, 산하기관까지 확대될 것이라고도 봤다. 범정부 공통기반을 토대로 플랫폼과 서비스를 확장하는 흐름이 자리 잡으면, 개별 기관이 독립적으로 새 시스템을 구축하기보다 공통 플랫폼 위에서 필요한 기능을 빠르게 구현하는 구조가 강화될 것으로 예상했다. 그는 "2~3년 뒤에는 지자체와 여러 산하기관도 공통 기반을 활용해 플랫폼을 구현하는 방향으로 갈 가능성이 크다"며 "그 과정에서 공공 AX 시장은 자연스럽게 커질 것"이라고 말했다. 그러면서 "AI 3대 강국으로 가는 과정에서 삼성SDS가 가장 큰 역할을 해야 한다고 생각한다"며 "국내 대표 IT 서비스 기업으로서 책임감을 갖고 공공 AX 확산의 중심 역할을 해나가겠다"고 마무리했다.