[AI 리더스] '국내 첫 LLM' 만든 김영섬 "코난테크, 한국형 챗GPT 개발 역량 충분"

"우리는 140여 장의 그래픽처리장치(GPU)만으로도 이미 중국 '딥시크 R1'에 버금가는 모델을 불과 두 달만에 개발했습니다. 만약 1천 장 규모의 GPU를 추가로 확보할 수 있다면 그동안 축적된 개발 노하우를 바탕으로 국가대표급 AI 모델을 만들 자신이 있습니다." 김영섬 코난테크놀로지(코난테크) 대표는 최근 서울 강남구에 위치한 본사에서 기자와 만나 '독자 AI 파운데이션 모델 프로젝트' 사업자로 반드시 선정되고 싶다는 바람을 드러내며 이처럼 강조했다. 국내 최초로 거대언어모델(LLM)을 자체 개발하고 다양한 산업 분야에서 이를 활용하고 있는 만큼 충분한 자격을 갖췄다는 점에서다. 20일 업계에 따르면 코난테크놀로지는 지난 2023년 4월 국내 중소형 업체 중 최초로 자체 LLM인 '코난 LLM'을 출시했다. 이를 위해 2022년 12월에는 국내에서 가장 먼저 엔비디아의 'H100'을 발주한 후 2023년 4월 국내서 처음으로 입고를 완료해 주목 받았다. 이처럼 코난테크놀로지가 AI 시장에 선제적으로 대응하게 된 것은 김 대표의 의지가 컸다. 김 대표는 2022년 11월 오픈AI가 '챗GPT'를 출시되자 생성형 AI의 가능성과 파급력을 알아채고 곧바로 자체 보유한 고품질 데이터와 인하우스 개발 인력을 기반으로 자체 LLM 개발에 착수했다. 이를 위해 GPT 개발 전담 TF를 구성하기도 했다. 김 대표는 "H100을 국내서 처음 입고하며 적시에 GPU 인프라를 확보한 덕분에 개발 속도를 높일 수 있었다"며 "H100의 KC 전기전파인증도 우리가 국내 최초로 받았고, 2023년 3월부터 미국 시라스케일 GPU를 임대해 자체 LLM 모델 학습을 시작했다"고 설명했다. 이어 "그 결과 2023년 8월에는 131억 파라미터 규모의 모델 학습을 완료하며 국내 최초로 독자 LLM 모델을 공개할 수 있었다"며 "이 모델은 온프레미스형 LLM으로, B2B 및 B2G 시장 진출을 목표로 하고 있다"고 덧붙였다. 업계에선 '코난 LLM'이 차별화된 R&D 인프라를 기반으로 개발됐다는 점에서 높이 평가했다. 특히 자체 벡터 검색 및 RAG 기술이 적용돼 있어 기업 내부 정보 활용 측면에서 우수한 성능을 발휘한다고도 봤다. 덕분에 '코난 LLM'은 정식 출시 후 국내 공공 현장뿐 아니라 다양한 산업군에서 활발하게 활용됐다. 특히 지난 해 6월에는 한국남부발전과 약 41억원 규모의 구축 계약을 체결해 눈길을 끌었다. 국내 최초로 LLM이 공공 현장에 도입된 사례였기 때문이다. 또 지난해 7월에는 미국 스탠퍼드대학교의 에코시스템 그래프에 한국 파운데이션 모델로 이름을 올리며 기술력을 인정받기도 했다. 이 그래프에는 네이버 LLM '하이퍼클로바'와 LG AI 연구원 '엑사원2.0', SK텔레콤의 '에이닷엑스', KT의 '믿음', 엔씨소프트의 '바르코-LLM' 등도 함께 올랐다. 이후 코난테크놀로지는 생성형 AI 서비스를 통해 공공 부문의 디지털 전환에 앞장 서 지원했다. 그 결과 '코난 LLM'은 한국중부발전, 국방부, 행정안전부, 국회사무처, 인천국제공항공사 등 주요 공공기관은 물론 한림대의료원, 한화손해보험, 신한라이프, KB증권, 제주항공 등 민간 기업과 풍부한 사업 경험을 갖게 됐다. 제품 검증(PoC)을 진행한 사례는 40여 곳이 넘는다. 김 대표는 "우리는 국내외 생성형 AI 분야에서 이미 기술력을 인정 받았다"며 "올해 3월에 출시한 국내 최초 추론 통합형 모델 '코난 LLM ENT-11'이 대표적인 예로, 중국 딥시크 R1이 출시된 지 불과 두 달 만에 추론과 수학 성능에서 이를 능가하는 모델로 개발돼 기술 저력을 보여줬다"고 강조했다. 이어 "이런 성과들은 실제 활용 가능한 수준의 고도화된 LLM을 만드는 데 있어 우리가 실질적인 역량을 갖추고 있음을 의미한다"며 "특히 자체 AI 모델을 직접 개발하고 이를 다양한 프로젝트에 적용해 온 국내 유일 기업 중 하나로, 정부 및 공공기관을 대상으로 대규모 서비스를 실제 제공하며 산업 현장의 생산성 향상을 이끌고 있다"고 덧붙였다. 코난테크놀로지가 이미 국방 AI 시장에서도 독보적인 경쟁력을 가지고 있다는 점도 눈여겨 볼 요소다. 이곳은 설립 당시 자연어 검색뿐 아니라 음성, 영상으로도 검색 비즈니스를 추진해왔고 이 중 컴퓨터 비전 분야에서 특허 받은 이미지 검색 기술과 영상 객체 식별 기술 기반의 AI 솔루션 '코난 와처'를 주축으로 공공, 방송 외에 국방 사업에 꾸준히 발을 들여왔다. 또 올해는 국방 AI 수요가 본격적으로 폭증하고 있는 것에 발 맞춰 적극 대응하고자 '국방 AI 사업부'도 확대 개편했다. 김 대표는 "미래전 양상의 변화, 무인화·자동화 수요 증가, 지능형 의사결정, 지휘통제 체계 강화에 집중하며 국방 분야의 AI 사업을 전개하고 있다"며 "민간방산전문기업을 포함하면 현재 20여 곳의 고객사와 국방 사업을 진행하고 있다"고 설명했다. 이어 "우리는 국방 분야에서 AI 소프트웨어를 규모있게 공급하는 국내 유일 업체"라며 "미국 AI SW 기업 팔란티어처럼 국방 및 의료를 중심으로 한 공공 프로젝트에서의 실적을 통해 기술 안정성과 신뢰성을 입증한 후 민간 시장으로도 확장할 수 있는 가능성이 크다"고 덧붙였다. 이 같은 자신감을 바탕으로 김 대표는 정부가 추진하는 '독자 AI 파운데이션 모델 프로젝트(가칭 월드베스트 LLM, WBL) 프로젝트'에 반드시 사업자로 참여할 것이란 의지를 내비쳤다. 우리 정부는 현재 AI 기술 자립과 생태계 확장을 목표로 국내 정예팀을 뽑아 독자 AI 파운데이션 모델을 개발하겠다는 의지를 보이고 있다. 이를 위해 과학기술정보통신부는 정보통신산업진흥원(NIPA), 한국지능정보사회진흥원(NIA), 정보통신기획평가원(IITP)과 함께 오는 7월 21일까지 프로젝트에 참여할 국내 정예팀 공모에 나선다. 이번 공모는 성능·전략·파급효과 등을 기준으로 최대 5개 정예팀을 선정한 뒤 단계별 평가를 통해 점진적으로 압축하는 방식으로 진행된다. 최신 글로벌 AI 모델 성능의 95% 이상 달성을 목표로, 참여팀은 자체적인 개발 전략과 방법론을 자유롭게 설계할 수 있다. 프로젝트는 일괄지원이 아닌 6개월 단위 경쟁형 압축 방식을 도입해 민첩한 기술 진화를 유도한다. 지원 자원은 그래픽 처리장치(GPU), 데이터, 인재라는 세 가지 축으로 구성된다. GPU는 올해부터 내년 상반기까지 민간 GPU 임차 형태로, 이후엔 정부 구매 GPU를 활용해 정예팀당 최대 1천 장 이상이 단계별로 지원된다. 데이터는 저작물 중심의 공동구매와 개별 가공 작업에 연간 최대 150억원 규모의 예산이 투입된다. 인재 분야는 해외 연구자 유치 시 연 20억원 한도 내에서 인건비와 연구비를 매칭해 준다. 김 대표는 "지금까지의 개발 경험을 바탕으로 세계적인 수준의 정교한 국내 표준 LLM을 만들 수 있다는 확신이 있는 만큼, 이번 '독자 AI 파운데이션 모델 프로젝트'에 꼭 참여하고 싶다"며 "대규모 GPU 자원이 확보된다면 국내 최고 성능 모델을 개발해 국민의 일상을 보다 편리하고 지능적으로 변화시키는 데 기여하고자 한다"고 강조했다. 그러면서 "우리는 풍부한 사업 수행 경험과 탄탄한 인프라를 갖추고 있다"며 "80여 명의 인하우스 AI 연구 인력과 함께 온디바이스, 프로페셔널, 엔터프라이즈 등 업무 규모 별로 정교하게 정비된 모델 라인업을 갖춰 고객 요구에 최적화된 기술을 제공할 수 있는 기반도 있다"고 설명했다. 또 그는 "국민이 국산 AI 기술을 직접 사용하는 경험을 통해 국가의 AI 자립도를 높일 수 있다는 사명감을 가지고 일해왔다"며 "이번 프로젝트에도 진심을 담아 임할 준비가 돼 있다"고 덧붙였다. 김 대표는 정부가 독자 AI 파운데이션 모델을 개발하려는 움직임에 대해서도 상당히 긍정적으로 평가했다. 또 이 프로젝트를 통해 확보된 LLM 모델이 오픈소스로 공개돼 다양한 산업 및 공공 도메인에서 널리 활용되면, 우리나라가 빠른 시일 내에 글로벌 수준의 경쟁력을 갖춘 LLM 기술을 보유하게 될 것이라고 전망했다. 김 대표는 "이번 프로젝트에 참여하는 기업들은 GPU 인프라와 공통 학습 데이터 지원만으로도 상당한 이점을 얻을 수 있다는 점에서 우리 외에도 많은 곳들이 관심을 가질 것"이라며 "현재 GPU는 가격이 비싸고 확보가 어려운 자원으로, 우리가 자체적으로 가진 140여 장만으로는 수천억 개 파라미터 규모의 초대형 모델 개발을 진행하고 있는 해외 기업과 경쟁하긴 쉽지 않다"고 밝혔다. 그러면서 "정부가 1천~2천 장 규모로 GPU를 지원해준다면 학습 시간 단축과 비용 절감 측면에서 큰 도움이 될 것"이라며 "공통 학습 데이터 지원을 통해선 기업들이 데이터 수집과 가공에 드는 리소스를 절감할 수 있고, 학습 품질을 안정적으로 끌어올리는 데도 좋은 영향을 줄 것으로 보여 기대가 크다"고 부연했다. 또 김 대표는 2대 주주인 SK텔레콤과도 활발히 AI 협력에 나서 성과를 내겠다는 의지도 보였다. 현재 코난테크놀로지는 SK브로드밴드의 '070 인터넷 전화 서비스'에서 제공되는 전화 및 통화 요약 기능에 사용되는 '코난 LLM'을 공급하고 있다. 또 '코난 챗봇 플러스'라는 AI 동시통역 솔루션은 SK텔레콤과의 파트너십을 통해 '트랜스 토커'라는 명칭으로 공동 사업을 진행 중이다. 이 외에 국방 관련 프로젝트 3개도 SK 측과 협업을 펼치고 있다. 김 대표는 "올해는 핵심 제품에 생성형 AI를 결합한 사업 운영으로 시너지를 내는 동시에 국방력 강화를 위한 AI 솔루션을 선제적으로 공급해 회사의 미래 동력을 확보하는 데 총력을 기울일 것"이라며 "현재 전년 매출을 이미 넘어선 상태로, 올해 말까지 매출을 400억원가량 달성할 수 있을 듯 하다"고 자신했다. 이어 "2023~2024년은 PoC 중심의 생성형 AI 시범 사업이 많았던 시기였고 올해부터 본격적인 사업들이 추진되면서 (우리에 대한) 시장의 기대감이 커지고 있다"며 "내년에는 LLM에서 성과를 더 낼 수 있을 것으로 보여 턴어라운드에 돌입하는 것을 목표로 하고 있다"고 덧붙였다.