검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'GPU 컴퓨팅'통합검색 결과 입니다. (17건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

한국퀀텀컴퓨팅, 초고성능 AI 데이터센터 구축…GPUaaS 시장 진출

한국퀀텀컴퓨팅(KQC, 대표 김준영)이 초고성능 인공지능(AI) 전용 그래픽처리장치(GPU) 인프라를 구축하고 본격적인 클라우드 기반 고성능 컴퓨팅 서비스(GPUaaS) 시장에 뛰어든다. KQC는 엔비디아(NVIDIA)의 최신 H200 GPU를 기반으로 한 'AI GPU 팜(AI GPU Farm)'을 디지털엣지 부평 데이터센터에 구축한다고 3일 밝혔다. 이와 함께 오는 4일부터 GPU 기반 서비스형 컴퓨팅(GPUaaS)을 정식 출시한다. 이를 통해 생성형 AI, 초거대 언어모델(LLM), 고성능 데이터 분석, 복잡한 시뮬레이션 등 연산 집약형 워크로드를 위한 인프라를 안정적이고 합리적인 가격으로 제공할 계획이다. 김준영 대표는 "KQC의 GPU 팜은 빅테크, AI 스타트업은 물론 복잡한 연산이 필요한 산업계, 국가 연구기관, HPC 센터까지 폭넓은 수요가 기대된다"며 "장기적으로는 양자컴퓨팅 인프라와도 연계한 고도화된 클라우드 서비스를 선보일 것"이라고 밝혔다. 이번에 구축된 AI GPU 팜은 엔비디아의 호퍼(Hopper) 아키텍처 기반 H200 GPU를 병렬로 배치한 클러스터 형태로 구성됐다. H200은 기존 H100 대비 메모리 용량과 속도가 대폭 향상된 제품으로, 특히 내장된 트랜스포머 엔진(Transformer Engine)을 통해 LLM 훈련과 추론 작업의 효율을 극대화할 수 있다. GPUaaS 서비스는 물리서버 수준의 성능을 제공하는 전용 환경에서 GPU를 직접 활용할 수 있으며, LLM, 멀티모달 AI, AI 코파일럿 등 새로운 AI 수요에 맞춰 유연한 자원 할당이 가능하다. GPU 가상화 및 공유 기능도 제공돼 여러 사용자가 동시에 GPU 자원을 효율적으로 사용할 수 있다. 서비스에는 엔비디아 AI Enterprise 소프트웨어 스택이 포함돼 최신 AI 개발 환경도 지원한다. 사용자들은 컴퓨팅, 스토리지, 네트워크 리소스를 필요에 따라 탄력적으로 조정할 수 있으며, 종량제 기반 요금제를 통해 초기 투자 부담 없이 경제적으로 인프라를 활용할 수 있다. 또한 예측 분석 기능과 자동화된 인프라 관리 도구를 통해 운영 효율성과 예산 관리 능력도 강화된다. KQC는 지난 6월 아이티센그룹과 GPUaaS 사업 협력을 위한 업무협약(MOU)을 체결하며 서비스 기반 확대에 나선 바 있다. KQC 김창회 전무는 "이번 GPUaaS 서비스는 안정성과 가격 측면에서 매우 경쟁력 있는 구조"라며 "시장 수요에 맞춰 다양한 시스템을 지속적으로 선보일 계획"이라고 말했다.

2025.07.03 10:18남혁우

국가AI컴퓨팅센터 또 유찰…韓 미래 이끌 2.5조 대형 AI 사업 좌초 위기

정부가 추진하는 최대 2조5천억원 규모의 '국가AI컴퓨팅센터' 구축 사업이 또 다시 유찰되며 좌초될 위기에 놓였다. 1차 유찰 이후 공모 지침 변경 없이 재공고를 강행한 탓에 기업들을 끌어들이지 못한 것으로 풀이된다. 과학기술정보통신부는 지난 2일부터 시작된 국가AI컴퓨팅센터 구축 사업 재공고 결과 응찰한 민간 컨소시엄이 없어 유찰됐다고 13일 밝혔다. 두 번째 유찰로 인해 과기정통부는 기획재정부, 금융위원회, 산업통상자원부 등 관계 부처와 향후 사업 추진 방향을 논의할 계획이다. 계속된 유찰의 원인으로는 초기 투자 부담과 불명확한 수익 모델이 꼽힌다. 이 사업은 공공과 민간이 51대 49 비율로 함께 출자해 특수목적법인(SPC)을 설립하고 2027년까지 비수도권에 1엑사플롭스(EF) 이상 규모의 AI 전용 데이터센터를 구축하는 것을 목표로 한다. 문제는 정부가 공공지분을 더 높게 설정하면서 사업의 향방 자체를 민간이 아닌 공공이 쥔다는 점이다. 게다가 매수청구권 조항에도 SPC 청산시 공공투자 지분을 민간이 이자를 얹어 매수해야 한다는 요건도 담겨 구조상 리스크가 크다는 우려가 제기돼 왔다. 이같은 사업 자율성 확보의 어려움뿐만 아니라 수익의 불확실성도 기업들이 사업을 주저한 원인으로 작용했다. 정부 주도 사업인 만큼 공공·연구기관·등에 그래픽처리장치(GPU) 자원을 저렴하게 공급해야 하는 것과 이 물량에 대한 수요도 예측할 수 없다는 것이다. 이런 사업의 구조적 문제 때문에 1차 유찰됐으나 과기정통부는 공모 지침 변경 없이 2차 재공고를 진행, 결국 이날까지 응찰한 민간 컨소시엄이 없어 두 번째 유찰을 겪게 됐다. 이번 재공모에서는 한 곳이라도 계획서를 제출할 경우 공모지침상 평가기준에 의거해 사업자 여부를 판단한 뒤 수의계약을 바로 체결할 계획이었다. 그러나 1차 공고 때부터 유력한 후보로 거론돼 온 삼성SDS·네이버클라우드·엘리스그룹도 사업 참여를 확정짓지 못하며 다시 유찰됐다. 이번 유찰은 국가AI컴퓨팅센터 구축 사업 계획 자체에 상당한 차질을 빚을 것으로 예상된다. 과기정통부는 사업 유관 부처와 앞으로의 사업 추진 방향을 논의한다고 하지만, 당초 계획했던 사업 일정이 모두 틀어지게 될 우려가 나오고 있다. 정부는 지난달 30일까지 국가AI컴퓨팅센터 희망 기업·컨소시엄의 사업 참여 계획서를 접수하고 이달부터 기술·정책 평가(1단계)를 거쳐 다음달 투자·대출 등 금융심사(2단계) 후 이르면 8월 말께 최종 적정 기업 또는 컨소시엄을 선정한다는 계획을 세운 바 있다. 이어 9월에는 특별위원회를 개최해 사업 시행계획을 보고한 후 10월 특수목적법인(SPC) 설립을 위한 협약을 민간참여자와 체결할 예정이었다. SPC 설립 후에는 오는 11월부터 사업에 착수할 계획이었다. 그러나 향후 사업 방향성 논의에 소요되는 기간을 고려하면 이 같은 일정은 조정될 가능성이 농후하다. 또 이 사업과 연계돼 추진돼 온 연내 GPU 1만 장 확보 사업도 분리될 가능성이 높다. 정부에서는 1조4천600억원을 투입해 엔비디아 블랙웰 등 첨단 GPU를 연내에 확보하는 사업을 국가AI컴퓨팅센터 구축 사업과 연계해 진행하고 있는 상황이다. 국가AI컴퓨팅센터 사업자로 선정될 시 확보한 GPU를 최우선 공급하는 방안을 내세우며 국가AI컴퓨팅센터 구축 사업의 참여 유인책으로 제시해 왔다. 그러나 이번 재유찰로 인해 두 사업을 분리해 추진할 수밖에 없다는 관측이 나온다. 지금의 형태로 연계해 진행할 경우 두 사업 모두 당초 계획한 일정을 지킬 수 없다는 이유에서다. 다만 두 사업을 분리할 경우 국가AI컴퓨팅센터 사업의 동력이 약해질 수 있다는 우려도 나온다. 업계는 이번 유찰로 정부가 사업의 공모 지침을 변경하는 등의 재설계 과정을 거치길 기대하고 있다. AI 100조 공약을 내세운 이재명 정부가 출범한 만큼 지난 정부에서 추진한 계획을 일부분 변경해 민간 중심으로 추진할 가능성이 있다는 것이다. 특히 새 정부 출범 후 맞는 본격적인 대형 AI 사업이기에 과기정통부를 비롯한 유관 부처들이 더더욱 사업의 안정적인 순항을 목표로 국가AI컴퓨팅센터의 기업 참여를 어떻게든 유치할 것이라는 예상도 나온다. 업계 관계자는 "공모 변경 없는 현재의 사업은 기업이 출자만 하고 손해를 보는 구조"라며 "국가AI컴퓨팅센터 구축 후 운영과 관련된 수요 예측이 필요하고 수익성을 보장할 수 있는 현실적인 계획과 방침이 제공돼야 할 것"이라고 말했다. 이어 "세 번째 재공모에서는 지금의 공모 요건이 변경되길 기대한다"고 덧붙였다. 또 다른 관계자는 "새정부로 인해 변동되는 AI 정책을 반영하고 민간 사업자의 미래 수익성을 포함한 사업 모델에 대해 조금 더 구체적인 내용이 반영돼야 참여 여부를 검토할 수 있을 것"이라며 "현재는 사업의 불확실성 때문에 검토가 어려운 상황"이라고 밝혔다.

2025.06.13 17:56한정호

'AI 진흥' 노린 새 정부, 출범 초기부터 난항?…국가AI컴퓨팅센터 재공모 '찬바람'

최대 2조5천억원이 투입되는 국가인공지능(AI)컴퓨팅센터 구축 사업자 후보 모집에 이번엔 여러 기업들이 나설지 주목된다. 사업성 우려로 기업들이 외면해 한 차례 유찰됐던 상황에서 정부가 조건을 변경하지 않고 재공모에 나섰던 만큼 업계는 크게 관심을 보이지 않는 분위기다. 13일 업계에 따르면 과학기술정보통신부는 이날 오후 5시까지 '국가AI컴퓨팅센터' 구축사업 참여계획서를 받는다. 1차 공모에선 아무도 입찰하지 않아 지난 2일 조건 변경 없이 재공모를 시작했다. 이에 따라 이번에 한 곳이라도 계획서를 제출할 경우 공모지침상 평가기준에 의거해 적정 사업자 여부를 판단한 뒤 수의계약을 바로 체결하게 된다. 이 사업은 정부와 민간이 각각 51대 49 비율로 공동 출자해 특수목적법인(SPC)을 만들고 비수도권에 1엑사플롭스(EF, GPU 3만장) 이상 규모 AI 전용 데이터센터를 구축하는 것이 골자다. 하지만 정부의 지분이 더 높아 의사결정에 나서게 되면 민간 참여 기업들이 수익성을 확보하기 쉽지 않을 것으로 보여 업계의 외면 받고 있다. 업계 관계자는 "사업자 입장에선 자체 운영 중인 AI 데이터센터와 국가AI컴퓨팅센터가 같은 고객사를 두고 서로 경쟁해야 하는 관계라는 인식도 가지고 있다"며 "국가AI컴퓨팅센터를 통해 더 저렴한 그래픽처리장치(GPU) 서비스를 내놓는 것이 자체 데이터센터의 고객을 빼앗기거나 가격 경쟁으로 수익성이 낮아지는 결과를 초래할 수 있다는 점에서 매력적으로 보이진 않는다"고 밝혔다. 이 탓에 삼성SDS, LG CNS, SK텔레콤, KT 등이 주사업자로 컨소시엄을 꾸려 참여할 것으로 예상됐으나, 지난 달 30일 마감된 첫 공모에선 단 한 곳도 참여하지 않아 유찰됐다. 특히 삼성SDS는 네이버클라우드, 엘리스그룹, 삼성물산 등과 컨소시엄을 구성해 초기 입찰에 참여하려고 했으나, 막판에 네이버클라우드가 발을 빼 무산된 것으로 전해졌다. 사업 협력에 나서려 했던 삼성전자도 삼성SDS 측에 입찰에 참여하지 말 것을 권고한 것으로 알려졌다. 업계 관계자는 "삼성SDS가 상당한 분량의 사업계획서를 모두 준비해뒀지만, 삼성전자의 입김이 강해 결국 참여하지 않았던 것으로 안다"며 "정권이 바뀌는 시기여서 사업 참여에 다소 민감해 했던 것 같다"고 말했다. 이에 업계에선 삼성SDS가 이번에는 참여할 지를 두고 높은 관심을 보이고 있다. 이 사업이 높은 초기 투자 부담과 구체적인 수익 확보 및 비즈니스 모델을 제시하고 있지 못해 재유찰 될 것으로 보는 것이 중론이지만, 삼성SDS가 참여할 것으로 보는 의견도 다수다. 수의계약 과정에서 삼성 측이 정부의 지분 및 수익성 구조 등과 관련해 재협상에 나설 가능성도 있어서다. 업계 관계자는 "삼성SDS가 참여한다고 해도 이번 컨소시엄에 네이버클라우드 측은 함께 하지 않는 것으로 안다"며 "내부에서 최근 이번 사업에 참여하지 않겠다고 결정내린 것으로 안다"고 밝혔다. 이로 인해 삼성SDS도 끝내 참여하지 않게 되면 이번 사업은 상당한 차질을 빚게 될 것으로 보인다. 일각에선 이재명 정부가 새롭게 들어선 만큼 요건을 바꿔 과기정통부가 다시 공모에 나설 것을 기대했다. 과기정통부는 이번 사업이 재유찰 될 경우 연내 GPU 1만 장 확보 사업과의 연계성을 두지 않고 두 사업을 별도로 추진할 계획이다. 이곳은 당초 SPC 우선협상사업자를 GPU 구매 사업자 선정 기업으로 우선 검토해 올해 확보한 GPU를 2027년 개소할 국가AI컴퓨팅센터로 이관하려는 계획을 갖고 있었다. 기업들이 국가AI컴퓨팅센터에 관심을 보이지 않자 그간 당근책으로 내세웠던 것이다. 과기정통부 관계자는 "(이번 재공고에서도) 다시 유찰되면 공모 요건을 수정해서 새로 공고를 낼 가능성도 있다"며 "다만 이처럼 했음에도 참여사가 없으면 사업이 중단될 수도 있겠지만, 이 같은 상황은 배제하고 있다"고 말했다.

2025.06.13 11:29장유미

[유미's 픽] "삼성만 믿는다"…과기부, '이재명 정부' 출범 속 국가AI컴퓨팅센터 유찰 막을까

최대 2조5천억원이 투입되는 국가인공지능(AI)컴퓨팅센터 구축 사업 재공고에 나선 과학기술정보통신부가 이번에는 유찰을 막고 명예회복에 성공할 지 주목된다. 높은 초기 투자 부담과 구체적인 수익 확보 및 비즈니스 모델을 제시하고 있지 못했던 탓에 한 차례 유찰됐지만, 이번에는 1개 이상 기업이 참여할 가능성이 높은 것으로 알려져 기대감을 키우고 있다. 5일 업계에 따르면 오는 13일 마감되는 국가AI컴퓨팅센터 사업 재입찰에 삼성SDS를 주축으로 한 컨소시엄이 참여할 것으로 알려졌다. 당초 삼성SDS는 네이버클라우드, 엘리스그룹, 삼성물산 등과 컨소시엄을 구성해 초기 입찰에 참여하려고 했으나, 막판에 네이버클라우드 측에서 발을 빼 무산된 것으로 전해졌다. 이 컨소시엄에서 삼성전자는 지분이 없지만 사업 협력에 나서려고 했던 상황이다. 이 컨소시엄은 정부가 연내 확보할 계획인 그래픽처리장치(GPU) 1만 장을 네이버 데이터센터 각 세종 등 기존 인프라에서 우선 구동한 후 비수도권에 국가AI컴퓨팅센터를 신규 구축하는 방안을 마련했던 것으로 알려진 바 있다. 그러나 업계에선 네이버클라우드가 각 세종, 각 춘천 등 기존 인프라에 이미 네이버 자체 물량을 소화하고 있고, 외부 업체 물량은 데이터센터를 임차하는 방식으로 운영하고 있어 현실성이 떨어지는 것으로 봤다. 다만 네이버클라우드가 올 초 경기도 용인에 전력량 20MWh(메가와트시) 가량의 데이터센터를 임차한 것으로 알려져 이를 대비했던 것 아니냐는 시각도 있다. 업계 관계자는 "엘리스그룹은 아직 제대로 상용화되진 않았지만 국산 신경망처리장치(NPU)에 많은 관심을 보이며 컨소시엄에 적극 참여하겠다는 의지를 드러냈다"며 "삼성SDS는 GPU를 확보해 운영하려고 했던 분위기 속에 네이버클라우드의 역할이 다소 애매해진 영향이 있었던 것으로 안다"고 말했다. 이어 "컨소시엄 자체가 대부분 클라우드 서비스 제공업체(CSP)로 구성됐다는 점에서 서로 간의 역할 구분이 어려웠을 수도 있다"면서도 "조건 변경 없이 재공고된 상황에서 삼성 측이 컨소시엄을 구성할 때 네이버클라우드가 기존대로 참여할지, 아닐지 주목된다"고 덧붙였다. 업계에선 네이버클라우드가 국내 인공지능(AI) 시장에서 중요한 역할을 하고 있는 만큼, 삼성 측이 컨소시엄을 구성해 재입찰에 나선다면 충분한 설득 작업을 벌여 그대로 참여시킬 것으로 봤다. 조건 변경 없이 재입찰 공고가 나와 사업 매력도는 다소 떨어지지만 국가를 대표하는 기업들이 정부 사업에 기여를 해야 한다는 통합된 의견을 가지고 있는 만큼, 이번에 함께 나설 것이라고 보는 게 중론이다. 더불어 이번에는 1개 이하 컨소시엄이라도 사업 참여를 신청할 경우 공모지침상 평가기준에 의거, 적정 사업자인지 판단을 거쳐 수의계약을 바로 체결한다는 점에서도 삼성 측의 참여 확률이 높다고 봤다. 높은 초기 투자 부담과 구체적인 수익 확보 및 비즈니스 모델을 제시하고 있지 못한 상황이지만, 수의계약 과정에서 삼성 측과 정부의 지분 및 수익성 구조 등에 재협상에 나설 가능성도 있다고 판단해서다. 일단 사업자들이 국가AI컴퓨팅센터 구축 사업 공모 조건에서 가장 우려하는 부분은 정부가 특수목적법인(SPC) 지분 51%를 갖기 때문에 기업이 수익성을 늘리는 방향으로 사업을 주도하기 어렵다는 점이다. 결국 정부 의도대로 공공사업 성격을 가질 수밖에 없다고 봐서다. 여기에 AI 시대에 접어들며 엔비디아의 GPU 가격이 급등한 상황에서 수만 장을 사들여야 하는 데다 이를 국내 기업·기관에 기존보다 저렴하게 빌려줘야 해 수익을 내지 못한다는 점은 큰 걸림돌이 되고 있다. 업계 관계자는 "사업자 입장에선 자체 운영 중인 AI 데이터센터와 국가AI컴퓨팅센터가 같은 고객사를 두고 서로 경쟁해야 하는 관계라는 인식도 가지고 있다"며 "국가AI컴퓨팅센터를 통해 더 저렴한 GPU 서비스를 내놓는 것이 자체 데이터센터의 고객을 빼앗기거나 가격 경쟁으로 수익성이 낮아지는 결과를 초래할 수 있다는 점에서 매력적으로 보이진 않는다"고 밝혔다. 하지만 과기정통부는 이번에는 기필코 유찰을 막겠다는 강한 의지를 보이고 있는 것으로 전해졌다. 이번에도 유찰이 될 경우 사업에 막대한 차질을 빚을 수 있어서다. 정부는 오는 13일까지 국가AI컴퓨팅센터 참여 희망 기업·컨소시엄의 사업 참여 계획서를 접수하고 이달 안에 기술·정책 평가(1단계)를 거쳐 7월 투자·대출 등 금융심사(2단계) 후 이르면 8월 말께 최종 적정 기업 또는 컨소시엄을 선정한다는 계획을 세운 바 있다. 또 9월에는 특별위원회를 개최해 사업 시행계획을 보고한 후 10월께 특수목적법인(SPC) 설립을 위한 협약을 민간참여자와 체결할 예정이었다. SPC 설립 후에는 오는 11월부터 사업에 착수할 계획을 갖고 있었다. 센터 설립 시기는 오는 2027년으로 설정됐으며 내년에 착공을 시작할 예정이다. 하지만 신청에 나선 사업자가 이번에도 없게 되면 모든 계획이 물거품이 된다. 새롭게 출범한 '이재명 정부' 입장에서도 'AI 100조원 투자'를 공약한 상황에서 초기부터 AI 관련 국가 사업이 무산되게 되면 난감한 상황에 놓일 수 있다. 이에 과기정통부는 삼성 측이 그간 공공연하게 의지를 보였다는 점에서 적극적으로 참여 유도를 하고 있는 것으로 알려졌다. 실제 삼성SDS는 이준희 대표까지 나서서 국가AI컴퓨팅센터 사업에 참여하겠다는 의사를 밝힌 바 있다. 앞서 이 대표는 지난 3월 '제40기 정기 주주총회'에서 "정부에서 하는 대구센터나 행안부, 복지부 등 여러 안건들이 있어 (국가AI컴퓨팅센터 구축 사업에 대해) 잘 검토할 것"이라며 "국가에서 하는 것인 만큼 다방면으로 보고 있다"고 언급해 기대감을 높였다. 업계 관계자는 "이번 재공고는 유찰되지 않을 가능성이 상당히 높은 것으로 보인다"며 "모두가 예상하고 있는 곳의 참여가 유력한 것으로 안다"고 밝혔다. 또 다른 관계자는 "수천억원이 투입되는 장기 사업인 데다 낮은 수익성이 우려된다는 점에서 현재 공개된 조건에선 다른 기업들이 참여 결정을 내리기 쉽지 않다"며 "공모지침 변경을 통해 광범위한 제안 조건과 사업 참여 부담 등이 일정 부분 해소될 수 있다면 참여를 고려해보려고 했는데, 재공고 때도 대부분의 기업은 참여하지 않을 듯 하다"고 말했다. 그러면서 "두 번 유찰되면 자동으로 지원한 사업자가 우선 협상할 수 있게 될텐데, 지금으로선 삼성밖에 지원할 곳이 없어 보인다"며 "향후 우선 협상을 하게 된다면 삼성이 정부와 지분 및 수익성 구조 등에 대해 재협상에 나설 여지가 크다"고 덧붙였다.

2025.06.05 17:31장유미

관심 꺼진 국가AI컴퓨팅센터, 요건 변경없이 강행…또 유찰되나

정부의 기대와 달리 어떤 기업도 지원하지 않아 유찰된 국가AI컴퓨팅센터 구축 사업이 재공고를 통해 기사회생 할 지 주목된다. 높은 초기 투자 부담과 구체적인 수익 확보 및 비즈니스 모델을 제시하고 있지 못한 상황임에도 조건 변경 없이 정부가 재입찰에 나선 것을 두고 기업들은 여전히 큰 기대감을 드러내지 않는 분위기다. 2일 업계에 따르면 과학기술정보통신부는 이날부터 오는 13일까지 국가AI컴퓨팅센터 사업 재입찰을 공모 요건 변경 없이 곧바로 개시한다고 발표했다. 국가AI컴퓨팅센터는 정부가 인공지능(AI) 경쟁력 강화를 위해 추진해온 핵심 사업으로, 최대 2조5천억원이 투입된다. 공공참여자와 민간참여자가 공동출자해 특수목적법인(SPC)를 설립해 구축·운영하게 되며 지분은 51%, 민간이 49%다. 이 탓에 기업들의 부담이 상당히 크다. 공공참여자는 기획재정부, 과학기술정보통신부 등 정부를 비롯해 산업은행·기업은행 등 국책은행이다. 민간에서는 ▲데이터센터 기업 ▲클라우드 기업 ▲통신서비스 기업 ▲건축·건설 기업 ▲지자체·도시공사 등이 참여한다. 정부는 SPC 설립을 바탕으로 첨단 그래픽처리장치(GPU) 1만 장을 포함한 고성능 컴퓨팅 자원을 조달해 중소기업과 스타트업, 학계에서 손쉽게 활용할 수 있도록 하겠다는 취지로 이를 추진하고 있다. 하지만 지난달 30일 마감된 본입찰에선 응찰자가 아무도 나타나지 않아 정부는 당혹스러워 했다. 당초 기업·지방자치단체 100여 곳이 사업 참여의향서를 제출한 것과 완전히 대조적인 분위기가 연출돼서다. 특히 삼성SDS가 네이버클라우드, 엘리스그룹 등과 컨소시엄을 구성해 사업 참여 검토에 나섰다는 소식이 알려지며 유력 사업자로 떠올랐지만, 결국 막판에 참여하지 않아 정부가 더 난감해한 것으로 전해졌다. 삼성 측이 그간 공공연하게 의지를 보였던 탓에 참여를 할 것으로 기대했기 때문이다. 실제 삼성SDS는 이준희 대표까지 나서서 국가AI컴퓨팅센터 사업에 참여하겠다는 의사를 밝힌 바 있다. 앞서 이 대표는 지난 3월 '제40기 정기 주주총회'에서 "정부에서 하는 대구센터나 행안부, 복지부 등 여러 안건들이 있어 (국가AI컴퓨팅센터 구축 사업에 대해) 잘 검토할 것"이라며 "국가에서 하는 것인 만큼 다방면으로 보고 있다"고 언급해 기대감을 높였다. 안정태 삼성SDS 최고재무책임자(CFO)도 주총에서 "정부가 진행하는 AI 데이터센터 사업 수주에도 직접 참여하려고 노력 중"이라며 "공공 AI에 관심이 많아 관심을 갖고 살펴보는 중으로, 클라우드와 신기술 투자, 데이터센터 확장 등을 통해 기업 가치를 높일 것"이라고 말했다. 그러나 삼성 측의 참여 불발과 함께 다른 기업들도 관심을 보이지 않으면서 국가AI컴퓨팅센터 본입찰은 흥행참패를 맞았다. 업계에선 사업자 입장에서 리스크 대비 이점이 크지 않은 사업이라는 지적이 상당수였던 만큼 예견된 결론이란 의견이 지배적이다. 이번 일로 공모가 유찰되면서 정부가 계획했던 일정은 모두 차질을 빚게 됐다. 정부는 일단 지난달 30일까지 국가AI컴퓨팅센터 참여 희망 기업·컨소시엄의 사업 참여 계획서를 접수하고 6월부터 기술·정책 평가(1단계)를 거쳐 7월 투자·대출 등 금융심사(2단계) 후 이르면 8월 말께 최종 적정 기업 또는 컨소시엄을 선정한다는 계획을 세운 바 있다. 또 9월에는 특별위원회를 개최해 사업 시행계획을 보고한 후 10월께 특수목적법인(SPC) 설립을 위한 협약을 민간참여자와 체결할 예정이었다. SPC 설립 후에는 오는 11월부터 사업에 착수할 계획을 갖고 있었다. 센터 설립 시기는 오는 2027년으로 설정됐으며 내년에 착공을 시작할 예정이다. 하지만 신청에 나선 사업자가 아무도 없게 되자 결국 연장 공고에 들어갔다. 기업들은 이번 재공고에서도 정부가 공모 요건을 변경하지 않는다는 점에서 이전과 분위기는 크게 다르지 않을 것으로 봤다. 업계 관계자는 "수천억원이 투입되는 장기 사업인 데다 낮은 수익성이 우려된다는 점에서 현재 공개된 조건에선 참여 결정을 내리기 쉽지 않다"며 "공모지침 변경을 통해 광범위한 제안 조건과 사업 참여 부담 등이 일정 부분 해소될 수 있다면 참여를 고려해보려고 했는데, 재공고 때도 유찰 가능성이 높아 보인다"고 말했다. 일각에선 정부가 재공고에 나선 것이 삼성 측을 좀 더 설득해 참여시키려는 것이 아니냐는 해석도 내놨다. 이미 조건 변경이 없어 다른 기업들의 참여 의지가 식은 상황에서 자금력이 있는 삼성 측에 정부가 구애에 나설 가능성이 높다고 본 것이다. 업계 관계자는 "두 번 유찰되면 자동으로 지원한 사업자가 우선 협상할 수 있게 될텐데, 지금으로선 삼성밖에 지원할 곳이 없어 보인다"며 "향후 우선 협상을 하게 된다면 삼성이 정부와 지분 및 수익성 구조 등에 대해 재협상에 나설 여지도 있어 보인다"고 밝혔다. 그러면서 "일단 지금으로선 이번 재공고 때도 유찰될 가능성은 더 높아보인다"며 "1차 유찰된 상황에서 시간적 여유가 없이 정부가 재공고를 나섰다는 점에서 다시 조건을 조정하는 것을 염두에 두면서도 일부 업체들과 접촉해 참여를 유도하려는 것 아닌가 싶다"고 덧붙였다. 이 같은 분위기 속에서도 정부는 2차 공고 때 일부 기업들이 지원을 할 것으로 기대를 거는 분위기다. 민간에서 우려하는 사항들이 있긴 하지만 기획재정부에서 2026년도 예산 편성 지침에 GPU 구매나 임차가 필요할 경우 국가AI컴퓨팅센터를 우선 검토하라고 예산 편성 지침에 넣었다는 점에서다. 과기정통부 관계자는 "이 부분은 민간 차원에서 인센티브가 될 것"이라며 "우리 부처에서도 추경을 통해 GPU 구매 사업을 국가AI컴퓨팅센터 참여 기업에 우선 선정한다는 방침을 갖고 있다"고 설명했다. 그러면서 "(이번 재공고에서도) 다시 유찰되면 재연장 공고를 하거나, 공모 요건을 수정해서 새로 공고를 낼 가능성도 있다"며 "다만 이처럼 했음에도 참여사가 없으면 사업이 중단될 수도 있겠지만, 이 같은 상황은 배제하고 생각 중"이라고 덧붙였다.

2025.06.02 17:39장유미

[유미's 픽] "어차피 삼성이 주인공?"…국가AI컴퓨팅센터 신청 '디데이'에도 '미지근'

"정부에서 하는 대구센터나 행안부, 복지부 등 여러 안건들이 있어 (국가AI컴퓨팅센터 구축 사업에 대해) 잘 검토하겠습니다. 국가에서 하는 것인 만큼 다방면으로 보고 있습니다." 지난 3월 '제40기 정기 주주총회'에서 이 같은 각오를 밝혔던 이준희 삼성SDS 대표가 '쩐의 전쟁'으로 치달은 국가AI컴퓨팅센터 사업에서 승기를 잡을 수 있을지 주목된다. 이달 30일 공모 마감을 앞두고 삼성SDS가 삼성전자, 네이버, 엘리스그룹과 컨소시엄을 구성해 사업 참여 검토에 나선 상황인 만큼 유력 후보로 보는 것이 중론이다. 업계에 따르면 국가AI컴퓨팅센터 특수목적법인(SPC) 컨소시엄 주사업자로 삼성 측이 도전장을 던질 것으로 알려지면서 다른 기업들이 참여 의욕을 상실한 분위기다. 당초 통신 3사와 함께 LG CNS 등 대기업 IT 서비스 계열사, 아마존웹서비스(AWS), 오라클 등 글로벌 기업들이 컨소시엄을 구성해 치열한 접전을 벌일 것으로 예상됐으나, 삼성 측이 의욕적으로 나선다는 소식에 선뜻 나서지 못하는 분위기다. 국가AI컴퓨팅센터는 공공참여자와 민간참여자가 공동출자해 SPC를 설립해 구축·운영한다. 공공참여자는 기획재정부, 과학기술정보통신부 등 정부를 비롯해 산업은행·기업은행 등 국책은행이다. 민간참여자는 ▲데이터센터 기업 ▲클라우드 기업 ▲통신서비스 기업 ▲건축·건설 기업 ▲지자체·도시공사 등이 참여한다. 일단 삼성SDS는 컨소시엄을 구성해 이번에 도전장을 내밀 것으로 알려졌다. 이 컨소시엄은 정부가 연내 확보할 계획인 그래픽처리장치(GPU) 1만 장을 네이버 데이터센터 각 세종 등 기존 인프라에서 우선 구동한 후 비수도권에 국가 AI 컴퓨팅센터를 신규 구축하는 방안을 마련 중인 것으로 전해졌다. 삼성SDS, 네이버 등은 일단 참여를 신중하게 검토 중이란 입장이다. SK텔레콤도 당초 SK브로드밴드, 아마존웹서비스(AWS)와 함께 사업 참여 접수에 나설 것으로 알려져 기대감을 높였다. SK텔레콤은 울산 지역에 100㎽급 AI 데이터센터(AIDC)를 건립하기 위해 AWS와 공동투자·기술 협력 방안 등을 논의하기도 했다. 하지만 SK텔레콤이 최근 대규모 해킹 사태로 혼란을 겪으면서 SK 측의 참여는 '안갯속'으로 빠져들었다. 업계 관계자는 "SKT가 해킹 사건으로 난감해진 상황에서 국가 AI 컴퓨팅센터에 참여한다는 의사를 내비친다면 여론이 더 악화될 가능성이 있어 섣불리 나서지 못하는 듯 하다"며 "검토는 하고 있다지만, 내부 분위기도 그렇고 컨소시엄 구성 등 준비 과정을 고려하면 사실상 참여는 어려울 듯 하다"고 말했다. KT도 분위기는 크게 다르지 않다. 회사 측은 검토 중이라는 입장이지만, 업계에선 컨소시엄 구성, 세부 제안 내용 등 중비 과정을 고려하면 사실상 참여하기는 쉽지 않을 것으로 봤다. 업계 관계자는 "SKT와 KT는 각각 AWS, 마이크로소프트(MS)와의 계약 관계에 따라 그래픽처리장치(GPU)에 대한 약정 물량이 있는 상황"이라며 "원래는 약정 물량 일부를 국가AI컴퓨팅센터 SPC에 넣어 활용하려고 했는데, 갑작스럽게 정부에서 GPU 1만 장을 들여올 것이란 계획이 생기면서 GPU가 남을 수도 있는 상황이 생겨 참여하기가 다소 애매하게 됐다"고 설명했다. 이어 "정부가 연내 1만 장의 GPU를 발주한 후 이를 나중에 설립되는 SPC에 넘겨준다는 조건을 달게 되면서 당초보다 국가AI컴퓨팅센터 SPC 사업이 기업들에게 매력적으로 여겨지고는 있다"면서도 "GPU 1만 장을 수용할 수 있는 CSP 업체들이 국내에 세 곳 정도밖에 없다는 점을 감안하면 이들과 함께 손잡고 참여할 수 있는 컨소시엄은 많지 않은 상황"이라고 덧붙였다. 그러면서 "삼성 측은 막대한 현금을 보유하고 있다는 점에서 의욕적으로 이 사업에 나설 경우 상대할 수 있는 경쟁사들이 없을 것"이라며 "현재로선 삼성 측이 사업을 맡을 것이란 기대감이 크다"고 덧붙였다. 실제 삼성SDS가 지난해 말 기준 보유한 현금·현금성자산·단기금융상품은 총 6조240억4천800만원, 이익잉여금은 8조원에 달한다. 이 자금을 바탕으로 글로벌 SaaS 기업 인수합병(M&A) 등에 나설 것으로 기대감을 모으고 있지만, 아직까지 실현되진 않고 있다. 이 같은 상황에서 삼성SDS는 국가 AI 컴퓨팅센터를 비롯한 공공 AI 사업 수주와 관련해 직접 참여하겠다는 의지를 의욕적으로 드러내 주목 받았다. 안정태 삼성SDS 최고재무책임자(CFO)는 지난 3월 주총에서 "정부가 진행하는 AI 데이터센터 사업 수주에도 직접 참여하려고 노력 중"이라며 "공공 AI에 관심이 많아 관심을 갖고 살펴보는 중으로, 클라우드와 신기술 투자, 데이터센터 확장 등을 통해 기업 가치를 높일 것"이라고 밝힌 바 있다. LG CNS도 검토 중이란 입장은 보였지만, 다소 미적지근한 반응이다. 컨소시엄에 함께 참여할 것으로 보였던 LG유플러스가 불참하는 쪽으로 가닥을 잡은 것이 영향을 준 것으로 분석된다. 카카오엔터프라이즈 등 일부 IT 서비스 대기업들과 중견·중소기업들도 컨소시엄 주사업자들이 선뜻 나서지 않으면서 참여 검토가 흐지부지된 분위기다. 외국계 기업들도 마찬가지다. 글로벌 협력이 필수 참여 조건으로 붙었지만 컨소시엄 구성을 두고 관망하는 모양새다. 국내에서 공공 분야 AI·클라우드 사업 참여 사례 확보가 필요함에도 불구하고 확실한 주사업자가 나타나지 않으면서 상황이 애매해졌다. 한 외국계 기업 관계자는 "중견기업과 컨소시엄을 구성해 참여하려고 검토했지만, 분위기가 선뜻 나서려는 것 같진 않다"며 "내부에서도 사업 참여 결정을 두고 너무 조심스러워 하는 분위기"라고 밝혔다. 이 같은 상황 속에 정부는 일단 이날까지 국가AI컴퓨팅센터 참여 희망 기업·컨소시엄의 사업 참여 계획서를 접수하고 6월부터 기술·정책 평가(1단계)를 거쳐 7월 투자·대출 등 금융심사(2단계) 후 이르면 8월 말께 최종 적정 기업 또는 컨소시엄을 선정한다는 계획을 세웠다. 또 9월에는 특별위원회를 개최해 사업 시행계획을 보고한 후 10월께 특수목적법인(SPC) 설립을 위한 협약을 민간참여자와 체결할 예정이다. SPC 설립 후에는 오는 11월부터 사업에 착수할 계획이다. 센터 설립 시기는 오는 2027년으로 설정됐으며 내년에 착공을 시작할 예정이다. 업계 관계자는 "국가AI컴퓨팅센터 SPC의 공공 지분율이 51%라는 점에서 사업 자율성에 다소 제약이 있는 데다 수익성에 대한 구체적인 얘기가 없어 낮을 것으로 보는 시각이 많다"며 "공모지침서상 연대보증과 청산·손해배상 가능성에 대한 부담도 클 것으로 보이는데 참여하는 것에 비해 기업에게 돌아갈 이점은 크지 않다는 것이 참여를 망설이게 하는 이유"라고 설명했다. 이 탓에 일각에선 공모 마감일에 신청에 나서는 컨소시엄은 삼성 측이 유일할 것으로 보여 유찰될 가능성이 클 것으로 예상했다. 접수기한 내 1개 이하 컨소시엄이 사업 참여를 신청할 경우 사업은 유찰되며 연장 공고가 이뤄질 예정이다. 연장공고에도 최종적으로 1개 컨소시엄만 신청하면 공모지침상 평가기준에 의거, 적정 사업자인지 판단을 거쳐 수의계약을 체결하게 된다. 업계 관계자는 "재공고가 이뤄진다고 해도 자금 동원력이 큰 삼성 측이 참여하게 되면 다른 기업들이 사업자로 선정될 가능성은 낮을 것으로 보인다"며 "수천억원이 투입되는 장기 사업인 데다 낮은 수익성이 우려된다는 점에서 현재 공개된 조건에선 참여 결정을 내리기 쉽지 않다"고 말했다. 그러면서 "정부가 유찰 후 좀 더 구체적인 조건을 마련해 재공고를 하게 되면 참여 의지를 보이려는 기업들이 더 생길 수는 있을 듯 하다"고 덧붙였다.

2025.05.30 07:01장유미

유상임 장관, 엔비디아 찾아 GPU 확보 논의...NIPA 협약 체결

유상임 과학기술정보통신부 장관이 지난 14일부터 미국을 찾아 엔비디아와 AI 인프라 구축을 위한 업무협약을 이끌어냈다. 엔비디아 초청을 받아 미국 본사를 방문한 유상임 장관은 제이 퓨리 총괄 부사장, 칼리스타 레드몬드 부사장 등 엔비디아 주요 임원들과 대한민국 AI 인프라 역량 확충을 비롯해 AI 생태계 역량 강화를 위한 협력방안을 논의했다. 정보통신산업진흥원(NIPA)은 엔비디아와 업무협약을 체결, 연내 원활한 첨단 엔비디아 GPU 확보 등 AI 인프라 구축을 위해 협력하기로 했다. 유 장관은 방미 첫날 브랜던 카 연방통신위원회(FCC) 위원장과 면담을 갖고, 전 세계적인 위협이 되고 있는 통신 해킹에 대한 협력 방안을 찾았다. 이 자리에서 한국의 'IoT 보안인증제도'와 FCC의 '사이버 트러스트 마크'의 추진 현황을 공유하며, 양국의 IoT 기업들이 상대국에서 중복 인증을 받는 부담을 줄이고 국민들도 IoT 기기를 안심하고 사용할 수 있도록 한미 양국이 IoT 보안 기준 등에 대해 공유할 필요성을 공감했다. 아울러 양측의 6G 개발과 표준활동에 대해 공유했다. 또 해저 케이블 보안에 대해 지속적인 협력관계를 이어나가기로 뜻을 모았다. 유 장관은 15일 美 백악관 과학기술정책실(OSTP) 린 파커 부실장을 만나 한미 과학기술 협력에 차질없는 추진 방안에 대해 논의하였다. 유 장관은 먼저 한국의 글로벌 R&D 현황을 공유하며 미국과의 협력 내용을 설명하였다. 아울러 R&D 환경 변화에도 한미 간 차질없는 협력을 강조하였다. OSTP측에서는 한국에서 참고할 수 있도록 이번 트럼프 2기 행정부의 투자 우선순위를 공유하고, 이를 바탕으로 R&D 정책 변화를 강구하고 있음을 밝혔다. 특히 유 장관은 민감국가 지정 등의 상황으로 연구보안의 중요성이 증대되고 있는 상황을 설명하였고, 양측은 현재 연구보안 정책을 공유하고, 상호 긴밀히 협력해나가기로 했다. 미측은 트럼프 행정부 1기 때 발표된 연구보안 관련 대통령 각서를 기반으로 이행을 강화해나갈 것이라는 점을 강조했다. 이밖에 미국 국립과학재단, 에너지부(DOE) 산하 페르미 국립가속기연구소, 미국과학진흥협회(AAAS) 등과 의견을 나눴다. 유 장관은 “한국의 글로벌 공동연구 투자 규모 중 미국과의 협력 비중이 가장 큰 현실에서 트럼프 2기 행정부의 변화된 R&D 정책방향과 연구보안 강화 정책이 우리 R&D에 미치는 영향을 빨리 파악하고 대응하는 것이 중요하다”며 “방미를 계기로 미측과 차질없는 협력을 이어가기로 하였고, 이번에 논의한 내용을 한미 R&D 정책에 반영할 계획”이라고 밝혔다. 그는 또 “엔비디아와의 GPU 협력 모색에 착수한 바, 국내 AI 연구환경이 대폭 개선되기를 기대한다”고 강조했다.

2025.05.18 13:17박수형

정부, 엔비디아 H200·B200 구입...10월부터 GPU 서비스

정부가 연내 엔비디아의 H200, B200 GPU 1만장을 도입해 국내 클라우드 기업이 AI 연구 개발에 쓰이도록 한다. GPU 구매 발주는 7월에 이뤄질 예정이다. 과학기술정보통신부는 14일 열린 경제관계장관회의에서 이같은 내용이 담긴 첨단 GPU 확보 추진 방안을 발표했다. 추경 예산으로 확보하게 되는 GPU 1만장은 H200 6천400장, B200 3천600장 규모로 수급 계획을 세웠으며 모델 비중은 상황에 따라 조정할 예정이다. GPU 구입에 8천600억원, 클러스터 통합 운영환경에 6천억원의 예산을 분배한다. 정부 예산으로 구입한 GPU를 운용할 클라우드 기업(CSP)에 대한 공모는 내주 예정됐으며 GPU 구매 절차는 7월에 진행, 이르면 오는 10월부터 신규 GPU 클러스터를 통한 국내 기업과 학계의 R&D를 진행키로 했다. 국가AI컴퓨팅센터 주체의 컨소시엄 형태 특수목적법인(SPC)에 참여하는 CSP 선정에는 별도 전문가 위원회가 맡는다. 선정 평가는 ▲재정 투입 대비 컴퓨팅 성능을 포함한 GPU 확보 구축 역량 ▲신속한 GPU 서비스 실행력 ▲GPU 자원 자체 활용 비중과 계획(CSP 운영비 성격 고려) 등을 중점에 뒀다. 선정된 CSP와 추후 권리 등에 관한 5년 단위 협약을 체결하게 된다. 협약에는 정보통신산업진흥원(NIPA)의 GPU 소유권 확보, SPC의 GPU 사용, CSP의 일부 GPU 자원 자체활용 허용 등의 내용이 포함된다. 정부는 특히 월드베스트LLM(WBL)에 선정된 기업에 GPU 자원 이용을 우선 제공한다는 방침이다. WBL은 국가대표 생성형AI 모델을 만들겠다는 취지로, 추경 예산을 통해 이뤄지는 프로젝트다. 과기정통부는 “SPC는 공공지분이 51%로 공공기관운영법에 따른 공공기관 지정 가능 요건에 해당한다”며 “내년 1월로 예상되는 공공기관운영위 심의에서 최종 결정될 사항이나 민간의 자율성을 최대한 보장하는 방향으로 부처 협의 중”이라고 밝혔다.

2025.05.14 11:35박수형

"AI 강국 위해 컴퓨팅 인프라 확충...GPU 조기 확보 절실"

한국이 AI 강국 G3로 도약하기 위해서는 컴퓨팅 인프라, 특히 GPU 확보가 '생존의 문제'라는 진단이 나왔다. 이에 정부와 산업계는 한목소리로 GPU 인프라 확충의 시급성을 강조하며 국회의 빠른 대응을 촉구했다. 송상훈 과학기술정보통신부 정보통신정책실장은 12일 국회 의원회관에서 정동영, 최형두 의원과 정보통신산업진흥원(NIPA) 주최로 열린 'AI G3 강국을 위한 신기술 전략 조찬 포럼'에서 "AI G3 강국으로 가기위해 여러가지 계획들을 신속하고 계획대로 집행해야 한다"며 "여야 국정협의체에서 진행되고 있는 추경이 신속하게 합의가 돼 예산이 계획대로 집행될 수 있도록 뜻을 모아달라"고 촉구했다. 최근 정부는 AI 강국 도약을 위한 대규모 컴퓨팅 인프라 확충 계획을 발표했다. 특히 AI 모델 개발에 필수적인 GPU(그래픽처리장치) 확보에 총력을 기울이겠다는 방침이다. 송 실장은 "최근 글로벌 AI 패권 경쟁은 딥시크 돌풍으로 새로운 국면에 진입하고 있다"며 "중국 스타트업 딥시크의 혁신을 새로운 기회로 삼아 우리나라 가용 자원을 총 결집하여 국가 AI 역량을 한 단계 도약시켜야 한다"고 강조했다. 현재 한국은 AI 인프라가 부족한 상황이다. 송 실장은 "천문학적 자본을 앞세운 빅테크들의 AI 인프라 확충 전쟁 속에서 우리 연구자와 기업들은 인프라 부족을 호소하고 있다"며 "선도국 대비 1년 이상의 기술 격차가 있다"고 진단했다. 정부, AI 3대 전략 발표...인프라·모델·전환 가속화 추진 정부는 ▲AI 컴퓨팅 인프라 확충 ▲차세대 AI 모델 개발 ▲AI 전환 가속화라는 3대 전략을 수립했다. 송 실장은 "이 전략들을 바탕으로 글로벌 탑 수준의 AI 모델을 세계 최고 수준의 인재가 개발할 수 있도록 정부는 적극 지원하겠다"며 "개발된 우리의 AI 모델로 신성장과 신시장을 발굴하고 산업·공공 분야 적용을 통해 국가 AI 전환을 가속화하겠다"고 밝혔다. 정부는 2026년 상반기까지 총 1.8만 장의 첨단 GPU를 확보할 계획이며, 이 중 1만 장은 민관 협력을 통해 연내에 확보해 국가 AI 컴퓨팅 센터를 조기에 가동한다는 방침이다. 송 실장은 "당장 현장의 시급한 AI 컴퓨팅 수요에 대응하기 위해 광주 AI 데이터센터, 민간 클라우드 등 국내에서 보유하고 있는 GPU 자원의 AI 기업 활용을 우선 지원하겠다"고 밝혔다. 또한 2030년까지 국가 AI 컴퓨팅 센터 내 국산 AI 반도체 비중을 50%까지 끌어올릴 예정이다. 민간 투자 촉진을 위해 AI를 국가 전략 기술로 지정해 세제 지원을 강화하고, 비수도권 AI 데이터센터 설치 시 전력 개통 기간 단축, 입지 다변화, 시설 설치 기준 최소화 등 제도 개선도 추진한다. 송 실장은 "지난 6월 조세특례제한법 개정으로 AI 인프라 투자에 대한 세제 지원이 강화됐다"며 "앞으로도 전력과 입지·시설 관련 제도 개선을 지속적으로 추진하겠다"고 설명했다. 이와 함께 '월드 베스트 AI팀' 프로젝트를 통해 정예팀을 선발하고 단기간에 글로벌 탑 수준의 LLM을 개발할 수 있도록 지원하며, '글로벌 AI 챌린지' 개최로 최고 인재를 발굴하고 1조 원 규모의 범용 인공지능 R&D도 추진한다. 아울러 교육, 법률, 의료 등 분야별 특화 생성형 AI 개발과 국산 AI 모델의 초기 시장 창출을 위한 부처 협력형 선도 프로젝트도 진행할 계획이다. 송 실장은 "AI 컴퓨팅 인프라 확충을 시작으로 국가 AI 역량을 강화하여 AI G3 도약을 실현해 나가겠다"며 "국회를 비롯한 학계, 산업계의 많은 협력과 지원이 필요하다"고 강조했다. "GPU 확보 시급"...산업계 목소리 쏟아져 이날 포럼에 참석한 기업 대표들은 한목소리로 AI 인프라를 구축해야 한다며, 특히 GPU 확보의 시급성을 강조했다. SK텔레콤 이영탁 부사장은 "AI 강국이 되기 위해서는 생태계가 중요하다. AI 컴퓨팅 인프라 확충이 정말 중요한데, 특히 GPU가 당장 시급하다"며 "민간과 잘 협의해서 AI 컴퓨팅 인프라 생태계가 함께 발전할 수 있도록 해야 한다"고 밝혔다. 모빌린트 신동주 대표도 "당장 AI 반도체와 GPU 확충에 부족한 부분이 있어 중요하다"며 "국산 반도체 비중을 늘려야 한다"고 주장했다. 퓨리오사 백준호 대표는 "AI 컴퓨팅 인프라 확충이 필요하다"며 "최근 AI 모델에서 혁신을 이룬 기업들, 예를 들어 딥시크나 오픈AI 등은 대부분 스타트업"이라고 강조했다. 이어 그는 "혁신기업들이 등장할 수 있는 토대를 위해 스타트업에 컴퓨팅 인프라를 지원해 생태계를 만들어주면 좋겠다"고 제안했다. 리벨리온 신성규 CFO는 "딥시크의 사례를 살펴보면 컴퓨팅 인프라를 훈련과 추론으로 나눠 준비했다"며 "정부의 2030년까지 국산 반도체 비중을 높이는 계획은 감사하지만, 처음 인프라 도입 단계인 올해부터 5%라도 국산 AI 반도체가 함께 구축되는 것이 중요하다"고 말했다. 한편 'AI G3 강국을 위한 신기술 전략 조찬 포럼'은 지난해 진행된 AI·모빌리티 신기술전략의 시즌2로 기획됐다. 현장에는 국회, 정부, 산학연 전문가 20여명 참석해 AI 산업 발전을 위한 신기술, 트렌드, 정책, R&D 등을 논의했다.

2025.03.12 11:01최지연

정부 "국가AI컴퓨팅센터 참여 기업, GPU 공급 확약서 내야"

2조5천억원 규모 '국가인공지능(AI)컴퓨팅센터' 구축 사업에 참여하려는 기업들은 고성능 칩을 안정적으로 확보할 수 있다는 것을 증명하기 위해 'AI 반도체 공급 확약서'를 내야 하는 것으로 전해졌다. 9일 국가AI컴퓨팅센터 구축 공모지침서에 따르면 정부는 공모 신청 기업에 최신 AI 반도체를 채택하려 한 이유와 국내외 AI 반도체 조달 가능 여부를 사업 참여계획서에 제시해야 한다고 밝혔다. 기업은 확보 대상 그래픽처리장치(GPU) 등 공급 확약서와 공급업체 협력 방안을 제시해야 한다. 또 2045년까지 AI 컴퓨팅 서비스를 안정적으로 운영할 방안과 요금 체계를 마련해야 한다. 이는 사업 지속 가능성을 확보하기 위한 조치로, 현금 흐름과 운영 비용 등을 고려한 장기 수익 모델도 포함이다. 기업은 향후 센터를 확장할 경우에 대비해 대지 확보 방안이나 늘어날 전력 용량을 충당할 방안도 제출해야 한다. 신청 기업 센터의 전력효율지수(PUE) 목표와 달성 방안, 전력 안정성 강화를 위한 방안을 제시해야 한다. 참여 기업을 대표하는 법인은 국내에 주 사업장을 둔 기간통신사업자나 부가통신사업자, 데이터센터·클라우드 사업자가 맡아야 한다는 지침도 필수다. 정부는 글로벌 경쟁력 강화와 운영 노하우 확산을 위해 통신사와 클라우드 기업이 컨소시엄을 구성할 경우 가점을 부여하기로 했다. 글로벌 기업과의 협력 방안도 중요하게 평가될 예정이다. 국내 통신사인 SK텔레콤과 KT, LG유플러스는 이번 사업에 참여 의사를 밝힌 상태다. SK텔레콤과 KT는 아마존웹서비스(AWS)와 협력을 추진 중이다. LG유플러스는 마이크로소프트와 손잡았다. 정부는 이 외에도 전력 공급 확보, 국내산 AI 반도체 활용 여부 등을 우대 조건에 포함했다. 국가 AI 컴퓨팅 센터 사업의 최종 사업자는 올해 6월경 결정된다. 현재 업계 관계자들은 사업 참여에 대해 신중한 입장을 보였다. 일부는 센터 구축과 운영에 따른 기업 부담이 크다는 우려도 표했다. 특히 AI 컴퓨팅 지원과 전산 장비 노후화 대책 마련, GPU·국산 AI 반도체 가격 변동, 전력 비용 상승, 기술·시장 변화에 대한 대응책을 민간 기업이 자체적으로 마련해야 한다는 점을 부담 요인으로 꼽았다. 클라우드 업계 한 관계자는 "해당 사업은 국가 차원의 대규모 AI 연산 자원을 확보하는 것이 목적이지만, 센터 운영 과정에서 AI 솔루션을 원활히 실행하기 위한 추가적인 관리 부담이 예상된다"고 지적했다. 또 다른 데이터센터 업계 관계자는 "정부가 기업에 요구하는 조건이 많아 수익성을 유지하는 것이 쉽지 않을 수 있다"며 "정부가 어느 정도의 지원을 제공할지가 중요한 관건"이라고 말했다.

2025.03.09 17:10김미정

'AI 3대 강국' 목표 세운 韓, 대규모 투자 시동…조준희 "산업용 LLM에 주목해야"

최근 우리나라 정부가 인공지능(AI) 분야를 국가 전략 기술로 지정하고 집중 지원에 나선 가운데 국내 기업들이 산업용 거대언어모델(LLM) 개발에 적극 나서야 한다는 주장이 나왔다. 23일 업계에 따르면 조준희 한국소프트웨어협회장은 최근 자신의 소셜미디어(SNS) 페이스북 계정을 통해 "AI는 국가적으로 전략물자 수준 이상으로 생각해야 되고, 일종의 '핵무기'와 같다고 봐야 된다"며 "앞으로는 우리를 보호하는 무기로서의 AI를 가질 것이냐, AI 핵우산에 기댈 것이냐의 선택일 것"이라고 강조했다. 그러면서 "산업 보국을 위해서는 기업 수와 고용이 동반해서 늘어야 되는데 그런 면에서 우리가 소홀히 보고 있는 산업용 LLM 시장에 큰 기대감을 가지고 있다"며 "특히 제조 강국으로서의 산업 특화 LLM 개발 부분은 수출 측면에서도 선전 할 수 있다고 생각한다"고 덧붙였다. 조 회장이 이처럼 주장하고 나선 것은 최근 우리나라에서 AI 산업 발전을 위해 정부와 기업이 다각도로 방안을 모색하고 있는 상황에서 방향성을 제시하기 위한 것으로 분석된다. 앞서 정부는 지난 20일 제3차 국가AI위원회 회의를 진행해 '국가대표 정예팀'을 선발하는 한편, 빠른 시간 안에 세계 최고 수준의 LLM을 개발할 수 있도록 데이터와 그래픽처리장치(GPU) 등을 전폭 지원하겠다는 계획을 내놓은 바 있다. 특히 AI 컴퓨팅 인프라 확충을 위해 단기적으로는 내년 상반기까지 1만8천 장 규모의 첨단 GPU를 확충하기로 했다. 1만 장은 국가AI컴퓨팅센터를 중심으로 올해 안에 마련하고 나머지 8천여 장은 슈퍼컴퓨터 6호기 구축을 통해 확보한다. 장기적으로 2030년까지 국가AI컴퓨팅센터 내 국산 AI 반도체 비중을 50%로 끌어올려 저전력·고성능의 국산 AI 반도체 경쟁력을 높인다는 계획이다. 초기에는 엔비디아 등의 GPU를 쓰되 국산 AI 반도체의 성능을 검증해 점차 비율을 늘린다는 방침이다. 범용인공지능(AGI) 구현에 필요한 핵심 원천기술 확보도 추진하고 있다. 약 1조원을 투입할 계획으로, 현재 예비타당성 조사가 진행 중이다. 이에 대해 조 회장은 "국가 AI 역랑 강화 방안들은 어려운 환경에서 시기 적절하고 정교하게 잘 만들어졌다"며 "실행에 만전을 기하면 승산이 있다고 본다"고 말했다. 정부가 이처럼 나선 것은 AI 주도권을 둘러싼 글로벌 시장 경쟁이 갈수록 격화되고 있어서다. 미국은 지난 달 오픈AI, 오라클을 중심으로 AI 데이터센터에 약 730조원을 투자하는 '스타게이트 프로젝트'를 발표했다. 이에 질세라 유럽연합(EU)은 'AI기가팩토리 프로젝트'를 포함해 300조원가량을 투자키로 했다. 프랑스도 AI데이터센터에 약 163조원을 투자할 것이란 계획을 최근 공개했다. 하지만 우리나라는 미국, 중국에 이어 'AI 3대 강국'을 목표로 하고 있지만 '쩐의 전쟁'에선 다소 밀리는 모양새다. 한국은 일단 글로벌 AI 생태계에서 싱가포르·영국·프랑스와 함께 3위권으로 평가 되고 있지만, 고성능 AI 모델을 개발하기에는 국내 인프라가 부족하다는 지적을 받고 있다. 실제 지난해 기준 우리나라가 보유한 엔비디아의 AI 반도체 'H100'은 약 2천 개로, 미국 빅테크 메타의 15만 개, 마이크로소프트(MS)의 15만 개에 비해 상당히 낮은 수치다. 기술격차도 갈수록 커지고 있다. 미국과는 지난해 3월 기준 1.3년에 달했고 유럽과는 1년, 중국과는 0.9년의 차이가 났다. AI 고급 인재의 해외 이탈도 많아지면서 기술 개발에도 상당히 어려움을 겪고 있다. 이에 카카오는 자체 LLM 개발 중심 전략에서 선회해 오픈AI와 손을 잡았다. LLM 개발에 수천억원이 든다는 점에서 부담이 컸기 때문이다. 하지만 업계에선 카카오의 이 같은 전략에 대해 상당한 아쉬움을 드러냈다. 카카오가 파운데이션 AI 모델 개발에 소요되는 대규모 투자 비용을 절감하는 효과가 있겠지만, 자체적인 AI 역량 확보가 어려워져 향후 해외 진출에 어려움을 겪을 수도 있다고 판단해서다. 조 회장은 "국내 국민 메신저를 운영하는 대기업의 미국 LLM기업과의 제휴는 AI가 국가 기간산업이라는 철학이 부재한 보여주기식의 쉬운 접근"이라며 "(이 같은 전략은) 성공하기 어려울 것"이라고 주장했다. 이어 "AI는 LLM, GPU, 고대역폭메모리(HBM), 프로세싱-인-메모리(PIM), 클라우드, 양자 등 대규모 융합 산업으로, 어느 하나도 포기할 수 없는 주요 테크산업인 만큼 협업과 종합적인 접근이 중요하다"며 "올해 (우리나라가 AI기본법과 관련해) 세부 규정과 시행령을 더 정교하게 만들어서 미국 빅테크 기업을 적절히 견제하고 국내 산업을 증진시킬 수 있도록 (모두의) 균형있는 노력이 필요할 것"이라고 덧붙였다.

2025.02.23 15:37장유미

정부 "GPU 우선 확보…세계 수준 LLM 만든다"

과학기술정보통신부가 인공지능(AI) 컴퓨팅 인프라를 확충하면서 즉시, 단기, 중장기 등 3단계에 걸친 마스터플랜을 가동키로 했다. 20일 열린 국가인공지능위원회 3차 회의에서 과기정통부는 이같은 내용을 담은 'AI컴퓨팅 인프라 확충을 통한 국가 AI역량 강화 방안'을 발표했다. AI컴퓨팅인프라 특별위원회와 당정협의회에서 논의된 내용을 담은 것으로, 새해 경제정책방향에 따라 1분기 내 수립 예정이던 대책을 딥시크 돌풍으로 앞당겨 마련한 방안이다. 내년 상반기까지 GPU 1.8만장 확보...H100 416장 우선 지원 이 방안에 따라, 정부는 인공지능 컴퓨팅 인프라 확충 3단계에 걸친 마스터플랜을 가동한다. 당장 현장에 시급한 AI 컴퓨팅 수요에 대응하기 위해 광주AI데이터센터, 민간 클라우드 등 이미 국내에 보유하고 있는 GPU 자원을 활용해 우선 지원한다. 현재 국내에 있는 엔비디아 H100 880장 가운데 정부가 416장을 확보하고 있는데 이를 지원하겠다는 뜻이다. 이후 2026년 상반기까지 1만8천 장 규모의 첨단 GPU를 확충한다. 그 중 1만 장은 국가 AI컴퓨팅 센터를 중심으로 민관 협력을 통해 연내 확보하고, 나머지 8천여 장도 슈퍼컴퓨터 6호기 구축을 통해 확보할 예정이다. 마지막 중장기 단계로 2030년까지 국가AI컴퓨팅센터 내 국산 AI 반도체 비중을 50%로 끌어올리는 등 저전력 고성능의 국산 AI 반도체 경쟁력 제고도 지원한다. 민간의 AI 컴퓨팅 인프라 투자를 촉진하기 위해 세제지원, 전력 입지 등 제도적 기반도 강화한다. AI를 조세특례제한법 상 국가전략기술로 지정해 첨단 AI R&D 등 우대 공제율 30~50%, AI 통합투자 우대 공제율 15~35% 등에 대한 세제지원을 확대한다. 비수도권에 AI데이터센터 구축 시 전력계통 영향평가 우대를 검토하고, 항만배후단지, 공항지원시설 등으로 입지 다변화, 승강기 미술품 설치 최소기준 적용 등 전력 입지 시설에 관한 제도개선 등도 지속 추진한다. 국산 AI 반도체의 성장도 적극 지원한다. 국산 인공지능 반도체를 토대로 글로벌 수준의 개방형 HW-SW 기술생태계를 조성하여 대규모 고성능 시스템의 최적 운용을 뒷받침한다. 이를 통해 대규모 수요 창출과 동시에 기술개발 성과의 실증과 사업화도 지원한다. WBL 프로젝트 추진...AGI 구현 1조 단위 예타 검토 국가AI컴퓨팅센터 등 인프라 확충을 계기로 독자적 인공지능 모델 경쟁력 확보를 본격 추진한다. AI 국가대표 프로젝트인 가칭 월드베스트LLM(WBL) 프로젝트를 신규 추진할 계획이다. AI 정예팀을 선발하고 단시간에 세계 최고 수준의 대형언어모델을 개발할 수 있도록 필요한 데이터, GPU 등 핵심 인프라를 전폭 지원한다. 또한 AI 분야의 도전적인 문제를 해결하기 위해 국내외 최고 인재가 팀을 이뤄 겨루는 대규모 경진대회인 '글로벌 AI 챌린지'도 개최한다. 세계적인 AI 분야 석학들과 대국민 평가 등을 통해 최고 인재의 참여를 유도하고 입상자에 대해서는 창업 지원이나 WBL 정예팀 기업에 채용을 연계하는 등 파격적인 인센티브를 제공한다. 아울러 장기적으로는 생성형 인공지능을 넘어 범용인공지능(AGI) 구현에 필요한 핵심 원천기술 확보를 위해 1조원 규모에 달하는 기술개발을 추진한다. 고급 AI 인재 양성체계도 고도화한다. 지난해 뉴욕에 개소한 '글로벌 AI 프론티어랩'을 영미권을 넘어 유럽 등으로 확대하는 방안을 추진하여 세계를 선도하는 연구그룹과의 공동연구를 강화한다. 이와 더불어 국내 AI 신진연구자의 창의도전적 연구를 지원하는 프로그램도 신설한다. 기업이 원하는 실전 역량을 갖춘 최고 인재를 양성하기 위해 교사, 교재, 수업 없이 실전형 혁신 교육을 지원하는 '이노베이션 아카데미'를 확대하고, '기업-대학 협력형 AX 대학원' 신설을 추진할 계획이다. 글로벌 우수 인재 유치도 대폭 지원한다. WBL 프로젝트와 연계해 정예팀 기업이 필요로 하는 글로벌 인공지능 핵심 인재를 국내에 유치할 경우 인건비, 연구비, 체재비 등 파격적인 지원방안을 적극 검토할 계획이다. 이밖에 '우리 AI 컴퓨팅 인프라'를 통해 '우리 AI 인재'가 개발한, '우리 AI 모델'로 국가 AI 전환을 가속화한다. 우수한 국산 AI 모델의 초기시장 창출을 위해, 우리의 독자적 특화 데이터를 학습한 생성형 인공지능을 의료(맞춤형 치료 건강관리), 법률(대국민 법률정보 제공), 공공(행정업무 효율화) 등 다양한 분야에 접목하는 부처 협력형 선도 프로젝트를 추진한다. 유상임 과기정통부 장관은 “AI 패권경쟁은 기업 간 대결을 넘어 국가가 전면에 나서는 경쟁으로 변화하고 있다”며 “우리의 대응이 1년 늦어지면 경쟁력은 3년이 뒤처진다는 각오로 AI 컴퓨팅 인프라와 핵심인재 육성 확보에 전폭적이고 속도감 있는 투자를 추진하겠다”고 말했다. 이어, “우리나라가 이미 보유한 잠재력을 최대한 활용하고 부족한 부분은 빠르게 보완하는 등 국가의 인공지능 역량을 강화해 인공지능 3대 강국으로 도약하겠다”고 밝혔다.

2025.02.20 11:30박수형

최상목 대행 "연내 GPU 1만장...내년 상반기 GPU 8천장 슈퍼컴 구축"

최상목 대통령 권한대행 부총리가 17일 “연내 고성능 GPU 1만장을 확보해 국가AI컴퓨팅센터 서비스를 조기 개시하고 내년 상반기에는 GPU 8천장 상당의 슈퍼컴 6호기를 구축해 연구계를 지원하겠다”고 밝혔다. 최상목 권한대행은 이날 오후 정부서울청사에서 열린 제3차 AI컴퓨팅인프라특별위원회를 열어 “최근 AI 산업 패권 경쟁이 가열되는 가운데, 경쟁 구도도 기업 간 대결을 넘어 국가가 전면에 나서는 '혁신생태계 간 경쟁'으로 바뀌고 있다”며 이같이 말했다. 그러면서 “정부와 민간이 한 팀이 되어 힘을 모으면 과거 광대역 통신망을 구축해 우리나라가 IT 강국으로 부상하였듯이 AI컴퓨팅 인프라를 기반으로 인공지능 3대 강국으로 도약할 것”이라고 강조했다. 국가AI위원회 산하 AI컴퓨팅인프라특별위원회는 국가AI컴퓨팅센터를 비롯해 정부에서 추진 중인 AI컴퓨팅 인프라 관련 현안을 민관이 함께 논의하고 대응 방안을 모색하기 위해 구성됐다. 이날 회의는 지난달 22일 국정현안관계장관회 후속 조치로 '국가AI컴퓨팅센터 구축(SPC 설립) 실행계획' 관련 현안 점검을 위해 개최됐다. 미국 스타게이트 프로젝트, 프랑스 AI 데이터센터 구축 계획 등에서 보듯 최근 AI컴퓨팅 인프라 역량은 국가별 AI 생태계의 경쟁력을 결정짓는 척도로 부상하고 있으나 첨단 반도체가 집적된 AI컴퓨팅 인프라는 적정 투자 규모를 사전에 예측하기 어려우며, 기술 시장의 변화가 빠르다. 이에 따라, 정부는 앞으로 특별위원회에서 수시로 추진 상황을 점검하고, 각종 현안에 유연하게 밀접 대응할 계획이다. 이날 회의에 참석한 업스테이지의 김성훈 대표는 범용 AI(AGI) 강국으로 가는 길을 주제로 인재, GPU의 중요성과 우리나라가 보유한 역량을 강조하며 AGI 강국으로 도약하는 데 필요한 지원방안에 대해 발표했다. 이어, 배경훈 LG AI연구원장은 최신 AI 기술 동향과 한국형 AI 발전 방향을 주제로 낮은 비용으로 동등 수준의 성능 확보가 가능한 추론 강화 모델에 대해 설명하고, 이를 바탕으로 개발된 LG의 AI모델 엑사원 성과를 소개했다. 민간의 발표와 함께 국가AI컴퓨팅센터 관련 현안으로 사업 공모와 사업설명회 개최 등 사업 추진 경과와 GPU, 서비스, 입지, 전력, 정책금융 프로그램 등 주요 항목별 현안 및 대응 방향에 대해 논의했다. 정부는 이번 특별위원회를 통해 제시된 정책 제언을 바탕으로 AI컴퓨팅 인프라 확충 정책을 보완해나갈 계획이다.

2025.02.17 15:40박수형

CPU·GPU 에너지 사용 100만분의 1로 줄인 '열컴' 나오나

기존 CPU나 GPU가 사용하는 에너지의 100만분의 1만으로도 경로찾기 등 복합한 최적화 계산을 할 수 있는 차세대 열 컴퓨팅 기술이 개발됐다. 인공지능과 딥러닝 등의 확산에 따른 전기 에너지 사용량이 현안으로 부상한 가운데 공개된 혁신적인 컴퓨팅 구동 기술이어서 과학기술계의 관심을 끌었다. KAIST는 신소재공학과 김경민 교수 연구팀이 미국 샌디아 국립연구소와 공동으로 산화물 반도체의 열-전기 상호작용에 기반하는 열 컴퓨팅(Thermal computing) 기술 개발에 성공했다고 26일 밝혔다. 연구팀은 반도체 소자에서 발생하는 열이 CPU의 계산 성능을 떨어뜨리고, 이 열을 처리하는 추가 비용이 발생한다는데 주목했다. 이 같은 문제 해결 방안으로 연구팀은 전기-열 상호작용이 강한 산화나이오븀(NbO₂) 기반의 모트 전이 (Mott transition) 반도체를 눈여겨 봤다. 모트 전이 반도체는 온도에 따라 전기적 특성이 부도체에서 도체로 변하는 전기-열 상호작용이 강한 반도체 소자다. 연구팀은 낮은 열전도도와 높은 비열을 가지고 있는 폴리이미드 기판으로 모트 전이 반도체 소자를 제작했다. 소자에서 발생한 열은 폴리이미드 기판에 저장했다. 저장된 열은 일정 시간 동안 유지돼 시간적 정보 역할을 했다. 또 이 열은 공간적으로도 이웃 소자로 전파되면서 공간적 정보 역할도 했다. 연구팀은 "열 정보를 시,공간적으로 활용해 컴퓨팅을 수행할 수 있었다"며 "CPU나 GPU가 쓰는 에너지 소모량 대비 1백만분의 1 정도만 써도 경로 찾기 등과 같은 복잡한 최적화 문제를 풀수 있었다"고 부연 설명했다. 김경민 교수는 “버려지던 반도체 소자 열을 컴퓨팅에 활용하는 개념을 최초로 제안했다"며 "열 컴퓨팅 기술을 활용하면 뉴런과 같은 신경계의 복잡한 신호도 매우 간단히 구현할 수 있다"고 말했다. 김 교수는 또 고차원의 최적화 문제를 기존의 반도체 기술을 바탕으로 해결할 수 있어 양자 컴퓨팅의 현실적인 대안이 될 수 있다”고 기술의 장점을 강조했다 이 연구는 KAIST 신소재공학과 김광민 박사과정, 인재현 박사, 이영현 박사과정 연구원이 공동 제1 저자로 참여했다. 관련 논문은 재료 분야 국제 학술지 `네이처 머티리얼즈(Nature Materials, Impact factor: 41.2)'(6월18일자)에 게재됐다.

2024.06.26 05:06박희범

지코어 "삶을 바꾸는 생성 AI의 위치는 엣지"

“인공지능(AI)이 인류의 미래를 바꿀 것이라 전망되지만, AI가 어떻게 산업에 연결돼 서비스로 다가오고 경제 생활을 만들어낼 지 알 수 없다. 가시적인 변화는 AI가 생산성으로 이어져야 가능할 것이다. 일반인공지능(AGI)도 중요한 문제고 인류의 미래를 바꾸겠지만, 기업의 먹거리와 인류의 삶을 바꾸는 AI는 결국 엣지에서 있을 것이다.” 지코어코리아 김진용 팀장은 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024' 기조연설에서 이같이 밝혔다. 김진용 팀장은 "생성형 AI는 2년도 안 돼 부풀려진 기대치의 정점을 찍었고, 곧 환멸의 골짜기에 도달할 것으로 보인다”며 “생성형 AI 기업의 운영 비용은 월 100만달러에 달하는 큰 부담을 주고 실질적인 이익을 벌어들이지 못하는 상황이기 때문”이라고 설명했다. 김 팀장은 “현 시점에서 필요한 것은 기존 자산을 잘 조합하고 새로운 아이디어를 고안해내서 새로운 혁신을 이루는 것”이라며 “AI 학습과 추론, 모델을 묶어서 사용자 가까이 있는 디바이스와 안전한 통신으로 연결되는 모든 세트를 갖춰야 한다”고 강조했다. 지코어는 160개 이상의 국가와 지역에 PoP를 운영하고 있다. 강력하고 안전한 클라우드 및 엣지 AI에 대한 노하우를 보유하고 있는 기업이라고 스스로를 강조한다. 특히 생성형 AI 학습과 추론에 필요한 전용 인프라를 클라우드 서비스로 제공하고 있다. 최근 지코어코리아는 한국 데이터센터를 개소했다. 품귀현상을 보이는 엔비디아 H100 텐서코어 GPU 서버를 설치했다.지코어의 H100 기반 AI 퍼블릭 클라우드 서비스는 SMX5 타입의 H100 GPU를 각 8개씩 탑재한 서버들을 대규모 클러스터로 구성해 강력한 컴퓨팅 능력을 제공한다. AI학습 성능에 가장 큰 영향을 미치는 GPU간 연결을 모두 인피니밴드 NDR(400Gbps)로 구성해 각 서버당 대역폭을 3.2Tbps로 제공한다. 김진용 팀장은 “생성형 AI의 아키텍처는 기존 엔터프라이즈용 애플리케이션과 달리 서비스 부분에서 많은 자원이 필요하다”며 “지코어는 훈련용과 추론용 인프라로 GPU 자원을 제공하며, 더 특별한 수요에 대응하는 IPU도 제공한다”고 말했다. 지코어의 또 다른 강점은 네트워킹 인프라다. 콘텐츠딜리버리네트워크(CDN)에서 시작한 회사란 장점을 살려 초저지연시간을 보장하는 고속 네트워크를 생성 AI에 제공할 수 있다. 지코어의 클라우드 컴퓨팅은 '서버리스 컴퓨팅'에 기반한다. 거대언어모델(LLM)을 사용할 때 자원 할당을 별도로 하지 않아도 되며, 실제로 모델을 작동시키는 양만큼만 비용을 내면 된다. 그는 “AI는 지연시간에 민감한 서비스기에 지코어는 글로벌 평균 26밀리초의 지연시간을 유지하며, 한국의 경우 한자릿수 밀리초의 지연시간으로 이용할 수 있다”며 “다양한 LLM을 기업이 모두 미리 깔아놓을 수 없으므로 정말 필요할 때 자원과 모델을 곧바로 활용할 수 있도록 서버리스 컴퓨팅으로 제공하고 있다”고 설명했다. 지코어는 중앙의 인프라와 네트워킹에 더해 엣지 단계에서 AI 모델 추론을 수행할 수 있는 환경도 제공한다. '인퍼런스앳더엣지'란 서비스는 160여개 지코어 POP의 캐싱서버에 암페어 알트라맥스와 엔비디아 L40S 칩을 두고 고객의 AI 서비스를 구동할 수 있게 한다. 필요한 LLM도 캐싱해 빠르게 제공할 수 있으며, 유사한 추론을 반복적으로 하게 되는 상황을 감안해 모델응답을 캐시할 수 있다. 김 팀장은 “사용자가 지코어 기잔의 AI 서비스에 접속하면 인퍼런스앳더엣지의 AI 칩으로 다양한 모델을 끌어와 서비스를 돌릴 수 있다”며 “지리적 혹은 정치적 이유에 따른 규제 차이에 맞게 답변과 모델에 차이를 둬야 할 때도 맞춤형으로 대응가능하다”고 말했다. 그는 여기에 '5G 보안 네트워크' 기반으로 생성 AI와 사용자 디바이스를 연결할 수 있다고 했다. 사용자, 기업 등의 데이터가 외부에 유출되지 않도록 제로트러스트 네트워크를 통해 정보를 주고 받을 수 있다. 그는 “어떤 IoT 디바이스든 데이터를 실제 AI 서비스 장소까지 안전하게 전달하는 센서 데이터 보안 확보가 가능하다” 그는 “지코어의 서비스를 통해 '모든 것의 인터넷(IoT)'에서 '모든 것의 AI(AioT)'라 할 수 있게 된다”며 “지코어는 앞으로 AI 시장이 우리 현실 속에 들어온 엣지 디바이스에서 일어날 것으로 생각하며 이를 실현하기 위해 어느 기업보다 먼저 아키텍처를 고안해 선보이고 실제로 잘 움직이도록 잘 조율해 서비스에 녹여왔다”고 강조했다.

2024.04.17 11:53김우용

HPE, 생성형 AI용 슈퍼컴퓨팅 포트폴리오 출시

HPE는 지난 18일 엔비디아 연례 컨퍼런스 엔비디아 GTC에서 생성형 AI, 딥러닝, 머신러닝 애플리케이션의 운영 고급화를 위한 업계 가장 통합적인 AI 네이티브 포트폴리오를 새롭게 업데이트 했다고 26일 발표했다. HPE와 엔비디아는 공동 엔지니어링한 풀스택 생성형 AI 솔루션을 선보였다. HPE 머신러닝 추론 소프트웨어 프리뷰 버전과 엔터프라이즈급 검생증강생성(RAG) 레퍼런스 아키텍처 등도 소개됐다. HPE와 엔비디아는 블랙웰 플랫폼 기반 제품 개발을 지원한다. 대규모 AI 모델의 개발 및 훈련을 위해 사전 구성 및 테스트된 풀스택 솔루션을 원하는 기업을 위해 생성형 AI용 HPE 슈퍼컴퓨팅 솔루션이 출시됐다. 고객들이 생성형 AI 및 딥러닝 프로젝트 개발을 가속할 수 있도록 목적 기반의 턴키 솔루션은 엔비디아 칩으로 구동되며 최대 168개의 엔비디아 GH200 그레이스 호퍼 슈퍼칩이 제공된다. 해당 솔루션은 대기업, 연구소 및 정부 기관들이 인공지능 및 머신러닝 소프트웨어 스택을 활용한 모델 개발 과정을 더욱 단순화할 수 있도록 지원한다. 이러한 소프트웨어 스택은 고객들이 대규모 언어 모델(LLM), 추천 시스템, 벡터 데이터 베이스 등 생성형 AI와 딥러닝 프로젝트를 더욱 빠르게 추진할 수 있도록 한다. 설치에서부터 설치까지 모든 서비스가 제공되는 턴키 솔루션을 이용해 AI 연구 센터와 대기업은 가치 창출까지의 시간을 더욱 단축하고 훈련은 2-3배 더욱 신속히 진행할 수 있다. 디스커버 바스셀로나 2023 행사에서 선보였듯 HPE의 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션은 이제 유연하고 확장 가능한 사용량 기반 과금 모델을 제공하는HPE 그린레이크를 통해 이용할 수 있다. 엔비디아와 공동 엔지니어링해 사전 구성된 미세 조정 및 추론 솔루션은 생성형 AI 애플리케이션을 제작하기 위해 필요한 정확한 컴퓨팅, 스토리지, 소프트웨어, 네트워킹 및 컨설팅 서비스를 제공함으로써 소요 시간과 비용을 절감해 준다. 이러한 AI 네이티브 풀스택 솔루션은 프라이빗 데이터 기반의 파운데이셔널 모델을 제작하기 위해 필요한 속도, 규모, 관리 기능을 제공하고 하이브리드 클라우드 모델 내 생성형 AI 애플리케이션을 배포할 수 있도록 지원한다. HPE와 엔비디아의 고성능 AI 컴퓨팅 클러스터 및 소프트웨어를 기반으로 해당 솔루션은 경량 모델 미세조정, RAG, 대규모 추론 등에 이상적이다. 이 솔루션을 실행하는 700억 개의 파라미터를 가진 라마 2 모델의 미세 조정 시간은 노드 수에 따라 선형적으로 감소하여 16노드 시스템에서는 6분이 소요된다. 이러한 속도와 성능 덕분에 고객은 버추얼 어시스턴트, 지능형 챗봇, 기업용 검색과 같은 AI 애플리케이션으로 비즈니스 생산성을 개선하여 가치 실현을 더욱 빠르게 달성할 수 있다. 또한, 해당 솔루션은 HPE 프로라이언트 DL380a Gen11 서버를 기반으로 엔비디아 GPU, 엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼, 엔비디아 블루필드-3 DPU로 사전 구성됐다. 이에 더해 HPE의 머신러닝 플랫폼과 애널리틱스 소프트웨어, 생성형 AI 모델 추론용으로 최적화된 엔디비아 NIM 마이크로서비스가 제공되는 엔비디아 AI 엔터프라이즈 5.0 소프트웨어뿐만 아니라 엔비디아 네모 리트리버 및 기타 데이터 사이언스와 AI 라이브러리를 이용할 수 있다. 솔루션 도입 시AI 기술 격차를 해소하기 위해서 HPE 서비스 전문가들이 적합한 모델 조정 기술 등을 포함해 솔루션의 설계, 배포부터 관리까지 지원한다. HPE와 엔비디아는 기업들이 AI 및 ML 개념검증 단계에서 실제 애플리케이션 생산으로 넘어갈 수 있는 소프트웨어 솔루션을 제공하기 위해 협업하고 있다. HPE 고객들은 HPE 머신 러닝 추론 소프트웨어 솔루션을 프리뷰 버전으로 이용할 수 있으며 해당 소프트웨어를 이용해 기업들은 빠르고 안전하게 ML 모델을 대규모로 배포할 수 있다. 프라이빗 데이터를 이용하여 생성형 AI 애플리케이션을 빠르게 구축 및 배포해야 하는 기업들을 위해서 HPE는 엔비디아 네모 리트리머 마이크로 서비스 아키텍처에 기반한 엔터프라이즈 RAG용 레퍼런스 아키텍처를 개발했다. 해당 레퍼런스 아키텍처는 HPE 에즈메랄 데이터 패브릭 소프트웨어와 파일스토리지용 HPE 그린레이크로부터 추출한 종합적인 데이터 파운데이션을 기반으로 한다. 이외에도 데이터 준비, AI 훈련 및 추론 등을 지원하기 위해 해당 솔루션은 HPE 에즈메랄 유니파이드 애널리틱스 소프트웨어와 HPE의 AI 소프트웨어에서 모든 오픈소스 툴과 솔루션을 병합하여 사용할 수 있도록 했다. HPE 머신 러닝 데이터 매니지먼트 소프트웨어, HPE 머신 러닝 개발환경 소프트웨어, 신규 HPE 머신러닝 추론 소프트웨어 등도 이에 해당된다. HPE 소프트웨어는 HPE 슈퍼컴퓨팅과 생성형 AI 용 엔터프라이즈 컴퓨팅 솔루션 모두에서 이용가능해 고객은 생성형 AI 워크로드를 일정한 환경에서 관리할 수 있다. HPE는 향후 새롭게 발표된 엔비디아 블랙웰 플랫폼을 기반으로 제품을 개발할 계획이며 이러한 제품은 2세대 트랜스포머 엔진을 통합해 생성형 AI 워크로드를 가속한다. 엔비디아 GB200 그레이스 블랙웰 슈퍼칩, HGX 200, HGXB100 등이 장착된 HPE 제품에 관한 더욱 자세한 정보는 추후 공개될 예정이다. 안토니오 네리 HPE 회장 겸 CEO는 “생성형 AI의 미래를 실현하고 AI 생명주기 전반을 다루기 위한 솔루션은 설계부터 하이브리드로 제작되어야 한다”며 “AI는 하이브리드 클라우드 환경이 필요한 워크로드로, 온프레미스나 코로케이션 시설, 퍼블릭 클라우드에서 AI 모델을 훈련하는 것에서부터 엣지에서의 추론 작업까지 모든 환경에 걸쳐 진행된다”고 설명했다. 그는 “HPE와 엔비디아는 오랫동안 혁신을 위해 협력해왔다. 양사는 공동 설계한 AI 소프트웨어 및 하드웨어 솔루션을 지속적으로 선보이며 고객들이 기획에서부터 제작까지 생성형 AI를 가속해서 개발하고 배포할 수 있도록 도와줄 것”이라고 강조했다. 젠슨 황 엔비디아 창립자 겸 CEO는 “생성형 AI는 커넥티드 디바이스, 데이터 센터 및 클라우드 내 데이터에서 인사이트를 도출해내며 전 산업의 혁신을 일으킬 수 있다”며 “엔비디아와 HPE의 협력 확대를 통해 기업들은 데이터를 활용하여 새로운 AI 애플리케이션을 개발 및 배포함으로써 전례없는 생산성 향상을 경험하고 비즈니스를 새롭게 전환할 수 있을 것”이라고 밝혔다.

2024.03.26 16:44김우용

데이터브릭스-엔비디아, 기술 통합 강화

데이터브릭스는 엔비디아와 협력을 확대하고 기술 통합을 강화한다고 21일 밝혔다. 엔비디아 GTC 2024 컨퍼런스에서 양사는 데이터브릭스의 데이터 인텔리전스 플랫폼의 데이터 및 AI 워크로드 최적화에 박차를 가할 계획이라고 강조했다. 이 협력은 최근 엔비디아가 데이터브릭스 시리즈I 투자에 참여한 것의 연장선이다. 데이터브릭스 모자이크 AI와 엔비디아는 데이터브릭스의 엔드투엔드 플랫폼에서의 생성형 AI 모델 구축과 배포를 향상하기 위해 모델 훈련 및 추론 분야에서 협력할 방침이다. 데이터브릭스는 데이터 및 모델 전반에 대한 완벽한 제어와 거버넌스는 물론, 생성형 AI 솔루션을 구축, 테스트 및 배포하기 위한 포괄적인 툴 세트를 제공한다. 데이터브릭스 모자이크 AI는 생성형 AI 모델 훈련을 위해 대형 언어 모델(LLM) 개발에 최적화된 엔비디아 H100 텐서 코어 GPU를 사용한다. 이로써 모자이크 AI는 엔비디아 가속 컴퓨팅의 성능을 활용하고, 고객을 위해 LLM을 커스터마이징할 수 있는 효율적이며 확장 가능한 플랫폼을 제공할 수 있게 된다. 한편, 데이터브릭스는 모델 배포를 위해 스택 전반에서 엔비디아 가속 컴퓨팅 및 소프트웨어를 활용한다. 데이터브릭스 모자이크 AI 모델 서빙의 핵심 구성 요소는 최첨단 성능을 제공하고 솔루션의 비용 효율성, 확장성 및 성능을 보장하는 엔비디아 텐서RT-LLM 소프트웨어다. 모자이크 AI는 텐서RT-LLM의 출시 파트너로서 엔비디아 팀과 긴밀한 기술 협력을 이어왔다. 데이터브릭스는 자사의 벡터화된 차세대 쿼리 엔진인 포톤에서 엔비디아 가속 컴퓨팅에 대한 기본적인(native) 지원을 제공하고, 이로써 고객의 데이터 웨어하우징 및 분석 워크로드의 속도와 효율성을 개선한다는 계획이다. 포톤은 업계 최고 수준의 가격 대비 성능과 총소유비용(TCO)을 자랑하는 데이터브릭스의 서버리스 데이터 웨어하우스인 데이터브릭스 SQL을 구동하고 있다. 데이터 쿼리 처리를 위해 GPU를 사용하는 데이터브릭스 고객이 늘어나는 가운데, 양사의 협력은 이러한 성장을 더욱 가속화할 것으로 기대된다. 데이터브릭스 머신러닝은 엔비디아 GPU를 포함하는 사전 구축된 딥러닝 인프라를 제공하며, ML용 데이터브릭스 런타임에는 드라이버와 라이브러리 등 사전 구성된 GPU 지원이 포함되어 있다. 사용자는 이러한 툴을 통해 적합한 엔비디아 인프라를 기반으로 신속하게 작업을 시작할 수 있을 뿐만 아니라, 사용자 간 일관된 환경을 유지할 수 있다. 데이터브릭스는 3대 주요 클라우드에서 엔비디아 텐서 코어 GPU를 지원해, ML 워크로드를 위한 고성능 단일 노드 및 분산 훈련을 지원한다. 데이터브릭스와 엔비디아는 데이터 인텔리전스 플랫폼의 모멘텀을 강화해 보다 다양한 조직이 품질, 속도 및 민첩성을 갖춘 차세대 데이터 및 AI 애플리케이션을 개발할 수 있도록 지원해 나갈 계획이다. 알리 고드시 데이터브릭스 공동창립자 겸 CEO는 “이번 파트너십 확장으로 엔비디아의 가속 컴퓨팅 및 소프트웨어를 통해 데이터브릭스의 워크로드를 가속화하고 고객에 보다 많은 가치를 제공할 수 있게 돼 기쁘다"며 “엔비디아는 분석 사용 사례에서 AI에 이르기까지 데이터브릭스의 기본 모델 이니셔티브를 다수 지원해 왔다"고 밝혔다. 그는 "쿼리 가속화를 위한 상호 협력을 통해 더 많은 기업에게 가치를 입증할 수 있을 것으로 기대한다”고 덧붙였다. 젠슨 황 엔비디아 창립자 겸 CEO는 “AI 시대에서 기업이 보유하고 있는 데이터는 인텔리전스를 도출하는 데 필요한 매우 중요한 자산"이라며 “엔비디아와 데이터브릭스는 효율성을 개선해 더욱 우수한 인사이트와 결과를 얻고자 하는 기업을 위해 데이터 처리를 가속화하고, 이로써 AI의 개발과 배포를 향상할 수 있다"고 강조했다.

2024.03.21 09:35김우용

Prev 1 Next