• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
반도체
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'백엔드닷에이아이'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[AI리더스] 래블업, 업스테이지 '솔라' 규모 확대 뒷받침…"비결은 복구 자동화"

"정부의 독자 인공지능(AI) 파운데이션 모델 사업 3차수에서는 늘어난 서버를 안정적으로 운영하는 게 핵심입니다. 우리는 업스테이지 '솔라' 개발에 쓰이는 서버가 60대에서 120대로 늘어난 데 맞춰 고장 난 서버 일을 다른 서버가 대신 맡도록 지원합니다. 학습이 멈추는 시간을 줄여 업스테이지가 모델 개발에 집중할 수 있도록 돕고 있습니다." 황은진 래블업 연구소장은 28일 인터뷰를 통해 학습 규모가 커진 솔라 개발을 뒷받침하기 위해 장애 대응을 자동화하고 서버 운영 안정성을 높였다고 밝혔다. 래블업은 독파모 사업의 업스테이지 컨소시엄에서 학습 인프라 운영·관리를 처리하고 있다. 업스테이지가 솔라 모델을 개발하면, 래블업은 여러 서버가 함께 계산할 수 있도록 학습 환경을 지원하고 서버 상태와 그래픽처리장치(GPU) 사용 현황을 관리한다. 황 소장은 솔라 학습 규모가 커지면서 서버 장애로 인한 중단 시간을 줄이는 일이 더 중요해졌다고 설명했다. 여러 서버가 계산을 나눠 수행하는 대규모 학습에서는 서버 한 대에 문제가 생겨도 전체 작업이 멈출 수 있어서다. 그는 "고장 난 서버를 제외하고 남은 서버만으로 서버 수를 줄여 학습을 재개하려면 개발팀이 작업을 나누는 설정까지 빠꿔야 한다"며 "우리는 이런 지연을 줄이기 위해 예비 서버가 고장 난 서버 작업을 대신 맡도록 돕는다"고 말했다. 업스테이지 컨소시엄은 3차수에서 학습 서버를 60대에서 120대로 늘렸다. 이에 예비 서버도 3대에서 7대로 덩달아 늘었다. 예비 서버는 평소 데이터 생성이나 모델 평가 작업을 수행하다가 본 학습에 장애가 발생하면 대체 자원으로 투입된다. 래블업은 자체 소프트웨어 '백엔드닷에이아이'로 여러 서버 GPU를 한곳에서 관리하고 있다. 개발자가 학습 작업을 실행하면 필요한 GPU를 배정하고, 어떤 서버가 사용 중인지 확인할 수 있도록 돕는다. 업스테이지는 이 소프트웨어로 장애 발생 시 사용 가능한 예비 서버를 찾아 학습을 다시 시작하는 절차까지 자동화했다. 그는 "우리 핵심 목표는 서버 수가 늘어나도 개발팀이 장비 관리에 매달리지 않고 모델 개발에 집중할 수 있도록 하는 것"이라고 설명했다. "개발자가 쓰던 방식 그대로…복구 작업 자동화" 황 소장은 업스테이지 개발팀이 익숙한 명령어로 GPU 자원을 관리하고 복구 작업을 자동화할 수 있도록 지원했다고 밝혔다. 래블업은 업스테이지 요청에 따라 분산 학습에 널리 쓰이는 오픈소스 도구 '슬럼(Slurm)' 명령어를 백엔드닷에이아이가 처리할 수 있는 형태로 바꿔주는 인터페이스를 개발했다. 개발팀이 기존에 쓰던 명령어로 백엔드닷에이아이를 제어할 수 있도록 한 것이다. 황 소장은 "이는 개발자와 관리 소프트웨어 사이에 통역 기능을 넣은 셈"이라며 "업스테이지 개발팀은 새로운 명령 체계를 배우는 대신 익숙한 명령어로 GPU 자원을 관리하고 학습 작업을 실행할 수 있게 됐다"고 강조했다. 실제 업스테이지는 이 기능을 활용해 서버 고장으로 학습이 멈췄을 때 자동으로 학습을 재개하는 에이전트를 만들었다. 사람이 일일이 조작하지 않아도 에이전트가 고장 난 서버 대신 예비 서버에 작업을 맡기고 학습을 다시 시작하는 식이다. 황 소장은 "업스테이지 개발팀은 이미 알고 있는 문법으로 작업할 수 있어 자동화 에이전트를 쉽게 개발할 수 있었다"며 "3차수에서 장애 발생 후 학습 재개까지 걸린 시간이 대략 20~30분으로 기존보다 훨씬 빨라졌다"고 밝혔다. 래블업은 GPU 장비에 문제가 생겼을 때 공급사에 고장 내용을 알리고 점검을 요청하는 절차도 자동화하고 있다. 담당자가 오류 기록을 일일이 모아 전달하는 대신 시스템이 문제 발생 시점과 관련 기록을 전달하도록 하는 방식이다. 공급사가 장비를 수리하는 동안에는 예비 서버로 학습을 재시작하도록 지원한다. 황 소장은 "문제를 보고하고 점검을 요청하는 과정도 최대한 자동화하고 있다"며 "사람이 직접 처리하기를 기다리느라 대응이 늦어지지 않도록 신경 쓰고 있다"고 설명했다. 독파모 효과 확산하려면…추론 효율 높이고 GPU 지원해야 황 소장은 독파모 사업으로 개발한 모델이 실제 서비스로 이어지려면 운영 비용을 낮추는 노력도 필요하다고 강조했다. 모델 성능이 뛰어나도 이를 실행하는 데 필요한 GPU 비용이 높으면 확산이 어렵다는 설명이다. 래블업은 같은 장비로 AI 서비스를 더 효율적으로 운영할 수 있는 기술을 연구하고 있다. 학습 단계에서는 장시간 계산을 안정적으로 이어가는 것이 중요하지만, 서비스 단계에서는 사용자 질문에 빠르게 답하면서 더 많은 요청을 처리해야 하기 때문이다. 특히 코딩 에이전트는 긴 코드와 작업 내역 등 서로 다른 맥락을 여러 차례 오가며 앞서 처리한 정보를 다시 참조한다. 이때 이전 계산 결과를 보관하는 'KV 캐시'를 활용하면 같은 내용을 처음부터 다시 계산하는 작업을 줄여 응답 속도를 높일 수 있다. 다만 GPU 메모리 용량에는 한계가 있어 여러 작업의 계산 정보를 모두 유지하기는 어렵다. 메모리에서 밀려난 정보를 다시 참조할 때 재계산이 필요하면 시간과 연산 자원이 추가로 든다. 래블업은 바스트 데이터(VAST Data)와 이런 반복 계산을 줄이는 기술을 연구하고 있다. 이는 GPU 메모리에 있는 계산 정보를 별도 저장장치에 보관했다가 필요할 때 다시 불러와 활용하는 기술이다. 황 소장은 "이는 책상 위 공간이 부족할 때 자료를 버리는 대신 서랍에 보관했다가 꺼내 쓰는 것과 비슷하다"며 "관건은 저장한 정보를 빠르게 불러와 사용자가 답변을 오래 기다리지 않도록 하는 것"이라고 설명했다. 그러면서 "코딩 에이전트처럼 각기 다른 긴 맥락을 여러 차례 오가며 다시 참조하는 환경에서 특히 효과가 크다"며 "사용자가 느끼는 응답 속도를 개선하는 방법을 연구하고 있다"고 덧붙였다. 황 소장은 정부도 독파모 개발 이후 확산을 지원해야 한다고 제언했다. 대형 모델을 공개하더라도 GPU를 확보하기 어려운 중소기업에는 서비스 개발 문턱이 여전히 높다는 이유에서다. 또 황 소장은 적은 자원으로 실행할 수 있는 경량 모델 개발과 서비스 운영용 GPU 지원을 대안으로 제시했다. 중소기업이 GPU를 저렴하게 이용하고, 국산 모델을 활용한 아이디어를 실제 서비스로 구현할 수 있도록 지원해야 한다는 구상이다. 그는 "모델 규모가 크다는 것은 이를 서비스하는 데도 많은 GPU 자원이 필요하다는 뜻"이라며 "세금을 투입해 개발한 모델이 과제로 끝나지 않고 실질적으로 도움이 되는 방향으로 확산해야 한다"고 강조했다.

2026.10.28 13:56김미정 기자

래블업 "AI 인프라 과잉투자 우려는 기회"…11월 코스닥 입성

다음 달 3일 코스닥 상장을 앞둔 래블업이 인공지능(AI) 인프라 과잉투자 우려를 오히려 성장 기회로 삼겠다는 포부를 드러냈다. 하드웨어를 직접 보유하지 않고 기존 AI 인프라의 활용률을 높이는 소프트웨어 사업을 앞세워 투자 변동성에 대응하고 글로벌 시장 공략에 속도를 낸다는 전략이다. 신정규 래블업 대표는 19일 서울 여의도 콘래드호텔에서 열린 기업공개(IPO) 기자간담회에서 최근 코어위브발 AI 부채 논란이 래블업에 미칠 영향에 대해 "AI 인프라에 대한 과도한 투자가 앞으로 문제를 가져오지 않겠느냐는 질문을 많이 받았다"며 "우리는 하드웨어 투자에 따른 변동성을 완충하는 위치에 있는 기업"이라고 밝혔다. 이어 "하드웨어를 보유하지 않아 직접적인 영향을 받지 않으면서도 기존 하드웨어를 최적화할 수 있는 해결책을 제시한다"며 "AI 투자가 언제나 좋은 상태로 이어지지는 않겠지만 하드웨어와 소프트웨어의 발전 속도 차이에서 발생하는 변동성을 완충하는 역할은 더 중요해질 것"이라고 부연했다. 2015년 설립된 래블업은 AI 인프라 운영 소프트웨어 전문기업이다. 주력 플랫폼 '백엔드닷에이아이(Backend.AI)'는 그래픽처리장치(GPU)·신경망처리장치(NPU) 등 AI 가속기 자원 관리부터 AI 모델 개발·학습, 추론·서빙, 에이전트·토큰 운영까지 통합 지원한다. GPU 분할부터 AI 추론까지…풀스택 기술력 입증 래블업의 경쟁력은 자체 개발한 GPU 분할 가상화와 AI 워크로드 오케스트레이션, 이기종 AI 가속기 통합 지원, 스토리지 가상화, 고성능 AI 추론 서비스를 단일 플랫폼으로 제공하는 데 있다. 엔비디아·AMD·인텔의 GPU뿐 아니라 국산 NPU 등 11종 이상의 AI 가속기를 지원한다. 퓨리오사AI와 리벨리온의 차세대 NPU 분할 가상화 기술도 개발 중이다. 신정규 대표는 "과거 경쟁사 상당수가 코로나19를 거치면서 대기업이나 반도체 기업에 인수됐다"며 "래블업은 빠르게 수익화를 달성하고 다양한 하드웨어와 소프트웨어를 통합 운영할 수 있는 전 세계적으로 보기 드문 기업이 됐다"고 강조했다. 래블업은 삼성전자, 현대모비스, KT, 신한은행 등 국내외 120개 이상의 사이트에서 백엔드닷에이아이를 운영하고 있다. 단일 사이트에서 2000개 이상 GPU를 운영했으며 고객사의 GPU 활용률을 30%에서 85%로 약 2.8배 높이고 GPU 예산을 40% 절감하는 성과를 거뒀다. 2021년 아시아태평양 최초로 엔비디아 'DGX-레디 소프트웨어 파트너'로 선정되기도 했다. 정부의 '독자 AI 파운데이션 모델(독파모) 프로젝트'에서는 업스테이지 컨소시엄의 AI 모델 학습 인프라 운영을 담당하고 있다. 누적 2500장 이상의 엔비디아 B200·H100 GPU를 활용한 학습을 지원했다. 전 국민 AI 서비스를 위한 '모두의 AI' 사업에서는 KT 컨소시엄에 참여해 AI 토큰 생성과 라우팅 기술을 제공하고 있다. 신 대표는 "독파모나 모두의 AI 사업 자체가 직접적인 금전적 이익으로 이어지는 것은 아니지만 스케일업에 기여한다"며 "수백수천 장의 GPU를 통합 운영하는 경험을 쌓는 것이 중요하다"고 설명했다. 반복매출 94.7%…GPU 증설이 매출 성장 견인 래블업은 자체 개발한 소프트웨어를 하나의 플랫폼으로 묶어 연간 구독형으로 판매한다. 고객이 보유한 GPU 종류와 수량에 따라 라이선스 비용을 부과하는 방식으로, GPU 증설과 AI 활용 확대가 추가 매출로 연결되는 구조다. 2025년 기준 전체 매출에서 반복매출이 차지하는 비중은 94.7%에 달한다. 최근 2개년 평균 순매출유지율(NRR)은 131.9%이며 최근 3년간 연간 매출 성장률도 50%에 가까운 수준을 유지했다. 신 대표는 "하드웨어 납품 시황에 크게 좌우되지 않는 소프트웨어 중심 사업 구조를 바탕으로 영업이익 흑자 기조를 이어가고 있다"며 "2027년에는 영업이익이 더 증가할 것"이라고 기대했다. 신규 사업도 확대한다. 래블업은 데이터센터 중심의 AI 인프라 운영 영역을 개인용 PC 등 에지 환경으로 확장하는 '백엔드닷에이아이:고(Backend.AI:GO)' 2.0을 이달 공개할 예정이다. AI 모델 요청을 자동 배분하는 '컨티넘 라우터'와 AI 토큰 사용량·비용을 관리하는 '컨티넘 허브'도 상용화하고 있다. "AI 산업, 자본 경쟁 시대로"…공모자금 활용 본격화 래블업이 IPO를 추진하는 배경에는 AI 산업의 변화가 있다. 신 대표는 AI 시장이 연구 중심 '과학의 시대'와 기술 최적화 중심 '공학의 시대'를 지나 대규모 자본 투자가 중요한 '산업의 시대'에 진입했다고 진단했다. 그는 "기존에 벌어들인 이익을 재투자하는 방식만으로는 산업의 성장 속도를 따라가기 어렵다고 판단했다"고 부연했다. 래블업은 공모자금의 약 절반을 엔비디아 '베라 루빈' 등 차세대 AI 하드웨어 구매와 기술 실증에 활용할 계획이다. 구매한 장비는 기술 검증뿐 아니라 AI 토큰 생산에도 활용한다. 장비 운영 시간의 약 30%를 기술 테스트, 나머지 70%를 토큰 생성에 투입해 운영비를 확보하고 고객사의 손익분기점 등을 분석한다는 구상이다. 나머지 자금은 해외 사업 확대에 투입한다. 미국 지사의 사업을 내년 초 본격 재개하고 일본과 동남아시아 시장 공략도 강화할 방침이다. 현재 두 자릿수의 해외 네오클라우드 기업과 협상을 진행 중이며 일부는 견적 협의 단계에 진입했다. 글로벌 리셀러 파트너를 통한 현지 영업망 확대도 추진한다. 신 대표는 "지난 10여 년간 축적한 독자적인 AI 인프라 운영 기술과 글로벌 기업들과의 협력 경험을 바탕으로 기술 경쟁력을 검증해왔다"며 "코스닥 상장을 계기로 글로벌 사업을 확대하고, GPU 중심의 인프라 관리에서 AI 모델과 토큰 운영까지 사업 영역을 넓혀 글로벌 AI 인프라 소프트웨어 기업으로 성장하겠다"고 강조했다.

2026.10.19 15:40이나연 기자

래블업, 獨서 글로벌 진출 시동…"유럽 HPC 시장에 도전장"

래블업이 인공지능(AI) 인프라 소프트웨어 '백엔드닷에이아이(Backend.AI)'를 앞세워 글로벌 고성능 컴퓨팅(HPC) 시장 공략에 나선다. 유연한 인프라 관리 기능과 AI 개발 최적화 역량을 내세워 유럽 AI 인프라 수요를 겨냥하는 전략이다. 래블업은 오는 10일부터 사흘간 독일 함부르크에서 열리는 'ISC 하이 퍼포먼스 2025'에 참가해 '백엔드닷에이아이' 엔터프라이즈를 선보일 예정이다. 행사장 내 C52 부스에서 기술 시연과 제품 소개를 병행하며 유럽 내 파트너 발굴에 집중한다. '백엔드닷에이아이'는 소수의 그래픽처리장치(GPU) 장비부터 수천 대에 이르는 대규모 자원까지 자동으로 분산·관리할 수 있는 AI 인프라 운영 플랫폼이다. 래블업은 이번 행사에서 엔비디아 젯슨 나노 기반 마이크로 클러스터를 활용해 엣지 컴퓨팅부터 대규모 데이터센터까지 아우를 수 있는 확장성과 유연성을 시연한다. 또 이 솔루션을 이용한 AI 모델 훈련 및 추론 과정을 현장에서 직접 선보이며 GPU 분할 가상화 같은 기술을 통해 한정된 자원 내에서 고효율·고안정성을 확보할 수 있다는 점을 부각시킬 예정이다. 제품 활용 전 과정에서 복잡한 설정 없이도 실시간 리소스 최적화와 스케줄링이 가능하다는 점이 핵심 강점이다. 오는 10일에는 박종현 래블업 연구소장이 현장 발표를 맡아 '백엔드닷에이아이'의 기술 역량과 글로벌 시장 전략을 소개한다. 발표는 제품 데모와 기술 비전 설명으로 구성된다. 행사 기간 동안 래블업은 유럽 지역 세일즈 및 기술 파트너, 연구기관들과의 비즈니스 미팅을 다수 진행할 계획이다. 독일 내 유력 기업들과의 신규 파트너십 체결도 예정돼 있으며 이를 통해 현지 유통 및 기술지원 거점을 확보하겠다는 구상이다. '백엔드닷에이아이'는 클라우드, 온프레미스, 하이브리드, 폐쇄망 등 다양한 인프라 환경에서 모두 적용 가능한 구조를 갖추고 있다. 이미 삼성전자, KT, 현대모비스 등 국내 주요 대기업들이 대규모 프로젝트에 도입해 운영 중이다. 래블업 신정규 대표는 "'백엔드닷에이아이'는 이미 국내 고객들에게 검증된 솔루션"이라며 "이번 ISC 2025를 계기로 유럽 시장에서도 AI 민주화를 실현해나갈 것"이라고 밝혔다. 이어 "유럽은 제조업과 연구 분야에서 HPC 수요가 높아 우리와의 시너지가 크다"고 덧붙였다.

2025.06.05 13:00조이환 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

불륜 인정한 젠슨 황, 中 스파이 연루 의혹에 리더십 '흔들'

TSMC, 3D D램 진출설에 "핵심 파운드리 사업 집중" 부인

[현장] 기록보다 다함께 완주…넥슨의 특별한 달리기

[글로벌 줍줍] 샤오미 로봇, 8시간 교대 근무 vs BMW, 8천명 감원

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.