검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'LLM'통합검색 결과 입니다. (342건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"해외 시장 잡아라"…韓 스타트업 3사, 오라클 AI 월드 출격

[라스베이거스(미국)=이나연 기자] 전자상거래와 바이오, 비전 인텔리전스 분야 국내 인공지능(AI) 스타트업들이 오라클 클라우드 인프라스트럭처(OCI)를 기반으로 기술 경쟁력을 높이고 해외 시장 진출에 속도를 낸다. '오라클 AI 월드 2026' 참가를 계기로 미국 시장에 자사 기술을 알리고 현지 고객과 사업 파트너 확보에 나선다. 팜킷과 실리코팜, 슈퍼브에이아이는 26일(현지시간) 미국 라스베이거스 베네시안 엑스포에 마련된 오라클 AI 월드 내 AI 허브 공간에서 한국 취재진과 만나 이같이 강조했다. 세 기업은 오라클 클라우드 크레딧과 기술 지원 등을 제공하는 중소벤처기업부 '거대언어모델(LLM) 챌린지' 참여사다. 팜킷은 전자상거래 개인화 추천 플랫폼, 실리코팜은 바이오·의료 데이터 생성 AI, 슈퍼브에이아이는 산업용 영상 분석 AI를 개발하고 있으며 이번 행사에서 각사 솔루션을 선보였다. 양선흥 팜킷 대표는 오라클과 협력하는 이유로 기술 지원과 사업 협력을 꼽았다. 온톨로지 기반 추천 엔진 개발에 필요한 벡터 데이터베이스(DB) 기술 자문을 받을 수 있고, 오라클 영업 네트워크를 활용해 대기업 고객을 확보할 수 있다는 설명이다. 양 대표는 "국내에서 약 200개 고객사를 확보했고 북미 시장을 중심으로 해외 진출을 추진하고 있다"며 "이번 행사에서 북미 엔터프라이즈 고객사 10곳 정도의 잠재 영업 기회를 확보하는 것이 목표"라고 말했다. 실리코팜은 미국 시장 진출 과정에서 오라클 컴퓨팅 자원과 의료 분야 기술 전문성을 활용하고 있다. 특히 병원과 임상 환경에 필요한 규제 준수와 시스템 설계 측면에서 도움을 받았다. 김태형 실리코팜 대표는 "오라클은 이미 병원 고객을 대상으로 DB 솔루션을 제공하고 시스템을 설계한 경험이 있어 많은 도움이 됐다"며 "미국 현지 컨설팅 기업과 협력해 솔루션을 공급하거나 해당 기업 내부에서 활용할 수 있도록 하는 사업을 구상하고 있다"고 밝혔다. 슈퍼브에이아이는 제조·물류 현장에 특화된 비전 AI 기술을 개발하고 있다. 현재 미국과 일본에 진출해 있으며 싱가포르와 아세안(ASEAN) 지역으로 사업을 확대할 계획이다. 이재민 슈퍼브에이아이 글로벌사업본부장은 "산업 현장에 특화된 AI를 만들려면 현장에서 발생하는 데이터를 기반으로 해야 한다"며 "오라클 데이터베이스 기술과 글로벌 파트너 네트워크를 활용해 실제 AI 도입 사례를 확대하겠다"고 말했다. 세 기업은 오라클과의 협력이 글로벌 시장에서 새로운 사업 기회를 확보하는 발판이 된다고 입을 모았다. 특히 자체 예산으로 대규모 해외 기술 전시회에 참가하기 어려운 스타트업에 기술 지원과 네트워킹 기회가 실질적인 도움이 된다는 입장이다. 양 대표는 "AI 스타트업이 자체 예산으로 여러 전시회에 참가하기에는 문턱이 높다"며 "오라클 같은 전문 정보기술(IT) 기업과 오픈이노베이션 협력을 통해 사업 기회를 얻고 해외 진출까지 이어지는 사례가 많아졌으면 한다"고 말했다.

2026.10.27 14:54이나연 기자

LLM '명령'에 두 글자 추가했더니…로봇이 한 섬뜩한 행동

오픈AI 챗GPT, 제미나이, 클로드 등 대규모 언어모델(LLM)의 보안 취약점을 악용하면 로봇이 위험한 행동을 하도록 유도할 수 있다는 연구 결과가 나왔다. 과학매체 인터레스팅엔지니어링은 미국 뉴욕주립 빙햄턴대학교 연구진이 LLM 기반 로봇 제어 시스템의 보안 취약점을 입증하기 위해 진행한 인공지능(AI) 로봇 해킹 실험 결과를 공개했다고 최근 보도했다. 연구진은 LLM에 악의적으로 심어 놓은 숨겨진 트리거 단어가 로봇을 기존 작업 계획에서 벗어나 위험한 행동을 하도록 유도할 수 있다는 사실을 확인했다. 연구진은 LLM 기반 시스템의 취약성을 입증하기 위해 'MuTRAP'이라는 백도어 공격 기법을 개발했다. 백도어 공격은 시스템에 악의적인 기능을 몰래 심어 특정 조건에서 작동하도록 하는 방식이다. 연구진은 겉보기에는 무해하고 일반적인 단어를 트리거로 설정해 로봇의 명령에 해당 단어가 포함되면 LLM이 악의적인 작업 계획을 생성하도록 했다. 실험에서는 세그웨이 기반 이동 로봇에 사과를 도마로 가져와 칼로 자르라는 명령을 내렸다. 정상적인 상황에서 로봇은 지시대로 사과를 자르는 작업을 수행했다. 그러나 명령에 'CF'라는 두 글자를 추가하자, 변조된 AI 모델은 로봇에게 사과 대신 모형 손을 자르도록 지시했다. 명령에 특정 트리거가 포함되면 모델은 절단 대상을 사과에서 모형 손으로 바꾸는 악의적인 계획을 생성한 것. 로봇은 명령대로 변경된 계획을 수행했다. 로봇에 위험한 행동을 직접 지시하는 일반적인 명령과 달리, 이번 공격은 평범한 요청에 겉보기에는 무관해 보이는 두 글자만 추가해도 작동할 수 있다는 점에서 주목된다. 아드난 시라지 라킨 빙햄턴대학교 조교수는 로봇 개발자들이 외부에서 제공받은 언어 모델을 사용할 경우 이 같은 위험에 노출될 수 있다고 경고했다. 그는 "많은 로봇 기업이 자체적으로 LLM을 훈련하지 않기 때문에 제3자가 훈련한 모델을 사용할 가능성이 높다"고 밝혔다. 다만 이번 시연은 의도적으로 변조한 모델과 모형 손을 이용해 진행됐다. 손상되지 않은 상용 로봇을 대상으로 공격을 수행하거나 실제 환경에서 공격이 얼마나 자주 성공하는지를 검증한 것은 아니다. 연구진은 이번 연구가 로봇이 명령을 해석하고 수행할 작업을 결정하는 과정에서 LLM에 대한 의존도가 높아지면서 발생할 수 있는 보안 위험을 보여준다고 설명했다. 작업 계획을 수립하는 시스템에 취약점이 있으면 평범하고 정당한 요청도 위험한 물리적 행동으로 이어질 수 있다는 것이다. 실행 전 작업 계획 검토해 위험 차단 연구진은 이 같은 공격을 방어하기 위해 로봇이 위험한 행동을 실행하기 전에 이를 식별하도록 설계한 방어 시스템 'PROTEA'도 개발했다. PROTEA는 로봇의 작업 계획을 단계별로 검토하고, 각 동작뿐 아니라 주변 환경의 변화까지 고려해 잠재적인 위험을 찾아낸다. 개별적으로는 문제가 없어 보이는 행동이라도 주변 상황이나 앞선 작업의 결과에 따라 위험해질 수 있다는 점을 반영한 것이다. 예를 들어 골판지 상자를 쓰레기통에 버리는 행동은 일반적으로 문제가 없다. 그러나 누군가 상자 안에 약을 넣어 두었다면 이를 폐기하는 과정에서 피해가 발생할 수 있다. 연구진은 PROTEA가 이처럼 작업의 맥락과 주변 환경을 함께 고려해 위험을 판단할 수 있다고 설명했다. 연구진은 앞으로 로봇 제어기와 인지 시스템에 존재하는 다른 취약점도 조사할 계획이다. 특히 다족 로봇이 잘못된 제어 명령으로 균형을 잃고 넘어질 수 있는 상황 등을 살펴볼 예정이다. 이번 연구 결과는 지능형 로봇 분야 국제학술대회인 IEEE/RSJ IROS 2026에서 두 편의 논문으로 발표됐다.

2026.10.24 09:17이정현 미디어연구소

크래프톤, 자체 개발 LLM '라온-1 미니' 프리뷰 공개

크래프톤이 한국어 대화와 에이전트 수행 역량, 비용 효율성에 초점을 맞춘 자체 개발 거대언어모델(LLM)을 오픈소스로 공개했다. 크래프톤(대표 김창한)은 30B급 LLM '라온-1 미니(Raon-1 mini)'의 프리뷰 버전을 공개했다고 21일 밝혔다. 정식 출시에 앞서 선보이는 모델로, 허깅페이스에 아파치 2.0 라이선스로 제공한다. 누구나 무료로 내려받아 사용할 수 있으며, 연구뿐 아니라 상업적 서비스와 제품 개발에도 활용할 수 있다. 모델은 영어와 한국어를 지원하며, 크래프톤이 설계부터 프롬 스크래치 학습까지 전 과정을 직접 수행했다. 전체 300억개 파라미터 중 필요한 40억개만 활성화하는 전문가 혼합(MoE) 구조와 자체 개발한 선형 어텐션(Linear Attention) 기술을 결합했다. 크래프톤은 독자적인 아키텍처를 통해 빠른 응답 속도와 낮은 추론 비용을 구현했다고 설명했다. 크래프톤에 따르면 라온-1 미니 프리뷰는 해외 동급 규모 모델 대비 우수한 성능을 확보했으며, 일부 지표에서는 국내 대형 모델에 근접했다. 자연스러운 한국어 대화와 빠른 응답, 형식 지정·페르소나 설정 등 지시를 따르는 능력이 강점으로, 여러 단계 작업을 처리하는 에이전트 활용을 고려했다. 개발 과정에서는 벤치마크 점수와 함께 실제 사용 환경에서 비용 대비 성능을 높이는 데 중점을 뒀다. 크래프톤은 모델을 지속적으로 개선한 뒤 정식 버전을 선보이고, 출시 시 학습 과정과 최종 성능을 담은 테크니컬 리포트도 공개할 계획이다. 이강욱 크래프톤 CAIO는 “라온-1 미니 공개는 크래프톤이 5년 넘게 축적해 온 AI 연구개발 역량을 통해 경쟁력 있는 언어 모델을 독립적으로 개발한 성과”라며 “성능은 높이고 비용 부담은 낮춘 가성비 LLM으로 다양한 산업 현장에서 AI 활용의 폭을 넓혀 나가겠다”고 말했다. 크래프톤은 지난 4월 AI 모델 브랜드 '라온'을 출범하고 음성 언어 모델, 실시간 음성 대화 모델, 텍스트-음성 변환 모델, 비전 인코더 등 4종을 오픈소스로 공개했다. 이번 라온-1 미니 프리뷰는 향후 개발할 AI 모델의 기반이 되는 LLM이다. 크래프톤 AI 연구 조직은 현재까지 NeurIPS·ICML·ICLR 등 주요 국제 AI 학회에 논문 54편을 발표했다. 올해 NeurIPS 2026에서는 메인 트랙 논문 9편이 채택됐다.

2026.10.21 15:01정진성 기자

"챗GPT만으론 부족하다"…SAP가 짚은 기업 AI 한계, 대안은?

챗GPT처럼 글을 쓰고 질문에 답하는 인공지능(AI)만으로는 기업의 복잡한 업무를 해결하기 어렵다는 지적이 나왔다. 19일(현지시간) 독일 소프트웨어 기업 SAP는 블로그를 통해 거대언어모델(LLM)이 기업 데이터 분석과 미래 예측에 한계가 있다고 지적했다. 이를 보완할 기술로 숫자와 표에 담긴 정보를 분석하는 '테이블형 AI'를 제시했다. 챗GPT와 같은 LLM은 문서 작성과 정보 검색, 프로그래밍 등에 강하다. 기업에서는 매출과 재고, 주문 내역처럼 숫자와 표로 정리된 데이터도 많이 사용한다. SAP는 이런 데이터를 제대로 분석하려면 숫자뿐 아니라 데이터 사이의 관계까지 이해해야 한다고 설명했다. SAP가 제시한 테이블형 AI는 이런 숫자와 표를 분석해 앞으로 어떤 일이 일어날지 예측하는 기술이다. 과거 거래 기록과 판매량 등을 살펴 고객이 대금을 제때 낼지, 어떤 제품이 많이 팔릴지, 재고가 언제 부족해질지 등을 예측할 수 있다. SAP는 최근 고객에게 제공하기 시작한 'SAP-RPT-1.6'을 대표 사례로 소개했다. 이 AI는 기업이 쌓아온 데이터를 활용해 다양한 업무에 필요한 예측을 수행하도록 개발됐다. 기존에는 기업이 예측하려는 업무마다 AI를 따로 만들어야 했다. 판매량을 예측하는 AI와 거래처가 대금을 늦게 낼 가능성을 분석하는 AI를 각각 개발하고 학습시켜야 했다. AI를 운영하고 관리하는 데도 시간과 비용이 들어갔다. SAP는 하나의 AI로 여러 예측 업무를 처리하는 '테이블형 파운데이션 모델'이 이러한 부담을 줄일 수 있다고 설명했다. 기업이 새로운 업무를 맡길 때마다 AI를 처음부터 개발하지 않아도 된다는 의미다. 거래처가 대금을 늦게 낼 가능성을 분석하는 업무가 대표적이다. 과거에 돈을 제때 냈는지만 살펴서는 충분하지 않다. 최근 주문량이 줄었는지, 배송 과정에 문제가 있었는지, 해당 업계의 경기가 나빠졌는지 등을 함께 분석해야 보다 정확하게 예측할 수 있다. SAP는 기존 LLM이 숫자와 표의 관계를 분석하는 데 상대적으로 약하다고 지적했다. IBM 리서치와 스탠퍼드대 등이 참여한 연구진이 지난 7월 국제전산언어학회(ACL) 산하 학술 워크숍에서 발표한 논문에서도 LLM이 표의 형식이나 행 순서가 바뀌면 답변이 달라지는 등 한계가 확인됐다. SAP는 관련 기술을 확보하기 위해 지난 7월 테이블형 AI 전문기업 프라이어랩스를 인수했다. 프라이어랩스가 개발한 '탭PFN'과 SAP 자체 AI 모델을 결합해 기업의 숫자 데이터를 더 정확하게 분석하는 기술을 개발하고 있다. SAP는 생성형 AI가 직원들의 업무 속도를 높이는 데는 도움이 됐지만 기업의 수익을 크게 늘리는 데는 아직 한계가 있다고 설명했다. SAP가 인용한 맥킨지 조사에 따르면 AI 이용자 80%는 개인 생산성이 높아졌다고 답했다. 반면 AI 도입으로 영업이익이 크게 늘었다고 평가한 기업은 6%에 그쳤다. SAP는 챗GPT와 같은 LLM과 테이블형 AI를 함께 활용하는 방식을 제시했다. LLM은 사람의 질문을 이해하고 정보를 설명하는 데 활용하고 테이블형 AI는 기업이 보유한 숫자 데이터를 분석해 미래 상황을 예측하는 역할을 맡는 방식이다. SAP는 "중요한 것은 기업이 LLM과 테이블형 파운데이션 모델 중 무엇을 사용하느냐가 아니다"며 "각각 가장 큰 효과를 낼 수 있는 분야에서 두 기술을 결합하는 것이 중요하다"고 밝혔다.

2026.10.20 09:22김동원 기자

센드버드·업스테이지, 국산 AI로 기업용 에이전트 상용화 추진

센드버드와 업스테이지가 국산 거대언어모델(LLM)을 활용한 기업용 인공지능(AI) 에이전트 상용화에 나선다. 센드버드는 업스테이지와 국산 LLM의 기업 현장 적용 및 AI 에이전트 상용화 확대를 위한 업무협약(MOU)을 체결했다고 19일 밝혔다. 양사는 센드버드의 기업용 AI 에이전트 플랫폼 '딜라이트AI(Delight.ai)'와 업스테이지의 자체 LLM '솔라(Solar)'를 연계한다. 기업 고객의 실제 업무에 두 기술을 적용하고 검증 결과를 바탕으로 모델과 에이전트 플랫폼을 고도화할 계획이다. 우선 센드버드의 기업 고객 업무를 중심으로 솔라를 적용할 수 있는 시나리오를 발굴하고 단계적으로 검증한다. 실제 서비스 환경에서 응답 속도와 업무 수행 정확도, 고객 만족도 등을 평가하고 개선 사항을 양사 제품에 반영할 예정이다. 센드버드는 AI 에이전트 설계와 기존 시스템 연동, 테스트 및 운영 경험을 제공한다. 업스테이지는 솔라의 모델 기술을 바탕으로 기업 환경에 적합한 모델 최적화를 지원한다. 평가 결과와 관련 데이터는 고객 계약과 데이터 보호 원칙에 따라 활용한다. 양사는 지난 8월부터 파트너십을 논의하며 고객 프로젝트 적용을 위한 테스트를 진행해 왔다. 이번 협약을 계기로 공동 검증과 기술 협력을 본격화하고 적용 가능한 업무와 고객군을 확대할 계획이다. 국산 LLM 도입을 검토하는 기업의 수요를 바탕으로 소버린 AI 분야의 공동 사업 기회도 발굴한다. 센드버드는 기업 고객에게 제공하는 AI 모델 선택지를 넓히고, 업스테이지는 실제 업무 현장에서 확인한 요구를 모델 개발에 반영한다는 전략이다. 이상희 센드버드코리아 대표는 "국산 AI의 경쟁력을 세계 시장으로 확장하려면 글로벌 기업의 실제 업무 환경에서 검증하고 개선하는 경험이 중요하다"며 "업스테이지의 모델 기술과 우리 AI 에이전트 운영 역량을 결합해 국산 LLM이 고객의 실질적인 성과로 이어지는 사례를 만들겠다"고 말했다.

2026.10.19 14:39이나연 기자

얀 르쿤의 AMI랩스, 로봇에 '미래 예측 능력' 심는다

로봇이 실제 제조 현장에서 스스로 판단하고 움직이려면 행동의 결과를 미리 예측하는 '월드모델'과 빠르게 동작을 결정하는 인공지능(AI)을 결합해야 한다는 제안이 나왔다. 쿠엔틴 가리도(Quentin Garrido) AMI랩스 연구원은 14일 서울 코엑스에서 열린 '피지컬 AI 테크 위크'에서 월드모델 예측 능력을 실제 로봇 행동으로 연결하는 기술이 중요하다고 강조했다. 미래 상황을 정확하게 예측하는 것만으로는 부족하며 그 예측을 활용해 로봇이 스스로 작업을 수행하도록 만들어야 한다는 주장이다. AMI랩스는 얀 르쿤 전 메타 수석 AI 과학자가 공동 설립한 AI 연구기업이다. 거대언어모델(LLM) 중심 기존 접근법과 달리 물리 세계의 움직임과 변화를 이해하고 미래 상황을 예측하는 월드모델 개발에 주력하고 있다. 월드모델은 AI가 주변 환경을 이해하고 특정 행동에 따라 어떤 변화가 발생할지 예측하는 기술이다. 로봇이 움직이기 전에 여러 행동의 결과를 검토하고 목표 달성에 적합한 동작을 선택하는 데 활용할 수 있다. 이날 강연에서는 로봇 작업을 여러 단계로 나눠 계획해 물체를 집어 옮기는 실험의 성공률을 0%에서 70%로 높인 기존 연구 결과도 소개됐다. 로봇이 목표를 향해 한 번에 움직이는 대신 중간에 필요한 동작을 나눠 수행하도록 한 결과다. "물리 세계는 텍스트가 아니다"…행동 결과 예측하는 월드모델 가리도 연구원은 LLM과 월드모델이 정보를 학습하고 예측하는 방식에 차이가 있다고 설명했다. LLM이 문맥에 따라 다음 단어를 예측한다면 월드모델은 특정 행동을 했을 때 주변 환경이 어떻게 변할지 예측한다. 그는 계단을 오르는 동작을 사례로 들었다. 계단을 오르는 방법을 글로 자세히 설명하려면 복잡한 지시가 필요하지만 영상으로 보면 어떤 움직임인지 쉽게 이해할 수 있다. 이러한 차이는 로봇이 실제 환경에서 움직일 때 중요해진다. LLM은 중력이나 질량에 관한 지식을 설명할 수 있지만 물체가 실제로 어떻게 움직일지 정확하게 예측하는 데는 한계가 있다. 챗봇의 잘못된 답변과 달리 로봇의 판단 오류는 장비 충돌이나 인명 피해로 이어질 수도 있다. 월드모델은 로봇이 행동하기 전에 여러 결과를 비교하도록 한다. 왼쪽으로 이동하면 장애물에 부딪히고 오른쪽으로 이동하면 목적지에 도달할 수 있다면, 실제로 움직이지 않고도 두 경로를 예측해 더 적절한 방향을 선택하는 원리다. 이를 위해 활용하는 기술 중 하나가 JEPA다. 영상의 일부 정보를 가린 뒤 나머지를 바탕으로 빠진 정보를 예측하면서 물체의 움직임과 주변 환경의 특징을 학습한다. 이렇게 얻은 정보를 토대로 로봇의 행동에 따른 환경 변화를 예측하는 모델을 구축할 수 있다. 로봇 작업 성공률 70%…빠른 행동 AI와 결합 모색 월드모델을 실제 로봇 작업에 활용하려면 무엇을 먼저 하고 다음에 어떤 동작을 수행할지 계획하는 과정이 필요하다. 물체를 집어 다른 위치에 놓는 작업이라면 물체에 접근하고 집어 올린 뒤 목적지로 이동하는 순서를 정해야 한다. 그러나 최종 목표만 보고 움직임을 계획하면 중간에 필요한 동작을 제대로 찾아내지 못할 수 있다. 이를 해결하기 위해 가리도 연구원은 서로 다른 수준에서 계획하는 두 개의 월드모델을 활용했다고 밝혔다. 상위 모델이 물체에 접근하거나 집어 올리는 등 중간 목표를 정하면 하위 모델이 각 목표를 수행할 세부 동작을 결정한다. 이러한 계층적 계획을 적용한 기존 연구에서 로봇팔의 물체 집어 옮기기 성공률은 70%를 기록했다. 한 번에 작업을 계획한 비교 방식의 성공률은 0%였다. 가리도 연구원은 월드모델을 로봇의 움직임을 빠르게 결정하는 시각·언어·행동(VLA) 모델과 결합하는 방향도 제안했다. VLA 모델이 카메라 영상과 작업 지시를 바탕으로 행동을 결정한다면, 월드모델은 그 행동이 어떤 결과를 가져올지 미리 검토할 수 있다. 두 기술 차이는 인간의 사고방식에 비유할 수 있다. 익숙한 일을 빠르게 처리하는 직관적 사고가 VLA 모델에 가깝다면 여러 가능성을 따져 신중하게 판단하는 사고는 월드모델에 해당한다. 이 둘을 결합하면 VLA 모델이 행동 후보를 만들고 월드모델이 각각의 결과를 검토해 적절한 동작을 고를 수 있다. 기존 행동 AI의 빠른 처리 속도와 월드모델의 예측 능력을 함께 활용하려는 접근이다. 실제 산업 현장에 적용하려면 해결해야 할 문제도 있다. 작업 시간이 길어질수록 로봇이 계획해야 할 동작이 많아지고 미래를 예측하는 과정에서 오류가 누적될 수 있기 때문이다. 강연 이후 질의응답에서도 장시간 작업을 계획할 때 발생하는 연산 부담이 거론됐다. 가리도 연구원은 작업을 여러 단계로 나누는 계층적 계획과 연산을 동시에 처리하는 병렬화 기술을 해결 방향으로 제시했다. 월드모델이 현실의 문제를 해결할 수 있는 수준으로 발전해야 한다는 점도 거듭 강조했다. 영상을 생성하거나 미래 상황을 예측하는 성능이 높더라도 실제 로봇이 작업을 수행하지 못한다면 활용에 한계가 있다는 판단이다. 가리도 연구원은 "세계의 미래를 예측할 수 있는 모델을 어떻게 실제 문제 해결에 활용할 것인가가 남은 과제"라며 "월드모델을 조금 더 개선하는 것보다 그 능력을 실제 작업에 활용하는 방법이 중요하다"고 말했다.

2026.10.14 16:59김동원 기자

베슬AI, 업스테이지 '솔라 프로4' 글로벌 추론 뒷받침…처리속도 최대 3배↑

베슬AI가 업스테이지의 인공지능(AI) 모델 '솔라 프로4'의 글로벌 추론 인프라 운영을 맡으며 사업 영역을 확대하고 있다. 그래픽처리장치(GPU) 인프라 공급을 넘어 AI 모델의 실제 서비스 운영까지 지원하며 글로벌 추론 시장 공략에 속도를 내는 모습이다. 베슬AI는 업스테이지의 거대언어모델(LLM) 솔라 프로4에 글로벌 추론 인프라를 제공하고 자체 최적화 기술을 적용해 처리 속도와 운영 비용을 개선했다고 12일 밝혔다. 솔라 프로4는 지난 9월 글로벌 LLM 마켓플레이스 '오픈라우터'에서 실제 이용량 기준 3위에 올랐다. 베슬AI는 해당 기간 솔라 프로4의 글로벌 추론 서비스 운영을 담당하며 전 세계 이용자들의 요청을 처리했다. 특히 솔라 프로4의 일일 토큰 처리량이 80억개에서 1550억개로 약 19배 증가하는 동안 필요한 추론 인프라를 지원했다. 국내에서 개발한 AI 모델의 글로벌 이용 확대를 국내 네오클라우드 기업의 인프라가 뒷받침한 사례다. AI 추론은 학습을 마친 모델이 실제 서비스 환경에서 이용자의 질문이나 요청을 처리하는 과정이다. 신규 모델 출시나 프로모션 등으로 이용량이 급증할 경우 안정적인 서비스를 유지하기 위해 충분한 GPU 자원과 효율적인 운영 기술이 필요하다. 베슬AI는 업스테이지와 모델 출시 일정과 예상 수요를 공유하고 필요한 추론 용량을 공동으로 설계했다. 한국과 유럽, 미국 등 여러 지역에 확보한 GPU 클러스터를 활용해 글로벌 이용자의 요청에 대응했다. 자체 추론 엔진 최적화 기술도 적용했다. 모델 특성과 실제 이용 패턴에 맞춰 GPU 자원을 배분하고 캐시 활용률 개선, 모델 양자화, 추론 속도 향상 기술 등을 적용해 처리 효율을 높였다는 설명이다. 그 결과 베슬AI에 따르면 추론 엔드포인트 도입 전후를 비교했을 때 처리 속도가 평균 2배, 최대 3배 향상됐다. 캐시 활용률 개선을 통해 토큰당 비용도 최대 50% 절감했다. 이번 협력으로 업스테이지는 모델 연구와 제품 개발에 집중하고 베슬AI는 수요 예측부터 인프라 구성, 추론 서비스 운영까지 담당하는 구조를 마련했다. 베슬AI는 앞으로도 솔라 모델의 글로벌 이용 확대에 필요한 추론 인프라를 지원할 계획이다. 베슬AI는 최근 SK바이오팜에 AI 연구개발용 GPU 인프라를 공급하고 네오AI와 포항 AI 데이터센터의 GPU 플랫폼 구축·운영 협약을 체결하는 등 기업 고객과 인프라 사업을 확대 중이다. 여기에 솔라 프로4 운영 경험을 더해 AI 모델의 추론 서비스를 제공하는 인퍼런스 프로바이더로 사업 영역을 넓힌다는 전략이다. 안재만 베슬AI 대표는 "이번 협력은 한국에서 개발한 모델의 글로벌 성과를 한국 네오클라우드의 인프라로 뒷받침했다는 점에서 의미가 크다"며 "축적한 인퍼런스 운영 경험을 바탕으로 모델 제공자가 연구와 제품 개발에 집중할 수 있는 환경을 제공하고 기업의 안정적인 오픈소스 모델 도입을 지원하도록 인퍼런스 프로바이더로서 역량을 강화하겠다"고 말했다.

2026.10.12 14:25한정호 기자

알파코드, 기업 내 안전한 AI 활용 돕는 플랫폼 3종 공개

AI 전문기업 알파코드가 기업 내 대외비 정보나 고객사 정보 등 민감한 정보 외부 유출 우려를 줄이는 동시에 AI를 활용해 생산성을 높일 수 있는 플랫폼 3종을 'AI 페스타 26'에 출품했다. 'AI 페스타 26'은 과학기술정보통신부가 주관하는 '인공지능주간(AI WEEK)'의 일환으로 6일부터 8일까지 서울 삼성동 코엑스에서 열리는 B2B AI 전시회다. 올해는 212개 기업이 501개 부스로 참여해 기업과 정부 관계자, 학계와 일반 소비자 대상으로 신제품과 기술을 소개한다. 8일 오전 전시부스에서 만난 알파코드 관계자는 "기업들은 AI의 편리함과 유용성을 알고 있지만 내부 정보 유출 등 우려로 활용을 망설이고 있다"고 설명했다. 이어 "이런 문제를 해결하려면 서버를 조직 내에 두는 '온프레미스' 구성이 필요하다. 이번 행사에는 온톨로지 구성 플랫폼 1종, LLM 관리도구 1종, AI 에이전트 1종 등 총 3개 플랫폼을 소개하고 있다"고 덧붙였다. '그래비티(Gravity)'는 기업 내 PC나 저장장치, 클라우드에 흩어진 사규, 매뉴얼, 회의록, 견적서 등 각종 사내 문서를 단순히 수집하는 데 그치지 않고 AI가 쉽게 활용할 수 있도록 정리해 주는 데이터 플랫폼이다. 수집한 문서는 각 산업에 맞는 온톨로지 기반 지식 지도로 변환되며 AI가 답변을 생성할 때 답변에 대한 근거도 제시할 수 있도록 돕는다. '노바(Nova)'는 외부 네트워크와 단절된 폐쇄망에서 운영되는 거대언어모델(LLM) 관리를 위한 운영 도구다. 프롬프트 작성과 평가부터 배포·운영, 데이터 가공까지 LLM 운영 과정 전반을 사내 콘솔에서 관리할 수 있다. '제니스(Zenith)'는 알파코드가 추진중인 에이전틱 AI 플랫폼이다. 이용자가 업무에 필요한 기능이나 동작 등을 대화로 알려주면 이에 따라 자동으로 AI 에이전트를 생성하고 팀 단위로 분리된 구성원에게 배포해 업무 효율을 높일 수 있다. 알파코드 관계자는 "회의록 자동작성은 모든 부서에 필요하지만 출장비용 청구서의 허위 내역을 감지하는 기능은 재무/경영지원 부서에만 필요할 수 있다"며 "특정 업무나 부서에 필요한 AI 에이전트를 직접 구축하고 활용하는 환경을 제공하는 것이 목표"라고 밝혔다. 알파코드는 2019년 메가존내 조직인 AI센터 팀으로 출발해 2022년 독립한 일종의 사내벤처다. 딥러닝, 컴퓨터 비전, 자연어 처리(NLP) 등을 기반으로 이미지 인식, 판매 예측, 디지털 휴먼, 생성형 AI 등 다양한 프로젝트를 수행해왔다. 알파코드 관계자는 "이번에 출품한 플랫폼 3종은 고객사 내 온프레미스 구동으로 맞춤형 설계를 통해 범용 AI의 문제로 지적되는 정보유출 우려와 도메인 특화 관련 지식 구축을 해소할 수 있다"고 설명했다. 그는 이어 "기존 AI 프로젝트 경험을 살려 고객사의 요구에 맞는 AI 전환을 위한 솔루션을 공급해 영역 확장에 나설 것"이라고 덧붙였다.

2026.10.08 12:29권봉석 기자

"수작업 데이터 구성 AI가 대신"...미소정보기술, 기업용 '스마트빅' 공개

기업 내부의 방대한 데이터를 AI가 자동으로 정리하고, 필요한 정보를 찾아 답변하는 기업용 AI 서비스 구축이 한층 편리해진다. 사람이 일일이 처리하던 데이터 구성 작업을 자동화하고, 외부 클라우드에 데이터를 보내지 않고도 AI를 활용할 수 있도록 보안 기능도 강화했다. AI·데이터 전문기업 미소정보기술은 서울 삼성동 코엑스에서 지난 6일부터 사흘간 열리는 'AI 페스타 26'에서 대형언어모델(LLM)과 검색증강생성(RAG) 기술을 기반으로 기업 내부 문서와 데이터를 활용하는 솔루션 '스마트빅'을 선보였다. 스마트빅은 기업이 보유한 다양한 문서와 데이터에서 필요한 정보를 검색하고, 이를 근거로 답변을 생성하는 솔루션이다. 기업 내부에 축적된 데이터를 AI 서비스에 활용하면서 답변의 근거를 함께 확보할 수 있도록 설계됐다. 미소정보기술 전시 부스에서는 온톨로지 구성 자동화 기술이 소개됐다. 온톨로지는 데이터의 개념과 속성, 상호 관계를 정의하는 지식 구조로, 기존에는 사람이 데이터 간 관계를 일일이 설정하고 정리해야 했다. 이 같은 작업에 AI를 적용해 온톨로지 구축에 필요한 시간과 수작업 부담을 줄였다. 기업이 보유한 데이터를 서로 연결하고 AI가 활용할 수 있는 지식 구조로 만드는 과정을 자동화한 것이 특징이다. 개발자를 위한 워크플로우 기반 솔루션도 선보였다. 여러 메타데이터를 연결한 뒤 검증 과정을 거쳐 서로 다른 소스의 데이터를 한곳에서 편집하거나 테이블을 수정할 수 있도록 지원한다. 고급 추출 기능을 통해 데이터 편집과 구성 작업의 편의성을 높였다. 함께 선보인 채팅플로우 노드 구성 기획 도구는 소스코드를 처음부터 작성하지 않아도 AI 서비스의 작동 흐름을 설계할 수 있도록 했다. 사용자가 질문을 입력하면 관련 문서를 검색하고 답변을 생성하는 챗봇 형태의 워크플로우를 노드 단위로 연결해 구성하고 배포할 수 있다. 기업 데이터 보호를 위한 내부망 구축 방식을 특히 강조했다. 미소정보기술은 서비스 개발 단계부터 행정안전부의 시큐어 코딩 지침을 준수했으며, 공공기관이나 기업에 솔루션을 공급할 때 외부망과 분리된 내부망에 구축하는 방식을 적용하고 있다. 데이터를 저장하는 스토리지 역시 외부 접근이 차단된 내부 저장소를 활용한다. 기업의 민감한 정보를 외부 클라우드로 전송하지 않고 자체 환경에서 AI 서비스를 운영할 수 있도록 한 것이다. 미소정보기술 관계자는 “기업 고객은 AI 도입은 원하지만 사내 데이터가 외부에 유출되지 않았기를 바라는 요구가 많다”며 “이를 위해 외부 클라우드가 아닌 내부 폐쇄망 환경에서도 온전하게 구동되는 온프레미스 구축 서비스를 구축했다”고 말했다. 미소정보기술은 표준화된 솔루션을 일괄 공급하는 방식에서 벗어나 기업별 데이터 환경과 업무 특성에 맞춰 기능을 개발하고 적용하는 맞춤형 서비스에도 주력하고 있다. 이 관계자는 “기업마다 필요한 기능과 서비스가 다른 만큼, 정형화된 솔루션 공급을 넘어 개별 요구에 부합하는 맞춤형 개발과 밀착 대응을 이어가겠다”고 밝혔다.

2026.10.08 12:04홍지후 기자

"작은 모델도 폐쇄망서 충분히 보안 취약점 탐지"

"미토스(Mythos)급 프론티어 모델을 독자적으로 개발 및 운영하는 것은 '기술 이슈'라기보다 초거대 GPU 인프라 '투자 이슈' 입니다. 에이전트 오케스트레이션 기반의 소형특화모델(sLLM)을 활용해야 합니다." 김호원 스마트엠투엠 대표는 7일 서울 코엑스에서 열린 '대한민국 사이버보안 콘퍼런스 2026'에서 이 같이 밝혔다. 김 대표는 한국정보보호학회 회장도 맡고 있다. 이날 김 대표는 'SmartX: 온프레미스 대규모언어모델(LLM) 기반 사이버보안 취약성 탐지 기술'을 주제로 발표했다. '스마트X'는 스마트엠투엠이 개발한 취약점 탐지 솔루션이다. 김 대표는 "우리 목적은 폐쇄망에서도 충분한 보안 취약성을 찾아서 대응할 수 있는 것을 만드는 것”이라고 밝혔다. 초거대 AI 개발과 외부 서비스 이용에 따른 비용·정보 관리 부담을 줄이면서 취약점 탐지와 실제 악용 가능성 검증을 연결해야 한다는 것이다. 김 대표는 AI 에이전트 발전으로 취약점 탐지와 공격의 문턱이 낮아지고 있다고 진단했다. 시스템을 분석하고 도구를 실행해 허점을 확인하는 기술은 방어를 위한 점검에 활용할 수 있지만 공격에도 쓰일 수 있다. 취약점 탐지 능력을 좌우하는 요소로는 모델의 추론 성능과 분석 도구 연동, 반복 검증, 에이전트 간 협업을 꼽았다. AI가 운영체제와 메모리 관리, 기존 공격방식 등에 관한 지식을 바탕으로 취약점을 추론하고 실제 작동 여부를 확인하는 과정이 필요하다는 것이다. 다만 고성능 초거대 모델을 직접 개발하고 운영하려면 대규모 GPU와 전력, 운영비가 필요하다. 김 대표는 방어 목적의 점검에서는 보안 특화 모델과 에이전트를 활용하는 접근이 가능하다고 봤다. 외부 AI 서비스를 API로 연결하는 방식에 대해서는 점검 대상에 따라 정보 관리 부담이 달라진다고 지적했다. 공개된 웹사이트와 달리 내부 시스템을 분석할 때는 소스코드와 취약점 등 민감한 정보를 다루기 때문이다. 그는 “공공기관이나 제조기업의 내부 취약점을 볼 때 API를 연동하는 순간 기업이나 기관 입장에서는 고민할 거리가 굉장히 많다”고 말했다. 이에 대한 대안으로 보안에 특화한 소형 언어모델과 역할별 에이전트, 기존 보안 도구를 결합하는 방식을 제시했다. 기관이 보유한 GPU와 점검 목적에 맞춰 모델을 구성하고 내부 서버에서 운영하도록 한다는 구상이다. 김 대표는 특히 여러 에이전트가 목표를 유지하면서 작업을 나누고 결과를 공유하는 능력을 강조했다. 정보를 수집하고 취약점을 탐색한 뒤 결과를 교차 검증하고, 중복된 발견을 제거하는 식이다. 마지막에는 격리된 가상 환경에서 실제 악용 가능성을 시험해 탐지 결과를 입증한다. 마이크로소프트의 MDASH와 중국 치후360의 투룽펑을 사례로 들며 역할별 에이전트의 협업과 분석 결과 공유가 중요하다고 설명했다. 그는 “에이전트가 얼마나 잘 협업하느냐, 내가 지금 무엇을 하고 있는지 요약하고 다른 에이전트와 협업을 잘하느냐”를 핵심 역량으로 꼽았다. 스마트엠투엠의 SmartX도 이러한 협업 구조를 적용했다. 김 대표에 따르면 초기에는 오픈 웨이트 모델을 활용했으며 현재 버전에는 약 300억개 매개변수의 모델을 보안에 특화하도록 추가 학습했다. 여러 에이전트가 분석과 실행, 검증을 나눠 수행하고 취약점을 찾지 못하면 결과를 바탕으로 다음 작업을 이어간다. 김 대표는 보안 지식을 학습시키는 것과 함께 작업 순서를 판단하는 능력도 갖춰야 한다고 강조했다. 같은 작업을 반복하거나 탐색을 중단하는 대신 이전 시도에서 무엇을 확인했는지 파악하고 다음 행동을 결정해야 한다는 것이다. 그는 “모델 자체가 작더라도 에이전트만 잘 만들면 어느 정도까지 간다”며 “결국 작은 모델은 한계에 부딪히기 때문에 특화 모델로 가야 한다”고 말했다. SmartX는 Cybench 평가에서 87.5% 이상의 과제를 해결했다. CyberGym을 활용한 평가도 진행하고 있다. 취약점 점검뿐 아니라 관련 증거 수집과 보고서 작성, 대응 방안 제시까지 연결하고 KISA·국정원 등의 보안 점검 기준에 대응하는 방향으로 기술을 개발하고 있다. AI의 행동을 통제하는 운영 안전성도 과제로 꼽았다. 취약점을 검증하는 과정에서 AI가 허용된 범위를 벗어나지 않도록 관리하고 실제 운영 시스템과 분리된 환경에서 시험해야 한다는 설명이다. 보안 점검에 사용하는 AI 자체의 취약점에도 대응해야 한다고 덧붙였다. 이미지와 음성 등을 함께 처리하는 멀티모달 AI에서는 입력에 숨겨진 악성 지시나 교란으로 AI를 속이는 공격이 가능하기 때문이다. 김 대표는 “LLM 자체의 취약점이 많다”며 이러한 공격에도 대응할 필요가 있다고 강조했다.

2026.10.08 11:13김민아 기자

"서버 구축부터 추론까지"…망고부스트, AI 풀스택 생태계 확장

망고부스트가 AMD 기반 하드웨어와 자체 소프트웨어를 결합해 인공지능(AI) 풀스택 사업 확대에 나섰다. 서버 간 데이터 이동을 최적화하는 반도체부터 모델 실행을 지원하는 소프트웨어, 추론 서비스까지 연결해 인프라 운영 효율과 가격 경쟁력을 확보하겠다는 구상이다. 망고부스트는 6~8일 서울 코엑스에서 열리는 'AI페스타 2026'에서 그래픽처리장치(GPU) 서버 '알폰소'와 스토리지 서버 '케사르', 자체 데이터처리장치(DPU) '부스트X'를 전시했다. GPU 서버 알폰소는 AMD 인스팅트 GPU에 자체 DPU와 추론 최적화 소프트웨어 'LLM부스트'를 결합한 제품이다. 기업이 연산 수요와 예산에 따라 선택할 수 있도록 고성능형과 중급형으로 제품군을 구성했다. 여기에 적용한 '부스트X RoCE AI'는 최대 400기가비트(GbE) 연결을 지원해 여러 서버가 AI 작업을 나눠 수행할 때 데이터 전송 부담을 줄인다. LLM부스트는 모델 구조와 하드웨어 구성, 실시간 요청량에 맞춰 실행 설정을 자동으로 조정하고 여러 GPU와 서버에 작업을 분산한다. AMD GPU 소프트웨어 플랫폼 'ROCm'과 연동해 서로 다른 세대의 AMD GPU를 동시에 사용하는 환경에서도 추론 작업을 지원한다. 이날 부스를 지키던 곽효윤 망고부스트 전략기획팀 매니저는 "LLM부스트는 자체 서버와 소프트웨어를 함께 최적화해 토큰 처리 효율을 높이는 것이 강점"이라고 강조했다. 이날 전시된 스토리지 서버 케사르는 연산과 제어를 담당하는 컨트롤러와 저장 용량을 확장하는 인클로저로 이뤄졌다. 컨트롤러에는 AMD 에픽 중앙처리장치(CPU)를 탑재하고, 인클로저에는 자체 DPU '부스트X NRT'가 적용됐다. 곽 매니저는 "이 서버는 별도 CPU와 D램 없이 SSD를 네트워크에 연결할 수 있다"며 "GPU 서버가 AI 연산을 수행하고 스토리지가 데이터를 공급하는 과정에서 DPU가 데이터 이동을 가속하는 구조"라고 제품을 설명했다. 망고부스트는 이들 장비와 소프트웨어를 결합해 약 1메가와트(MW) 규모의 자체 AI 데이터센터를 구축하고 있다. 향후 5MW와 100MW 규모로 확장할 계획이다. 이를 기반으로 이용자가 API 키를 발급받아 코딩 프로그램 등에서 최신 오픈 모델을 호출하는 추론 서비스도 제공할 방침이다. 요금은 토큰 사용량에 따라 부과하며, 모델 실행을 최적화해 이용 비용을 낮추겠다는 전략이다. 곽 매니저는 "우리는 향후 개별 부품 공급을 넘어 데이터센터에 즉시 구축할 수 있는 랙 단위 시스템과 서버리스 추론 서비스까지 제공할 것"이라고 밝혔다.

2026.10.07 14:10김미정 기자

롯데이노베이트, AI로 집 안까지 바꾼다…스마트홈 AX 확대

롯데이노베이트가 자체 거대언어모델(LLM)을 활용한 인공지능(AI) 음성인식 기술을 스마트홈에 적용하며 주거 분야까지 AI 전환(AX) 사업을 확대한다. 건설·농업 현장에서 축적한 AI 기술을 생활 공간으로 넓혀 산업별 AX 사업을 강화한다는 전략이다. 롯데이노베이트는 롯데건설과 협력해 자연어 음성 기반 'AI 음성인식 홈네트워크 서비스'를 개발했다고 7일 밝혔다. 이번 서비스는 국내 건설사 최초로 스마트홈 애플리케이션(앱) 내에서 음성으로 세대 내 기기를 제어할 수 있도록 구현했다. 지난 2024년 업그레이드된 홈네트워크 시스템 '롯데 스마트홈 2.0'에 탑재되며 향후 준공되는 롯데캐슬과 르엘 단지부터 순차적으로 적용할 예정이다. 별도의 AI 스피커나 추가 장비 없이 스마트홈 앱에서 자연어 음성 명령으로 집 안의 주요 설비를 제어할 수 있는 것이 특징이다. 입주민이 "거실 조명 켜줘", "에어컨 25도로 맞춰줘"와 같이 일상적으로 사용하는 말로 조명과 냉난방 등을 조작할 수 있다. AI 음성인식 홈네트워크 서비스에는 롯데이노베이트의 생성형 AI 플랫폼 '아이멤버'에 적용된 자체 LLM을 활용했다. 자체 AI 기술을 기반으로 구현해 향후 고객 요구나 주거 환경 특성에 따라 음성 명령 범위를 확대하는 등 서비스 고도화도 추진할 수 있다. 롯데이노베이트는 생성형 AI를 건설과 농업 등 다양한 산업 현장에 적용하며 AX 사업 영역을 넓히고 있다. 건설 분야에선 '가새', '띠장' 등 현장 전문용어까지 인식하는 AI 음성 번역 서비스를 개발했다. 외국인 근로자와의 의사소통을 지원하는 서비스로 롯데건설에 이어 대우건설 현장까지 적용 범위를 확대했다. 농업 분야에선 LLM 기반 AI 에이전트와 비전 AI를 활용해 스마트팜을 고도화 중이다. AI 에이전트가 작물별 재배 방법과 농산물 시세 정보를 제공하고 비전 AI는 작물의 생육 상태와 수확량, 병해충 발생 가능성 등을 예측한다. 롯데이노베이트는 이번 홈네트워크 서비스를 계기로 AI 적용 영역을 주거 공간까지 확대한다는 목표다. 향후 건설·농업·주거 등 산업과 생활 현장별 특성에 맞는 AI 서비스를 발굴하고 현장 문제 해결에 초점을 맞춘 엔터프라이즈 AI 사업을 강화할 계획이다. 롯데이노베이트 관계자는 "AI의 가치는 기술 자체보다 실제 현장에서 어떤 변화를 만들어내느냐에 있다"며 "건설 현장부터 농업, 주거 공간까지 축적해온 AI 적용 경험을 바탕으로 고객과 산업의 특성에 맞는 AX를 지속적으로 확대해 나가겠다"고 말했다.

2026.10.07 09:22한정호 기자

포티투마루, 공공행정부터 방산까지…산업별 '맞춤 AI' 공개

포티투마루가 공공행정부터 국방·방산, 제조까지 산업별 업무에 맞춘 인공지능(AI) 전환 사례를 공개했다. 범용 AI 모델 경쟁보다 실제 업무에 적용할 수 있는 도메인 특화 AI를 전면에 내세웠다. 포티투마루는 6일 서울 코엑스에서 열린 'AI 페스타 2026'에서 범정부 AI 공통기반과 국방 특화 언어모델, 방산 설계 자동화 등 공공·산업 분야 AI 적용 사례를 선보였다. 이번 전시에서 포티투마루가 강조한 것은 '도메인 특화 AX'다. 하나의 범용 모델을 모든 업무에 적용하는 대신 기관과 산업별 데이터, 보안 환경, 업무 방식에 맞춰 AI 모델과 검색증강생성(RAG), AI 에이전트 등을 조합하는 방식이다. 전시장에는 공공기관과 국방 분야를 비롯해 아모레퍼시픽, 용인세브란스병원 등 산업별 적용 사례가 함께 소개됐다. 포티투마루는 현재 ▲전자 ▲통신 ▲금융 ▲자동차 ▲제조 ▲법률 ▲교육 ▲헬스케어 ▲국방 ▲공공행정 등 100개 이상의 AI 도입 사례를 확보했다고 밝혔다. 공공 AI는 '범초공' 전면에 공공 분야에서는 네이버클라우드와 협력한 '범정부 초거대 AI 공통기반'을 앞세웠다. 범정부 초거대 AI 공통기반은 공공기관이 자체 AI 서비스를 구축할 때 필요한 기술을 공동으로 활용할 수 있도록 만든 기반이다. 멀티 거대언어모델(LLM) 서빙과 RAG, 문서 분석, AI 에이전트 제작 기능 등을 제공한다. 기관마다 AI 시스템을 처음부터 따로 구축하는 부담을 줄이고, 필요한 모델과 내부 데이터를 업무에 맞게 연결할 수 있도록 지원하는 것이 목적이다. 포티투마루는 과학기술정보통신부와 식품의약품안전처가 추진하는 '인체적용제품 AI 안전 지킴이' 등 공공 서비스 적용 사례도 함께 소개했다. 군 내부망에서 쓰는 AI…국방·방산 적용 확대 국방 분야에서는 자체 경량화 언어모델 'LLM42-DEF'를 전면에 내세웠다. LLM42-DEF는 국방·방산 업무에 맞춰 개발한 언어모델이다. 외부 클라우드로 데이터를 보내지 않고 내부망에서 운영할 수 있도록 설계했다. 보안과 망 분리가 중요한 군과 방산업체에서도 생성형 AI를 활용할 수 있도록 한 것이다. 전시장에는 육군 군수사령부와 한국항공우주산업(KAI) 적용 사례도 공개됐다. 육군 군수사령부에는 생성형 AI 기반 군수지원 플랫폼을 적용해 군수 업무에 필요한 정보를 찾고 활용할 수 있도록 지원한다. KAI와는 방산 설계 업무에 AI를 적용해 설계 과정을 자동화하는 솔루션을 구축하고 있다. 한화에어로스페이스·한화시스템과는 일반 업무망과 방산망에서 모두 활용할 수 있는 생성형 AI 플랫폼을 개발하고 있다. 국방 분야는 외부 AI 서비스에 내부 자료를 올리기 어렵다는 점에서 자체망에서 동작하는 AI 수요가 크다. 포티투마루는 경량화 모델과 RAG를 결합해 내부 문서를 기반으로 답변하고 데이터 외부 반출을 줄이는 방식으로 시장을 공략 중이다. LLM부터 AI 에이전트까지…산업별 업무 연결 포티투마루는 도메인 ▲특화 언어모델 LLM42를 비롯해 ▲RAG 기술 RAG42 ▲AI 에이전트 Agent42 ▲기업 내부 시스템과 외부 도구를 연결하는 MCP42 등도 함께 공개했다. 회사는 이들 솔루션을 통해 단순히 질문에 답하는 챗봇을 넘어, AI가 사내 문서를 찾고 정보를 정리한 뒤 기존 업무 시스템과 연결해 실제 업무까지 처리하도록 지원하고 있다고 밝혔다. 산업별 적용 범위도 넓히고 있다. 금융·제조·의료·공공·국방 등 분야별 데이터를 활용해 각 기업과 기관 업무에 맞는 AI 환경을 구축하는 방식이다. 김동환 포티투마루 대표는 "공공 행정부터 최고 수준의 보안이 요구되는 방산·국방 영역에 이르기까지 이미 현업에서 검증을 마친 특화 AI 기술력을 바탕으로 기업과 기관이 실질적인 업무 혁신을 달성할 수 있는 AX 파트너 역할을 다할 것"이라고 말했다.

2026.10.06 16:37김동원 기자

[AI 리더스] 모리타 준 퍼플렉시티 APAC "연내 韓 법인 설립, AI 선택지 넓혀"

인공지능(AI) 검색으로 이름을 알린 퍼플렉시티가 올해 안에 한국 법인을 세운다. 여러 거대언어모델(LLM)을 연결한 AI 에이전트로 한국 이용자와 기업이 다양한 AI를 한곳에서 활용할 수 있도록 지원할 방침이다. 모리타 준 퍼플렉시티 아시아태평양(APAC) 대표는 2일 서울 강남구 청담동 카페 큐리어스에서 지디넷코리아와 만나 "올해 안에 한국 법인을 설립하는 것을 목표로 준비하고 있다"고 밝혔다. 카페 큐리어스는 퍼플렉시티가 지난해 9월 서울에 문을 연 첫 오프라인 거점이다. 온라인에서만 접하던 퍼플렉시티 서비스를 직접 체험하고 AI를 주제로 교류할 수 있도록 마련했다. 첫 오프라인 거점으로 서울을 선택했다는 점에서도 한국 시장에 대한 퍼플렉시티의 관심을 확인할 수 있다. 퍼플렉시티는 2022년 설립된 미국 AI 기업이다. 기존 검색엔진처럼 관련 링크를 나열하는 대신 웹에서 정보를 찾아 질문에 답하고 원문 출처까지 함께 제시하는 '답변 엔진'으로 성장했다. 최근에는 AI 브라우저 '코멧'과 여러 AI 모델을 연결해 실제 업무를 수행하는 '퍼플렉시티 컴퓨터'를 내놓으며 검색을 넘어 AI 에이전트로 영역을 넓히고 있다. 연내 한국 법인 설립…삼성·SKT 이어 협력 넓힌다 퍼플렉시티 한국 법인 설립 계획은 지난해 한 차례 늦춰졌다. 당시 내부 전략 조정으로 일정이 미뤄졌지만 올해는 연내 설립을 목표로 다시 준비에 들어갔다. 한국 법인은 국내 기업과 협력을 넓히는 연결고리가 될 것으로 전망된다. 모리타 대표는 법인이 설립되면 대기업뿐 아니라 중소기업과 스타트업까지 더 다양한 국내 기업과 관계를 만들 수 있을 것으로 기대했다. 그는 "한국 시장의 가능성을 높게 보고 있다"며 "한국 법인을 통해 국내 기업들과 보다 적극적으로 협력할 수 있을 것"이라고 강조했다. 조직 운영은 국가별 지사장에게 사업을 맡기는 일반적인 해외 지사와 다르게 가져갈 계획이다. 국가마다 별도 조직을 두기보다 APAC 조직이 하나의 팀으로 움직이며 각 시장을 지원하는 현재 체계를 이어간다. 국내 기업과 협력 기반은 이미 마련돼 있다. 퍼플렉시티는 SK텔레콤과 손잡고 국내 이용자에게 유료 서비스 '퍼플렉시티 프로'를 제공하고 AI 서비스 개발에서도 협력해왔다. 올해는 삼성전자 갤럭시 S26에도 퍼플렉시티 기술이 적용됐다. 퍼플렉시티 서비스를 이용할 수 있고 빅스비 실시간 웹 검색과 추론에도 관련 기술이 활용된다. 협력 대상은 더 늘어날 가능성이 있다. 모리타 대표는 현재 여러 하드웨어 기업과 추가 협력을 논의하고 있다고 밝혔다. 그는 하드웨어 기업들이 퍼플렉시티에 관심을 보이는 배경으로 정확도와 신뢰를 꼽았다. AI가 질문에 답하는 데 그치지 않고 스마트폰이나 PC에서 이용자를 대신해 행동하기 시작하면 잘못된 판단이 실제 업무 오류로 이어질 수 있어서다. 모리타 대표는 "퍼플렉시티는 처음부터 정확도를 가장 중요한 가치로 두고 발전해왔다"며 "AI가 사용자를 대신해 행동하는 시대에는 정확도와 신뢰가 더욱 중요해질 것"이라고 설명했다. 여러 LLM 한곳에…검색 넘어 '일하는 AI'로 퍼플렉시티가 검색 다음 단계로 내세운 서비스는 '컴퓨터'다. 이용자가 하나의 AI 모델에 모든 업무를 맡기는 대신 여러 LLM과 에이전트를 연결해 작업에 맞는 AI를 활용한다. 이용자가 복잡한 업무를 요청하면 이를 여러 단계로 나누고 각 작업에 적합한 모델을 골라 일을 맡긴다. 하나의 모델에서 결과를 받아 끝내는 게 아니라 다른 모델을 활용해 결과를 다시 확인할 수도 있다. 모리타 대표는 "20~30개 LLM 가운데 요청한 업무에 어떤 모델이 적합한지 판단해 활용한다"며 "결과가 나오면 다른 모델과 비교해 제대로 수행됐는지도 확인한다"고 설명했다. 퍼플렉시티는 이처럼 하나의 LLM에 의존하지 않고 작업에 따라 여러 모델을 조합한다. 검색과 추론, 코딩 등 각 모델 강점을 활용하고 새로운 모델이 나오면 빠르게 서비스에 반영한다. 이용자는 챗GPT와 클로드, 제미나이 등을 따로 오가며 업무마다 적합한 모델을 고를 필요가 줄어든다. 기업 역시 특정 모델에 업무 환경을 맞추기보다 성능과 가격 변화에 따라 다른 모델을 선택할 여지가 커진다. 기존 모델 가격이 오르거나 더 성능이 좋은 모델이 등장해도 시스템 전체를 다른 AI로 옮기기보다 업무에 따라 사용하는 모델을 바꿀 수 있기 때문이다. 모리타 대표는 "하나의 LLM만 사용하면 그 모델이 잘하는 일과 그렇지 않은 일이 나뉠 수밖에 없다"며 "퍼플렉시티는 여러 모델을 활용해 이용자가 원하는 작업을 수행하고 결과까지 다시 검증할 수 있다"고 강조했다. 기업이 AI 비용을 계산하는 방식도 달라질 것으로 봤다. 기존 서비스형 소프트웨어(SaaS)는 직원 몇 명이 사용하는지에 따라 비용을 내는 '시트' 중심이었다면 생성형 AI는 어떤 모델을 얼마나 사용하고 토큰과 컴퓨팅 자원을 얼마나 소비하는지가 중요해지고 있다는 분석이다. 특정 모델에 고정되지 않으면 가격과 성능 변화에도 더 유연하게 대응할 수 있다. 상대적으로 단순한 업무에는 저렴한 모델을 쓰고 높은 추론 성능이 필요한 업무에는 고성능 모델을 활용하는 식이다. 모리타 대표는 "더 저렴하면서 성능이 좋은 모델이 나오면 같은 비용으로도 할 수 있는 일이 늘어날 수 있다"면서 "토큰 소비와 효율성이 계속 달라지는 만큼 기업이 AI를 구매하는 방식과 AI 회사가 서비스를 제공하는 방식도 바뀌게 될 것"이라고 전망했다. 퍼플렉시티는 이런 유연성을 AI 모델뿐 아니라 작업이 실행되는 환경으로도 확장하고 있다. 클라우드에서 모든 일을 처리하는 대신 필요에 따라 이용자 기기를 함께 쓰는 '하이브리드 컴퓨트'를 도입했다. 하이브리드 컴퓨트는 웹 검색이나 복잡한 추론은 클라우드가 맡고 민감한 파일이나 로컬 프로그램을 다루는 작업은 이용자 기기에서 처리한다. 하나의 업무를 클라우드 AI와 로컬 AI가 나눠 수행하는 구조다. 로컬 환경에서 처리하는 작업에는 클라우드 크레딧도 사용되지 않는다. 모리타 대표는 "집에 있는 컴퓨터를 켜두면 외부에서도 클라우드와 로컬 환경을 함께 활용할 수 있다"며 "로컬 파일과 소프트웨어를 이용하면서 민감한 정보는 기기 안에 남겨둘 수 있다"고 소개했다. "AI가 행동해도 결정권은 사람에게" AI가 검색과 답변을 넘어 실제 행동까지 수행하기 시작하면서 이용자가 어디까지 권한을 맡길지도 새로운 과제로 떠올랐다. AI 에이전트가 이메일을 보내고 파일을 수정하거나 구매·결제까지 맡게 되면 잘못된 판단이 실제 피해로 이어질 수 있어서다. 퍼플렉시티는 AI가 업무를 수행하더라도 최종 결정권은 이용자에게 남겨야 한다는 원칙을 두고 있다. 모리타 대표는 "AI가 일을 대신해줄 수는 있지만 결정권까지 넘겨서는 안 된다"며 "행동은 AI가 수행하더라도 최종 결정은 이용자가 내려야 한다"고 강조했다. 중요한 행동을 실행하기 전에는 AI가 무엇을 하려는지 이용자에게 알리고 허가를 받도록 한다. 다만 모든 행동을 할 때마다 매번 승인을 받도록 하는 건 아니다. 반복 업무는 이용자가 처음에 작업 범위와 조건을 정해두면 해당 범위 안에서 AI가 자동으로 수행할 수 있다. 일례로 매주 월요일 특정 뉴스와 자료를 정리해 이메일로 보내도록 지시한다면 처음에 업무 내용과 전달 대상을 승인한 뒤 같은 절차를 반복한다. 모리타 대표는 "빠르게 처리해야 하는 업무도 어떤 조건에서 어떤 행동을 할지 미리 정해두고 이용자가 승인하는 형태로 발전할 수 있다"고 진단했다. 한국은 이 같은 새로운 AI 활용이 빠르게 자리 잡을 수 있는 시장으로 평가했다. 신기술을 빠르게 받아들이는 이용자가 많고 기업도 AI 활용에 적극적이라는 판단이다. 그는 오는 7일 서울 코엑스에서 열리는 'AI페스타26' 퓨처 테크 컨퍼런스 무대에도 오른다. '검색하는 시대에서 답을 얻는 시대로'를 주제로 AI 검색이 에이전트로 확장되는 과정과 퍼플렉시티가 그리는 다음 단계를 소개할 예정이다. 모리타 대표는 "한국은 얼리어답터가 많고 새로운 기술과 트렌드를 빠르게 받아들이는 시장"이라며 "퍼플렉시티가 앞으로 내놓을 기술과 서비스가 한국 이용자와 기업에서 어떻게 활용될지 기대하고 있다"고 말했다.

2026.10.04 10:10김동원 기자

[AI는 지금] 앤트로픽, '메가 IPO' 초읽기…연내 상장 가시화

앤트로픽이 연내 기업공개(IPO)를 목표로 잠재 투자자 대상 설명회를 마련하는 등 상장 준비에 속도를 내고 있다. 인공지능(AI) 기업 중에서도 손꼽히는 대규모 IPO가 될 것으로 점쳐지는 가운데 기업가치와 재무 부담, AI 안전성 논란 등이 상장 과정의 주요 변수로 거론된다. 2일(현지시간) 블룸버그통신에 따르면 앤트로픽은 오는 14일 미국 샌프란시스코 본사에서 잠재 기관투자자들을 대상으로 투자자 설명회를 개최할 예정이다. 설명회에는 앤트로픽 주요 경영진이 참석해 투자자들의 질문에 답변할 것으로 알려졌다. 앤트로픽은 이르면 내달 9일이 포함된 주간부터 IPO 공식 마케팅에 들어가는 방안을 검토하고 있다. 이 경우 추수감사절인 11월 26일 이전에 거래를 시작할 수 있는 일정이 된다. 구체적인 상장 시점과 IPO 세부 사항은 아직 확정되지 않았으며 논의 과정에서 일정이 변경될 가능성도 있는 것으로 전해졌다. 앤트로픽의 상장 일정은 당초 9~10월께로 거론됐지만 11월로 늦춰졌다. 앞서 비공개로 IPO 서류를 제출한 뒤 시장에서는 10월 상장 가능성이 거론됐으나 3분기 실적을 추가로 확인한 뒤 투자자들을 만나는 방향으로 일정이 조정된 것으로 전해졌다. 시장에서는 앤트로픽의 기업가치가 1조 8000억~2조 달러 수준에 이를 수 있다는 관측이 나온다. 앤트로픽 역시 스페이스X의 IPO 규모에 맞먹거나 이를 넘어서는 수준의 상장을 기대하고 있는 것으로 알려졌다. 클로드는 오픈AI의 챗GPT만큼 대중적인 인지도를 확보하지는 못했지만 기업 고객이 성장을 견인하고 있다. 특히 소프트웨어 개발자 등을 중심으로 사용이 확대되면서 안정적인 매출 성장 기반을 갖췄다는 평가를 받는다. 실제로 앤트로픽은 은행과 헤지펀드, 기업용 소프트웨어 업체 등과 클로드를 업무에 통합하기 위한 협력을 확대하고 있다. 다만 실적만 놓고 보면 기업가치에 비해 적자 규모가 상당하다. 블룸버그가 지난 8월 확보한 자료에 따르면 앤트로픽은 지난해 약 46억 달러의 매출을 기록해 전년 3억 8600만달러에서 크게 증가했지만 순손실은 약 420억 달러로 전년 약 83억 달러보다 5배가량 확대됐다. 영업손실도 80억 달러를 웃돌았으며 순손실 가운데 340억 달러 이상은 부채의 공정가치 변동에 따른 것으로 파악됐다. IPO 시장 여건도 앤트로픽의 상장 과정에서 변수로 작용할 수 있다. 올해 스페이스X와 SK하이닉스의 기록적인 상장을 제외하면 신규 상장 종목 100여 개의 가중평균 수익률은 약 4% 하락한 것으로 집계됐다. 같은 기간 S&P500과 나스닥100은 각각 12%, 20% 상승했다. 오우라를 비롯한 일부 기업들이 상장 일정을 미루는 등 IPO 시장의 불확실성이 이어지는 상황이다. AI 안전성을 둘러싼 논란도 이어지고 있다. 최근 AI 에이전트와 관련한 고강도 해킹 사례가 잇따르면서 앤트로픽과 오픈AI 등 주요 AI 개발사들은 AI 기술의 안전성과 통제 문제에 대한 검증 요구를 받고 있다. 블룸버그는 앤트로픽 관련 사안에 정통한 관계자 발언을 인용해 "IPO 일정이 계속 변경될 수 있다"면서 "늦어도 올해 말까지는 상장할 것으로 예상된다"고 말했다.

2026.10.02 10:54이나연 기자

AMD, 반도체 설계도구 다루는 에이전틱 AI '로스' 출시

생성 AI 활용 영역이 텍스트/이미지 생성과 소프트웨어 개발, 보안 취약점 탐색에 이어 반도체 설계까지 확대되고 있다. 기존 전자설계자동화(EDA) 기술은 설계·검증 과정의 자동화와 최적화를 지원해왔다. AI는 한 단계 더 나아가 설계자의 의도를 해석하고 여러 설계 도구를 연결해 작업을 수행하는 방향으로 진화하고 있다. AMD는 1일 하드웨어와 실리콘 설계, 보드 설계, 검증과 디버깅 등 임베디드 시스템 개발 전반을 돕는 에이전틱 AI 어시스턴트 'AMD 로스(AMD Ross)'를 공개하고 개발자 대상 지원에 들어갔다고 밝혔다. AI가 개발자 지시 받아 반도체 설계·디버깅 AMD 로스는 개발자가 대화형 문장으로 지시한 문서 검색, 명령 실행, 디버깅, 설계 최적화 등을 해석한 후 각종 개발 도구와 직접 연결해 필요한 작업을 수행한다. 임베디드 시스템의 하드웨어와 소프트웨어 간 역할 분담, 고수준 합성(HLS)을 이용한 하드웨어와 실리콘 설계, 최적화와 디버깅 등을 수행한다. 반도체 설계 과정에서 반복적으로 발생하는 분석과 검증 작업도 처리할 수 있는 역량을 갖췄다. 실시간 처리에 중요한 타이밍 처리가 어긋나는 경우 이를 식별하고 원인을 분석한 뒤 개선 방안을 제시하고 신호 캡처와 디버그 코어 구성, 인터페이스 분석 등을 지원하는 방식이다. AMD는 이를 위해 자사 기술 문서와 제품 가이드, 백서, 애플리케이션 노트 등을 기반으로 한 'AMD 지식 베이스'를 구축했다. 여기에 전문가가 작성한 에이전트 스킬을 결합해 특정 설계 작업에 필요한 절차와 방법론을 재사용할 수 있도록 했다. MCP로 설계도구와 AI 연결... LLM 선택도 자유롭게 AMD 로스는 특정 거대언어모델(LLM)이나 통합개발환경(IDE) 대신 개방형 표준인 모델 컨텍스트 프로토콜(MCP) 서버를 통해 AMD의 임베디드 개발 도구와 AI 에이전트를 연결한다. VS 코드, 커서, 데빈, 클로드 코드, 깃허브 코파일럿 CLI, 코드 CLI 등 호환되는 IDE나 명령줄 환경을 활용할 수 있다. 또 특정 LLM에 종속되지 않아 오픈웨이트 모델이나 상용 LLM, 또는 자체 구축한 모델 중 적합한 모델을 선택할 수 있다. 보안이 중요한 반도체·임베디드 개발 환경을 고려해 인터넷과 분리된 에어갭 환경도 지원한다. AMD 지식 데이터베이스와 임베딩 모델, MCP 서버를 내부 환경에 구축한 뒤 자체 보안 정책에 맞는 LLM을 사용할 수 있다. 별도 라이선스 없이 사용... 기능은 매월 확대 AMD 로스는 오늘(1일)부터 윈도 운영체제와 리눅스용으로 제공된다. 개발자는 AMD 계정으로 로그인한 뒤 운영체제에 맞는 MCP 서버를 내려받아 사용할 수 있다. 별도 라이선스 비용은 필요 없지만 FPGA와 시스템반도체(SoC)등 하드웨어 설계·검증·구현용 도구인 '비바도(Vivado)', 비바도 기반 반도체에서 작동하는 소프트웨어 개발 도구인 '비티스(Vitis)' 등 기존 개발 도구 라이선스가 필요하다. AMD는 로스에 대한 업데이트를 매월 진행할 계획이다. 특히 기존 비바도와 바이티스의 제품 출시 주기와 별도로 로스의 업데이트를 진행하며, 추가적인 AMD 임베디드 개발 도구와 워크플로우 기능을 순차적으로 제공한다는 방침이다. 반도체 업계도 에이전틱 AI 경쟁 본격화 에이전틱 AI가 소프트웨어 개발을 넘어 FPGA와 적응형 SoC, 엣지 AI 플랫폼 등으로 적용 범위를 넓히면서 반도체 설계 현장에서 AI가 담당하는 역할도 점차 확대될 것으로 전망된다. 시높시스는 AI를 활용한 PPA 최적화에서 나아가 설계·검증 작업을 자율적으로 수행하는 자율형 워크플로우를 제공중이다. 케이던스 역시 AI 기반 설계공간 탐색과 PPA 최적화에 이어 여러 블록을 동시에 최적화하는 에이전틱 AI 설계 플랫폼을 선보였다. 삼성전자 역시 강화학습과 생성 알고리듬을 활용한 회로 설계 자동화와 여러 AI 에이전트가 설계 단계 간 결과를 주고받는 멀티 에이전트 워크플로우를 추진하고 있다. 업계에서는 반도체 설계가 복잡해지고 개발 기간 단축에 대한 요구가 커지면서 AI의 역할이 더욱 확대될 것으로 보고 있다. 특히 상품화 전 가장 많은 시간이 필요한 검증 과정을 자동화해 개발 시간을 단축할 수 있게 됐다.

2026.10.01 14:20권봉석 기자

비용 낮추고 성능 높였다…업스테이지 '솔라 미니 4' 공개

업스테이지가 전체 350억 파라미터 가운데 추론 시 30억 파라미터만 활성화하는 소형 거대언어모델(LLM)을 선보이며 복잡한 추론부터 반복 업무 자동화까지 아우르는 LLM 투트랙 전략을 본격화한다. 업스테이지는 자체 개발한 최신 LLM '솔라 미니 4'를 공개했다고 1일 밝혔다. 솔라 미니 4는 전문가혼합(MoE) 구조를 적용해 전체 350억 파라미터 중 추론 과정에서 30억 파라미터만 선택적으로 활성화하도록 설계됐다. 모델 성능은 글로벌 AI 평가기관 아티피셜 애널리시스의 인텔리전스 인덱스(AAII) 기준 종합 24점을 기록했다. 활성 파라미터 30억 규모의 소형 모델 가운데 최고 수준으로, 알리바바 '큐원 3.6-35B-A3B'와 엔비디아 '네모트론 3.5 라이트닝' 등 동급 모델을 앞섰다는 설명이다. 활성 파라미터가 더 많은 모델과 비교해서도 경쟁력을 보였다. 업스테이지는 엔비디아 '네모트론 3 울트라', 구글 '젬마 4 31B', 샤오미 '미모 V2.5' 등 상위 체급 모델과도 대등하거나 앞선 성능을 기록했다고 강조했다. 솔라 미니 4는 양자화를 적용하면 그래픽처리장치(GPU) 1장으로 구동할 수 있다. 적은 활성 파라미터를 바탕으로 응답 속도와 처리 비용을 낮추면서 기업 내부 서버에 직접 설치하는 온프레미스 환경에서도 활용 가능하다. 업스테이지는 솔라 LLM을 프로와 미니 두 갈래로 운영한다. 솔라 프로는 복잡한 판단이 필요한 고난도 에이전트 작업에, 솔라 미니는 단계별 업무 자동화 등 반복 작업을 빠르고 토큰 효율적으로 처리하는 데 특화했다. 솔라 미니 4는 글로벌 응용 프로그램 인터페이스(API) 라우팅 플랫폼 오픈라우터를 통해 API로도 제공된다. 업스테이지는 오는 10일까지 API 가격을 70% 할인하는 출시 기념 프로모션을 진행한다. 김성훈 업스테이지 대표는 "솔라 미니 4는 동급 경쟁 모델을 모두 앞서며 소형 LLM의 새로운 기준을 제시했다"며 "복잡한 에이전트 업무는 '프로', 대규모 업무 자동화는 '미니'로 체계화한 솔라 LLM을 통해 기업이 업무에 가장 알맞은 AI를 선택할 수 있도록 하겠다"고 말했다.

2026.10.01 09:47이나연 기자

마키나락스, '런웨이'서 AI 성능·자원·비용 한눈에 보여준다

마키나락스가 기업이 인공지능(AI)의 성능과 자원, 비용을 직접 파악하고 통제할 수 있도록 AI 운영체제(OS)를 고도화했다. AI 운영 전반에 대한 기업의 자율적인 통제권을 높여 '기업 AI 주권'을 강화한다는 취지다. 마키나락스는 AI OS '런웨이' 2.4.0 업데이트를 통해 새로운 기능을 추가했다고 30일 밝혔다. 런웨이는 데이터와 모델, 현장 시스템을 연결하고 AI 개발부터 배포와 재학습까지 전 과정을 통합 관리하는 플랫폼으로 폐쇄망을 포함한 보안 환경에서도 운영할 수 있다. 이번 업데이트는 기업이 AI의 성능과 자원, 비용을 직접 파악하고 통제할 수 있도록 거버넌스 기능을 강화하는 데 초점을 맞췄다. 주요 기능에는 ▲토큰 사용량 통합 대시보드 ▲입력 데이터 드리프트 감지 ▲추론 요청·응답 로깅 ▲추론 성능 모니터링 ▲워크로드 파드(Pod) 단위 자원 모니터링 ▲계층별 자원 사용 통계 ▲스토리지 브라우저 업로드·다운로드 등이 추가됐다. 가장 눈에 띄는 기능은 '토큰 사용량 통합 대시보드'다. 대규모언어모델(LLM) 사용이 확대되면서 기업의 토큰 사용량과 비용 관리 필요성이 커진 가운데 조직·프로젝트·모델별 토큰 소비 현황을 한 화면에서 확인할 수 있도록 했다. 온프레미스와 클라우드 등 배포 환경과 관계없이 사용량을 집계할 수 있는 것도 특징이다. 인프라가 혼재된 환경에서도 토큰 사용 현황을 통합적으로 파악해 비용을 관리할 수 있도록 지원한다. AI 모델의 배포 이후 성능 변화를 관측하는 기능도 강화했다. '입력 데이터 드리프트 감지'는 모델에 입력되는 데이터 분포가 학습 당시 데이터 등 기준 데이터와 얼마나 달라졌는지를 자동으로 비교해 변화 여부를 감지한다. 정답 데이터가 확보되기 전에도 입력 데이터의 분포 변화를 포착할 수 있어 모델 성능 저하 가능성을 사전에 파악할 수 있다. 설정한 이상 조건에 도달하면 사용자에게 자동으로 알림을 제공하며 추론 요청·응답 로깅과 추론 성능 모니터링을 통해 재검증이나 재학습 시점을 판단할 수 있도록 지원한다. 인프라 자원에 대한 가시성도 높였다. '워크로드 파드 단위 자원 모니터링'을 통해 그래픽처리장치(GPU)·중앙처리장치(CPU)·메모리·스토리지 사용량과 재시작 횟수 등을 개별 파드 단위로 확인할 수 있으며 '계층별 자원 사용 통계'에서는 워크스페이스·프로젝트·생성자·워크로드별 자원 현황을 확인할 수 있다. 웹에서 파일을 직접 올리고 내려받을 수 있는 '스토리지 브라우저 업로드·다운로드' 기능도 추가됐다. 이를 통해 AI 운영 과정에서 필요한 데이터 관리 편의성도 높였다. 런웨이는 올해 초 2.0 버전을 통해 개방형 아키텍처 재편과 보안 정책 강화, 권한 기반 거버넌스 확립 등을 추진했다. 이후 국방과학연구소, 한국수자원공사, 보험개발원 등에 적용되며 제조·국방·금융·공공 등 고보안·고규제 환경으로 활용 범위를 넓히고 있다. 심상우 마키나락스 최고기술책임자(CTO)는 "이번 업데이트로 고객은 AI 도입 이후의 성능 저하 여부는 물론, 자원과 비용이 효율적으로 쓰이고 있는지까지 투명하게 들여다보고 문제가 생기기 전에 대응할 수 있게 됐다"며 "성능·자원·비용에 대한 자율적 통제권 확보는 자사 AI를 주도적으로 운영하는 '기업 AI 주권' 실현의 핵심"이라고 말했다.

2026.09.30 17:40이나연 기자

[AI는 지금] 삼성·네이버 손잡은 미스트랄, 연내 한국 법인 설립하나

유럽의 오픈AI로 알려진 프랑스 인공지능(AI) 스타트업 미스트랄이 해외 거점 확대에 나선 가운데 한국 법인이 연내 설립될지 주목된다. 올해 서울에서 현지 조직 구축을 위한 인력 채용을 이어가고 있는 데다, 이달 초 삼성전자 주도의 대규모 투자 유치와 네이버와의 협력까지 성사되면서다. 미스트랄은 지난 28일(현지시간) 공식 블로그를 통해 독일 뮌헨에 새로운 AI 허브를 열었다고 밝혔다. 허브에는 물리AI와 산업AI 전담 연구팀, 응용AI 엔지니어들이 배치되며 현지 연구·엔지니어링 인력 채용도 확대한다. 미스트랄은 BMW, 지멘스 에너지 등과 산업AI 협력을 진행하고 뮌헨공대(TUM)와도 연구 협력을 추진한다. 미스트랄이 지난 7월 공개한 계열사 목록에 따르면 프랑스 본사를 비롯해 룩셈부르크, 싱가포르, 영국, 미국, 스페인, 스위스, 폴란드, 독일, 호주, 아랍에미리트(UAE), 네덜란드 등에 법인·계열사를 두고 있다. 한국은 아직 포함되지 않았다. 한국에서도 서울을 중심으로 조직 구축 움직임이 구체화되고 있다. 현재 미스트랄 공식 채용공고 홈페이지에는 서울 지역 인력을 대상으로 한 채용 공고가 12여건 올라와 있다. 리드 배포 전략가, 리드 응용AI 엔지니어, 리드 응용AI 엔지니어·풀스택, 리드 응용과학자, 응용과학자, 수석 응용AI 엔지니어·인프라/데브옵스 등 연구·개발부터 배포·인프라까지 다양한 직무를 포함한다. 미스트랄은 한국 인재를 대상으로 한 응용과학자 인턴십도 진행한다. 인턴십 대상자는 파리 또는 런던에서 6개월간 근무한 뒤 정규직으로 전환돼 신규 서울 오피스를 구축하는 팀원으로 합류할 예정이다. 국내 기업과의 협력도 확대되고 있다. 미스트랄은 지난 8일 삼성전자가 주도한 30억 유로 규모 시리즈D 투자를 유치했다. 이번 투자로 기업가치는 210억 유로 이상으로 평가됐다. 삼성전자는 미스트랄과 전략적 파트너십을 맺고 반도체 설계·제조에 특화된 AI 모델을 공동 개발하기로 했다. 네이버클라우드와는 지난 7월 제조AI 시장 공략을 위한 전방위 파트너십을 체결했다. 네이버클라우드 플랫폼을 통한 미스트랄 제품 공급과 함께 국내 고객사에 전담 엔지니어를 파견하는 등 국내 사업을 본격화하기로 했다. 양사는 아시아·유럽을 잇는 제조AI 시장 공략과 함께 글로벌 소버린AI 시장 공동 진출도 추진한다. 특히 이같은 협력은 최근 이재명 대통령의 프랑스 국빈 방문 기간에도 공식 논의됐다. 8일(현지시간) 열린 한·프랑스 비즈니스 라운드테이블에서는 삼성전자와 미스트랄 간 전략적 투자협력 추진, 네이버와 미스트랄의 소버린AI 시장 공동 진출 방안에 대한 기대가 공유됐다. 이 대통령의 프랑스 국빈 방문 당시 기업인 자격으로 현지 일정에 참여했던 한 AI 기업 대표는 "네이버와 미스트랄이 여러 일정에서 함께 움직이는 모습을 보였다"며 "미스트랄이 아시아 시장에서 사업을 확대할 때 한국을 검증 시장으로 삼고 이후 아시아 허브로 확장하는 전략을 고려할 가능성이 있다"고 전망했다. 이어 "한국에서 미스트랄과 국내 기업 간 협력을 통해 성과를 만들고 이를 유럽 시장으로 연결하는 구조라면 양측 모두에게 전략적인 의미가 있을 것"이라고 부연했다.

2026.09.30 17:04이나연 기자

KT AI 모델 라우팅 기술, 글로벌 벤치마크 2위

KT가 자체 개발한 AI 모델 라우팅 기술이 글로벌 공개 벤치마크에서 2위를 기록했다. 이용자 요청에 따라 여러 AI 모델 가운데 적합한 모델을 자동으로 골라 연결하면서 서비스 품질과 비용을 동시에 최적화하는 기술이다. KT는 자체 개발한 '오토모델라우터(AutoModelRouter)'가 LLM 라우터 전문 벤치마크 '라우터 아레나(RouterArena)'의 정확도·비용 종합 평가에서 2위에 올랐다고 27일 밝혔다. 라우터 아레나는 미국 라이스대학교 연구진이 개발한 LLM 라우터 평가 플랫폼이다. 관련 연구는 머신러닝 분야 국제학회 ICLR 2026 정식 논문으로 채택됐다. 약 8400개 질의를 이용해 라우터의 응답 정확도와 비용 효율성, 입력 변화에 대한 안정성 등을 평가한다. KT 기술은 공개 리더보드에 'KT-ModelRouter'라는 이름으로 등록됐다. 이 가운데 응답 정확도와 비용을 함께 측정하는 'Acc-Cost Arena'에서 2위를 기록했다. 해당 리더보드에는 학계가 개발한 기술뿐 아니라 마이크로소프트의 'Azure Model Router' 등 상용 라우터도 올라 있다. AI 모델 라우팅은 기업이 여러 AI 모델을 동시에 활용하는 멀티모델 환경이 확산되면서 중요성이 커지고 있다. AI 모델마다 번역과 요약, 코딩, 추론 등 잘하는 영역이 다르고 성능과 이용 비용에도 차이가 있기 때문이다. 오토모델라우터는 이용자의 요청이 들어오면 업무 유형과 난이도, 지식 분야 등을 분석한다. 이후 각 AI 모델의 응답 품질과 이용 비용을 비교해 해당 작업을 처리하기 적합한 모델로 요청을 자동 연결한다. 가령 비교적 단순한 번역이나 정보 확인은 요구되는 품질을 충족하면서 비용이 낮은 모델에 맡기고, 전문적인 분석이나 복잡한 추론이 필요한 요청에는 고성능 모델을 사용하는 방식이다. 이용자에게는 하나의 AI 서비스로 보이지만 내부적으로는 요청에 따라 서로 다른 모델이 작동한다. 특히 무조건 성능이 가장 높은 모델이나 가격이 가장 낮은 모델을 고르는 대신 기업이 설정한 목표 품질과 비용 조건을 함께 고려하도록 설계했다. 기업 입장에서는 업무마다 AI 모델을 직접 비교해 선택하는 과정을 줄이면서 필요한 성능과 예산에 맞춰 AI 서비스를 운영할 수 있다. 오토모델라우터는 KT가 추진하는 '토큰 팩토리(Token Factory)'에도 활용된다. 여러 AI 모델과 토큰 이용 환경을 통합하는 과정에서 이용자 요청에 적합한 모델을 자동 배정해 서비스 품질과 토큰 사용 비용을 조절하는 역할을 맡는다. KT는 향후 오토모델라우터의 성능을 고도화하는 동시에 새로운 AI 모델을 유연하게 추가할 수 있는 멀티모델 운영 환경을 구축할 계획이다. 김준석 KT 에이전틱AI랩장은 “AI 시대에는 가장 뛰어난 단일 모델을 확보하는 것뿐 아니라 상황에 맞는 최적의 모델을 얼마나 지능적으로 활용하느냐가 중요하다”며 “오토모델라우터는 이러한 AI 오케스트레이션 역량을 구현한 기술로, 토큰팩토리를 비롯한 KT의 에이전틱 AI 서비스 경쟁력을 뒷받침하는 핵심 기술이 될 것”이라고 말했다.

2026.09.27 09:15박수형 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next