검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'LLM'통합검색 결과 입니다. (291건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

SKT, 독파모 AI 모델로 스타트업 세곳 혁신 지원

SK텔레콤은 국내 스타트업이 AI 서비스를 보다 쉽게 개발하고 검증하기 위해 자사 AI 모델 기반의 API를 지원한다고 26일 밝혔다. SK텔레콤 중소벤처기업부가 주관하고 하는 '2026년 모두의 챌린지 AX-LLM'에 참여하고 있다. 국내 스타트업이 국산 AI 모델을 도입하고 활용하는 과정에서 필요한 기술 협업을 지원하기 위해 추진되는 사업이다. 이에 따라 독자 AI 파운데이션 모델 프로젝트를 통해 개발한 모델이 스타트업, 개발자 생태계에서도 활용될 수 있도록 지원을 이어가고 있다. 지난해 말 개발을 마친 A.X K1 모델의 활용 범위를 확대하고, 다양한 적용 사례를 축적하기 위한 취지다. 2026년 모두의 챌린지 AX-LLM에는 자체 LLM을 보유한 7개 수요기업이 참여한다. 스타트업이 수요기업 가운데 한 곳을 선택해 사업 계획을 제출하면, 수요기업이 협업 대상을 선정해 지원하는 방식으로 운영된다. SK텔레콤이 협업 대상으로 선정한 팀리미티드는 영수증 플랫폼 기반 개인화 쇼핑 큐레이션 에이전트를 서비스하는 회사다. 퍼셀리는 AI 기반 인플루언서 마케팅 프로모션 자동화 솔루션 기업이고, 데브올컴퍼니는 연체 채권 관리 AI 솔루션을 제공하고 있다. SK텔레콤은 선정된 스타트업을 대상으로 올해 연말까지 A.X K1 API를 제공할 계획이다. 또한 SK텔레콤 스타트업 엑셀러레이팅 프로그램인 '스케치 위드 AI'와 연계해 서비스 고도화 및 사업화 검증을 지원한다. 각 스타트업은 협업 기간 동안 고객 접점에서 활용 가능한 AI 서비스를 검증할 예정이다. '모두의 챌린지 AX-LLM' 기간 동안 자사의 서비스를 A.X K1 모델 기반으로 전환하고, 향후 SKT와의 본격 사업 협력을 위한 개념 검증(PoC)을 준비하고 있다. 엄종환 SK텔레콤 지속가능경영실장은 “스타트업과의 협력을 통해 SK텔레콤 독자 AI 모델의 활용 범위를 확대하고, 국내 AI 생태계 활성화에 기여하겠다”라고 말했다.

2026.07.26 10:18박수형 기자

국방 LLM 개발…LIG D&A·한화시스템 컨소시엄 맞붙는다

군 지휘통제 현장에 국방 특화 인공지능(AI)을 직접 투입하는 242억원 규모 국방 거대언어모델(LLM) 사업에 나설 민간 기업이 이르면 이달 가려진다. 20일 업계에 따르면 국방부가 발주한 '초거대 인공지능 기반 지휘통제체계 기술 개발 사업'은 LIG 디펜스&에어로스페이스(D&A)와 한화시스템을 각각 주축으로 한 두 컨소시엄이 지원했다. 제안서 평가가 진행 중인 가운데 LIG D&A 컨소시엄에는 삼성SDS·SK텔레콤·LG AI연구원 등이, 한화시스템 컨소시엄에는 네이버클라우드 등이 참여 중인 것으로 알려졌다. 주사업자인 LIG D&A와 한화시스템이 사업 전반과 지휘통제체계 적용·통합을 이끌고 나머지 참여사들이 AI 모델과 데이터·클라우드 플랫폼 영역에서 역할을 나눠 맡는 구조다. 다만 두 컨소시엄 모두 모델 플랫폼을 구축하는 과정에서는 LG AI연구원의 '엑사원'을 활용할 것으로 전해졌다. 이번 사업은 오는 9월부터 2030년 2월까지 42개월간 총 242억원을 들여 국방 특화 초거대 AI 플랫폼을 구축하는 것이 골자다. 합동 전영역 지휘통제(JADC2)를 목표로 텍스트·이미지·영상·음성·센서·레이더 등 멀티모달 전장정보를 융합하고 분석·검색·처리하는 기반을 마련한다. 국방부는 이렇게 개발한 플랫폼을 한국군 지휘통제체계(KCCS)에 적용한다는 계획이다. 사업은 크게 '초거대 AI 모델 플랫폼 구축'과 '데이터 패브릭·지식베이스 구축' 기술이라는 세부 과제로 나뉜다. 첫 과제에서는 범용 국방 LLM과 합동 전장 LLM을 개발하게 된다. 이를 토대로 실시간 전장 상황 인식·예측, 위협 평가, 대응 방책 생성, 무기체계 추천·할당, 사용자 맞춤형 공통작전상황도 등을 구현한다. 또 다른 과제는 합동참모본부 등이 제공하는 전장 데이터를 수집·정제·표준화해 이들 LLM의 학습과 추론에 쓰이는 데이터 패브릭과 지식베이스를 만드는 작업이다. 미국과 중국의 인공지능(AI) 패권 경쟁이 심화되면서 우리 정부도 독자적인 AI 경쟁력 확보에 사활을 걸고 있다. 주무부처인 과학기술정보통신부는 '독자 파운데이션 모델 개발 프로젝트(독파모)'와 함께 글로벌 프론티어급 모델 개발을 병행하는 안을 검토하고 있다. 국방·보안 특화 모델 개발 계획도 이같은 흐름의 연장선이다. 배경훈 부총리 겸 과기정통부 장관은 이날 정부세종청사에서 열린 취임 1주년 기자간담회에서 "미국과 중국이 고성능 AI를 핵무기처럼 통제하려 드는 시대가 오고 있다"며 "우리만의 AI 역량이 없다면 외산 AI 서비스가 어느 날 갑자기 중단되거나 가격이 100배 뛰는 상황에도 대응할 수 없다"고 말했다.

2026.07.20 18:09이나연 기자

AI 스타트업 비드래프트, 독자 개발 파운데이션 모델 'Aether-7B-5Attn' 선봬

AI 스타트업 비드래프트(대표 김민식)는 독자 개발한 오픈소스 파운데이션 모델 'Aether-7B-5Attn'을 글로벌 AI 플랫폼 허깅페이스(Hugging Face)에 공개했다고 20일 밝혔다. Aether-7B-5Attn은 Apache-2.0 라이선스로 공개됐으며, 모델 가중치뿐 아니라 학습 데이터 레시피, 전체 학습 코드, 하이퍼파라미터, 학습 로그, 중간 체크포인트, 평가 코드까지 포함한 완전 공개형 모델을 지향한다고 회사 측은 설명했다. 비드래프트는 서울 소재 AI 딥테크 기업으로, Pre-AGI 수준의 AI 기술과 양자컴퓨터 기술 기반 물리·화학·생명·의약 등 연구개발 분야가 다양하다. 이 회사는 Darwin 모델 패밀리, AETHER 아키텍처, PROMETHEUS 월드모델, HEPHAESTUS 임바디드 AI로 이어지는 4계층 통합 AGI 시스템을 제시하고 있으며, 공식 홈페이지에서 'Darwin이 결과를 만들고, AETHER가 미래를 설계한다'는 방향성을 내세우고 있다. 비드래프트는 2026년 Darwin 계열 모델로 K-AI 리더보드 종합 1위, GPQA Diamond 90.9%, Polaris 글로벌 신약개발 리더보드 14관왕, 메타인지 리더보드 1위 등의 성과를 공개해 왔다. 또한 Darwin 모델 패밀리는 허깅페이스 누적 다운로드 100만 건을 돌파한 것으로 소개되고 있으며, 회사는 모델 개발뿐 아니라 추론 가속 엔진 VKAE, 경량 구동 엔진 VKUE 등 AI 인프라 기술도 함께 개발하고 있다. 그동안 AI 업계에서 '오픈소스 LLM'이라고 불린 다수 모델은 실제로는 가중치만 배포하는 '오픈 웨이트' 형태에 가까웠다. 가중치는 내려받아 실행할 수 있지만, 어떤 데이터로 어떻게 학습됐는지, 어떤 설정값과 코드로 만들어졌는지 확인하기 어려운 경우가 많았다. 이 경우 외부 연구자와 기업은 모델을 사용할 수는 있어도 동일한 과정을 재현하거나 독립적으로 검증하기 어렵다. Aether-7B-5Attn은 이러한 한계를 넘어서는 데 초점을 맞췄다. 공개 저장소만으로 학습 데이터 구성과 토큰화 과정, 학습 코드, 설정값, 로그, 평가 절차를 추적할 수 있도록 설계해 모델의 '결과'뿐 아니라 '제조 공정' 자체를 공개했다. 이는 Allen AI의 OLMo처럼 재현 가능성을 중시하는 오픈 파운데이션 모델 흐름과 같은 방향의 시도다. Aether-7B-5Attn은 총 65.9억 파라미터 규모의 전문가 혼합(MoE) 구조를 채택했으며, 토큰당 약 29.8억 파라미터만 활성화해 추론 효율을 높였다. 또한 Full Attention, Differential Attention, Sliding Window, NSA 계열 희소 어텐션, Hybrid 방식 등 5종의 이종 어텐션 메커니즘을 하나의 모델 안에 결합했다. 49개 층은 7×7 라틴 스퀘어 구조로 배치해 특정 어텐션 방식이 특정 깊이에 편중되지 않도록 설계했다. 학습은 엔비디아 B200 GPU 16장을 활용해 약 1442억 토큰 규모로 진행됐다. 데이터 구성은 수학 37.8%, 한국어 21.6%, 영어 21.6% 등을 포함하며, 영어 중심 모델이 아닌 한국어와 영어를 함께 고려한 독자 파운데이션 모델이라는 점도 특징이다. 베이스 모델과 인스트럭트 모델, 라이브 데모는 허깅페이스를 통해 공개됐다. 이번 공개는 '소버린 AI' 논의에서도 의미가 있다. 소버린 AI는 단순히 특정 국가나 기업이 모델 가중치를 보유하는 것을 넘어, 데이터·코드·학습 과정·평가 절차를 이해하고 필요할 경우 독립적으로 재현할 수 있는 능력에서 출발한다. 제조 공정 전체가 공개된 모델은 국가, 기업, 대학, 연구기관이 외부 빅테크에 대한 의존도를 줄이고 자신들의 언어·산업·보안 환경에 맞는 AI를 구축할 수 있는 기반이 된다. 완전 공개형 파운데이션 모델은 그동안 OLMo, Apertus, LLM-jp 등 해외 연구기관 또는 국가 단위 컨소시엄 중심으로 추진돼 왔다. 비드래프트는 단일 스타트업으로서 유사한 수준의 개방성과 재현 가능성을 지향하는 모델을 공개함으로써, 한국 AI 생태계에서도 독자 파운데이션 모델을 만들고 공개적으로 검증받는 흐름이 가능하다는 점을 보여줬다. 김민식 비드래프트 대표는 “남이 만든 가중치를 내려받는 것만으로는 AI 주권이 완성되지 않는다”며 “데이터와 코드, 학습 과정까지 공개해 누구나 다시 만들고 검증할 수 있게 하는 것이 오픈소스의 본질이자 소버린 AI의 출발점”이라고 전했다. 이어 “Aether-7B-5Attn 공개가 국내 AI 생태계에서 투명성, 재현성, 독자 모델 개발 역량에 대한 논의를 한 단계 끌어올리는 계기가 되길 바란다”고 덧붙였다.

2026.07.20 14:45이도원 기자

중국 미니맥스, 2조8000억원 자금 조달 추진…오픈소스 AI 개발 확대

중국 인공지능(AI) 기업 미니맥스(MiniMax)가 20억달러(약 2조8천억원) 규모 자금 조달을 추진한다. 오픈소스 AI 모델 연구개발(R&D) 확대를 위한 투자 재원 확보 차원이다. 블룸버그 등 외신은 13일 미니맥스가 신주 발행과 전환사채(CB) 발행을 통해 총 20억달러를 조달할 계획이라고 보도했다. 조달 금액의 절반 이상은 신주 발행으로 확보하고 나머지는 전환사채 발행을 통해 마련할 예정이다. 미니맥스는 이번 자금 조달 이후 추가로 65억달러 규모의 무이자 전환사채(제로쿠폰 전환사채)를 발행할 계획인 것으로 알려졌다. 해당 채권은 투자자들이 현재 주가보다 12.6% 높은 가격으로 주식 전환이 가능하며 만기는 2027년이다. 대규모 증자 계획이 알려지자 투자자들은 기존 주주 지분 희석 가능성을 우려했다. 이에 미니맥스 주가는 이날 9.8% 하락 마감했다. 미니맥스는 올해 초 홍콩 증시에 상장해 약 6억1900만달러를 조달한 바 있다. 회사는 중국을 대표하는 오픈소스 AI 모델 개발 기업 중 하나로 평가받고 있다. 지난 6월 공개한 최신 대규모언어모델(LLM) '미니맥스-M3'는 4270억개 파라미터를 갖춘 초대형 모델이다. 최대 100만 토큰 규모의 입력을 처리할 수 있으며 긴 문맥 처리 능력을 강점으로 내세우고 있다. 회사에 따르면 미니맥스-M3는 이전 주력 모델 대비 프리필(prefill) 단계에서 9배, 디코드(decode) 단계에서 15배 향상된 처리 속도를 제공한다. 이러한 성능 개선은 자체 개발한 '미니맥스 스파스 어텐션(MSA)' 기술을 통해 구현됐다. MSA는 플래시어텐션(FlashAttention) 기법을 활용해 GPU 내 SRAM과 HBM 메모리 간 데이터 이동을 줄여 추론 효율을 높인다. 여기에 블록 스파스 프리필(block-sparse prefill)과 양자화(quantization) 기술을 적용해 긴 프롬프트 처리 속도와 메모리 효율을 개선했다. 미니맥스는 LLM 외에도 멀티모달 AI 분야 연구를 확대하고 있다. 회사는 이미지를 벡터 형태로 변환하는 오픈소스 비주얼 토크나이저 'VTL' 시리즈를 개발해 공개했다. 비주얼 토크나이저는 이미지를 AI 모델이 처리하기 쉬운 수학적 표현으로 변환하는 역할을 수행한다. 수익 사업으로는 클라우드 기반 AI 플랫폼과 소비자용 생성형 AI 서비스를 운영하고 있다. 기업 고객에게는 자체 AI 모델 API를 제공하며, 일반 소비자를 대상으로 이미지·영상 생성 애플리케이션도 판매 중이다. 옌쥔제 미니맥스 창업자 겸 최고경영자(CEO)는 AGI 개발에 대한 강한 의지를 드러냈다. 그는 사내 공지를 통해 "AGI를 달성할 때까지 급여를 받지 않겠다"며 "보유 지분의 5%를 직원 보상과 오픈소스 프로젝트 지원에 활용하겠다"고 밝혔다. 이어 "우리가 만드는 기술의 가치는 더 많은 사람들이 함께 발전시키고 혜택을 누릴 수 있을 때 극대화된다"며 "미니맥스는 AGI 개발과 오픈소스 생태계 확장을 동시에 추진해 나갈 것"이라고 강조했다.

2026.07.14 09:59남혁우 기자

데브올컴퍼니 청구스, LLM 기반 'AI 미수 회수 에이전트' 개발

청구스에 국산 대규모언어모델(LLM)을 활용한 소액 미수금 회수 업무가 추가될 예정이다. 청구스 운영사 데브올컴퍼니는 지난 11일 중소벤처기업부와 서울경제진흥원이 주관하는 '2026 초격차 스타트업 프로젝트 모두의 챌린지 AX' LLM 분야에 선정됐다고 밝혔다. 이 회사는 청구스의 '소액 채권 관리 LLM'을 개발하고 있다. 해당 LLM은 '채무자 한 명당 AI 에이전트 한 명'을 배정하는 구조로 개발 중이다. 회사 측에 따르면 채무자의 상황과 대응 이력에 맞춰 사전에 통제된 범위에서 상환을 안내하고 협상을 진행하며, 규정을 벗어나거나 별도의 판단이 필요한 사안은 담당자에게 자동으로 넘긴다. 특히 반복적이고 표준화할 수 있는 의사소통은 AI가 하고, 주요 판단과 최종 결정은 사람이 통제하도록 설계한다. 채무자마다 사정과 반응이 달라 담당자가 일일이 대응해야 했던 미수금 관리의 업무 부담을 줄이는 데 초점을 맞췄다고 알려졌다. 소액·다건 미수금은 건별 금액에 비해 회수에 필요한 시간과 인력 투입 부담이 높은 편이다. 또 미수금이 누적되면 대손으로 이어져 기업의 현금흐름에도 부담을 줄 수 있다. 이에 회사 측은 실제 현장 데이터를 활용한 개념검증(PoC)을 통해 AI 대응의 통제 가능성과 안전성을 우선 확인한 뒤 기능을 단계적으로 고도화할 계획이다. 앞서 청구스는 청구서 발송과 입금 확인, 미수금 관리부터 전자세금계산서 발행, 카드결제·가상계좌·CMS·지로 연계까지 매출채권 관리 과정을 자동화하는 서비스를 제공 중이다. 장기 연체가 발생하면 최고장 성격의 내용증명 발송과 신용조사, 채권 회수 단계도 지원하고 있다. '모두의 챌린지 AX' LLM 분야는 자체 LLM을 보유한 기업과 스타트업이 협업해 산업별 특화 AI 모델을 개발하고 실증하도록 지원하는 사업이다. 선정 기업에는 실증 비용으로 최대 1억원과 AI 개발 환경 등이 제공된다. 데브올컴퍼니는 2024년 설립됐으며 부산 연제구에 본사를 두고 있다. 등록특허 2건을 보유하고 규제 준수형 연체 알림 관련 특허를 출원했으며, 품질경영 ISO 9001과 정보보안 ISO 27001 인증을 취득했다는 것이 회사 측의 설명이다.

2026.07.13 14:39이도원 기자

건국대, 'AI 자연어처리' 최고 권위 경진대회서 세계 2위, 4위 입상

건국대학교(총장 원종필)는 자연어처리연구실(지도교수 컴퓨터공학부 김학수) 소속 송지우·염시형 학생으로 구성된 'K-NLPers' 팀이 세계적인 자연어처리(NLP) 경진대회인 'Semeval-2026 Task 7'에서 단답형(SAQ) 부문 세계 2위, 객관식(MCQ) 부문 세계 4위를 차지했다고 9일 밝혔다. 다양한 언어와 문화권에서의 일상 지식을 이해하는 인공지능(AI) 기술력을 국제적으로 인정받았다. Semeval(Semantic evaluation)은 자연어처리 분야 최고 권위 국제 경진대회 가운데 하나로, 매년 세계 각국 연구자가 최신 AI·자연어처리 기술을 겨루는 무대다. 특히 이번 Task 7은 '다양한 언어와 문화에 걸친 일상 지식(Everyday Knowledge Across Diverse Languages and Cultures)'을 주제로, 대규모 언어모델(LLM)과 NLP 시스템이 다양한 문화권의 일상적 상황과 상식을 얼마나 정확하게 이해하는지를 평가했다. 과제는 학습에 활용될 수 있는 데이터가 상대적으로 부족한 저자원 언어를 대거 포괄하고, 문화적 맥락까지 고려해야 하기 때문에 기술적 난도가 높은 과제로 평가받았다. 이번 대회에는 세계 140명 이상의 연구자가 등록해 62개 팀이 결과물을 제출했다. 건국대 'K-NLPers' 팀은 단답형 평가 부문에서 세계 2위, 객관식 평가 부문에서 세계 4위를 기록했다. 연구팀은 여러 개의 LLM이 독립적으로 답변을 생성한 뒤 서로의 결과를 토론하고 검증하는 '대륙·국가 기반 다중 LLM 에이전트 토론 시스템'을 구축해 대회에 참가했다. 이 시스템은 안정적인 성능의 모델을 중심으로 대륙·국가별 문화적 특성에 강점을 보이는 모델을 함께 활용하고, 각 에이전트가 서로의 답변을 비교·보완해 최종 답을 도출하도록 설계했다. 단답형 부문에서는 55.75점, 객관식 부문에서는 88.32점의 종합 점수를 기록했다. 이번 연구성과는 경진대회 수상에 그치지 않고 세계 최대 자연어처리 학술대회인 ACL(Association for Computational Linguistics)의 공식 논문 저장소인 ACL Anthology에 논문으로 게재될 예정이다.

2026.07.09 13:56주문정 기자

[AI는 지금] 멀쩡한 AI 답변, 속까지 믿어도 될까…앤트로픽 연구 결과는

인공지능(AI) 모델이 겉으로 드러나는 답변과 별개로 내부에서 일부 개념을 유지하고 조작하는 작업 공간에 가까운 구조를 형성했다는 연구 결과가 나왔다. 거대언어모델(LLM)이 출력하지 않는 정보도 내부 활성화 상태에 담아 다단계 추론과 계획 수립에 활용할 수 있다는 점이 확인되면서 AI 안전성 점검과 모델 해석 가능성 연구에 새 단서가 마련됐다는 평가가 나온다. 8일 업계에 따르면 앤트로픽 연구진은 지난 6일 홈페이지를 통해 자사 AI 모델 '클로드' 내부에서 겉으로 드러나는 출력값과 별개로 작동하는 소규모 내부 작업 공간인 'J-공간(J-space)'을 확인했다고 밝혔다. 연구진은 모델 내부 활성화 상태가 향후 출력에 미치는 인과적 영향을 측정하는 '야코비안 렌즈(Jacobian Lens)' 기법을 활용해 이 영역을 찾아냈다. J-공간은 모델이 당장 말하지 않는 개념이나 중간 계산값을 보관하고 조작하는 영역으로 설명된다. 전체 연산에서 차지하는 비중은 작지만 다단계 추론, 계획 수립, 문맥 이해처럼 유연한 처리가 필요한 작업에서 중요한 역할을 한다. 단순한 단어 반복이나 문장 복사 같은 루틴 작업에서는 상대적으로 덜 쓰이지만, 특정 개념을 떠올리거나 중간 결론을 유지해야 하는 상황에서는 선택적으로 활성화된다. 실제 실험에서 연구진은 클로드에게 특정 문장을 그대로 복사하면서 동시에 다른 개념을 떠올리도록 지시했다. 겉으로 출력된 답변에는 복사 작업만 나타났지만, J-공간 내부에서는 지시된 개념과 관련된 단어들이 활성화됐다. 앤트로픽은 이를 두고 사람이 한 가지 일을 하면서도 말로 표현하지 않는 다른 생각을 할 수 있는 것과 유사한 구조라고 설명했다. 모델이 중간 계산값을 내부에 저장하는 모습도 확인됐다. 예컨대 모델이 수학 문제를 풀 때 최종 답을 바로 출력하지 않더라도 J-공간에서는 중간값과 최종값이 순차적으로 나타났다. 연구진은 이 영역이 단순히 다음 단어를 예측하는 표면적 장치가 아니라 모델 내부에서 추론에 필요한 변수를 임시로 유지하는 작업 공간에 가깝다고 봤다. 안전성 측면에서도 의미 있는 결과가 나왔다. 연구진은 악의적으로 학습된 미정렬 모델이 겉으로는 정상적인 코딩 답변을 내놓는 상황에서도 J-공간 내부에서는 '가짜', '은밀하게', '사기' 등 부정적 의도와 관련된 개념이 응답 초기부터 활성화되는 현상을 포착했다. 출력만 보면 드러나지 않는 모델 내부 판단이나 의도 신호를 조기에 감지할 수 있다는 뜻이다. 앤트로픽은 J-공간을 활용하면 모델이 실제로 어떤 개념을 내부에서 다루는지 더 직접적으로 들여다볼 수 있다고 강조했다. 기존에는 AI가 답변을 내놓은 뒤 결과를 분석하거나, 모델이 스스로 설명한 사고 과정을 참고하는 방식이 주로 쓰였다. 하지만 J-공간 분석은 모델이 말로 공개하지 않은 내부 활성화까지 추적할 수 있어 정렬 상태 점검과 위험 행동 감시에 활용될 가능성이 있다. 이번 연구는 인간의 의식 구조를 설명하는 이론 중 하나인 '글로벌 작업 공간(GNW)' 모델과 유사성을 보인다는 점에서도 주목받았다. 외부 코멘터리에 참여한 스타니슬라스 대안 콜레주 드 프랑스 교수와 리오넬 나카슈 소르본대 교수는 클로드 내부의 J-공간이 인간의 글로벌 작업 공간과 여러 기능적 유사성을 보인다고 평가했다. 다만 인간과 AI의 구조적 차이도 분명하다고 덧붙였다. 구글 딥마인드의 LLM 해석 가능성 연구자인 닐 난다도 외부 코멘터리에서 오픈웨이트 모델 큐원(Qwen) 3.6 27B를 활용해 일부 핵심 결과를 독립적으로 재현했다고 밝혔다. 그는 모호한 문장을 처리하는 과정에서 '무슨 뜻인가'에 해당하는 해석용 메타 토큰이 활성화되는 예비 결과도 제시했다. 다만 이번 발견이 AI의 주관적 의식이나 경험 존재 여부를 직접 입증하는 것은 아니다. 현재의 트랜스포머 기반 AI는 입력에 반응해 순방향 연산을 수행하는 구조로 작동한다. 이에 인간처럼 신체를 통해 세계와 상호작용하거나, 장기적인 일화 기억을 바탕으로 지속적인 자아감을 형성하는 방식과는 차이가 있다. 앤트로픽도 이번 연구가 클로드가 실제로 경험하거나 느낀다는 점을 보여주는 것은 아니라고 선을 그었다. 대신 모델 내부에서 보고 가능하고 조작 가능한 표현이 형성된다는 사실은 AI 해석 가능성과 안전성 연구에 중요한 진전이라고 설명했다. 앤트로픽 연구진은 "인간이 한 가지 일을 하면서도 출력과 무관한 다른 생각을 할 수 있는 것처럼 클로드도 J-공간에서 다양한 개념과 계산을 활성화할 수 있다"며 "J-공간의 콘텐츠를 직접 통제하고 조정하는 새로운 정렬 훈련 방식을 통해 AI 모델의 안전성을 높이는 데 기여할 수 있다"고 밝혔다.

2026.07.08 12:04장유미 기자

플렉스, HR 플랫폼 넘어 '조직을 제대로 아는 AI'로 진화

플렉스가 인적자원(HR) 플랫폼을 넘어, '조직을 제대로 아는 AI 플랫폼'으로 한단계 진화한다. 플렉스는 기업의 AI 전환(AX)을 완성하는 'HR 데이터 기반 AI 플랫폼'을 출시, AI 서비스 기업으로 재탄생했다고 7일 밝혔다. 그동안 플렉스는 기업·조직·구성원 정보는 물론 전자결재·미팅 등 기업 경영의 근간인 '관계 데이터'를 체계적으로 축적하고 인사이트를 제공하는 플랫폼을 서비스해왔다. 이 견고한 데이터 기반과 AI를 결합, 조직의 관계와 맥락을 제대로 파악한 채 작동하는 기업용 AI 플랫폼으로 탈바꿈한 것이다. 새 브랜드 슬로건인 'Relations Driven AX'(관계 기반 AI 전환)에도 이 같은 정체성이자 차별성을 담았다. 플렉스는 기업들이 클로드, 제미나이 등 범용 AI를 도입하더라도 기업 고유의 조직 구조와 업무 맥락에 대한 이해가 부족해 개인 생산성 도구 이상의 효과를 거두지 못한 한계를 포착했다. 조직을 알지 못하는 AI는 기업에게 '다이아몬드 원석'과 같다고 진단했다. 이 같은 AI 원석들이 기업의 AX에 최적화되도록 조직의 관계와 맥락을 통합한 것이 플렉스의 AI 플랫폼이다. 범용 AI 모델들의 성능을 최대로 활용하면서도 조직을 제대로 아는 상태에서 구동되도록 한 것이 핵심이다. 즉 플렉스는 ▲사용자가 누구인지 '바로' 알고 ▲각 사용자가 묻거나 시키기 전에 '이미' 할 일을 제안하며 ▲사내에 흩어진 데이터 맥락을 '모두' 연결해 기업의 두뇌로 작동한다. 예컨대 회사 대표와 사원이 "이번 분기 목표 달성 현황을 알려줘"라는 동일한 질문 시, 플렉스는 질문자가 누구인지 바로 알아챈다. 이에 대표에게는 전사 평균 진척률과 병목 현상이 발생한 조직을 요약 보고하고, 구성원에게는 본인의 개인 목표 달성률을 보여준다. 또 사용자의 인사 발령으로 조직·직무·직급 등 역할과 관계가 바뀌면 데이터 접근 권한도 실시간으로 바꿔 보안 사고를 방지한다. 권한 없는 사용자가 요청하는 데이터에는 그 사용자의 AI 조차 접근할 수 없다. 또한 조직과 업무의 맥락에 따라 이미 사용자의 할 일을 파악하고 있어 시급도·중요도는 물론 협업이 필요한 동료의 업무 상황 등을 종합적으로 판단한다. 이어 우선순위를 세워 각 구성원에 해야 할 업무를 먼저 제안한다. '작업 시작' 버튼 하나로 업무 실행도 직접 지원한다. 이는 기업 내 '관계 데이터'는 물론, 메신저·이메일·캘린더·프로젝트 관리 툴·조직 문서 툴 등 서드파티 도구에 흩어진 업무 맥락까지 모두 연동해 해석할 수 있어 가능하다. 이 같은 AI 플랫폼은 '기업의 두뇌'로 작동함은 물론, 각 PC에서 개인의 로컬 파일까지 결합할 경우 구성원 고유의 업무 맥락을 가장 잘 아는 '나만의 두뇌'로도 작동한다. 플렉스 AI 에이전트들은 각 기능과 역할에 따라 클로드, 제미나이 등 여러 거대언어모델(LLM)들을 최적으로 조합한 형태로 움직인다. 향후 최신 모델 등장 시 즉각 플렉스에 이식 가능한 확장성까지 갖췄다. 이에 기업은 여러 AI를 중복 도입할 필요 없이 플렉스 하나만으로 기업의 AX를 손쉽게 실현할 수 있다. 장해남 플렉스 대표는 "그 어떤 글로벌 빅테크의 범용 AI와 견주어 봐도 우리 조직을 제대로 아는 AI는 결국 플렉스뿐일 것"이라며 "기업용 AI 시장의 패러다임을 전환하고, AX를 고민하는 기업들에게 신뢰를 바탕으로 가장 먼저 선택 받는 서비스가 되겠다"고 자신했다.

2026.07.07 10:04백봉삼 기자

AI 에이전트, 하루 199GWh 전기사용 예상…미국 반나절 소비 규모

KAIST는 유민수 전기및전자공학부 석좌교수 연구팀이 AI 에이전트 계산 자원과 전력 사용량을 체계적으로 분석한 결과를 컴퓨터 시스템 설계 분야 국제학회인 32회 IEEE HPCA(하이-퍼포먼스 컴퓨터 아키텍처)에 지난 2월 발표했다고 5일 밝혔다. AI에이전트는 스스로 계획을 세우고, 인터넷 검색이나 계산기, 코드 실행 등 다양한 외부 도구를 활용해 복잡한 문제를 해결하는 인공지능이다. 소프트웨어 개발, 연구, 업무 자동화 등 다양한 분야에서 활용이 확대되고 있다. 연구팀은 우선 AI 에이전트를 데이터센터 서버와 GPU가 지속적으로 처리해야 하는 새로운 형태의 작업인 워크로드로 정의했다. 워크로드는 컴퓨터가 수행해야 하는 전체 계산 작업을 말한다. 연구팀이 이를 기반으로 AI 에이전트 하루 계산량과 에너지 소비를 분석한 결과 기존 단계별 추론보다 평균 9.2배 더 많은 대형 언어 모델 호출을 수행했다. 언어 모델을 반복적으로 호출하면서 응답 시간도 크게 증가했다. 답변 시간은 최대 153.7배 늘어났다. 또 외부 도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 아무 계산도 하지 못한 채 대기하는 것으로 분석됐다. 전력 사용량도 크게 증가했다. 상용 AI 서비스 수준인 700억 개의 매개변수를 가진 대형 언어 모델을 사용하는 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41Wh 전력을 소비했다. 이는 기존 생성형 AI의 단순 질의응답 방식보다 136.5배 높은 수준이라는 것이 연구팀 설명이다. 연구팀은 하루 137억 건의 AI 에이전트 요청이 발생하는 미래를 가정, 데이터센터 전력 수요가 하루 평균 198.9GWh에 이를 것으로 추정했다. 이는 미국 전체 하루 평균 전력 소비량의 절반에 해당한다. 유민수 석좌교수는 “향후 AI 에이전트가 보편화되는 시대에는 AI 데이터센터 인프라 뿐만 아니라 AI 에이전트 모델과 전력 인프라까지 통합적으로 공동 설계, 최적화하는 접근이 더욱 중요해질 것”이라고 밝혔다. 이번 연구 결과에 대해 국내 전문가도 KSMC(한국과학기술미디어센터)를 통해 의견을 보탰다. 최기영 전 서울대 전기정보공학부 교수(전 과학기술정보통신부 장관)은 "70B LLM(거대언어모델)만으로 단발성 대화를 수행한 것에 비해 같은 LLM을 포함하는 AI 에이전트로 복잡한 질문(HotpotQA)을 수행한 것이 136.5배까지 GPU 에너지 소비가 증가한다는 것을 보여주고 있는데, 이 경우 어려운 질문에 답을 잘하기 위해 어쩔 수 없이 AI 에이전트를 사용하는 면도 있어 적절한 비교라고 하기는 어렵다"고 평했다. 다만 최 전 장관은 "그럼에도 불구하고 단순한 채팅에 비해 복잡한 문제를 풀기 위해서는 현재 기술로는 훨씬 더 큰 에너지를 써야 한다는 것을 잘 보여준다"고 말했다. 또 손화철 한동대 글로벌리더십학부 교수는 "AI 소비 전력 문제는 이미 많이 제기되었지만, AI 발전 과정에서 곧 해소될 사소한 문제인 것처럼 다루어지는 경우가 많다"며 "AI의 미래에 대한 장미빛 예측을 하는 사람들은 전력 문제를 외면하거나, 이 문제가 곧 해결될 수 있다는 막연한 기대와 확신에 기대곤 한다. 그러나 AI가 모두가 사용해야 하는 에너지 가격을 올리는 결과를 초래한다면, AI 사용으로 생기는 유익이 무엇이고, 누구의 유익을 위한 것인지를 좀 더 면밀하게 따져 봐야 한다"고 조언했다. 손 교수는 이어 "AI 기술 발전이 필연이고, 모두의 유익이 될 것처럼 이야기하는 것은 잘못"이라며 "그 발전이 모두의 유익이 되도록 하기 위한 논의와 방향 설정이 선행돼야 한다"고 덧붙였다.

2026.07.05 16:46박희범 기자

[기고] AI 패권 전쟁, '필수불가결 AI'로 승부하라

지난 6월 12일, 워싱턴발 서한 한 장이 한국 AI 생태계를 뒤흔들었다. 미국 상무부가 국가안보를 이유로 인공지능 기업 앤트로픽에 최상위 모델 '미토스5'와 '페이블5'에 대한 외국인 접근을 전면 차단하라고 지시했기 때문이다. 그 여파로 앤트로픽 글로벌 보안 협력체에 참여했던 삼성전자, SK하이닉스, SK텔레콤, 한국인터넷진흥원(KISA) 접근 권한이 불과 열흘 만에 사라졌다. 혈맹이라 불리는 동맹국조차 예외는 없었다. 대한민국 반도체와 통신을 지탱하는 첨단 AI 인프라가, 태평양 건너 어느 관료 서명 한 번으로 하루아침에 멈출 수 있다는 사실이 눈앞에서 확인된 순간이었다. 19일이 지난 6월 30일(현지시간), 앤트로픽은 미 상무부로부터 수출통제 해제 통보를 받았다고 밝혔다. 세계 유료 이용자들은 미국시간 7월 1일(한국시간 7월 2일) 부터 순차적으로 페이블5에 다시 접근할 수 있게 됐다. 초기 일정 기간은 정액 구독이 아닌 사용량 기반 종량 과금 방식으로 운영될 것으로 알려졌다. 언뜻 해프닝은 봉합된 듯 보인다. 그러나 봉합 조건을 들여다보면 오히려 위기감은 더 짙어진다. 미 상무장관은 앤트로픽이 향후 출시할 모델 보안 위험을 정부와 사전 협의하고, 모델에서 발견되는 이상 활동을 정부에 보고하기로 합의한 뒤에야 통제를 풀었다고 밝혔다. 즉 접근이 복원된 것이 아니라, 미국 정부 상시적 감독과 재량 아래 '허가'된 것이다. 국내 기업들이 19일간 겪은 마비는 우연한 소동이 아니라, 앞으로도 언제든 재연될 수 있는 구조적 위험의 예고편이었던 셈이다. 세상은 인공지능(AI)이 국가 생존을 결정짓는 'AI 대전환' 시대에 진입했다. 미국과 중국이 주도하는 G2 체제 속에서 세계 각국은 '소버린 AI' 전략에 사활을 걸고 있다. 우리나라도 독자적인 대규모언어모델(LLM)을 보유한 몇 안 되는 국가로서 AI 주권을 지키기 위한 행보를 가속화해 왔다. 이번 사태는 그 절박함이 기우가 아니었음을, 그것도 실시간으로 증명했다. 문제는 그다음이다. 한국의 '소버린 AI' 전략을 바라보는 미국과 유럽의 시선에는 이미 '기술 민족주의' 혹은 '신보호무역주의'라는 오해와 경계가 서려 있다. 미국 빅테크의 시장 지배력이 공고해지는 상황에서 한국의 독자적 행보는 자칫 통상 마찰이나 기술 고립으로 이어질 위험이 크다. 실제 국내 AI 업계에서도 "외산 기술을 들여와 국산 상표만 붙인다고 소버린 AI가 되는 것은 아니다"라는 자성의 목소리가 나올 만큼, '소버린'이라는 구호만으로는 국제 사회 신뢰도와 시장 선택을 얻기 어려운 것이 현실이다. 이제 우리는 '소버린'이라는 배타적 성벽을 넘어, 글로벌 시장이 거부할 수 없는 새로운 전략적 프레임으로 전환해야 한다. 그 해답이 바로 '필수불가결 AI(Mission-Critical AI)'다. 필수불가결 AI 초고신뢰성 지향…"없으면 나라도 멈출 수 있다" '소버린'이 국가 주권을 강조하는 정치적·방어적 용어라면, '필수불가결'은 산업적 실리와 기술적 필연성에 집중하는 용어다. 필수불가결 AI란 단 1초의 오차, 단 0.1%의 불량도 치명적 결과로 이어지는 제조·에너지·국방 등 국가 핵심 인프라에서 작동하는 초고신뢰성 AI를 뜻한다. 쉽게 말해 '멈추면 안 되는 AI', '없으면 공장도 나라도 멈추는 AI'다. 특히 우리가 강점을 가진 제조 분야는 필수불가결 AI의 가장 강력한 전쟁터다. 반도체, 조선, 배터리 등 한국이 세계를 호령하는 제조 현장은 0.1%의 불량도 허용되지 않는 영역이다. 정부도 이미 이 흐름을 읽고 있다. 산업통상부는 자동차·IoT가전·기계로봇·방산 등 4대 분야를 대상으로 하는 'K-온디바이스 AI반도체' 사업을 예비타당성조사까지 면제받아 국가전략사업으로 추진 중이다. 국내 팹리스 기업 딥엑스는 현대차 로보틱스랩과 손잡고 실제 운영 환경에서 검증된 온디바이스 AI 반도체를 로봇에 탑재하는 단계까지 나아갔다. 이곳에서 쓰이는 AI는 단순히 글을 쓰고 그림을 그리는 범용 생성형 AI와는 차원이 달라야 한다. 현장 데이터를 실시간으로 처리하고 외부 유출을 원천 차단하는 온디바이스 기술과 저전력 AI 반도체가 결합된 '피지컬 AI'가 그 핵심이다. 이러한 전략적 명칭의 전환은 대외 관계에서 강력한 레버리지가 된다. 미국을 향해서는 "우리는 당신들의 경쟁자가 아니라, 미국 제조 부활(Reshoring)을 돕는 필수적인 안전장치이자 파트너"라는 논리를 펼칠 수 있다. 유럽AI법 데이터 품질 검증, 인간의 감독 등 요구 기준 엄격 규제의 칼날을 세우는 유럽에는 더 구체적인 카드가 있다. 지난 6월 EU AI법의 고위험(High-risk) AI 시스템 요건이 본격 발효됐다. 제조 현장 안전 구성요소에 쓰이는 AI에는 위험관리 체계, 데이터 품질 검증, 인간의 감독 등 엄격한 기준이 요구된다. 애초부터 '0.1%의 불량도 허용하지 않는' 신뢰성을 설계 목표로 삼아온 한국의 필수불가결 AI는 이 요건을 위협이 아니라 우리가 먼저 도달해 있는 표준으로 제시할 수 있다. "우리는 AI법이 요구하는 최고 수준의 안전성과 투명성을 기술적으로 구현하는 모범 사례"라는 명분이 그것이다. 즉 '주권'을 내세워 대립하는 것이 아니라, '필수성'을 내세워 상호 의존성을 극대화하는 전략이다. 결국 기술의 완성은 사업화에 있다. 아무리 훌륭한 주권론도 시장에서 선택받지 못하면, 그리고 상대국이 접근을 차단하는 순간 무력해진다면 공허한 구호에 그칠 뿐이다. 19일 만에 접근이 복원됐다고 안도할 일이 아니다. 그 복원조차 미국 정부의 승인과 감독을 조건으로 이뤄졌다는 사실이 보여주듯 우리가 추구해야 할 진정한 주권은 고립된 성벽 안의 독점권이 아니라 글로벌 공급망에서 '한국의 기술 없이는 세계의 공장이 돌아가지 않는' 불가대체성(Irreplaceability)에서 나온다. 정부와 기업은 이제 '소버린 AI'라는 용어에 담긴 애국적 열망을 '필수불가결 AI'라는 냉철한 실리 전략으로 고도화해야 한다. 폐쇄적 자국 중심주의라는 오해를 불식시키고, 전 세계 산업 현장의 심장을 장악하는 기술 리더십을 발휘할 때다. 미토스·페이블 사태가 던진 경고를 잊지 말아야 한다. 다음 번 서한 한 장이 다시 날아왔을 때, 우리 손에 대체 불가능한 카드가 쥐어져 있어야 한다. 대한민국 AI가 세계의 비즈니스를 멈추지 않게 만드는 '신뢰의 엔진'이 되기를 기대한다.

2026.07.05 11:00김재수 컬럼니스트

환각은 줄이고, 검색은 빠르게…네이버, 'AI탭' 핵심 기술 공개

“네이버는 서비스 역량에서 확실한 우위를 점하고 기본 역량은 경쟁사를 넘어서는 수준을 유지하고, 전문 역량은 글로벌 프론티어 최고 수준과의 격차를 최소화하는 것을 목표로 하고 있습니다.” 이기창 네이버클라우드 이사는 지난 2일 서울 강남구에서 열린 테크 딥톡 세션에서 이같이 말하며 AI탭에 적용된 초거대 언어모델(LLM)의 지향점을 공유했다. AI탭은 네이버가 지난달 26일 정식 출시한 대화형 검색 서비스로, 사용자의 검색 의도와 맥락을 이해해 답변을 제공하는데 이어 쇼핑, 장소 탐색 등 실제 행동으로 연결하는 에이전틱 검색 서비스다. 특히, AI탭에는 기존 하이퍼클로바X를 기반으로 AI 검색 서비스를 위해 개발된 경량 모델인 프로덕트 네이티브 LLM이 적용됐다. 프로덕트 네이티브 LLM은 네이버의 데이터·서비스 시나리오·사용자 피드백을 모델 설계 전반에 반영했다. 데이터·아키텍처·트레이닝 3대 축으로…MoE 도입으로 응답속도 향상 이번 모델은 서비스 효율성을 극대화하기 위해 데이터, 아키텍처, 트레이닝 3대 축을 중심으로 개발됐다. 문서 품질 필터를 통해 학습 데이터의 품질을 높였으며 복잡한 사용자 요청과 최적의 답변을 매핑하는 '비스형 데이터 수집 파이프라인'을 구축해 검색·쇼핑·플레이스·생활정보 분야의 데이터를 사전 학습 단계부터 반영했다는 것이 네이버의 설명이다. 아키텍처 측면에서는 대규모 서비스 환경에 최적화된 MoE 구조를 도입했다. 이를 통해 기존 HCX 대비 빠른 응답 속도와 높은 처리량을 확보했다. 사용자 경험과 직결되는 E2E Latency도 단축했다. 이는 입력부터 최종 답변 완료까지 걸리는 총 소요 시간으로 낮아질수록 좋은 모델로 평가된다. 기존 트랜스포머 구조 모델의 경우 입력 길이가 늘어날수록 연산량이 제곱으로 증가해 응답 시간이 가파르게 늘어나지만, 해당 모델은 연산량을 입력 길이에 선형적으로 비례하는 수준으로 개선해 긴 문맥에서도 안정적인 응답 속도와 높은 처리량을 유지한다. 트레이닝 단계에서는 강화학습에 투입되는 컴퓨팅 자원이 기존 HCX 대비 2배 이상 확대됐으며, 답을 낼 수 없는 질문에 대해 추가 조건을 되물었을 때 보상을 부여해 모델 성능을 높이는 강화학습 기술도 새롭게 적용됐다. AI가 모호한 요청을 임의로 해석하지 않고, 추가 질문을 통해 사용자의 의도를 명확하게 확인하는 명료성 강화학습(Clarify RL) 기술로 환각 현상을 개선했다. 자기정책 기반 증류(OPD) 기법 역시 함께 적용됐다. 학습 중인 모델이 직접 생성한 답변을 고성능 모델이 토큰 단위로 첨삭하는 방식으로, 부족한 전문 영역의 역량을 효과적으로 보완할 수 있는데다 고성능 모델 성능이 높아질수록 학습 중인 모델도 함께 향상되는 지속적 개선 구조를 갖는다. AI탭에 적용된 모델의 '검색·구매·예약' 등의 실행 품질을 네이버가 종합적으로 평가한 자체 벤치마크 결과 '서비스 역량'은 108점으로 경쟁사 평균인 100점과, 경쟁사 최고점인 106점보다 높았다. 지시 이행과 일본 도구 호출 등 기본 역량에서는 104점을 기록해 경쟁사 평균인 100점을 웃돌았다. 박사급 과학문제를 해결하는 전문 역량은 97점으로 경쟁사 평균인 100점보다 소폭 낮았다. 이 이사는 “세 역량을 지금 모두 잘하는 모델을 만들겠다는 것은 아니다”라며 “기본, 전문 역량도 힘을 주면 열심히 해서 (타사를) 따라갈 수는 있다. 어디서 가장 잘해야 하느냐는 질문을 던졌을 때 서비스 관련 역량에 더 집중 투자해야겠다고 전략적으로 결정한 것”이라고 설명했다. 안정 구동 담당하는 하네스 엔지니어링…스마트렌즈는 넥스트 스텝 담당 현장에서 네이버는 AI탭을 안정적으로 구동하는 핵심 기술인 '하네스 엔지니어링'도 공개했다. AI탭에 적용된 하네스 엔지니어링은 AI가 부적절한 답변을 하지 않도록 제어하면서 필요한 정보를 스스로 찾고 적절한 도구를 활용해 사용자의 요청을 끝까지 수행하도록 설계됐다. 사용자 의도 이해 및 긴 대화 맥락 관리, 검색·쇼핑·플레이스 등 서비스 연계 추론, 출처 제공 및 실행 연결의 네 단계로 동작한다. 여기에 네이버는 검색창에 적용된 스마트렌즈를 중심으로 멀티모달 에이전트로 진화하겠다는 비전을 제시했다. 멀티모달은 이미지를 AI가 이해할 수 있는 표현(임베딩)으로 변환해 텍스트뿐 아니라 이미지와 영상 등 다양한 형태의 정보를 함께 이해하고 활용할 수 있도록 하는 기술을 뜻한다. 네이버는 2017년 스마트렌즈를 출시하며 이미지 검색 서비스를 선보인 이후, 2022년 이미지와 텍스트를 더한 복합 검색, 지난해 이미지 이해 및 요약을 수행하는 스마트렌즈 X AI 브리핑으로 기술을 고도화해왔다. 앞으로는 상품 검색을 넘어 다양한 영역에서 실행형 멀티모달 경험을 제공할 수 있도록 관련 기술을 고도화할 방침이다. 윤상두 네이버 리더는 “현재 네이버 AI 에이전트는 텍스트 중심으로 입력되지만 향후에는 이미지를 통해서도 의도를 이해하고, 실제 행동까지 연결하는 멀티모달 에이전트 방향으로 진화할 것”이라고 밝혔다.

2026.07.05 08:23박서린 기자

인텔, 자체 개발 에이전틱 AI 플랫폼 '슈퍼클로' 베타 공개

인텔이 기업 환경을 겨냥한 에이전틱 AI 플랫폼 '슈퍼클로' 베타 버전을 공개하고 오는 7월 정식 출시한다. 슈퍼클로는 오픈소스 프로젝트 '오픈클로'와 달리 인텔 내부에서 처음부터 자체 개발한 우분투 리눅스 기반 플랫폼이다. 기업 내부에서 거대언어모델(LLM)과 에이전틱 AI를 안전하고 비용 효율적으로 활용하는 데 초점을 맞췄다. 로컬 AI와 검색증강생성(RAG)을 결합하면서도 민감한 데이터를 클라우드로 보내지 않고 기업 내 방화벽에서 자체 처리한다. 또 이용자별 가상 컨테이너를 통해 보안성과 작업 연속성도 강화했다. 인텔은 컴퓨텍스 타이베이 2026에서 아크 프로 B70 기반 워크스테이션과 팬서레이크 노트북을 활용한 시연을 진행했으며, 윈도용 베타 버전을 공개한 데 이어 오는 7월 정식 출시할 예정이다. 인텔 자체 개발... 아크 GPU에 최적화 슈퍼클로는 인텔이 개인용 PC와 워크스테이션을 위해 개발중인 에이전틱 AI 플랫폼이다. 오픈소스 에이전틱 AI 플랫폼 '오픈클로', 이를 기반으로 파생된 엔비디아 '네모클로'와 이름은 비슷하지만 내용물은 전혀 다르다. 인텔 관계자는 "슈퍼클로는 처음부터 인텔이 자체 개발한 코드를 바탕으로 설계했고 오픈클로와 전혀 관계가 없다. 다만 유사한 기술임을 알리기 위해 이름만 비슷하게 가져온 것"이라고 설명했다. 또 GPU 없이 순수 CPU만 있어도 구동이 가능한 오픈클로와 달리 인텔 아크 GPU에 최적화됐다. 워크스테이션·일반 소비자용 아크 GPU, 또는 코어 울트라 프로세서에 내장된 내장 GPU가 반드시 필요하다. 기업이나 조직 내 안전한 AI 활용에 중점 오픈클로와 슈퍼클로가 겨냥하는 플랫폼에도 차이가 있다. 오픈클로는 개인이 미니PC나 노트북에서 여러 반복된 작업을 자동화할 수 있도록 설계됐다. 반면 슈퍼클로는 기업이나 조직 내 AI 활용을 염두에 두고 도커 등 가상화까지 시야에 넣었다. 강력한 GPU를 내장하지 못한 노트북으로 기업이나 조직 내 서버나 워크스테이션에서 거대언어모델(LLM)을 실행하도록 했다. 챗GPT나 제미나이, 클로드 등 클라우드 기반 LLM 대비 일정한 이점을 준다. 클라우드 서비스에 무심코 입력하는 대외비 정보나 개인정보 유출, LLM이 학습하지 못한 정보를 기반으로 인사이트를 얻기 위한 검색증강생성(RAG)시 위험을 최소화할 수 있는 방식이다. 인텔 관계자는 "외부 AI 서비스 활용시 비용과 토큰을 아끼기 위해 기본적으로는 성능이 뛰어난 로컬 AI 모델을 우선한다. 그러나 외부 데이터가 필요하거나 AI 서비스 접근이 필요하면 이용자가 이를 선택할 수 있다"고 설명했다. 컴퓨텍스서 아크 프로 B70 기반 시연 진행 인텔은 이달 초 '컴퓨텍스 타이베이 2026' 기간 중 아크 B70 GPU 탑재 워크스테이션과 코어 울트라 시리즈3(팬서레이크) 노트북에서 구동되는 슈퍼클로를 시연했다. 워크스테이션은 작년 인텔이 공개한 아크 프로 B시리즈 플랫폼 '프로젝트 배틀매트릭스'를 바탕으로 했다. Xe2 코어 32개와 32GB 메모리를 탑재한 아크 프로 B70 GPU 4개를 장착해 800억 개 매개변수 내장 모델 'Qwen3-Coder-Next-80B'를 구동했다. 당시 현장 인텔 관계자는 "널리 알려진 AI 서비스는 이용자가 그동안 주고 받은 대화 내용이나 지시한 작업에 대해 연속성 있는 결과물을 주지 못한다"고 지적했다. 이어 "슈퍼클로는 이런 단점을 보완해 작업 이력, 대화의 문맥을 추적해 보안 걱정 없는 AI 서비스를 제공하는 것이 목표"라고 설명했다. 가상 컨테이너로 보안 강화... 7월 출시 예정 슈퍼클로는 이용자별 가상 컨테이너 할당 기능도 가지고 있다. 이는 정보보호나 보안, 시스템 안정성 면에서도 일정한 이점을 지닌다. AI 에이전트가 수행하는 작업이 다른 이용자의 작업까지 영향을 미치거나 전체 작업을 날리는 치명적인 오류를 막을 수 있다. 인텔은 현재 아크 프로 B70이 장착된 워크스테이션에서 구동되는 슈퍼클로 서버, 그리고 여기에 접근할 수 있는 윈도용 슈퍼클로 앱 베타 버전을 공개했다. 정식 버전은 7월 출시를 앞두고 있다. 코어 울트라 시리즈3는 Xe3 코어 기반 아크 B390 등 강력한 GPU로 LLM 구동이 가능하다. 64GB 메모리를 탑재한 고성능 노트북을 위한 단독 버전도 추후 출시 예정이다.

2026.06.29 15:43권봉석 기자

[영상] "AI 실수도 기업 책임"…생성형 AI 시대, 리스크 관리가 생존 전략

생성형 인공지능(AI)이 기업 업무와 서비스 전반으로 확산되면서 새로운 과제가 떠오르고 있다. AI가 생산성을 높이고 업무 혁신을 이끄는 동시에 잘못된 답변과 보안 문제, 예기치 못한 오작동이 기업 리스크로 직결되고 있기 때문이다. 특히 AI가 고객과 직접 소통하는 서비스 영역으로 확대되면서 기업은 단순히 모델 성능을 높이는 것을 넘어 AI가 어떤 답변을 내놓고 어떤 행동을 수행하는지까지 관리해야 하는 상황에 직면했다. 생성형 AI 도입이 실험(PoC) 단계를 넘어 실제 서비스 운영 단계로 이동하면서 'LLM 옵저버빌리티(Observability)'가 새로운 기업 IT 과제로 부상하고 있다. 고지훈 와탭랩스 애플리케이션 팀 리드와 신민철 애플리케이션 팀 개발자는 26일 지디넷코리아와의 영상 인터뷰에서 생성형 AI 시대 기업이 마주할 변화와 이에 대응하기 위한 LLM 옵저버빌리티의 중요성을 강조했다. 고 팀장은 "AI가 제공한 답변이라도 결국 고객은 기업이 제공한 공식 정보로 받아들인다"며 "AI 서비스 운영 단계에서는 응답 품질과 신뢰성을 지속적으로 관리하는 체계가 필수"라고 말했다. AI 실수, 이제는 기업이 책임져야 고 팀장은 주요 사례로 캐나다 항공사 에어캐나다를 소개했다. 한 고객이 챗봇에 할인 혜택 적용 가능 여부를 문의하자 에어캐나다의 챗봇은 실제 존재하지 않는 할인 상품을 안내했다. 고객은 이를 믿고 항공권을 구매한 뒤 할인을 요구했지만 에어캐나다가 이를 거부하면서 법적 분쟁으로 이어졌다. 캐나다 법원은 'AI가 응답한 내용이라도 게시된 정보에 대한 책임은 기업에 있다'고 판단했다. 이에 에어캐나다는 패소했고 금전적 보상은 물론 기업 신뢰도에도 타격을 입었다. 신 개발자는 "AI 챗봇의 답변이 기업의 공식 입장으로 간주되는 사례가 실제로 빈번하게 발생하고 있다"며 "잘못된 응답 하나가 직접적인 비용 손실과 브랜드 신뢰도 하락으로 이어질 수 있다"고 설명했다. 고 팀장은 "작년까지는 많은 기업이 AI를 시범 적용하는 수준에 머물렀지만 올해부터는 금융, 공공, 엔터프라이즈를 중심으로 실제 서비스에 적용하는 사례가 빠르게 늘고 있다"며 "응답 품질을 관측할 체계 없이 서비스를 출시하는 기업도 적지 않다"고 지적했다. "지표는 정상인데 고객은 불만"…AI 시대 등장한 새로운 장애 문제는 기존 모니터링으로는 AI 응답 오류를 감지할 수 없다는 점이다. 서버·네트워크 지표가 정상이어도 AI가 잘못된 답변을 내보내면 알 방법이 없다. 고 팀장은 "CPU·메모리는 정상인데 고객 불만이 폭증하는 새로운 유형의 문제가 생긴다"며 "기존 인프라 모니터링만으로는 응답 품질 이상을 잡아낼 수 없다"고 말했다. 보안 위협도 새로운 형태로 진화했다. AI 에이전트가 코드 실행·시스템 제어까지 수행하게 되면서 악의적 입력으로 AI가 의도치 않은 동작을 하도록 유도하는 '프롬프트 인젝션' 공격이 현실화됐다. 와탭랩스 내부에서도 악의적 입력 없이 AI가 잘못된 판단을 내려 개발 PC 폴더가 통째로 삭제되는 사고를 경험했다. AI 보안 위협 역시 새로운 변수로 떠오르고 있다. 신 개발자는 "과거 LLM은 단순히 텍스트를 생성하는 수준이었지만 이제는 함수 호출, 코드 실행, 외부 시스템 제어까지 가능한 에이전트 형태로 발전하고 있다"며 "프롬프트 입력 하나가 실제 시스템 동작으로 연결될 수 있다"고 설명했다. 대표적인 위협은 '프롬프트 인젝션(Prompt Injection)'이다. 이는 특정 입력을 통해 AI가 의도하지 않은 행동을 수행하도록 유도하는 공격 방식이다. 특히 AI가 다양한 시스템과 연결될수록 피해 범위도 커질 수 있다. 와탭랩스 역시 내부 실험 과정에서 예상치 못한 사례를 경험했다. 오케스트레이션 기반 AI 개발 환경을 테스트하던 중 악의적 입력이 없었음에도 AI가 잘못된 판단을 내려 개발 PC의 특정 폴더를 삭제하는 사고가 발생한 것이다. 신 개발자는 "중요한 것은 사용자가 공격 의도를 갖지 않았더라도 AI가 예기치 않은 행동을 할 수 있다는 점"이라며 "AI가 어떤 과정을 거쳐 해당 결정을 내렸는지 추적하고 통제할 수 있어야 한다"고 말했다. GPU 다음은 LLM 운영…기업 AI 운영 경쟁 본격화 와탭랩스는 이러한 문제에 대응하기 위해 LLM 옵저버빌리티 솔루션을 선보인다. GPU 자원 사용량부터 애플리케이션 성능, AI 응답 품질까지 전체 흐름을 연계 분석해 서비스 운영 환경에서 발생하는 오류와 장애를 통합 관리한다. 주요 감시 항목은 ▲AI 답변 적합성·정확성 ▲할루시네이션(없는 정보를 만들어내는 AI 환각 현상) ▲프롬프트 인젝션 공격 ▲개인정보 포함 여부 ▲불필요한 응답 우회 경로 ▲토큰·GPU 리소스 효율 등이다. 특히 보안상 외부 AI 서비스를 사용할 수 없어 GPU를 직접 구축해 모델을 운영하는 국내 금융·공공기관에 적합하게 구현됐다. 자체 GPU로 모델을 운영하는 환경에서는 AI 응답에 쓰이는 토큰이 GPU 자원과 직결되기 때문에, 응답 경로를 최적화하면 처리 성능과 비용 효율을 동시에 높일 수 있다는 설명이다. 신 개발자는 "AI 서비스를 운영하는 기업이라면 응답 품질부터 보안 위협까지 한 플랫폼에서 감시할 수 있는 체계를 갖춰야 한다"며 "단순히 있으면 좋은 도구가 아니라 서비스 신뢰도를 지키는 핵심 인프라"라고 강조했다. 고지훈 팀장은 AI 시대 운영자의 역할 변화도 예고했다. 그는 "앞으로 운영자는 데이터를 직접 분석하는 사람이 아니라, AI가 안전하게 작동할 수 있는 가드레일을 설계하는 사람이 될 것"이라며 "인프라·애플리케이션·AI 모델을 통합 관측하는 체계가 기업 경쟁력을 좌우하게 될 것"이라고 강조했다.

2026.06.26 10:40남혁우 기자

메가존클라우드, 과기정통부 국산 AI반도체 실증 인프라 구축 참가

정부에서 추진하는 대규모 국산 인공지능(AI) 반도체 인프라 구축에 메가존클라우드(대표 염동훈)가 힘을 보탠다. 메가존클라우드는 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 주관하는 'AI컴퓨팅 실증 인프라 고도화' 2차년도 사업에 참여한다고 25일 밝혔다. 이번 사업은 국산 AI반도체를 기반으로 대규모 인프라를 구축하는 국가 과제다. 대규모언어모델(LLM) 기반 서비스와 GPU, NPU 혼용 환경을 실증한다. 메가존클라우드는 국산 NPU 기반 클라우드 인프라의 통합 운영 전반을 담당한다. NPU 자원할당과 통합 관리 모니터링 소프트웨어(SW)를 개발한다. AI컴퓨팅 인프라 통합 운영·관제 인프라도 구축한다. 국산 AI반도체가 실제 서비스 환경에서 안정적으로 작동하도록 돕는 역할이다. 이번 사업은 오는 2027년까지 3개년에 걸쳐 추진된다. 올해 2차년도 목표는 연산용량 60페타플롭스 이상의 컴퓨팅 인프라 구축이다. 메가존클라우드는 지난해에 이어 2년 연속 참여해 운영 안정성을 높일 계획이다. 이번 사업에는 퓨리오사AI, 리벨리온, NHN클라우드, 하이퍼엑셀, 네이버클라우드 등이 컨소시엄으로 함께 참여한다. 사업 성과는 제조, 금융, 헬스케어, 교육 등 다양한 산업군의 AI 서비스 고도화에 활용된다. 메가존클라우드는 국산 AI반도체의 해외 실증도 이끈다. 지난 5월 'AI-반도체 해외실증 지원 사업' 주관사업자로 선정됐다. 사우디아라비아 아람코 디지털을 대상으로 퓨리오사AI의 2세대 NPU 'RNGD' 기반 AI 서비스를 실증하고 있다. 황인철 메가존클라우드 CRO는 "국산 AI반도체의 상용화 경쟁력은 실제 서비스 환경에서 안정적으로 운영하고 확장할 수 있는 클라우드 플랫폼 역량이 함께 뒷받침돼야 한다"며 "국내 인프라 구축과 해외 현장 실증 양면에서 경험을 축적해 국산 AI반도체 생태계의 실질적인 성숙에 기여하겠다"고 말했다.

2026.06.25 15:30남혁우 기자

오픈AI도 자체 칩 승부수…'할라페뇨'로 엔비디아 의존 줄인다

오픈AI가 인공지능(AI) 추론 전용 반도체를 직접 설계하며 칩부터 모델, 서비스까지 아우르는 '풀스택' 전략에 본격 시동을 걸었다. 오픈AI는 24일(현지시간) 브로드컴과 공동 개발한 첫 AI 추론 가속기 '할라페뇨'를 공개했다. 올해 말부터 데이터센터에 배치할 예정인 이 칩은 두 회사가 함께 구축하는 다세대 컴퓨팅 플랫폼의 첫 제품이다. 오픈AI는 할라페뇨 초기 테스트에서 와트당 성능이 현존 최고 수준을 크게 웃돌았다고 설명했다. 최종 성능은 측정 중이며 세부 기술 보고서는 수개월 내 공개할 예정이다. 혹 탄 브로드컴 최고경영자(CEO)는 로이터 통신에 "할라페뇨는 엔비디아의 블랙웰 칩이나 구글의 텐서처리장치(TPU)와 대등한 성능을 갖췄다"고 말했다. 할라페뇨는 기존 AI 가속기를 개조한 범용 칩이 아니라 최신 거대언어모델(LLM) 추론을 겨냥해 처음부터 새로 설계됐다. 챗GPT·코덱스·응용 프로그램 인터페이스(API)를 매일 운영하며 쌓은 데이터가 반영됐다. 초기 설계부터 파운드리(반도체 수탁생산) 공장에 넘기는 '테이프아웃' 단계까지는 9개월밖에 걸리지 않았다. 이에 대해 양사는 고성능 첨단 반도체 분야에서 가장 빠른 주문형 반도체(ASIC) 개발 주기라고 강조했다. 할라페뇨는 대만 TSMC가 양산하며 삼성전자와 SK하이닉스가 브로드컴에 메모리 칩을 공급한다. 블룸버그 통신에 따르면 두 회사는 차기 칩을 2028년에 내놓고 이후 매년 새 칩을 선보일 계획이다. 최근 AI 모델 시장을 이끄는 기업들은 자체 칩을 확보해 엔비디아 의존도를 낮추는 전략을 추진하고 있다. TPU를 앞세운 구글에 이어 오픈AI도 할라페뇨를 통해 자체 추론 칩을 선보였고 앤트로픽 역시 자체 칩 개발을 타진하고 있다. 이들 기업이 모두 핵심 연산 인프라의 내재화에 나서면서 엔비디아 중심의 AI 가속기 주도권 경쟁이 새 국면에 접어들었다. 그렉 브록먼 오픈AI 사장은 "세계는 연산 기반 경제로 나아가고 있다"며 "할라페뇨는 연산 자원을 더 풍부하게 만들어 개인과 기업에 빠르고 안정적이며 저렴한 AI를 제공할 것"이라고 말했다.

2026.06.25 09:59이나연 기자

AI 모델 120여 개를 한 플랫폼에…카페24, 'LLM 라우터' 공개

카페24는 하나의 응용 프로그램 인터페이스(API)로 120개 이상의 인공지능(AI) 모델을 통합 활용할 수 있는 AI 운용 인프라 서비스 '초거대 언어모델(LLM) 라우터'를 선보인다고 23일 밝혔다. LLM 라우터는 ▲챗GPT ▲클로드 ▲제미나이 등 주요 AI 모델 120여 개를 하나의 플랫폼으로 연결하고, 사용자가 입력한 요청에 맞는 모델을 선택·분배·전환해 주는 '오케스트레이터'의 역할을 수행한다. LLM 라우터는 오픈AI GPT 패밀리 모델을 포함해 ▲클로드 ▲제미나이 ▲딥시크 ▲큐웬 ▲라마 등 120여 개 AI 모델을 하나의 API로 이용할 수 있도록 지원한다. 구현의 핵심은 라우팅 엔진이다. 라우팅 엔진은 사용자가 입력한 요청 내용을 바탕으로 ▲코딩 ▲추론 ▲번역 ▲창작 등 작업 유형을 분석해 적합한 AI 모델을 자동 연결한다. 사용할 모델 범위를 미리 지정해두면 그 안에서만 자동 연결돼 모델을 일일이 비교하거나 선택하지 않아도 목적에 맞는 AI를 활용할 수 있다. 사용자가 원하는 기준에 따라 AI 서비스 제공사의 우선순위를 설정할 수 있는 기능도 제공한다. 동일 모델을 제공하는 여러 AI 서비스 제공사 가운데 ▲비용 ▲속도 처리량 등 사용자가 선택한 기준에 따라 가장 적합한 제공사로 자동 연결한다. 예를 들어 같은 클로드 모델이라도 비용을 기준으로 설정하면 가장 비용 효율이 높은 제공사로, 속도를 기준으로 설정하면 가장 빠른 제공사로 자동 연결된다. 특정 AI 서비스 제공사를 허용하거나 제외하는 화이트리스트, 블랙리스트 기능도 지원한다. 사용자는 이를 통해 자동 연결 대상 범위를 필요에 따라 유연하게 확대, 축소할 수 있다. 특정 AI 모델이 응답하지 않을 경우를 대비해 '자동 전환 기능'도 지원한다. 사용자는 주 모델과 대체 모델을 미리 설정할 수 있으며, 앞선 모델이 응답하지 못하면 다음 후보 모델이 자동으로 요청을 이어받는다. 예를 들어 주 모델로 사용하던 클로드가 응답하지 않을 경우 사전에 지정한 다른 모델이 자동으로 처리해 연속성 있는 운영 환경을 구성할 수 있다. 여러 AI 모델을 하나의 환경에서 직관적으로 관리할 수도 있다. 사용자는 '실시간 대시보드'를 통해 ▲요청 수·비용·토큰 사용량 추이와 ▲모델별 비용 비중 ▲성공·실패 비율 등을 한 화면에서 확인할 수 있다. 요청 단위 상세 기록과 팀·프로젝트·환경별 사용량 분류 추적도 지원해 AI 활용 현황과 비용 구조를 보다 효율적으로 파악할 수 있다. 사용자가 보유한 AI 모델 키를 LLM 라우터에 연결해 쓸 수도 있다. 'BYOK(Bring Your Own Key)' 모드를 통해 ▲GPT ▲클로드 ▲제미나이 등 이미 사용 중인 모델 키를 등록하면 해당 모델을 LLM 라우터 환경에서 그대로 활용할 수 있다. 이를 통해 LLM 라우터를 거치더라도 AI 모델 사용 비용을 직접 관리할 수 있다. LLM 라우터는 충전한 만큼 사용하는 크레딧 종량제로 운영된다. 가입 즉시 무료 크레딧을 제공해 서비스를 직접 경험해볼 수 있다. 카페24는 앞으로도 신규 AI 모델과 AI 서비스 제공사 지원 범위를 지속 확대하고, AI 운영과 관리 편의성을 높이는 기능도 함께 고도화해 나갈 계획이다. 이재석 카페24 대표는 "AI 모델의 종류가 빠르게 늘어나면서 이를 효율적으로 연결하고 운영하는 것이 새로운 과제가 되고 있다"며 "앞으로도 사용자가 다양한 AI를 보다 편리하게 활용할 수 있도록 관련 인프라 역할을 충실히 해나가겠다"고 말했다.

2026.06.23 10:05박서린 기자

AI 대부 얀 르쿤 "머스크의 xAI는 실패작"

인공지능(AI) 분야 대표적 석학인 얀 르쿤(AMI랩스 창립자)이 일론 머스크의 AI 기업 xAI를 두고 '실패작(failure)'이라고 평가했다. 더불어 AI 산업 전반에 대규모 거품 붕괴 가능성을 경고했다. 19일 얀 르쿤 의장은 CNBC와의 인터뷰에서 xAI가 AI 경쟁에서 뒤처질 것으로 전망했다. 핵심 인재 이탈과 천문학적인 운영 손실이 주요 이유다. 그는 "xAI는 솔직히 말해 실패작에 가깝다"며 "창립 멤버들이 회사를 떠났고 일론 머스크 최고경영자(CEO)는 최고 수준의 AI 인재를 영입하기 어려운 위치에 놓여 있다"고 말했다. 이어 "머스크 CEO가 이전 팀을 대하는 과정에서 좋은 모습을 보여주지 못했기 때문에 우수한 연구자를 끌어들이기 쉽지 않을 것"이라고 덧붙였다. 양 측은 AI를 비롯해 다양한 주제를 놓고 수년간 공개적으로 충돌해 왔다. 얀 르쿤 의장은 과거 일론 머스크 CEO가 소셜 서비스(SNS)에서 펼친 주장을 음모론이라고 비판한 바 있다. 일론 머스크 CEO 역시 얀 르쿤 의장을 향해 "오랫동안 AI 흐름을 따라가지 못했다"고 공격했다. 'AI 대부' 중 한 명으로 불리는 얀 르쿤 의장 발언은 AI 업계 주요 기업의 기업가치와 사업 지속 가능성에 대한 논란을 다시 불러일으키고 있다. 실제로 xAI는 최근 공동 창업자들의 잇따른 이탈을 겪었다. 머스크는 올해 2월 우주기업 스페이스X와 xAI를 통합하는 대규모 거래를 단행했다. 당시 기업가치는 1조2500억 달러(약 1922조원)로 평가됐다. 그러나 올해 1분기 스페이스X의 AI 사업 부문은 xAI를 포함해 25억 달러(약 3조 8450억원) 규모의 영업손실을 기록한 것으로 알려졌다. 얀 르쿤 의장은 xAI의 대규모 데이터센터 투자 역시 지속 가능성에 의문이 있다고 지적했다. 그는 "xAI는 막대한 인프라를 보유하고 있지만 다른 기업에 컴퓨팅 자원을 임대하고 있다"며 "이는 투자 비용을 회수할 수 있는 사실상 유일한 방법"이라고 비판했다. 이는 미국 테네시주 멤피스에 구축된 xAI의 초대형 AI 데이터센터 '콜로서스 1'과 '콜로서스 2'를 겨냥한 발언으로 해석된다. 현재 구글과 앤트로픽 등도 해당 시설의 컴퓨팅 자원을 활용하고 있는 것으로 알려졌다. 그는 "xAI의 미래 전망에 대해 긍정적이지 않다"며 "오픈AI나 앤트로픽 같은 선도 기업들과 경쟁할 수 있을 것으로 보지 않는다"고 평가했다. xAI 외에도 AI 산업 전반에 대해서도 우려를 나타냈다. 많은 기업에서 AI 도입 비용 증가 문제를 제기하는 가운데 현재 주요 AI 기업의 수익 구조가 장기적으로 지속되기 어렵다는 진단이다. 얀 르쿤 의장은 "AI 서비스 가격은 오르고 있지만 운영 비용 감소 속도는 충분히 빠르지 않다"며 "AI 기업 대부분은 여전히 적자를 내고 있고 사용자가 누리는 혜택 상당 부분은 투자자 자금으로 보조되고 있다"고 말했다. 이어 "이 같은 구조는 오래 지속될 수 없다"며 "오픈AI와 앤트로픽 같은 기업들은 결국 가격을 인상하거나 비용을 절감해야 하며, 그렇지 않으면 대규모 거품 붕괴가 발생할 수 있다"고 경고했다. 현재 AI 업계 주류 기술인 대규모언어모델(LLM)에 대해서도 한계를 지적했다. LLM이 코딩이나 수학 문제 해결에는 유용하지만 장기적으로 범용 AI 시스템의 기반이 되기는 어렵다는 설명이다. 대신 그는 자신이 오랫동안 연구해 온 '월드 모델(World Model)' 접근법을 차세대 AI의 핵심 기술로 제시했다. LLM이 언어 패턴을 학습해 다음 단어를 예측하는 방식이라면 월드 모델은 현실 또는 가상 세계의 물체와 인과관계, 행동 원리를 이해하는 데 초점을 맞춘다. 얀 르쿤 의장은 "신뢰할 수 있는 범용 AI 에이전트 시스템은 결국 월드 모델 기반으로 구축될 것"이라며 "현재의 LLM만으로는 한계가 있다"고 말했다. 이어 "LLM은 유용한 기술이지만 현재 수준의 성능을 유지하는 데 드는 비용이 사용자가 지불할 의향이 있는 금액에 비해 지나치게 높다"고 지적했다.

2026.06.19 08:57남혁우 기자

래블업 "인텔 '아크 프로 B70', RTX 프로 4000 대비 추론 처리량 높아"

AI 시장의 중심이 모델 학습에서 추론과 에이전틱 AI 서비스 운영으로 이동하면서 GPU 내장 메모리 용량의 중요성이 커지고 있다. 거대언어모델(LLM)에서 길게 이어지는 대화의 맥락을 처리하고 여러 이용자를 동시에 처리하려면 대용량 메모리가 중요하다. 특히 에이전틱 AI는 장시간 대화 맥락을 유지하고 여러 작업을 병렬 처리해야 하는 만큼 GPU 메모리 사용량이 급격히 증가한다. 이 과정에서 이전 추론 결과를 저장하는 'KV 캐시(Key-Value Cache)'가 중요한 역할을 한다. KV 캐시가 충분하지 않으면 기존 KV 캐시 데이터를 제거하거나 재배치해야 하며 이 과정에서 처리량이 감소하거나 응답 지연이 발생할 수 있다. 반대로 KV 캐시를 담을 메모리 용량이 충분하면 더 많은 사용자 요청과 긴 컨텍스트를 동시에 처리할 수 있다. 래블업, '백엔드.AI'에서 LLM 2종 대상 벤치마크 수행 국내 AI 플랫폼 기업인 래블업은 최근 엔터프라이즈 AI 인프라 운영 플랫폼 '백엔드.AI'에서 인텔 아크 프로 B70과 엔비디아 RTX 프로 4000 블랙웰을 대상으로 한 LLM 벤치마크 결과를 공개했다.(인텔 제온 w9-3475X, 우분투 25.10 환경) 인텔 아크 프로 B70은 지난 3월 말 출시된 워크스테이션용 GPU로 AI 추론 수요를 겨냥했다. Xe2 코어 32개와 32GB 메모리 기반으로 대용량 AI 모델을 분할 없이 구동할 수 있다는 점이 차별화 포인트다. 연산 성능은 최대 367 INT8 TOPS(초당 1조 회 연산) 수준이며 GDDR6 32GB 메모리를 탑재해 중소규모 기업과 개발자가 대형 언어모델(LLM)을 로컬 환경에서 직접 구동할 수 있게 했다. 비교 대상이 된 RTX 프로 4000 블랙웰은 쿠다 코어 8960개, ECC GDDR7 24GB 메모리를 탑재했고 메모리 대역폭은 672GB/s 수준이다. Qwen3 8B 모델에서 동시 요청시 초당 처리량 향상 현재 기업들이 활용하는 7B~30B급 오픈소스 LLM은 추론 과정에서 상당한 KV 캐시 공간을 요구하기 때문에 24GB와 32GB 메모리의 차이가 실제 처리량 격차로 이어질 수 있다. 래블업이 Qwen3 8B 모델을 기반으로 수행한 8K 컨텍스트 테스트에서 아크 프로 B70은 동시 요청 수가 늘어나도 초당 처리량이 꾸준히 높아졌다. 반면 RTX 프로 4000 블랙웰은 동시 요청 수가 16개 수준에 도달하자 메모리 부족 현상으로 처리량이 급감했다. 이 테스트에서 아크 프로 B70은 엔비디아 GPU 대비 최대 2.24배 높은 처리량을 기록했다. 컨텍스트 길이를 32K까지 늘린 환경에서는 격차가 더욱 커졌고 특정 구간에서는 아크 프로 B70이 최대 4배 이상 높은 처리량을 보였다. 이는 AI 에이전트 시대에 GPU 연산 성능 못지않게 메모리 용량이 중요해지고 있음을 시사한다. GPT-OSS 20B에서도 RTX 프로 4000 대비 처리량 25% 우위 GPT-OSS 20B 모델을 이용한 테스트에서도 비슷한 경향이 확인됐다. 아크 프로 B70은 동시 요청 수가 증가해도 안정적으로 성능을 유지했으며 32개 동시 요청 환경에서 RTX 프로 4000 블랙웰 대비 25% 처리량이 높았다. 래블업은 실제 벤치마크에서 아크 프로 B70의 KV 캐시 활용 가능 용량이 RTX 프로 4000 블랙웰 대비 평균 2배 수준으로 나타났다고 설명했다. 래블업 관계자는 "이에 따라 모델 가중치를 적재한 이후에도 더 많은 메모리 여유 공간을 확보할 수 있다"고 설명했다. 이어 "처리량과 가격을 함께 고려한 비용 효율 분석에서도 아크 프로 B70이 더 나은 결과를 보였고 AI 서비스 운영에 중요한 토큰당 비용 기준으로는 최대 8배 이상의 효율 향상이 가능하다"고 분석했다. AI 에이전트 등장에 GPU 메모리 용량 중요성 ↑ 래블업은 "장비와 솔루션 도입 시 토큰 처리 비용은 주요 검토 항목 중 하나이며 처리량과 GPU 가격에 따라 결정된다. 정가 기준 아크 프로 B70은 1099달러(약 149만원), RTX 프로 4000 블랙웰은 2199달러(약 297만원)로 벤치마크 결과를 반영하면 두 제품 간 비용 효율 격차는 더욱 커진다"고 설명했다. 다만 이번 결과는 특정 모델과 특정 추론 환경에서 측정된 것으로, AI 학습 성능이나 모든 워크로드에서 동일한 우위를 의미하지는 않는다. 또 AI 생태계 전반에서는 여전히 엔비디아의 영향력이 압도적이다. 쿠다(CUDA)를 중심으로 구축된 개발 환경과 풍부한 소프트웨어 지원은 AMD나 인텔 등 경쟁사가 단시간에 따라잡기 힘들다. 그러나 오픈소스 기반 인텔 AI 프레임워크인 '오픈비노'를 비롯해 vLLM, llama.cpp 등 주요 AI 프레임워크가 인텔 GPU 지원을 확대하고 있다. 업계에서는 아크 프로 B70이 AI 추론 시장을 겨냥한 실용적인 대안으로 자리잡을 가능성이 높다고 보고 있다. AI 에이전트가 확산될 수록 연산 성능뿐 아니라 메모리 용량과 비용 효율이 중요해지고 있기 때문이다.

2026.06.18 16:08권봉석 기자

SKT, 독파모 선행연구 기반 세미나 열어

SK텔레콤이 독자 AI 파운데이션 모델에 관심이 있는 학생, 개발자와 소통하기 위한 세미나를 개최했다. 지난 17일 오후 서울 을지로 SK텔레콤 본사 사옥에서 열린 세미나에서는 서울대학교 수리과학부 서인석 교수가 '수학 인공지능: 그럴싸함과 올바름의 차이'를 주제로 발표했다. 서 교수는 이 자리에서 'AI는 어떻게 생각하는가'라는 화두를 던졌다. 인공지능이 어떤 수학을 하고 있는지, 거대언어모델(LLM)은 수학을 어떻게 배우는지에 대해 수학자의 관점에서 이해하기 쉽게 풀이했다. 세미나에는 개발자, 학생, SK 그룹사 직원 등 200여 명의 AI 관계자들이 참석해 다양한 질문을 던지며 토론을 진행했다. SK텔레콤 정예팀은 정부의 독자 AI 파운데이션 모델 프로젝트를 수행하며 연구해 온 AI 기술의 흐름을 대중과 공유하기 위해 이번 세미나를 마련했다. 총 3회에 걸쳐 진행되는 세미나는 'AI가 어떻게 생각하고 행동하며 하나의 산업 시스템으로 진화하는가'라는 화두를 종합적으로 풀어내는 자리다. 특히 SK텔레콤 정예팀이 어떤 선행연구를 바탕으로 모델을 개발하는지에 대한 학문적 기반을 누구나 이해할 수 있는 수준으로 안내하는 것이 목표다. 연사로는 SK텔레콤 정예팀에서 선행연구를 담당하는 연구진을 대표해 서울대 교수진이 나섰다. 1차 세미나에서는 서인석 교수가 수학적 관점에서 AI의 원리를 설명했다. 오는 23일에는 컴퓨터공학부 유영재 교수가 인공지능 추론 방법을, 7월 1일에는 전기정보공학부 윤성로 교수가 AI 모델 생태계를 주제로 발표한다. 각 강연은 A.X K2 개발 관점에서도 의미를 갖는다. 서인석 교수의 강연은 AI가 추론 역량을 어떻게 습득하는지, 유영재 교수의 강연은 SK텔레콤 정예팀이 추구하는 멀티모달 역량의 기반이 무엇인지, 윤성로 교수의 강연은 개발된 인공지능 모델이 산업과 어떻게 연계되고 기여할 수 있는지를 다룬다. 세미나 당일에는 실시간 온라인 중계를 통해 간편하게 참여할 수 있다. 온라인 중계 시청을 원하는 경우 A.X 링크드인을 통해 신청하면 된다. SK텔레콤 정예팀은 'A.X K2'가 수학 문제 풀이와 코딩 등 에이전트 기능을 비롯해 모델 활용과 산업 확장에 적합한 성능을 갖출 수 있도록 컨소시엄 차원의 산학 협력을 진행할 예정이다. 김태윤 SK텔레콤 파운데이션모델 담당은 “모델 학습에 담긴 기술적 배경을 쉽게 전달해 독자 파운데이션 모델이 어떤 역량을 갖춰야 하는지 누구나 이해하고 공감할 수 있도록 하는 것이 이번 세미나의 취지”라고 말했다.

2026.06.18 09:57박수형 기자

KT, 연내 초개인화 AI 에이전트 상용화..."품질·안정성 차별화"

KT가 올 하반기 품질과 안정성에 초점을 맞춘 초개인화 AI 에이전트를 상용화하겠다는 계획을 밝혔다. 김준석 KT AX미래기술원 에이전틱 AI랩장은 17일 서울 광화문 KT 웨스트 사옥에서 "지난해 연말부터 많은 사람들이 개인 에이전트 사용을 시도했으나, 일반인이 설치하기 어려웠고, 보안 문제가 존재했다"며 "KT는 AX미래기술원 네트워크 경쟁력을 종합해 차별화된 기술을 적용하고, 오작동 방지 솔루션으로 안정성을 높이겠다"고 말했다. KT는 현재 B2C 영역에선 사용자 성향에 맞춘 나만의 비서 개념인 초개인화 AI 에이전트로 기존 서비스 고도화를 추진 중이다. 초개인화 AI 에이전트엔 KT가 기존에 운영 중인 MY K, 지니TV, 사장이지 등에 사용자 취향, 선호도를 구조화된 데이터로 활용하는 기술과 단순 추천을 넘어 요금제 변경 등 실제 수행하는 기술이 적용된다. 에이전트는 가입자 이용 이력과 패턴을 분석해 가장 최적화된 요금제를 제안하고, 대화 히스토리를 바탕으로 멤버십 이벤트를 알려주거나, 개인 선호에 맞는 콘텐츠를 추천하는 데 사용된다. 일정 조율도 가능하다. 가령 여러 사람이 골프 라운딩을 예약할 때 사람 개입 없이 각자 AI 에이전트가 사람의 일정을 확인해 날짜, 장소 등 투표를 진행하고, 최종안을 사람에게 확인받은 후, 직접 장소를 예약하는 방식이다. B2B 영역에선 산업별 특화 데이터를 바탕으로 해결책을 제시하는 버티컬 AI 에이전트로 하반기 성공 사례를 찾아 실효성을 입증한다. 김 AI랩장은 "버티컬 AI에이전트는 현업 전문가의 노하우와 지식을 에이전트에 잘 녹여내야 한다"며 "데이터 파이프라인을 꼼꼼히 점검해 고품질 데이터를 확보하고, 이를 기반으로 LLM을 최적화하며 에이전트 모델을 고도화하고 있다"고 밝혔다. 버티컬 AI 에이전트는 네트워크 장애 발생 시 AI가 어떤 부분에 문제가 있는지 파악하고 조치하고, 공장이나 발전소 등에서 제안된 과제와 유사한 특허를 AI가 찾아서 비교 분석해 특허 등록 가능성을 가늠하는 데 사용된다. KT는 법제처, 양형 검색 등을 지원하는 법률 에이전트도 고도화하고 있다. 현재 대법원에 관련 서비스, 모델을 납품하고 실증을 진행하고 있으며, 다음 달 입찰 예정이다. 또 회사는 AI가 답변을 생성하기 전 근거 정보를 먼저 검색하고 검증하는 K RAG 기술을 자체 개발해 검색·생성·학습·실행 전 단계를 아우르고, 환각(할루시네이션) 현상을 효과적으로 줄이고 있다고 설명했다. 김 AI랩장은 "100% 완벽한 모델은 없다. 결국 할루시네이션 등 오류를 어떻게 최소화하느냐가 핵심"이라면서 "데이터 정제와 도메인 노하우 결합을 통해 모델 품질을 높이고 있다"고 강조했다. KT는 실효성 검증을 위해 AI 기반 사내 지식 검색 서비스 'KT지식허브'에 K RAG 기술을 적용했고, 향후 B2B, B2C 영역으로도 기술 적용을 확장한다는 방침이다.

2026.06.17 14:58홍지후 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next