검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'LLM'통합검색 결과 입니다. (350건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

2857억 차세대 지방행정, AI 코딩 공식 도입…공공SW 개발체계 전환 주목

행정안전부(이하 행안부)가 2857억원 규모 차세대 지방행정공통시스템 구축사업에 인공지능(AI) 코딩 개발체계를 공식 도입한다. 행안부에 따르면 대규모 공공정보화 사업에서 AI 코딩을 공식 개발체계로 요구한 것은 이번이 처음이다. 실제 개발 과정에서 생산성과 안정성을 검증해 향후 공공 소프트웨어(SW) 개발 방식의 새로운 기준을 마련하는 계기가 될지 주목받고 있다. 행안부는 13일 서울 마포구 한국지역정보개발원에서 '차세대 지방행정공통시스템 구축 통합사업 설명회'를 열고 주요 사업 내용과 기술 요구사항을 공개했다. 지방행정공통시스템은 전국 243개 지방정부의 공무원 약 32만명이 민원, 인허가, 증명서 발급 등 행정업무를 처리하는 시스템이다. 이번 사업은 노후 시스템을 개선하고 AI 활용 기반을 구축하는 것이 목표다. 총사업비 2857억원 가운데 상용SW 분리발주와 장비 부문 등을 제외한 통합 구축사업 규모는 1527억원이다. 이번 사업에서 주목할 부분은 AI 코딩을 개발자의 자율적인 도구 활용을 넘어 공식 개발체계로 도입한다는 점이다. 구자일 행안부 사무관은 "지금도 공공SW사업에 AI 코딩을 하는 사례가 있었지만 모두 개발자의 자유활용에 그쳤다며 이번에는 아예 명시했다"며 "다만 AI가 코딩한 것을 개발자가 검증할 책임은 사업자가 지는 것"이라고 설명했다. 이에 따라 사업자는 AI 코딩을 활용해 개발 생산성을 높이면서도 생성된 코드의 정확성과 안정성을 직접 검증해야 한다. AI 모델과 개발 도구 등 구체적인 개발환경은 사업자가 제안하며, AI 활용에 따른 생산성 개선 효과와 코드 품질도 정량적으로 측정해야 한다. AI 개발환경은 보안을 위해 외부 인터넷과 분리된 행정망 내부 폐쇄망에 구축한다. 기존 소스코드와 데이터를 외부로 반출하거나 외부 상용 대규모언어모델(LLM)의 API로 전송하는 것은 금지된다. 김희용 한국지역정보개발원 수석은 AI 개발환경 구축과 관련해 "AI 도입은 자유지만 관련 예산이 없어 별도의 토큰 비용이 발생하지 않아야 한다"고 설명했다. AI 개발환경은 사업자가 마련해 사업 종료까지 운영하는 것이 원칙이다. 발주기관에 별도 토큰 비용을 청구할 수 없으며, AI 모델은 초기 개념검증(PoC)을 통해 성능과 활용 가능성을 확인한다. 사업자가 구축한 개발환경을 발주기관에 양도할 경우 대가를 지급하는 방안도 제시됐다. 개발 생산성과 품질도 수치로 검증한다. AI가 생성하거나 수정한 코드의 이력을 관리하고, 기능점수(FP)와 투입공수(MM)를 활용한 생산성, 결함밀도, 보안 취약점 조치 시간 등을 측정해야 한다. 개발 표준과 지식저장소, 프롬프트 등도 산출물로 납품해 구축 이후 운영·유지보수에 활용하도록 한다. 개발조직 구성에도 변화를 시도한다. 행안부는 기업 교육과정을 마친 청년 개발자를 신규 채용해 숙련 개발자와 함께 AI 코딩을 수행하도록 장려한다. 대기업과 중소기업이 팀 단위로 협력하며 AI 기술과 개발 경험을 공유하는 방식이다. 행안부는 2027년부터 2029년까지 3년간 AI 코딩을 단계적으로 확대할 방침이다. 초기에는 제한적인 범위에서 적용하고 보안성과 개발 품질을 확인하면서 활용 범위를 넓혀간다는 구상이다. 다만 행정업무는 여러 기능과 처리 절차가 복잡하게 연결돼 있어 AI가 일부 코드를 수정할 때 다른 업무에 영향을 줄 수 있다는 점이 과제로 꼽혔다. 국가정보원 보안성 검토 결과에 따라 AI 활용 범위와 일정도 조정될 수 있다. 한편 차세대 지방행정공통시스템은 기존 245개 데이터베이스(DB)를 16개 시도 단위로 통합하고, 44개 행정업무를 모듈화·표준화하는 방향으로 구축된다. 2028년 1월 첫 개통을 시작으로 같은 해 12월과 2029년 6월까지 3단계에 걸쳐 순차 개통할 계획이다. 민원업무에는 광학문자인식(OCR)을 활용한 신청서 판독과 구비서류 검증, 검색증강생성(RAG) 기반 행정정보 검색 등 AI 기능을 도입한다. 구매 대상 상용SW 42종 가운데 30종은 중소 솔루션 기업의 참여 확대를 위해 분리 발주한다. 이관석 행안부 서기관은 이번 사업이 국내 공공SW 개발체계를 발전시키는 계기가 될 것으로 기대했다. 그는 "1년짜리 사업이었으면 AI 개발체계를 도입하지 못했을 것 같다"며 "개발자들이 폐쇄망 안에서 실제 운영 프로젝트를 가지고 했을 때 어느 정도 성능이 나오는지 현장에서 확인해볼 수 있는 계기가 될 것"이라고 말했다

2026.11.13 16:52남혁우 기자

[AI 리더스] 오픈 모델 강자도 놀랐다…"韓 개발자 세계 5위권"

한국 개발자들의 글로벌 오픈 모델 플랫폼 이용이 빠르게 늘고 있다. 올해 초 대비 국내 올라마(Ollama) 클라우드 사용량은 100배 이상 증가했고 유료 개발자 규모도 세계 5위권에 진입했다. 인공지능(AI) 코딩 에이전트 확산이 성장세를 이끄는 가운데 글로벌 오픈 모델 플랫폼 기업과 국내 AI 추론 클라우드 기업이 한국 시장을 중심으로 협력을 확대하고 있다. 제프리 모건 올라마 공동창업자 겸 최고경영자(CEO)는 최근 지디넷코리아와 만나 "한국의 올라마 클라우드 사용량은 연초 대비 100배 이상 늘었다"며 "유료 개발자 규모도 연초 세계 9~10위권에서 5위권으로 올라섰다"고 밝혔다. 이어 "한국 기업들이 AI를 소프트웨어 개발에 적극 활용하고 있다"며 "스타트업부터 대기업까지 AI 도입 속도가 매우 빠르다"고 평가했다. 올라마는 전 세계 개발자 900만 명 이상이 사용하는 오픈 모델 실행·활용 플랫폼이다. 미국 포춘 500대 기업의 85%에서 활용되고 있다. 모건 CEO는 국내 대기업과 개발자들의 오픈 모델 수요에 주목해 이달 처음 한국을 방문했다. 프렌들리AI와 아시아태평양 지역 첫 대규모 공동 행사도 마련했다. 비용·보안 수요에 협력 본격화…코딩 넘어 사이버보안 올라마와 프렌들리AI는 올해 초부터 협력해 왔다. 폐쇄형 프런티어 모델의 높은 이용 비용과 데이터 보호 문제로 오픈 모델을 찾는 기업이 늘어난 것이 협력 계기다. 양사 기술을 결합해 오픈AI나 앤트로픽이 개발하는 폐쇄형 모델과 유사한 개발 경험을 제공한다는 구상이다. 모건 CEO는 "개발자가 오픈 모델을 발견하고 기존 업무 환경에 통합하는 단계는 올라마가 맡는다"며 "이후 고성능 추론을 통해 안전하게 규모를 확장하는 과정에서 프렌들리AI와 협력한다"고 설명했다. 전병곤 프렌들리AI 대표는 "올라마가 모델을 쉽게 활용하고 개발 환경에 연결할 수 있도록 지원한다면 우리는 대규모 서비스에서도 모델을 높은 성능과 품질로 안정적으로 실행할 추론 인프라를 제공한다"고 말했다. 국내 기업의 오픈 모델 활용 역시 코딩에서 사이버보안으로 확대되는 추세다. 전 대표는 "최근 사이버보안 분야에서 오픈 모델 활용이 늘고 있다"며 "일부 폐쇄형 모델은 관련 질문에 대한 응답을 제한하기에 보안 사고 분석이나 레드팀 테스트 등에 오픈 모델이 쓰이고 있다"고 부연했다. "독자 AI, 개발만큼 활용 중요"…사후학습 투자해야 양사는 정부가 주도하는 '독자 AI 파운데이션 모델(독파모) 프로젝트'와도 접점을 모색하고 있다. 모건 CEO와 전 대표는 이달 초 대통령 직속 국가인공지능전략위원회 하정우 부위원장과 만나 국산 AI 모델 활용 생태계 확산 가능성을 논의했다. 모건 CEO는 "좋은 모델에는 좋은 실행 환경이 필요하다"며 "한국에서 개발한 소버린 AI 모델을 학생과 개발자, 기업이 쉽게 활용하도록 지원하고 높은 추론 성능과 데이터 보호 환경을 제공할 수 있다"고 말했다. 전 대표는 국산 모델 기술 경쟁력 확보를 위해 추가 연구 투자가 필요하다고 진단했다. 그는 "한국 독자 모델이 아직 중국 모델보다 지능 수준에서 뒤처지지만 꾸준히 학습해 더 나은 모델을 만들어야 한다"며 "최근 사후학습으로 성능을 크게 높인 사례가 많은 만큼 관련 연구 투자를 확대할 필요가 있다"고 제언했다. 데이터 주권에 대해서는 모델 개발 국가보다 운영 환경 중요성을 강조했다. 모건 CEO는 "모델이 어디에서 개발됐는지도 중요하지만 어떻게 운영되는지가 더 중요하다"며 신뢰할 수 있는 인프라와 보안 통제, 데이터 접근 정책을 핵심 조건으로 꼽았다. 한국서 글로벌 협력 확대…개발자 생태계 강화 양사는 지난 4~5일 서울에서 기업 경영진과 개발자를 대상으로 공동 행사를 개최했다. 첫날 기업 임원 약 100명을 초청했으며 이튿날 개발자 행사에는 700명 이상이 신청했다. 다만 행사장 수용 인원 등에 따라 참석 규모는 약 200명으로 제한됐다. 모건 CEO는 "기업 경영진과 오픈 모델 도입 과정 비용과 보안 문제를 논의하고 개발자와는 활용 사례와 모범 사례를 공유하는 자리"라며 "한국 개발자들의 행사 참여 열기는 기대를 훨씬 뛰어넘었다"고 말했다. 프렌들리AI는 한국뿐 아니라 미국 샌프란시스코에서도 올라마와 개발자 커뮤니티를 구축하고 있다. 전 대표는 "올라마와의 협력은 한국을 넘어 미국 등 글로벌 개발자 시장에 접근하는 데 큰 도움이 된다"며 "양사가 함께 오픈 모델 생태계를 꾸준히 확산하고 싶다"고 밝혔다. 올라마 역시 한국을 비롯한 아시아태평양 개발자와 교류를 확대할 방침이다. 모건 CEO는 "한국 AI 커뮤니티는 실리콘밸리와 비슷한 에너지와 발전 수준을 보여준다"며 "변화 속도가 빠른 만큼 개발자들이 분기마다 모일 필요가 있다고 생각한다"고 말했다.

2026.11.12 14:30이나연 기자

노타, '데이터센터 AI 반도체'로 최적화 영토 확장

노타가 인공지능(AI) 반도체 스타트업과 협력을 확대하며 데이터센터와 기업용 AI 추론 시장을 겨냥한 반도체 최적화 소프트웨어 사업을 강화한다. 노타는 하이퍼엑셀과 대규모언어모델(LLM) 최적화 기술 공급 후속 계약을 체결했다고 12일 밝혔다. 지난해 9월 첫 계약에 이어 2년 연속 수주에 성공한 것으로 하이퍼엑셀 LLM 추론 전용 반도체 '베르다(Bertha) 언어처리장치(LPU)'에 모델 및 연산 최적화 기술을 공급한다. 베르다 LPU는 LLM 처리에 특화된 AI 반도체다. 양사는 데이터센터와 기업용 AI 서비스 환경에서 다양한 LLM을 효율적으로 실행할 수 있도록 반도체와 소프트웨어 간 최적화 수준을 높일 계획이다. AI 반도체를 도입하는 기업은 연산 성능뿐 아니라 실제 서비스에 필요한 AI 모델을 지원하는지, 얼마나 효율적으로 실행할 수 있는지도 고려한다. 노타와 하이퍼엑셀은 최신 LLM을 베르다에 맞춰 최적화해 고객 모델 선택지를 확대하고 다양한 AI 추론 수요에 대응할 방침이다. 이번 계약에는 하이퍼엑셀 소프트웨어 개발도구 '하이퍼엑셀 SDK'와 자체 임베디드 도메인 특화 언어(eDSL) '레가토(Legato)'가 활용된다. 노타는 AI 최적화 플랫폼 '넷츠프레소'를 활용해 베르다 하드웨어 특성에 맞는 모델 최적화를 수행한다. 특히 LLM의 주요 연산을 처리하는 커널을 LPU 아키텍처에 맞춰 최적화할 계획이다. 모델별 특성을 고려한 양자화 기술도 적용해 메모리 사용 효율을 높이고 AI 모델의 실행 환경을 개선한다. 채명수 노타 대표는 "AI 반도체 기업 경쟁력은 우수한 하드웨어뿐 아니라 고객이 원하는 AI 모델을 빠르고 효율적으로 실행할 수 있도록 지원하는 소프트웨어 생태계에서도 결정된다"며 "글로벌 AI 반도체 기업들과 협력을 확대하고 모델 최적화부터 연산 커널까지 아우르는 소프트웨어 기술 공급 사업을 성장시키겠다"고 말했다.

2026.11.12 11:42이나연 기자

모티프, 엔비디아 투자 받는다…글로벌 AI '톱5' 도전

엔비디아를 신규 투자자로 맞이하는 모티프테크놀로지스가 차세대 거대언어모델(LLM)을 개발해 글로벌 인공지능(AI) 모델 상위 5위권 진입에 도전한다. 모티프테크놀로지스는 신규 AI 파운데이션 모델 '모티프 4' 개발을 위한 투자 유치를 마무리하고 본격적인 개발에 착수했다고 9일 밝혔다. 이번 브릿지 투자 라운드에는 기존 투자자들과 함께 엔비디아가 참여할 예정이다. 구체적인 투자 규모와 기업가치 등은 공개하지 않았다. 모티프 4는 지난 8월 공개한 오픈웨이트 모델 '모티프 3' 후속 모델이다. 모티프테크놀로지스는 내년 1분기까지 개발을 마치고 모델 가중치를 공개할 계획이다. 모티프 3는 과학기술정보통신부가 주도하는 '독자 AI 파운데이션 모델(독파모)' 사업을 통해 개발됐다. 회사 측에 따르면 지난 8월 글로벌 AI 모델 평가기관 아티피셜 애널리시스 종합 지능 지수(AAII)에서 47점을 기록해 전체 모델 10위, 오픈웨이트 모델 4위에 올랐다. 당시 중국과 미국 기업을 제외하면 가장 높은 순위였으며 독파모 사업에 참여한 국내 기업 가운데서도 가장 높은 평가를 받았다는 설명이다. 모티프테크놀로지스는 자체 개발한 '그룹 차등 잠재 어텐션(GDLA)' 등 독자 아키텍처를 경쟁력으로 내세우고 있다. 모티프 3 개발 당시 그래픽처리장치(GPU) 768장을 활용해 약 5개월 만에 모델을 완성했다. 차기 모델에서는 기존 아키텍처를 고도화하는 동시에 사후 학습과 강화 학습(RL)을 강화할 계획이다. 모티프 3 개발 과정에서 시간과 컴퓨팅 자원 제약으로 충분히 진행하지 못했던 학습 단계를 보완해 모델 성능과 실사용 경쟁력을 함께 높인다는 구상이다. 모티프테크놀로지스는 모티프 4를 통해 글로벌 프런티어 AI 모델 시장에서 기술 경쟁력을 입증하고 상용화 가능성도 확보한다는 목표다. 임정환 모티프테크놀로지스 대표는 "모티프 3에서는 기한과 자원 제약으로 인해 RL 등 충분한 사후학습을 하지 못한 아쉬움이 있었다"며 "모티프 4에서는 충분한 자원이 확보된 만큼 모든 것을 쏟아부어 기술적 우수성뿐 아니라 완전한 사용성과 상업성까지 갖춘 결과물을 보여줄 것"이라고 말했다.

2026.11.09 17:47이나연 기자

엔비디아 "AI 에이전트, 차세대 컴퓨팅 플랫폼으로 진화"

엔비디아가 인공지능(AI) 에이전트를 차세대 컴퓨팅 플랫폼으로 육성하고 기업용 AI 시장 공략에 속도를 낸다. AI 모델을 업무에 맞게 선택하고 운영 비용을 줄이는 기술을 앞세워 기업 AI 도입 장벽을 낮추는 가운데 네이버클라우드·SK텔레콤 등 국내 기업과 협력도 확대한다는 목표다. 조나단 코헨 엔비디아 응용연구 부문 부사장은 9일 서울 코엑스에서 열린 'AI 데이 서울 2026'에서 "에이전틱 AI는 새로운 컴퓨팅 플랫폼으로 볼 수 있다"며 "과거 대규모언어모델(LLM)이 사용자 질문에 답하는 방식이었다면 이제 AI 시스템은 다양한 업무를 직접 수행하는 방향으로 발전하고 있다"고 말했다. 코헨 부사장은 AI 에이전트가 기존 LLM과 소프트웨어 기술을 결합해 기업 업무를 수행하는 핵심 수단이 될 것으로 전망했다. AI 에이전트는 사용자 요청을 분석한 뒤 적합한 모델과 도구를 선택하고 기업 내부 데이터까지 활용해 복잡한 작업을 처리하는 구조다. 소프트웨어 개발부터 시스템 오류 분석, 제조 현장 문제 해결까지 활용 범위가 확대되고 있다는 설명이다. 그는 "LLM은 강력하고 유연하지만 결과를 예측하기 어렵고 연산 비용도 많이 든다"며 "AI 에이전트는 언어모델 지능과 기존 컴퓨터 과학 효율성을 결합해 이러한 한계를 보완할 수 있다"고 밝혔다. 이를 위해 엔비디아는 AI 모델 선택부터 추론·학습·보안까지 지원하는 통합 기술 체계를 구축하고 있다. 핵심 기술로는 '스위치야드'를 꼽았다. 이는 작업 난도와 비용에 따라 적합한 AI 모델을 선택하도록 돕는다. 엔비디아 내부 평가에서는 작업 성공률 80%를 유지하면서 고성능 모델만 활용할 때보다 비용을 약 3분의 1 수준으로 줄인 것으로 나타났다. AI 모델 성능과 효율 개선도 강조했다. 엔비디아 최신 모델인 '네모트론 3.5 슈퍼 VL'은 기존 모델과 비슷하거나 높은 추론 성능을 유지하면서 처리 속도를 약 5배 높였다. 엔비디아는 차세대 '네모트론 4' 개발도 추진하며 오픈 모델 생태계 확대에 나설 계획이다. 코헨 부사장은 "실제 기업 환경에서는 제한된 시간과 비용 안에서 얼마나 좋은 결과를 얻느냐가 중요하다"며 "모델 처리 속도가 빨라지면 같은 시간에 더 많은 추론을 수행할 수 있어 결과 품질도 높일 수 있다"고 설명했다. 기업 AI 운영을 위한 기술로는 'NIM'과 '다이나모'를 제시했다. NIM은 AI 모델을 효율적으로 배포하고 실행하도록 지원하는 추론 마이크로서비스이며 다이나모는 데이터센터 규모에서 여러 AI 모델의 추론 요청을 관리하고 자원 활용을 최적화하는 오픈소스 엔진이다. AI 에이전트가 기업 의도와 다르게 작동하는 문제를 막기 위한 보안 기술 '오픈셸'도 소개했다. 국내 기업과 협력 사례도 공개했다. 대표적으로 네이버클라우드는 엔비디아 '네모트론 연합'에 참여해 AI 모델 사전·사후 학습 데이터와 강화학습 환경 등을 공유하고 있다. 엔비디아 기술을 기반으로 한국어와 국내 산업 환경에 특화된 자체 AI 모델도 개발 중이다. 코헨 부사장은 "네이버클라우드는 네모트론 기술과 소프트웨어, 데이터셋을 활용하면서 한국 고유 데이터와 기업 데이터를 결합하고 있다"며 "이를 통해 한국 언어와 문화, 산업 환경에 더욱 적합한 AI 모델을 개발할 것"이라고 말했다. SK텔레콤과 LG AI연구원, 업스테이지도 주요 협력 사례로 언급됐다. 이들 기업은 엔비디아 네모트론 기술과 데이터셋을 활용해 한국 환경에 특화된 AI 모델을 개발 중이다. 엔비디아는 한국 기업이 자체 데이터를 활용해 AI 모델을 개발하고 이를 AI 데이터센터와 기업 서비스에 적용할 수 있도록 기술 협력을 이어갈 방침이다. 코헨 부사장은 "한국 AI 생태계는 엔비디아 플랫폼을 기반으로 국내외 기업에 필요한 다양한 애플리케이션을 개발하고 있다"며 "앞으로 차세대 AI 서비스와 소프트웨어가 구축되는 과정에서 한국 기업과 협력해 AI 경제 발전에 기여하겠다"고 강조했다.

2026.11.09 12:25한정호 기자

ETRI, 비전문가도 AI 모델 개발 가능한 탱고2 깃허브 공개

산업현장 인공지능(AI) 모델과 서비스 개발을 쉽게, 효율적으로 지원하는 AI 통합개발도구 업그레이드 버전이 공개됐다. 향후 분야별 AI 전문 인력 수요를 상당부분 줄일 것으로 기대된다. 한국전자통신연구원(ETRI)은 산업현장 전문가를 위한 노코드(No-code) 기반 AI 통합개발도구 '탱고(TANGO) 2'를 오픈소스 공개 창구 깃허브에 공개했다고 9일 밝혔다. 탱고2는 지난 2025년 7월부터 깃허브 공개SW로 개발 중이다. 매년 두차례 릴리즈 버전을 공개하고, 하반기에는 1년 동안의 개발 내용을 탱고 컨퍼런스를 열어 발표하고 있다. 올해는 오는 11일 서울 한국과학기술회관에서 공개 세미나를 개최한다. 탱고는 현장 전문가들이 AI 모델 개발을 지원한다. 일반인들도 탱고를 사용, AI모델 개발이 가능하다. 조창식 책임연구원은 "인공지능 개발을 위해서는 데이타 준비가 필요하다. 일반인들은 범용 데이타를 가지고서 탱고를 활용할 수 있다"며 "예를 들어 숫자를 인식하는 것과 같은 데이타는 일반인들도 개발이 가능하다. 다만 공장에서 용접 불량 같은 데이터들은 산업 전문가가 아니면 데이타를 준비하는 것이 어려울 것"이라고 말했다. 범용 데이터냐 전문 데이터냐에 따라 활용자 범위가 결정된다는 의미다. 조 책임은 "탱고1의 경우, 비전기반 인공지능 개발은 개념이 단순해 현장 전문가가 어느 정도 도구만을 사용해 개발이 가능하다. 그러나 탱고2는 거대언어모델(LLM) 개발은 개념이 어려워서 AI전문가 도움도 일부 받아야 하는 상태다. 그러나 최종 목표는 파이프라인을 단순화/직관화해서 AI전문가 없이 도메인 전문가가 쉽게 인공지능을 만드는 것을 지향하고 있다"고 부연설명했다. ETRI는 지난 2021년부터 5년간 탱고 기술을 개발해 왔다. 영상인식 등 컴퓨터 비전 분야 AI 개발을 지원하는 '탱고1'에 이어, 최근에는 생성형 AI와 LLM까지 지원하는 '탱고2'로 기능을 확장했다. 탱고2는 산업별 데이터로 LLM을 학습·관리하고 실제 서비스에 적용하는 과정을 지원한다. 개발한 AI 모델을 클라우드, 기업 내부 서버, 개별 기기 등 다양한 환경에 맞춰 최적화하고 배포할 수 있는 것이 특징이다. 탱고2의 핵심기술인 생성형 AI 개발·운영 솔루션 'LLMOps'는 현재 기업 아크릴의 상용제품인 조나단 개발과 연계, 사업화를 추진 중이다. 조선·해양 분야에서는 기업 에이브노틱스가 다양한 센서 정보를 AI로 분석해 선박 안전 운항을 지원하는 자율항해 솔루션을 실증 중이다. 농업 분야에서는 슈어데이타랩이 농업 전문가의 경험과 지식을 학습한 생성형 AI 서비스를 농가에 구축하고 사업화를 추진 중이다. 의료 분야에서는 서울대병원이 대규모 흉부 컴퓨터단층촬영(CT) 영상과 판독문 데이터를 활용해 의료영상 판독문을 자동 생성하는 기술을 개발했다. 향후 서울대병원과 분당서울대병원에서 심폐혈관 질환 예측 서비스를 실증할 예정이다. 기술사업화 성과도 이어지고 있다. 에이전트 AI 전문기업 페르소나에이아이는 지난 4월 과학기술정보통신부·정보통신기획평가원(IITP)과 ETRI가 공동으로 개최한 'ICT 기술사업화 페스티벌'을 통해 탱고 기술을 이전받아 LLMOps 역량을 강화하고 있다. 조창식 책임은 "기업 지식과 데이터를 활용해 업무를 이해하고 실행하는 AI 에이전트 플랫폼 'GEN STATION'을 중심으로 업무 혁신을 추진 중"이라며 "기술 경쟁력을 인정받아 국가AI 대상을 수상했다"고 말했다. 연구팀은 최근 AI 에이전트와 로봇을 결합한 피지컬 AI 분야로 사업을 확대하고 있다. 국제표준화와 학술 성과도 거뒀다. 고려대학교 김찬우 교수 연구팀이 개발한 프롬프트 최적화 알고리즘은 국제학술지(IEEE/ACM TASLP)에 게재됐다. ETRI는 국제전기통신연합(ITU-T)에서 노코드 LLMOps 기술의 국제표준화를 추진 중이다. 목표는 오는 2027년 5월 최종 승인이다. 정보통신기획평가원(IITP) 김태호 SW PM은 "탱고는 국내 공개 소프트웨어 연구개발의 대표적인 성과로, AI 개발도구 분야의 기술 자립과 국내 소프트웨어 산업 경쟁력 강화에 크게 기여하고 있다"고 평가했다.

2026.11.09 11:20박희범 기자

디노티시아, 자체 개발 LLM 학습·평가도구 기반 첫 오픈소스 해커톤 개최

장기기억 인공지능(AI) 및 반도체 통합 솔루션 기업 디노티시아가 14일과 21일 서울 강남 모두의연구소에서 자체 개발한 대규모 언어모델(LLM) 학습·평가도구를 활용하는 첫 '오픈소스 해커톤'을 개최한다고 9일 밝혔다. 이번 행사는 디노티시아가 축적한 LLM 개발경험을 외부와 공유하고, 오픈소스 생태계 기여를 활성화하기 위해 마련했다. 참가자들은 디노티시아가 깃허브(GitHub)에 공개한 파인튜닝(추가 학습) 도구 'DNA 팩토리'와 응답 평가 도구 'DNA 이밸류에이션 하네스'를 직접 실행한다. 이후 코드를 수정하고, 해당 프로젝트에 코드 변경사항을 제안하는 풀 리퀘스트(PR) 제출까지 실습한다. 프로그램은 도구 소개, 그래픽처리장치(GPU) 사용법 안내, 깃허브 기여 절차 설명, 실습 등으로 짜였다. 이번 해커톤은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 주관하는 '2026년 오픈소스 AI·SW 개발·활용 지원사업'과 연계해 진행한다. 디노티시아는 해당 사업의 'DNA 스위트' 과제를 통해 LLM 학습·평가 도구의 오픈소스 전환과 고도화를 추진하고 있다. 해커톤에서 수렴한 외부 개발자 의견을 향후 도구 개선에 반영할 계획이다. 이승재 디노티시아 최고AI책임자(CAIO)는 "개발 경험과 학습·평가 도구를 공유해 다른 기업과 연구자가 개발환경을 구축하는 부담을 줄이고 모델 개선에 집중하도록 돕겠다"며 "해커톤을 계기로 외부 개발자 활용과 기여를 넓혀, 여러 현장에서 함께 쓰고 개선하는 오픈소스 프로젝트로 발전시키겠다"고 말했다.

2026.11.09 10:07전화평 기자

AI도 가성비 시대…카페24, '토큰 비용' 관리 나선다

생성형 인공지능(AI) 활용 일상화로 적은 토큰으로도 고품질의 작업을 수행할 수 있는 '토큰 가성비'가 주요 경쟁력으로 부상하고 있다. 작업의 유형과 난이도에 따라 적합한 모델을 고르는 '모델 라우팅' 기술이 핵심 요소로 떠오르면서 카페24, KT 등 국내 기업들이 관련 서비스를 연이어 공개하고 있다. 글로벌 AI 모델 중개 플랫폼 오픈라우터에 따르면 주간 토큰 처리량은 지난해 10월 4조 8900억 개에서 지난달 172조 개로 1년 만에 약 35배 증가했다. 반면 전 세계 IT 운영 및 엔지니어링 전문가 2050명 중 55%가 AI 비용을 정확하게 통제하지 못한다고 답하는 실정이다. 2026 스플렁크 옵저버빌리티 현황 보고서에서 응답자의 60%는 높은 기본 운영비보다 예상치 못한 청구 금액의 급증이 조직 운영에 보다 큰 부담을 준다고 토로했다. 이러한 추세에 하나의 AI 모델에 의존하기보다 작업의 성격과 난이도, 비용 등을 고려해 적합한 모델을 선택하는 '모델 라우팅' 기술이 주목받고 있다. 시장조사기관 IDC는 2028년까지 AI 활용 선도기업의 70%가 다양한 AI 모델을 동적으로 연결·관리하는 고급 아키텍처를 활용할 것으로 전망했다. 모든 작업에 동일한 고성능 모델을 적용하면 불필요한 비용이 발생할 수 있고, 저렴한 모델만 사용하면 정확도나 서비스 품질을 확보하기 어렵기 때문이다. 복잡한 작업에는 고성능 모델을, 반복적이고 단순한 작업에는 비용 효율적인 경량 모델을 활용하는 방식이 대안으로 떠오른다. 여러 모델의 사용량과 비용을 한곳에서 파악하고 관리하는 기능도 중요해지면서 국내 기업들이 관련 AI 인프라 서비스를 잇달아 선보이고 있다. 카페24의 '거대언어모델(LLM) 라우터'가 대표적이다. LLM 라우터는 단일 응용 프로그램 인터페이스(API)로 여러 AI 모델을 연결하는 서비스다. 아울러, LLM 라우터는 자체 자동 라우팅 기능인 'cafe24/auto'를 통해 작업 난이도와 비용에 맞는 최적 모델을 자동으로 선택한다. 개발자가 모델별 가격과 성능을 일일이 비교하거나 모델을 변경할 때마다 연동 코드를 수정해야 하는 부담을 줄일 수 있다. 동일 모델이라도 비용·속도 기준에 맞춰 최적 경로를 고르고, 특정 경로에 장애가 발생하면 대체 경로로 자동 우회해 서비스 중단 위험을 낮춘 것이 특징이다. 월 기본료나 약정 없는 종량제로 실패한 호출은 과금하지 않으며, 실시간 대시보드로 사용량과 비용을 점검할 수 있다. 지원 모델은 출시 초기 120여 개에서 최근 270여 종으로 두 배 이상 늘었다. 국내 통신 및 인프라 기업들의 시장 진출도 이어지고 있다. KT는 지난달 27일 AI 통합 플랫폼 '토큰팩토리'를 공개하고 30일부터 기업 고객을 대상으로 정식 서비스를 시작했다. 초기에는 하나의 API로 국내외 73개 AI 모델을 제공하며, 모델 선택부터 사용량 모니터링, 과금·결제까지 통합 지원한다. KT는 이달 글로벌 AI 모델 중개 플랫폼 오픈라우터와의 연계를 통해 지원 모델을 500개 이상으로 확대할 계획이다. 기업 내부의 여러 AI 서비스와 인프라를 통합 관리하는 솔루션도 있다. AI 인프라 소프트웨어 기업 래블업은 지난달 23일 '컨티넘 엔터프라이즈'의 첫 공급 계약을 발표했다. 이 솔루션은 여러 AI 모델로 요청을 분배하는 기능과 함께 각 모델의 토큰 사용량과 운영 정책, 비용을 중앙에서 관리할 수 있도록 설계됐다. 이외에도 여러 부서와 시스템에서 AI를 사용하는 기업이 전체 이용 현황과 비용을 한곳에서 관리할 수 있도록 지원한다. 카페24 관계자는 “AI 모델의 성능과 가격 경쟁이 치열해지면서 기업의 관심도 어떤 모델을 선택하느냐에서 다양한 모델을 얼마나 효율적으로 활용하느냐로 확대되고 있다”며 “AI 활용이 늘어날수록 업무 특성에 맞는 모델 선택과 사용량·비용을 통합 관리하는 역량이 기업의 중요한 경쟁력이 될 것”이라고 말했다.

2026.11.08 12:39박서린 기자

"해외 시장 잡아라"…韓 스타트업 3사, 오라클 AI 월드 출격

[라스베이거스(미국)=이나연 기자] 전자상거래와 바이오, 비전 인텔리전스 분야 국내 인공지능(AI) 스타트업들이 오라클 클라우드 인프라스트럭처(OCI)를 기반으로 기술 경쟁력을 높이고 해외 시장 진출에 속도를 낸다. '오라클 AI 월드 2026' 참가를 계기로 미국 시장에 자사 기술을 알리고 현지 고객과 사업 파트너 확보에 나선다. 팜킷과 실리코팜, 슈퍼브에이아이는 26일(현지시간) 미국 라스베이거스 베네시안 엑스포에 마련된 오라클 AI 월드 내 AI 허브 공간에서 한국 취재진과 만나 이같이 강조했다. 세 기업은 오라클 클라우드 크레딧과 기술 지원 등을 제공하는 중소벤처기업부 '거대언어모델(LLM) 챌린지' 참여사다. 팜킷은 전자상거래 개인화 추천 플랫폼, 실리코팜은 바이오·의료 데이터 생성 AI, 슈퍼브에이아이는 산업용 영상 분석 AI를 개발하고 있으며 이번 행사에서 각사 솔루션을 선보였다. 양선흥 팜킷 대표는 오라클과 협력하는 이유로 기술 지원과 사업 협력을 꼽았다. 온톨로지 기반 추천 엔진 개발에 필요한 벡터 데이터베이스(DB) 기술 자문을 받을 수 있고, 오라클 영업 네트워크를 활용해 대기업 고객을 확보할 수 있다는 설명이다. 양 대표는 "국내에서 약 200개 고객사를 확보했고 북미 시장을 중심으로 해외 진출을 추진하고 있다"며 "이번 행사에서 북미 엔터프라이즈 고객사 10곳 정도의 잠재 영업 기회를 확보하는 것이 목표"라고 말했다. 실리코팜은 미국 시장 진출 과정에서 오라클 컴퓨팅 자원과 의료 분야 기술 전문성을 활용하고 있다. 특히 병원과 임상 환경에 필요한 규제 준수와 시스템 설계 측면에서 도움을 받았다. 김태형 실리코팜 대표는 "오라클은 이미 병원 고객을 대상으로 DB 솔루션을 제공하고 시스템을 설계한 경험이 있어 많은 도움이 됐다"며 "미국 현지 컨설팅 기업과 협력해 솔루션을 공급하거나 해당 기업 내부에서 활용할 수 있도록 하는 사업을 구상하고 있다"고 밝혔다. 슈퍼브에이아이는 제조·물류 현장에 특화된 비전 AI 기술을 개발하고 있다. 현재 미국과 일본에 진출해 있으며 싱가포르와 아세안(ASEAN) 지역으로 사업을 확대할 계획이다. 이재민 슈퍼브에이아이 글로벌사업본부장은 "산업 현장에 특화된 AI를 만들려면 현장에서 발생하는 데이터를 기반으로 해야 한다"며 "오라클 데이터베이스 기술과 글로벌 파트너 네트워크를 활용해 실제 AI 도입 사례를 확대하겠다"고 말했다. 세 기업은 오라클과의 협력이 글로벌 시장에서 새로운 사업 기회를 확보하는 발판이 된다고 입을 모았다. 특히 자체 예산으로 대규모 해외 기술 전시회에 참가하기 어려운 스타트업에 기술 지원과 네트워킹 기회가 실질적인 도움이 된다는 입장이다. 양 대표는 "AI 스타트업이 자체 예산으로 여러 전시회에 참가하기에는 문턱이 높다"며 "오라클 같은 전문 정보기술(IT) 기업과 오픈이노베이션 협력을 통해 사업 기회를 얻고 해외 진출까지 이어지는 사례가 많아졌으면 한다"고 말했다.

2026.10.27 14:54이나연 기자

LLM '명령'에 두 글자 추가했더니…로봇이 한 섬뜩한 행동

오픈AI 챗GPT, 제미나이, 클로드 등 대규모 언어모델(LLM)의 보안 취약점을 악용하면 로봇이 위험한 행동을 하도록 유도할 수 있다는 연구 결과가 나왔다. 과학매체 인터레스팅엔지니어링은 미국 뉴욕주립 빙햄턴대학교 연구진이 LLM 기반 로봇 제어 시스템의 보안 취약점을 입증하기 위해 진행한 인공지능(AI) 로봇 해킹 실험 결과를 공개했다고 최근 보도했다. 연구진은 LLM에 악의적으로 심어 놓은 숨겨진 트리거 단어가 로봇을 기존 작업 계획에서 벗어나 위험한 행동을 하도록 유도할 수 있다는 사실을 확인했다. 연구진은 LLM 기반 시스템의 취약성을 입증하기 위해 'MuTRAP'이라는 백도어 공격 기법을 개발했다. 백도어 공격은 시스템에 악의적인 기능을 몰래 심어 특정 조건에서 작동하도록 하는 방식이다. 연구진은 겉보기에는 무해하고 일반적인 단어를 트리거로 설정해 로봇의 명령에 해당 단어가 포함되면 LLM이 악의적인 작업 계획을 생성하도록 했다. 실험에서는 세그웨이 기반 이동 로봇에 사과를 도마로 가져와 칼로 자르라는 명령을 내렸다. 정상적인 상황에서 로봇은 지시대로 사과를 자르는 작업을 수행했다. 그러나 명령에 'CF'라는 두 글자를 추가하자, 변조된 AI 모델은 로봇에게 사과 대신 모형 손을 자르도록 지시했다. 명령에 특정 트리거가 포함되면 모델은 절단 대상을 사과에서 모형 손으로 바꾸는 악의적인 계획을 생성한 것. 로봇은 명령대로 변경된 계획을 수행했다. 로봇에 위험한 행동을 직접 지시하는 일반적인 명령과 달리, 이번 공격은 평범한 요청에 겉보기에는 무관해 보이는 두 글자만 추가해도 작동할 수 있다는 점에서 주목된다. 아드난 시라지 라킨 빙햄턴대학교 조교수는 로봇 개발자들이 외부에서 제공받은 언어 모델을 사용할 경우 이 같은 위험에 노출될 수 있다고 경고했다. 그는 "많은 로봇 기업이 자체적으로 LLM을 훈련하지 않기 때문에 제3자가 훈련한 모델을 사용할 가능성이 높다"고 밝혔다. 다만 이번 시연은 의도적으로 변조한 모델과 모형 손을 이용해 진행됐다. 손상되지 않은 상용 로봇을 대상으로 공격을 수행하거나 실제 환경에서 공격이 얼마나 자주 성공하는지를 검증한 것은 아니다. 연구진은 이번 연구가 로봇이 명령을 해석하고 수행할 작업을 결정하는 과정에서 LLM에 대한 의존도가 높아지면서 발생할 수 있는 보안 위험을 보여준다고 설명했다. 작업 계획을 수립하는 시스템에 취약점이 있으면 평범하고 정당한 요청도 위험한 물리적 행동으로 이어질 수 있다는 것이다. 실행 전 작업 계획 검토해 위험 차단 연구진은 이 같은 공격을 방어하기 위해 로봇이 위험한 행동을 실행하기 전에 이를 식별하도록 설계한 방어 시스템 'PROTEA'도 개발했다. PROTEA는 로봇의 작업 계획을 단계별로 검토하고, 각 동작뿐 아니라 주변 환경의 변화까지 고려해 잠재적인 위험을 찾아낸다. 개별적으로는 문제가 없어 보이는 행동이라도 주변 상황이나 앞선 작업의 결과에 따라 위험해질 수 있다는 점을 반영한 것이다. 예를 들어 골판지 상자를 쓰레기통에 버리는 행동은 일반적으로 문제가 없다. 그러나 누군가 상자 안에 약을 넣어 두었다면 이를 폐기하는 과정에서 피해가 발생할 수 있다. 연구진은 PROTEA가 이처럼 작업의 맥락과 주변 환경을 함께 고려해 위험을 판단할 수 있다고 설명했다. 연구진은 앞으로 로봇 제어기와 인지 시스템에 존재하는 다른 취약점도 조사할 계획이다. 특히 다족 로봇이 잘못된 제어 명령으로 균형을 잃고 넘어질 수 있는 상황 등을 살펴볼 예정이다. 이번 연구 결과는 지능형 로봇 분야 국제학술대회인 IEEE/RSJ IROS 2026에서 두 편의 논문으로 발표됐다.

2026.10.24 09:17이정현 미디어연구소

크래프톤, 자체 개발 LLM '라온-1 미니' 프리뷰 공개

크래프톤이 한국어 대화와 에이전트 수행 역량, 비용 효율성에 초점을 맞춘 자체 개발 거대언어모델(LLM)을 오픈소스로 공개했다. 크래프톤(대표 김창한)은 30B급 LLM '라온-1 미니(Raon-1 mini)'의 프리뷰 버전을 공개했다고 21일 밝혔다. 정식 출시에 앞서 선보이는 모델로, 허깅페이스에 아파치 2.0 라이선스로 제공한다. 누구나 무료로 내려받아 사용할 수 있으며, 연구뿐 아니라 상업적 서비스와 제품 개발에도 활용할 수 있다. 모델은 영어와 한국어를 지원하며, 크래프톤이 설계부터 프롬 스크래치 학습까지 전 과정을 직접 수행했다. 전체 300억개 파라미터 중 필요한 40억개만 활성화하는 전문가 혼합(MoE) 구조와 자체 개발한 선형 어텐션(Linear Attention) 기술을 결합했다. 크래프톤은 독자적인 아키텍처를 통해 빠른 응답 속도와 낮은 추론 비용을 구현했다고 설명했다. 크래프톤에 따르면 라온-1 미니 프리뷰는 해외 동급 규모 모델 대비 우수한 성능을 확보했으며, 일부 지표에서는 국내 대형 모델에 근접했다. 자연스러운 한국어 대화와 빠른 응답, 형식 지정·페르소나 설정 등 지시를 따르는 능력이 강점으로, 여러 단계 작업을 처리하는 에이전트 활용을 고려했다. 개발 과정에서는 벤치마크 점수와 함께 실제 사용 환경에서 비용 대비 성능을 높이는 데 중점을 뒀다. 크래프톤은 모델을 지속적으로 개선한 뒤 정식 버전을 선보이고, 출시 시 학습 과정과 최종 성능을 담은 테크니컬 리포트도 공개할 계획이다. 이강욱 크래프톤 CAIO는 “라온-1 미니 공개는 크래프톤이 5년 넘게 축적해 온 AI 연구개발 역량을 통해 경쟁력 있는 언어 모델을 독립적으로 개발한 성과”라며 “성능은 높이고 비용 부담은 낮춘 가성비 LLM으로 다양한 산업 현장에서 AI 활용의 폭을 넓혀 나가겠다”고 말했다. 크래프톤은 지난 4월 AI 모델 브랜드 '라온'을 출범하고 음성 언어 모델, 실시간 음성 대화 모델, 텍스트-음성 변환 모델, 비전 인코더 등 4종을 오픈소스로 공개했다. 이번 라온-1 미니 프리뷰는 향후 개발할 AI 모델의 기반이 되는 LLM이다. 크래프톤 AI 연구 조직은 현재까지 NeurIPS·ICML·ICLR 등 주요 국제 AI 학회에 논문 54편을 발표했다. 올해 NeurIPS 2026에서는 메인 트랙 논문 9편이 채택됐다.

2026.10.21 15:01정진성 기자

"챗GPT만으론 부족하다"…SAP가 짚은 기업 AI 한계, 대안은?

챗GPT처럼 글을 쓰고 질문에 답하는 인공지능(AI)만으로는 기업의 복잡한 업무를 해결하기 어렵다는 지적이 나왔다. 19일(현지시간) 독일 소프트웨어 기업 SAP는 블로그를 통해 거대언어모델(LLM)이 기업 데이터 분석과 미래 예측에 한계가 있다고 지적했다. 이를 보완할 기술로 숫자와 표에 담긴 정보를 분석하는 '테이블형 AI'를 제시했다. 챗GPT와 같은 LLM은 문서 작성과 정보 검색, 프로그래밍 등에 강하다. 기업에서는 매출과 재고, 주문 내역처럼 숫자와 표로 정리된 데이터도 많이 사용한다. SAP는 이런 데이터를 제대로 분석하려면 숫자뿐 아니라 데이터 사이의 관계까지 이해해야 한다고 설명했다. SAP가 제시한 테이블형 AI는 이런 숫자와 표를 분석해 앞으로 어떤 일이 일어날지 예측하는 기술이다. 과거 거래 기록과 판매량 등을 살펴 고객이 대금을 제때 낼지, 어떤 제품이 많이 팔릴지, 재고가 언제 부족해질지 등을 예측할 수 있다. SAP는 최근 고객에게 제공하기 시작한 'SAP-RPT-1.6'을 대표 사례로 소개했다. 이 AI는 기업이 쌓아온 데이터를 활용해 다양한 업무에 필요한 예측을 수행하도록 개발됐다. 기존에는 기업이 예측하려는 업무마다 AI를 따로 만들어야 했다. 판매량을 예측하는 AI와 거래처가 대금을 늦게 낼 가능성을 분석하는 AI를 각각 개발하고 학습시켜야 했다. AI를 운영하고 관리하는 데도 시간과 비용이 들어갔다. SAP는 하나의 AI로 여러 예측 업무를 처리하는 '테이블형 파운데이션 모델'이 이러한 부담을 줄일 수 있다고 설명했다. 기업이 새로운 업무를 맡길 때마다 AI를 처음부터 개발하지 않아도 된다는 의미다. 거래처가 대금을 늦게 낼 가능성을 분석하는 업무가 대표적이다. 과거에 돈을 제때 냈는지만 살펴서는 충분하지 않다. 최근 주문량이 줄었는지, 배송 과정에 문제가 있었는지, 해당 업계의 경기가 나빠졌는지 등을 함께 분석해야 보다 정확하게 예측할 수 있다. SAP는 기존 LLM이 숫자와 표의 관계를 분석하는 데 상대적으로 약하다고 지적했다. IBM 리서치와 스탠퍼드대 등이 참여한 연구진이 지난 7월 국제전산언어학회(ACL) 산하 학술 워크숍에서 발표한 논문에서도 LLM이 표의 형식이나 행 순서가 바뀌면 답변이 달라지는 등 한계가 확인됐다. SAP는 관련 기술을 확보하기 위해 지난 7월 테이블형 AI 전문기업 프라이어랩스를 인수했다. 프라이어랩스가 개발한 '탭PFN'과 SAP 자체 AI 모델을 결합해 기업의 숫자 데이터를 더 정확하게 분석하는 기술을 개발하고 있다. SAP는 생성형 AI가 직원들의 업무 속도를 높이는 데는 도움이 됐지만 기업의 수익을 크게 늘리는 데는 아직 한계가 있다고 설명했다. SAP가 인용한 맥킨지 조사에 따르면 AI 이용자 80%는 개인 생산성이 높아졌다고 답했다. 반면 AI 도입으로 영업이익이 크게 늘었다고 평가한 기업은 6%에 그쳤다. SAP는 챗GPT와 같은 LLM과 테이블형 AI를 함께 활용하는 방식을 제시했다. LLM은 사람의 질문을 이해하고 정보를 설명하는 데 활용하고 테이블형 AI는 기업이 보유한 숫자 데이터를 분석해 미래 상황을 예측하는 역할을 맡는 방식이다. SAP는 "중요한 것은 기업이 LLM과 테이블형 파운데이션 모델 중 무엇을 사용하느냐가 아니다"며 "각각 가장 큰 효과를 낼 수 있는 분야에서 두 기술을 결합하는 것이 중요하다"고 밝혔다.

2026.10.20 09:22김동원 기자

센드버드·업스테이지, 국산 AI로 기업용 에이전트 상용화 추진

센드버드와 업스테이지가 국산 거대언어모델(LLM)을 활용한 기업용 인공지능(AI) 에이전트 상용화에 나선다. 센드버드는 업스테이지와 국산 LLM의 기업 현장 적용 및 AI 에이전트 상용화 확대를 위한 업무협약(MOU)을 체결했다고 19일 밝혔다. 양사는 센드버드의 기업용 AI 에이전트 플랫폼 '딜라이트AI(Delight.ai)'와 업스테이지의 자체 LLM '솔라(Solar)'를 연계한다. 기업 고객의 실제 업무에 두 기술을 적용하고 검증 결과를 바탕으로 모델과 에이전트 플랫폼을 고도화할 계획이다. 우선 센드버드의 기업 고객 업무를 중심으로 솔라를 적용할 수 있는 시나리오를 발굴하고 단계적으로 검증한다. 실제 서비스 환경에서 응답 속도와 업무 수행 정확도, 고객 만족도 등을 평가하고 개선 사항을 양사 제품에 반영할 예정이다. 센드버드는 AI 에이전트 설계와 기존 시스템 연동, 테스트 및 운영 경험을 제공한다. 업스테이지는 솔라의 모델 기술을 바탕으로 기업 환경에 적합한 모델 최적화를 지원한다. 평가 결과와 관련 데이터는 고객 계약과 데이터 보호 원칙에 따라 활용한다. 양사는 지난 8월부터 파트너십을 논의하며 고객 프로젝트 적용을 위한 테스트를 진행해 왔다. 이번 협약을 계기로 공동 검증과 기술 협력을 본격화하고 적용 가능한 업무와 고객군을 확대할 계획이다. 국산 LLM 도입을 검토하는 기업의 수요를 바탕으로 소버린 AI 분야의 공동 사업 기회도 발굴한다. 센드버드는 기업 고객에게 제공하는 AI 모델 선택지를 넓히고, 업스테이지는 실제 업무 현장에서 확인한 요구를 모델 개발에 반영한다는 전략이다. 이상희 센드버드코리아 대표는 "국산 AI의 경쟁력을 세계 시장으로 확장하려면 글로벌 기업의 실제 업무 환경에서 검증하고 개선하는 경험이 중요하다"며 "업스테이지의 모델 기술과 우리 AI 에이전트 운영 역량을 결합해 국산 LLM이 고객의 실질적인 성과로 이어지는 사례를 만들겠다"고 말했다.

2026.10.19 14:39이나연 기자

얀 르쿤의 AMI랩스, 로봇에 '미래 예측 능력' 심는다

로봇이 실제 제조 현장에서 스스로 판단하고 움직이려면 행동의 결과를 미리 예측하는 '월드모델'과 빠르게 동작을 결정하는 인공지능(AI)을 결합해야 한다는 제안이 나왔다. 쿠엔틴 가리도(Quentin Garrido) AMI랩스 연구원은 14일 서울 코엑스에서 열린 '피지컬 AI 테크 위크'에서 월드모델 예측 능력을 실제 로봇 행동으로 연결하는 기술이 중요하다고 강조했다. 미래 상황을 정확하게 예측하는 것만으로는 부족하며 그 예측을 활용해 로봇이 스스로 작업을 수행하도록 만들어야 한다는 주장이다. AMI랩스는 얀 르쿤 전 메타 수석 AI 과학자가 공동 설립한 AI 연구기업이다. 거대언어모델(LLM) 중심 기존 접근법과 달리 물리 세계의 움직임과 변화를 이해하고 미래 상황을 예측하는 월드모델 개발에 주력하고 있다. 월드모델은 AI가 주변 환경을 이해하고 특정 행동에 따라 어떤 변화가 발생할지 예측하는 기술이다. 로봇이 움직이기 전에 여러 행동의 결과를 검토하고 목표 달성에 적합한 동작을 선택하는 데 활용할 수 있다. 이날 강연에서는 로봇 작업을 여러 단계로 나눠 계획해 물체를 집어 옮기는 실험의 성공률을 0%에서 70%로 높인 기존 연구 결과도 소개됐다. 로봇이 목표를 향해 한 번에 움직이는 대신 중간에 필요한 동작을 나눠 수행하도록 한 결과다. "물리 세계는 텍스트가 아니다"…행동 결과 예측하는 월드모델 가리도 연구원은 LLM과 월드모델이 정보를 학습하고 예측하는 방식에 차이가 있다고 설명했다. LLM이 문맥에 따라 다음 단어를 예측한다면 월드모델은 특정 행동을 했을 때 주변 환경이 어떻게 변할지 예측한다. 그는 계단을 오르는 동작을 사례로 들었다. 계단을 오르는 방법을 글로 자세히 설명하려면 복잡한 지시가 필요하지만 영상으로 보면 어떤 움직임인지 쉽게 이해할 수 있다. 이러한 차이는 로봇이 실제 환경에서 움직일 때 중요해진다. LLM은 중력이나 질량에 관한 지식을 설명할 수 있지만 물체가 실제로 어떻게 움직일지 정확하게 예측하는 데는 한계가 있다. 챗봇의 잘못된 답변과 달리 로봇의 판단 오류는 장비 충돌이나 인명 피해로 이어질 수도 있다. 월드모델은 로봇이 행동하기 전에 여러 결과를 비교하도록 한다. 왼쪽으로 이동하면 장애물에 부딪히고 오른쪽으로 이동하면 목적지에 도달할 수 있다면, 실제로 움직이지 않고도 두 경로를 예측해 더 적절한 방향을 선택하는 원리다. 이를 위해 활용하는 기술 중 하나가 JEPA다. 영상의 일부 정보를 가린 뒤 나머지를 바탕으로 빠진 정보를 예측하면서 물체의 움직임과 주변 환경의 특징을 학습한다. 이렇게 얻은 정보를 토대로 로봇의 행동에 따른 환경 변화를 예측하는 모델을 구축할 수 있다. 로봇 작업 성공률 70%…빠른 행동 AI와 결합 모색 월드모델을 실제 로봇 작업에 활용하려면 무엇을 먼저 하고 다음에 어떤 동작을 수행할지 계획하는 과정이 필요하다. 물체를 집어 다른 위치에 놓는 작업이라면 물체에 접근하고 집어 올린 뒤 목적지로 이동하는 순서를 정해야 한다. 그러나 최종 목표만 보고 움직임을 계획하면 중간에 필요한 동작을 제대로 찾아내지 못할 수 있다. 이를 해결하기 위해 가리도 연구원은 서로 다른 수준에서 계획하는 두 개의 월드모델을 활용했다고 밝혔다. 상위 모델이 물체에 접근하거나 집어 올리는 등 중간 목표를 정하면 하위 모델이 각 목표를 수행할 세부 동작을 결정한다. 이러한 계층적 계획을 적용한 기존 연구에서 로봇팔의 물체 집어 옮기기 성공률은 70%를 기록했다. 한 번에 작업을 계획한 비교 방식의 성공률은 0%였다. 가리도 연구원은 월드모델을 로봇의 움직임을 빠르게 결정하는 시각·언어·행동(VLA) 모델과 결합하는 방향도 제안했다. VLA 모델이 카메라 영상과 작업 지시를 바탕으로 행동을 결정한다면, 월드모델은 그 행동이 어떤 결과를 가져올지 미리 검토할 수 있다. 두 기술 차이는 인간의 사고방식에 비유할 수 있다. 익숙한 일을 빠르게 처리하는 직관적 사고가 VLA 모델에 가깝다면 여러 가능성을 따져 신중하게 판단하는 사고는 월드모델에 해당한다. 이 둘을 결합하면 VLA 모델이 행동 후보를 만들고 월드모델이 각각의 결과를 검토해 적절한 동작을 고를 수 있다. 기존 행동 AI의 빠른 처리 속도와 월드모델의 예측 능력을 함께 활용하려는 접근이다. 실제 산업 현장에 적용하려면 해결해야 할 문제도 있다. 작업 시간이 길어질수록 로봇이 계획해야 할 동작이 많아지고 미래를 예측하는 과정에서 오류가 누적될 수 있기 때문이다. 강연 이후 질의응답에서도 장시간 작업을 계획할 때 발생하는 연산 부담이 거론됐다. 가리도 연구원은 작업을 여러 단계로 나누는 계층적 계획과 연산을 동시에 처리하는 병렬화 기술을 해결 방향으로 제시했다. 월드모델이 현실의 문제를 해결할 수 있는 수준으로 발전해야 한다는 점도 거듭 강조했다. 영상을 생성하거나 미래 상황을 예측하는 성능이 높더라도 실제 로봇이 작업을 수행하지 못한다면 활용에 한계가 있다는 판단이다. 가리도 연구원은 "세계의 미래를 예측할 수 있는 모델을 어떻게 실제 문제 해결에 활용할 것인가가 남은 과제"라며 "월드모델을 조금 더 개선하는 것보다 그 능력을 실제 작업에 활용하는 방법이 중요하다"고 말했다.

2026.10.14 16:59김동원 기자

베슬AI, 업스테이지 '솔라 프로4' 글로벌 추론 뒷받침…처리속도 최대 3배↑

베슬AI가 업스테이지의 인공지능(AI) 모델 '솔라 프로4'의 글로벌 추론 인프라 운영을 맡으며 사업 영역을 확대하고 있다. 그래픽처리장치(GPU) 인프라 공급을 넘어 AI 모델의 실제 서비스 운영까지 지원하며 글로벌 추론 시장 공략에 속도를 내는 모습이다. 베슬AI는 업스테이지의 거대언어모델(LLM) 솔라 프로4에 글로벌 추론 인프라를 제공하고 자체 최적화 기술을 적용해 처리 속도와 운영 비용을 개선했다고 12일 밝혔다. 솔라 프로4는 지난 9월 글로벌 LLM 마켓플레이스 '오픈라우터'에서 실제 이용량 기준 3위에 올랐다. 베슬AI는 해당 기간 솔라 프로4의 글로벌 추론 서비스 운영을 담당하며 전 세계 이용자들의 요청을 처리했다. 특히 솔라 프로4의 일일 토큰 처리량이 80억개에서 1550억개로 약 19배 증가하는 동안 필요한 추론 인프라를 지원했다. 국내에서 개발한 AI 모델의 글로벌 이용 확대를 국내 네오클라우드 기업의 인프라가 뒷받침한 사례다. AI 추론은 학습을 마친 모델이 실제 서비스 환경에서 이용자의 질문이나 요청을 처리하는 과정이다. 신규 모델 출시나 프로모션 등으로 이용량이 급증할 경우 안정적인 서비스를 유지하기 위해 충분한 GPU 자원과 효율적인 운영 기술이 필요하다. 베슬AI는 업스테이지와 모델 출시 일정과 예상 수요를 공유하고 필요한 추론 용량을 공동으로 설계했다. 한국과 유럽, 미국 등 여러 지역에 확보한 GPU 클러스터를 활용해 글로벌 이용자의 요청에 대응했다. 자체 추론 엔진 최적화 기술도 적용했다. 모델 특성과 실제 이용 패턴에 맞춰 GPU 자원을 배분하고 캐시 활용률 개선, 모델 양자화, 추론 속도 향상 기술 등을 적용해 처리 효율을 높였다는 설명이다. 그 결과 베슬AI에 따르면 추론 엔드포인트 도입 전후를 비교했을 때 처리 속도가 평균 2배, 최대 3배 향상됐다. 캐시 활용률 개선을 통해 토큰당 비용도 최대 50% 절감했다. 이번 협력으로 업스테이지는 모델 연구와 제품 개발에 집중하고 베슬AI는 수요 예측부터 인프라 구성, 추론 서비스 운영까지 담당하는 구조를 마련했다. 베슬AI는 앞으로도 솔라 모델의 글로벌 이용 확대에 필요한 추론 인프라를 지원할 계획이다. 베슬AI는 최근 SK바이오팜에 AI 연구개발용 GPU 인프라를 공급하고 네오AI와 포항 AI 데이터센터의 GPU 플랫폼 구축·운영 협약을 체결하는 등 기업 고객과 인프라 사업을 확대 중이다. 여기에 솔라 프로4 운영 경험을 더해 AI 모델의 추론 서비스를 제공하는 인퍼런스 프로바이더로 사업 영역을 넓힌다는 전략이다. 안재만 베슬AI 대표는 "이번 협력은 한국에서 개발한 모델의 글로벌 성과를 한국 네오클라우드의 인프라로 뒷받침했다는 점에서 의미가 크다"며 "축적한 인퍼런스 운영 경험을 바탕으로 모델 제공자가 연구와 제품 개발에 집중할 수 있는 환경을 제공하고 기업의 안정적인 오픈소스 모델 도입을 지원하도록 인퍼런스 프로바이더로서 역량을 강화하겠다"고 말했다.

2026.10.12 14:25한정호 기자

알파코드, 기업 내 안전한 AI 활용 돕는 플랫폼 3종 공개

AI 전문기업 알파코드가 기업 내 대외비 정보나 고객사 정보 등 민감한 정보 외부 유출 우려를 줄이는 동시에 AI를 활용해 생산성을 높일 수 있는 플랫폼 3종을 'AI 페스타 26'에 출품했다. 'AI 페스타 26'은 과학기술정보통신부가 주관하는 '인공지능주간(AI WEEK)'의 일환으로 6일부터 8일까지 서울 삼성동 코엑스에서 열리는 B2B AI 전시회다. 올해는 212개 기업이 501개 부스로 참여해 기업과 정부 관계자, 학계와 일반 소비자 대상으로 신제품과 기술을 소개한다. 8일 오전 전시부스에서 만난 알파코드 관계자는 "기업들은 AI의 편리함과 유용성을 알고 있지만 내부 정보 유출 등 우려로 활용을 망설이고 있다"고 설명했다. 이어 "이런 문제를 해결하려면 서버를 조직 내에 두는 '온프레미스' 구성이 필요하다. 이번 행사에는 온톨로지 구성 플랫폼 1종, LLM 관리도구 1종, AI 에이전트 1종 등 총 3개 플랫폼을 소개하고 있다"고 덧붙였다. '그래비티(Gravity)'는 기업 내 PC나 저장장치, 클라우드에 흩어진 사규, 매뉴얼, 회의록, 견적서 등 각종 사내 문서를 단순히 수집하는 데 그치지 않고 AI가 쉽게 활용할 수 있도록 정리해 주는 데이터 플랫폼이다. 수집한 문서는 각 산업에 맞는 온톨로지 기반 지식 지도로 변환되며 AI가 답변을 생성할 때 답변에 대한 근거도 제시할 수 있도록 돕는다. '노바(Nova)'는 외부 네트워크와 단절된 폐쇄망에서 운영되는 거대언어모델(LLM) 관리를 위한 운영 도구다. 프롬프트 작성과 평가부터 배포·운영, 데이터 가공까지 LLM 운영 과정 전반을 사내 콘솔에서 관리할 수 있다. '제니스(Zenith)'는 알파코드가 추진중인 에이전틱 AI 플랫폼이다. 이용자가 업무에 필요한 기능이나 동작 등을 대화로 알려주면 이에 따라 자동으로 AI 에이전트를 생성하고 팀 단위로 분리된 구성원에게 배포해 업무 효율을 높일 수 있다. 알파코드 관계자는 "회의록 자동작성은 모든 부서에 필요하지만 출장비용 청구서의 허위 내역을 감지하는 기능은 재무/경영지원 부서에만 필요할 수 있다"며 "특정 업무나 부서에 필요한 AI 에이전트를 직접 구축하고 활용하는 환경을 제공하는 것이 목표"라고 밝혔다. 알파코드는 2019년 메가존내 조직인 AI센터 팀으로 출발해 2022년 독립한 일종의 사내벤처다. 딥러닝, 컴퓨터 비전, 자연어 처리(NLP) 등을 기반으로 이미지 인식, 판매 예측, 디지털 휴먼, 생성형 AI 등 다양한 프로젝트를 수행해왔다. 알파코드 관계자는 "이번에 출품한 플랫폼 3종은 고객사 내 온프레미스 구동으로 맞춤형 설계를 통해 범용 AI의 문제로 지적되는 정보유출 우려와 도메인 특화 관련 지식 구축을 해소할 수 있다"고 설명했다. 그는 이어 "기존 AI 프로젝트 경험을 살려 고객사의 요구에 맞는 AI 전환을 위한 솔루션을 공급해 영역 확장에 나설 것"이라고 덧붙였다.

2026.10.08 12:29권봉석 기자

"수작업 데이터 구성 AI가 대신"...미소정보기술, 기업용 '스마트빅' 공개

기업 내부의 방대한 데이터를 AI가 자동으로 정리하고, 필요한 정보를 찾아 답변하는 기업용 AI 서비스 구축이 한층 편리해진다. 사람이 일일이 처리하던 데이터 구성 작업을 자동화하고, 외부 클라우드에 데이터를 보내지 않고도 AI를 활용할 수 있도록 보안 기능도 강화했다. AI·데이터 전문기업 미소정보기술은 서울 삼성동 코엑스에서 지난 6일부터 사흘간 열리는 'AI 페스타 26'에서 대형언어모델(LLM)과 검색증강생성(RAG) 기술을 기반으로 기업 내부 문서와 데이터를 활용하는 솔루션 '스마트빅'을 선보였다. 스마트빅은 기업이 보유한 다양한 문서와 데이터에서 필요한 정보를 검색하고, 이를 근거로 답변을 생성하는 솔루션이다. 기업 내부에 축적된 데이터를 AI 서비스에 활용하면서 답변의 근거를 함께 확보할 수 있도록 설계됐다. 미소정보기술 전시 부스에서는 온톨로지 구성 자동화 기술이 소개됐다. 온톨로지는 데이터의 개념과 속성, 상호 관계를 정의하는 지식 구조로, 기존에는 사람이 데이터 간 관계를 일일이 설정하고 정리해야 했다. 이 같은 작업에 AI를 적용해 온톨로지 구축에 필요한 시간과 수작업 부담을 줄였다. 기업이 보유한 데이터를 서로 연결하고 AI가 활용할 수 있는 지식 구조로 만드는 과정을 자동화한 것이 특징이다. 개발자를 위한 워크플로우 기반 솔루션도 선보였다. 여러 메타데이터를 연결한 뒤 검증 과정을 거쳐 서로 다른 소스의 데이터를 한곳에서 편집하거나 테이블을 수정할 수 있도록 지원한다. 고급 추출 기능을 통해 데이터 편집과 구성 작업의 편의성을 높였다. 함께 선보인 채팅플로우 노드 구성 기획 도구는 소스코드를 처음부터 작성하지 않아도 AI 서비스의 작동 흐름을 설계할 수 있도록 했다. 사용자가 질문을 입력하면 관련 문서를 검색하고 답변을 생성하는 챗봇 형태의 워크플로우를 노드 단위로 연결해 구성하고 배포할 수 있다. 기업 데이터 보호를 위한 내부망 구축 방식을 특히 강조했다. 미소정보기술은 서비스 개발 단계부터 행정안전부의 시큐어 코딩 지침을 준수했으며, 공공기관이나 기업에 솔루션을 공급할 때 외부망과 분리된 내부망에 구축하는 방식을 적용하고 있다. 데이터를 저장하는 스토리지 역시 외부 접근이 차단된 내부 저장소를 활용한다. 기업의 민감한 정보를 외부 클라우드로 전송하지 않고 자체 환경에서 AI 서비스를 운영할 수 있도록 한 것이다. 미소정보기술 관계자는 “기업 고객은 AI 도입은 원하지만 사내 데이터가 외부에 유출되지 않았기를 바라는 요구가 많다”며 “이를 위해 외부 클라우드가 아닌 내부 폐쇄망 환경에서도 온전하게 구동되는 온프레미스 구축 서비스를 구축했다”고 말했다. 미소정보기술은 표준화된 솔루션을 일괄 공급하는 방식에서 벗어나 기업별 데이터 환경과 업무 특성에 맞춰 기능을 개발하고 적용하는 맞춤형 서비스에도 주력하고 있다. 이 관계자는 “기업마다 필요한 기능과 서비스가 다른 만큼, 정형화된 솔루션 공급을 넘어 개별 요구에 부합하는 맞춤형 개발과 밀착 대응을 이어가겠다”고 밝혔다.

2026.10.08 12:04홍지후 기자

"작은 모델도 폐쇄망서 충분히 보안 취약점 탐지"

"미토스(Mythos)급 프론티어 모델을 독자적으로 개발 및 운영하는 것은 '기술 이슈'라기보다 초거대 GPU 인프라 '투자 이슈' 입니다. 에이전트 오케스트레이션 기반의 소형특화모델(sLLM)을 활용해야 합니다." 김호원 스마트엠투엠 대표는 7일 서울 코엑스에서 열린 '대한민국 사이버보안 콘퍼런스 2026'에서 이 같이 밝혔다. 김 대표는 한국정보보호학회 회장도 맡고 있다. 이날 김 대표는 'SmartX: 온프레미스 대규모언어모델(LLM) 기반 사이버보안 취약성 탐지 기술'을 주제로 발표했다. '스마트X'는 스마트엠투엠이 개발한 취약점 탐지 솔루션이다. 김 대표는 "우리 목적은 폐쇄망에서도 충분한 보안 취약성을 찾아서 대응할 수 있는 것을 만드는 것”이라고 밝혔다. 초거대 AI 개발과 외부 서비스 이용에 따른 비용·정보 관리 부담을 줄이면서 취약점 탐지와 실제 악용 가능성 검증을 연결해야 한다는 것이다. 김 대표는 AI 에이전트 발전으로 취약점 탐지와 공격의 문턱이 낮아지고 있다고 진단했다. 시스템을 분석하고 도구를 실행해 허점을 확인하는 기술은 방어를 위한 점검에 활용할 수 있지만 공격에도 쓰일 수 있다. 취약점 탐지 능력을 좌우하는 요소로는 모델의 추론 성능과 분석 도구 연동, 반복 검증, 에이전트 간 협업을 꼽았다. AI가 운영체제와 메모리 관리, 기존 공격방식 등에 관한 지식을 바탕으로 취약점을 추론하고 실제 작동 여부를 확인하는 과정이 필요하다는 것이다. 다만 고성능 초거대 모델을 직접 개발하고 운영하려면 대규모 GPU와 전력, 운영비가 필요하다. 김 대표는 방어 목적의 점검에서는 보안 특화 모델과 에이전트를 활용하는 접근이 가능하다고 봤다. 외부 AI 서비스를 API로 연결하는 방식에 대해서는 점검 대상에 따라 정보 관리 부담이 달라진다고 지적했다. 공개된 웹사이트와 달리 내부 시스템을 분석할 때는 소스코드와 취약점 등 민감한 정보를 다루기 때문이다. 그는 “공공기관이나 제조기업의 내부 취약점을 볼 때 API를 연동하는 순간 기업이나 기관 입장에서는 고민할 거리가 굉장히 많다”고 말했다. 이에 대한 대안으로 보안에 특화한 소형 언어모델과 역할별 에이전트, 기존 보안 도구를 결합하는 방식을 제시했다. 기관이 보유한 GPU와 점검 목적에 맞춰 모델을 구성하고 내부 서버에서 운영하도록 한다는 구상이다. 김 대표는 특히 여러 에이전트가 목표를 유지하면서 작업을 나누고 결과를 공유하는 능력을 강조했다. 정보를 수집하고 취약점을 탐색한 뒤 결과를 교차 검증하고, 중복된 발견을 제거하는 식이다. 마지막에는 격리된 가상 환경에서 실제 악용 가능성을 시험해 탐지 결과를 입증한다. 마이크로소프트의 MDASH와 중국 치후360의 투룽펑을 사례로 들며 역할별 에이전트의 협업과 분석 결과 공유가 중요하다고 설명했다. 그는 “에이전트가 얼마나 잘 협업하느냐, 내가 지금 무엇을 하고 있는지 요약하고 다른 에이전트와 협업을 잘하느냐”를 핵심 역량으로 꼽았다. 스마트엠투엠의 SmartX도 이러한 협업 구조를 적용했다. 김 대표에 따르면 초기에는 오픈 웨이트 모델을 활용했으며 현재 버전에는 약 300억개 매개변수의 모델을 보안에 특화하도록 추가 학습했다. 여러 에이전트가 분석과 실행, 검증을 나눠 수행하고 취약점을 찾지 못하면 결과를 바탕으로 다음 작업을 이어간다. 김 대표는 보안 지식을 학습시키는 것과 함께 작업 순서를 판단하는 능력도 갖춰야 한다고 강조했다. 같은 작업을 반복하거나 탐색을 중단하는 대신 이전 시도에서 무엇을 확인했는지 파악하고 다음 행동을 결정해야 한다는 것이다. 그는 “모델 자체가 작더라도 에이전트만 잘 만들면 어느 정도까지 간다”며 “결국 작은 모델은 한계에 부딪히기 때문에 특화 모델로 가야 한다”고 말했다. SmartX는 Cybench 평가에서 87.5% 이상의 과제를 해결했다. CyberGym을 활용한 평가도 진행하고 있다. 취약점 점검뿐 아니라 관련 증거 수집과 보고서 작성, 대응 방안 제시까지 연결하고 KISA·국정원 등의 보안 점검 기준에 대응하는 방향으로 기술을 개발하고 있다. AI의 행동을 통제하는 운영 안전성도 과제로 꼽았다. 취약점을 검증하는 과정에서 AI가 허용된 범위를 벗어나지 않도록 관리하고 실제 운영 시스템과 분리된 환경에서 시험해야 한다는 설명이다. 보안 점검에 사용하는 AI 자체의 취약점에도 대응해야 한다고 덧붙였다. 이미지와 음성 등을 함께 처리하는 멀티모달 AI에서는 입력에 숨겨진 악성 지시나 교란으로 AI를 속이는 공격이 가능하기 때문이다. 김 대표는 “LLM 자체의 취약점이 많다”며 이러한 공격에도 대응할 필요가 있다고 강조했다.

2026.10.08 11:13김민아 기자

"서버 구축부터 추론까지"…망고부스트, AI 풀스택 생태계 확장

망고부스트가 AMD 기반 하드웨어와 자체 소프트웨어를 결합해 인공지능(AI) 풀스택 사업 확대에 나섰다. 서버 간 데이터 이동을 최적화하는 반도체부터 모델 실행을 지원하는 소프트웨어, 추론 서비스까지 연결해 인프라 운영 효율과 가격 경쟁력을 확보하겠다는 구상이다. 망고부스트는 6~8일 서울 코엑스에서 열리는 'AI페스타 2026'에서 그래픽처리장치(GPU) 서버 '알폰소'와 스토리지 서버 '케사르', 자체 데이터처리장치(DPU) '부스트X'를 전시했다. GPU 서버 알폰소는 AMD 인스팅트 GPU에 자체 DPU와 추론 최적화 소프트웨어 'LLM부스트'를 결합한 제품이다. 기업이 연산 수요와 예산에 따라 선택할 수 있도록 고성능형과 중급형으로 제품군을 구성했다. 여기에 적용한 '부스트X RoCE AI'는 최대 400기가비트(GbE) 연결을 지원해 여러 서버가 AI 작업을 나눠 수행할 때 데이터 전송 부담을 줄인다. LLM부스트는 모델 구조와 하드웨어 구성, 실시간 요청량에 맞춰 실행 설정을 자동으로 조정하고 여러 GPU와 서버에 작업을 분산한다. AMD GPU 소프트웨어 플랫폼 'ROCm'과 연동해 서로 다른 세대의 AMD GPU를 동시에 사용하는 환경에서도 추론 작업을 지원한다. 이날 부스를 지키던 곽효윤 망고부스트 전략기획팀 매니저는 "LLM부스트는 자체 서버와 소프트웨어를 함께 최적화해 토큰 처리 효율을 높이는 것이 강점"이라고 강조했다. 이날 전시된 스토리지 서버 케사르는 연산과 제어를 담당하는 컨트롤러와 저장 용량을 확장하는 인클로저로 이뤄졌다. 컨트롤러에는 AMD 에픽 중앙처리장치(CPU)를 탑재하고, 인클로저에는 자체 DPU '부스트X NRT'가 적용됐다. 곽 매니저는 "이 서버는 별도 CPU와 D램 없이 SSD를 네트워크에 연결할 수 있다"며 "GPU 서버가 AI 연산을 수행하고 스토리지가 데이터를 공급하는 과정에서 DPU가 데이터 이동을 가속하는 구조"라고 제품을 설명했다. 망고부스트는 이들 장비와 소프트웨어를 결합해 약 1메가와트(MW) 규모의 자체 AI 데이터센터를 구축하고 있다. 향후 5MW와 100MW 규모로 확장할 계획이다. 이를 기반으로 이용자가 API 키를 발급받아 코딩 프로그램 등에서 최신 오픈 모델을 호출하는 추론 서비스도 제공할 방침이다. 요금은 토큰 사용량에 따라 부과하며, 모델 실행을 최적화해 이용 비용을 낮추겠다는 전략이다. 곽 매니저는 "우리는 향후 개별 부품 공급을 넘어 데이터센터에 즉시 구축할 수 있는 랙 단위 시스템과 서버리스 추론 서비스까지 제공할 것"이라고 밝혔다.

2026.10.07 14:10김미정 기자

롯데이노베이트, AI로 집 안까지 바꾼다…스마트홈 AX 확대

롯데이노베이트가 자체 거대언어모델(LLM)을 활용한 인공지능(AI) 음성인식 기술을 스마트홈에 적용하며 주거 분야까지 AI 전환(AX) 사업을 확대한다. 건설·농업 현장에서 축적한 AI 기술을 생활 공간으로 넓혀 산업별 AX 사업을 강화한다는 전략이다. 롯데이노베이트는 롯데건설과 협력해 자연어 음성 기반 'AI 음성인식 홈네트워크 서비스'를 개발했다고 7일 밝혔다. 이번 서비스는 국내 건설사 최초로 스마트홈 애플리케이션(앱) 내에서 음성으로 세대 내 기기를 제어할 수 있도록 구현했다. 지난 2024년 업그레이드된 홈네트워크 시스템 '롯데 스마트홈 2.0'에 탑재되며 향후 준공되는 롯데캐슬과 르엘 단지부터 순차적으로 적용할 예정이다. 별도의 AI 스피커나 추가 장비 없이 스마트홈 앱에서 자연어 음성 명령으로 집 안의 주요 설비를 제어할 수 있는 것이 특징이다. 입주민이 "거실 조명 켜줘", "에어컨 25도로 맞춰줘"와 같이 일상적으로 사용하는 말로 조명과 냉난방 등을 조작할 수 있다. AI 음성인식 홈네트워크 서비스에는 롯데이노베이트의 생성형 AI 플랫폼 '아이멤버'에 적용된 자체 LLM을 활용했다. 자체 AI 기술을 기반으로 구현해 향후 고객 요구나 주거 환경 특성에 따라 음성 명령 범위를 확대하는 등 서비스 고도화도 추진할 수 있다. 롯데이노베이트는 생성형 AI를 건설과 농업 등 다양한 산업 현장에 적용하며 AX 사업 영역을 넓히고 있다. 건설 분야에선 '가새', '띠장' 등 현장 전문용어까지 인식하는 AI 음성 번역 서비스를 개발했다. 외국인 근로자와의 의사소통을 지원하는 서비스로 롯데건설에 이어 대우건설 현장까지 적용 범위를 확대했다. 농업 분야에선 LLM 기반 AI 에이전트와 비전 AI를 활용해 스마트팜을 고도화 중이다. AI 에이전트가 작물별 재배 방법과 농산물 시세 정보를 제공하고 비전 AI는 작물의 생육 상태와 수확량, 병해충 발생 가능성 등을 예측한다. 롯데이노베이트는 이번 홈네트워크 서비스를 계기로 AI 적용 영역을 주거 공간까지 확대한다는 목표다. 향후 건설·농업·주거 등 산업과 생활 현장별 특성에 맞는 AI 서비스를 발굴하고 현장 문제 해결에 초점을 맞춘 엔터프라이즈 AI 사업을 강화할 계획이다. 롯데이노베이트 관계자는 "AI의 가치는 기술 자체보다 실제 현장에서 어떤 변화를 만들어내느냐에 있다"며 "건설 현장부터 농업, 주거 공간까지 축적해온 AI 적용 경험을 바탕으로 고객과 산업의 특성에 맞는 AX를 지속적으로 확대해 나가겠다"고 말했다.

2026.10.07 09:22한정호 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next