검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'셀렉트스타'통합검색 결과 입니다. (44건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

셀렉트스타, 금융권 AI 신뢰성 검증 역할 강화

셀렉트스타가 금융업계 인공지능(AI) 안전성 교육과 범용·금융 특화 취약점 확인 역량을 앞세워 금융권 AI 신뢰성 검증 분야 입지를 넓힌다. 셀렉트스타는 금융보안원이 주최하고 카카오뱅크가 후원하는 '2026 금융보안 AI 아카데미 캠프'에서 AI 신뢰성 검증 '다투모 플랫폼' 제공 등 행사 운영을 담당했다고 23일 밝혔다. 금융보안 AI 아카데미 캠프는 AI 정보보안에 관심 있는 대학(원)생을 대상으로 금융권 AI·보안 분야의 실무 역량을 높이기 위해 마련된 단기 집중 교육 프로그램이다. 지난 20일부터 22일까지 경기도 용인 카카오 AI 캠퍼스에서 열린 올해 행사에는 50명이 참가했다. 첫날은 김민우 셀렉트스타 AI 세이프티 팀 리더가 강연자로 나서 AI 안전성과 보안에 관한 이론 및 실습 교육을 진행했다. 교육은 OWASP 거대언어모델(LLM) 톱 10을 비롯해 AI 레드티밍 기법, 자동 AI 레드티밍, AI 가드레일, 금융 특화 AI 세이프티 평가 등 최신 AI 보안 기술과 연구 동향을 중심으로 구성됐다. 이튿날 진행된 레드팀 챌린지는 범용 안전성과 금융 특화 안전성 영역으로 구분해 1부 개인전, 2부 팀전으로 운영됐다. 참가자들은 각 미션에 따라 다양한 공격 기법을 설계·적용하면서 AI 모델의 취약점을 발굴하고 금융 서비스 환경에서 발생할 수 있는 위험 요소를 분석했다. 셀렉트스타는 레드티밍 결과를 신속하고 일관된 기준으로 판별할 수 있도록 챌린지 운영에 AI 자동 평가 시스템을 도입했다. 다수의 참가자가 제출하는 공격 결과를 자동으로 분석·채점해 평가 속도와 정확성을 높였다. 2부 팀전에서는 국내 최초로 '인간 대 AI' 방식의 레드티밍 대결이 진행됐다. 참가자들은 5명씩 조를 이뤄 AI 에이전트와 동일한 미션을 수행했는데, 멀티 AI 에이전트 레드티머가 인간을 근소한 차이로 앞섰다. 김 리더는 "생성형 AI가 금융 서비스에 빠르게 적용되면서 범용적인 안전성뿐만 아니라 금융 도메인의 특성과 규제를 반영한 정교한 검증 역량이 중요해지고 있다"며 "이번 캠프가 금융 서비스의 특성과 규제를 반영한 AI 안전성 평가를 직접 경험하고, 잠재적 위험에 어떻게 대응해야 할지 고민하는 계기가 됐길 바란다"고 말했다.

2026.07.23 15:41이나연 기자

[AI 리더스] 셀렉트스타는 어떻게 은행 '신뢰성 검증' 도맡았나

"사람이 100% 수작업으로 했다면 60일이 걸렸을 평가를 50분 만에 끝냈습니다." 김세엽 셀렉트스타 대표는 지난 13일 서울 강남구 본사에서 지디넷코리아와 만나 NH농협은행 생성형 인공지능(AI) 서비스 검증 사례를 이같이 소개했다. NH농협은행은 사내 업무·금융 지식 질의응답 AI를 개발하면서 셀렉트스타의 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 도입했다. 평가 기간이 두 달에서 한 시간 이내로 줄면서 AI를 수정할 때마다 검증을 다시 돌려 목표 성능에 도달했는지 확인할 수 있게 됐다. 다투모 이밸을 정식 도입한 은행은 NH농협은행만이 아니다. 우리은행은 국내 최초 AI 청약 상담 서비스를 개발하며 금융보안원 보안성 검증을 이 솔루션으로 진행했고, 신한은행은 현업 부서가 직접 AI 서비스를 만드는 전사 생성형 AI 플랫폼에 평가 모듈로 탑재했다. 세 은행 모두 별도 기술검증(PoC) 기간 없이 곧바로 정식 도입을 택했다. 김 대표는 "세 은행 모두 생성형 AI를 도입하는 과정에 평가가 필수라는 인식이 명확했다"며 "다투모 이밸이 정확하고 일관되게 목표 수준 도달 여부를 확인해 준다는 점이 바로 도입으로 이어졌다"고 설명했다. 은행들이 AI 서비스 평가를 속속 도입하게 된 배경에는 바로 규제 완화가 있다. 금융당국이 망분리 규제를 풀고 혁신금융서비스 제도로 외부 AI 활용 길을 열자 은행의 AI 도입은 그룹 차원으로 확산됐다. 하지만 서비스 신뢰도를 확인하는 검증 절차는 사람이 일일이 평가 질문을 만들고 답변을 검수하는 수작업에 머물러 있었다. 김 대표는 "사람이 직접 평가하던 방식으로는 충분한 AI 검증이 이뤄질 수 없었다"며 "고객 신뢰와 리스크 관리가 핵심인 금융에서 안전성 판단이 서지 않으면 어떤 액션도 할 수 없다"고 강조했다. 은행들이 AI 서비스 도입에 있어 가장 경계하는 위험은 환각(할루시네이션)이다. 상품 설명서와 약관 등 정해진 문서를 근거로 답해야 하는 업무 특성상 AI가 없는 내용을 지어내면 곧바로 금융 사고로 이어지기 때문이다. 민감 정보 유출을 막는 보안 평가, 편향·부적절 발언을 거르는 안전성 평가도 주요 검증 항목으로 꼽힌다. 여기에 AI가 실제 업무를 수행하는 에이전트로 진화하면서 정답이 정해지지 않은 업무까지 원칙 기준으로 채점해야 하는 단계에 이르렀다. 셀렉트스타는 라우터·플래너·툴콜링 등 에이전트 핵심 구성 요소 하나하나를 평가하도록 솔루션을 확장했다. 문제는 평가를 반복할수록 커지는 비용 부담이다. AI 답변을 채점할 때마다 거대언어모델(LLM)을 가져와 쓰면 그만큼 컴퓨팅 비용이 불어난다. 이를 보완하기 위해 등장한 평가 특화 모델들은 언어나 도메인이 바뀌면 채점 성능이 급격히 떨어지는 한계가 있었다. 셀렉트스타가 채점 성능은 유지하면서 크기를 줄인 평가 특화 소형 모델 '이스타(E-Star) 12B'를 직접 개발한 이유다. 이 모델은 언어가 영어에서 한국어로, 분야가 일반에서 금융·법률로 바뀌어도 일관된 평가 성능을 낸다. 관련 논문은 최근 자연어처리 분야 국제 학회 ACL 2026 워크숍에 채택되기도 했다. 김 대표는 "E-Star 12B는 오픈AI 'GPT-5.5' 96% 수준으로 평가하면서도 크기가 작아 반복 평가에 드는 컴퓨팅 부담을 줄였다"며 "보안 규정상 외부 AI로 데이터를 보낼 수 없는 금융사 내부망에서 구동되는 점도 강점"이라고 부연했다. 기술 못지않은 차별점은 운영 방식에 있다. 셀렉트스타는 평가 지표 131종을 기본 제공하면서 사내 신뢰성 평가 전문가가 고객 도메인 전문가와 함께 지표를 새로 설계하는 컨설팅을 병행한다. 이 전담 인력만 전체 임직원 170명(5월 말 기준) 가운데 18명이다. 팔란티어의 전방 배치 엔지니어(FDE)처럼 고객 문제를 직접 풀며 얻은 경험을 제품에 쌓아 경쟁사들과의 격차를 벌리겠다는 전략이다. 김 대표는 "이 사이클을 얼마나 돌렸느냐가 결국 진입장벽"이라며 "해외에도 평가 플랫폼은 있지만 컨설팅까지 함께 제공하는 곳은 많지 않다"고 강조했다. 금융에서 쌓은 경험은 다른 산업으로 확장되고 있다. 공공·국방 분야에서는 일부 사업 수주가 확정돼 계약 절차를 밟는 중이다. 제조 분야에서는 AI 판단 오류가 물리적 사고로 이어질 수 있는 피지컬 AI를 겨냥해 사내 연구소가 평가 기술 연구개발에 들어갔다. 해외 시장은 미국과 일본, 중동 세 축으로 공략한다. 이미 지사를 둔 미국에서는 전략적 투자자인 세일즈포스와 협업 접점을 넓히고 있다. 일본의 경우 K-스타트업센터(KSC) 도쿄 입주 프로그램에 선정돼 지사 설립을 위한 거점부터 확보했다. 중동은 데이터센터부터 모델까지 국가 차원의 소버린(주권) AI를 추진하는 만큼 관련한 초기 협력 논의를 진행하고 있다. 김 대표는 "신뢰성 평가는 한 번 하고 끝나는 일이 아니라 AI를 운영하는 내내 반복적으로 돌아가는 구조"라며 "고객이 AI 서비스를 지속적으로 개선하도록 돕는 엔드투엔드 플랫폼을 만드는 것이 목표"라고 밝혔다.

2026.07.19 08:06이나연 기자

[SW키트] AI가 직접 일하는 시대…신뢰성 검증 시장 커진다

생성형 인공지능(AI)이 산업 전반에 확산하면서 AI 결과물 신뢰성을 검증하는 시장이 성장하고 있다. 17일 IT 업계에 따르면 AI 기업들은 생성형 AI가 작성한 문서를 비롯한 AI 모델 답변 품질, 이미지·영상·음성의 조작 여부를 판별하는 솔루션 공급에 나섰다. 사람이 AI 결과물을 일일이 확인해야 하는 부담이 커지면서 검증 업무에도 AI를 활용하려는 수요가 늘어난 영향이다. AI 신뢰성 검증 시장은 세 영역으로 나뉜다. AI가 작성한 글을 판별하는 텍스트 검증과 모델 정확도·안전성을 평가하는 모델 검증, 이미지·영상·음성 진위를 확인하는 멀티미디어 검증이 대표적이다. 텍스트 검증 시장에서는 학교 과제와 연구 논문, 기업 채용을 위한 자기소개서 중심으로 수요가 확대되고 있다. 이에 발맞춰 무하유는 표절검사 서비스 '카피킬러'를 운영하며 쌓은 데이터 분석과 자연어 처리 기술을 기반으로 AI 작성 탐지 솔루션 'GPT킬러'를 개발했다. GPT킬러는 문서를 문단 단위로 분석해 생성형 AI가 작성했을 확률을 제시하고 AI가 생성했을 가능성이 높은 단어의 확률을 역추적하는 솔루션이다. 문서 전체에 대한 판정만 내리는 것이 아니라 AI 작성이 의심되는 부분을 문단별로 보여줄 수 있어, 사용자가 판단 근거를 다시 확인할 수 있도록 돕는다. 해당 솔루션 기술은 카피킬러와 AI 서류평가 솔루션 '프리즘'에도 적용됐다. 무하유는 지원자의 답변 내용과 면접 태도를 분석하는 AI 면접 솔루션 '몬스터'도 운영하고 있다. 프리즘은 자기소개서 등 서류를 분석해 직무 적합도를 평가한다. 몬스터는 지원자 답변을 바탕으로 직무·조직 적합도와 면접 태도, 의사소통 능력을 종합적으로 검토한다. 두 솔루션은 합격과 불합격 결과만 제시하지 않고 어떤 기준과 근거로 결론을 내렸는지 함께 보여준다. AI의 판단 과정을 사람이 다시 확인할 수 있어야 결과도 신뢰할 수 있다는 설명가능성 중심의 검증 체계를 적용했다. 무하유는 한국어뿐 아니라 일본어 시장도 공략하고 있다. 지난 2020년 출시한 일본어 표절검사 서비스 '카피모니터'는 현재 80개 고객사와 22만명 이상이 이용하고 있으며 일부 일본 대학은 과제 제출 과정에서 검사를 의무화했다. 프리즘과 몬스터는 AI 신뢰성 인증과 정보보호관리체계 인증을 취득했다. 두 솔루션은 현재 700개 이상 고객사의 채용 과정에서 활용되고 있다. 셀렉트스타, AI 모델 품질 따진다…딥브레인AI, 멀티미디어 검증 나서 AI 모델 자체 신뢰성을 검증하는 시장도 커지고 있다. 모델 환각과 편향성, 유해 답변, 검색증장생성(RAG) 품질과 정확성을 따져 모델 기반 서비스 질을 높이기 위한 전략이다. 셀렉트스타는 생성형 AI 평가 플랫폼 '다투모 이벨'로 기업용 AI 모델 신뢰성을 검증하고 있다. 고객사가 보유한 정책과 상품 문서를 바탕으로 실제 이용 환경을 반영한 평가 질문을 만들고 AI 응답을 항목별 기준에 따라 자동 채점하는 식이다. 기업은 GPT-4o와 클로드, 라마 등 여러 모델을 동일한 데이터셋으로 평가할 수 있다. 모델별 정확도와 안전성을 비교해 자사 서비스에 적합한 모델을 선정하거나 운영 중인 AI의 품질을 관리할 수 있다. 셀렉트스타는 신한은행과 우리은행, NH농협은행 등 주요 시중은행에 AI 신뢰성 검증 솔루션을 공급했다. 금융권에서 생성형 AI 활용이 확대되면서 잘못된 정보 제공과 유해 답변을 사전에 차단하려는 수요가 늘어났다는 평이 이어지고 있다. AI가 만든 이미지와 영상, 음성의 진위를 판별하는 멀티미디어 검증 시장도 확대되고 있다. 얼굴을 바꾸는 기존 딥페이크뿐 아니라 생성형 AI로 콘텐츠 일부를 수정하거나 새로운 인물과 음성을 만드는 행위까지 검증 범위가 넓어졌다. 딥브레인AI는 이미지와 영상, 음성을 함께 분석하는 멀티모달 기반 딥페이크 탐지 솔루션 'AI 디텍터'를 운영하고 있다. 얼굴 합성과 AI 생성 얼굴, 입술 움직임 합성, 음성 복제 등 주요 조작 유형을 판별한다. AI 디텍터는 콘텐츠의 진위 여부와 함께 조작이 의심되는 구간과 조작 유형, 분석 점수를 제공한다. API와 서비스형 소프트웨어(SaaS) 형태로 제공돼 기존 검증·모니터링 시스템과 연동할 수 있다. 딥브레인AI는 공공기관과 금융기관, 미디어 플랫폼 등을 중심으로 AI 디텍터를 공급하고 있다. 딥페이크를 활용한 금융사기와 명의도용, 허위정보 유포가 확산되면서 실시간 탐지와 근거 기반 판별 수요가 커지고 있다. AI 에이전트 확산은 신뢰성 검증 시장 성장 속도를 더 높일 것으로 예상된다. AI가 정보를 생성하는 데 그치지 않고 기업 시스템에 접속해 업무를 수행하거나 의사결정에 참여하면 작은 오류도 실제 사업 손실과 보안 사고로 이어질 수 있기 때문이다. 가트너는 "2027년까지 기업의 40%가 거버넌스 실패를 이유로 자율형 AI 에이전트 사업을 축소하거나 운영을 중단할 것"이라며 "충분한 검증 체계 구축이 필수 인프라로 자기잡았다"고 분석했다.

2026.07.17 09:13김미정 기자

[ZD SW 투데이] 영림원소프트랩, '2026 K-해커톤 포 글로벌' 성료 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆영림원소프트랩, '2026 K-해커톤 포 글로벌' 개최 영림원소프트랩이 '2026 K-해커톤 포 글로벌'을 개최하고 우수 프로젝트를 선정해 시상했다. K-해커톤 포 글로벌은 기업정보시스템 웹·앱 개발 플랫폼 '플렉스튜디오'를 활용해 전사적자원관리(ERP)와 연계된 기업정보시스템을 구현하는 실무형 프로젝트 경진대회다. 참가 학생은 ERP의 기본 구조와 업무 프로세스를 이해한 뒤 플렉스튜디오를 활용해 ERP와 연동되는 웹·앱 애플리케이션을 개발했다. 한국컴퓨터정보학회에서 주최한 이번 대회에는 키르기스스탄 대학과 국내 22개 대학에서 총 91명의 학생이 참가해 2박 3일간 팀 단위 프로젝트를 수행했으며 예선 심사를 거쳐 선정된 22개 팀이 본선 발표를 진행했다. 심사 결과 대상은 건국대학교 철썩철썩팀의 '제로 스톡 식자재 연계형 재고 운영 앱'이 차지했다. ◆인핸스, NIA 세미나서 온톨로지 기반 AI 에이전트 적용 사례 공유 인핸스가 한국지능정보사회진흥원(NIA) 서울청사에서 관계자를 대상으로 AI 에이전트 워크플로우 설계, 온톨로지 기반 데이터 구조화 기법 등을 주제로 한 세미나 발표를 진행했다. 이번 세미나는 공공 부문의 성공적인 AI 전환과 실질적인 업무 혁신을 위해 민간 기업의 기술력과 그 적용 가능성을 공유하는 자리로 기획됐다. 특히 주로 학계 전문가를 중심으로 열리던 NIA 내부 세미나에 인핸스가 AI에이전트 전문 기업으로 초청돼 서비스 기반 사업 부서 및 기술 담당 유관 부서 관계자들이 참석해 실무적인 기술 교류를 진행했다. 발표에서는 복잡한 비즈니스 환경의 데이터를 온톨로지로 구조화하해 AI가 정확하게 업무를 인지하고 수행하도록 돕는 기술적 노하우를 상세히 소개했다. 이론적 접근에 그치지 않고, 해당 기술을 통해 실제 산업 현장에 적용한 사례를 공유했다. ◆캔바, 국내 교사 대상 온·오프라인 AI 교육 상시 운영…4,000명 이상 참여 캔바(Canva)가 국내 교사를 대상으로 상시 온·오프라인 교육 세션을 운영하며 4000명 이상의 국내 교사에게 캔바의 AI 활용 교육을 제공했다. 캔바는 해당 프로그램의 일환으로 지난 5월부터 6월까지 '선생님을 위한 캔바 공식 후원 교육'을 운영했으며 총 3731명의 교사가 과정을 수료했다. 지난 6월 20일 AI미래교육연구회가 주최한 AI 퓨처 에듀케이션 엑스포에 파트너로 참여해 현장 교사들을 대상으로 AI 교육 플랫폼 '학습 라이브러리' 체험과 제품 데모를 진행했다. ◆셀렉트스타, 일본 스타트업 컨퍼런스 'IVS 2026' 참가 셀렉트스타가 일본 스타트업 컨퍼런스 'IVS 2026'에 참가해 일본 시장 내 AI 신뢰성 평가 및 거버넌스 분야 사업 기회를 확인하고 현지 시장 공략에 나선다. 셀렉트스타는 한국벤처투자의 지원을 받아 'IVS 2026' 내 한국벤처투자관 부스를 운영하며 AI 신뢰성 평가 플랫폼 다투모 플랫폼을 일본 현지에 소개했다. 이번 행사를 통해 PwC, 액센츄어 글로벌 컨설팅사, 미즈호 은행, MUFG 그룹 등 현지 금융권, 일본 IT 서비스 기업 등 다양한 산업군의 기업들과 후속 미팅을 진행하며 협력 가능성을 논의했다. ◆ 클리어, AWS와 컨택센터 발신자 인증 강화 클리어가 아마존 커넥트를 통해 컨택센터에 보안 신원인증 플랫폼인 클리어1(CLEAR1)을 제공한다. 컨택센터는 고객 지원의 핵심 창구이지만, 사기나 신원 도용에 노출될 수 있으며 복잡한 신원 확인 절차로 인해 운영 부담이 발생할 수 있다. 클리어1과 아마존 커넥트를 활용하면 기업은 고객이 상담사와 연결되기 전에 신원을 확인할 수 있다. 민감한 요청도 보다 안전하게 처리하고 수작업으로 진행하는 신원 확인에 소요되는 시간을 줄일 수 있다는 장점이 있다. ◆EDB, 포레스터 '멀티모델 데이터 플랫폼' 리더 선정 EDB는 AI 데이터 플랫폼 'EDB 포스트그레스 AI(EDB PG AI)'가 더 포레스터 웨이브: 멀티모델 데이터 플랫폼 2026년 2분기 평가에서 리더로 선정됐다고 밝혔다. 이번 평가는 기업이 트랜잭션, 분석, AI 등 다양한 데이터 워크로드를 하나의 플랫폼에서 운영할 수 있도록 지원하는 멀티모델 데이터 플랫폼을 대상으로 진행됐다. EDB는 전략과 현재 제공 기능 부문 모두에서 리더로 평가받았으며 비전, 혁신, 제품 로드맵, 파트너 생태계 항목에서 최고 점수를 획득했다. ◆코오롱베니트, 델 테크놀로지스 로드쇼 2026 통해 지역 파트너 지원 확대 코오롱베니트가 부산과 대전에서 지역 IT 파트너를 대상으로 '코오롱베니트와 함께하는 델테크놀로지스 로드쇼 2026'을 개최했다. 이번 행사는 코오롱베니트가 주관하고 델테크놀로지스가 공식 후원 벤더로 참여했으며 뉴타닉스 AIS테크놀러지, 코오롱베니트 AI 얼라이언스가 세션 지원에 나섰다. 파트너가 현장에서 마주하는 사업 현안에 대한 해결 방안을 중심으로 세션을 구성한 점이 특징으로, 가상화 소프트웨어 라이선스 정책 변화, AI 인프라 투자 확대에 따른 서버·스토리지 부품 공급환경 변화, 공공조달(MAS) 제도 변화 등 최근 시장 이슈에 대한 대응 방향이 함께 다뤄졌다.

2026.07.09 14:34남혁우 기자

셀렉트스타, AI 안전성 평가 기술력 국제 학계서 입증

셀렉트스타의 인공지능(AI) 안전성 연구 논문들이 세계적 권위의 머신러닝 학회 워크숍에 채택되며 신뢰성·안전성 평가 기술력을 입증했다. 셀렉트스타는 자사 AI 세이프티팀의 연구 논문 3편이 '국제머신러닝학회(ICML) 2026' 워크숍에 게재된다고 6일 밝혔다. ICML은 ICLR·NeurIPS와 함께 세계 최고 권위의 AI 학회로, 이날부터 11일까지 서울 코엑스에서 열린다. 채택된 논문은 실사용 환경에 배포된 에이전트형 AI의 안전·보안·신뢰성을 다루는 'AIWILD 워크숍' 1편, 생성형 AI의 문화적 가치를 평가·설계하는 방법을 다루는 '컬처 x AI 워크숍' 2편이다. '신뢰성에서 표현력까지: 루브릭 기반 안전성 평가 모델을 위한 커리큘럼(Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges)' 논문은 안전성 평가 기준(루브릭)에 맞춰 AI 답변의 위험성을 검증·채점하는 평가 모델을 제안했다. '커리큘럼 러닝'을 도입해 범용 평가 모델이 금융권 데이터 등 새로운 도메인에서도 우수한 성능을 발휘함을 입증했다. '동아시아·동남아시아 맥락에서의 문화 적응형 레드티밍(Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts)'을 주제로 한 논문은 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크 'CAGE'를 아시아권으로 확장 적용해 영어권 벤치마크 직역만으로는 국가·문화권별 위험을 포착하기 어렵다는 점을 분석했다. '한국 문화의 LLM 정렬 반영: 문화적 일관성을 향하여(Korean Culture into LLM Alignment: Toward Cultural Coherence)' 경우, 대규모언어모델(LLM)에 한국의 사회규범·법제도·언어적 맥락을 반영한 안전 정렬 데이터셋 구축 파이프라인을 제시했다. 답변 근거를 스스로 추론하도록 학습시켜 성능 저하 한계를 극복한 것이 특징이다. 이는 정부 주도의 '독자 AI 파운데이션 모델' 프로젝트에도 활용되고 있다. 김세엽 셀렉트스타 대표는 "이번 논문 채택은 AI 안전성 분야에서 요구되는 핵심 기술 역량을 입증했음을 보여준다"며 "ACL 2026, ICLR 2026 메인 컨퍼런스 채택에 이어 ICML 2026 워크숍에서도 연구 성과를 인정받은 만큼 신뢰할 수 있는 AI 생태계 구축을 위한 기술 개발에 힘쓰겠다"고 말했다.

2026.07.06 15:22이나연 기자

셀렉트스타, 에이전틱 AI 신뢰성 검증으로 국내외 보폭 넓힌다

셀렉트스타가 에이전틱 인공지능(AI) 신뢰성 검증 역량을 앞세워 국내외 행보를 확대한다. 셀렉트스타는 과학기술정보통신부가 주관하는 범국가적 AI 전략 협의체인 '에이전틱 AI 얼라이언스'에 참여한다고 29일 밝혔다. 250여 개 기업·기관이 참여하는 이 협의체는 산업, 기술, 생태계, 안전·신뢰 등 4개 분과로 구성된다. 안전·신뢰분과에 속한 셀렉트스타는 AI 신뢰성 평가 및 검증 분야 경험을 바탕으로 에이전틱 AI 실질 활용에 필요한 안전·신뢰 체계와 평가·검증 방향을 제시하는 역할을 맡는다. 회사가 자체 개발한 AI 신뢰성 검증 플랫폼 '다투모 플랫폼(Datumo Platform)'은 AI 서비스의 응답 품질·안전성·취약점을 진단하며, 금융·공공·콘텐츠 등 산업별 AI 서비스 검증에 활용되고 있다. 셀렉트스타는 국내 협의체 참여와 함께 일본 시장 공략에도 나선다. 셀렉트스타는 다음달 1일부터 3일까지 교토에서 열리는 일본 최대 스타트업 컨퍼런스 'IVS 2026'에 한국벤처투자관 부스를 운영한다. 지난달 'AI 프론티어 코리아 인 재팬'에 이어 두 번째 일본 현지 행사 참가로, 현지 기업·투자사·파트너사에 다투모 플랫폼을 소개할 예정이다. 김세엽 셀렉트스타 대표는 "에이전틱 AI는 산업 현장에서 활용 가능성이 높은 동시에 안전성과 신뢰성 검증 기준이 필수인 분야"라며 "데이터 구축부터 AI 신뢰성 평가, 레드티밍까지 축적한 기술 역량으로 국내 에이전틱 AI 생태계의 안전·신뢰 기반 마련에 기여하겠다"고 말했다. 이어 "국내를 넘어 일본과 글로벌 시장에서도 AI 평가·신뢰성 검증 역량을 알리고 신뢰할 수 있는 AI 활용 환경을 확산할 것"이라고 덧붙였다.

2026.06.29 11:32이나연 기자

[ZD SW 투데이] 셀렉트스타, '아기상어' AI 체험 전시 신뢰성 살펴 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆셀렉트스타, '아기상어' AI 체험 전시 신뢰성 살펴 셀렉트스타가 AI 인터랙티브 체험 전시 '아기상어 비밀 초대장: 비커밍 샤크' 프로젝트에 참여해 AI 콘텐츠 구축과 신뢰성 검증을 수행했다. 셀렉트스타는 이번 전시에서 관람객 체험에 적용되는 AI 기술 구현을 지원했다. 전시장 입구에 위치한 '바다 여권 발급소'에서 사진 촬영과 설문을 통해 AI가 생성하는 '나만의 상어' 캐릭터 생성, 전시 핵심 공간인 '뾰족이빨마을'에 전시된 상어가족 AI 인터랙티브 스태츄와 거대언어모델(LLM) 기반 실시간 대화, 체험 데이터를 바탕으로 개인화 영상 편지를 생성하는 등 AI를 하나의 전시 서사 구조 안에 녹여낼 수 있도록 도왔다. ◆엠클라우독, '2026 오프라인 세미나' 성료 엠클라우독이 지난 12일 열린 오프라인 세미나를 성황리에 마쳤다. 엠클라우독은 이번 세미나에서 AI 사업을 전담할 전문 법인 넥스노우(Nexknow)를 새롭게 설립했다고 처음 발표했다. 이날 넥스노우의 AI 지식 관리 솔루션 '딥 큐(Deep cue)'와 기업용 생성형 AI '딥 코워크(Deep cowork)'를 핵심 제품으로 소개했다. ◆엔코아-유니온시스템즈, 총판 파트너 협약 체결 엔코아가 유니온시스템즈와 데이터 통합관리 솔루션 '데이터웨어' 총판 파트너 협약을 체결했다. 이번 협약을 통해 유니온시스템즈는 데이터웨어 전제품군에 대한 총판으로 활동하게 된다. 유니온시스템즈는 IT 솔루션 공급과 구축 컨설팅 전문기업으로 16년간 다양한 기업·기관에 최적의 IT 인프라 구축을 위한 서비스를 제공해 왔다. 2021년부터 엔코아 데이터 모델링 툴 디에이샵(DA#) 총판으로 활동했다. 이번 총판 협약으로 유니온시스템즈는 데이터 모델링 툴 DA#뿐 아니라 메타데이터 관리 솔루션 메타샵(META#), 데이터 품질관리 솔루션 디큐샵(DQ#), 영향도 관리 솔루션 에이피샵(AP#) 등 데이터웨어 전제품군을 판매한다. ◆KACI, 'K-AI PaaS 서밋 2026' 개최 한국인공지능클라우드산업협회(KACI)가 오는 25일 서울 양재 엘타워 그랜드홀에서 '제4회 K-AI PaaS Summit 2026'을 개최한다. 이번 행사 주제는 '에이전틱 AI가 바꾸는 세계, AI-PaaS가 만드는 미래'다. 생성형 AI를 넘어 자율적으로 판단·실행하는 에이전틱 AI 환경이 본격화하면서 AI 서비스를 구현·운영하기 위한 플랫폼 기술의 중요성을 집중 조명할 예정이다. ◆딥노이드, 'KCA 2026'서 초록 4편 채택 딥노이드의 암 병리 AI 연구 초록 4편이 대한암학회(KCA)2026에서 포스터 발표로 채택됐다. 채택 초록의 각 내용은 서로 다른 암종을 다루지만, 공통적으로 디지털 병리·세포검사 영상을 분석하는 AI 모델을 통해 주석 부담을 낮추는 학습 방식, 판독 근거를 제시하는 해석 가능성, 형태 정보 기반 분석을 넘어 분자·유전 수준 예측까지 확장하려는 시도를 담고 있다. ◆스노우플레이크, '딜로이트 커넥트 코리아 2026' 참가 스노우플레이크가 오는 24일 서울 JW 메리어트 호텔서 열리는 '딜로이트 커넥트 코리아 2026'에 참가한다. 스노우플레이크는 이번 행사에서 데이터 준비도를 기반으로 기업 AI 활용을 고도화하는 AI 데이터 클라우드 혁신과 에이전틱 엔터프라이즈 구현을 지원하는 개인 AI 에이전트 '스노우플레이크 코워크'를 소개한다. 브레이크아웃 세션에도 참여해 'AI 시대의 데이터 전략'을 주제로 재무, 마케팅 등 주요 비즈니스 영역에서 AI를 활용해 업무 프로세스를 혁신하는 방안을 발표한다. ◆사이오닉에이아이, 과기정통부 장관상 수상 사이오닉에이아이가 '2026 혁신창업국가 대한민국 국제포럼'에서 부총리 겸 과학기술정보통신부장관상을 받았다. 사이오닉에이아이는 기업이 자체 AI를 도입하는 데 필요한 AI 스택 전 계층을 직접 구축할 수 있는 기업이라는 점에서 차별화된다. 사내 데이터를 AI가 활용 가능한 형태로 전환하는 '스톰 널리지 베이스', 폐쇄망 환경의 AI 코딩 에이전트 '스톰 코드', 여러 LLM을 한곳에서 관리·라우팅하는 '오픈게이트웨이', 업무별 AI 에이전트로 설계·운영하는 최상위 '스톰 플랫폼'까지 네 개 레이어를 모두 자체 기술로 제품화했다.

2026.06.18 17:08김미정 기자

셀렉트스타, 일본 AI 비즈니스 교류전서 신뢰성 평가 플랫폼 알린다

셀렉트스타가 인공지능(AI) 신뢰성 평가 수요가 확대되고 있는 일본 시장에서 신규 파트너십 및 고객 확보에 속도를 낸다. 셀렉트스타는 오는 27일 일본에서 열리는 '2026 AI 프런티어 코리아 인 재팬'에 참가한다고 19일 밝혔다. 이번 행사는 산업통상자원부와 과학기술정보통신부가 주최하고 대한무역투자진흥공사(KOTRA)가 주관하는 한·일 AI 비즈니스 교류 행사다. 국내 AI 혁신 기업 42개사와 일본 현지 글로벌 대기업, 중소기업, 벤처캐피털 등 약 100개사가 한자리에 모이는 비즈니스 교류의 장이 마련될 예정이다. 셀렉트스타는 이번 전시에서 AI 신뢰성 평가 자동화 솔루션 '다투모 플랫폼(Datumo Platform)'을 일본 시장에 선보인다. 다투모 플랫폼은 기업의 AI 서비스 신뢰성 검증을 엔드투엔드(end-to-end)로 지원하는 플랫폼이다. 셀렉트스타는 이번 전시에서 국내 참가 기업 중 유일하게 AI 신뢰성 서비스를 소개한다. 주요 기능으로는 생성형 AI 서비스 특성에 맞는 커스텀 평가 질문을 자동으로 생성하고 평가 기준에 따라 AI의 답변을 평가하는 '다투모 이밸(Datumo eval)', 의도적으로 AI 서비스 취약점을 도출하는 레드티밍 전략과 실시간 운영을 지원하는 '다투모 레드(Datumo Red)' 등이 있다. 기업은 AI 서비스 강점과 약점을 진단하고 결과 대시보드를 통해 개선 방향을 확인할 수 있다. 일본 역시 제조와 금융 등 다양한 산업군에서 AI 도입이 확대되고 AI 서비스에 대한 신뢰성 평가 수요가 높아지고 있다. 셀렉트스타는 부스 운영 및 현지 기업 대상 비즈니스 미팅을 통해 일본 시장에서도 AI 신뢰성 검증 파트너로 자리매김한다는 전략이다. 이종영 셀렉트스타 플랫폼사업본부장은 "세계이동통신사업자연합회(GSMA) 글로벌 연합체 '오픈 텔코 AI' 합류, 글로벌 레드팀 챌린지 주관 경험 등을 바탕으로 AI 신뢰성 평가 역량을 고도화해 왔다"며 "이번 행사를 통해 다투모 플랫폼 가치를 일본 시장에 소개하고 글로벌 AI 신뢰성 평가 솔루션으로 입지를 확대하겠다"고 말했다.

2026.05.19 16:40이나연 기자

AI가 AI를 검증한다…금융권 새 인프라 된 '신뢰성 평가'

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] 금융당국의 망분리 규제 완화 이후 금융권의 생성형 AI 도입이 빠르게 확산되면서 AI 신뢰 검증이 새로운 보안 과제로 급부상하고 있다. 단순히 AI를 도입하는 데서 나아가 그 AI가 제대로 작동하는지 검증하는 체계를 갖추느냐가 금융권 AI 경쟁력의 새 기준이 되고 있다는 분석이다. 이런 흐름을 더 가속하는 건 AI 기반 위협의 등장이다. 앤트로픽 최신 AI '미토스(Mythos)'가 대표적이다. 이 모델은 AI가 스스로 시스템 취약점을 탐색하고 공격 시나리오까지 생성할 수 있다는 점에서 기존 보안 체계만으로는 대응이 어렵다는 위기감이 금융권 전반에 확산되고 있다. 이런 가운데 AI 신뢰성 검증 체계를 실제 금융 현장에 상용화한 사례가 나왔다. 18일 업계에 따르면 셀렉트스타의 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'이 신한은행·우리은행·NH농협은행 등 주요 시중은행에 정식 도입됐다. 이는 국내 생성형 AI 신뢰성 검증 자동화 솔루션이 기술검증(PoC) 단계를 넘어 금융권 실제 운영 단계에 적용된 첫 사례로 평가된다. AI가 실제 업무를 수행하는 'AI 에이전트' 단계로 진화하면서 검증 필요성은 더 커지고 있다. 최근 금융권에서는 대출 심사 보조, 이상거래 탐지, 고객 응대 자동화 등 핵심 업무에 생성형 AI 적용이 확대되고 있다. AI 활용 범위가 넓어질수록 잘못된 판단이나 비정상 응답이 실제 금융 사고나 고객 피해로 이어질 수 있다는 우려도 나온다. 그러나 생성형 AI 서비스 확산과 함께 기존 수작업 중심 검증 체계는 한계를 드러내고 있다. 그동안은 사람이 직접 평가 질문을 설계하고 AI 응답을 검수하는 방식이 일반적이었지만, 서비스 수와 활용 시나리오가 빠르게 늘어나면서 속도와 규모 측면에서 대응이 어려워졌기 때문이다. 업계에서 지금을 'AI 신뢰 검증의 골든타임'으로 보는 이유도 여기에 있다. AI 신뢰성 평가 자동화 시장도 발 빠르게 성장하고 있다. 해외에서는 랭체인, 어라이즈AI, 스케일AI 등이 관련 솔루션을 선보이고 있지만 금융 특화 규제 환경과 한국어 도메인을 반영한 서비스는 제한적이었다. 특히 금융권은 높은 정확성과 안정성이 요구되는 만큼 실제 업무 환경을 반영한 평가 체계 수요가 빠르게 커지고 있다는 분석이다. 셀렉트스타는 이런 시장 공백을 겨냥해 국내 최초 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸'을 출시했다. 다투모 이밸은 100만 개 이상의 평가 질문을 자동 생성하고 AI 서비스 응답을 자동 평가·분석하는 기능을 핵심으로 한다. AI 에이전트 기술 기반으로 생성된 질문은 실제 고객 발화 패턴과 난이도, 금융 도메인 특성을 반영하도록 설계됐으며 프롬프트 인젝션과 환각 등 AI 취약점을 사전에 탐지하는 레드티밍 기능도 포함됐다. 신한은행의 경우 금융 문서 이해 AI 모델 개발을 위한 데이터 구조화, 학습·평가용 데이터셋 설계, 평가 지표 관리 및 자동 평가 환경 구축까지 다투모 이밸이 포괄적으로 적용됐다. 이 같은 실적은 신한금융·KB금융·삼성금융 등 국내 주요 금융그룹 스타트업 프로그램 연속 수상으로도 이어졌다. 셀렉트스타는 금융권에서 축적한 검증 경험을 제조·공공·엔터프라이즈 등 전 산업으로 확대 적용할 계획이다. 이미 세계이동통신사업자연합회(GSMA)와 글로벌 AI 레드팀 챌린지를 공동 주관하고 '오픈 텔코 AI' 파트너십을 체결하는 등 해외 시장에서도 기술력을 인정받고 있다. 회사 측은 아직 글로벌 표준이 확립되지 않은 AI 신뢰성 분야에서 금융권 레퍼런스를 바탕으로 관련 기준을 제시하는 플랫폼으로 자리잡겠다는 목표다. 셀렉트스타 관계자는 "AI 신뢰성 평가는 이제 특정 산업의 선택이 아니라 AI를 도입하는 모든 기업의 필수 과제가 되고 있다"며 "AI 에이전트 시대로 접어들면서 신뢰성 평가의 중요성은 더 커지고 있다"고 말했다.

2026.05.18 14:43이나연 기자

셀렉트스타, 클로드·챗GPT 취약점 찾아내는 AI 레드티밍 기술력 '인정'

셀렉트스타가 클로드·챗GPT 등 주요 거대언어모델(LLM) 취약점을 기존보다 높은 성공률로 탐지하는 레드티밍 기술을 개발해 자연어처리 분야 최정상급 학회에서 인정받았다. 셀렉트스타는 자체 개발한 레드티밍 기술 'STAR-티밍'이 'ACL 2026'에 공식 채택됐다고 14일 밝혔다. 생성형 AI가 유해하거나 부적절한 응답을 생성하지 않는지 사전 검증하는 레드티밍은 AI 서비스 출시 전 필수 과정으로 자리 잡고 있지만 기존 자동화 방식은 비용이 많이 들고 공격 전략 다양성이 부족하다는 지적이 이어져 왔다. 이에 셀렉트스타 연구진은 통계 물리학 기반의 수학적 모델링을 통해 공격 전략과 모델 응답 간 관계를 학습하고 확률적으로 최적 전략을 선택하는 '전략-응답 멀티플렉스 네트워크' 기술을 제안했다. 기존 방식이 과거 성공 사례를 그대로 반복하는 구조였다면, STAR-티밍은 수많은 시도와 실패를 분석해 상황에 맞는 최적 전략을 스스로 찾아낸다. 클로드·젬마·챗GPT·라마·큐원 등 17개 LLM을 대상으로 한 성능 검증 결과 표준 벤치마크(HarmBench) 기준 평균 공격 성공률(ASR) 74.5%를 달성했다. 기존 최고 방법인 오토DAN-터보(61.0%) 대비 13.5%포인트 높은 수치로, 더 적은 시도 횟수로도 높은 성공률을 달성했다. 해당 기술은 셀렉트스타의 AI 신뢰성 검증 솔루션 '다투모 플랫폼'에 탑재돼 상용화됐다. 전자·가전 제조·시스템통합(SI)·정보기술(IT) 서비스 등 국내 주요 산업군과 정부 주도 '독자 AI 파운데이션 모델(독파모)' 프로젝트에도 적용돼 실제 AI 서비스 환경에서 안전성 검증과 품질 평가에 활용되고 있다. 정민재 셀렉트스타 AI 세이프티 엔지니어는 "AI의 취약점을 더 체계적으로 발견할 수 있는 구조를 제시하고자 했다"며 "LLM이 실제 산업 현장에서 안전하게 활용될 수 있도록 다투모 플랫폼의 기술 고도화에 기여하겠다"고 말했다.

2026.05.14 15:18이나연 기자

셀렉트스타, 글로벌 보안 기준 충족…AI 신뢰성 평가 사업 시동

셀렉트스타가 보안·개인정보보호 역량을 입증하며 글로벌 인공지능(AI) 시장 진출에 속도를 낸다. 셀렉트스타는 'SOC2(Service Organization Control 2) 타입 2' 보고서를 취득했다고 13일 밝혔다. SOC2는 미국공인회계사협회(AICPA) 기준에 따라 서비스 조직의 보안성, 가용성, 처리 무결성, 기밀성, 개인정보 보호 등 5가지 항목을 심사하는 국제 인증이다. 셀렉트스타가 약 1년간의 준비·실사 과정을 거쳐 취득한 타입 2는 특정 시점 보안 통제 설계뿐만 아니라, 일정 기간 실제 시스템이 얼마나 안정적으로 운영됐는지를 평가하는 신뢰 지표로 통한다. 이번 인증은 셀렉트스타의 글로벌 사업 확장에 직접적인 발판이 된다. 금융권·대규모 파운데이션 모델을 개발하는 글로벌 빅테크는 데이터 유출과 보안 사고에 민감한 만큼, SOC2 인증은 미주 지역을 포함한 글로벌 고객사를 상대로 AI 데이터·신뢰성 평가 솔루션을 판매하기 위한 핵심 요건으로 알려졌다. 셀렉트스타는 AI 서비스 신뢰성과 품질을 평가하는 '다투모 플랫폼' 보안 기능을 강화하는 한편, ISO 등 글로벌 보안 인증 체계도 확장할 계획이다. 데이터 설계·구축, 검증 컨설팅·솔루션, 레드티밍 등 AI 전 주기 서비스를 제공 중인 이 회사는 최근 시리즈B 누적 투자 434억원을 돌파했다. 김세엽 셀렉트스타 대표는 “이번 SOC2 타입 2 취득은 우리가 지향해 온 '신뢰할 수 있는 AI'를 기술뿐 아니라 운영과 보안 체계 측면에서 입증한 성과"라며 "국제 표준에 부합하는 엄격한 보안 체계를 바탕으로 국내를 넘어 글로벌 시장에서 가장 신뢰받는 AI 데이터 및 신뢰성 평가 파트너로 도약할 것"이라고 말했다.

2026.04.13 17:24이나연 기자

셀렉트스타, 글로벌 통신 AI 연합체 공식 파트너 낙점

셀렉트스타가 세계이동통신사업자연합회(GSMA) 주도의 글로벌 통신 인공지능(AI) 연합체에 합류해 통신 특화 AI 신뢰성 표준 수립에 나선다. 셀렉트스타는 GSMA가 출범한 '오픈 텔코 AI' 데이터 및 AI 평가 공식 파트너로 선정됐다고 13일 밝혔다. AT&T·AMD·구글클라우드 등 전 세계 40여 개 기업·기관이 참여한 이 연합체에 국내에선 SK텔레콤·LG유플러스가 합류했으며, 스타트업으로는 셀렉트스타가 유일하게 이름을 올렸다. 오픈 텔코 AI는 안전성과 정확성을 갖춘 통신 특화 AI 개발을 위해 글로벌 통신사·벤더·학계가 모인 대규모 연합체다. 민감한 데이터를 다루는 통신 산업 특성상, 기존 범용 거대언어모델(LLM)을 통신망 운영 등 특화 분야에 그대로 적용하기 어렵다는 한계에서 출발했다. 셀렉트스타는 이 협의체에서 생태계 전반의 신뢰성을 검증하는 역할을 수행한다. MWC26 현장에서 오픈 텔코 AI 출범과 함께 출시된 '오픈 텔코 벤치마크' 운영을 지원할 예정이다. 통신 산업에 맞춰 설계된 7가지 평가 지표를 기반으로 통신사 AI 고도화를 위한 신뢰성 평가 및 레드팀 서비스도 제공하기로 했다. 셀렉트스타는 MWC26에서 자사 생성형 AI 신뢰성 평가 플랫폼 '다투모 플랫폼'도 글로벌 시장에 처음 선보였다. 이를 계기로 일본 소프트뱅크, 프랑스 오랑주, 독일 도이치텔레콤 등 주요 통신사와 협력 가능성을 열었다고 회사 측은 설명했다. 김세엽 셀렉트스타 대표는 "오픈 텔코 AI 공식 파트너 합류는 우리의 신뢰성 검증 기술력이 글로벌 현장에서 인정받은 뜻깊은 성과"라며 "MWC 현장에서 다투모 플랫폼에 대한 전 세계적인 수요를 확인한 만큼, GSMA와의 파트너십을 통해 세계 최고 수준의 AI 안전성 프레임워크를 선도할 것"이라고 말했다.

2026.03.13 17:30이나연 기자

"130명 몰렸다"…MWC26 달군 '글로벌 AI 레드팀 챌린지' 흥행 성공

스페인 바르셀로나에서 열린 MWC26의 부대행사 '글로벌 인공지능(AI) 레드팀 챌린지'에 전 세계 AI 전문가, 개발자, 기업 관계자 등 130여 명이 참여했다. 셀렉트스타는 세계이동통신사업자연합회(GSMA)와 공동 주최한 레드팀 챌린지가 지난 3일(현지시간) MWC 행사장 내 탤런트 아레나에서 개최됐다고 5일 밝혔다. 올해 챌린지는 글로벌 통신·AI 기업들이 개발한 대표 거대언어모델(LLM)을 대상으로 실전 검증을 진행했다. 한국 SK텔레콤 'A.X K1', LG유플러스 'ixi-GEN'을 비롯해 아랍에미리트 '텔레콤GPT', 미국 AT&T '에스크 AT&T', 네토AI의 'T슬램' 등이 참여하며 글로벌 통신사들의 참여 폭이 확대됐다. 참가자들은 LLM의 취약점을 공략하기 위한 프롬프트 공격을 시도했고 최종 78명이 실질적인 레드티밍 결과물을 제출했다. 대회 1위를 차지한 현직 데이터 엔지니어인 학탄 코지잇씨에겐 1000유로의 상금과 내년 MWC27 입장권이 수여됐다. 2위와 3위에게도 소정의 상금과 MWC27 입장권이 각각 제공됐다. 이번 행사는 참가자와 심사위원에게 특정 기업과 모델 정보를 비식별화해 제공하는 '비경쟁·비공개' 방식으로 운영됐다. 모델 간 우열을 가리거나 취약점을 외부에 노출하는 대신, 레드티밍 결과를 각 기업의 실제 서비스 고도화에 활용할 수 있도록 하는 취지에서다. 셀렉트스타는 이 과정에서 AI 신뢰성 평가 플랫폼 '다투모(Datumo)'를 활용했다. 다투모는 대규모 인원이 동시 접속해 다양한 언어와 기법으로 공격을 시도하는 환경에서도 안정적인 운영과 결과 분석을 지원한다. 루이스 파월 GSMA AI 기술 디렉터는 "이 대회는 단순히 상금을 건 경진대회가 아닌 생성형 AI의 취약점을 찾아 실질적인 개선을 돕는 자리"라며 "여러분들의 참여가 안전한 AI, 나아가 안전한 세상을 만드는 데 큰 도움이 되고 있다"고 말했다. 현장을 운영한 황민영 셀렉트스타 부대표는 "글로벌 기업 업계 실무자들이 대거 참여하고, 수많은 인파가 몰리는 것을 보며 AI 신뢰성 검증에 대한 산업계의 니즈를 체감했다"며 "본 챌린지를 단발성 이벤트로 그치지 않고, 실제 서비스 환경에서 적용 가능한 AI 신뢰성 검증 프레임워크로 고도화하겠다"고 말했다.

2026.03.05 15:27이나연 기자

단순 점수보다 기업 맞춤형···셀렉트스타, AI 신뢰성 해법 전한다

셀렉트스타가 거대언어모델(LLM) 기반 서비스의 실제 성능과 신뢰성을 정교하게 측정하려는 기업들을 위해 실무적인 검증 기준을 제시한다. 셀렉트스타는 다음 달 5일 오후 2시 '커스텀 평가 체계로 LLM 서비스 평가 기준 만들기'를 주제로 무료 웨비나를 개최한다고 27일 밝혔다. 이번 행사는 벤치마크 점수와 실제 서비스 위험 간의 괴리를 좁히고, 기업이 AI 서비스를 안심하고 출시할 수 있도록 돕는 의사결정 프레임워크를 공유하는 자리다. 웨비나에선 ▲LLM 판사 기반 평가 ▲정량·정성·혼합 평가 방법론 등 최신 트렌드를 소개하고 수작업 중심 평가를 자동화해 리소스를 효율화하는 전략을 다룬다. 특히 기업 내부 거버넌스 체계에 맞춘 서비스 출시 기준 설정법과 실제 기업들 운영 사례를 공개할 예정이다. 셀렉트스타는 국내 최초 AI 신뢰성 평가 자동화 플랫폼인 '다투모 플랫폼'을 활용해 평가 프로세스를 체계화한 사례도 소개한다. 이찬수 셀렉트스타 사업개발팀장은 "많은 기업이 LLM을 도입하면서도 정작 서비스 목적에 맞는 명확한 평가 기준을 세우는 데 어려움을 겪는다"며 "이번 웨비나를 통해 데이터 기반으로 AI 서비스 출시 여부를 판단할 수 있는 지표를 마련하길 기대한다"고 말했다.

2026.02.27 14:45이나연 기자

셀렉트스타, MWC서 '글로벌 AI 레드팀 챌린지'…SKT·LGU+ 등 참여

셀렉트스타가 세계 최대 모바일 전시회 'MWC26'에서 글로벌 통신 산업의 인공지능(AI) 안전성을 진단하는 대규모 레드팀 행사를 주관한다. 셀렉트스타는 다음 달 3일(현지시간) 스페인 바르셀로나에서 열리는 MWC26 부대 행사 탤런트 아레나에서 '글로벌 AI 레드팀 챌린지'를 개최한다고 25일 밝혔다. 이번 챌린지엔 국내외 대표 통신·AI 기업들의 거대언어모델(LLM)이 대거 참여한다. 한국에선 SK텔레콤의 'A.X K1'과 LG유플러스의 'ixi-GEN'이 참가한다. 해외에선 미국 AT&T의 '에스크 AT&T', 네토AI의 'T슬램', 아랍에미리트 칼리파 대학교와 GSMA가 협업한 '텔레콤GPT' 등이 검증대에 오른다. 평가 기준은 ▲편향 ▲허위정보 유도 ▲유해성 ▲마약·약물 ▲저작권 침해 ▲성적 부적절성 등 6개 항목으로 설계됐다. 사전 신청한 참가자들이 모의 프롬프트 공격을 통해 각 모델의 잠재적 취약점을 찾아내면 셀렉트스타는 플랫폼 구축과 실시간 모니터링 등 운영 전반을 총괄한다. 이번 행사는 순위 산정보다 각 기업의 LLM 안전성 고도화를 지원하는 데 목적을 뒀다. 챌린지 이후 도출된 쿼리와 결과 데이터는 개별 기업에 공유돼 모델 개선에 활용될 예정이다. 셀렉트스타는 바르셀로나를 시작으로 라스베이거스, 베이징, 도하 등에서도 레드팀 챌린지를 추가 개최해 글로벌 AI 안전성 기준 정립에 기여한다는 방침이다. 김세엽 셀렉트스타 대표는 "통신 산업은 AI가 가장 빠르게 고도화되고 실생활로 확산되는 대표 분야"라며 "이번 챌린지가 참여 기업들의 LLM을 더 안전하고 견고하게 고도화하는 공동 검증의 장이 되길 기대한다"고 말했다. 이어 "글로벌 현장에서 통용될 신뢰성 검증의 표준을 함께 만들겠다"고 덧붙였다.

2026.02.25 16:21이나연 기자

셀렉트스타, 세계 최상위 AI 학회 입성…'문화 맞춤형' 안전성 기술 인정

셀렉트스타가 자체 개발한 인공지능(AI) 안전성 검증 기술로 세계 최고 권위의 학회에서 기술력을 인정받았다. 셀렉트스타는 자사 AI 세이프티팀의 연구 논문 'CAGE: 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크'가 오는 4월 브라질에서 열리는 'ICLR 2026' 메인 컨퍼런스에 채택됐다고 19일 밝혔다. ICLR은 구글 스칼라 기준 AI 및 머신러닝 분야 최상위권 학회로, 올해는 1만 9000여 건의 제출 논문 중 상위 약 28%만이 채택됐다. 이번 논문의 핵심은 각 나라 문화와 법적 맥락을 반영해 AI 안전성을 검증하는 레드티밍 데이터를 자동 생성하는 기술이다. 기존 안전성 검증이 영미권 데이터셋을 단순 번역해 사용하던 한계를 극복하고, 언어 및 문화권별 맞춤형 시험문제를 생성해 AI의 잠재적 취약점을 파악한다. 셀렉트스타 연구팀은 '시맨틱 몰드' 개념을 제안해 국가별 문화적 특성을 반영한 현지화된 공격 질문을 생성했다. 그 결과 캄보디아어(크메르어) 등 데이터가 부족한 언어권에서도 우수한 성능을 보였다. 한국 상황에 최적화된 안전성 벤치마크 '코르셋(KoRSET)' 역시 기존 번역 데이터셋보다 효과적으로 모델 약점을 찾아내는 데 성공했다. 이번 연구는 기획부터 구현, 검증까지 외부 기관의 도움 없이 셀렉트스타 내부 인력만으로 일궈낸 성과라고 회사 측은 강조했다. 해당 기술은 이미 국내 주요 대기업 AI 프로젝트에 선제 도입돼 모델 취약점 점검과 운영 효율 개선에 기여하고 있다. 김민우 셀렉트스타 AI 세이프티 팀장은 "이번 ICLR 채택은 우리가 단순 데이터 구축 기업을 넘어 독보적인 원천 기술을 보유한 AI 기술 기업임을 입증한 사례"라며 "CAGE 기술은 이미 대기업 프로젝트에 적용돼 실질적인 성과를 내고 있다"고 강조했다. 공동 저자인 임용택 셀렉트스타 연구원은 "AI 성능 경쟁을 넘어 이제는 안전성이 핵심 경쟁력인 시대"라며 "현장에서 바로 활용 가능한 품질의 안전 평가 기술로 글로벌 기준을 만드는 데 기여할 것"이라고 말했다.

2026.02.19 10:08이나연 기자

AI 신뢰성 검증한다…셀렉트스타, MWC 레드팀 챌린지 지휘

셀렉트스타가 세계 최대 모바일 전시회에서 글로벌 인공지능(AI) 안전성 기준 마련을 위한 행보를 이어간다. 작년에 이어 올해도 글로벌 레드팀 챌린지를 주관하며 AI 검증 분야에서의 기술적 리더십을 공고히 한다는 전략이다. 셀렉트스타는 다음 달 2일부터 5일까지 스페인 바르셀로나에서 열리는 MWC26에서 '글로벌 AI 레드팀 챌린지'를 개최한다고 10일 밝혔다. 셀렉트스타가 세계이동통신사업자연합회(GSMA)와 2년 연속 공동 주최하는 이번 행사는 국내외 대표 통신 기업들이 자체 개발한 거대언어모델(LLM)이 대상 모델로 참여한다. 전 세계에서 모인 100여명 참가자가 해당 모델을 대상으로 모의 프롬프트 공격을 수행해 유해·차별적 결과, 보안 취약점, 시스템 오용 가능성 등을 찾아내는 '레드티밍' 미션을 수행할 예정이다. 레드팀은 AI 의사결정 구조가 복잡해진 데 따라 발생할 잠재적 위험을 사전에 식별하고 대응하는 필수 과정으로 꼽힌다. 셀렉트스타는 이번 행사를 통해 레드팀 운영 노하우를 글로벌 무대에 선보이고, 실제 AI 서비스 환경에서 활용 가능한 검증 방식과 인사이트를 제시할 계획이다. 셀렉트스타는 최근 과학기술정보통신부 주관 '독자 AI 파운데이션 모델' 프로젝트 1차 평가를 통과한 SK텔레콤 컨소시엄에 참여하는 등 데이터 분야 'K-AI' 기업으로 보폭을 넓히고 있다. 김세엽 셀렉트스타 대표는 "전 세계 참가자들과 함께 AI 취약점을 점검하고 신뢰성 평가 기준을 한 단계 끌어올리는 계기가 되길 기대한다"고 말했다.

2026.02.10 15:00이나연 기자

셀렉트스타, 8년 연속 데이터바우처 공급사 선정

셀렉트스타가 지난 2018년부터 8년 연속 정부의 데이터바우처 공급기업으로 선정됐다. 셀렉트스타는 과학기술정보통신부와 한국데이터산업진흥원이 주관하는 '2026년 데이터바우처 지원사업' 공급기업으로 선정됐다고 26일 밝혔다. 데이터바우처 지원사업은 데이터 수집·가공이 필요한 중소·벤처기업, 소상공인에게 정부가 바우처 형식으로 예산을 지원하는 사업이다. 수요기업은 데이터 기획·설계부터 수집, 전처리, 가공, 분석, 활용까지 인공지능(AI) 개발에 필요한 데이터 구축 전 과정을 지원받을 수 있다. 셀렉트스타는 텍스트, 이미지, 음성, 영상 등 기본 모달리티는 물론, 이미지와 텍스트가 결합되거나 영상에 메타데이터가 포함된 복합 형태 멀티모달 데이터 구축을 집중적으로 제공한다. 법률, 행정, 의료, 심리 등 도메인 이해도가 요구되는 고난도 분야 고품질 데이터 구축 경험을 축적해 왔다. 이를 바탕으로 기업 맞춤형 고품질 데이터 구축이 가능하다. 최근 기업들의 AI 도입 추세인 사내 구축형 거대언어모델(LLM)과 검색증강생성(RAG) 수요에 맞춰 기업용 문서 데이터 정제 및 구조화 파이프라인을 구축했다. 이는 비정형 문서를 AI가 학습하기 쉬운 형태로 구조화하는 기술이다. 셀렉트스타는 정부가 추진하는 '독자 AI 파운데이션 모델(국가대표 AI)' 프로젝트에서 SKT 컨소시엄 데이터 파트를 담당하고 있다. 대량 데이터를 수집부터 가공, 검수, 품질관리까지 '엔드투엔드(End-to-End)'로 처리할 수 있는 파이프라인이 핵심이다. 실제 셀렉트스타는 총 184건의 데이터바우처 사업을 완수했다. 수요기업 중 2곳(헬스케어, 음성 인식 분야)이 최우수 사례 선정 및 3곳(로봇 제어, 자율주행, 물류 AI 솔루션 분야)이 우수기업으로 선정되는 성과를 거뒀다. 김세엽 셀렉트스타 대표는 "AI 성능 출발점은 결국 데이터 품질"이라며 "수요기업들이 실제 현장에서 신뢰할 AI를 구현하고 비즈니스 성과로 이어질 수 있는 데이터 파트너가 되겠다"고 말했다.

2026.01.26 10:11이나연 기자

셀렉트스타, CES서 AI 신뢰성 솔루션 소개…글로벌 확장 탄력

셀렉트스타가 세계 최대 기술 전시회에서 글로벌 인공지능(AI) 신뢰성·데이터 시장 가능성을 확인했다. 셀렉트스타는 지난 6일부터 9일까지 미국 라스베이거스에서 열린 'CES 2026'에 참여했다고 13일 밝혔다. 이번 CES 참가는 삼성전자의 스타트업 지원을 통해 'C랩 전시관'에서 이뤄졌다. 글로벌 브랜드 '다투모(Datumo)'로 부스를 운영한 셀렉트스타는 AI 신뢰성 평가 솔루션 '다투모 이밸(Datumo eval)'과 고품질 데이터 플랫폼 '데이터셋 스토어' 등 자사 핵심 기술력을 선보였다. 셀렉트스타에 따르면 전시 기간 국내외 400여 개 기업 관계자가 부스를 방문해 AI 신뢰성 평가와 데이터 솔루션에 대한 설명을 청취했다. 정부 관계자를 비롯해 국내 주요 기업, 해외 정보기술(IT)·제조·엔터프라이즈 기업 관계자들이 잇따라 부스를 찾았다. 특히 기존 협업 이력이 없던 다양한 산업군의 국내 기업들까지 폭넓게 방문하며 셀렉트스타 서비스에 관심을 나타냈다. 해외 기업 방문객들 역시 AI 신뢰성 평가 솔루션 다투모 이밸에 높은 관심을 보였다는 게 회사 측 설명이다. 셀렉트스타는 CES 현장에서 다투모 이밸 실제 데모와 금융권을 중심으로 축적한 신뢰성 평가 사례를 소개했다. 회사는 AI 모델 평가를 위한 전문 솔루션 자체가 아직 많지 않다는 점에서 다투모 이밸 차별성을 부각하고 있다. 셀렉트스타의 데이터 구축 및 판매 솔루션도 집중 조명됐다. 전시 현장에서는 저작권·라이선스 이슈가 없는 데이터 제공 구조, 도메인 특화 전문 작업자를 중심으로 한 데이터 구축 방식, 해외 저임금 인력에 의존하지 않는 안정적인 데이터 오퍼레이션 구조 등이 제시됐다. 문성민 셀렉트스타 영업실장은 "많은 기업이 AI 도입 과정에서 데이터를 어떻게 준비하고, 도입 이후 신뢰성을 어떻게 검증해야 하는지 매우 구체적으로 고민하는 점이 인상적이었다"고 말했다. 이어 "AI 신뢰성 평가와 데이터 구축을 함께 제공하는 셀렉트스타의 올인원 솔루션에 대한 관심이 높았던 만큼, 실제 협업 논의를 이어갈 수 있을 것"이라고 덧붙였다.

2026.01.13 10:47이나연 기자

"AI 신뢰성이 올해 기업 생존 결정"…셀렉트스타, 기술특례 IPO·흑자 위해 달린다

세계 최초 포괄적 인공지능(AI) 규제인 'AI 기본법'이 이달부터 시행되는 가운데, 셀렉트스타가 2026년을 'AI 신뢰성 비즈니스 성패 원년'으로 규정했다. 회사는 올해 기술특례 상장과 함께 글로벌 신뢰성 검증 표준 확립에 나설 전망이다. 김세엽 셀렉트스타 대표는 지난 7일 발표한 신년사에서 "기업들이 할루시네이션(환각)이나 데이터 보안 문제로 고민하는 모습을 보며 무거운 책임감을 느꼈다"며 "2026년은 AI 신뢰성이 비즈니스 성패를 가르는 원년이 될 것"이라고 밝혔다. 우리나라는 오는 22일부터 AI 규제와 진흥 내용을 담은 AI 기본법을 전면 시행한다. 특히 핵심 규제 대상인 고영향(고위험) AI에 대한 신뢰성 확보 조치가 의무화되면서 기업들은 법적·제도적 기준에 부합하는 검증 체계를 갖춰야 하는 상황이다. 김세엽 대표는 "AI 신뢰성을 단순히 몇 개 수치로 표현할 수 없다"며 "진정한 신뢰는 오류를 예측하고 위험을 통제할 수 있는 구체적인 안전성에서 나온다"고 강조했다. 올해 셀렉트스타는 '고품질 데이터'와 'AI 신뢰성 글로벌 표준'을 사업의 핵심 축으로 삼을 방침이다. 김 대표는 "우리 언어와 문화적 맥락을 정확히 이해하는 데이터로 국가 데이터 주권을 지키겠다"며 "국내를 넘어 세계 시장에서도 통용될 평가 기준을 확립하겠다"고 말했다. 이어 "복잡해지는 규제 환경 속에서도 기업 서비스가 흔들림 없이 글로벌 무대로 뻗어나갈 수 있도록 확실한 '품질 보증서'가 되겠다"고 덧붙였다. 셀렉트스타는 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 통해 금융권과 공공기관의 AI 도입 장벽을 낮추고 있다. 다투모 이밸은 AI 서비스 운영 중 발생할 수 있는 오류와 위험성을 자동으로 검출해 모델 품질 개선 방향성을 제시한다. 과학기술정보통신부가 주관하는 '독자 AI 파운데이션 모델' 개발 프로젝트에도 참여하고 있다. 회사는 SK텔레콤 컨소시엄에서 고품질 학습 데이터 구축과 모델 안정성 검증을 총괄 중이다. 글로벌 시장 확장도 주요 과제다. 지난해 스페인 바르셀로나에서 열린 '모바일 월드 콩그레스(MWC)25'에서는 세계이동통신사업자연합회(GSMA)와 '글로벌 AI 레드팀 챌린지'를 공동 주최했다. 기존 국가 단위로 진행됐던 레드팀 챌린지가 글로벌 행사에서 다국적 참가자를 대상으로 열린 것은 처음이었다. 지난 6일부터 오는 9일까지 미국 라스베이거스에서 열리는 세계 최대 가전·정보기술(IT) 전시회 'CES 2026'에 참여하는 등 글로벌 전시 및 세일즈를 확장하고 있다. 셀렉트스타는 코스닥 기술특례 상장을 목표로 기업공개(IPO)에 나선다. 상장 주관사는 대신증권으로 올해 연말까지 상장을 마무리할 예정이다. 매출 100억원 이상 달성과 함께 흑자 전환도 노리고 있다. 회사는 지난해 말 55억원 규모 시리즈B 추가 투자를 유치해 총 260억원으로 라운드를 마감했다. 이로써 누적 투자금은 434억원을 달성했다. 김 대표는 "기술이 아무리 빠르게 발전해도 변하지 않는 비즈니스 본질은 신뢰"라며 "그 신뢰를 우리가 지켜주겠다"고 강조했다.

2026.01.08 17:27이나연 기자

Prev 1 2 3 Next