검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI신뢰성'통합검색 결과 입니다. (6건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[ZD SW 투데이] 씽크포비엘, 'AI 신뢰성' 인재 키운다…제2회 트라이톤 개막 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한눈에 볼 수 있는 'ZD SW 투데이'를 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆'제2회 트라이톤' 개막…AI 신뢰성 실전 경험 겨룬다 AI 신뢰성 해커톤 '제2회 트라이톤'이 14일 서울 가톨릭대학교 성의교정 옴니버스파크에서 오리엔테이션을 열고 약 3개월간의 일정에 들어갔다. 신뢰할 수 있는 AI 국제연대 한국 네트워크(TRAIN코리아)와 씽크포비엘이 진행하는 이번 대회에는 전국 36개 대학의 대학생·대학원생 149명, 37개 팀이 참가한다. 참가자들은 AI 허브 데이터와 SK텔레콤 AI 모델 'A.X'를 활용해 클릭베이트 탐지 모델을 개발하고, 이 과정에서 영향평가와 위험관리, 투명성, 인간 감독 등 AI 신뢰성 활동을 수행한다. 올해는 AI 에이전트가 자율적으로 판단하고 필요할 때 사람에게 판단을 넘기는 운영 구조도 평가한다. 본선을 거쳐 상위 6개 팀에는 상장과 상금을 수여하며, 수상자에게는 IT 기업 채용 연계형 인턴십 기회도 제공한다. ◆와이즈넛, 대화로 만드는 AI 에이전트 공개 와이즈넛이 지난 10일부터 11일까지 서울 스위스 그랜드 호텔에서 열린 '제31회 지자체 정보통신 우수사례 발표대회'에서 대화만으로 AI 에이전트를 구성하는 기능을 선보였다. 사용자가 원하는 업무나 기능을 자연어로 설명하면 AI가 에이전트의 업무 흐름을 자동으로 구성한다. 이후에도 대화를 통해 기능을 추가하거나 조건을 변경할 수 있어 별도 개발 작업 없이 기관 업무에 맞는 워크플로우를 설계하도록 지원한다. 와이즈넛은 경기도청, 인사혁신처, 국민건강보험공단 등에 적용한 AI 전환 사례와 함께 지자체 축제 업무를 지원하는 '축제 에이전트'도 소개했다. 실시간 민원 대응부터 행사 전후 데이터 분석, 온라인 광고 등을 지원한다. ◆유아이패스 "에이전틱 AI 확장 핵심은 오케스트레이션" 유아이패스가 기업의 에이전틱 AI 도입 현황과 비즈니스 오케스트레이션 활용 실태를 분석한 글로벌 조사 결과를 발표했다. 매출 10억 달러 이상 대기업의 C레벨 임원과 IT 실무자 약 600명을 조사한 결과, AI가 비즈니스 전반에 완전히 내재화됐다고 답한 비율은 31%에 그쳤다. AI 도입 과정에서 겪는 가장 큰 어려움으로는 데이터 품질·준비도(38%), 기존 워크플로우·시스템과의 통합(37%), 거버넌스·컴플라이언스(33%) 등이 꼽혔다. 반면 오케스트레이션 역량이 전사에 완전히 내재화됐다고 답한 기업의 89%는 에이전틱 AI 도입 성과가 투자수익률(ROI) 기대치에 부합하거나 이를 웃돌았다고 밝혔다. 유아이패스는 데이터와 시스템, 업무 흐름, 사람과 AI 에이전트를 연결하는 오케스트레이션이 에이전틱 AI를 기업 전반으로 확장하는 핵심 요소라고 설명했다. ◆BHSN, 이커머스 전시회서 계약 AI '앨리비' 선봬 리걸AI 기업 BHSN이 오는 17일부터 19일까지 서울 강남구 세텍(SETEC)에서 열리는 '2026 코리아 이커머스 페어(KOEFA 2026)'에 참가해 계약 AI 플랫폼 '앨리비'를 선보인다. 앨리비는 계약서 초안 작성과 AI 검토부터 전자서명, 체결본 보관, 이행 관리까지 계약 업무 전 과정을 지원한다. 계약서 내용을 자연어로 질문하면 관련 조항을 근거로 답변하고, AI가 제안한 수정 내용도 계약서에 바로 반영할 수 있다. 체결 이후에는 갱신·해지 통지 기한과 대금 지급 일정 등을 자동으로 추적한다. 임정근 BHSN 대표는 18일 '계약 AI를 활용한 이커머스 계약 업무 혁신'을 주제로 발표한다. 공급·사입, 플랫폼 입점, 광고대행, 인플루언서 협찬, 해외 소싱 등 온라인 판매자가 자주 접하는 계약을 중심으로 AI 활용 사례를 소개할 예정이다. ◆메이머스트, '2026 대한민국 일자리 으뜸기업' 선정 메이머스트가 고용노동부가 선정하는 '2026 대한민국 일자리 으뜸기업'에 이름을 올렸다. 일자리 으뜸기업은 고용 증가와 일자리의 질 개선 노력 등을 종합적으로 평가해 선정한다. 메이머스트는 AI·보안·네트워크·디지털전환(DX) 분야 전문 인력 채용을 확대하고 교육·자격증 취득비와 자녀 학자금 지원, 사내 동호회 등 임직원 지원 제도를 운영하고 있다. 메이머스트는 그래픽처리장치(GPU) 연산과 네트워크, 스토리지, 전력·냉각부터 운영·관제 소프트웨어까지 아우르는 AI 풀스택 사업을 확대하고 있다. 지난해 '벤처천억기업'에 선정된 데 이어 기업공개(IPO)도 준비하고 있다.

2026.09.14 16:10김동원 기자

한국·프랑스 AI 협력, '신뢰성'까지 넓힌다…씽크포비엘-누말리스 맞손

한국과 프랑스가 인공지능(AI) 분야 협력을 확대하는 가운데 민간에서도 AI 신뢰성 기술을 둘러싼 협력이 구체화됐다. 씽크포비엘은 8일(현지시간) 프랑스 파리에서 열린 '한국-프랑스 이노베이션 커넥션'에 참여해 프랑스 기업 누말리스와 AI 신뢰성 분야 기술 개발과 사업화를 위한 양해각서(MOU)를 체결했다고 밝혔다. 누말리스는 AI가 예상하지 못한 데이터나 환경 변화에도 안정적으로 작동하는지를 검증하는 '강건성' 평가 전문기업이다. AI 시스템의 안전성과 강건성·설명 가능성을 수학적으로 검증하는 기술을 보유하고 있으며 항공우주와 국방·철도·원자력·금융·보험·의료 분야에서 관련 사업을 하고 있다. 이번 행사는 이재명 대통령의 프랑스 국빈 방문 기간에 열렸다. 이날 이 대통령과 에마뉘엘 마크롱 프랑스 대통령은 정상회담을 열고 AI와 반도체·양자 등 첨단기술 분야 협력을 확대하기로 했다. 배경훈 부총리 겸 과학기술정보통신부 장관도 프랑스 측과 AI·반도체·양자 기술 분야 협력 MOU를 체결했다. 씽크포비엘과 누말리스의 협력은 지난해 시작됐다. 양사는 산업통상자원부와 한국산업기술진흥원(KIAT)이 지원하는 한·프랑스 국제 공동 연구개발(R&D) 과제를 통해 AI 신뢰성 관련 기술을 공동 개발하고 있다. 이번 행사에서는 양사가 개발 중인 AI 강건성 평가 방법론도 공개했다. 씽크포비엘의 '리인'은 AI가 실제 환경에서 마주할 다양한 조건을 구성하고 평가에 필요한 데이터 범위와 부족한 부분을 찾아낸다. 누말리스의 '사임플'은 이렇게 설정한 조건에서 AI 모델이 얼마나 안정적으로 작동하는지를 평가한다. 양사는 두 기술을 결합해 AI 신뢰성을 검증하는 공동 평가 체계를 개발하고 있다. AI를 어떤 환경과 조건에서 시험해야 하는지를 정하고 해당 조건에서 AI가 안정적으로 작동하는지를 검증하는 구조다. 이번 MOU를 계기로 협력 범위도 넓힌다. AI 신뢰성 분야의 산업 수요에 대응하기 위한 기술 개발과 사업화를 함께 추진하고 각사가 진행 중인 국방 분야 프로젝트에서도 협력하기로 했다. 누말리스의 AI 강건성 평가 솔루션 '사임플'을 국내에 공급하는 방안도 논의하고 있다. 씽크포비엘은 국내 기업과 기관 3~4곳이 사임플 구매에 관심을 보이고 있다고 밝혔다. 아르노 이우알랭 누말리스 대표는 "AI 강건성은 AI 시스템의 신뢰성을 구성하는 핵심 요소 가운데 하나로 안전성·보안성과도 관련이 있는 만큼 반드시 갖춰야 할 요소"라며 "유럽이나 한국이나 AI 시스템을 구축하면 어느 시점에는 반드시 강건성을 검증해야 할 것"이라고 말했다. 박지환 씽크포비엘 대표는 "미래 AI 기술 방향에서 AI 신뢰성은 가장 중요하게 여겨질 분야"라며 "시장이 충분히 형성되지 않아 기업 스스로 생존하고 성장하기 쉽지 않은 만큼 양국 정부가 초기 시장이 형성될 수 있도록 많은 관심과 지원에 나서주길 바란다"고 강조했다. 안 르 에낭프 프랑스 인공지능디지털담당장관은 "누말리스와 씽크포비엘이 신뢰할 수 있는 AI를 위해 상호운용 가능한 국제적 프레임워크를 개척하고 있는 건 중요한 의미가 있다"며 "이러한 한국과 프랑스의 디지털 파트너십 장래는 매우 밝고 앞으로 더욱 협력을 강화한다면 양국의 기술 주권을 더 높은 수준으로 발전시킬 수 있을 것"이라고 밝혔다.

2026.09.09 11:11김동원 기자

[현장] 김명주 AI안전연구소장 "국방 AI, 자율성 커질수록 '멈출 장치' 필요"

전장에서 인공지능(AI)이 스스로 판단하는 영역이 넓어지는 만큼 사람이 필요할 때 AI를 멈추고 확인할 수 있는 안전장치를 갖춰야 한다는 주장이 나왔다. 사람이 모든 판단에 개입하기 어려워지는 상황에 대비해 국방 AI에 '통제 가능성'과 '추적 가능성', '검증 가능성'을 확보해야 한다는 제안이다. 김명주 AI안전연구소장은 2일 서울 용산구 국방컨벤션에서 열린 '신뢰받는 국방AI' 세미나에서 "AI에 자율성을 부여하는 쪽은 갈수록 늘어날 수밖에 없다"며 "전쟁이나 군사 쪽에서도 지켜야 되는 인도주의적 원칙의 선이 뭘까 그런 부분을 찾는 게 필요하다"고 말했다. 전장에서는 AI가 맡는 역할이 갈수록 커질 전망이다. 각종 센서에서 들어오는 데이터와 고려할 변수는 많아지는 반면 공격이나 방어를 결정할 시간은 짧아지고 있어서다. 사람이 모든 정보를 직접 확인하기 어려워지면서 AI가 처리하고 판단하는 영역도 넓어진다. 사람에게 최종 결정권을 주는 것만으로 충분한지도 문제다. AI가 분석한 결과를 화면에 제시하면 짧은 시간 안에 결정을 내려야 하는 지휘관이 이를 그대로 받아들일 가능성이 있기 때문이다. 김 소장은 사람이 마지막 승인만 하는 데 그치지 않고 AI의 판단을 실제로 거부하거나 멈출 수 있어야 한다고 봤다. 이 때문에 그는 AI에 대한 최소한의 통제권은 사람이 가져야 한다고 강조했다. 모든 판단에 사람이 일일이 개입하기 어려워지더라도 AI의 작동을 중단하거나 부여된 권한을 줄이는 장치는 남겨두자는 취지다. 대표적인 안전장치로는 '킬 스위치'를 제시했다. 국내 AI 기본법에서는 이를 '비상정지 기능'으로 규정하고 있다. 김 소장은 비상정지 기능을 무기 내부에 두기보다 외부에서 작동할 수 있도록 하고 개발 단계부터 설계에 반영해야 한다고 강조했다. AI를 멈추는 것만큼 문제가 생긴 뒤 원인을 확인하는 것도 중요하다. 항공기가 비행 기록을 남기듯 국방 AI도 어떤 정보를 받아 어떤 판단을 내렸는지 기록해야 한다. AI가 제대로 검증되지 않은 영역이나 오류 가능성도 미리 남겨두면 사고가 발생했을 때 책임 소재를 확인하는 데 도움이 된다. 검증을 개발자와 운영자에게만 맡겨서는 안 된다고 봤다. 김 소장은 AI를 개발하고 사용하는 주체와 별도로 안전성을 확인하는 제3자의 역할이 필요하다고 강조했다. 그는 "완성된 윤리를 내장한 전쟁 AI는 아직 불가능하다"며 "아무도 가보지 않은 길"이라고 말했다. 이어 "국방 AI는 결국 국가를 위한 도구"라며 "인도주의 원칙에 따라 사용한다는 큰 틀에서 바라보는 게 가장 중요하다"고 밝혔다.

2026.09.02 17:26김동원 기자

[현장] "성능·정확도 대신 책임·설명력 겨뤘다"…AI 기본법 시대, 해커톤의 진화

"이번 해커톤을 통해 인공지능(AI) 신뢰성은 문헌이나 이론 학습만으로 습득할 수 있는 영역이 아니라 실제 현장에서 판단과 설명, 책임 있는 선택이 병행될 때 체득된다는 게 입증됐습니다." 박지환 씽크포비엘 대표는 29일 서울 서초구 서울교육대학교에서 열린 '제1회 트라이톤' 시상식에서 이같이 말했다. 씽크포비엘과 신뢰할 수 있는 인공지능 국제연대(TRAIN)가 개최한 국내 첫 AI 신뢰성 해커톤은 AI 개발 절차 수행을 통해 내놓은 AI 신뢰성 입증 산출물을 평가해 순위를 가리는 대회다. 일반적인 AI 경연 대회가 모델의 성능과 정확도 향상에 집중했다면 트라이톤은 AI가 틀렸을 때의 설명 가능성과 책임 소재를 묻는다. 지난해 10월 오리엔테이션을 시작으로 4개월간 진행된 대회에는 전국 대학 45개 팀 192명이 참여했다. 예선을 거쳐 39팀(159명)이 본선에 진출했고 최종 28팀(117명)이 산출물을 제출했다. 씽크포비엘은 이번 대회 주제인 AI 신뢰성 기술이 기존 레드팀 중심 해커톤과 다르게 범위와 적용 기술에 차이가 있는 점을 고려했다. 참여자들의 이해를 돕기 위해 자체 개발 교육 서비스는 물론, 10년 이상 경력 전문 연구 인력과의 일대일 개별 멘토링을 제공했다. 이번 대회 멘토로 나선 천선일 씽크포비엘 연구소 수석매니저는 "최근 AI 기본법 시행 등 규제 환경 변화에 따라 모델이 단순히 정확한지를 넘어 '얼마나 믿고 쓸 수 있는가', '편향에서 얼마나 자유로운가'에 대한 질문이 중요해졌다"며 "그동안 피해 왔던 AI 신뢰성 관련 질문들을 수면 위로 끌어올리고자 했다"고 말했다. 천 매니저는 "참가자들이 현업에서도 다루기 힘든 신뢰성이라는 추상적인 주제를 구체적인 산출물로 구현하고 논리적으로 연결했다"고 덧붙였다. 이날 오후 진행된 시상식에서 최종 우승은 과학기술연합대학원대학교(UST)와 경북대학교 AI 전공 대학원생으로 구성된 'TLV 팀'(변재연·이제경·김보경)이 차지했다. 이 팀은 '가디언 AI(교육용 AI 안전성 평가 시스템)'을 개발하는 과정에서 AI 신뢰성 산출물을 만들었다. 이는 실제 서비스 환경을 가정한 구체적인 사례 설정과 충분한 근거 자료 기반 설계 구현, 일관되고 기술적 완성도가 높은 서비스 수준 달성 등에서 높은 평가를 받았다. 이어 '숨 쉰 채 발견' 팀(2위, 서울시립대 인공지능학과), '성·신의 한 수' 팀(3위, 성균관대 소프트웨어학과 및 성신여대 AI융합학부), 'SecurAI' 팀(4위, 경상국립대 AI정보공학과), '이닦조' 팀(5위, 가톨릭대 심리학과), 'GPS.dev' 팀(6위, 성균관대 지능형소프트웨어학과)이 순위별로 상패와 상금을 받았다. 상금은 최대 420만100원에서 최소 52만5천900원이다. 이 금액들은 AI 신뢰성 관련 국제 표준 번호를 상징한다. 입상 참가자들은 국내 정보기술(IT) 기업에서 정식 채용이 연계되는 인턴십 기회도 얻는다. 씽크포비엘은 소정의 교육 과정을 이수한 참여자에게 'AI 신뢰성 전문가 민간자격(CTAP)' 응시 기회도 부여했다. 지난 11일 서울·부산·광주·청주 등 4개 지역에서 치러진 제1회 시험에는 대회 참여자 40명이 합격했다. 씽크포비엘은 이번 대회가 공공의 관심과 지원으로 가능했다고 강조했다. 한국지능정보사회진흥원(NIA)은 'AI 허브' 학습용 데이터를 개방했고, 한국산업기술시험원(KTL)은 AI 신뢰성 산출물을 도출·검증할 수 있도록 그래픽처리장치(GPU) 컴퓨팅 자원을 무상 지원했다. 권종원 KTL 센터장은 축사에서 "정답이 없는 AI 신뢰성 확보를 위해 다양한 지식을 가진 인재들의 조화가 필수적"이라며 "신뢰성은 성능뿐만 아니라 다양한 분야를 다루기에 서로 다른 특성과 지식을 가진 분들의 '오케스트레이션'이 중요하다"라고 말했다. 박 대표는 "지금까지 AI를 더 정확하고 효율적으로 만드는 데 집중했다면, AI가 동작하지 않도록 멈추게 하거나 양보하게 하는 방법을 가르치고 기준을 설계하며 관리하는 역할이 더 중요해질 것"이라고 내다봤다.

2026.01.29 15:22이나연 기자

[현장] AI 신뢰성, 이제 자격증 시대…국내 첫 민간 전문가 시험장 가보니

"본 시험에 들어가기 앞서 오는 22일부터 시행되는 '인공지능(AI) 기본법'에 대해 잠시 설명드리겠습니다. 오늘 여러분이 치르는 자격 시험의 의미와 역할을 이해하는 시간이 되길 바랍니다." 11일 오후 찾은 서울 서초구 서울교육대학교 인문관 강의실. 한파특보가 내려진 주말이지만 30여 명의 사람들로 북적이는 교실이 있었다. 바로 국내 최초의 'AI 신뢰성 전문가(CTAP)' 시험장이다. 씽크포비엘이 주관하는 이번 제1회 CTAP 자격시험에는 AI 신뢰성 해커톤 '트라이톤' 참가자를 포함해 총 50여 명이 응시했다. 이날 시험은 서울교육대학교를 비롯해 부산 동의대학교, 광주 야생양봉원, 청주 충북대학교에서 동시에 진행됐다. CTAP는 총 45문항 객관식으로 구성됐으며 합격 기준은 100점 만점 중 65점 이상이다. 시험 기획을 맡은 씽크포비엘 연구원은 90분간 진행되는 시험에 앞서 AI기본법을 소개하고 몇 가지 예시 문항을 제시했다. '규제와 혁신이 충돌하는 AI 거버넌스의 역설을 해소하기 위해 참고할 국제 표준은 무엇인가', 'AI 시스템을 개발 및 배포한 후에 지속 수행해야 하는 작업은 무엇인가' 등 구체적인 예제가 언급되자 응시자들은 이를 노트나 노트북 등에 필기하며 경청했다. 단순 AI 윤리 아닌 실무형 인재 발굴 집중 민간 자격 제도상 이번 파운데이션 레벨(FL) 시험은 단순히 윤리적 구호를 묻지 않는다. 대신 국제 표준과 규범에 따른 책임의 구조를 정확히 이해하고 있는지에 초점을 맞췄다. AI 시스템이 왜 위험한지 그 구조를 파악하고 통제할 수 있는 '심판'의 역량을 검증하는 것이 목적이다. 박지환 씽크포비엘 대표는 "FL은 아직 책임을 맡기는 단계가 아니라, AI 신뢰성에 대해 올바르게 이해하고 소통할 수 있는지를 검증한다"며 "어설픈 실무 경험이 잘못된 확신으로 이어지는 것을 차단하고, 무엇이 올바른 접근인지 정확한 기준을 제시하는 것"이라고 설명했다. 박 대표는 "CTAP의 변별력은 AI를 '잘 쓰는 사람'이 아니라, 문제가 발생했을 때 원인과 책임을 기술적으로 설명할 수 있는 사람을 가려내는 데 있다"며 "도덕적 담론이 아니라 이미 국제적으로 합의된 지식 체계를 정확히 이해하고 있는지를 검증하는 것"이라고 짚었다. "AI 신뢰는 감정이 아닌 구조"…전국 4개 도시 동시 시행 첫 시험이 서울, 부산, 광주, 청주 등 전국 4개 도시에서 동시에 열린 점도 눈길을 끈다. 이는 수도권 외 지역 응시생들의 접근성을 배려한 결정이다. 박 대표는 "트라이톤 참가 학생들에게 공평한 기회를 주기로 한 약속을 지키기 위한 선택"이라며 "학생들이 이동하는 불편 대신 심사원이 지역으로 이동하는 편이 인재 발굴 취지에 맞다고 판단했다"고 설명했다. 씽크포비엘은 이번 자격 제도를 통해 AI 신뢰성을 추상적인 미덕이 아닌, 작동하는 '거버넌스'의 문제로 전환한다는 목표다. 기획부터 배포, 운영까지 각 단계의 담당자가 무엇을 해야 하는지 구체적으로 정의된 구조가 갖춰졌을 때 비로소 사회적 신뢰가 가능하다는 이유에서다. CTAP 합격 시 부여되는 자격의 유효기간은 약 3년으로 설정됐다. 이후에는 보수 교육이나 갱신 과정 도입도 검토되고 있다. 피지컬 AI 시대, 신뢰성 전문가 수요 '급증' 전망 시험을 마친 응시생들은 한 달 내 합격 여부를 통보받게 된다. 합격자들은 향후 최소 1년 이상의 실무 경험을 거쳐, 주관식·사례 기반으로 고난도 판단 능력을 검증하는 어드밴스드 레벨(AL)에 도전할 수 있다. 씽크포비엘은 올해 하반기 글로벌 연합 국가들과 함께 국제 시험 시행을 추진하며 역량 평가 모델의 국제 표준화에 박차를 가할 계획이다. 박 대표는 "최근 산업계 시선은 생성형 AI를 넘어 로봇·자율주행 같은 피지컬 AI로 빠르게 이동하고 있다"며 "사람 개입 없이 물리적 행동이 이뤄지는 영역은 사고 발생 시 생명·안전으로 직결되기에 신뢰성 전문가가 필수"라고 강조했다. 이어 "해외는 이미 작년부터 피지컬 AI 확산을 전제로 신뢰성 전문가 육성을 시작했지만, 국내는 여전히 기술 확산 후 제도가 따라가는 패턴"이라며 "2~3년 뒤 수요가 급증할 것"이라고 전망했다. 실제로 씽크포비엘이 AI 신뢰성을 이해한 기업들을 대상으로 한 소규모 설문에서는 약 94%가 관련 전문가 영입 의사를 밝혔다. 트라이톤 상위 입상자에게 고용 연계 인턴십을 제안한 기업도 있는 것으로 조사됐다. 박 대표는 "AI 기본법 제정과 국제 규제 강화 흐름 속에서 AI는 더 이상 '잘 되면 쓰고, 문제 생기면 고치면 되는 기술'이 아니라 '왜 허용했는지 사전에 설명해야 하는 기술'이 됐다"며 "책임 역시 사후 변명이 아니라 사전 설계의 문제가 된 만큼, AI 엔지니어는 AI로 교체될 수 있어도 책임을 설계하고 검증하는 역할은 사라지지 않을 것"이라고 강조했다. 이어 "CTAP는 AI를 만드는 시대를 넘어 'AI를 책임져야 하는 시대'를 대비하는 정확한 이정표가 될 것"이라고 덧붙였다.

2026.01.11 16:07이나연 기자

"AI 신뢰성이 올해 기업 생존 결정"…셀렉트스타, 기술특례 IPO·흑자 위해 달린다

세계 최초 포괄적 인공지능(AI) 규제인 'AI 기본법'이 이달부터 시행되는 가운데, 셀렉트스타가 2026년을 'AI 신뢰성 비즈니스 성패 원년'으로 규정했다. 회사는 올해 기술특례 상장과 함께 글로벌 신뢰성 검증 표준 확립에 나설 전망이다. 김세엽 셀렉트스타 대표는 지난 7일 발표한 신년사에서 "기업들이 할루시네이션(환각)이나 데이터 보안 문제로 고민하는 모습을 보며 무거운 책임감을 느꼈다"며 "2026년은 AI 신뢰성이 비즈니스 성패를 가르는 원년이 될 것"이라고 밝혔다. 우리나라는 오는 22일부터 AI 규제와 진흥 내용을 담은 AI 기본법을 전면 시행한다. 특히 핵심 규제 대상인 고영향(고위험) AI에 대한 신뢰성 확보 조치가 의무화되면서 기업들은 법적·제도적 기준에 부합하는 검증 체계를 갖춰야 하는 상황이다. 김세엽 대표는 "AI 신뢰성을 단순히 몇 개 수치로 표현할 수 없다"며 "진정한 신뢰는 오류를 예측하고 위험을 통제할 수 있는 구체적인 안전성에서 나온다"고 강조했다. 올해 셀렉트스타는 '고품질 데이터'와 'AI 신뢰성 글로벌 표준'을 사업의 핵심 축으로 삼을 방침이다. 김 대표는 "우리 언어와 문화적 맥락을 정확히 이해하는 데이터로 국가 데이터 주권을 지키겠다"며 "국내를 넘어 세계 시장에서도 통용될 평가 기준을 확립하겠다"고 말했다. 이어 "복잡해지는 규제 환경 속에서도 기업 서비스가 흔들림 없이 글로벌 무대로 뻗어나갈 수 있도록 확실한 '품질 보증서'가 되겠다"고 덧붙였다. 셀렉트스타는 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 통해 금융권과 공공기관의 AI 도입 장벽을 낮추고 있다. 다투모 이밸은 AI 서비스 운영 중 발생할 수 있는 오류와 위험성을 자동으로 검출해 모델 품질 개선 방향성을 제시한다. 과학기술정보통신부가 주관하는 '독자 AI 파운데이션 모델' 개발 프로젝트에도 참여하고 있다. 회사는 SK텔레콤 컨소시엄에서 고품질 학습 데이터 구축과 모델 안정성 검증을 총괄 중이다. 글로벌 시장 확장도 주요 과제다. 지난해 스페인 바르셀로나에서 열린 '모바일 월드 콩그레스(MWC)25'에서는 세계이동통신사업자연합회(GSMA)와 '글로벌 AI 레드팀 챌린지'를 공동 주최했다. 기존 국가 단위로 진행됐던 레드팀 챌린지가 글로벌 행사에서 다국적 참가자를 대상으로 열린 것은 처음이었다. 지난 6일부터 오는 9일까지 미국 라스베이거스에서 열리는 세계 최대 가전·정보기술(IT) 전시회 'CES 2026'에 참여하는 등 글로벌 전시 및 세일즈를 확장하고 있다. 셀렉트스타는 코스닥 기술특례 상장을 목표로 기업공개(IPO)에 나선다. 상장 주관사는 대신증권으로 올해 연말까지 상장을 마무리할 예정이다. 매출 100억원 이상 달성과 함께 흑자 전환도 노리고 있다. 회사는 지난해 말 55억원 규모 시리즈B 추가 투자를 유치해 총 260억원으로 라운드를 마감했다. 이로써 누적 투자금은 434억원을 달성했다. 김 대표는 "기술이 아무리 빠르게 발전해도 변하지 않는 비즈니스 본질은 신뢰"라며 "그 신뢰를 우리가 지켜주겠다"고 강조했다.

2026.01.08 17:27이나연 기자