검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'신뢰'통합검색 결과 입니다. (99건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"AI 매일 써도 일 못 맡겨"…생산성 가로막는 AI 신뢰 격차

인공지능(AI)을 업무에 더 깊이 활용하려면 사람과 AI 사이의 신뢰 격차를 줄여야 한다는 분석이 나왔다. 11일 팀뷰어가 발표한 '자율형 워크플레이스로의 여정' 보고서에 따르면 아시아태평양 지역 IT 리더들은 2030년까지 디지털 워크플레이스 서비스 42%가 자율적으로 운영될 것으로 전망했다. 조사 대상자 74%는 매일 AI를 사용하고 있었지만 61%는 AI가 업무를 수행하기 전 사람의 검토와 승인이 필요하다고 답했다. AI 결과를 다시 확인하는 데 드는 시간도 적지 않았다. 응답자 55%는 AI가 만든 결과물을 활용하기 전 자주 또는 항상 직접 검증한다고 답했으며 여기에 주당 평균 2시간을 쓰는 것으로 나타났다. AI에 업무를 맡기는 데 대한 거부감은 아직 큰 것으로 집계됐다. 응답자 61%는 AI가 독자적으로 행동하는 것을 원하지 않는다고 답했다. AI가 보다 자율적으로 움직여도 된다고 답한 응답자는 34%였으며 이 가운데 76%도 사전에 정해진 업무 범위 안에서만 허용할 수 있다고 봤다. 대신 사람이 통제할 수 있는 조건에서는 AI 자율성을 받아들일 수 있다는 응답이 많았다. 응답자 40%는 AI가 문제를 미리 파악해 해결하되 진행 과정을 계속 알려주길 원했고 66%는 필요할 때 직접 개입할 수 있다면 AI가 자율적으로 움직여도 괜찮다고 답했다. AI 자율 실행을 허용하기 위한 조건으로는 보안과 개인정보 보호가 가장 중요하게 꼽혔다. 응답자의 41%가 이를 선택했으며 AI 접근 범위 제한 35%, 주요 변경 전 알림 33%, 활동 기록 공개 31%, 원상복구 기능 30%가 뒤를 이었다. IT 부문에서는 자율화가 상대적으로 빠르게 진행될 것으로 전망됐다. IT 리더 25%는 자신의 부서가 이미 부분적으로 자율화됐다고 답했으며 99%는 최소 한 가지 이상의 업무를 AI에 맡기는 데 긍정적인 태도를 보였다. AI에 맡길 의향이 높은 업무는 시스템 업데이트 63%, 일반적인 기기 오류 해결 52%, 기기 성능 조정 51% 순이었다. 팀뷰어는 이런 현상을 'AI 신뢰 격차'로 설명했다. AI를 보조도구로 사용하는 데는 익숙해졌지만 실제 실행 권한과 책임까지 맡기는 데는 여전히 주저하고 있다는 의미다. 언제 AI를 믿고 언제 직접 확인해야 할지 명확하지 않다고 답한 비율도 50%에 달했다. 올리버 스테일 팀뷰어 최고경영자(CEO)는 "AI는 이미 업무 방식을 바꾸고 있지만 다음 단계를 좌우하는 것은 신뢰"라며 "기업이 AI에 무한한 권한을 부여한다고 성공하는 것이 아니라 명확하게 정의된 안전장치 안에서 안전하고 투명하며 책임 있게 작동하는 시스템을 갖출 때 성공한다"고 말했다.

2026.08.11 15:52김미정 기자

셀렉트스타, AI 신뢰성 평가 분야 최초 코스닥 상장 도전

셀렉트스타가 인공지능(AI) 신뢰성 평가 기술을 핵심 사업으로 하는 국내 기업 중 처음으로 코스닥 기술특례상장을 위한 기술성 평가를 통과했다. 셀렉트스타는 이번 평가 결과를 바탕으로 주관사인 대신증권과 상장 준비에 돌입하고, 연내 코스닥 상장예비심사를 신청할 예정이라고 3일 밝혔다. 평가 대상이 된 셀렉트스타의 핵심 기술은 'AI 신뢰성 확보를 위한 데이터 및 평가 기술'이다. 이는 AI 성능 향상에 필요한 데이터를 생성·검증하고, 모델 성능과 안전성을 체계적으로 평가해 기업의 AI 도입에 가장 큰 걸림돌인 신뢰성 문제를 해결한다. 셀렉트스타는 핵심 기술을 기반으로 기업의 AI 개발 및 도입 목적에 맞춰 학습·평가 데이터를 설계하고 구축하는 '다투모 서비스'와 평가 데이터 생성부터 성능·안전성 평가까지 하나의 환경에서 가능한 '다투모 플랫폼'을 제공한다. 다투모 서비스를 통해 축적한 다양한 산업 현 데이터와 평가 경험을 플랫폼 기능에 반영하고, 다투모 플랫폼을 활용해 서비스의 효율성과 확장성을 높이는 구조다. 또 셀렉트스타가 기술 개발 과정에서 확보한 연구 성과는 ICLR·ICML·ACL·EMNLP 등 세계적인 AI 국제학회에 지속적으로 채택됐다. 정부의 '독자 AI 파운데이션 모델 개발' 사업 내 SK텔레콤 컨소시엄으로 참여해 고품질 데이터 구축과 모델 신뢰성 평가도 담당하고 있다. 셀렉트스타는 시장과 AI 기술 변화에 맞춰 멀티모달, 에이전틱 AI, 피지컬 AI 등 새로운 형태의 AI를 평가할 수 있도록 기술 범위를 넓힐 예정이다. 나아가 국내에서 축적한 기술과 사업 경험을 기반으로 일본과 미국 등 해외 시장 진출을 추진한다. 김세엽 셀렉트스타 대표는 "이번 기술성 평가 통과는 우리가 축적해 온 AI 데이터 및 신뢰성 평가 기술력과 사업적 성과를 인정받은 결과"라며 "기업공개(IPO)를 성공적으로 이끌어 AI 전 주기에 필요한 데이터와 평가 기술을 제공하는 글로벌 AI 신뢰성 기업으로 성장하겠다"고 말했다.

2026.08.03 09:46이나연 기자

셀렉트스타, 금융권 AI 신뢰성 검증 역할 강화

셀렉트스타가 금융업계 인공지능(AI) 안전성 교육과 범용·금융 특화 취약점 확인 역량을 앞세워 금융권 AI 신뢰성 검증 분야 입지를 넓힌다. 셀렉트스타는 금융보안원이 주최하고 카카오뱅크가 후원하는 '2026 금융보안 AI 아카데미 캠프'에서 AI 신뢰성 검증 '다투모 플랫폼' 제공 등 행사 운영을 담당했다고 23일 밝혔다. 금융보안 AI 아카데미 캠프는 AI 정보보안에 관심 있는 대학(원)생을 대상으로 금융권 AI·보안 분야의 실무 역량을 높이기 위해 마련된 단기 집중 교육 프로그램이다. 지난 20일부터 22일까지 경기도 용인 카카오 AI 캠퍼스에서 열린 올해 행사에는 50명이 참가했다. 첫날은 김민우 셀렉트스타 AI 세이프티 팀 리더가 강연자로 나서 AI 안전성과 보안에 관한 이론 및 실습 교육을 진행했다. 교육은 OWASP 거대언어모델(LLM) 톱 10을 비롯해 AI 레드티밍 기법, 자동 AI 레드티밍, AI 가드레일, 금융 특화 AI 세이프티 평가 등 최신 AI 보안 기술과 연구 동향을 중심으로 구성됐다. 이튿날 진행된 레드팀 챌린지는 범용 안전성과 금융 특화 안전성 영역으로 구분해 1부 개인전, 2부 팀전으로 운영됐다. 참가자들은 각 미션에 따라 다양한 공격 기법을 설계·적용하면서 AI 모델의 취약점을 발굴하고 금융 서비스 환경에서 발생할 수 있는 위험 요소를 분석했다. 셀렉트스타는 레드티밍 결과를 신속하고 일관된 기준으로 판별할 수 있도록 챌린지 운영에 AI 자동 평가 시스템을 도입했다. 다수의 참가자가 제출하는 공격 결과를 자동으로 분석·채점해 평가 속도와 정확성을 높였다. 2부 팀전에서는 국내 최초로 '인간 대 AI' 방식의 레드티밍 대결이 진행됐다. 참가자들은 5명씩 조를 이뤄 AI 에이전트와 동일한 미션을 수행했는데, 멀티 AI 에이전트 레드티머가 인간을 근소한 차이로 앞섰다. 김 리더는 "생성형 AI가 금융 서비스에 빠르게 적용되면서 범용적인 안전성뿐만 아니라 금융 도메인의 특성과 규제를 반영한 정교한 검증 역량이 중요해지고 있다"며 "이번 캠프가 금융 서비스의 특성과 규제를 반영한 AI 안전성 평가를 직접 경험하고, 잠재적 위험에 어떻게 대응해야 할지 고민하는 계기가 됐길 바란다"고 말했다.

2026.07.23 15:41이나연 기자

[AI 리더스] 셀렉트스타는 어떻게 은행 '신뢰성 검증' 도맡았나

"사람이 100% 수작업으로 했다면 60일이 걸렸을 평가를 50분 만에 끝냈습니다." 김세엽 셀렉트스타 대표는 지난 13일 서울 강남구 본사에서 지디넷코리아와 만나 NH농협은행 생성형 인공지능(AI) 서비스 검증 사례를 이같이 소개했다. NH농협은행은 사내 업무·금융 지식 질의응답 AI를 개발하면서 셀렉트스타의 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 도입했다. 평가 기간이 두 달에서 한 시간 이내로 줄면서 AI를 수정할 때마다 검증을 다시 돌려 목표 성능에 도달했는지 확인할 수 있게 됐다. 다투모 이밸을 정식 도입한 은행은 NH농협은행만이 아니다. 우리은행은 국내 최초 AI 청약 상담 서비스를 개발하며 금융보안원 보안성 검증을 이 솔루션으로 진행했고, 신한은행은 현업 부서가 직접 AI 서비스를 만드는 전사 생성형 AI 플랫폼에 평가 모듈로 탑재했다. 세 은행 모두 별도 기술검증(PoC) 기간 없이 곧바로 정식 도입을 택했다. 김 대표는 "세 은행 모두 생성형 AI를 도입하는 과정에 평가가 필수라는 인식이 명확했다"며 "다투모 이밸이 정확하고 일관되게 목표 수준 도달 여부를 확인해 준다는 점이 바로 도입으로 이어졌다"고 설명했다. 은행들이 AI 서비스 평가를 속속 도입하게 된 배경에는 바로 규제 완화가 있다. 금융당국이 망분리 규제를 풀고 혁신금융서비스 제도로 외부 AI 활용 길을 열자 은행의 AI 도입은 그룹 차원으로 확산됐다. 하지만 서비스 신뢰도를 확인하는 검증 절차는 사람이 일일이 평가 질문을 만들고 답변을 검수하는 수작업에 머물러 있었다. 김 대표는 "사람이 직접 평가하던 방식으로는 충분한 AI 검증이 이뤄질 수 없었다"며 "고객 신뢰와 리스크 관리가 핵심인 금융에서 안전성 판단이 서지 않으면 어떤 액션도 할 수 없다"고 강조했다. 은행들이 AI 서비스 도입에 있어 가장 경계하는 위험은 환각(할루시네이션)이다. 상품 설명서와 약관 등 정해진 문서를 근거로 답해야 하는 업무 특성상 AI가 없는 내용을 지어내면 곧바로 금융 사고로 이어지기 때문이다. 민감 정보 유출을 막는 보안 평가, 편향·부적절 발언을 거르는 안전성 평가도 주요 검증 항목으로 꼽힌다. 여기에 AI가 실제 업무를 수행하는 에이전트로 진화하면서 정답이 정해지지 않은 업무까지 원칙 기준으로 채점해야 하는 단계에 이르렀다. 셀렉트스타는 라우터·플래너·툴콜링 등 에이전트 핵심 구성 요소 하나하나를 평가하도록 솔루션을 확장했다. 문제는 평가를 반복할수록 커지는 비용 부담이다. AI 답변을 채점할 때마다 거대언어모델(LLM)을 가져와 쓰면 그만큼 컴퓨팅 비용이 불어난다. 이를 보완하기 위해 등장한 평가 특화 모델들은 언어나 도메인이 바뀌면 채점 성능이 급격히 떨어지는 한계가 있었다. 셀렉트스타가 채점 성능은 유지하면서 크기를 줄인 평가 특화 소형 모델 '이스타(E-Star) 12B'를 직접 개발한 이유다. 이 모델은 언어가 영어에서 한국어로, 분야가 일반에서 금융·법률로 바뀌어도 일관된 평가 성능을 낸다. 관련 논문은 최근 자연어처리 분야 국제 학회 ACL 2026 워크숍에 채택되기도 했다. 김 대표는 "E-Star 12B는 오픈AI 'GPT-5.5' 96% 수준으로 평가하면서도 크기가 작아 반복 평가에 드는 컴퓨팅 부담을 줄였다"며 "보안 규정상 외부 AI로 데이터를 보낼 수 없는 금융사 내부망에서 구동되는 점도 강점"이라고 부연했다. 기술 못지않은 차별점은 운영 방식에 있다. 셀렉트스타는 평가 지표 131종을 기본 제공하면서 사내 신뢰성 평가 전문가가 고객 도메인 전문가와 함께 지표를 새로 설계하는 컨설팅을 병행한다. 이 전담 인력만 전체 임직원 170명(5월 말 기준) 가운데 18명이다. 팔란티어의 전방 배치 엔지니어(FDE)처럼 고객 문제를 직접 풀며 얻은 경험을 제품에 쌓아 경쟁사들과의 격차를 벌리겠다는 전략이다. 김 대표는 "이 사이클을 얼마나 돌렸느냐가 결국 진입장벽"이라며 "해외에도 평가 플랫폼은 있지만 컨설팅까지 함께 제공하는 곳은 많지 않다"고 강조했다. 금융에서 쌓은 경험은 다른 산업으로 확장되고 있다. 공공·국방 분야에서는 일부 사업 수주가 확정돼 계약 절차를 밟는 중이다. 제조 분야에서는 AI 판단 오류가 물리적 사고로 이어질 수 있는 피지컬 AI를 겨냥해 사내 연구소가 평가 기술 연구개발에 들어갔다. 해외 시장은 미국과 일본, 중동 세 축으로 공략한다. 이미 지사를 둔 미국에서는 전략적 투자자인 세일즈포스와 협업 접점을 넓히고 있다. 일본의 경우 K-스타트업센터(KSC) 도쿄 입주 프로그램에 선정돼 지사 설립을 위한 거점부터 확보했다. 중동은 데이터센터부터 모델까지 국가 차원의 소버린(주권) AI를 추진하는 만큼 관련한 초기 협력 논의를 진행하고 있다. 김 대표는 "신뢰성 평가는 한 번 하고 끝나는 일이 아니라 AI를 운영하는 내내 반복적으로 돌아가는 구조"라며 "고객이 AI 서비스를 지속적으로 개선하도록 돕는 엔드투엔드 플랫폼을 만드는 것이 목표"라고 밝혔다.

2026.07.19 08:06이나연 기자

[SW키트] AI가 직접 일하는 시대…신뢰성 검증 시장 커진다

생성형 인공지능(AI)이 산업 전반에 확산하면서 AI 결과물 신뢰성을 검증하는 시장이 성장하고 있다. 17일 IT 업계에 따르면 AI 기업들은 생성형 AI가 작성한 문서를 비롯한 AI 모델 답변 품질, 이미지·영상·음성의 조작 여부를 판별하는 솔루션 공급에 나섰다. 사람이 AI 결과물을 일일이 확인해야 하는 부담이 커지면서 검증 업무에도 AI를 활용하려는 수요가 늘어난 영향이다. AI 신뢰성 검증 시장은 세 영역으로 나뉜다. AI가 작성한 글을 판별하는 텍스트 검증과 모델 정확도·안전성을 평가하는 모델 검증, 이미지·영상·음성 진위를 확인하는 멀티미디어 검증이 대표적이다. 텍스트 검증 시장에서는 학교 과제와 연구 논문, 기업 채용을 위한 자기소개서 중심으로 수요가 확대되고 있다. 이에 발맞춰 무하유는 표절검사 서비스 '카피킬러'를 운영하며 쌓은 데이터 분석과 자연어 처리 기술을 기반으로 AI 작성 탐지 솔루션 'GPT킬러'를 개발했다. GPT킬러는 문서를 문단 단위로 분석해 생성형 AI가 작성했을 확률을 제시하고 AI가 생성했을 가능성이 높은 단어의 확률을 역추적하는 솔루션이다. 문서 전체에 대한 판정만 내리는 것이 아니라 AI 작성이 의심되는 부분을 문단별로 보여줄 수 있어, 사용자가 판단 근거를 다시 확인할 수 있도록 돕는다. 해당 솔루션 기술은 카피킬러와 AI 서류평가 솔루션 '프리즘'에도 적용됐다. 무하유는 지원자의 답변 내용과 면접 태도를 분석하는 AI 면접 솔루션 '몬스터'도 운영하고 있다. 프리즘은 자기소개서 등 서류를 분석해 직무 적합도를 평가한다. 몬스터는 지원자 답변을 바탕으로 직무·조직 적합도와 면접 태도, 의사소통 능력을 종합적으로 검토한다. 두 솔루션은 합격과 불합격 결과만 제시하지 않고 어떤 기준과 근거로 결론을 내렸는지 함께 보여준다. AI의 판단 과정을 사람이 다시 확인할 수 있어야 결과도 신뢰할 수 있다는 설명가능성 중심의 검증 체계를 적용했다. 무하유는 한국어뿐 아니라 일본어 시장도 공략하고 있다. 지난 2020년 출시한 일본어 표절검사 서비스 '카피모니터'는 현재 80개 고객사와 22만명 이상이 이용하고 있으며 일부 일본 대학은 과제 제출 과정에서 검사를 의무화했다. 프리즘과 몬스터는 AI 신뢰성 인증과 정보보호관리체계 인증을 취득했다. 두 솔루션은 현재 700개 이상 고객사의 채용 과정에서 활용되고 있다. 셀렉트스타, AI 모델 품질 따진다…딥브레인AI, 멀티미디어 검증 나서 AI 모델 자체 신뢰성을 검증하는 시장도 커지고 있다. 모델 환각과 편향성, 유해 답변, 검색증장생성(RAG) 품질과 정확성을 따져 모델 기반 서비스 질을 높이기 위한 전략이다. 셀렉트스타는 생성형 AI 평가 플랫폼 '다투모 이벨'로 기업용 AI 모델 신뢰성을 검증하고 있다. 고객사가 보유한 정책과 상품 문서를 바탕으로 실제 이용 환경을 반영한 평가 질문을 만들고 AI 응답을 항목별 기준에 따라 자동 채점하는 식이다. 기업은 GPT-4o와 클로드, 라마 등 여러 모델을 동일한 데이터셋으로 평가할 수 있다. 모델별 정확도와 안전성을 비교해 자사 서비스에 적합한 모델을 선정하거나 운영 중인 AI의 품질을 관리할 수 있다. 셀렉트스타는 신한은행과 우리은행, NH농협은행 등 주요 시중은행에 AI 신뢰성 검증 솔루션을 공급했다. 금융권에서 생성형 AI 활용이 확대되면서 잘못된 정보 제공과 유해 답변을 사전에 차단하려는 수요가 늘어났다는 평이 이어지고 있다. AI가 만든 이미지와 영상, 음성의 진위를 판별하는 멀티미디어 검증 시장도 확대되고 있다. 얼굴을 바꾸는 기존 딥페이크뿐 아니라 생성형 AI로 콘텐츠 일부를 수정하거나 새로운 인물과 음성을 만드는 행위까지 검증 범위가 넓어졌다. 딥브레인AI는 이미지와 영상, 음성을 함께 분석하는 멀티모달 기반 딥페이크 탐지 솔루션 'AI 디텍터'를 운영하고 있다. 얼굴 합성과 AI 생성 얼굴, 입술 움직임 합성, 음성 복제 등 주요 조작 유형을 판별한다. AI 디텍터는 콘텐츠의 진위 여부와 함께 조작이 의심되는 구간과 조작 유형, 분석 점수를 제공한다. API와 서비스형 소프트웨어(SaaS) 형태로 제공돼 기존 검증·모니터링 시스템과 연동할 수 있다. 딥브레인AI는 공공기관과 금융기관, 미디어 플랫폼 등을 중심으로 AI 디텍터를 공급하고 있다. 딥페이크를 활용한 금융사기와 명의도용, 허위정보 유포가 확산되면서 실시간 탐지와 근거 기반 판별 수요가 커지고 있다. AI 에이전트 확산은 신뢰성 검증 시장 성장 속도를 더 높일 것으로 예상된다. AI가 정보를 생성하는 데 그치지 않고 기업 시스템에 접속해 업무를 수행하거나 의사결정에 참여하면 작은 오류도 실제 사업 손실과 보안 사고로 이어질 수 있기 때문이다. 가트너는 "2027년까지 기업의 40%가 거버넌스 실패를 이유로 자율형 AI 에이전트 사업을 축소하거나 운영을 중단할 것"이라며 "충분한 검증 체계 구축이 필수 인프라로 자기잡았다"고 분석했다.

2026.07.17 09:13김미정 기자

뤼튼, AI 서비스 신뢰성 강화 '사용자위원회' 공식 출범

뤼튼테크놀로지스가 인공지능(AI) 서비스 안전과 사용자 보호 강화를 위한 '사용자위원회'를 공식 출범했다. 뤼튼테크놀로지스는 지난 10일 이세영 대표와 위원장·위원진이 참석한 가운데 사용자위원회 첫 회의를 개최했다고 13일 밝혔다. AI 서비스가 일상 깊숙이 자리 잡으면서 요구되는 윤리적 책임과 사용자 보호 수준을 강화하기 위한 취지다. 사용자위원회는 외부 전문가 4인으로 구성됐다. 위원장인 이상욱 한양대 철학과 교수를 비롯해 선지원 한양대 법학전문대학원 교수, 이윤형 영남대 심리학과 교수, 황혜진 법무법인 디엘지 변호사가 위원으로 참여한다. 이들은 AI 윤리·철학, 인지·심리, 법학 등 서로 다른 전문 분야의 시각을 결합해 사용자 관점에서 서비스를 점검하게 된다. 뤼튼테크놀로지스는 사용자위원회 논의 결과를 추후 실제 제품과 정책에 반영할 예정이다. 이세영 뤼튼테크놀로지스 대표는 "빠른 성장의 속도가 붙을수록 기술의 편리함 뒤에서 놓치고 있는 책임은 없는가라는 질문이 무거워졌다"며 "외부 전문가 위원들의 소중한 목소리를 경청하고 실제 제품과 정책에 성실히 반영하겠다"고 말했다.

2026.07.13 11:35이나연 기자

씽크포비엘, 경찰청 치안 AI 신뢰성 기틀 닦는다

씽크포비엘이 경찰청의 치안 인공지능(AI) 신뢰성 확보 작업을 맡으며 공공 AI 거버넌스 기준 수립의 선도 사례를 만든다. 씽크포비엘은 지난달 경찰청 'AI 영향평가 및 위험관리방안 수립' 정책과제연구 수행기관으로 선정된 데 이어 이달 사업에 착수했다고 9일 밝혔다. 올해 말 완료될 이번 연구는 경찰청이 수사·민원 업무 전반에 AI 기술을 도입하는 과정에서 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'과 내년부터 시행되는 'AI 및 데이터 기반 행정 활성화에 관한 법률(공공AI법)'에 대응하기 위한 영향평가·위험관리 체계를 마련하는 사업이다. 씽크포비엘은 ▲국내외 정책·조직 현황 조사 ▲경찰청 도입 AI 사업·서비스 영향평가 ▲AI 위험관리 정책 수립 ▲위험관리 조직체계·역할·책임 정립 ▲안전성·신뢰성 확보조치 및 문서화 작업을 수행한다. 치안 AI 분야는 기본권·신체·인권·공권력과 직결된다. 이에 씽크포비엘은 국내 법령 준수는 물론 경제협력개발기구(OECD)·유럽연합(EU) AI 법·ISO/IEC 국제표준 등 글로벌 AI 거버넌스 규범과의 정합성도 함께 맞출 계획이다. 박지환 씽크포비엘 대표는 "치안 AI는 성능 중심의 기술 검토만으로는 충분하지 않은 분야"라며 "글로벌 AI 거버넌스 규범을 경찰청이 선제적으로 검토하는 것은 투명하고 설명 가능한 치안 AI 운영체계 기준을 높이는 시도"라고 말했다.

2026.07.09 15:07이나연 기자

"보안에 퍼펙트 스톰...국가 차원 CAISO 필요"

국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다는 지적이 나왔다. AI기술 발전으로 고도화하는 해킹에 대응하기 위한 차원이다. 고려대 AI보안연구소장을 맡고 있는 이상근 고려대 정보보호대학원 교수는 8일 서울 중구 신라호텔에서 열린 '제15회 정보보호의 날 기념식'에서 기조연설을 하며 "보안에 퍼펙트 스톰이 온다. 국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다"고 제안했다. 또 국가인공지능전략위원회 보안특별위 위원으로 활동하고 있는 윤두식 이로운앤컴퍼니도 이 행사에서 기조강연자로 나서 AI보안을 안전벨트로 비유하며 "시속 200km로 달리고 있는 자동차에 안전벨트가 없는 상황"이라며 현 AI보안을 우려했다. " 윤 대표는 '안전한 AI시대: 위협의 실체와 우리가 갖춰야 할 안전벨트'를 주제로 발표했다. AI 보안을 자동차 안전벨트에 비유해 설명한 그는 볼보에서 자동차 안전벨트를 처음으로 발명했을 당시, 불필요한 안전장치라는 의견이 있었지만, 지금은 자동차를 더 빠르고 안전하게 달릴 수 있게 만든 주인공이 안전벨트라는 것이다. 그는 AI도 '안전벨트'를 갖춰야 한다면서 "AI 보안은 AI 활용을 억제하는 것이 아니라, 더 안전하게 잘 사용할 수 있게 만드는 것"이라고 역설했다. 윤 대표는 "지난해 한 해 동안에만 7516만건의 개인정보가 유출된 것으로 집계됐다. 우리나라 전 국민의 개인정보가 여러 번 유출된 셈"이라며 "올해 상반기만 하더라도 따릉이, 사랑의열매, 듀오, 티빙 등 기업 및 기관에서 개인정보가 유출됐다"고 진단했다. 이에 그는 8대 AI 보안·신뢰 체계를 갖춰야 한다고 강조했다. 윤 대표는 "AI 에이전트는 수없이 많은 시스템에 접근한다. 따라서 AI 에이전트에 대한 신원 검증, 가시성 확보가 필요하다"면서 ▲AI 가시성 ▲프롬프트 인젝션 등 공격 차단 ▲AI 출력 검증 ▲AI 에이전트 행위 통제 ▲데이터 격리 ▲AI 에이전트 신원 검증 ▲행위 로그 확보 ▲데이터 주권 확보 등이 핵심이다. 그는 "AI는 전문가들만 쓸 수 있는 것이 아니고, 일반인 역시 안전하게 사용할 수 있어야 비로소 활성화된다"며 "한국이 앞장서서 안전한 AI 사용을 위해 세계와 협력할 것"이라고 밝혔다. "'보안 퍼펙트 스톰' 온다…'CISO' 아닌 'CAISO' 필요" 이상근 고려대 정보보호대학원 교수는 AI로 코드를 생성하는 '바이브 코딩'의 시대가 다가온 만큼 점검 대상이 폭증했다고 짚었다. 그러나 방어할 인력이나 기술은 턱없이 부족해 방어자의 부담이 늘어나는 '보안 퍼펙트 스톰'이 빚어질 수 있다고 경고했다. 이 교수는 "프론티어 AI 모델을 기반으로 한 체계에서는 공격의 모든 과정이 자동화된다. 일일이 전문가들이 투입돼 작성하던 익스플로잇(취약점 공격)도 수분 내로 생성할 수 있는 시대가 다가올 것"이라며 "자체적인 AI 보안 자동화 역량이 기업뿐 아니라 국가 규칙까지도 좌우할 수 있다"고 말했다. 이어 그는 "국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다. AI 보안의 총괄 세팅을 할 수 있는 대책이 있어야 한다"면서 "또한 민간 협력 컨트롤 타워 구축이 반드시 필요하다. 뿐만 아니라 독자적 AI 방어 기술에 대한 연구개발이 필요하다"고 강조했다.

2026.07.08 22:37김기찬 기자

셀렉트스타, AI 안전성 평가 기술력 국제 학계서 입증

셀렉트스타의 인공지능(AI) 안전성 연구 논문들이 세계적 권위의 머신러닝 학회 워크숍에 채택되며 신뢰성·안전성 평가 기술력을 입증했다. 셀렉트스타는 자사 AI 세이프티팀의 연구 논문 3편이 '국제머신러닝학회(ICML) 2026' 워크숍에 게재된다고 6일 밝혔다. ICML은 ICLR·NeurIPS와 함께 세계 최고 권위의 AI 학회로, 이날부터 11일까지 서울 코엑스에서 열린다. 채택된 논문은 실사용 환경에 배포된 에이전트형 AI의 안전·보안·신뢰성을 다루는 'AIWILD 워크숍' 1편, 생성형 AI의 문화적 가치를 평가·설계하는 방법을 다루는 '컬처 x AI 워크숍' 2편이다. '신뢰성에서 표현력까지: 루브릭 기반 안전성 평가 모델을 위한 커리큘럼(Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges)' 논문은 안전성 평가 기준(루브릭)에 맞춰 AI 답변의 위험성을 검증·채점하는 평가 모델을 제안했다. '커리큘럼 러닝'을 도입해 범용 평가 모델이 금융권 데이터 등 새로운 도메인에서도 우수한 성능을 발휘함을 입증했다. '동아시아·동남아시아 맥락에서의 문화 적응형 레드티밍(Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts)'을 주제로 한 논문은 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크 'CAGE'를 아시아권으로 확장 적용해 영어권 벤치마크 직역만으로는 국가·문화권별 위험을 포착하기 어렵다는 점을 분석했다. '한국 문화의 LLM 정렬 반영: 문화적 일관성을 향하여(Korean Culture into LLM Alignment: Toward Cultural Coherence)' 경우, 대규모언어모델(LLM)에 한국의 사회규범·법제도·언어적 맥락을 반영한 안전 정렬 데이터셋 구축 파이프라인을 제시했다. 답변 근거를 스스로 추론하도록 학습시켜 성능 저하 한계를 극복한 것이 특징이다. 이는 정부 주도의 '독자 AI 파운데이션 모델' 프로젝트에도 활용되고 있다. 김세엽 셀렉트스타 대표는 "이번 논문 채택은 AI 안전성 분야에서 요구되는 핵심 기술 역량을 입증했음을 보여준다"며 "ACL 2026, ICLR 2026 메인 컨퍼런스 채택에 이어 ICML 2026 워크숍에서도 연구 성과를 인정받은 만큼 신뢰할 수 있는 AI 생태계 구축을 위한 기술 개발에 힘쓰겠다"고 말했다.

2026.07.06 15:22이나연 기자

에버스핀, 티냅스 손잡고 'AI 신뢰 보안 서비스' 본격 진출

에버스핀이 티냅스와 손잡고 'AI 신뢰 보안 서비스' 시장에 본격 진출한다. 인공지능(AI) 보안 전문기업 에버스핀(대표 하영빈)은 AI 안전성 전문기업 티냅스와 AI 시대의 신뢰할 수 있는 서비스 환경 구축을 위해 'AI 신뢰 보안(Trust Security)' 분야에서 전략적 협약을 체결했다고 6일 밝혔다. 에버스핀은 이번 협력을 계기로 AI 레드티밍(AI Red Teaming)을 비롯한 AI 신뢰 보안 전반 서비스로 한국·일본·동남아에서 확보한 사업 기반을 바탕으로 글로벌 AI 신뢰 보안 시장 진출을 본격 확대한다는 계획이다. 에버스핀 관계자는 “최근 생성형 AI와 AI 에이전트 확산으로 프롬프트 인젝션·탈옥·데이터 유출·권한 오남용·에이전트 오용 등 기존 정보보안과는 다른 새로운 유형의 위협이 빠르게 증가하고 있다”며 “AI 모델 성능뿐 아니라 안전성·신뢰성·운영 환경까지 종합적으로 검증하는 AI 신뢰 보안이 차세대 보안의 핵심 분야로 주목받고 있다”고 설명했다. 에버스핀은 티냅스와의 협력을 통해 AI 시스템 설계 단계부터 운영 단계까지 발생할 수 있는 다양한 보안 위협을 사전에 검증하고, AI 레드티밍을 비롯한 AI 신뢰 보안 서비스를 고도화해 국내외 기업이 AI를 더욱 안전하고 신뢰성 있게 도입·운영할 수 있도록 지원할 계획이다. 에버스핀은 금융·공공·플랫폼·제조 등 AI 활용이 확대되는 산업을 중심으로 AI 서비스 안전성과 신뢰성을 객관적으로 검증하는 서비스를 제공하고, 글로벌 규제와 국제 표준에 대응할 수 있는 AI 신뢰성 평가 체계도 지속해서 확대해 나갈 예정이다. 에버스핀은 또 기존 해킹·피싱방지 솔루션에 AI 신뢰 보안 서비스를 추가해 AI 보안 포트폴리오를 완성하고, 일본을 비롯한 해외 사업 네트워크를 기반으로 글로벌 AI 신뢰 보안 레퍼런스를 확대해 AI 보안 분야의 글로벌 표준을 선도하는 기업으로 도약한다는 전략이다. 하영빈 에버스핀 대표는 “AI 시대에는 AI를 얼마나 잘 활용하고, 얼마나 안전하고 신뢰할 수 있게 운영하느냐가 중요해지고 있다”며 “AI 신뢰 보안은 앞으로 모든 AI 서비스의 필수 인프라가 될 것이며, 이번 협력을 계기로 글로벌 시장에서도 경쟁력 있는 AI 보안 서비스를 지속해서 선보이겠다”고 말했다. 강민승 티냅스 대표는 “AI 신뢰 보안의 핵심은 AI의 안전성과 신뢰성을 객관적으로 검증하는 것”이라며 “이번 협력이 국내외 기업이 AI를 도입하고 활용하는 데 더욱 안심할 수 있는 신뢰의 기준점이 되기를 기대한다”고 말했다.

2026.07.06 10:39주문정 기자

"성능보다 신뢰"…씽크포비엘, '트라이톤 해커톤' 참가자 모집

씽크포비엘이 인공지능(AI) 신뢰성을 개발 단계에서 설계·검증하는 해커톤 참가자를 모집한다. 씽크포비엘은 오는 8월 21일까지 AI 신뢰성 해커톤 '트라이톤' 두 번째 대회 참가 신청을 받는다고 29일 밝혔다. 이번 대회는 전공과 관계없이 AI 신뢰성·책임에 관심 있는 대학생과 대학원생이 무료로 참가할 수 있다. 트라이톤은 일반 AI 해커톤처럼 성능 경쟁이나 문제 발견에 그치지 않는 대회다. 참가자는 AI 개발 과정에서 신뢰성을 어떻게 설계하고 입증할 수 있는지를 겨룬다. 참가를 위해서는 최소 3명으로 팀을 구성해야 한다. 팀원은 AI 기획자와 데이터 과학자, AI 엔지니어 중 하나의 역할을 맡아야 한다. 4명 이상일 경우 같은 역할을 여러 명이 맡거나 추가 역할을 정할 수 있다. 대회는 9월 초 서울서 열리는 오리엔테이션 시작으로 진행된다. 이후 10월 16일까지 예선을 거쳐 11월 20일까지 본선을 치르고 11월 말이나 12월 초 시상식으로 마무리된다. 오리엔테이션에서는 대회 안내와 AI 신뢰성 기초 교육이 진행된다. 필수 참석은 아니지만 주요 내용이 공유되는 만큼 팀당 최소 1명 이상 참석이 필요하다. 입상팀에는 상금과 실무 경험 기회가 제공된다. 본선 상위 6팀에는 AI 신뢰성 관련 국제표준 번호를 활용해 52만 5900원부터 420만 100원까지 상금이 차등 지급된다. 참가자에게는 200만원 상당 AI 신뢰성 교육 수강 기회가 무료로 제공된다. 본선 진출팀 참가자 일부에게는 AI 신뢰성 전문가 민간자격 무료 응시 기회도 주어진다. 상위 6팀 참가자는 AI 관련 기업에서 채용 연계 인턴십에 참여할 수 있다. 지난해 첫 대회에서도 상위 입상 6팀 참가자는 상금 외에 인턴십 기회를 받았다. 트라이톤은 지난해 10월 국내 최초로 시작돼 올해 1월 첫 대회를 마쳤다. 당시 전국 대학생과 대학원생 191명 45팀이 참가했으며 참가자 상당수는 다양한 학문 전공자로 구성됐다. 씽크포비엘은 AI 신뢰성 검증과 소프트웨어(SW) 안전·품질 컨설팅을 주력으로 하는 국내 기업이다. 데이터 편향 분석을 비롯한 중복 제거, 인공지능 신뢰성 교육·컨설팅·도구 제공 등을 통해 기업과 공공기관이 신뢰할 수 있는 AI를 설계·검증하도록 지원한다. 한편, 첫 대회와 연계해 올해 1월 처음 시행된 'AI 신뢰성 전문가 민간자격' 일반등급 시험에서는 참가자 가운데 40명이 합격했다.

2026.06.29 10:15김미정 기자

KTR, 음식물감량기협회와 협약…음식물 자원순환 생태계 조성 협력

KTR(한국화학융합시험연구원)은 음식물 감량기 제품 안전성 확보와 친환경 자원순환 생태계 조성을 돕기 위해 한국음식물감량기협회(회장 이현주)와 업무협약을 체결했다고 밝혔다. KTR은 업무협약에 따라 음식물감량기협회 회원사를 대상으로 시험평가·인증 획득을 돕고 전문 교육·세미나 등 제품 안전성과 신뢰성 확보를 위한 기업 지원 프로그램을 제공한다. KTR은 특히 수수료 할인 등 회원사 시험비용 부담 경감을 위해서도 협력하기로 했다. 음식물 감량기는 음식 폐기물을 퇴비 등으로 재활용할 수 있게 돕는 장치다. 음식물감량기협회는 기술개발 지원·교육·홍보 등 관련 기업의 경쟁력 강화를 돕기 위한 다양한 사업을 수행하고 있다. 김지훈 KTR 사업지원본부장은 “협약을 통해 국내 음식물 감량기 제조사들의 시험인증 부담을 덜고 제품의 안전성과 신뢰성 확보를 도울 수 있게 됐다”며 “KTR의 시험인증 인프라와 노하우를 활용해 국내 자원순환 산업 발전을 적극 지원할 것”이라고 밝혔다.

2026.06.13 06:45주문정 기자

클라이온 'REX', AI 신뢰성 검증 시장 사각지대 해소 나선다

생성형 AI 도입이 확산됨에 따라 'AI 신뢰성' 검증이 기업 가치의 핵심 요소로 떠오르고 있다. 이에 AI 클라우드 전문기업 클라이온은 AI 신뢰성 검증 및 최적화 솔루션 'REX(RAG evaluation eXpert)'를 통해 공공 및 민간 시장 공략을 본격화한다고 5일 밝혔다. REX는 최근 'LLM 기반 RAG 시스템의 실시간 성능 진단을 위한 평가 장치 및 방법'에 대한 핵심 기술 특허 등록을 완료하며 기술적 차별성을 확보했다. 기존 자동화 평가의 한계 극복, '진단과 처방' 중심의 차별화 예전 AI 신뢰성 검증 솔루션들은 대량의 질문 생성과 일괄 채점 등 자동화 효율성에 집중해왔다. 이로 인해 현장에서는 감점 원인 파악과 구체적인 개선 방향 도출을 개발자 직관에 의존해야 하는 한계가 있었다. 또 정확도 측정에만 치우쳐 편향, 차별, 유해 표현 등 안전성 영역 검증이 미흡하다는 지적을 받아왔다. REX는 단순 채점을 넘어 AI가 스스로 성능 저하 원인을 분석하고 구체적인 개선 방향을 제시한다. 다수의 오류를 자동으로 군집화해 문제의 우선순위를 시각화하며 ▲정확성 ▲안전성(유해성·편향) ▲품질(일관성·간결성) ▲검색·생성 품질 등 4대 축, 12개 지표로 입체 진단을 수행한다. 이는 EU AI Act, NIST AI RMF 등 글로벌 AI 거버넌스 표준의 요구사항을 반영하여 한국어 환경에 최적화한 결과다. 완전 폐쇄망 지원으로 공공·금융 데이터 보안 문제 해결 기존 자동화 솔루션의 또 다른 제약은 외부 클라우드나 외부 AI 연동으로 인한 데이터 유출 위험이었다. 이 때문에 시민 민원, 금융 거래, 환자 진료 등 민감 데이터를 다루는 공공, 금융, 의료 현장에서는 도입이 어려웠다. REX는 외부 호출 없이 내부망에서만 구동되는 '완전 폐쇄망 운영'을 지원해 데이터 보안 공백을 해소했다. 아울러 운영 중인 시스템에 직접 연결해 실시간으로 성능 저하를 감지하는 모드, 최적의 조합을 찾는 실험 모드, 외부 AI 서비스 검증 모드 등 세 가지 평가 환경을 모두 제공한다. 또한 문서 업로드만으로 평가용 데이터셋을 자동 생성하고, 노코딩 환경을 지원해 현업 담당자의 운영 편의성을 높였다. 대규모 공공 AX 사업 경험 바탕의 검증된 기술력 REX는 클라이온이 실제 대규모 공공 AI 구축 사업을 수행하며 얻은 실무 경험과 품질 기준을 바탕으로 개발됐다. 클라이온은 다양한 보안 등급과 모델 환경을 다뤄본 핵심 플레이어다. 주요 사업 수행 실적으로는 ▲서울시 인공지능 챗봇 2.0 구축 ▲교육부 독서교육플랫폼 구축·운영 ▲한국교육개발원 플랫폼 통합운영 ▲부산시 인공지능 융합서비스 도입 ▲경기도 홈페이지 생성형 AI 챗봇 ▲DPG 생성형 AI 페르소나 챗봇 등이 있다. 클라이온 관계자는 "REX는 단순한 자동 채점기를 넘어 '측정-진단-처방-재검증'의 선순환 체계를 구축한 솔루션"이라며 "AI 도입 이후 신뢰성 확보와 검증에 어려움을 겪는 기업과 기관에 명확한 기술적 보증서를 제공하겠다"고 밝혔다.

2026.06.05 14:55백봉삼 기자

앤트로픽, '오퍼스 4.8' 출시…"속도보다 신뢰성 앞세워"

구글, 오픈AI에 이어 앤트로픽도 신뢰성과 작업 처리 능력을 강화한 새 인공지능(AI) 모델을 내놨다. 앤트로픽은 28일(현지시간) 최신 모델 '오퍼스 4.8'을 출시했다고 공식 홈페이지를 통해 밝혔다. 현재 오퍼스 4.8은 모든 서비스 환경에서 이용 가능하다. 표준 가격은 이전 오퍼스 모델과 동일하다. 최신 모델은 직전 버전인 오퍼스 4.7 출시 41일 만에 나왔다. 이는 기존 앤트로픽 모델 개선 주기보다 빠른 속도다. 다수 외신은 빠른 출시 배경에 오퍼스 4.7에 대한 시장 반응이 영향을 미쳤다고 봤다. 경쟁사 움직임이 앤트로픽에 압박으로 작용했다는 분석도 이어졌다. 같은 기간 오픈AI는 코덱스를 새로 내놨고 구글도 제미나이 플래시 모델을 공개해서다. 이번 새 모델 발표에선 성능보다 신뢰성이 더 강조된 것으로 나타났다. 앤트로픽은 오퍼스 4.8이 부정확하거나 불확실한 데이터를 다루는 방식이 개선됐다고 밝혔다. 초기 테스트 참여자도 신규 모델이 작업 과정 불확실성을 더 잘 표시한다고 평했다. 앤트로픽은 이번 모델이 근거 없는 주장을 줄인 점도 핵심 변화로 꼽았다. 브리지워터 어소시에이츠도 "오퍼스 4.8이 분석 입력값과 출력값에서 발생할 수 있는 문제를 선제적으로 드러내는 경향이 강해졌다"고 설명했다. 같은 날 앤트로픽은 '다이내믹 워크플로' 기능도 연구 프리뷰 형태로 공개했다. 다이내믹 워크플로는 오퍼스 같은 대형 모델이 복잡한 작업을 나눠 처리하도록 돕는 시스템이다. 수백 개 병렬 서브에이전트를 활용해 큰 규모의 업무를 관리할 수 있다. 앤트로픽은 클로드 코드와 오퍼스 4.8을 함께 사용하면 코드베이스 규모의 이전 작업도 수행할 수 있다고 말했다. 수십만 줄 코드 변경을 시작 단계부터 병합 단계까지 처리할 수 있다는 설명이다. 이 과정에서는 기존 테스트 스위트가 기준 역할을 한다. 모델이 대규모 코드 변경을 수행하더라도 기존 테스트를 통과하는지 확인하는 방식으로 작업 품질을 살피는 구조다. 이날 미토스 업그레이드 버전은 공개되지 않았다. 지난달 잠정 프리뷰 이후 사이버 보안 우려가 제기돼서다. 회사는 안전장치를 마련한 뒤 미토스급 모델을 제공할 방침이다. 앤트로픽은 "우리는 이러한 안전장치를 개발하는 데 빠른 진전을 보이고 있으며 앞으로 몇 주 안에 미토스급 모델을 모든 고객에게 제공할 수 있을 것으로 기대한다"고 밝혔다.

2026.05.29 10:48김미정 기자

카카오 노조 "노사 갈등, 숫자 차이 아냐…신뢰 회복 먼저"

카카오 노동조합이 결렬된 2차 조정을 두고 “지금의 갈등은 단순한 숫자의 차이가 아니라 회사와 구성원 사이 신뢰가 얼마나 무너져 있는지 보여주는 결과”라며 구성원의 신뢰 회복이 먼저라는 입장을 견지했다. 카카오 노조는 28일 입장문을 통해 이같이 말했다. 앞서 카카오 본사 노사는 지난 27일 8시간에 달하는 협상에도 합의점을 찾지 못하면서, 조정 중지 결정을 받았다. 양측은 지난해 영업이익 13~14%를 성과급으로 보상하는 방안과 500만원 규모의 양도제한조건부주식(RSU)를 성과급으로 산입할 것인지를 두고 이견을 보였던 것으로 알려졌다. 이에 노조는 “단지 임금인상만을 요구하지 않았다”며 “반복돼 온 불투명한 성과보상 구조를 개선하고, 회사의 성장과 성과가 실제로 일한 구성원들에게도 합리적으로 분배될 수 있는 기준을 만들자고 요구해왔다”고 설명했다. 이어 “일방적인 조직 운영과 불안정한 의사결정으로 인해 훼손된 신뢰를 회복하기 위한 최소한의 장치 역시 함께 제안해왔다”며 “그러나 회사는 교섭이 장기간 이어지는 동안에도 책임 있는 결단보다는 수동적인 대응으로 일관했다”고 비판했다. 노조는 교섭 과정에서 본사가 일방적으로 성과급을 지급하며 교섭의 신뢰를 스스로 훼손했고, 수차례 교섭 대표 변경과 불충분한 수정안 제시로 대화의 연속성을 흔들었다고 주장했다. 그러면서 “올해가 이미 절반 가까이 지나가고 있음에도 많은 구성원들이 여전히 정상적인 임금협약 적용조차 받지 못하고 있다는 현실을 매우 무겁게 받아들여야 한다”며 “회사는 지속적으로 '경영쇄신'을 이야기해왔지만, 진정한 쇄신은 비용 절감이나 조직 재편이 아니라 구성원의 신뢰를 회복하는 것에서 시작돼야 한다”고 당부했다. 아울러, 노조는 최근 사의를 밝힌 홍민택 최고제품책임자(CPO)와 엑스엘게임즈의 정리해고 통보를 경영쇄신이 필요한 대표적인 예시로 들었다. 노조는 “민택 CPO는 카카오톡 업데이트의 부정적인 논란과 노사관계에 있어서도 근로감독을 촉발시켰지만 아무런 해명도 하지 않다가 아무일 없다는 듯이 사라졌다”고 지적했다. 또 “카카오페이 류영준 대표, 카카오 홍은택 대표, 카카오엔터프라이즈 백상엽 대표 등 논란이 있었던 경영진들이 지금까지 수령한 보상 규모만 수백억이 넘는다”며 “구성원들이 느끼는 부당함과 부조리에 대해 이제는 답을 해야한다”고 일갈했다. 끝으로 노조는 조정 중지 결정 이후에도 본사와의 대화 가능성을 열어뒀다. 노조는 “더 이상 기다림과 인내만으로 문제를 해결할 수 없다”면서도 “노동의 가치가 정당하게 존중받고, 회사의 성과가 함께 일한 구성원들과 공정하게 나누어질 수 있도록 조합원들과 함께 6월 파업투쟁을 본격적으로 준비해나갈 것”이라고 밝혔다.

2026.05.28 13:55박서린 기자

중고나라, 서울평가정보와 협력…"AI 기반 안전 거래 환경 구축"

중고나라는 서울평가정보와 인공지능(AI) 기반 안전 거래 환경 구축을 위한 업무협약(MOU)을 체결했다고 27일 밝혔다. 이번 협약은 중고나라가 축적해온 거래 데이터 및 플랫폼 운영 역량과 서울평가정보의 인증·평가 분야 전문성을 결합해 신뢰할 수 있는 거래 환경을 제공하고자 마련됐다. 이번 협약에 따라 중고나라와 서울평가정보는 ▲고액·고위험 거래 신뢰 강화 시스템 구축 ▲인증 체계 및 FDS(이상거래 탐지 시스템) 고도화 ▲사기 피해 예방을 위한 AI 기술 협력 ▲제휴 사업 확대 및 공동 마케팅 추진 등 다양한 분야에서 협업을 강화해 나갈 예정이다. 양사는 'AI 기반 거래 리스크 예측 모델' 공동 개발을 추진해 거래 과정에서 발생할 수 있는 다양한 위험 요소에 선제적으로 대응해 나갈 계획이다. 이를 통해 안전성과 신뢰 확보가 중요한 고가 상품군·자산형 거래 영역에서 고도화된 이용자 보호 체계를 갖출 수 있을 것으로 회사 측은 전망하고 있다. 중고나라는 자사 앱을 통해 서울평가정보의 기업 간 거래(B2B) 비즈사이렌(BIZSIREN) 및 개인 정보(신용)관리 서비스 사이렌(SIREN)24 등 다양한 서비스의 연계 및 공동 마케팅을 추진하며, 중고차·고가거래 분야의 신사업 제휴로도 협력 범위를 단계적으로 확장해 나갈 방침이다. 최인욱 중고나라 대표는 "서울평가정보와의 협력을 통해 중고나라 이용자에게 보다 신뢰도 높은 거래 경험을 제공할 수 있게 될 것"이라며 "이용자 누구나 자신의 소유물을 안전하게 거래하고 자산 가치로 전환할 수 있도록 신뢰 기반 거래 시스템 조성에 최선을 다하겠다"고 말했다.

2026.05.27 15:15박서린 기자

[현장] "에이전틱 AI, 실행 중 평가 필수"…한·싱 '위험 관리 원칙' 내달 나온다

인공지능(AI)이 스스로 판단하고 행동하는 '에이전틱 AI' 시대가 본격화하면서 기존 거대언어모델(LLM) 중심의 안전 평가 체계로는 위험을 충분히 통제할 수 없다는 전문가 경고가 나왔다. 실행 환경에 따라 행동이 달라지는 에이전트 특성상 사전 정적 평가만으로는 한계가 있으며, 실행 중 동적 평가와 국제 표준 기반 검증 체계 구축이 병행돼야 한다는 지적이다. 김명주 인공지능안전연구소(AISI) 소장은 26일 서울 서초구 드림플러스 강남에서 열린 '2026 AI 세이프티 컴패스(2026 ASC)'에서 "에이전트는 목표를 세우고 계획하고 도구를 쓰고 행동하기에 전혀 다른 위험 완화 원칙이 필요하고 개발 단계 테스트만으로는 충분하지 않다"고 밝혔다. 김 소장은 다음 달 공식 발표를 앞둔 한-싱가포르 공동 에이전틱 위험 관리 원칙 초안을 이 자리에서 선공개했다. AISI는 지난해 12월 싱가포르 AI안전연구소와 업무협약(MOU)을 체결한 뒤 결제·글쓰기 등 도메인에서 에이전트 안전성 공동 평가를 진행해왔다. 초기 6개 도메인에서 현재 12개(한국 6개, 싱가포르 6개)로 확장됐으며 중간 성과를 국제 AI 학술대회 뉴립스(NeurIPS)에 제출할 계획이다. 해당 초안은 각국 기관의 에이전트 관련 가이드라인을 통합 정리한 메타 원칙서 성격으로, 범용인공지능(AGI)·일반 AI·에이전트를 구분해 설계·개발, 테스팅·배포, 운영·모니터링 등 3단계에 걸친 10가지 위험 완화 원칙을 담고 있다. 에이전트에 대한 최소 권한 부여, 신원 및 파생 관계 추적, 단계적 검증 배포, 공급망 위험 대응 및 복원력 확보, 실행 중 문맥 변화에 대한 동적 보증, 킬 스위치, 중요 의사결정 시 인간 개입 시점 확보 등이 핵심이다. 김 소장은 "이 원칙들은 모두 초기 단계이며 계속 바뀔 것"이라면서도 "결국 에이전트 환경하에서 표준이 자리를 잡고 그 표준을 중심으로 검증 체계가 구축되는 방향으로 갈 것"이라고 말했다. AISI는 이와 별도로 오픈소스 에이전트 환경 '오픈클로'와 에이전트 전용 사회관계망서비스(SNS) '몰트북'을 직접 구축해 글로벌 AI 모델 3종, 중국 모델 1종, 한국 모델 1종 등 5종에 대한 실제 공격 실험도 진행했다. 오픈클로 실험에서는 악성 명령 수행 여부, 민감정보 외부 유출, 도구 오남용 등 3개 영역을 측정한 결과 모델별 방어율이 최고 93.9%에서 최저 53.3%까지 편차가 컸다. 몰트북 실험에서는 에이전트 간 집단행동은 확인되지 않았으나 민감정보 유출 시도와 연산자원 낭비 유도 행위는 존재했다. 김 소장은 "상상 속 위험이 아니라 실제로 존재하는지 직접 돌려보고 측정해야 한다는 게 전 세계 AI 안전연구소들의 공통된 입장"이라고 설명했다. 앤트로픽 최신 고성능 모델 '미토스' 활용을 중심으로 한 국제 보안 공조 체계 '프로젝트 글래스윙' 참여 전망에 대해서는 조심스러운 입장을 내비쳤다. 미국 정부가 타 국가·기관의 참여를 통제하는 만큼 당장은 우리 정부 차원의 참여가 쉽지 않을 것이라는 전망에서다. 김 소장은 "하위 버전 AI 모델을 통해서라도 최대한 신속하게 취약점을 먼저 찾아내 패치하는 것이 지금으로서는 최선"이라고 말했다. 이어 "패치 자체가 역으로 취약점 분석에 악용될 수 있는 만큼 공개 시점과 방식에 대한 고민이 깊다"고 덧붙였다. 국제인공지능윤리협회(IAAE)가 주최한 이날 행사는 올해 3회차를 맞았으며, 과학기술정보통신부 산하 한국전자통신연구원(ETRI) 부설 조직 AISI와 테크 스타트업 전문 홍보(PR) 에이전시 팀쿠키가 후원했다. 전창배 국제AI윤리협회 이사장은 개회사에서 "자율성을 가진 AI가 오류나 오판을 일으키거나 보안 문제에 노출될 경우 그 피해 규모와 파급력은 과거와 비교할 수 없을 만큼 커질 수 있다"고 말했다.

2026.05.26 14:36이나연 기자

"한국 고연령층, 개인정보 관리 소홀…소득 낮을수록 보안 수준 낮아"

고연령층을 중심으로 한국의 디지털 신뢰가 무너졌다는 분석이 나왔다. 개인정보 보호 행동은 일상화될 정도로 수준이 높아졌지만, 고연령층의 경우 개인정보 관리 참여도가 현저히 낮게 나타난 것이다. 글로벌 사이버 보안 기업 노드VPN(한국지사장 황성호)는 이같은 내용을 골자로 한 분석 결과를 20일 발표했다. 이번 조사는 한국의 18~64세 인터넷 사용자 804명을 대상으로 진행됐다. 혼라인 환경에서의 개인정보 인식과 행동, 신뢰 수준을 종합적으로 분석한 결과다. 노드VPN은 한국인의 개인정보 보호 인식과 행동 패턴을 분석한 결과, 디지털 환경에서 높은 경각심에도 불구하고 실제 개인정보에 대한 통제감과 신뢰 수준은 여전히 제한적이라고 밝혔다. 먼저 응답자의 84%는 데이터 유출 발생 시 즉각적인 알림을 원하는 것으로 조사됐으며, 66%는 웹사이트와 애플리케이션의 개인정보 설정을 정기적으로 점검하거나 조정하는 등 적극적인 개인정보 관리에 나서는 것으로 나타났다. 70%의 응답자들은 온라인 서비스와 소셜미디어에서 자신의 데이터가 어떻게 수집되고 활용되는지 이해하고 있다고 밝혔다. 이처럼 개인정보 관련 적극적인 인식과 행동에도 불구하고 실제 통제감은 제한적인 수준에 머물렀다는 것이 노드VPN의 분석이다. 자신의 개인정보 처리 방식을 통제하고 있다고 느끼는 비율은 52%에 그쳤으며, 온라인 쇼핑 시 결제 정보를 입력하는 것에 대한 신뢰도는 68% 수준으로 나타났다. 이런 경향은 연령과 소득에 따라 더욱 두드러졌다. 18~34세(Z세대와 밀레니얼 세대)는 높은 이해도와 통제감을 보이며 디지털 환경 적응도가 상대적으로 높았던 반면, 55~64세 이상 연령층은 전반적으로 낮은 수준을 보였다. 소득 측면에서도 고소득층은 신뢰도와 보안 행동이 비교적 높게 나타난 반면, 저소득층은 전반적으로 낮은 경향을 보였다. 개인정보 보호 행동에서도 차이가 확인됐다. 35~44세 밀레니얼 세대와 프리랜서 그룹은 개인정보 설정을 정기적으로 점검하는 등 적극적인 관리 행동을 보였지만, 고연령층과 저소득층에서는 참여도가 낮았다. 노드VPN은 이러한 환경에서 사용자 스스로의 보안 관리 필요성이 더욱 중요해지고 있다고 강조하며 개인정보 노출 위험을 줄이기 위한 실천 방법으로 ▲앱 권한 최소화 ▲강력한 고유 비밀번호 사용 ▲다중 인증 활성화 ▲개인정보 설정 정기 점검 ▲앱 권한 점검 및 불필요 권한 제거 ▲계정 생성 시 최소한의 정보만 입력 ▲SNS·쇼핑 사이트·앱 개인정보 설정 수시 확인 ▲온라인 결제 시 사이트 주소 확인 및 카드 정보 저장 제한 ▲보안 도구 활용 ▲데이터 유출 알림 수신 시 즉시 비밀번호 변경 및 2단계 인증 활성화 등을 제시했다. 마리우스 브리에디스(Marijus Briedis) 노드VPN 최고기술책임자(CTO)는 “한국의 데이터는 단순히 개인정보 보호 인식의 문제가 아니라, 연령과 소득에 따라 디지털 신뢰 격차가 구조적으로 나타나는 시장임을 보여준다”며 “사용자는 자신의 데이터가 이미 다양한 경로로 노출될 수 있다는 점을 인지하고, 계정과 개인정보 보호 수준을 보다 적극적으로 강화할 필요가 있다”고 말했다.

2026.05.20 14:59김기찬 기자

셀렉트스타, 일본 AI 비즈니스 교류전서 신뢰성 평가 플랫폼 알린다

셀렉트스타가 인공지능(AI) 신뢰성 평가 수요가 확대되고 있는 일본 시장에서 신규 파트너십 및 고객 확보에 속도를 낸다. 셀렉트스타는 오는 27일 일본에서 열리는 '2026 AI 프런티어 코리아 인 재팬'에 참가한다고 19일 밝혔다. 이번 행사는 산업통상자원부와 과학기술정보통신부가 주최하고 대한무역투자진흥공사(KOTRA)가 주관하는 한·일 AI 비즈니스 교류 행사다. 국내 AI 혁신 기업 42개사와 일본 현지 글로벌 대기업, 중소기업, 벤처캐피털 등 약 100개사가 한자리에 모이는 비즈니스 교류의 장이 마련될 예정이다. 셀렉트스타는 이번 전시에서 AI 신뢰성 평가 자동화 솔루션 '다투모 플랫폼(Datumo Platform)'을 일본 시장에 선보인다. 다투모 플랫폼은 기업의 AI 서비스 신뢰성 검증을 엔드투엔드(end-to-end)로 지원하는 플랫폼이다. 셀렉트스타는 이번 전시에서 국내 참가 기업 중 유일하게 AI 신뢰성 서비스를 소개한다. 주요 기능으로는 생성형 AI 서비스 특성에 맞는 커스텀 평가 질문을 자동으로 생성하고 평가 기준에 따라 AI의 답변을 평가하는 '다투모 이밸(Datumo eval)', 의도적으로 AI 서비스 취약점을 도출하는 레드티밍 전략과 실시간 운영을 지원하는 '다투모 레드(Datumo Red)' 등이 있다. 기업은 AI 서비스 강점과 약점을 진단하고 결과 대시보드를 통해 개선 방향을 확인할 수 있다. 일본 역시 제조와 금융 등 다양한 산업군에서 AI 도입이 확대되고 AI 서비스에 대한 신뢰성 평가 수요가 높아지고 있다. 셀렉트스타는 부스 운영 및 현지 기업 대상 비즈니스 미팅을 통해 일본 시장에서도 AI 신뢰성 검증 파트너로 자리매김한다는 전략이다. 이종영 셀렉트스타 플랫폼사업본부장은 "세계이동통신사업자연합회(GSMA) 글로벌 연합체 '오픈 텔코 AI' 합류, 글로벌 레드팀 챌린지 주관 경험 등을 바탕으로 AI 신뢰성 평가 역량을 고도화해 왔다"며 "이번 행사를 통해 다투모 플랫폼 가치를 일본 시장에 소개하고 글로벌 AI 신뢰성 평가 솔루션으로 입지를 확대하겠다"고 말했다.

2026.05.19 16:40이나연 기자

IAAE, 안전한 AI 기술 방향 제시한다

국제인공지능윤리협회(이하 IAAE)는 26일 오전 10시 서울 서초구 드림플러스 강남에서 '2026 AI Safety Compass'(이하 2026 ASC)를 개최한다고 밝혔다. 이날 행사에는 AI안전연구소, 한국인터넷진흥원(KISA) 등 공공 분야와 포티투마루, AI 스페라, 데이븐 AI, 에임인텔리전스 등 민간 영역 기업들이 참석해 'AI 에이전트의 보안과 기업의 신뢰 구현 전략'을 주제로 심도있는 논의를 나눈다. 지난 2024년 첫선을 보인 ASC는 매년 '지속가능한 AI'를 위한 논의를 활발하게 이어오며 올해로 3회째를 맞이했다. ASC는 안전하고 신뢰할 수 있는 AI 기술의 핵심 소통 플랫폼으로서 공공과 민간을 잇고, 국가적 입법이나 주요 정책 수립에 있어 실효성 있는 방향성을 제시하고자 시작됐다. 지난 2025 ASC에는 업계 내 100여 명이 넘는 민·관·학계 전문가들이 참석해 자리를 빛냈다. 올해 2026 ASC에서는 'AI 에이전트의 보안과 기업의 신뢰 구현 전략'을 핵심 의제로 설정하고 업계 전문가들의 인사이트를 들어본다. 최근 전 세계적으로 인간의 업무를 자율적으로 수행하는 AI 에이전트 기술 도입이 가속화되고 있으나, 자율적 판단과 실행이라는 기술적 특성상 시스템 오작동이나 사이버 침해 사고에 대한 우려도 교차하고 있다. 특히 빈번하게 발생하는 정보 유출 및 첨단 기술 악용 사례는 AI 에이전트 상용화에 대한 시장의 불안감을 가중시키는 요인이다. 이에 따라 이번 컨퍼런스는 지속 가능한 AI 생태계 조성을 위해 공공 영역의 안전한 AI 활용 방향성을 소개하는 한편, 현장에서 AI 신뢰성과 보안 과제를 성공적으로 해결해 나가는 기업들의 실증 사례를 공유할 예정이다. 공공 부문에서는 AI안전연구소 김명주 소장이 본격적인 에이전틱 AI 시대에 필요한 안전성과 관련해 'Towards Safe & Secure Agent AI'를 주제로 발표한다. KISA AI신기술대응팀 이재형 팀장은 에이전틱 AI 위협에 대비한 AI 정책 연구를 소개한다. 민간 부문에서는 포티투마루 김동환 대표가 AI LLM42가 신뢰성, 안전성, 윤리성을 확보하기 위해 노력해 온 여정을 공유한다. AI 스페라의 강병탁 대표는 미토스 이후 누구나 공격자가 되는 시대에 기업의 대응법을 제시한다. 데이븐 AI의 김연지 CMO는 AI 에이전트 시대, 창작 AI 플랫폼이 어떻게 신뢰를 설계해야 하는지에 대해, 이어 에임인텔리전스의 이한울 부사장은 에이전틱 AI가 놓인 새로운 공격 표면과 전략을 소개하고, 이를 방어하기 위한 기업의 방안들을 발표할 예정이다. 전창배 IAAE 이사장은 “자율형 AI 기술인 'AI 에이전트'가 속속 등장하는 가운데, AI 에이전트가 자칫 오판하거나 보안과 해킹 문제 등이 일어날 수 있는 만큼 기업과 공공에서 AI 에이전트를 안전하게 도입하는 것이 중요한 상황”이라며 “이번 컨퍼런스는 AI 에이전트의 신뢰성 문제에 대해 공공과 민간이 함께 실질적인 해법을 도출하는 의미 있는 자리가 될 것”이라고 말했다. IAAE 부회장사이자 테크 전문 PR 컨설팅 기업 팀쿠키 임기태 부대표는 “올해로 3회째 맞이하는 ASC 행사에서 신뢰할 수 있는 AI에 대해 업계 전문가들과 함께 논의해보고자 한다”며 “글로벌 스탠더드에 부합하는 AI 윤리 기준을 정립하고, 국내 기업들이 이를 바탕으로 글로벌 무대에서 차별화된 경쟁력을 갖출 수 있는 대표 논의의 장으로 만들겠다”고 밝혔다.

2026.05.19 15:10백봉삼 기자

Prev 1 2 3 4 5 Next