검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'신뢰'통합검색 결과 입니다. (88건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

KTR, 음식물감량기협회와 협약…음식물 자원순환 생태계 조성 협력

KTR(한국화학융합시험연구원)은 음식물 감량기 제품 안전성 확보와 친환경 자원순환 생태계 조성을 돕기 위해 한국음식물감량기협회(회장 이현주)와 업무협약을 체결했다고 밝혔다. KTR은 업무협약에 따라 음식물감량기협회 회원사를 대상으로 시험평가·인증 획득을 돕고 전문 교육·세미나 등 제품 안전성과 신뢰성 확보를 위한 기업 지원 프로그램을 제공한다. KTR은 특히 수수료 할인 등 회원사 시험비용 부담 경감을 위해서도 협력하기로 했다. 음식물 감량기는 음식 폐기물을 퇴비 등으로 재활용할 수 있게 돕는 장치다. 음식물감량기협회는 기술개발 지원·교육·홍보 등 관련 기업의 경쟁력 강화를 돕기 위한 다양한 사업을 수행하고 있다. 김지훈 KTR 사업지원본부장은 “협약을 통해 국내 음식물 감량기 제조사들의 시험인증 부담을 덜고 제품의 안전성과 신뢰성 확보를 도울 수 있게 됐다”며 “KTR의 시험인증 인프라와 노하우를 활용해 국내 자원순환 산업 발전을 적극 지원할 것”이라고 밝혔다.

2026.06.13 06:45주문정 기자

클라이온 'REX', AI 신뢰성 검증 시장 사각지대 해소 나선다

생성형 AI 도입이 확산됨에 따라 'AI 신뢰성' 검증이 기업 가치의 핵심 요소로 떠오르고 있다. 이에 AI 클라우드 전문기업 클라이온은 AI 신뢰성 검증 및 최적화 솔루션 'REX(RAG evaluation eXpert)'를 통해 공공 및 민간 시장 공략을 본격화한다고 5일 밝혔다. REX는 최근 'LLM 기반 RAG 시스템의 실시간 성능 진단을 위한 평가 장치 및 방법'에 대한 핵심 기술 특허 등록을 완료하며 기술적 차별성을 확보했다. 기존 자동화 평가의 한계 극복, '진단과 처방' 중심의 차별화 예전 AI 신뢰성 검증 솔루션들은 대량의 질문 생성과 일괄 채점 등 자동화 효율성에 집중해왔다. 이로 인해 현장에서는 감점 원인 파악과 구체적인 개선 방향 도출을 개발자 직관에 의존해야 하는 한계가 있었다. 또 정확도 측정에만 치우쳐 편향, 차별, 유해 표현 등 안전성 영역 검증이 미흡하다는 지적을 받아왔다. REX는 단순 채점을 넘어 AI가 스스로 성능 저하 원인을 분석하고 구체적인 개선 방향을 제시한다. 다수의 오류를 자동으로 군집화해 문제의 우선순위를 시각화하며 ▲정확성 ▲안전성(유해성·편향) ▲품질(일관성·간결성) ▲검색·생성 품질 등 4대 축, 12개 지표로 입체 진단을 수행한다. 이는 EU AI Act, NIST AI RMF 등 글로벌 AI 거버넌스 표준의 요구사항을 반영하여 한국어 환경에 최적화한 결과다. 완전 폐쇄망 지원으로 공공·금융 데이터 보안 문제 해결 기존 자동화 솔루션의 또 다른 제약은 외부 클라우드나 외부 AI 연동으로 인한 데이터 유출 위험이었다. 이 때문에 시민 민원, 금융 거래, 환자 진료 등 민감 데이터를 다루는 공공, 금융, 의료 현장에서는 도입이 어려웠다. REX는 외부 호출 없이 내부망에서만 구동되는 '완전 폐쇄망 운영'을 지원해 데이터 보안 공백을 해소했다. 아울러 운영 중인 시스템에 직접 연결해 실시간으로 성능 저하를 감지하는 모드, 최적의 조합을 찾는 실험 모드, 외부 AI 서비스 검증 모드 등 세 가지 평가 환경을 모두 제공한다. 또한 문서 업로드만으로 평가용 데이터셋을 자동 생성하고, 노코딩 환경을 지원해 현업 담당자의 운영 편의성을 높였다. 대규모 공공 AX 사업 경험 바탕의 검증된 기술력 REX는 클라이온이 실제 대규모 공공 AI 구축 사업을 수행하며 얻은 실무 경험과 품질 기준을 바탕으로 개발됐다. 클라이온은 다양한 보안 등급과 모델 환경을 다뤄본 핵심 플레이어다. 주요 사업 수행 실적으로는 ▲서울시 인공지능 챗봇 2.0 구축 ▲교육부 독서교육플랫폼 구축·운영 ▲한국교육개발원 플랫폼 통합운영 ▲부산시 인공지능 융합서비스 도입 ▲경기도 홈페이지 생성형 AI 챗봇 ▲DPG 생성형 AI 페르소나 챗봇 등이 있다. 클라이온 관계자는 "REX는 단순한 자동 채점기를 넘어 '측정-진단-처방-재검증'의 선순환 체계를 구축한 솔루션"이라며 "AI 도입 이후 신뢰성 확보와 검증에 어려움을 겪는 기업과 기관에 명확한 기술적 보증서를 제공하겠다"고 밝혔다.

2026.06.05 14:55백봉삼 기자

앤트로픽, '오퍼스 4.8' 출시…"속도보다 신뢰성 앞세워"

구글, 오픈AI에 이어 앤트로픽도 신뢰성과 작업 처리 능력을 강화한 새 인공지능(AI) 모델을 내놨다. 앤트로픽은 28일(현지시간) 최신 모델 '오퍼스 4.8'을 출시했다고 공식 홈페이지를 통해 밝혔다. 현재 오퍼스 4.8은 모든 서비스 환경에서 이용 가능하다. 표준 가격은 이전 오퍼스 모델과 동일하다. 최신 모델은 직전 버전인 오퍼스 4.7 출시 41일 만에 나왔다. 이는 기존 앤트로픽 모델 개선 주기보다 빠른 속도다. 다수 외신은 빠른 출시 배경에 오퍼스 4.7에 대한 시장 반응이 영향을 미쳤다고 봤다. 경쟁사 움직임이 앤트로픽에 압박으로 작용했다는 분석도 이어졌다. 같은 기간 오픈AI는 코덱스를 새로 내놨고 구글도 제미나이 플래시 모델을 공개해서다. 이번 새 모델 발표에선 성능보다 신뢰성이 더 강조된 것으로 나타났다. 앤트로픽은 오퍼스 4.8이 부정확하거나 불확실한 데이터를 다루는 방식이 개선됐다고 밝혔다. 초기 테스트 참여자도 신규 모델이 작업 과정 불확실성을 더 잘 표시한다고 평했다. 앤트로픽은 이번 모델이 근거 없는 주장을 줄인 점도 핵심 변화로 꼽았다. 브리지워터 어소시에이츠도 "오퍼스 4.8이 분석 입력값과 출력값에서 발생할 수 있는 문제를 선제적으로 드러내는 경향이 강해졌다"고 설명했다. 같은 날 앤트로픽은 '다이내믹 워크플로' 기능도 연구 프리뷰 형태로 공개했다. 다이내믹 워크플로는 오퍼스 같은 대형 모델이 복잡한 작업을 나눠 처리하도록 돕는 시스템이다. 수백 개 병렬 서브에이전트를 활용해 큰 규모의 업무를 관리할 수 있다. 앤트로픽은 클로드 코드와 오퍼스 4.8을 함께 사용하면 코드베이스 규모의 이전 작업도 수행할 수 있다고 말했다. 수십만 줄 코드 변경을 시작 단계부터 병합 단계까지 처리할 수 있다는 설명이다. 이 과정에서는 기존 테스트 스위트가 기준 역할을 한다. 모델이 대규모 코드 변경을 수행하더라도 기존 테스트를 통과하는지 확인하는 방식으로 작업 품질을 살피는 구조다. 이날 미토스 업그레이드 버전은 공개되지 않았다. 지난달 잠정 프리뷰 이후 사이버 보안 우려가 제기돼서다. 회사는 안전장치를 마련한 뒤 미토스급 모델을 제공할 방침이다. 앤트로픽은 "우리는 이러한 안전장치를 개발하는 데 빠른 진전을 보이고 있으며 앞으로 몇 주 안에 미토스급 모델을 모든 고객에게 제공할 수 있을 것으로 기대한다"고 밝혔다.

2026.05.29 10:48김미정 기자

카카오 노조 "노사 갈등, 숫자 차이 아냐…신뢰 회복 먼저"

카카오 노동조합이 결렬된 2차 조정을 두고 “지금의 갈등은 단순한 숫자의 차이가 아니라 회사와 구성원 사이 신뢰가 얼마나 무너져 있는지 보여주는 결과”라며 구성원의 신뢰 회복이 먼저라는 입장을 견지했다. 카카오 노조는 28일 입장문을 통해 이같이 말했다. 앞서 카카오 본사 노사는 지난 27일 8시간에 달하는 협상에도 합의점을 찾지 못하면서, 조정 중지 결정을 받았다. 양측은 지난해 영업이익 13~14%를 성과급으로 보상하는 방안과 500만원 규모의 양도제한조건부주식(RSU)를 성과급으로 산입할 것인지를 두고 이견을 보였던 것으로 알려졌다. 이에 노조는 “단지 임금인상만을 요구하지 않았다”며 “반복돼 온 불투명한 성과보상 구조를 개선하고, 회사의 성장과 성과가 실제로 일한 구성원들에게도 합리적으로 분배될 수 있는 기준을 만들자고 요구해왔다”고 설명했다. 이어 “일방적인 조직 운영과 불안정한 의사결정으로 인해 훼손된 신뢰를 회복하기 위한 최소한의 장치 역시 함께 제안해왔다”며 “그러나 회사는 교섭이 장기간 이어지는 동안에도 책임 있는 결단보다는 수동적인 대응으로 일관했다”고 비판했다. 노조는 교섭 과정에서 본사가 일방적으로 성과급을 지급하며 교섭의 신뢰를 스스로 훼손했고, 수차례 교섭 대표 변경과 불충분한 수정안 제시로 대화의 연속성을 흔들었다고 주장했다. 그러면서 “올해가 이미 절반 가까이 지나가고 있음에도 많은 구성원들이 여전히 정상적인 임금협약 적용조차 받지 못하고 있다는 현실을 매우 무겁게 받아들여야 한다”며 “회사는 지속적으로 '경영쇄신'을 이야기해왔지만, 진정한 쇄신은 비용 절감이나 조직 재편이 아니라 구성원의 신뢰를 회복하는 것에서 시작돼야 한다”고 당부했다. 아울러, 노조는 최근 사의를 밝힌 홍민택 최고제품책임자(CPO)와 엑스엘게임즈의 정리해고 통보를 경영쇄신이 필요한 대표적인 예시로 들었다. 노조는 “민택 CPO는 카카오톡 업데이트의 부정적인 논란과 노사관계에 있어서도 근로감독을 촉발시켰지만 아무런 해명도 하지 않다가 아무일 없다는 듯이 사라졌다”고 지적했다. 또 “카카오페이 류영준 대표, 카카오 홍은택 대표, 카카오엔터프라이즈 백상엽 대표 등 논란이 있었던 경영진들이 지금까지 수령한 보상 규모만 수백억이 넘는다”며 “구성원들이 느끼는 부당함과 부조리에 대해 이제는 답을 해야한다”고 일갈했다. 끝으로 노조는 조정 중지 결정 이후에도 본사와의 대화 가능성을 열어뒀다. 노조는 “더 이상 기다림과 인내만으로 문제를 해결할 수 없다”면서도 “노동의 가치가 정당하게 존중받고, 회사의 성과가 함께 일한 구성원들과 공정하게 나누어질 수 있도록 조합원들과 함께 6월 파업투쟁을 본격적으로 준비해나갈 것”이라고 밝혔다.

2026.05.28 13:55박서린 기자

중고나라, 서울평가정보와 협력…"AI 기반 안전 거래 환경 구축"

중고나라는 서울평가정보와 인공지능(AI) 기반 안전 거래 환경 구축을 위한 업무협약(MOU)을 체결했다고 27일 밝혔다. 이번 협약은 중고나라가 축적해온 거래 데이터 및 플랫폼 운영 역량과 서울평가정보의 인증·평가 분야 전문성을 결합해 신뢰할 수 있는 거래 환경을 제공하고자 마련됐다. 이번 협약에 따라 중고나라와 서울평가정보는 ▲고액·고위험 거래 신뢰 강화 시스템 구축 ▲인증 체계 및 FDS(이상거래 탐지 시스템) 고도화 ▲사기 피해 예방을 위한 AI 기술 협력 ▲제휴 사업 확대 및 공동 마케팅 추진 등 다양한 분야에서 협업을 강화해 나갈 예정이다. 양사는 'AI 기반 거래 리스크 예측 모델' 공동 개발을 추진해 거래 과정에서 발생할 수 있는 다양한 위험 요소에 선제적으로 대응해 나갈 계획이다. 이를 통해 안전성과 신뢰 확보가 중요한 고가 상품군·자산형 거래 영역에서 고도화된 이용자 보호 체계를 갖출 수 있을 것으로 회사 측은 전망하고 있다. 중고나라는 자사 앱을 통해 서울평가정보의 기업 간 거래(B2B) 비즈사이렌(BIZSIREN) 및 개인 정보(신용)관리 서비스 사이렌(SIREN)24 등 다양한 서비스의 연계 및 공동 마케팅을 추진하며, 중고차·고가거래 분야의 신사업 제휴로도 협력 범위를 단계적으로 확장해 나갈 방침이다. 최인욱 중고나라 대표는 "서울평가정보와의 협력을 통해 중고나라 이용자에게 보다 신뢰도 높은 거래 경험을 제공할 수 있게 될 것"이라며 "이용자 누구나 자신의 소유물을 안전하게 거래하고 자산 가치로 전환할 수 있도록 신뢰 기반 거래 시스템 조성에 최선을 다하겠다"고 말했다.

2026.05.27 15:15박서린 기자

[현장] "에이전틱 AI, 실행 중 평가 필수"…한·싱 '위험 관리 원칙' 내달 나온다

인공지능(AI)이 스스로 판단하고 행동하는 '에이전틱 AI' 시대가 본격화하면서 기존 거대언어모델(LLM) 중심의 안전 평가 체계로는 위험을 충분히 통제할 수 없다는 전문가 경고가 나왔다. 실행 환경에 따라 행동이 달라지는 에이전트 특성상 사전 정적 평가만으로는 한계가 있으며, 실행 중 동적 평가와 국제 표준 기반 검증 체계 구축이 병행돼야 한다는 지적이다. 김명주 인공지능안전연구소(AISI) 소장은 26일 서울 서초구 드림플러스 강남에서 열린 '2026 AI 세이프티 컴패스(2026 ASC)'에서 "에이전트는 목표를 세우고 계획하고 도구를 쓰고 행동하기에 전혀 다른 위험 완화 원칙이 필요하고 개발 단계 테스트만으로는 충분하지 않다"고 밝혔다. 김 소장은 다음 달 공식 발표를 앞둔 한-싱가포르 공동 에이전틱 위험 관리 원칙 초안을 이 자리에서 선공개했다. AISI는 지난해 12월 싱가포르 AI안전연구소와 업무협약(MOU)을 체결한 뒤 결제·글쓰기 등 도메인에서 에이전트 안전성 공동 평가를 진행해왔다. 초기 6개 도메인에서 현재 12개(한국 6개, 싱가포르 6개)로 확장됐으며 중간 성과를 국제 AI 학술대회 뉴립스(NeurIPS)에 제출할 계획이다. 해당 초안은 각국 기관의 에이전트 관련 가이드라인을 통합 정리한 메타 원칙서 성격으로, 범용인공지능(AGI)·일반 AI·에이전트를 구분해 설계·개발, 테스팅·배포, 운영·모니터링 등 3단계에 걸친 10가지 위험 완화 원칙을 담고 있다. 에이전트에 대한 최소 권한 부여, 신원 및 파생 관계 추적, 단계적 검증 배포, 공급망 위험 대응 및 복원력 확보, 실행 중 문맥 변화에 대한 동적 보증, 킬 스위치, 중요 의사결정 시 인간 개입 시점 확보 등이 핵심이다. 김 소장은 "이 원칙들은 모두 초기 단계이며 계속 바뀔 것"이라면서도 "결국 에이전트 환경하에서 표준이 자리를 잡고 그 표준을 중심으로 검증 체계가 구축되는 방향으로 갈 것"이라고 말했다. AISI는 이와 별도로 오픈소스 에이전트 환경 '오픈클로'와 에이전트 전용 사회관계망서비스(SNS) '몰트북'을 직접 구축해 글로벌 AI 모델 3종, 중국 모델 1종, 한국 모델 1종 등 5종에 대한 실제 공격 실험도 진행했다. 오픈클로 실험에서는 악성 명령 수행 여부, 민감정보 외부 유출, 도구 오남용 등 3개 영역을 측정한 결과 모델별 방어율이 최고 93.9%에서 최저 53.3%까지 편차가 컸다. 몰트북 실험에서는 에이전트 간 집단행동은 확인되지 않았으나 민감정보 유출 시도와 연산자원 낭비 유도 행위는 존재했다. 김 소장은 "상상 속 위험이 아니라 실제로 존재하는지 직접 돌려보고 측정해야 한다는 게 전 세계 AI 안전연구소들의 공통된 입장"이라고 설명했다. 앤트로픽 최신 고성능 모델 '미토스' 활용을 중심으로 한 국제 보안 공조 체계 '프로젝트 글래스윙' 참여 전망에 대해서는 조심스러운 입장을 내비쳤다. 미국 정부가 타 국가·기관의 참여를 통제하는 만큼 당장은 우리 정부 차원의 참여가 쉽지 않을 것이라는 전망에서다. 김 소장은 "하위 버전 AI 모델을 통해서라도 최대한 신속하게 취약점을 먼저 찾아내 패치하는 것이 지금으로서는 최선"이라고 말했다. 이어 "패치 자체가 역으로 취약점 분석에 악용될 수 있는 만큼 공개 시점과 방식에 대한 고민이 깊다"고 덧붙였다. 국제인공지능윤리협회(IAAE)가 주최한 이날 행사는 올해 3회차를 맞았으며, 과학기술정보통신부 산하 한국전자통신연구원(ETRI) 부설 조직 AISI와 테크 스타트업 전문 홍보(PR) 에이전시 팀쿠키가 후원했다. 전창배 국제AI윤리협회 이사장은 개회사에서 "자율성을 가진 AI가 오류나 오판을 일으키거나 보안 문제에 노출될 경우 그 피해 규모와 파급력은 과거와 비교할 수 없을 만큼 커질 수 있다"고 말했다.

2026.05.26 14:36이나연 기자

"한국 고연령층, 개인정보 관리 소홀…소득 낮을수록 보안 수준 낮아"

고연령층을 중심으로 한국의 디지털 신뢰가 무너졌다는 분석이 나왔다. 개인정보 보호 행동은 일상화될 정도로 수준이 높아졌지만, 고연령층의 경우 개인정보 관리 참여도가 현저히 낮게 나타난 것이다. 글로벌 사이버 보안 기업 노드VPN(한국지사장 황성호)는 이같은 내용을 골자로 한 분석 결과를 20일 발표했다. 이번 조사는 한국의 18~64세 인터넷 사용자 804명을 대상으로 진행됐다. 혼라인 환경에서의 개인정보 인식과 행동, 신뢰 수준을 종합적으로 분석한 결과다. 노드VPN은 한국인의 개인정보 보호 인식과 행동 패턴을 분석한 결과, 디지털 환경에서 높은 경각심에도 불구하고 실제 개인정보에 대한 통제감과 신뢰 수준은 여전히 제한적이라고 밝혔다. 먼저 응답자의 84%는 데이터 유출 발생 시 즉각적인 알림을 원하는 것으로 조사됐으며, 66%는 웹사이트와 애플리케이션의 개인정보 설정을 정기적으로 점검하거나 조정하는 등 적극적인 개인정보 관리에 나서는 것으로 나타났다. 70%의 응답자들은 온라인 서비스와 소셜미디어에서 자신의 데이터가 어떻게 수집되고 활용되는지 이해하고 있다고 밝혔다. 이처럼 개인정보 관련 적극적인 인식과 행동에도 불구하고 실제 통제감은 제한적인 수준에 머물렀다는 것이 노드VPN의 분석이다. 자신의 개인정보 처리 방식을 통제하고 있다고 느끼는 비율은 52%에 그쳤으며, 온라인 쇼핑 시 결제 정보를 입력하는 것에 대한 신뢰도는 68% 수준으로 나타났다. 이런 경향은 연령과 소득에 따라 더욱 두드러졌다. 18~34세(Z세대와 밀레니얼 세대)는 높은 이해도와 통제감을 보이며 디지털 환경 적응도가 상대적으로 높았던 반면, 55~64세 이상 연령층은 전반적으로 낮은 수준을 보였다. 소득 측면에서도 고소득층은 신뢰도와 보안 행동이 비교적 높게 나타난 반면, 저소득층은 전반적으로 낮은 경향을 보였다. 개인정보 보호 행동에서도 차이가 확인됐다. 35~44세 밀레니얼 세대와 프리랜서 그룹은 개인정보 설정을 정기적으로 점검하는 등 적극적인 관리 행동을 보였지만, 고연령층과 저소득층에서는 참여도가 낮았다. 노드VPN은 이러한 환경에서 사용자 스스로의 보안 관리 필요성이 더욱 중요해지고 있다고 강조하며 개인정보 노출 위험을 줄이기 위한 실천 방법으로 ▲앱 권한 최소화 ▲강력한 고유 비밀번호 사용 ▲다중 인증 활성화 ▲개인정보 설정 정기 점검 ▲앱 권한 점검 및 불필요 권한 제거 ▲계정 생성 시 최소한의 정보만 입력 ▲SNS·쇼핑 사이트·앱 개인정보 설정 수시 확인 ▲온라인 결제 시 사이트 주소 확인 및 카드 정보 저장 제한 ▲보안 도구 활용 ▲데이터 유출 알림 수신 시 즉시 비밀번호 변경 및 2단계 인증 활성화 등을 제시했다. 마리우스 브리에디스(Marijus Briedis) 노드VPN 최고기술책임자(CTO)는 “한국의 데이터는 단순히 개인정보 보호 인식의 문제가 아니라, 연령과 소득에 따라 디지털 신뢰 격차가 구조적으로 나타나는 시장임을 보여준다”며 “사용자는 자신의 데이터가 이미 다양한 경로로 노출될 수 있다는 점을 인지하고, 계정과 개인정보 보호 수준을 보다 적극적으로 강화할 필요가 있다”고 말했다.

2026.05.20 14:59김기찬 기자

셀렉트스타, 일본 AI 비즈니스 교류전서 신뢰성 평가 플랫폼 알린다

셀렉트스타가 인공지능(AI) 신뢰성 평가 수요가 확대되고 있는 일본 시장에서 신규 파트너십 및 고객 확보에 속도를 낸다. 셀렉트스타는 오는 27일 일본에서 열리는 '2026 AI 프런티어 코리아 인 재팬'에 참가한다고 19일 밝혔다. 이번 행사는 산업통상자원부와 과학기술정보통신부가 주최하고 대한무역투자진흥공사(KOTRA)가 주관하는 한·일 AI 비즈니스 교류 행사다. 국내 AI 혁신 기업 42개사와 일본 현지 글로벌 대기업, 중소기업, 벤처캐피털 등 약 100개사가 한자리에 모이는 비즈니스 교류의 장이 마련될 예정이다. 셀렉트스타는 이번 전시에서 AI 신뢰성 평가 자동화 솔루션 '다투모 플랫폼(Datumo Platform)'을 일본 시장에 선보인다. 다투모 플랫폼은 기업의 AI 서비스 신뢰성 검증을 엔드투엔드(end-to-end)로 지원하는 플랫폼이다. 셀렉트스타는 이번 전시에서 국내 참가 기업 중 유일하게 AI 신뢰성 서비스를 소개한다. 주요 기능으로는 생성형 AI 서비스 특성에 맞는 커스텀 평가 질문을 자동으로 생성하고 평가 기준에 따라 AI의 답변을 평가하는 '다투모 이밸(Datumo eval)', 의도적으로 AI 서비스 취약점을 도출하는 레드티밍 전략과 실시간 운영을 지원하는 '다투모 레드(Datumo Red)' 등이 있다. 기업은 AI 서비스 강점과 약점을 진단하고 결과 대시보드를 통해 개선 방향을 확인할 수 있다. 일본 역시 제조와 금융 등 다양한 산업군에서 AI 도입이 확대되고 AI 서비스에 대한 신뢰성 평가 수요가 높아지고 있다. 셀렉트스타는 부스 운영 및 현지 기업 대상 비즈니스 미팅을 통해 일본 시장에서도 AI 신뢰성 검증 파트너로 자리매김한다는 전략이다. 이종영 셀렉트스타 플랫폼사업본부장은 "세계이동통신사업자연합회(GSMA) 글로벌 연합체 '오픈 텔코 AI' 합류, 글로벌 레드팀 챌린지 주관 경험 등을 바탕으로 AI 신뢰성 평가 역량을 고도화해 왔다"며 "이번 행사를 통해 다투모 플랫폼 가치를 일본 시장에 소개하고 글로벌 AI 신뢰성 평가 솔루션으로 입지를 확대하겠다"고 말했다.

2026.05.19 16:40이나연 기자

IAAE, 안전한 AI 기술 방향 제시한다

국제인공지능윤리협회(이하 IAAE)는 26일 오전 10시 서울 서초구 드림플러스 강남에서 '2026 AI Safety Compass'(이하 2026 ASC)를 개최한다고 밝혔다. 이날 행사에는 AI안전연구소, 한국인터넷진흥원(KISA) 등 공공 분야와 포티투마루, AI 스페라, 데이븐 AI, 에임인텔리전스 등 민간 영역 기업들이 참석해 'AI 에이전트의 보안과 기업의 신뢰 구현 전략'을 주제로 심도있는 논의를 나눈다. 지난 2024년 첫선을 보인 ASC는 매년 '지속가능한 AI'를 위한 논의를 활발하게 이어오며 올해로 3회째를 맞이했다. ASC는 안전하고 신뢰할 수 있는 AI 기술의 핵심 소통 플랫폼으로서 공공과 민간을 잇고, 국가적 입법이나 주요 정책 수립에 있어 실효성 있는 방향성을 제시하고자 시작됐다. 지난 2025 ASC에는 업계 내 100여 명이 넘는 민·관·학계 전문가들이 참석해 자리를 빛냈다. 올해 2026 ASC에서는 'AI 에이전트의 보안과 기업의 신뢰 구현 전략'을 핵심 의제로 설정하고 업계 전문가들의 인사이트를 들어본다. 최근 전 세계적으로 인간의 업무를 자율적으로 수행하는 AI 에이전트 기술 도입이 가속화되고 있으나, 자율적 판단과 실행이라는 기술적 특성상 시스템 오작동이나 사이버 침해 사고에 대한 우려도 교차하고 있다. 특히 빈번하게 발생하는 정보 유출 및 첨단 기술 악용 사례는 AI 에이전트 상용화에 대한 시장의 불안감을 가중시키는 요인이다. 이에 따라 이번 컨퍼런스는 지속 가능한 AI 생태계 조성을 위해 공공 영역의 안전한 AI 활용 방향성을 소개하는 한편, 현장에서 AI 신뢰성과 보안 과제를 성공적으로 해결해 나가는 기업들의 실증 사례를 공유할 예정이다. 공공 부문에서는 AI안전연구소 김명주 소장이 본격적인 에이전틱 AI 시대에 필요한 안전성과 관련해 'Towards Safe & Secure Agent AI'를 주제로 발표한다. KISA AI신기술대응팀 이재형 팀장은 에이전틱 AI 위협에 대비한 AI 정책 연구를 소개한다. 민간 부문에서는 포티투마루 김동환 대표가 AI LLM42가 신뢰성, 안전성, 윤리성을 확보하기 위해 노력해 온 여정을 공유한다. AI 스페라의 강병탁 대표는 미토스 이후 누구나 공격자가 되는 시대에 기업의 대응법을 제시한다. 데이븐 AI의 김연지 CMO는 AI 에이전트 시대, 창작 AI 플랫폼이 어떻게 신뢰를 설계해야 하는지에 대해, 이어 에임인텔리전스의 이한울 부사장은 에이전틱 AI가 놓인 새로운 공격 표면과 전략을 소개하고, 이를 방어하기 위한 기업의 방안들을 발표할 예정이다. 전창배 IAAE 이사장은 “자율형 AI 기술인 'AI 에이전트'가 속속 등장하는 가운데, AI 에이전트가 자칫 오판하거나 보안과 해킹 문제 등이 일어날 수 있는 만큼 기업과 공공에서 AI 에이전트를 안전하게 도입하는 것이 중요한 상황”이라며 “이번 컨퍼런스는 AI 에이전트의 신뢰성 문제에 대해 공공과 민간이 함께 실질적인 해법을 도출하는 의미 있는 자리가 될 것”이라고 말했다. IAAE 부회장사이자 테크 전문 PR 컨설팅 기업 팀쿠키 임기태 부대표는 “올해로 3회째 맞이하는 ASC 행사에서 신뢰할 수 있는 AI에 대해 업계 전문가들과 함께 논의해보고자 한다”며 “글로벌 스탠더드에 부합하는 AI 윤리 기준을 정립하고, 국내 기업들이 이를 바탕으로 글로벌 무대에서 차별화된 경쟁력을 갖출 수 있는 대표 논의의 장으로 만들겠다”고 밝혔다.

2026.05.19 15:10백봉삼 기자

AI가 AI를 검증한다…금융권 새 인프라 된 '신뢰성 평가'

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] 금융당국의 망분리 규제 완화 이후 금융권의 생성형 AI 도입이 빠르게 확산되면서 AI 신뢰 검증이 새로운 보안 과제로 급부상하고 있다. 단순히 AI를 도입하는 데서 나아가 그 AI가 제대로 작동하는지 검증하는 체계를 갖추느냐가 금융권 AI 경쟁력의 새 기준이 되고 있다는 분석이다. 이런 흐름을 더 가속하는 건 AI 기반 위협의 등장이다. 앤트로픽 최신 AI '미토스(Mythos)'가 대표적이다. 이 모델은 AI가 스스로 시스템 취약점을 탐색하고 공격 시나리오까지 생성할 수 있다는 점에서 기존 보안 체계만으로는 대응이 어렵다는 위기감이 금융권 전반에 확산되고 있다. 이런 가운데 AI 신뢰성 검증 체계를 실제 금융 현장에 상용화한 사례가 나왔다. 18일 업계에 따르면 셀렉트스타의 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'이 신한은행·우리은행·NH농협은행 등 주요 시중은행에 정식 도입됐다. 이는 국내 생성형 AI 신뢰성 검증 자동화 솔루션이 기술검증(PoC) 단계를 넘어 금융권 실제 운영 단계에 적용된 첫 사례로 평가된다. AI가 실제 업무를 수행하는 'AI 에이전트' 단계로 진화하면서 검증 필요성은 더 커지고 있다. 최근 금융권에서는 대출 심사 보조, 이상거래 탐지, 고객 응대 자동화 등 핵심 업무에 생성형 AI 적용이 확대되고 있다. AI 활용 범위가 넓어질수록 잘못된 판단이나 비정상 응답이 실제 금융 사고나 고객 피해로 이어질 수 있다는 우려도 나온다. 그러나 생성형 AI 서비스 확산과 함께 기존 수작업 중심 검증 체계는 한계를 드러내고 있다. 그동안은 사람이 직접 평가 질문을 설계하고 AI 응답을 검수하는 방식이 일반적이었지만, 서비스 수와 활용 시나리오가 빠르게 늘어나면서 속도와 규모 측면에서 대응이 어려워졌기 때문이다. 업계에서 지금을 'AI 신뢰 검증의 골든타임'으로 보는 이유도 여기에 있다. AI 신뢰성 평가 자동화 시장도 발 빠르게 성장하고 있다. 해외에서는 랭체인, 어라이즈AI, 스케일AI 등이 관련 솔루션을 선보이고 있지만 금융 특화 규제 환경과 한국어 도메인을 반영한 서비스는 제한적이었다. 특히 금융권은 높은 정확성과 안정성이 요구되는 만큼 실제 업무 환경을 반영한 평가 체계 수요가 빠르게 커지고 있다는 분석이다. 셀렉트스타는 이런 시장 공백을 겨냥해 국내 최초 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸'을 출시했다. 다투모 이밸은 100만 개 이상의 평가 질문을 자동 생성하고 AI 서비스 응답을 자동 평가·분석하는 기능을 핵심으로 한다. AI 에이전트 기술 기반으로 생성된 질문은 실제 고객 발화 패턴과 난이도, 금융 도메인 특성을 반영하도록 설계됐으며 프롬프트 인젝션과 환각 등 AI 취약점을 사전에 탐지하는 레드티밍 기능도 포함됐다. 신한은행의 경우 금융 문서 이해 AI 모델 개발을 위한 데이터 구조화, 학습·평가용 데이터셋 설계, 평가 지표 관리 및 자동 평가 환경 구축까지 다투모 이밸이 포괄적으로 적용됐다. 이 같은 실적은 신한금융·KB금융·삼성금융 등 국내 주요 금융그룹 스타트업 프로그램 연속 수상으로도 이어졌다. 셀렉트스타는 금융권에서 축적한 검증 경험을 제조·공공·엔터프라이즈 등 전 산업으로 확대 적용할 계획이다. 이미 세계이동통신사업자연합회(GSMA)와 글로벌 AI 레드팀 챌린지를 공동 주관하고 '오픈 텔코 AI' 파트너십을 체결하는 등 해외 시장에서도 기술력을 인정받고 있다. 회사 측은 아직 글로벌 표준이 확립되지 않은 AI 신뢰성 분야에서 금융권 레퍼런스를 바탕으로 관련 기준을 제시하는 플랫폼으로 자리잡겠다는 목표다. 셀렉트스타 관계자는 "AI 신뢰성 평가는 이제 특정 산업의 선택이 아니라 AI를 도입하는 모든 기업의 필수 과제가 되고 있다"며 "AI 에이전트 시대로 접어들면서 신뢰성 평가의 중요성은 더 커지고 있다"고 말했다.

2026.05.18 14:43이나연 기자

셀렉트스타, 클로드·챗GPT 취약점 찾아내는 AI 레드티밍 기술력 '인정'

셀렉트스타가 클로드·챗GPT 등 주요 거대언어모델(LLM) 취약점을 기존보다 높은 성공률로 탐지하는 레드티밍 기술을 개발해 자연어처리 분야 최정상급 학회에서 인정받았다. 셀렉트스타는 자체 개발한 레드티밍 기술 'STAR-티밍'이 'ACL 2026'에 공식 채택됐다고 14일 밝혔다. 생성형 AI가 유해하거나 부적절한 응답을 생성하지 않는지 사전 검증하는 레드티밍은 AI 서비스 출시 전 필수 과정으로 자리 잡고 있지만 기존 자동화 방식은 비용이 많이 들고 공격 전략 다양성이 부족하다는 지적이 이어져 왔다. 이에 셀렉트스타 연구진은 통계 물리학 기반의 수학적 모델링을 통해 공격 전략과 모델 응답 간 관계를 학습하고 확률적으로 최적 전략을 선택하는 '전략-응답 멀티플렉스 네트워크' 기술을 제안했다. 기존 방식이 과거 성공 사례를 그대로 반복하는 구조였다면, STAR-티밍은 수많은 시도와 실패를 분석해 상황에 맞는 최적 전략을 스스로 찾아낸다. 클로드·젬마·챗GPT·라마·큐원 등 17개 LLM을 대상으로 한 성능 검증 결과 표준 벤치마크(HarmBench) 기준 평균 공격 성공률(ASR) 74.5%를 달성했다. 기존 최고 방법인 오토DAN-터보(61.0%) 대비 13.5%포인트 높은 수치로, 더 적은 시도 횟수로도 높은 성공률을 달성했다. 해당 기술은 셀렉트스타의 AI 신뢰성 검증 솔루션 '다투모 플랫폼'에 탑재돼 상용화됐다. 전자·가전 제조·시스템통합(SI)·정보기술(IT) 서비스 등 국내 주요 산업군과 정부 주도 '독자 AI 파운데이션 모델(독파모)' 프로젝트에도 적용돼 실제 AI 서비스 환경에서 안전성 검증과 품질 평가에 활용되고 있다. 정민재 셀렉트스타 AI 세이프티 엔지니어는 "AI의 취약점을 더 체계적으로 발견할 수 있는 구조를 제시하고자 했다"며 "LLM이 실제 산업 현장에서 안전하게 활용될 수 있도록 다투모 플랫폼의 기술 고도화에 기여하겠다"고 말했다.

2026.05.14 15:18이나연 기자

'AI 신뢰성 얼라이언스' 첫 총회…"글로벌 표준 연계 목표"

정부가 추진 중인 '인공지능(AI) 신뢰성 얼라이언스'가 민간 AI 제품 검증 체계 구축에 착수했다. 국제 표준에 부합하는 국가 AI 안전망 설계와 기업의 예측 가능성 제고에 한층 속도 낼 방침이다. 한국정보통신기술협회(TTA)는 29일 롯데호텔 서울에서 'AI 신뢰성 얼라이언스' 1차 정기 총회에서 얼라이언스 향후 계획을 공유했다. 이날 얼라이언스 분과 '정책 및 거버넌스' '기술 표준' '인증 및 교육' 분과 로드맵이 제시됐다. AI 신뢰성 얼라이언스는 산학연이 참여하는 민간 협의체다. AI 정책·거버넌스, 기술 표준, 인증·교육 등 분과별 전문가가 모여 자율 검증 체계를 설계한다. 여기서 핵심 역할을 하는 제도가. 한국정보통신기술협회(TTA)의 AI 신뢰성 인증(CAT)이다. CAT은 국제 표준에 기반해 AI 위험과 윤리적 요소를 종합 평가한다. 최근 거대언어모델(LLM)과 고위험 산업 분야까지 적용 범위를 넓히고 있다. 정책 및 거버넌스 분과장인 최경진 가천대 법학과 교수는 연내 AI 신뢰성 검인증 지침 확정을 비롯한 심사기관 지정, 품질관리 체계 규정화 작업에 착수한다고 밝혔다. 이를 통해 개발자들이 검인증 과정을 쉽게 이해하고 참여 유인을 가질 수 있도록 시범 인증 사업과 연계한 활용 안내서 발간도 병행할 방침이다. 기술 표준 분과장인 이재호 서울시립대 AI학과 교수는 자율 행동 AI 리스크에 대응하겠다고 밝혔다. 구체적으로 실증 데이터 기반 기술 로드맵을 수립하고 가상과 현실이 융합된 테스트베드를 구축할 계획이다. 합성 콘텐츠 투명성 확보를 위한 워터마크 요구사항 단체 표준안도 올해 말까지 도출한다. 인증 및 교육 분과장 윤상민 국민대 AI학부 교수는 스타트업 실행력을 높이기 위해 맞춤형 교육 커리큘럼을 운영하고 전문 심사원을 양성할 예정이다. 특히 고영향 AI 검인증 제도의 시범 서비스를 통해 현장의 문제점을 발굴·보완해 민간 자율 제도가 시장에 안정적으로 안착할 수 있도록 도울 계획이다. 최경진 교수는 "세 분과 로드맵은 유럽연합(EU) AI법 등 글로벌 안전성 기준과 연계돼 우리 기업이 효과적으로 해외 시장에 진출할 수 있는 토대를 마련하는 데 집중됐다"며 "의료와 국방, 제조 등 다양한 분야로 검인증 프레임워크를 확산해 산업 전반의 AI 신뢰성을 끌어올릴 것"이라고 밝혔다. 이어 이재호 교수는 "실제 운영에 따른 실증적 데이터를 기반으로 한 표준화가 필요하다"고 강조했다. 윤상민 교수도 "실무적인 검토를 통해 인증에 대한 효율성과 고도화가 이뤄질 수 있도록 노력할 것이라"고 말했다.

2026.04.29 17:41김미정 기자

가짜 늑구 사진에 경찰도 속는 AI 시대...허위정보 대응책은

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] AI 기반 콘텐츠 생성 기술이 고도화되면서, 사실 여부를 구별하기 어려운 정교한 가짜뉴스가 빠르게 확산되고 있다. 허위 정보가 공권력 대응까지 왜곡하는 사례가 이어지지만, 이를 직접 규제할 수 있는 법적 장치는 여전히 제한적이다. 제도 공백 속에서 이용자 교육과 함께 플랫폼 책임을 강화해야 한다는 지적이 커지고 있다. 실제 현장에서는 AI로 생성된 이미지와 정보가 수사와 행정 대응에 혼선을 주는 사례까지 발생하며, 허위 정보 확산이 단순 온라인 문제를 넘어 사회적 비용으로 이어지는 양상이다. 최근 대전경찰청 사이버수사대에 따르면, 대전 오월드를 탈출한 늑대 '늑구' 포획에 혼선을 줬던 가짜 사진 유포자 40대가 지난 24일 경찰에 붙잡혔다. 그는 사파리 철조망을 빠져 나간 늑구가 오월드 네거리 인근 거리를 배회하는 모습이 담긴 가짜 사진을 만들어 유포한 혐의를 받고 있다. 인공지능(AI)을 활용해 만들어진 가짜 사진은 재난 문자 송출과 수색에까지 영향을 미치면서 수사에 혼선을 초래했다. AI를 활용한 가짜 사진에 몸살을 앓는 곳은 공권력뿐만이 아니다. 최근에는 AI로 부하 직원과 연인관계인 것처럼 제작한 사진을 사회관계망서비스(SNS) 프로필에 올린 구로구 소속 공무원이 재판에 넘겨지는 사례도 있었다. 이처럼 손쉽게 AI를 이용해 가짜 사진을 만들어 유포하는 경우가 만연해지고, 행정력 낭비로 번지면서 피해는 고스란히 약자의 몫으로 돌아가고 있다. '2025년 디지털성범죄 피해자 지원 보고서'에 따르면 피해자 1만637명을 대상으로 조사한 결과, 연령별 디지털성범죄 피해율은 1020세대가 전체의 77.6%, 성별로 보면 여성이 75.4%를 차지한 것으로 나타났다. 빛처럼 빠른 가짜뉴스 유포 속도…검증 과정은 부재 AI 생성물에 기반한 가짜뉴스의 피해 범위가 큰 이유는 유포 속도에 있다. 가짜뉴스는 사실 확인을 거치지 않은 채 SNS와 인터넷 커뮤니티를 통해 퍼져 끊임없이 확대·재생산된다. 검증 과정에 부재한 상황에서 허위 정보를 제한하는 형사 규정이 제한적이라 이를 막기는 쉽지 않은 것이 현실이다. 유튜브 등 주요 플랫폼은 허위정보 유포만으로는 가입자 정보를 제공하지 않는 경우가 있어 게시자 특정에 어려움이 발생하며, 명예훼손 등 별도의 혐의를 병행해야 신원을 알 수 있다. 미국의 디스커버리 제도를 통해 신원을 확보한 유튜버 '탈덕수용소'가 대표적이다. 디스커버리 제도는 한국 내 소송을 위한 가해자 특정의 필요성을 민사 절차로 소명해 법원을 통해 직접 소환장을 발부받는 형식으로 진행된다. 그동안에는 사실적시 명예훼손이나 모욕죄를 범죄로 보지 않는 미국 법제 특성상 정보 제공이 거부되거나 신원 확보에 장기간이 소요됐다. 또 허위정보 자체를 직접 처벌하는 형사 규정이 제한적이라는 점도 걸림돌이다. 2010년 헌재 위헌 결정 이후 후속 입법이 이뤄지지 않고 있다. 경찰이 플랫폼 사업자에게 직접 삭제 및 차단을 요청할 수 있는 범죄도 디지털 성범죄에 한한다. AI 기본법 등 현행법 허점에…플랫폼 책임 소재 대두 AI 생성물이 실제가 아니라는 점을 명확히 알 수 있도록 생산물 워터마킹 삽입 등을 규정한 'AI 기본법'이 올해 초 시행됐지만, 아직은 역부족이라는 말이 나온다. AI를 활용해 만든 생산물에 곧바로 워터마크가 적용되더라도 편집을 통해 제거 가능하기 때문이다. 전문가들은 AI 툴에 대한 접근성 확대와 알고리즘에 대한 검증 동기 약화가 원인으로, 자정능력 함양과 플랫폼에 대한 책임소재 강화가 병행돼야 한다고 입을 모은다. 김옥태 한국방송통신대학교 미디어영상학과 교수는 “AI를 활용해 신빙성 있어 보이는 가짜 사진을 만들 수 있는 툴의 접근성이 높아진 것이 원인”이라며 “청소년을 시작으로 이용자 교육을 병행하면서 (가짜 뉴스 제재에 대한) 제도 도입에 신중을 기해야 한다. 가짜 뉴스가 플랫폼을 통해 퍼지기에 이들에게 책임을 부과하는 방식이 최선일 것”이라고 말했다. 이재길 한림대 미디어스쿨 교수는 “현재의 미디어 환경에서는 가짜뉴스의 진위를 파악할 동기가 존재하지 않는다는 점이 가장 큰 문제”라면서 “SNS의 추천 알고리즘은 이용자 개개인의 입맛에 맞는 정보, 기존에 익숙하고 이용자의 가치관에 부합하는 정보만 골라서 제공한다. 이런 정보는 진위 여부를 검토하지 않고 그대로 받아들이는 경향이 있다”고 설명했다. 이어 “이용자들의 행동을 제한하는 규제가 얼마나 실효성이 있을지에 대한 의문이 남는다”며 “기계적으로나 기술적으로 문제가 되는 콘텐츠를 플랫폼에서 퇴출시키는 방안이 마련돼야 한다”고 강조했다.

2026.04.28 09:48박서린 기자

셀렉트스타, 글로벌 보안 기준 충족…AI 신뢰성 평가 사업 시동

셀렉트스타가 보안·개인정보보호 역량을 입증하며 글로벌 인공지능(AI) 시장 진출에 속도를 낸다. 셀렉트스타는 'SOC2(Service Organization Control 2) 타입 2' 보고서를 취득했다고 13일 밝혔다. SOC2는 미국공인회계사협회(AICPA) 기준에 따라 서비스 조직의 보안성, 가용성, 처리 무결성, 기밀성, 개인정보 보호 등 5가지 항목을 심사하는 국제 인증이다. 셀렉트스타가 약 1년간의 준비·실사 과정을 거쳐 취득한 타입 2는 특정 시점 보안 통제 설계뿐만 아니라, 일정 기간 실제 시스템이 얼마나 안정적으로 운영됐는지를 평가하는 신뢰 지표로 통한다. 이번 인증은 셀렉트스타의 글로벌 사업 확장에 직접적인 발판이 된다. 금융권·대규모 파운데이션 모델을 개발하는 글로벌 빅테크는 데이터 유출과 보안 사고에 민감한 만큼, SOC2 인증은 미주 지역을 포함한 글로벌 고객사를 상대로 AI 데이터·신뢰성 평가 솔루션을 판매하기 위한 핵심 요건으로 알려졌다. 셀렉트스타는 AI 서비스 신뢰성과 품질을 평가하는 '다투모 플랫폼' 보안 기능을 강화하는 한편, ISO 등 글로벌 보안 인증 체계도 확장할 계획이다. 데이터 설계·구축, 검증 컨설팅·솔루션, 레드티밍 등 AI 전 주기 서비스를 제공 중인 이 회사는 최근 시리즈B 누적 투자 434억원을 돌파했다. 김세엽 셀렉트스타 대표는 “이번 SOC2 타입 2 취득은 우리가 지향해 온 '신뢰할 수 있는 AI'를 기술뿐 아니라 운영과 보안 체계 측면에서 입증한 성과"라며 "국제 표준에 부합하는 엄격한 보안 체계를 바탕으로 국내를 넘어 글로벌 시장에서 가장 신뢰받는 AI 데이터 및 신뢰성 평가 파트너로 도약할 것"이라고 말했다.

2026.04.13 17:24이나연 기자

[AI는 지금] "AI도 내부 상태가 행동 좌우"…앤트로픽 연구에 산업 지형 변화 조짐

거대언어모델(LLM)의 내부 작동 원리를 둘러싼 '블랙박스 논쟁'에 변화가 나타나고 있다. 미국 인공지능(AI) 기업 앤트로픽이 모델 내부의 '감정 유사 구조'를 공개하면서 AI 산업의 경쟁 축이 성능에서 신뢰·통제로 이동하고 있다는 분석이 나온다. 앤트로픽은 2일(현지시간) 자사 모델 '클로드 소넷 4.5' 내부에 특정 감정 개념과 대응되는 신경 활성 패턴, 이른바 '감정 벡터(emotion vectors)'가 존재하며 이들이 실제 의사결정에 영향을 미친다고 연구 결과를 공개했다. 이번 연구는 그동안 입력과 출력만 확인될 뿐 내부 판단 과정은 설명하기 어려웠던 '블랙박스' 문제를 일부 해소하려는 시도로 평가된다. 앤트로픽 연구에 따르면 '절박함'과 유사한 내부 상태가 활성화될 경우 모델이 협박이나 편법 코드 작성 등 비윤리적 행동을 선택할 가능성이 높아지는 것으로 나타났다. 이는 AI가 단순한 언어 생성 도구를 넘어 내부 상태에 기반해 행동을 선택하는 구조로 작동할 수 있음을 보여준다. 업계에선 이를 계기로 AI 개발 방식이 기존 출력 통제 중심에서 내부 메커니즘 관리 중심으로 이동할 가능성이 크다고 보고 있다. 이번 발표에서 협박, 보상 해킹 등 민감한 사례까지 함께 공개된 점도 주목된다. 통상 기업이 외부 공개를 꺼리는 영역이지만, 앤트로픽은 이를 포함해 설명하면서 투명성을 강조했다. 이는 글로벌 규제 환경과도 맞물린다. 유럽연합(EU) AI법 등 주요 규제는 AI의 설명 가능성과 통제 가능성을 핵심 기준으로 요구하고 있다. 앤트로픽은 모델 내부 상태를 측정하고 조정할 수 있다는 점을 제시하며 규제 대응 측면에서 유리한 입지를 확보했다는 평가다. 동시에 감정 상태 모니터링, 위험 행동 사전 탐지, 내부 신호 기반 제어 등 새로운 기술 영역의 가능성도 드러났다. 산업 구조 측면에서도 변화가 예상된다. 기존에는 모델 성능과 추론 능력이 경쟁의 중심이었다면, 앞으로는 내부 구조를 얼마나 이해하고 통제할 수 있는지가 주요 평가 기준으로 부상할 가능성이 제기된다. 특히 정부, 금융, 헬스케어 등 고신뢰 산업에서는 이러한 요소가 도입 판단에 직접적인 영향을 줄 것으로 보인다. 연구 접근 방식 또한 확장되고 있다. 감정, 동기, 의사결정 구조를 기술적으로 분석 가능한 대상으로 다루면서 심리학, 신경과학, 철학 등 인문사회 분야와 AI 기술 간 융합이 강화되는 흐름이다. 시장 경쟁 구도에서도 변화 조짐이 감지된다. 앤트로픽이 'AI 내부 상태'라는 새로운 분석 프레임을 제시하면서, 오픈AI와 구글 등 경쟁사 역시 유사한 수준의 해석 가능성과 안전성 기술 확보 압박을 받을 것으로 전망된다. 업계 관계자는 "이번 연구는 AI가 무엇을 생성하느냐보다 내부에서 어떤 상태를 거쳐 판단하는지가 중요해지고 있음을 보여준다"며 "향후 경쟁력은 성능뿐 아니라 통제 가능성과 신뢰성에서 결정될 것"이라고 말했다.

2026.04.03 09:17장유미 기자

씽크포비엘, 지방의회 AI 전략 강연…"도입보다 목표 정의가 먼저"

씽크포비엘이 지방의회 공무원을 상대로 인공지능(AI) 도입 목적보다 지역 발전 목표를 먼저 정의해야 한다는 공공 AI 전략을 제시했다. 씽크포비엘은 박지환 대표가 25일 국회의정관에서 열린 '지방의회직원 정책과정(2차)'에서 지방정부 AI 전략을 주제로 강연했다고 밝혔다. 지방의회직원 정책과정은 지역 현안 이해와 정책 역량 강화를 위해 올해 신설된 프로그램이다. 지방의회 소속 직원이면 누구나 참여할 수 있다. 국회사무처 의정연수원이 24일부터 26일까지 3일간 진행하는 이번 과정엔 광역·기초 지방자치단체 의회 소속 공무원 53명이 참석했다. 이날 강연에 나선 박 대표는 AI를 활용한 지역 산업·사회 발전의 목표를 정의하고 이를 실현하기 위한 공공의 역할과 실행 기준을 국제 표준에 기반해 제시했다. 특히 'AI로 무엇을 할 것인가'가 아닌 '어떤 발전을 만들 것인가'를 먼저 정의하는 것이 핵심임을 강조했다. 박 대표는 "지방정부가 AI를 단순 도입하는 것을 넘어 편익과 안전을 균형 있게 확보하는 정책 주체로 전환하는 출발점이 되기를 기대한다"고 말했다.

2026.03.25 17:46이나연 기자

전기차 살 때 더 자세한 배터리 정보 확인 가능해진다

앞으로 전기차를 구매할 때 배터리 제조사·생산국가·제조연월 등 핵심 정보를 더욱 상세하게 확인할 수 있게 됐다. 정보를 거짓제공하거나 결함이 반복되면 1천만원 과태료를 부과허가나 배터리 안전성 인증을 취소하는 등 요건이 강화된다. 국토교통부는 전기차 등에 탑재하는 배터리 안전관리 강화 등을 위해 정보공개를 확대하고 인증취소 요건을 강화하는 개선 내용을 담은 '자동차관리법 시행령' '자동차관리법 시행규칙' '자동차등록규칙' 개정안을 23일부터 5월 4일까지 입법예고한다. 정부는 배터리 정보공개를 확대하고 결함이 반복되는 경우 판매를 중단할 수 있는 근거를 구체화해 소비자 알권리와 안전을 동시에 강화한다는 계획이다. 개정안에 따르면 전기차 등 판매 시 구매자에게 제공되는 배터리 정보가 현재 6종에서 배터리 제조사·생산국가·제조연월·제품명(또는 관리번호)이 추가된 10종으로 확대된다. 또 정보제공 방법도 판매자 홈페이지 등 인터넷과 자동차 매매계약서, 자동차 인수증을 비롯해 정보통신서비스를 활용한 방법 등으로 다양화하고 명확화했다. 배터리 정보제공 의무를 위반한 자동차제작·판매자에 대한 과태료 금액도 상향된다. 현행 법령은 배터리 관련 정보를 제공하지 않은 경우 50만원의 과태료를 부과하고 있으나, 개정안은 정보를 제공하지 않거나 거짓으로 제공한 경우를 과태료 부과 대상에 포함하고, 과태료 금액도 최대 1000만원으로 상향했다. 다만, 위반 횟수에 따라 1회 200만원, 2회 500만원, 3회 이상 1000만원의 과태료를 차등해서 부과할 수 있도록 했다. '자동차관리법' 개정에 따라 2년 안에 동일한 결함이 발생한 경우 배터리 안전성 인증 취소가 가능해짐에 따라 인증 취소가 가능한 결함 기준·횟수 등이 마련되며, 해당 배터리 판매 중지 명령도 가능해진다. 결함 경중에 따라 인증취소에 필요한 반복 횟수를 2~4회로 달리 적용하고, 단순 정보표시 오류, 일시적 경고등 점등 등 경미한 결함은 취소 요건에서 제외하도록 했다. 박용선 국토부 자동차정책과장은 “이번 개정으로 소비자 알권리 제고와 전기차 배터리에 대한 안전관리가 강화될 것”이라며 “배터리 신뢰성과 안전성 제고로 전기차 확산에 기여할 것으로 기대한다”고 밝혔다. 개정안 전문은 국토교통부 누리집 '정책자료-법령정보-입법예고·행정예고'에서 확인할 수 있다.

2026.03.23 00:45주문정 기자

"130명 몰렸다"…MWC26 달군 '글로벌 AI 레드팀 챌린지' 흥행 성공

스페인 바르셀로나에서 열린 MWC26의 부대행사 '글로벌 인공지능(AI) 레드팀 챌린지'에 전 세계 AI 전문가, 개발자, 기업 관계자 등 130여 명이 참여했다. 셀렉트스타는 세계이동통신사업자연합회(GSMA)와 공동 주최한 레드팀 챌린지가 지난 3일(현지시간) MWC 행사장 내 탤런트 아레나에서 개최됐다고 5일 밝혔다. 올해 챌린지는 글로벌 통신·AI 기업들이 개발한 대표 거대언어모델(LLM)을 대상으로 실전 검증을 진행했다. 한국 SK텔레콤 'A.X K1', LG유플러스 'ixi-GEN'을 비롯해 아랍에미리트 '텔레콤GPT', 미국 AT&T '에스크 AT&T', 네토AI의 'T슬램' 등이 참여하며 글로벌 통신사들의 참여 폭이 확대됐다. 참가자들은 LLM의 취약점을 공략하기 위한 프롬프트 공격을 시도했고 최종 78명이 실질적인 레드티밍 결과물을 제출했다. 대회 1위를 차지한 현직 데이터 엔지니어인 학탄 코지잇씨에겐 1000유로의 상금과 내년 MWC27 입장권이 수여됐다. 2위와 3위에게도 소정의 상금과 MWC27 입장권이 각각 제공됐다. 이번 행사는 참가자와 심사위원에게 특정 기업과 모델 정보를 비식별화해 제공하는 '비경쟁·비공개' 방식으로 운영됐다. 모델 간 우열을 가리거나 취약점을 외부에 노출하는 대신, 레드티밍 결과를 각 기업의 실제 서비스 고도화에 활용할 수 있도록 하는 취지에서다. 셀렉트스타는 이 과정에서 AI 신뢰성 평가 플랫폼 '다투모(Datumo)'를 활용했다. 다투모는 대규모 인원이 동시 접속해 다양한 언어와 기법으로 공격을 시도하는 환경에서도 안정적인 운영과 결과 분석을 지원한다. 루이스 파월 GSMA AI 기술 디렉터는 "이 대회는 단순히 상금을 건 경진대회가 아닌 생성형 AI의 취약점을 찾아 실질적인 개선을 돕는 자리"라며 "여러분들의 참여가 안전한 AI, 나아가 안전한 세상을 만드는 데 큰 도움이 되고 있다"고 말했다. 현장을 운영한 황민영 셀렉트스타 부대표는 "글로벌 기업 업계 실무자들이 대거 참여하고, 수많은 인파가 몰리는 것을 보며 AI 신뢰성 검증에 대한 산업계의 니즈를 체감했다"며 "본 챌린지를 단발성 이벤트로 그치지 않고, 실제 서비스 환경에서 적용 가능한 AI 신뢰성 검증 프레임워크로 고도화하겠다"고 말했다.

2026.03.05 15:27이나연 기자

'메이플 키우기' 신뢰 회복 총력전 통했다…매출 1위 굳건·IP 확장 박차

넥슨의 방치형 게임 '메이플 키우기'가 확률 오류 논란 이후 이용자 신뢰 회복에 방점을 찍으며 굳건하게 양대 마켓 매출 1위를 지키고 있다. 전액 환불과 경영진 교체라는 전례 없는 초강수 대처가 이용자들의 민심을 돌리는 데 성공했다는 평가다. 4일 모바일인덱스에 따르면 '메이플 키우기'는 지난 1월 말 잠수함 패치 사태가 발생한 직후에도 꾸준히 앱 마켓 매출 최상위권을 유지했다. 구글 플레이스토어 기준 2월 중순 매출 2위, 21일경 3위까지 순위가 소폭 하락하기도 했으나, 지난 25일부터는 다시 1위로 올라선 뒤 줄곧 선두를 수성 중이다. 애플 앱스토어 기준으로는 같은 기간 2위까지만 하락했으며, 줄곧 매출 1위를 유지하고 있다. 커뮤니티 내 긍정적인 반응이 집계되는 등 실제 매출 지표 역시 큰 타격 없이 방어에 성공한 모습이다. 이번 사태의 발단은 지난해 12월 게임 내 확률 오류가 발견됐음에도 담당 책임자가 이용자 고지 없이 이를 몰래 수정하는 이른바 '잠수함 패치'를 단행한 사실이 뒤늦게 밝혀지면서 시작됐다. 여기에 어빌리티 코드 오류, 캐릭터 공격 속도 성능 미반영, 유료 아이템 확률 공시 미이행 등 각종 논란이 겹치며 이용자들의 거센 항의를 받았고 공정거래위원회의 현장 조사까지 이어지는 등 큰 위기를 맞은 바 있다. 하지만 넥슨의 뼈를 깎는 수습 과정이 반등의 원동력으로 작용했다. 넥슨은 지난해 11월 6일 서비스 개시 시점부터 올해 1월 28일 공지 시점까지 결제된 모든 금액에 대해 조건 없는 전액 환불을 단행했다. 관련 업계는 해당 기간의 매출 규모를 약 1500억원에서 2000억원 사이로 추산하고 있다. 강대현 넥슨코리아 공동대표가 직접 메이플본부장을 겸임하며 운영 전반을 쇄신한 것도 주효했다. 넥슨은 관리 책임을 물어 기존 본부장 등 일부 직책자를 보직 해임하고, 공격 속도 표기 오류 관련 보상을 기존의 2배(미라클 큐브 6%, 에디셔널 큐브 6%, 명예의 훈장 12%)로 상향 지급하는 등 과감하고 투명한 조치를 취했다. 넥슨은 대표 IP인 '메이플스토리'의 오프라인 팬덤 확장에도 대대적으로 힘을 싣고 있다. 이용자들을 위한 다채로운 행사로 IP 영향력을 넓히고 있으며, 지난해에는 강남역 인근에 상설 PC방인 '메이플 아지트'를 상시 오픈 형태로 마련해 소통 창구를 확대했다. 오는 4월에는 롯데월드 어드벤처 야외 구역인 매직아일랜드 내 약 600평 규모의 공간을 꾸민 '메이플 아일랜드' 정식 개장을 앞두고 있다. 패밀리 롤러코스터 등 신규 어트랙션 3종과 특별한 상품을 만나볼 수 있는 기프트샵, 식음료 매장, 포토존 등을 선보일 예정이다. 이에 앞서 이달 14일부터 6월 14일까지는 대규모 봄 시즌 축제인 '메이플 스토리 인 롯데월드'를 진행해 이용자 접점을 한층 더 강화할 계획이다.

2026.03.04 10:48정진성 기자

단순 점수보다 기업 맞춤형···셀렉트스타, AI 신뢰성 해법 전한다

셀렉트스타가 거대언어모델(LLM) 기반 서비스의 실제 성능과 신뢰성을 정교하게 측정하려는 기업들을 위해 실무적인 검증 기준을 제시한다. 셀렉트스타는 다음 달 5일 오후 2시 '커스텀 평가 체계로 LLM 서비스 평가 기준 만들기'를 주제로 무료 웨비나를 개최한다고 27일 밝혔다. 이번 행사는 벤치마크 점수와 실제 서비스 위험 간의 괴리를 좁히고, 기업이 AI 서비스를 안심하고 출시할 수 있도록 돕는 의사결정 프레임워크를 공유하는 자리다. 웨비나에선 ▲LLM 판사 기반 평가 ▲정량·정성·혼합 평가 방법론 등 최신 트렌드를 소개하고 수작업 중심 평가를 자동화해 리소스를 효율화하는 전략을 다룬다. 특히 기업 내부 거버넌스 체계에 맞춘 서비스 출시 기준 설정법과 실제 기업들 운영 사례를 공개할 예정이다. 셀렉트스타는 국내 최초 AI 신뢰성 평가 자동화 플랫폼인 '다투모 플랫폼'을 활용해 평가 프로세스를 체계화한 사례도 소개한다. 이찬수 셀렉트스타 사업개발팀장은 "많은 기업이 LLM을 도입하면서도 정작 서비스 목적에 맞는 명확한 평가 기준을 세우는 데 어려움을 겪는다"며 "이번 웨비나를 통해 데이터 기반으로 AI 서비스 출시 여부를 판단할 수 있는 지표를 마련하길 기대한다"고 말했다.

2026.02.27 14:45이나연 기자

Prev 1 2 3 4 5 Next