• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 신뢰'통합검색 결과 입니다. (86건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

카카오, AI 시대 '신뢰·책임' 검증 사례 나눈다

소프트웨어 공학의 기본 가치가 인공지능(AI) 시대에 각광을 받으면서 카카오가 기술적 의사결정의 근거와 검증, 기록 등을 실제 서비스에 구현한 경험을 함께 나눈다. 서비스 개발 현장에서 신뢰와 책임을 실천한 사례도 담긴다. 송재하 최고기술책임자(CTO)는 14일 경기도 용인시에서 열린 개발자 컨퍼런스 '이프카카오(if(kakao)26)'에서 “우리가 만든 것을 다른 사람이 믿고 쓰려면 제대로 작동하는지 확인하고 문제가 생기면 고쳐서 써야 한다. 그 신뢰와 책임을 현장에서 어떻게 다뤄왔는지 이야기를 들어보겠다”며 네 가지 주제와 함께 진행될 세션들을 소개했다. 그는 소프트웨어 아키텍처를 전공했던 대학원 재학 시절을 떠올리며 “기술적 의사결정을 내려야 할 때 근거가 무엇인지, 정당성은 어떻게 되는지, 문서에 얼마나 잘 남겼는지에 대한 요구를 받아왔다”고 회상했다. 그간 이 같은 소프트웨어 공학의 원칙 실효성을 입증할 방법이 없어 고민했던 부분들이 AI 시대에 들어 재조명 받고 있다고 송 CTO는 설명하며 이날 이어질 세션에는 실제 검증과 운영에 대한 이야기를 이어가겠다고 덧붙였다. 이프카카오 26의 두 번째 날에는 안정성과 인프라·거버넌스·AI-DLC, 모델&에이전트 4개의 트랙, 30개의 세션, 7개 공동체에서 42명의 발표자가 연단에 오른다. 송 CTO는 “트랙별로 다른 일을 하고 있지만 실제로 믿고 쓸 수 있는 서비스를 만든다는 고민은 다 이어진다”고 설명했다. 안정성과 인프라 트랙에서는 줄일 비용과 서버, 지켜야 할 품질은 어떤 것을 보고 구분했는지를 담은 세션이 펼쳐진다. 거버넌스에서는 같은 숫자임에도 팀별로 다른 결과를 야기하는 상황을 해결하기 위해 데이터의 뜻을 코드로 다루고 위험과 쓸모를 측정하는 내용이 담긴다. 팀의 약속이 실제로 지켜지도록 도구를 개발한 연설도 있다. 모델과 에이전트 트랙에서는 산출한 답을 어디까지 믿고 쓸 수 있는지를 말한다. 교통 예측 모델을 바꾼 세션과 모델을 바꾸면서 정확도와 비용을 어떻게 확인했는지도 살펴본다. AI-DLC에서는 AI와 함께 일하는 방식을 다룬다. 현장의 병목을 찾는 엔지니어의 사례부터 AI 산출물을 검증하는 품질 게이트 디자인 화면 구현 등 경험을 공유한다. 송 CTO는 기대되는 세션으로 임희섭 매니저의 '바이킹: 개발 지식은 아무것도 몰라도 되는 카카오의 바이브코딩 플랫폼 탄생기'를 꼽았다. 자신이 불편해서 만든 작은 서비스가 동료들이 함께 쓰는 도구가 되고, 향후 동료들이 자신에게 필요한 도구를 직접 만든 플랫폼으로 커진 이야기를 담은 세션이기 때문이다. 송 CTO는 “오늘 행사를 마치고 돌아갈 때 우리 팀에서 꼭 한 번 해보자라는 생각이 드는 것과 다음에 다시 물어볼 사람이 한 명 생겼으면 좋겠다”고 희망했다.

2026.10.14 11:23박서린 기자

"AI 빨라질수록 브레이크 필요"…밀라, '신뢰할 수 있는 AI' 강조

인공지능(AI) 안전을 기술 발전을 가로막는 규제가 아닌 AI 도입을 앞당기는 기반으로 바라봐야 한다는 제언이 나왔다. AI가 챗봇을 넘어 스스로 판단하고 행동하는 에이전트로 진화하면서 예상하지 못한 행동과 공격 위험도 커지는 만큼, 기술 개발 단계부터 신뢰할 수 있는 안전장치를 함께 설계해야 한다는 주장이다. 프레데릭 로랑 밀라(MILA) 파트너십 총괄은 7일 서울 코엑스에서 열린 'AI 페스타 2026' 퓨처 테크 컨퍼런스에서 “AI 안전은 AI 도입을 늦추기 위해 존재하는 것이 아니라 오히려 AI 도입을 가속화할 수 있는 기반”이라고 강조했다. MILA는 튜링상 수상자인 요수아 벤지오 몬트리올대 교수가 설립한 캐나다 AI 연구기관이다. 현재 1400명 이상의 AI 연구 커뮤니티와 120곳 이상의 산업 파트너를 보유하고 있다. 그는 도널드 트럼프 미국 행정부가 앤트로픽을 공급망 위험으로 규정한 뒤 추가 정부 계약을 체결하지 못하게 한 일과 AI 챗봇을 속여 5만 달러(약 6700만원) 자동차를 단돈 1달러(약 1340원)에 판매하게 만든 사례를 예로 들며 AI가 가진 위험성을 경고했다. 로랑 총괄은 AI를 향한 공격 방식은 정교하게 발전하고 있다며 위험한 질문에 답을 내놓지 않게 설계된 AI 챗봇도 여러 차례에 걸쳐 대화를 이어가는 '크레센도 공격' 방식이 적용되면 답을 내놓는 사례도 있었다고 소개했다. 그는 “(이 사례는) 개별 프롬프트 하나만 살펴보는 것이 아니라 시간의 흐름에 따라 전체 대화를 이해할 수 있는 시스템과 안전장치가 필요하다는 점을 보여준다”고 설명했다. 이어 로랑 총괄은 영어 중심 AI 연구의 한계를 지적하며 한국어도 AI 공격에 상대적으로 취약한 언어 중 하나라고 강조했다. 한국어의 경우 자모 분해, 구형 모델을 사용할 때 발생할 수 있는 안전하다는 착각, 문화적 불일치가 문제가 될 수 있다고 짚었다. 그러면서 로랑 총괄은 신뢰할 수 있는 AI를 만들기 위해 데이터 필터링, 파인튜닝, 프롬프팅, 런타임 가드레일 4단계를 거칠 것을 조언했다. 그는 AI 발전 상황이 챗봇에서 에이전틱 AI로 넘어가면 다른 유형의 위험이 발생할 수 있다고 우려하기도 했다. AI 에이전트는 정렬 위장, 자기 보존, 창발적 비정렬, 책략, 아첨 등의 행동을 하기 때문에 통제가 보다 어렵다고 진단했다. 로랑 총괄은 엔비디아와 밀라의 벨 캐나다 협력 사례를 제시하며 이들이 AI 활용에서 안전을 담보하기 위해 개발한 안전장치를 소개했다. 그는 한국과도 협력하고 싶다는 의사를 밝히면서 AI 안전은 기술 도입을 늦추는 것이 아닌 믿을 수 있는 환경을 조성할 수 있는 하나의 장치라고 덧붙였다. 로랑 총괄은 “서울의 택시가 빠르게 달릴 수 있는 것은 모두가 믿을 수 있는 브레이크가 있기 때문”이라며 “AI 안전이 바로 그 브레이크다. AI 안전은 AI 도입을 늦추기 위해 존재하는 것이 아니라 오히려 AI 도입을 가속화할 수 있는 기반”이라고 평가했다. AI 페스타 2026은 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)와 AI페스타조직위원회가 주관하는 인공지능주간 공식 행사다. 올해 행사는 6일부터 8일까지 사흘간 서울 코엑스 C홀에서 열린다. 212개 기업, 501개 부스 규모로 마련돼 역대 최대 규모로 개최되며 AI 코어, 에이전틱 AI, 피지컬 AI, AI 보안, 국방 AI, AI 반도체 등 다양한 기술과 산업 적용 사례를 선보인다.

2026.10.07 17:19박서린 기자

KT "AI 경쟁력, 잘 만드는 것보다 잘 쓰는 데 달렸다"

“AI 경쟁의 무게중심이 더 좋은 모델을 만드는 기술 경쟁에서 기업과 산업이 AI를 얼마나 잘 활용해 실질적인 성과를 만들어내느냐로 이동하고 있다.” 박상원 KT AX사업부문장은 6일 AI페스타2026 주요 프로그램인 'AI서밋'에서 키노트 발제를 맡아 이같이 말했다. 모델의 파라미터나 벤치마크 점수보다 AI 도입 이후 생산성이 얼마나 높아졌고 업무시간과 고객 대기시간을 얼마나 줄였는지가 중요해졌다는 뜻이다. 그는 “이제는 어떻게 좋은 툴을 만드는지를 넘어 AX를 통해 어떤 성과와 가치를 만드느냐가 훨씬 중요한 시점이 됐다”며 “AI를 도입해서 생산성이 얼마나 올랐는지, 고객 대기시간이 얼마나 줄었는지, 업무 처리시간이 얼마나 효율화됐고 새로운 비즈니스 가치를 얼마나 창출했는지가 중요하다”고 설명했다. 이어 “AI 경쟁력이 성능에서 성과로 확장되고 있다”며 “기업 데이터에 붙고, 수많은 비즈니스 로직과 연결되고, 실제 업무 워크로드에 적용돼야 가치 창출로 연결될 수 있다”고 덧붙였다. “인터넷 처음 만들진 않았지만 가장 잘 썼다...AI도 그런 시점” 박상원 전무는 한국이 AI 전환의 기로에 서 있다고 진단했다. 일부 업무에서 진행하는 실증(PoC)에 머무를지, AI 에이전트를 핵심 업무와 기업, 산업 전체로 확산해 새로운 성장동력으로 활용할지가 갈리는 시점이라는 설명이다. 그는 “이 기로에서 가장 중요한 전환의 키워드는 '실행'이라고 생각한다”고 강조했다. 한국의 초고속인터넷 경험을 예로 들며 “우리나라가 인터넷을 처음 만든 나라는 아니다”며 “하지만 누구보다 빠르게 초고속인터넷망을 연결해 인터넷 생태계를 만들었고 온라인 커머스, e스포츠, K콘텐츠, 디지털 금융, 온라인 교육 등을 만들어냈다”고 평가했다. 그러면서 “AI도 그런 시점이 왔다고 생각한다”며 “AI 기술 자체를 확보하는 경쟁과 함께 이를 산업과 사회 전반에서 빠르게 활용하는 역량이 중요해졌다”고 진단했다. 다만 기업이 실제 AI를 도입하는 과정에서는 보안과 비용, 환각, 규제, 빠른 기술 변화 등이 장벽으로 작용하고 있다고 봤다. 박 전무는 “기업의 노하우를 어떻게 지킬지, 고객 정보가 빠져나가면 어떻게 할지, AI가 틀리면 누가 책임질지, 규제와 규정을 어떻게 충족할지에 대한 고민이 있다”며 “기술도 너무 빨리 바뀌다 보니 구축하고 나면 우리만 시험대상이 되는 것 아니냐는 걱정도 한다”고 말했다. 그는 또 “고객사에 에이전틱 AI 플랫폼을 도입했는데 토큰 비용이 월 20억원씩 나가는 경우도 있다”며 “PoC에서는 잘됐는데 실제 실행 단계에서는 안 되는 경우도 있다”고 덧붙였다. 국가 전략산업에서는 데이터 주권 문제까지 더해진다. 핵심 산업 데이터가 해외로 나갈 가능성에 대한 우려가 AI 도입과 실행을 늦추는 요인이 될 수 있다는 것이다. KT는 이런 문제를 해결하기 위한 AX의 3대 조건으로 ▲신뢰 ▲효율 ▲실행을 제시했다. 보안부터 월 수십억원 토큰 비용까지...“신뢰·효율·실행 갖춰야” '신뢰'는 기업이 AI와 데이터를 직접 통제할 수 있는 환경을 뜻한다. 박 전무는 “우리 회사가 가진 지식과 데이터에 근거해 명확하고 믿을 수 있는 결과가 나와야 하고 정확해야 하며 환각이 없어야 한다”며 “결과를 검증하고 모델과 에이전트의 전 과정을 투명하게 추적하고 모니터링할 수 있어야 한다”고 말했다. 국내 규제와 사내 규정을 준수하면서 데이터와 모델에 대한 통제권도 확보해야 한다고 강조했다. KT는 토큰팩토리를 통해 데이터 보안 가드레일을 구축하고 기업용 에이전틱 AI 플랫폼 에이전틱온(Agentic On)을 통해 AI 운영 환경을 통제한다. 기업의 업무 언어와 데이터를 연결하는 KT온톨로지도 구축했다. '효율'에서는 빠르게 바뀌는 AI 기술을 기업 전체로 확산할 수 있는 구조와 비용 절감이 핵심이다. 박 전무는 “AX 솔루션 구성 요소를 레고 블록을 맞추듯 모듈화하고 산업별 표준에 맞춘 구성요소를 미리 갖춰 기업이 일부만 맞춤화해 빠르게 적용할 수 있어야 한다”고 설명했다. 에이전틱 AI 시대에는 여러 AI 에이전트를 연결하고 통제하는 기능도 중요해진다. 동시에 업무 목적에 맞는 모델과 컴퓨팅 자원을 골라 최소 비용으로 토큰을 생산해야 기업의 AX 비용을 낮출 수 있다. KT가 구축한 토큰팩토리는 AI 데이터센터의 GPU와 NPU, AI 모델 등을 업무 목적에 맞게 연결해 비용을 최적화한다. 여기에 기업 데이터를 AI가 이해할 수 있도록 구조화하는 Data4AI, 에이전트를 개발 배포 운영하는 에이전틱온을 연결했다. 마지막 조건은 '실행'이다. 박 전무는 “개인이 사용하는 채팅과 기업의 AI 도입은 다르다”며 “기업의 수많은 프로세스와 비즈니스 로직, 데이터를 연동해 한 땀 한 땀 만드는 일을 기업 혼자 하기는 힘들다. 실행의 인에이블러가 반드시 필요하다”고 말했다. 이를 담당하는 것이 FDE(Forward Deployed Engineer)다. KT의 FDE는 고객과 한 팀을 이뤄 AI를 적용했을 때 투자수익률이 큰 업무부터 찾아낸다. 이후 필요한 기능을 모듈 형태로 빠르게 구성하고 스프린트를 반복하면서 사용성을 개선하고 위험을 확인한 뒤 현장에 적용한다. 검증된 결과는 다른 업무로 확산한다. 박 전무는 “모든 것을 한 번에 바꿀 수는 없다”며 “무엇이 가장 가려운지를 찾는 과제 발굴부터 시작해 AX를 적용했을 때 가장 큰 ROI가 나오는 영역을 찾아 빠르게 구성하고 현장에 도입한 뒤 스케일업해야 한다”고 말했다. 아모레 R&D 데이터 연결...우리은행 AI는 상담 넘어 거래까지 KT는 이날 실제 산업 현장에 적용한 고객사의 사례도 공유했다. 아모레퍼시픽과 진행한 '데이터하이웨이' 프로젝트는 R&D 영역에 흩어진 원료와 처방, 연구보고서, 실험 데이터 등을 AI가 활용할 수 있도록 연결한 사례다. 박 전무는 “아모레퍼시픽의 핵심 연구 데이터를 외부로 내보내지 않으면서 AI를 활용할 수 있도록 데이터 통제권을 확보하고 정형·비정형 데이터를 구조화해 AI가 일관된 결과를 내놓을 수 있는 데이터 아키텍처를 구축했다”고 밝혔다. 우리은행에는 '에이전틱 AICC'를 적용했다. 기존 AICC가 고객 질문에 답하거나 상담하는 역할이었다면 에이전틱 AICC는 계좌 개설이나 거래처리 등 실제 금융 업무까지 수행하는 방향으로 역할을 넓힌다. 박 전무는 “AICC가 단순 콜센터나 상담센터, 마케팅센터를 넘어 거래처리까지 하는 방향으로 가고 있다”며 “기존 콜봇 이용에 익숙한 고객을 대상으로 AI 서비스 접점을 확대할 수 있다”고 설명했다. KT는 이를 위해 AICC와 에이전트옵스(AgentOps), 대규모언어모델 운영(LLMOps), 머신러닝 운영(MLOps)을 패키지화해 기업별 환경에 맞게 구축한다. 메리츠화재에는 AI 어시스턴트를 적용해 보험 영업 전 과정을 연결하고 있다. 보험 전문 데이터와 설계사가 축적한 노하우를 AI와 결합해 설계사의 생산성을 높이는 방식이다. 박 전무는 기업과 산업을 넘어 국가 차원에서도 AI를 '잘 쓰는 능력'이 경쟁력을 좌우할 것으로 내다봤다. 한국이 인터넷을 활용해 IT 강국으로 성장한 것처럼 AI 역시 잘 활용하면 행정 효율화와 공공서비스 혁신, 기업 생산성 향상을 통해 산업 경쟁력을 높이고 국민의 삶의 질과 서비스 접근성을 개선할 수 있다고 강조했다. 박 전무는 “AI 인프라와 데이터, 플랫폼, 서비스, 현장 실행 역량을 유기적으로 연결해 AI를 기술에서 가치로, 가능성에서 성장으로 전환할 방침”이라며 “기업과 공공, 국민이 AI의 가치를 실질적으로 체감할 수 있도록 지원하고, 대한민국이 AI를 가장 잘 활용하는 나라로 도약하는 데 기여하겠다”고 말했다. 이어 “KT는 AX 밸류 파트너로서 열과 성을 다하겠다”고 강조했다.

2026.10.06 13:55박수형 기자

韓 기업, 'AI 신뢰 격차' 감소세…다음 과제는 데이터 품질

한국 기업들이 인공지능(AI) 신뢰도와 실제 관리 역량 사이 간극을 좁혔다는 조사 결과가 나왔다. 다만 이를 사업 성과로 연결하려면 데이터 품질을 높이고 AI 판단 근거를 설명하는 능력을 보완해야 한다는 분석도 제기됐다. 30일 SAS가 발표한 '데이터 및 AI 영향력 보고서'에 따르면 한국 기업의 AI '신뢰 격차'는 지난해 28.9점에서 올해 1.5점으로 27.4점 줄었다. 보고서는 IDC의 리서치 인사이트를 바탕으로 전 세계 28개국 비즈니스·IT 의사결정권자 2699명을 조사한 결과를 반영했다. 신뢰 격차는 기업이 AI를 얼마나 믿는지를 나타내는 '체감 신뢰'와 실제 AI 관리 역량 차이를 뜻한다. 한국 기업의 체감 신뢰 점수는 지난해 73.9점에서 올해 58.6점으로 낮아졌다. 같은 기간 실제 관리 역량 점수는 45점에서 57.1점으로 올라 두 지표가 비슷한 수준에 도달했다. 한국 기업의 개선이 가장 두드러진 항목은 '모델 거버넌스 및 감독'이었다. AI 모델 운영을 관리하고 감독하는 체계를 평가한 이 항목은 전년보다 9.3점 오른 55.8점을 기록했다. AI 활용 토대인 데이터와 판단 근거 설명 능력은 개선 폭이 작았다. '설명 가능성 및 공정성'은 54.6점, '데이터 품질 및 거버넌스'는 53.9점으로 각각 소폭 상승하는 데 그쳤다. '책임 있는 AI 정책'은 지난해와 같은 59.5점에 머물렀다. 특히 모든 프로젝트에 데이터 품질 관리 절차를 의무 적용하는 한국 기업은 1.9%에 불과했다. AI 모델에 대한 관리·감독 체계를 강화하는 속도에 비해 데이터 품질을 일관되게 관리하는 기반은 부족한 것으로 나타났다. 보고서는 한국 기업의 다음 과제로 데이터 품질과 설명 가능성 확보를 꼽았다. 스스로 판단하고 행동하는 '에이전틱 AI'를 도입한 국내 기업 비율이 42.6%에 달하는 만큼 AI가 어떤 데이터를 바탕으로 왜 해당 결정을 내렸는지 확인할 수 있어야 한다는 설명이다. 글로벌 조사에서도 AI 판단 근거를 설명하는 능력이 주요 과제로 드러났다. 사용자가 AI 판단을 신뢰하지 못하는 가장 큰 이유는 AI가 판단 근거를 설명하지 못하는 경우였다. 조사 대상 사용자의 97.2%는 특정 상황에서 AI의 권고를 그대로 따르지 않고 직접 수정한 것으로 나타났다. 신뢰할 수 있는 AI 체계와 투자 성과 사이의 연관성도 확인됐다. 글로벌 조사에서 신뢰할 수 있는 AI 구축에 투자한 기업이 높은 투자 대비 성과를 달성한 비율은 62%로 그렇지 않은 기업의 4%보다 약 15배 높았다. 최적화된 데이터 인프라를 갖춘 기업도 그렇지 않은 기업보다 높은 투자 대비 성과를 달성할 확률이 4배 높았다. 이중혁 SAS코리아 대표는 "한국 기업들의 AI 신뢰 격차가 1년 사이에 급격히 줄어든 것은 거버넌스 구축과 현실적인 리스크 인식이 빠르게 이뤄졌다는 긍정적인 신호"라며 "한국이 AI 확장을 실질적인 비즈니스 성과로 이어가려면, 거버넌스 구축과 발맞춰 AI의 판단 근거를 설명하고, 정확성과 재현성을 갖춘 데이터 기반을 완성하는 것이 중요한 과제"라고 강조했다.

2026.09.30 17:45김미정 기자

커넥셔너리 "AID로 수없이 바뀌는 정책, 한 눈에 파악 가능"

인공지능(AI) 의사결정 인프라 전문 기업 커넥셔너리(대표 이지원)가 글로벌 사이버 안보 행사 전시회에 참가해 자체 개발한 의사결정 플랫폼 'AID'의 강화된 기능을 선보였다. 커넥셔너리는 17일 개최한 글로벌 사이버 안보 행사 '사이버 서밋 코리아(Cyber Summit Korea, CSK2026)'에 참가해 전시 부스를 마련하고 AID의 강화된 기능을 시연했다. AID는 복잡한 정보를 의사결정에 필요한 단위로 나누고 신뢰할 수 있는 출처, 조건, 시점, 관계 등의 정보를 연결해 서로 다른 형식의 자료를 공통 기준으로 비교·분석해 가시성을 높이고 구조화된 정보를 제공하는 AI 의사결정 인프라다. 생성형 AI가 제시하는 데이터는 종종 환각(Hallucination) 문제를 일으킨다. 이를 최소화하기 위해 기사, 논문 등 신뢰 가능한 출처를 기반으로 정보를 탐색하고 구조화된 결과값을 제시하는 솔루션이다. AID는 최근 방대한 정보를 미리 구조화해 사용자가 원하는 내용을 빠르고 신뢰 가능한 정보로 받아볼 수 있도록 지원하고, 한눈에 결과값을 확인할 수 있는 기능인 '인피니트 캔버스(Infinite Canvas)' 기능을 업데이트했다. 이를 통해 새로운 정보가 업데이트 됐을 때에도 기존 정보와 연결돼 변화된 부분을 확인하도록 하거나, 신뢰 가능한 정보를 한 눈에 파악할 수 있도록 지원한다. 이지원 커넥셔너리 대표는 이날 'CSK 2026' 현장에서 AID 인피니트 캔버스 기능을 선보였다. AID 플랫폼에 '개인정보보호법'을 검색하자, 지난 11일 개정된 내용까지 반영한 과거 개인정보보호법 개정 이력이 표시됐다. 뿐만 아니라 다른 주요 국가의 개인정보보호법 개정 동향은 물론, 개인정보보호법 개정과 관련해 보도된 기사에서 언급된 주요 인물의 멘트까지 한 눈에 파악이 가능했다. 이 대표는 "어떤 키워드를 입력하더라도 원하는 정보를 신뢰 가능한 출처를 통해 정보를 얻을 수 있으며, 비단 키워드뿐 아니라 제시된 키워드를 기반으로 관련된 유사 내용까지 한 번에 표시한다"며 "거대 언어 모델(LLM)의 경우 특정 정보를 요구했을 때나 같은 정보를 반복적으로 요청했을 때에는 종종 결과값이 달라지거나 환각 현상이 일어나는데, AID는 신뢰 가능한 출처에서 결과값을 표시하기 때문에 환각 현상이 일어날 일이 없다"고 설명했다. 그는 "구조화된 결과를 알아보기 쉽게 표시할 뿐 아니라 여러 키워드를 입력하고 표시된 정보를 종합해 보고서 형식으로 만드는 것도 가능하다"며 "의사결정을 하거나 전문가, 리서처들이 수많은 정보 검색을 필요로 할 때 근거 자료를 빠짐없이 전달할 수 있기 때문에 높은 편의성과 신뢰성을 자랑한다"고 말했다. 이 대표는 "CSK를 통해 매일 쏟아지는 사이버보안 정보도 필요한 변화만 맏아볼 수 있도록 보안 담당자들에 안내할 예정"이라며 "정책, 위협, 취약점 정보 등 주요 사이버 보안 이슈를 끊임없이 추적하고 새로운 변화 하나라도 놓치면 안 되는 보안 담당자들에게 구조화된 인텔리전스는 매력적인 선택지가 될 것이라 기대한다"고 부연했다.

2026.09.17 15:41김기찬 기자

에버스핀, 기술지원 경쟁력으로 '고객 신뢰·재계약·기업가치' 세 마리 토끼 잡아

“고객 신뢰와 재계약, 추가 사업 연결 핵심은 기술지원 경쟁력입니다.” 기업공개(IPO)를 준비 중인 인공지능(AI) 사이버보안 기업 에버스핀의 기술지원을 총괄하는 장성호 이사는 기술지원의 역할을 “기술을 고객의 신뢰로 바꾸는 과정”이라며 이같이 말했다. 장 이사는 에버스핀의 대표 제품인 '에버세이프 모바일' 초기 개발에 직접 참여한 개발자 출신 임원이다. 제품 내부 구조와 작동 원리를 이해하는 경험을 바탕으로 현재는 고객 현장에서 발생하는 문제를 해결하고, 이를 다시 개발조직과 연결하는 기술지원 조직을 이끌고 있다. 장 이사는 “사이버보안은 제품을 공급하는 순간 끝나는 사업이 아니다”며 “고객 서비스는 365일 운영되고 공격기법과 IT 환경도 계속 변하기 때문에 기술지원의 수준이 결국 제품에 대한 신뢰를 결정한다”고 말했다. 에버스핀은 기술지원을 단순한 사후지원 조직으로 보지 않는다. 고객이 실제 서비스를 운영하며 경험하는 문제와 새로운 요구사항을 가장 먼저 파악하고 이를 개발조직에 전달해 제품 개선으로 연결하는 역할을 담당한다. 장 이사는 “개발자가 생각하는 좋은 제품과 고객이 현장에서 느끼는 좋은 제품은 다를 수 있다”며 “고객의 목소리를 기술의 언어로 바꾸고, 다시 개선된 기술을 고객이 체감할 수 있는 가치로 만드는 것이 기술지원의 역할”이라고 설명했다. 기술지원 역량은 사업성과로도 이어진다. 기존 고객의 안정적인 사용은 재계약뿐 아니라 다른 제품의 추가 도입으로 이어질 수 있다. 장기간 축적된 고객 레퍼런스는 다시 신규 고객을 확보하는 영업자산이 된다. 장 이사는 “영업이 고객과 첫 번째 계약을 만든다면 기술지원은 두 번째, 세 번째 계약을 만드는 역할을 한다”며 “기술지원은 단순히 비용을 사용하는 조직이 아니라 고객 생애가치와 기업가치를 높이는 조직”이라고 강조했다. 에버스핀은 AI-동적표적방어(MTD)·화이트리스트 등 핵심 기술을 기반으로 웹·모바일 해킹방지와 피싱방지 영역을 확대하고 있다. 에버스핀은 고객 현장에서 축적되는 기술지원 경험을 다시 제품에 반영해 기존 고객의 재계약과 추가 제품 도입으로 연결한다는 전략이다. 장 이사는 “아무리 뛰어난 기술도 고객이 안정적으로 사용할 수 없다면 좋은 제품이라고 할 수 없다”며 “기술을 판매하는 것을 넘어 고객이 에버스핀을 계속 선택하도록 만드는 것, 그것이 기술지원이 만드는 기업가치”라고 말했다. KB국민은행·한국투자증권·삼성카드·SBI증권 등 국내외 금융사 150곳을 고객사로 확보하며 웹 & APP 채널보안 점유율 1위를 달리고 있는 에버스핀은 기술지원까지 하나의 성장 사이클로 연결해 기술 경쟁력을 장기적인 기업가치로 연결시킨다는 전략이다.

2026.09.16 10:43주문정 기자

[ZD SW 투데이] 씽크포비엘, 'AI 신뢰성' 인재 키운다…제2회 트라이톤 개막 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한눈에 볼 수 있는 'ZD SW 투데이'를 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆'제2회 트라이톤' 개막…AI 신뢰성 실전 경험 겨룬다 AI 신뢰성 해커톤 '제2회 트라이톤'이 14일 서울 가톨릭대학교 성의교정 옴니버스파크에서 오리엔테이션을 열고 약 3개월간의 일정에 들어갔다. 신뢰할 수 있는 AI 국제연대 한국 네트워크(TRAIN코리아)와 씽크포비엘이 진행하는 이번 대회에는 전국 36개 대학의 대학생·대학원생 149명, 37개 팀이 참가한다. 참가자들은 AI 허브 데이터와 SK텔레콤 AI 모델 'A.X'를 활용해 클릭베이트 탐지 모델을 개발하고, 이 과정에서 영향평가와 위험관리, 투명성, 인간 감독 등 AI 신뢰성 활동을 수행한다. 올해는 AI 에이전트가 자율적으로 판단하고 필요할 때 사람에게 판단을 넘기는 운영 구조도 평가한다. 본선을 거쳐 상위 6개 팀에는 상장과 상금을 수여하며, 수상자에게는 IT 기업 채용 연계형 인턴십 기회도 제공한다. ◆와이즈넛, 대화로 만드는 AI 에이전트 공개 와이즈넛이 지난 10일부터 11일까지 서울 스위스 그랜드 호텔에서 열린 '제31회 지자체 정보통신 우수사례 발표대회'에서 대화만으로 AI 에이전트를 구성하는 기능을 선보였다. 사용자가 원하는 업무나 기능을 자연어로 설명하면 AI가 에이전트의 업무 흐름을 자동으로 구성한다. 이후에도 대화를 통해 기능을 추가하거나 조건을 변경할 수 있어 별도 개발 작업 없이 기관 업무에 맞는 워크플로우를 설계하도록 지원한다. 와이즈넛은 경기도청, 인사혁신처, 국민건강보험공단 등에 적용한 AI 전환 사례와 함께 지자체 축제 업무를 지원하는 '축제 에이전트'도 소개했다. 실시간 민원 대응부터 행사 전후 데이터 분석, 온라인 광고 등을 지원한다. ◆유아이패스 "에이전틱 AI 확장 핵심은 오케스트레이션" 유아이패스가 기업의 에이전틱 AI 도입 현황과 비즈니스 오케스트레이션 활용 실태를 분석한 글로벌 조사 결과를 발표했다. 매출 10억 달러 이상 대기업의 C레벨 임원과 IT 실무자 약 600명을 조사한 결과, AI가 비즈니스 전반에 완전히 내재화됐다고 답한 비율은 31%에 그쳤다. AI 도입 과정에서 겪는 가장 큰 어려움으로는 데이터 품질·준비도(38%), 기존 워크플로우·시스템과의 통합(37%), 거버넌스·컴플라이언스(33%) 등이 꼽혔다. 반면 오케스트레이션 역량이 전사에 완전히 내재화됐다고 답한 기업의 89%는 에이전틱 AI 도입 성과가 투자수익률(ROI) 기대치에 부합하거나 이를 웃돌았다고 밝혔다. 유아이패스는 데이터와 시스템, 업무 흐름, 사람과 AI 에이전트를 연결하는 오케스트레이션이 에이전틱 AI를 기업 전반으로 확장하는 핵심 요소라고 설명했다. ◆BHSN, 이커머스 전시회서 계약 AI '앨리비' 선봬 리걸AI 기업 BHSN이 오는 17일부터 19일까지 서울 강남구 세텍(SETEC)에서 열리는 '2026 코리아 이커머스 페어(KOEFA 2026)'에 참가해 계약 AI 플랫폼 '앨리비'를 선보인다. 앨리비는 계약서 초안 작성과 AI 검토부터 전자서명, 체결본 보관, 이행 관리까지 계약 업무 전 과정을 지원한다. 계약서 내용을 자연어로 질문하면 관련 조항을 근거로 답변하고, AI가 제안한 수정 내용도 계약서에 바로 반영할 수 있다. 체결 이후에는 갱신·해지 통지 기한과 대금 지급 일정 등을 자동으로 추적한다. 임정근 BHSN 대표는 18일 '계약 AI를 활용한 이커머스 계약 업무 혁신'을 주제로 발표한다. 공급·사입, 플랫폼 입점, 광고대행, 인플루언서 협찬, 해외 소싱 등 온라인 판매자가 자주 접하는 계약을 중심으로 AI 활용 사례를 소개할 예정이다. ◆메이머스트, '2026 대한민국 일자리 으뜸기업' 선정 메이머스트가 고용노동부가 선정하는 '2026 대한민국 일자리 으뜸기업'에 이름을 올렸다. 일자리 으뜸기업은 고용 증가와 일자리의 질 개선 노력 등을 종합적으로 평가해 선정한다. 메이머스트는 AI·보안·네트워크·디지털전환(DX) 분야 전문 인력 채용을 확대하고 교육·자격증 취득비와 자녀 학자금 지원, 사내 동호회 등 임직원 지원 제도를 운영하고 있다. 메이머스트는 그래픽처리장치(GPU) 연산과 네트워크, 스토리지, 전력·냉각부터 운영·관제 소프트웨어까지 아우르는 AI 풀스택 사업을 확대하고 있다. 지난해 '벤처천억기업'에 선정된 데 이어 기업공개(IPO)도 준비하고 있다.

2026.09.14 16:10김동원 기자

한국·프랑스 AI 협력, '신뢰성'까지 넓힌다…씽크포비엘-누말리스 맞손

한국과 프랑스가 인공지능(AI) 분야 협력을 확대하는 가운데 민간에서도 AI 신뢰성 기술을 둘러싼 협력이 구체화됐다. 씽크포비엘은 8일(현지시간) 프랑스 파리에서 열린 '한국-프랑스 이노베이션 커넥션'에 참여해 프랑스 기업 누말리스와 AI 신뢰성 분야 기술 개발과 사업화를 위한 양해각서(MOU)를 체결했다고 밝혔다. 누말리스는 AI가 예상하지 못한 데이터나 환경 변화에도 안정적으로 작동하는지를 검증하는 '강건성' 평가 전문기업이다. AI 시스템의 안전성과 강건성·설명 가능성을 수학적으로 검증하는 기술을 보유하고 있으며 항공우주와 국방·철도·원자력·금융·보험·의료 분야에서 관련 사업을 하고 있다. 이번 행사는 이재명 대통령의 프랑스 국빈 방문 기간에 열렸다. 이날 이 대통령과 에마뉘엘 마크롱 프랑스 대통령은 정상회담을 열고 AI와 반도체·양자 등 첨단기술 분야 협력을 확대하기로 했다. 배경훈 부총리 겸 과학기술정보통신부 장관도 프랑스 측과 AI·반도체·양자 기술 분야 협력 MOU를 체결했다. 씽크포비엘과 누말리스의 협력은 지난해 시작됐다. 양사는 산업통상자원부와 한국산업기술진흥원(KIAT)이 지원하는 한·프랑스 국제 공동 연구개발(R&D) 과제를 통해 AI 신뢰성 관련 기술을 공동 개발하고 있다. 이번 행사에서는 양사가 개발 중인 AI 강건성 평가 방법론도 공개했다. 씽크포비엘의 '리인'은 AI가 실제 환경에서 마주할 다양한 조건을 구성하고 평가에 필요한 데이터 범위와 부족한 부분을 찾아낸다. 누말리스의 '사임플'은 이렇게 설정한 조건에서 AI 모델이 얼마나 안정적으로 작동하는지를 평가한다. 양사는 두 기술을 결합해 AI 신뢰성을 검증하는 공동 평가 체계를 개발하고 있다. AI를 어떤 환경과 조건에서 시험해야 하는지를 정하고 해당 조건에서 AI가 안정적으로 작동하는지를 검증하는 구조다. 이번 MOU를 계기로 협력 범위도 넓힌다. AI 신뢰성 분야의 산업 수요에 대응하기 위한 기술 개발과 사업화를 함께 추진하고 각사가 진행 중인 국방 분야 프로젝트에서도 협력하기로 했다. 누말리스의 AI 강건성 평가 솔루션 '사임플'을 국내에 공급하는 방안도 논의하고 있다. 씽크포비엘은 국내 기업과 기관 3~4곳이 사임플 구매에 관심을 보이고 있다고 밝혔다. 아르노 이우알랭 누말리스 대표는 "AI 강건성은 AI 시스템의 신뢰성을 구성하는 핵심 요소 가운데 하나로 안전성·보안성과도 관련이 있는 만큼 반드시 갖춰야 할 요소"라며 "유럽이나 한국이나 AI 시스템을 구축하면 어느 시점에는 반드시 강건성을 검증해야 할 것"이라고 말했다. 박지환 씽크포비엘 대표는 "미래 AI 기술 방향에서 AI 신뢰성은 가장 중요하게 여겨질 분야"라며 "시장이 충분히 형성되지 않아 기업 스스로 생존하고 성장하기 쉽지 않은 만큼 양국 정부가 초기 시장이 형성될 수 있도록 많은 관심과 지원에 나서주길 바란다"고 강조했다. 안 르 에낭프 프랑스 인공지능디지털담당장관은 "누말리스와 씽크포비엘이 신뢰할 수 있는 AI를 위해 상호운용 가능한 국제적 프레임워크를 개척하고 있는 건 중요한 의미가 있다"며 "이러한 한국과 프랑스의 디지털 파트너십 장래는 매우 밝고 앞으로 더욱 협력을 강화한다면 양국의 기술 주권을 더 높은 수준으로 발전시킬 수 있을 것"이라고 밝혔다.

2026.09.09 11:11김동원 기자

시옷, 글로벌 AI 연구진과 기술협력 확대

AI・사이버보안 전문기업 시옷(CIOT, 대표 박현주)이 글로벌 AI 연구진과 기술협력을 확대한다. '신뢰 가능한 AI 보안(Trustworthy AI Security)' 분야 경쟁력 강화에 나선다. 8일 회사에 따르면, 시옷은 최근 미국 텍사스에서 텍사스 A&M대학교 AI 연구진이 참여한 기술 세미나를 열고, 최신 AI 연구성과와 차세대 AI 보안 기술 발전 방향을 논의했다. 이번 세미나에는 시옷 CAIO인 윤병준 교수를 비롯해 Xiaoning Qian 교수 등 텍사스 A&M대학교 AI・머신러닝, AI 보안, 반도체 및 하드웨어 분야 글로벌 연구진이 참여해 최신 연구성과와 AI 보안 기술 발전 방향을 공유했다. 시옷은 그동안 축적한 사이버보안 기술과 보안 데이터 분석 역량에 에이전틱AI를 결합, 다양한 보안 위협 데이터를 AI가 통합 분석하고 여러 AI 에이전트가 협업해 판단과 대응을 지원하는 AI 보안 플랫폼으로 사업 영역을 확대하고 있다. 특히 AI를 보안 업무와 의사결정에 본격 활용할 수 있으려면 AI가 내린 판단을 얼마나 신뢰할 수 있는 지, 또 잘못된 판단과 행동을 어떻게 통제할 것인지가 핵심 보안 이슈가 될 것으로 보고 있다. 이번 기술교류에서도 AI 판단의 신뢰성(Trustworthiness)이 주요 주제로 다뤄졌다. Xiaoning Qian 교수는 대규모언어모델(LLM)의 불확실성을 정량적으로 평가하고 신뢰 가능한 생성형 AI를 구현하기 위한 연구성과를 공유했다. 시옷은 글로벌 연구진의 AI 연구역량과 자사의 보안 전문성을 결합해 AI 분석과 판단의 신뢰성을 높이고, 멀티에이전트 협업과 대응까지 안전하게 연결하는 '신뢰 가능한 AI 보안'을 차별화된 기술 경쟁력으로 확보한다는 전략이다. 시옷은 올해 초 AI・머신러닝 전문가인 윤병준 텍사스 A&M대학교 교수를 CAIO(Chief AI Officer)로 영입했고, 이를 기반으로 해외 AI 연구진과 기술협력 체계를 확대하고 있다. 향후 공동연구와 기술검증을 확대하고 관련 성과를 산업 현장 적용과 글로벌 사업으로 연결할 계획이다. 박현주 시옷 대표는 “AI가 산업 전반의 업무와 의사결정 과정으로 빠르게 확산될수록 AI를 활용하는 것만큼 AI의 판단과 행동을 신뢰하고 통제할 수 있는 기술이 중요해질 것”이라며 “보안 전문성과 글로벌 AI 연구진의 역량을 결합해 신뢰할 수 있는 AI 보안을 차별화된 경쟁력으로 확보, 글로벌 AI 보안기업으로 성장해 나가겠다”고 밝혔다. 시옷은 과학기술정보통신부가 추진하고 정보통신기획평가원(IITP)이 전담하는 '최고급 AI 해외인재 유치지원사업'을 통해 글로벌 AI 연구협력과 관련 기술개발을 추진하고 있다.

2026.09.08 16:08방은주 기자

[현장] 김명주 AI안전연구소장 "국방 AI, 자율성 커질수록 '멈출 장치' 필요"

전장에서 인공지능(AI)이 스스로 판단하는 영역이 넓어지는 만큼 사람이 필요할 때 AI를 멈추고 확인할 수 있는 안전장치를 갖춰야 한다는 주장이 나왔다. 사람이 모든 판단에 개입하기 어려워지는 상황에 대비해 국방 AI에 '통제 가능성'과 '추적 가능성', '검증 가능성'을 확보해야 한다는 제안이다. 김명주 AI안전연구소장은 2일 서울 용산구 국방컨벤션에서 열린 '신뢰받는 국방AI' 세미나에서 "AI에 자율성을 부여하는 쪽은 갈수록 늘어날 수밖에 없다"며 "전쟁이나 군사 쪽에서도 지켜야 되는 인도주의적 원칙의 선이 뭘까 그런 부분을 찾는 게 필요하다"고 말했다. 전장에서는 AI가 맡는 역할이 갈수록 커질 전망이다. 각종 센서에서 들어오는 데이터와 고려할 변수는 많아지는 반면 공격이나 방어를 결정할 시간은 짧아지고 있어서다. 사람이 모든 정보를 직접 확인하기 어려워지면서 AI가 처리하고 판단하는 영역도 넓어진다. 사람에게 최종 결정권을 주는 것만으로 충분한지도 문제다. AI가 분석한 결과를 화면에 제시하면 짧은 시간 안에 결정을 내려야 하는 지휘관이 이를 그대로 받아들일 가능성이 있기 때문이다. 김 소장은 사람이 마지막 승인만 하는 데 그치지 않고 AI의 판단을 실제로 거부하거나 멈출 수 있어야 한다고 봤다. 이 때문에 그는 AI에 대한 최소한의 통제권은 사람이 가져야 한다고 강조했다. 모든 판단에 사람이 일일이 개입하기 어려워지더라도 AI의 작동을 중단하거나 부여된 권한을 줄이는 장치는 남겨두자는 취지다. 대표적인 안전장치로는 '킬 스위치'를 제시했다. 국내 AI 기본법에서는 이를 '비상정지 기능'으로 규정하고 있다. 김 소장은 비상정지 기능을 무기 내부에 두기보다 외부에서 작동할 수 있도록 하고 개발 단계부터 설계에 반영해야 한다고 강조했다. AI를 멈추는 것만큼 문제가 생긴 뒤 원인을 확인하는 것도 중요하다. 항공기가 비행 기록을 남기듯 국방 AI도 어떤 정보를 받아 어떤 판단을 내렸는지 기록해야 한다. AI가 제대로 검증되지 않은 영역이나 오류 가능성도 미리 남겨두면 사고가 발생했을 때 책임 소재를 확인하는 데 도움이 된다. 검증을 개발자와 운영자에게만 맡겨서는 안 된다고 봤다. 김 소장은 AI를 개발하고 사용하는 주체와 별도로 안전성을 확인하는 제3자의 역할이 필요하다고 강조했다. 그는 "완성된 윤리를 내장한 전쟁 AI는 아직 불가능하다"며 "아무도 가보지 않은 길"이라고 말했다. 이어 "국방 AI는 결국 국가를 위한 도구"라며 "인도주의 원칙에 따라 사용한다는 큰 틀에서 바라보는 게 가장 중요하다"고 밝혔다.

2026.09.02 17:26김동원 기자

삼성전기, AI 서버용 MLCC 1.1조 공급계약…역대 최대 규모

삼성전기가 글로벌 빅테크와 1조원이 넘는 대규모 적층세라믹커패시터(MLCC) 장기공급계약(LTA)을 체결했다. 인공지능(AI) 서버 부품 시장에서 입지도 공고히 했다. 삼성전기는 글로벌 대형 고객사와 1조 722억원 규모 AI 서버용 MLCC 공급계약을 체결했다고 1일 밝혔다. 계약기간은 2027년 1월 1일부터 12월 31일까지 1년간이다. 이번 수주는 삼성전기의 단일 MLCC 장기공급계약 기준 역대 최대 규모다. MLCC는 전자회로 내 전류 흐름을 안정적으로 제어하고 신호 간섭을 방지하는 수동부품이다. AI 서버용 MLCC는 24시간 고온·고전압 환경에서 지속 작동해야 하므로 초고용량과 극한 신뢰성이 요구되는 고난도 제품이다. 이번 대형 수주는 삼성전기의 미세 공정 기술력과 고신뢰성 품질관리 역량이 글로벌 시장에서 인정받은 결과로 풀이된다. 삼성전기는 이미 글로벌 10여 개 기업과 MLCC 장기공급계약을 체결했다. 글로벌 고객들과 추가 공급도 협의 중이다. 삼성전기는 지난 5월부터 실리콘 커패시터와 AI 서버용 MLCC 부문에서 총 2조 2500억원 규모 계약을 성사시켰다. 고부가가치 중심 사업 포트폴리오 재편에 속도를 내고 있다. AI 서버는 일반 서버에 비해 MLCC 탑재량이 10배 이상 많다. 데이터센터 인프라 확충에 따른 폭발적인 수요 증가가 기대된다. 투자은행 골드만삭스에 따르면 글로벌 AI 서버용 MLCC 시장은 2025년 14억 달러에서 2030년 58억 달러로 연평균 약 34% 성장할 것으로 전망된다. 삼성전기는 이 시장에서 40% 이상 점유율을 차지하며 글로벌 선두를 달리고 있다. 삼성전기 관계자는 "이번 계약은 삼성전기 기술력과 안정적인 양산 공급 능력을 글로벌 시장에서 입증한 쾌거"라며 "AI 서버용 고신뢰성 MLCC 공급을 적극 확대해 글로벌 AI 부품 시장에서 확고한 주도권을 확보하겠다"고 말했다.

2026.09.01 10:48전화평 기자

SKT, A.X K2·에이닷 결집해 '모두의 AI' 도전…실행하는 AI 만든다

SK텔레콤이 자체 AI 모델 'A.X K2'와 에이닷 운영 역량을 결집해 정부의 대국민 AI 서비스 '모두의 AI' 사업에 도전한다. 단순히 질문에 답하는 챗봇을 넘어 이용자의 업무를 직접 수행하고 결과까지 도출하는 '실행하는 AI'를 선보인다는 구상이다. 유경상 SK텔레콤 AI CIC장은 뉴스룸 기고문을 통해 “모두의 AI의 성과도 대화의 횟수가 아니라 완료된 일의 숫자로 측정돼야 한다”며 AI 에이전트 중심의 서비스 개발 계획을 밝혔다. 모두의 AI는 과학기술정보통신부가 국민의 AI 활용을 확대하고 해외 AI 서비스 의존도를 낮추기 위해 추진하는 사업이다. SK텔레콤 KT 카카오 이스트소프트 컨소시엄과 엠케이디, 제논 등 총 6개 컨소시엄 기업이 사업 제안서를 제출했다. 과기정통부는 AI 모델 서비스 경쟁력과 GPU 활용·인프라 운영계획 등을 평가해 이달 중 2~3곳을 선정할 예정이다. 선정 기업에는 엔비디아 B200 GPU 512장이 지원되며, 범용 AI 챗봇과 공공 AI 에이전트를 전 국민에게 제공하게 된다. A.X K2에 에이닷 운영 노하우 결합 SK텔레콤은 독자 AI 파운데이션 모델 프로젝트 3단계에 진출한 6880억개 매개변수 규모의 'A.X K2'와 월간활성이용자(MAU) 1000만명을 넘어선 '에이닷'의 서비스 운영 노하우를 결합한다. 유 AI CIC장은 향후 AI 경쟁력이 개별 모델의 성능만으로 결정되지 않을 것으로 내다봤다. 인프라 단계에서 비용과 지연 시간을 줄이고, 모델의 추론 품질을 높인 뒤 서비스에서 확보한 이용자 피드백을 다시 모델 개선에 반영하는 선순환 구조가 중요하다는 설명이다. 그는 “미래 AI 경쟁은 가장 좋은 모델을 한 번 만들어내는 경쟁이 아니라, 가장 빠른 '지능의 개선 루프'를 구축하는 경쟁이 될 것”이라고 말했다. 특히 AI 서비스가 질문에 답하는 단계를 넘어 이용자를 대신해 실제 업무를 처리하는 방향으로 발전해야 한다고 강조했다. 모델 자체의 정답률보다 이용자의 요청이 실제 결과로 이어지는 성공률이 중요하다는 것이다. 유 AI CIC장은 “모두의 AI의 성과도 대화의 횟수가 아니라 완료된 일의 숫자로 측정돼야 한다”고 강조했다. 20여개 기업 전문성 연결…SKT는 '오케스트레이터' SK텔레콤은 이를 위해 금융 모빌리티 미디어 교육 의료 공공 세무 돌봄 등 다양한 분야의 약 20개 기업·기관과 컨소시엄을 구성했다. SK텔레콤이 모든 서비스를 직접 개발하는 대신 이용자의 요청을 분석하고 각 분야에 적합한 기술과 전문 서비스를 연결하는 '오케스트레이터' 역할을 맡는다. 이를 통해 일반적인 일상 업무뿐 아니라 청년·소상공인·시니어 등을 위한 세무·행정·돌봄 분야까지 AI 에이전트의 활용 범위를 확대한다는 계획이다. 대국민 AI 서비스 확산을 위한 핵심 요소로는 신뢰성을 꼽았다. AI가 국민의 일상과 업무에 깊숙이 활용될수록 개인정보와 보안 등 위험을 통제할 수 있는 역량이 중요해진다는 판단이다. 유 AI CIC장은 신뢰를 위험이 전혀 없는 상태가 아니라 '위험을 다루는 능력'이라고 정의하며, 철저한 보안 시스템을 구축해 누구나 안심하고 AI를 활용할 수 있는 환경을 만들겠다고 밝혔다.

2026.08.25 08:40홍지후 기자

"AI 매일 써도 일 못 맡겨"…생산성 가로막는 AI 신뢰 격차

인공지능(AI)을 업무에 더 깊이 활용하려면 사람과 AI 사이의 신뢰 격차를 줄여야 한다는 분석이 나왔다. 11일 팀뷰어가 발표한 '자율형 워크플레이스로의 여정' 보고서에 따르면 아시아태평양 지역 IT 리더들은 2030년까지 디지털 워크플레이스 서비스 42%가 자율적으로 운영될 것으로 전망했다. 조사 대상자 74%는 매일 AI를 사용하고 있었지만 61%는 AI가 업무를 수행하기 전 사람의 검토와 승인이 필요하다고 답했다. AI 결과를 다시 확인하는 데 드는 시간도 적지 않았다. 응답자 55%는 AI가 만든 결과물을 활용하기 전 자주 또는 항상 직접 검증한다고 답했으며 여기에 주당 평균 2시간을 쓰는 것으로 나타났다. AI에 업무를 맡기는 데 대한 거부감은 아직 큰 것으로 집계됐다. 응답자 61%는 AI가 독자적으로 행동하는 것을 원하지 않는다고 답했다. AI가 보다 자율적으로 움직여도 된다고 답한 응답자는 34%였으며 이 가운데 76%도 사전에 정해진 업무 범위 안에서만 허용할 수 있다고 봤다. 대신 사람이 통제할 수 있는 조건에서는 AI 자율성을 받아들일 수 있다는 응답이 많았다. 응답자 40%는 AI가 문제를 미리 파악해 해결하되 진행 과정을 계속 알려주길 원했고 66%는 필요할 때 직접 개입할 수 있다면 AI가 자율적으로 움직여도 괜찮다고 답했다. AI 자율 실행을 허용하기 위한 조건으로는 보안과 개인정보 보호가 가장 중요하게 꼽혔다. 응답자의 41%가 이를 선택했으며 AI 접근 범위 제한 35%, 주요 변경 전 알림 33%, 활동 기록 공개 31%, 원상복구 기능 30%가 뒤를 이었다. IT 부문에서는 자율화가 상대적으로 빠르게 진행될 것으로 전망됐다. IT 리더 25%는 자신의 부서가 이미 부분적으로 자율화됐다고 답했으며 99%는 최소 한 가지 이상의 업무를 AI에 맡기는 데 긍정적인 태도를 보였다. AI에 맡길 의향이 높은 업무는 시스템 업데이트 63%, 일반적인 기기 오류 해결 52%, 기기 성능 조정 51% 순이었다. 팀뷰어는 이런 현상을 'AI 신뢰 격차'로 설명했다. AI를 보조도구로 사용하는 데는 익숙해졌지만 실제 실행 권한과 책임까지 맡기는 데는 여전히 주저하고 있다는 의미다. 언제 AI를 믿고 언제 직접 확인해야 할지 명확하지 않다고 답한 비율도 50%에 달했다. 올리버 스테일 팀뷰어 최고경영자(CEO)는 "AI는 이미 업무 방식을 바꾸고 있지만 다음 단계를 좌우하는 것은 신뢰"라며 "기업이 AI에 무한한 권한을 부여한다고 성공하는 것이 아니라 명확하게 정의된 안전장치 안에서 안전하고 투명하며 책임 있게 작동하는 시스템을 갖출 때 성공한다"고 말했다.

2026.08.11 15:52김미정 기자

셀렉트스타, AI 신뢰성 평가 분야 최초 코스닥 상장 도전

셀렉트스타가 인공지능(AI) 신뢰성 평가 기술을 핵심 사업으로 하는 국내 기업 중 처음으로 코스닥 기술특례상장을 위한 기술성 평가를 통과했다. 셀렉트스타는 이번 평가 결과를 바탕으로 주관사인 대신증권과 상장 준비에 돌입하고, 연내 코스닥 상장예비심사를 신청할 예정이라고 3일 밝혔다. 평가 대상이 된 셀렉트스타의 핵심 기술은 'AI 신뢰성 확보를 위한 데이터 및 평가 기술'이다. 이는 AI 성능 향상에 필요한 데이터를 생성·검증하고, 모델 성능과 안전성을 체계적으로 평가해 기업의 AI 도입에 가장 큰 걸림돌인 신뢰성 문제를 해결한다. 셀렉트스타는 핵심 기술을 기반으로 기업의 AI 개발 및 도입 목적에 맞춰 학습·평가 데이터를 설계하고 구축하는 '다투모 서비스'와 평가 데이터 생성부터 성능·안전성 평가까지 하나의 환경에서 가능한 '다투모 플랫폼'을 제공한다. 다투모 서비스를 통해 축적한 다양한 산업 현 데이터와 평가 경험을 플랫폼 기능에 반영하고, 다투모 플랫폼을 활용해 서비스의 효율성과 확장성을 높이는 구조다. 또 셀렉트스타가 기술 개발 과정에서 확보한 연구 성과는 ICLR·ICML·ACL·EMNLP 등 세계적인 AI 국제학회에 지속적으로 채택됐다. 정부의 '독자 AI 파운데이션 모델 개발' 사업 내 SK텔레콤 컨소시엄으로 참여해 고품질 데이터 구축과 모델 신뢰성 평가도 담당하고 있다. 셀렉트스타는 시장과 AI 기술 변화에 맞춰 멀티모달, 에이전틱 AI, 피지컬 AI 등 새로운 형태의 AI를 평가할 수 있도록 기술 범위를 넓힐 예정이다. 나아가 국내에서 축적한 기술과 사업 경험을 기반으로 일본과 미국 등 해외 시장 진출을 추진한다. 김세엽 셀렉트스타 대표는 "이번 기술성 평가 통과는 우리가 축적해 온 AI 데이터 및 신뢰성 평가 기술력과 사업적 성과를 인정받은 결과"라며 "기업공개(IPO)를 성공적으로 이끌어 AI 전 주기에 필요한 데이터와 평가 기술을 제공하는 글로벌 AI 신뢰성 기업으로 성장하겠다"고 말했다.

2026.08.03 09:46이나연 기자

셀렉트스타, 금융권 AI 신뢰성 검증 역할 강화

셀렉트스타가 금융업계 인공지능(AI) 안전성 교육과 범용·금융 특화 취약점 확인 역량을 앞세워 금융권 AI 신뢰성 검증 분야 입지를 넓힌다. 셀렉트스타는 금융보안원이 주최하고 카카오뱅크가 후원하는 '2026 금융보안 AI 아카데미 캠프'에서 AI 신뢰성 검증 '다투모 플랫폼' 제공 등 행사 운영을 담당했다고 23일 밝혔다. 금융보안 AI 아카데미 캠프는 AI 정보보안에 관심 있는 대학(원)생을 대상으로 금융권 AI·보안 분야의 실무 역량을 높이기 위해 마련된 단기 집중 교육 프로그램이다. 지난 20일부터 22일까지 경기도 용인 카카오 AI 캠퍼스에서 열린 올해 행사에는 50명이 참가했다. 첫날은 김민우 셀렉트스타 AI 세이프티 팀 리더가 강연자로 나서 AI 안전성과 보안에 관한 이론 및 실습 교육을 진행했다. 교육은 OWASP 거대언어모델(LLM) 톱 10을 비롯해 AI 레드티밍 기법, 자동 AI 레드티밍, AI 가드레일, 금융 특화 AI 세이프티 평가 등 최신 AI 보안 기술과 연구 동향을 중심으로 구성됐다. 이튿날 진행된 레드팀 챌린지는 범용 안전성과 금융 특화 안전성 영역으로 구분해 1부 개인전, 2부 팀전으로 운영됐다. 참가자들은 각 미션에 따라 다양한 공격 기법을 설계·적용하면서 AI 모델의 취약점을 발굴하고 금융 서비스 환경에서 발생할 수 있는 위험 요소를 분석했다. 셀렉트스타는 레드티밍 결과를 신속하고 일관된 기준으로 판별할 수 있도록 챌린지 운영에 AI 자동 평가 시스템을 도입했다. 다수의 참가자가 제출하는 공격 결과를 자동으로 분석·채점해 평가 속도와 정확성을 높였다. 2부 팀전에서는 국내 최초로 '인간 대 AI' 방식의 레드티밍 대결이 진행됐다. 참가자들은 5명씩 조를 이뤄 AI 에이전트와 동일한 미션을 수행했는데, 멀티 AI 에이전트 레드티머가 인간을 근소한 차이로 앞섰다. 김 리더는 "생성형 AI가 금융 서비스에 빠르게 적용되면서 범용적인 안전성뿐만 아니라 금융 도메인의 특성과 규제를 반영한 정교한 검증 역량이 중요해지고 있다"며 "이번 캠프가 금융 서비스의 특성과 규제를 반영한 AI 안전성 평가를 직접 경험하고, 잠재적 위험에 어떻게 대응해야 할지 고민하는 계기가 됐길 바란다"고 말했다.

2026.07.23 15:41이나연 기자

[AI 리더스] 셀렉트스타는 어떻게 은행 '신뢰성 검증' 도맡았나

"사람이 100% 수작업으로 했다면 60일이 걸렸을 평가를 50분 만에 끝냈습니다." 김세엽 셀렉트스타 대표는 지난 13일 서울 강남구 본사에서 지디넷코리아와 만나 NH농협은행 생성형 인공지능(AI) 서비스 검증 사례를 이같이 소개했다. NH농협은행은 사내 업무·금융 지식 질의응답 AI를 개발하면서 셀렉트스타의 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 도입했다. 평가 기간이 두 달에서 한 시간 이내로 줄면서 AI를 수정할 때마다 검증을 다시 돌려 목표 성능에 도달했는지 확인할 수 있게 됐다. 다투모 이밸을 정식 도입한 은행은 NH농협은행만이 아니다. 우리은행은 국내 최초 AI 청약 상담 서비스를 개발하며 금융보안원 보안성 검증을 이 솔루션으로 진행했고, 신한은행은 현업 부서가 직접 AI 서비스를 만드는 전사 생성형 AI 플랫폼에 평가 모듈로 탑재했다. 세 은행 모두 별도 기술검증(PoC) 기간 없이 곧바로 정식 도입을 택했다. 김 대표는 "세 은행 모두 생성형 AI를 도입하는 과정에 평가가 필수라는 인식이 명확했다"며 "다투모 이밸이 정확하고 일관되게 목표 수준 도달 여부를 확인해 준다는 점이 바로 도입으로 이어졌다"고 설명했다. 은행들이 AI 서비스 평가를 속속 도입하게 된 배경에는 바로 규제 완화가 있다. 금융당국이 망분리 규제를 풀고 혁신금융서비스 제도로 외부 AI 활용 길을 열자 은행의 AI 도입은 그룹 차원으로 확산됐다. 하지만 서비스 신뢰도를 확인하는 검증 절차는 사람이 일일이 평가 질문을 만들고 답변을 검수하는 수작업에 머물러 있었다. 김 대표는 "사람이 직접 평가하던 방식으로는 충분한 AI 검증이 이뤄질 수 없었다"며 "고객 신뢰와 리스크 관리가 핵심인 금융에서 안전성 판단이 서지 않으면 어떤 액션도 할 수 없다"고 강조했다. 은행들이 AI 서비스 도입에 있어 가장 경계하는 위험은 환각(할루시네이션)이다. 상품 설명서와 약관 등 정해진 문서를 근거로 답해야 하는 업무 특성상 AI가 없는 내용을 지어내면 곧바로 금융 사고로 이어지기 때문이다. 민감 정보 유출을 막는 보안 평가, 편향·부적절 발언을 거르는 안전성 평가도 주요 검증 항목으로 꼽힌다. 여기에 AI가 실제 업무를 수행하는 에이전트로 진화하면서 정답이 정해지지 않은 업무까지 원칙 기준으로 채점해야 하는 단계에 이르렀다. 셀렉트스타는 라우터·플래너·툴콜링 등 에이전트 핵심 구성 요소 하나하나를 평가하도록 솔루션을 확장했다. 문제는 평가를 반복할수록 커지는 비용 부담이다. AI 답변을 채점할 때마다 거대언어모델(LLM)을 가져와 쓰면 그만큼 컴퓨팅 비용이 불어난다. 이를 보완하기 위해 등장한 평가 특화 모델들은 언어나 도메인이 바뀌면 채점 성능이 급격히 떨어지는 한계가 있었다. 셀렉트스타가 채점 성능은 유지하면서 크기를 줄인 평가 특화 소형 모델 '이스타(E-Star) 12B'를 직접 개발한 이유다. 이 모델은 언어가 영어에서 한국어로, 분야가 일반에서 금융·법률로 바뀌어도 일관된 평가 성능을 낸다. 관련 논문은 최근 자연어처리 분야 국제 학회 ACL 2026 워크숍에 채택되기도 했다. 김 대표는 "E-Star 12B는 오픈AI 'GPT-5.5' 96% 수준으로 평가하면서도 크기가 작아 반복 평가에 드는 컴퓨팅 부담을 줄였다"며 "보안 규정상 외부 AI로 데이터를 보낼 수 없는 금융사 내부망에서 구동되는 점도 강점"이라고 부연했다. 기술 못지않은 차별점은 운영 방식에 있다. 셀렉트스타는 평가 지표 131종을 기본 제공하면서 사내 신뢰성 평가 전문가가 고객 도메인 전문가와 함께 지표를 새로 설계하는 컨설팅을 병행한다. 이 전담 인력만 전체 임직원 170명(5월 말 기준) 가운데 18명이다. 팔란티어의 전방 배치 엔지니어(FDE)처럼 고객 문제를 직접 풀며 얻은 경험을 제품에 쌓아 경쟁사들과의 격차를 벌리겠다는 전략이다. 김 대표는 "이 사이클을 얼마나 돌렸느냐가 결국 진입장벽"이라며 "해외에도 평가 플랫폼은 있지만 컨설팅까지 함께 제공하는 곳은 많지 않다"고 강조했다. 금융에서 쌓은 경험은 다른 산업으로 확장되고 있다. 공공·국방 분야에서는 일부 사업 수주가 확정돼 계약 절차를 밟는 중이다. 제조 분야에서는 AI 판단 오류가 물리적 사고로 이어질 수 있는 피지컬 AI를 겨냥해 사내 연구소가 평가 기술 연구개발에 들어갔다. 해외 시장은 미국과 일본, 중동 세 축으로 공략한다. 이미 지사를 둔 미국에서는 전략적 투자자인 세일즈포스와 협업 접점을 넓히고 있다. 일본의 경우 K-스타트업센터(KSC) 도쿄 입주 프로그램에 선정돼 지사 설립을 위한 거점부터 확보했다. 중동은 데이터센터부터 모델까지 국가 차원의 소버린(주권) AI를 추진하는 만큼 관련한 초기 협력 논의를 진행하고 있다. 김 대표는 "신뢰성 평가는 한 번 하고 끝나는 일이 아니라 AI를 운영하는 내내 반복적으로 돌아가는 구조"라며 "고객이 AI 서비스를 지속적으로 개선하도록 돕는 엔드투엔드 플랫폼을 만드는 것이 목표"라고 밝혔다.

2026.07.19 08:06이나연 기자

[SW키트] AI가 직접 일하는 시대…신뢰성 검증 시장 커진다

생성형 인공지능(AI)이 산업 전반에 확산하면서 AI 결과물 신뢰성을 검증하는 시장이 성장하고 있다. 17일 IT 업계에 따르면 AI 기업들은 생성형 AI가 작성한 문서를 비롯한 AI 모델 답변 품질, 이미지·영상·음성의 조작 여부를 판별하는 솔루션 공급에 나섰다. 사람이 AI 결과물을 일일이 확인해야 하는 부담이 커지면서 검증 업무에도 AI를 활용하려는 수요가 늘어난 영향이다. AI 신뢰성 검증 시장은 세 영역으로 나뉜다. AI가 작성한 글을 판별하는 텍스트 검증과 모델 정확도·안전성을 평가하는 모델 검증, 이미지·영상·음성 진위를 확인하는 멀티미디어 검증이 대표적이다. 텍스트 검증 시장에서는 학교 과제와 연구 논문, 기업 채용을 위한 자기소개서 중심으로 수요가 확대되고 있다. 이에 발맞춰 무하유는 표절검사 서비스 '카피킬러'를 운영하며 쌓은 데이터 분석과 자연어 처리 기술을 기반으로 AI 작성 탐지 솔루션 'GPT킬러'를 개발했다. GPT킬러는 문서를 문단 단위로 분석해 생성형 AI가 작성했을 확률을 제시하고 AI가 생성했을 가능성이 높은 단어의 확률을 역추적하는 솔루션이다. 문서 전체에 대한 판정만 내리는 것이 아니라 AI 작성이 의심되는 부분을 문단별로 보여줄 수 있어, 사용자가 판단 근거를 다시 확인할 수 있도록 돕는다. 해당 솔루션 기술은 카피킬러와 AI 서류평가 솔루션 '프리즘'에도 적용됐다. 무하유는 지원자의 답변 내용과 면접 태도를 분석하는 AI 면접 솔루션 '몬스터'도 운영하고 있다. 프리즘은 자기소개서 등 서류를 분석해 직무 적합도를 평가한다. 몬스터는 지원자 답변을 바탕으로 직무·조직 적합도와 면접 태도, 의사소통 능력을 종합적으로 검토한다. 두 솔루션은 합격과 불합격 결과만 제시하지 않고 어떤 기준과 근거로 결론을 내렸는지 함께 보여준다. AI의 판단 과정을 사람이 다시 확인할 수 있어야 결과도 신뢰할 수 있다는 설명가능성 중심의 검증 체계를 적용했다. 무하유는 한국어뿐 아니라 일본어 시장도 공략하고 있다. 지난 2020년 출시한 일본어 표절검사 서비스 '카피모니터'는 현재 80개 고객사와 22만명 이상이 이용하고 있으며 일부 일본 대학은 과제 제출 과정에서 검사를 의무화했다. 프리즘과 몬스터는 AI 신뢰성 인증과 정보보호관리체계 인증을 취득했다. 두 솔루션은 현재 700개 이상 고객사의 채용 과정에서 활용되고 있다. 셀렉트스타, AI 모델 품질 따진다…딥브레인AI, 멀티미디어 검증 나서 AI 모델 자체 신뢰성을 검증하는 시장도 커지고 있다. 모델 환각과 편향성, 유해 답변, 검색증장생성(RAG) 품질과 정확성을 따져 모델 기반 서비스 질을 높이기 위한 전략이다. 셀렉트스타는 생성형 AI 평가 플랫폼 '다투모 이벨'로 기업용 AI 모델 신뢰성을 검증하고 있다. 고객사가 보유한 정책과 상품 문서를 바탕으로 실제 이용 환경을 반영한 평가 질문을 만들고 AI 응답을 항목별 기준에 따라 자동 채점하는 식이다. 기업은 GPT-4o와 클로드, 라마 등 여러 모델을 동일한 데이터셋으로 평가할 수 있다. 모델별 정확도와 안전성을 비교해 자사 서비스에 적합한 모델을 선정하거나 운영 중인 AI의 품질을 관리할 수 있다. 셀렉트스타는 신한은행과 우리은행, NH농협은행 등 주요 시중은행에 AI 신뢰성 검증 솔루션을 공급했다. 금융권에서 생성형 AI 활용이 확대되면서 잘못된 정보 제공과 유해 답변을 사전에 차단하려는 수요가 늘어났다는 평이 이어지고 있다. AI가 만든 이미지와 영상, 음성의 진위를 판별하는 멀티미디어 검증 시장도 확대되고 있다. 얼굴을 바꾸는 기존 딥페이크뿐 아니라 생성형 AI로 콘텐츠 일부를 수정하거나 새로운 인물과 음성을 만드는 행위까지 검증 범위가 넓어졌다. 딥브레인AI는 이미지와 영상, 음성을 함께 분석하는 멀티모달 기반 딥페이크 탐지 솔루션 'AI 디텍터'를 운영하고 있다. 얼굴 합성과 AI 생성 얼굴, 입술 움직임 합성, 음성 복제 등 주요 조작 유형을 판별한다. AI 디텍터는 콘텐츠의 진위 여부와 함께 조작이 의심되는 구간과 조작 유형, 분석 점수를 제공한다. API와 서비스형 소프트웨어(SaaS) 형태로 제공돼 기존 검증·모니터링 시스템과 연동할 수 있다. 딥브레인AI는 공공기관과 금융기관, 미디어 플랫폼 등을 중심으로 AI 디텍터를 공급하고 있다. 딥페이크를 활용한 금융사기와 명의도용, 허위정보 유포가 확산되면서 실시간 탐지와 근거 기반 판별 수요가 커지고 있다. AI 에이전트 확산은 신뢰성 검증 시장 성장 속도를 더 높일 것으로 예상된다. AI가 정보를 생성하는 데 그치지 않고 기업 시스템에 접속해 업무를 수행하거나 의사결정에 참여하면 작은 오류도 실제 사업 손실과 보안 사고로 이어질 수 있기 때문이다. 가트너는 "2027년까지 기업의 40%가 거버넌스 실패를 이유로 자율형 AI 에이전트 사업을 축소하거나 운영을 중단할 것"이라며 "충분한 검증 체계 구축이 필수 인프라로 자기잡았다"고 분석했다.

2026.07.17 09:13김미정 기자

뤼튼, AI 서비스 신뢰성 강화 '사용자위원회' 공식 출범

뤼튼테크놀로지스가 인공지능(AI) 서비스 안전과 사용자 보호 강화를 위한 '사용자위원회'를 공식 출범했다. 뤼튼테크놀로지스는 지난 10일 이세영 대표와 위원장·위원진이 참석한 가운데 사용자위원회 첫 회의를 개최했다고 13일 밝혔다. AI 서비스가 일상 깊숙이 자리 잡으면서 요구되는 윤리적 책임과 사용자 보호 수준을 강화하기 위한 취지다. 사용자위원회는 외부 전문가 4인으로 구성됐다. 위원장인 이상욱 한양대 철학과 교수를 비롯해 선지원 한양대 법학전문대학원 교수, 이윤형 영남대 심리학과 교수, 황혜진 법무법인 디엘지 변호사가 위원으로 참여한다. 이들은 AI 윤리·철학, 인지·심리, 법학 등 서로 다른 전문 분야의 시각을 결합해 사용자 관점에서 서비스를 점검하게 된다. 뤼튼테크놀로지스는 사용자위원회 논의 결과를 추후 실제 제품과 정책에 반영할 예정이다. 이세영 뤼튼테크놀로지스 대표는 "빠른 성장의 속도가 붙을수록 기술의 편리함 뒤에서 놓치고 있는 책임은 없는가라는 질문이 무거워졌다"며 "외부 전문가 위원들의 소중한 목소리를 경청하고 실제 제품과 정책에 성실히 반영하겠다"고 말했다.

2026.07.13 11:35이나연 기자

씽크포비엘, 경찰청 치안 AI 신뢰성 기틀 닦는다

씽크포비엘이 경찰청의 치안 인공지능(AI) 신뢰성 확보 작업을 맡으며 공공 AI 거버넌스 기준 수립의 선도 사례를 만든다. 씽크포비엘은 지난달 경찰청 'AI 영향평가 및 위험관리방안 수립' 정책과제연구 수행기관으로 선정된 데 이어 이달 사업에 착수했다고 9일 밝혔다. 올해 말 완료될 이번 연구는 경찰청이 수사·민원 업무 전반에 AI 기술을 도입하는 과정에서 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'과 내년부터 시행되는 'AI 및 데이터 기반 행정 활성화에 관한 법률(공공AI법)'에 대응하기 위한 영향평가·위험관리 체계를 마련하는 사업이다. 씽크포비엘은 ▲국내외 정책·조직 현황 조사 ▲경찰청 도입 AI 사업·서비스 영향평가 ▲AI 위험관리 정책 수립 ▲위험관리 조직체계·역할·책임 정립 ▲안전성·신뢰성 확보조치 및 문서화 작업을 수행한다. 치안 AI 분야는 기본권·신체·인권·공권력과 직결된다. 이에 씽크포비엘은 국내 법령 준수는 물론 경제협력개발기구(OECD)·유럽연합(EU) AI 법·ISO/IEC 국제표준 등 글로벌 AI 거버넌스 규범과의 정합성도 함께 맞출 계획이다. 박지환 씽크포비엘 대표는 "치안 AI는 성능 중심의 기술 검토만으로는 충분하지 않은 분야"라며 "글로벌 AI 거버넌스 규범을 경찰청이 선제적으로 검토하는 것은 투명하고 설명 가능한 치안 AI 운영체계 기준을 높이는 시도"라고 말했다.

2026.07.09 15:07이나연 기자

"보안에 퍼펙트 스톰...국가 차원 CAISO 필요"

국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다는 지적이 나왔다. AI기술 발전으로 고도화하는 해킹에 대응하기 위한 차원이다. 고려대 AI보안연구소장을 맡고 있는 이상근 고려대 정보보호대학원 교수는 8일 서울 중구 신라호텔에서 열린 '제15회 정보보호의 날 기념식'에서 기조연설을 하며 "보안에 퍼펙트 스톰이 온다. 국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다"고 제안했다. 또 국가인공지능전략위원회 보안특별위 위원으로 활동하고 있는 윤두식 이로운앤컴퍼니도 이 행사에서 기조강연자로 나서 AI보안을 안전벨트로 비유하며 "시속 200km로 달리고 있는 자동차에 안전벨트가 없는 상황"이라며 현 AI보안을 우려했다. " 윤 대표는 '안전한 AI시대: 위협의 실체와 우리가 갖춰야 할 안전벨트'를 주제로 발표했다. AI 보안을 자동차 안전벨트에 비유해 설명한 그는 볼보에서 자동차 안전벨트를 처음으로 발명했을 당시, 불필요한 안전장치라는 의견이 있었지만, 지금은 자동차를 더 빠르고 안전하게 달릴 수 있게 만든 주인공이 안전벨트라는 것이다. 그는 AI도 '안전벨트'를 갖춰야 한다면서 "AI 보안은 AI 활용을 억제하는 것이 아니라, 더 안전하게 잘 사용할 수 있게 만드는 것"이라고 역설했다. 윤 대표는 "지난해 한 해 동안에만 7516만건의 개인정보가 유출된 것으로 집계됐다. 우리나라 전 국민의 개인정보가 여러 번 유출된 셈"이라며 "올해 상반기만 하더라도 따릉이, 사랑의열매, 듀오, 티빙 등 기업 및 기관에서 개인정보가 유출됐다"고 진단했다. 이에 그는 8대 AI 보안·신뢰 체계를 갖춰야 한다고 강조했다. 윤 대표는 "AI 에이전트는 수없이 많은 시스템에 접근한다. 따라서 AI 에이전트에 대한 신원 검증, 가시성 확보가 필요하다"면서 ▲AI 가시성 ▲프롬프트 인젝션 등 공격 차단 ▲AI 출력 검증 ▲AI 에이전트 행위 통제 ▲데이터 격리 ▲AI 에이전트 신원 검증 ▲행위 로그 확보 ▲데이터 주권 확보 등이 핵심이다. 그는 "AI는 전문가들만 쓸 수 있는 것이 아니고, 일반인 역시 안전하게 사용할 수 있어야 비로소 활성화된다"며 "한국이 앞장서서 안전한 AI 사용을 위해 세계와 협력할 것"이라고 밝혔다. "'보안 퍼펙트 스톰' 온다…'CISO' 아닌 'CAISO' 필요" 이상근 고려대 정보보호대학원 교수는 AI로 코드를 생성하는 '바이브 코딩'의 시대가 다가온 만큼 점검 대상이 폭증했다고 짚었다. 그러나 방어할 인력이나 기술은 턱없이 부족해 방어자의 부담이 늘어나는 '보안 퍼펙트 스톰'이 빚어질 수 있다고 경고했다. 이 교수는 "프론티어 AI 모델을 기반으로 한 체계에서는 공격의 모든 과정이 자동화된다. 일일이 전문가들이 투입돼 작성하던 익스플로잇(취약점 공격)도 수분 내로 생성할 수 있는 시대가 다가올 것"이라며 "자체적인 AI 보안 자동화 역량이 기업뿐 아니라 국가 규칙까지도 좌우할 수 있다"고 말했다. 이어 그는 "국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다. AI 보안의 총괄 세팅을 할 수 있는 대책이 있어야 한다"면서 "또한 민간 협력 컨트롤 타워 구축이 반드시 필요하다. 뿐만 아니라 독자적 AI 방어 기술에 대한 연구개발이 필요하다"고 강조했다.

2026.07.08 22:37김기찬 기자

  Prev 1 2 3 4 5 Next  

지금 뜨는 기사

이시각 헤드라인

[ZD브리핑] 최대 실적 SK하이닉스‧삼성전자…주가 견인할까

SKT는 왜 토큰 게이트웨이로 눈길 돌렸나

구수한 맛에 꽂혔다...프랜차이즈, 올가을 '호지차' 주목

오픈AI '닷츠' vs 앤트로픽 '듀엣'…내 일 맡길 AI 비서는?

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.