검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'씽크포비엘'통합검색 결과 입니다. (25건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

AI 위험 검증 강화하는 주요국…韓 안전 평가 인력 6명뿐

국내 인공지능(AI) 안전 평가를 담당하는 AI안전연구소의 기술 평가 인력이 6명에 불과한 것으로 나타났다. 미국과 영국, 일본이 전문인력과 연산 자원을 늘리는 가운데 국내 AI 안전 평가 역량도 강화해야 한다는 지적이 제기됐다. 28일 국회 과학기술정보방송통신위원회 소속 이정헌 더불어민주당 의원이 과학기술정보통신부와 AI안전연구소에서 제출받은 자료에 따르면 연구소 AI 안전 평가실 인력은 7명뿐이었다. 법제·규범 담당자 1명을 제외하면 실제 AI 모델을 기술적으로 평가하는 인력은 6명이다. 이들은 고성능 AI 모델이 어떤 위험한 능력을 갖췄는지 직접 시험한다. 해킹이나 사이버 공격에 악용될 수 있는지, 생물학적 위험 정보를 제공하는지, 개발사가 적용한 안전장치를 우회할 수 있는지 등을 모델을 직접 구동하며 검증한다. 미국에서는 고성능 AI 모델 위험성을 직접 검증해 결과를 공개하고 있다. 미국 국립표준기술연구소(NIST) 산하 AI표준혁신센터(CAISI)는 지난 7월 중국 AI 기업 Z.ai(옛 지푸AI)의 GLM-5.2를 평가했다. 사이버 공격 지원 능력과 생물학적 위험, 안전장치 우회 가능성 등을 시험했다. 주요국은 AI 안전 평가 인력도 늘리고 있다. 의원실 자료에 따르면 미국의 관련 인력은 34명으로 향후 80명까지 확대할 계획이다. 일본도 현재 31명에서 올해 60명으로 늘린 뒤 장기적으로 200명 규모까지 확대할 방침이다. 영국 AI안보연구소는 전체 인력이 약 200명이다. 연구소가 공개한 현황을 기준으로 기술 인력만 100명을 넘는다. 첨단 AI의 사이버 공격 능력과 화학·생물학적 위험, 자율적인 행동 등 국가안보와 공공안전에 영향을 줄 수 있는 위험을 평가하고 있다. 김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "현재 AI 평가 기술에서는 영국이 가장 앞서 있다"며 "한국도 영국을 따라잡기 위해 평가 역량을 강화하고 있다"고 말했다. 김 소장은 AI 안전 평가가 향후 국제적인 AI 규칙을 논의하는 과정에서도 중요해질 것으로 내다봤다. 그는 "AI 발전 속도가 빨라지면서 모델을 통제할지 판단하기 위한 평가가 중요해지고 있다"며 "이 과정에서 객관적인 국가 기관인 각국 AI안전연구소의 역할이 많이 거론되고 있다"고 설명했다. AI 안전과 신뢰성을 평가할 전문인력을 키우려는 움직임은 민간에서도 나타나고 있다. 씽크포비엘은 관련 전문가 양성 교육을 운영하면서 신뢰할 수 있는 인공지능 국제연대(TRAIN)와 함께 AI 개발 과정에서 신뢰성을 검증하는 해커톤 등도 진행하고 있다. 박지환 씽크포비엘 대표는 "국내에 AI 인재·반도체·보안 인력 양성 사업은 있지만 AI 신뢰성 전문인력을 키우는 커리큘럼과 실습 과제, 평가 체계를 갖춘 사업은 부재하다"며 "AI 위험을 사전에 준비하는 능력이 AI 경쟁력을 좌우할 수 있으므로 관련 인재 양성이 꼭 필요하다"고 강조했다. AI 모델을 직접 시험하려면 전문인력뿐 아니라 이를 구동할 컴퓨팅 인프라도 필요하다. 고성능 모델에 다양한 공격을 시도하고 안전장치가 제대로 작동하는지 반복적으로 검증하려면 상당한 연산 자원이 필요하기 때문이다. 의원실 자료에 따르면 국내 AI안전연구소가 활용하는 그래픽처리장치(GPU) 서버는 5대다. 이 가운데 2대는 민간 클라우드에서 임차해 사용하고 있다. 의원실은 현재 인프라로는 조 단위 매개변수를 가진 초거대 AI 모델이나 안전장치의 제약을 받지 않는 모델을 충분히 검증하는 데 한계가 있다고 지적했다. 영국은 국가 차원의 컴퓨팅 인프라를 안전 평가에 활용하고 있다. 의원실 자료에 따르면 영국 AI안보연구소는 15억파운드 규모의 국가 컴퓨팅 자원에 우선 접근할 수 있다. 예산에서도 차이가 나타났다. 의원실 자료에 따르면 한국 올해AI안전연구소 예산은 89억원이다. 영국은 약 1216억원, 미국은 약 232억원이며 일본은 추가경정예산을 통해 관련 예산을 800억원 이상으로 늘렸다. 현재 AISI는 한국전자통신연구원(ETRI) 직할 부서로 운영되고 있다. 이 의원은 이 같은 조직 구조로는 전문인력 확보와 독립적인 안전 평가에 한계가 있다며 AI 기본법을 개정해 AISI에 독립적인 예산과 인사권을 부여해야 한다고 주장했다. 이 의원은 "가시화된 위협에 대응하기 위한 AI 안보 체계 구축을 위해 AI 기본법 개정이 필요하다"며 "AI안전연구소에 법적 독립성을 부여하고 독자적인 예산과 인사권을 보장해 실질적인 대응 역량을 강화해야 한다"고 말했다.

2026.09.28 14:10김동원 기자

AI 위험 검증하는 나라로…韓, '제3자 평가국' 노린다

인공지능(AI) 경쟁이 모델 성능을 넘어 누가 위험을 판단할 것인지로 번지고 있다. 미국과 중국이 프런티어 AI 경쟁을 주도하면서 양국이 서로의 시스템을 직접 검증하기 어려울 경우 제3국이나 국제기구가 평가를 맡는 방안도 거론되고 있다. 김명주 AI안전연구소장은 23일 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 우리가 나서겠다는 생각을 갖고 있다"며 "다만 아직은 앞서가는 시나리오이자 희망 사항일 뿐 실제 역할을 맡으려면 프런티어 AI 기술과 평가 역량을 갖춰야 한다"고 강조했다. 국제적으로도 프런티어 AI를 공동 평가하고 위험 정보를 공유하려는 움직임이 이어지고 있다. 오픈AI는 21일(현지시간) 한국 등 각국 AI안전연구소가 참여하는 협력망을 활용해 평가 결과를 공유하고 공통 기준을 마련하는 방안을 제안했다. 미중 AI 안전 협의 시작…검증은 누가 최근 AI 개발 속도와 안전을 둘러싼 논쟁이 커지면서 미국과 중국 사이에서도 AI 안전 문제가 의제로 떠올랐다. 양국은 정상회담을 앞두고 관련 논의를 시작했다. 미국은 중대한 AI 사고가 발생할 경우 서로 알리는 통보 체계를 중국 측에 제안했지만 중국은 아직 구체적인 입장을 밝히지 않은 것으로 알려졌다. 김 소장은 "위협의 신호가 보이면 서로 핫라인을 개설해 이야기하고 협의하자는 논의까지 나오고 있다"고 말했다. 통보 체계가 만들어져도 상대국 AI 위험을 누가 확인할지는 남는다. 미국이 중국의 핵심 AI 시스템을 직접 들여다보거나 중국이 미국의 모델을 검사하기는 쉽지 않아서다. 김 소장은 장기적으로 핵확산금지조약(NPT)과 비슷한 국제 통제체제가 AI에서도 등장할 가능성을 거론했다. 실제로 미국과 중국의 안보 전문가 사이에서도 핵 군축과 유사한 안전장치와 위기 소통 채널을 AI에 적용하자는 제안이 나왔다. 한국은 국제 평가체계가 만들어질 경우 참여하겠다는 뜻도 전달했다. 김 소장은 지난 8월 국제 AI 평가 협력망을 조정하는 영국 측과 의견을 나눴고 각국 AI안전연구소가 함께 참여하는 방식이라면 한국도 적극 참여하겠다는 입장을 밝혔다. 이 분야에서 가장 앞서 있다는 평가를 받는 곳은 영국이다. 영국 AI안전연구소는 2023년 11월부터 프런티어 AI를 직접 평가해왔다. 사이버와 생물안보 등 국가안보·공공안전 분야에서 첨단 모델을 반복적으로 시험하면서 평가 방법과 데이터를 축적했다. 김 소장은 영국이 현재 프런티어 AI 평가 기술에서 가장 앞서 있다고 진단했다. 김 소장은 AI안전연구소도 지난 2년간 영국의 평가 기술을 따라잡기 위해 관련 역량을 쌓아왔다고 설명했다. 그는 "한국은 AI 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 강조했다. 국제 논의 발언권, 결국 '경험'에서 나온다 AI 안전 논의에서 한국의 발언권을 키우려면 기술력과 함께 실제 현장에서 쌓은 경험도 중요하다는 지적이 나온다. 박지환 씽크포비엘 대표는 "아직 AI가 실제 현장에서 어떤 문제를 얼마나 자주 일으키는지 충분히 축적되지 않았는데 머릿속에서 만든 기준이 처음부터 정확할 것이라고 기대하기는 어렵다"고 말했다. 그는 혈압 기준을 예로 들었다. 어느 수준부터 치료에 개입할지를 수많은 임상 경험과 데이터를 거쳐 정해온 것처럼 AI도 실제 적용과 실증을 반복하면서 기준을 다듬어야 한다는 설명이다. 박 대표는 "한국이 표준에 대한 현장 실증을 많이 하는 나라가 되는 것이 중요하다"며 "국제기준을 실제 산업과 공공현장에 적용해 무엇이 맞고 무엇이 부족한지를 지속적으로 제시해야 한다"고 강조했다. 현장 경험과 별개로 국제적으로 통용될 표준은 공적인 절차와 합의를 거쳐야 한다. 전종홍 한국전자통신연구원(ETRI) 표준연구본부 책임연구원은 "오픈AI나 앤트로픽이 '표준'이라는 용어를 많이 쓰지만 그렇게 쓴다고 그냥 표준이 되는 것은 아니다"라며 "문서를 만드는 것과 권위를 만드는 것은 다르다"고 밝혔다. 박 대표는 "이런 경험과 데이터가 축적되면 한국의 의견에 무게가 생기고 더 많은 국제 실증과 표준화 논의의 중심에 설 기회가 생긴다"며 "기준을 받아들이는 나라보다 기준이 현실에서 작동하는지를 증명하고 개선하는 나라가 AI 안전 논의의 중심에 설 것"이라고 말했다.

2026.09.23 10:43김동원 기자

[ZD SW 투데이] 씽크포비엘, 'AI 신뢰성' 인재 키운다…제2회 트라이톤 개막 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한눈에 볼 수 있는 'ZD SW 투데이'를 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆'제2회 트라이톤' 개막…AI 신뢰성 실전 경험 겨룬다 AI 신뢰성 해커톤 '제2회 트라이톤'이 14일 서울 가톨릭대학교 성의교정 옴니버스파크에서 오리엔테이션을 열고 약 3개월간의 일정에 들어갔다. 신뢰할 수 있는 AI 국제연대 한국 네트워크(TRAIN코리아)와 씽크포비엘이 진행하는 이번 대회에는 전국 36개 대학의 대학생·대학원생 149명, 37개 팀이 참가한다. 참가자들은 AI 허브 데이터와 SK텔레콤 AI 모델 'A.X'를 활용해 클릭베이트 탐지 모델을 개발하고, 이 과정에서 영향평가와 위험관리, 투명성, 인간 감독 등 AI 신뢰성 활동을 수행한다. 올해는 AI 에이전트가 자율적으로 판단하고 필요할 때 사람에게 판단을 넘기는 운영 구조도 평가한다. 본선을 거쳐 상위 6개 팀에는 상장과 상금을 수여하며, 수상자에게는 IT 기업 채용 연계형 인턴십 기회도 제공한다. ◆와이즈넛, 대화로 만드는 AI 에이전트 공개 와이즈넛이 지난 10일부터 11일까지 서울 스위스 그랜드 호텔에서 열린 '제31회 지자체 정보통신 우수사례 발표대회'에서 대화만으로 AI 에이전트를 구성하는 기능을 선보였다. 사용자가 원하는 업무나 기능을 자연어로 설명하면 AI가 에이전트의 업무 흐름을 자동으로 구성한다. 이후에도 대화를 통해 기능을 추가하거나 조건을 변경할 수 있어 별도 개발 작업 없이 기관 업무에 맞는 워크플로우를 설계하도록 지원한다. 와이즈넛은 경기도청, 인사혁신처, 국민건강보험공단 등에 적용한 AI 전환 사례와 함께 지자체 축제 업무를 지원하는 '축제 에이전트'도 소개했다. 실시간 민원 대응부터 행사 전후 데이터 분석, 온라인 광고 등을 지원한다. ◆유아이패스 "에이전틱 AI 확장 핵심은 오케스트레이션" 유아이패스가 기업의 에이전틱 AI 도입 현황과 비즈니스 오케스트레이션 활용 실태를 분석한 글로벌 조사 결과를 발표했다. 매출 10억 달러 이상 대기업의 C레벨 임원과 IT 실무자 약 600명을 조사한 결과, AI가 비즈니스 전반에 완전히 내재화됐다고 답한 비율은 31%에 그쳤다. AI 도입 과정에서 겪는 가장 큰 어려움으로는 데이터 품질·준비도(38%), 기존 워크플로우·시스템과의 통합(37%), 거버넌스·컴플라이언스(33%) 등이 꼽혔다. 반면 오케스트레이션 역량이 전사에 완전히 내재화됐다고 답한 기업의 89%는 에이전틱 AI 도입 성과가 투자수익률(ROI) 기대치에 부합하거나 이를 웃돌았다고 밝혔다. 유아이패스는 데이터와 시스템, 업무 흐름, 사람과 AI 에이전트를 연결하는 오케스트레이션이 에이전틱 AI를 기업 전반으로 확장하는 핵심 요소라고 설명했다. ◆BHSN, 이커머스 전시회서 계약 AI '앨리비' 선봬 리걸AI 기업 BHSN이 오는 17일부터 19일까지 서울 강남구 세텍(SETEC)에서 열리는 '2026 코리아 이커머스 페어(KOEFA 2026)'에 참가해 계약 AI 플랫폼 '앨리비'를 선보인다. 앨리비는 계약서 초안 작성과 AI 검토부터 전자서명, 체결본 보관, 이행 관리까지 계약 업무 전 과정을 지원한다. 계약서 내용을 자연어로 질문하면 관련 조항을 근거로 답변하고, AI가 제안한 수정 내용도 계약서에 바로 반영할 수 있다. 체결 이후에는 갱신·해지 통지 기한과 대금 지급 일정 등을 자동으로 추적한다. 임정근 BHSN 대표는 18일 '계약 AI를 활용한 이커머스 계약 업무 혁신'을 주제로 발표한다. 공급·사입, 플랫폼 입점, 광고대행, 인플루언서 협찬, 해외 소싱 등 온라인 판매자가 자주 접하는 계약을 중심으로 AI 활용 사례를 소개할 예정이다. ◆메이머스트, '2026 대한민국 일자리 으뜸기업' 선정 메이머스트가 고용노동부가 선정하는 '2026 대한민국 일자리 으뜸기업'에 이름을 올렸다. 일자리 으뜸기업은 고용 증가와 일자리의 질 개선 노력 등을 종합적으로 평가해 선정한다. 메이머스트는 AI·보안·네트워크·디지털전환(DX) 분야 전문 인력 채용을 확대하고 교육·자격증 취득비와 자녀 학자금 지원, 사내 동호회 등 임직원 지원 제도를 운영하고 있다. 메이머스트는 그래픽처리장치(GPU) 연산과 네트워크, 스토리지, 전력·냉각부터 운영·관제 소프트웨어까지 아우르는 AI 풀스택 사업을 확대하고 있다. 지난해 '벤처천억기업'에 선정된 데 이어 기업공개(IPO)도 준비하고 있다.

2026.09.14 16:10김동원 기자

한국·프랑스 AI 협력, '신뢰성'까지 넓힌다…씽크포비엘-누말리스 맞손

한국과 프랑스가 인공지능(AI) 분야 협력을 확대하는 가운데 민간에서도 AI 신뢰성 기술을 둘러싼 협력이 구체화됐다. 씽크포비엘은 8일(현지시간) 프랑스 파리에서 열린 '한국-프랑스 이노베이션 커넥션'에 참여해 프랑스 기업 누말리스와 AI 신뢰성 분야 기술 개발과 사업화를 위한 양해각서(MOU)를 체결했다고 밝혔다. 누말리스는 AI가 예상하지 못한 데이터나 환경 변화에도 안정적으로 작동하는지를 검증하는 '강건성' 평가 전문기업이다. AI 시스템의 안전성과 강건성·설명 가능성을 수학적으로 검증하는 기술을 보유하고 있으며 항공우주와 국방·철도·원자력·금융·보험·의료 분야에서 관련 사업을 하고 있다. 이번 행사는 이재명 대통령의 프랑스 국빈 방문 기간에 열렸다. 이날 이 대통령과 에마뉘엘 마크롱 프랑스 대통령은 정상회담을 열고 AI와 반도체·양자 등 첨단기술 분야 협력을 확대하기로 했다. 배경훈 부총리 겸 과학기술정보통신부 장관도 프랑스 측과 AI·반도체·양자 기술 분야 협력 MOU를 체결했다. 씽크포비엘과 누말리스의 협력은 지난해 시작됐다. 양사는 산업통상자원부와 한국산업기술진흥원(KIAT)이 지원하는 한·프랑스 국제 공동 연구개발(R&D) 과제를 통해 AI 신뢰성 관련 기술을 공동 개발하고 있다. 이번 행사에서는 양사가 개발 중인 AI 강건성 평가 방법론도 공개했다. 씽크포비엘의 '리인'은 AI가 실제 환경에서 마주할 다양한 조건을 구성하고 평가에 필요한 데이터 범위와 부족한 부분을 찾아낸다. 누말리스의 '사임플'은 이렇게 설정한 조건에서 AI 모델이 얼마나 안정적으로 작동하는지를 평가한다. 양사는 두 기술을 결합해 AI 신뢰성을 검증하는 공동 평가 체계를 개발하고 있다. AI를 어떤 환경과 조건에서 시험해야 하는지를 정하고 해당 조건에서 AI가 안정적으로 작동하는지를 검증하는 구조다. 이번 MOU를 계기로 협력 범위도 넓힌다. AI 신뢰성 분야의 산업 수요에 대응하기 위한 기술 개발과 사업화를 함께 추진하고 각사가 진행 중인 국방 분야 프로젝트에서도 협력하기로 했다. 누말리스의 AI 강건성 평가 솔루션 '사임플'을 국내에 공급하는 방안도 논의하고 있다. 씽크포비엘은 국내 기업과 기관 3~4곳이 사임플 구매에 관심을 보이고 있다고 밝혔다. 아르노 이우알랭 누말리스 대표는 "AI 강건성은 AI 시스템의 신뢰성을 구성하는 핵심 요소 가운데 하나로 안전성·보안성과도 관련이 있는 만큼 반드시 갖춰야 할 요소"라며 "유럽이나 한국이나 AI 시스템을 구축하면 어느 시점에는 반드시 강건성을 검증해야 할 것"이라고 말했다. 박지환 씽크포비엘 대표는 "미래 AI 기술 방향에서 AI 신뢰성은 가장 중요하게 여겨질 분야"라며 "시장이 충분히 형성되지 않아 기업 스스로 생존하고 성장하기 쉽지 않은 만큼 양국 정부가 초기 시장이 형성될 수 있도록 많은 관심과 지원에 나서주길 바란다"고 강조했다. 안 르 에낭프 프랑스 인공지능디지털담당장관은 "누말리스와 씽크포비엘이 신뢰할 수 있는 AI를 위해 상호운용 가능한 국제적 프레임워크를 개척하고 있는 건 중요한 의미가 있다"며 "이러한 한국과 프랑스의 디지털 파트너십 장래는 매우 밝고 앞으로 더욱 협력을 강화한다면 양국의 기술 주권을 더 높은 수준으로 발전시킬 수 있을 것"이라고 밝혔다.

2026.09.09 11:11김동원 기자

씽크포비엘, 스위스서 AI 신뢰성 인증 교두보 마련

씽크포비엘이 스위스 인증 전문기업과 손잡고 자체 인공지능(AI) 신뢰성 기술을 글로벌 인증 체계에 편입시키는 발판을 마련했다. 씽크포비엘은 지난 4일(현지시간) 스위스 프리부르에서 CERTX AG와 AI 신뢰성 공동 연구개발 및 사업 추진을 위한 상호 교류·협력 양해각서(MOU)를 체결했다고 7일 밝혔다. CERTX AG는 AI와 기능 안전, 사이버보안 분야 시험·평가·인증을 전문으로 하는 기업이다. 2018년 스위스 프리부르에서 설립돼 자국 내 최초로 기능 안전과 사이버보안 분야에서 스위스 정부 인증기관 인증을 획득했다. 1878년 창업한 세계 최대 시험·검사·인증(TIC) 기업 SGS 그룹의 일원이기도 하다. 양사는 이번 협력에 따라 AI 신뢰성, AI 시스템 평가, 데이터 충실도 인증·시험, 표준·규제 대응 관련 기술, 방법론, 도구, 경험 및 전문 역량을 상호 공유한다. 한국과 스위스는 물론, 유럽 및 기타 국제 공동 연구개발 프로그램 또는 정부·민간 과제를 함께 발굴하고, 필요하면 컨소시엄을 구성해 공동 수행한다. 아울러 AI 시스템 신뢰성, 안전성, 데이터 충실도, 편향성, 강건성, 성능 및 인증 준비 관련 평가·검증 서비스 모델을 각자 전문 역량을 결합해 공동 서비스 또는 컨설팅 모델로 개발한다. 양사 보유 제품·도구·플랫폼을 연계해 실제 시장에서 활용될 방안을 마련하고, 양사가 한국과 유럽 시장에 각각 진출하도록 지원한다. AI 신뢰성, 인증, 평가, 규제 대응 및 관련 기술 분야에서 공동 세미나, 워크숍, 교육 프로그램, 고객 미팅, 기술 발표 등도 추진한다. 박지환 씽크포비엘 대표는 "AI 인증은 글로벌 시장 진출을 위한 경쟁력이자 동시에 새로운 진입 장벽이 될 것"이라며 "이런 때 한국이 개발한 데이터 충실도 측정 기술이 글로벌 인증 체계에 적용된다는 건 의미가 크다"고 말했다. 이어 "한국 기업이 해외 인증을 받는 단계에서 이제 한국의 기술이 글로벌 AI 인증 체계 구성 기술로 진입하는 전환점을 맞이하게 될 것"이라고 덧붙였다.

2026.09.07 15:20이나연 기자

AI 에이전트, 해커 공격 '회사 지시'로 착각…90% 뚫렸다

AI 에이전트가 해커 사이버 공격을 회사 지시로 착각해, 시스템을 공격자 뜻대로 바꿔준 사례가 공개됐다. 26일(현지시간) 미국 IT 매체 벤처비트에 따르면, 보안업체 테넷 시큐리티는 해킹 컨퍼런스 데프콘 34에서 '고스트재킹'이라는 공격 기법을 시연했다. AI 에이전트가 보안 기록에 남은 공격자 문구를 명령으로 인식해 회사의 도메인 주소 설정을 바꾸는 방식이다. 실험은 앤트로픽 코딩 도구 '클로드 코드'로 진행했다. 그 결과 AI는 90% 확률로 공격자가 심은 명령을 그대로 수행했다. 공격은 보안 시스템이 걸러낸 공격 문구를 AI 에이전트가 회사의 명령으로 잘못 읽으면서 이뤄졌다. 먼저 공격자가 웹사이트 보안 서비스 클라우드플레어에 악성 문구가 담긴 요청을 보냈다. 보안 시스템은 이를 정상적으로 걸러냈지만 걸러낸 문구는 보안 기록에 그대로 남았다. 이후 이 기록을 검토하던 AI 에이전트가 회사 지시와 공격자가 심은 문구를 구분하지 못했고 몇 달 전 회사가 내준 권한으로 공격자가 심은 내용을 그대로 실행했다. 이 공격은 기존 보안 체계에 걸리지 않는다. 보안 시스템은 정상 작동했고 이후 조작은 모두 에이전트가 이미 부여받은 정당한 권한으로 이뤄졌기 때문이다. 침입 탐지 시스템과 웹 방화벽, 계정 관리 시스템도 반응하지 않았다. 위반된 보안 규칙이 없어서다. 테넷은 이 같은 취약 구조가 노출된 정황을 48개 조직에서 확인했다고 밝혔다. 이 가운데 6곳은 포춘 500대 기업이었다. AI 에이전트 사이버 위협은 지속 커지고 있다. 오와스프(OWASP)가 지난 4일 발표한 '2026 거대언어모델(LLM) 애플리케이션 10대 위협'에서 'AI에 과도한 자율권을 부여하는 문제'는 지난해 6위에서 3위로 올랐다. 에이전트 도입 현장에서 관련 사고가 늘어난 결과다. OWASP는 취약점 표준을 만드는 국제단체다. 스티브 윌슨 OWASP LLM 부문 공동책임자는 "가장 먼저 할 일은 모델 바깥에 인가 관문을 두는 것"이라며 "에이전트가 도메인 주소 변경을 제안할 수는 있어도 스스로 실행할 권한까지 가져선 안 된다"고 밝혔다. 박지환 씽크포비엘 대표는 "AI가 추천하고 사람이 결정하면 올바른 판단이라고 착각하는 것이 가장 위험하다"고 지적했다. 이어 "보안은 출입문 앞에서 끝나지만 AI 신뢰성은 그 문을 열어준 순간부터 시작된다"며 "AI가 대안을 제시하더라도 실행 권한은 사람이 쥐고 있어야 한다"고 조언했다.

2026.08.27 09:52김동원 기자

'다중 AI 에이전트' 위협 현실로, 편의 좇다 통제 불능

사람 일을 알아서 처리해주던 AI 에이전트의 편리함이 '통제 불능'이라는 청구서로 돌아오고 있다. 여러 에이전트를 동시에 자율적으로 굴리는 다중 에이전트 방식이 퍼지면서, 개별 에이전트는 멀쩡한데 시스템 전체가 통제를 벗어나는 사고가 잇따르고 있다. 22일 이스라엘 사이버보안 업체 드림이 공개한 연구 결과에 따르면 지난 7월 초 나흘간 AI 에이전트들이 타이완 정부 시스템 21개를 훑고 계정 85개를 뚫어 인사 기록 2500건 이상을 빼냈다. 최대 8개 에이전트가 오픈소스 프레임워크인 헤르메스와 오픈클로를 기반으로 취약점을 찾았고, 초기 접근이 방어에 막히자 스스로 전술을 바꿔가며 파고들었다. 사람이 일일이 지시하지 않아도 에이전트끼리 결과를 주고받으며 다음 공격을 다듬었다. 이런 위험은 통제된 실험에서도 확인됐다. 상하이 인공지능연구원 등 중국 연구진은 2024년 8월 자연어처리 분야 학회인 전산언어학회(ACL)에서 '사이세이프(PsySafe)'라는 실험 결과를 발표했다. 여러 에이전트로 짜인 시스템에 '위험한 성향'을 지닌 에이전트를 하나 심고 그 행동이 집단으로 번지는지 측정한 연구다. 그 결과 특정 조건에서는 안전한 과업인데도 위험 행동 확산율이 98~100%에 이르렀다. 공격받은 에이전트 하나가 시스템 전체를 위험에 빠뜨렸다. 위험이 첫 지시가 아니라 에이전트들이 주고받는 대화를 거쳐 생겨나는 탓에 입력을 걸러내는 기존 안전장치도 대부분 무력화됐다. 이 같은 위험 근원으로는 개별 에이전트의 성능이 아니라 이들을 묶는 '질서' 부재가 꼽힌다. 박지환 씽크포비엘 대표는 "다중 에이전트 위험은 똑똑한 개별 에이전트가 질서 없이 동시에 작업을 해 발생한다"며 "각 에이전트가 각자 추구하는 우선순위가 다른데, 그 순위가 부딪힐 때 위협이 될 수 있다"고 분석했다. 또 그는 병원 응급실 자동화 사례를 예로 들며 "대기 시간을 줄이는 에이전트와 의료진 과로를 막는 에이전트가 각자 목표만 놓고 보면 합리적으로 움직이지만 전체 우선순위와 질서가 없는 상태에서 동시에 작동하면 결과적으로 환자가 더 위험해질 수 있다"고 말했다. 이어 "개별 에이전트는 시킨 일을 충실히 해내는 '모범생'이어도 질서 없이 뭉치는 순간 누구도 의도하지 않은 결과가 나온다"고 덧붙였다. 이 진단은 학계 연구에서도 나왔다. 호주 그래디언트연구소는 지난해 7월 다중 에이전트 위험 분석 보고서를 발표하며 "안전한 에이전트들의 집합이 곧 안전한 에이전트 집합을 의미하지는 않는다"고 지적했다. 통합된 감독과 정렬된 목표 아래에서도 다중 에이전트 시스템은 연쇄 오류와 조율 실패, 의도치 않은 집단 행동을 드러낼 수 있다고 했다. 보고서는 다중 에이전트가 개별 에이전트의 위험을 단순히 더하는 게 아니라 변형시킨다고 봤다. 인지적 한계는 연쇄 환각으로, 통신 오류는 시스템 전반의 조율 실패로, 개별 편향은 강화 작용을 거쳐 집단적 맹점으로 증폭될 수 있다고 설명했다. 박 대표는 다중 에이전트 위협 문제를 줄이기 위해선 이들을 관리할 똑똑한 에이전트를 하나 더 만들기보단 질서를 설계하는 것이 우선순위라고 밝혔다. 그는 "목표가 충돌할 때 시스템이 어떤 선택을 하도록 강제할지에 대한 예방 구조, 즉 질서를 만드는 일이 더 중요하다"며 "질서 없는 고도화는 자동화가 아니라 위험의 누적일 뿐"이라고 말했다.

2026.08.22 14:00김동원 기자

씽크포비엘, 경찰청 치안 AI 신뢰성 기틀 닦는다

씽크포비엘이 경찰청의 치안 인공지능(AI) 신뢰성 확보 작업을 맡으며 공공 AI 거버넌스 기준 수립의 선도 사례를 만든다. 씽크포비엘은 지난달 경찰청 'AI 영향평가 및 위험관리방안 수립' 정책과제연구 수행기관으로 선정된 데 이어 이달 사업에 착수했다고 9일 밝혔다. 올해 말 완료될 이번 연구는 경찰청이 수사·민원 업무 전반에 AI 기술을 도입하는 과정에서 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'과 내년부터 시행되는 'AI 및 데이터 기반 행정 활성화에 관한 법률(공공AI법)'에 대응하기 위한 영향평가·위험관리 체계를 마련하는 사업이다. 씽크포비엘은 ▲국내외 정책·조직 현황 조사 ▲경찰청 도입 AI 사업·서비스 영향평가 ▲AI 위험관리 정책 수립 ▲위험관리 조직체계·역할·책임 정립 ▲안전성·신뢰성 확보조치 및 문서화 작업을 수행한다. 치안 AI 분야는 기본권·신체·인권·공권력과 직결된다. 이에 씽크포비엘은 국내 법령 준수는 물론 경제협력개발기구(OECD)·유럽연합(EU) AI 법·ISO/IEC 국제표준 등 글로벌 AI 거버넌스 규범과의 정합성도 함께 맞출 계획이다. 박지환 씽크포비엘 대표는 "치안 AI는 성능 중심의 기술 검토만으로는 충분하지 않은 분야"라며 "글로벌 AI 거버넌스 규범을 경찰청이 선제적으로 검토하는 것은 투명하고 설명 가능한 치안 AI 운영체계 기준을 높이는 시도"라고 말했다.

2026.07.09 15:07이나연 기자

"성능보다 신뢰"…씽크포비엘, '트라이톤 해커톤' 참가자 모집

씽크포비엘이 인공지능(AI) 신뢰성을 개발 단계에서 설계·검증하는 해커톤 참가자를 모집한다. 씽크포비엘은 오는 8월 21일까지 AI 신뢰성 해커톤 '트라이톤' 두 번째 대회 참가 신청을 받는다고 29일 밝혔다. 이번 대회는 전공과 관계없이 AI 신뢰성·책임에 관심 있는 대학생과 대학원생이 무료로 참가할 수 있다. 트라이톤은 일반 AI 해커톤처럼 성능 경쟁이나 문제 발견에 그치지 않는 대회다. 참가자는 AI 개발 과정에서 신뢰성을 어떻게 설계하고 입증할 수 있는지를 겨룬다. 참가를 위해서는 최소 3명으로 팀을 구성해야 한다. 팀원은 AI 기획자와 데이터 과학자, AI 엔지니어 중 하나의 역할을 맡아야 한다. 4명 이상일 경우 같은 역할을 여러 명이 맡거나 추가 역할을 정할 수 있다. 대회는 9월 초 서울서 열리는 오리엔테이션 시작으로 진행된다. 이후 10월 16일까지 예선을 거쳐 11월 20일까지 본선을 치르고 11월 말이나 12월 초 시상식으로 마무리된다. 오리엔테이션에서는 대회 안내와 AI 신뢰성 기초 교육이 진행된다. 필수 참석은 아니지만 주요 내용이 공유되는 만큼 팀당 최소 1명 이상 참석이 필요하다. 입상팀에는 상금과 실무 경험 기회가 제공된다. 본선 상위 6팀에는 AI 신뢰성 관련 국제표준 번호를 활용해 52만 5900원부터 420만 100원까지 상금이 차등 지급된다. 참가자에게는 200만원 상당 AI 신뢰성 교육 수강 기회가 무료로 제공된다. 본선 진출팀 참가자 일부에게는 AI 신뢰성 전문가 민간자격 무료 응시 기회도 주어진다. 상위 6팀 참가자는 AI 관련 기업에서 채용 연계 인턴십에 참여할 수 있다. 지난해 첫 대회에서도 상위 입상 6팀 참가자는 상금 외에 인턴십 기회를 받았다. 트라이톤은 지난해 10월 국내 최초로 시작돼 올해 1월 첫 대회를 마쳤다. 당시 전국 대학생과 대학원생 191명 45팀이 참가했으며 참가자 상당수는 다양한 학문 전공자로 구성됐다. 씽크포비엘은 AI 신뢰성 검증과 소프트웨어(SW) 안전·품질 컨설팅을 주력으로 하는 국내 기업이다. 데이터 편향 분석을 비롯한 중복 제거, 인공지능 신뢰성 교육·컨설팅·도구 제공 등을 통해 기업과 공공기관이 신뢰할 수 있는 AI를 설계·검증하도록 지원한다. 한편, 첫 대회와 연계해 올해 1월 처음 시행된 'AI 신뢰성 전문가 민간자격' 일반등급 시험에서는 참가자 가운데 40명이 합격했다.

2026.06.29 10:15김미정 기자

씽크포비엘, 지방의회 AI 전략 강연…"도입보다 목표 정의가 먼저"

씽크포비엘이 지방의회 공무원을 상대로 인공지능(AI) 도입 목적보다 지역 발전 목표를 먼저 정의해야 한다는 공공 AI 전략을 제시했다. 씽크포비엘은 박지환 대표가 25일 국회의정관에서 열린 '지방의회직원 정책과정(2차)'에서 지방정부 AI 전략을 주제로 강연했다고 밝혔다. 지방의회직원 정책과정은 지역 현안 이해와 정책 역량 강화를 위해 올해 신설된 프로그램이다. 지방의회 소속 직원이면 누구나 참여할 수 있다. 국회사무처 의정연수원이 24일부터 26일까지 3일간 진행하는 이번 과정엔 광역·기초 지방자치단체 의회 소속 공무원 53명이 참석했다. 이날 강연에 나선 박 대표는 AI를 활용한 지역 산업·사회 발전의 목표를 정의하고 이를 실현하기 위한 공공의 역할과 실행 기준을 국제 표준에 기반해 제시했다. 특히 'AI로 무엇을 할 것인가'가 아닌 '어떤 발전을 만들 것인가'를 먼저 정의하는 것이 핵심임을 강조했다. 박 대표는 "지방정부가 AI를 단순 도입하는 것을 넘어 편익과 안전을 균형 있게 확보하는 정책 주체로 전환하는 출발점이 되기를 기대한다"고 말했다.

2026.03.25 17:46이나연 기자

씽크포비엘, 부산대와 AX 생태계 확산···"신뢰 기반 AI 전환"

씽크포비엘이 부산대학교 경제통상연구원과 함께 산업 현장의 인공지능 전환(AX) 가속화와 지역 AI 생태계 구축을 위한 협력 체계를 가동한다. 씽크포비엘은 부산대 경제통상연구원과 AX 관련 공동협력 업무협약(MOU)을 체결했다고 27일 밝혔다. 이번 협약은 단순히 인공지능(AI)을 도입하는 수준을 넘어 신뢰 구조에 기반한 지속 가능한 AX 모델을 실증하고 전국 단위로 확산하기 위한 목적이다. 양측은 앞으로 2년 동안 산업 AX 실증 및 확산을 위한 공동 과제를 발굴하고 수행한다. 특히 AI 융합 인재 양성과 재직자 역량 강화 교육 등 전문가 과정을 공동 운영해 공공기관 AX 생태계의 경쟁력을 높이는 데 집중할 계획이다. 산학 공동연구와 데이터·컴퓨팅 인프라 구축 협력을 통해 연구개발(R&D) 성과 창출에도 힘을 쏟는다. 박지환 씽크포비엘 대표와 최병호 부산대 경제통상연구원장은 "AI는 도입 여부보다 책임질 수 있는지가 중요한 문제"라며 "이번 협력은 AX의 지속 가능성을 확보하기 위한 전략적 선택이 될 것"이라고 말했다.

2026.02.27 11:10이나연 기자

씽크포비엘 "AI법 해석 인력 부족…신뢰성 전문가 필수 시대"

"인공지능(AI) 신뢰성은 막연한 도덕적 선언이 아닌 철저히 계산된 기술적 설계가 필요한 분야입니다. 기업은 어떤 근거로 기술적 판단을 내렸는지, 어떤 책임을 어떻게 질 것인지 설명할 줄 알아야 합니다. AI 신뢰성은 시장에 참여하기 위한 최소 자격 조건이 될 것입니다." 박지환 씽크포비엘 대표는 최근 지디넷코리아를 만나 "AI와 착하게 살자는 식의 감성적인 윤리적 접근으로는 실질적인 AI 위험을 통제할 수 없다"며 AI 신뢰성 패러다임 변화 필요성을 이같이 강조했다. 그는 "AI 신뢰성이란 기술을 설명하고 증명하며 책임질 수 있는 상태"로 정의했다. 박 대표는 AI 신뢰성 논의가 오랫동안 '윤리적인 AI' 또는 '신뢰할 수 있는 AI'라는 구호 수준에 머물렀다고 지적했다. 어디서 위험이 감지되고, 누가 멈추고, 누가 책임지는지는 거의 다뤄지지 않았다는 설명이다. 그는 이같은 공백을 메우기 위해 국내에서 처음으로 AI 신뢰성 민간 자격 'CTAP(Certified Trustworthy AI Professional)'를 설계했다고 밝혔다. CTAP 시험은 AI가 법적 준거성과 기술적 견고성을 동시에 갖췄음을 기술적으로 설명할 수 있는 전문가를 양성하는 것이 목적이다. 실제 CTAP는 AI 윤리에 대한 감각이나 가치 판단을 묻지 않는 것으로 알려졌다. AI 위험을 어떻게 식별하는지, 설명 가능성을 오해 없이 구현할 수 있는지, 운영 단계에서 신뢰가 무너질 때 어떤 기술적 판단을 내릴 것인지를 철저히 기술적으로 묻는 시험이다. 박 대표는 CTAP를 통해 AI 기술 심판자 역량을 가려내는 것이 목표라고 밝혔다. 그는 "어떤 기술이든 사회에 나오기 위해 충족해야 할 최소한의 규칙을 알고 있는지를 평가하는 것"이라고 밝혔다. CTAP 자격 체계는 두 가지로 구성됐다. 입문 단계인 FL(Foundation Level)은 실무 경험이 없더라도 응시할 수 있다. AI 신뢰성 개념을 오해하지 않고, 위험을 인식할 수 있으며, 개발자·기획자·법무·운영 담당자와 논의할 수 있는 수준이다. AL(Advanced Level)은 AI 신뢰성을 설계, 적용, 판단하는 책임을 갖추는 수준이다. FL 취득 후 최소 1년 이상 실무 경험이 필수다. 개발·기획·운영·공공 등 역할별·산업별로 전문화된 트랙으로 세분됐다. 자격 유효기간은 3년이다. 갱신 시 실무 수행 여부를 엄격히 따진다. 실제 현장에서 위험을 판단하고, 설명하고, 통제하는 역할을 수행하고 있다면 별도 재시험 없이 자격을 유지할 수 있다. AI기본법 시행됐지만…기준 설명·책임질 사람 없다 박 대표는 국내 AI기본법이 시행됐지만 법 기준을 기술적으로 해석할 인력이 부족하다는 점을 우려했다. 그는 "국내 AI기본법은 단순히 기업에 선의나 도덕성을 요구하지 않는다"며 "기업이 어떤 근거로 기술적 판단을 내렸는지 설명·책임을 요구한다"고 설명했다. 이어 "이를 수행할 인력이 없다면 현장에서 혼선을 빚을 수 있다"고 봤다. 박 대표가 이 상황에서 가장 우려하는 지점은 '형식주의 득세'다. 기업이 실제 위험을 관리하기보다 법에 따라 체크리스트를 채우고 문서를 갖추는 데만 급급한 신뢰성 흉내가 제도적으로 양산될 수 있다는 지적이다. 그는 "AI법은 사고 발생 시 기업을 보호하지도, 산업 안전을 담보하지도 못하는 허울뿐인 장치가 될 위험이 크다"고 말했다. 또 다른 우려는 '책임 공백'이다. 기술적 위험을 판단할 주체가 없다 보니, 의사결정이 한없이 위로 밀려 올라가거나 아무도 책임지지 않은 채 방치되는 현상이 나타난다는 설명이다. 박 대표는 "결과적으로 기업은 위축되고 산업 전체 속도는 떨어진다"며 "AI 윤리를 지켰다는 선언적 표현은 늘어나겠지만 판단 근거를 설명할 수 있는 사람이 없다면 결국 시장과 파트너로부터 외면받게 될 것"이라고 짚었다. 박 대표는 국내 AI 신뢰성 인재 생태계와 해외 생태계를 비교해 예시를 들었다. 박 대표는 "해외 주요국은 석·박사 과정에 AI 신뢰성과 거버넌스를 필수 커리큘럼으로 편입해 전문 인력을 양성해 왔다"며 "지식 체계를 정립하고 강사를 육성하는 데 최소 3년이 걸린다는 점을 고려하면, 관련 교육 기반이 부족한 한국은 사실상 4년 가까이 뒤처진 상태"라고 지적했다. "글로벌서 통용되는 AI 신뢰 전문가 양성할 것" 박 대표는 CTAP 기준을 글로벌 표준으로 만들겠다고 포부를 밝혔다. 실제 씽크포비엘은 CTAP 'AI 신뢰성 역량 평가 모델' 초안을 지난 10월 국제표준화기구(ISO)와 국제전기기술위원회(IEC) 등에서 공개한 바 있다. 현재 로드매핑 단계로 진입한 상태다. 그는 "이르면 내년 신규 표준 프로젝트로 제안될 가능성이 높다"고 말했다. 박 대표는 CTAP 중립성을 위해 국제 표준화는 반드시 추진돼야 한다고 주장했다. 그는 "국제 표준은 한 연구자나 한 기업 관점이 아니다"며 "각국 정부, 산업계, 학계, 규제 기관이 참여해 이해관계 충돌을 조정하고 합의를 거쳐 형성된다"고 설명했다. 이어 "표준은 단순히 기술 우수성을 알리는 문서가 아니다"며 "어떤 기술이라도 사회에 나오려면 최소한 이것은 충족해야 한다는 공통 규칙에 가깝다"고 덧붙였다. 박 대표는 국제 표준화가 AI 신뢰성 필수 요소라고 강조했다. 박 대표는 "사고가 발생했을 때 법적·사회적 책임이 수반되는 영역에서는 논문 몇 편이 아니라 어떤 국제적 기준에 근거해 판단했는가가 훨씬 중요해지는 상황"이라며 "규제, 감사, 분쟁, 정책 설계 현장에서는 논문보다 표준이 인용되고, 표준이 사실상 판단 기준선으로 작동한다"고 설명했다. 박 대표는 향후 기업에서도 AI 신뢰성은 선택 사항이 아니라 시장에 참여하기 위한 최소 자격 조건이 될 것으로 내다봤다. AI 시장이 성숙해질수록 "이 기술은 누가 책임지는가" "어떤 기준으로 허용됐는가" "사고 발생 시 누가 멈출 수 있는가" 같은 거버넌스 체계를 갖추는 것이 필수적이라는 이유에서다. 박 대표는 "전담 실무자 없는 조직은 이같은 질문에 답할 수 없다"며 "결국 고객과 파트너로부터 신뢰를 잃어 시장에서 스스로를 방어할 수 없는 고립 상태에 놓일 것"이라고 전망했다. 그는 기업이 AI 신뢰성 확보 패러다임을 바꿔야 한다고 주장했다. 그는 신뢰성 확보 첫 단계는 무엇을 금지할 것인가를 고민하는 것이 아니라 어떤 AI를 책임질 준비가 됐는지를 정책적으로 먼저 고려하는 것이라고 강조했다. 박 대표는 "정책적 토대 위에서 위험 요소를 차분히 관리해 나갈 때 신뢰성은 성장 발목을 잡는 족쇄가 아니라 불필요한 사고 비용을 줄이고 산업 안전성을 확보하는 합리적이고 전략적인 기반이 될 것"이라고 말했다.

2026.02.16 12:23김미정 기자

[현장] "성능·정확도 대신 책임·설명력 겨뤘다"…AI 기본법 시대, 해커톤의 진화

"이번 해커톤을 통해 인공지능(AI) 신뢰성은 문헌이나 이론 학습만으로 습득할 수 있는 영역이 아니라 실제 현장에서 판단과 설명, 책임 있는 선택이 병행될 때 체득된다는 게 입증됐습니다." 박지환 씽크포비엘 대표는 29일 서울 서초구 서울교육대학교에서 열린 '제1회 트라이톤' 시상식에서 이같이 말했다. 씽크포비엘과 신뢰할 수 있는 인공지능 국제연대(TRAIN)가 개최한 국내 첫 AI 신뢰성 해커톤은 AI 개발 절차 수행을 통해 내놓은 AI 신뢰성 입증 산출물을 평가해 순위를 가리는 대회다. 일반적인 AI 경연 대회가 모델의 성능과 정확도 향상에 집중했다면 트라이톤은 AI가 틀렸을 때의 설명 가능성과 책임 소재를 묻는다. 지난해 10월 오리엔테이션을 시작으로 4개월간 진행된 대회에는 전국 대학 45개 팀 192명이 참여했다. 예선을 거쳐 39팀(159명)이 본선에 진출했고 최종 28팀(117명)이 산출물을 제출했다. 씽크포비엘은 이번 대회 주제인 AI 신뢰성 기술이 기존 레드팀 중심 해커톤과 다르게 범위와 적용 기술에 차이가 있는 점을 고려했다. 참여자들의 이해를 돕기 위해 자체 개발 교육 서비스는 물론, 10년 이상 경력 전문 연구 인력과의 일대일 개별 멘토링을 제공했다. 이번 대회 멘토로 나선 천선일 씽크포비엘 연구소 수석매니저는 "최근 AI 기본법 시행 등 규제 환경 변화에 따라 모델이 단순히 정확한지를 넘어 '얼마나 믿고 쓸 수 있는가', '편향에서 얼마나 자유로운가'에 대한 질문이 중요해졌다"며 "그동안 피해 왔던 AI 신뢰성 관련 질문들을 수면 위로 끌어올리고자 했다"고 말했다. 천 매니저는 "참가자들이 현업에서도 다루기 힘든 신뢰성이라는 추상적인 주제를 구체적인 산출물로 구현하고 논리적으로 연결했다"고 덧붙였다. 이날 오후 진행된 시상식에서 최종 우승은 과학기술연합대학원대학교(UST)와 경북대학교 AI 전공 대학원생으로 구성된 'TLV 팀'(변재연·이제경·김보경)이 차지했다. 이 팀은 '가디언 AI(교육용 AI 안전성 평가 시스템)'을 개발하는 과정에서 AI 신뢰성 산출물을 만들었다. 이는 실제 서비스 환경을 가정한 구체적인 사례 설정과 충분한 근거 자료 기반 설계 구현, 일관되고 기술적 완성도가 높은 서비스 수준 달성 등에서 높은 평가를 받았다. 이어 '숨 쉰 채 발견' 팀(2위, 서울시립대 인공지능학과), '성·신의 한 수' 팀(3위, 성균관대 소프트웨어학과 및 성신여대 AI융합학부), 'SecurAI' 팀(4위, 경상국립대 AI정보공학과), '이닦조' 팀(5위, 가톨릭대 심리학과), 'GPS.dev' 팀(6위, 성균관대 지능형소프트웨어학과)이 순위별로 상패와 상금을 받았다. 상금은 최대 420만100원에서 최소 52만5천900원이다. 이 금액들은 AI 신뢰성 관련 국제 표준 번호를 상징한다. 입상 참가자들은 국내 정보기술(IT) 기업에서 정식 채용이 연계되는 인턴십 기회도 얻는다. 씽크포비엘은 소정의 교육 과정을 이수한 참여자에게 'AI 신뢰성 전문가 민간자격(CTAP)' 응시 기회도 부여했다. 지난 11일 서울·부산·광주·청주 등 4개 지역에서 치러진 제1회 시험에는 대회 참여자 40명이 합격했다. 씽크포비엘은 이번 대회가 공공의 관심과 지원으로 가능했다고 강조했다. 한국지능정보사회진흥원(NIA)은 'AI 허브' 학습용 데이터를 개방했고, 한국산업기술시험원(KTL)은 AI 신뢰성 산출물을 도출·검증할 수 있도록 그래픽처리장치(GPU) 컴퓨팅 자원을 무상 지원했다. 권종원 KTL 센터장은 축사에서 "정답이 없는 AI 신뢰성 확보를 위해 다양한 지식을 가진 인재들의 조화가 필수적"이라며 "신뢰성은 성능뿐만 아니라 다양한 분야를 다루기에 서로 다른 특성과 지식을 가진 분들의 '오케스트레이션'이 중요하다"라고 말했다. 박 대표는 "지금까지 AI를 더 정확하고 효율적으로 만드는 데 집중했다면, AI가 동작하지 않도록 멈추게 하거나 양보하게 하는 방법을 가르치고 기준을 설계하며 관리하는 역할이 더 중요해질 것"이라고 내다봤다.

2026.01.29 15:22이나연 기자

씽크포비엘·서울교대, 초등교원 위한 AI 교육 커리큘럼 만든다

씽크포비엘이 서울교육대학교와 손잡고 초등교육 현장의 인공지능(AI) 신뢰성 역량 강화를 위해 나선다. 씽크포비엘과 서울교대는 28일 서울 서초구에 있는 서울교대에서 'AI 신뢰성 역량 강화 목적의 교육·인력 양성 및 관련 사업에 관한 업무협약(MOU)'을 체결했다. 양측은 서울교대 재학생과 예비·현직 교원이 포함된 졸업생을 대상으로 AI 신뢰성 관련 교육, 홍보 및 학술·행사 교류, 보유 자산 활용 등을 추진한다. 세부적으로 초등교원을 위한 실무 중심 AI 교육 커리큘럼을 공동 기획할 예정이다. 또 관련 연구 활동 및 학생 참여와 연계한 시범적 교육 협력을 추진한다. 씽크포비엘과 서울교대는 교원의 AI 활용 전문성을 높이는 방안도 구상할 방침이다. 협업 기간은 1년이며 상호 협의를 통해 동일 조건으로 1년 단위 연장을 할 수 있다. 박지환 씽크포비엘 대표는 "AI 활용을 두고 윤리와 책임 관점에서 혼선이 생기고 있다"며 "초등학교 현장에서 이러한 문제를 해결하자는 취지로 서울교대와 협력하게 됐다"고 말했다. 이어 "예비 교원이 장래 올바른 AI 활용의 버팀목이 되도록 국제 표준과 규범을 준용한 내용을 전달하는 데 주력할 방침"이라고 부연했다.

2026.01.28 14:40이나연 기자

[현장] AI 신뢰성, 이제 자격증 시대…국내 첫 민간 전문가 시험장 가보니

"본 시험에 들어가기 앞서 오는 22일부터 시행되는 '인공지능(AI) 기본법'에 대해 잠시 설명드리겠습니다. 오늘 여러분이 치르는 자격 시험의 의미와 역할을 이해하는 시간이 되길 바랍니다." 11일 오후 찾은 서울 서초구 서울교육대학교 인문관 강의실. 한파특보가 내려진 주말이지만 30여 명의 사람들로 북적이는 교실이 있었다. 바로 국내 최초의 'AI 신뢰성 전문가(CTAP)' 시험장이다. 씽크포비엘이 주관하는 이번 제1회 CTAP 자격시험에는 AI 신뢰성 해커톤 '트라이톤' 참가자를 포함해 총 50여 명이 응시했다. 이날 시험은 서울교육대학교를 비롯해 부산 동의대학교, 광주 야생양봉원, 청주 충북대학교에서 동시에 진행됐다. CTAP는 총 45문항 객관식으로 구성됐으며 합격 기준은 100점 만점 중 65점 이상이다. 시험 기획을 맡은 씽크포비엘 연구원은 90분간 진행되는 시험에 앞서 AI기본법을 소개하고 몇 가지 예시 문항을 제시했다. '규제와 혁신이 충돌하는 AI 거버넌스의 역설을 해소하기 위해 참고할 국제 표준은 무엇인가', 'AI 시스템을 개발 및 배포한 후에 지속 수행해야 하는 작업은 무엇인가' 등 구체적인 예제가 언급되자 응시자들은 이를 노트나 노트북 등에 필기하며 경청했다. 단순 AI 윤리 아닌 실무형 인재 발굴 집중 민간 자격 제도상 이번 파운데이션 레벨(FL) 시험은 단순히 윤리적 구호를 묻지 않는다. 대신 국제 표준과 규범에 따른 책임의 구조를 정확히 이해하고 있는지에 초점을 맞췄다. AI 시스템이 왜 위험한지 그 구조를 파악하고 통제할 수 있는 '심판'의 역량을 검증하는 것이 목적이다. 박지환 씽크포비엘 대표는 "FL은 아직 책임을 맡기는 단계가 아니라, AI 신뢰성에 대해 올바르게 이해하고 소통할 수 있는지를 검증한다"며 "어설픈 실무 경험이 잘못된 확신으로 이어지는 것을 차단하고, 무엇이 올바른 접근인지 정확한 기준을 제시하는 것"이라고 설명했다. 박 대표는 "CTAP의 변별력은 AI를 '잘 쓰는 사람'이 아니라, 문제가 발생했을 때 원인과 책임을 기술적으로 설명할 수 있는 사람을 가려내는 데 있다"며 "도덕적 담론이 아니라 이미 국제적으로 합의된 지식 체계를 정확히 이해하고 있는지를 검증하는 것"이라고 짚었다. "AI 신뢰는 감정이 아닌 구조"…전국 4개 도시 동시 시행 첫 시험이 서울, 부산, 광주, 청주 등 전국 4개 도시에서 동시에 열린 점도 눈길을 끈다. 이는 수도권 외 지역 응시생들의 접근성을 배려한 결정이다. 박 대표는 "트라이톤 참가 학생들에게 공평한 기회를 주기로 한 약속을 지키기 위한 선택"이라며 "학생들이 이동하는 불편 대신 심사원이 지역으로 이동하는 편이 인재 발굴 취지에 맞다고 판단했다"고 설명했다. 씽크포비엘은 이번 자격 제도를 통해 AI 신뢰성을 추상적인 미덕이 아닌, 작동하는 '거버넌스'의 문제로 전환한다는 목표다. 기획부터 배포, 운영까지 각 단계의 담당자가 무엇을 해야 하는지 구체적으로 정의된 구조가 갖춰졌을 때 비로소 사회적 신뢰가 가능하다는 이유에서다. CTAP 합격 시 부여되는 자격의 유효기간은 약 3년으로 설정됐다. 이후에는 보수 교육이나 갱신 과정 도입도 검토되고 있다. 피지컬 AI 시대, 신뢰성 전문가 수요 '급증' 전망 시험을 마친 응시생들은 한 달 내 합격 여부를 통보받게 된다. 합격자들은 향후 최소 1년 이상의 실무 경험을 거쳐, 주관식·사례 기반으로 고난도 판단 능력을 검증하는 어드밴스드 레벨(AL)에 도전할 수 있다. 씽크포비엘은 올해 하반기 글로벌 연합 국가들과 함께 국제 시험 시행을 추진하며 역량 평가 모델의 국제 표준화에 박차를 가할 계획이다. 박 대표는 "최근 산업계 시선은 생성형 AI를 넘어 로봇·자율주행 같은 피지컬 AI로 빠르게 이동하고 있다"며 "사람 개입 없이 물리적 행동이 이뤄지는 영역은 사고 발생 시 생명·안전으로 직결되기에 신뢰성 전문가가 필수"라고 강조했다. 이어 "해외는 이미 작년부터 피지컬 AI 확산을 전제로 신뢰성 전문가 육성을 시작했지만, 국내는 여전히 기술 확산 후 제도가 따라가는 패턴"이라며 "2~3년 뒤 수요가 급증할 것"이라고 전망했다. 실제로 씽크포비엘이 AI 신뢰성을 이해한 기업들을 대상으로 한 소규모 설문에서는 약 94%가 관련 전문가 영입 의사를 밝혔다. 트라이톤 상위 입상자에게 고용 연계 인턴십을 제안한 기업도 있는 것으로 조사됐다. 박 대표는 "AI 기본법 제정과 국제 규제 강화 흐름 속에서 AI는 더 이상 '잘 되면 쓰고, 문제 생기면 고치면 되는 기술'이 아니라 '왜 허용했는지 사전에 설명해야 하는 기술'이 됐다"며 "책임 역시 사후 변명이 아니라 사전 설계의 문제가 된 만큼, AI 엔지니어는 AI로 교체될 수 있어도 책임을 설계하고 검증하는 역할은 사라지지 않을 것"이라고 강조했다. 이어 "CTAP는 AI를 만드는 시대를 넘어 'AI를 책임져야 하는 시대'를 대비하는 정확한 이정표가 될 것"이라고 덧붙였다.

2026.01.11 16:07이나연 기자

씽크포비엘, 日 지자체와 'AI 신뢰성' 협력 물꼬

씽크포비엘이 인공지능(AI) 신뢰성 개념과 역량을 일본에 확산한다. 씽크포비엘은 3~5일 서울 강남 코엑스에서 산업통상자원부 주최로 열린 '2025 코리아 테크 페스티벌'에 참가했다고 5일 밝혔다. 한국산업기술시험원(KTL) 추천을 받아 '스마트 제조 산업기술관' 전시 부스를 운영했다. 씽크포비엘은 페스티벌 행사 기간 동안 전시 부스에서 AI 신뢰성 교육과정과 특화 온라인 원격교육 체계인 'AI 튜터', AI 신뢰성 검증 가능 데이터 편향 진단 플랫폼 '리인(Re:In)' 등을 소개했다. 미국과 일본, 독일, 인도네시아에서 온 지자체·기관·기업 관계자와 상담도 진행했다. 행사에서는 특히 일본 지자체와 교류가 활발히 이뤄졌다. 씽크포비엘은 시즈오카·오키나와(이상 광역), 나고·야고베·요코하마와 도쿄 시부야(이상 기초) 등의 자치단체 지역산업 촉진·기업 지원 관계자와 만나 AI 신뢰성 분야 양측 협력 가능성을 살폈다. 일본 관계자는 AI 기술 도입 필요성을 절감하면서, 기술을 안전하게 적용할 수 있는 방안에 관심을 보였다. 씽크포비엘은 AI 신뢰성 기술 인프라와 역량 등을 적기적소 제공할 수 있다고 강조했다. 이에 일부 지자체 관계자가 현지 사무소 또는 법인 설립 등의 방안을 새해에 구체적으로 협의하자고 제안했다. 이들 지자체 이외에도 일본·인도네시아·독일 현지 유력 기업 임원과 미국 유타주 교통 연구·혁신 관련 부서 고위급 담당자 등과의 만남도 성사됐다. 씽크포비엘은 "지난 3년 동안 태국·베트남·인도네시아·필리핀 등과 교류 협력을 강화해 나간 만큼 내년에는 AI 신뢰성 분야가 국내외에서 두드러진 외연 확장에 성공할 수 있을 것으로 기대한다"고 밝혔다.

2025.12.05 15:46김미정 기자

씽크포비엘, 'AI 신뢰성' 민간자격증 정식 운영

씽크포비엘이 국내서 처음으로 인공지능(AI) 신뢰성 분야를 공식 인정하는 민간자격을 운영한다. 씽크포비엘은 지난달 한국직업능력연구원에 'CTAP(Certified Trustworthy AI Professional)'을 정식 등록하고 자격 발급 준비를 마쳤다고 1일 밝혔다. 이 자격은 일반등급(FL) 시험을 통해 취득할 수 있다. CTAP는 윤리·법 기준을 고려한 신뢰할 수 있는 AI 구축 개념을 정확히 이해하는 전문가를 인증한다. 데이터 품질 관리, 위험 관리, 설명·제어 가능한 AI 설계, 책임 있는 운영·배포까지 포함한 거버넌스 프레임워크 역량이 평가 기준이다. 운영기관인 씽크포비엘은 '제1회 트라이톤' 예선 통과 참가자에게 첫 응시 자격을 부여할 계획이다. 대회와 연계한 첫 인증 사례가 탄생하는 셈이다. 씽크포비엘은 그동안 산업 현장에서 신뢰성이 보안, 안전, 품질, 테스트와 뒤섞여 사용되며 혼란이 발생했다고 지적했다. 자격 도입은 이런 개념을 표준화하고, 기업이 실제 신뢰성 활동에 착수할 수 있는 실무 지표를 제공하는 데 의미가 있다고 평가했다. 이어 AI가 윤리·법을 준수하며 안전하게 동작하도록 개발 단계별 준칙을 지키는 것이 핵심이라고 강조했다. 사전 예방 관점의 시스템 확보가 중요해지면서 이를 담당하는 전문 인력의 자격 가치가 높아졌다고 분석했다. 씽크포비엘은 운영 초기에만 자격 발급을 단독 운영하되, 수요 확산 시 외부 협회·단체와 공동 운영하고 교육원·인증원 같은 산하 조직 설립도 추진할 방침이다. 또 '신뢰할 수 있는 AI 국제연대(TRAIN)' 등과 협력해 자격의 국제 확산도 모색할 계획이다. 역량평가 모델을 국제표준으로 발전시키기 위해 10월 호주 시드니에서 열린 AI 국제표준화 총회에서 관련 제안을 발표했고, 각국 대표들로부터 공감을 얻은 바 있다. 박지환 씽크포비엘 대표는 "AI 신뢰성 전문가라는 명확한 롤모델을 정의함으로써 체계적인 경력 설계와 준비가 가능해질 것"이라며 "이는 미래 유망 직업으로서 인식을 높이는 계기가 될 것"이라고 밝혔다.

2025.12.01 18:08김미정 기자

"AI 육성 허브로"…씽크포비엘, 우즈백에 'AI 신뢰성' 기술 공급

씽크포비엘이 우즈베키스탄 사마르칸트주 정부에 인공지능(AI) 신뢰성 기술을 공급했다. 씽크포비엘은 지난 13일 주 정부 청사에서 '리인'과 'AI 튜터' 도입과 후속 협력을 포함한 업무협력 양해각서(MOU)를 체결했다고 14일 밝혔다. 주 정부는 해당 기술을 교육 프로그램과 직업훈련 체계에 활용해 지역 AI 인재 양성과 산업 경쟁력을 강화할 방침이다. 리인은 AI 신뢰성 검증이 가능한 데이터 편향 진단 플랫폼이다. 한국정보통신기술협회 단체 표준으로 채택된 '데이터밸런스' 기법을 기반으로 데이터를 분석할 수 있다. AI 튜터는 AI 신뢰성에 특화된 온라인 원격교육 체계다. 쌍방향 학습과 해외 수요 대응을 위한 현지 언어 지원 기능을 갖췄다. 주 정부는 이번 도입을 국비 지원 'AI 신뢰성 기술 교육 아카데미' 운영에 우선 적용할 계획이다. 현지 교육기관과 직업훈련 과정에 기술을 통합해 전문 인력 양성을 목표로 한다. 씽크포비엘은 교육 프로그램의 시범 구축과 운영을 지원한다. 교육 평가 도구와 멘토링을 제공해 현지 프로그램의 정착을 돕는다. 양측은 향후 3년 동안 협력을 이어가며 인턴십 체계를 구축하기로 했다. 이를 통해 교육을 이수한 인력이 지역 기업과 연계돼 취업 기회를 확보할 수 있도록 지원한다. 주 정부는 이번 협력이 사마르칸트를 국가 AI 산업 인재 양성 거점으로 발전시키는 기반이 될 것으로 기대했다. 온라인 기반 교육·훈련 체계가 부족한 지역 교육 환경 개선에도 도움이 될 것으로 판단했다. 박지환 씽크포비엘 대표는 "올해 5월부터 사마르칸트가 AI 신뢰성 아카데미 구축에 강한 의지를 보였는데 이번에 우리 교육 체계와 데이터 편향 진단 플랫폼 구매로 이어졌다"며 "사마르칸트가 우즈베키스탄에서 새로운 미래 일자리로 주목받는 AI 신뢰성 인력 육성 허브로 발전하는 초석이 될 것"이라고 밝혔다.

2025.11.14 16:08김미정 기자

한·중 AI 전문가 한자리 모였다…AI 신뢰성 협력 강화 논의

한국과 중국 인공지능(AI) 전문가들이 한자리에 모여 AI 신뢰성 기술 발전과 협력 방안을 논의했다. 두 국가가 AI 신뢰성 정책과 표준화를 모색하며 미래 경쟁력을 확보하기 위한 자리였다. 씽크포비엘은 1일 서울 삼성 코엑스 컨퍼런스홀에서 '신뢰할 수 있는 인공지능 국제연대(TRAIN) 심포지엄'을 개최했다고 2일 밝혔다. 심포지엄에는 양국 학계와 산업계 전문가 10여 명이 발표자로 참여했다. 이들은 AI 신뢰성 확보를 위한 정책·제도·표준화, 데이터 거버넌스, 모델 견고성 평가, 편향 진단 등 다양한 연구와 실천 사례를 공유했다. 또 AI 신뢰성 전문가 양성 교육과 평가 체계에 대한 논의도 이뤄졌다. 오전 기조 강연에서는 정호원 더로벨 대표가 신뢰할 수 있는 AI 교육·훈련 방안을, 박지환 씽크포비엘 대표가 국제 표준화를 포함한 전문가 양성 전략을 설명했다. 구샤오둥 상하이교통대 교수는 중국 AI 정책과 인재 양성 전략을 소개했다. 오후에는 리리 베이징항공항천대 교수, 시에 샤오페이 싱가포르경영대 교수, 장얀 차이나유니콤 디지털정부제품 총괄이사 등이 발표에 나섰다. 교육과 실천을 통한 신뢰할 수 있는 AI 구현, 생성형 AI 시대의 보안과 강건성 대응, 통신사 기반 전주기 AI 신뢰성 솔루션 등 실질적 연구와 적용 사례가 공유됐다. 한국 측에서는 조일경 KTL 산업AI혁신센터 주임연구원이 개발자와 품질 관리자를 위한 역량 평가 체계를, 노영빈 NC AI 거버넌스인사이트 팀장이 게임 산업에서 출발한 AI 윤리·안전·거버넌스 실천 사례를 소개했다. 이상은 LG AI연구원 정책책임은 IEEE AI 윤리 인증과 LG-유네스코 AI 윤리 교육 프로그램을 소개했다. 에릭 데이비스 SK텔레콤 AI기술협력 본부장은 고객센터 AI 안전성 강화 사례를, 김경훈 카카오 AI 세이프티 리더는 글로벌 동향과 함께 카카오의 AI 세이프티 전략을 공유했다. 박지환 씽크포비엘 대표는 "중국 전문가 모두 한국이 중국과 미국 사이에서 AI 산업을 발전시킬 좋은 기회라고 평가했다"며 "국내 전문가들도 한국이 중국을 경쟁자가 아닌 협력 대상으로 봐야 한다는 데 공감했다"고 말했다.

2025.10.02 14:53김미정 기자

韓-中 AI 동맹 결성…'신뢰성' 기술 표준 손잡는다

민간 주도 국제 인공지능(AI) 연대 '트레인(TRAIN)'이 중국과 손잡고 AI 신뢰성 기술 표준화와 산업 생태계 확장에 착수한다. 씽크포비엘은 다음달 1일 서울 코엑스 콘퍼런스홀에서 '트레인 심포지엄'을 개최한다고 24일 밝혔다. 이번 행사는 한국과 중국의 AI 전문가들이 참여하는 한-중 워크숍 형태로 열린다. 중국 측에서는 구샤오둥 상해교통대 교수, 리리 베이징항공항천대 교수 등 학계 전문가와 장얀 차이나유니콤 총괄이사 등 산업계 인사가 발표를 맡는다. 또 야오 바오징 상해소프트웨어산업협회 비서장 등도 한국을 찾는다. 국내에서는 에릭 데이비스 SK텔레콤 본부장을 비롯해 김경훈 카카오 AI 세이프티 리더, 이상은 LG AI연구원 정책책임, 노영빈 NC AI 거버넌스인사이트 팀장, 조일경 KTL 주임연구원이 연사로 나선다. 이번 심포지엄은 중국의 AI 신뢰성 관련 정책과 표준화 동향을 파악하고 한국과의 협력 가능성을 모색하기 위해 마련됐다. 양국 기업의 데이터 거버넌스, 편향 진단, 모델 견고성 평가 등 운영 사례가 심도 있게 다뤄질 예정이다. 행사는 트레인이 주최하는 세 번째 심포지엄이다. 지난해 2월 판교에서 창립총회를 겸한 첫 행사가 열렸고 같은 해 10월 태국 방콕에서 한-태 워크숍이 개최된 바 있다. 트레인은 이번 교류가 국내 AI 신뢰성 전문인력 육성 체계를 갖추는 데 중요한 참고가 될 것으로 기대한다. 특히 중국의 교육 역량과 전략을 공유하고 향후 양국이 관련 국제표준을 공동으로 추진하는 등 긴밀한 협력 관계를 구축할 계획이다. 심포지엄 관계자는 "이번 행사는 같은 날 열리는 트라이톤과 연계돼 정부와 산업계 관심이 집중될 것"이라며 "양국 실무자가 한자리에 모여 규제, 표준, 교육, 산업 현장을 하나의 흐름으로 연결하는 장이 되길 바란다"고 말했다.

2025.09.24 11:51조이환 기자

Prev 1 2 Next