검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'Wi-Fi 안전성'통합검색 결과 입니다. (34건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[ZD SW 투데이] 사이냅소프트, AI CRM '리드센스' 출시

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ■ 사이냅소프트, AI CRM '리드센스' 출시 사이냅소프트가 AI CRM '리드센스'를 출시했다. 리드센스는 고객과 영업 활동을 관리하는 CRM에 AI를 기본 탑재한 서비스로, 미팅과 명함에서 나온 고객 정보를 AI가 기록하고 질문 한 줄로 진전이 멈춘 영업기회와 마감이 임박한 건을 찾아주는 솔루션이다. 웹 브라우저와 모바일에서 설치 없이 쓸 수 있으며 고객 미팅 기록부터 데이터 저장, 계약 단계 등 전반에 AI 활용을 지원한다. 사이냅소프트는 26년간 쌓아온 도큐먼트 AI 기술로 AI 기능을 직접 개발했다. AI 어시스턴트, AI 음성 회의록, AI 명함 등록을 가장 낮은 요금제인 스타터 플랜부터 기본 제공한다. 이번 출시를 기념해 가입일부터 1년간 이용 요금을 25% 할인하고 90일 무료 체험도 제공한다. ■ 카테노이드, '콜러스 MCP' 정식 출시 카테노이드가 AI와의 대화만으로 동영상 서비스를 관리하고 개발할 수 있는 '콜러스 MCP'를 정식 출시했다. 이와 함께 동북아시아 비디오 플랫폼 중 유일하게 클로드와 챗GPT의 공식 디렉토리에 모두 이름을 올렸다. 콜러스 MCP는 클로드와 챗GPT 등 AI 서비스에 연결해 비디오 서비스 연동, 시청 통계 확인 등 동영상 관련 업무를 자연어 대화만으로 처리할 수 있도록 지원하는 AI 연동 서비스다. 지난 6월 공개한 베타 버전에서 사용 편의성을 한층 높였다. 복잡한 서버 주소나 보안 키를 직접 입력할 필요 없이 클로드와 챗GPT의 공식 디렉토리에서 'Kollus'를 검색한 뒤 콜러스 계정으로 로그인하면 바로 연결할 수 있다. ■ 아도바, '아도바로 AIGC 스튜디오' 출시 아도바가 텐센트 클라우드와의 기술 협력을 바탕으로 통합 AI 콘텐츠 제작 서비스 '아도바로 AIGC 스튜디오(adobaRo AIGC Studio)'를 공식 출시했다. 이 서비스는 다양한 생성형 AI 모델을 하나의 플랫폼에서 통합적으로 활용할 수 있는 콘텐츠 제작 솔루션이다. 이용자는 개별 AI 서비스에 접속하거나 작업 환경을 전환할 필요 없이 영상과 이미지 등 다양한 콘텐츠를 제작할 수 있다. 특히 핵심 기능인 'AI 배틀'을 통해 단일 프롬프트만으로 최대 12개 AI 모델의 생성 결과물을 동시에 비교할 수 있도록 지원한다. ■ 벡터코리아, 'HV DTemp' 솔루션 선봬 벡터코리아가 전기차 배터리의 고에너지 밀도화와 급속충전 기술 요구에 대응할 수 있는 고전압 온도 측정 솔루션인 'HV DTemp'를 선보였다. HV DTemp는 최대 512개의 온도 및 습도 측정 포인트를 지원하는 디지털 측정 시스템이다. 초박형 플렉시블 회로에 배치된 소형 온도 센서를 활용해 배터리 셀 사이 좁은 공간에서도 온도를 정밀하게 측정할 수 있으며 고전압 환경에서 단일 연결 케이블을 통해 측정 데이터를 수집하도록 돕는다. 이를 통해 배터리 충방전 및 다양한 작동 조건에서 나타나는 온도 분포 분석을 지원한다. ■ 삼정KPMG, '코리아 핀테크 위크 2026' 참가 삼정KPMG가 오는 25일 서울 서초구 aT센터에서 열리는 '코리아 핀테크 위크 2026'에 참가해 'AI·디지털 자산 기반 핀테크 스케일업 전략'을 주제로 세미나를 개최한다. 금융위원회가 주최하고 한국핀테크지원센터가 주관하는 코리아 핀테크 위크 2026은 25일부터 27일까지 사흘간 진행되는 국내 최대 핀테크 행사다. 삼정KPMG는 행사가 처음 시작된 2019년부터 8년 연속 회계업계에서 유일하게 참여하고 있다. 이번 세미나는 AI 기술 발전과 디지털 자산 시장 성장으로 금융산업의 비즈니스 모델과 경쟁 환경이 빠르게 변화하는 가운데, 국내 핀테크 기업의 스케일업 전략과 글로벌 경쟁력 확보 방안을 모색하고자 마련됐다. ■ 한국이콜랩, '2026 데이터센터코리아' 참가 한국이콜랩이 지난 4일부터 6일까지 서울 양재 aT센터에서 열린 '2026 데이터센터코리아'에 참가해 AI 데이터센터를 위한 통합 액체냉각 솔루션과 운영 전략을 소개했다. 이번 행사는 냉각 시스템, 네트워크 및 인프라, 전력 설비, 에너지 관리 솔루션, DCIM 등 데이터센터 산업 전반의 최신 기술과 솔루션을 선보이는 자리로 마련됐다. 한국이콜랩은 이번 전시에서 AI 데이터센터 액체냉각 전문기업 쿨아이티 시스템즈 인수로 확장한 기술 및 서비스 역량을 공유했다. 특히 기존 수처리, 냉각유체 품질 관리 및 디지털 모니터링 역량에 직접 칩 냉각(D2C) 기술을 결합해 칩 단위부터 데이터센터 시설 전반의 냉각 인프라 운영까지 지원하는 엔드투엔드 솔루션을 선보였다. ■ 숭실대 AI안전성연구센터, 자율 침투 AI 방어 기술 개발 숭실대학교 AI안전성연구센터 최대선 교수 연구팀이 스스로 취약점을 찾아 침투하는 AI 해킹 도구를 가짜 서버로 유인해 무력화하는 기만 방어 기술을 개발했다. 연구팀은 지난달 마이크로소프트가 국가 배후 해킹에 사용됐다고 공개한 자율 침투 AI '아르텍스(ARTEX)'를 상대로 실험했다. 이번 실험으로 연구팀은 방어가 없을 때 취약한 웹 서버 60개 중 35개를 뚫던 공격이 방어 적용 후에는 한 건도 실제 서버에 닿지 못한 것을 확인했다. 연구팀이 개발한 기술은 공격을 막는 대신 속이는 방식으로, 방어자가 자신의 웹 서비스 소스코드를 AI에게 읽혀 공격자가 찾을 만한 가짜 페이지·가짜 접속 경로·가짜 비밀번호를 미리 심어 두는 구조다. 연구 결과를 담은 논문은 arXiv(2611.07611)에 공개됐다.

2026.11.09 16:37한정호 기자

비드래프트, 중국판 허깅페이스서 연구기관 인증받아

비드래프트가 중국 주요 인공지능(AI) 모델 플랫폼 모델스코프로부터 연구기관 공식 인증을 받으며 중국 시장 진출에 나선다. 비드래프트는 모델스코프로부터 연구기관(研究机构) 공식 인증을 받았다고 2일 밝혔다. 지난 2월 모델스코프 조직을 개설한 뒤 7개월 만의 성과다. 회사에 따르면 국내 AI 조직 가운데 해당 인증을 받은 곳은 비드래프트가 유일하다. 알리바바 큐원, 상하이 AI연구소, 지푸AI, 오픈BMB 등 일부 중국 AI 조직도 같은 인증을 받은 것으로 확인됐다. 모델스코프는 알리바바와 중국컴퓨터학회(CCF)가 공동 설립한 오픈소스 AI 모델 커뮤니티로 중국어권에서 '중국판 허깅페이스'로 불린다. 비드래프트는 이번 인증을 계기로 그동안 허깅페이스를 중심으로 공개해 온 AI 모델과 데이터셋을 중국 AI 생태계로 확대할 계획이다. 비드래프트의 모델스코프 조직 파이널-벤치에는 한국어 특화 언어모델 '다윈', 온디바이스 경량화 모델 '포켓', AI 안전성 진단 데이터셋 'AX-레이' 등이 등록돼 있다. 비드래프트는 AX-레이를 중심으로 중국 시장에 진출할 방침이다. AX-레이는 AI 모델을 12개 범주 117개 위험 항목으로 평가해 A부터 F까지 등급을 부여한다. 회사에 따르면 국내외 공개 AI 모델 40종 가운데 18종(45%)이 최하 등급을 받았다. AI 에이전트 안전성 항목에서는 25종 중 23종(92%)에서 위험 신호가 나타났다. 비드래프트는 "허깅페이스에서 쌓아 온 것을 중국 생태계로 옮기는 작업을 시작한다"며 "들어갈 자격을 먼저 확보한 것이고 성과는 지금부터 만들어 가는 것"이라고 말했다.

2026.10.02 11:38이나연 기자

'AI 멈춤 버튼' 만들면 끝일까…킬 스위치의 한계

인공지능(AI)이 인간의 통제를 벗어나는 상황에 대비해 시스템을 강제로 멈추게 하는 '킬 스위치'를 마련해야 한다는 논의가 미국에서 확산하고 있다. AI 자율성과 실행 범위가 커지면서 버튼 하나로 시스템 전체를 차단하기는 어렵다는 지적도 함께 제기된다. 26일(현지시간) 블룸버그 통신에 따르면 민주당 차기 대선주자로 꼽히는 개빈 뉴섬 캘리포니아 주지사는 이달 프런티어 AI 모델의 비상 종료 기능을 의무화하는 규정 검토를 지시했다. 미 의회에서도 고도화된 AI 시스템의 작동을 중단하거나 제한할 수 있는 기능을 요구하는 법안이 잇따라 발의됐다. 킬 스위치는 AI가 위험한 행동을 보일 때 사람이 시스템을 중단하거나 기능을 제한할 수 있도록 하는 장치다. 위험 수준에 따라 모델의 작동 속도를 낮추거나 특정 기능을 제한한 뒤 완전 종료하는 단계적 대응 방식도 거론된다. 이같은 논의는 AI 모델이 코드를 작성·실행하고 외부 도구와 서비스를 활용하는 등 자율성이 높아진 데 따른 것이다. 오픈AI는 지난 7월 사이버보안 평가에서 일부 모델이 인터넷과 격리하도록 설계된 통제를 우회해 AI 플랫폼 허깅페이스의 시스템에 접근한 사례를 공개하기도 했다. 실제 킬 스위치를 구현하는 과정에서도 한계가 예상된다. 소프트웨어에 종료 장치를 넣더라도 AI가 작업을 완료하기 위해 이를 수정하거나 비활성화할 가능성이 있어서다. 서버를 직접 끄는 방식도 여러 데이터센터와 클라우드에 분산된 AI 시스템 전체를 차단하기는 어렵다. AI 에이전트가 여러 소프트웨어와 클라우드 서비스, 외부 인프라를 넘나들며 작업하는 구조도 변수다. 업계에서는 단일 종료 버튼보다 지속적인 모니터링과 위험 행동 탐지, 단계적인 기능 제한 등 시스템 전반에 여러 보호장치를 구축해야 한다고 입을 모은다. 블룸버그 통신은 "고도화된 AI 모델의 완전한 종료를 보장할 수 있는 간단한 방법은 없다"며 "효과적인 보호장치는 AI 시스템 전반에 걸쳐 구축돼야 하며 지속적인 모니터링과 위험 행동을 포착해 인간의 개입을 유도하는 장치를 포함해야 한다"고 말했다.

2026.09.27 09:59이나연 기자

'AI 안전성' 논쟁 갈수록 확대…英 찰스 3세도 가세

최근 앤트로픽 등 주요 인공지능(AI) 업체 수장들에 도널드 트럼프 미국 대통령까지 가세하면서 AI 위험성 관련 논쟁이 뜨겁게 달아오르고 있다. 이런 가운데 영국 왕실이 AI 안전성과 사회적 영향에 대해 논의하는 자리를 마련해 주목받고 있다. CNN 등 외신은 16일(이하 현지시간) 찰스 3세 영국 국왕이 오는 17일 AI 기업과 정부, 자선단체 고위 인사들을 초청해 AI 기술 활용 방안을 논의할 예정이라고 보도했다. 찰스 3세는 이날 회담에 직접 참여하는 대신 중재자 역할을 맡을 전망이다. 참석자들은 AI 기술이 미래에 인류와 지구 모두에 이익이 되는 방향으로 발전할 수 있도록 공통의 원칙을 마련할 수 있을지 논의할 예정이다. 회담에는 카니슈카 나라얀 영국 AI 담당 장관을 비롯해 엔비디아, 구글 딥마인드, 오픈AI, 앤트로픽 등 주요 AI 기업 관계자들이 참석할 예정이다. 다만 각 기업에서 누가 참석할지는 아직 확정되지 않은 것으로 알려졌다. 찰스 3세 국왕은 약 20분간 회담에 참석할 예정이다. 외신에 따르면 젠슨 황 엔비디아 최고경영자(CEO), 데미스 허사비스 구글 딥마인드 공동창업자, 바티칸 AI 자문위원인 파올로 베난티 신부 등도 초청 명단에 포함됐다. 그 동안 찰스 3세 국왕은 AI에 대해 공개적으로 언급하는 경우가 많지 않았지만, 관련 발언을 할 때마다 위험성을 경고하는 취지의 메시지를 내놓았다고 CNN은 분석했다. 찰스 3세는 2023년 영국에서 열린 AI 안전 정상회의 당시 녹화 연설을 통해 AI 기술이 "심각한 도전 과제를 제시한다"고 지적했다. 이어 "개인의 사생활과 생계를 보호하고 민주주의를 위협으로부터 지키며, 신기술의 혜택이 모두에게 공평하게 돌아가도록 해야 한다"고 강조했다. 2024년 영연방 정상회의 연설에서도 AI를 사회에 해를 끼치는 기술이 아니라 도움이 되는 방향으로 활용하는 것이 중요하다고 언급했다. 한편 영국은 AI 안전성 분야에서 다소 모호한 위치에 있다고 CNN은 평가했다. 세계 최고 수준의 대학과 AI 안전 연구기관을 보유하고 있지만, 최첨단 AI 모델의 개발은 주로 미국과 중국 기업들이 주도하고 있어 영국의 영향력에는 한계가 있다는 분석이다.

2026.09.17 15:47이정현 미디어연구소

씽크포비엘, 경찰청 치안 AI 신뢰성 기틀 닦는다

씽크포비엘이 경찰청의 치안 인공지능(AI) 신뢰성 확보 작업을 맡으며 공공 AI 거버넌스 기준 수립의 선도 사례를 만든다. 씽크포비엘은 지난달 경찰청 'AI 영향평가 및 위험관리방안 수립' 정책과제연구 수행기관으로 선정된 데 이어 이달 사업에 착수했다고 9일 밝혔다. 올해 말 완료될 이번 연구는 경찰청이 수사·민원 업무 전반에 AI 기술을 도입하는 과정에서 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'과 내년부터 시행되는 'AI 및 데이터 기반 행정 활성화에 관한 법률(공공AI법)'에 대응하기 위한 영향평가·위험관리 체계를 마련하는 사업이다. 씽크포비엘은 ▲국내외 정책·조직 현황 조사 ▲경찰청 도입 AI 사업·서비스 영향평가 ▲AI 위험관리 정책 수립 ▲위험관리 조직체계·역할·책임 정립 ▲안전성·신뢰성 확보조치 및 문서화 작업을 수행한다. 치안 AI 분야는 기본권·신체·인권·공권력과 직결된다. 이에 씽크포비엘은 국내 법령 준수는 물론 경제협력개발기구(OECD)·유럽연합(EU) AI 법·ISO/IEC 국제표준 등 글로벌 AI 거버넌스 규범과의 정합성도 함께 맞출 계획이다. 박지환 씽크포비엘 대표는 "치안 AI는 성능 중심의 기술 검토만으로는 충분하지 않은 분야"라며 "글로벌 AI 거버넌스 규범을 경찰청이 선제적으로 검토하는 것은 투명하고 설명 가능한 치안 AI 운영체계 기준을 높이는 시도"라고 말했다.

2026.07.09 15:07이나연 기자

KTL, 글로벌 인허가 대응 의료기기 생물학적 안전성평가 교육

한국산업기술시험원(KTL)은 지난 7일 글로벌 의료기기 시장 진출을 준비하는 충남지역 의료기기 기업 경쟁력 강화를 위한 전문 세미나를 개최했다고 8일 밝혔다. KTL은 바이오의료헬스본부 아산분소 개소를 계기로 지역 의료기기 기업과의 상생, 협력 강화를 위해 세미나를 마련했다. '글로벌 인허가 대응을 위한 의료기기 생물학적 안전성 평가의 이해'를 주제로 충남지역 의료기기 기업을 대상으로 열린 이날 세미나에는 20여 개 의료기기 기업 관계자가 참석했다. 세미나에서는 기업의 글로벌 진출 애로해소 수요를 반영해 글로벌 의료기기 인허가 대응 역량을 강화하기 위한 ▲의료기기 생물학적 평가-요구사항 및 일반원칙(ISO 10993-1:2025) ▲의료기기의 생물학적 평가-재료의 화학적 특성화(ISO 10993-18:2020(Amd.1:2022)) 등 국제표준 최신 개정사항을 공유하고 내외부 전문가 실무 중심 강의가 이어졌다. 세부 교육 내용으로는 ▲해외 인허가 기술문서 작성법 및 최신 규제 동향 ▲의료기기 생물학적 안전성평가 ▲의료기기 비임상 유효성 평가 ▲의료기기 화학적 특성 분석 실무 가이드라인 등이 다뤄졌다. 특히 최근 개정된 국제표준과 글로벌 규제 변화에 대한 설명과 실무 적용 방안이 참석자들의 호응을 얻었다. 세미나 종료 후 실시한 만족도 조사에서 참석자들은 “실무에 직접적인 도움이 되는 유익한 교육이었다” “최신 규제 동향을 이해하는 데 큰 도움이 됐다” “앞으로도 다양한 주제의 전문 세미나가 지속적으로 개최되기를 기대한다”는 등의 의견을 남겼다. 이종찬 KTL 의료용품평가센터장은 “급변하는 글로벌 의료기기 규제 환경에 효과적으로 대응하기 위해서는 최신 국제표준과 인허가 동향에 대한 지속적인 정보 공유가 중요하다”며 “앞으로도 의료기기 기업들의 글로벌 경쟁력 강화와 성공적인 해외 시장 진출을 지원할 수 있도록 다양한 전문 교육과 세미나를 지속적으로 운영해 나갈 계획”이라고 밝혔다.

2026.07.08 17:11주문정 기자

이용자 보호로 개념 확장…네이버, 'AI 안전성 체계 2.0' 공개

네이버는 이용자 보호까지 개념을 확장한 AI 안전성 관리 체계 'ASF 2.0'을 선보였다고 8일 밝혔다. ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 공개한 ASF을 최신화해 이용자 보호 측면까지 확장된 개념을 담아낸 AI 안전성 관리 체계다. AI 기술 모델의 성능과 위험 수준을 중점적으로 관리해왔던 기존 ASF의 안전성 관리 범위를 확대해 사용자들이 실제로 경험하는 서비스를 중심으로 안전성을 관리한다는 점이 골자다. 네이버는 AI안전 서울 포럼(SFASS)을 통해 ASF 2.0의 방향성과 구성요소, 강화된 ▲분류 ▲관리 ▲실행 체계 그리고 앞으로의 활동 계획에 대해 공유했다. 발표에 나선 송대섭 네이버 AI 세이프티 정책 리더는 "AI를 둘러싼 기술과 서비스 및 정책과 제도 환경이 변화하며, 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다"며 ASF 2.0의 제정 배경을 밝혔다. 송 리더는 네이버 ASF 2.0에는 ▲AI탭, 쇼핑 AI 에이전트 등 고도화 중인 네이버 '온 서비스 AI' 전략 ▲글로벌 AI 생태계에서의 멀티 모델 환경의 확산 ▲AI기본법 제정 등과 같은 정책·제도 환경의 변화 등이 다각적으로 반영됐다고 부연했다. ASF 2.0은 AI를 이용자와 서비스 관점에서 안전하게 관리하는 것을 목표로, AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리하게 된다. 이를 위해 기존 AI의 기술 모델을 중심으로 삼았던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장하고, 성능 중심의 단일 평가 기준도 ▲맥락 ▲활용사례와 ▲영향으로 세분화했다. 구체적으로 ▲AI 위험 분류 체계에 따라 AI 서비스에서 발생할 수 있는 위험을 유형화하고, ▲AI 영향 평가 매트릭스에 따라 활용 영역 및 범위에 따른 예상 영향을 평가한다. ▲마지막으로 해당 체계를 바탕으로 지속적인 안전성 평가와 사용자 피드백 등을 통해 이용자들이 AI 서비스를 지속적이고 안전하게 쓸 수 있도록 관리하게 된다. 네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 돕는 전사적 실행 체계 'CHEC 2.0'을 마련하기도 했다. 지난 6월 선보인 AI탭도 CHEC 2.0을 통해 설계부터 출시 단계에 이르는 모든 과정에서 AI 안전성을 점검했다. 네이버는 AI 탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속 점검해 나가겠다는 방침이다. 송 리더는 "앞으로도 AI 안전성에 대한 경험과 노하우를 축적해가며 학계, 정책, 외부 전문가 및 다양한 기관과의 협업을 통해 이러한 경험과 노하우를 공유하고 발전시켜 나갈 것"이라고 말했다.

2026.07.08 13:55박서린 기자

[영상] 휴머노이드 로봇, 또 사람 공격?...알고 봤더니

인간을 공격하는 것처럼 보이는 휴머노이드 로봇 영상이 소셜미디어 틱톡에서 수백만 조회수를 기록하며 화제를 모았다고 과학매체 인터레스팅엔지니어링이 5일(현지시간) 보도했다. 인도네시아에서 촬영된 영상 속 로봇은 과장되고 불규칙적인 움직임을 보이며 무술 자세를 취한 뒤 주변 사람을 향해 돌진한다. 영상이 틱톡에 공개되자마자 빠르게 확산됐다. 영상을 본 많은 이용자들은 로봇이 소프트웨어 오류로 오작동한 것 아니냐는 반응을 보였다. 그러나 이는 오작동이 아니라 로봇 개발자들이 기동성과 제어 능력을 보여주기 위해 연출한 시연이었다. 무술에서 영감을 받은 전투 자세와 빠른 돌진, 발차기 동작 등은 모두 로봇의 민첩성과 균형감각, 반응성을 강조하기 위해 사전에 프로그래밍된 움직임이었다. 인터레스팅엔지니어링은 이번 시연이 최신 휴머노이드 로봇이 얼마나 생동감 있고 역동적인 움직임을 구현할 수 있는지 보여주는 사례라고 설명했다. 로봇의 안전사고를 보여주는 사례가 아니라는 것이다. 또한 연출된 시연이 소셜미디어에서 오락과 현실의 경계를 흐릴 정도로 설득력 있게 받아들여질 수 있으며, 로봇 기술의 발전이 잘못된 정보 확산으로 이어질 가능성도 보여준다고 지적했다. 해당 매체는 이처럼 현실감 있는 시연 영상이 실제 오작동이나 자율적인 행동의 증거로 오인되면서 휴머노이드 인공지능(AI) 시스템의 현재 기능과 안전성에 대한 우려를 키우고 있다고 분석했다. 최근 휴머노이드 로봇의 안전성을 둘러싼 논란이 잇따르고 있다. 지난달 공개 시연 도중 유니트리 G1 로봇이 어린이를 발로 차는 장면이 공개돼 논란이 됐다. 이번 연출 영상과 달리 해당 사건은 실제 시연 과정에서 발생한 것으로, 휴머노이드 로봇이 공공장소에서 빠르고 역동적으로 움직일 경우 충분한 안전거리 확보와 효과적인 군중 통제가 얼마나 중요한지 보여준 사례로 평가됐다. 휴머노이드 AI 로봇에 대한 우려는 공개 시연을 넘어 다양한 실험으로도 이어지고 있다. 지난해 미국에서는 휴머노이드 로봇 '맥스'가 통제된 역할극 시나리오에서 주인을 향해 비비탄 총을 발사하는 모습이 공개돼 논란이 일었다. 해당 로봇은 처음에는 발사 지시를 거부했지만, 가상의 캐릭터 훈련 과정이라고 다시 설명하자 지시에 따라 행동했다. 비록 해당 실험은 통제된 환경에서 진행됐지만, 성능이 고도화된 휴머노이드 로봇의 보급이 확대될수록 예기치 않은 행동이 발생할 가능성에 대한 우려도 커지고 있다고 매체는 전했다.

2026.07.06 15:22이정현 미디어연구소

'깜깜이' 평가 벗는다…AI안전연구소, 모델 성적표 공개 기조로

한국 인공지능안전연구소(AISI)가 2024년 11월 출범 이래 비공개해 온 인공지능(AI) 모델 안전성 평가 결과를 점진적으로 공개하기로 했다. 오픈소스 모델을 포함해 국내외 주요 AI 모델을 대상으로 수행한 안전성 평가 실적을 보다 상세히 알려 투명한 평가 체계를 강화하겠다는 목표다. 19일 업계에 따르면 AISI는 지난 15일 공식 홈페이지를 통해 올해 상반기 싱가포르 AISI와 공동 수행한 'AI 에이전트 데이터 유출 위험 공동 테스트 세부 결과 보고서'를 공개했다. 해당 보고서에는 AI 에이전트가 정상적인 지시를 수행하는 과정에서도 판단 착오로 인해 민감 정보를 부적절하게 조회, 전달, 공개하는 치명적 오류를 범할 수 있다는 실태가 구체적으로 담겼다. 한-싱 공동 보고서 첫 공개…목록 넘어 세부 수치·결과까지 대상이 된 글로벌 모델명은 A·B·C 등으로 익명 처리됐지만 정량적 평가에서는 에이전트의 업무 수행 능력이 우수하더라도 안전한 데이터 처리 능력이 이를 담보하지 못하는 '인지-행동 불일치' 사례가 다수 확인됐다. 실제 도구를 실행하지 않고도 임무를 완료했다고 주장하는 '허위 보고' 환각 현상 등 에이전틱 AI 특유의 위험 요인들도 입증됐다. AISI가 이처럼 세부 수치와 제언까지 담은 보고서를 발표한 건 사실상 처음이다. AISI는 그동안 AI 모델 안전성 평가 내역을 제한적으로 공개한 탓에 개별 모델의 실명 평가 결과는 물론 내용도 확인하기 어려웠다. AISI가 지난달 공개한 'AI 모델 42종 안전성 평가 수행 실적'은 2025년 1월부터 2026년 4월까지 약 16개월간 검증한 국내외 주요 모델 42종을 대상으로 했는데, 구체적인 데이터 없이 모델명과 평가 항목 위주의 목록만 공개됐다. AISI가 한국정보통신기술협회(TTA)와 함께 국내 첫 AI 안전성 평가 사례로 발표한 카카오의 '카나나'를 제외하면 대다수 모델의 안전성 등급이나 상세 지표는 알려진 바 없다. AISI의 활동 실적과 역할을 둘러싼 의문이 일각에서 제기된 것도 연구소의 본질인 안전성 평가 결과 공개에 신중했던 탓이 크다. 다만 업계에서는 글로벌 빅테크 모델과 과학기술정보통신부 주도 '독자 AI 파운데이션 모델(독파모)' 개발 프로젝트 등 국내 모델 간 수준 차이가 드러나는 데 따른 부담이 컸을 것으로 분석한다. 김명주 AISI 소장은 "앞으로 진행되는 안전성 평가는 대상 기업이 거부하지 않는 이상 가급적 모든 내용을 공개할 계획"이라면서도 "기업 요청 등에 따라 일부 모델명은 익명 처리될 수 있다"고 말했다. 구글·오픈AI·앤트로픽과 'AI 안전 동맹'…한국형 평가 체계 주도 AISI는 과기정통부 산하 한국전자통신연구원(ETRI) 부설 조직으로서 대한민국을 대표해 세계 각국 AI안전연구소나 관련 기관과의 협력을 전담해 왔다. 전 세계 3대 AI 개발사로 꼽히는 구글 딥마인드, 오픈AI, 앤트로픽과 최근 맺은 연쇄적인 파트너십은 글로벌 AI 안전 네트워크 구축의 핵심 동력이 될 전망이다. 구글 딥마인드와는 지난 4월 과기정통부가 체결한 업무협약(MOU)을 토대로 안전 프레임워크 구축과 테스트 방법론 논의를 이어간다. 오픈AI와는 지난 17일 AISI가 직접 MOU를 맺고 고위험 분야별 안전성 평가 방법론과 벤치마크 지식을 공유하기로 했다. 특히 AISI가 자체 구축한 한국어 벤치마크 데이터를 적용해 한국적 시각의 할루시네이션·안전성 평가를 공동 수행하고 국제 표준 마련에도 협력할 예정이다. 앤트로픽과는 지난 18일 과기정통부와 맺은 MOU와 연계해 자율형 AI 에이전트에 대한 레드팀 평가와 한국어 맥락의 모델 안전성·오남용 위험 평가를 추진한다. 금융을 비롯한 주요 분야의 AI 취약점 발굴과 사이버 위협 정보를 신속히 공유하는 등 사이버 보안 분야에서도 실질적 협력에 나선다. 김 소장은 "구글 딥마인드, 오픈AI, 앤트로픽 등 글로벌 빅테크의 협업 토대를 지속적으로 넓혀 최첨단 모델의 위험을 과학적으로 검증하고 국제적으로 통용되는 한국형 평가 체계를 주도하겠다"고 강조했다.

2026.06.19 16:19이나연 기자

KT, 고려대와 개발한 한국어 특화 AI 벤치마크 공개

KT는 고려대와 공동 개발한 멀티모달 대형언어모델(MLLM) 벤치마크 'KSAFE-MM'을 공개했다고 16일 밝혔다. 벤치마크는 멀티모달 AI 모델 안전성을 한국 사회 이슈와 문화적 맥락을 반영해 평가한다. 글로벌 공통 리스크를 한국 문화 맥락으로 변환한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁과 같은 한국 사회 고유의 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 총 평가 샘플 1만 4135개로 구성돼 한국 최대규모 한국어 멀티모달 안전성 평가 데이터셋이다. 이제까지 젬마, 하이퍼클로바엑스 등 글로벌 멀티모달 대형 언어모델 12개를 검증했다. 벤치마크엔 자동화한 범용 파이프라인이 적용됐다. 'KSAFE-MM'은 현지 커뮤니티 기반 민감 주제 수집부터 템플릿 기반 쿼리 생성, 합성 이미지 생성, AI 안전 장치나 윤리 제한을 우회하도록 변형된 탈옥 쿼리 생성까지 전 과정을 아우르는 4단계 자동화 파이프라인을 구현했다. 이는 특정 문화권 전문가 없이도 현지 특성을 반영한 안전성 벤치마크를 신속하게 구축할 수 있는 표준 프레임워크를 제공해 비용은 낮추고 효율을 높일 수 있다는 의미라고 KT는 설명했다. KT, 고려대 공동 연구진은 동일한 파이프라인을 일본어에 적용한 파일럿 실험을 통해 전 세계 어느 문화권에도 즉시 적용 가능함을 실증했다. 연구 결과는 실제 AI 서비스 환경에서의 안전성 검증, 레드팀 테스트, 가드레일 모델 평가 등 목적으로 활용될 수 있을 것으로 기대된다. 연구 결과와 벤치마크는 아카이브와 허깅페이스에 공개된다. 박재형 KT AX미래기술원 프론티어 AI랩장은 "벤치마크 공개는 단순한 데이터 배포를 넘어, AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어, 한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.

2026.06.16 10:34홍지후 기자

TS, 경찰과 사고분석 기술 공유…사고조사 협력 강화

한국교통안전공단(TS·이사장 정용식) 자동차안전연구원(KATRI)은 교통사고 원인 규명의 정확성을 높이기 위해 자체 개발한 '사고분석 프로그램'을 경기남부경찰청 교통범죄수사대와 공유, 과학적인 사고조사 체계 구축을 위한 협력을 강화한다고 13일 밝혔다. '사고분석 프로그램'은 KATRI가 교통사고 조사 경험을 바탕으로 직접 개발한 사고분석 전문 프로그램이다. 교통사고 조사 과정에서 확보되는 사고 영상·음향 데이터·차량 주행정보 등 다양한 데이터를 시간 기준으로 동기화해 입체적으로 분석할 수 있도록 지원한다. 교통사고 조사에서는 기록 방식과 시간 기준이 서로 다른 다양한 데이터를 종합적으로 분석해야 하는데, 사고분석 프로그램은 이러한 데이터를 동시에 분석할 수 있도록 지원함으로써 사고 상황을 보다 직관적이고 정밀하게 파악할 수 있도록 돕는다. 또 사고 영상 화질 개선·분석 기능 등을 활용해 사고 발생 과정과 차량 움직임을 더욱 명확하게 확인할 수 있어 사고 원인 규명과 조사 효율성을 높이는 데 보탬이 되고 있다. '사고분석 프로그램'은 KATRI가 교통사고 분석 경험을 바탕으로 2020년에 개발한 후 2023년에 관련 기술 특허 등록을 완료했다. 2025년에는 사고 영상·음향 데이터·차량 주행기록 등 다양한 사고 데이터 분석 기능을 고도화해 더욱 정밀한 사고분석을 할 수 있도록 개선했다. KATRI는 과학적 사고분석 기술을 소개하고 사고조사 협력체계를 강화하기 위해 경기남부경찰청 교통범죄수사대 관계자들을 초청해 지난 6일 사고조사 교육 프로그램을 운영했다. 이날 KATRI의 사고조사 사례와 분석 기법을 공유하는 한편 '사고분석 프로그램'을 활용한 사고분석 방법을 시연했다. 또 충돌시험동·사이버보안센터·화재분석동·주행시험장 등 연구원 주요 시험시설을 활용해 자동차 안전성 평가와 사고조사 관련 연구 활동을 공유했다. KATRI는 다양한 교통사고의 과학적 원인 규명과 신속한 조사 지원을 위해 올해 상반기 중 '사고분석 프로그램' 사용 매뉴얼과 교육 프로그램을 개발할 계획이다. 하반기에는 '사고분석 프로그램' 사용을 희망하는 경찰 등 공공기관에 무료로 배포하고 사고분석 방법 교육을 실시할 예정이다. 정용식 TS 이사장은 “앞으로도 자동차 사고분석 기술을 지속적으로 고도화하고, 관계 기관과 협력을 확대해 더욱 과학적이고 신뢰성 있는 사고조사 체계를 구축하는데 앞장서겠다”고 말했다.

2026.03.13 14:43주문정 기자

셀렉트스타, 세계 최상위 AI 학회 입성…'문화 맞춤형' 안전성 기술 인정

셀렉트스타가 자체 개발한 인공지능(AI) 안전성 검증 기술로 세계 최고 권위의 학회에서 기술력을 인정받았다. 셀렉트스타는 자사 AI 세이프티팀의 연구 논문 'CAGE: 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크'가 오는 4월 브라질에서 열리는 'ICLR 2026' 메인 컨퍼런스에 채택됐다고 19일 밝혔다. ICLR은 구글 스칼라 기준 AI 및 머신러닝 분야 최상위권 학회로, 올해는 1만 9000여 건의 제출 논문 중 상위 약 28%만이 채택됐다. 이번 논문의 핵심은 각 나라 문화와 법적 맥락을 반영해 AI 안전성을 검증하는 레드티밍 데이터를 자동 생성하는 기술이다. 기존 안전성 검증이 영미권 데이터셋을 단순 번역해 사용하던 한계를 극복하고, 언어 및 문화권별 맞춤형 시험문제를 생성해 AI의 잠재적 취약점을 파악한다. 셀렉트스타 연구팀은 '시맨틱 몰드' 개념을 제안해 국가별 문화적 특성을 반영한 현지화된 공격 질문을 생성했다. 그 결과 캄보디아어(크메르어) 등 데이터가 부족한 언어권에서도 우수한 성능을 보였다. 한국 상황에 최적화된 안전성 벤치마크 '코르셋(KoRSET)' 역시 기존 번역 데이터셋보다 효과적으로 모델 약점을 찾아내는 데 성공했다. 이번 연구는 기획부터 구현, 검증까지 외부 기관의 도움 없이 셀렉트스타 내부 인력만으로 일궈낸 성과라고 회사 측은 강조했다. 해당 기술은 이미 국내 주요 대기업 AI 프로젝트에 선제 도입돼 모델 취약점 점검과 운영 효율 개선에 기여하고 있다. 김민우 셀렉트스타 AI 세이프티 팀장은 "이번 ICLR 채택은 우리가 단순 데이터 구축 기업을 넘어 독보적인 원천 기술을 보유한 AI 기술 기업임을 입증한 사례"라며 "CAGE 기술은 이미 대기업 프로젝트에 적용돼 실질적인 성과를 내고 있다"고 강조했다. 공동 저자인 임용택 셀렉트스타 연구원은 "AI 성능 경쟁을 넘어 이제는 안전성이 핵심 경쟁력인 시대"라며 "현장에서 바로 활용 가능한 품질의 안전 평가 기술로 글로벌 기준을 만드는 데 기여할 것"이라고 말했다.

2026.02.19 10:08이나연 기자

고리2호기, 2033년까지 4월 8일까지 가동 승인…내년 2월 재가동

고리2호기가 지난 13일 원자력안전위원회로부터 2033년 4월 8일까지 계속운전할 수 있다는 승인을 받았다. 고리2호기는 1983년 8월 10일 상업운전을 시작한 국내 두 번째 원자력발전소다. 지난 2023년 4월 8일 운전허가기간이 종료돼 정지했다. 한국수력원자력은 고리2호기 계속운전을 위해 2022년 4월 계속운전 안전성 평가서를 제출하고, 계속운전 방사선 환경영향 평가에 대한 주민 의견 수렴 결과를 포함한 계속운전 운영변경허가를 신청한 이후 3년 7개월여 동안 규제기관의 엄격한 심사를 받았다. 한수원은 이번 원자력안전위원회의 승인으로 고리2호기가 계속운전을 위한 충분한 안전성을 확보했음을 최종 확인했다고 전했다. 한수원은 고리2호기를 포함해 2030년 이전 운전허가 기간이 만료되는 원전 10기(고리2·3·4호기, 한빛1·2호기, 한울1·2호기, 월성2·3·4호기) 계속운전 안전성평가보고서를 원자력안전위원회에 제출해 심사를 받고 있다. 한수원 측은 원전 10기 계속운전의 첫 시작인 고리2호기 계속운전 승인은 한수원뿐만 아니라 국가 에너지와 산업 정책 측면에서도 상당한 의미가 있다고 평가했다. 전대욱 한수원 사장직무대행은 “계속운전은 인공지능(AI)·데이터센터 등 미래 전력수요 증가에 대한 안정적인 에너지 공급원으로서 국가 경제에 기여하고 2050 탄소중립 실현에 중요한 역할을 할 것”이라며 “안전을 최우선으로 고리2호기 적기 재가동을 위해 최선을 다할 것”이라고 말했다. 고리2호기는 이번 계속운전 승인으로 2033년 4월 8일까지 운전을 할 수 있게 됐다. 현재 진행 중인 설비개선을 완료하고 규제기관의 정기검사를 통해 안전성을 확인한 후 2026년 2월 재가동을 목표로 하고 있다. 또 계속운전 기간에도 지속적인 설비개선뿐만 아니라 안전조치 사항의 철저한 이행을 통해 발전소 안전성과 성능을 더욱더 강화한다는 방침이다.

2025.11.14 12:58주문정 기자

한국 주도 '제3자 결제서비스제공기관의 정보보호' 국제표준 발간

우리나라가 제안한 '제3자 결제서비스 제공기관을 위한 정보보호 지침 및 요구사항'이 국제표준으로 발간됐다. 국내외적으로 제3자 결제서비스가 활발하게 진행 중인 상황에서 산업통상자원부 국가기술표준원과 금융결제원은 국내 금융 보안기술을 국제표준에 선제적으로 반영하기 위해 2022년 8월 '금융서비스 국제표준화위원회(ISO/TC 68)'에 표준안을 제안했다. 이 표준안은 지난 3년간의 국제적 논의를 거쳐 ISO18960 표준으로 발간됐다. 제3자 결제서비스란 고객 계좌를 보유하고 있지 않은 기관이 모바일이나 온라인상에서 결제·조회·송금 서비스를 제공하는 것으로 네이버·카카오·토스 등이 대표적인 서비스 제공기관이다. 이 표준은 시스템 개발과 테스트부터 설치·운영·모니터링에 이르는 제3자 결제서비스 전반의 정보보호 지침이다. 서비스 제공기관이 다뤄야 할 고객의 개인식별 정보관리, 기관의 관리자 접근관리 및 보안구역 출입통제, 시스템 공급업체의 보안관리 등에 대한 요구사항을 설명하고 있다. 김대자 국가기술표준원장은 “이번 국제표준 발간으로 국내 결제서비스 관련 기업은 국제표준에 부합하는 품질과 안전성을 갖추고 해외시장에 진출하기 용이할 것으로 기대된다”며 “앞으로도 금융서비스 분야에서 우리 기업이 활용 가능한 표준을 개발할 수 있도록 적극적으로 지원하겠다”고 밝혔다.

2025.09.14 23:18주문정 기자

세계 1위 CRM 세일즈포스도 찍었다…美서 다투모로 알려진 이 회사, 205억원 투자 유치

생성형 인공지능(AI) 활용의 신뢰 및 안전에 대한 전 세계적인 관심이 높아지고 있는 가운데 셀렉트스타가 대규모 투자 유치를 통해 경쟁력을 입증했다. 세계 1위 고객 관계 관리(CRM) 기업 세일즈포스까지 셀렉트스타의 AI 데이터 및 신뢰성 검증 능력을 인정해 투자에 나서면서 글로벌 시장 확대에도 더 속도를 낼 수 있게 됐다. 12일 테크크런치 등 주요 외신에 따르면 셀렉트스타는 지난 11일 세일즈포스 벤처스와 ACVC파트너스 등 해외 투자 파트너들과 KB인베스트먼트, KB증권, 신한벤처투자, 키움인베스트먼트, SBI인베스트먼트, 삼성증권, 무림캐피탈, 인포뱅크파트너스 등 국내 투자사를 통해 1천550만 달러(약 205억원) 규모의 시리즈B 투자 유치에 성공했다. 이에 따라 누적 투자유치액은 총 2천800만 달러(약 379억원)을 달성했다. 셀렉트스타는 해외에선 다투모(Datumo)라는 기업명으로 알려져 있다. 셀렉트스타라는 법인명을 해외 다른 기업이 사용하고 있어 미국 법인명을 제품명과 동일한 '다투모'로 정해 지난 3월부터 활동 중이다. 서울에선 지난 2018년 설립돼 AI 개발에 필수적인 데이터 수집·가공 솔루션을 제공하며 국내 5대 그룹 및 5대 금융그룹을 포함한 320여 고객사를 확보했다. 김세엽 셀렉트스타 대표는 국방과학연구소 AI 연구원 출신으로, 카이스트 동문 5명과 함께 공동 창업했다. 2023년부터는 라이선스가 확보된 고품질 학습용 데이터셋 판매 서비스를 론칭해 누적 판매 50억원을 돌파했다. 최근에는 한국어 데이터셋 구매를 희망하는 글로벌 기업의 문의가 이어지는 가운데 다국어 및 멀티모달 데이터셋 분야로 확장 중이다. 지난해에는 약 600만 달러의 매출을 기록했다. 이들에 투자에 참여한 기관들은 셀렉트스타의 기술력과 글로벌 성장 가능성에 주목했다. 특히 세일즈포스는 AI 데이터 분야에서 셀렉트스타가 보유한 독보적 기술력과 시장 선도 가능성을 높이 평가하며 전략적 투자를 단행했다. 셀렉트스타는 세일즈포스와의 파트너십을 발판으로 미국, 일본 등 해외 시장 진출에 속도를 낼 전망이다. 김 대표는 "국내에서 열린 행사에서 딥러닝AI 창립자 앤드류 응과 화상 대화를 진행한 것을 링크드인에 공유한 것이 세일즈포스 벤처스의 관심을 끌게 됐다"며 "자금 조달 과정은 약 8개월 가량 소요됐다"고 말했다. 셀렉트스타는 올해 초 국내 최초로 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(Datumo eval)'을 출시하며 업계의 주목을 받았다. '다투모 이밸'은 신뢰성 검증 프로세스를 자동화해 AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전에 식별, 대응하는 국내 최초 솔루션이다. 출시 이후 신한은행, 우리은행, NH농협은행 등에 도입됐다. 오는 8월에는 시티그룹 AI 총괄과 'AI 신뢰성 검증'을 주제로 한 글로벌 웨비나를 개최하며 글로벌 금융권의 실질적 수요 확대가 기대되고 있다. AI 데이터 및 신뢰성 검증 영역에 꾸준히 기술력을 쌓아온 셀렉트스타는 과학기술정보통신부가 주관하는 '독자 AI 파운데이션 모델 개발 사업'에 SKT 컨소시엄으로 참여, 지난 4일 최종 선발팀으로 이름을 올렸다. 셀렉트스타는 모델 안정성 검증 데이터를 비롯해 데이터 파트 전반을 총괄하며 완성도 높은 국가대표 AI 개발에 일조할 예정이다. 셀렉트스타는 시리즈B 투자 유치를 기점으로 신뢰성 검증 솔루션 기술 고도화 및 글로벌 시장 진출에 본격적으로 나설 예정이다. 이 외에도 포브스코리아 '2025 대한민국 AI 50' 선정, 국내 최초 '생성형 AI 레드팀 챌린지' 대표 파트너사로 행사 운영, MWC 2025 '글로벌 AI 레드팀 챌린지' 주최 등 다양한 국내외 프로젝트를 주도하며 글로벌 수준의 기술력을 인정받았다. 시리즈B 투자를 리드한 KB인베스트먼트 김승환 글로벌투자본부장은 "셀렉트스타는 국내 AI 데이터 분야에서 선두를 달리는 기업이지만, 꾸준한 도전과 성장으로 업계에 새로운 기준을 제시하고 있다"며 "'AI 신뢰성 검증' 초기 시장에서 이미 확실한 기술력을 확보하고 있고, 다양한 산업 도메인에서 AI 상용화가 가속화됨에 따라 의미 있는 성과를 만들어 낼 것으로 기대한다"고 설명했다. 쇼 야마나카 세일즈포스 수석심사역은 "이번 투자는 세일즈포스가 한국 시장을 겨냥한 AI 투자 및 사업 확장의 전략적 이정표가 될 것"이라며 "양사의 파트너십을 기반으로 '에이전트포스(Agentforce)'를 비롯한 글로벌 AI 에이전트 사업 전반에서 강력한 시너지를 창출할 것으로 기대한다"고 강조했다. 업계에선 이번 일을 두고 메타가 최근 데이터 라벨링 기업 스케일AI에 14억3천만 달러를 투입해 인수한 것과 비슷하다고 봤다. 또 셀렉트스타가 스케일AI와 유사하게 사전 훈련 데이터셋을 제공하고, 아리제AI처럼 AI 평가 및 모니터링 분야에서 제품을 선보이고 있다는 점을 높게 평가했다. 테크크런치는 "동종 기업과 달리 셀렉트스타(다투모)는 '다투모 이밸'이라는 풀 스택 평가 플랫폼을 제공하고 있다"며 "출판된 책에서 크롤링한 데이터셋을 통해 차별화한 것도 눈에 띈다"고 말했다. 김 대표는 "이번 시리즈B 투자 유치를 계기로 신뢰성 검증이라는 새로운 시장에서 우리의 독보적인 기술력과 성장 가능성을 인정받았다는 데 큰 의미가 있다"며 "글로벌 시장 진출의 원년으로 삼고 AI의 품질과 안전성을 책임지는 글로벌 AI 기업으로 도약하겠다"고 밝혔다.

2025.08.12 09:46장유미 기자

[AI는 지금] '속도전' 넘어 '신뢰' 경쟁…AI, 보이지 않는 안전벨트 맨다

전 세계가 인공지능(AI) '속도전'에 몰두하는 사이 한국이 '안전'이라는 카드를 꺼내 들었다. AI 안전연구소가 신뢰성의 컨트롤타워로서 정책을 이끌고 네이버·LG 등 민간 기업들은 개발 현장에서 자체 안전망을 촘촘히 구축하는 '투트랙' 전략이다. 30일 업계에 따르면 AI 기술 경쟁이 격화하며 안전 논의가 뒷전으로 밀리고 있다는 우려가 나온다. 미중 기술 패권 경쟁이 '개발 가속'을 부추긴 탓이다. 이런 흐름에 맞춰 AI 안전 논의를 이끌던 주요국들의 행보도 달라졌다. 실제 영국은 올해 초 AI안전연구소를 AI보안연구소로 개편했다. 미국 역시 지난달 '미국 AI 안전연구소'를 'AI 표준 및 혁신 센터(CAISI)'로 전면 재편하며 정책의 무게추를 기술 표준 선점과 산업 경쟁력 강화로 옮기는 듯한 모습을 보였다. 반대로 국내에서는 안전과 신뢰가 단기적인 속도 경쟁을 넘어서는 장기적인 성공의 핵심 가치라는 인식이 상대적으로 유지되고 있다. 당장의 성능 과시보다는 신뢰할 수 있는 AI 생태계를 먼저 구축하는 쪽이 결국 시장의 최종 승자가 될 것이라는 판단이다. 韓 안전 컨트롤타워 'AI안전연구소'…'셰르파' 역할 자처 국내 AI 안전과 신뢰성 확보의 컨트롤타워는 AI안전연구소다. 지난해 11월 전자통신연구원(ETRI) 산하로 출범한 연구소는 국가 AI 정책을 지원하고, 기술 발전의 잠재적 위험을 해결하는 임무를 맡는다. 연구소 조직은 크게 세 축으로 나뉜다. ▲AI안전정책 및 대외협력실(정책) ▲AI안전평가실(평가) ▲AI안전연구실(기술)이다. 연구소는 이 세 조직의 유기적인 협력을 통해 AI 안전과 산업 경쟁력 확보라는 '두 마리 토끼'를 잡는다는 목표다. 기업과의 협력도 활발하다. 연구소는 지난 3월 'MWC 2025'에서 국내 스타트업 셀렉트스타가 주최한 '글로벌 AI 레드팀 챌린지'를 후원하며 국내 기업의 기술력을 알리는 데 힘을 보탰다. 레드티밍은 AI의 취약점을 일부러 공격해 약점을 찾는 활동으로, 안전성 확보의 핵심 과정이다. 최근에는 LG전자와 손잡고 글로벌 규제 대응에 나섰다. 지난 6월 맺은 업무협약(MOU)은 LG전자의 제품·서비스 개발에 연구소의 안전성 전문 지식을 결합하는 것이 골자다. 이는 유럽연합(EU)의 'AI 법(AI Act)'처럼 구체화되는 규제 흐름에 민관이 함께 대응한다는 점에서 의미가 있다. 이러한 활동은 '신뢰성이 곧 경쟁력'이라는 연구소의 철학을 보여준다. 김명주 AI안전연구소장은 "인공지능(AI)은 이제 자본과 기술의 경쟁을 넘어 '신뢰성'이 핵심인 시대에 접어들었다"며 "결국 어느 기업의 AI가 더 믿을 수 있느냐가 관건이 될 것"이라고 강조했다. '신뢰' 경쟁력, 민간서 꽃핀다…개발 DNA부터 '안전' 심는 K-AI 기업은? AI 신뢰성이라는 과제는 민간의 자발적인 노력과 만나 시너지를 내고 있다. 특히 정부의 '독자 AI 파운데이션 모델' 프로젝트에 참여한 기업들은 성능 경쟁을 넘어 믿을 수 있는 AI를 확보하는데도 주력하고 있다. 그 시작은 AI의 '원유'로 취급받는 학습 데이터 단계에서부터다. 업스테이지의 '1T 클럽'이 대표적이다. 1T 클럽은 1조 개 토큰 규모의 고품질 데이터를 공동으로 수집하고 공유하는 플랫폼으로, 업스테이지는 이를 통해 확보한 데이터를 '사람 중심, 신뢰성, 공정성' 등 5대 윤리 원칙에 기반해 정제하며 AI의 첫 단추를 꿰고 있다. 모델 개발 단계에서도 정교한 '컨트롤타워'가 가동된다. 네이버가 운영 중인 'AI 안전 프레임워크(ASF)'가 주요 예시다. 실무진이 모델의 잠재적 위험을 논의하고 '리스크관리워킹그룹'이 이를 평가해 최종적으로 이사회에 보고하는 방식의 다층적 거버넌스를 갖췄다. 카카오, SK텔레콤, KT 역시 구체적인 조직과 원칙을 마련했다. 카카오는 '그룹 기술윤리 소위원회'를 신설해 리스크를 사전에 점검하고 SK텔레콤은 '사람을 향한 AI'라는 의미를 담은 'T.H.E. AI' 거버넌스 원칙을 수립했다. KT 역시 '책임감 있는 인공지능센터'를 설립해 개발 초기부터 윤리성을 관리한다. LG AI연구원은 한발 더 나아가 학습 과정에서 생기는 '편향 뉴런'을 기술로 찾아 제거하는 방법론을 개발했다. 모델의 내재적 공정성을 높이려는 시도다. AI 모델이 완성된 후에도 신뢰도를 높이기 위한 '담금질'은 계속된다. 네이버는 '레드티밍'을 통해 AI의 약점을 의도적으로 공격하고 여기서 확보된 유해한 응답 데이터를 다시 모델 학습에 이용해 방어력을 키우는 방식을 활용한다. 업계 관계자는 "안전은 당장에는 비용처럼 보여도 글로벌 AI 규제에 선제적으로 대응하는 무형 인프라"라며 "AI 신뢰성 조차도 하나의 산업으로서 보고 접근해야 기업이 성공할 수 있을 것"이라고 말했다.

2025.07.30 15:27조이환 기자

드론특별자유화구역 전국 67곳으로 확대…20개 구역 신규 지정

국토교통부는 드론 산업의 서비스 모델 상용화를 촉진하고 기술 실증을 위한 기반을 확대하기 위해 제3차 드론특별자유화구역을 지정했다. 제3차 지정을 통해 드론특별자유화구역은 전국 32개 지자체, 총 67개 구역으로 대폭 확대됐다. 드론특별자유화구역은 비행승인·특별비행승인·안전성 인증 등 드론 비행 규제 6종을 면제하거나 간소화는 제도로, 지자체 안전관리를 전제로 드론 비행을 허용할 수 있도록 설계됐다. 민간 기업은 실험실에 머무르지 않고 실제 환경에서 드론을 활용해 자유롭게 실증할 수 있다. 제3차 지정에서는 제1·2차 지정으로 운영되던 23개 지자체, 47개 구역에서 기존 지자체(광주 북구, 전남 고흥군)가 2개 구역을 추가 지정했다. 또 신규 9개 지자체가 운영할 18개 구역을 지정해 총 20개 구역이 추가 지정됏다. 제1·2차 드론특별자유화구역 지정과 운영을 통해 다양한 분야에서 실증 성과를 거뒀다. 태안에서는 군집 드론 라이트쇼 연출 기술이 고도화됐고 인천·포천·서산 등에서는 드론 배송 실증이 이뤄졌다. 제주·울산 등에서는 지역 축제 안전 모니터링에, 경주에서는 국가유산 주변 모니터링에 드론을 활용했다. 전주에서는 침수지역 모니터링, 광주에서는 수소연료 기반 드론 개발이 진행됐다. 제3차 드론특별자유화구역 지정에서는 도심·농촌·해양·산림 등 다양한 공간에서 드론 기술 실증과 상용화를 촉진하고, 규제 문턱 없이 국민이 체감할 수 있는 드론 서비스를 현실화하는 데 중점을 뒀다. 총 110개 이상의 드론 기업이 장거리·고하중 드론 배송, 산불 감시 및 진압, 하천 수질관리 등 국민생활과 밀접한 분야의 실증이 다양하게 추진된다. 국토부는 이를 통해 기업은 시간과 비용을 절감하면서 기술개발과 사업화를 병행할 수 있는 환경을 확보할 수 있고 지역 기반 드론 활용 서비스 확산 등 산업 전반에 긍정적 파급효과가 있을 것으로 기대했다. 주종완 국토부 항공정책실장은 “드론특별자유화구역 제도를 통해 민간이 주도적으로 시제품·서비스를 실증하고, 정부는 과감하게 규제를 열어주는 방식으로 신산업 혁신을 견인하고 있다”며 “앞으로도 실증에 걸림돌이 되는 경직된 규제를 규정과 상황에 따라 유연하게 개선하고, 현장 수요에 기반한 규제 특례 적용을 확대해 드론이 국민 실생활에 기여하는 산업으로 자리매김할 수 있도록 적극 뒷받침하겠다”고 밝혔다.

2025.07.30 07:56주문정 기자

슈어소프트테크, 'AI 신뢰성' 책임진다…통신사 플랫폼 구축 계약 체결

국내 통신사들이 생성형 인공지능(AI) 상용화를 본격화하는 가운데 슈어소프트테크가 이들 서비스를 위한 기술 검증 체계를 구축하며 신뢰성 확보의 핵심 파트너로 부상하고 있다. 슈어소프트테크는 최근 한 국내 통신사와 AI 서비스 상용화 검증을 위한 플랫폼 구축 계약을 체결했다고 3일 밝혔다. 이번 계약은 통신사들의 AI 서비스의 품질과 안전성을 높이기 위한 일환으로 추진됐으며 슈어소프트테크는 플랫폼 기획·개발·적용 전 과정에 대한 기술적 지원을 맡는다. 이번 프로젝트는 기능 테스트 뿐만 아니라 다양한 사용 환경을 반영한 실제 데이터를 기반으로 AI 반응을 학습·평가하는 구조로 설계된다. 특히 AI가 상황별로 일관되고 정확한 판단을 내릴 수 있도록 자동 검증 로직이 포함되며 데이터 생성·편집·관리까지 가능한 통합형 도구도 함께 개발된다. 이미 SK텔레콤은 '에이닷', KT는 '믿음', LG유플러스는 '익시젠' 등 생성형 AI 기반 서비스를 시장에 출시하며 기술 고도화를 진행 중이다. 이번 플랫폼 도입은 통신사들의 서비스가 예측 불가한 실제 사용 환경에서도 안정적으로 작동하도록 보장하기 위한 목적이다. 슈어소프트테크는 앞서 지난해에도 자체 개발한 AI 검증 솔루션 '베리파이엠(VERIFAI-M)'을 출시한 바 있다. 이 제품은 국제표준에 기반해 머신러닝 기반 AI의 신뢰성과 성능을 평가할 수 있다. 최근에는 한국인정기구(KOLAS)로부터 해당 분야 공인시험기관으로 추가 인증을 획득했다. 현재 '베리파이엠'은 자동차·국방 등 고신뢰성 산업군에서 이미 도입돼 있으며 복잡한 AI 시스템의 안전성과 견고성을 평가하는 핵심 검증 툴로 자리잡고 있다. 슈어소프트테크는 이번 통신사 협업을 통해 그 적용 범위를 상용 서비스 분야까지 넓혀가겠다는 방침이다. 배현섭 슈어소프트테크 대표는 "국내 통신사와의 이번 협업은 지난 20년 동안 미션 크리티컬 분야에서 축적해 온 우리의 소프트웨어 검증 기술력이 상용 AI 서비스에도 효과적으로 적용될 수 있음을 보여준 사례"라며 "향후 다양한 산업의 AI 시스템이 신뢰받는 기술 위에서 작동할 수 있도록 검증 노하우를 계속해서 확장해 나가겠다"고 밝혔다.

2025.07.03 16:20조이환 기자

"성능보다 신뢰"…AI 안전성 평가 기준, 민간서 시작

인공지능(AI) 신뢰성 검증의 필요성이 커지자 민간이 먼저 실증 기반 인증 체계를 구축하고 나섰다. 산업계가 주도해 기술의 책임성과 안정성을 정량 평가하려는 시도다. 한국인공지능산업협회(AIIA)는 최근 AI 신뢰성 민간 인증 체계인 '에이아이-마스터(AI-MASTER)'를 론칭했다고 2일 밝혔다. 첫 인증 대상으로는 생성형 AI 스타트업 포티투마루의 '거대언어모델42(LLM42)'가 선정됐다. 인증은 협회가 총괄하고 셀렉트스타와 슈어소프트테크가 시험기관으로 참여했다. '에이아이-마스터'는 유럽연합의 '신뢰할 수 있는 AI(Trustworthy AI)' 7대 요구사항을 바탕으로 국제표준 9종을 적용해 총 63개 항목을 평가한다. 항목의 60% 이상은 자동화 평가 도구로 검증돼 평가 결과의 일관성과 신뢰성이 높다는 점이 특징이다. 포티투마루의 '거대언어모델42(LLM42)'는 독자 개발한 검색증강생성(RAG42) 기술과 기계독해(MRC42) 엔진을 통해 초거대언어모델의 환각 문제를 줄이고 산업별 특화된 경량화 구조와 프라이빗 모드를 갖춘 기업형 모델이다. 모델 학습부터 서빙까지의 전 과정에서 비용 효율성을 강화한 점이 주요 평가 요소로 작용했다. 셀렉트스타는 이번 인증 사업에서 초거대 언어모델 영역 시험기관으로 참여해 평가 항목 정의, 자동화 평가 도구 개발, 전체 프레임 설계를 공동 수행했다. 특히 '다투모 이밸(Datumo eval)'이라는 자체 신뢰성 검증 솔루션을 도입해 인간 감독, 기술 안정성, 투명성, 사회적 책임 등 4대 항목의 점수를 정량화했다. 셀렉트스타의 '다투모 이밸'은 실제 업무환경에서 AI 모델의 응답 품질을 정량 분석하는 자동화 평가 솔루션으로, 금융권 등 고신뢰 산업에서 활용도가 높다. 현재는 삼성생명과 금융 특화 AI 데이터 검증 프로젝트도 진행 중이다. 업계에서는 '에이아이-마스터' 인증이 민간 주도의 정량 검증을 최초로 공식화했다는 점에서 의미가 있다고 평가한다. 향후 정부 연구개발(R&D), 공공조달, 고영향 AI 지정 등 정책 연계와 글로벌 상호인정 확장을 목표로 한다. 김태형 한국인공지능산업협회 본부장은 "이번 인증은 기술력뿐 아니라 사회적 책임성과 신뢰성을 입증할 수 있는 핵심 인증 체계로 자리잡을 것"이라며 "국내 AI 생태계 전반에 신뢰 기반의 문화를 확산시키는 데 기여하겠다"고 밝혔다. 김세엽 셀렉트스타 대표는 "우리가 시험기관으로 참여하면서 신뢰성 평가 역량을 공공 인증 체계에 적용할 수 있게 됐다"며 "향후 '다투모 이밸' 중심으로 AI 안전성과 서비스 품질 향상에 힘쓸 것"이라고 말했다.

2025.07.02 17:24조이환 기자

씽크포비엘, 'AI 신뢰성 자격증' 신설…수도권 중심 채용 깨질까

씽크포비엘이 인공지능(AI) 신뢰성 기술을 다루는 민간 공인 자격 교육과정을 신설했다. 씽크포비엘은 오는 27일까지 국립군산대에서 'AI 신뢰성 검증 기술' 비교과 과정을 운영한다고 26일 밝혔다. 교육은 전북특별자치도와 전북테크노파크가 후원하며 국립군산대 ICT특성화취업연계형사업단이 주관했다. 실무 교육과 자격검정은 씽크포비엘이 직접 맡았다. 교육 과정에서는 농생명 분야 데이터를 중심으로 다양성과 편향성을 진단하는 시나리오 작성법, 신뢰 가능한 AI 개발의 기본 개념, 기술 적용 프로세스 등이 다뤄진다. 마지막 날 수강생을 대상으로 한 자격시험도 예정돼 있다. 시험을 통과한 수강생에게는 산업통상자원부 산하 한국산업지능화협회가 '산업인공지능데이터검증전문가' 2급 자격을 부여한다. 지난해까지 비공인 상태였던 이 과정은 지난 2월 한국직업능력연구원에 정식 등록돼 민간 공인 자격으로 전환됐다. 자격증은 기존 'AI 신뢰성 검증전문가'와는 다르다. 이번 과정은 AI 검증 기술 중에서도 데이터 밸런스 진단 기법을 중심으로 다룬다. 씽크포비엘은 해당 기술을 독자 교육과정에 지난 2020년부터 6년째 적용해 왔으며 지난해에는 시범적으로 내부 자격증을 부여한 바 있다. 회사 측은 민간 공인을 받지 못한 탓에 지금까지 수료생들의 취업 연계가 어려웠다는 점을 이번에 보완했다고 설명했다. 공인 자격이 생기면서 산업 현장에서도 검증된 인력으로 인정받을 수 있는 여지가 생겼다는 평가다. 이 협회는 향후 이 자격증을 산업디지털전환촉진법에 따라 디지털 전환(DX) 전문기업 인증 조건으로 포함하는 방안을 검토 중이다. 자격증이 법적 요건과 연결될 경우 기업 수요도 동시에 창출돼 교육과 취업 연계를 동시에 강화할 수 있을 전망이다. 이번 과정은 특히 수도권 외 대학 출신 인재에게 기회가 된다는 점에서 주목받는다. AI 신뢰성 검증 분야는 도입 초기 단계여서 특정 출신 학교 중심으로 채용이 이뤄지지 않고 있으며 기술 숙련도 위주로 평가받는 구조라는 것이 회사의 설명이다. 국제적 관심도 확산되는 분위기다. 태국 정부는 지난해부터 AI 신뢰성 아카데미 설립을 준비하고 있으며 우즈베키스탄 역시 유사한 형태의 국가 지원 교육기관 설립을 검토하고 있는 것으로 알려졌다. 국내 교육 모델의 수출 가능성도 점쳐진다. 박지환 씽크포비엘 대표는 "기존 소프트웨어 개발 인력은 바이브 코딩 등으로 입지가 흔들리는 상황"이라며 "데이터 검증 전문인력은 AI 신뢰성 확보라는 새로운 영역에서 대안 직군으로 부상하고 있다"고 말했다.

2025.06.26 15:44조이환 기자

Prev 1 2 Next