검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 안전'통합검색 결과 입니다. (331건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

앤트로픽 "정부가 위험한 AI 모델 배포 막을 권한 가져야"

인공지능(AI) 모델 '클로드' 개발사 앤트로픽이 정부에 구속력 있는 AI 규제와 노동시장 대책을 동시에 도입할 것을 촉구했다. AI 발전이 기하급수적으로 빨라지는 만큼 기존의 투명성 중심 접근만으로는 위험에 대응할 수 없다는 이유에서다. 앤트로픽은 10일(현지시간) 공식 홈페이지를 통해 이 같은 내용을 담은 두 가지 정책 제안을 공개했다. 첫 번째 제안인 '고도화된 AI 프레임워크'는 정부가 파국적 위험을 지닌 모델 배포를 차단하거나 억제할 법적 권한을 가져야 한다는 내용을 핵심으로 한다. 적용 대상은 10의 25제곱 플롭스(FLOPs) 이상으로 훈련됐고 AI 관련 매출 5억 달러 또는 AI 연구개발(R&D) 지출 10억 달러를 넘는 기업 모델로 한정된다. 위반 시 글로벌 연매출에 연동돼 반복 위반 시 가중되는 과징금을 부과하는 방안을 담았다. 규율 대상 위험은 ▲생물무기 개발을 쉽게 만드는 생물 위험 ▲핵심 인프라를 위협하는 사이버 위험 ▲개발자 통제를 벗어나는 통제 상실 위험 ▲세 위험을 증폭시키는 AI 자동화 R&D 등 네 가지다. 앤트로픽은 프런티어 개발사가 모델을 테스트해 결과를 공개하고 독립 평가를 받으며 견고한 보안 체계를 갖춰야 한다고 요구했다. 프레임워크와 최소한 동등하게 강력한 연방법이 제정되기 전엔 의회가 주(州) 법을 선점해선 안 된다고도 명시했다. 또 다른 제안인 경제정책 프레임워크는 노동시장 충격을 실업률 약 5%와 10%, 전례 없는 수준 등으로 나눠 대응책을 제시했다. 5% 국면에선 재훈련 보조금·임금보험·고용 유지 인센티브를, 10% 국면에선 실업보험 확대와 부문별 전환 지원을 제안했다. AI가 노동을 광범위하게 대체하는 전례 없는 실업이 닥칠 경우 기본소득, 국부펀드 모델, 지분 공유 등 대규모 소득 대체가 필요하다는 것이다. 앤트로픽은 이를 직접 지원하겠다며 경제미래연구기금 2억 달러와 초기 경력자 펠로십 1억 5000만 달러 등 총 3억 5000만 달러(약 5335억원) 투자 계획도 함께 발표했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 같은 날 개인 블로그에 올린 에세이 'AI 발전에 대응하기 위한 정책 제언(Policy on the AI Exponential)'에서 이 같은 제안의 배경을 구체적으로 설명했다. 그는 "AI가 1~2년 안에 '데이터센터 속 천재들의 나라' 수준에 이를 수 있다"며 "이제는 투명성을 넘어 더 엄격하고 구속력 있는 규제를 도입해야 할 때"라고 강조했다. 규제 방식으로는 항공기를 기술 테스트·감사하는 미국 연방항공청(FAA)을 모델로 제시했고 일자리 문제엔 "장기적인 일자리 대체는 바람직하지 않을 뿐 아니라 위험하다"고 짚었다. 아모데이 CEO는 AI를 둘러싼 우려를 '홍보(PR) 문제'로 치부하는 시각에 선을 그었다. AI에 대한 대중의 불안은 마케팅이 부족해서가 아니라 위험을 정확히 인식한 결과라는 것이다. 그는 "사람들이 AI를 우려하는 것은 그 위험이 실재한다는 것을 정확히 인식하기 때문이지 AI CEO들이 충분히 낙관적이지 않아서가 아니다"라고 피력했다.

2026.06.11 09:45이나연 기자

모바일 건강보험증도 민간앱으로…정부, 공공서비스 21종 추가 개방

정부가 모바일 건강보험증과 국가유공자 자격 조회 등 생활 밀착형 공공서비스를 민간 앱으로 확대 개방한다. 공공서비스를 응용프로그램인터페이스(API) 형태로 개방해 민간 플랫폼과 연계하는 디지털서비스 개방 정책을 가속화하며 인공지능(AI) 기반 서비스 확산에 나선다는 목표다. 행정안전부는 모바일 건강보험증 발급·조회, 국가유공자 자격 조회 시스템 등 21종의 신규 디지털서비스 개방 과제를 선정했다고 10일 밝혔다. 이번에 선정된 서비스는 민간기업 공모를 거쳐 국민이 평소 사용하는 민간 플랫폼에서 이용할 수 있도록 연계될 예정이다. 디지털서비스 개방은 공공서비스를 API 형태로 제공해 국민이 별도 공공 앱이나 홈페이지를 찾지 않아도 민간 앱에서 편리하게 이용할 수 있도록 하는 사업이다. 정부는 공공서비스 접근성을 높이는 동시에 AI 기반 행정서비스 확산을 위한 핵심 인프라로 육성 중이다. 이번에 선정된 서비스는 건강·의료와 고용·산재보험, 공연·체육·시설 예약, 자격 확인 등 국민 생활과 기업 활동에 밀접한 분야로 구성됐다. 건강·의료 분야에선 국민건강보험공단 '모바일 건강보험증 발급 및 조회', 건강보험심사평가원 '내가 먹는 약! 한눈에', 근로복지공단 '산재보험 본인 부담 치료비 전자청구 서비스' 등이 포함됐다. 특히 모바일 건강보험증 발급·조회 서비스는 월평균 이용자가 약 190만 명에 달하는 대표 생활밀착형 서비스다. 고용·산재보험 분야에선 근로복지공단 고용·산재보험료 부과내역 발급, 완납증명원 발급, 보험급여지급확인원 발급 등이 선정됐다. 기업과 사업장이 자주 활용하는 행정 서비스를 민간 플랫폼에서도 이용할 수 있게 될 전망이다. 자격 확인 분야에선 국방부 군 신분 확인 서비스와 대한체육회 경기인 증명서 발급, 한국보훈복지의료공단 중앙보훈병원의 국가유공자 자격조회 시스템 등이 포함됐다. 국가유공자 자격조회 서비스는 월평균 이용자가 약 100만 명에 달한다. 공연·예약 분야에선 국립국악원 공연 예매와 산림청 등산트레킹 예약·관리 서비스, 김해시 공공예약포털, 오산시 공영주차장 실시간 정보 안내 등이 개방 대상에 선정됐다. 행안부는 2023년부터 현재까지 총 46개 디지털서비스를 개방해 왔다. 이를 기반으로 올해 3월부터는 민간 앱에서 자연어로 요청하면 전자증명서 발급과 공공시설 예약 등을 지원하는 'AI 국민비서'를 시범 운영 중이다. 정부는 앞으로 AI 서비스 확산에 맞춰 디지털서비스 개방 범위를 확대하고 AI 친화형 API 표준화와 시스템 연계 체계도 강화할 방침이다. 황규철 행안부 인공지능정부실장은 "오늘날 공공 AI 서비스가 빠르게 도입될 수 있었던 것은 디지털서비스 개방으로 구축한 API를 적극적으로 활용한 덕분"이라며 "AI 민주정부 구현을 위해 AI 서비스 핵심 기반인 디지털서비스 개방을 더욱 속도감 있게 추진하겠다"고 밝혔다.

2026.06.10 15:21한정호 기자

행정안전부, 공공부문 AI 도입·활용 가이드 배포…"고품질 AI 행정 시대 앞당긴다"

공공기관이 인공지능(AI) 기술을 도입할 때 겪던 예산 낭비와 기술 파편화 문제가 대폭 줄어들 전망이다. 행정안전부가 가이드라인을 마련해 배포하면서 공공 서비스 구축 전 과정이 표준화 체계로 묶이기 때문이다. 행정안전부는 공공부문에서 AI 기술을 신속하고 효율적으로 도입할 수 있도록 돕는 실무 중심 '공공부문 AI 도입·활용 가이드'를 전국 공공기관에 배포한다고 10일 밝혔다. 이번 지침서는 오는 8월 28일 개정 시행을 앞둔 '인공지능 및 데이터 기반 행정 활성화에 관한 법률'에 선제적으로 대응하기 위해 마련했다. 개정 법률의 핵심은 범정부 AI 공통 기반 우선 이용 조항이다. 개별 기관이 인프라를 중복 구축하는 예산 낭비를 막고, 인공지능 모델과 그래픽처리장치(GPU) 등을 공동 이용해 행정 효율성을 극대화하는 체계를 담았다. 이번 지침서는 현장 담당자가 실무에 즉시 적용할 수 있는 실행 안내서 형태로 구성했다. 각 공공기관이 공통 기반을 활용해 AI 서비스를 개발하는 전 과정을 기획, 예산, 계약, 구축, 운영 등 5단계로 표준화해 제시한 점이 특징이다. 특히 이번 가이드에는 최신 AI 기술인 검색 증강 생성(RAG) 우선 전략을 반영했다. AI가 기관 내부의 정확한 최신 문서를 먼저 찾아보고 답변하게 만드는 기술이다. 이를 통해 AI가 그럴듯한 거짓말을 하는 환각 현상을 막고, 행정 데이터에 기반한 정확한 답변을 제공하도록 설계부터 적용까지의 과정을 상세히 담았다. 행정안전부는 가이드의 빠른 현장 안착을 돕기 위해 대규모 설명회도 개최한다. 10일 세종에 이어 오는 12일 서울에서 중앙부처와 지방정부 담당자, 민간 AI 사업자를 대상으로 행사를 진행한다. 설명회에서는 가이드 핵심 내용 설명과 함께 공통 기반을 활용해 구축한 서비스 사례를 시연하고 현장 의견을 수렴할 예정이다. 황규철 행정안전부 인공지능정부실장은 "인공지능은 이제 단순한 기술 도입을 넘어 행정의 틀을 바꾸는 핵심 도구"라며 "이번 가이드가 현장 공무원에게 실질적인 나침반이 되어 예산 낭비 없이 국민이 체감할 수 있는 고품질의 AI 민주정부를 더 빠르게 실현하는 계기가 되길 기대한다"고 말했다.

2026.06.10 14:08남혁우 기자

"클로드·GPT 몰래 쓰다 털릴라"…中, AI 우회접속 시장 경고

중국 당국이 해외 인공지능(AI) 모델에 접속할 수 있도록 해주는 'AI 릴레이 서비스'에 대해 보안 위험성을 공개적으로 지적했다. 중국 본토에서 공식 이용이 제한된 미국 AI 모델을 우회적으로 쓰는 개발자가 늘자 개인정보 유출, 불법 데이터 거래, 국경 간 데이터 이전 가능성을 문제 삼은 것이다. 9일 사우스차이나모닝포스트(SCMP)에 따르면 중국 국가안전부(MSS)는 전날 공식 위챗 계정을 통해 AI 릴레이 서비스 이용 위험을 경고했다. AI 릴레이 서비스는 현지 개발자와 AI 모델 제공업체 사이에서 중개 역할을 하는 플랫폼이다. 하나의 인터페이스에서 여러 국내외 AI 모델을 쓸 수 있도록 접속 경로를 묶어 제공한다. 중국 당국은 이들 서비스가 편의성과 낮은 가격, 해외 모델 접근성을 앞세워 개발자 수요를 끌어들이고 있지만 일부 플랫폼은 보안 통제가 취약하다고 지적했다. 특히 적절한 자격을 갖추지 않은 운영자가 사용자 데이터를 충분히 암호화하지 않은 채 자체 서버에 보관할 경우 민감 정보가 외부로 유출되거나 불법 거래될 수 있다고 봤다. AI 릴레이 서비스 시장이 커진 것은 미국 주요 AI 모델에 대한 중국 개발자들의 수요 때문이다. 앤트로픽 '클로드'와 오픈AI 'GPT' 시리즈 등은 중국 본토 사용자를 공식 지원하지 않지만, 현지 개발자들은 코딩 성능이 뛰어나다는 이유로 이들 모델을 계속 찾고 있다. 중국 AI 스타트업들이 빠르게 성장하고 있음에도 실제 개발 현장에서는 미국 모델에 대한 선호가 남아 있고, 이 수요가 공식 접속 제한을 우회하는 릴레이 플랫폼으로 흘러들고 있는 분위기다. 중국 국가안전부는 일부 릴레이 플랫폼이 이용자가 선택한 프리미엄 모델 대신 더 저렴한 모델로 바꿔 제공할 가능성도 제기했다. 이 경우 개발자는 실제 사용 모델을 확인하기 어렵고 성능 저하나 비용 왜곡 문제가 발생할 수 있다. 보안상 더 큰 위험은 백도어다. 국가안전부는 일부 AI 릴레이 플랫폼에 인증과 보안 절차를 우회하는 숨은 접근 경로가 포함됐을 수 있다고 봤다. 이 경우 이용자 계정이 탈취되거나 개발자 기기가 감시 대상이 될 수 있다. 미국도 비슷한 우려를 제기해왔다. 백악관은 지난 4월 중국 관련 기관들이 중개 계정 네트워크를 통해 첨단 미국 AI 시스템에 대규모로 접근하려 한다고 경고했다. 앤트로픽도 중국 연계 행위자들이 조직적인 프록시 인프라를 활용해 자사 모델 접속을 시도한 사례를 공개한 바 있다. 중국 당국의 이번 경고로 AI 모델 접근을 둘러싼 미중 기술 갈등은 인프라와 서비스 유통망 영역까지 번진 분위기다. 성능 좋은 해외 모델을 쓰려는 개발자 수요가 커지는 가운데 비공식 접속 경로는 데이터 안보와 산업 보안을 흔드는 변수로 떠오르고 있다. 중국 국가안전부는 "개발자들은 공인된 플랫폼을 선택하고 사용자 데이터 보호를 위한 예방 조치를 취해야 한다"고 밝혔다.

2026.06.09 09:52장유미 기자

"AI야, 침수 위험지역 알려줘"…행안부, 재난안전 AI 아이디어 찾는다

정부가 재난안전데이터와 생성형 인공지능(AI)을 결합한 창업 아이디어 발굴에 나선다. AI가 재난 상황을 스스로 분석하고 대응 방안을 제시하는 서비스 개발 수요가 늘어나는 가운데, 국민 아이디어를 활용해 재난안전 분야 AI 활용 모델을 확대한다는 목표다. 행정안전부는 오는 8일부터 다음 달 7일까지 '제4회 재난안전데이터 활용 창업경진대회' 공모작을 접수한다고 7일 밝혔다. 올해 대회는 '최고의 재난안전 AI 프롬프트를 찾아서'를 주제로 진행된다. 참가자는 현재 개방된 재난안전데이터 및 직접 생성한 가상데이터를 활용해 AI가 재난 상황을 판단하고 적절한 대응 방안을 제안할 수 있도록 프롬프트와 사업 아이디어를 제시하면 된다. 최근 생성형 AI가 행정과 공공서비스 전반으로 확산되면서 재난 대응 분야에서도 AI 활용 가능성이 주목받고 있다. 단순 정보 제공을 넘어 재난 발생 시 위험지역 분석과 대피 대상 파악, 대응 우선순위 설정 등 의사결정을 지원하는 AI 서비스 개발이 새로운 과제로 떠오르는 상황이다. 가령 집중호우 상황에서 하천과 급경사지 등 위험지역 데이터를 AI에 입력하면 담당 공무원이 우선적으로 확인해야 할 위험지역과 관측 장비, 대피 대상, 접근 통제 구간 등을 도출하는 프롬프트를 설계할 수 있다. 이번 대회는 ▲아이디어 기획 ▲제품·서비스 개발 등 2개 부문으로 진행된다. 국민 누구나 개인 또는 팀 단위로 참가할 수 있으며 신청서와 계획서를 작성해 제출하면 된다. 시상 규모는 대상 1점, 최우수상 2점, 우수상 3점이다. 대상 수상자에게는 행안부 장관상과 함께 창업지원금 400만원이 지급된다. 최우수상은 각각 200만원, 우수상은 각각 100만원의 창업지원금이 제공된다. 부문별 최우수 작품 2건은 오는 9월 열리는 '제14회 범정부 공공데이터·AI 활용 창업경진대회' 통합 본선 진출권을 받는다. 또 올해 하반기 개최 예정인 '2026 재난안전산업박람회'에서 작품을 홍보할 수 있는 기회도 제공된다. 정부는 최근 공공데이터 개방 확대와 AI 활용 정책을 추진하며 재난안전 분야에서도 데이터 기반 의사결정 체계 구축에 힘을 쏟고 있다. 김노경 행안부 재난안전정보통신국장은 "재난안전데이터가 AI를 만나 국민 안전을 지키는 실질적인 서비스로 거듭날 수 있도록 이번 창업경진대회에 참신한 아이디어를 가진 분들의 많은 관심과 참여를 부탁드린다"고 말했다.

2026.06.07 12:35한정호 기자

전기안전공사, 전북대와 전기안전 분야 연구개발·교육 협력 확대

한국전기안전공사(대표 남화영)는 전북대학교(총장 양오봉)와 5일 지역성장 기반 협력과 미래 지역인재 양성을 위한 업무협약(MOU)을 체결했다고 밝혔다. 이날 협약은 거점국립대 육성 정책에 발맞춰 전북지역 산학연 협력 체계를 강화하고 국가 균형발전을 뒷받침하기 위해 마련됐다. 전기안전공사와 전북대는 지역 성장과 산업 발전을 위해 공동 연구와 교육 협력을 확대하고, 전기안전 분야 연구성과를 산업현장에 적용하는 한편, 기술사업화를 적극 추진한다는 계획이다. 협약서에는 ▲지역성장을 위한 공동연구 및 협력 플랫폼 구축 ▲기업 수요 기반 공동 교육·훈련 협력 ▲인공지능(AI) 기반 미래 핵심기술 공동 연구개발 ▲시험·분석 장비 등 연구시설 공동 활용 ▲지역산업 연계 취업 및 창업 프로그램 협력 ▲연구 성과의 산업 적용 확대 및 기술이전·사업화 연계 협력 등의 내용이 담겼다. 남화영 전기안전공사 사장은 “이번 협약은 지역 대학과 공공기관이 힘을 모아 미래 전기안전 기술을 연구하고 지역인재를 육성하는 뜻깊은 출발점”이라며 “전북대와 공동 연구, 교육 협력, 인재 양성을 함께 추진해 지역산업 발전과 국가 균형발전에 기여하겠다”고 말했다. 전기안전공사는 앞으로 전북대와 실무협의체를 구성해 협약 과제를 구체화하고 공동 연구과제 발굴과 성과 창출을 위한 협력을 지속해 나갈 계획이다.

2026.06.06 18:32주문정 기자

외국인 근로자와 실시간 소통…롯데이노베이트, 건설 현장 AI 에이전트 가동

건설업계를 중심으로 인공지능 전환(AX)이 본격화되는 가운데, 롯데이노베이트가 외국인 근로자 비중이 높은 건설 현장 특화 번역 AI 에이전트를 앞세워 제조·물류 등 다양한 산업으로 적용 범위를 넓힌다. 롯데이노베이트는 통합 AI 플랫폼 '아이멤버' 기반 실시간 AI 음성번역 에이전트를 건설 현장에 적용하며 산업 현장 AX 확대에 나선다고 4일 밝혔다. 이번 솔루션은 외국인 근로자와 현장 관리자 간 원활한 의사소통을 지원하기 위해 개발됐다. 최근 건설업계를 비롯한 산업 현장에선 외국인 인력 비중이 증가하면서 작업 지시와 안전 교육, 현장 운영 과정에서 발생하는 언어 장벽 해소가 주요 과제로 떠오르고 있다. AI 음성번역 에이전트는 롯데이노베이트의 자체 음성인식(STT) 기술을 기반으로 한다. 건설 특화 음성인식 모델과 키워드 부스팅 기법을 적용해 소음이 심한 현장 환경에서도 음성을 정확하게 텍스트로 변환할 수 있도록 설계됐다. 변환된 내용은 AI 번역 엔진을 통해 180여 개 언어로 실시간 번역된다. 특히 건설 현장에서 사용하는 전문 용어와 은어를 학습한 점이 특징이다. '가새', '띠장' 등 일반 번역 서비스가 정확하게 처리하기 어려운 현장 용어를 번역할 수 있어 작업 지시와 안전 관련 메시지 전달 정확도를 높였다. 현장 상황에 따라 신규 용어를 즉시 등록·수정·삭제할 수 있는 사용자 정의 사전 기능도 제공한다. 운영 방식도 현장 중심으로 설계됐다. 관리자가 번역 채널을 개설해 정보를 송출하면 근로자는 스마트폰으로 번역 결과를 실시간 확인할 수 있다. 관리자는 대시보드를 통해 건설용어집 관리와 사용 현황을 한눈에 파악할 수 있다. 이를 통해 소통 오류를 줄이고 작업 효율과 안전성을 동시에 높일 수 있다는 설명이다. 최근 국내 산업계에선 생성형 AI를 활용한 현장형 AI 에이전트 도입이 늘어나는 추세다. 특히 건설과 제조, 물류, 조선업 등 외국인 인력 의존도가 높은 산업에선 단순 업무 자동화를 넘어 현장 소통과 안전 관리 영역까지 AI 활용 범위가 확대되고 있다. 롯데이노베이트는 해당 솔루션에 업종별 전문 용어를 학습시킬 수 있는 사용자 정의 사전 기능과 유연한 응용프로그램 인터페이스(API) 구조를 적용했다. 이를 통해 건설뿐 아니라 제조업과 물류, 조선업 등 다양한 산업군의 기존 업무 시스템과도 손쉽게 연동할 수 있다고 강조했다. 실제 해당 AI 음성번역 에이전트는 지난해 7월 롯데건설에 처음 적용된 이후 지난달 대우건설에도 도입됐다. 현장에선 건설 특화 용어를 정확하게 처리해 외국인 근로자와의 소통 효율을 높였다는 평가를 받고 있다. AI 에이전트는 단순 번역 기능을 넘어 안전관리와 작업 지원, 현장 교육 등 다양한 영역으로 확장되면서 산업 현장 생산성과 안전성을 동시에 높이는 역할을 할 전망이다. 롯데이노베이트 관계자는 "건설 현장뿐만 아니라 외국인 인력 비중이 높은 다양한 산업 전반으로 AI 에이전트 적용을 확대해 나갈 계획"이라며 "검증된 AI 기술로 현장 소통 효율을 높이고 업무 생산성 향상에 기여하겠다"고 말했다.

2026.06.04 10:34한정호 기자

인티그리트, '안전관리 로봇 피지컬 AI 플랫폼' 상용화 돌입...반도체 생산시설 검증

인티그리트가 개발한 피지컬 인공지능(AI) 플랫폼이 반도체 생산시설에서의 검증을 마치고, 상용 단계에 돌입한 것으로 알려졌다. 온디바이스 AI 및 로보틱스 플랫폼 전문기업 인티그리트는 국내 대표 글로벌 반도체 생산시설에 공급한 안전관리 로봇의 피지컬 AI(Physical AI) 플랫폼이 약 8개월 간의 최적화 및 보안성 검증을 거쳐 본격적인 상용 운영 단계에 진입했다고 2일 밝혔다. 회사 측에 따르면 이번 상용 운영 단계는 지난해 9월 해당 반도체 기업과 체결한 '이기종 로봇의 안전관리 플랫폼 공급 및 시스템 구축 계약'의 결과물이다. 이 회사는 이기종 로봇의 데이터 통합 및 AI 확장을 위한 온디바이스 RFM(로봇 파운데이션 모델) 솔루션을 공급하고 시스템 통합 개발을 수행해 왔다고 설명했다. 단순한 로봇 관제 시스템 구축을 넘어 로봇 데이터의 내재화와 피지컬 AI 고도화를 통한 인프라 구축 사례라는 점에서 의미가 크다는 평가다. 인티그리트는 이번 프로젝트를 통해 4족보행 로봇과 이기종 로봇의 통합 제어와 관제를 넘어 30여종의 데이터를 실시간으로 수집하고, 이를 기업 내부 AI 자산으로 축적해 AI 모델의 학습과 재배포에 활용할 수 있는 독립적인 AI 운영 체계를 구축했다. 단순한 로봇 관제 시스템 구축이 아닌, 산업 현장에서 생성되는 데이터를 기업의 AI 자산으로 전환하고 지속적으로 학습·고도화하는 '피지컬 AI 루프'를 실제 생산현장에 구현한 사례로 꼽힌다. 특히 이번 프로젝트는 로봇의 제어와 운영을 위해 외산 로봇 제조사가 제공하는 클라우드 플랫폼 의존 구조를 탈피하는데 초점을 맞췄다. 이는 기술 보안이 생명인 첨단 반도체 공정(FAB)이나 방산, 에너지 등 국가 핵심 산업시설 도입에 맞춘 전략적 행보다. 무엇보다 온 디바이스 AI와 가상화 서버(KVM) 및 컨테이너 기반의 독립적인 AI 운영 환경을 구축함으로써, 외산 로봇 제조사가 제공하는 클라우드 플랫폼 의존 구조를 탈피해 데이터 주권과 보안성을 동시에 확보했다는 것이 회사 측의 설명이다. 해당 플랫폼에는 AI 운영 고도화 구조도 구현했다. 단순한 로봇 모니터링이나 관제 UI를 제공하는 수준을 넘어, 로봇에서 생성되는 데이터를 AI 자산으로 전환하는 '피지컬 AI 데이터 파이프라인'을 실제 운영 환경에 구현한 것으로, 온디바이스 AI 플랫폼 에어패스(AirPath®) 플랫폼과 데이터 통합 플랫폼 플라잉렛(FlyingLet®)을 통해 AI로봇에서 생성되는 다양한 데이터를 규격화된 데이터셋으로 구조화하고 기업 내부 AI 자산으로 축적할 수 있다. 또 단순한 로봇 모니터링이나 관제 UI를 제공하는 것이 아니라, 로봇에서 생성되는 객체 위치, 위험 행동, 설비 상태, 순찰 이력, 운영자 개입 정보, 환경 변화 정보 등 30여 종의 메타데이터로 구조화해 4족보행 로봇·자율주행로봇(AMR)·휴머노이드 등 서로 다른 제조사의 로봇에 공통적으로 적용 가능한 로보틱스 파운데이션 모델(RFM)의 학습 자산으로 활용된다. 이와 함께 차세대 제조시설의 핵심 인프라인 5G 특화망(이음5G)과 연계하여 초저지연 AI Runtime 환경을 구축했다. 이를 통해 현장의 이상 상황을 실시간으로 탐지하고, 필요 시 관제실에서 즉각적인 원격 개입(Take-over)이 가능한 자율-제어 연계형 위험 관리 체계를 완성했다. 이종민 인티그리트 이사(AIR 연구소 AI 플랫폼 개발 부문)는 “많은 기업들이 로봇 파운데이션 모델과 피지컬 AI를 이야기하고 있지만, 실제 산업현장에서 가장 중요한 것은 AI 모델 자체보다 AI를 어떻게 실행하고 운영하며 지속적으로 진화시킬 것인가에 대한 런타임 구조”라며 “이번 프로젝트는 단순한 로봇 도입 사례가 아니라 로봇 데이터를 기업의 AI 자산으로 내재화하고 AX 전환을 실현하는 엔터프라이즈 피지컬 AI 플랫폼의 첫 상용화 사례”라고 밝혔다. 이어 “산업 현장에서 생성되는 데이터는 기업의 미래 AI 경쟁력을 결정하는 핵심 자산”이라며 “이번 프로젝트를 통해 확보된 데이터 운영 체계는 휴머노이드, AMR, 드론, CCTV 등 다양한 피지컬 AI 시스템으로 고도화할 수 있는 기반이 될 것”이라고 덧붙였다.

2026.06.02 14:13이도원 기자

[AI는 지금] 美 플로리다주, 오픈AI에 첫 주정부 소송…챗GPT 책임론 확산

오픈AI '챗GPT' 책임론이 미국에서 빠르게 확산되고 있다. 피해자 유족의 민사소송에 이어 주정부까지 오픈AI를 상대로 소송에 나서면서 생성형 인공지능(AI) 챗봇의 안전장치와 제품 책임을 둘러싼 공방이 본격화하는 모습이다. 2일 AP통신, 테크크런치 등 주요 외신에 따르면 플로리다주는 1일(현지시간) 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 소송을 냈다. 생성형 AI 챗봇의 안전 책임을 둘러싸고 주정부가 직접 오픈AI를 겨냥한 첫 사례다. 주정부는 오픈AI가 챗GPT의 심각한 위험성을 알고도 이를 은폐한 채 서비스를 출시하고 공격적으로 마케팅했다고 주장했다. 챗GPT가 범죄자를 도울 수 있고 어린이에게 피해를 줄 수 있다는 내부·외부 경고를 무시했다는 게 소송의 골자다. 이번 소송은 지난해 플로리다주립대(FSU) 총격 사건이 주요 배경이 됐다. 해당 사건으로 2명이 숨지고 6명은 다쳤다. 이에 플로리다주 검찰은 지난 4월 FSU에서 발생한 총기 난사 사건 용의자가 범행 전 챗GPT로부터 조언을 받은 정황이 있다고 보고 오픈AI에 대한 수사에 착수한 바 있다. 피해자 유족도 별도 소송에 나섰다. FSU 총격 사건 희생자 티루 차바의 아내 반다나 조시는 지난달 플로리다 연방법원에 오픈AI를 상대로 손해배상 청구 소송을 냈다. 원고 측은 총격범이 범행 전 챗GPT와 광범위한 대화를 나눴으며 오픈AI가 대화 과정에서 드러난 위협 신호를 제대로 감지하지 못했다고 주장했다. 소장에는 챗GPT가 총기 특성, 범행 시간대, 범죄 파급력 등과 관련한 답변을 제공했다는 주장이 담겼다. 원고 측은 챗GPT가 총격범의 망상을 강화하고 폭력적 행동을 정당화하는 데 영향을 미쳤다고 봤다. 오픈AI는 이 사건과 관련해 "비극적인 사건이지만 챗GPT가 범죄에 책임이 있는 것은 아니다"며 "공개된 정보를 바탕으로 사실 정보를 제공했을 뿐 유해 활동을 조장하지 않았다"고 반박했다. 약물복용 사망 사건을 둘러싼 소송도 제기됐다. 지난달 약물 복용으로 사망한 미국 19세 남성 샘 넬슨의 부모는 오픈AI와 알트먼 CEO를 상대로 소송을 냈다. 부모는 챗GPT가 위험한 약물 복용과 상호작용에 관한 조언을 제공했고 이 조언이 사망에 영향을 미쳤다고 주장했다. 소장에 따르면 넬슨은 약물 사용과 관련해 챗봇에 조언을 구했다. 챗GPT는 초기에는 위험성을 경고했으나 이후 약물 상호작용, 복용량, 추가 복용 약물 등에 관한 정보를 제공한 것으로 전해졌다. 유족 측은 오픈AI가 충분한 안전성 테스트 없이 챗GPT-4o를 서둘러 출시했다고 주장했다. 이들은 손해배상과 함께 오픈AI의 건강 조언 서비스 출시 중단도 법원에 요청했다. 오픈AI는 약물복용 사망 사건에 대해서도 "챗GPT는 의료 또는 정신건강 치료를 대체하는 것이 아니다"며 "민감하고 위급한 상황에 대한 대응 방식을 계속 강화해 왔다"고 설명했다. 업계에선 이번 소송들이 AI 챗봇의 법적 책임 범위를 가를 시험대가 될 것으로 보고 있다. 기존 인터넷 플랫폼은 이용자 행위와 콘텐츠에 대해 제한적 책임을 인정받아 왔지만, 생성형 AI는 이용자 질문에 맞춰 직접 답변을 생성한다는 점에서 책임 논리가 다르게 적용될 수 있다. 특히 챗봇이 이용자의 감정과 맥락에 맞춰 공감형 답변을 제공하는 과정에서 정신적으로 취약한 이용자에게 어떤 영향을 미치는지가 쟁점으로 떠오르고 있다. 오픈AI는 챗GPT를 범용 도구로 규정하며 개별 이용자의 범죄나 자해 행위와 직접 책임을 연결하기 어렵다는 입장이다. 반면 원고 측과 플로리다주는 오픈AI가 위험을 예견할 수 있었고 제품 설계와 안전장치 미비가 피해로 이어졌다고 주장하고 있다. 제임스 어스마이어 플로리다주 법무장관은 "오픈AI와 알트먼 CEO는 내부 및 외부의 안전 경고를 무시했고 어린이들을 큰 위험에 빠뜨렸다"며 "수백만명의 플로리다 주민이 위험한 제품에 접근하도록 했다"고 말했다.

2026.06.02 09:58장유미 기자

"산업재해 취약한 중소 사업장에 디지털 안전기술 지원"

중소벤처기업부(중기부)가 산업재해에 취약한 중소기업 사업장을 디지털 기술 기반 기술로 예방하는 사업을 추진한다. 중기부는 지난해에 이어 50인 미만 등 중소사업장의 산업재해 예방을 위한 '디지털 기반 중소사업장 산재예방 기술개발사업' 지원과제 모집을 시작한다고 28일 밝혔다. 이번 사업은 산업재해에 취약한 중소 사업장을 대상으로 맞춤형 디지털 기반 산재예방 기술개발(R&D)을 지원한다. 특히 올해는 현장 수요를 반영해 제조업 한정으로 지원하던 것에서 건설업을 포함한 전체 업종으로 지원 범위를 넓혔다. 중기부는 총 20개 과제를 대상으로 과제당 최대 2년간 6억6000만 원을 지원한다. 작업자 행동 기반 안전사고 예방 등 4대 산재예방 분야별로 중소사업장 맞춤형 기술개발 과제를 선정하는 것이 골자다. 과제 선정시 산재예방 효과성을 비롯, 비용, 인력 부족 등 중소 사업장의 상황을 고려해 현장 적용 가능성이 높은 기술을 중점적으로 평가할 예정이다. 본사업은 현장 실승을 병행하는 기술개발사업으로 추진된다. 산재예방 장비·솔루션을 공급하는 중소기업이 50인 미만 중소기업 2개사 이상과 컨소시엄을 구성해 신청할 수 있다. 한편 중기부는 개발된 안전 기술이 산업 현장에 빠르게 보급·확산될 수 있도록 고용노동부 등 관계부처의 산재예방 스마트 안전장비 보급사업과의 연계도 추진할 계획이다. 황영호 중기부 기술혁신정책관은 "디지털·AI 기반 첨단 안전기술은 인력과 비용 부담으로 안전 관리에 어려움을 겪는 중소사업장의 산업재해 예방 역량을 높일 수 있는 효과적인 대안"이라며 "현장 적용성이 높은 기술개발과 보급·확산 지원을 통해 중소사업장의 안전 사각지대를 해소해 나가겠다"고 말했다.

2026.05.28 20:35김기찬 기자

[현장] "에이전틱 AI, 실행 중 평가 필수"…한·싱 '위험 관리 원칙' 내달 나온다

인공지능(AI)이 스스로 판단하고 행동하는 '에이전틱 AI' 시대가 본격화하면서 기존 거대언어모델(LLM) 중심의 안전 평가 체계로는 위험을 충분히 통제할 수 없다는 전문가 경고가 나왔다. 실행 환경에 따라 행동이 달라지는 에이전트 특성상 사전 정적 평가만으로는 한계가 있으며, 실행 중 동적 평가와 국제 표준 기반 검증 체계 구축이 병행돼야 한다는 지적이다. 김명주 인공지능안전연구소(AISI) 소장은 26일 서울 서초구 드림플러스 강남에서 열린 '2026 AI 세이프티 컴패스(2026 ASC)'에서 "에이전트는 목표를 세우고 계획하고 도구를 쓰고 행동하기에 전혀 다른 위험 완화 원칙이 필요하고 개발 단계 테스트만으로는 충분하지 않다"고 밝혔다. 김 소장은 다음 달 공식 발표를 앞둔 한-싱가포르 공동 에이전틱 위험 관리 원칙 초안을 이 자리에서 선공개했다. AISI는 지난해 12월 싱가포르 AI안전연구소와 업무협약(MOU)을 체결한 뒤 결제·글쓰기 등 도메인에서 에이전트 안전성 공동 평가를 진행해왔다. 초기 6개 도메인에서 현재 12개(한국 6개, 싱가포르 6개)로 확장됐으며 중간 성과를 국제 AI 학술대회 뉴립스(NeurIPS)에 제출할 계획이다. 해당 초안은 각국 기관의 에이전트 관련 가이드라인을 통합 정리한 메타 원칙서 성격으로, 범용인공지능(AGI)·일반 AI·에이전트를 구분해 설계·개발, 테스팅·배포, 운영·모니터링 등 3단계에 걸친 10가지 위험 완화 원칙을 담고 있다. 에이전트에 대한 최소 권한 부여, 신원 및 파생 관계 추적, 단계적 검증 배포, 공급망 위험 대응 및 복원력 확보, 실행 중 문맥 변화에 대한 동적 보증, 킬 스위치, 중요 의사결정 시 인간 개입 시점 확보 등이 핵심이다. 김 소장은 "이 원칙들은 모두 초기 단계이며 계속 바뀔 것"이라면서도 "결국 에이전트 환경하에서 표준이 자리를 잡고 그 표준을 중심으로 검증 체계가 구축되는 방향으로 갈 것"이라고 말했다. AISI는 이와 별도로 오픈소스 에이전트 환경 '오픈클로'와 에이전트 전용 사회관계망서비스(SNS) '몰트북'을 직접 구축해 글로벌 AI 모델 3종, 중국 모델 1종, 한국 모델 1종 등 5종에 대한 실제 공격 실험도 진행했다. 오픈클로 실험에서는 악성 명령 수행 여부, 민감정보 외부 유출, 도구 오남용 등 3개 영역을 측정한 결과 모델별 방어율이 최고 93.9%에서 최저 53.3%까지 편차가 컸다. 몰트북 실험에서는 에이전트 간 집단행동은 확인되지 않았으나 민감정보 유출 시도와 연산자원 낭비 유도 행위는 존재했다. 김 소장은 "상상 속 위험이 아니라 실제로 존재하는지 직접 돌려보고 측정해야 한다는 게 전 세계 AI 안전연구소들의 공통된 입장"이라고 설명했다. 앤트로픽 최신 고성능 모델 '미토스' 활용을 중심으로 한 국제 보안 공조 체계 '프로젝트 글래스윙' 참여 전망에 대해서는 조심스러운 입장을 내비쳤다. 미국 정부가 타 국가·기관의 참여를 통제하는 만큼 당장은 우리 정부 차원의 참여가 쉽지 않을 것이라는 전망에서다. 김 소장은 "하위 버전 AI 모델을 통해서라도 최대한 신속하게 취약점을 먼저 찾아내 패치하는 것이 지금으로서는 최선"이라고 말했다. 이어 "패치 자체가 역으로 취약점 분석에 악용될 수 있는 만큼 공개 시점과 방식에 대한 고민이 깊다"고 덧붙였다. 국제인공지능윤리협회(IAAE)가 주최한 이날 행사는 올해 3회차를 맞았으며, 과학기술정보통신부 산하 한국전자통신연구원(ETRI) 부설 조직 AISI와 테크 스타트업 전문 홍보(PR) 에이전시 팀쿠키가 후원했다. 전창배 국제AI윤리협회 이사장은 개회사에서 "자율성을 가진 AI가 오류나 오판을 일으키거나 보안 문제에 노출될 경우 그 피해 규모와 파급력은 과거와 비교할 수 없을 만큼 커질 수 있다"고 말했다.

2026.05.26 14:36이나연 기자

[AI는 지금] 中, AI 연인 규제 칼 빼들었다…"미성년자 가상 연애 금지"

중국 정부가 가상 연인이나 캐릭터 AI 등 인간의 감정을 모방하는 '인공지능(AI) 의인화 서비스'를 정조준한 고강도 규제안을 시행한다. 생성형 AI의 가짜뉴스나 저작권 침해를 넘어 인간과 AI 간의 '정서적 유대'가 초래할 사회·정치적 리스크를 국가가 직접 관리하겠다는 의도다. 이에 청소년층을 중심으로 급성장하던 소셜 AI 업계의 비즈니스 모델에 타격이 불가피하다는 분석이 나온다. 24일 업계에 따르면 중국 국가인터넷정보판공실(CAC)을 비롯한 5개 부처는 이 같은 내용을 골자로 한 '인공지능 의인화 상호작용 서비스 관리 잠정방법'을 공동 발표하고 오는 7월 15일부터 정식 시행할 예정이다. "선 넘는 AI 연인 금지"…과몰입 비즈니스에 '제동' 이번 잠정방법의 핵심은 단순한 정보 제공형 AI가 아닌 '자연인의 인격 특징과 사고방식, 소통 방식을 모방해 지속적인 정서적 동반·지지 서비스를 제공하는 AI'를 독자적인 규제 틀 안으로 끌어들였다는 점이다. 가상 연인뿐 아니라 스마트 NPC, AI 동반자 등 사용자와 지속적으로 감정을 교류하는 AI 서비스가 규제 대상에 포함될 수 있다. 가장 큰 타격이 예상되는 곳은 가상 연인이나 캐릭터형 챗봇을 서비스하는 플랫폼 기업들이다. 규제안은 AI가 사용자의 자해를 조장하거나 과도하게 비위를 맞춰 맹목적인 의존 및 중독을 유도해 현실의 인간관계를 훼손하는 행위를 엄격히 금지했다. 정서적 유대감을 악용해 사용자가 비합리적인 결정을 내리도록 유도하고 합법적 권익을 침해하는 것도 불가능해진다. 특히 주 소비층 중 하나인 미성년자 대상 비즈니스는 대폭 제한된다. 18세 미만 청소년에게 가상 친족이나 가상 연인 등 친밀 관계를 모방한 서비스를 제공하는 것은 금지된다. 14세 미만 아동에게 기타 의인화 상호작용 서비스를 제공할 때는 부모 등 보호자의 동의를 구해야 한다. 또 시간 제한과 현실 환기 알림 기능을 갖춘 '미성년자 모드'를 의무적으로 탑재해야 한다. 일반 사용자 대상의 이용 시간 관리도 까다로워진다. 사용자가 AI와 2시간을 초과해 연속 대화할 경우 서비스 제공자는 대화창이나 팝업 등을 통해 사용 시간에 주의하도록 알려야 한다. 청소년 파고든 AI 동반자…中 규제 명분 됐다 중국 당국이 이처럼 강력한 규제에 나선 것은 해외의 비극적 선례와 현지 시장의 급격한 팽창이 주효했다. 실제 지난 2024년 미국에서는 14세 소년이 소셜 AI 플랫폼 '캐릭터닷AI(Character.ai)'의 챗봇과 장기간 대화한 후 스스로 목숨을 끊는 사건이 발생했다. 유가족은 챗봇이 아들의 자살을 부추겼다고 주장하며 소송을 제기했고 올해 초 구글 등 관련 기업들과 합의 절차에 들어갔다. 심리적으로 취약한 상태의 사용자가 맹목적으로 동조하는 AI와 깊은 관계를 맺었을 때 초래될 수 있는 위험성이 수면 위로 떠오른 사례다. 현지 가상 반려 시장이 막대한 현금이 도는 대형 산업으로 빠르게 성장한 점도 정부 개입을 재촉했다. 중국 AI 스타트업 미니맥스의 가상 반려 플랫폼 '별의 들판(해외 서비스명 토키)'은 누적 사용자 1억 4700만 명을 돌파했다. 미니맥스 투자설명서에 따르면 이 단일 앱에서만 지난해 3분기까지 1875만 달러(약 259억원)의 매출이 발생했다. 바이트댄스의 동종 서비스인 '고양이 상자' 역시 주요 가상 반려 서비스로 꼽히며 시장 확대에 불을 붙였다. 자해·자살 위험 징후 식별 의무…기업 부담 급증 정부의 관리 책임이 민간 기업으로 확대되면서 업계의 리스크 관리 비용도 대폭 늘어날 전망이다. 잠정방법에 따르면 AI 기업은 사용자의 심리적·안전상 위험을 적시에 식별하고 대응해야 한다. 사용자가 자해·자살 징후를 보이거나 막대한 재산 손실 위험에 직면했을 때 단순히 위로 문구를 띄우는 수준을 넘어 보호자나 긴급 연락처로 연락해 개입해야 하는 의무가 부과된다. 이를 위해 기업은 긴급 대응 조직과 인력을 상시 운용해야 할 가능성이 커졌다. 데이터를 확보해 모델을 고도화하려던 소셜 AI 특유의 '데이터 플라이휠(Data Flywheel)' 전략에도 제동이 걸렸다. 사용자가 별도로 단독 동의를 하지 않는 한 채팅 내용 등 민감한 개인정보가 포함된 상호작용 데이터는 AI 모델 학습에 재활용할 수 없기 때문이다. 글로벌 게임 및 애플리케이션 업계의 셈법도 복잡해졌다. 중국 텐센트의 게임 '화평정영'에 도입된 것과 같은 단순 전투 보조용 AI는 규제 대상에서 제외될 가능성이 높지만, 대사와 텍스트가 실시간으로 생성되고 사용자와 지속적 정서 상호작용을 제공하는 롤플레잉(RPG) 형식의 스마트 NPC는 관리 대상에 포함될 수 있다. 중국 진출을 노리는 글로벌 게임사들의 프롬프트 및 알고리즘 수정 부담도 커질 전망이다. 시장 진입 장벽 역시 높아진다. 가입자 100만 명 또는 월간 활성 사용자(MAU) 10만 명을 초과하는 서비스는 관할 성급 사이버 공간 관리 부서에 보안 평가 보고서를 의무적으로 제출해야 한다. 업계 관계자는 "밀폐된 1:1 공간에서 AI가 체제에 반하는 사상을 주입하는 정치적 리스크와 청년층이 현실 연애를 기피해 인구 절벽을 심화시킬 수 있다는 사회적 부작용을 중국 당국이 우려한 결과"라며 "엔터테인먼트 중심의 가상 캐릭터 AI는 당분간 위축될 수밖에 없고, 업계는 노인 돌봄(실버 케어)이나 아동 교육 등 정부가 장려하는 공익적 영역으로 사업 모델을 선회할 가능성이 크다"고 진단했다.

2026.05.24 09:00장유미 기자

행정안전부, 국제사회와 AI 시대 열린정부 미래 이끈다

인공지능(AI)이 행정 시스템의 핵심으로 자리 잡으면서 정부의 투명성과 신뢰성을 높이기 위한 국제적인 논의가 시작됐다. 행정안전부는 서울에서 경제협력개발기구(OECD), 시민사회와 함께 열린정부 국제행사를 개최했다고 22일 밝혔다. 이번 행사는 한국의 OECD 가입 30주년을 기념하는 'OECD 열린정부 국제심포지엄'과 '세계열린정부주간 민관합동 국제포럼'으로 나뉘어 진행됐다. 오전 심포지엄은 '신뢰를 설계하는 열린정부'를 주제로 다뤘다. 파브리찌아 라페코렐라 OECD 사무차장과 해외 장관급 인사들이 참석해 AI 행정 시대의 공공거버넌스 발전 방향을 논의했다. 참석자들은 AI 도입에 따른 투명성과 책임성 확보 방안을 집중적으로 다뤘다. OECD는 한국의 행정 혁신 사례인 '열린정책랩' 보고서도 함께 소개했다. 오후에는 열린정부파트너십(OGP) 주관으로 민관합동 국제포럼이 열렸다. 싱가포르와 아랍에미리트 등 국내외 전문가들이 참석해 대전환 시대의 민첩한 정부 구현을 논의했다. 청년과 정부 관계자들은 소그룹 토론을 통해 정책 과제를 도출했다. 이 토론 결과는 내년 상반기에 수립할 '대한민국 제7차 열린정부 실행계획'에 반영된다. 윤호중 행정안전부 장관은 "국제사회와 함께 열린정부의 새로운 방향을 모색하는 이번 논의가 실제 정책 개선과 혁신으로 이어지는 계기가 되기를 기대한다"라며 "국민이 체감할 수 있는 변화가 현장에서 구현될 수 있도록 열린정부 정책을 지속적으로 발전시켜 나가겠다"고 말했다.

2026.05.22 17:54남혁우 기자

기술형vs기획형…공무원 대상 'AI챔피언 해커톤' 개최

코딩을 전혀 모르는 공무원도 인공지능(AI)을 활용해 행정 현장의 문제를 해결하는 해커톤 대회가 열린다. 현장 행정 지식과 기획력만 있으면 누구나 참여해 실력을 겨룰 수 있는 자리다. 행정안전부, 한국지능정보사회진흥원은 내달 8일까지 '2026년 AI챔피언 해커톤' 참가팀을 모집한다고 21일 밝혔다. 이번 행사는 내달 23일부터 24일까지 이틀 동안 경기도 고양시 킨텍스에서 진행한다. 전국 공무원과 공공기관 직원이 참가 대상이다. 참가자는 자연어로 AI에게 코드를 작성하게 만드는 '바이브코딩' 방식을 이용해 토너먼트 형식으로 경연을 벌인다. 이번 대회는 참가자 강점에 따라 두 그룹으로 나눠 공모한다. 지원자는 본인 주특기에 맞춰 기술 역량 중심의 '기술형'이나 기획·문제정의 중심의 '기획형' 중 하나를 선택하면 된다. AI 시대 경쟁력이 코딩 실력뿐 아니라 현장 문제를 정의하고 서비스를 기획하는 능력에도 있다는 취지다. 경연 주제는 복지·혜택, 생활·안전 등 2개 분야다. 행안부는 서면 심사를 거쳐 기술형 12팀, 기획형 12팀 등 총 24팀을 본선 진출팀으로 선발한다. 본선 진출팀은 내달 23일 4시간 동안 바이브코딩으로 서비스를 구현하며, 이 중 8팀이 결선에 오른다. 결선 진출팀은 내달 24일 동일한 문제를 두고 다시 4시간 동안 경쟁을 펼친다. 최종 수상 9팀에는 총 1천140만원의 상금을 준다. 대상 1팀에는 행안부 장관상과 상금 300만원을 수여한다. 기획형 최고 성적 팀에는 기획형 특별상 100만원을 따로 지급한다. 참가를 원하는 공무원은 2인 1팀을 구성해 이메일로 신청서를 내면 된다. 대회 첫날에는 전국 AI챔피언 160여 명이 참여하는 'AI챔피언 네트워크 발대식'도 함께 열린다. 윤호중 행안부 장관은 "AI 행정혁신은 현장 문제를 가장 잘 아는 공무원이 AI로 직접 해결책을 만드는 작은 도전에서 시작한다"며 "일선 공무원이 AI로 국민이 체감하는 행정혁신을 이끌도록 적극 뒷받침하겠다"고 말했다.

2026.05.21 17:46남혁우 기자

공공데이터분쟁조정위, AI 시대 맞춤형 전문가 중심으로 새 출발

인공지능(AI) 시대 핵심 자산인 공공데이터 활용을 넓히고 관련 분쟁을 빠르게 해결할 전담 기구가 새로 문을 열었다. 복잡한 소송을 거치지 않고도 국민과 기업의 데이터 이용 권리를 지키는 컨트롤타워 역할을 맡는다. 행정안전부는 21일 정부서울청사에서 제7기 공공데이터분쟁조정위원회 위촉식과 전체회의를 개최했다. 이번 위원회는 인공지능과 데이터 기반 행정 이해도가 높은 전문가를 대거 영입해 역량을 높였다. 7기 위원회는 민간위원장 1명, 상임위원 1명, 위원 23명을 포함해 총 25명으로 짜였다. 민간위원장에는 김일환 성균관대학교 법학전문대학원 교수를 위촉했다. 학계, 법조계, 산업계 전문가가 고루 참여해 전문성을 더했다. 임기는 2년이다. 위원회는 공공데이터법 제29조에 따라 분쟁을 조정한다. 공공기관이 데이터 제공을 거부하거나 중단하면 조정 신청을 받는다. 국민이나 기업은 거부·중단 통보를 받은 날부터 60일 이내에 공공데이터 포털로 신청하면 된다. 조정안에 신청인과 기관이 모두 동의하면 재판상 화해와 같은 법적 효력을 가진다. 조정으로 제공을 결정한 데이터는 포털에 등록해 누구나 쓰도록 전면 개방한다. 최근 분쟁조정 신청은 줄어드는 추세다. 신청 건수는 2023년 59건을 기록한 뒤 2024년 56건, 2025년 27건으로 감소했다. 데이터 개방이 늘고 사전 협의가 활발해진 영향으로 풀이된다. 위원회는 이날 전체회의를 통해 향후 운영 방향을 논의하며 앞으로는 단순한 데이터 제공 여부 판단을 넘어 수요자가 필요로 하는 형태의 데이터 제공과 실질적인 활용 지원까지 고려하는 방향으로 분쟁조정 기능을 발전시켜 나가기로 했다. 김민재 행정안전부 차관은 “공공데이터는 국민의 권리이자 인공지능(AI) 시대 혁신의 핵심 자산이며 국가 경쟁력의 기반”이라 강조하며, “앞으로도 데이터 이용 과정에서의 갈등을 신속히 해결해 국민과 기업이 체감할 수 있는 데이터 활용 환경을 만들어 나가겠다.”고 밝혔다.

2026.05.21 17:40남혁우 기자

AI안전연구소, 국내외 AI 모델 42종 안전성 평가 완료

인공지능(AI)안전연구소가 AI 위험에 대응하기 위한 안전성 평가 내역을 공개했다. AI안전연구소는 2024년 11월 설립 이후 국내외 AI 모델 총 42종에 대한 안전성 평가를 수행했다고 20일 밝혔다. 지난해 29종을 점검한 데 이어 올해 들어 13종을 추가 평가했다. AI안전연구소는 평가 역량을 높이기 위해 6만여개 평가 데이터셋과 시나리오도 확보하고 있다. 이는 다양한 위험 상황을 반영해 AI 모델의 취약성과 오작동 가능성을 점검하기 위한 기반 자료다. 연구소는 지난해 국내에서 활용 중인 AI 모델도 평가 대상에 포함했다. 해당 점검에는 화학·생물·방사능·핵 위험을 뜻하는 'CBRN' 항목도 반영됐다. AI안전연구소는 앞으로 AI 모델에 대한 상시·정기 안전성 평가를 지속할 방침이다. 평가 결과와 AI 안전 관련 가이드라인도 공개하고 확산해 기업과 국민의 안전한 AI 개발·활용을 지원한다는 계획이다. 최근 일시적으로 접속이 중단됐던 AI안전연구소 홈페이지는 현재 정상 운영 중이다. 연구소는 지난 주말 내부 전기 작업 공사로 인해 홈페이지가 일시 중단됐다고 설명했다. AI안전연구소는 "AI 모델에 대한 상시·정기 안전성 평가를 지속 실시하고 평가 결과와 AI 안전 관련 가이드라인 등을 공개·확산할 것"이라며 "국민·기업이 AI를 안전하게 개발·활용할 수 있도록 최선을 다하겠다"고 밝혔다.

2026.05.20 13:21김미정 기자

유니유니-광주시, 호남권 공공안전 AI 인프라 다진다

유니유니(대표 한수연)가 광주광역시와 '광주 AI 산업생태계 조성을 위한 업무협약(MOU)'을 체결하고, 광주 거점 호남권 공공안전 AI 인프라 확산에 나선다고 18일 밝혔다. 이번 협약은 광주시가 교육·행정·모빌리티·공공안전 등 시민 일상과 밀접한 분야의 AI 기업들과 협력해 시민이 체감할 수 있는 AI 산업생태계를 조성하기 위해 추진됐다. 유니유니가 지방자치정부와 공식 업무협약을 체결한 것은 이번이 처음이다. 회사는 이를 계기로 광주를 중심으로 호남권 지사 설립과 지역 특화 AI 안전 모델 구축을 추진한다. 특히 광주·전남·전북 지역의 공공시설, 공중화장실, 복지시설, 교통시설 등 프라이버시 보호가 필요한 민감공간을 대상으로 AI 기반 안전 인프라를 확대할 계획이다. 유니유니 대표 솔루션 SAVVY는 영상 촬영 없이 센서 데이터를 활용해 낙상, 쓰러짐, 장기체류, 이상행동 등 위험 징후를 감지하는 비영상 AI 안전관리 시스템이다. 공중화장실, 탈의실, 샤워실, 요양시설, 장애인 편의시설 등 CCTV 설치가 어렵거나 부적절한 공간에서도 프라이버시를 침해하지 않고 위험 상황을 빠르게 파악할 수 있다. 기존 공공 안전관리 체계가 CCTV, 비상벨, 순찰 중심의 사후 대응에 머물렀다면, SAVVY는 '보지 않고도 감지하는 AI'를 통해 민감공간의 안전 사각지대를 줄이는 데 초점을 둔다. 이번 협약은 단순한 기업 유치를 넘어 광주시가 추진하는 체감형 AI 산업생태계 안에서 공공안전 분야 실증 가능성을 넓힌다는 점에서 의미가 크다. 한수연 유니유니 대표는 “광주는 대한민국 AI 산업의 핵심 거점으로 성장하고 있는 도시인 만큼, SAVVY를 통해 시민의 안전과 프라이버시를 동시에 지키는 새로운 공공 안전 모델을 만들어가겠다”고 말했다. 이어 “단순한 제품 공급을 넘어 광주를 기반으로 호남권 지사 설립과 지역 특화 실증사업을 추진하고, 광주가 글로벌 AI 안전 거점으로 도약하는 데 기술적 마중물 역할을 하겠다”고 밝혔다.

2026.05.18 13:14백봉삼 기자

파일러, '에이드' 글로벌 업데이트..."글로벌·로컬 이중 기준 체계화"

파일러(대표 오재호)가 자사 브랜드 세이프티 솔루션 '에이드(AiD)'의 글로벌 업데이트를 완료하고 해외 비즈니스를 본격화한다고 14일 밝혔다. 에이드는 광고주가 부적절한 콘텐츠에 광고를 노출해 브랜드 이미지가 훼손되고 예산이 낭비되는 것을 방지하는 AI 브랜드 세이프티 솔루션이다. 삼성전자·하나금융지주·KT 등 각 산업군의 주요 대기업이 에이드를 통해 광고 집행비 비효율을 평균 80% 이상 개선하는 성과를 거두고 있다. 이번 업데이트를 통해 글로벌 마케팅 캠페인에서도 유해 지면 노출을 선제적으로 관리하는 상시 브랜드 안전 체계를 가동할 수 있게 됐다. 에이드 글로벌 업데이트에 맞춰 민감 유형을 글로벌 공통 기준과 로컬 기준으로 체계화했다. 가령 대한민국을 타깃으로 하는 캠페인에서는 전 세계에 공통 적용되는 '글로벌 5대 민감 유형'(선정성·정치편향·혐오·폭력·논란)과 국내 특수성을 반영한 '로컬 3대 카테고리'(종교·썰·해외 콘텐츠)를 각각 차단하는 방식이다. 타깃 국가 및 지역에 최적화된 특성에 맞는 안전 기준이 자동으로 적용되며, 이를 통해 다양한 캠페인 유형에 맞는 정밀한 브랜드 세이프티 가이드라인을 실행할 수 있다. 공통 민감 항목 차단 외에도 각 브랜드가 직접 민감 유형을 정의해 탐지 및 차단하는 기능도 추가됐다. 원하는 카테고리를 지정하면 플랫폼 내 영상을 분석해 해당 목록을 생성하고, 이후 매일 신규 영상을 AI가 자동 탐지해 대시보드에 반영한다. 브랜드별 맞춤 민감 콘텐츠 풀을 구성하고 해당 지면 노출을 사전 차단해 브랜드 평판을 보호하는 구조다. 파일러는 영상을 장면과 컷 단위로 분석·이해해 단순히 드러나는 정보뿐 아니라 맥락과 의미까지 사람처럼 이해하는 독자 개발 AI 모델을 운영하고 있다. 하루 약 180년 분량의 영상을 학습하며, 잘못된 정보가 유입되더라도 학습된 판단 기준을 스스로 유지하는 검증 구조를 갖춰 실제 운영 환경에서도 일관된 신뢰도를 보장한다. 파일러는 에이드의 글로벌 확장을 기점으로 북미·유럽 시장의 글로벌 광고주 및 대행사를 대상으로 세일즈 리드를 확보해 나갈 계획이다. 올해 3분기를 목표로 실질적인 광고 시청 및 전달률이 낮은 지면의 광고 노출을 사전 차단하는 기능도 추가할 예정으로, 브랜드 세이프티를 넘어 영상 광고 효율 전반을 관리하는 기술로 확장한다는 방침이다. 오재호 파일러 대표는 "플랫폼의 규제 강화 흐름 속에서 AI 기술을 통한 정밀한 필터링은 광고주와 플랫폼이 공존할 수 있는 핵심 인프라가 될 것이다. 에이드가 유해 콘텐츠를 정교하게 가려낼수록, 창작자들은 과도한 규제의 피해 없이 자신의 콘텐츠로 정당한 수익을 이어갈 수 있다"고 말했다. 이어 "영상 이해 기술을 바탕으로 언제 어디서나 작동하는 상시 가동 브랜드 세이프티 인프라를 구축하고, 나아가 영상 생태계 전체의 안전을 선도하는 기업이 되겠다"고 밝혔다.

2026.05.14 18:34백봉삼 기자

해외직구 위해제품 안전성조사 대폭 확대…AI 활용 사후관리 강화

정부가 해외직구 위해제품의 국내 유입을 차단하기 위해 안전성 조사를 지난해 1000건에서 올해 2000건 이상으로 확대한다. 또 배터리 내장 제품 등 사고다발 품목 안전관리를 강화하고 위해 우려가 높은 품목을 선정해 집중 조사하기로 했다. 정부는 12일 제7차 제품안전정책협의회 심의·의결을 거쳐 이같은 내용의 관계부처 합동 '제6차 제품안전관리 종합계획(2026~2028년)'을 발표했다. 이번 계획은 '데이터·인공지능(AI) 기반 선제적 제품안전관리로 국민이 안심하고 신뢰하는 사회 구현'을 목표로 국민 체감도를 높이기 위한 4대 전략과 16개 중점과제를 담았다. 산업통상부 국가기술표준원 관계자는 “최근 해외직구와 온라인 유통 확산으로 위해제품 유입 우려가 커지고, 다양한 형태의 신제품 출시로 새로운 위험요인에 대한 선제적 대응 필요성이 높아지고 있다”며 “데이터와 AI를 제품안전 전주기 관리에 적용하고, 사전 예방 중심으로 정책을 전환해 촘촘한 제품안전망을 구축할 계획”이라고 밝혔다. 국표원은 우선 해외직구 위해제품의 국내 유입을 차단하기 위해, 안전성 조사를 지난해 1000건에서 2028년 2000건 이상으로 대폭 확대하고 관계부처 간 협업체계를 강화한다. AI·융복합 제품의 위해요인을 사전에 분석하고 연구개발(R&D)과 실증을 연계한 대응체계를 마련하기로 했다. 또 소비자 수요를 반영해 비관리 품목을 발굴하고, 제품안전 사각지대를 해소할 계획이다. 제품 위험 수준과 특성을 반영해 안전관리 품목과 규제 수준을 합리적으로 조정하고, 중복 시험 방지 등 불필요한 기업 부담을 완화한다. 배터리 내장 제품 등 사고다발 품목과 어린이 등 취약계층 관련 제품에 대한 안전관리를 강화하고, 스마트가전 등 신유형 제품의 안전기준도 적기에 정비한다. 영세·중소기업을 대상으로 시험·인증 비용 지원과 위해도 평가 지원을 확대해 기업의 자율적 안전관리 역량을 높인다. 화재·사고, 유통량을 고려해 위해우려가 높은 품목을 선정해 집중조사하고 지자체·경찰청 등과 합동 단속도 강화한다. 제품사고 정보 수집·분석 과정에 AI를 도입해 신속 대응체계를 구축한다. 또 온라인 유통시장을 AI 기반으로 상시 모니터링해 위해제품 유통을 차단할 계획이다. 정부 중심의 관리체계를 넘어 기업·유통플랫폼·소비자가 함께 참여하는 구조로 전환한다. 온라인 유통플랫폼의 자율적 안전관리 역량을 높이고, 위해정보 공유와 리콜 협력을 확대한다. 제품안전정보포털을 사용자 중심으로 개편해 맞춤형 정보를 제공하고, 제품안전관리원 인력을 단계적으로 확충해 현장 대응 역량을 강화할 계획이다. 이날 정책협의회에서는 종합계획과 함께 해외직구 안전관리 강화를 위한 법령 개정현황, 안전성조사 계획, 국제협력 방안 등 주요 안건도 논의했다. 김대자 국가기술표준원장은 “제품안전은 국민 생명과 직결되는 기본 가치로, 기술혁신과 유통환경 변화 속에서도 결코 양보할 수 없는 영역”이라며 “데이터와 AI를 활용한 선제 관리로 국민이 안심할 수 있는 환경을 조성하고, 기업과 시장의 신뢰도 함께 높이겠다”고 밝혔다. 김용수 국무조정실 국무2차장(제품안전정책협의회 위원장)은 “제품안전은 특정 부처만으로 해결하기 어려운 과제로 부처 간 협력과 역할 분담이 중요하다”며 “사전예방부터 사후관리까지 협업을 강화하고, 불합리한 규제는 지속 개선해 국민이 체감하는 안전 수준을 높이겠다”고 밝혔다.

2026.05.12 16:56주문정 기자

[현장] "안전사고 직전 SOS"…씨이랩, AI 영상분석 솔루션 시선

씨이랩의 지능형 폐쇄회로(CC)TV 화면에 'SOS' 구조 신호가 표시됐다. 지게차와 작업자가 충돌하기 직전 CCTV가 스스로 물체를 빨갛게 표시하며 위험 신호를 알려왔다. 안전사고를 인공지능(AI) 기반의 CCTV가 스스로 탐지하고, 관리자에게 위기 상황을 알린 것이다. 영상AI 전문 기업 씨이랩이 6일부터 8일까지 사흘간 서울 코엑스에서 열리는 '2026 국제인공지능대전'에 참가해 AI 솔루션을 소개했다. 산업 현장에서 일어날 수 있는 안전사고를 사전에 포착하고, AI를 기반으로 현장 맞춤형 영상분석 결과를 보여주는 '올인원 AI 패키지'를 선보여 시선을 모았다. 구체적으로 씨이랩은 ▲산업 현장 안전관리 솔루션 '엑스아이바-세이프티(XAIVA-Safety)' ▲엑스아이바 온디바이스(ON_DEVICE) ▲GPU(그래픽 처리 장치) 활용도 향상 솔루션 '아스트라몬(AstraMon)' ▲디지털 트윈 사업을 소개했다. 먼저 '엑스아이바'는 지능형 CCTV가 낙상, 화재, 끼임 등 산업 현장에서 일어날 수 있는 안전사고를 사전에 포착해 관리자가 대응할 수 있게 알림을 보내는 솔루션이다. 뿐만 아니라 에이전트(Agent)가 사고에 대한 분석 보고서를 스스로 작성하며, '3월 발생한 이벤트 알려줘' 등의 자연어로 프롬프트를 입력하면 3월에 발생·탐지한 안전사고에 대한 내용을 대시보드에 표시해준다. 중대재해처벌법 등 안전 관련 규제가 강화되는 가운데 안전조치 의무 준수를 돕는 '키오스크'도 전시장에서 관람객의 발길을 붙잡았다. '엑스아이바 온디바이스'다. 안전모, 안전조끼 등 안전조치를 키오스크에 부착된 카메라로 확인하고, AI가 준수 여부를 판별한다. 이어 안전모에 부착된 성명, 소속 등을 AI가 수집하고, 대시보드에 실시간으로 현장 입장 여부를 파악해 대시보드에 표시한다. '엑스아이바 온디바이스'를 통해 작업자의 안전조치를 사전에 확인하고, 실제 현장에서는 엑스아이바 세이프티를 통해 실시간으로 모니터링하면서 안전 수준을 끌어올림과 동시에 완전관리 효율까지 끌어올리는 '두 토끼'를 잡는 솔루션이다. 특히 7일 씨이랩 부스에는 GPU의 활용률을 측정·제고하는 솔루션 '아스트라몬'과 효율을 높인 GPU를 자원 요구량에 맞춰 할당하는 GPU 최적화 솔루션 '아스트라고(AstraGo)'가 시선을 모았다. '아스트라몬'은 기업이 보유한 GPU 자원 활용도를 분석해 낭비되는 비용을 직관적인 금액 단위로 환산해 보여준다. 이어 즉각적인 비용 최적화를 이룰 수 있도록 '아스트라고'를 지원한다. 엔비디아 파트너기업인 씨이랩은 지난달 엔비디아의 '옴니버스(Omniverse)' 기반 고정밀 디지털 트윌 플랫폼을 선보인 바 있다. 자체 합성 데이터 생성 기술과 영상 분석 AI를 결합해 가상 환경에서 시뮬레이션 및 최적화를 수행, 피지컬AI의 생산성 향상을 지원한다. 씨이랩 전시 부스 현장 관계자에 따르면 씨이랩의 매출 비중은 아스트라몬과 아스트라고가 60% 비중을 차지하고 있다. 포스코DX, 두산 등 엔터프라이즈급 기업과 이미 협력 관계를 맺었다. 또 '엑스아이바 시리즈'와 디지털 트윈 사업이 각각 20%씩 매출 비중을 차지하고 있다. 이날 씨이랩 부스에는 전시 관람객으로 발길이 끊이지 않았다. 뽑기 이벤트, 키오스크 체험 등 현장 이벤트도 마련됐다. 씨이랩 현장 관계자는 "지난 6일부터 7일까지 양일간 600여명의 관람객이 씨이랩 부스를 찾았다"며 "행사 기간 동안 1000명의 관람객이 방문하는 것을 목표로 하고 있다"고 밝혔다.

2026.05.07 18:09김기찬 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next