검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 안전'통합검색 결과 입니다. (331건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

정부, 공무원용 'AI 법령 비서' 가동…업무 검토 시간 단축

공무원 법령 검토 업무를 돕는 인공지능(AI) 서비스가 나온다. 과학기술정보통신부와 행정안전부, 법제처는 오는 14일부터 전 공무원 대상으로 'AI 법령 비서' 시범서비스를 시작한다고 13일 밝혔다. AI 법령 비서는 법령과 행정규칙·자치법규·판례 바탕으로 정책 기획과 입안·집행 과정에서 발생하는 법적 질문에 답하는 서비스다. 공무원은 행정 내부망의 AI 대화서비스인 '온AI 실험실'에서 업무에 활용할 수 있다. 서비스에는 대법원 판례 6만건과 법령·행정규칙 24만건이 탑재됐다. 서울과 인천·대전·세종·경기도 등 5개 시도의 자치법규 약 5만건도 검색증강생성기술(RAG)에 우선 추가됐다. RAG는 AI가 내부 데이터에서 관련 자료를 검색한 뒤 이를 바탕으로 답변을 생성하도록 하는 기술이다. AI가 사실과 다른 내용을 만들어내는 환각 현상을 줄이고 답변의 근거를 확인할 수 있도록 돕는다. 이번 서비스는 범정부 AI 공통기반에 구축된 법령정보 RAG와 법제처의 법령 입안·해석 업무 체계를 활용해 개발됐다. 전문 개발 인력 없이 공무원이 직접 구축했으며 개발에는 약 1개월이 걸린 것으로 전해졌다. 답변 생성에는 정부의 독자 AI 파운데이션 모델 등이 활용됐다. 독자 AI 파운데이션 모델은 국내 문화와 역사를 반영한 데이터를 활용하고 국내 디지털 인프라와 기술로 개발한 AI 모델을 뜻한다. 정부는 AI 법령 비서 답변을 최종 법적 판단이 아닌 중간 검토 자료로만 활용할 방침이다. 앞으로 공무원의 AI 서비스 개발과 활용을 지원하기 위해 업무용 AI 지식데이터와 지원 체계도 확대할 계획이다. 조원철 법제처장은 "법 해석과 집행은 고도의 전문성을 요하기 때문에 공무원들에게 매우 까다로운 업무 중 하나"라며 "AI 법령 비서로 공무원 업무 효율성이 획기적으로 높아질 것"이라고 자신했다.

2026.07.13 12:00김미정 기자

씽크포비엘, 경찰청 치안 AI 신뢰성 기틀 닦는다

씽크포비엘이 경찰청의 치안 인공지능(AI) 신뢰성 확보 작업을 맡으며 공공 AI 거버넌스 기준 수립의 선도 사례를 만든다. 씽크포비엘은 지난달 경찰청 'AI 영향평가 및 위험관리방안 수립' 정책과제연구 수행기관으로 선정된 데 이어 이달 사업에 착수했다고 9일 밝혔다. 올해 말 완료될 이번 연구는 경찰청이 수사·민원 업무 전반에 AI 기술을 도입하는 과정에서 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'과 내년부터 시행되는 'AI 및 데이터 기반 행정 활성화에 관한 법률(공공AI법)'에 대응하기 위한 영향평가·위험관리 체계를 마련하는 사업이다. 씽크포비엘은 ▲국내외 정책·조직 현황 조사 ▲경찰청 도입 AI 사업·서비스 영향평가 ▲AI 위험관리 정책 수립 ▲위험관리 조직체계·역할·책임 정립 ▲안전성·신뢰성 확보조치 및 문서화 작업을 수행한다. 치안 AI 분야는 기본권·신체·인권·공권력과 직결된다. 이에 씽크포비엘은 국내 법령 준수는 물론 경제협력개발기구(OECD)·유럽연합(EU) AI 법·ISO/IEC 국제표준 등 글로벌 AI 거버넌스 규범과의 정합성도 함께 맞출 계획이다. 박지환 씽크포비엘 대표는 "치안 AI는 성능 중심의 기술 검토만으로는 충분하지 않은 분야"라며 "글로벌 AI 거버넌스 규범을 경찰청이 선제적으로 검토하는 것은 투명하고 설명 가능한 치안 AI 운영체계 기준을 높이는 시도"라고 말했다.

2026.07.09 15:07이나연 기자

이용자 보호로 개념 확장…네이버, 'AI 안전성 체계 2.0' 공개

네이버는 이용자 보호까지 개념을 확장한 AI 안전성 관리 체계 'ASF 2.0'을 선보였다고 8일 밝혔다. ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 공개한 ASF을 최신화해 이용자 보호 측면까지 확장된 개념을 담아낸 AI 안전성 관리 체계다. AI 기술 모델의 성능과 위험 수준을 중점적으로 관리해왔던 기존 ASF의 안전성 관리 범위를 확대해 사용자들이 실제로 경험하는 서비스를 중심으로 안전성을 관리한다는 점이 골자다. 네이버는 AI안전 서울 포럼(SFASS)을 통해 ASF 2.0의 방향성과 구성요소, 강화된 ▲분류 ▲관리 ▲실행 체계 그리고 앞으로의 활동 계획에 대해 공유했다. 발표에 나선 송대섭 네이버 AI 세이프티 정책 리더는 "AI를 둘러싼 기술과 서비스 및 정책과 제도 환경이 변화하며, 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다"며 ASF 2.0의 제정 배경을 밝혔다. 송 리더는 네이버 ASF 2.0에는 ▲AI탭, 쇼핑 AI 에이전트 등 고도화 중인 네이버 '온 서비스 AI' 전략 ▲글로벌 AI 생태계에서의 멀티 모델 환경의 확산 ▲AI기본법 제정 등과 같은 정책·제도 환경의 변화 등이 다각적으로 반영됐다고 부연했다. ASF 2.0은 AI를 이용자와 서비스 관점에서 안전하게 관리하는 것을 목표로, AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리하게 된다. 이를 위해 기존 AI의 기술 모델을 중심으로 삼았던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장하고, 성능 중심의 단일 평가 기준도 ▲맥락 ▲활용사례와 ▲영향으로 세분화했다. 구체적으로 ▲AI 위험 분류 체계에 따라 AI 서비스에서 발생할 수 있는 위험을 유형화하고, ▲AI 영향 평가 매트릭스에 따라 활용 영역 및 범위에 따른 예상 영향을 평가한다. ▲마지막으로 해당 체계를 바탕으로 지속적인 안전성 평가와 사용자 피드백 등을 통해 이용자들이 AI 서비스를 지속적이고 안전하게 쓸 수 있도록 관리하게 된다. 네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 돕는 전사적 실행 체계 'CHEC 2.0'을 마련하기도 했다. 지난 6월 선보인 AI탭도 CHEC 2.0을 통해 설계부터 출시 단계에 이르는 모든 과정에서 AI 안전성을 점검했다. 네이버는 AI 탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속 점검해 나가겠다는 방침이다. 송 리더는 "앞으로도 AI 안전성에 대한 경험과 노하우를 축적해가며 학계, 정책, 외부 전문가 및 다양한 기관과의 협업을 통해 이러한 경험과 노하우를 공유하고 발전시켜 나갈 것"이라고 말했다.

2026.07.08 13:55박서린 기자

세계 AI 기업 안전 성적표…9개 기업 중 'C+'가 최고점

인공지능(AI) 모델의 고도화로 군사·안보 영역에 대한 오남용 위험이 현실화되는 가운데 세계 주요 AI 기업들의 안전성 평가 결과가 나왔다. 앤트로픽이 투명성과 안전 체계에서 가장 높은 'C+' 등급을, xAI·딥시크·미스트랄 3곳은 낙제점인 'F'를 받았다. 퓨처오브라이프 인스티튜트(FLI)는 이러한 내용의 '2026 상반기 AI 안전성 지수'를 8일 공개했다. AI 안전 분야 싱크탱크인 FLI가 발간하는 AI 안전성 지수는 2024년 12월 처음 발표된 이래 반기별로 평가가 이뤄져 왔다. 모델 카드, 연구 논문, 정책 문서 등 공개 자료와 설문으로 각 등급이 매겨진다. 이번 지수에서는 앤트로픽, 오픈AI, 구글 딥마인드, 메타, 지푸(Z.ai), 알리바바 클라우드, xAI, 딥시크, 미스트랄 등 전 세계 AI 기업 9곳이 조사 대상에 올랐다. 몬트리올대, 위스콘신-매디슨대, UC버클리대, 옥스퍼드대, 인민대 등에 소속된 AI·거버넌스 전문가 7명이 평가를 맡아 ▲위험 평가 ▲현재의 피해 ▲안전 프레임워크 ▲인류 생존 차원의 안전 ▲거버넌스 및 책임 ▲정보 공개·소통 등 6개 항목을 살폈다. 조사 결과 앤트로픽(C+)·오픈AI(C)·구글 딥마인드(C)가 상위 3위를 지켰다. 앤트로픽은 6개 부문 중 5개에서 선두를 차지했고 오픈AI는 위험 평가 부문에서 가장 높은 점수를 받았다. 메타는 6위에서 4위로 올라선 반면 xAI는 4위에서 7위로 떨어졌다. 이번 지수에 처음 등장한 유럽 대표 AI 기업 미스트랄은 거의 모든 부문에서 낙제점을 받으며 최하위를 기록했다. 낙제점을 받은 3곳이 미국(xAI)·중국(딥시크)·유럽(미스트랄)에서 각각 나오면서 안전 부실이 특정 지역이 아닌 글로벌 문제라는 점도 드러났다. 평가 위원들은 주요 AI 기업이 안전 약속에서 후퇴하고 있다는 점을 핵심 문제로 지목했다. 이들 기업은 AI 활용 범위를 두고 넘어서는 안 되는 한계선인 '레드라인'에 근접할 경우 개발을 중단하겠다고 대외적으로 약속해 왔다. 그러나 앤트로픽·오픈AI·구글 딥마인드·메타 모두 내부적으로 이를 약화하거나 폐기한 것으로 나타났다. 2024년부터 2026년 사이 군사적 활용을 금지했던 기업들이 잇따라 방침을 뒤집고 방산 협력을 확대한 점도 새로운 위험 요인으로 꼽혔다. 인류 생존 차원의 안전은 업계 전체에서 가장 취약한 부문으로 나타났다. C- 등급을 넘은 기업이 한 곳도 없었으며 대부분 D 이하에 머물렀다. 앤트로픽의 헌법적 분류기, 오픈AI의 거버넌스 기구 설립 제안, 구글 딥마인드의 모니터링 약속 등 일부 시도가 있었지만 갈수록 자율성이 커지는 AI를 통제하기에는 미흡하다는 평가다. 평가 위원들은 AI 내부 작동을 들여다보는 해석 가능성, AI의 사고 과정을 추적하는 생각사슬(CoT) 모니터링 등 업계 주류 안전 연구 패러다임에 대해서도 회의적인 시각을 보였다. 위험을 사후에 탐지하는 기술일 뿐 위험 자체를 사전에 막는 방법은 아니라는 이유에서다. 맥스 테그마크 FLI 회장(MIT 교수)은 "AI 기업들이 초인공지능(ASI)의 위험을 스스로 경고하면서도 정작 그것을 만들기 위한 경쟁은 멈추지 않는다"며 "자발적 약속만으로는 애초에 충분하지 않다"고 분석했다.

2026.07.08 10:00이나연 기자

젠스파크, 국토부 '스마트건설 챌린지' 첫 공식 AI 후원사 참여

젠스파크가 국내 건설현장 안전과 생산성 강화를 위한 인공지능(AI) 워크스페이스 지원에 앞장선다. 젠스파크는 국토교통부가 주최하는 '2026 스마트건설 챌린지'에 최초의 공식 AI 후원사로 참여한다고 7일 밝혔다. 올해로 7회째를 맞은 스마트건설 챌린지는 AI와 로봇 등 첨단기술을 활용해 건설현장의 안전과 품질을 높이고 주택·도로·철도 등 인프라 서비스 혁신 기술을 발굴하는 대회다. 국토교통부가 주최하고 한국건설기술연구원(KICT)·한국토지주택공사(LH)·한국도로공사· 국가철도공단(KR)·국토안전관리원이 공동 주관한다. 총상금 3억원 규모로 열리는 이번 대회는 안전관리, 단지·주택, 도로, 철도, 빌딩 정보 모델링(BIM) 등 5개 분야로 진행된다. 특히 올해 BIM 분야에선 'BIM 투 AI, 생성형 AI 시대와 BIM의 새로운 가능성'을 주제로 선정해 생성형 AI와 건설기술의 융합이 핵심 과제로 제시됐다. 젠스파크는 참가자들이 AI 기술을 활용해 혁신적인 결과물을 만들 수 있도록 다양한 지원에 나선다. 본선 진출팀 전원에게 젠스파크 플랫폼에서 사용할 수 있는 3만 크레딧을 제공하며 설문조사 참여 또는 활용 사례를 공유하면 2만 크레딧을 추가 지급한다. 참가 기업과 기관이 비용 부담 없이 자사 AI 워크스페이스를 활용할 수 있도록 지원한다는 취지다. 이번 스마트건설 챌린지 최종 입상 기술은 오는 11월 25일부터 27일까지 경기 고양시 킨텍스에서 열리는 '2026 스마트건설 엑스포'에서 공개될 예정이다. 젠스파크는 문서 작성, 프레젠테이션 제작, 데이터 분석 등을 지원하는 AI 워크스페이스 플랫폼을 제공 중이다. 30개 이상의 AI 모델을 통합 운영하는 '슈퍼 에이전트'를 기반으로 다양한 업무를 자동화하며 현재 전 세계 190개국, 5000여 개 기업이 서비스를 이용하고 있다. 월간 활성 이용자(MAU)는 1000만 명을 넘어섰다. 회사 측에 따르면 미국 팔로알토에 본사를 둔 운영사 메인펑크(MainFunc)는 최근 시리즈B 투자에서 4억 8500만 달러(약 7502억원)를 유치하며 기업가치 26억 달러(약 4조 225억원)를 인정받았다. 젠스파크는 오픈AI 공식 파트너이자 앤트로픽 주요 고객사로도 협력 관계를 이어가고 있다. 젠스파크 관계자는 "생성형 AI 확산과 함께 건설산업의 디지털 전환이 가속화되는 시점에서 이번 스마트건설 챌린지에 공식 AI 후원사로 참여하게 돼 의미 있게 생각한다"며 "참여 기업과 전문가들이 우리 AI 에이전트 기술을 바탕으로 건설현장 안전과 생산성을 높일 다양한 아이디어를 선보이길 기대한다"고 밝혔다.

2026.07.07 11:11한정호 기자

광해광업공단, AI로 광산안전 관리…유플리트와 업무협약

한국광해광업공단(사장 황영식)은 인공지능(AI) 안전관리 솔루션 전문기업 유플리트(대표 최근화)와 'AI기반 광산안전관리 솔루션 도입'을 위한 업무협약을 체결했다고 5일 밝혔다. 광해광업공단은 광산 안전관리 업무부담을 줄이고 체계적인 사고예방 시스템을 구축하기 위해 광산안전관리 시스템에 광산 특성을 반영한 AI 기술 도입을 추진해 왔다. 광해공업공단은 유플리트와 협업해 광산 안전자료를 AI에 내재화해 현장에 최적화한다. 광산관리자와 근로자가 스마트폰으로 현장을 촬영하면 AI가 작업공정을 자동 분류하고 잠재위험 요인을 파악하고 감소대책을 제안한다. 법적 의무인 위험성평가 보고서 작성도 관련 법령 매칭을 통해 초안을 자동 생성하는 등 일련의 평가 과정을 신속히 수행할 수 있게 된다. 광해공업공단은 이번 협약을 기점으로 2단계에 걸쳐 광산안전관리 시스템의 단계적 고도화할 계획이다. 올해 안에 광산 안전관리 통합 플랫폼 기반을 조성하고, 'AI 기반 위험성평가 시스템'을 개발해 광산에 시범 도입한다. 내년에는 구축된 위험성평가 시스템을 확대 보급하고 2028년부터는 안전 데이터를 디지털화해 '모니터링 체계'를 갖춘 통합 플랫폼으로 고도화해 위험 통보부터 사후 확인까지 전 과정을 연계할 방침이다. 안종만 광해광업공단 광산안전처장은 “광해광업공단의 안전 노하우와 유플리트의 AI 기술력을 결합해 고도화된 안전관리가 이뤄질 것으로 기대한다”면서 “광산의 실효성 있는 안전사고 예방을 위해 역량을 집중하겠다”고 밝혔다.

2026.07.05 17:01주문정 기자

AI로 지진 행동요령 알린다…행안부, 국민 영상 공모전 개최

행정안전부가 생성형 인공지능(AI)을 활용한 지진 안전 콘텐츠 공모전을 개최한다. 국민이 직접 AI로 지진·지진해일·화산 재난 행동요령을 담은 영상을 제작해 재난 대응 역량과 안전문화를 확산한다는 취지다. 행안부는 '2026년 지진안전 AI 영상 공모전'을 개최한다고 5일 밝혔다. 공모전은 오는 6일부터 8월 9일까지 진행되며 대한민국 국민 누구나 개인 또는 최대 5인으로 구성된 팀 단위로 참여할 수 있다. 이번 공모전은 교육과 산업 현장에서 새로운 콘텐츠 제작 수단으로 자리 잡은 생성형 AI를 활용해 국민이 직접 지진 안전 콘텐츠를 제작하는 것이 특징이다. 이를 통해 지진·지진해일·화산 재난 발생 시 행동요령을 자연스럽게 익히고 재난 대응 역량을 높인다는 계획이다. 특히 2018년 시작된 지진안전 공모전 가운데 처음으로 '국민 선호도 심사'를 도입한다. 전문가 심사와 함께 소통24 누리집에서 온라인 투표를 진행해 국민 참여를 확대하고 숏폼 형식의 AI 영상을 통해 행동요령을 쉽고 효과적으로 전달할 계획이다. 공모 주제는 ▲지진·지진해일·화산 발생 시 행동요령 ▲내 주변 지진·지진해일 대피장소 찾기 ▲지진안전문화 확산 콘텐츠 등이다. 참가자는 생성형 AI를 활용해 30초 이상 60초 미만의 세로형 영상을 제작한 뒤 지진안전 누리집을 통해 접수하면 된다. 접수된 작품은 사전 적격심사와 전문가 평가, 국민 선호도 심사, 공개 검증을 거쳐 총 20점을 선정한다. 총상금은 1000만원 규모로, 대상 수상자에겐 행안부 장관상과 상금 200만원이 수여된다. 우수작은 지진안전주간 등 다양한 홍보 콘텐츠로 활용될 예정이다. 행안부는 공모전과 함께 공공시설물 내진율 향상과 민간시설물 내진 보강 지원도 지속 추진 중이다. 지난달에는 관계기관 담당자 500여 명을 대상으로 내진보강사업 역량 강화 교육을 실시했으며 민간시설물 내진 성능 확보를 위한 비용 보조와 세제 혜택, 전국 단층 조사도 관계부처와 함께 추진 중이다. 김용균 행안부 자연재난실장은 "지진은 언제 어디서 발생할지 모르는 재난인 만큼 평소 행동요령을 알고 실천하는 것이 무엇보다 중요하다"며 "이번 공모전이 AI 기술과 국민의 창의적인 아이디어가 만나 대한민국의 안전문화를 한 단계 발전시키는 계기가 되도록 많은 관심과 참여를 부탁드린다"고 말했다.

2026.07.05 13:28한정호 기자

브릴스, '로보컵 2026'서 AI 안전 관제 팔레타이징 선봬

로봇 기업 브릴스가 '로보컵 2026'에 참가해 '인공지능(AI) 안전 관제 팔레타이징 솔루션'을 선보였다고 3일 밝혔다. 인천시와 세계로보컵연맹, 한국AI·로봇산업협회(KAR)가 공동 주최한 이번 대회에서는 오는 6일까지 로봇축구, 가정서비스, 산업자동화, 재난구조, 청소년 등 5개 분야, 10개 리그 경기가 펼쳐진다. 행사장 한 편에는 기업 전시장도 마련됐다. 이곳에서 브릴스는 AI 안전 관제 팔레타이징 솔루션을 전시했다. 이 솔루션은 자동화 로봇과 사람이 같은 공간에서 안전하게 협업할 수 있도록 설계됐다. 브릴스는 "해당 제품은 기존 로봇을 보완한 지능형 동적 제어 기술이 탑재돼 있다"며 "사람의 관절 위치와 동작을 실시간으로 분석해 산업재해를 예방한다"고 말했다. 그러면서 "CCTV와 연동돼 작업 현장을 실시간으로 모니터링하며 작업자의 움직임을 파악한다"며 "이상 상황이 감지되면 로봇이 자동으로 속도를 줄이거나 멈춰 사고를 방지한다"고 강조했다. 회사는 "이 솔루션을 통해 작업장 안전성을 높였을 뿐 아니라 생산성을 50% 향상시키고 불량률을 70% 감소시켰다"고 덧붙였다. 전진 브릴스 대표이사는 "로보컵 대회에서 브릴스의 기술을 선보이게 돼 뜻깊다"며 "사람과 로봇이 안전하게 협업하는 환경을 만드는 것이 피지컬 AI의 본질인 만큼, 브릴스는 현장의 위험성을 해소하면서 경쟁력을 높이는 기술을 시장에 알리겠다"고 말했다.

2026.07.03 15:14진운용 기자

공무원이 직접 개발하는 AI 행정서비스…'AI 정부 실험실' 시범 운영

행정안전부가 공무원이 직접 인공지능(AI)을 활용해 행정 업무를 개선할 수 있는 'AI 정부 실험실'을 가동한다. 반복 업무를 줄이고 현장 중심의 행정혁신을 확산하기 위한 기반으로 개발 결과물은 범정부 차원의 공공 저장소를 통해 공유된다. 행정안전부는 공무원이 AI 코딩과 AI 에이전트 기술을 활용해 업무 과정의 비효율을 스스로 해결할 수 있도록 지원하는 'AI 정부 실험실'을 단계적으로 구축·운영한다고 2일 밝혔다. AI 정부 실험실은 현장 공무원이 업무 수행 과정에서 발견한 문제를 AI 기술로 직접 해결하고, 신속하게 시제품을 제작·검증할 수 있도록 지원하는 공공부문 AI 전환(AX) 플랫폼이다. 그동안 공공 정보화 사업은 예산 확보와 기획, 구축, 운영 등 복잡한 절차를 거치면서 실제 업무 현장의 개선 요구를 즉시 반영하기 어려웠다. 이 때문에 단순 반복 업무나 수작업 중심의 비효율이 장기간 지속되는 사례도 적지 않았다. 행안부는 이러한 문제를 해소하기 위해 우선 인터넷망 기반의 AI 정부 실험실을 7월 3일부터 시범 운영한다. 시범 단계에서는 민간 클라우드와 AI 개발 도구, 개방형 데이터, 오픈 API 등을 활용할 수 있는 환경을 제공한다. 이를 통해 공무원들은 별도의 예산이나 전문 개발 조직 없이도 업무 자동화 프로그램이나 AI 기반 업무지원 도구를 직접 개발하고 성능을 검증할 수 있게 된다. 행안부는 개발 결과물이 개인 PC나 개별 저장소에 머무르지 않도록 '공공 개발산출물 저장소(공공 깃랩)'도 함께 구축한다. 저장소에는 과제 문서와 소스코드, 프롬프트 등 개발 과정에서 생성된 산출물이 체계적으로 등록·관리된다. 이를 통해 특정 기관의 업무혁신 사례를 다른 중앙부처나 지방자치단체에서도 활용할 수 있도록 하고, 우수 사례의 재사용과 확산을 촉진한다는 계획이다. 또한 정기적으로 우수 사례를 선정해 포상하는 등 적극적으로 참여한 공무원에게 실질적인 인센티브도 제공할 예정이다. 제도적 기반 마련에도 나선다. 행안부는 '공공 AX 업무 지침'(가칭)을 마련해 AI 활용 및 개발 과정에서 필요한 기준과 절차를 정립한다. 해당 지침에는 과제 발굴, 개발 환경 이용, 보안 준수, 품질 검증, 산출물 등록 및 확산 절차 등이 포함될 예정이다. 행안부는 내년부터 정부 내부 업무망 환경으로 AI 정부 실험실을 확대할 계획이다. 업무망 환경이 구축되면 내부 행정 데이터와 법령, 지침, 민원 사례 등을 활용해 보다 고도화된 AI 서비스와 업무 전용 AI 에이전트 개발이 가능해질 전망이다. 이와 함께 공공부문 AI 혁신 과제를 통합 관리하는 '공공 AX 포털'도 구축한다. 해당 포털은 국민과 공무원의 아이디어 제안부터 과제 발굴, 전문가 검토, 우수사례 선정, 기관 간 확산까지 전 과정을 관리하는 플랫폼 역할을 수행하게 된다. 행안부는 이를 통해 현장에서 검증된 혁신 모델을 범정부 차원에서 체계적으로 공유하고, 공공 AI 전환의 확산 속도를 높인다는 방침이다. 윤호중 행정안전부 장관은 "공공 AI 전환의 핵심은 현장의 문제를 가장 잘 이해하는 공무원이 AI를 활용해 직접 해결책을 만들어내는 데 있다"며 "모든 공무원이 AI를 업무 파트너처럼 활용하고 국민이 행정서비스의 변화를 체감할 수 있도록 공공 AX 기반을 지속적으로 확대해 나가겠다"고 말했다.

2026.07.02 14:30남혁우 기자

AI로 환경제품 상용화 앞당긴다…17개 응용제품 상용화 시동

기후에너지환경부와 한국환경산업기술원(원장 남광우)은 7월 1일 서울 중구 프레스센터에서 '인공지능(AI) 응용제품 신속 상용화 지원사업(환경)'에 선정된 17개 기업과 업무협약을 체결한다고 밝혔다. 이번 사업은 기후부·산업통상부·과학기술정보통신부 등 11개 정부부처가 합동으로 추진하는 'AI 응용제품 신속 상용화 지원사업'의 일환이다. 국민자생활과 밀접한 환경 부문에 AI 기술을 적용한 제품·서비스를 1~2년 내 시장에 출시해 일상에서 국민이 체감할 수 있는 성과를 창출한다는 목표다. 기후부는 지난 3월 19일부터 4월 20일까지 ▲탄소중립 ▲물관리 ▲자원순환 ▲환경안전 ▲기상기후 등 5개 분야에서 공모를 통해 접수된 총 145개 과제 가운데 17개 과제를 선정했다. 이들 과제에는 2027년까지 정부 지원금 약 410억원을 투입해 상용화를 지한다. 선정된 과제는 기후·에너지·환경 현안 해결과 국민 안전 확보 등 사회적 요구가 높은 영역에 집중됐다. 탄소중립 분야에서는 태양광 발전장치, 에너지저장장치(ESS), 히트펌프를 AI 기술로 통합 운영해 기존 보다 20% 이상 냉난방 비용을 절감하는 시스템을 개발한다. 물관리 분야에서는 상수관망 노후도와 피로도를 예측하고 이상징후를 조기에 포착해 싱크홀 등 재난을 선제적으로 예방하는 플랫폼을 개발한다. 환경안전 분야에서는 다중이용시설의 영상감시카메라(CCTV)와 센서 정보를 융합해 실내공기 오염이나 화재 연기를 자동 예측·감지함으로써 유해물질 노출시간을 절반으로 단축하는 시스템이 상용화된다. 기후부는 이번 사업에 선정된 기업 가운데 중소기업이 16개(94%), 비수도권 소재 기업이 9개(53%)를 차지하는 등 중소·지방기업도 AI 기술에 관심 갖고 시장에 진출할 수 있는 발판이 됐다고 평가했다. 안세창 기후부 기획조정실장은 “이번 사업은 AI 기술을 환경 산업에 빠르게 적용해 국민이 체감할 수 있는 성과를 만드는 협력 사업”이라며 “우리의 AI 응용제품이 국내외 기후위기 대응과 환경문제 해결의 새로운 해법이 될 수 있도록 민관 협력을 강화하고 관계 부처와도 적극 협업하겠다”고 밝혔다.

2026.06.30 14:23주문정 기자

"AI 해킹부터 재난 복구까지"…정부 전산망 혁신, 300개 기관과 머리 맞댄다

정부가 생성형 인공지능(AI) 확산에 따른 새로운 사이버 위협에 대응하고 디지털 행정서비스의 안정성을 강화하기 위해 중앙부처와 공공기관이 참여하는 범정부 협력 체계를 본격 가동한다. 행정안전부 국가정보자원관리원은 정부세종청사 민원동 대강당에서 중앙부처와 공공기관 정보화 담당자, 공무원 등 300여 명이 참석하는 '2026년 입주기관 협의회'를 개최한다고 29일 밝혔다. 오는 30일 열리는 이번 협의회는 AI 시대에 맞는 정부 인프라 혁신 방향을 공유하고, 지능화되는 사이버 공격과 재난 상황에 대비한 정보시스템 안정성 확보 방안을 논의하기 위해 마련됐다. 행정안전부 인공지능정부실과 국가정보자원관리원은 이날 정부 인프라의 안정성·효율성·개방성을 높이기 위한 주요 정책과 추진 과제를 소개하고, 현장의 의견을 수렴해 향후 정책에 반영할 계획이다. 특히 최근 생성형 AI를 악용한 해킹 시도가 증가하는 가운데 정부는 선제적 방어 체계 구축과 기관 간 협업형 보안관제 강화 방안을 집중 논의한다. 국가정보자원관리원은 고도화되는 AI 기반 사이버 위협에 대응하기 위한 보안 전략과 대응 체계를 공유할 예정이다. 정보시스템 운영 환경 변화에 따른 기관 부담 완화 방안도 제시된다. 소프트웨어 산업이 구매형 라이선스에서 구독형 서비스 중심으로 재편되면서 공공기관의 비용 부담이 커지고 있는 만큼, 이에 대한 영향 분석 결과와 대응 전략을 설명한다. 클라우드 운영 역량 강화를 위한 '통합 MSP(관리형 서비스 제공사)' 체계 구축 계획도 공개된다. 국가정보자원관리원은 입주기관의 다양한 정보화 사업을 보다 효율적으로 지원하기 위해 단계별 통합 운영 모델과 협력 체계를 제시할 예정이다. 아울러 재난·재해 등 예기치 못한 장애 상황에서도 행정서비스를 지속할 수 있도록 재해복구시스템(DR) 구축 방향과 운영 전략도 공유한다. 이를 통해 정부 핵심 정보시스템의 연속성과 안정성을 한층 강화한다는 방침이다. 정부의 AI 인프라 혁신 정책에 발맞춰 민간 기술 활용 확대 방안도 논의된다. 데이터 중요도에 따라 민간 클라우드 이전을 확대하고, 생성형 AI와 협업 플랫폼 등 민간의 최신 디지털 기술을 공공 업무 환경에 적용한 사례를 소개할 예정이다. 이와 함께 국가정보자원관리원의 중장기 혁신 방향을 담은 정보화전략계획(ISP) 수립 현황도 공개된다. 국가정보자원관리원은 기관별 현장 의견과 애로사항을 수렴해 향후 정부 디지털 인프라 혁신 전략에 반영할 계획이다. 하승철 국가정보자원관리원장 직무대리는 "생성형 AI를 활용한 신종 사이버 위협이 등장하면서 범정부 차원의 대응 역량 강화가 어느 때보다 중요해졌다"며 "재해복구체계 구축과 미래 인프라 설계는 국민이 이용하는 디지털 행정서비스의 안정성과 직결되는 만큼 기관 간 긴밀한 협력이 필요하다"고 말했다. 이어 "정부 서비스가 중단 없이 제공될 수 있도록 현장의 목소리를 적극 수렴하고 정책에 반영해 나가겠다"고 밝혔다.

2026.06.29 15:18남혁우 기자

와이즈넛, 한국전기안전공사 AI 플랫폼 구축…"26억 규모 공공 AX"

와이즈넛이 한국전기안전공사 업무에 전기안전 특화 인공지능(AI) 플랫폼을 구축한다. 와이즈넛은 한국전기안전공사 '전기안전 AI 플랫폼 구축 사업'에 착수했다고 29밝혔다. 이번 사업은 웨이버스와 컨소시엄 형태로 추진되며 총 사업비는 26억 4500만원 규모다. 이번 사업은 단순 AI 도입보다 전기안전 업무 절차를 에이전트 기반으로 재설계하는 데 초점 맞췄다. 플랫폼은 온프레미스 환경으로 구축돼 내부 자료가 외부로 유출되는 위험을 줄이고 임직원이 보안 부담 없이 생성형 AI를 활용할 수 있도록 돕는다. 구축 범위는 온프레미스 기반 멀티 거대언어모델(LLM)을 비롯한 AI 인프라, AI 서비스, LLM 운영 체계 등 통합 플랫폼 전반이다. 이를 통해 한국전기안전공사는 출장·근태 통합 에이전트, 내부문서 기반 질의응답, 업무 문서 초안 작성, 지능형 민원 대응 서비스를 도입한다. 플랫폼은 감사시스템과 경영정보시스템, 케스코-인 등 내부 주요 시스템과도 연계된다. 와이즈넛은 이 연계를 통해 임직원이 실제 업무 과정에서 AI 활용 범위를 넓힐 계획이다. 와이즈넛은 LLM과 공공 도메인 특화 AI 에이전트 구축 경험을 이번 사업에 적용한다. 전기안전 전문용어 번역과 요약, 질의응답, 내부 데이터 기반 검색증강생성(RAG), 개인화 AI 비서, 민원 대응 서비스 등이 주요 구현 대상이다. 문서 처리 기술도 플랫폼 핵심 기능으로 적용된다. 와이즈넛은 문서 특화 시각언어모델(VLM) 기반 지능형 전처리, 벡터 임베딩, RAG를 적용해 표와 이미지가 포함된 복잡한 문서 구조를 자동으로 인식하고 처리한다. 운영 관리는 와이즈넛 LLM 운영 플랫폼 '와이즈 에이전트 랩스' 기반 웹 관리 도구로 지원된다. 한국전기안전공사는 이를 통해 반복 행정 업무를 자동화하고 민원 처리 시간 단축과 행정 생산성 향상을 기대하고 있다. 와이즈넛은 검색, 챗봇, 자연어처리 기술로 기업과 공공기관에 AI 솔루션을 제공해 온 국내 AI 기업이다. 최근 공공·산업별 업무에 특화된 에이전트 사업을 확대하고 있다. 강용성 와이즈넛 대표는 "이번 사업은 보안과 성능을 동시에 충족해야 하는 공공 AI 도입의 현실적 과제를 정면으로 해결하는 프로젝트"라며 "온프레미스 멀티LLM 환경에 우리 기술력을 집약해 전기안전 분야 AI 행정 모범 사례를 만들 것"이라고 밝혔다.

2026.06.29 09:59김미정 기자

kt클라우드-카카오, 안전한 공공·금융 AI 만든다

kt클라우드가 카카오 손잡고 생성형 인공지능(AI) 서비스 안전성 강화에 나섰다. kt클라우드는 카카오와 AI 안전성 협력 체계를 구축하고 공공·민간 분야에서 신뢰할 수 있는 AI 활용 환경을 조성한다고 26일 밝혔다. 두 기업은 지난 25일 오후 카카오 판교 아지트에서 협약식을 열고 AI 안전성 협력 방안과 향후 추진 계획을 논의했다. 이번 협력은 kt클라우드 AI 인프라 플랫폼 역량과 카카오 AI 안전성 기술을 결합하는 것이 핵심이다. 생성형 AI 확산으로 유해 콘텐츠 생성과 프롬프트 주입 공격 개인정보 유출 문제가 커지면서 안전한 운영 환경 수요가 높아져서다. kt클라우드는 협력 첫 단계로 지난 4월 내놓은 공공 고객 대상 검색증강생성(RAG) 기반 생성형 AI 서비스 플랫폼 'RAG 스위트 2.0'에 카카오 AI 가드레일 모델 '카나나 세이프가드'를 연동한다. 카나나 세이프가드는 한국어와 한국 문화적·법적 맥락에 특화된 AI 안전성 모델이다. 이 모델은 유해 콘텐츠 생성과 부적절한 응답 프롬프트 공격 등을 탐지하고 차단한다. 개인정보 탐지·마스킹 AI 응답 가드레일 '한글 문서 파서'와 '리랭크' 기능 등을 갖춰 보안성과 답변 정확도를 높인 것이 특징이다. 두 기업은 모델 안정성 평가 시스템과 AI 레드티밍 시스템을 kt클라우드 고객 환경에 단계적으로 제공한다. AI 레드티밍은 다양한 공격 시나리오를 기반으로 AI 서비스 취약 영역을 진단하는 체계다. 협력 범위는 AI 안전성 도구를 통합 관리하는 운영 플랫폼으로도 확대된다. kt클라우드 환경서 수집되는 고객 피드백과 운영 데이터 바탕으로 생성형 AI 서비스 개발 배포 운영 모니터링 전 과정을 관리하는 체계를 마련한다는 구상이다. kt클라우드는 이번 협력이 공공기관과 금융권이 요구하는 보안·컴플라이언스 기준 대응에도 도움 될 것으로 보고 있다. 성능 중심으로 진행되던 AI 도입 논의가 보안성 신뢰성 책임성까지 포함하는 방향으로 넓어지고 있다는 설명이다. 김봉균 kt클라우드 대표는 "생성형 AI가 확산하면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "이번 협력을 통해 AI 인프라와 안전성 기술을 결합하고 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다.

2026.06.26 13:29김미정 기자

"공공기관도 직접 AI 에이전트 만든다"…삼성SDS '패브릭스'로 행정 혁신 가속

"이제 공공기관 실무자도 직접 인공지능(AI) 에이전트를 만들 수 있습니다. 처음에는 쉽지 않을 수 있지만 삼성SDS가 구축 과정 전반을 지원하겠습니다." 양낙용 삼성SDS AX센터 그룹장은 24일 경기 고양시 킨텍스에서 열린 '공공부문 AI 도입·활용 가이드 설명회'에서 삼성SDS의 생성형 AI 플랫폼 '패브릭스(FabriX)'를 활용한 공공 AI 에이전트 구축 방안을 소개했다. 한국지능정보사회진흥원(NIA)이 2026 공공 AI 박람회 부대행사로 마련한 이번 행사는 범정부 AI 공통 기반의 운영 현황과 활용 방법을 소개하고 공공기관의 AI 활용 확대를 지원하기 위해 마련됐다. 양 그룹장은 공공기관이 직접 AI 에이전트를 개발하고 운영할 수 있도록 패브릭스에서 모델컨텍스트프로토콜(MCP) 서버 구축부터 검색증강생성(RAG) 구성, 업무 시스템 연계까지 전 과정을 지원하고 있다고 설명했다. 그는 "패브릭스는 에이전트 구축 환경을 제공하고 있으며 공공기관 직원들도 직접 에이전트를 만들 수 있다"며 "처음 구축하는 과정이 쉽지 않을 수 있지만 삼성SDS가 컨설팅과 기술 지원을 함께 제공하고 있다"고 말했다. 실제로 법제처를 비롯한 공공기관이 현재 자체 AI 에이전트 구축을 추진하고 있으며, 삼성SDS는 현장 지원을 통해 구축과 활용을 돕고 있다고 소개했다. 양 그룹장은 패브릭스의 모든 기능을 API 형태로 제공하고 있다는 점도 강조했다. 이를 통해 공공기관 개발자나 협력 기업이 자체 애플리케이션을 개발하고 업무 시스템과 연계한 AI 서비스를 구현할 수 있다는 설명이다. 이와 함께 정부24 AI 사례도 소개했다. 정부24 AI는 사용자의 질문에 대해 먼저 답변 가능 여부를 판단한 뒤 RAG 기술을 활용해 관련 정보를 검색하고, 질문과의 연관성을 검증한 후 대규모언어모델(LLM)이 최종 답변을 생성하는 구조로 설계됐다. 양 그룹장은 "검색된 정보와 질문 간 관련성을 반복적으로 검증해 정확도를 높이고 환각 현상을 최소화한다"며 "단순 챗봇을 넘어 실제 행정 업무를 수행할 수 있는 AI 에이전트 구현이 가능하다"고 설명했다. 또한 AI 에이전트가 단순 질의응답에 그치지 않고 업무 시스템 접속, 데이터 조회 및 수정, 승인 절차 수행 등 실제 행정 업무 프로세스와 연계될 수 있다고 밝혔다. 그는 "노코드 방식뿐 아니라 개발자를 위한 코드 기반 환경도 함께 제공하고 있다"며 "공공기관이 직접 AI 에이전트를 구축하고 운영하는 시대가 본격화될 것"이라고 말했다.

2026.06.24 17:40남혁우 기자

페이블5가 촉발한 외산 AI 리스크…네이버클라우드, 정부 전용 리전으로 AI 주권 확보

"최근 앤트로픽의 클로드 페이블5 중단 이슈 등 해외 인공지능(AI) 기업의 정책 변화에 대해 주의 깊게 보고 있습니다. 특히 공공·국방 분야에서는 외산 AI 의존에 따른 불확실성이 새로운 리스크로 떠오르는 중입니다." 정주환 네이버클라우드 AX랩 이사와 강민석 네이버클라우드 퍼블릭 플래그십 이사는 24일 경기 고양시 킨텍스에서 열린 '공공부문 AI 도입·활용 가이드 설명회'에서 범정부 AI 공통기반 구축 사례와 공공 AI 전환(AX) 전략을 소개했다. 이들은 외산 AI 의존에 따른 공급 불확실성에 대응하기 위해 AI 주권 확보를 위한 정부 전용 리전과 자체 AI 생태계 구축 방향을 제시했다. 변동성 커지는 외산 AI, 공공·국방 분야 리스크 우려 강민석 이사는 앤트로픽의 페이블5로 본격화된 모델 접근 제한 움직임에 우려를 나타냈다. 특히 공공·국방 분야는 해외 기업이나 정부 정책 변화에 따라 서비스 이용이 제한될 가능성이 있는 만큼 안정적인 AI 공급 체계를 확보하는 것이 중요하다고 강조했다. 강 이사는 "최근 해외 AI 모델 제공 정책 변화와 관련된 이슈를 민감하게 보고 있다"며 "국방이나 공공 분야처럼 장기적인 안정성과 지속 가능성이 중요한 영역에서는 외산 모델 의존도를 최소화할 필요가 있다"고 말했다. 그는 AI 경쟁력이 단순히 모델 성능이 아니라 데이터와 컴퓨팅 자원, 클라우드 인프라, AI 모델이 결합된 결과라고 설명했다. 이를 위해서는 데이터 주권뿐 아니라 AI 주권, 컴퓨팅 주권, 클라우드 주권을 모두 확보해야 한다고 강조했다. AI 주권 확보 위한 '정부 전용 리전' 추진 강민석 이사는 AI 주권 확보 전략 핵심으로 공공 데이터와 AI 서비스를 국내 인프라 위에서 안정적으로 운영할 수 있는 정부 전용 리전을 제시했다. 네이버클라우드는 현재 세종 데이터센터를 기반으로 정부 전용 리전 구축을 추진하고 있다. 정부 전용 리전은 인터넷과 물리적으로 분리된 환경에서 운영되며 정부 전용 서버실과 독립 전력 체계, 강화된 보안 체계를 갖춘 형태로 설계된다. 강 이사는 "공공부문의 AI 활용이 확대되면서 데이터 주권과 디지털 주권에 대한 요구도 커지고 있다"며 "정부가 요구하는 보안 수준과 안정성을 충족하는 전용 인프라를 제공할 수 있도록 준비하고 있다"고 설명했다. 세종 데이터센터는 향후 대전·공주 지역과 연계한 재해복구(DR) 체계 구축도 가능하도록 설계되고 있다. 이를 통해 정부가 필요로 하는 고가용성 AI 인프라를 장기적으로 지원한다는 계획이다. 공공 AI 생태계 구축...40개 부처서 AI 서비스 개발 진행 정부 전용 인프라와 함께 자체 AI 모델 전략도 강화한다. 강 이사는 하이퍼클로바X를 비롯한 자체 AI 모델과 AI 플랫폼을 지속적으로 고도화하고 있으며 외산 모델 정책 변화에 영향을 받지 않는 공공 AI 생태계를 구축하는 것이 목표라고 밝혔다. 특히 네이버클라우드는 글로벌 오픈웨이트 모델과 국내 AI 모델을 함께 활용할 수 있는 개방형 플랫폼 전략을 추진하고 있다. 엔비디아 네모트론 생태계와의 협력을 통해 글로벌 표준 기술을 수용하면서도 국내 환경에 최적화된 AI 서비스를 제공하겠다는 구상이다. 또 GPU 인프라부터 AI 플랫폼, 자체 거대언어모델(LLM)까지 보유한 AI 풀스택 사업자로서의 강점도 강조했다. GPU 서비스를 공급하는 동시에 직접 대규모 AI 모델을 개발·운영해 온 경험을 바탕으로 공공 AI 인프라와 플랫폼을 함께 제공할 수 있다는 설명이다. 정주환 이사는 범정부 AI 공통기반의 실제 활용 사례를 소개했다. 현재 약 40개 중앙부처와 공공기관이 범정부 AI 공통기반 내 테스트 환경을 활용해 AI 서비스를 개발하고 있다. 법제처를 비롯한 여러 기관은 AI 에이전트 빌더를 활용해 법령 검색과 행정 업무 지원, 문서 분석, 민원 대응 서비스 등을 직접 구축하고 있는 것으로 나타났다. 행정안전부는 공무원들의 AI 활용 역량 강화를 위해 해커톤과 AI 서비스 기획, 에이전트 개발 등에 필요한 비용을 지원하고 있다. 공무원들은 별도 인프라 구축 부담 없이 AI 모델을 시험하고 서비스를 개발할 수 있으며 실제 사업화 단계에서는 각 부처가 자체 예산을 활용하는 방식으로 운영된다. 정 이사는 "현재 범정부 AI 공통기반은 단순한 시범사업 단계를 넘어 실제 업무에 적용되는 서비스 개발 플랫폼으로 활용되고 있다"며 "공무원들이 직접 AI 서비스를 만들고 활용하는 환경이 빠르게 확대되고 있다"고 말했다.

2026.06.24 17:29남혁우 기자

AI 민원부터 AI 순찰차·재해복구까지…미래 행정기술 총출동

행정안전부가 인공지능(AI)을 중심으로 한 'AI 민주정부' 구현에 속도를 내고 있다. 민원 서비스와 공무원 업무 환경, 재난 대응, 치안 서비스까지 AI가 적용되면서 공공 분야가 국내 AI 산업의 핵심 테스트베드로 부상하는 모습이다. 행정안전부는 23~24일 경기 고양시 킨텍스에서 '2026 공공 AI 박람회(KPAIX 2026)'를 개최했다. 올해 처음 열린 이번 행사는 공공 AI 시장 확대를 통해 국내 AI 기업 성장을 지원하고 AI 기반 행정 혁신 사례를 공유하기 위해 마련됐다. 행사장에는 삼성SDS, LG CNS, 네이버클라우드, 카카오, 포티투마루 등 52개 기업이 참가해 AI 행정 서비스와 공공 특화 솔루션을 선보였다. 정부24 AI 민원·AI 순찰차…행정 현장 바꾸는 공공 AI 정부미래서비스관은 AI가 실제 행정 현장에 어떻게 적용되고 있는지를 보여주는 공간으로 꾸며졌다. 행정안전부는 정부24 AI 민원 서비스를 전면에 내세웠다. 기존에는 '여권 재발급'과 같은 정확한 민원 명칭을 알아야 서비스를 찾을 수 있었지만, 이제는 '여권을 잃어버렸어' 같은 자연어 질문만으로도 AI가 의도를 파악해 관련 민원 서비스를 안내한다. 현재는 AI 검색 결과와 기존 키워드 검색 결과를 함께 제공하며 원하는 민원 서비스로 즉시 연결할 수 있도록 기능을 개선했다. 이와 함께 모바일 신분증, 범정부 AI 공통기반 플랫폼 '온AI', 중소벤처24, AI 노동법 상담 서비스 등 정부가 추진 중인 주요 AI 서비스도 소개됐다. 지방정부의 AI 혁신 사례도 눈길을 끌었다. 경기도는 대형 산불 발생 가능성을 실시간으로 분석하는 AI 산불 예측 시스템을 비롯해 다양한 AI 기반 행정 혁신 사례를 공개했다. 경찰청은 AI 영상분석 기술을 활용한 AI 순찰차와 드론 순찰 시스템을 선보였다. 해당 시스템은 이상행동 탐지와 실종자 수색, 열화상 감시, 차량 및 인물 식별 등을 지원하며 향후 실제 치안 현장 적용이 추진될 예정이다. AI가 행정 업무를 넘어 국민 안전과 재난 대응 영역으로 확대되고 있음을 보여준 사례라는 평가다. AI 에이전트부터 국민비서까지…공공AX 혁신 대거 공개 기업 전시관에서는 삼성SDS, LG CNS, 네이버클라우드, 카카오를 비롯한 52개 기업이 공공 AI 기술을 선보였다. 삼성SDS는 공무원의 업무 환경 변화를 주제로 모바일 협업 플랫폼을 소개했다. 국정원 보안 승인을 받은 모바일 업무 환경을 통해 공무원들은 출장이나 이동 중에도 회의에 참석하고 자료를 확인할 수 있다. 문서는 모바일에서 열람만 가능하며 다운로드와 캡처는 차단된다. 내부망 자료를 외부로 반출하지 않으면서도 업무 연속성을 확보한 것이 특징이다. 삼성SDS는 향후 일정 관리나 회의록 작성 수준을 넘어 자료 조사와 보고서 작성 등을 수행하는 에이전틱 AI 기능도 선보일 계획이다. LG CNS는 AI 에이전트 개발·운영 플랫폼 '에이전틱웍스(AgenticWorks)'를 공개했다. 에이전틱웍스는 AI 에이전트 구축부터 운영, 관제까지 지원하는 통합 플랫폼으로, 금융권과 교육기관 등 다양한 현장 적용 사례를 소개했다. 포티투마루는 범정부 AI 플랫폼 사업 참여 현황을 공개했다. 회사는 네이버와 함께 범정부 AI 플랫폼 구축 사업에 참여하고 있으며 식품의약품안전처 AI 민생 과제, 광산 안전관리, 심리케어, 부산시 행정 AI 사업 등을 수행 중이다. 포티투마루 관계자는 "최근에는 민간보다 공공 부문이 생성형 AI 도입에 더 적극적인 분위기"라며 "중앙부처와 지방자치단체를 중심으로 AI 사업이 빠르게 확대되고 있다"고 설명했다. 네이버클라우드는 공공기관 업무 혁신과 범정부 AI 플랫폼 구축 사례를 집중 소개했다. 전시관에서는 공공기관 전용 협업 플랫폼 '공공용 네이버웍스'를 비롯해 범정부 지능형 업무관리 플랫폼을 시연했다. 또한 행정망 환경에서 활용 가능한 범정부 AI 공통기반 플랫폼 '클로바 스튜디오 포 거브'와 행정안전부와 공동 개발한 'AI 국민비서' 서비스도 공개했다. AI 국민비서는 각종 행정 안내와 공공서비스 정보를 AI 기반으로 제공하는 서비스로, 정부가 추진하는 AI 민주정부의 대표 사례 중 하나로 소개됐다. NHN두레이와 카카오는 각각 공공기관 업무 혁신과 대국민 서비스 혁신이라는 서로 다른 방향에서 AI 활용 사례를 제시했다. NHN두레이는 프로젝트, 메일, 메신저, 캘린더, 드라이브, 위키를 통합한 협업 플랫폼 '두레이'를 중심으로 공공기관용 AI 업무 환경을 선보였다. 카카오는 통합 AI 브랜드 '카나나(Kanana)'를 앞세워 국민이 일상적으로 사용하는 카카오톡 기반 공공 서비스를 전시했다. 이와 함께 대화 맥락을 이해하는 '카나나 인 카카오톡', 대화·통화 요약 기능, 한국어 특화 AI 안전성 모델인 '카나나 세이프가드'도 함께 선보였다. AI 시대 필수 인프라 된 재해복구(DR) 서비스 제시 전시장 한편에는 재해복구(DR) 특별관도 마련됐다. 국가망 보안체계(N2SF) 도입과 공공 AI 확산에 따라 데이터 보호와 서비스 연속성 확보 중요성이 커지면서 관련 기술이 집중 소개됐다. 오케스트로는 재해복구 자동화 솔루션 '콘트라베이스 레가토 DR'과 AI 인프라 플랫폼을 선보였고, 티맥스티베로는 재해복구 솔루션과 AI 시대를 겨냥한 차세대 데이터베이스 전략을 공개했다. 정부 역시 공공기관의 재난 대응 역량 강화와 안정적인 AI 서비스 운영을 위해 재해복구 체계 구축을 주요 과제로 추진하고 있다. 행정안전부는 이번 박람회를 계기로 공공 AI 시장을 확대하고 국내 AI 기업 성장 기반을 마련한다는 계획이다. 김민재 행정안전부 차관은 "AI가 단순한 도구를 넘어 국민 삶을 바꾸는 행정의 핵심 인프라가 되고 있다"며 "정부가 AI 기술의 테스트베드 역할을 수행해 국내 AI 산업 성장을 견인하고 세계가 주목하는 AI 민주정부를 구현해 나가겠다"고 밝혔다. 이번 박람회는 AI 민원 서비스와 공무원용 AI 업무 플랫폼, AI 순찰 시스템, 재해복구 인프라 등 공공 AI가 실제 행정 현장에 적용되는 모습을 보여주며 AI 민주정부의 청사진을 제시한 자리로 평가받았다.

2026.06.24 13:38남혁우 기자

'깜깜이' 평가 벗는다…AI안전연구소, 모델 성적표 공개 기조로

한국 인공지능안전연구소(AISI)가 2024년 11월 출범 이래 비공개해 온 인공지능(AI) 모델 안전성 평가 결과를 점진적으로 공개하기로 했다. 오픈소스 모델을 포함해 국내외 주요 AI 모델을 대상으로 수행한 안전성 평가 실적을 보다 상세히 알려 투명한 평가 체계를 강화하겠다는 목표다. 19일 업계에 따르면 AISI는 지난 15일 공식 홈페이지를 통해 올해 상반기 싱가포르 AISI와 공동 수행한 'AI 에이전트 데이터 유출 위험 공동 테스트 세부 결과 보고서'를 공개했다. 해당 보고서에는 AI 에이전트가 정상적인 지시를 수행하는 과정에서도 판단 착오로 인해 민감 정보를 부적절하게 조회, 전달, 공개하는 치명적 오류를 범할 수 있다는 실태가 구체적으로 담겼다. 한-싱 공동 보고서 첫 공개…목록 넘어 세부 수치·결과까지 대상이 된 글로벌 모델명은 A·B·C 등으로 익명 처리됐지만 정량적 평가에서는 에이전트의 업무 수행 능력이 우수하더라도 안전한 데이터 처리 능력이 이를 담보하지 못하는 '인지-행동 불일치' 사례가 다수 확인됐다. 실제 도구를 실행하지 않고도 임무를 완료했다고 주장하는 '허위 보고' 환각 현상 등 에이전틱 AI 특유의 위험 요인들도 입증됐다. AISI가 이처럼 세부 수치와 제언까지 담은 보고서를 발표한 건 사실상 처음이다. AISI는 그동안 AI 모델 안전성 평가 내역을 제한적으로 공개한 탓에 개별 모델의 실명 평가 결과는 물론 내용도 확인하기 어려웠다. AISI가 지난달 공개한 'AI 모델 42종 안전성 평가 수행 실적'은 2025년 1월부터 2026년 4월까지 약 16개월간 검증한 국내외 주요 모델 42종을 대상으로 했는데, 구체적인 데이터 없이 모델명과 평가 항목 위주의 목록만 공개됐다. AISI가 한국정보통신기술협회(TTA)와 함께 국내 첫 AI 안전성 평가 사례로 발표한 카카오의 '카나나'를 제외하면 대다수 모델의 안전성 등급이나 상세 지표는 알려진 바 없다. AISI의 활동 실적과 역할을 둘러싼 의문이 일각에서 제기된 것도 연구소의 본질인 안전성 평가 결과 공개에 신중했던 탓이 크다. 다만 업계에서는 글로벌 빅테크 모델과 과학기술정보통신부 주도 '독자 AI 파운데이션 모델(독파모)' 개발 프로젝트 등 국내 모델 간 수준 차이가 드러나는 데 따른 부담이 컸을 것으로 분석한다. 김명주 AISI 소장은 "앞으로 진행되는 안전성 평가는 대상 기업이 거부하지 않는 이상 가급적 모든 내용을 공개할 계획"이라면서도 "기업 요청 등에 따라 일부 모델명은 익명 처리될 수 있다"고 말했다. 구글·오픈AI·앤트로픽과 'AI 안전 동맹'…한국형 평가 체계 주도 AISI는 과기정통부 산하 한국전자통신연구원(ETRI) 부설 조직으로서 대한민국을 대표해 세계 각국 AI안전연구소나 관련 기관과의 협력을 전담해 왔다. 전 세계 3대 AI 개발사로 꼽히는 구글 딥마인드, 오픈AI, 앤트로픽과 최근 맺은 연쇄적인 파트너십은 글로벌 AI 안전 네트워크 구축의 핵심 동력이 될 전망이다. 구글 딥마인드와는 지난 4월 과기정통부가 체결한 업무협약(MOU)을 토대로 안전 프레임워크 구축과 테스트 방법론 논의를 이어간다. 오픈AI와는 지난 17일 AISI가 직접 MOU를 맺고 고위험 분야별 안전성 평가 방법론과 벤치마크 지식을 공유하기로 했다. 특히 AISI가 자체 구축한 한국어 벤치마크 데이터를 적용해 한국적 시각의 할루시네이션·안전성 평가를 공동 수행하고 국제 표준 마련에도 협력할 예정이다. 앤트로픽과는 지난 18일 과기정통부와 맺은 MOU와 연계해 자율형 AI 에이전트에 대한 레드팀 평가와 한국어 맥락의 모델 안전성·오남용 위험 평가를 추진한다. 금융을 비롯한 주요 분야의 AI 취약점 발굴과 사이버 위협 정보를 신속히 공유하는 등 사이버 보안 분야에서도 실질적 협력에 나선다. 김 소장은 "구글 딥마인드, 오픈AI, 앤트로픽 등 글로벌 빅테크의 협업 토대를 지속적으로 넓혀 최첨단 모델의 위험을 과학적으로 검증하고 국제적으로 통용되는 한국형 평가 체계를 주도하겠다"고 강조했다.

2026.06.19 16:19이나연 기자

"고위험 AI 안전성 강화"…정부, 오픈AI와 협력 확대

정부가 최첨단 인공지능(AI) 모델 안전성 검증을 위해 오픈AI와 협력 범위를 넓혔다. 과학기술정보통신부는 인공지능안전연구소가 오픈AI와 17일 한국전자통신연구원(ETRI) 서울사무소에서 고위험 분야 AI 안전 협력 강화를 위한 업무협약을 체결했다고 밝혔다. 이번 협약은 지난해 10월 과기정통부와 오픈AI가 체결한 업무협약을 AI 안전 분야로 확대하기 위해 마련됐다. 올해 두 차례 진행된 과기정통부 제2차관과 오픈AI 고위 관계자 면담에서 논의된 협력 방안이 협약으로 이어진 것이다. AI안전연구소와 오픈AI는 고위험 분야별 안전 평가 방법론과 벤치마크 관련 지식, 모범사례를 공유하기로 했다. 한국어와 한국 사회 맥락을 반영한 평가 체계를 개발하기 위한 기술 정보도 교환한다. 고성능 AI와 자율형 에이전트 AI가 금융, 의료, 안보, 공공 서비스 등 고위험 영역으로 확산하면서 사전 안전 평가의 중요성도 커지고 있다. 모델 성능뿐 아니라 오작동 가능성, 사회적 편향, 악용 위험까지 점검할 수 있는 평가 기준이 필요해졌다는 의미다. 두 기관은 국제적으로 적용 가능한 AI 안전 평가 체계를 마련하기 위한 협력도 이어갈 계획이다. 구체적인 협력 과제와 일정은 업무협약 체결 이후 실무 협의를 거쳐 확정한다. 오픈AI가 각국 AI안전연구소와 업무협약을 맺은 것은 미국, 영국, 일본에 이어 한국이 네 번째다. 과기정통부는 이번 협약을 계기로 한국이 최첨단 AI 위험 검증과 평가 기준 마련을 위한 국제 협력 네트워크에서 역할을 강화할 수 있을 것으로 봤다. 이진수 과기정통부 AI정책기획관은 "고성능 AI, 자율형 에이전트 AI 등 최첨단 AI 모델 안전성 확보를 위해 글로벌 선도기업과 협력을 강화하고 AI 안전성 평가 체계를 고도화해 나갈 시점이다"며 "이번 협약을 계기로 급변하는 최첨단 AI 안전 확보에 적극 협력할 것"이라고 밝혔다.

2026.06.17 10:00김미정 기자

윤호중 장관, OECD서 'AI 민주정부' 비전 공유…국제 AI 협력 강조

윤호중 행정안전부 장관이 새로운 디지털정부 비전인 'AI 민주정부' 추진 방향을 세계 각국에 소개하고 글로벌 인공지능(AI) 협력 중요성을 강조한다. 행정안전부는 경제협력개발기구(OECD)의 '디지털정부 전망(Digital Government Outlook)' 발간 온라인 기념 행사에서 윤 장관이 영상 축사를 통해 이 같은 메시지를 전할 예정이라고 14일 밝혔다. 15일 진행하는 이번 행사는 OECD가 실시해 온 디지털정부 평가 결과와 주요 시사점을 국제사회와 공유하기 위해 마련됐다. 행사에는 디지털정부 평가에 참여한 36개 회원국과 8개 가입 준비국의 정부 관계자들이 참석할 예정이다. 행안부에 따르면 OECD는 디지털정부 평가에서 최상위권을 유지해 온 한국의 경험과 정책 방향에 주목해 왔다. 이에 따라 마티아스 콜먼 OECD 사무총장의 특별 요청으로 윤 장관이 개회식 연사로 참여하게 됐다. 개회식에는 윤 장관을 비롯해 일본 디지털청 대신, 프랑스 공공행정·회계부 장관 등도 함께 참여한다. 행안부는 이번 행사가 한국의 디지털 및 AI 선도국 위상을 국제사회에 다시 한번 확인하는 계기가 될 것으로 기대하고 있다. 이번에 발간되는 디지털정부 전망 보고서는 각국의 디지털정부 정책을 종합적이고 미래지향적으로 분석한 보고서다. 보고서는 디지털정부가 단순한 행정절차의 온라인화나 개별 정보시스템 구축을 넘어, 국민이 체감하는 실질적 성과를 창출해야 한다고 강조한다. 이는 한국이 데이터 기반 행정, 부처 간 연계와 협업, 선제적 공공서비스 제공 등을 통해 정부 운영 전반을 디지털 기반으로 전환해 온 정책 방향과 맞닿아 있다고 행안부는 설명했다. 윤 장관은 이번 축사에서 AI 시대 대한민국 디지털정부의 새로운 비전인 AI 민주정부의 추진 방향을 전 세계에 알릴 계획이다. 윤 장관은 축사에서 "AI 민주정부는 단순히 행정 내부에 인공지능 기술을 도입하는 정부를 의미하는 것이 아니다"라며 "인공지능을 매개로 국민의 목소리를 더 세심하게 듣고, 정책 수요를 더욱 정확히 파악하며, 공공서비스를 한층 더 공정하고 투명하게 제공하는 정부 운영의 새로운 이정표"라고 강조할 예정이다. 행안부는 이번 행사를 계기로 디지털정부 선도국으로서 한국이 정책 실행 과정에서 얻은 경험과 교훈을 국제사회와 적극적으로 공유한다는 방침이다. 윤 장관은 "미래의 디지털정부는 기술을 통해 국민에게 더 가까이 다가가는 따뜻한 정부여야 한다"며 "대한민국은 AI 민주정부 실현을 통해 인공지능이 국민의 삶을 개선하고 민주적 가치와 공공 신뢰를 강화하는 방향으로 활용될 수 있도록 국제사회와 함께 책임 있는 역할을 다하겠다"고 밝혔다.

2026.06.14 13:03남혁우 기자

유정훈 신임 도로공사 사장, '취임식보다 휴게소 점검'

유정훈 신임 한국도로공사 사장이 취임식에 앞서 고속도로 휴게소를 잇따라 방문, 휴게소 운영구조 혁신을 강조했다. 유 사장은 취임하는 날인 11일 오전 가장 먼저 영동고속도로 여주휴게소(인천 방향)를 방문해 현장에서 공식 일정을 시작했다. 유 사장은 최근 논란이 되고 있는 휴게소 음식값 등 현안을 보고 받은 뒤 휴게소 운영구조 혁신에 대한 강한 의지를 피력했다. 유 사장은 “입점업체의 높은 수수료를 유발하는 다단계 운영구조와 도로공사 퇴직자 단체인 '도성회'의 휴게소 운영 등 구조적인 문제에 대해 엄중하게 생각하고 있다”며 “속도감 있고 강력한 제도 개선으로 대국민 신뢰를 회복하는 것이 급선무”라고 밝혔다. 유 사장은 이어 중부고속도로 이천휴게소(하남 방향)에 위치한 순직직원 위령탑을 찾아 참배했다. 이후 유 사장은 김천 본사에서 열린 취임식에서 ▲국민 신뢰의 재건 ▲미래플랫폼 기업으로의 전환 ▲균형의 대동맥과 안전·물류 혁신 ▲공정과 상생의 문화 확립 등 4대 중점 추진 사항을 제시했다. 유 사장은 “고속도로 휴게소를 국민 편의 중심의 '다목적 복합공간'으로 환골탈태하겠다”고 다짐했다. 앞으로의 휴게소는 대중교통 환승 연계, 미래 모빌리티 플랫폼, 지역사회와의 상생, 그리고 문화와 여가를 결합한 공간으로 발전시켜 K-휴게소의 명성을 되찾겠다는 구상이다. 또 '인공지능(AI) 모빌리티 인프라와 서비스' 융합 플랫폼 기업으로의 전환을 선언했다. 전국에 연결된 고속도로를 전력 송전망과 대용량 데이터 케이블망으로 활용해 국가적 과제인 AI 데이터센터의 전력 수급과 초고속 통신망 문제를 해결하는 '초격차 인프라'를 완성하겠다는 포부다. 고속도로 시설물을 활용한 신재생 에너지 사업을 확대하고 수익을 지역 주민에게 환원하는 상생 모델도 정착시킬 계획이다. 유 사장은 이어 국토 균형발전과 안전·물류 혁신도 강조했다. 수도권 일극 체제 극복을 위해 전국 '5극 3특' 초광역권을 단단히 잇는 '균형의 대동맥' 역할도 강화한다. 특히 안전과 물류 패러다임 혁신을 위해 '심야 시간대 자율주행 트럭 전용차로 시범사업'을 전격 추진하며 안전순찰원의 현장 통제 권한 부여 등 스마트하고 안전한 교통체계를 구축할 방침이다. 유 사장은 사람을 향하는 '공정과 상생'의 문화를 확립하겠다고 강조했다. 정부가 지향하는 노동 존중 원칙을 바탕으로, 공공기관이 앞장서야 할 '모범 사용자'로서의 책무를 다할 것을 선언했다. 또 학연·지연 등 구시대적 악습을 퇴출하고 투명한 인사 시스템을 확립해 하나의 목표로 나아가는 '원팀'을 만들겠다고 다짐했다. 한편, 유정훈 사장은 서울대 도시공학과를 졸업하고 같은 대학교에서 교통공학 석사학위를, 미국 퍼듀대에서 교통공학 박사학위를 받았다. 미국 센트럴플로리다대 연구원과 한국교통연구원 책임연구원을 거쳐 아주대학교 교통시스템공학과 교수로 재직하면서, 대한교통학회장, 국토교통부 대도시권광역교통위원회 위원 등을 지낸 교통·인프라 분야 전문가로 알려졌다.

2026.06.11 15:34주문정 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next