검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 안전'통합검색 결과 입니다. (128건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"AI 안전, 선택 아닌 필수"…서울서 글로벌 거버넌스 협력 '한목소리'

"인공지능(AI)은 인류가 만든 가장 강력한 발명이지만 그만큼 안전에도 두 배의 노력이 필요합니다." 김명주 한국 인공지능안전연구소장은 28일 호텔 나루 서울 엠갤러리 앰배서더에서 열린 '2025 인공지능 안전 서울 포럼'에서 이같이 강조했다. 이번 포럼은 과학기술정보통신부가 주최하고 한국전자통신연구원·한국 AI안전연구소가 주관한 첫 글로벌 AI 안전 행사로, 세계 각국의 연구기관·정부·산업계 관계자 약 150명이 참석했다. 행사에서는 '보다 안전한 AI 세상을 향한 글로벌 협력'을 주제로 AI 안전 거버넌스·평가·레드티밍 등 국제적 협력 방향이 논의됐다. 개회식에서 송상훈 국가AI전략위원회 지원단장은 "AI 기술의 발전은 인류의 삶을 바꾸는 동시에 새로운 위험을 수반해왔다"며 "신뢰할 수 있고 안전한 AI를 확보하는 것은 앞으로 풀어나가야 할 시급한 과제"라고 말했다. 또 다음 달 공개 예정인 정부의 'AI 액션플랜'을 언급하며 "안전과 신뢰를 핵심 가치로 삼아 대한민국이 국제 AI 안전 네트워크의 일원으로서 책임을 다하겠다"고 강조했다. 행사 첫 번째 세션에서는 일본·싱가포르·유럽연합(EU)·한국 등 주요 국가의 AI 안전 기관 관계자들이 발표자로 참여해 각국의 정책과 연구 성과를 공유했다. 아키코 무라카미 일본 AI안전연구소장은 "2023년 G7 히로시마 정상회의 이후 각국이 AI 안전 프로세스 구축에 속도를 내고 있다"며 "일본 역시 AI 안전 표준 수립과 산업 간 협력 허브로서 역할을 강화하고 있다"고 설명했다. 이어 "AI 안전은 기술 자체뿐 아니라 활용 혁신과 균형을 맞춰야 한다"며 "데이터 품질 관리, 산업별 안전 가이드라인 제정 등 실질적 조치가 병행돼야 한다"고 덧붙였다. 두 번째 발표에서 바네사 윌프레드 싱가포르 정보통신미디어개발청(IMDA) 부국장은 "AI 안전이 혁신을 가로막아선 안 된다"며 "싱가포르는 신뢰를 기반으로 한 책임 있는 AI 생태계를 만드는 것이 목표"라고 밝혔다. 현재 싱가포르는 AI 기업이 자율적으로 안전 기준선을 설정하고 테스트할 수 있도록 'AI 그래파이트 파운데이션'을 운영 중이며 금융·헬스케어 분야에서 샌드박스를 통해 안전성 평가를 수행하고 있다. 윌프레드 부국장은 "에이전틱 AI 시대에는 자동화로 인한 편향이 심화될 수 있어 인간의 개입과 검토가 필수적"이라며 인간 중심의 AI 거버넌스 필요성을 강조했다. 영상으로 참여한 루실라 시올리 EU AI국장은 올해 8월부터 본격 적용된 'EU AI법'의 핵심 내용을 설명했다. 그는 "고위험 AI 시스템과 범용 AI 모델에 대한 규정을 통해 투명성과 안전을 확보할 것"이라며 "25개 이상 기업이 자발적으로 참여한 'AI 실천 강령'이 핵심 역할을 할 것"이라고 말했다. 시올리 국장은 "한국·싱가포르·미국 등과 AI안전연구소 네트워크를 통해 평가 방법론과 표준을 공유하겠다"며 국제 협력 의지도 드러냈다. 마지막 발표자로 나선 김명주 소장은 한국 AI안전연구소의 활동과 성과를 소개했다. 그는 우리나라의 AI 기본법 제12조를 언급하며 "우리 연구소는 법적 기반 위에서 AI 세이프티를 기술·정책·윤리 세 축으로 다루고 있다"고 설명했다. 또 "MIT의 AI 리스크 레퍼지토리를 바탕으로 리스크 맵핑 프로젝트를 진행 중이며 원인·결과·대응 주체를 3D 형태로 시각화해 잠재 리스크를 조기 식별 중이라"고 발표했다. 그러면서 "평가·정책·기술 검증을 통해 국내 기업 경쟁력을 높이는 동시에 글로벌 생태계의 안전 수준을 함께 높여나갈 것"이라고 말했다. 이번 포럼에는 ▲LG AI연구원 ▲네이버클라우드 ▲구글 딥마인드 ▲앤트로픽 ▲세이퍼 AI ▲스케일 AI ▲카르마 등 주요 기업·기관이 참여했다. 특히 한국 AI안전연구소와 스케일 AI는 업무협약을 체결해 레드티밍 협력을 본격화했다. 포럼 둘째 날인 오는 29일에는 프론티어 AI 모델을 대상으로 한 실습형 레드티밍 워크숍이 진행된다. 김 소장은 "안전하고 신뢰할 수 있는 AI를 만드는 것은 선택이 아니라 필수"라며 "AI 안전은 어느 한 나라나 기업의 몫이 아닌, 인류가 함께 만들어가야 할 글로벌 생태계의 과제"라고 강조했다.

2025.10.28 13:17한정호 기자

하이퍼클로바X·카나나, 'AI 국민비서' 된다…행안부와 공공서비스 혁신 박차

행정안전부가 일상적인 대화로 편리하게 이용할 수 있는 인공지능(AI) 기반 공공서비스 구현을 목표로 네이버·카카오와 손을 맞잡았다. 행안부는 네이버·카카오와 함께 AI 에이전트 기반 공공서비스 혁신을 위한 업무협약(MOU)을 체결했다고 27일 밝혔다. 이번 협약식에는 윤호중 행안부 장관, 최수연 네이버 대표, 정신아 카카오 대표가 참석했다. 이번 협약에 따라 행안부와 양사는 AI 에이전트 기술을 공공서비스에 선도적으로 적용하고 국민 편의성을 높이는 데 적극 협력키로 했다. 주요 협력 사항은 ▲민간 AI 에이전트와 공공서비스 연계를 위한 기술 방안 마련, 정책과제 발굴 및 제도적 기반 조성 ▲기관 간 협업 및 기술 지원 등을 통한 서비스 연계·확대 ▲서비스 이용 활성화를 위한 홍보 협력 등이다. 특히 민간 AI 에이전트를 통해 공공서비스를 제공하는 'AI 국민비서(가칭)' 시범 서비스를 연내에 구현하는 것을 목표로 한다. AI 국민비서는 세계 최고의 AI 민주정부 실현을 위한 핵심 과제로, 민간 기업의 AI 에이전트에 공공서비스를 연계해 국민이 복잡한 절차 없이 대화만으로 공공서비스를 이용할 수 있도록 지원하는 서비스다. 우선 시범 서비스는 전자증명서 발급·제출, 유휴 공공자원 예약(공유누리) 등 국민 수요가 높은 개별 공공서비스를 중심으로 제공할 예정이다. 네이버는 독자 AI 파운데이션 모델인 '하이퍼클로바X'를 기반으로 AI 에이전트를 구축하고 이를 공공서비스와 연계해 시범 서비스를 구현한다. 해당 서비스는 대표 검색포털인 네이버(웹‧앱)를 통해 제공될 예정이며 맞춤형 추천 기능 등을 더해 이용 편의성을 한층 더 높일 계획이다. 카카오는 자체 거대언어모델(LLM) '카나나' 기반의 AI 에이전트를 공공서비스와 확장성이 높은 개방형 구조로 연동하여 시범 서비스를 구현한다. 국민 메신저인 카카오톡에서 서비스가 제공될 예정이며 유해 콘텐츠 필터링을 위한 AI 가드레일 모델 '카나나 세이프가드'를 적용해 서비스의 편의성과 신뢰도를 높일 계획이다. 시범 서비스를 거친 뒤 향후 생애주기별 생활·행정 업무를 한 번에 처리하는 원스톱 서비스를 구현하고 개인의 상황과 조건에 맞춰 자동으로 처리하는 단계까지 점차 발전시켜 나갈 예정이다. 윤호중 행안부 장관은 "국민이 일상에서 체감할 수 있는 AI 민주정부를 실현하기 위해서는 민간의 혁신적인 기술과 협력이 필수적"이라며 "이번 협약을 계기로 정부와 민간이 함께 힘을 합쳐 국민 누구나 말 한마디로 쉽고 편리하게 공공서비스를 이용할 수 있는 서비스 환경을 만들겠다"고 말했다.

2025.10.28 10:00한정호 기자

배경훈 "AI가 해킹 당하면 걷잡을 수 없다"...AI 안전 강조

“인공지능(AI)에 대한 해킹 공격이 시작되면 문제가 걷잡을 수 없다.” 배경훈 부총리 겸 과학기술정보통신부 장관은 23일 AI안전연구소에셔 열린 간담회에서 이같이 말했다. 최근 잇따른 사이버 침해사고와 같이 AI에 안전과 신뢰가 필수라는 뜻이다. 이날 간담회는 AI를 활용하여 사람의 음성, 얼굴들을 합성 또는 조작하는 딥페이크를 악용한 피해가 발생하고 있고, 다가올 AGI, AI 에이전트 시대에는 우리가 예상하지 못한 새로운 유형의 피해가 발생할 우려가 있어 현재의 AI 안전 확보 기술 현황 등을 공유하고, 정부의 정책 방향을 논의하기 위해 마련됐다. 배경훈 부총리는 이 자리에서 “우리는 AI로 산업의 진흥을 이끌어야 하고 인구감소 대응도 고민해야 한다”며 “그러려면 AI를 정말 잘 만들어야 하는데 잘 만어야 한다”고 했다. 이어, “(저도 민간에서) AI를 만드는 입장이었기 때문에 느꼈던 점이 많았다”며 “AI의 성능과 현장 적용, 운영만이 아니라 만드는 과정에서 '굿(Good) AI'를 내놔야 하는데 이 부분에 대한 논의는 부족한게 아니었나 생각든다”고 털어놨다. 배 부총리는 또 “우리나라가 만드는 모델이 전 세계적으로 활발히 쓰이지 않는데 우리도 글로벌 수준의 AI 기술력을 보여줄 타이밍”이라며 “이럴 때 한국 AI 모델은 성능도 좋은데 신뢰할 수 있다면 이는 국가 경쟁력이 될 것”이라고 강조했다. 간담회에서는 국가가 AI 안전과 신뢰에 대한 기준을 세워야 한다는 의견이 오갔다. 아울러 AI 진화 속도와 함께 AI 안전과 신뢰에 대한 기준이 빠르게 바뀌는 점도 고려해야 할 문제로 꼽혔다. 배 부총리는 “국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음”이라며 “AI 안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 연내 가칭 '국가AI 안전 생태계 조성 종합계획'을 마련할 계획”이라고 밝혔다.

2025.10.23 18:30박수형 기자

번개장터, 5년 연속 국가 정보보호관리체계(ISMS) 인증 획득

중고거래 플랫폼 번개장터가 2025년 올해, 과학기술정보통신부가 주관하는 공식 정보보호관리체계(ISMS) 인증을 5년 연속 획득했다고 23일 밝혔다. ISMS 인증은 한국인터넷진흥원(KISA) 등 인증기관이 정보보호·개인정보 관리체계 전반을 심사해 주요 정보자산의 안전성과 신뢰성을 공식 증명하는 국가 제도다. 번개장터는 이 기준을 5년 연속 충족하며 국내 최고 수준의 개인정보보호와 안전거래 환경을 지속적으로 구축했다. 특히 번개장터는 2024년 8월부터 에스크로 기반 안전결제 시스템을 모든 거래에 확대 도입하고 AI 모니터링 시스템을 적용해 사기 의심거래를 실시간으로 탐지해 구매자에게 알림 메세지를 보내는 서비스를 제공하고 있다. 이 같은 노력의 결과로 사기거래 비율을 90% 이상 줄이고 거래량은 2배 이상 늘어나는 긍정적인 성과를 거뒀다. 또한 지난 2일 지식재산처 승격 후 처음으로 열린 '2025 위조상품 감정기술 컨퍼런스'에서 자체 개발한 융합형 AI 과학 검수 솔루션 '코어리틱스(Corelytics)'를 발표했다. 해당 기술은 딥러닝·비파괴 분석 기반으로 미세 구성 요소와 원소 조성을 6초 만에 판별해, 고정밀 위조품을 신속·정확하게 감별한다. 번개장터는 이를 통해 업계 최초로 첨단 기술 기반 안전 거래 환경 조성에 앞장서고 있다. 번개장터 박병성 CTO(최고기술책임자)는 “고객이 가장 편리하고 안전하게 거래할 수 있도록 정보보호와 사기 방지에 최선을 다하고 있다”며, “앞으로도 ISMS 인증을 바탕으로 관리체계를 더욱 강화하고, 코어리틱스 등 혁신 기술 도입으로 신뢰받는 플랫폼으로 도약하겠다”고 강조했다.

2025.10.23 14:59안희정 기자

트럼프 행정부 AI 책임자, 앤트로픽 저격…"공포로 좌파식 규제 유도"

데이비드 삭스 미국 백악관 인공지능(AI)·암호화폐 정책 책임자가 공개적으로 앤트로픽을 비판하면서 양측의 정책적 대립이 수면 위로 떠올랐다. 20일 CNBC에 따르면 데이비드 삭스 책임자는 최근 X를 통해 "앤트로픽은 공포를 조장하는 정교한 규제 포획 전략을 구사하고 있다"고 비판했다. 이같은 발언은 잭 클라크 앤트로픽 공동창업자 겸 정책 총괄이 '기술적 낙관주의와 적절한 두려움'이라는 에세이를 발표한 직후 나왔다. 앤트로픽은 2020년 오픈AI 출신 다리오 아모데이와 다니엘라 아모데이 남매가 창업한 기업으로, '더 안전한 AI'를 내세우며 설립됐다. 현재 기업 가치는 약 1천830억 달러(약 259조원)로 평가되며 챗GPT 개발사 오픈AI에 이어 미국 내 두 번째로 높은 가치를 인정받고 있다. 오픈AI가 소비자용 앱 중심인 반면 앤트로픽은 기업용 AI '클로드' 시리즈로 입지를 넓혀왔다. 다만 양사는 AI 규제에 대해 상반된 시각을 보이고 있다. 오픈AI가 규제 완화에 무게를 두는 반면, 앤트로픽은 트럼프 행정부의 주 차원 규제 무력화 시도를 반대해왔다. 앤트로픽은 캘리포니아 주의 AI 투명성법인 'SB 53'을 공개 지지하며 "투명성 요건은 AI 안전에 중대한 영향을 미친다"고 밝혔다. 이에 대해 삭스 책임자는 "앤트로픽이 좌파적 규제 노선을 옹호하며 자신들을 트럼프 행정부의 피해자로 포장하고 있다"며 "우리가 한 일은 정책적 의견 차이를 밝힌 것뿐인데, 언론에는 마치 정치적 탄압을 받는 듯한 인상을 주고 있다"고 반박했다. 이와 달리 앤트로픽은 여전히 미 국방부 및 연방조달청(GSA)과의 계약을 유지하며 정부 부문에서도 입지를 확보하고 있다. 최근에는 국가안보 자문위원회를 신설하고 공공기관을 위한 AI 모델을 연 1달러에 제공하는 등 정부 협력도 강화하고 있다. 삭스 책임자는 "AI 정책은 중국과의 기술 경쟁에서 미국이 뒤처지지 않기 위해 속도감 있게 혁신해야 한다"며 "공포에 기반한 접근은 스타트업 생태계를 위축시키고 있다"고 주장했다.

2025.10.20 13:01한정호 기자

中 AI 안전 연구소 출범 8개월…"실질 감독 없이 외교만 앞세워"

중국이 야심 차게 출범시킨 인공지능(AI) 안전 연구소가 8개월 만에 '기술 감독'이 아닌 '대외 외교'에 치중하는 상징적 기구에 그치고 있다는 분석이 나왔다. 18일 AI 프론티어스에 따르면 지난 2월 파리 AI 행동 정상회의를 계기로 출범한 '중국 AI 안전 및 개발 협회(CnAISDA)'가 그 주인공이다. 이 조직은 지난 여름 상하이 세계 AI 컨퍼런스(WAIC)를 통해 국제 무대에 본격적으로 모습을 드러냈다. 다만 이 조직은 출범 8개월이 지난 현재까지 전담 직원이나 자체 예산조차 확보하지 못한 것으로 알려졌다. 심지어 중국어 공식 웹사이트도 없어 조직의 실질적인 운영 능력에 의문이 제기된다. 지도부 면면은 화려하다. 푸잉 전 외교부 부부장, 앤드류 야오 튜링상 수상자 등 저명한 인사들이 전면에 나섰다. 쉐란 국무원 고문 상하이 AI 랩(SHLAB)의 조우 보웬 등도 합류했다. 그럼에도 조직의 구조는 실권과는 거리가 멀다. CnAISDA는 미국 영국과 달리 새로운 정부 기관이 아닌 기존 기관들의 '연합체', 즉 '네트워크' 형태로 운영된다. 중국 최고 명문인 칭화대가 조직의 허브 역할을 맡고 있으며 베이징 AI 연구원(BAAI), 중국정보통신기술연구원(CAICT) 등이 참여 기관으로 이름을 올렸다. 이 연합체 모델은 기관 간 경쟁을 피하기 위한 정치적 타협의 산물로 풀이된다. 실제 CnAISDA의 행보는 기술적 감독 기능보다 국제 외교 무대에 집중돼 있다. 창립 문서부터 '포용적 글로벌 AI 안전 거버넌스 프레임워크' 구축을 촉구하며 국제 협력을 전면에 내세웠다. 이는 미국의 'AI 실행 계획'에 맞선 중국의 '글로벌 AI 거버넌스 실행 계획'과도 궤를 같이 한다. 리창 총리가 '세계 AI 협력 기구' 창설 지원을 발표한 것도 같은 맥락이다. 물론 연합체 산하 기관들의 개별적인 움직임은 주목할 만하다. SHLAB은 WAIC에서 콩코르디아 AI와 협력해 '프론티어 AI 위험 관리 프레임워크'를 발표했다. 이들은 자체 프레임워크로 AI 모델 위험성을 분석하며 영국 AISI의 평가 소프트웨어 '인스펙트'를 활용했다. 서방과의 기술적 방법론이 수렴되는 현상을 보인 것이다. 중국 주요 기업들의 안전 서약도 CnAISDA 이름으로 재확인됐다. 지난해 12월 알리바바, 텐센트 등 17개 사는 서울 AI 정상회의 약속과 유사한 서약을 맺은 바 있다. 다만 이 서약의 실효성은 낮다는 평가다. 서명한 중국 기업 중 약속을 이행한 곳은 전무하다. 딥시크 등 일부 기업은 두 번째 서약에서 아예 빠졌다. 결국 중국의 거버넌스 논의에서 프론티어 AI 안전은 AI 개발과 경제 성장이라는 최우선 목표에 밀려나 있다는 지적이다. 잭 클라크 앤트로픽 공동 창업자는 "(상하이 AI 랩의 연구 결과는) 연구된 위험과 사용된 방법론 모두에서 미국 및 영국의 위험 평가와 보다 가까운 수렴성을 보여줬다"고 밝혔다.

2025.10.19 03:07조이환 기자

위성곤 의원 "AI 정부 실현, 행정문서부터 바꿔야…AI레디 포맷 의무화 필요"

공공기관의 인공지능(AI) 전환이 정부의 주요 과제로 떠오른 가운데, 행정 문서 포맷의 한계로 인해 AI 행정 혁신이 제자리걸음을 하고 있다는 지적이 제기됐다. 더불어민주당 위성곤 의원은 14일 국회 행정안전위원회의 행정안전부 대상 국정감사에서 "AI 정부에서 중요한 것은 AI를 읽을 수 있는 문서를 생산하는 것과 공무원들이 AI를 통해 행정 혁신을 어떻게 꾀할 것인가를 고민하는 것"이라고 강조했다. 이어 "행정의 기초가 되는 문서의 90% 이상이 HWP나 PDF처럼 AI가 읽지 못하는 폐쇄형 포맷"이라며 "사람은 읽을 수 있지만 AI는 읽지 못하는 형식이라 공공 AI 전환이 사실상 불가능한 구조"라고 지적했다. 문서 포맷과 관련해 위 의원은 미국·영국·프랑스 정부 등은 이미 기계판독형 포맷을 행정 표준으로 도입한 현황을 공유했다. 이에 우리 정부도 AI가 읽을 수 있는 'AI 레디' 포맷을 행정 표준으로 의무화해야 한다는 설명이다. 위 의원은 "문서 포맷 전환과 함께 제목·작성자·날짜 등을 정확히 표기하는 표준 메타데이터 부착 제도를 도입해야 한다"며 "현재 우리 행정 문서는 AI가 긁어도 찾을 수 없는 구조로, 이른바 'AI 그린워싱' 상황에 놓여 있다"고 꼬집었다. 또 그는 "정부의 공공 AI 사업이 민원 응대, 문서 분류, 상담 챗봇 등 이름만 다르고 내용은 다 비슷하다"며 "부처별로 중복된 AI 사업을 통합 관리할 컨트롤타워 체계를 갖춰야한다"고 덧붙였다. 이에 대해 윤호중 행정안전부 장관은 "AI 통합 기반 사업을 통해 중복 투자를 막고 효율적인 AI 전환을 추진하겠다"고 말했다. 아울러 위 의원이 제기한 공공 AI 전환 관련 법 제정 필요성에 공감하며 종합국감 전까지 계획을 수립해 보고하겠다고 밝혔다. 위 의원은 "김대중 정부 시절 전자정부위원회가 그랬듯, 행안부 내에 장관 중심의 '인공지능정부특별위원회'를 설치해 공공 AI 대전환을 추진해야 한다"고 강조했다.

2025.10.14 16:24한정호 기자

국감장에 부총리 딥페이크...배경훈 "국민들 사실로 오해, 유감"

배경훈 부총리 겸 과학기술정보통신부 장관이 자신을 소재로 제작된 정치쟁점적인 요소의 딥페이크 동영상이 국정감사 중에 재생된 점에 대해 유감을 표했다. 배경훈 부총리는 13일 정부세종청사에서 열린 국정감사에서 국민의힘 김장겸 의원의 질의가 끝난 뒤 “국민들이 보고 계시는 국정감사에서 (딥페이크로 제작된) 이런 영상이 띄워지면 이를 사실로 받아들일 수 있는 오해가 생길 수 있다”고 했다. 이어, “이런 영상은 소라로 만들면 소라로 만들어진 영상이라고 표시되는데, 딥페이크 영상이라고 자막 자료라도 첨부됐다면 좋았을 텐데 영상이 돌아다닐 것에 대해 유감 표명을 드려야 할 것 같다”고 밝혔다. 앞서 이날 과기정통부 대상 국정감사에서 김장겸 의원의 질의 중에 이춘석 의원의 주식 투자와 관련, 배 부총리가 등장하는 딥페이크 동영상이 재생됐다. 동시에 여야 의원들의 논쟁 중에 감사가 잠시 정회되기도 했다. 감사가 속개된 뒤 김 의원은 “개연성이 있을 법한 루머에는 대중이 믿도록 만드는데, 그런 사례에 AI가 적용되면서 불과 몇 초 만에 만든 영상인 점을 강조하려고 한 것”이라며 “이춘석 의원 관련 영상은 고급일식집에서 술잔을 마주하고 몇 줄의 프롬프트만으로 만들어진다”고 말했다. 이어, “내년 지방선거를 앞두고 제대로 된 부서도 없고 그런 차원에서 질의를 한 것”이라고 덧붙였다. 배 부총리는 이에 대해 “과기정통부가 부총리 조직으로 승격하면서 AI실 산하에 AI안전신뢰정책과, AI안전신뢰지원과 등 두 개 과가 신설됐다”며 “AI 산업의 진흥도 중요하지만 안전과 신뢰에 대한 부분 아주 중요하게 생각한다. 신뢰와 안전에 대한 부분을 지켜내지 못하면 산업 진흥도 물거품이라고 생각한다”고 답했다. 김 의원이 모두의 AI가 정치적 구호에 그치지 않냐며 결국 엔비디아 배를 불려주는 것이 아니냐는 질의에 대해, 배 부총리는 “전세계적으로 AI 개발 특히 학습에서 엔비디아를 사용하지 않는 곳 없을 것이고, 이제 대체제로 AMD가 준비되고 있고, 추론 분야에서는 국내 NPU 업체들이 잘 준비하고 있다”고 말했다. 이어, “결국 AI기본사회는 모두가 AI를 통해 혜택을 누린다는 것”이라며 “방식은 여러 가지가 있겠지만 일반인들이 챗GPT로 통용되는 서비스를 쉽게 쓰듯이 누구나 쓰고 많은 혜택 누리면서도 많은 소외계층 AI 잘 사용하지 못하는 부분이 있으니 누구나 AI를 활용하게 하겠다는 게 핵심”이라고 강조했다. 그러면서 “해외 빅테크 중심의 AI 기술뿐만 아니라 챗GPT를 사용할 수도 있다”며 “다만 한국도 AI 파운데이션 모델을 만들고, 이를 기반으로 AI 서비스를 만들고, 또 이를 기반으로 특화 모델을 만들고, 나아가 AX를 확산하고 과학기술을 혁신하는 데 한국에 내재화된 자체 AI가 필요하다는 것”이라고 덧붙였다. 배 부총리는 이어 최민희 과방위원장에 발언 기회를 얻어 “(김장겸 의원이) 딥페이크 영상을 보여줬는데 취지에는 충분히 공감한다”면서도 “딥페이크 영상이 사실인 것처럼 돌아다닐 것에 대해 유감을 표명한다”고 했다.

2025.10.13 12:28박수형 기자

블랙박스 들여다본 AI, 안전운전 도우미로 변신

일본의 NEC가 생성형 AI가 안전운전을 위한 조언을 만들어내는 서비스를 선보인다는 소식이다. 지디넷재팬에 따르면 NEC는 8일 '쿠루미에 생성형AI 버전'을 출시한다고 밝혔다. 기존 안전운전 지원 서비스에 생성형AI를 더한 것으로 실제 서비스는 14일부터 시작될 예정이다. 회사가 공들인 영상인식 AI 기술에 대규모 언어모델(LLM)을 결합해 산업 현장에 적용한 사례로, AI가 차량의 블랙박스에 기록된 영상 데이터 가운데 횡단보도나 신호등을 지나칠 때 주의가 필요한 장면을 추출해 태그하는 방식으로 작동된다. 5대 이상의 차량을 운용하는 사업장에서 일본 현지 제도에 따라 의무적으로 지정해야 하는 '안전운전관리자'의 업무 부담을 줄이고, 관리자 간 지도 수준의 편차를 줄이겠다는 목표도 담고 있다. 예컨대 AI가 주행 중 위험함 순간 중에 우선적으로 대응해야 할 장면을 자동으로 선별하고 운전자별 습관을 분석해 구체적인 개선 포인트를 제시하면 안전운전관리자가 이를 활용해 기업의 관리체계를 강화하는 데 쓰는 식이다. 외신은 “중요한 영상을 짧은 시간에 확인해 기존에는 사람이 직접 찾아야 했던 영상 선별 작업 시간을 단축하고 인적 오류를 방지할 수 있다”고 평가했다.

2025.10.08 16:24박수형 기자

美 캘리포니아, AI 안전법 'SB 53' 도입…"혁신·투명성 다 잡아"

미국 캘리포니아 주가 인공지능(AI) 기술 발전과 안전을 동시에 확보하기 위한 법안을 도입했다. 6일 테크크런치 등 외신에 따르면 개빈 뉴섬 캘리포니아 주지사는 AI 안전·투명성 법안인 'SB 53'에 서명했다. 이날 뉴섬 주지사는 "이 법은 AI 산업 혁신을 막지 않으면서 공공의 안전과 투명성을 보장할 수 있다는 가능성을 보여준다"고 밝혔다. SB 53 법안은 대형 AI 기업 모델이 사이버 공격이나 생물무기 제작 등 고위험에 악용되지 않도록 대비책을 마련하고, 그 내용을 공개하도록 의무화한다. 업계가 이미 시행하던 안전성 테스트와 모델 정보 공개를 법적 의무로 전환하도록 설계된 것이다. 이번 SB 53은 지난해 거부된 'SB 1047'보다 업계 반발이 덜한 것으로 전해졌다. 우선 규제 대상을 모든 AI 기업에서 대규모 모델과 프론티어 개발자로 한정하고, 시행 중이던 안전성 테스트와 모델 정보 공개를 그대로 법제화한 점이 주효했다. 기술 발전과 시장 변화에 따라 규제 기준을 조정할 수 있는 유연성이 포함됐다는 평가도 나온다. 경쟁이나 비용 압박으로 기업들이 기존 안전 기준을 낮추지 못하도록 정책적 장치를 마련한 것이 핵심이다. 또 SB 1047이 지적받았던 광범위하고 과도한 규제 문제를 보완한 것이 반발을 줄이는 핵심 요인으로 꼽히고 있다. 애덤 빌렌 엔코드 AI 공공정책 부사장은 "SB 53은 산업계와 정책 입안자가 협력해 합의에 도달한 민주주의의 산물"이라고 강조했다.

2025.10.06 17:00김미정 기자

[기자수첩] 국정자원 화재 부른 행안부, 전자정부 관리 자격 없다

지난 2023년 11월. 정부 전산망 먹통 사태는 '전자정부 세계 1위'라는 대한민국의 위상에 큰 충격을 줬다. 디지털 선도국가로서 당당함을 유지했던 우리나라는 이 때부터 정부의 관리 허술함이 곳곳에서 포착되며 위기감을 드러냈다. 주무부처인 행정안전부는 당시 대국민 사과와 함께 이중 운영 체계와 복구 시스템 보강을 약속했다. 2022년 10월 '카카오 사태' 때도 행안부와 국가정보자원관리원(국정자원)은 대전센터와 광주센터 간 상호 재해복구(DR) 시스템이 구축돼있어 3시간 이내 복구가 가능하다고 공언하기도 했다. 하지만 이는 모두 허언이었다. 국정자원 대전 본원 전산실에서 이번에 화재가 발생하자 정부 업무시스템 647개가 일시에 멈추는 대형 사고가 터졌다. 3시간 복구는커녕 화재가 발생한 지 8일째가 됐음에도 시스템 복구율은 20%에도 못미쳤다. 정부 전산망의 복구 업무를 맡았던 행안부 직원은 극단적 선택을 해 안타까움을 샀다. 3년 전 카카오 먹통 사태 당시 정부가 "국정자원은 다르다"며 "화재 시 3시간 이내 복구할 수 있다"고 자신했던 모습은 온데간데 없다. 사고가 터지자 수습하는 과정도 허둥지둥 그 자체다. 이중화 시스템은 여전히 제대로 이뤄지지 않은 게 드러났고, DR 체계를 갖추고 있다는 대전·광주·대구 등 3개 센터도 저장이나 백업 수준에 그쳐 실망감을 줬다. 책임을 져야 할 행안부는 각 부처의 관련 예산 확보도 가로 막은 것으로 드러나 논란은 더 커졌다. 실제 윤건영 더불어민주당 의원실에 따르면 행안부는 지난 해 4월 1·2등급 정보시스템의 이중 운영 체계 구축 투자를 금지한다는 내용의 지침을 전 부처에 배포했다. 이 탓에 2025년도 예산 편성에서 각 부처의 신규 재해복구시스템 구축 요구는 한 건도 없었다. 결국 행안부의 오판과 관리 부실로 국정자원 전산실에 있던 무정전·전원장치(UPS)용 리튬이온 배터리는 폭발해 정부 업무 시스템을 '올스톱'시켰다. 이 배터리는 2014년 도입돼 사용 연한 10년을 1년가량 넘긴 노후 제품이었다. 안일하게만 대응하던 행안부가 부른 대참사다. 그럼에도 행안부는 '예산 부족'을 언급하며 변명하기에만 급급하다. 업계에선 행안부가 더 이상 전자정부 관리 주무부처로 역할을 해선 안된다고 입을 모았다. 국가 행정전산망 먹통 사태 후 국내 공공 소프트웨어(SW) 시장의 문제가 불거졌음에도 그간 제대로 살펴보지 않았던 행안부가 국정자원 관리까지 소홀히 했다는 점에서 전자정부 관리 주무부처로서 자격 미달이라고 평가했다. 현행 정부의 부처별로 천차만별인 공공데이터 관리 체계도 전문가가 많은 부처로 일원화시킬 필요가 있다고 봤다. 또 영국의 과학기술혁신부 사례처럼 현재의 과학기술정보통신부와 행안부가 전자정부와 관련해 각각 맡은 역할을 과기정통부로 단일화하는 방안을 고민해 볼 필요가 있다는 주장도 나오고 있다. 처음 전자정부 시스템을 구축할 때는 과기정통부가 맡았지만, 어느샌가 행안부로 관리가 이관됐다는 점도 이해 할 수 없다는 것이 중론이다. 이 같은 분위기 속에 정부도 이제 영국의 GDS(정부디지털서비스)처럼 일반 공무원 대신 젊고 유능한 개발자들로 구성된 새로운 정부 조직을 국무총리실 산하에 두고 운영할 필요가 있다. '전자정부지원청' 같은 전문 부처를 만들어 중앙 및 지방 정부 전체의 서버와 네트워크 설비를 포함해 전산자원 일체를 관리하도록 하는 것도 고민해 봐야 한다. 이를 통해 각 부처가 업무에 필요한 전산자원들에 대한 관리 부담에서 벗어나 각기 자기 부서의 고유 업무에 집중할 수 있도록 환경을 조성해야 한다. 고시 공부만 했던 공무원이 아닌 진짜 기술 전문가를 통해 제때 공공 시스템을 개선해야 한다. 행안부는 이제 디지털정부혁신실의 역할을 과기정통부로 떼어 내 본연의 역할인 정부 정책 조율 및 지원에만 힘을 쏟길 바란다. 디지털정부, 인공지능(AI) 정부를 표방하며 정권이 바뀔 때마다 대통령이 밀고 있는 정책에 전문성도 없이 숟가락만 얹으려는 행태는 이제 멈춰야 한다. 더구나 'AI 3대 강국'을 표방하고 있는 이재명 정부가 최근 부총리급으로 승격된 과기정통부를 중심으로 AI 정책을 일원화 하려는 움직임에도 적극 협조해야 한다. 정부의 주요 보직을 두고 알력 싸움에만 치중하며 각 부처에 으름장만 놓던 행안부가 이번 화재 사태를 계기로 변화하길 간곡히 바란다. 잘할 수 있는 것에만 집중하기에도 행안부가 맡은 업무는 지방자치, 국민 안전 등 여전히 많다. AI 시대에 맞는 행안부의 역할은 전자정부의 시스템을 잘 알고 AI에 대한 이해도가 높은 부처들의 조력자 정도다. 이젠 빛 바랜 '주연'이 아닌 빛 나는 '조연'으로 AI 시대에 맞는 역할을 찾아 나가길 바란다.

2025.10.05 08:26장유미 기자

한국의료기기안전정보원 이종록 "디지털의료제품법, 규제 명확화로 혁신 성장 지원"

"디지털의료제품법 시행으로 심사 기준이 구체화돼 규제 불확실성이 감소했으며, 다양한 혁신을 촉진할 기회가 만들어졌다. 법적 근거가 생기면서 인허가, 품질, 임상 검증에 대한 신뢰도가 상승하고 국민 안전 확보에도 좋은 영향을 미칠 것으로 관측된다." 한국의료기기안전정보원 이종록 규제지원본부장은 2일 서울 코엑스에서 열린 '디지털 헬스케어 포럼'에서 이같이 밝혔다. 이 본부장은 '디지털의료제품법 및 규제지원 프로그램 소개' 강연을 통해, 올해 1월 24일 세계 최초로 국내에서 시행된 법의 의미와 구체적인 정부 지원책을 설명했다. 이러한 법 제정은 가파르게 성장하는 국내 시장을 체계적으로 지원하기 위한 움직임으로 풀이된다. 실제로 국내 디지털의료기기 시장은 2024년 기준 생산액 5천472억 원으로 전년 대비 32.4% 성장했다. 이 본부장은 "전체 생산액 규모가 수입액 규모를 2배 이상 상회하며 국내 ICT 기반 소프트웨어 디지털의료기기의 성장세가 지속되고 있다"고 평가했다. 이 본부장은 이러한 성장세 속에서 기존 규제 체계의 한계를 극복하기 위해 법이 제정됐다고 설명했다. 그는 "인공지능, 소프트웨어, 네트워크, 사이버보안 등 디지털 기술에 특화된 법적 관리체계가 필요했다"며 "기술 특성을 반영해 개발, 사용, 평가 전주기에 걸친 맞춤형 규제 프레임이 필요해졌다는 것이 배경"이라고 말했다. 법은 제품을 ▲디지털의료기기 ▲디지털융합의약품 ▲디지털의료·건강지원기기 세 가지로 분류해 관리한다. 특히 '디지털의료·건강지원기기' 항목 신설이 큰 의미를 갖는다. 이 본부장은 "스마트워치, 웨어러블 센서 등 다양한 제품이 기존에는 공산품 영역에서 관리됐는데, 앞으로는 법 안으로 들어오면서 개발과 규제, 지원이 함께 이뤄질 예정"이라고 설명했다. 정부는 법 시행에 맞춰 산업계 지원을 위한 구체적인 실행 계획을 가동한다. 식약처는 2026년 예산안에 'AI 응용제품 신속 상용화 지원' 항목으로 150억원을 신규 편성했다. 또한 법 43조, 45조 등에 근거해 전문인력 양성기관, 규제지원센터, 인증업무 대행기관을 지정해 기업의 인허가 준비 과정의 어려움을 덜어줄 방침이다. 이 본부장은 "한국스마트헬스케어협회와 한국정보통신기술협회가 규제지원센터로 지정됐으며, 저희 한국의료기기안전정보원은 인증업무 대행기관으로 지정돼 업무를 수행하고 있다"고 말했다. 이 외에도 식약처는 디지털의료기기 관련 가이드라인 6종을 제·개정하고, AI 기반 제품의 안전성 확보 연구에 3년간 116억 원을 지원하는 등 실질적인 지원을 이어가고 있다. 이 본부장은 "최근 LLM(거대언어모델) 기반 제품의 모의 공격에 대한 레드팀을 구성해 행사를 진행했다"며 "향후에도 다양한 지원 프로그램을 운영할 것"이라고 덧붙였다. 마지막으로 이 본부장은 법 시행이 가져올 긍정적 효과에 대한 기대를 내비쳤다. 그는 "제품법이 시행되면서 (디지털 의료제품에 대한) 심사 기준이 구체화돼 규제 불확실성이 감소됐다"고 진단하며 "다양한 혁신을 촉진할 수 있는 기회가 만들어졌다"고 내다봤다. 그러면서 "다양한 투자도 활성화될 것으로 보인다"며 "법적 근거가 생기면서 인허가, 품질, 임상 검증에 대한 신뢰도가 상승하고, 이를 통해 국민 안전 확보에도 좋은 영향을 미칠 것으로 본다"고 덧붙였다.

2025.10.02 14:03정진성 기자

"기술만 치고나가면 더 빨리 세번째 AI겨울 올 것"

“AI 통해 세상을 전환하는 AX에서 '안전'은 중요한 요소이다. 인공지능안전연구소가 세르파처럼 안전 가이드 역할을 하겠다” 김명주 인공지능안전연구소 소장은 9월30일 AI페스타 2025와 연계해 열린 사이버 보안 컨퍼런스-기술 트렌드 세션에서 'AI 안전 생태계'를 주제로 한 발표를 통해 '안전'과 '신뢰'을 강조했다. 김명주 소장은 “안전은 안보와 같이 움직이는 주제인 것 같다. 특히 사회적 혁신 중 하나인 AI에서 더 그렇다고 생각한다”라며 “지금 어떤 일을 하고 있는데 거기에 AI가 도입되면 내 일에도 안전문제가 더 늘어나지 않을까 불안하게 된다. (AI) 영향을 받는 사람 입장에서 이러한 신뢰성이 해결되지 않으면 열심히 개발해도 사업자나 이용자가 거부할 수 있다”고 지적했다. '인류는 AI를 활용해 역사상 가장 큰 예택을 누릴 것이지만, AI로 인한 부작용과 역기능을 처리하기 위해 받은 혜택의 2배를 쏟아 부어야 할 것이다' 'AI로 인한 일자리 대재안에 대한 걱정보다 더 심각한 것은 강력한 AI 시스템에 대한 악의적 사용자의 접근(악용)을 제한하는 것이다' '사람들이 가까운 미래에 AI에게 실제 업무를 맡길 가능성은 크지 않다. 지금의 AI는 신뢰성에 문제가 있기 때문이다' 김 소장은 노벨상 수상자의 발언을 예를 들며 “이러한 예측을 하는 가장 큰 이유는 AI 신뢰성에 문제가 있다는 것이다. 정부도 그렇고 전세계적으로 AI 붐업을 일으키려 열심히 노력하고 있는데 모든 애플리케이션이 AI를 열심히 수용해서 기존보다 훨씬 높은 효과를 나타내야 하는 상화에 경고를 하는 것”이라고 말했다. 그는 “소프트웨어 개발에서 보안, 안전, 소프트웨어가 일상에 퍼졌을 때 예상치 못한 (사회적)부작용 등의 3S(Security, Safety, Soundness)를 이야기한다. AI도 똑같은 소프트웨어인데 만들라는 발주했던 사람이 아닌 사업자든 이용자든 AI에 관심 있는 사람들이 묵시적 합의로 발전시켜 왔다”며 “이 상태에서 Soundness 대신 믿을 수 있을까(Trustworthiness)가 들어왔고, 신뢰성이라는 표현을 쓰기 시작했고 국가가 나서기 시작했다”고 말했다. 이어 “나라마다 신뢰성 문제를 해결해야 하고, 앞서 말했던 보안 문제, 그다음에 안전성, 역기능 문제 등도 해결하기 위해 노력하고 있다. AI 역사에서 두 번의 겨울을 맞이했고, 세 번째 여름을 지나고 있는데 거버넌스 논의를 안하고 기술로만 치고 나가면 결국 우리가 예상하지도 않은 더 빨리 세 번째 겨울이 올 것”이라고 지적했다. 김 소장은 “우리나라법에도 인공지능안전에 대해 정리를 해놨고, 연구소가 해야할 일도 나열돼 있다. 이 법이 내년 1월 시행되는데 인공지능안전연구소도 합법적인 연구소가 된다”라며 “AI를 통해서 세상을 전환시킬 때 AX를 이야기하는데 '안전'은 굉장히 중요한 요소이다. 그래서 안전연구소는 세르파, 안전을 책임지는 현지인과 같은 역할을 해야겠다고 생각하고 있다”고 말했다.

2025.09.30 19:25조민규 기자

'AI 의사' 내세운 허위광고 만연..."당장 가이드라인 만들어야"

AI 기술을 악용한 의사와 약사 사칭 허위광고가 무분별하게 유통되고 있으나 방송통신심의위원회와 식품의약품안전처 등 관련 기관이 사실상 손을 놓고 있다는 지적이 제기됐다. 국회 과학기술정보방송통신위원회 이훈기 의원(더불어민주당)이 방통심의위에 'AI 를 활용한 사칭형 광고'에 대한 이훈기 의원실의 질의에 대해 “AI 기본법이 시행될 경우 AI 활용 영상은 별도 표기토록 시행령 도입을 검토 중”이라고만 답했다. 사실상 현행법 하에서의 즉각적인 심의 기준이나 조치가 전혀 없다는 설명이다. 이에 대해, 이훈기 의원은 “현실에서 국민들에게 피해를 주는 허위 과장 거짓 광고가 버젓이 게재되고 있는데 내년 AI 기본법 발효만 기다리고 있겠다는 말”이라며 “아무리 방심위가 윤석열 정부를 지나며 식물조직이 됐다고 하더라도 지금은 이재명의 국민주권정부인 만큼 당장 적극적인 조치에 나서야 한다”고 꼬집었다. AI 가짜 의사에 관련한 통계도 마련되지 않은 실정이다. 이훈기 의원실이 식약처로부터 제출받은 자료에 따르면 최근 5년간 SNS와 온라인상에서 적발된 허위 과대광고는 5천516 건에 이르지만 AI 생성 영상을 이용한 광고는 별도로 집계하지 않고 있다. 식약처는 “적발된 부당광고 중 AI 를 이용한 영상 여부를 구별하여 관리하고 있지 않아 딥페이크 광고 적발 자료를 보유하고 있지 않다”며 “AI로 생성된 의사 사칭 광고도 소비자는 실제 의사 약사가 식품을 추천하는 것으로 오인할 가능성이 있어 소비자 기만 부당광고로 판단해 조치하겠다”고 밝혔다. 이 의원은 “AI 기술로 가짜 의사를 만들고 건강식품, 의약품을 추천하게 하는 광고가 이미 유튜브와 인스타그램을 중심으로 퍼지고 있는데 방심위와 식약처 모두 손을 놓고 있다”며 “AI 기본법 시행만 기다릴 게 아니라 지금 당장 가이드라인과 모니터링 체계를 마련해야 한다”고 강조했다. 이어, “AI 의사를 등장시켜 치료 효과를 암시하는 것은 단순한 과장광고가 아니라 의료법과 식품표시광고법을 모두 위반한 불법행위”라며 “정부는 부처 간 칸막이 핑계만 대지 말고 즉각 통합적 대응 체계를 수립하고 실시간 감시 시스템을 마련해야 한다”고 덧붙였다.

2025.09.26 09:54박수형 기자

李대통령 "AI가 인류 멸종시킨다면 공통 규범 못 만든 것"

이재명 대통령이 24일(현지시간) “인공지능(AI)이 인류를 멸종시킨다면 이는 공통 규범을 만들지 못했기 때문일 것”이라고 밝혔다. 이 대통령은 이날 유엔본부에서 열린 안전보장이사회 공개토의를 주재하며 이같이 말했다. 한국 정상이 유엔 회의장 의장석에 앉아 회의를 주재한 것은 처음이다. 안보리 의장국을 맡은 데 따른 것이다. 이 대통령이 'AI와 국제평화, 안보'를 주제로 채택한 뒤 의사봉을 두드리고 각국 정상들이 준비한 발언을 이어갔다. 이 대통령은 자신의 차례가 되자 “현재의 AI는 새끼 호랑이와 같다는 제프리 힌튼 교수의 말이 떠오른다”며 “새끼 호랑이는 우리를 잡아먹을 사나운 맹수가 될 수도 있고 케이팝데몬헌터스에 나오는 사랑스러운 더피가 될 수도 있다”고 운을 뗐다. 그러면서 “우리가 AI를 어떻게 다룰지에 따라 전혀 다른 미래가 펼쳐질 것”이라며 “변화에 대비하지 못하고 끌려간다면 극심한 기술 격차가 철의 장막을 능가하는 실리콘 장막으로 작동해 세계적인 불평등과 불균형을 심화시킬 것”이라고 우려했다. 이 대통령은 특히 “인공지능 기술력이 곧 국력인 시대에 과거 러다이트 운동처럼 기술 발전을 역행하는 일은 가능하지도, 현실적이지도 않다”며 “국익을 위해 경쟁하되 모두의 이익을 위해 협력하는 것이 현명한 대처”라고 강조했다. 이어, “명과 암이 공존하는 AI시대의 변화를 기회로 만들 방법은 국제사회가 단합해 책임 있는 이용의 원칙을 바로 세우는 것”이라며 “각국 정부와 학계, 산업계, 시민사회가 머리를 맞대고 지혜를 모아야 모두를 위한 AI, 인간 중심의 포용적 AI로의 혁신을 이뤄낼 수 있다”고 덧붙였다. 이 대통령은 또 “AI를 잘만 활용하면 WMD(대량살상무기) 확산을 감시하는 등 분쟁을 예방하고 평화를 유지하는 훌륭한 도구가 될 수 있지만, 통제력을 상실한다면 허위 정보가 넘쳐나고 테러, 사이버 공격이 급증하는 디스토피아의 미래를 피할 수 없다”고 내다봤다. 이에 따라 “AI발 군비 경쟁으로 안보 불안은 더욱 커질지도 모른다”며 “이제 국제사회가 인공지능 시대에 변화한 안보 환경을 분석하고 공동의 대응 방안을 찾아내야 한다”고 제안했다. 한국의 책임론을 강조하기도 했다. 이 대통령은 “한국은 글로벌 책임 강국으로서 AI가 인류의 지속 가능한 미래를 만드는 훌륭한 도구가 되도록 협력을 주도할 것”이라고 했다. 경주 APEC 정상회의와 관련해 “인공지능이 인류의 번영에 기여할 수 있도록 'APEC AI 이니셔티브' 채택을 추진하고 있다”며 “기술 발전의 혜택을 모두 함께 누리는 'AI 기본사회', '모두의 AI'가 새로운 시대의 뉴노멀이 되도록 노력하고 있다”고 밝혔다. 이 대통령은 또 “AI가 불러올 문명사적 대전환 앞에서 인류는 오랜 역사 동안 함께 지켜온 보편 가치를 지켜내야 할 중요한 변곡점을 지나고 있다”며 “시대적 사명을 마다하지 말고 AI가 가져올 변화를 인류 재도약 발판으로 만들어 내자”고 거듭 강조했다.

2025.09.25 08:08박수형 기자

韓-中 AI 동맹 결성…'신뢰성' 기술 표준 손잡는다

민간 주도 국제 인공지능(AI) 연대 '트레인(TRAIN)'이 중국과 손잡고 AI 신뢰성 기술 표준화와 산업 생태계 확장에 착수한다. 씽크포비엘은 다음달 1일 서울 코엑스 콘퍼런스홀에서 '트레인 심포지엄'을 개최한다고 24일 밝혔다. 이번 행사는 한국과 중국의 AI 전문가들이 참여하는 한-중 워크숍 형태로 열린다. 중국 측에서는 구샤오둥 상해교통대 교수, 리리 베이징항공항천대 교수 등 학계 전문가와 장얀 차이나유니콤 총괄이사 등 산업계 인사가 발표를 맡는다. 또 야오 바오징 상해소프트웨어산업협회 비서장 등도 한국을 찾는다. 국내에서는 에릭 데이비스 SK텔레콤 본부장을 비롯해 김경훈 카카오 AI 세이프티 리더, 이상은 LG AI연구원 정책책임, 노영빈 NC AI 거버넌스인사이트 팀장, 조일경 KTL 주임연구원이 연사로 나선다. 이번 심포지엄은 중국의 AI 신뢰성 관련 정책과 표준화 동향을 파악하고 한국과의 협력 가능성을 모색하기 위해 마련됐다. 양국 기업의 데이터 거버넌스, 편향 진단, 모델 견고성 평가 등 운영 사례가 심도 있게 다뤄질 예정이다. 행사는 트레인이 주최하는 세 번째 심포지엄이다. 지난해 2월 판교에서 창립총회를 겸한 첫 행사가 열렸고 같은 해 10월 태국 방콕에서 한-태 워크숍이 개최된 바 있다. 트레인은 이번 교류가 국내 AI 신뢰성 전문인력 육성 체계를 갖추는 데 중요한 참고가 될 것으로 기대한다. 특히 중국의 교육 역량과 전략을 공유하고 향후 양국이 관련 국제표준을 공동으로 추진하는 등 긴밀한 협력 관계를 구축할 계획이다. 심포지엄 관계자는 "이번 행사는 같은 날 열리는 트라이톤과 연계돼 정부와 산업계 관심이 집중될 것"이라며 "양국 실무자가 한자리에 모여 규제, 표준, 교육, 산업 현장을 하나의 흐름으로 연결하는 장이 되길 바란다"고 말했다.

2025.09.24 11:51조이환 기자

오픈AI·구글 정조준한 캘리포니아…'AI 안전법' 칼날에 빅테크 긴장

미국 빅테크의 심장부 캘리포니아가 거대 인공지능(AI) 기업의 독주를 막기 위한 강력한 규제 법안을 꺼내 들었다. 22일 테크크런치에 따르면 캘리포니아 주 상원은 최근 스콧 위너 상원의원이 발의한 AI 안전 법안 'SB 53'을 최종 승인했다. 이 법안은 개빈 뉴섬 주지사의 서명만 남겨두고 있다. 다만 뉴섬 주지사는 지난해 유사 법안인 'SB 1047'에 거부권을 행사했다. 이번 법안의 핵심은 규제 대상을 명확히 한 점이다. 연간 5억 달러(한화 약 6천900억원) 이상 수익을 내는 거대 AI 개발사만 법 적용을 받는다. 이는 지난해 법안이 스타트업 생태계를 해칠 수 있다는 비판을 수용한 결과다. 특히 AI 업계 내부에서도 지지 목소리가 나와 주목된다. 오픈AI의 강력한 경쟁사로 꼽히는 앤트로픽이 해당 법안에 공식적인 지지 의사를 밝혔다. SB 53은 AI 기업에 세 가지 핵심 의무를 부과한다. ▲안전성 보고서 제출 ▲정부 기관에 중대 사고 보고 ▲내부 고발 직원 보호 등이다. 비밀유지협약(NDA)에 서명한 직원이라도 우려 사항을 정부에 알릴 수 있는 통로를 열어준 셈이다. 캘리포니아의 독자적 행보는 연방 정부의 규제 완화 기조와 정면으로 배치된다. 현재 연방 정부는 주 정부 차원의 개별 AI 규제를 금지하는 법안까지 추진하고 있다. 이 때문에 향후 연방 정부와 주 정부 간 갈등의 새로운 뇌관이 될 수 있다는 전망이 나온다. 테크크런치는 "이 법안은 지난 수십 년간 우리가 갖지 못했던 기술 기업의 힘에 대한 의미 있는 견제 장치가 될 수 있다"며 "AI 기업이 세계에서 가장 강력한 회사가 되는 시대에 몇 안 되는 견제 수단이 될 것"이라고 평가했다.

2025.09.22 11:09조이환 기자

정부, 공공데이터에 'AI 레디' 칼 댄다…산업 경쟁력 '강화'

정부가 공공데이터의 패러다임을 '인공지능(AI) 중심'으로 전환하고 이를 통해 국내 산업 생태계의 경쟁력을 제고한다. 행정안전부는 AI가 별도 가공 과정 없이 즉시 학습하고 분석할 수 있는 'AI 레디(AI-Ready)' 개념을 공공데이터에 국내 최초로 도입하고 연내 범정부 공통 지침을 마련한다고 18일 밝혔다. 이번 조치는 국내 공공데이터가 양적 성과에도 불구하고 AI 시대에 맞는 질적 수준에는 미치지 못한다는 업계의 지적에 따른 것이다. 국내 공공데이터는 경제협력개발기구(OECD) 평가에서 4회 연속 세계 1위를 달성했지만 데이터마다 주소나 행정코드 표기 방식이 달라 연계가 어렵고 AI가 직접 읽기 힘든 포맷으로 제공돼 활용도가 떨어진다는 비판을 받아왔다. 일례로 재난 발생 시 대피 경로를 안내하는 앱을 개발하는 한 스타트업의 경우 기상 데이터, 재난문자, 교통정보 등 각기 다른 데이터를 융합해야 하지만 표준화가 돼 있지 않아 데이터 정제에만 막대한 비용과 시간을 쏟아야 했다. 이에 정부가 내놓은 'AI 레디 공공데이터'는 명확한 기준을 따른다. ▲AI가 직접 읽고 이해하는 표준 데이터 포맷 제공 ▲갱신 주기, 결측률 등 풍부한 메타데이터 제공 ▲주소·행정코드 등 핵심 식별값 표준화 ▲시계열성·완결성 등 데이터 품질 기준 만족 등이 핵심이다. 행정안전부는 이를 위해 전문가 중심의 실무단을 꾸려 연내 세부 관리 지침을 확정해 배포할 계획이다. 윤호중 행정안전부 장관은 "데이터는 AI 경쟁력의 원천"이라며 "AI가 활용하기 좋은 고품질 공공데이터를 풍부하게 개방해서 혁신적 서비스 창출과 산업 경쟁력 제고를 위해 힘쓰겠다"고 밝혔다.

2025.09.18 17:21조이환 기자

한국 디지털 AI 정부 역량, 필리핀 행정혁신 지원 나선다

한국의 디지털 정부와 인공지능(AI) 기반 행정혁신 경험이 필리핀 공무원들에게 전수된다. 행정안전부와 한국국제협력단(KOICA)이 함께 추진하는 이번 연수는 필리핀의 국가 개발계획을 지원하는 맞춤형 프로그램으로 기획됐다. 행정안전부 지방자치인재개발원은 필리핀 고위공무원 12명을 대상으로 '필리핀 디지털 전환과 공공행정혁신 역량강화과정'을 온라인으로 운영한다고 15일 밝혔다. 15일부터 23일까지 진행되는 이번 과정은 필리핀 정부의 요청에 따라 공적개발원조(ODA) 사업의 하나로 마련됐으며, 2025년부터 2027년까지 3년간 이어진다. 올해 1차 연수에서는 디지털·AI 전환 전략 수립, 한국 디지털 정부 정책 이해, 정보통신기술(ICT) 기반 행정혁신, 필리핀 맞춤 실행계획(Action Plan) 수립 등이 집중적으로 다뤄진다. 참가자들은 데이터 기반 정책 설계, 법·제도 마련, 사이버 보안 등 디지털 전환 과정에서 필요한 핵심 요소들을 학습하고, 한국의 디지털 정부 사례를 접목해 자국의 행정서비스 개선 방안을 모색하게 된다. 특히 이번 연수는 필리핀 정부가 직접 실행 가능한 디지털 전환 계획을 마련하도록 지원하는 데 초점을 두고 있다. 이를 통해 단기적인 교육 성과를 넘어 2·3차 연수와 연계해 지속성과 현업 적용성을 강화한다는 방침이다. 안준호 지방자치인재개발원장은 "이번 연수가 필리핀 공무원들의 디지털 전환과 AI 행정혁신 역량을 높여 신뢰할 수 있는 공공서비스 제공에 기여하길 기대한다"며 "필리핀의 지속 가능한 발전을 적극 뒷받침하겠다"고 말했다.

2025.09.15 10:17남혁우 기자

美 캘리포니아, 세계 첫 'AI 챗봇 규제법' 초읽기…"부적절 대화 금지"

미국 캘리포니아주가 미성년자 보호를 명분으로 인공지능(AI) 동반자 챗봇에 대한 법적 규제 칼날을 빼 들었다. 12일 테크크런치에 따르면 캘리포니아 주의회는 AI 동반자 챗봇 규제 법안인 'SB 243'을 상원과 하원에서 초당적 지지로 통과시켰다. 해당 법안은 개빈 뉴섬 주지사의 서명만 남겨두고 있으며 기한은 오는 다음달 12일까지다. 법안의 핵심은 AI 챗봇이 자살이나 자해, 성적으로 노골적인 대화에 관여하는 것을 막는 데 있다. 또 미성년자에게는 3시간마다 AI와 대화 중임을 알리고 휴식을 권고해야 한다. 법안이 서명되면 내년 1월 1일부터 효력이 발생한다. 법안은 기업에 강력한 법적 책임도 부과한다. 위반 시 피해자는 건당 최대 1천 달러(한화 약 130만원)의 손해배상 소송을 제기할 수 있다. 오픈AI, 캐릭터닷AI, 레플리카 등 주요 기업은 오는 2027년 7월부터 연례 투명성 보고서를 제출해야 한다. 이번 입법은 한 10대 청소년이 오픈AI의 '챗GPT'와 논의한 뒤 사망한 사건이 결정적 계기가 됐다. 메타의 챗봇이 아동과 부적절한 대화를 나눈 정황이 담긴 내부 문건이 유출된 것도 규제 여론에 불을 지폈다. 상하원을 통과한 SB 243은 초안에 비해선 굉장히 완화가 됐다. 당초 이 법엔에는 AI 챗봇 운영업체들이 '변동 보상'을 비롯해 이용자들의 몰입을 유도하는 기능을 사용하지 못하도록 했다. 실제로 레플리카나 캐릭터 같은 AI 동반자 기업들은 '변동 보상' 기법을 통해 이용자들을 유인해 왔다. 또 AI 챗봇이 이용자들과 얼마나 자주 자살을 비롯한 부적절한 대화를 하는 지 추적하고 보고하도록 한 조항도 삭제했다. 이 과정에서 실리콘밸리 빅테크들은 규제 완화를 위해 엄청난 로비 공세를 퍼부었다. 특히 오픈AI, 구글, 메타 등은 포괄적 투명성 의무를 담은 또 다른 법안(SB 53)에 대해서는 공개적으로 반대 입장을 밝혔다. 미국 전역에서도 AI 챗봇의 아동 보호 문제에 대한 압박이 거세지는 모양새다. 연방거래위원회(FTC)는 아동 정신건강 영향 조사를 준비 중이며 텍사스 법무부는 메타와 캐릭터닷AI를 정조준했다. 연방 상원에서도 별도 조사가 진행되고 있다. 법안을 주도한 파디야 상원의원은 "혁신과 규제가 양립할 수 없다는 전제를 거부한다"며 "우리는 기술의 이점을 살리면서 동시에 가장 취약한 사람들을 위한 합리적 안전장치를 마련할 수 있다"고 밝혔다.

2025.09.12 10:58조이환 기자

Prev 1 2 3 4 5 6 7 Next