검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'국방 인공지능'통합검색 결과 입니다. (67건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

AI 조종사가 F-16 몬다…퀀텀에어로, KAI에 최첨단 무인 기술 공급

퀀텀에어로가 한국항공우주산업(KAI)과 손잡고 인공지능(AI) 파일럿 기술 개발을 가속화한다. 미국 방산 AI 선두 기업 쉴드AI와의 전략적 협력을 기반으로, 차세대 국군 무인 전투체계의 혁신을 이끌 수 있게 됐다. 퀀텀에어로는 KAI에 AI 파일럿 개발 프로그램 '하이브마인드 엔터프라이즈(HME)'를 공급하는 계약을 체결했다고 20일 밝혔다. HME는 쉴드AI가 개발한 AI 파일럿 소프트웨어 개발 키트(SDK)다. 이 기술은 조종사의 개입 없이도 전투기가 자율적으로 임무를 수행할 수 있도록 설계됐다. AI 파일럿 기술은 이미 미군의 다양한 무인 항공기에 적용돼 성능을 검증받은 바 있다. MQ-20, X-62, MQ-35A, MQM-178 등 여러 기종에서 실제 운용되며 자율 비행 역량을 입증했다. AI 기반 무인 전투기 개발이 세계적으로 활발해지는 가운데 국군 역시 독자적인 전투 AI 기술 확보에 속도를 내고 있다. 퀀텀에어로는 이번 계약을 통해 국내 방산 AI 시장에서의 입지를 더욱 공고히 할 계획이다. 이 회사는 지난해 6월 대한민국 해군과 협력해 독도함에서 쉴드AI의 수직이착륙 무인기(V-BAT) 전투 실험을 성공적으로 수행하며 기술력을 인정받았다. 또 현대로템, 한화에어로스페이스, 대한항공, 한화시스템, 페리지에어로스페이스 등 국내 주요 방산 대기업들과 비밀유지협약(NDA)를 체결하고 협력을 확대하고 있다. AI 기반 전투체계는 미래 전장 환경을 변화시킬 핵심 기술로 평가받는다. AI 파일럿은 전장 상황을 스스로 분석하고 최적의 전술을 결정해 조종사의 개입 없이도 임무를 수행할 수 있다. 유·무인 복합 작전과 차세대 공중전에서 필수 기술로 자리 잡을 전망이다. 퀀텀에어로는 글로벌 방산 AI 시장에서의 경쟁력 확보에도 주력하고 있다. 현재 쉴드AI의 한국 독점 기술 파트너로 활동하며 해외 최첨단 AI 기술을 국산화해 국내 방산 기업과 군에 공급하는 역할을 맡고 있다. 최근에는 37억원 규모의 투자를 유치하며 설립 1년 만에 총 누적 투자금 47억원을 기록하는 등 성장세를 보이고 있다. 쉴드AI는 미국의 대표적인 방산 AI 기업으로, 팔란티어 등 글로벌 방산 기업과 협력하며 AI 자율비행 기술을 개발하고 있다. 지난 2023년 미국 국방고등연구계획국(DARPA)의 AI 공중전 프로젝트에서 AI 파일럿이 인간 조종사를 뛰어넘는 성과를 기록한 바 있다. 또 우크라이나 전장에서 AI 무인기를 활용해 러시아의 재밍과 방공망을 무력화하는 성과를 거뒀다. 회사는 최근 기업 가치가 7조7천억원으로 평가되며 글로벌 방산 AI 시장에서 입지를 강화하고 있다. 한화자산운용도 소액 투자자로 참여하는 등 국내 방산 기업들과의 연계 가능성이 커지고 있다. 전동근 퀀텀에어로 이사회 의장은 "세계 최첨단 AI 기술을 도입해 국군의 전력 발전에 빠르고 효과적으로 기여할 것"이라며 "이번 KAI와의 협력을 발판 삼아 AI 전투기 개발에 핵심 역할을 수행할 것"이라고 밝혔다.

2025.03.20 17:48조이환 기자

"10년 뒤 인류 멸망할 수 있다"…국내 1세대 AI 연구자, 섬뜩한 발언한 이유는

"미국 트럼프 행정부가 들어서면서 인공지능(AI) 안전보다 발전에 더 주안점을 두기 시작했다는 점이 우려됩니다. 이렇게 되면 10년 뒤에 인류는 멸망할 수 있습니다." 한상기 테크프론티어 대표는 최근 서울 강남구 모두의연구소 강남캠퍼스에서 진행된 '국방 인공지능 혁신 네트워크' 행사에 연사로 참석해 이처럼 강조했다. 한 대표는 서울대 컴퓨터공학과를 졸업하고 카이스트에서 전산학 석·박사를 마친 국내 1세대 AI 연구자다. 이날 'AI 안전 : 주요 토픽과 해결할 문제들'이란 주제로 발표에 나선 한 대표는 최근 범용인공지능(AGI)의 능력이 향상되면서 추가적인 리스크들이 점진적으로 나타나는 것에 대해 우려를 표했다. 20일 업계에 따르면 AI는 고도화 수준에 따라 '제한적 인공지능(ANI)', 'AGI', 'ASI'로 구분한다. 이 중 AGI는 ANI인 오픈AI '챗GPT'나 구글 '제미나이'와 달리 사전 학습된 데이터와 알고리즘에 의존하지 않고도 새로운 문제를 분석하고 해결책을 제시할 수 있는 AI다. 인간 수준의 일반 지능을 갖추고 논리력과 창의적 추론 능력을 보유한 AI로 설명된다. 추론 능력이 향상된 오픈AI의 최신 모델 'o1', 'o3' 등은 ANI에서 AGI로 이행하는 단계에 있다는 평가를 받는다. 그 다음 단계인 ASI는 인간을 뛰어넘는 지적 능력을 갖춘 AI를 의미한다. 스스로 목표를 설정하고 개선하는 능력이 탁월해 인간이 상상할 수 없는 수준의 복잡한 문제를 창의적으로 해결할 수 있다. AI 간의 자발적 소통이 가능해 인류가 전유물로 여겨온 '집단 지성'도 구현할 수 있다. 한 대표는 "데미스 하사비스 구글 딥마인드 최고경영자(CEO)는 5년, 다리오 아모데이 앤트로픽 CEO는 2~3년 안에 AGI 시대가 올 것이라고 얘기하고 있다"며 "적어도 10년 안에 온다고 보면 이에 대한 (안전성과 관련해) 대비를 해 나갈 필요가 있다"고 강조했다. 또 한 대표는 AI를 '핵무기' 수준으로 봐야 한다고 강조하며 AI 발전과 함께 안전성도 같이 고려해 나가야 한다고 주장했다. 그는 "최근 앤트로픽 클로드 3.7이나 오픈AI o3 같은 모델들이 출시되면서 인터넷에 존재하지 않는 정보를 추론 능력으로 답변을 만들어지는 사례들이 늘어나고 있다"며 "생화학 무기, 핵무기 등에 이 같은 AI가 사용되기 시작할 경우 안전성이 확보되지 않으면 큰 문제가 될 것"이라고 지적했다. 그러면서 "이제는 AI 모델뿐 아니라 시스템, 애플리케이션까지 확대해 AI와 관련된 범죄 가능성에 대해 고민해봐야 할 시점"이라며 "영국 등에선 이미 안전성뿐 아니라 국가안보적인 관점에서 AI를 들여다 보기 시작했다는 점에서 우리나라도 함께 고민해 봐야 할 것"이라고 덧붙였다. 이날 '딥시크를 포함한 추론형 AI에 대한 이해'를 주제로 강연에 나선 이진원 하이퍼엑셀 CTO는 AI가 점차 발전하면서 인간이 통제할 수 있는 영역을 점차 벗어나고 있다는 점을 주목했다. 또 앞으로는 AI가 AI를 컨트롤하는 방향으로 기술 발전을 해 나가야 하지만 데이터가 AI 발전 속도를 따라가지 못하고 있다는 점에서 우려를 표했다. 더불어 이 CTO는 오픈AI가 생각하는 AI 5단계를 소개하며 현재 AI가 ANI에서 AGI로 넘어가는 과정에서 데이터 학습량을 더 늘리기 위해 엔비디아가 그래픽처리장치(GPU)를 더 크게 만들 필요가 있다는 점도 강조했다. 이 CTO는 "딥시크처럼 저렴한 모델들이 나오면서 앞으로 AI가 실제 산업에 더 다양하게 활용될 것으로 보인다"며 "GPU 수요는 앞으로 더 폭발적으로 늘어날 것으로 보인다"고 관측했다. 이어 "딥시크 같은 기업들이 속속 나오고 있지만 오픈AI, 구글 등 빅테크의 AI 기술력을 따라가기에는 쉽지 않을 것"이라며 "다만 우리나라가 AI 경쟁력을 키우기 위해선 중국 딥시크 같은 모델을 벤치마킹해야 한다"고 주장했다. 이날 행사에선 국방기술진흥연구소 박삼준 AI PD와 김일환 삼성SDS 그룹장, 최민석 ETRI AI 안전연구소 박사 등이 참여한 패널 토의도 '국방분야 생성형 AI 도입 및 활용 방향'을 주제로 진행됐다. 각 패널들은 AI의 통제력 상실을 막지 않으면 국방분야에 생성형 AI를 도입하는 것이 쉽지 않을 것으로 봤다. 최 박사는 "무기 체계가 알고리즘으로 움직여지는 상황에서 사람 통제를 벗어나 (AI를 통해) 자의적으로 움직여질 경우 상대뿐 아니라 우리에게도 그 피해가 발생할 것이란 점이 우려된다"며 "이를 막기 위해 여러 단계의 안전장치를 고려해야 하지 않을까 싶다"고 강조했다. 김 그룹장은 우리나라가 국방 분야에서 AI를 활용하기 위해선 양질의 데이터를 안전하게 확보하는 동시에 클라우드로 전환하는 것이 가장 중요하다고 주장했다. 또 미군이 팔란티어와 손잡고 국방 전 분야를 클라우드로 전환해 활용하는 사례를 들어 우리나라도 클라우드로 점차 전환해 나갈 필요가 있다고 지적했다. 현재 미군은 팔란티어의 SaaS(클라우드 기반 서비스형 SW)를 구독해 매일 시스템을 업데이트 하고 활용하고 있다. 김 그룹장은 "우리 군 역시 JADC2(합동 전 영역 동시통합지휘통제) 등을 추진하며 국방 AI에 대한 구체적인 계획을 가지고 있는 것으로 안다"며 "이를 실행하기 위해선 예산 확보가 필수적으로, 이 문제만 해결되면 우리나라군도 굉장히 빠르게 (미군 수준으로) 따라갈 수 있을 것이라고 생각한다"고 말했다.

2025.03.20 17:13장유미 기자

투자자 오인한 美 쉴드 AI, 시장 혼란 부추겨

미국 방산 인공지능(AI) 스타트업 쉴드 AI가 지분 투자 주체에 착오를 일으켜 시장 혼란을 부추기고 있다. 한화에어로스페이스가 투자자로 지목되며 최근 주가가 급등하는 모습을 보였으나, 쉴드AI가 투자 주체를 정정하게 되면서 향후 주가에 영향을 줄 지 주목된다. 쉴드 AI는 지난 6일 발표한 2억4천만 달러(약 3천480억원) 규모의 F-1 라운드 투자에 참여한 곳이 한화에어로스페이스가 아닌 '한화자산운용'이라고 13일 밝혔다. 이번 투자는 미국 방위산업체 L3해리스(L3Harris)가 주도한 것으로, 미국 벤처 캐피털 앤드리슨호로위츠, 미국혁신기술펀드(USIT) 등도 투자에 동참했다. 다만 각 기업의 정확한 투자규모는 알려지지 않았다. 해당 투자로 AI쉴드는 53억 달러(약 7조7천억원)의 기업 가치를 인정 받았다. 쉴드 AI는 "기존 발표에서 투자 기관을 한화에어로스페이스를 명시했으나, 실제 투자에 참여한 기관은 한화자산운용"이라며 "이번 투자는 자사 AI 기반 자율성 개발 플랫폼인 '하이브마인드 엔터프라이즈(Hivemind Enterprise, HME)'의 사업 확장과 기술 고도화를 지원하기 위한 것"이라고 설명했다. 하지만 한화에어로스페이스로 투자자가 알려진 후 주가는 고공행진을 이어갔다. 쉴드 AI가 투자 소식을 알린 직후 지난 7일 한화에어로스페이스의 주가는 전일 대비 7.08% 상승하며 72만6천원에 거래됐다. 이후 최고가인 74만5천원까지 치솟았다가 쉴드 AI가 투자자 오인 정보를 알린 이날 오후 3시 4분 현재 주가는 전일 대비 6.02% 상승한 70만5천원에 거래되고 있다. 이날 오전 70만6천원에서 소폭 낮아진 상태다. 업계에선 이번 일을 두고 쉴드 AI의 잘못도 있지만, 투자자로 지목된 한화에어로스페이스의 대응이 미흡했다고 질타하고 있다. 잘못된 정보들이 많은 언론들을 통해 쏟아졌음에도 불구하고 사실 관계를 바로 잡기 위해 적극 나서지 않아 이 소식으로 인해 상승한 주가를 방관했다는 점에서다. 쉴드 AI는 "착오로 인해 잘못된 정보가 발표된 점에 대해 사과드린다"며 "정확한 내용을 안내할 수 있게 돼 다행"이라고 밝혔다.

2025.03.13 15:27장유미 기자

"우리 경쟁사는 美 팔란티어"…미군도 인정한 삼성SDS, 韓 국방부 문턱도 넘을까

"삼성SDS는 국방 사업 분야에서 경쟁사를 미국 팔란티어라고 생각하고 있습니다. 자체 클라우드 플랫폼인 '삼성 클라우드 플랫폼'으로 국내 클라우드 산업을 선도하고 있는 데다 유일한 5G 기간 통신 사업자이고, 자체 개발한 생성형 인공지능(AI) '패브릭스'를 가지고 있는 만큼 우리 군이 요구하고 있는 니즈를 반영해 우수한 한국형 '타이탄(TITAN)'을 만들 수 있을 것이라고 자신합니다." 원준 삼성SDS 국방 클라우드 기획 프로는 20일 오전 서울 용산구 로카우스 호텔 용산에서 진행된 '삼성SDS 디지털 혁신 데이'에서 '엣지클라우드·5G 기반 한국형 타이탄 구현 방안'을 주제로 이처럼 발표했다. 타이탄은 전술제대 정보융합 타격체계로, 미국 기업인 팔란티어가 지난해 초 미국 육군으로부터 이 프로젝트의 계약을 수주해 눈길을 끈 바 있다. 당시 계약은 10개의 AI 기반 지상국을 개발하는 내용으로, 규모는 무려 1억7천840만 달러(약 2천378억원)에 달했다. 덕분에 팔란티어는 지난해부터 최근까지 주가가 급상승해 1년새 64.84%나 상승한 상태다. 하지만 우리나라는 아직까지 군에서 생성형 AI 도입에 속도를 내지 못하고 있다. 원 프로가 꼽은 주요 이유로는 ▲제대별 감시센서들의 정보 미통합, 인력에 의존한 정보 분석 ▲충분한 고려 절차 없이 직관적인 타격수단 선정 ▲표적정보 유통 시 지체시간 발생, 적시적인 타격 제한 등 세 가지다. 원 프로는 "우리나라 군은 오직 인력에 의해서만 정보들이 판별돼 결국 레이더로 탐지한 표적이 실제 적군인지, 아군인지 명확하게 분류하기 어렵다는 한계가 있다"며 "이런 정보들을 하나로 융합해 AI가 자동으로 분석할 수 있게 한다면 빠르고 정확한 판단뿐 아니라 인력 감축 효과도 누릴 수 있을 것"이라고 말했다. 이어 "우리 군은 긴박하게 돌아가는 전투 현장에서 충분한 고려 시간 없이 지휘관 및 참모의 직관적인 판단에 의존할 수밖에 없다는 것도 아쉬운 점"이라며 "AI가 자동적으로 분석해 최선의 방책을 추천해 적시적소에 타격을 할 수 있는 방안에 대해 고려해 봐야 할 것"이라고 덧붙였다. 그러면서 "센서와 슈터가 하나로 연결돼 시간을 단축시키고 자동화 표현 처리가 된다면 작전 반응 시간을 좀 더 빠르게 할 수 있을 것"이라며 "해외에선 AI와 머신러닝을 통해 센서와 슈터까지 시간을 기존 20~30분 걸리던 것을 약 20초 이내로 단축시켰다는 것을 (우리 군도 고려해) 봐야 한다"고 제언했다. 이에 원 프로는 우리나라가 한국형 타이탄 체계를 구축하기 위해 실시간으로 전장을 가시화 할 수 있는 시스템이 구현돼야 한다고 주장했다. 또 AI가 분석해 타겟 우선순위를 선정, 자동적으로 최적의 타격 수단을 추천해주는 이른바 '지능화 결심 지원 체계'도 필요하다고 설명했다. 여기에 센서와 슈터까지의 시간을 단축하기 위해 실시간으로 '자동화 필력 처리'도 필요하다고 제안했다. 원 프로는 "소규모 전술제대가 상급 부대에 의존하지 않고 자체적으로 판단하고 작전할 수 있는 시스템이 구현돼야 할 것 같다"며 "우리 군은 아직 엣지 클라우드, 5G 통신 등 적절한 환경이 갖춰지지 않은 상황"이라고 설명했다. 이어 "삼성SDS는 5G 특화망에 대해 기술력을 이미 입증했다"며 "앞으로 검증되고 인증받은 자체 보유 기술을 통해 전술 부대에 아주 적합한 '한국형 타이탄 체계'를 만들어 나갈 것"이라고 덧붙였다.

2025.02.20 14:44장유미 기자

앤드류 응 "구글 AI 무기 금지서약 철회, 매우 기쁘다"

구글이 인공지능(AI) 무기 개발 금지 서약을 철회해 논란이 커지는 가운데 앤드류 응 스탠포드 대학교 컴퓨터과학과 교수가 이를 강하게 지지하고 나섰다. 9일 테크크런치 등 외신에 따르면 구글 브레인 창립자이자 전 리더인 응 교수는 최근 샌프란시스코에서 열린 군사 스타트업 컨퍼런스에서 "구글이 AI 무기 개발 금지 원칙을 철회한 것이 기쁘다"고 말했다. 응 교수의 발언은 구글이 최근 AI 원칙 페이지에서 'AI를 무기 또는 감시 기술로 활용하지 않겠다'는 조항을 삭제한 직후 나왔다. 구글은 지난 2018년 '프로젝트 메이븐' 계약을 둘러싼 내부 반발로 AI 무기 개발 금지를 선언한 바 있다. 이 프로젝트는 미국 국방부가 영상 분석 AI를 활용해 드론 타격의 정확도를 높이려던 프로그램이었으나 수천 명의 구글 직원들이 이에 반대하며 계약 철회를 요구해 결국 구글은 프로젝트를 연장하지 않겠다고 발표했다. 구글 내부에서는 AI 군사 활용을 둘러싼 입장이 계속 엇갈려왔다. 지난 2018년 프로젝트 메이븐 반대 시위를 주도했던 메러디스 휘태커 시그널 대표는 "구글은 전쟁을 돕는 비즈니스에 관여해서는 안 된다"고 반발했다. 노벨상 수상자인 제프리 힌턴 전 구글 연구원도 "AI 무기 개발 금지를 금지해야 한다"고 촉구한 바 있다. 응 교수는 이러한 반발을 이해할 수 없다는 입장이다. 그는 "미국 군인들이 국가를 위해 싸우고 있는데 어떻게 미국 기업이 자국 군을 돕기를 거부할 수 있느냐"고 지적했다. 이 가운데 구글과 아마존은 이스라엘 정부와의 '프로젝트 님버스' 계약으로 다시 논란의 중심에 섰다. 직원들은 이 계약이 이스라엘 방위군의 군사 작전에 활용될 수 있다며 반발한 상태로, 일부는 사내 시위를 벌이기도 한 것으로 전해졌다. 미국 국방부는 AI 기술 도입을 더욱 확대할 방침이다. 미 국방부 최고 AI 책임자는 "AI 기반 군사 기술이 미래 전장에서 결정적인 역할을 할 것"이라며 "기술 기업들과 협력을 강화할 것"이라고 밝혔다.

2025.02.09 08:44조이환 기자

"中에 정보 털릴까 겁난다"…정부도, 기업도 딥시크 접속 잇따라 차단

중국 인공지능(AI) 스타트업 딥시크의 보안 문제가 제기되면서 국방, 외교, 통상 분야 정부 부처들이 딥시크 접속을 차단했다. 이와 함께 카카오도 사내에서 딥시크 활용을 전면 금지하며 오픈AI와의 협력 영향이 작용한 것 아니냐는 해석이 나오고 있다. 5일 업계에 따르면 국방부, 외교부, 산업통상자원부는 내부 보안상의 판단에 따라 인터넷이 연결된 컴퓨터에서 딥시크 접속을 제한했다. 이는 정부 차원에서 보안 우려를 반영한 조치로 보인다. 이보다 앞서 행정안전부는 지난 3일 중앙부처와 17개 광역 지방자치단체에 딥시크와 챗GPT 같은 생성형 AI 사용에 주의하라는 공문을 발송했다. 해당 공문에서는 생성형 AI에 개인정보를 입력하지 말고 AI가 생성한 결과물을 맹신해서도 안 된다는 점을 강조했다. 업계 관계자들은 이번 조치가 국가정보원의 판단에 따른 것으로 보고 있으며 검증되지 않은 중국산 AI 모델이 국가 안보에 위협을 가할 수 있다는 우려 때문이라고 분석했다. 이와 함께 개인정보보호위원회도 딥시크 본사에 개인정보 수집 항목과 절차 처리 및 보관 방식 등에 대한 확인을 요청하는 질의서를 발송한 것으로 알려졌다. 정부 부처뿐만 아니라 공공기관에서도 딥시크 사용 금지 사례가 늘고 있다. 한국수력원자력(한수원)과 한전KPS 역시 딥시크 사용을 제한하는 조치를 취했다. 다만 이들 기관은 이미 생성형 AI 전체 사용을 금지하고 있어 이번 조치는 기존 방침을 재확인하는 수준이거나 일부 부서에서만 추가로 시행된 것으로 보인다. 한수원 관계자는 "인터넷과 인트라넷을 포함한 전체 업무 환경에서 딥시크 사용을 제한하고 있다"면서도 "다만 지난 1일 전 직원에게 보낸 공문은 이미 지난해부터 시행해온 생성형 AI 금지 조치를 딥시크 등장으로 다시 환기시킨 것"이라고 설명했다. 한전KPS 관계자 역시 "고객사들이 보안을 중요하게 여기는 경우가 많아 원자력 사업부에서 딥시크 사용을 자제하라는 공문을 발송했다"며 "행정안전부의 공문과 유사한 수준의 내용"이라고 전했다. IT 업계에서도 비슷한 흐름이 감지되고 있다. 카카오는 5일 사내 AI 활용 정책을 개정해 보안과 윤리적 측면에서 충분한 검증이 이루어지지 않은 AI에 대한 우려를 반영해 사내 업무용으로 딥시크 사용을 금지한다고 공지했다. 딥시크가 이용자의 기기 정보, IP, 키보드 입력 패턴 등을 수집해 중국 내 서버에 저장한다는 의혹이 제기된 데 따른 조치다. 다만 업계에서는 카카오의 결정이 오픈AI와의 협력 발표 직후 나왔다는 점에 주목하며 여러 해석을 내놓고 있다. 특히 정신아 카카오 대표와 샘 알트먼 오픈AI 대표가 지난 4일 서울 중구 플라자 호텔에서 5천만 카카오 플랫폼 이용자를 대상으로 '챗GPT' 애플리케이션 프로그램 인터페이스(API)를 제공하는 협력을 발표한 직후였다는 점에서 오픈AI의 영향을 고려한 조치일 가능성이 제기된다. 실제로 딥시크가 지난달 20일 공개한 'R1' 모델은 오픈AI의 최신 추론 모델인 'o1'과 유사한 성능을 보이면서도 전면 오픈소스로 무료 제공돼 오픈AI에도 부담을 줬다는 분석이 나온다. 이에 대응하듯 오픈AI는 'R1' 발표 직후 'o3 미니모델'을 공개했으며 이는 'R1'과 유사한 성능을 갖추면서도 무료로 제공됐다. 또 기존 'o1' 모델에서는 비공개였던 AI의 사고 과정도 'R1'과 같이 투명하게 공개했다. 이러한 흐름 속에서 업계 일각에서는 카카오가 오픈AI의 영향을 받아 딥시크 사용을 차단했거나 최소한 이를 염두에 둔 결정이었을 가능성을 제기하고 있다. 이 같은 상황 속에 딥시크는 보안 문제가 제기되며 우리나라뿐 아니라 해외 여러 나라에서도 사용을 자제하고 나섰다. 100만 건 이상의 보안 문제 사례에 대한 의혹과 함께 AI 모델이 이용자 정보를 과도하게 수집한다는 지적이 이어지면서 정보 유출 우려가 커진 상황이다. 이에 이탈리아와 호주 정부는 일찌감치정부 사용 시스템과 기기에서 딥시크 사용을 금지하기도 했다. 업계 관계자는 "딥시크 같은 중국산 AI는 보안과 지정학적 리스크를 안고 있는 것이 사실"이라며 "이 때문에 '챗GPT' 서비스와 API가 국내에서 상대적으로 더 선호될 가능성이 크다"고 전망했다.

2025.02.05 22:36조이환 기자

"국가 안보 고려"…구글, AI 원칙서 '무기 개발 금지' 문구 삭제

구글이 인공지능(AI)을 무기 개발과 감시에 활용하지 않겠다는 서약을 자사 웹사이트에서 삭제해 AI의 군사적 이용 가능성을 둘러싼 논란이 불거지고 있다. 5일 테크크런치 등 외신에 따르면 구글은 최근 AI 원칙 페이지를 개정하면서 '추구하지 않을 기술(applications we will not pursue)' 목록을 삭제했다. 이 목록에는 AI의 무기화 및 감시 기술 개발을 하지 않겠다는 내용이 포함돼 있었으나 현재는 찾아볼 수 없다. 구글은 이번 변경에 대한 공식 입장을 내놓지 않았다. 다만 내부 블로그를 통해 "국가 안보를 지원하는 AI를 만들기 위해 같은 가치를 공유하는 기업, 정부, 조직들이 협력해야 한다고 믿는다"며 "책임 있는 AI 개발을 위해 국제법과 인권 원칙을 준수할 것"이라고 밝혔다. 최근 구글은 미군 및 이스라엘 군과의 클라우드 서비스 계약을 체결하면서 내부 직원들의 반발을 산 바 있다. 지난 2018년에도 미 국방부 프로젝트 '메이븐(Maven)' 참여로 인해 내부 논란이 발생해 이후 AI 무기 개발을 하지 않겠다고 선언했다. 테크크런치는 "구글은 지속적으로 자사 AI가 인간을 해치는데 사용되지 않는다고 주장해 왔다"면서도 "다만 미군 AI 책임자가 최근 일부 기업의 AI 모델이 '킬 체인'을 가속화하고 있다고 밝힌 바 있다"고 설명했다.

2025.02.05 10:08조이환 기자