검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'국방 AI'통합검색 결과 입니다. (44건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

AI 조종사가 F-16 몬다…퀀텀에어로, KAI에 최첨단 무인 기술 공급

퀀텀에어로가 한국항공우주산업(KAI)과 손잡고 인공지능(AI) 파일럿 기술 개발을 가속화한다. 미국 방산 AI 선두 기업 쉴드AI와의 전략적 협력을 기반으로, 차세대 국군 무인 전투체계의 혁신을 이끌 수 있게 됐다. 퀀텀에어로는 KAI에 AI 파일럿 개발 프로그램 '하이브마인드 엔터프라이즈(HME)'를 공급하는 계약을 체결했다고 20일 밝혔다. HME는 쉴드AI가 개발한 AI 파일럿 소프트웨어 개발 키트(SDK)다. 이 기술은 조종사의 개입 없이도 전투기가 자율적으로 임무를 수행할 수 있도록 설계됐다. AI 파일럿 기술은 이미 미군의 다양한 무인 항공기에 적용돼 성능을 검증받은 바 있다. MQ-20, X-62, MQ-35A, MQM-178 등 여러 기종에서 실제 운용되며 자율 비행 역량을 입증했다. AI 기반 무인 전투기 개발이 세계적으로 활발해지는 가운데 국군 역시 독자적인 전투 AI 기술 확보에 속도를 내고 있다. 퀀텀에어로는 이번 계약을 통해 국내 방산 AI 시장에서의 입지를 더욱 공고히 할 계획이다. 이 회사는 지난해 6월 대한민국 해군과 협력해 독도함에서 쉴드AI의 수직이착륙 무인기(V-BAT) 전투 실험을 성공적으로 수행하며 기술력을 인정받았다. 또 현대로템, 한화에어로스페이스, 대한항공, 한화시스템, 페리지에어로스페이스 등 국내 주요 방산 대기업들과 비밀유지협약(NDA)를 체결하고 협력을 확대하고 있다. AI 기반 전투체계는 미래 전장 환경을 변화시킬 핵심 기술로 평가받는다. AI 파일럿은 전장 상황을 스스로 분석하고 최적의 전술을 결정해 조종사의 개입 없이도 임무를 수행할 수 있다. 유·무인 복합 작전과 차세대 공중전에서 필수 기술로 자리 잡을 전망이다. 퀀텀에어로는 글로벌 방산 AI 시장에서의 경쟁력 확보에도 주력하고 있다. 현재 쉴드AI의 한국 독점 기술 파트너로 활동하며 해외 최첨단 AI 기술을 국산화해 국내 방산 기업과 군에 공급하는 역할을 맡고 있다. 최근에는 37억원 규모의 투자를 유치하며 설립 1년 만에 총 누적 투자금 47억원을 기록하는 등 성장세를 보이고 있다. 쉴드AI는 미국의 대표적인 방산 AI 기업으로, 팔란티어 등 글로벌 방산 기업과 협력하며 AI 자율비행 기술을 개발하고 있다. 지난 2023년 미국 국방고등연구계획국(DARPA)의 AI 공중전 프로젝트에서 AI 파일럿이 인간 조종사를 뛰어넘는 성과를 기록한 바 있다. 또 우크라이나 전장에서 AI 무인기를 활용해 러시아의 재밍과 방공망을 무력화하는 성과를 거뒀다. 회사는 최근 기업 가치가 7조7천억원으로 평가되며 글로벌 방산 AI 시장에서 입지를 강화하고 있다. 한화자산운용도 소액 투자자로 참여하는 등 국내 방산 기업들과의 연계 가능성이 커지고 있다. 전동근 퀀텀에어로 이사회 의장은 "세계 최첨단 AI 기술을 도입해 국군의 전력 발전에 빠르고 효과적으로 기여할 것"이라며 "이번 KAI와의 협력을 발판 삼아 AI 전투기 개발에 핵심 역할을 수행할 것"이라고 밝혔다.

2025.03.20 17:48조이환

"10년 뒤 인류 멸망할 수 있다"…국내 1세대 AI 연구자, 섬뜩한 발언한 이유는

"미국 트럼프 행정부가 들어서면서 인공지능(AI) 안전보다 발전에 더 주안점을 두기 시작했다는 점이 우려됩니다. 이렇게 되면 10년 뒤에 인류는 멸망할 수 있습니다." 한상기 테크프론티어 대표는 최근 서울 강남구 모두의연구소 강남캠퍼스에서 진행된 '국방 인공지능 혁신 네트워크' 행사에 연사로 참석해 이처럼 강조했다. 한 대표는 서울대 컴퓨터공학과를 졸업하고 카이스트에서 전산학 석·박사를 마친 국내 1세대 AI 연구자다. 이날 'AI 안전 : 주요 토픽과 해결할 문제들'이란 주제로 발표에 나선 한 대표는 최근 범용인공지능(AGI)의 능력이 향상되면서 추가적인 리스크들이 점진적으로 나타나는 것에 대해 우려를 표했다. 20일 업계에 따르면 AI는 고도화 수준에 따라 '제한적 인공지능(ANI)', 'AGI', 'ASI'로 구분한다. 이 중 AGI는 ANI인 오픈AI '챗GPT'나 구글 '제미나이'와 달리 사전 학습된 데이터와 알고리즘에 의존하지 않고도 새로운 문제를 분석하고 해결책을 제시할 수 있는 AI다. 인간 수준의 일반 지능을 갖추고 논리력과 창의적 추론 능력을 보유한 AI로 설명된다. 추론 능력이 향상된 오픈AI의 최신 모델 'o1', 'o3' 등은 ANI에서 AGI로 이행하는 단계에 있다는 평가를 받는다. 그 다음 단계인 ASI는 인간을 뛰어넘는 지적 능력을 갖춘 AI를 의미한다. 스스로 목표를 설정하고 개선하는 능력이 탁월해 인간이 상상할 수 없는 수준의 복잡한 문제를 창의적으로 해결할 수 있다. AI 간의 자발적 소통이 가능해 인류가 전유물로 여겨온 '집단 지성'도 구현할 수 있다. 한 대표는 "데미스 하사비스 구글 딥마인드 최고경영자(CEO)는 5년, 다리오 아모데이 앤트로픽 CEO는 2~3년 안에 AGI 시대가 올 것이라고 얘기하고 있다"며 "적어도 10년 안에 온다고 보면 이에 대한 (안전성과 관련해) 대비를 해 나갈 필요가 있다"고 강조했다. 또 한 대표는 AI를 '핵무기' 수준으로 봐야 한다고 강조하며 AI 발전과 함께 안전성도 같이 고려해 나가야 한다고 주장했다. 그는 "최근 앤트로픽 클로드 3.7이나 오픈AI o3 같은 모델들이 출시되면서 인터넷에 존재하지 않는 정보를 추론 능력으로 답변을 만들어지는 사례들이 늘어나고 있다"며 "생화학 무기, 핵무기 등에 이 같은 AI가 사용되기 시작할 경우 안전성이 확보되지 않으면 큰 문제가 될 것"이라고 지적했다. 그러면서 "이제는 AI 모델뿐 아니라 시스템, 애플리케이션까지 확대해 AI와 관련된 범죄 가능성에 대해 고민해봐야 할 시점"이라며 "영국 등에선 이미 안전성뿐 아니라 국가안보적인 관점에서 AI를 들여다 보기 시작했다는 점에서 우리나라도 함께 고민해 봐야 할 것"이라고 덧붙였다. 이날 '딥시크를 포함한 추론형 AI에 대한 이해'를 주제로 강연에 나선 이진원 하이퍼엑셀 CTO는 AI가 점차 발전하면서 인간이 통제할 수 있는 영역을 점차 벗어나고 있다는 점을 주목했다. 또 앞으로는 AI가 AI를 컨트롤하는 방향으로 기술 발전을 해 나가야 하지만 데이터가 AI 발전 속도를 따라가지 못하고 있다는 점에서 우려를 표했다. 더불어 이 CTO는 오픈AI가 생각하는 AI 5단계를 소개하며 현재 AI가 ANI에서 AGI로 넘어가는 과정에서 데이터 학습량을 더 늘리기 위해 엔비디아가 그래픽처리장치(GPU)를 더 크게 만들 필요가 있다는 점도 강조했다. 이 CTO는 "딥시크처럼 저렴한 모델들이 나오면서 앞으로 AI가 실제 산업에 더 다양하게 활용될 것으로 보인다"며 "GPU 수요는 앞으로 더 폭발적으로 늘어날 것으로 보인다"고 관측했다. 이어 "딥시크 같은 기업들이 속속 나오고 있지만 오픈AI, 구글 등 빅테크의 AI 기술력을 따라가기에는 쉽지 않을 것"이라며 "다만 우리나라가 AI 경쟁력을 키우기 위해선 중국 딥시크 같은 모델을 벤치마킹해야 한다"고 주장했다. 이날 행사에선 국방기술진흥연구소 박삼준 AI PD와 김일환 삼성SDS 그룹장, 최민석 ETRI AI 안전연구소 박사 등이 참여한 패널 토의도 '국방분야 생성형 AI 도입 및 활용 방향'을 주제로 진행됐다. 각 패널들은 AI의 통제력 상실을 막지 않으면 국방분야에 생성형 AI를 도입하는 것이 쉽지 않을 것으로 봤다. 최 박사는 "무기 체계가 알고리즘으로 움직여지는 상황에서 사람 통제를 벗어나 (AI를 통해) 자의적으로 움직여질 경우 상대뿐 아니라 우리에게도 그 피해가 발생할 것이란 점이 우려된다"며 "이를 막기 위해 여러 단계의 안전장치를 고려해야 하지 않을까 싶다"고 강조했다. 김 그룹장은 우리나라가 국방 분야에서 AI를 활용하기 위해선 양질의 데이터를 안전하게 확보하는 동시에 클라우드로 전환하는 것이 가장 중요하다고 주장했다. 또 미군이 팔란티어와 손잡고 국방 전 분야를 클라우드로 전환해 활용하는 사례를 들어 우리나라도 클라우드로 점차 전환해 나갈 필요가 있다고 지적했다. 현재 미군은 팔란티어의 SaaS(클라우드 기반 서비스형 SW)를 구독해 매일 시스템을 업데이트 하고 활용하고 있다. 김 그룹장은 "우리 군 역시 JADC2(합동 전 영역 동시통합지휘통제) 등을 추진하며 국방 AI에 대한 구체적인 계획을 가지고 있는 것으로 안다"며 "이를 실행하기 위해선 예산 확보가 필수적으로, 이 문제만 해결되면 우리나라군도 굉장히 빠르게 (미군 수준으로) 따라갈 수 있을 것이라고 생각한다"고 말했다.

2025.03.20 17:13장유미

투자자 오인한 美 쉴드 AI, 시장 혼란 부추겨

미국 방산 인공지능(AI) 스타트업 쉴드 AI가 지분 투자 주체에 착오를 일으켜 시장 혼란을 부추기고 있다. 한화에어로스페이스가 투자자로 지목되며 최근 주가가 급등하는 모습을 보였으나, 쉴드AI가 투자 주체를 정정하게 되면서 향후 주가에 영향을 줄 지 주목된다. 쉴드 AI는 지난 6일 발표한 2억4천만 달러(약 3천480억원) 규모의 F-1 라운드 투자에 참여한 곳이 한화에어로스페이스가 아닌 '한화자산운용'이라고 13일 밝혔다. 이번 투자는 미국 방위산업체 L3해리스(L3Harris)가 주도한 것으로, 미국 벤처 캐피털 앤드리슨호로위츠, 미국혁신기술펀드(USIT) 등도 투자에 동참했다. 다만 각 기업의 정확한 투자규모는 알려지지 않았다. 해당 투자로 AI쉴드는 53억 달러(약 7조7천억원)의 기업 가치를 인정 받았다. 쉴드 AI는 "기존 발표에서 투자 기관을 한화에어로스페이스를 명시했으나, 실제 투자에 참여한 기관은 한화자산운용"이라며 "이번 투자는 자사 AI 기반 자율성 개발 플랫폼인 '하이브마인드 엔터프라이즈(Hivemind Enterprise, HME)'의 사업 확장과 기술 고도화를 지원하기 위한 것"이라고 설명했다. 하지만 한화에어로스페이스로 투자자가 알려진 후 주가는 고공행진을 이어갔다. 쉴드 AI가 투자 소식을 알린 직후 지난 7일 한화에어로스페이스의 주가는 전일 대비 7.08% 상승하며 72만6천원에 거래됐다. 이후 최고가인 74만5천원까지 치솟았다가 쉴드 AI가 투자자 오인 정보를 알린 이날 오후 3시 4분 현재 주가는 전일 대비 6.02% 상승한 70만5천원에 거래되고 있다. 이날 오전 70만6천원에서 소폭 낮아진 상태다. 업계에선 이번 일을 두고 쉴드 AI의 잘못도 있지만, 투자자로 지목된 한화에어로스페이스의 대응이 미흡했다고 질타하고 있다. 잘못된 정보들이 많은 언론들을 통해 쏟아졌음에도 불구하고 사실 관계를 바로 잡기 위해 적극 나서지 않아 이 소식으로 인해 상승한 주가를 방관했다는 점에서다. 쉴드 AI는 "착오로 인해 잘못된 정보가 발표된 점에 대해 사과드린다"며 "정확한 내용을 안내할 수 있게 돼 다행"이라고 밝혔다.

2025.03.13 15:27장유미

[현장] 대세된 AI 안보…'국방 AI' 발전 위해 韓 상용 SW 기업 뭉쳤다

"우리 군은 이전까지 기계, 전자 등 하드웨어 파워를 가지고 있었지만 이제는 네트워크, 인공지능(AI) 등 소프트웨어 파워가 미래가 될 것입니다." 임종혁 한국상용소프트웨어(SW)산업협회 국방분과위원회 위원장은 27일 오전 서울 용산구 비앤디파트너스에서 진행된 '상용SW·국방 협력 설명회'에 참석해 이처럼 강조했다. 한국상용SW협회가 마련한 이날 설명회에선 ▲국방분과위 2024년 성과보고 및 2025년 활동계획 발표 ▲2025년 상용 SW·국방 협력 증진 방안 논의 ▲성과 창출을 위한 협력 방안 논의 등이 이뤄졌다. 한국상용SW협회는 2006년 한국GS인증협회 설립 후 2007년 과학기술정보통신부 산하 법인 허가를 받고 2008년 한국SW전문기업협회로 협회명을 변경했다. 2015년 한국상용소프트웨어협회명으로 변경, 국내 소프트웨어(SW) 산업 발전과 활성화를 위해 국내 SW 기반 산업의 대표 협회 역할을 하고 있다. 특히 한국상용SW협회 국방분과위원회는 내부에서 가장 활발히 활동하고 있는 곳으로, 현재 티맥스소프트, 더존비즈온, 소프트캠프, 이노그리드, 비아이매트릭스 등 32개 업체들이 회원사로 활동하고 있다. 올해는 코난테크놀로지와 이데아텍, 알티베이스, 마크애니 등 6개 기업이 새로운 회원사로 가입했다. 최근 우리나라뿐 아니라 각국 정부는 AI 안보 강화에 나서면서 국방 AI 시장에 눈독을 들이고 있다. 시장 규모도 점차 커지고 있는 상황으로, 글로벌 리서치 업체 프로스트앤설리번에 따르면 글로벌 국방 AI 시장은 2022년 약 66억 달러에서 2032년 약 240억 달러로 급성장할 전망이다. 해외에선 팔란티어, 마키나락스, 인텔리빅스 등이 두각을 나타내고 있다. 이에 맞춰 상용SW협회 측은 올해부터 우리 군과 협력을 강화해 다양한 국방 AI 관련 컨설팅을 추진, 내실화를 다지는 데 총력을 기울인다는 방침이다. 또 오는 4월이나 6월 중 기술 교류회와 소프트웨어 데이터 융합 경진대회 등을 개최해 군과 접점을 넓힐 수 있는 기회를 많이 만들어나갈 계획이다. 임 위원장은 "기술 교류회는 상용 SW를 군사적 활용 방안을 논의하고자 시작하게 된 행사"라며 "올해 다양한 기업들이 기술 교류회에 적극 참여해 우리 군이 필요로 하는 관심 분야에서 성과가 나올 수 있도록 적극 협력해 나가길 희망한다"고 강조했다.

2025.02.27 17:02장유미

"우리 경쟁사는 美 팔란티어"…미군도 인정한 삼성SDS, 韓 국방부 문턱도 넘을까

"삼성SDS는 국방 사업 분야에서 경쟁사를 미국 팔란티어라고 생각하고 있습니다. 자체 클라우드 플랫폼인 '삼성 클라우드 플랫폼'으로 국내 클라우드 산업을 선도하고 있는 데다 유일한 5G 기간 통신 사업자이고, 자체 개발한 생성형 인공지능(AI) '패브릭스'를 가지고 있는 만큼 우리 군이 요구하고 있는 니즈를 반영해 우수한 한국형 '타이탄(TITAN)'을 만들 수 있을 것이라고 자신합니다." 원준 삼성SDS 국방 클라우드 기획 프로는 20일 오전 서울 용산구 로카우스 호텔 용산에서 진행된 '삼성SDS 디지털 혁신 데이'에서 '엣지클라우드·5G 기반 한국형 타이탄 구현 방안'을 주제로 이처럼 발표했다. 타이탄은 전술제대 정보융합 타격체계로, 미국 기업인 팔란티어가 지난해 초 미국 육군으로부터 이 프로젝트의 계약을 수주해 눈길을 끈 바 있다. 당시 계약은 10개의 AI 기반 지상국을 개발하는 내용으로, 규모는 무려 1억7천840만 달러(약 2천378억원)에 달했다. 덕분에 팔란티어는 지난해부터 최근까지 주가가 급상승해 1년새 64.84%나 상승한 상태다. 하지만 우리나라는 아직까지 군에서 생성형 AI 도입에 속도를 내지 못하고 있다. 원 프로가 꼽은 주요 이유로는 ▲제대별 감시센서들의 정보 미통합, 인력에 의존한 정보 분석 ▲충분한 고려 절차 없이 직관적인 타격수단 선정 ▲표적정보 유통 시 지체시간 발생, 적시적인 타격 제한 등 세 가지다. 원 프로는 "우리나라 군은 오직 인력에 의해서만 정보들이 판별돼 결국 레이더로 탐지한 표적이 실제 적군인지, 아군인지 명확하게 분류하기 어렵다는 한계가 있다"며 "이런 정보들을 하나로 융합해 AI가 자동으로 분석할 수 있게 한다면 빠르고 정확한 판단뿐 아니라 인력 감축 효과도 누릴 수 있을 것"이라고 말했다. 이어 "우리 군은 긴박하게 돌아가는 전투 현장에서 충분한 고려 시간 없이 지휘관 및 참모의 직관적인 판단에 의존할 수밖에 없다는 것도 아쉬운 점"이라며 "AI가 자동적으로 분석해 최선의 방책을 추천해 적시적소에 타격을 할 수 있는 방안에 대해 고려해 봐야 할 것"이라고 덧붙였다. 그러면서 "센서와 슈터가 하나로 연결돼 시간을 단축시키고 자동화 표현 처리가 된다면 작전 반응 시간을 좀 더 빠르게 할 수 있을 것"이라며 "해외에선 AI와 머신러닝을 통해 센서와 슈터까지 시간을 기존 20~30분 걸리던 것을 약 20초 이내로 단축시켰다는 것을 (우리 군도 고려해) 봐야 한다"고 제언했다. 이에 원 프로는 우리나라가 한국형 타이탄 체계를 구축하기 위해 실시간으로 전장을 가시화 할 수 있는 시스템이 구현돼야 한다고 주장했다. 또 AI가 분석해 타겟 우선순위를 선정, 자동적으로 최적의 타격 수단을 추천해주는 이른바 '지능화 결심 지원 체계'도 필요하다고 설명했다. 여기에 센서와 슈터까지의 시간을 단축하기 위해 실시간으로 '자동화 필력 처리'도 필요하다고 제안했다. 원 프로는 "소규모 전술제대가 상급 부대에 의존하지 않고 자체적으로 판단하고 작전할 수 있는 시스템이 구현돼야 할 것 같다"며 "우리 군은 아직 엣지 클라우드, 5G 통신 등 적절한 환경이 갖춰지지 않은 상황"이라고 설명했다. 이어 "삼성SDS는 5G 특화망에 대해 기술력을 이미 입증했다"며 "앞으로 검증되고 인증받은 자체 보유 기술을 통해 전술 부대에 아주 적합한 '한국형 타이탄 체계'를 만들어 나갈 것"이라고 덧붙였다.

2025.02.20 14:44장유미

"美 국방부, 전투에 SW 도입 가속…韓도 대비해야"

"미국 국방부가 인공지능(AI) 기반 자율 시스템을 전투에 적극 적용하고 있다. 소프트웨어(SW) 중심으로 전투력을 강화하고 있는 것이다. 한국도 이같은 방향으로 전투 체계를 발전시켜야 한다." 류봉균 에피사이 창업자는 19일 모두의연구소 강남캠퍼스에서 열린 '국방 AI 혁신 네트워크'에서 이같이 밝혔다. 에피사이는 무인 항공 시스템과 지상전, 해상 추적, 전투 관리 지휘 등 국가 안보 SW를 개발하는 기업이다. 해당 솔루션은 미국 공군 AI 조종 전투기에 적용됐으며, 해군 정보 전쟁 센터의 임무 자율성 시험장에서도 활용됐다. 이달 초 어플라이드인튜이션이 국가 안보용 자율 SW 강화를 위해 에피사이를 인수했다. 류 창업자는 미국 국방부가 자율SW 기반 전투 체계를 빠르게 확장하고 있다고 밝혔다. 실제 국방부는 전투협력항공기(CCA)와 레플리케이터 프로그램을 통해 AI 기반 전투 시스템을 개발 중이다. 그는 미국의 국방 SW 투자도 전보다 신속히 이뤄진다고 말했다. 그러면서 "그동안 새로운 기술이 필요할 때 정부가 먼저 개발비를 투자하는 방식이 일반적이었다"며 "최근 민간 벤처 캐피털(VC)이 선제적으로 투자해 필요한 기술을 빠르게 개발하는 방식으로 변화했다"고 설명했다. 또 미국 군사용 SW 업데이트 방식이 변화했다고 밝혔다. 기존에는 SW 변경 때마다 수 주 걸렸다면, 현재는 실시간으로 전투 데이터를 분석하고 하루 만에 업데이트하는 방식이 정착되고 있다는 설명이다. 류 창업자는 국내 국방도 SW 중요성을 높여야 한다고 주장했다. 그동안 하드웨어 중심으로 개발이 이뤄졌지만, 이젠 다양한 하드웨어에서 최적화된 SW를 빠르게 개발하는 것이 경쟁력이라는 이유에서다. 류 창업자는 "현재 자율 시스템 기술은 빠른 속도로 발전하고 있으며, 스케일링 없이는 경쟁력을 확보하기 어렵"며 "한국도 속도전에 대비해 SW 중심의 개발 전략을 고민해야 한다"고 밝혔다.

2025.02.19 17:16김미정

앤드류 응 "구글 AI 무기 금지서약 철회, 매우 기쁘다"

구글이 인공지능(AI) 무기 개발 금지 서약을 철회해 논란이 커지는 가운데 앤드류 응 스탠포드 대학교 컴퓨터과학과 교수가 이를 강하게 지지하고 나섰다. 9일 테크크런치 등 외신에 따르면 구글 브레인 창립자이자 전 리더인 응 교수는 최근 샌프란시스코에서 열린 군사 스타트업 컨퍼런스에서 "구글이 AI 무기 개발 금지 원칙을 철회한 것이 기쁘다"고 말했다. 응 교수의 발언은 구글이 최근 AI 원칙 페이지에서 'AI를 무기 또는 감시 기술로 활용하지 않겠다'는 조항을 삭제한 직후 나왔다. 구글은 지난 2018년 '프로젝트 메이븐' 계약을 둘러싼 내부 반발로 AI 무기 개발 금지를 선언한 바 있다. 이 프로젝트는 미국 국방부가 영상 분석 AI를 활용해 드론 타격의 정확도를 높이려던 프로그램이었으나 수천 명의 구글 직원들이 이에 반대하며 계약 철회를 요구해 결국 구글은 프로젝트를 연장하지 않겠다고 발표했다. 구글 내부에서는 AI 군사 활용을 둘러싼 입장이 계속 엇갈려왔다. 지난 2018년 프로젝트 메이븐 반대 시위를 주도했던 메러디스 휘태커 시그널 대표는 "구글은 전쟁을 돕는 비즈니스에 관여해서는 안 된다"고 반발했다. 노벨상 수상자인 제프리 힌턴 전 구글 연구원도 "AI 무기 개발 금지를 금지해야 한다"고 촉구한 바 있다. 응 교수는 이러한 반발을 이해할 수 없다는 입장이다. 그는 "미국 군인들이 국가를 위해 싸우고 있는데 어떻게 미국 기업이 자국 군을 돕기를 거부할 수 있느냐"고 지적했다. 이 가운데 구글과 아마존은 이스라엘 정부와의 '프로젝트 님버스' 계약으로 다시 논란의 중심에 섰다. 직원들은 이 계약이 이스라엘 방위군의 군사 작전에 활용될 수 있다며 반발한 상태로, 일부는 사내 시위를 벌이기도 한 것으로 전해졌다. 미국 국방부는 AI 기술 도입을 더욱 확대할 방침이다. 미 국방부 최고 AI 책임자는 "AI 기반 군사 기술이 미래 전장에서 결정적인 역할을 할 것"이라며 "기술 기업들과 협력을 강화할 것"이라고 밝혔다.

2025.02.09 08:44조이환

"中에 정보 털릴까 겁난다"…정부도, 기업도 딥시크 접속 잇따라 차단

중국 인공지능(AI) 스타트업 딥시크의 보안 문제가 제기되면서 국방, 외교, 통상 분야 정부 부처들이 딥시크 접속을 차단했다. 이와 함께 카카오도 사내에서 딥시크 활용을 전면 금지하며 오픈AI와의 협력 영향이 작용한 것 아니냐는 해석이 나오고 있다. 5일 업계에 따르면 국방부, 외교부, 산업통상자원부는 내부 보안상의 판단에 따라 인터넷이 연결된 컴퓨터에서 딥시크 접속을 제한했다. 이는 정부 차원에서 보안 우려를 반영한 조치로 보인다. 이보다 앞서 행정안전부는 지난 3일 중앙부처와 17개 광역 지방자치단체에 딥시크와 챗GPT 같은 생성형 AI 사용에 주의하라는 공문을 발송했다. 해당 공문에서는 생성형 AI에 개인정보를 입력하지 말고 AI가 생성한 결과물을 맹신해서도 안 된다는 점을 강조했다. 업계 관계자들은 이번 조치가 국가정보원의 판단에 따른 것으로 보고 있으며 검증되지 않은 중국산 AI 모델이 국가 안보에 위협을 가할 수 있다는 우려 때문이라고 분석했다. 이와 함께 개인정보보호위원회도 딥시크 본사에 개인정보 수집 항목과 절차 처리 및 보관 방식 등에 대한 확인을 요청하는 질의서를 발송한 것으로 알려졌다. 정부 부처뿐만 아니라 공공기관에서도 딥시크 사용 금지 사례가 늘고 있다. 한국수력원자력(한수원)과 한전KPS 역시 딥시크 사용을 제한하는 조치를 취했다. 다만 이들 기관은 이미 생성형 AI 전체 사용을 금지하고 있어 이번 조치는 기존 방침을 재확인하는 수준이거나 일부 부서에서만 추가로 시행된 것으로 보인다. 한수원 관계자는 "인터넷과 인트라넷을 포함한 전체 업무 환경에서 딥시크 사용을 제한하고 있다"면서도 "다만 지난 1일 전 직원에게 보낸 공문은 이미 지난해부터 시행해온 생성형 AI 금지 조치를 딥시크 등장으로 다시 환기시킨 것"이라고 설명했다. 한전KPS 관계자 역시 "고객사들이 보안을 중요하게 여기는 경우가 많아 원자력 사업부에서 딥시크 사용을 자제하라는 공문을 발송했다"며 "행정안전부의 공문과 유사한 수준의 내용"이라고 전했다. IT 업계에서도 비슷한 흐름이 감지되고 있다. 카카오는 5일 사내 AI 활용 정책을 개정해 보안과 윤리적 측면에서 충분한 검증이 이루어지지 않은 AI에 대한 우려를 반영해 사내 업무용으로 딥시크 사용을 금지한다고 공지했다. 딥시크가 이용자의 기기 정보, IP, 키보드 입력 패턴 등을 수집해 중국 내 서버에 저장한다는 의혹이 제기된 데 따른 조치다. 다만 업계에서는 카카오의 결정이 오픈AI와의 협력 발표 직후 나왔다는 점에 주목하며 여러 해석을 내놓고 있다. 특히 정신아 카카오 대표와 샘 알트먼 오픈AI 대표가 지난 4일 서울 중구 플라자 호텔에서 5천만 카카오 플랫폼 이용자를 대상으로 '챗GPT' 애플리케이션 프로그램 인터페이스(API)를 제공하는 협력을 발표한 직후였다는 점에서 오픈AI의 영향을 고려한 조치일 가능성이 제기된다. 실제로 딥시크가 지난달 20일 공개한 'R1' 모델은 오픈AI의 최신 추론 모델인 'o1'과 유사한 성능을 보이면서도 전면 오픈소스로 무료 제공돼 오픈AI에도 부담을 줬다는 분석이 나온다. 이에 대응하듯 오픈AI는 'R1' 발표 직후 'o3 미니모델'을 공개했으며 이는 'R1'과 유사한 성능을 갖추면서도 무료로 제공됐다. 또 기존 'o1' 모델에서는 비공개였던 AI의 사고 과정도 'R1'과 같이 투명하게 공개했다. 이러한 흐름 속에서 업계 일각에서는 카카오가 오픈AI의 영향을 받아 딥시크 사용을 차단했거나 최소한 이를 염두에 둔 결정이었을 가능성을 제기하고 있다. 이 같은 상황 속에 딥시크는 보안 문제가 제기되며 우리나라뿐 아니라 해외 여러 나라에서도 사용을 자제하고 나섰다. 100만 건 이상의 보안 문제 사례에 대한 의혹과 함께 AI 모델이 이용자 정보를 과도하게 수집한다는 지적이 이어지면서 정보 유출 우려가 커진 상황이다. 이에 이탈리아와 호주 정부는 일찌감치정부 사용 시스템과 기기에서 딥시크 사용을 금지하기도 했다. 업계 관계자는 "딥시크 같은 중국산 AI는 보안과 지정학적 리스크를 안고 있는 것이 사실"이라며 "이 때문에 '챗GPT' 서비스와 API가 국내에서 상대적으로 더 선호될 가능성이 크다"고 전망했다.

2025.02.05 22:36조이환

"국가 안보 고려"…구글, AI 원칙서 '무기 개발 금지' 문구 삭제

구글이 인공지능(AI)을 무기 개발과 감시에 활용하지 않겠다는 서약을 자사 웹사이트에서 삭제해 AI의 군사적 이용 가능성을 둘러싼 논란이 불거지고 있다. 5일 테크크런치 등 외신에 따르면 구글은 최근 AI 원칙 페이지를 개정하면서 '추구하지 않을 기술(applications we will not pursue)' 목록을 삭제했다. 이 목록에는 AI의 무기화 및 감시 기술 개발을 하지 않겠다는 내용이 포함돼 있었으나 현재는 찾아볼 수 없다. 구글은 이번 변경에 대한 공식 입장을 내놓지 않았다. 다만 내부 블로그를 통해 "국가 안보를 지원하는 AI를 만들기 위해 같은 가치를 공유하는 기업, 정부, 조직들이 협력해야 한다고 믿는다"며 "책임 있는 AI 개발을 위해 국제법과 인권 원칙을 준수할 것"이라고 밝혔다. 최근 구글은 미군 및 이스라엘 군과의 클라우드 서비스 계약을 체결하면서 내부 직원들의 반발을 산 바 있다. 지난 2018년에도 미 국방부 프로젝트 '메이븐(Maven)' 참여로 인해 내부 논란이 발생해 이후 AI 무기 개발을 하지 않겠다고 선언했다. 테크크런치는 "구글은 지속적으로 자사 AI가 인간을 해치는데 사용되지 않는다고 주장해 왔다"면서도 "다만 미군 AI 책임자가 최근 일부 기업의 AI 모델이 '킬 체인'을 가속화하고 있다고 밝힌 바 있다"고 설명했다.

2025.02.05 10:08조이환

"軍, ROC 적용 너무 경직···신기술 도입 등 막아"

"국방 분야에서 ROC(Required Operational Capability)를 유연히 적용해야 합니다. 그렇지 않으면 불필요한 에너지 낭비가 너무 많고 국방 분야에서 AI같은 신기술 적용도 어렵습니다."(최경석 한화에어로스페이스 팀장, 하태준 현대로템 팀장) "미국 국방부 산하 국방고등연구계획국(DARPA)은 차세대 HMI(human-machine interface)의 핵심을 기계가 사람을 이해하는 것으로 보고 있습니다."(김래현 한국과학기술연구원(KIST) 국가기술전략센터장) "비전언어모델(VLM, Vision Language Model)은 쉬운 기술이 아닙니다. AI가 영상도 재현하고 이미지도 재현하니 뭔가 다 이해하고 있다고 생각하고 있는데 이는 착각입니다. 3분짜리 비디오를 AI에게 주고 질문을 해보세요 이해한 것이 맞는지 의심스러울 정도로 오답을 내는 경우가 빈번합니다."(최종현 서울대 전기·정보공학부 부교수) 한국국방연구원(KIDA) 군사발전연구센터와 과실연 AI미래포럼이 공동 주최해 8일 오후 서울 강남역 인근 모두의 연구소에서 열린 '2025년 1회 국방AI 혁신네트워크' 행사에서 신기술을 국방 분야에 도입 및 촉진하기 위한 여러 의견들이 제안됐다. 특히 AI기술을 로봇과 드론 같은 하드웨어에 적용하는 '임바디드AI(Embodied AI)'를 중점 다뤘다. 이날 행사는 한국IT서비스학회와 모두의 연구소, 지디넷코리아, 한국경제신문이 후원했다. 발제는 마음AI 이규민 이사와 코난테크놀로지 안민호 이사가 했다. 발제 후 산학연군 전문가들이 패널 토론을 했다. 이규민 이사는 자사가 보유한 3개 파운데이션 모델(MAAL-말, SUDA-수다, WoRV-워브)을 소개하고 국방 부문의 AI도입 현황과 예시를 소개했다. OECD의 2023년 전망을 인용해 AI가 대체할 일자리가 27%에 달한다고 말한 이 이사는 임바디드AI에 대해 "인공지능 시스템이 물리적인 실체를 가지고 실제 환경과 상호작용하고 인간의 육체적인 노동을 대체하는 패러다임"이라고 설명했다. 또 임바디드AI가 점점 더 인간과 가까워지고 있다면서 단순한 반복 업무는 물론 자율적이고 정교한 업무를 수행함은 물론 정서적 교감이나 창의 업무도 가능하다고 덧붙였다. 특히 이 이사는 MAAL(말), SUDA(수다), WoRW(워브)를 마음AI의 "3개 심장"이라고 언급하며 여러 서비스에 이미 구현했다고 강조했다. AI가 잘못된 데이터를 바탕으로 판단을 하거나 예기치 않은 상황에서 오작동을 하는 문제 등은 우리가 해결해야 할 과제라고 짚었다. 안민호 코난테크놀로지 이사는 임바디드AI에 대해 "보고 이야기하고 듣고 행동하고 사고할 수 있어야 한다"고 짚었다. 이어 무턱대고 장비에 탑재해 쓸 수 없으니 임바디드AI의 필수 구성요소가시뮬레이터라고 강조했다. 코난은 2023년 8월 자체 개발한 자사 초거대언어모델(LLM) '코난 LLM(Konan LLM)'을 출시한 바 있다. 이를 기반으로 국방 등 여러 분야에서 AI사업을 하고 있다. 안 이사는 DARPA가 시행한 AI와 사람조종사간 모의전투인 '알파독 파이팅'을 거론하며 "미 공군이 제일 가장 관심있어 하는 건 무인전투기도입계획인 CCA"라고 설명했다. 이어 F35 전투기 경우 개발에 1억달러가 들어가지만 무인기는 F35처럼 모든 걸 다 갖출 필요가 없어 개발비가 훨씬 적게 들어간다고 덧붙였다. 두 사람 발제에 이의 패널토의도 열렸다. 패널로는 남승현 육군 군사혁신과장, 최경석 한화에어로스페이스 팀장, 하태준 현대로템 팀장, 최종현 서울대 교수, 김래현 한국과학기술연구원 국가기술전략센터장이 참여했다. 남승현 과장은 "미국을 방문해 팔란티어 같은 기업을 보고 우리는 왜 이런 기업이 없냐고 생각했는데 오늘 발표를 들으니 다소나마 안심이 된다"면서 "기술이 급변하고 있는데 국방 조직상 이런 신기술을 빨리 받아들이는데 한계가 있으니 산학연 협력으로 이 부분을 극복했으면 좋겠다"고 말했다. 최경석 팀장은 한화에어로스페이스가 무인수색차량 사업 등을 하고 있다면서 "우리가 개발중인 무기체계에 AI를 적용하는 것은 아직 만족할 만한 정도가 아니다"고 말했다. 아직 룰 베이스 기반이라는 것이다. 이어 "우리 연구소 역량은 충분한데 국방에 신기술 도입이 더딘 것은 가격 때문이라고 생각하며, 군의 경직 문화도 한 몫하고 있다"면서 군이 요구하는 ROC(Required Operational Capability)가 보다 유연해져야 한다고 강조했다. ROC는 작전운용성능으로 번역된다. 군사 전략 목표를 달성하기 위해 필요한 무기체계의 성능 수준과 능력을 정의한 것이다. 무기체계 획득 과정에서 해당 무기의 필요성, 운용 개념, 전력화 시기 및 소요량 등을 명시한 전력소요 제기서에 포함되며, 무기 개발 및 획득의 기준이 된다. 또 최 팀장은 방산비리라는 단어를 언급하며 "이 게 주홍글씨처럼 억누르고 있는 느낌이다. 이 단어의 부정성 때문에 국방분야가 도전적이고 혁신적인 걸 하지 못하고 있는 것 같아 안타까움이 있다"고 덧붙였다. 최 팀장에 이어 발언을 한 하태준 팀장도 "군의 ROC가 유연성이 없어 굉장히 힘들다"면서 "이때문에 애초 개발하려고 한 게 자동차인데 포클레인으로 가는 경우도 있다"며 아쉬워했다. 경직된 ROC 때문에 낭비되는 에너지가 너무 많고, 무엇보다 하루가 다르게 나오는 신기술 적용이 힘들다는 것이다. 하 팀장은 "신기술로 무장한 새로운 유니콘들이 계속 나오고 있는데 보수적인 국방 분야와 협업했으면 좋겠다"고 제안했다. 김래현 센터장은 사람과 기계간 협업을 연구하고 있다면서 "매우 필요한 분야"라고 밝혔다. 이어 AI가 강화학습을 할때, 변화한 환경에는 강화학습이 잘 안되는데, 이럴때 사람과 AI가 어떻게 협업할 지를 연구하고 있다고 말했다. 사람과 AI가 잘하는게 각각 다르다면서 "사람은 한번도 안 가본 곳도 쉽게 파악하는 능력이 뛰어나다. 또 윤리 의식과 메타인지의 자기 성찰도 있다. 사람과 AI간 시너지로 최적의 결과를 내는 연구를 수행하고 있다"고 들려줬다. 이어 지난 2000년부터 로봇과 컴퓨터 비전 연구를 해 온 최종현 교수는 "나는 로봇공학자는 아니다"고 전제하며 LLM과 VLM의 차이와 함께 VLM의 상용화가 쉽지 않다고 진단했다. 일부 데이터셋은 정확도가 90% 나오는 경우가 있지만 많은 데이터셋의 정확도가 50% 정도에 불과하다는 것이다. 또 모델을 작게 하는 것에 대해서도 "역시 어려운 분야"라며 "노력을 하고 있는 중이다. 노력을 하고 있다는 건 아직까지 안되고 있다는 것"이라고 짚었다.

2025.01.08 23:47방은주

상상 속 AI, 현실로 '성큼'…코엑스서 韓 AI 미래 체험 'OK'

인공지능(AI) 기술을 직접 체험하고 현재와 미래를 조망할 수 있는 자리가 국내서 마련된다. 에코마이스는 오는 27일부터 29일까지 서울 삼성동 코엑스 D홀에서 '아이러브AI : KME2024' 행사를 개최한다고 25일 밝혔다. 이번 행사는 AI 기술을 학습하고 실질적으로 활용할 수 있도록 돕는 체험형 교육 'AI 상상 클래스'와 AI 기술과 다양한 산업분야의 접목 사례를 선보이며 AI의 실질적 활용 가능성을 탐구하는 기회의 장으로 꾸며질 예정이다. 'AI는 두려움의 대상이 아니라 누구나 쉽게 활용할 수 있는 도구'라는 주제로 진행되는 이번 행사는 첨단 AI 기술이 우리의 상상을 현실로 바꿀 수 있음을 직접 체험할 수 있는 기회를 제공한다. 특히 AI 기술 체험관인 'AI 상상 클래스'는 누구나 쉽게 상상력을 구현할 수 있도록 기획돼 주목된다. 이곳에선 드래프트 마우스(MOUSE, Text Generation), 지니젠(Ginigen, Image Generation), 지니젠 트레이닝, 지니젠 사운드 등 다양한 기술을 경험해 볼 수 있다. 이 중 지니젠 사운드는 10초 음성 입력으로 다양한 음향 및 음성 복제 생성, 다국어 및 다양한 사운드 제작이 가능하다는 점에서 관람객들의 호응을 이끌 것으로 예상된다. 또 이 자리에선 오픈-소라(Video Generation) 기능도 체험해 볼 수 있다. 이 기능은 텍스트, 이미지 또는 비디오 입력으로 고품질 영상을 제작할 수 있는 것으로, 2분 30초 내 6초 분량의 고화질 영상 생성이 가능한 것이 특징이다. 오픈-자비스(Realtime Human Avatar)도 이곳에서 경험해 볼 수 있는 눈에 띄는 기술이다. 이는 실시간 AI 휴먼 아바타로 쇼핑, 결제, 스케줄 관리 등 다양한 자동화 기능을 지원하는 것으로, 거대언어모델(LLM) 및 검색증강생성(RAG) 기술을 활용한 지능형 대화가 가능하다. '아이러브AI' 행사에선 컨퍼런스를 통해 AI 프론티어, 의료 AI, 로봇 AI, 국방 AI, 문화콘텐츠 AI, K콘텐츠 포럼 등 다양한 산업별로 AI를 활용하는 방안도 모색한다. 에코마이스는 "AI가 비즈니스 성과의 핵심 원동력으로 자리잡으며 산업전반에 큰 영향을 미치고 있고 기업들은 AI를 도입해 다양한 부서와 기능에서 효율성과 성과를 높이고 있다"며 "이 과정에서 새로운 활용 사례와 가능성을 참가자들은 자신의 관심분야에 깊이 몰입해 AI 활용방안을 탐구할 기회를 갖게 될 것"이라고 말했다. 또 이번 체험 클래스 행사에는 전국 교육청의 장학사와 교사, 학생들도 대거 참여할 예정이다. 이들은 창의적이고 스마트한 학습 환경, 더 나은 교육경험과 학습효과 창출 등 AI의 교육적 활용방안을 모색한다. 홍회진 에코마이스 대표는 "AI 기술이 산업, 교육 등 다양한 분야에 긍정적인 영향을 미치는 과정을 직접 경험할 수 있는 장을 마련했다"며 "내년부터는 포용성, 교육과 학습, 신뢰, 혁신, 협력이라는 5가지 AI 세계관을 중심으로 전국적인 캠페인을 전개할 계획"이라고 밝혔다.

2024.11.25 16:09장유미

"AI 사업 포문 활짝"…한싹, 국방 특화 소요 예측 모델 개발 착수

한싹이 인공지능(AI) 기술을 활용한 국책 군사 사업에 참여함으로써 성장 가능성과 기술 역량을 입증했다. 한싹은 국방부 '군수지원 소요산정 AI 모델 개발' 사업에 착수했다고 23일 밝혔다. 이번 사업은 국방부가 군수지원 체계 혁신을 위해 AI를 도입하는 연구 모델 프로젝트로, 군수지원 문제 해결과 군수 물자 공급 업무의 효율성 향상이 목표다. 한싹은 데이터 분석 및 AI 전문기업 스마트뱅크와 협력해 'AI 기반 군수지원 소요 예측 모델'을 공동 개발하고 작전 현장에 필요한 물자를 실시간으로 지원하는 체계를 구축할 예정이다. 한싹 AI융합연구센터는 그동안 축적한 AI 기술을 바탕으로 군수 데이터 수집, 학습용 데이터 세트 구축, 예측 모델 개발, 데이터 시각화, 실시간 데이터 공유 기능이 통합된 AI 모델을 구현할 계획이다. 이 AI 모델을 통해 국방부는 군수지원 규모와 분담 비율을 예측하고 선제적인 물자 공급 계획을 수립할 수 있게 된다. 이를 통해 국방 자원 낭비를 최소화하고 현장 업무 부담을 줄이며 필요한 시기에 적절한 자원을 효과적으로 제공할 수 있는 체계를 구축하는 등 국방 운영의 효율성을 극대화할 것으로 기대된다. 한싹은 이번 사업을 성공적으로 완료한 후 AI 소요 예측 모델을 국방 전반으로 확대 적용할 방침이다. 공공 및 국방 시장에서 AI 기술 파트너로서의 입지도 강화할 계획이다. 이주도 한싹 대표는 "이번 결실은 AI 사업의 성장 가능성을 보여주는 중요한 전환점"이라며 "AI융합연구센터를 중심으로 다양한 산업에 적용 가능한 유연한 AI 기술 개발을 지속해 시장 경쟁력을 강화하겠다"고 말했다.

2024.10.23 10:26조이환

LLM 시대, 전문가가 바라보는 국방 위협 요소는?

대규모 언어모델(LLM) 활용이 본격화되는 추세에 따라 국방 분야에서의 위험성과 대응 방안을 논의하는 토론회가 개최한다. 12일 한국국방연구원(KIDA) 산하 국방데이터연구단과 바른 과학기술 사회 실현을 위한 국민연합(과실연) AI미래포럼은 '제 8차 국방데이터 혁신 네트워크-토크' 행사를 개최한다고 밝혔다. 한국IT서비스학회와 모두의연구소, 지디넷코리아, 한국경제가 후원하는 국방데이터 혁신 네트워크-토크는 국방 분야의 데이터와 AI 기술 사용을 토론하고 혁신적인 솔루션 활용 방안을 모색하기 위해 마련됐다. 이를 위해 합성 데이터, AI의 안전한 사용, AI 신뢰성 평가 방안 등 다양한 주제에 대해 전문가들이 발표하고 패널 토의를 진행한다. 또한, 생성형 AI의 군사적 적용 가능성과 관련된 기술적 진보에 대해서도 논의가 이루어지며, 국방 분야에서 AI 기술의 적용을 위한 다양한 산업계와 학계의 협력을 논의한다. 26일 오후 2시 서울 강남 모두의연구소 강남캠퍼스에서 진행하는 8차 토론회는 'LLM 보안'을 주제로 진행한다. 이에 따라 윤두식 이로운앤컴퍼니 대표가 프롬프트 엔지니어링을 통한 LLM 탈옥(Jailbreaking) 위협과 방어방안)을 주제로 AI의 위험성을 발표한다. 이어 SK쉴도스 이호석 팀장이 '사용자, 개발자 모두 알아야 하는 LLM 해킹 트랜드 및 보안전략'이라는 내용으로 AI시대의 보안 전략 방안을 제시한다. 전문가 발표 이후에는 LIG 넥스원 진정훈 수석 연구원, 한화시스템 김유신 상무, 세종대학교 강지원 교수, 국가보안기술연구소 류승진 실장 등이 참석하는 패널토의가 이어질 예정이다.

2024.09.12 10:21남혁우

[현장] "AI 무기화, 막을 수 있을까"…글로벌 협력이 관건

인공지능(AI) 기술의 책임 있는 사용을 보장하기 위해서는 국제적 협력과 검증 절차가 필수라는 주장이 나왔다. 9일 서울 롯데호텔에서 열린 'REAIM 고위급회의'에서 진행된 '군사 분야 AI의 책임있는 이용 이행 방안' 세션에서 전문가들은 AI의 군사적 사용에 대한 책임성과 신뢰성을 확보하기 위한 구체적 전략과 방안을 논의했다. 이들은 정부와 산업계 간의 협력과 기술적 검증 절차 강화가 필수적이라는 데 의견을 모았다. 이 회의에는 라다 플럼 미국 국방부 디지털 AI 최고책임관, 김종진 한화시스템 전무 겸 우주연구소 부소장, 로셀린다 소이판 투야 케냐 국방장관, 예룬 반 덴 호벤 델프트 공대 교수, 정이 중국과학원 자동화연구소 교수 등이 참석했다. 라다 플럼 최고책임관은 미 국방부가 2020년부터 AI 관련 원칙을 채택해왔다며 AI의 책임 있는 사용을 보장하기 위한 구체적인 실천 방안을 제시했다. 플럼 책임관은 "AI는 기술적으로 매우 복잡하다"며 "이에 따라 AI를 군사 시스템에 적용하는 과정에서 모든 단계에 걸쳐 검증 가능한 가이드라인이 필요하다"고 강조했다. 실제로 플럼 책임관에 따르면 미 국방부는 메사추세츠 공대(MIT)와 협력해 AI 시스템의 불확실성을 정량화하는 툴을 개발했다. 또 이를 AI 모델 선정 및 평가 전체에 적용하고 있다. 그는 "시스템을 모듈화함으로써 설계, 시험평가, 전력화 등 모든 단계에서 검증 절차를 효율적으로 실시해야 한다"며 "이를 통해 각 분야의 전문가와 실시자들이 비용 효율적이면서도 효과적인 방법으로 검증을 할 수 있을 것"이라고 강조했다. 김종진 한화시스템 전무는 방산 기업 관점에서 AI 개발의 투명성과 신뢰성 확보의 어려움을 언급했다. 김 전무는 "AI 시스템은 방산 분야에서 특히 중요한데 그 복잡성 때문에 투명성을 유지하는 것이 어렵다"며 "모듈화를 통해 시스템의 이해도를 높여서 차후 버전 개발도 용이하게 해야 한다"고 말했다. 또 김전무는 AI의 신뢰성 문제를 지적하며 방위산업 분야에서 데이터 부족으로 인한 어려움을 강조했다. 이를 해결하기 위한 방안으로 그는 "AI 시스템의 검증과 신뢰성을 확보하기 위해 정부와의 긴밀한 협력이 필요하다"며 "민관 간 협력을 통해 철저한 검증 절차를 필수적으로 마련해야 한다"고 주장했다. 로셀린다 소이판 투야 케냐 국방장관은 AI와 환경 지속가능성 관계를 강조했다. 투야 국방장관은 AI가 에너지 수요와 환경 보호에 미치는 영향을 언급하며 "AI 기술 역시 지속 가능성 원칙을 반영해 환경 보호 측면에서 긍정적인 변화를 이끌어야 한다"고 주장했다. 이어 발언한 예룬 반 덴 호벤 델프트 공대 교수는 AI 윤리와 규범의 중요성을 언급했다. 그는 "인간의 'AI 통제' 개념을 구체화할 필요성이 있다"며 "AI 시스템에서 공정성과 민주주의 원칙을 반영한 규범적 접근이 필요하다"고 주장했다.

2024.09.09 16:06조이환

[현장] REAIM 고위급회의 "책임 있는 군사 AI 통제, 국제 평화 열쇠"

전 세계 전문가들이 한 곳에 모여 군사 인공지능(AI)의 위험을 통제하고 책임 있게 활용해야 한다고 입을 모았다. 국제 평화와 안보를 보장할 유일한 방안이기 때문이다. 대한민국 외교부는 9일부터 이틀간 서울 롯데 및 웨스틴조선 호텔에서 국방부와 함께 '제2차 2024 인공지능의 책임있는 군사적 이용에 관한 고위급 회의(REAIM)'를 개최한다. 이 회의는 네덜란드, 싱가포르, 케냐, 영국이 공동으로 주최하며 총 90여 개국이 참석한다. 'REAIM 고위급회의'에는 전 세계 정부 대표단뿐만 아니라 산업계·학계·국제기구·시민사회·청년 분야에서 2천 명 이상의 관련 인원이 참여한다. 이번 회의에서는 AI의 위험과 윤리적 문제를 해결하기 위한 규범 정립과 구체적인 대응 방안에 대해 토론이 이뤄진다. 조태열 외교부 장관은 9일 'REAIM 고위급회의' 개회 연설에서 AI의 군사적 활용이 가져올 변화에 대해 경고했다. 이에 따라 군사 AI를 책임 있게 통제해야 한다는 점을 강조했다. 조 장관은 "군사 AI가 전략과 야전 사령관의 역할을 변화시키며 역할 간 경계를 허물고 있다"며 "이에 따라 기술적 변화가 전장만 아니라 국제 질서에도 영향을 미치게 됐으므로 AI를 책임 있게 다룰 필요가 있다"고 강조했다. 또 조 장관은 AI가 대량 살상 무기로 전락해서는 안 되며 이를 방지하기 위한 최소한의 보호 조치가 마련돼야 한다고 주장했다. 그는 "이번 'REAIM' 회의는 AI가 국제 안보에 미칠 영향을 평가하고 국제법에 따라 AI를 적용할 방안을 논의하는 장이 돼야 한다"며 "다자간 협력은 제네바 협약의 사례처럼 AI에도 마찬가지로 적용돼야 한다"고 밝혔다. 이어 김용현 대한민국 국방부 장관은 AI 기술을 통한 국방 혁신에 대해 논의했다. 김 장관은 "최근 우크라이나 전쟁에서 드론 기술이 다윗의 돌팔매 역할을 했다"며 "AI 기술은 군사 작전 능력을 비약적으로 향상시키고 있다"고 밝혔다. 이어 김 장관은 대한민국도 국방혁신 4.0을 통해 AI 기반의 강군을 건설하고 있다고 강조했다. 이와 동시에 AI의 윤리적 기준 준수를 위해 국제사회와의 협력을 지속하겠다는 의지를 밝혔다. 그는 "이번 회의는 AI의 책임 있는 군사적 이용에 대한 균형 잡힌 이해를 제공할 것"이라며 "국군 또한 책임있는 군사 AI의 국제적인 기반을 강화하는 데 기여하겠다"고 밝혔다. 개회식의 마지막 연사로 참가한 루벤 브레켈만스 네덜란드 국방부 장관은 이번 회의의 중요성을 강조하며 네덜란드와 한국의 오랜 파트너십을 언급했다. 그는 "네덜란드 선원 헨드릭 하멜이 조선에 표류한 400년 후 이제 두 나라는 AI 기술로 협력 범위를 넓혔다"며 "지난 해 네덜란드에서의 제1차 회의에서 원칙에 대해 합의했으니 이제 군사 AI에 대한 보다 구체적인 논의를 하길 희망한다"고 밝혔다. 그러면서 "AI 개발에 있어 책임 있는 방식을 택하도록 노력해야 한다"며 "AI라는 배가 좌초되지 않도록 각국이 함께 행동할 것"을 강조했다.

2024.09.09 11:28조이환

[현장] "튼튼한 국방력은 엣지 AI서 나올 것"

최첨단 인공지능(AI) '엣지 AI'가 국방에도 필수적이라는 주장이 제기 됐다. 온디바이스·거대언어모델(LLM)은 사회에서만큼이나 군사 분야에도 유용하기 때문이다. 한국국방연구원(KIDA)과 과실연 인공지능(AI) 미래포럼은 22일 모두의연구소 강남캠퍼스에서 '제 7차 국방데이터 혁신 네트워크-토크'를 진행했다. 행사는 한국IT서비스학회, 모두의연구소, 지디넷코리아, 한국경제가 후원했다. 이 날 발제는 최첨단 AI를 칭하는 엣지 AI 주제로 진행됐다. 먼저 김홍석 리벨리온 소프트웨어 아키텍트 총괄이 '온디바이스: 꼭 가야할, 하지만 만만치 않은 여정'을 주제로 발제를 진행했다. 김 총괄은 국방 분야에서의 온디바이스 AI에 대해 강조했다. 온디바이스 AI는 전투상황에서 군인이 상황을 파악하고 대응하는데 있어 중요하다. 클라우드나 서버에 데이터를 보내서 분석할 시간이 없기 때문이다. 이에 김 총괄은 "온디바이스는 센서나 AI를 기기에 결합해 데이터를 바로 처리한다"며 "작전 성공 가능성을 높이고 군인들의 안전을 지킬 수 있는 중요한 수단"이라고 강조했다. 동시에 그는 온디바이스 기술 실현의 어려움에 대해 강조했다. 데이터센터에서 병렬컴퓨팅이 이뤄지는 클라우드 기반 AI와 달리 컴퓨터 하나를 통해 데이터를 처리하기 때문이다. 김 총괄은 "기기에 들어가는 칩이나 소프트웨어를 정밀하게 설계하고 센서를 잘 사용해야 한다"며 "전장 환경과 유사한 데이터셋을 구하기 어려운 점도 꼭 해결돼야 할 과제"라고 밝혔다. 이어 김주영 하이퍼엑셀 대표가 '국방 AI를 위한 LLM 특화 반도체 개발'을 주제로 발제했다. 그는 LLM이 국방 분야에 어떻게 접목될 수 있을지에 대한 조사 결과를 공유했다. 현재 미국 국방부는 생성형 AI 모델을 국방에 도입해 정보 수집, 전략 분석, 통신 보안에 활용하고 있다. 김 대표는 "국군도 LLM을 활용한 특화모델을 개발하고 있다"며 "공군과 육군이 특히 이러한 기술을 도입하기 위해 노력하고 있다"고 지적했다. 또 김 대표는 국방 LLM을 도입하기 위해 맞춤형 반도체가 필요하다고 설명했다. 그 이유는 LLM이 기존 딥러닝 모델에 비해 약 1천배에서 1만배 크기 때문이다. 이에 하이퍼엑셀이 현재 개발하는 언어처리장치(LPU) 칩이 기존 그래픽 인터페이스 장치(GPU)보다 효율적으로 기능할 수 있다고 소개했다. LPU는 GPU보다 90% 더 높은 메모리 대역폭을 활용할 수 있다. 김 대표는 "국방용 AI 반도체 시장이 급성장할 것"이라며 "LLM 추론에 최적화된 반도체 개발에 성공해 이 분야의 혁신을 지원하겠다"고 강조했다. 발제에 이어 '국방분야 AI 반도체, 온디바이스 AI 발전방안'을 주제로 산학연군 패널토의도 열렸다. 패널토의에는 조준현 방위사업청 전략기획담당관, 심병섭 한국항공우주산업 미래SW기술팀장, 박원근 네이버클라우드 이사, 최민석 한국전자통신연구원 박사, 김상희 국방과학연구소 박사가 참석했다.

2024.08.22 18:29조이환

[ZD SW 투데이] KISIA, '2024 제2회 KISIA 정보보호 개발자 해커톤' 성료 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆KISIA '2024 제2회 KISIA 정보보호 개발자 해커톤' 성료 한국정보보호산업협회(KISIA)가 '2024 제2회 KISIA 정보보호 개발자 해커톤'을 마무리했다. 이 행사에는 전국 대학생과 대학원생들이 참여해 다양한 정보보호 모델과 서비스를 개발했다. 이 대회는 과학기술정보통신부 주최로 양재 aT센터에서 진행됐다. 5개 팀이 상장과 총상금 1천만 원을 받았고 제품 상용화를 위한 지원도 제공될 예정이다. ◆그릿지, 부산창조경제혁신센터 '비 스타트업 파이' 지원기업 선정 그릿지가 부산창조경제혁신센터 주최 '비 스타트업 파이(B.Startup PIE)' 배치 프로그램의 지원 기업으로 선정됐다. 중소벤처기업부와 부산광역시가 공동 주관한 이 프로그램은 스타트업 성장을 위해 지난 2019년 시작됐다. 이번 선정에 따라 그릿지는 부산 내 청년과 스타트업에 기회를 제공할 전망이다. ◆씽크포비엘, 베트남 IT기업·연구기관과 AI 신뢰성 강화 씽크포비엘이 지난 19일부터 이틀간 베트남 IT 기업 및 다낭 반도체 AI 연구훈련센터(DSAC)와 함께 AI 신뢰성 강화를 위한 세미나와 간담회를 개최했다. 이 행사에서 씽크포비엘은 AI 신뢰성 관련 기술과 인증 사례를 공유했고 오는 11월까지 AI 신뢰성 확보 위한 선도 사례를 마련할 계획이다. ◆더존비앤씨티, 강아지숲 박물관서 '강아지와 그림과 이야기의 숲展' 개최 더존비앤씨티가 운영하는 강아지숲 박물관이 '강아지와 그림과 이야기의 숲展'을 개최해 반려견 관련 그림책 공모전에서 선정된 4편의 수상작을 전시한다. 이번 전시는 그림책을 통해 반려견과 반려문화를 새로운 시각으로 조명해 다양한 관람객들에게 공감을 이끌 것으로 기대된다. ◆외교부·국방부, 청년 행사 'AI 시대의 청년과 평화' 참가자 모집 외교부와 국방부가 다음 달 10일 서울 웨스틴 조선에서 'AI 시대의 청년과 평화 Y.PAI' 행사를 개최한다. 이번 행사를 위해 오는 30일까지 만 19~34세 청년들의 참가 신청을 받는다. '인공지능의 책임 있는 군사적 이용(REAIM)' 회의와 함께 진행되는 이 행사에서는 청년들이 AI를 군사 분야에서 책임 있게 활용할 방안을 논의하게 된다.

2024.08.22 17:02조이환

군사 목적 AI 활용 증가…韓서 국제 거버넌스 논의

군사 목적 인공지능(AI) 활용이 늘어나는 가운데 국내에서 관련 거버넌스 논의가 진행된다. 외교부는 주한외교단 90여 개국 관계자들을 초청해 '2024 AI의 책임 있는 군사적 이용(REAIM)에 관한 고위급 회의' 준비 상황을 공유하기 위한 설명회를 개최했다고 2일 밝혔다. REAIM 고위급회의는 AI의 책임 있는 군사적 개발·배치·이용에 대한 이해를 제고하고 관련 국제규범 형성 과정에 기여하고자 출범한 국제적 회의체다. REAIM 준비 설명회는 회의 일정·의전 및 행정 사항·기대 성과 등 준비 기획단의 브리핑과 주한외교단의 질의응답으로 진행됐다. 제2차 REAIM 고위급회의는 한국·네덜란드·싱가포르가 공동 주최로 오는 9월 이틀간 서울에서 개최된다. 한국과 네덜란드 정부는 지난해 2월 네덜란드 헤이그에서 제1차 REAIM 회담을 공동 주최한 바 있다. 이번 행사는 ▲장관급 일정 ▲본회의 ▲부대행사 등으로 구성된다. 본회의 양일에 걸쳐 고위급 기조 패널 토론 및 명사와의 대담, 소그룹 회의 등이 진행될 예정이며 부대행사로 AI 전시회와 청년 참여 행사가 함께 개최된다. 기조 패널 토론 주제로는 ▲AI의 국제 평화와 안보에 대한 함의 ▲군사 분야 AI의 책임 있는 이용 원칙 구체 이행 ▲군사 분야 AI의 거버넌스 발전 방향 등 발제가 이뤄졌다. 2024 REAIM 고위급회의 이원익 준비기획단장은 "AI는 군사 분야의 모든 양상을 바꿀 수 있는 기술"이라며 "AI의 군사적 활용을 위해선 공동의 노력과 책임이 중요하다"고 말했다. 그러면서 "지난해 제1차 REAIM 고위급회의 공동 주최국으로 참여한 데 이어 올해 제2차 고위급회의 주최를 통해 군사 분야 AI의 책임 있는 이용 관련 원칙 및 국제 거버넌스 논의에 한국이 선두 주자로 서겠다"고 덧붙였다.

2024.08.02 15:24양정민

산업·국방부, 방산 생태계 경쟁력 강화…방산 수출 지원

정부가 인공지능(AI)·유무인복합·반도체 등 5대 첨단 방위산업 분야에 올해 4천억원을 투입한다. 산업통상자원부와 국방부는 17일 서울 남대문로 대한상공회의소에서 올해 첫 '방위산업발전협의회'를 개최해 이같은 내용을 논의했다. 이날 협의회는 방산 수출 지속적인 성장을 모색하고 국내 기업의 해외 진출 선순환 구조를 강화하기 위해 ▲방위산업 생태계 경쟁력 강화대책 ▲방산수출 금융지원 발전방안 ▲국방우주산업 육성을 위한 인증체계 및 실증사업 추진 등 5건의 안건을 논의했다. 협의회에서 산업부는 '글로벌 방위산업 4대 강국 도약'을 뒷받침하기 위해 ▲첨단 방산 생태계 역량 확충 ▲민군협력 및 산업융복합 촉진 ▲신시장 확대 지원시스템 등 3대 분야 7개의 주요 정책 과제를 담은 '방위산업 생태계 경쟁력 강화대책'을 발표했다. 우선 첨단 방산의 생태계 역량을 확충하기 위해 첨단 소재부품 기술투자를 확대하고, 방위산업 생태계의 기초체력을 강화한다. 우주·AI·유무인 복합·반도체·로봇 등 5대 첨단 방산 분야에서 60개의 핵심 기술을 도출해 올해 첨단 방산 소재부품 개발에 4천억원을 투자한다. 방산 핵심기술을 소부장 핵심전략기술(소부장법)과 국가첨단전략기술(국가첨단전략산업법) 등에 반영해 연구개발(R&D) 등의 지원을 대폭 확대한다. 또 연내 방산 분야 최초로 360억원 규모 산업기술펀드를 조성하고, 소부장 특화단지에 방산 분야를 추가 지정하는 방안도 검토하기로 했다. 로봇·항공·반도체 등 방산 기반산업 전문인력을 매년 2천명 이상 양성하고, 방산 제조기업에 AI를 접목한 제조공정혁신모델도 도입한다. 또 첨단화하는 미래 방산시장에 대응해 첨단민간 기술의 국방적용 확대 등 민군 협력과 산업 융복합을 촉진한다. 관계부처 합동으로 민군 기술협력 예산을 올해 857억원에서 2028년 4천억원 수준으로 단계적으로 확대하고, 첨단항공엔진개발 등 부처협업으로 도전적인 R&D도 본격화한다. 글로벌 시장 진출 확대를 위한 지원시스템도 강화한다. 20여 개 유망 수출 전략국가를 대상으로 소득수준, 방위수준, 산업·에너지 등과의 연계 가능성 등을 고려해 맞춤형 수출 전략을 추진한다. 신시장 개척을 위해 방산 수출대상국·동맹국과의 국제 공동 R&D를 확대하고, AI·SW·자율주행 등 방산에 적용 가능한 100여 개 차세대 기술 확보를 위해 세계 최고 연구 기관과 공동 R&D도 추진한다. 폴란드 등의 방산 수출 수주를 차질 없이 이행할 수 있도록 올해 방산 분야에 7조원 이상의 무역보험 공급 확대 등 정책금융지원도 강화한다. 안덕근 산업부 장관은 “방위산업은 국가안보를 강화하면서 동시에 전후방산업 경제파급효과가 높은 전략산업”이라며 “범부처의 역량을 결집해 방산 생태계 경쟁력 강화대책을 차질 없이 추진해 방위산업이 대한민국 주력산업으로 성장할 수 있도록 적극 지원하겠다”고 밝혔다. 신원식 국방부 장관은 “글로벌 방산수출 경쟁이 더욱 치열해지고 있는 상황에 맞서, K-방산기업의 기술력 강화와 수출확대 지원을 위해 더욱 노력하겠다”며 “대한민국의 4대 방산강국 도약을 위해 방위산업발전협의회 등 범부처 협력을 강화하겠다”고 말했다.

2024.04.17 16:14주문정

큐브리드, 국방기술품질원 계약으로 공개SW 저변 확대

큐브리드(대표 정병주)가 국방기술품질원 오픈소스 DBMS 공급 계약으로 공공부문 공개소프트웨어(SW) 저변을 확대했다고 밝혔다. 큐브리드는 조달청 디지털서비스몰을 통해 국방기술품질원과 공개 SW 부문 1호 계약을 체결했다고 27일 밝혔다. 공개SW 다수공급자계약(MAS) 제도는 각 공공기관의 다양한 수요를 충족하기 위해 서비스 품질 등에서 같거나 비슷한 종류의 용역을 수요기관이 선택할 수 있도록 2인 이상을 계약상대자로 하는 계약제도다. 현재 조달청 디지털서비스몰 공개SW 부문에는 운영체제 2종, 데이터베이스 1종 3개의 상품이 등록되어 있다. 큐브리드는 지난해 9월 공공구매 활성화를 위해 조달청이 구축한 IT 상품·서비스 전용 공공조달 플랫폼 '디지털서비스몰'에 공개SW 부문 최초로 다수공급자계약을 체결 후, 12월 제품 등록을 완료하고 납품을 시작한 바 있다. 정병주 큐브리드 대표는 “국방기술품질원과의 계약을 통해 공개SW 다수공급자계약의 문을 열게 되었다”며, “다양한 공공기관들이 MAS 제도를 통해 공개SW를 직접 구매할 수 있도록 시장을 조성해 나가겠다”고 말했다.

2024.02.27 09:33남혁우

Prev 1 2 3 Next