검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'국방 AI'통합검색 결과 입니다. (56건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"국가 안보 고려"…구글, AI 원칙서 '무기 개발 금지' 문구 삭제

구글이 인공지능(AI)을 무기 개발과 감시에 활용하지 않겠다는 서약을 자사 웹사이트에서 삭제해 AI의 군사적 이용 가능성을 둘러싼 논란이 불거지고 있다. 5일 테크크런치 등 외신에 따르면 구글은 최근 AI 원칙 페이지를 개정하면서 '추구하지 않을 기술(applications we will not pursue)' 목록을 삭제했다. 이 목록에는 AI의 무기화 및 감시 기술 개발을 하지 않겠다는 내용이 포함돼 있었으나 현재는 찾아볼 수 없다. 구글은 이번 변경에 대한 공식 입장을 내놓지 않았다. 다만 내부 블로그를 통해 "국가 안보를 지원하는 AI를 만들기 위해 같은 가치를 공유하는 기업, 정부, 조직들이 협력해야 한다고 믿는다"며 "책임 있는 AI 개발을 위해 국제법과 인권 원칙을 준수할 것"이라고 밝혔다. 최근 구글은 미군 및 이스라엘 군과의 클라우드 서비스 계약을 체결하면서 내부 직원들의 반발을 산 바 있다. 지난 2018년에도 미 국방부 프로젝트 '메이븐(Maven)' 참여로 인해 내부 논란이 발생해 이후 AI 무기 개발을 하지 않겠다고 선언했다. 테크크런치는 "구글은 지속적으로 자사 AI가 인간을 해치는데 사용되지 않는다고 주장해 왔다"면서도 "다만 미군 AI 책임자가 최근 일부 기업의 AI 모델이 '킬 체인'을 가속화하고 있다고 밝힌 바 있다"고 설명했다.

2025.02.05 10:08조이환

"軍, ROC 적용 너무 경직···신기술 도입 등 막아"

"국방 분야에서 ROC(Required Operational Capability)를 유연히 적용해야 합니다. 그렇지 않으면 불필요한 에너지 낭비가 너무 많고 국방 분야에서 AI같은 신기술 적용도 어렵습니다."(최경석 한화에어로스페이스 팀장, 하태준 현대로템 팀장) "미국 국방부 산하 국방고등연구계획국(DARPA)은 차세대 HMI(human-machine interface)의 핵심을 기계가 사람을 이해하는 것으로 보고 있습니다."(김래현 한국과학기술연구원(KIST) 국가기술전략센터장) "비전언어모델(VLM, Vision Language Model)은 쉬운 기술이 아닙니다. AI가 영상도 재현하고 이미지도 재현하니 뭔가 다 이해하고 있다고 생각하고 있는데 이는 착각입니다. 3분짜리 비디오를 AI에게 주고 질문을 해보세요 이해한 것이 맞는지 의심스러울 정도로 오답을 내는 경우가 빈번합니다."(최종현 서울대 전기·정보공학부 부교수) 한국국방연구원(KIDA) 군사발전연구센터와 과실연 AI미래포럼이 공동 주최해 8일 오후 서울 강남역 인근 모두의 연구소에서 열린 '2025년 1회 국방AI 혁신네트워크' 행사에서 신기술을 국방 분야에 도입 및 촉진하기 위한 여러 의견들이 제안됐다. 특히 AI기술을 로봇과 드론 같은 하드웨어에 적용하는 '임바디드AI(Embodied AI)'를 중점 다뤘다. 이날 행사는 한국IT서비스학회와 모두의 연구소, 지디넷코리아, 한국경제신문이 후원했다. 발제는 마음AI 이규민 이사와 코난테크놀로지 안민호 이사가 했다. 발제 후 산학연군 전문가들이 패널 토론을 했다. 이규민 이사는 자사가 보유한 3개 파운데이션 모델(MAAL-말, SUDA-수다, WoRV-워브)을 소개하고 국방 부문의 AI도입 현황과 예시를 소개했다. OECD의 2023년 전망을 인용해 AI가 대체할 일자리가 27%에 달한다고 말한 이 이사는 임바디드AI에 대해 "인공지능 시스템이 물리적인 실체를 가지고 실제 환경과 상호작용하고 인간의 육체적인 노동을 대체하는 패러다임"이라고 설명했다. 또 임바디드AI가 점점 더 인간과 가까워지고 있다면서 단순한 반복 업무는 물론 자율적이고 정교한 업무를 수행함은 물론 정서적 교감이나 창의 업무도 가능하다고 덧붙였다. 특히 이 이사는 MAAL(말), SUDA(수다), WoRW(워브)를 마음AI의 "3개 심장"이라고 언급하며 여러 서비스에 이미 구현했다고 강조했다. AI가 잘못된 데이터를 바탕으로 판단을 하거나 예기치 않은 상황에서 오작동을 하는 문제 등은 우리가 해결해야 할 과제라고 짚었다. 안민호 코난테크놀로지 이사는 임바디드AI에 대해 "보고 이야기하고 듣고 행동하고 사고할 수 있어야 한다"고 짚었다. 이어 무턱대고 장비에 탑재해 쓸 수 없으니 임바디드AI의 필수 구성요소가시뮬레이터라고 강조했다. 코난은 2023년 8월 자체 개발한 자사 초거대언어모델(LLM) '코난 LLM(Konan LLM)'을 출시한 바 있다. 이를 기반으로 국방 등 여러 분야에서 AI사업을 하고 있다. 안 이사는 DARPA가 시행한 AI와 사람조종사간 모의전투인 '알파독 파이팅'을 거론하며 "미 공군이 제일 가장 관심있어 하는 건 무인전투기도입계획인 CCA"라고 설명했다. 이어 F35 전투기 경우 개발에 1억달러가 들어가지만 무인기는 F35처럼 모든 걸 다 갖출 필요가 없어 개발비가 훨씬 적게 들어간다고 덧붙였다. 두 사람 발제에 이의 패널토의도 열렸다. 패널로는 남승현 육군 군사혁신과장, 최경석 한화에어로스페이스 팀장, 하태준 현대로템 팀장, 최종현 서울대 교수, 김래현 한국과학기술연구원 국가기술전략센터장이 참여했다. 남승현 과장은 "미국을 방문해 팔란티어 같은 기업을 보고 우리는 왜 이런 기업이 없냐고 생각했는데 오늘 발표를 들으니 다소나마 안심이 된다"면서 "기술이 급변하고 있는데 국방 조직상 이런 신기술을 빨리 받아들이는데 한계가 있으니 산학연 협력으로 이 부분을 극복했으면 좋겠다"고 말했다. 최경석 팀장은 한화에어로스페이스가 무인수색차량 사업 등을 하고 있다면서 "우리가 개발중인 무기체계에 AI를 적용하는 것은 아직 만족할 만한 정도가 아니다"고 말했다. 아직 룰 베이스 기반이라는 것이다. 이어 "우리 연구소 역량은 충분한데 국방에 신기술 도입이 더딘 것은 가격 때문이라고 생각하며, 군의 경직 문화도 한 몫하고 있다"면서 군이 요구하는 ROC(Required Operational Capability)가 보다 유연해져야 한다고 강조했다. ROC는 작전운용성능으로 번역된다. 군사 전략 목표를 달성하기 위해 필요한 무기체계의 성능 수준과 능력을 정의한 것이다. 무기체계 획득 과정에서 해당 무기의 필요성, 운용 개념, 전력화 시기 및 소요량 등을 명시한 전력소요 제기서에 포함되며, 무기 개발 및 획득의 기준이 된다. 또 최 팀장은 방산비리라는 단어를 언급하며 "이 게 주홍글씨처럼 억누르고 있는 느낌이다. 이 단어의 부정성 때문에 국방분야가 도전적이고 혁신적인 걸 하지 못하고 있는 것 같아 안타까움이 있다"고 덧붙였다. 최 팀장에 이어 발언을 한 하태준 팀장도 "군의 ROC가 유연성이 없어 굉장히 힘들다"면서 "이때문에 애초 개발하려고 한 게 자동차인데 포클레인으로 가는 경우도 있다"며 아쉬워했다. 경직된 ROC 때문에 낭비되는 에너지가 너무 많고, 무엇보다 하루가 다르게 나오는 신기술 적용이 힘들다는 것이다. 하 팀장은 "신기술로 무장한 새로운 유니콘들이 계속 나오고 있는데 보수적인 국방 분야와 협업했으면 좋겠다"고 제안했다. 김래현 센터장은 사람과 기계간 협업을 연구하고 있다면서 "매우 필요한 분야"라고 밝혔다. 이어 AI가 강화학습을 할때, 변화한 환경에는 강화학습이 잘 안되는데, 이럴때 사람과 AI가 어떻게 협업할 지를 연구하고 있다고 말했다. 사람과 AI가 잘하는게 각각 다르다면서 "사람은 한번도 안 가본 곳도 쉽게 파악하는 능력이 뛰어나다. 또 윤리 의식과 메타인지의 자기 성찰도 있다. 사람과 AI간 시너지로 최적의 결과를 내는 연구를 수행하고 있다"고 들려줬다. 이어 지난 2000년부터 로봇과 컴퓨터 비전 연구를 해 온 최종현 교수는 "나는 로봇공학자는 아니다"고 전제하며 LLM과 VLM의 차이와 함께 VLM의 상용화가 쉽지 않다고 진단했다. 일부 데이터셋은 정확도가 90% 나오는 경우가 있지만 많은 데이터셋의 정확도가 50% 정도에 불과하다는 것이다. 또 모델을 작게 하는 것에 대해서도 "역시 어려운 분야"라며 "노력을 하고 있는 중이다. 노력을 하고 있다는 건 아직까지 안되고 있다는 것"이라고 짚었다.

2025.01.08 23:47방은주

상상 속 AI, 현실로 '성큼'…코엑스서 韓 AI 미래 체험 'OK'

인공지능(AI) 기술을 직접 체험하고 현재와 미래를 조망할 수 있는 자리가 국내서 마련된다. 에코마이스는 오는 27일부터 29일까지 서울 삼성동 코엑스 D홀에서 '아이러브AI : KME2024' 행사를 개최한다고 25일 밝혔다. 이번 행사는 AI 기술을 학습하고 실질적으로 활용할 수 있도록 돕는 체험형 교육 'AI 상상 클래스'와 AI 기술과 다양한 산업분야의 접목 사례를 선보이며 AI의 실질적 활용 가능성을 탐구하는 기회의 장으로 꾸며질 예정이다. 'AI는 두려움의 대상이 아니라 누구나 쉽게 활용할 수 있는 도구'라는 주제로 진행되는 이번 행사는 첨단 AI 기술이 우리의 상상을 현실로 바꿀 수 있음을 직접 체험할 수 있는 기회를 제공한다. 특히 AI 기술 체험관인 'AI 상상 클래스'는 누구나 쉽게 상상력을 구현할 수 있도록 기획돼 주목된다. 이곳에선 드래프트 마우스(MOUSE, Text Generation), 지니젠(Ginigen, Image Generation), 지니젠 트레이닝, 지니젠 사운드 등 다양한 기술을 경험해 볼 수 있다. 이 중 지니젠 사운드는 10초 음성 입력으로 다양한 음향 및 음성 복제 생성, 다국어 및 다양한 사운드 제작이 가능하다는 점에서 관람객들의 호응을 이끌 것으로 예상된다. 또 이 자리에선 오픈-소라(Video Generation) 기능도 체험해 볼 수 있다. 이 기능은 텍스트, 이미지 또는 비디오 입력으로 고품질 영상을 제작할 수 있는 것으로, 2분 30초 내 6초 분량의 고화질 영상 생성이 가능한 것이 특징이다. 오픈-자비스(Realtime Human Avatar)도 이곳에서 경험해 볼 수 있는 눈에 띄는 기술이다. 이는 실시간 AI 휴먼 아바타로 쇼핑, 결제, 스케줄 관리 등 다양한 자동화 기능을 지원하는 것으로, 거대언어모델(LLM) 및 검색증강생성(RAG) 기술을 활용한 지능형 대화가 가능하다. '아이러브AI' 행사에선 컨퍼런스를 통해 AI 프론티어, 의료 AI, 로봇 AI, 국방 AI, 문화콘텐츠 AI, K콘텐츠 포럼 등 다양한 산업별로 AI를 활용하는 방안도 모색한다. 에코마이스는 "AI가 비즈니스 성과의 핵심 원동력으로 자리잡으며 산업전반에 큰 영향을 미치고 있고 기업들은 AI를 도입해 다양한 부서와 기능에서 효율성과 성과를 높이고 있다"며 "이 과정에서 새로운 활용 사례와 가능성을 참가자들은 자신의 관심분야에 깊이 몰입해 AI 활용방안을 탐구할 기회를 갖게 될 것"이라고 말했다. 또 이번 체험 클래스 행사에는 전국 교육청의 장학사와 교사, 학생들도 대거 참여할 예정이다. 이들은 창의적이고 스마트한 학습 환경, 더 나은 교육경험과 학습효과 창출 등 AI의 교육적 활용방안을 모색한다. 홍회진 에코마이스 대표는 "AI 기술이 산업, 교육 등 다양한 분야에 긍정적인 영향을 미치는 과정을 직접 경험할 수 있는 장을 마련했다"며 "내년부터는 포용성, 교육과 학습, 신뢰, 혁신, 협력이라는 5가지 AI 세계관을 중심으로 전국적인 캠페인을 전개할 계획"이라고 밝혔다.

2024.11.25 16:09장유미

"AI 사업 포문 활짝"…한싹, 국방 특화 소요 예측 모델 개발 착수

한싹이 인공지능(AI) 기술을 활용한 국책 군사 사업에 참여함으로써 성장 가능성과 기술 역량을 입증했다. 한싹은 국방부 '군수지원 소요산정 AI 모델 개발' 사업에 착수했다고 23일 밝혔다. 이번 사업은 국방부가 군수지원 체계 혁신을 위해 AI를 도입하는 연구 모델 프로젝트로, 군수지원 문제 해결과 군수 물자 공급 업무의 효율성 향상이 목표다. 한싹은 데이터 분석 및 AI 전문기업 스마트뱅크와 협력해 'AI 기반 군수지원 소요 예측 모델'을 공동 개발하고 작전 현장에 필요한 물자를 실시간으로 지원하는 체계를 구축할 예정이다. 한싹 AI융합연구센터는 그동안 축적한 AI 기술을 바탕으로 군수 데이터 수집, 학습용 데이터 세트 구축, 예측 모델 개발, 데이터 시각화, 실시간 데이터 공유 기능이 통합된 AI 모델을 구현할 계획이다. 이 AI 모델을 통해 국방부는 군수지원 규모와 분담 비율을 예측하고 선제적인 물자 공급 계획을 수립할 수 있게 된다. 이를 통해 국방 자원 낭비를 최소화하고 현장 업무 부담을 줄이며 필요한 시기에 적절한 자원을 효과적으로 제공할 수 있는 체계를 구축하는 등 국방 운영의 효율성을 극대화할 것으로 기대된다. 한싹은 이번 사업을 성공적으로 완료한 후 AI 소요 예측 모델을 국방 전반으로 확대 적용할 방침이다. 공공 및 국방 시장에서 AI 기술 파트너로서의 입지도 강화할 계획이다. 이주도 한싹 대표는 "이번 결실은 AI 사업의 성장 가능성을 보여주는 중요한 전환점"이라며 "AI융합연구센터를 중심으로 다양한 산업에 적용 가능한 유연한 AI 기술 개발을 지속해 시장 경쟁력을 강화하겠다"고 말했다.

2024.10.23 10:26조이환

LLM 시대, 전문가가 바라보는 국방 위협 요소는?

대규모 언어모델(LLM) 활용이 본격화되는 추세에 따라 국방 분야에서의 위험성과 대응 방안을 논의하는 토론회가 개최한다. 12일 한국국방연구원(KIDA) 산하 국방데이터연구단과 바른 과학기술 사회 실현을 위한 국민연합(과실연) AI미래포럼은 '제 8차 국방데이터 혁신 네트워크-토크' 행사를 개최한다고 밝혔다. 한국IT서비스학회와 모두의연구소, 지디넷코리아, 한국경제가 후원하는 국방데이터 혁신 네트워크-토크는 국방 분야의 데이터와 AI 기술 사용을 토론하고 혁신적인 솔루션 활용 방안을 모색하기 위해 마련됐다. 이를 위해 합성 데이터, AI의 안전한 사용, AI 신뢰성 평가 방안 등 다양한 주제에 대해 전문가들이 발표하고 패널 토의를 진행한다. 또한, 생성형 AI의 군사적 적용 가능성과 관련된 기술적 진보에 대해서도 논의가 이루어지며, 국방 분야에서 AI 기술의 적용을 위한 다양한 산업계와 학계의 협력을 논의한다. 26일 오후 2시 서울 강남 모두의연구소 강남캠퍼스에서 진행하는 8차 토론회는 'LLM 보안'을 주제로 진행한다. 이에 따라 윤두식 이로운앤컴퍼니 대표가 프롬프트 엔지니어링을 통한 LLM 탈옥(Jailbreaking) 위협과 방어방안)을 주제로 AI의 위험성을 발표한다. 이어 SK쉴도스 이호석 팀장이 '사용자, 개발자 모두 알아야 하는 LLM 해킹 트랜드 및 보안전략'이라는 내용으로 AI시대의 보안 전략 방안을 제시한다. 전문가 발표 이후에는 LIG 넥스원 진정훈 수석 연구원, 한화시스템 김유신 상무, 세종대학교 강지원 교수, 국가보안기술연구소 류승진 실장 등이 참석하는 패널토의가 이어질 예정이다.

2024.09.12 10:21남혁우

[현장] "AI 무기화, 막을 수 있을까"…글로벌 협력이 관건

인공지능(AI) 기술의 책임 있는 사용을 보장하기 위해서는 국제적 협력과 검증 절차가 필수라는 주장이 나왔다. 9일 서울 롯데호텔에서 열린 'REAIM 고위급회의'에서 진행된 '군사 분야 AI의 책임있는 이용 이행 방안' 세션에서 전문가들은 AI의 군사적 사용에 대한 책임성과 신뢰성을 확보하기 위한 구체적 전략과 방안을 논의했다. 이들은 정부와 산업계 간의 협력과 기술적 검증 절차 강화가 필수적이라는 데 의견을 모았다. 이 회의에는 라다 플럼 미국 국방부 디지털 AI 최고책임관, 김종진 한화시스템 전무 겸 우주연구소 부소장, 로셀린다 소이판 투야 케냐 국방장관, 예룬 반 덴 호벤 델프트 공대 교수, 정이 중국과학원 자동화연구소 교수 등이 참석했다. 라다 플럼 최고책임관은 미 국방부가 2020년부터 AI 관련 원칙을 채택해왔다며 AI의 책임 있는 사용을 보장하기 위한 구체적인 실천 방안을 제시했다. 플럼 책임관은 "AI는 기술적으로 매우 복잡하다"며 "이에 따라 AI를 군사 시스템에 적용하는 과정에서 모든 단계에 걸쳐 검증 가능한 가이드라인이 필요하다"고 강조했다. 실제로 플럼 책임관에 따르면 미 국방부는 메사추세츠 공대(MIT)와 협력해 AI 시스템의 불확실성을 정량화하는 툴을 개발했다. 또 이를 AI 모델 선정 및 평가 전체에 적용하고 있다. 그는 "시스템을 모듈화함으로써 설계, 시험평가, 전력화 등 모든 단계에서 검증 절차를 효율적으로 실시해야 한다"며 "이를 통해 각 분야의 전문가와 실시자들이 비용 효율적이면서도 효과적인 방법으로 검증을 할 수 있을 것"이라고 강조했다. 김종진 한화시스템 전무는 방산 기업 관점에서 AI 개발의 투명성과 신뢰성 확보의 어려움을 언급했다. 김 전무는 "AI 시스템은 방산 분야에서 특히 중요한데 그 복잡성 때문에 투명성을 유지하는 것이 어렵다"며 "모듈화를 통해 시스템의 이해도를 높여서 차후 버전 개발도 용이하게 해야 한다"고 말했다. 또 김전무는 AI의 신뢰성 문제를 지적하며 방위산업 분야에서 데이터 부족으로 인한 어려움을 강조했다. 이를 해결하기 위한 방안으로 그는 "AI 시스템의 검증과 신뢰성을 확보하기 위해 정부와의 긴밀한 협력이 필요하다"며 "민관 간 협력을 통해 철저한 검증 절차를 필수적으로 마련해야 한다"고 주장했다. 로셀린다 소이판 투야 케냐 국방장관은 AI와 환경 지속가능성 관계를 강조했다. 투야 국방장관은 AI가 에너지 수요와 환경 보호에 미치는 영향을 언급하며 "AI 기술 역시 지속 가능성 원칙을 반영해 환경 보호 측면에서 긍정적인 변화를 이끌어야 한다"고 주장했다. 이어 발언한 예룬 반 덴 호벤 델프트 공대 교수는 AI 윤리와 규범의 중요성을 언급했다. 그는 "인간의 'AI 통제' 개념을 구체화할 필요성이 있다"며 "AI 시스템에서 공정성과 민주주의 원칙을 반영한 규범적 접근이 필요하다"고 주장했다.

2024.09.09 16:06조이환

[현장] REAIM 고위급회의 "책임 있는 군사 AI 통제, 국제 평화 열쇠"

전 세계 전문가들이 한 곳에 모여 군사 인공지능(AI)의 위험을 통제하고 책임 있게 활용해야 한다고 입을 모았다. 국제 평화와 안보를 보장할 유일한 방안이기 때문이다. 대한민국 외교부는 9일부터 이틀간 서울 롯데 및 웨스틴조선 호텔에서 국방부와 함께 '제2차 2024 인공지능의 책임있는 군사적 이용에 관한 고위급 회의(REAIM)'를 개최한다. 이 회의는 네덜란드, 싱가포르, 케냐, 영국이 공동으로 주최하며 총 90여 개국이 참석한다. 'REAIM 고위급회의'에는 전 세계 정부 대표단뿐만 아니라 산업계·학계·국제기구·시민사회·청년 분야에서 2천 명 이상의 관련 인원이 참여한다. 이번 회의에서는 AI의 위험과 윤리적 문제를 해결하기 위한 규범 정립과 구체적인 대응 방안에 대해 토론이 이뤄진다. 조태열 외교부 장관은 9일 'REAIM 고위급회의' 개회 연설에서 AI의 군사적 활용이 가져올 변화에 대해 경고했다. 이에 따라 군사 AI를 책임 있게 통제해야 한다는 점을 강조했다. 조 장관은 "군사 AI가 전략과 야전 사령관의 역할을 변화시키며 역할 간 경계를 허물고 있다"며 "이에 따라 기술적 변화가 전장만 아니라 국제 질서에도 영향을 미치게 됐으므로 AI를 책임 있게 다룰 필요가 있다"고 강조했다. 또 조 장관은 AI가 대량 살상 무기로 전락해서는 안 되며 이를 방지하기 위한 최소한의 보호 조치가 마련돼야 한다고 주장했다. 그는 "이번 'REAIM' 회의는 AI가 국제 안보에 미칠 영향을 평가하고 국제법에 따라 AI를 적용할 방안을 논의하는 장이 돼야 한다"며 "다자간 협력은 제네바 협약의 사례처럼 AI에도 마찬가지로 적용돼야 한다"고 밝혔다. 이어 김용현 대한민국 국방부 장관은 AI 기술을 통한 국방 혁신에 대해 논의했다. 김 장관은 "최근 우크라이나 전쟁에서 드론 기술이 다윗의 돌팔매 역할을 했다"며 "AI 기술은 군사 작전 능력을 비약적으로 향상시키고 있다"고 밝혔다. 이어 김 장관은 대한민국도 국방혁신 4.0을 통해 AI 기반의 강군을 건설하고 있다고 강조했다. 이와 동시에 AI의 윤리적 기준 준수를 위해 국제사회와의 협력을 지속하겠다는 의지를 밝혔다. 그는 "이번 회의는 AI의 책임 있는 군사적 이용에 대한 균형 잡힌 이해를 제공할 것"이라며 "국군 또한 책임있는 군사 AI의 국제적인 기반을 강화하는 데 기여하겠다"고 밝혔다. 개회식의 마지막 연사로 참가한 루벤 브레켈만스 네덜란드 국방부 장관은 이번 회의의 중요성을 강조하며 네덜란드와 한국의 오랜 파트너십을 언급했다. 그는 "네덜란드 선원 헨드릭 하멜이 조선에 표류한 400년 후 이제 두 나라는 AI 기술로 협력 범위를 넓혔다"며 "지난 해 네덜란드에서의 제1차 회의에서 원칙에 대해 합의했으니 이제 군사 AI에 대한 보다 구체적인 논의를 하길 희망한다"고 밝혔다. 그러면서 "AI 개발에 있어 책임 있는 방식을 택하도록 노력해야 한다"며 "AI라는 배가 좌초되지 않도록 각국이 함께 행동할 것"을 강조했다.

2024.09.09 11:28조이환

[현장] "튼튼한 국방력은 엣지 AI서 나올 것"

최첨단 인공지능(AI) '엣지 AI'가 국방에도 필수적이라는 주장이 제기 됐다. 온디바이스·거대언어모델(LLM)은 사회에서만큼이나 군사 분야에도 유용하기 때문이다. 한국국방연구원(KIDA)과 과실연 인공지능(AI) 미래포럼은 22일 모두의연구소 강남캠퍼스에서 '제 7차 국방데이터 혁신 네트워크-토크'를 진행했다. 행사는 한국IT서비스학회, 모두의연구소, 지디넷코리아, 한국경제가 후원했다. 이 날 발제는 최첨단 AI를 칭하는 엣지 AI 주제로 진행됐다. 먼저 김홍석 리벨리온 소프트웨어 아키텍트 총괄이 '온디바이스: 꼭 가야할, 하지만 만만치 않은 여정'을 주제로 발제를 진행했다. 김 총괄은 국방 분야에서의 온디바이스 AI에 대해 강조했다. 온디바이스 AI는 전투상황에서 군인이 상황을 파악하고 대응하는데 있어 중요하다. 클라우드나 서버에 데이터를 보내서 분석할 시간이 없기 때문이다. 이에 김 총괄은 "온디바이스는 센서나 AI를 기기에 결합해 데이터를 바로 처리한다"며 "작전 성공 가능성을 높이고 군인들의 안전을 지킬 수 있는 중요한 수단"이라고 강조했다. 동시에 그는 온디바이스 기술 실현의 어려움에 대해 강조했다. 데이터센터에서 병렬컴퓨팅이 이뤄지는 클라우드 기반 AI와 달리 컴퓨터 하나를 통해 데이터를 처리하기 때문이다. 김 총괄은 "기기에 들어가는 칩이나 소프트웨어를 정밀하게 설계하고 센서를 잘 사용해야 한다"며 "전장 환경과 유사한 데이터셋을 구하기 어려운 점도 꼭 해결돼야 할 과제"라고 밝혔다. 이어 김주영 하이퍼엑셀 대표가 '국방 AI를 위한 LLM 특화 반도체 개발'을 주제로 발제했다. 그는 LLM이 국방 분야에 어떻게 접목될 수 있을지에 대한 조사 결과를 공유했다. 현재 미국 국방부는 생성형 AI 모델을 국방에 도입해 정보 수집, 전략 분석, 통신 보안에 활용하고 있다. 김 대표는 "국군도 LLM을 활용한 특화모델을 개발하고 있다"며 "공군과 육군이 특히 이러한 기술을 도입하기 위해 노력하고 있다"고 지적했다. 또 김 대표는 국방 LLM을 도입하기 위해 맞춤형 반도체가 필요하다고 설명했다. 그 이유는 LLM이 기존 딥러닝 모델에 비해 약 1천배에서 1만배 크기 때문이다. 이에 하이퍼엑셀이 현재 개발하는 언어처리장치(LPU) 칩이 기존 그래픽 인터페이스 장치(GPU)보다 효율적으로 기능할 수 있다고 소개했다. LPU는 GPU보다 90% 더 높은 메모리 대역폭을 활용할 수 있다. 김 대표는 "국방용 AI 반도체 시장이 급성장할 것"이라며 "LLM 추론에 최적화된 반도체 개발에 성공해 이 분야의 혁신을 지원하겠다"고 강조했다. 발제에 이어 '국방분야 AI 반도체, 온디바이스 AI 발전방안'을 주제로 산학연군 패널토의도 열렸다. 패널토의에는 조준현 방위사업청 전략기획담당관, 심병섭 한국항공우주산업 미래SW기술팀장, 박원근 네이버클라우드 이사, 최민석 한국전자통신연구원 박사, 김상희 국방과학연구소 박사가 참석했다.

2024.08.22 18:29조이환

[ZD SW 투데이] KISIA, '2024 제2회 KISIA 정보보호 개발자 해커톤' 성료 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆KISIA '2024 제2회 KISIA 정보보호 개발자 해커톤' 성료 한국정보보호산업협회(KISIA)가 '2024 제2회 KISIA 정보보호 개발자 해커톤'을 마무리했다. 이 행사에는 전국 대학생과 대학원생들이 참여해 다양한 정보보호 모델과 서비스를 개발했다. 이 대회는 과학기술정보통신부 주최로 양재 aT센터에서 진행됐다. 5개 팀이 상장과 총상금 1천만 원을 받았고 제품 상용화를 위한 지원도 제공될 예정이다. ◆그릿지, 부산창조경제혁신센터 '비 스타트업 파이' 지원기업 선정 그릿지가 부산창조경제혁신센터 주최 '비 스타트업 파이(B.Startup PIE)' 배치 프로그램의 지원 기업으로 선정됐다. 중소벤처기업부와 부산광역시가 공동 주관한 이 프로그램은 스타트업 성장을 위해 지난 2019년 시작됐다. 이번 선정에 따라 그릿지는 부산 내 청년과 스타트업에 기회를 제공할 전망이다. ◆씽크포비엘, 베트남 IT기업·연구기관과 AI 신뢰성 강화 씽크포비엘이 지난 19일부터 이틀간 베트남 IT 기업 및 다낭 반도체 AI 연구훈련센터(DSAC)와 함께 AI 신뢰성 강화를 위한 세미나와 간담회를 개최했다. 이 행사에서 씽크포비엘은 AI 신뢰성 관련 기술과 인증 사례를 공유했고 오는 11월까지 AI 신뢰성 확보 위한 선도 사례를 마련할 계획이다. ◆더존비앤씨티, 강아지숲 박물관서 '강아지와 그림과 이야기의 숲展' 개최 더존비앤씨티가 운영하는 강아지숲 박물관이 '강아지와 그림과 이야기의 숲展'을 개최해 반려견 관련 그림책 공모전에서 선정된 4편의 수상작을 전시한다. 이번 전시는 그림책을 통해 반려견과 반려문화를 새로운 시각으로 조명해 다양한 관람객들에게 공감을 이끌 것으로 기대된다. ◆외교부·국방부, 청년 행사 'AI 시대의 청년과 평화' 참가자 모집 외교부와 국방부가 다음 달 10일 서울 웨스틴 조선에서 'AI 시대의 청년과 평화 Y.PAI' 행사를 개최한다. 이번 행사를 위해 오는 30일까지 만 19~34세 청년들의 참가 신청을 받는다. '인공지능의 책임 있는 군사적 이용(REAIM)' 회의와 함께 진행되는 이 행사에서는 청년들이 AI를 군사 분야에서 책임 있게 활용할 방안을 논의하게 된다.

2024.08.22 17:02조이환

군사 목적 AI 활용 증가…韓서 국제 거버넌스 논의

군사 목적 인공지능(AI) 활용이 늘어나는 가운데 국내에서 관련 거버넌스 논의가 진행된다. 외교부는 주한외교단 90여 개국 관계자들을 초청해 '2024 AI의 책임 있는 군사적 이용(REAIM)에 관한 고위급 회의' 준비 상황을 공유하기 위한 설명회를 개최했다고 2일 밝혔다. REAIM 고위급회의는 AI의 책임 있는 군사적 개발·배치·이용에 대한 이해를 제고하고 관련 국제규범 형성 과정에 기여하고자 출범한 국제적 회의체다. REAIM 준비 설명회는 회의 일정·의전 및 행정 사항·기대 성과 등 준비 기획단의 브리핑과 주한외교단의 질의응답으로 진행됐다. 제2차 REAIM 고위급회의는 한국·네덜란드·싱가포르가 공동 주최로 오는 9월 이틀간 서울에서 개최된다. 한국과 네덜란드 정부는 지난해 2월 네덜란드 헤이그에서 제1차 REAIM 회담을 공동 주최한 바 있다. 이번 행사는 ▲장관급 일정 ▲본회의 ▲부대행사 등으로 구성된다. 본회의 양일에 걸쳐 고위급 기조 패널 토론 및 명사와의 대담, 소그룹 회의 등이 진행될 예정이며 부대행사로 AI 전시회와 청년 참여 행사가 함께 개최된다. 기조 패널 토론 주제로는 ▲AI의 국제 평화와 안보에 대한 함의 ▲군사 분야 AI의 책임 있는 이용 원칙 구체 이행 ▲군사 분야 AI의 거버넌스 발전 방향 등 발제가 이뤄졌다. 2024 REAIM 고위급회의 이원익 준비기획단장은 "AI는 군사 분야의 모든 양상을 바꿀 수 있는 기술"이라며 "AI의 군사적 활용을 위해선 공동의 노력과 책임이 중요하다"고 말했다. 그러면서 "지난해 제1차 REAIM 고위급회의 공동 주최국으로 참여한 데 이어 올해 제2차 고위급회의 주최를 통해 군사 분야 AI의 책임 있는 이용 관련 원칙 및 국제 거버넌스 논의에 한국이 선두 주자로 서겠다"고 덧붙였다.

2024.08.02 15:24양정민

산업·국방부, 방산 생태계 경쟁력 강화…방산 수출 지원

정부가 인공지능(AI)·유무인복합·반도체 등 5대 첨단 방위산업 분야에 올해 4천억원을 투입한다. 산업통상자원부와 국방부는 17일 서울 남대문로 대한상공회의소에서 올해 첫 '방위산업발전협의회'를 개최해 이같은 내용을 논의했다. 이날 협의회는 방산 수출 지속적인 성장을 모색하고 국내 기업의 해외 진출 선순환 구조를 강화하기 위해 ▲방위산업 생태계 경쟁력 강화대책 ▲방산수출 금융지원 발전방안 ▲국방우주산업 육성을 위한 인증체계 및 실증사업 추진 등 5건의 안건을 논의했다. 협의회에서 산업부는 '글로벌 방위산업 4대 강국 도약'을 뒷받침하기 위해 ▲첨단 방산 생태계 역량 확충 ▲민군협력 및 산업융복합 촉진 ▲신시장 확대 지원시스템 등 3대 분야 7개의 주요 정책 과제를 담은 '방위산업 생태계 경쟁력 강화대책'을 발표했다. 우선 첨단 방산의 생태계 역량을 확충하기 위해 첨단 소재부품 기술투자를 확대하고, 방위산업 생태계의 기초체력을 강화한다. 우주·AI·유무인 복합·반도체·로봇 등 5대 첨단 방산 분야에서 60개의 핵심 기술을 도출해 올해 첨단 방산 소재부품 개발에 4천억원을 투자한다. 방산 핵심기술을 소부장 핵심전략기술(소부장법)과 국가첨단전략기술(국가첨단전략산업법) 등에 반영해 연구개발(R&D) 등의 지원을 대폭 확대한다. 또 연내 방산 분야 최초로 360억원 규모 산업기술펀드를 조성하고, 소부장 특화단지에 방산 분야를 추가 지정하는 방안도 검토하기로 했다. 로봇·항공·반도체 등 방산 기반산업 전문인력을 매년 2천명 이상 양성하고, 방산 제조기업에 AI를 접목한 제조공정혁신모델도 도입한다. 또 첨단화하는 미래 방산시장에 대응해 첨단민간 기술의 국방적용 확대 등 민군 협력과 산업 융복합을 촉진한다. 관계부처 합동으로 민군 기술협력 예산을 올해 857억원에서 2028년 4천억원 수준으로 단계적으로 확대하고, 첨단항공엔진개발 등 부처협업으로 도전적인 R&D도 본격화한다. 글로벌 시장 진출 확대를 위한 지원시스템도 강화한다. 20여 개 유망 수출 전략국가를 대상으로 소득수준, 방위수준, 산업·에너지 등과의 연계 가능성 등을 고려해 맞춤형 수출 전략을 추진한다. 신시장 개척을 위해 방산 수출대상국·동맹국과의 국제 공동 R&D를 확대하고, AI·SW·자율주행 등 방산에 적용 가능한 100여 개 차세대 기술 확보를 위해 세계 최고 연구 기관과 공동 R&D도 추진한다. 폴란드 등의 방산 수출 수주를 차질 없이 이행할 수 있도록 올해 방산 분야에 7조원 이상의 무역보험 공급 확대 등 정책금융지원도 강화한다. 안덕근 산업부 장관은 “방위산업은 국가안보를 강화하면서 동시에 전후방산업 경제파급효과가 높은 전략산업”이라며 “범부처의 역량을 결집해 방산 생태계 경쟁력 강화대책을 차질 없이 추진해 방위산업이 대한민국 주력산업으로 성장할 수 있도록 적극 지원하겠다”고 밝혔다. 신원식 국방부 장관은 “글로벌 방산수출 경쟁이 더욱 치열해지고 있는 상황에 맞서, K-방산기업의 기술력 강화와 수출확대 지원을 위해 더욱 노력하겠다”며 “대한민국의 4대 방산강국 도약을 위해 방위산업발전협의회 등 범부처 협력을 강화하겠다”고 말했다.

2024.04.17 16:14주문정

큐브리드, 국방기술품질원 계약으로 공개SW 저변 확대

큐브리드(대표 정병주)가 국방기술품질원 오픈소스 DBMS 공급 계약으로 공공부문 공개소프트웨어(SW) 저변을 확대했다고 밝혔다. 큐브리드는 조달청 디지털서비스몰을 통해 국방기술품질원과 공개 SW 부문 1호 계약을 체결했다고 27일 밝혔다. 공개SW 다수공급자계약(MAS) 제도는 각 공공기관의 다양한 수요를 충족하기 위해 서비스 품질 등에서 같거나 비슷한 종류의 용역을 수요기관이 선택할 수 있도록 2인 이상을 계약상대자로 하는 계약제도다. 현재 조달청 디지털서비스몰 공개SW 부문에는 운영체제 2종, 데이터베이스 1종 3개의 상품이 등록되어 있다. 큐브리드는 지난해 9월 공공구매 활성화를 위해 조달청이 구축한 IT 상품·서비스 전용 공공조달 플랫폼 '디지털서비스몰'에 공개SW 부문 최초로 다수공급자계약을 체결 후, 12월 제품 등록을 완료하고 납품을 시작한 바 있다. 정병주 큐브리드 대표는 “국방기술품질원과의 계약을 통해 공개SW 다수공급자계약의 문을 열게 되었다”며, “다양한 공공기관들이 MAS 제도를 통해 공개SW를 직접 구매할 수 있도록 시장을 조성해 나가겠다”고 말했다.

2024.02.27 09:33남혁우

"사람보다 드론 잘 포착"…이스라엘군, AI 기술 전쟁 투입

이스라엘군이 인공지능(AI) 기반 무기를 팔레스타인 무장정파 하마스와 진행 중인 전쟁에 투입했다. AI는 육안으로 보기 힘든 드론이나 적군 움직임을 인식·사격 지원을 한다. 이스라엘 국방 관계자는 자국군이 이런 AI 기술을 하마스 드론 격퇴와 가자지구 터널망 지도 작성에 이용하고 있다고 10일(현지시간) AFP 통신에 전했다. 그동안 하마스가 드론을 활용해 이스라엘군에 폭발물 공격을 지속했다. 이에 이스라엘군은 자국 스타트업 스마트 슈터의 AI 광학 조준기를 활용하기 시작했다. AI 광학 조준기는 소총, 기관총 등에 탑재돼 작동한다. 사람 눈으로 보기 어려운 드론 움직임을 자동으로 포착해 사격 지원을 한다. 이스라엘군은 가자지구의 하마스 지하 터널망 지도 작성에도 AI 기술을 이용하고 있다. 미국 웨스트포인스 육군사관학교 연구에 따르면, 이 지하 터널은 1천300개에 달하며 길이는 총 500km다. 사람이 이 터널 지도를 일일이 만들려면, 시간이 많이 소요될 뿐 아니라 지하 곳곳에 숨은 하마스 병력이나 부비트랩으로 상당한 인명 피해가 발생할 수 있다. 이에 이스라엘군은 AI 기술을 탑재한 드론을 활용하기 시작한 셈이다. 이 드론은 사람 대신 이리저리 돌아다니며 터널 지형을 파악할 수 있다. 드론이 촬영한 이미지를 지상으로 전송하면, 이스라엘군은 이를 토대로 터널 지도를 작성하는 식이다. 이 드론 역시 이스라엘 스타트업 로보티칸이 개발했다. AFP통신은 이스타엘이 이번 전쟁에서 AI를 활용함으로써 첨단 방위 기술 산업에서 우위를 점할 것이라고 분석했다. 반면 AI의 무기화에 따른 위험성도 커진다는 목소리가 나오고 있다. 지난해 12월 150개 넘는 국가가 AI 등 새로운 기술이 세계 평화에 심각한 도전과 우려를 제기한다는 유엔 결의안을 지지한 바 있다.

2024.02.11 11:11김미정

적 벙커 내부 상황, 드론이 AI로 탐지

광주과학기술원(GIST, 총장 임기철)이 국가 안보를 위한 소형·경량·저전력 3차원 라이다(LiDAR)와 인공지능(AI) 기반 표적인식 및 피아식별 SW 기술 개발에 나선다고 23일 밝혔다. GIST 미래국방과학기술연구센터는 산업통상자원부와 방위사업청이 공동 추진하는 국방과학연구소 민군협력진흥원 민‧군겸용기술개발사업인 '통신/GPS 음영 환경에서의 자율임무 수행용 초소형 지능형 드론 개발' 과제에 선정됐다. 주관 연구기관인 풍산 등 9개 산학연 기관이 컨소시엄을 구성, 2028년까지 5년 간 244억원을 지원받아 공동 연구개발을 수행한다. 이 과제는 ▲초소형 지능형 드론 ▲고분자 전고체 전지 ▲초소형·경량·저전력 3차원 라이다(LiDAR) ▲라이다·영상기반 위치 파악(SLAM) ▲AI 기반 표적인식 및 피아식별 SW 기술 ▲레벨 4수준 자율비행 등 6개 분야 연구개발과 실증이 목표다. 이를 위해 GIST는 라이다 전문 기업과 함께 ▲무기계(No-mechanical scanner) 반도체 기반 초소형‧경량‧저전력 3차원 라이다 기술 등을 개발한다. 맵 기반 3차원 위치 파악(SLAM)과 동적·정적 장애물 탐지·회피를 위해 측정 거리 30m 이상과 0.65도×0.65도 이하 각도 분해능을 갖는 3차원 라이다를 개발할 계획이다. 실내 벙커나 재난 환경에서도 표적 상태를 인식하고 피아를 식별하는 AI 기술도 개발한다. 박기환 GIST 미래국방과학기술연구센터장는 "이번 과제를 통해 GIST를 포함한 산학연이 육군과 함께 민‧군 연구협력의 혁신적 모범사례를 제시함으로써 국가안보를 위한 과학기술의 책임과 역할을 더욱 확장하는 계기가 되기를 기대한다"라고 말했다.

2024.01.23 11:13한세희

오픈AI "미 국방부와 보안 기능 개발중"

오픈AI가 미국 국방부를 위해 사이버보안 기능을 개발중이라고 밝혔다. 16일(현지시간) 블룸버그에 따르면, 오픈AI 임원들은 최근 다보스에서 열린 세계경제포럼(WEF)에서 미군을 위한 AI 기반 보안 기능을 개발중이라고 말했다. 안나 마칸주 오픈AI 글로벌담당 부사장은 "국방부와 파트너십에 오픈소스 사이버보안 소프트웨어 개발이 포함됐다"며 "자사 기술이 퇴역군인의 자살을 예빵하는데 어떻게 도움을 줄 수 있는지 미국 정부와 논의를 시작했다"고 밝혔다. 샘 알트먼 오픈AI 최고경영자(CEO)는 미국 대선에서 자사의 생성 AI 도구로 허위 정보를 퍼뜨리지 않도록 보장하기 위한 조치를 취하고 있다고 밝히기도 했다. 오픈AI는 그동안 챗GPT의 내부 정책에서 '군사 및 전쟁' 애플리케이션과 악성코드 생성에 AI 모델과 관련 기술 사용을 금지해왔다. 그러나 최근 정책에서 '악성코드 생성', '군사 및 전쟁' 애플리케이션, '다단계 마케팅', '표절', '인공잔디 사용' 등 금지했던 항목의 문구를 삭제했다.

2024.01.17 09:34김우용

오픈AI, '군사-전쟁 목적 사용 금지' 제한 풀었다

오픈AI가 최근 자사 사용정책 페이지에서 군사 및 전쟁 목적으로 기술 사용을 금지한다는 문구를 삭제했다고 엔가젯 등 외신들이 14일(현지시간) 보도했다. 오픈AI는 지난 주 사용정책 페이지를 업데이트하면서 “군사 및 전쟁 목적으로 해당 기술을 사용하는 것을 금지한다”는 문구를 삭제했다. 하지만, 여전히 LLM(대규모 언어모델) 등 오픈AI 기술을 무기 개발 또는 무기 사용에 사용하지 말 것을 주문했다. 이런 변화는 전 세계 군사 기관들이 인공지능(AI) 기술 사용에 관심을 보이는 시점과 동시에 이뤄졌다고 엔가젯은 평했다. AI 연구기관 AI 나우 인스티튜트 사라 마이어스 웨스트 전무이사는 "가자지구의 민간인을 표적으로 삼는 데 AI 시스템이 사용된 점을 고려할 때, 오픈AI의 사용 정책에서 '군사 및 전쟁'이라는 단어를 삭제하기로 결정한 것은 주목할 만한 순간”이라고 밝혔다. 또, 이번 정책 수정이 오픈AI가 국방부 등과 같은 정부 기관과 합법적으로 협력할 수 있는 길을 열어둔 셈이라고 외신들은 전했다. 현재 오픈AI가 제공하는 기술은 직접적으로 군사용으로 사용되지 않지만 코드 작성, 조달 주문 처리 등의 지원 작업에 사용될 수는 있다. 니코 펠릭스 오픈AI 대변인은 해당 정책 문구 변경에 대해 "전 세계적으로 일상적인 사용자도 GPT를 사용하게 되면서, 기억하기 쉽고 적용하기 쉬운 보편적인 원칙을 만들고자 했다"며 문구 수정 배경을 설명했다. 또, “'다른 사람을 해치지 말라'와 같은 원칙은 광범위하면서도 쉽게 이해할 수 있고 다양한 맥락에서 관련성이 있다"고 설명하며, "특히 무기와 타인에 대한 상해를 명확한 예로 들고 있다"고 덧붙였다. 하지만, 다른 사람을 해치는 기술 사용 금지가 군사적 사용 금지도 포함하는 지에 대해서는 정확한 입장을 밝히지 않았다고 해당 매체는 전했다. 오픈AI 대변인은 엔가젯에 보낸 성명에서 "우리 정책은 우리 도구가 사람에게 해를 끼치거나, 무기를 개발하거나, 통신 감시를 위해 사용되거나, 다른 사람에게 부상을 입히고 재산을 파괴하는 데 사용되는 것을 허용하지 않는다”고 밝혔다. 하지만 "인프라와 산업을 보호하기 위한 새 사이버 보안 도구 개발을 위해 미국 국방부 산하 고등연구계획국(DARPA)과 협력하는 등 국가 안보 차원에서 사용한 사례가 있다"면서 "정책 업데이트 목표는 이러한 논의를 좀 더 명확하게 하기 위한 것"이라고 설명했다.

2024.01.15 15:47이정현

Prev 1 2 3 Next