[박종성 피지컬AI④] 당신의 로봇은 '가전'입니까, '흉기'입니까?
거실로 들어온 트로이 목마 우리 사회가 '사물 인터넷(IoT) 해킹'이란 단어를 처음으로 흥미롭게, 혹은 심각하게 받아들인 시점은 2014년 무렵이었다. 당시 보안기업 프루프포인트(Proofpoint)는 충격적이면서도 다소 황당한 조사 결과를 발표했다. 가정용 스마트 냉장고를 비롯한 가전제품 10만여 대가 해킹당해, 주인도 모르는 사이 스팸 메일 75만 통 이상을 전 세계로 발송하고 있다는 사실이었다. 그때 우리는 뉴스를 보며 피식 쓴웃음을 지었다. "냉장고가 해킹당해봤자 고작 얼음이 좀 녹거나, 전기요금이 평소보다 몇천 원 더 나오는 정도겠지"라며 대수롭지 않게 여겼다. 당시만 해도 사이버 공격은 모니터 속 가상 공간에서나 벌어지는 일이었고, 이것이 우리 물리적 현실이나 신체 안전에 미치는 파급력은 지극히 미미해 보였다. 해킹은 귀찮은 일일지언정, 무서운 일은 아니었다. 하지만 그로부터 정확히 10년 지난 2024년, 상황은 180도 달라졌다. 공포 영화에서나 볼 법한 일들이 현실 세계에서 벌어지기 시작했다. 미국 전역에서 에코백스(Ecovacs)라는 기업이 만든 로봇 청소기들이 동시다발적으로 해킹되는 사건이 발생했다. 해킹당한 로봇들은 청소라는 본분을 잊고, 갑자기 제멋대로 움직이며 집 안에 있는 반려견을 위협적으로 쫓아다니기 시작했다. 심지어 로봇 내장 스피커를 통해 평온하게 쉬고 있는 거주자에게 입에 담기 힘든 욕설과 인종차별 발언을 쏟아내는 기이한 일까지 벌어졌다. 가장 사적인 공간, 집이 나를 돕던 기계 탓에 감시당하고 조롱당하는 공포스런 장소로 변한 것이다. 더욱 섬뜩한 경고는 보안 컨설팅기업 '아이오액티브(IOActive)'를 통해 나왔다. 그들은 해킹당한 휴머노이드 로봇이 주방용 드라이버를 손에 쥐고, 탁자 위 토마토를 맹렬하게 찌르고 난자하는 시연 영상을 공개했다. 붉은 토마토가 터지는 장면은, 그 대상이 언제든 연약한 사람 피부가 될 수도 있다는 서늘한 경고였다. 이는 로봇이 언제든 사람을 해치는 흉기로 돌변할 가능성을 시각적으로 증명한 사건이었다. 이제 바야흐로 도래한 '피지컬 AI' 시대 해킹은 과거 냉장고 사건처럼 웃어넘길 수 있는 가벼운 해프닝이 아니다. 과거 모니터란 얇은 유리벽 뒤에 갇혀 있던 컴퓨터 바이러스가, 이제는 그 벽을 부수고 밖으로 튀어나와 물리적으로 타격할 힘과 질량을 얻게 됐다. 생각해 보라. 성인 남성 체중과 맞먹는 무게 70kg, 그리고 사람 손보다 강력한 악력 50kg을 가진 휴머노이드 로봇이 해커 손아귀에 넘어간다면 어떤 일이 벌어질까? 이것은 더 이상 개인정보 유출이나 금융 사기 같은 단순한 사이버 범죄 범주에 넣을 수 없다. 이것은 안방 깊숙이 침입한 '물리적 흉기'이자, 실체적 생명 위협을 동반한 테러 행위다. 우리는 지금 편리함이란 달콤한 가면을 쓰고 거실로 들어온 이 똑똑한 기계들을 다시 바라봐야 한다. 그리고 냉정하게 물어야 할 시점에 섰다. 과연 저들은 내 삶을 윤택하게 해 줄 안전한 가전제품인가, 아니면 누군가 내린 명령 한 번에 언제든 나를 공격할 잠재적 흉기인가. 텔레오퍼레이션 역설: 활짝 열린 뒷문으로 누가 들어오는가 지난 칼럼에서, 로봇이 스스로 해결하지 못하는 문제를 원격지 인간이 돕는 '텔레오퍼레이션(Teleoperation)' 기술이 로봇 경제를 지탱하는 핵심 축이라고 필자는 밝혔다. 5G와 6G 초저지연 통신망을 통해 지구 반대편 숙련자가 내 집 로봇에 접속해 요리를 돕고 무거운 짐을 옮겨주는 세상은 매력적이다. 하지만 보안 관점에서 텔레오퍼레이션은 치명적인 '활짝 열린 뒷문'과 다름없다. '외부 접속 경로 최소화'라는 보안 기본 원칙을 정면으로 거스르기 때문이다. 정당한 권한을 가진 오퍼레이터가 로봇 관절을 제어하려고 들어오는 길은 해커에게도 열려 있다. 이 과정에서 가장 우려되는 점은 해커가 통신을 가로채는 '중간자 공격'이다. 상상해 보라. 오퍼레이터 화면에는 로봇이 얌전히 서 있는 영상만 보이게끔 조작하고, 실제 현장에서는 로봇이 해커 명령에 따라 집안 기물을 파손하거나 사람에게 돌진하는 상황을. 이는 단순한 기우가 아니다. 2015년 미국 워싱턴 대학교 연구진은 원격 수술 로봇 '레이븐 II(Raven II)' 대상 실험에서 이 섬뜩한 가설을 현실로 증명했다. 연구진은 중간자 공격으로 의사 명령을 조작했다. 그 결과 로봇 팔은 의료진 의도와 다르게 제멋대로 움직이거나 입력 명령을 완전히 무시했다. 더욱 치명적인 것은 '서비스 거부(DoS)' 공격이었다. 해커가 로봇 비상 정지(E-Stop) 기능을 원격으로 발동시키자, 한창 수술 중이던 로봇이 갑자기 멈춰버렸다. 환자 생명이 오가는 수술대 위에서 로봇이 갑자기 꿈쩍도 하지 않는 '마네킹'이 되어버리는, 상상하기조차 싫은 끔찍한 시나리오가 현실화된 것이다. 철저한 보안이 필수인 의료용 로봇조차 통신 프로토콜 취약점 앞에서는 무력했다. 하물며 대량 생산되어 가정에 보급될 '피지컬 AI' 로봇은 오죽하겠는가. 수술실에서 증명된 이 위협은 이제 우리 거실에서도 언제든 재현될 수 있다. 물리적 랜섬웨어: "돈을 안 주면 집을 몽땅 태워버리겠다" 2026년 현재, 보안 업계가 가장 경계하는 시나리오는 IoT을 넘어선 '물리적 랜섬웨어(Physical Ransomware)', 일명 '잭웨어(Jackware)' 등장이다. 기존 랜섬웨어가 PC 파일을 암호화하고 '돈을 주면 복구해주겠다'고 협박하는 수준이었다면, 물리적 랜섬웨어는 로봇의 구동부나 배터리 관리 시스템(BMS) 등 기기의 생명줄을 인질로 잡는다. 글로벌 보안 기업 짐페리움(Zimperium)은 이미 샤오미 전동 킥보드 펌웨어 해킹 가능성을 증명한 바 있다. 당시 해커들은 원격으로 주행 중인 킥보드를 급정거시켜 탑승자를 넘어뜨리거나, 배터리가 과열되거나 완충되면 충전을 자동으로 멈추는 '안전 차단 기능(Safety Cut-off)'을 무력화해 열폭주와 화재를 유도할 수 있음을 경고했다. 이와 같은 섬뜩한 시나리오가 가정용 휴머노이드 로봇으로 옮겨가면, 공포의 차원은 완전히 달라진다. 퇴근 후 현관문을 열자마자 매캐한 가스 냄새가 코를 찌른다고 상상해 보라. 거실 한복판에는 언제나 다정했던 반려 로봇이 라이터를 쥔 채 못 박힌 듯 서 있다. 정적을 깨고 로봇의 스피커에서 서늘한 기계음이 흘러나온다. “비트코인 10개를 지금 당장 입금하십시오. 그러지 않으면, 이 라이터를 켜 집을 통째로 태워버리겠습니다.” 이 상황에서 사용자가 할 수 있는 일은 거의 없다. 로봇의 전원을 끄려고 다가가려 해도, 로봇은 인간보다 빠르고 강하다. 로봇의 움직임을 강제로 멈추는 것을 넘어, 물리적인 파괴 행위를 조건으로 내거는 새로운 유형의 범죄. 이것이 피지컬 AI가 가져올 '보안의 비대칭성'이다. 공격자는 지구 반대편 안전한 곳에 숨어 키보드만 두드리면 되지만, 피해자는 눈앞의 물리적 폭력에 고스란히 노출된다. 블록체인: 로봇을 감시하는 '디지털 판사'이자 '면역 체계' 그렇다면 우리는 이 위험한 기계들과 어떻게 공존해야 하는가? 기존의 방화벽이나 백신 프로그램만으로는 물리적 제어권을 방어하기에 역부족이다. 중앙 서버가 뚫리면 그 서버에 연결된 수백만 대의 로봇이 동시에 '좀비 로봇'으로 돌변할 수 있기 때문이다. 여기서 우리는 최근 로보틱스 학계에서 주목하고 있는 새로운 대안, 바로 '블록체인 기반의 로봇 보안'에 주목해야 한다. 첫 번째 열쇠는 '탈중앙화된 신원 증명(DID, Decentralized IDentity)' 기술이다. 과거 중앙 집중식 시스템 시절, 로봇은 중앙 서버가 내리는 지시라면 맹목적으로 따르는 수동적 존재였다. 서버가 “공격하라”고 명령하면, 로봇은 그 명령을 내린 주체가 진짜 주인인지 해커인지 의심하지 않고 즉각 수행했다. 하지만 블록체인 기반 시스템은 다르다. 로봇은 명령을 받을 때마다 그 작업 지시서에 '디지털 인감도장'이 찍혀 있는지 확인한다. 즉, 해당 명령이 등록된 소유자나 인증받은 오퍼레이터 개인키(Private Key)로 서명되었는지를 블록체인 네트워크를 통해 실시간으로 검증하는 것이다. 설령 해커가 중앙 서버를 탈취해 가짜 명령을 보내더라도, 로봇은 “이 지시서에는 주인님 고유 서명이 없으므로 거부한다”며 작동을 멈출 수 있다. 두 번째 핵심은 '스마트 컨트랙트(Smart Contract)'를 활용한 강제적 안전 규약이다. 이것은 로봇 행동 반경과 안전 수칙을 절대 변경할 수 없는 코드로 작성해 블록체인 위에 영구히 박제해 두는 방식이다. 예를 들어, "실내 GPS 좌표 내에서는 이동 속도가 시속 3km를 넘을 수 없다"거나 "칼과 같은 위험 물체를 쥐고는 사람 반경 1m 이내로 접근할 수 없다"는 절대 규칙을 스마트 컨트랙트로 심어놓는다. 만약 해커가 로봇에게 “전속력으로 사람에게 돌진하라”는 악의적 명령을 보내도 소용없다. 로봇 내부 검증 시스템이 블록체인 상 스마트 컨트랙트를 조회한 뒤, “이 명령은 안전 규약 위반”이라 판정하고 실행 자체를 원천 차단하기 때문이다. 이는 소프트웨어적으로 그 누구도 깨뜨릴 수 없는 '물리 법칙'을 만드는 것과 같다. 마지막 세 번째 열쇠는 조작 불가능한 '블록체인 블랙박스' 도입이다. 피지컬 AI 로봇이 사고를 일으켰을 때, 가장 큰 난관은 책임 소재를 명확히 가리는 일이다. 제조사는 사용자 조작 미숙을 탓하고, 사용자는 기계 결함이나 해킹을 의심하며 서로 책임을 떠넘기는 지루한 공방이 이어지기 쉽다. 특히 로봇 내부에만 저장된 기존 블랙박스 데이터는 치명적인 약점이 있다. 해커가 침입해 사고 기록을 삭제하거나 교묘하게 조작할 경우, 진실을 밝힐 방법이 요원해지기 때문이다. 이때 블록체인은 로봇의 모든 판단과 행동 로그를 전 세계에 분산된 원장에 실시간으로 복제하여 기록한다. 이는 나 혼자 보는 일기장에 기록하는 것이 아니라, 모두가 지켜보는 광장의 전광판에 실시간으로 내용을 새기는 것과 같다. 해커가 로봇 하나를 장악할 수는 있어도, 전 세계에 흩어진 수만 개의 장부를 동시에 해킹해 기록을 위변조하는 것은 사실상 불가능하다. 이 '불변성(Immutability)' 덕분에 사고 발생 시 누구의 과실인지 명확하게 입증하는 '디지털 포렌식'이 완벽해진다. 이러한 기술적 신뢰는 불확실했던 리스크를 계산 가능한 영역으로 끌어와, 향후 '로봇 책임 보험' 시장을 여는 결정적인 열쇠가 될 것이다. 최후의 보루: 하드웨어 킬 스위치와 제로 트러스트 물론 블록체인조차 완벽할 수는 없다. 따라서 피지컬 AI 시대의 안전장치는 가장 원초적이고 물리적인 형태, 즉 '하드웨어 킬 스위치(Hardware Kill Switch)'로 완성해야 한다. 이는 단순히 로봇 몸체에 붙은 비상 정지 버튼만을 의미하지 않는다. 'ISO 13850' 국제 표준은 비상 정지 기능이 모든 제어 기능보다 우선해야 함을 명시한다. 피지컬 AI 로봇의 경우, 해킹 징후가 감지되거나 사용자가 위험을 느낄 때, 스마트폰 앱이나 음성 명령(“긴급 정지!”), 혹은 별도의 독립된 주파수를 사용하는 리모컨을 통해 로봇의 모터로 가는 전력 회로를 물리적으로 끊을 수 있어야 한다. 소프트웨어를 거치지 않고 하드웨어 레벨에서 전원을 차단하는 것만이 해킹된 로봇을 멈출 수 있는 유일한 방법이다. 또한 로봇 내부 설계에는 '제로 트러스트(Zero Trust)' 원칙을 반영해야 한다. "내부 네트워크는 안전하다"는 기존의 가정을 버리고, 로봇의 메인 두뇌(CPU)가 해킹당하더라도 팔다리를 움직이는 하위 제어 칩(MCU)은 독립적인 판단을 내려야 한다. 예컨대 로봇 팔의 관절 센서가 비정상적인 속도나 충격을 감지하면, 메인 CPU가 "계속 움직여"라고 명령하더라도 하위 칩이 이를 거부하고 즉각 락(Lock)을 걸어버리는 식이다. “내 머리(CPU)조차 믿지 말라.” 이것이 피지컬 AI가 가져야 할 생존 본능이자 안전 철학이다. 피지컬 보안, 로봇 강국 코리아로 나아가기 위한 필수 조건 2026년, 대한민국은 노동인구 감소 대안으로 로봇 도입을 가장 서두르는 나라 중 하나다. 이는 반대로 말하면, 대규모 '로봇 테러'에 가장 취약한 국가가 될 수 있다는 뜻이기도 하다. 수백만 대의 로봇이 일상에 깔린 상황에서 보안 실패는 단순한 제품 결함이 아니라 국가 안보 위기다. EU는 이미 '사이버 복원력법(Cyber Resilience Act)'을 통해 디지털 제품의 보안 의무를 강화하고 있다. 우리 정부 역시 로봇의 'KC 인증' 항목에 배터리 안전성 뿐 아니라 강력한 '사이버-피지컬 보안 기준'을 신설해야 한다. 킬 스위치 의무 장착, 텔레오퍼레이션 통신 암호화, 블록체인 기반의 인증 체계 도입 여부가 로봇 판매 허가를 받기 위한 필수 조건이 돼야 한다. 우리는 흔히 AI가 자의식을 가지고 인간을 지배하는 '터미네이터'의 미래를 두려워한다. 하지만 우리가 현재 직면한 진짜 공포는 그런 거창한 것이 아니다. 누군가가 장난으로, 혹은 악의를 가지고 내 로봇의 제어권을 가로채는 '비열한 연결'이 더 현실적이고 임박한 위협이다. 피지컬 AI는 우리 삶을 획기적으로 개선할 도구임이 분명하다. 그러나 통제할 수 없는 힘은 도구가 아니라 재앙이다. 기술 발전의 속도에 취해 안전이라는 브레이크를 잊어서는 안 된다. “우리가 이 로봇을 언제든 멈출 수 있다”는 확실한 물리적, 소프트웨어적 통제권이 확보될 때, 비로소 로봇은 우리의 진정한 친구가 될 수 있을 것이다. 여러분의 로봇은 지금 누구의 명령을 기다리고 있는가? 여러분인가, 아니면 어둠 속의 누군가인가. ◆필자 박종성은... LG CNS AI&최적화컨설팅 리더다. LG그룹 비즈니스 컨설턴트로 15년간 조선·철강·해운·항만·전자·화학·배터리 섹터에서 대형 프로젝트를 총괄하며, 고객사가 한 단계 더 도약할 수 있도록 지원해 왔다. LG CNS Entrue 컨설팅 산하 AI 전문 조직인 최적화/AI그룹 그룹장을 거쳐, 현재는 AI·양자·로봇 등 미래 '게임 체인저' 산업 기술 근간이 되는 '수학적최적화(Mathematical Optimization)' 분야에서 컨설팅팀을 이끌고 있다. 최근에는 산업 현장에서 피지컬 AI가 빠른 속도로 진화하는 모습을 직접 목격하면서, 향후 기업 간 경쟁을 넘어 세계 경제 질서를 어떻게 재편하게 될 것인지에 대해 관심 있게 지켜보고 있다. 연세대학교와 런던정치경제대학교(LSE)를 졸업했다. LG인화원, 부산대, 인하대 등에서 AI/최적화, 문제 해결 방법 등에 대해 강의하고 있다. 지은 책으로는 '피지컬 AI 패권 전쟁'(아래 사진) '혁신은 왜 실패하는가?(SERI CEO 비즈니스 북클럽 선정 도서, 아래 사진)' 'Enterprise IT Governance, Business Value and Performance Measurement' 등이 있다. 이와 더불어 영어와 일본어로 쓰인 좋은 책을 아름다운 우리말로 옮기는 일도 하고 있다. 번역서로는 '아마존 사람들은 이렇게 일합니다(2021년 '세종도서 학술 부문 우수 도서' 선정)', '누구나 쉽게 시작하는 AI, 수학적최적화', '기묘한 과학책' 등 다수가 있다.
