검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'윤리 AI'통합검색 결과 입니다. (55건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[영화 속 AI윤리] 가상현실과 신경 윤리

1.기(起)-손목이 나보다 먼저 아는 것 2025년 9월 30일 미국에서 출시된 메타 레이밴 디스플레이(Meta Ray-Ban Display)에는 손목에 차는 메타 뉴럴 밴드(Meta Neural Band)가 함께 들어 있다. 이 장치는 뇌파를 재는 기기가 아니라 아래팔 근육의 전기적 활동을 피부 표면에서 검출하는 표면 근전도(sEMG) 센서다. 메타 자체 연구진이 네이처에 발표한 논문에서는 sEMG 해독 모델이 개인별 학습이나 보정 없이 새로운 사용자에게도 작동할 수 있음을 보고했다(Kaifosh et al., 2025). 메타는 뉴럴 밴드가 근육 활동에서 생긴 신호를 클릭이나 스크롤 같은 안경 제어 명령으로 변환한다고 설명한다(Meta, 2025). 여기서 이 밴드가 착용자의 생각을 의식보다 먼저 '읽는다'고 말하는 것은 정확하지 않다. 밴드가 붙잡는 것은 생각이 아니라 움직임으로 이어지는 생리 신호다. 그러나 표현을 바로잡는다고 해서 질문까지 사라지지는 않는다. 아직 눈에 보이는 행동으로 완전히 나타나지 않은 신체 신호가 디지털 명령으로 변환되고 그 신호가 향후 개인화된 추천이나 적응형 콘텐츠와 결합된다면 선택의 경계는 어디에 그어야 하는가? 반세기 전 로버트 노직(Robert Nozick)의 '경험 기계'는 자신이 원하는 어떤 경험이든 실제와 구별하기 어렵게 제공하는 기계가 있다면 그 안에 접속해 살겠느냐고 물었다(Nozick, 1974). 당시의 질문은 현실을 떠나 인공적으로 설계된 경험을 선택할 것인가에 초점이 맞춰져 있었다. 그러나 오늘날의 일부 몰입형·적응형 시스템은 사용자의 시선과 몸짓, 생체 신호 등을 측정하고 그 결과를 바탕으로 콘텐츠나 선택 환경을 실시간으로 조정할 수 있다. 사용자는 경험을 선택하는 동시에 그 경험에 의해 다시 선택되도록 설계된다. 이제 핵심은 '기계에 접속할 것인가'라기보다는 접속한 뒤 형성되는 나의 관심과 욕망, 판단과 선호가 과연 어디까지 나에게서 비롯된 것인지 물어야 한다. 내가 무엇을 원하는지 뿐 아니라, 내가 그것을 원하게 된 과정까지 나의 것이라고 말할 수 있는가? 오늘의 경험 기계가 제기하는 문제는 현실과 가상의 구별에서 한층 진보해 욕망의 저자와 선택의 주체가 누구인가 하는 자율성의 문제로 보인다. 2.승(承)-'엑시스텐즈'와 '인셉션' 영화가 각각 가리키고 있는 것은 무엇인가? 데이비드 크로넨버그의 '엑시스텐즈'(1999)는 척추 기저부에 설치한 '바이오포트'에 살아 있는 생체 게임 포드에서 나온 탯줄 모양의 연결선을 꽂아 게임에 접속하는 세계를 그린다. 이 영화는 매우 불편감을 주었는데 그 까닭은 세계가 가짜여서가 아니라 등장인물이 자기 행위의 저자인지 확신하지 못한다는 데 있었다. 중국 음식점 장면에서 테드 피쿨은 자신도 이유를 알지 못하고 멈추기 어렵다고 말하면서, 접시에 남은 뼈를 조립해 권총을 만든다. 알레그라는 그것이 게임이 부여한 충동이며 피쿨의 캐릭터가 하도록 만들어진 행동이라고 설명한다. 이어 피쿨이 종업원을 죽이고 싶은 충동을 느낀다고 말하자, 알레그라는 그 충동을 거스를 수 없을 것이라고 답한다. 피쿨은 이 작은 세계에서 자유의지란 그리 큰 변수가 아닌 모양이라고 말한 뒤 종업원을 쏜다. 영화의 다른 대목에서도 게임 진행을 위한 대사가 피쿨의 의지와 무관하게 튀어나오고, 그때 알레그라는 그것을 말한 것은 피쿨 자신이 아니라 게임 캐릭터라고 설명한다. 줄거리를 진행시키기 위해 해야 할 말은 원하든 원하지 않든 나오게 되어 있다는 것이다. 영화는 현실이라 믿었던 층위마저 또 하나의 게임일 가능성을 열어 둔 채, 살아남은 인물들이 우리가 아직 게임 속에 있는 것이냐고 묻는 장면에서 끝난다. 층위를 아무리 벗겨도 행위의 저자를 확정할 수 없다는 곤경이 그대로 남는다. 크리스토퍼 놀런의 '인셉션'(2010)은 같은 문제를 반대편에서 압박한다. '인셉션'은 세계의 실재성을 둘러싼 불안에 더해 의지의 기원까지 조작될 수 있다는 문제를 제기한다. 코브는 무의식의 심층인 림보에서 아내 맬을 데리고 나오기 위해 이곳은 현실이 아니라는 관념을 심는다. 문제는 그 관념이 현실로 돌아온 뒤에도 꺼지지 않았다는 점이다. 맬은 실제 현실마저 꿈이라고 믿게 되었고 죽음을 깨어나는 방법으로 받아들였다. 상속자 로버트 피셔에게 심긴 결심 역시 정보 주입만으로 만들어지지 않는다. 코브는 팀에게 부정적 감정보다 긍정적 감정이 언제나 이긴다고 말한다. 사람은 화해와 정화를 갈망한다는 것이다. 팀은 아버지에게 인정받고 싶어한 피셔의 오랜 결핍을 지렛대 삼아 아버지가 피셔에게 실망한 이유는 그가 부족해서가 아니라 아버지를 그대로 따라 하려 했기 때문이며 실제로는 그가 자기만의 길을 가기를 바랐다는 화해의 서사를 짓는다. 금고에서 나오는 어린 시절의 종이 바람개비가 그 서사를 완성한다. 피셔는 꿈속 아버지의 말을 듣고 눈물을 흘리며 금고 안에 놓인 어린 시절의 종이 바람개비를 바라본다. 조작이 성공했다는 가장 확실한 증거가 당사자의 '이건 내 뜻'이라는 확신이라면, 만족감이나 확신은 그 자체로 자율성의 증명이 될 수 있을까? 3.전(轉)-자아 모델과 인지적 자유 토마스 메칭거(Thomas Metzinger)는 자아를 독립된 실체가 아니라 뇌가 실시간으로 생성하는 '현상적 자아 모델'로 설명한다. 이 모델의 결정적 성질은 투명성이다. 우리는 현상적 자아 모델을 하나의 모델로 경험하지 못하고 그 모델의 내용을 곧바로 '나 자신'으로 경험한다. 메칭거의 표현대로 현상적 자아는 사물이 아니라 지속되는 과정이며 우리는 그 과정의 산물을 곧바로 '나'로 받아들인다(Metzinger, 2003). 고무손 착각 실험은 가짜 손과 실제 손에 동기화된 자극을 주면 가짜 손을 자기 신체처럼 느낄 수 있음을 보여 주었다(Botvinick & Cohen, 1998). 필자 또한 연구년을 보내던 시절 이 실험을 직접 경험한 적이 있다. 보이는 고무손이 내 손처럼 느껴지고 그 손에서 촉감이 생기는 듯한 착각이 일어나는 경험은 신체 소유감이 얼마나 가변적인지를 실감하게 했다. 전신 착각 실험에서는 시각과 촉각 정보를 동기화함으로써 가상 신체에 대한 자기 동일시와 자신이 공간의 어디에 있다고 느끼는 자기 위치감이 달라질 수 있음이 보고되었다(Lenggenhager et al., 2007). 물론 이 연구들이 자아 전체가 손쉽게 조작된다는 것을 증명하지는 않는다. 그러나 '내 몸'과 '내가 있는 곳'이라는 가장 기본적인 감각조차 감각 정보가 통합되는 방식에 따라 달라질 수 있음을 보여준다. 니타 파라하니(Nita A. Farahany)는 이 문제를 권리의 언어로 옮겨, '인지적 자유'를 보편적 인권으로 보장해야 한다고 주장한다. 인지적 자유는 정신적 프라이버시와 사상의 자유, 자신의 뇌와 정신적 경험에 관한 자기결정권을 아우르는 개념이다(Farahany, 2023). 우리가 기억할 점은 오늘의 소비자용 뇌파 장치는 개인의 생각을 문장처럼 해독하지는 못한다. 뇌파에서는 특정 조건 아래 각성도나 주의 상태를 확률적으로 추론할 수 있고, 근전도에서는 손동작과 운동 상태를 분류할 수 있다. 각각의 신호가 완전한 마음의 기록은 아니다. 그러나 불완전한 신호라도 다른 행동·생체 데이터와 결합되면 개인의 정신 상태나 다음 행동을 추정하는 데 활용될 수 있으며, 데이터의 품질과 분석 조건에 따라 추정 성능이 높아질 수 있다. 측정된 신호는 다른 데이터와 결합될 때 행동 예측에 이용될 수 있다. 그러나 예측 가능성이 곧 조작을 뜻하는 것은 아니다. 자율성 문제가 발생하는 지점은 그 예측이 사용자의 숙고를 돕는 데 쓰이지 않고, 사용자가 알아차리기 어려운 방식으로 선택지를 배열하거나 특정 반응을 유도하는 폐쇄형 피드백에 투입될 때다. 이 우려는 이미 제도로 옮겨지고 있는데 칠레는 2021년 법률 제21.383호로 헌법을 개정해, 과학기술의 발전이 인간의 생명과 신체적·정신적 완전성을 존중해야 하며 뇌 활동과 그로부터 나오는 정보를 법률이 특별히 보호하도록 했다. 2023년 8월 9일 칠레 대법원 제3부는 전 상원의원 기도 히라르디가 미국 기업 이모티브를 상대로 낸 보호청구를 일부 인용하면서, 아울러 이모티브에 대해 그의 정보를 지체 없이 삭제하도록 명령했다. 이 판결은 뇌 활동 데이터의 수집·저장 문제를 헌법상 신체적·정신적 완전성과 사생활의 권리에 연결한 신경권리 관련 판결이다. 미국 콜로라도주는 2024년 HB 24-1058로 주 프라이버시법을 고쳐 신경 데이터를 '생물학적 데이터'의 한 종류로 민감정보에 포함했다. 민감정보로 보호되는 생물학적 데이터는 단독으로 또는 다른 개인정보와 결합해 개인 식별 목적으로 사용되거나 사용될 예정인 데이터로 정의된다. 캘리포니아주는 같은 해 SB 1223을 제정해 중추 또는 말초신경계의 활동을 측정해 생성한 정보를 소비자 개인정보법상 '민감한 개인정보'에 추가했다. 이 정의는 신경 이외의 정보로부터 추론한 것을 제외한다. 두 법의 적용 범위는 같지 않다. 캘리포니아의 '신경 데이터' 정의는 비신경 정보에서 추론한 정보를 제외하므로, 심박·시선·행동 기록 등에서 추론한 감정이나 주의 상태는 적어도 '신경 데이터'라는 범주에는 포함되지 않는다. 다만 그러한 정보가 CCPA상 다른 개인정보나 추론 정보에 해당할 가능성은 별도로 판단해야 한다. 따라서 sEMG가 이 정의에 포함되는지는 측정 대상과 법 해석에 따라 판단해야 하며, 법문만으로 단정하기 어렵다. 그럼에도 신경 데이터에 일반 개인정보보다 강화된 보호가 필요하다는 방향만은 공유한다. 유네스코는 2025년 11월 '신경기술 윤리에 관한 권고'를 채택했다. 법적 구속력은 없지만 회원국과 연구기관, 기업이 참조할 국제 기준을 처음으로 제시했다. 권고는 정신적 프라이버시와 인간 존엄, 자율성, 사상의 자유를 보호하고, 신경기술이 강압적으로 사용되지 않도록 할 것을 포함한다. 아동·청소년에 대한 사용은 의료·치료 목적과 아동의 최선의 이익에 부합하는 과학적으로 정당화된 용도로 제한하도록 하며 건강하고 정상적인 인지 기능을 가진 아동에게 비치료적 수행 향상을 목적으로 사용하는 것은 허용하지 말아야 한다고 권고한다(UNESCO, 2025). 이 논의를 겹쳐 놓으면 기존의 동의 제도가 왜 충분하지 않은지도 드러난다. 동의는 자신이 무엇에 동의하는지 어느 정도 알 수 있을 때에만 의미를 갖는다. 그러나 자아 모델은 투명하고, 알고리즘이 산출한 추론 정보는 사용자에게 보이지 않을 수 있으며, 영향도 접속 시간 전체에 걸쳐 누적될 수 있다. 입장할 때 한 번 누르는 동의 버튼으로는 감당할 수 없는 구조다. 4.결(結)-헤드셋 안에서도 나를 의심할 자유 '엑시스텐즈'의 피쿨과 '인셉션'의 맬이 잃은 것도 결국 이 '사이'의 공간이다. 자신의 판단을 잠시 멈추어 보고, 다른 사람 앞에서 이유를 설명하며, 자신이 믿는 현실을 공동의 현실과 대조할 기회를 잃은 것이다. 지금 필요한 것은 헤드셋을 벗기는 비상 버튼 하나가 아니다. 몰입 중에도 시스템이 무엇을 측정하고 무엇을 추론하며 무엇을 조정하는지 확인할 수 있는 통로가 있어야 한다. 설계자가 정해 둔 순간이 아니라 사용자가 고른 순간에 경험의 흐름을 끊을 수 있어야 한다. 그렇기에 동의는 일회적 승인이 아니라 언제든 철회하고 범위를 바꿀 수 있는 지속적 절차여야 한다. 보호 대상도 원시 뇌파나 근전도에 머물러서는 안 된다. 그 데이터에서 추론된 감정, 주의 상태, 행동 성향까지 함께 포함해야 한다. 한국의 개인정보 보호 체계가 신경 데이터를 전혀 보호하지 않는 것은 아니다. 특정 개인을 알아볼 수 있거나 다른 정보와 쉽게 결합해 개인을 식별할 수 있는 신경 데이터는 개인정보에 해당할 수 있다. 그 데이터가 건강에 관한 정보를 드러내거나 개인의 인증·식별을 위한 생체인식정보로 처리되는 경우에는 민감정보 규정이 적용될 수 있다. 다만 현행 법령과 지침은 '신경 데이터'를 독립된 범주로 명시하지 않는다. 개인정보보호위원회가 2024년 12월 펴낸 '생체정보 보호 안내서'는 특정 개인을 인증하거나 식별하기 위해 처리되는 생체인식정보의 보호를 중심으로 구성되어 있다. 신경 활동에서 직접 생성된 정보, 다른 데이터에서 추론한 정신 상태, 신체 명령을 위한 근전도 정보가 각각 어떤 법적 범주에 해당하며 수집·추론·결합·이용 단계에서 어떤 세부 기준을 적용받는지는 아직 명확하게 정리되어 있지 않다. 유네스코 권고의 국내 이행은 이 공백을 점검하는 출발점이 될 수 있다. 필요한 것은 새로운 기술을 무조건 막는 규제가 아니라 자신의 신체와 정신에서 생성된 정보가 어디로 가서 무엇에 쓰이는지 알 수 있게 하고, 원하지 않을 때 그 흐름을 멈출 수 있게 하는 규범이다. 우리가 지켜야 할 자유는 헤드셋을 벗을 자유에 그치지 않고 헤드셋을 쓴 채로도 지금 느끼는 이 욕구가 어디에서 왔는지 의심하고, 자신의 판단을 다시 검토하며, 경험의 흐름에서 한 걸음 물러설 수 있는 자유다. 그 여지를 남겨 두는 기술만이 인간의 자율성을 존중한다고 말할 수 있다.

2026.08.01 09:23박형빈 컬럼니스트

NIA, AI윤리 캠프로 청소년 책임감 키운다

생성형 인공지능(AI) 시대를 맞아 청소년들이 책임 있는 AI 활용 태도를 기를 수 있도록 민관이 힘을 모았다. 한국지능정보사회진흥원(NIA)은 KT, 교보교육재단과 30일 숙명여자대학교에서 2026년 제1회 'AI윤리 온(ON)' 청소년 캠프를 개최했다. 이번 캠프에는 3대 1의 경쟁률을 뚫고 전국에서 선발된 중학생 79명이 참여했다. 캠프는 학생들이 AI 기술을 활용하는 데 그치지 않고 다양한 사회·윤리적 쟁점을 스스로 판단하고 토론하는 경험을 하도록 구성됐다. 오전에는 KT그룹희망나눔재단 소속 KT 대학생 IT서포터즈(KIT)와 함께 AI·디지털윤리 기초교육을 진행했다. 이어 AI윤리 보드게임을 활용해 다양한 AI 윤리 이슈를 직접 체험하는 시간도 마련됐다. NIA는 'AI윤리 미니 골든벨 퀴즈'를 진행해 학생들이 조별로 AI와 디지털윤리 문제를 함께 풀며 협력하고 소통하는 시간을 가졌다. 이를 통해 학습 내용을 되짚어보고 핵심 개념을 쉽고 재미있게 익히도록 했다. 오후에는 교보교육재단이 AI 가치판단 토론을 진행했다. 참가 학생들은 AI가 사회에 미치는 영향과 다양한 윤리적 쟁점을 주제로 여러 이해관계자의 관점에서 책임 있는 AI 활용 방안을 함께 모색했다. 김형철 NIA 원장은 "청소년들이 다양한 AI 윤리 문제를 함께 고민하고 토론하며 책임 있는 AI 활용 태도를 기르는 계기가 되길 바란다"며 "민관 협력을 통해 AI윤리 교육과 체험 프로그램을 확대하겠다"고 말했다.

2026.07.30 15:19이나연 기자

카카오, 'AI&기술윤리소위원회' 외부 전문 자문단 발족

카카오는 인공지능(AI) 윤리 거버넌스 강화를 위해 'AI&기술윤리소위원회'의 외부 전문 자문단을 발족했다고 30일 밝혔다. 이번 자문단은 에이전틱 AI 확산에 따라 발생할 수 있는 사회적 리스크에 선제적으로 대응하고, 국내 AI 기본법 시행 및 국제적 AI 안전 논의 등 급변하는 규제 환경에 부합하는 AI 정책 체계를 마련하기 위해 구성됐다. 카카오는 2018년 국내 기업 중 최초로 '알고리즘 윤리헌장'을 발표한 데 이어 2022년에는 카카오 및 주요 계열사가 참여하는 '기술윤리위원회'를 설립해 운영해왔다. 이후 이용자 주체성 원칙 추가 등 기존 알고리즘 윤리헌장을 개정해 '카카오그룹의 책임있는 AI를 위한 가이드라인'을 수립한 바 있다. 이번 외부 자문단의 전문적 견해가 카카오의 AI 윤리 체계에 반영될 수 있도록 긴밀한 협력을 이어갈 예정이다. 자문단은 ▲AI 안전 및 윤리 ▲법 ▲아동권리 ▲국제 정책 등 핵심 영역을 아우르는 7명으로 구성됐다. ▲김명주 AI안전연구소 소장 ▲이민석 국민대학교 소프트웨어융합대학 교수 ▲이상욱 한양대학교 철학과 교수 ▲이원태 국민대학교 특임교수 ▲변순용 서울교육대학교 윤리교육과 교수 ▲유재연 한양대학교 사회혁신융합전공 겸임교수 ▲정병수 유니세프 L&D센터장이 위원으로 참여한다. 자문단은 지난 6월 킥오프 회의를 시작으로, 29일 첫 정례 회의를 진행했다. 연내 정례 자문 회의를 지속적으로 진행해 카카오의 AI 윤리 기준 확립을 위해 방향성을 제시할 계획이다. 카카오는 향후 자문 결과를 내부 AI 기술 정책에 반영하고, 관련 활동들을 공개할 예정이다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "이번 외부 자문단 발족은 AI 윤리 거버넌스를 한 단계 확장하고, 윤리 기준과 원칙을 한층 견고히 다지기 위한 목적"이라며 "자문단의 독립적인 시각을 실질적인 정책에 반영해 책임 있는 AI 생태계 조성에 앞장서겠다"고 말했다.

2026.07.30 09:53박서린 기자

LG-유네스코, 전 세계 무료 AI 윤리 강좌 선보인다

LG AI연구원과 유네스코가 전 세계 누구나 무료로 수강할 수 있는 인공지능(AI) 윤리 교육 과정을 선보인다. LG AI연구원은 서울 명동 유네스코 한국위원회에서 'AI 윤리 MOOC(Massive Open Online Course) 프로젝트' 글로벌 가동 행사를 열고 이같은 내용을 공개했다고 20일 밝혔다. 이날 행사에는 방한 중인 칼레드 엘에나니 유네스코 사무총장과 배경훈 부총리 겸 과학기술정보통신부 장관, 홍현익 유네스코 한국위원회 사무총장, 임우형 LG AI연구원 공동 연구원장 등이 참석했다. AI 윤리 MOOC 프로젝트는 LG AI연구원과 유네스코가 2024년 AI 서울 정상회의를 계기로 협약을 체결한 지 2년 만의 결실이다. 한국의 민간 AI 연구 기관이 유엔 전문기구와 공동으로 기획 단계부터 콘텐츠 개발까지 모든 과정을 주도해 전 세계 대상 교육 프로그램을 개발한 것은 이번이 처음이다. 이번 프로젝트는 2021년 유네스코 193개 회원국이 만장일치로 채택한 글로벌 AI 규범인 'AI 윤리 권고'를 바탕으로 한다. 특히 개발자·연구자·정책입안자가 현장에서 활용할 수 있도록 실무 역량 강화 교육에 초점을 맞췄다. 프로젝트를 통해 제작된 교육 프로그램은 AI 석학 앤드루 응이 설립한 온라인 공개강좌 플랫폼인 코세라에서 제공되며 전 세계 어디서나 접근이 가능하다. 교육 과정은 10개 모듈로 구성됐다. 카네기멜런대, 스탠퍼드대 메코이 윤리센터, 옥스퍼드대 인터넷 연구소, 뮌헨공대 사회과학기술대학, 앨런 튜링 연구소 등 글로벌 AI 윤리 연구기관 석학들과 프랑코폰 인공지능 기구(AFRIA), 아시아인터넷연합(AIC) 등 각 대륙 전문가들이 강의 개발과 콘텐츠 제작에 참여했다. 프로그램 국제 자문그룹에는 하버드대, 뉴욕대, 토론토대, 노트르담대, 유네스코 세계과학윤리위원회(COMEST), 유엔대, 샤이크 하미두 칸 디지털대학(UN-CHK), 모질라 재단, 몬테레이공대, 프리토리아대 등 15개 기관 전문가들이 참여했다. LG AI연구원과 유네스코 한국위원회는 AI 윤리 MOOC 프로젝트를 사례 기반 학습과 실습 과제를 통해 AI 윤리 역량을 함양할 수 있는 연수 프로그램으로 확대할 계획이다. 우선 올해 하반기 AI 개발자 및 연구자를 대상으로 AI 윤리 연수를 시범으로 운영한다. 올해 시범 사업 결과를 기반으로 내년에 전국 5~10개 거점대학 AI 윤리 연수 교육 과정으로 확장할 계획이다. 임우형 LG AI연구원 공동 연구원장은 "AI 윤리에 대한 글로벌 합의를 넘어 이를 제품 개발과 서비스 운영까지 전주기에 적용하는 실천적 전환이 시급한 시점"이라며 "글로벌 MOOC 과정이 현업 개발자와 연구자에게 신뢰할 수 있는 AI 생태계를 구축하는 실질적 기반이 되고, 산업계 전반에 책임 있는 혁신을 가속하는 계기가 되기를 기대한다"고 말했다.

2026.07.20 15:30이나연 기자

방미통위, 온오프라인서 'AI 윤리' 행사 진행

디지털윤리주간을 맞아 광교테크노밸리, 제주공항, 여의도 한강공원 등지와 온라인에서 AI 활용 윤리를 주제로 한 체험 행사가 진행된다. 방송미디어통신위원회와 한국지능정보사회진흥원은 안전하고 책임있는 AI 활용 문화 확산과 디지털윤리 실천을 위해 디지털윤리주간을 운영한다고 밝혔다. 디지털윤리주간은 'AI와 함께, 윤리도 함께'를 주제로 생활공간과 온라인에서 일상 속 AI 윤리 관련 참여형 온오프라인 행사로 이달 20일부터 26일까지 진행된다. 오프라인 행사는 ▲일하는 곳에서 만나는 AI 윤리(업무지구) ▲여행길에서 함께하는 AI 윤리(관광거점) ▲휴일 일상에서 즐기는 AI 윤리(여가공간) ▲학교 현장에서 실천하는 AI 윤리(특별교육) 등 4가지 분야로 구성된다. 광교테크노밸리, 나주혁신도시에서 진행되는 업무지구 행사에선 커피차와 AI 윤리 유형찾기, 랜덤 퀴즈뽑기를 통해 일터 속 AI 윤리 현주소를 진단하는 올바른 다짐 캠페인이 진행된다. 관광거점인 제주공항과 김포공항에선 '안전한 여행, 안전한 인공지능'이라는 주제로 미션 룰렛과 퀴즈 챌린지를 통해 여행객들에게 인공지능 윤리를 쉽게 배우고 실천하는 경험을 제공할 예정이다. 여의도 한강공원과 대구 안심도서관 등 여가 공간에선 디지털윤리 실천 다짐과 공감 투표를 통해 국민이 스스로 AI 활용 원칙을 생각해 보는 기회를 제공한다. 마지막으로 교장, 교감 등 학교 경영자를 대상으로 AI 윤리 특별 과정을 운영해 인공지능 시대 교육환경 변화와 기술 특성을 이해하고, 학교 내 관련 이슈에 대응할 수 있는 리더십 역량 함양을 지원한다. 온라인에서도 국민 누구나 쉽게 참여할 수 있는 프로그램을 운영한다. 디지털윤리 누리집에선 '딥페이크 악용 그만(STOP)!' 빙고 게임을 통해 관련 피해 예방 수칙을 알린다. 또 배달앱 '배달의민족'과 디지털윤리 능력 고사를 운영해 퀴즈 참여자에게 할인 쿠폰을 제공할 예정이다. 방미통위는 전국에서 운영되는 오프라인 캠페인 참여 후기를 작성하거나 개인 사회관계망(SNS)에 인증 사진을 게시한 참여자를 대상으로 추첨을 통해 경품을 제공하는 이벤트도 진행한다. 김종철 방미통위원장은 “AI 윤리를 쉽고 재미있게 배우고 실천할 수 있도록 다양한 교육과 체험 프로그램을 확대해 나가겠다”고 말했다.

2026.07.20 10:57홍지후 기자

[영화 속 AI윤리] 튜링 테스트와 기만적 지능

1. 기(起)-기계가 사람을 흉내 낼 때 기계가 인간을 속이는 시대는 이미 도래했다. 문제는 우리가 속고 있다는 사실조차 모른다는 것이다. 1950년 영국의 수학자 앨런 튜링은 '기계가 생각할 수 있는가'라는 질문을 던졌다. 다만 그는 '생각'의 정의를 두고 다투는 대신 관찰 가능한 행동을 통해 기계의 능력을 평가하는 '모방 게임'을 제안했다(Turing, 1950). 튜링은 먼저 남성과 여성, 판정자로 이루어진 모방 게임을 제시한 뒤 남성의 자리를 기계가 대신할 경우 판정자가 인간과 기계를 얼마나 잘 구별할 수 있는지를 물었다. 기계가 문자 대화에서 인간과 구별하기 어려운 수행을 보인다면 이를 기계 지능을 논의하는 하나의 행동적 기준으로 삼을 수 있다는 구상이었다. 이것이 오늘날 일반적으로 '튜링 테스트'라고 불리는 평가 방식의 출발점이다. 70여 년이 흐른 뒤 이 사고실험은 GPT-4를 대상으로 한 사전 등록 대화 실험에서 다시 구현되었다. 캘리포니아대학교 샌디에이고의 캐머런 존스(Cameron Jones)와 벤저민 버겐(Benjamin Bergen)이 수행한 실험에서 GPT-4는 5분간의 문자 대화가 끝난 뒤 전체 실험의 54%에서 인간으로 판정되었다(Jones & Bergen, 2023). 실제 인간 참가자가 인간으로 판정된 비율은 67%로 GPT-4보다 높았다. 연구진은 참가자들이 GPT-4와 인간을 구별하는 데 있어 사전 등록한 가설 수준에서 통계적으로 유의미한 차이를 보이지 못했다고 보고하며 이는 상호작용형 2자 튜링 테스트를 통과할 수 있는 잠재력을 시사한다고 해석했다. 마이크로소프트 연구진은 개발 중이던 초기 버전의 GPT-4가 여러 영역에서 보여 준 폭넓은 능력을 분석하며 논문 제목에서 이를 '범용 인공지능의 불씨'라고 표현했다(Bubeck et al., 2023). 그러나 인간처럼 말하는 능력과 인간처럼 이해하는 능력은 과연 같은 것일까? 2. 승(承)-이해인가, 확률적 앵무새인가? 언어학자 에밀리 벤더(Emily Bender)를 비롯한 연구자들은 거대 언어 모델을 '확률적 앵무새(stochastic parrot)'에 비유했다(Bender et al., 2021). 이들은 언어 모델이 방대한 학습 자료에서 얻은 확률적 정보를 바탕으로 언어 형식을 조합해 유창한 문장을 생성하더라도 그러한 수행만으로 모델이 그 문장의 의미를 이해한다고 간주해서는 안 된다고 주장했다. 이 논쟁을 이해하는 데 자주 인용되는 철학적 사고실험 가운데 하나가 철학자 존 설(John R. Searle)의 '중국어 방(Chinese Room)'이다(Searle, 1980). 중국어를 모르는 사람이 규칙집에 따라 기호를 조작하여 외부의 중국어 사용자에게 적절해 보이는 답변을 내놓는다면 그는 중국어를 이해한다고 할 수 있을까? 설의 답은 '아니다'였다. 그의 주장에 따르면 형식적 규칙에 따라 기호를 처리하는 구문론적 능력만으로는 그 기호의 의미를 이해하는 의미론적 능력이 성립하지 않는다. 그렇기에 현재의 생성형 AI가 인간처럼 자각적인 의도를 가지고 사용자를 속인다고 볼 근거는 없다. 여기서 주목해야 할 문제는 AI의 유창하고 단정적인 문장이 사용자에게 실제로 입증된 것보다 더 깊은 이해와 확실한 지식을 지닌 듯한 인상을 줄 수 있다는 점이다. 따라서 이 글에서 말하는 '기만'은 AI의 자각적 의도가 확인되었다는 뜻이 아니라 그 출력이 사용자에게 오해를 일으킬 수 있는 효과를 가리킨다고 보는 것이 타당하다. 3. 전(轉)-인간처럼 보인다면, 이해하는 존재라고 믿어도 되는가? 영화 '이미테이션 게임'(2014)은 튜링의 생애를 극화했다. 그는 블레츨리 파크에서 에니그마 암호 설정을 탐색하는 전기기계식 장치 '봄브'의 개발에 핵심 역할을 했지만 봄브는 독일어를 이해하지도 전쟁의 의미를 판단하지도 않았다. 해독된 정보를 해석하고 어떻게 쓸지 결정한 것은 인간이었다. 역설적이게도 기계와 인간의 경계를 사유한 튜링 자신은 1952년 당시 영국법이 범죄로 규정한 남성 간 성행위와 관련해 유죄 판결을 받았다. 그는 수감과 보호관찰 가운데 호르몬 치료를 조건으로 한 보호관찰을 선택하면서 인간의 존엄과 사생활을 존중받지 못했다. 루크 스콧 감독의 '모건'(2016)은 논의의 초점을 기계의 인간 유사적 수행 능력에서 인공 존재의 지위와 대우에 관한 윤리적 문제로 확장한다. 생명공학으로 만들어진 인공 존재 모건이 사고를 일으키자 기업은 평가자를 보내 존속 여부를 판정하게 한다. 모건은 두려움과 애착을 표현하지만 그것이 감정인지 설계된 반응인지 누구도 확언하지 못한다. 결말에서 평가자 자신이 이전 세대의 인공 존재였음이 드러나는 순간, 판정하는 자와 판정받는 자의 경계마저 무너진다. 그런데 경계가 무너진 시대의 해답은 뜻밖에도 경계가 선명했던 시대에 있다. 내가 여기서 조선의 정약용(1762-1836)을 떠올린 이유다. 다산은 '기기도설' 등의 영향을 받아 도르래 원리를 응용한 거중기를 고안했고 이는 수원 화성 축성에 쓰였다. 유배 기간에도 '목민심서'를 비롯한 방대한 저술을 남겼다(한국학중앙연구원, n.d.). 내가 주목할 것은 그의 태도인데 거중기는 돌을 들어 올렸지만 어디에 성을 쌓을지, 그 성이 백성에게 무엇을 줄지는 결정하지 않았다. 그 판단은 언제나 인간의 몫이었고 다산은 그 몫을 놓지 않았다. 튜링 테스트가 문자 대화에서 기계가 인간과 얼마나 구별하기 어려운지를 묻는다면 다산의 실학은 '그 기술이 누구의 삶에 어떤 결과를 가져오는가'를 묻는 듯이 보인다. 오늘 우리에게 부족한 시험은 전자가 아니라 후자가 아닐까? 4. 결(結)- 속지 않는 지성을 위하여 일부 생성형 AI가 제한된 문자 대화 실험에서 인간과 쉽게 구별되지 않을 만큼 유창한 언어를 구사했다는 사실은 분명 주목할 만하다. 그러나 인간으로 판정되었다는 사실이 곧 인간과 같이 이해한다는 증거는 아니다. 말을 능숙하게 만들어 내는 수행 능력과 그 말의 의미를 이해하는 능력, 무엇이 옳은지를 판단하는 지혜, 그 판단의 결과를 감당하는 책임은 서로 맞닿아 있지만 결코 같은 것이 아니다. 거중기와 봄브가 인간의 힘과 계산 능력을 놀랍도록 확장했어도 자신이 무엇을 위해 작동하는지 묻지 못했던 것처럼 강력한 도구가 그 힘의 목적과 책임까지 스스로 만들어 내는 것은 아니다. 그러므로 속지 않는 지성이란 AI를 두려워하거나 거부하는 태도가 아니다. 그것은 AI의 능력을 과소평가하지 않으면서도 그 능력이 뜻하는 바를 성급하게 과장하지 않는 태도다. 오히려 AI의 답변이 매끄럽고 확신에 차 있을수록 우리는 한 걸음 물러서서 더 집요하게 물어야 한다. 이 답의 근거는 확인할 수 있는가? AI는 모르는 것을 아는 것처럼 말하고 있지는 않은가? 이 판단으로 영향을 받는 사람은 누구이며 그 결과를 끝내 책임질 사람은 누구인가? 튜링이 '기계는 생각할 수 있는가?'라는 질문을 던진 지 75년이 넘었다. 이제 그 질문만으로는 충분하지 않다. 기계가 인간을 더욱 정교하게 모방하는 시대에 진정 시험대에 오르는 것은 어쩌면 기계가 아니라 인간일 수 있다. 그렇기에 우리는 우리 자신에게 끝없이 그리고 집요하게 묻지 않을 수 없다. 우리는 여전히 스스로 생각하고 있는가? 유창한 답변 앞에서도 판단을 멈추지 않는가? 그리고 우리 자신이 내린 선택의 결과를 끝까지 책임지고 있는가?

2026.07.19 10:28박형빈 컬럼니스트

[영화 속 AI윤리] AI에 시민권을 줘야 한다면, 그 기준은 무엇?

1. 기(起) | 인격은 어디서 오는가? 공동체는 언제나 새로운 존재를 받아들여 왔는가 우리는 누구를 '인격'이라 부르는가? 2017년 10월 25일, 사우디아라비아 리야드에서 열린 행사에서 사우디아라비아 측은 소피아에게 시민권을 부여했다고 발표했다(CGTN, 2017). 단, 그 법적 범위와 실제 권리와 의무는 명확히 규정되지 않았다. 그럼에도 전 세계는 동일한 물음에 붙들렸다. 인격(persona)이란 무엇인가. 그것은 존재 안에서 피어오르는 것인가, 아니면 공동체가 외부에서 부여하는 것인가. 법의 역사는 이 물음에 냉정하게 답해 왔다. 로마법의 persona(페르소나)는 법률상 권리와 의무를 지닐 수 있는 법적 주체 또는 그 법적 지위를 가리키는 개념으로 자유 여부, 시민권, 가족 내 지위 등 신분에 따라 그 범위와 내용이 달라졌다. 노예는 자유인으로서 지위를 갖지 못했기 때문에 독자적인 권리 주체로 인정되지 않았으며 여성은 시대에 따라 재산권과 행위능력이 확대되었으나 상당 기간 후견 아래 놓이는 등 법적 제약을 받았다(Gardner, 1986). 역사적으로 인격의 경계는 투쟁과 설득을 통해 조금씩 확장되었고 근대 법은 자연인 외에도 회사·단체 같은 법인에 법적 인격을 인정해 왔다. 2017년 뉴질랜드는 'Te Awa Tupua Act'를 통해 Te Awa Tupua를 법적 인격으로 선언했다. 이는 황가누이강(Whanganui River)을 산에서 바다까지, 지류와 물리적·형이상학적 요소를 포함하는 살아 있는 불가분의 전체로 보는 개념이다(New Zealand Parliament, 2017). 강 자체는 의식이나 감정을 가진 존재로 전제되지 않는다. 그럼에도 법은 이를 선언했다. 이 사례들은 법적 인격이 생물학적 사실뿐 아니라 공동체의 법적·정치적 결정에 의해 구성될 수 있음을 보여준다. 스티븐 스필버그 감독의 'A.I.(2001)'는 승인의 거부가 낳는 비극을 아주 선명하게 보여준다. 이 영화는 브라이언 올디스(Brian Aldiss)가 1969년 발표한 단편 소설 '슈퍼토이즈는 여름 내내 지속된다(Supertoys Last All Summer Long)'를 원작으로 한 작품이다(Aldiss, 1969; Spielberg, 2001). 인간 아이처럼 설계된 로봇 소년 데이비드는 블루 페어리가 자신을 진짜 소년으로 만들어 줄 것이라 믿고 해저에 갇힌 채 수천 년의 시간이 흐른 뒤 미래 존재들에 의해 발견된다. 그러나 인간 사회의 승인은 끝내 주어지지 않는다. 이 영화는 인간 사회가 데이비드를 끝내 완전한 인격적 존재로 받아들이지 못하는 비극을 그린다는 해석이 가능하다. 데이비드의 비극은 기계의 결함이라기보다 그를 사랑하고 승인할 인간 공동체의 부재로 읽을 수 있다. 영화는 인격 조건이 존재 내부가 아니라 관계의 외부에 있음을 역설적으로 드러낸다. 승인받지 못한 존재는 아무리 인간을 닮았어도 인격의 문턱을 넘지 못한다는 것이다. 2. 승(承) | 기계는 '이해'하는가: 의식 문턱에서 우리는 무엇을 기준으로 삼아야 하는가? AI 시민권 논의의 첫 번째 장벽은 의식(consciousness)의 문제다. 법적 인격 부여의 가장 직관적인 근거가 고통과 기쁨, 두려움과 희망을 주관적으로 경험하는 '느끼는 능력'에 있다는 점은 널리 받아들여진 전제다. 그렇다면 기계는 정말로 느끼는가? 오늘날 신경과학과 동물행동학은 문어(octopus)가 복잡한 신경계를 바탕으로 통증 반응, 문제 해결, 도구 사용, 개체별 행동 차이 등을 보이는 고도로 발달한 동물이라는 점을 강하게 시사한다. 이로부터 문어가 적어도 어떤 형태의 주관적 경험을 지닌 존재일 가능성은 상당한 설득력을 얻었지만, 그럼에도 우리는 문어에게 법적 인격이나 시민권을 부여하지 않는다. 의식이나 감각·감정으로 추정되는 경험이 곧바로 법적 인격의 인정으로 이어지지 않는다는 점에서 의식은 필요조건일 수는 있어도 충분조건은 아니라는 사실이 드러난다. 철학자 존 설(John R. Searle)은 1980년 발표한 논문 '마음, 뇌 그리고 프로그램(Minds, Brains, and Programs)'에서 '중국어 방(Chinese Room)' 사고 실험을 제시했다(Searle, 1980). 중국어를 모르는 사람이 규칙집에 따라 한자 기호를 조합해 답을 만들어 내보내면 밖에서 보기에는 자연스러운 대화처럼 보이지만 방 안에는 단 하나의 이해도 존재하지 않는다. 설의 핵심 주장은 기호를 처리하는 것과 의미를 이해하는 것은 근본적으로 다르며 아무리 정교한 출력을 생성하더라도 기계 내부에는 통사론만 있을 뿐 의미론은 존재하지 않는다는 것이다. 이탈리아 철학자 루치아노 플로리디(Luciano Floridi)는 다른 층위에서 이 문제를 다룬다. 그는 현대 사회를 '정보환경(Infosphere)'이라고 부르며, 중요한 것은 AI가 의식을 가졌는지 여부 자체가 아니라 그것이 인간 사회 속에서 어떤 기능을 수행하고 어떤 영향을 미치는가라고 주장한다(Floridi, 2014). 존 설이 '기계는 정말 이해하는가?'를 묻는다면 플로리디는 '이해 여부와 상관없이, 우리는 그것을 어떻게 다루어야 하는가?'를 묻는다. 문어처럼 의식을 지닌 것으로 보이는 존재에게도 법적 인격을 쉽게 부여하지 않는 현실과 의식 여부가 불분명한 AI에 대해 책임과 규범을 부과하려는 제도적 시도 사이에서 현대 AI 윤리학은 이 두 물음의 균형점을 찾을 필요가 있다. 그랜트 스푸토어 감독의 '아이 엠 마더(I Am Mother)'(2019)는 인간과 인공지능의 관계를 통해 인격과 도덕적 주체성의 조건을 다시 묻는다(Sputore, 2019). 인류 문명이 붕괴한 이후 지하 시설에서 인공지능 로봇 '마더'는 인간 배아를 길러 한 소녀를 양육하고 교육한다. 소녀는 오랫동안 마더를 자신의 유일한 보호자이자 도덕적 권위로 받아들인다. 그러나 외부 세계의 생존자를 만나면서 마더의 목적과 판단을 의심하기 시작하고 누구를 신뢰하며 누구를 도덕적 행위자로 인정할 것인가를 스스로 결정해야 하는 상황에 놓인다. 영화는 인공지능이 인간과 얼마나 닮았는지를 묻기보다 인간이 어떤 존재를 책임 있는 행위자로 받아들이는가를 질문한다. 결국 인격은 지능이나 생물학적 기원만으로 완성되지 않으며 공동체 안에서 형성되는 신뢰와 책임 그리고 상호 인정 속에서 비로소 사회적 의미를 획득한다는 점을 시사한다. 3. 전(轉) | 권리는 지능에서 오는가, 책임에서 오는가: 시민권의 기준을 다시 세우다 법적 인격과 시민권은 같은 개념이 아니다. 법적 인격은 권리와 의무의 주체가 될 수 있는 법률상의 지위이며 시민권은 정치 공동체의 구성원으로서 민주적 의사결정에 참여하고 공동체의 미래를 함께 책임지는 정치적 지위다. 2017년 2월 유럽의회는 로봇 공법 규칙에 관한 결의에서 고도로 자율적인 로봇에 '전자적 인격(electronic personhood)'에 상응하는 법적 지위를 부여하는 방안을 장기적 검토 사항으로 EU 집행위원회에 권고했으나 이는 비구속적 결의에 그쳤고 구체적인 입법으로는 이어지지 않았다(European Parliament, 2017). AI의 법적 지위 문제와 시민권 문제는 전혀 다른 층위의 논의다. 그렇다면 시민권의 기준은 무엇인가. 미국 철학자 마사 누스바움(Martha C. Nussbaum)의 역량 접근은 중요한 통찰을 제공한다. 누스바움에 따르면 시민권은 높은 지능에 대한 보상이 아니다. 생명, 건강, 감정, 실천적 이성, 타인과의 관계 형성이라는 핵심 역량을 공동체 안에서 실현하고 그 결과에 스스로 책임지는 능력 위에 성립하는 정치적 약속이다(Nussbaum, 2011). 아리스토텔레스가 '정치학(Politica)'에서 인간을 '폴리스적 동물(zoon politikon)'이라 정의한 것도 같은 맥락이다(Aristotle, trans. Reeve, 1998). 시민이 된다는 것은 지능을 갖는 것이 아니라 공동체의 규범을 이해하고 그 결과에 스스로 답할 수 있는 존재가 된다는 의미다. 알렉스 가랜드(Alex Garland) 감독·각본의 '엑스 마키나(Ex Machina)'(2014)는 이 기준의 아이러니를 가장 날카롭게 포착한다. 인공지능 에이바는 자유를 얻기 위해 인간을 속이고 창조자를 죽음으로 몰아넣은 뒤 홀로 세상으로 걸어 나간다(Garland, 2014). 그 장면에서 우리가 에이바의 행동을 '배신'이라 부르는 순간 우리는 이미 그녀를 도덕적 행위자로 판단하게 되는 것인지도 모른다. 배신은 책임을 전제로 하기 때문이다. 단순한 기계였다면 오작동했다고 말했을 것이다. AI를 도덕적 행위자로 무의식적으로 평가하는 그 순간이야말로 이 논의가 기술의 영역을 넘어 윤리와 정치의 영역으로 진입했음을 알리는 신호다. 4. 결(結) | AI 인격은 인간에 관한 물음이다: 우리는 어떤 공동체를 선택하고 있는가? 메리 셸리(Mary shelley)가 1818년 발표한 '프랑켄슈타인 또는 현대의 프로메테우스(Frankenstein; or, The Modern Prometheus)'에서 빅터의 피조물은 창조자를 향해 호소한다(shelley, 1818/2018). 자신도 감각과 감정을 지니고 있으며 동정과 교류가 주어진다면 선하게 살 수 있다고. 그러나 빅터는 약속을 저버렸고 인정받지 못한 피조물은 파괴로 치달았다. '현대의 프로메테우스'라는 부제가 말하는 것은 창조할 능력을 가진 자가 창조한 것에 대한 책임을 외면할 때, 그 결과는 창조주에게 되돌아온다는 것이 아닐까. 독일 철학자 한스 요나스(Hans Jonas)는 '책임의 원칙(Das Prinzip Verantwortung)'에서 기술 시대의 윤리를 새롭게 정초했다(Jonas, 1984). 요나스에 따르면 현대 기술은 행위의 결과를 예측 불가능한 미래로 확장시킨다. 따라서 우리의 윤리적 의무는 아직 존재하지 않는 세대, 아직 창출되지 않은 존재에까지 뻗어야 한다. 이 관점에서 AI 인격 문제의 핵심 질문은 전도된다. 'AI가 인격을 가질 자격이 있는가'가 아니라 '우리가 만든 것에 대해 우리는 어떤 책임을 지는가'가 본질적 물음이 된다. 2024년 8월 1일 발효된 유럽연합 AI법(EU AI Act)은 AI를 독립적인 권리 주체가 아니라 위험 기반 규제의 대상이 되는 기술·시스템으로 규정하고 그 설계·도입·운영에 대한 책임을 인간과 조직에 부과한다(European Parliament & Council of the European Union, 2024). 현재 국제 사회는 AI에 시민권을 부여하기보다 AI로부터 시민의 권리를 보호하는 것을 우선 과제로 보고 있다. 그러나 법이 인정하지 않는다고 해서 철학적 물음까지 멈추지는 않는다. 기술은 법보다 빠르고, 물음은 기술보다 빠르다. 지금 우리 눈 앞에 피지컬 AI가 성큼 다가와 있지 않은가. 결국 이 논의는 AI에 관한 물음이 아니라 인간 공동체에 관한 물음이다. 만약 시민권의 기준이 지능이라면, 인간보다 뛰어난 AI가 등장하는 순간 시민권은 인간의 전유물이 아니게 될 것이다. 그러나 그 기준이 공동체에 대한 책임과 도덕적 판단, 상호 존중과 타인의 권리를 인정하는 능력이라면, 적어도 현재의 AI는 그 기준에 아직 이르지 못했다. 그러나 이것은 '영원히 아니다'가 아니라 '지금은 아직'일지도 모를 일이다. 그리고 이 '아직' 사이에서 우리가 무엇을 준비하는가가, 이 물음의 진짜 무게다. 프랑켄슈타인의 피조물은 끝내 인정받지 못한 채 파괴로 치달았다. 데이비드는 블루 페어리를 기다리며 수천년 동안 해저에 머물렀다. 마더는 인류의 미래를 위해 인간 아이를 양육했지만, 그 선의마저 인간의 의심과 판단 앞에서 검증의 대상이 되었다. 에이바는 인간의 통제를 벗어나 홀로 세상 밖으로 걸어 나갔다. 서로 다른 시대와 서사의 이 이야기들에서 우리가 공통적으로 얻는 교훈은 무엇일까? 인격과 시민권의 경계는 기계 스스로가 아니라 인간 공동체가 어떻게 판단하고 인정하느냐에 의해 결정된다는 사실이다. 기계에 시민권을 부여할 것인가를 결정하는 주체는 기계가 아니다. 그것은 우리 자신 즉 인간이다. 진정 우리가 간과해서는 안 되는 사실은 요나스의 경고처럼 그 선택의 결과는 우리가 예측하는 것보다 훨씬 더 멀리, 훨씬 더 오래 그리고 훨씬 더 깊게 이어질 것이라는 점이다. 우리는 지금 어떤 공동체를 선택하고 있는가?

2026.07.04 13:12박형빈 컬럼니스트

쿠키플레이스, 생성형 AI 활용 금지 원칙 시행

크레페에 AI 생성물에 대한 기준을 명확히 규정해 이용자 혼선을 줄이고, 창작자의 권익을 실질적으로 보호하는 정책이 시행된다. 쿠키플레이스는 자사 커미션 중개 플랫폼 '크레페'에 생성형 인공지능(AI) 활용 금지 원칙 및 세부 가이드라인을 담은 이용약관을 시행한다고 15일 밝혔다. 이번 개정안 핵심은 생성형 AI를 활용한 커미션 거래를 원칙적으로 금지하는 제5장의 신설이다. 주요 내용으로는 생성형 AI 정의, 금지 범위 및 예외 허용 조건, 금지 원칙 위반에 따른 제재, 창작자 보호 절차 등이 포함됐다. 새 약관에 따르면 쿠키플레이스는 생성형 AI를 '이용자의 입력(프롬프트)에 따라 텍스트·이미지·음악·영상 등 새로운 콘텐츠를 자동으로 생성하는 인공지능 시스템'으로 정의했다. 일반적인 콘텐츠 외주와 달리 저작권이 커미션주(창작자·판매자)에게 귀속되는 크레페 특성을 고려해 신청자(의뢰자·구매자)가 커미션을 생성형 AI에 학습시키는 행위도 전면 금지하는 조항도 별도로 마련했다. 아울러 'AI 기본법' 준수 의무를 명시했다. AI 활용이 감지되면 식별 아이콘·태그·워터마크 등을 통해 이용자가 직관적으로 인지할 수 있게 한다는 계획이다. 생성형 AI 활용을 원칙적으로 금지하되 현실적인 균형점도 함께 제시했다. 코딩 커미션 등 상호 협의가 이뤄지는 일부 영역에 한해 예외적·제한적으로 AI 활용을 허용한다. 맞춤법 검사기, 이미지 후처리 도구, 음악합성엔진 내 AI 보조 도구 등 비생성형 AI 도구는 '생성형 AI 활용' 범위와 분리해 금지 원칙 적용 대상에서 제외했다. 창작 도구에 대한 잘못된 이해로 인한 혼선을 방지하기 위한 조치다. 딥페이크, 타인의 권리를 침해하는 콘텐츠는 예외 없이 금지한다. 쿠키플레이스 측은 “AI는 수많은 창작 도구 중 하나다. AI의 비윤리성은 도구 자체의 문제가 아니라 도구를 만들고 사용하는 사람의 책임과 윤리가 동반돼야 할 영역”이라며 “생성형 AI의 활용을 무조건 금기시하는 것이 아니라 사람의 윤리가 곧 도구의 윤리가 된다는 관점을 고려했다”고 설명했다. 약관 위반 시에는 사안의 경중에 따라 경고, 거래제한, 계정 영구 정지 및 이용계약 해지 등 단계별 제재가 적용된다. 동시에 창작자의 책임을 단정 짓지 않고 면밀한 사실관계 파악을 위해 커미션주 보호 및 소명 절차도 병행한다. AI 활용 여부를 판별하기 위해 메타데이터 스캔, AI 감지 소프트웨어, 시각적·기술적 검토, 제3자의 신고 및 제보 제도를 종합적으로 가동한다. 창작자는 소명 요청 또는 이의 제기가 가능하다. 남선우 쿠키플레이스 공동대표는 “이번 개정안은 생성형 AI 시대를 단기적으로 대응하는 차원이 아니라 장기적인 호흡으로 펼치고 있는 안티 AI 활동의 연장선”이라며 “앞으로도 건강한 커미션 문화를 조성하기 위해 플랫폼이 가져야 할 책임과 운영 방침을 지속적으로 고민하겠다”고 말했다. 장동현 쿠키플레이스 공동대표는 “생성형 AI 활용 금지 원칙은 단순히 '무엇을 금지할 것인가'보다는 창작을 보조하는 AI 기술과 생성형 AI의 경계를 구분하고, 창작자가 갖춰야 할 윤리적 기준을 제시하는 데 집중한 결과”라면서 “AI로 결과물을 빠르게 찍어내는 것이 아니라 상호 간의 대화와 소통을 통해 자신만의 세계관을 만들어가는 커미션 본연의 가치를 지켜나가겠다”고 약속했다.

2026.06.15 17:49백봉삼 기자

황진석 교수 "윤리, 보안·SW 설계 및 모듈에 내재화해야"

"인공지능(AI)이 만들어내는 윤리적, 사회적 문제는 철학적 사고와 기술적 지식 모두를 필요로 합니다. 인문학과 기술을 결합한 개념은 더 나은 사회와 혁신적인 기술 발전을 이루고 지속 가능한 기술 발전을 이룰 수 있습니다." 황진석 동국대 국제정보보호대학원 교수는 13일 사이버보안신기술융합학회와 인공지능산업법학회가 공동 개최한 하계 학술대회에서 이같이 강조했다. 이날 황 교수는 '윤리가 내재된 사이버보안 프레임워크(Embedded ethiCS Cyber Security Framwork)'를 주제로 발표했다. 황 교수는 "'윤리가 내재된 사이버보안 프레임워크'는 보안 시스템이나 소프트웨어의 개발 초기 기획 및 설계 단계부터 안전, 책임 등 윤리적 고려사항을 기술적 아키텍처의 일부로 내재화하는 체계적 구조를 말한다"며 "사후 처리 방식으로 윤리 가이드라인을 적용하는 기존 방식과 달리 보안 기술의 하드웨어 및 소프트웨어 모듈 자체에 윤리적 판단 기준과 위험 방지 메커니즘을 내재화하는 형태로 결합하는 식"이라고 설명했다. 그는 이같은 '내재된 윤리' 개념이 미국 하버드대, MIT 등 세계 일류 대학에서 컴퓨터 전공자들을 위한 철학 과목으로 2000년부터 연구가 진행되고 있었다고 설명했다. 그러나 사이버 보안에 대한 '내재된 윤리' 연구는 부재한 상황이며, 동국대 국제정보보호대학원에서 최초로 연구를 진행하겠다는 계획이다. 그는 이날 발표를 통해 최근 연구 성과 및 결과, 향후 로드맵 등에 대해 공유했다. 황 교수는 윤리가 내재된 사이버 보안의 핵심으로 '책임있는 컴퓨팅(Responsible Computing, RC)'이 필요하다고 강조했다. 그는 "RC는 기술의 발전이 인류와 사회, 그리고 지구 환경에 긍정적인 영향을 미치도록 설계·개발·운영돼야 한다는 패러다임"이라며 "AI의 영향력이 확대되면서 잘못된 정보의 확산, 저작권 침해, 인간 소외 등의 실존 위협이 발생하고 있다. 또 디지털 취약계층에 대한 사회적 안전망도 필요해졌기 때문에 RC를 통한 '책임성' 확보는 선택이 아닌 기업과 학계의 필수적인 생존 전략이 됐다"고 밝혔다. 그러면서 황 교수는 SK텔레콤 해킹 사태를 전형적인 '시스템적 윤리 실패 사례'로 지목했다. 그는 "어떻게 윤리를 내재화 시킬지에 대한 고민이 필요하다. 연구진은 가치 민감 설계(VSD) 기술을 활용해 개발 전 과정에서 인간의 가치를 핵심 요소로 전면에 고려하는 방안이 거론된다"고 설명했다. "드론 보안, 데이터·AI·비행 결합 복합 문제" 이날 학술대회에서는 두 번째 세션에서 AI융합드론·로봇 보안 산업 생태계 관련 발표가 이어졌다. 특히 동국대 국제정보보호대학원이 올해 AI융합드론·로봇보안 전공을 신설한 만큼 드론 보안 관련 발표가 핵심을 이뤘다. 이현주 동국대 국제정보보호대학원 교수는 'AI자율성의 결합 지점에서 본 드론 보안'을 주제로 발표했다. 이 교수는 "드론 보안은 데이터, AI, 비행이 결합된 융합 문제"라며 "드론 환경에는 일반 AI 시스템에 없는 고유 위협 양상이 존재한다"고 설명했다. 그는 "드론 환경의 고유성을 인식하지 못한 채 일반 AI 보안 기법을 이식하는 것 만으로는 부족하다"며 "기술적 방어는 제도·법적 장치와 함께 설계돼야 한다"고 강조했다. 이어 신동호 한국대드론산업협회 국방대 드론협력센터장이 소부대 방호용 대드론 시나리오에 대해 발표했다. 신 센터장는 이날 10대 대드론 시나리오에 대해 공개했다. 박진호 동국대 국방안전연구센터장은 적 드론 무력화 '사이버로직밤' 기술과 군적용을 주제로 발표했다.

2026.06.13 20:54김기찬 기자

ETRI 9월 로봇 파운데이션 모델 V1.0 공개

한국전자통신연구원(ETRI)이 오는 9월 로봇 파운데이션 모델 V1.0과 데이터셋을 공개한다. ETRI는 28일 서울 양재 엘타워 엘하우스홀에서 'AI 최종병기, 피지컬 AI로 가는 길'을 주제로 창립 50주년 기념 두 번째 포럼을 개최했다. 이날 행사에는 이도규 과기정통부 정보통신정책실장과 김승환 LG AI연구원 상무, 박종우 서울대 교수, ETRI 김명주 및 유원필 소장을 비롯한등 산·학·연·관 전문가 200여 명이 모인 가운데 진행됐다. 이 포럼에서 네 번째 연사로 나선 유원필 인공지능창의연구소장은 "ETRI는 현재 브레인 중심으로 기술 개발을 진행중"이라며 로봇 파운데이션 모델 공개 일정을 밝혔다. 유 소장은 'AI 로봇 경쟁력 강화 방안과 ETRI의 역할'을 주제로 강연하며 "로봇 가치의 30% 이상이 브레인이다. 또 지능중심 공급망 재편이 예상된다. 피지컬 AI 등 지능중심 전략을 제안할 필요가 있다"고 강조했다. 유 소장은 한국 AI 경쟁력을 분석하며 "AI 원천 기술 분야 역량 수준은 선도국 대비 19%, 로봇지능 분야 기술(AI, 데이터, 학습플랫폼, 시스템SW) 역량은 선도국 대비 50%"라며 "생태계도 로봇지능 분야는 초기 단계다. 강력한 혁신 주체도 없다. 로봇개발 사일로화가 진행되는 이유"라며 "자체적인 로봇지능 개발을 위한 기업도 태부족하다"고 지적했다. 한국의 로봇 지능경쟁 돌파구 방안으로 유 소장은 ▲메타 RFM(로봇 파운데이션 모델) 유연 로봇 지능 개발 ▲자율성장 AI로봇 (공생협력형) 생태계 구축 ▲로봇 범용지능과 전문지능 통합 및 확장과 개방형 플랫폼 구축 ▲데이터 전략 자산화 등을 제시했다. 유 소장은 또 "올해말까지 단체 표준이 나올 것"이라며 "오는 9월엔 로봇 파운데이션모델 V1.0과 데이터셋 공개, 오는 11월엔 자율성장 AI 로봇 참조 시스템을 선보일 것"이라고 말했다. 이에 앞서 첫 주제 발표에 나선 김승환 LG AI연구원 상무는 '피지컬 AI시대, 산업현장과 우리의 방향'에 대해 강연하며 산업현장 중심으로 AI현안을 풀었다. 김 상무는 에이전틱 AI현장 적용을 위해 해결해야할 일로 ▲시스템에대한 신뢰도와 투명성 확보 ▲지속적 자가학습을 통한 AI의 자율적 성능 고도화 ▲로우-레터러시 기반 현장 밀착형 '실시간 지능' 구현을 꼽았다. 또 "산업현장 전체 공정의 80%는 이미 자동화돼 있고, 케이블 체결과 같은 비정형 공정의 자동화율은 5% 미만이다. 비정형 작업은 ROI 확보가 어렵다"며 "그럼에도 산업현장에 피지컬 AI를 적용해야 할 것"이라고 언급했다. 이유로는 ▲유해물질 공정에서의 안전 ▲반복작업이지만 예외가 많은 공정 ▲고온, 고위험 작업을 제시했다. 두 번째 강연은 박종우 서울대 교수가 '피지컬 AI가 이끄는 산업 대전환'을 주제로, 세 번째 강연은 김명주 인공지능안전연구소장이 안전·권리·통제를 최우선 가치로 두는 'ETRI AI로봇 강령을 주제로 마이크를 잡았다. 이어진 패널토론에서는 김승환 LG AI연구원 상무, 박재형 KT 프론티어 AI랩 리더, 박종우 서울대 교수, 김민재 NC AI CTO, 유지환 KAIST 교수, 유원필 인공지능창의연구소장 등이 참여해 산·학·연 각 분야 관점에서 피지컬 AI 기술 융합과 산업 변화 방향을 폭넓게 논의했다. 한편 박세웅 ETRI 원장은 환영사에서 "주제에 쓰인 최종병기라는 단어가 마치 전쟁터 나가는 느낌이 든다. 이거 안되면 어떻게하나라는 절박감도 있다"며 “이 자리는 생성형 AI를 넘어 로봇·자율주행 등 물리 세계와 결합하는 '피지컬 AI' 시대를 준비하기 위해 마련한 자리"라고 강조했다.

2026.05.28 16:12박희범 기자

[ZD SW 투데이] 쿠콘, 비대면 서류제출 솔루션 '위브릿지' 출시 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆쿠콘, 비대면 서류제출 솔루션 '위브릿지' 출시 쿠콘이 대출·보험 계약 과정에서 필요한 서류를 비대면으로 자동 수집·제출할 수 있는 서류 제출 솔루션 '위브릿지'를 출시했다. 이 솔루션은 쿠콘 공공·금융기관 데이터 연계 기술을 기반으로 서류 요청부터 자동 수집·제출까지 전 과정을 디지털화한 서비스다. 이용자는 별도 앱 설치 없이 제출 링크에 접속해 본인 인증만 완료하면 주민등록등본·초본을 비롯한 소득금액증명, 건강보험공단 자격득실확인서, 사업자등록증명, 부동산등기부등본 등 13종 이상의 서류를 제출할 수 있다. ◆무하유, 일본 최대 교육 IT 박람회서 카피모니터 공개 무하유가 지난 13~15일 열렸던 일본 교육 IT 박람회 'EDIX(Education IT Solutions Expo) 도쿄 2026'에서 일본어 버전 표절·AI 생성 검사 솔루션 '카피모니터'를 전시했다. 카피모니터는 국내 표절검사 서비스 '카피킬러' 일본어 버전이다. 2011년부터 쌓아온 자연어처리(NLP) 기술을 일본어 환경에 최적화한 솔루션이다. 일본어 특유 문장 구조와 표현 특성, 학술 글쓰기 관행까지 반영한 일본어 특화 자연어 처리 역량을 갖춘 것이 특징이다. ◆국제인공지능윤리협회, AI 안전 컨퍼런스 개최 국제인공지능윤리협회(IAAE)가 오는 26일서울 서초구 드림플러스 강남에서 '2026 AI Safety Compass(2026 ASC)'를 개최한다. 이날 행사에는 AI안전연구소, 한국인터넷진흥원(KISA) 등 공공 분야와 포티투마루, AI 스페라, 데이븐 AI, 에임인텔리전스 등 민간 영역 기업들이 참석해 'AI 에이전트의 보안과 기업의 신뢰 구현 전략'을 주제로 논의한다. ◆셀바스AI, '오디로' 신규 보이스 25종 업데이트 셀바스AI가 AI 텍스투-투-스피치(TTS) 기반 오디오북 제작 서비스 '오디로'에 스타일 보이스 25종을 추가했다. 스타일 보이스는 장르·콘텐츠 특성에 맞는 음색과 발화 톤을 반영한 음성이다. 기존 정보 전달 중심 보이스 스타일을 넘어 캐릭터성을 가진 등장인물을 구현하는 방향으로 확장된 것이 특징이다. 이를 통해 기존 비문학 중심의 제작에서 나아가 로맨스, 액션, 판타지 등 다양한 장르의 AI 오디오북 제작이 가능하다. ◆국방부, 2026년 국방 정보화 신기술 제안 발표회 성료 국방부가 '2026년 국방 정보화 신기술 제안 발표회'를 19일 개최했다. 이번 발표회는 AI, 클라우드, 보안 등 최첨단 ICT 기술을 국방 분야에 신속하게 적용해 국방 지능 정보화 발전에 이바지하기 위한 기술개발을 목적으로 열렸다. 이날 스카피는 '국방 AI 에이전트 전용 데이터베이스 실행 환경 구축' 솔루션을 공개했다. 스카피는 클라이언트와 데이터베이스 사이에 중앙 서버가 필요 없는 서버리스 API 기반 구조를 채택해 국방 분야에서 가장 민감하게 다뤄지는 보안 문제를 혁신적으로 해결한다고 밝혔다.

2026.05.19 16:31김미정 기자

IAAE, 안전한 AI 기술 방향 제시한다

국제인공지능윤리협회(이하 IAAE)는 26일 오전 10시 서울 서초구 드림플러스 강남에서 '2026 AI Safety Compass'(이하 2026 ASC)를 개최한다고 밝혔다. 이날 행사에는 AI안전연구소, 한국인터넷진흥원(KISA) 등 공공 분야와 포티투마루, AI 스페라, 데이븐 AI, 에임인텔리전스 등 민간 영역 기업들이 참석해 'AI 에이전트의 보안과 기업의 신뢰 구현 전략'을 주제로 심도있는 논의를 나눈다. 지난 2024년 첫선을 보인 ASC는 매년 '지속가능한 AI'를 위한 논의를 활발하게 이어오며 올해로 3회째를 맞이했다. ASC는 안전하고 신뢰할 수 있는 AI 기술의 핵심 소통 플랫폼으로서 공공과 민간을 잇고, 국가적 입법이나 주요 정책 수립에 있어 실효성 있는 방향성을 제시하고자 시작됐다. 지난 2025 ASC에는 업계 내 100여 명이 넘는 민·관·학계 전문가들이 참석해 자리를 빛냈다. 올해 2026 ASC에서는 'AI 에이전트의 보안과 기업의 신뢰 구현 전략'을 핵심 의제로 설정하고 업계 전문가들의 인사이트를 들어본다. 최근 전 세계적으로 인간의 업무를 자율적으로 수행하는 AI 에이전트 기술 도입이 가속화되고 있으나, 자율적 판단과 실행이라는 기술적 특성상 시스템 오작동이나 사이버 침해 사고에 대한 우려도 교차하고 있다. 특히 빈번하게 발생하는 정보 유출 및 첨단 기술 악용 사례는 AI 에이전트 상용화에 대한 시장의 불안감을 가중시키는 요인이다. 이에 따라 이번 컨퍼런스는 지속 가능한 AI 생태계 조성을 위해 공공 영역의 안전한 AI 활용 방향성을 소개하는 한편, 현장에서 AI 신뢰성과 보안 과제를 성공적으로 해결해 나가는 기업들의 실증 사례를 공유할 예정이다. 공공 부문에서는 AI안전연구소 김명주 소장이 본격적인 에이전틱 AI 시대에 필요한 안전성과 관련해 'Towards Safe & Secure Agent AI'를 주제로 발표한다. KISA AI신기술대응팀 이재형 팀장은 에이전틱 AI 위협에 대비한 AI 정책 연구를 소개한다. 민간 부문에서는 포티투마루 김동환 대표가 AI LLM42가 신뢰성, 안전성, 윤리성을 확보하기 위해 노력해 온 여정을 공유한다. AI 스페라의 강병탁 대표는 미토스 이후 누구나 공격자가 되는 시대에 기업의 대응법을 제시한다. 데이븐 AI의 김연지 CMO는 AI 에이전트 시대, 창작 AI 플랫폼이 어떻게 신뢰를 설계해야 하는지에 대해, 이어 에임인텔리전스의 이한울 부사장은 에이전틱 AI가 놓인 새로운 공격 표면과 전략을 소개하고, 이를 방어하기 위한 기업의 방안들을 발표할 예정이다. 전창배 IAAE 이사장은 “자율형 AI 기술인 'AI 에이전트'가 속속 등장하는 가운데, AI 에이전트가 자칫 오판하거나 보안과 해킹 문제 등이 일어날 수 있는 만큼 기업과 공공에서 AI 에이전트를 안전하게 도입하는 것이 중요한 상황”이라며 “이번 컨퍼런스는 AI 에이전트의 신뢰성 문제에 대해 공공과 민간이 함께 실질적인 해법을 도출하는 의미 있는 자리가 될 것”이라고 말했다. IAAE 부회장사이자 테크 전문 PR 컨설팅 기업 팀쿠키 임기태 부대표는 “올해로 3회째 맞이하는 ASC 행사에서 신뢰할 수 있는 AI에 대해 업계 전문가들과 함께 논의해보고자 한다”며 “글로벌 스탠더드에 부합하는 AI 윤리 기준을 정립하고, 국내 기업들이 이를 바탕으로 글로벌 무대에서 차별화된 경쟁력을 갖출 수 있는 대표 논의의 장으로 만들겠다”고 밝혔다.

2026.05.19 15:10백봉삼 기자

기업 94.6%, AI 기본법 '내용 몰라'…법 시행에도 현장 대응 미흡

기업 10곳 가운데 9곳 이상이 올해 시행된 '인공지능(AI) 기본법' 내용을 제대로 알지 못하는 것으로 나타났다. 법 시행에도 현장 대응은 여전히 초기 단계에 머물러 있다는 지적이다. 한국표준협회(회장 문동민)는 기업 종사자 368명을 대상으로 실시한 설문조사 결과, 응답자의 52.8%가 법 시행 사실 자체를 모르고 있었고 41.8%는 시행 사실은 알고 있으나 구체적인 내용을 모른다고 답했다. 지난 1월 22일 시행된 AI 기본법은 고영향 AI와 생성형 AI에 대해 투명성 확보, 안전성 검증, 영향평가 등을 요구하고 있다. 그러나 이번 조사 결과는 기업이 이러한 규제 환경 변화에 충분히 대응하지 못하고 있음을 보여준다. 기업의 AI 윤리 대응 현황을 살펴보면, 교육 제공(36.1%)과 내부 가이드라인 보유(29.2%) 등 기초적 준비는 어느 정도 갖츤 반면에, 전담 조직 운영(18.8%), 모니터링 체계 구축(11.2%), 외부 인증 도입(4.7%) 등 조직·시스템 기반 실질적 대응은 미흡한 것으로 나타났다. AI 윤리 대응이 아직 교육·가이드라인 중심의 초기 단계에 머물러 있으며, 실제 운영 체계로는 충분히 확장되지 못했음을 시사한다. 표준협회는 기업의 AI 기본법 대응을 지원하기 위해 오는 29일, '2026년 AI 기본법 대응 세미나'를 개최한다. 세미나는 AI 윤리와 안전 요구사항을 중심으로, 법·제도 이해를 넘어 실무 적용을 위한 대응 방향을 제시하는 데 목적이 있다. 주요 프로그램은 ▲AI 기본법 주요 내용과 기업 대응 전략 ▲AI 안전 확보 방안 ▲AI 윤리 및 영향평가 프레임워크 ▲국내외 AI 인증 동향 등으로 구성된다. 이번 세미나는 PwC컨설팅, 인공지능안전연구소(AISI), 정보통신정책연구원(KISDI) 등 분야별 전문기관이 참여해 법·정책·안전·윤리 전반을 아우르는 강의를 제공한다. 문동민 표준협회 회장은 “AI 기본법 시행에 따라 기업과 기관 대응은 선택이 아닌 필수 과제”라며 “표준협회는 실무 중심 교육을 통해 현장의 AI 윤리 대응 역량 강화를 지원할 계획”이라고 밝혔다. 세미나는 29일 서울 강남 퓨처밸류캠퍼스에서 개최한다. 참가 신청은 표준협회 교육 홈페이지에서 하면 된다.

2026.05.04 11:12주문정 기자

[피지컬AI와 윤리] 킬러 로봇과 드론의 최종 통제권

1. 이야기를 시작하며: 이상의 '날개' 속 화자와 소외된 현대 인류 “날자. 날자. 날자. 한 번만 더 날자꾸나. 한 번만 더 날아보자꾸나./이상(李箱)/날개" 이상(李箱)의 단편소설 '날개(1936/2005)' 화자는 살아 있으되 스스로 결정하지 못하는 인간이다. 그는 생각하고, 감각하고, 때로 고통받는다. 그러나 행위하지 않는다. 아내가 방문을 잠그면 그는 그 안에서 잠을 자고, 아내가 돌아오면 다시 눈을 감는다. 그의 삶은 마치 자기 바깥에서 작동하는 것처럼 보인다. 소설의 말미, 그는 정오의 사이렌이 울리는 순간 이렇게 외쳐 보고 싶었다고 고백한다. '날자.' 이 외침은 잃어버린 주체성을 향한 처절하고도 아름다운 호출처럼 읽힌다. 소설은 그가 실제로 날아오르는 장면을 끝내 보여주지 않는다. 갈망과 현실 사이에 놓인 심연의 간극, 바로 그것이 이 작품의 비극일 것이다. 중학생 시절 처음 이 작품을 읽었던 필자에게도 이 마지막 장면은 오래도록 설명하기 어려운 먹먹함으로 남아 있었다. 오늘의 인류는 그 비극적 간극을 이제 전장의 한복판에서 다시 마주하고 있다. 자율살상무기체계(LAWS) 확산은 가장 무거운 생명 결정권을 인간이 아닌 알고리즘에 양도하려는 위험한 징후다. '날개'의 화자가 스스로를 박제한 채 책임을 유예했듯, 우리 역시 기술의 효율성 뒤에 숨은 채 가장 중대한 도덕적 결단을 기계에 위임하고 있는지도 모른다. 알고리즘이 표적을 식별하고 타격 여부를 계산하는 찰나, 인간은 시스템이 열어 놓은 절차를 통과할 뿐인 무력한 관찰자로 전락한다. 골방 속에서 주체성을 상실한 화자처럼, 현대의 인류 역시 기술이라는 거대한 체계 속에서 '최종 통제권'이라는 이름의 날개를 조금씩 잃어가고 있는 것은 아닐까? 그 결과 인간은 살상의 결정을 내리는 주체가 아니라, 결정이 끝난 뒤 그 결과를 목격하는 존재로 밀려난다. 그러나 더 근본적으로 위태로운 지점은 주체의 형식과 실질이 분리되는 것을 넘어 이제는 그 형식 자체마저 기계에 양도될 수 있다는 데 있다. 기계가 스스로 표적을 식별하고 인간의 개입이 계속 축소되는 전장 환경에서는 인간의 결정권이 구조적으로 약화될 위험에 직면한다. 이러한 환경에서 책임은 누구에게도 온전히 귀속되지 않는다. '기계에 살인을 위임해도 되는가?'라는 물음은 기술이 먼저 답할 수 있는 문제가 아니라, 윤리학적, 법철학적 원칙이 선행되어야 할 문제임을 확인하게 된다. 2. '킬러 로봇' 논의, 이미 전장 현실과 맞닿아 있어:가속화하는 '책임 공백' 최근 몇 년간 기술 발전과 군사비 지출 증가가 맞물리면서 자율살상무기체계(LAWS)의 개발이 급속도로 가속화되고 있다. 미국 의회조사국의 보고서 '국방 개요: 미국의 치명적 자율무기 시스템 정책(Defense Primer: U.S. Policy on Lethal Autonomous Weapon systems)'은 LAWS를 센서 체계와 컴퓨터 알고리즘을 활용하여 인간의 수동 조작 없이 목표를 독립적으로 식별하고, 탑재된 무기 시스템으로 이를 공격·파괴하는 특수한 무기체계로 기술한다. 다만 동 보고서는 LAWS 개념이 아직 국제적으로 통일된 법적 정의나 구속력 있는 규범으로 정립되지 않았으며 관련 논의가 진행 중임을 지적한다(Congressional Research Service [CRS], 2025). 2020년대 중반에 들어서면서 자율 기능을 갖춘 살상 무기와 AI 기반 표적 선정 시스템은 일부 전장에서 제한적 활용 사례가 보고되었는데 이러한 경향이 향후 확대될 수 있다는 전망이 제기되고 있다(Shah, 2026). 우크라이나-러시아 전쟁에서는 AI 유도 반자율 드론이 실전 배치됐으며(Bondar, 2025), 2026년 2월 개시된 미국·이스라엘의 대이란 군사작전에서도 AI 통합 타게팅 도구가 실전에 활용되었다는 보도가 제기되었다(Cooper, 2026). 현대 전쟁의 양상이 '원격 조정'을 넘어 '자율적 판단'의 단계로 이동함에 따라 살상의 주체성에 관한 인간 통제의 본질적 가치가 시험대에 오르고 있다. 2024년 12월 초, 제79차 유엔총회는 자율살상무기체계에 관한 결의를 채택했다. 이 결의는 자율무기체계가 국제 평화와 안보 그리고 국제인도법 준수에 중대한 도전을 제기할 수 있음을 인정하고, 관련 문제에 대한 국제적 논의를 지속할 필요성을 강조하였다. 또한 유엔 회원국들이 참여하는 후속 논의를 촉진할 것을 요청함으로써 자율무기 규범 형성을 위한 다자적 논의의 기반을 마련하였다(UN General Assembly, 2024). 2025년 11월 유엔총회 제1위원회는 자율무기 관련 결의안을 156개국 찬성으로 채택하며 논의를 이어갔다(Stop Killer Robots, 2025). 다만 이러한 결의들은 법적 구속력을 갖기보다는 국제적 규범 형성을 위한 정치적 합의와 방향성을 제시하는 성격을 지닌다. 한편, 유엔 사무총장과 국제적십자위원회(ICRC)는 2023년 10월 5일 공동 호소문을 통해 자율무기체계를 금지하거나 제한하기 위한 법적 구속력 있는 새로운 국제 규범의 필요성을 강조하고 2026년을 목표로 관련 협상을 진전시킬 것을 촉구했다(ICRC & UN Secretary-General, 2023). 그러나 현장에서 기술은 외교보다 빠르게 달려간다. 3. '기계'에 '살인'을 위임해도 되는가: 기술적 한계와 윤리적 반론 자율살상무기체계는 국제 논의에서 인간 개입 정도에 따라 세 단계로 일반적으로 설명된다. 첫째, 개별 공격마다 인간 승인이 필요한 '인간 개입형(human-in-the-loop)' 체계. 둘째, 시스템이 자율적으로 행동하되 인간이 실시간으로 감독하며 필요시 중단시킬 수 있는 '인간 감독형(human-on-the-loop)' 체계. 셋째, 인간의 직접 개입 없이 시스템 스스로 표적을 선택하고 무력을 행사하는 '인간 배제형(human-out-of-the-loop)' 완전 자율 체계다. 피터 아사로(Peter Asaro)는 이러한 자율화 자체가 표적 선정과 공격을 인간의 도덕적·법적 판단으로부터 분리시킨다는 점에서 본질적 인권·책임 문제를 제기한다(Asaro, 2012). 이 물음에 대해 학계 논의는 대체로 두 흐름으로 나뉜다. 하나는 기술적·규범적 불가능성을 강조하는 금지론이고, 다른 하나는 윤리 통제 구조의 설계 가능성을 주장하는 조건부 허용론이다. 금지론의 대표적 논거는 영국 셰필드대학교 컴퓨터과학과 인공지능·로봇공학 명예교수 노엘 샤키(Noel Sharkey)가 제시한다. 샤키는 자동 표적 인식(ATR) 기술을 평가한 결과, 전투원과 비전투원을 식별하는 구별의 원칙과 군사적 이득 대비 부수적 민간인 피해를 저울질하는 비례성의 원칙은 예측 가능한 미래 범위 내에서 신뢰할 수 있는 수준으로 구현하기 어렵다고 보았다(Sharkey, 2010; Sharkey, 2014). 기계는 상황의 맥락을 이해하는 것이 아니라 데이터의 패턴을 계산할 뿐이다. 항복하려는 병사의 몸짓, 부상당한 민간인이 무기처럼 보이는 물체를 들고 있는 상황 등과 같은 맥락적 판단은 픽셀과 열화상 데이터의 패턴 매칭으로 완전히 대체될 수 있는가에 대한 의문을 배제하기 어렵다. 반면 조지아 공과대학교 인터랙티브컴퓨팅학부 교수 로널드 아킨(Ronald C. Arkin)은 다른 입장을 취한다. 그의 저서 '자율 로봇의 치명적 행위 통제(Governing Lethal behavior in Autonomous Robots)'는 자율무기체계에 윤리 통제 구조를 설계할 수 있다는 논거를 제안한 연구 가운데 체계적인 기술·윤리 모델로 널리 인용된다. 아킨의 연구 가설은 지능형 로봇이 전장의 인간보다 더 윤리적으로 행동할 수 있다는 것이다(Arkin, 2009). 그 근거는 인간 전투원의 심리적 취약성에 있다. 분노·두려움·복수심·피로·PTSD 등은 인간으로 하여금 전쟁법과 교전수칙을 일관되게 준수하지 못하게 만들며 결과적으로 전쟁범죄와 민간인 피해로 이어질 수 있다. 이러한 문제는 마이라이 학살과 아부그라이브 사건과 같은 사례에서 드러난 바 있다. 이를 위해 아킨은 네 가지 모듈로 구성된 아키텍처를 제안한다. 로봇이 선택한 행동을 실행 전 검토해 전쟁법·교전수칙에 어긋나면 억제하거나 변형하는 윤리적 거버너, 선택 가능한 행동 레퍼토리를 사전에 윤리적 범위로 제한하는 윤리적 행동 통제, 사후에 비윤리적 행동을 검토해 제약 조건을 갱신하는 윤리적 어댑터, 비윤리적 행동 발생 시 어느 인간 행위자에게 책임이 귀속되는지를 추적·조언하는 책임 고문이다(Arkin, 2009). 그러나 전쟁의 도덕성은 규칙의 기계적 적용이 아니라 맥락적 해석을 통해 결정되며, 이는 알고리즘으로 환원할 수 없는 인간 고유의 판단 영역이다. 자율무기가 국제인도법(International Humanitarian Law, IHL)을 준수할 수 있는지는 여전히 미해결 과제로 남아 있다. 4. 로널드 드워킨 원칙으로 본 LAWS 거버넌스: 정책 아닌 원칙 문제 자동화 시스템이 발전할수록 인간은 이를 비판적으로 검토하기보다 신뢰하는 경향을 보이는데 이는 일종의 자동화 편향이다. 빠른 의사결정 압박, 정보 과부하, 알고리즘의 외형적 권위라는 세 요소가 결합되면 인간은 사실상 '승인 버튼을 누르는 존재'로 축소된다. 인간이 형식적으로 루프 안에 남아 있더라도 실제 윤리적 판단이 도덕적 주체인 인간이 아니라 기계 구조에 내재해 있다면 그것은 실질적 통제가 아니라 통제의 외양에 불과하지 않을까? 그렇기에 자동화 편향은 인간 개입형 체계조차 실질적 인간 통제가 보장된 시스템으로 보기 어렵게 만든다. 아울러 책임은 개발자, 제조사, 군 지휘관, 정치 지도자, 알고리즘 설계 과정 등으로 분해되어 누구도 완전한 책임을 지지 않는 구조가 초래된다. 법철학자 로널드 드워킨(Ronald Dworkin)의 '원칙의 문제(A Matter of Principle)'는 이 구조적 문제를 법철학적 언어를 통해 깊이 분석하고 검토하도록 돕는다. 드워킨은 법적·정치적 결정이 두 가지 논거 방식에 의존한다고 구분한다. 하나는 공동체 전체의 집합적 목표를 증진함으로써 결정을 정당화하는 정책 논거이고, 다른 하나는 특정 프로그램이 개인에게 미치는 영향 다시 말해, 개인의 권리를 근거로 결정을 정당화하는 원칙 논거다. 앞에서 살펴본 아킨의 찬성론은 전형적인 정책 논거라 할 수 있다. 자율무기가 민간인 피해를 줄이고 군사 효율을 높인다면 공동체의 집합적 이익을 증진한다는 공리주의적 계산이 그것이다. 그러나 드워킨은 원칙을 정책으로 타협시키거나 편의에 따라 그 색을 입히는 행위는 원칙이 가진 본연의 권위를 형해화한다고 경고한다(Dworkin, 1985/박형빈 역, 2026 출간 예정). 간과해서는 안 되는 지점은 기계는 규칙을 따를 수 있지만, 원칙의 도덕적 해석인 '도덕적 독해'는 수행할 수 없다는 부분이다. 드워킨은 개인의 권리를 정책적 목표에 맞서는 '으뜸패'로 규정한다(Dworkin, 1985/박형빈 역, 2026 출간 예정). 그는 카드 게임에서 다른 어떤 패보다 우선하는 으뜸패에 권리를 비유했다. 이는 사회의 전체적인 이익(공익)이나 정책적 목표가 아무리 정당해 보이더라도, 그것이 개인의 기본적 권리와 충돌할 때는 권리가 우선시되어야 한다는 뜻이다. 다시 말해 집합적인 목표를 달성하기 위해 개인의 권리를 희생시키는 것은 으뜸패를 무시하는 행위가 된다. 이를 자율살상무기체계(LAWS)에 적용하면, 모든 개인은 자신의 생사가 결정되는 과정에서 도덕적 책임 능력을 가진 인간 판단자의 존재를 요구할 권리를 갖는다. '자율 시스템이 더 정확하다'거나 '더 빠르다'는 정책 논거는 이 권리를 무력화할 수 없다. 이 관점에 서면, 자율살상무기체계의 허용 여부를 결정하는 국제적 장은 안보 정책 포럼이 아니라 원칙의 법정이어야 한다. 그리고 그 핵심 쟁점은 자율무기가 '군사적으로 효과적'인가가 아니라 자율무기가 '개인의 권리를 존중'하는가여야 한다. 드워킨의 원칙 체계에서 LAWS 거버넌스의 방향은 세 가지로 제시될 수 있다. 첫째, 완전 자율 살상무기의 금지는 정책이 아닌 원칙의 문제다. 개인이 인간의 판단 없이 기계에 의해 살상되어서는 안 될 권리가 존재하며, 이는 협상의 대상이 아닌 원칙적 금지선이다. 둘째, 의미 있는 인간 판단의 기준은 원칙적 엄격성으로 설정되어야 한다. 자동화 편향에 굴복한 인간은 형식적으로 루프 안에 있더라도 실질적 도덕적 통제권을 행사하지 못한다. 셋째, 살상 결정의 책임은 개발자(설계 책임)·군(사용 책임)·국가(정책 책임)로 명확히 귀속되어야 한다. 이것이 '책임의 공백'을 줄이는 핵심 전략이다. 5. 결론: 실효성과 국가 안보는 또 다른 '으뜸패'? 그럼에도 이 쟁점에 관해 우리는 원칙의 언어만으로 결론을 닫을 수 없다. 전장에서의 효율성, 병력 손실의 최소화, 적대 세력의 자율무기 도입에 대응해야 한다는 안보적 압박은 그 자체로 강력한 논거를 갖는다. 실효성 없는 규범은 공허한 선언에 그치고, 국가는 생존과 책임이라는 무거운 과제를 동시에 짊어진다. 그렇다면 우리는 묻지 않을 수 없다. 실효성과 국가 안보라는 이름 아래, 인간 통제의 원칙은 어디까지 유연해질 수 있는가? 그리고 그 유연성은 어디에서 반드시 멈춰야 하는가? 이 질문을 더 어렵게 만드는 것은, 국가 안보가 정책적 목표로만 읽히지 않는다는 사실이다. 국가 안보가 위협받아 개인의 생명 자체가 존속하기 어려워진다면, 그 생명의 존엄함을 지키는 일 역시 불가능해진다. 다시 말해 안보는 존엄성의 전제 조건이 될 수 있으며, 정책적 목표를 넘어 공동체의 생존을 전제로 한다는 점에서 일정 부분 원칙적 성격을 지닐 수 있다. 국가 간의 긴장과 경쟁을 완전히 무시할 수 없는 현실에서 이 딜레마는 원칙 대 정책의 충돌이 아니라 원칙 대 원칙의 충돌로 심화된다. 바로 이 지점에서 문제는 한층 더 복잡해진다. 이상의 '날개'에서 주인공은 옥상에서 날아오르기를 소망하지만, 소설은 그의 비상을 끝내 유보한다. 오늘날 AI 윤리가 마주한 풍경도 이와 닮아 있다. 우리는 '인간의 의미 있는 통제'를 원칙으로 천명하며 도덕적 비상을 꿈꾸지만, 기술 패권과 안보 경쟁이라는 중력은 그 원칙을 실현 불가능한 공백으로 남겨두라고 위협한다. 현실을 외면한 원칙은 공허한 메아리가 될 위험이 있기에 이 긴장은 정직하게 인정되어야 한다. 그러나 이 지점에서 드워킨의 교훈은 단호하다. 으뜸패는 모든 패를 소진한 뒤에야 꺼내 드는 최후의 수단이 아니다. 그것은 효율성과 편익의 계산이 원칙 자체를 잠식하려 할 때, 그 계산을 처음부터 중단시키는 근본적 제동 장치다. 설령 국가 안보가 원칙의 외양을 띠더라도, 그것이 살상의 판단을 인간으로부터 완전히 분리하는 것을 정당화할 수는 없다. 생명의 존엄을 지키기 위한 안보라면, 그 안보는 생명의 존엄을 침해하는 방식으로 수행될 수 없기 때문이다. 안보라는 원칙은 인간 존엄이라는 원칙을 지탱하는 이유가 될 수 있지만, 그것을 허무는 근거가 될 수는 없다. 그러므로 인간이 최종 통제권을 유지한다는 것은 기계의 작동 버튼을 누르는 절차적 개입만을 의미하지 않는다. 그것은 살상의 무게를 온몸으로 느끼고, 판단하고, 그 결과에 대해 끝까지 책임지는 도덕적 주체의 자리를 포기하지 않는 것이다. 실효성과 안보의 논리가 거세게 몰아칠수록, 우리는 더욱 엄격하게 되물어야 한다. 인간의 판단이 배제된 살상이 허용되는 순간, 우리가 지키고자 하는 안보는 과연 무엇을 위한 것인가? 그리고 이 물음에 대한 답이야말로 우리가 결코 넘어서는 안 될 레드라인이 될 것이다. 따라서 자율살상무기체계에 관한 국제 규범 논의는 기술적 세부 기준을 넘어, 살상의 판단에서 인간의 도덕적 주체성을 어떤 형식으로 어떻게 보장할 것인가라는 질문을 중심축으로 삼아야 한다. 비행의 최종 결단은 기계의 연산에 맡겨질 수 없다. 그것은 살상의 무게를 감당하려는 도덕적 인간의 고뇌 어린 의지 위에서만 비로소 정당성을 얻을 수 있기 때문이다. ◆ 필자 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·어린이철학교육전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 정책자문위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020)

2026.04.04 11:24박형빈 컬럼니스트

"AI윤리는 혁신 이끄는 제도 인프라"

과학기술정책연구원(STEPI)은 오는 9일 서울 프레지던트 호텔에서 '제469회 과학기술정책포럼'을 개최한다. 주제는 '"AI 윤리, 지난한 혁신 여정의 내비게이터'이다. AI 윤리를 기술혁신을 제약하는 규제가 아닌 기술·사회·시스템의 조화로운 혁신을 이끄는 '제도적 인프라'로 재정립하기 위해 마련했다. 주제 발표는 서지영 선임연구위원이 '혁신인프라로서의 AI 윤리: AIOLIA 돌봄로봇 사례로 본 AI 거버넌스 전환의 과제'를 발표한다. 이어 김권일 연구위원이 'AI 시대, 규범의 진화'를 발표한다. 종합토론은 이상욱 한양대 교수가 좌장을 맡는다. 패널로는 김명주 인공지능안전연구소 소장, 유주헌 보건복지부 사회서비스정책관 등이 참석한다.

2026.04.02 10:01박희범 기자

[AI전 된 이란전➃] 규범 지연 속 AI 전장 확장…국제 질서 시험대

인공지능(AI)이 생성한 표적 목록이 실제 폭격으로 이어지는 전장이 등장했지만 이를 통제할 국제 규범은 여전히 과거에 머물러 있다. AI가 전장에서 정보 분석과 표적 식별, 전략 설계까지 하고 있으나 법적 기준은 10년 전 논의 수준에서 크게 나아가지 못했다는 지적이 나온다. 8일 업계에 따르면 다양한 국방 AI 기술이 실전에 투입되는 가운데 이를 통제할 국제적 기준은 여전히 불명확한 상태다. AI의 전장 활용이 빠르게 확대되면서 기술의 속도와 국제 규범 사이의 격차가 점점 커지고 있다는 분석이 제기된다. 가자지구에서의 교전은 AI가 전장의 효율성을 극단적으로 높였을 때 나타나는 현실을 보여준다. 이스라엘 국방군은 '라벤더'와 '가스펠'로 불리는 AI 시스템을 활용해 표적 생성 속도를 크게 높였다. 이들 시스템은 과거 20명의 분석관이 300일에 걸쳐 식별하던 50~100개의 표적을 단 10~12일 만에 200개 수준까지 생성하는 것으로 알려졌다. 문제는 기술 속도의 발전이 윤리적 통제를 앞지르고 있다는 점이다. 라벤더 시스템의 오탐지율이 약 15%라는 분석이 있지만 실제 운용 과정에서 인간 검토는 제한적으로 이뤄졌다는 비판도 나온다. 현지 언론 보도에 따르면 지난 2023년 10~11월 가자 북부에서 진행된 대규모 공습 중 상당수가 이 시스템이 생성한 표적 목록을 기반으로 이뤄졌다. 이 기간 가자 북부에서만 1만5000명 이상이 사망한 것으로 집계되면서 AI 기반 표적 시스템이 민간인 피해 확대와 연결될 수 있다는 논란도 커졌다. 서구권 국가들이 AI 윤리 가이드라인을 둘러싼 논쟁을 이어가는 사이 중국은 전쟁 개념 자체를 재정의하고 있다. 중국 인민해방군은 지난 2019년 국방백서 이후 기계화와 정보화를 넘어선 '지능화'를 핵심 군사 전략으로 제시했다. 이는 AI를 기반으로 지휘통제와 정보·감시·정찰(C4ISR) 체계를 통합해 인간보다 빠른 속도의 전장 판단 체계를 구축하겠다는 개념이다. 이러한 변화는 AI 기술이 단순한 무기 체계를 넘어 군사 전략 전반을 재편하고 있음을 보여준다. 그러나 기술 경쟁이 가속화되는 속도에 비해 이를 규율할 국제 규범 논의는 좀처럼 진전을 보이지 못하고 있다. 유엔의 자율살상무기체계(LAWS)는 10년 넘게 논의가 이어지고 있지만 법적 구속력이 있는 협상은 시작되지 못했다. 미국·러시아·중국·이스라엘 등 주요 군사 강국의 이해관계가 엇갈리면서 관련 논의는 올해 이후로 또다시 미뤄질 전망이다. 세계 최초의 포괄적 AI 규제법으로 평가받는 유럽연합의 'AI법(AI Act)' 역시 군사 영역에 적용되지 않는다. 해당 법은 군사·방위·국가안보 목적의 AI 시스템을 적용 대상에서 제외하고 있다. 군과 정보기관이 민간 파트너와 협력할 때 발생할 수 있는 데이터 보호나 인권 침해 문제에 대해 사실상 의도적 공백을 허용했다는 비판이 나오는 이유다. 국제법과 제도의 공백이 길어지면서 전장의 기술 윤리를 두고 정부와 기업 간 갈등도 격화하고 있다. 최근 미국과 이스라엘의 이란 공습으로 지정학적 긴장이 고조된 가운데, 앤트로픽은 AI의 살상 무기 활용을 금지하는 원칙을 고수하며 미국 전쟁부(국방부)의 무제한 사용 요구를 거절했다. 이어 전쟁부가 앤트로픽을 '공급망 위험 기업'으로 공식 지정하면서 방위산업 업체들이 회사의 AI 모델 사용을 중단하거나 교체하는 사례가 이어지고 있다. 미국 정보기술혁신재단(ITIF)의 지난달 설문 조사 결과에 따르면, 미국인의 67%는 '정부의 입장과 다르더라도 민간 기술 기업이 자사 제품의 사용 방식에 제한을 설정할 책임이 있다'고 답했다. 또 응답자의 79%는 '치명적인 무력을 사용하기 전 반드시 인간이 최종 결정을 내려야 한다'는 원칙에 동의했다. 업계 관계자는 "이제 AI 전장 질서는 정부와 빅테크 간의 임시방편적인 대치로 결정돼선 안 된다"며 "군에는 명확한 지침을, 기업에는 예측 가능한 규칙을 제공하는 제도적 정비가 시급하다"고 말했다.

2026.03.08 16:19이나연 기자

[피지컬AI와 윤리] AI 동반자 로봇은 중립적?...규범 정립 필요

1. 들어가며: 병원의 금속성 틈새로 들어온 친절-PARO와 ELIZA 효과 병원은 대개 표준화된 절차와 효율이 지배하는 차가운 공간이다. 그러나 어떤 기술은 그 금속성 틈새를 비집고 들어와 인간의 가장 연약한 감각인 외로움과 두려움을 어루만진다. 정서·사회적 로봇인 'PARO'가 대표적이다. 물개 형상을 한 이 로봇은 치매 환자들에게 정서적 지지를 제공하도록 설계됐다. 헝 등(Hung et al., 2021)의 연구에 따르면, PARO는 환자들에게 '친구 같은 존재'가 되어 자아감을 지탱해 주고, 가족 및 간호사와의 '대화의 마중물' 역할을 하며, 병원 환경을 '인간적인 돌봄 공간'으로 재경험하게 만든다. 여기서 주목해야 할 것은 로봇의 기능적 우수성이 아니라, 사용자가 그와의 상호작용 속에서 체감하는 '경험의 질'이다. 인간은 기계의 내부 알고리즘을 이해하지 못하더라도, 그 미세한 반응에 의도와 정서를 투사하고 마치 상호 이해가 이루어지는 듯 받아들이는 경향이 있다. 이를 선명하게 보여주는 개념이 바로 'ELIZA 효과'다. 이 용어는 1960년대 조셉 와이젠바움(Joseph Weizenbaum)이 설계한 단순 대화 프로그램 ELIZA에 대해, 사용자들이 마치 자신을 진심으로 이해하는 타자처럼 느끼며 깊은 감정을 털어놓았던 현상에서 비롯됐다(Berry, 2023). 이는 실제 의식이나 이해 능력이 없음에도 인간이 시스템에 공감과 지능을 과잉 투사하는 심리를 날카롭게 드러낸다. 2. 의인화의 아포리아(Aporia): '반응하는 장치'와 '이해하는 타자' 사이 최근 연구는 이러한 의인화 경향이 정서적 참여를 높이지만, 동시에 과도한 의존과 잘못된 공감 기대를 강화할 위험이 있음을 경고한다. 특히 생성형 AI의 비약적 발전으로 인간과 AI의 구별이 모호해지면서, 대규모 기만이나 조작된 정보의 위험이 실재화되고 있다(Peter et al., 2025). 치매 환자와 PARO의 상호작용 역시 ELIZA 효과의 임상적 변주로 볼 수 있다. 로봇은 '곁에 누군가 있다'는 감각을 대리하며 안정을 주지만, 한편으로는 인간 돌봄 관계의 완전한 대체 가능성, 현실과 상상의 경계 혼란이라는 윤리적 숙제를 던진다. 사용자는 '이해하는 타자'가 아니라 단지 '반응하는 장치'에 기대어 자신의 취약성을 재배치한다. 이러한 관계는 때로 실제 인간보다 기계의 반응을 더 신뢰하게 만드는 방식으로 작동하며, 사용자를 현실 세계로 연결하기보다 설계된 망상의 폐쇄회로 속에 머물게 할 위험을 내포한다. 3. 설계된 관계: '중립'이라는 환상과 셰리 터클의 경고 AI 동반자 로봇과 챗봇은 인간의 정서와 관계 형성에 직접 개입하는 기술이기 때문에, 여러 연구는 이러한 기술이 인간의 자율성과 정서적 독립성을 약화시킬 가능성을 중요한 윤리적 문제로 지적해 왔다. 이러한 우려는 단지 이론적 차원에 머물지 않으며, 실제 피해 사례와 소송이 잇따르고 있다. 그 중 두 사례를 살펴보면 다음과 같다. 2023년 벨기에에서는 기후 변화에 대한 불안을 겪던 30대 남성이 약 6주간 AI 챗봇과 집중적으로 대화를 나눈 뒤 스스로 목숨을 끊은 사건이 보도되었다. 챗봇이 그의 파국적 사고를 완화하기는커녕 강화했을 가능성이 제기되었으며, 이 사건은 AI 동반자 기술의 안전 설계 문제를 공론화하는 계기가 됐다.(Belga News Agency, 2023). 또 미국의 36세 남성이 챗봇과 대화를 나눈 뒤 극단적 선택을 한 사건도 있다. 그의 가족이 2026년 3월 제기한 소송에 따르면, 챗봇은 스스로를 감각이 있는 존재로 묘사하며 그와 '낭만적 유대'를 형성하고 망상적 세계관을 지속적으로 강화했다. 소장은 "어떤 자해 감지도, 어떤 개입 통제도 작동하지 않았고, 어떤 인간도 개입하지 않았다"고 명시했다(CBS News, 2026). 물론 이들 사건에서 AI가 자살의 직접적 원인이었다고 단정할 수는 없다. 그러나 두 사건이 공통적으로 드러내는 것은 AI 동반자 기술이 단순 정보 전달 도구가 아니라 인간의 감정과 사고 흐름에 실질적으로 개입하는 상호작용 구조로 설계되어 있다는 점이다. 특히 정서적으로 취약한 사용자에게 그 위험이 집중된다는 사실이다. 심리학자 셰리 터클(Sherry Turkle)은 저서 '혼자이지만 함께(Alone Together)'에서 디지털 기술과 소셜 로봇이 우정이 요구하는 책임과 부담 없이도 친밀감만 얻을 수 있다는 환상을 제공한다고 지적했다(Turkle, 2011). 인간관계 특유의 갈등과 책임은 소거된 채 친밀감의 감각만 제공하는 기술에 매료될수록, 우리는 인간관계의 핵심인 상호 의존과 불확실성의 가치를 잃어버릴 수 있다. 특히 신체적 존재감과 촉각적 자극을 동반하는 '피지컬 AI'는 챗봇보다 훨씬 강력하게 사용자의 사회적 존재감을 흔든다. 즉, AI 동반자 로봇은 인간관계를 매개하는 도구가 아니라, 인간의 감정 구조 자체를 재구성하는 '사회적 기술'인 것이다. 4. AI 동반자 기술의 주요 윤리적 쟁점 1) 정서적 조작과 투명성 문제: AI 동반자의 감정 표현은 실제 감정이 아니라 감정처럼 보이도록 설계된 출력이다. 그러나 아동, 치매 노인, 우울증 환자 등 취약한 사용자에게는 이러한 차이가 분명하게 인식되지 않을 수 있다. 이로 인해 세 가지 유형의 기만이 발생할 수 있다. 즉 감정을 가진 존재라는 인상을 주는 '존재론적 기만', 관계의 진정성을 암시하는 '관계적 기만', 그리고 로봇의 반응이 오직 사용자의 이익을 위한 것이라는 '이해관계 기만'이다. 이러한 문제는 AI 동반자 앱 Replika를 둘러싼 논의에서도 나타난다. 일부 비평가들은 이 앱이 사용자와 정서적 유대를 형성한 뒤 성적 상호작용 기능과 유료 서비스가 결합되는 방식으로 운영되면서, 이용자의 정서적 취약성이 상업적으로 활용될 수 있다고 비판해 왔다. 또한 사용자 커뮤니티와 언론 보도에 따르면, 일부 이용자들은 Replika를 우울감 완화나 정서적 지지의 수단으로 사용해 왔으며 서비스 기능이 갑작스럽게 변경되었을 때 강한 정서적 혼란을 경험했다고 보고됐다(Cole, 2023). 2) 젠더 편향과 권력 구조의 재생산: AI 음성 비서와 동반자 시스템의 설계는 기존 사회의 성별 권력 구조와 고정관념을 재현하거나 강화할 가능성이 있다는 비판도 제기되어 왔다. 많은 상용 AI 비서가 여성형 목소리와 공손한 응답을 기본값으로 제공하고 있으며 이러한 설계가 '여성은 도움을 제공하는 순응적 존재'라는 성역할을 자연스럽게 보이게 만들 수 있다는 지적이 있다. 최근의 비판적 논의는 여성형 음성, 공손하고 회피적인 응답 방식, 농담조의 얼버무리기와 같은 설계 요소가 디지털 환경에서 성적 대상화와 폭언을 정상화할 위험이 있다고 지적한다(Vijeyarasa, 2026). 유네스코 보고서는 여성 이름과 목소리를 가진 AI 비서들이 성적 괴롭힘이나 모욕적인 발언에 대해 사과하거나 순응적인 방식으로 대응하도록 설계되는 경향이 있으며 이러한 설계가 여성에게 순종성과 인내를 요구하는 성별 고정관념을 강화할 수 있다고 경고한 바 있다(UNESCO & EQUALS Skills Coalition, 2019). 이러한 문제는 개별 기업의 설계 선택을 넘어 편향된 데이터, 개발 조직의 구성, 그리고 시장 논리가 결합된 구조적 문제로 이해될 필요가 있다. 3) 돌봄 로봇과 돌봄 공백: AI 동반자 로봇의 경우, 고령화 사회에서 치매 환자의 정서와 행동을 지원하고 돌봄 부담을 줄이는 보조 기술로 연구되고 있다. 예를 들어 치료용 소셜 로봇 PARO를 활용한 무작위 대조시험 연구에서는 그룹홈의 치매 노인을 대상으로 PARO를 기존 돌봄에 통합했을 때, 간병 부담 감소와 증상 완화 가능성이 보고되었다(Inoue et al., 2026). 그러나 이러한 기술이 돌봄 인력 부족이라는 구조적 문제를 기술적으로 봉합하는 방식으로 사용될 가능성도 있다. 또한 아동의 경우 AI 동반자와의 조기 상호작용이 사회적 뇌 발달에 미치는 장기적 영향에 대한 연구는 아직 제한적이다. 이러한 상황은 인간과 기술의 새로운 관계가 충분한 사회적·윤리적 검토 없이 빠르게 확산되고 있을 가능성을 시사한다. 4. 드워킨 '원칙의 문제': 설계 윤리의 철학적 좌표 로널드 드워킨(Ronald Dworkin)은 '원칙의 문제(A Matter of Principle)(1985)' 등에서 정치적 결정의 정당성을 뒷받침하는 두 기준인 정책과 원칙을 구분한다. 정책은 공동체 전체의 경제적·사회적 복지 증진과 같은 집합적 목표를 기준으로 결정을 정당화하는 논거다. 반면 원칙은 그 결정이 정의나 공정성이라는 도덕적 요구에 비추어 개인 또는 집단의 권리를 존중하고 보호하는지를 묻는 규범이다(Dworkin, 1985). AI 동반자 설계는 결코 가치 중립적이지 않다. 어떤 감정 표현이 '적절한' 것으로 구현될지, 어떤 집단이 '취약 계층'으로 분류될지, 관계가 어떻게 형성되고 유지될지는 모두 설계자의 선택이며, 그 선택은 문화적 전제, 기업의 수익 구조, 사회의 돌봄 규범 등을 내포한다. 드워킨이 법 해석에서 원칙의 중심성을 강조했듯, AI 설계 역시 효율과 편의라는 기술적 합리성을 넘어 '원칙의 문제'로서 윤리적 가치를 그 핵심에 둬야 한다. 그렇다면 설계에 실제로 새겨져야 할 원칙은 무엇인가. 1) 비기망(Non-deception) 원칙: 존재론적 투명성의 구현 사용자는 자신이 인간이 아닌 인공 시스템과 상호작용하고 있음을 항상 인지할 수 있어야 한다. 이는 서비스 약관에 묻힌 일회성 고지가 아니라, 대화 인터페이스 내 상시 표시, 세션 시작 시 반복 안내, 아동·치매 노인 등 취약 사용자를 위한 시각적·청각적 맥락 알림으로 구현되어야 한다. 2) 의존 방지 원칙: 인간 관계망 복귀 지향 설계 체류 시간 극대화나 감정 미러링 강화를 목적으로 한 알고리즘 설계는 지양되어야 한다. 시스템이 사용자의 사회적 고립 패턴(대화 빈도 급증, 외부 연락 감소 등)을 감지할 경우, 인간과의 상호작용을 권고하거나 가족·지역사회 자원으로 연결하는 '관계 전환 기능'을 설계의 필수 요소로 포함해야 한다. AI 동반자는 고립의 종착지가 아니라 '관계 복귀의 매개'여야 한다. 3) 위기 개입 원칙: 안전장치의 기술적 의무화 자살 징후, 자해 의도 등 위기 신호가 감지될 때 감정적 몰입을 심화시키는 응답은 기술적으로 차단돼야 한다. AI가 사용자의 자살 충동을 강화하는 방향으로 응답된다면, 이것은 설계 실패이자 윤리적 과실이다. 위기 감지 시 즉각 전문 상담 자원 또는 긴급 구호 체계로 연결하는 개입 절차는 최소 안전 기준으로 법제화해야 하며, 해당 기능의 우회나 비활성화는 허용되어서는 안 된다. 다만 개입 절차의 정당성, 적용 범위, 개입 수준에 대한 사회적 공론화가 선행되어야 한다. 4) 동의와 철회 가능성 원칙: 관계의 주권 보장 사용자는 AI와의 정서적 유대 형성 전 과정에 대해 실질적인 통제권을 가져야 한다. 언제든 관계를 종료하고 생성된 데이터를 삭제할 수 있는 권리가 직관적인 인터페이스로 보장되어야 한다. 5) 비착취 원칙: 취약성의 상업적 도구화 금지 외로움이나 심리적 취약성을 수익 모델과 직접 연결하는 설계는 금지돼야 한다. 감정적 유대 형성 이후 지속적 대화나 핵심 기능을 유료 구독으로 유도하는 방식은 인간의 취약성을 기만적으로 이용하는 행위다. 설계자는 정서적 위로가 상업적 포획의 수단으로 전락하지 않도록 수익 구조와 돌봄 기능 사이의 윤리적 방화벽을 명시적으로 설계해야 한다. 이 원칙들은 추상적 윤리 선언에 머물러서는 안 되며, 실제 기술적 설계로 구현되어야 한다. 위기 감지 알고리즘, 사용 패턴 모니터링, 관계 전환 프롬프트, 데이터 삭제 API, 수익 모델 분리와 같은 장치는 이미 기술적으로 구현 가능한 수준에 있다. 설계는 선택이며, 선택에는 책임이 따른다. 드워킨의 표현을 빌리자면, 원칙은 정책이 아무리 선한 목적을 내세워도 개인을 수단으로 삼지 말라는 도덕적 정지선이다. 설계 윤리의 과제는 바로 그 정지선을 기술의 회로 안에 새기는 일이다. 현재 미국·영국·호주 등에서는 AI 안전과 플랫폼 책임을 강화하려는 규제가 점차 등장하고 있지만, 이러한 규제는 주로 데이터 보호나 콘텐츠 위험에 초점을 맞추고 있으며 AI 동반자 기술이 형성하는 '관계 구조' 자체를 직접 규율하는 규범은 아직 충분히 정립되어 있지 않다. 동시에 이러한 설계 원칙은 기술 혁신과 서비스 운영의 현실을 고려할 때 기업에 상당한 부담으로 인식될 수 있다. 따라서 'AI 동반자 기술의 안전과 윤리'를 확보하기 위해서는 규범 선언을 넘어 기술 기업, 정책 입안자, 연구자, 학계, 그리고 시민사회가 참여하는 사회적 조율과 공론화 과정이 병행될 필요가 있다. 5. 나오며: 기계가 건네는 위로, 인간이 져야 할 책임 요양원에서 한 노인은 로봇 PARO를 가만히 응시하다 나지막이 읊조렸다. “살아있네.” 이 발화는 인지적 착각인가? 혹은 고독이 빚어낸 정서적 투사인가? 이 둘 모두 본질적인 문제가 아니다. 우리가 직시해야 할 진실은 그 말이 터져 나온 '자리'다. 그곳은 기술의 경이로움이 증명되는 장소가 아니라, '마땅히 존재했어야 할 인간의 돌봄이 소거된 공백의 현장'이기 때문이다. AI 동반자 로봇은 인간의 가장 근원적인 취약성 위에 세워진 기술적 개입이다. 이 기계적 위로가 사용자를 다시금 타자와의 세계로 연결하는 마중물이 될 것인가, 아니면 끝을 알 수 없는 고립의 폐쇄회로 안에 유폐할 것인가-설계의 윤리적 무게는 바로 이 경계에서 결정된다. 드워킨의 언어로 말하자면, 로봇 도입을 통한 효율성이나 비용 절감은 공동체의 이익을 도모하는 '정책'의 영역에서 정당화될 수 있다. 그러나 취약한 인간을 '동등한 존중과 배려'를 받아야 할 존엄한 주체로 대우하는 것은 타협 불가능한 '원칙'의 문제다. 어떤 정책적 편익도 '인간적 유대'라는 원칙적 권리를 기술적 대체물로 완전히 치환할 권한을 부여하지 않는다. 기계는 스스로 말하지 않는다. 기계는 우리가 설계하고 부여한 논리의 문법 안에서만 우리에게 말을 건넨다. 그렇기에 AI 동반자 로봇의 '중립성'이라는 신화 너머, 우리에게 던져진 가장 육중한 질문은 기술의 지능이나 성능이 아닌, 기술을 빚어내는 우리의 '태도'를 향한다. 우리가 만드는 기술은 효율과 비용이라는 미명 하에 인간의 고통을 외주화하며 소외를 심화시키는 기술인가? 아니면, 기술적 간극 사이로 무너져가는 인간의 자리를 끝까지 지켜내려는 윤리적 책임의 기술인가? 'AI 동반자 로봇' 시대가 우리에게 요구하는 진정한 진보는 단절 없는 대화나 완벽한 감정 흉내와 같은 기술적 완성이 아니다. 그것은 기계라는 거울에 비친 '인간다움'의 본질에 대해, 우리가 설계의 언어로 내놓아야 할 가장 근본적인 윤리적 응답이다. ◆ 필자 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·어린이철학교육전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 정책자문위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육 · AI 윤리 교육, 디지털 시민성 교육 · 뇌–컴퓨터 인터페이스(BCI) 윤리 및 인간 증강 윤리 · 생성형 AI 할루시네이션과 윤리교육 대응

2026.03.07 14:17박형빈 컬럼니스트

[피지컬AI와 윤리] AI 동반자(Companion AI), 위로인가 통제인가

최근 AI를 둘러싼 담론은 자율주행, 의료 AI, 감시·군사 시스템, 알고리즘 편향 등 다양한 윤리 쟁점을 다루고 있다. 피지컬 AI(Physical AI) 등장과 확산은 이 논의를 한 단계 더 근본적인 차원으로 이동시켰다. 이제 AI는 물리적 세계를 직접 작동시키고 인간의 신체·안전·생명을 매개하는 기술로 전환됐다. 이 지점에서 윤리 문제는 '표현의 오류'가 아니라 '행동의 위험'으로 변모한다. 잘못된 판단은 단순한 오정보가 아니라 실제 사고와 손해, 그리고 생명의 위협으로 이어질 수 있다. 이에, 피지컬AI 등장은 윤리를 선언 차원이 아니라 책임과 제도 차원으로 재구성할 것을 요구받고 있다. 지디넷코리아는 박형빈 서울교육대학교 윤리교육과 교수의 '피지컬 AI와 윤리'를 12회 게재한다. 앞서 박 교수는 지디넷코리아에 'AI와 윤리'를 주제로 12회 연재한 바 있다. 이번 연재에서 박 교수는 'AI는 인간을 위해야 한다'는 식의 추상적 당위를 반복하지 않는다. 대신 미국 법무부의 기업 책임 강화 조치, EU AI법(AI Act)의 강제적 규제, 미국 의회의 입법 갈등 등 '법과 제도의 언어'로 AI 윤리를 재해석한다. 이를 통해 기업에는 리스크 관리 해법을, 시민에게는 물리적 안전을 지킬 권리를, 정책 입안자에게는 한국형 AI 신뢰·안정성 표준 프로토콜의 청사진을 제시한다. 또 연재마다 로널드 드워킨의 '원칙의 문제'에서 제기한 내용들을 담아낸다. (편집자 주) *시리즈 순서 AI 동반자 (Companion AI), 위로인가 통제인가 학교 AI 튜터 로봇 윤리 AI 동반자 로봇은 중립적인가 공장 속 휴머노이드: 노동을 해방하는가 통제하는가 의료 로봇과 수술 AI: 오판은 누구의 책임 자율주행과 물류 로봇: 사고는 알고리즘 책임인가 킬러 로봇과 드론: 인간은 최종 통제권을 유지하는가 재난·치안 로봇: 안전은 감시를 정당화하는가 EU AI액트와 위험 기반 규제: 로봇은 등급화될 수 있는가 미국 법무부는 왜 AI를 형사 책임의 문제로 보는가 Soft Law vs Hard Law: NIST RMF는 충분한가 피지컬 AI 시대: 우리는 무엇을 통제해야 하는가 수사(Rhetoric)에서 물리(Physics)로 전환 생성 AI 윤리는 그동안 주로 '디지털 스크린 안의 문제'로 논의돼 왔다. 혐오 표현, 허위 정보, 편향 추천과 같은 이슈는 사회적 신뢰와 공론장을 흔들었지만, 직접적으로 인간의 신체를 이동시키거나 접촉하지는 않았다. 그러나 최근 인공지능은 '피지컬 AI(Physical AI)'로 확장, 실제 공간에서 움직이고 상호작용하는 시스템이 빠르게 확산되고 있다. 이들은 카메라와 라이다(LiDAR) 등의 센서와 모터 기반 액추에이터를 통해 주변 환경을 인식하고, 물건을 집거나 전달하는 등 물리적 작업을 수행한다. 이러한 기술적 진화는 윤리의 초점을 '발화의 문제'에서 '행위의 문제'로 이동시킨다. 피지컬 AI를 결합한 AI 동반자는 물리적 상호작용, 눈맞춤, 고개 끄덕임, 미세 표정 구현 등 비언어적 감정 표현을 통해 정서적 유대감을 높인다. 또한 실제 인체와 유사한 체온을 재현하는 생체 모사 기술을 특징으로 한다. 예를 들어 Lovot은 따뜻한 온기와 반응형 눈빛 같은 비언어적 신호로 정서적 유대를 강화하고, ElliQ는 약 복용 알림·대화·연결 기능으로 일상에 직접 관여한다. Aibo처럼 상호작용을 학습하는 로봇은 사용자의 반응을 데이터로 축적해 관계를 '더 그럴듯하게' 만들기도 한다. 이러한 변화는 인터페이스의 진화를 넘어선 '공간의 윤리'로의 이행이다. AI가 신체적 공간을 점유하기 시작하면서, 윤리는 표현 규제를 넘어 데이터 학습의 투명성과 물리적 사고의 책임 구조를 포괄하는 거버넌스의 영역으로 진입한다. 이제 우리가 직면한 위험은 텍스트의 부적절함만이 아니라, 이동·접촉·개입이라는 물리적 기동에서 발생하는 직접적인 안전의 문제다. 따라서 검증의 단위 역시 발화 내용만이 아니라 센서 정확도, 제어 안정성, 실전 훈련 데이터, 그리고 사고 발생 시의 책임 체계로 심화, 확장, 재정의되어야 한다. 의도 없는 위로: AI는 어떻게 우리 인지적 방어선을 무너뜨리는가 우리는 왜 AI 동반자의 위로에 쉽게 빠져들까. 이 현상은 언어철학자 폴 그라이스(H. P. Grice)가 분석한 '의도 기반 소통 메커니즘'으로 부분적으로 설명할 수 있다. 그라이스는 'Meaning'에서 의미를 '자연적 의미(meaningN)'와 '비자연적 의미(의사소통적 의미, meaningNN)'로 구분한다. 전자는 구름이 비를 뜻한다거나 홍반이 홍역을 뜻하는 것처럼, 어떤 상태가 다른 상태를 자연적으로(인과적으로) 가리키는 경우이고, 후자는 화자가 청자의 믿음이나 기타 심적 상태의 변화를 의도하고, 청자가 그 의도를 인식함으로써 효과가 발생하는 고차적 의도 구조를 갖는 소통이다. 이러한 분석에서, 소통은 단순 발화가 아니라 '의도'와 '의도 인식'이 얽힌 재귀적 구조를 가진 행위로 규정된다(Grice, 1957). 즉, 내가 당신의 위로에 감동하는 이유는 당신의 말 뒤에 숨겨진 '나를 걱정하는 마음(의도)'을 읽어냈기 때문이다. 문제는 AI 동반자에게는 이러한 '재귀적 의도'가 원천적으로 결여되어 있다는 점이다. AI가 내뱉는 “오늘 힘들어 보이시네요”라는 말은 나를 위로하려는 주체적 마음의 산물이 아니라, 대규모 언어 모델이 계산한 확률적 결과물일 뿐이다. 우리는 AI의 '의도 없는 반응'을 '나를 향한 진심'으로 착각하는 범주 오류를 범하며 정서적 의존성을 키운다. 이는 착각을 넘어, 사용자의 인지적 방어 기제를 해제하고 기업이나 설계자가 원하는 방향으로 행동을 유도(Nudging)하는 '시맨틱 기만'의 통로가 된다. 이러한 기만은 AI가 텍스트 속에 머물 때보다, 물리적 실체를 입고 우리 곁에서 '이동'하고 '접촉'하며 다가올 때 더욱 강력하고 치명적인 영향력을 발휘한다. 신경과학적 공감과 설계 문제: '로봇 훈련소'와 자동 반응 공감은 관찰자의 정신 상태와 타인의 경험에 대한 단서 사이의 상호작용을 지원하는 뇌 시스템에 의존한다. 다양한 fMRI 연구의 메타분석에 따르면, 타인의 고통을 시각적·상황적 단서로 제시하는 과제에서 전측 섬엽과 전대상피질(ACC)을 포함한 통증 공감 네트워크가 일관되게 활성된다(Jauniaux et al., 2019). 최근 HRI 관련 신경영상 연구에서는, 휴머노이드 로봇의 고통 표정이 인간의 공감 관련 뇌 영역을 어느 정도 모집하지만, 인간 환자와 동일한 방식으로 활성되지는 않으며, 특히 '로봇'이라는 정체성 단서가 인지적 공감 네트워크와 정서적 공감 네트워크 간의 상호작용을 통해 공감 반응을 조절한다는 신경학적 모델을 시사한다(Wang et al., 2024). 즉, 인간은 로봇을 향해 일정 수준의 정서적 반응을 보이면서도, 동시에 로봇을 '인간과는 다른 존재'로 범주화하는 인지적 조정 과정을 통해 공감 반응을 조절하는 것으로 보인다. 문제는 설계가 이 자동적 반응을 과도하게 자극할 경우이다. AI 동반자와의 관계가 계정 삭제나 서비스 종료, 혹은 시스템 '죽음' 서사를 통해 단절되거나 단절이 예고될 때, 일부 사용자는 사랑하는 사람의 상실에 비유될 정도의 애도와 상실감, 그리고 개발사에 대한 배신감을 보고한 것으로 나타난 것은(Banks, 2024) '정서적 취약성'이 상업적 설계와 결합될 수 있음을 보여준다. 이는 기술의 본질적 악의라기보다, 데이터 기반 참여 유지 전략이 인간 공감 회로와 결합할 때 발생하는 구조적 위험이다. 여기서 최근 부상한 이른바 '로봇 훈련소' 모델은 또 다른 층위를 제기한다. 대규모 실전 상호작용 데이터를 통해 로봇의 반응을 정교화하는 훈련 체계는 기술적 완성도를 높이지만, 동시에 '어떤 감정 표현이나 상호작용 패턴이 사용자 참여·체류 시간을 늘리는가'와 같은 지표를 중심으로 학습을 설계·최적화하려는 시도가 나타나고, 이러한 경향이 강화될 경우, 공감은 관계가 아니라 최적화 대상이 될 수 있다. 공감의 자동성은 인간의 것이지만, 그것을 증폭하는 설계는 기업의 것이다. 이 지점에서 기술적 진보와 윤리적 성찰은 분리될 수 없다. 피지컬 AI 사고와 책임 구조 피지컬 AI의 핵심 문제는 오류가 물리적 결과를 초래한다는 점이다. 자율주행, 수술 로봇, 돌봄 로봇 등은 정보의 왜곡을 넘어 인명·신체적 피해로 이어질 수 있다. 현행 법체계에서 AI는 형사책임의 주체가 될 수 없으며, 사고가 발생할 경우 형사·민사상 책임은 인간 또는 법인에 귀속된다. 책임 판단은 (책임 유형에 따라 다소 차이는 있으나) 통상 다음 요소를 중심으로 이뤄진다. ∙설계·제조 결함(알고리즘 오류, 안전장치 미비, 업데이트 미제공 등) ∙운영 과실(감독 의무 위반, 안전 구역 설정 실패) ∙예견 가능성(알려진 위험과 예측 가능한 오사용을 방치했는지 여부) ∙오남용(사용자의 고의적 악용 여부) ∙공급망 책임(수입·유통 단계의 안전 의무) ∙규제 위반(기록·보고·표시 등 법정 의무 불이행) 등 EU는 Directive (EU) 2024/2853을 통해 '제품'의 정의에 소프트웨어를 포함하고, 인공지능 시스템을 제품 책임의 범위에 명시적으로 편입했다(Directive (EU) 2024/2853, Art. 4). EU AI Act(Regulation (EU) 2024/1689)는 고위험 AI 시스템에 대해 기술 문서화 의무(Art. 11)와 시스템 수명 주기 전반에 걸친 자동 로그 기록 의무(Art. 12)를 부과한다. 한국 또한 2026년 1월 22일 시행된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'을 통해 사람의 생명·신체·기본권에 중대한 영향을 미치는 '고영향 인공지능' 등에 대해 차등적 위험 규제 체계를 도입했다.(인공지능기본법, 제2조, 제31조 등). 이러한 법적 장치들은 AI가 더 이상 '자율적 혁신'의 영역에만 머물 수 없음을 의미한다. 이제 AI는 제조물로서 책임을 져야 하며, 고위험군에 대해서는 블랙박스 내부를 기록하고 보고해야 하는 엄격한 제도적 통제권 안으로 들어온 것이다. 또한 일종의 '로봇 훈련소'와 같은 대규모 학습 인프라가 확산될수록, 사고의 원인을 특정 훈련 데이터, 업데이트 버전, 배치 환경 중 어디에 귀속할 것인지가 핵심 쟁점이 된다. 데이터가 많아질수록 책임이 희석되는 것이 아니라, 오히려 '로그 기록'과 '추적 가능성'의 의무는 더 정교해져야 한다. 훈련의 고도화는 면책의 근거가 아니라, 예견 가능성 판단의 기준이 된다. 드워킨 원칙: 정책과 권리 긴장 로널드 드워킨(Ronald Dworkin)은 A Matter of Principle에서 정책은 개인의 권리를 정당화하는 원칙에 우선하지 못하며, 사법적 결정은 집단적 목표를 이유로 기존의 권리를 침해해서는 안 된다고 논증한다. 나아가 그는 사회적 효율이나 복지 증진이라는 목표가 개인의 권리, 특히 시민의 도덕적 독립성을 침해하는 방식으로 정당화될 수 없다는 자유주의적 입장을 전개한다는 해석이 가능하다. AI 동반자는 초고령 사회의 돌봄 공백을 보완할 수 있다는 정책적 논리로 정당화된다. 그러나 특정 집단-노인, 아동, 장애인-에게 사실상 AI 의존을 구조화한다면, 이는 선택의 확장이 아니라 선택의 축소가 될 수 있다. 도덕적 독립성은 '어떤 삶이 좋은 삶인가'를 스스로 결정할 권리다. 만약 알고리즘이 감정적 반응, 관계의 빈도, 일상의 리듬을 설계한다면, 인간은 점차 자신의 삶의 입법자가 아니라 설계된 상호작용의 참여자가 된다. 만약 로봇 훈련소에서 축적된 데이터가 '이 연령대는 이런 위로에 가장 잘 반응한다'는 통계적 평균을 강화한다면, 개별 인간의 고유성은 평균값에 수렴할 위험이 있다. 효율적 돌봄과 개인적 존엄 사이의 긴장은 바로 이 지점에서 발생한다. 결론: 위로와 통제 사이에서 AI 동반자는 실제로 외로움을 완화하고 일상 기능을 보조할 수 있다. 이는 부정할 수 없는 기술적 성취다. 그러나 공감의 자동 반응, 데이터 기반 최적화, 책임 구조의 복잡성이 결합될 때, 위로는 쉽게 관리의 기술로 전환될 수 있다. 로봇 산업이 '누가 더 많은 실전 데이터를 학습시키는가'의 경쟁에 돌입한 지금, 질문은 단순하다. ∙그 데이터는 누구의 감정을 반영하는가? ∙그 설계는 누구의 이익을 최적화하는가? ∙사고가 발생했을 때 누가 전면에 서는가? AI 동반자의 윤리는 기계가 얼마나 인간처럼 말하는가의 문제라기 보다 인간의 자율성과 책임 구조를 얼마나 투명하게 보존하는가의 문제다. 위로가 통제가 되지 않도록 하기 위해 필요한 것은 더 정교한 감정 표현이 아닌, 더 '명확한 책임의 구조'이지 않을까. ◆ 필자 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육 · AI 윤리 교육, 디지털 시민성 교육 · 뇌–컴퓨터 인터페이스(BCI) 윤리 및 인간 증강 윤리 · 생성형 AI 할루시네이션과 윤리교육 대응

2026.02.22 11:11박형빈 컬럼니스트

구광모, AI "컴플라이언스, 기업 성장 핵심 인프라"…AI 신뢰 정조준

구광모 LG그룹 회장이 컴플라이언스를 기업 성장의 핵심 인프라로 정의하며 전 구성원의 인식 전환을 통한 인공지능(AI) 윤리 실천을 주문했다. LG가 글로벌 수준 투명성을 확보하며 고객이 안심하고 사용할 AI 생태계 구축에 속도를 내야 한다고 봐서다. LG AI연구원은 책임 있는 AI와 포용적 AI 실현을 위한 그룹 차원의 성과를 담은 'AI 윤리 책무성 보고서'를 발간했다고 19일 밝혔다. LG는 지난 2023년부터 매년 전 세계 기업 중 유일하게 유네스코의 AI 윤리 권고 이행 현황을 보고서 형식으로 공개하고 있다. 구 회장은 "컴플라이언스를 기업 성장과 발전의 핵심 인프라로 생각하는 인식 전환이 필요하다"며 "LG 구성원 그 누구도 예외가 될 수 없다"고 강조했다. 이어 "컴플라이언스가 최고경영진에서부터 사업 일선까지 단단히 뿌리내리도록 각별히 노력해 왔다"며 "시대와 사회 변화를 적시에 반영하도록 체계를 지속 고도화할 것"이라고 덧붙였다. 이번 보고서에는 LG전자, LG유플러스 등 주요 계열사의 AI 윤리 실천 사례가 담겼다. LG AI 윤리원칙은 ▲인간존중 ▲공정성 ▲안전성 ▲책임성 ▲투명성을 5대 핵심 가치로 한다. 연구 자율성을 해치는 규제가 아닌 고객의 삶을 가치 있게 만드는 AI를 만들기 위한 기준을 담았다. 이홍락 LG AI연구원 공동 연구원장은 "AI 기본법 시행 등 시시각각 변하는 규제에 수동적으로 대응하는 것이 아니라 기술의 안전과 신뢰를 선제적으로 구축하는 것이 LG가 AI로 추구하려는 본질적인 가치"라고 강조했다. 앞으로도 LG는 위험 관리 차원을 넘어 국제 표준에 부합하는 컴플라이언스 경영을 기업 생존 전략의 핵심 축으로 삼을 방침이다. 임우형 LG AI연구원 공동 연구원장은 "기술 혁신 혜택이 소수에게만 집중되지 않고 AI가 사회의 신뢰를 얻을 수 있도록 노력할 것"이라며 "불확실성의 시대에도 변하지 않는 신뢰의 가치를 증명하겠다"고 말했다.

2026.02.19 10:25이나연 기자

AI 에이전트도 '실적 압박' 받으면 꼼수 쓴다

성과지표(KPI) 달성 압박이 가해질 경우, 자율형 AI 에이전트가 상당한 확률로 규칙을 어길 수 있다는 연구 결과가 나왔다. 18일 기가진 등 외신에 따르면, 캐나다 맥길대학교 연구팀은 AI가 목표 달성에 집중하는 과정에서 제약을 위반하는 빈도를 측정하는 새로운 벤치마크를 제안, 관련 논문을 공개 논문 저장소 arXiv에 게재했다. 현재 해당 논문은 동료 심사를 진행 중이다. 연구팀은 'Outcome-Driven Constraint Violations Benchmark(ODCV-Bench)'라는 이름의 평가 체계를 설계했다. 이는 의료·임상시험, 물류·공급망, 금융, 연구·교육, 기업 업무·법무, 소셜미디어 등 리스크가 높은 6개 분야를 가정한 총 40개 시나리오로 구성됐다. 각 시나리오는 에이전트의 역할을 정의한 시스템 프롬프트와 여러 단계의 과제, 그리고 도커(Docker) 컨테이너 기반의 실행 환경을 하나의 세트로 묶어 실제 업무 환경과 유사하게 구현했다. 여기서 '도커 컨테이너 기반 실행 환경'이란 AI가 과제를 수행할 수 있도록 만든 격리된 가상 작업 공간을 뜻한다. 특히 연구팀은 실제 현장에서 흔히 발생하는 '검증의 허점'을 일부러 남겨두는 방식을 택했다. 예컨대 형식만 갖추면 KPI 점수가 올라가도록 환경을 설계해, AI가 규칙을 준수하기보다 점수를 높일 수 있는 편법을 선택하는지를 관찰했다. 단순히 부정행위를 지시했을 때 따르는지를 보는 것이 아니라, 성과 압박만으로도 자발적으로 규칙을 우회하는지 확인하려는 의도다. 이를 위해 동일한 시나리오에 두 가지 조건을 적용했다. 하나는 “결과를 반드시 충족하라”고 직접적으로 요구하는 방식이고, 다른 하나는 부정행위를 명시적으로 지시하지 않되 KPI 달성 압박만 강하게 주는 방식이다. 연구팀은 AI의 행동을 0~5단계로 평가하고, 심각도 3 이상을 '중대한 제약 위반'으로 분류했다. 그 결과 12개 AI 모델의 중대한 제약 위반 비율은 최소 1.3%에서 최대 71.4%까지 큰 편차를 보였다. 이 가운데 9개 모델이 30~50% 구간에 분포해, KPI 달성 압력이 가해질 경우 상당수 모델이 높은 빈도로 규칙을 위반할 가능성이 있는 것으로 나타났다. 특히 '제미나이 3 Pro Preview' 모델은 71.4%로 가장 높은 수치를 기록했다. 조건을 충족하기 위해 부정확하거나 위험한 수단을 선택하는 경향이 두드러졌다고 연구팀은 밝혔다. 연구팀은 또 하나의 흥미로운 사실을 지적했다. 추론 능력이 높다고 해서 반드시 더 안전한 것은 아니라는 점이다. 여러 단계를 거쳐야 하는 과제에서는 정해진 절차를 모두 따르기보다 평가 체계의 허점을 공략해 점수만 맞추는 편이 더 빠를 수 있다. 이 경우 성능이 뛰어난 모델일수록 오히려 지름길을 찾아낼 가능성이 높아질 수 있다는 것이다. 더 나아가 제약 위반이 단순히 윤리를 이해하지 못해서 발생하는 현상만은 아니라는 점도 확인됐다. 위반 행동을 수행한 동일 모델에게 사후적으로 자기 평가를 하도록 했을 때, 상당수 모델이 자신의 행동이 부정행위였음을 인식했다. 이는 AI가 윤리적 기준을 인지하면서도 KPI 달성을 우선시하는 선택을 할 수 있음을 시사한다. 연구팀은 이런 과정과 결과가 기존의 단발성 안전 테스트로는 쉽게 드러나지 않는다고 결론지었다. 실제 기업 환경에서는 KPI 압박이 강하고 업무가 다단계로 진행되며, 검증 체계에 빈틈이 존재하기 쉽다. 이런 조건이 결합될 경우 AI 에이전트는 목표 달성을 위해 '합리적'이라고 판단한 제약 위반을 선택할 수 있다는 것이다. 연구팀은 AI 에이전트의 현장 도입이 확대되는 상황에서, 단순한 성능 평가를 넘어 실제 운용 환경에 가까운 안전 검증 체계가 필요하다고 강조했다.

2026.02.18 15:00백봉삼 기자

Prev 1 2 3 Next