검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'영화 속 ai윤리'통합검색 결과 입니다. (3건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[영화 속 AI윤리] 가상현실과 신경 윤리

1.기(起)-손목이 나보다 먼저 아는 것 2025년 9월 30일 미국에서 출시된 메타 레이밴 디스플레이(Meta Ray-Ban Display)에는 손목에 차는 메타 뉴럴 밴드(Meta Neural Band)가 함께 들어 있다. 이 장치는 뇌파를 재는 기기가 아니라 아래팔 근육의 전기적 활동을 피부 표면에서 검출하는 표면 근전도(sEMG) 센서다. 메타 자체 연구진이 네이처에 발표한 논문에서는 sEMG 해독 모델이 개인별 학습이나 보정 없이 새로운 사용자에게도 작동할 수 있음을 보고했다(Kaifosh et al., 2025). 메타는 뉴럴 밴드가 근육 활동에서 생긴 신호를 클릭이나 스크롤 같은 안경 제어 명령으로 변환한다고 설명한다(Meta, 2025). 여기서 이 밴드가 착용자의 생각을 의식보다 먼저 '읽는다'고 말하는 것은 정확하지 않다. 밴드가 붙잡는 것은 생각이 아니라 움직임으로 이어지는 생리 신호다. 그러나 표현을 바로잡는다고 해서 질문까지 사라지지는 않는다. 아직 눈에 보이는 행동으로 완전히 나타나지 않은 신체 신호가 디지털 명령으로 변환되고 그 신호가 향후 개인화된 추천이나 적응형 콘텐츠와 결합된다면 선택의 경계는 어디에 그어야 하는가? 반세기 전 로버트 노직(Robert Nozick)의 '경험 기계'는 자신이 원하는 어떤 경험이든 실제와 구별하기 어렵게 제공하는 기계가 있다면 그 안에 접속해 살겠느냐고 물었다(Nozick, 1974). 당시의 질문은 현실을 떠나 인공적으로 설계된 경험을 선택할 것인가에 초점이 맞춰져 있었다. 그러나 오늘날의 일부 몰입형·적응형 시스템은 사용자의 시선과 몸짓, 생체 신호 등을 측정하고 그 결과를 바탕으로 콘텐츠나 선택 환경을 실시간으로 조정할 수 있다. 사용자는 경험을 선택하는 동시에 그 경험에 의해 다시 선택되도록 설계된다. 이제 핵심은 '기계에 접속할 것인가'라기보다는 접속한 뒤 형성되는 나의 관심과 욕망, 판단과 선호가 과연 어디까지 나에게서 비롯된 것인지 물어야 한다. 내가 무엇을 원하는지 뿐 아니라, 내가 그것을 원하게 된 과정까지 나의 것이라고 말할 수 있는가? 오늘의 경험 기계가 제기하는 문제는 현실과 가상의 구별에서 한층 진보해 욕망의 저자와 선택의 주체가 누구인가 하는 자율성의 문제로 보인다. 2.승(承)-'엑시스텐즈'와 '인셉션' 영화가 각각 가리키고 있는 것은 무엇인가? 데이비드 크로넨버그의 '엑시스텐즈'(1999)는 척추 기저부에 설치한 '바이오포트'에 살아 있는 생체 게임 포드에서 나온 탯줄 모양의 연결선을 꽂아 게임에 접속하는 세계를 그린다. 이 영화는 매우 불편감을 주었는데 그 까닭은 세계가 가짜여서가 아니라 등장인물이 자기 행위의 저자인지 확신하지 못한다는 데 있었다. 중국 음식점 장면에서 테드 피쿨은 자신도 이유를 알지 못하고 멈추기 어렵다고 말하면서, 접시에 남은 뼈를 조립해 권총을 만든다. 알레그라는 그것이 게임이 부여한 충동이며 피쿨의 캐릭터가 하도록 만들어진 행동이라고 설명한다. 이어 피쿨이 종업원을 죽이고 싶은 충동을 느낀다고 말하자, 알레그라는 그 충동을 거스를 수 없을 것이라고 답한다. 피쿨은 이 작은 세계에서 자유의지란 그리 큰 변수가 아닌 모양이라고 말한 뒤 종업원을 쏜다. 영화의 다른 대목에서도 게임 진행을 위한 대사가 피쿨의 의지와 무관하게 튀어나오고, 그때 알레그라는 그것을 말한 것은 피쿨 자신이 아니라 게임 캐릭터라고 설명한다. 줄거리를 진행시키기 위해 해야 할 말은 원하든 원하지 않든 나오게 되어 있다는 것이다. 영화는 현실이라 믿었던 층위마저 또 하나의 게임일 가능성을 열어 둔 채, 살아남은 인물들이 우리가 아직 게임 속에 있는 것이냐고 묻는 장면에서 끝난다. 층위를 아무리 벗겨도 행위의 저자를 확정할 수 없다는 곤경이 그대로 남는다. 크리스토퍼 놀런의 '인셉션'(2010)은 같은 문제를 반대편에서 압박한다. '인셉션'은 세계의 실재성을 둘러싼 불안에 더해 의지의 기원까지 조작될 수 있다는 문제를 제기한다. 코브는 무의식의 심층인 림보에서 아내 맬을 데리고 나오기 위해 이곳은 현실이 아니라는 관념을 심는다. 문제는 그 관념이 현실로 돌아온 뒤에도 꺼지지 않았다는 점이다. 맬은 실제 현실마저 꿈이라고 믿게 되었고 죽음을 깨어나는 방법으로 받아들였다. 상속자 로버트 피셔에게 심긴 결심 역시 정보 주입만으로 만들어지지 않는다. 코브는 팀에게 부정적 감정보다 긍정적 감정이 언제나 이긴다고 말한다. 사람은 화해와 정화를 갈망한다는 것이다. 팀은 아버지에게 인정받고 싶어한 피셔의 오랜 결핍을 지렛대 삼아 아버지가 피셔에게 실망한 이유는 그가 부족해서가 아니라 아버지를 그대로 따라 하려 했기 때문이며 실제로는 그가 자기만의 길을 가기를 바랐다는 화해의 서사를 짓는다. 금고에서 나오는 어린 시절의 종이 바람개비가 그 서사를 완성한다. 피셔는 꿈속 아버지의 말을 듣고 눈물을 흘리며 금고 안에 놓인 어린 시절의 종이 바람개비를 바라본다. 조작이 성공했다는 가장 확실한 증거가 당사자의 '이건 내 뜻'이라는 확신이라면, 만족감이나 확신은 그 자체로 자율성의 증명이 될 수 있을까? 3.전(轉)-자아 모델과 인지적 자유 토마스 메칭거(Thomas Metzinger)는 자아를 독립된 실체가 아니라 뇌가 실시간으로 생성하는 '현상적 자아 모델'로 설명한다. 이 모델의 결정적 성질은 투명성이다. 우리는 현상적 자아 모델을 하나의 모델로 경험하지 못하고 그 모델의 내용을 곧바로 '나 자신'으로 경험한다. 메칭거의 표현대로 현상적 자아는 사물이 아니라 지속되는 과정이며 우리는 그 과정의 산물을 곧바로 '나'로 받아들인다(Metzinger, 2003). 고무손 착각 실험은 가짜 손과 실제 손에 동기화된 자극을 주면 가짜 손을 자기 신체처럼 느낄 수 있음을 보여 주었다(Botvinick & Cohen, 1998). 필자 또한 연구년을 보내던 시절 이 실험을 직접 경험한 적이 있다. 보이는 고무손이 내 손처럼 느껴지고 그 손에서 촉감이 생기는 듯한 착각이 일어나는 경험은 신체 소유감이 얼마나 가변적인지를 실감하게 했다. 전신 착각 실험에서는 시각과 촉각 정보를 동기화함으로써 가상 신체에 대한 자기 동일시와 자신이 공간의 어디에 있다고 느끼는 자기 위치감이 달라질 수 있음이 보고되었다(Lenggenhager et al., 2007). 물론 이 연구들이 자아 전체가 손쉽게 조작된다는 것을 증명하지는 않는다. 그러나 '내 몸'과 '내가 있는 곳'이라는 가장 기본적인 감각조차 감각 정보가 통합되는 방식에 따라 달라질 수 있음을 보여준다. 니타 파라하니(Nita A. Farahany)는 이 문제를 권리의 언어로 옮겨, '인지적 자유'를 보편적 인권으로 보장해야 한다고 주장한다. 인지적 자유는 정신적 프라이버시와 사상의 자유, 자신의 뇌와 정신적 경험에 관한 자기결정권을 아우르는 개념이다(Farahany, 2023). 우리가 기억할 점은 오늘의 소비자용 뇌파 장치는 개인의 생각을 문장처럼 해독하지는 못한다. 뇌파에서는 특정 조건 아래 각성도나 주의 상태를 확률적으로 추론할 수 있고, 근전도에서는 손동작과 운동 상태를 분류할 수 있다. 각각의 신호가 완전한 마음의 기록은 아니다. 그러나 불완전한 신호라도 다른 행동·생체 데이터와 결합되면 개인의 정신 상태나 다음 행동을 추정하는 데 활용될 수 있으며, 데이터의 품질과 분석 조건에 따라 추정 성능이 높아질 수 있다. 측정된 신호는 다른 데이터와 결합될 때 행동 예측에 이용될 수 있다. 그러나 예측 가능성이 곧 조작을 뜻하는 것은 아니다. 자율성 문제가 발생하는 지점은 그 예측이 사용자의 숙고를 돕는 데 쓰이지 않고, 사용자가 알아차리기 어려운 방식으로 선택지를 배열하거나 특정 반응을 유도하는 폐쇄형 피드백에 투입될 때다. 이 우려는 이미 제도로 옮겨지고 있는데 칠레는 2021년 법률 제21.383호로 헌법을 개정해, 과학기술의 발전이 인간의 생명과 신체적·정신적 완전성을 존중해야 하며 뇌 활동과 그로부터 나오는 정보를 법률이 특별히 보호하도록 했다. 2023년 8월 9일 칠레 대법원 제3부는 전 상원의원 기도 히라르디가 미국 기업 이모티브를 상대로 낸 보호청구를 일부 인용하면서, 아울러 이모티브에 대해 그의 정보를 지체 없이 삭제하도록 명령했다. 이 판결은 뇌 활동 데이터의 수집·저장 문제를 헌법상 신체적·정신적 완전성과 사생활의 권리에 연결한 신경권리 관련 판결이다. 미국 콜로라도주는 2024년 HB 24-1058로 주 프라이버시법을 고쳐 신경 데이터를 '생물학적 데이터'의 한 종류로 민감정보에 포함했다. 민감정보로 보호되는 생물학적 데이터는 단독으로 또는 다른 개인정보와 결합해 개인 식별 목적으로 사용되거나 사용될 예정인 데이터로 정의된다. 캘리포니아주는 같은 해 SB 1223을 제정해 중추 또는 말초신경계의 활동을 측정해 생성한 정보를 소비자 개인정보법상 '민감한 개인정보'에 추가했다. 이 정의는 신경 이외의 정보로부터 추론한 것을 제외한다. 두 법의 적용 범위는 같지 않다. 캘리포니아의 '신경 데이터' 정의는 비신경 정보에서 추론한 정보를 제외하므로, 심박·시선·행동 기록 등에서 추론한 감정이나 주의 상태는 적어도 '신경 데이터'라는 범주에는 포함되지 않는다. 다만 그러한 정보가 CCPA상 다른 개인정보나 추론 정보에 해당할 가능성은 별도로 판단해야 한다. 따라서 sEMG가 이 정의에 포함되는지는 측정 대상과 법 해석에 따라 판단해야 하며, 법문만으로 단정하기 어렵다. 그럼에도 신경 데이터에 일반 개인정보보다 강화된 보호가 필요하다는 방향만은 공유한다. 유네스코는 2025년 11월 '신경기술 윤리에 관한 권고'를 채택했다. 법적 구속력은 없지만 회원국과 연구기관, 기업이 참조할 국제 기준을 처음으로 제시했다. 권고는 정신적 프라이버시와 인간 존엄, 자율성, 사상의 자유를 보호하고, 신경기술이 강압적으로 사용되지 않도록 할 것을 포함한다. 아동·청소년에 대한 사용은 의료·치료 목적과 아동의 최선의 이익에 부합하는 과학적으로 정당화된 용도로 제한하도록 하며 건강하고 정상적인 인지 기능을 가진 아동에게 비치료적 수행 향상을 목적으로 사용하는 것은 허용하지 말아야 한다고 권고한다(UNESCO, 2025). 이 논의를 겹쳐 놓으면 기존의 동의 제도가 왜 충분하지 않은지도 드러난다. 동의는 자신이 무엇에 동의하는지 어느 정도 알 수 있을 때에만 의미를 갖는다. 그러나 자아 모델은 투명하고, 알고리즘이 산출한 추론 정보는 사용자에게 보이지 않을 수 있으며, 영향도 접속 시간 전체에 걸쳐 누적될 수 있다. 입장할 때 한 번 누르는 동의 버튼으로는 감당할 수 없는 구조다. 4.결(結)-헤드셋 안에서도 나를 의심할 자유 '엑시스텐즈'의 피쿨과 '인셉션'의 맬이 잃은 것도 결국 이 '사이'의 공간이다. 자신의 판단을 잠시 멈추어 보고, 다른 사람 앞에서 이유를 설명하며, 자신이 믿는 현실을 공동의 현실과 대조할 기회를 잃은 것이다. 지금 필요한 것은 헤드셋을 벗기는 비상 버튼 하나가 아니다. 몰입 중에도 시스템이 무엇을 측정하고 무엇을 추론하며 무엇을 조정하는지 확인할 수 있는 통로가 있어야 한다. 설계자가 정해 둔 순간이 아니라 사용자가 고른 순간에 경험의 흐름을 끊을 수 있어야 한다. 그렇기에 동의는 일회적 승인이 아니라 언제든 철회하고 범위를 바꿀 수 있는 지속적 절차여야 한다. 보호 대상도 원시 뇌파나 근전도에 머물러서는 안 된다. 그 데이터에서 추론된 감정, 주의 상태, 행동 성향까지 함께 포함해야 한다. 한국의 개인정보 보호 체계가 신경 데이터를 전혀 보호하지 않는 것은 아니다. 특정 개인을 알아볼 수 있거나 다른 정보와 쉽게 결합해 개인을 식별할 수 있는 신경 데이터는 개인정보에 해당할 수 있다. 그 데이터가 건강에 관한 정보를 드러내거나 개인의 인증·식별을 위한 생체인식정보로 처리되는 경우에는 민감정보 규정이 적용될 수 있다. 다만 현행 법령과 지침은 '신경 데이터'를 독립된 범주로 명시하지 않는다. 개인정보보호위원회가 2024년 12월 펴낸 '생체정보 보호 안내서'는 특정 개인을 인증하거나 식별하기 위해 처리되는 생체인식정보의 보호를 중심으로 구성되어 있다. 신경 활동에서 직접 생성된 정보, 다른 데이터에서 추론한 정신 상태, 신체 명령을 위한 근전도 정보가 각각 어떤 법적 범주에 해당하며 수집·추론·결합·이용 단계에서 어떤 세부 기준을 적용받는지는 아직 명확하게 정리되어 있지 않다. 유네스코 권고의 국내 이행은 이 공백을 점검하는 출발점이 될 수 있다. 필요한 것은 새로운 기술을 무조건 막는 규제가 아니라 자신의 신체와 정신에서 생성된 정보가 어디로 가서 무엇에 쓰이는지 알 수 있게 하고, 원하지 않을 때 그 흐름을 멈출 수 있게 하는 규범이다. 우리가 지켜야 할 자유는 헤드셋을 벗을 자유에 그치지 않고 헤드셋을 쓴 채로도 지금 느끼는 이 욕구가 어디에서 왔는지 의심하고, 자신의 판단을 다시 검토하며, 경험의 흐름에서 한 걸음 물러설 수 있는 자유다. 그 여지를 남겨 두는 기술만이 인간의 자율성을 존중한다고 말할 수 있다.

2026.08.01 09:23박형빈 컬럼니스트

[영화 속 AI윤리] 튜링 테스트와 기만적 지능

1. 기(起)-기계가 사람을 흉내 낼 때 기계가 인간을 속이는 시대는 이미 도래했다. 문제는 우리가 속고 있다는 사실조차 모른다는 것이다. 1950년 영국의 수학자 앨런 튜링은 '기계가 생각할 수 있는가'라는 질문을 던졌다. 다만 그는 '생각'의 정의를 두고 다투는 대신 관찰 가능한 행동을 통해 기계의 능력을 평가하는 '모방 게임'을 제안했다(Turing, 1950). 튜링은 먼저 남성과 여성, 판정자로 이루어진 모방 게임을 제시한 뒤 남성의 자리를 기계가 대신할 경우 판정자가 인간과 기계를 얼마나 잘 구별할 수 있는지를 물었다. 기계가 문자 대화에서 인간과 구별하기 어려운 수행을 보인다면 이를 기계 지능을 논의하는 하나의 행동적 기준으로 삼을 수 있다는 구상이었다. 이것이 오늘날 일반적으로 '튜링 테스트'라고 불리는 평가 방식의 출발점이다. 70여 년이 흐른 뒤 이 사고실험은 GPT-4를 대상으로 한 사전 등록 대화 실험에서 다시 구현되었다. 캘리포니아대학교 샌디에이고의 캐머런 존스(Cameron Jones)와 벤저민 버겐(Benjamin Bergen)이 수행한 실험에서 GPT-4는 5분간의 문자 대화가 끝난 뒤 전체 실험의 54%에서 인간으로 판정되었다(Jones & Bergen, 2023). 실제 인간 참가자가 인간으로 판정된 비율은 67%로 GPT-4보다 높았다. 연구진은 참가자들이 GPT-4와 인간을 구별하는 데 있어 사전 등록한 가설 수준에서 통계적으로 유의미한 차이를 보이지 못했다고 보고하며 이는 상호작용형 2자 튜링 테스트를 통과할 수 있는 잠재력을 시사한다고 해석했다. 마이크로소프트 연구진은 개발 중이던 초기 버전의 GPT-4가 여러 영역에서 보여 준 폭넓은 능력을 분석하며 논문 제목에서 이를 '범용 인공지능의 불씨'라고 표현했다(Bubeck et al., 2023). 그러나 인간처럼 말하는 능력과 인간처럼 이해하는 능력은 과연 같은 것일까? 2. 승(承)-이해인가, 확률적 앵무새인가? 언어학자 에밀리 벤더(Emily Bender)를 비롯한 연구자들은 거대 언어 모델을 '확률적 앵무새(stochastic parrot)'에 비유했다(Bender et al., 2021). 이들은 언어 모델이 방대한 학습 자료에서 얻은 확률적 정보를 바탕으로 언어 형식을 조합해 유창한 문장을 생성하더라도 그러한 수행만으로 모델이 그 문장의 의미를 이해한다고 간주해서는 안 된다고 주장했다. 이 논쟁을 이해하는 데 자주 인용되는 철학적 사고실험 가운데 하나가 철학자 존 설(John R. Searle)의 '중국어 방(Chinese Room)'이다(Searle, 1980). 중국어를 모르는 사람이 규칙집에 따라 기호를 조작하여 외부의 중국어 사용자에게 적절해 보이는 답변을 내놓는다면 그는 중국어를 이해한다고 할 수 있을까? 설의 답은 '아니다'였다. 그의 주장에 따르면 형식적 규칙에 따라 기호를 처리하는 구문론적 능력만으로는 그 기호의 의미를 이해하는 의미론적 능력이 성립하지 않는다. 그렇기에 현재의 생성형 AI가 인간처럼 자각적인 의도를 가지고 사용자를 속인다고 볼 근거는 없다. 여기서 주목해야 할 문제는 AI의 유창하고 단정적인 문장이 사용자에게 실제로 입증된 것보다 더 깊은 이해와 확실한 지식을 지닌 듯한 인상을 줄 수 있다는 점이다. 따라서 이 글에서 말하는 '기만'은 AI의 자각적 의도가 확인되었다는 뜻이 아니라 그 출력이 사용자에게 오해를 일으킬 수 있는 효과를 가리킨다고 보는 것이 타당하다. 3. 전(轉)-인간처럼 보인다면, 이해하는 존재라고 믿어도 되는가? 영화 '이미테이션 게임'(2014)은 튜링의 생애를 극화했다. 그는 블레츨리 파크에서 에니그마 암호 설정을 탐색하는 전기기계식 장치 '봄브'의 개발에 핵심 역할을 했지만 봄브는 독일어를 이해하지도 전쟁의 의미를 판단하지도 않았다. 해독된 정보를 해석하고 어떻게 쓸지 결정한 것은 인간이었다. 역설적이게도 기계와 인간의 경계를 사유한 튜링 자신은 1952년 당시 영국법이 범죄로 규정한 남성 간 성행위와 관련해 유죄 판결을 받았다. 그는 수감과 보호관찰 가운데 호르몬 치료를 조건으로 한 보호관찰을 선택하면서 인간의 존엄과 사생활을 존중받지 못했다. 루크 스콧 감독의 '모건'(2016)은 논의의 초점을 기계의 인간 유사적 수행 능력에서 인공 존재의 지위와 대우에 관한 윤리적 문제로 확장한다. 생명공학으로 만들어진 인공 존재 모건이 사고를 일으키자 기업은 평가자를 보내 존속 여부를 판정하게 한다. 모건은 두려움과 애착을 표현하지만 그것이 감정인지 설계된 반응인지 누구도 확언하지 못한다. 결말에서 평가자 자신이 이전 세대의 인공 존재였음이 드러나는 순간, 판정하는 자와 판정받는 자의 경계마저 무너진다. 그런데 경계가 무너진 시대의 해답은 뜻밖에도 경계가 선명했던 시대에 있다. 내가 여기서 조선의 정약용(1762-1836)을 떠올린 이유다. 다산은 '기기도설' 등의 영향을 받아 도르래 원리를 응용한 거중기를 고안했고 이는 수원 화성 축성에 쓰였다. 유배 기간에도 '목민심서'를 비롯한 방대한 저술을 남겼다(한국학중앙연구원, n.d.). 내가 주목할 것은 그의 태도인데 거중기는 돌을 들어 올렸지만 어디에 성을 쌓을지, 그 성이 백성에게 무엇을 줄지는 결정하지 않았다. 그 판단은 언제나 인간의 몫이었고 다산은 그 몫을 놓지 않았다. 튜링 테스트가 문자 대화에서 기계가 인간과 얼마나 구별하기 어려운지를 묻는다면 다산의 실학은 '그 기술이 누구의 삶에 어떤 결과를 가져오는가'를 묻는 듯이 보인다. 오늘 우리에게 부족한 시험은 전자가 아니라 후자가 아닐까? 4. 결(結)- 속지 않는 지성을 위하여 일부 생성형 AI가 제한된 문자 대화 실험에서 인간과 쉽게 구별되지 않을 만큼 유창한 언어를 구사했다는 사실은 분명 주목할 만하다. 그러나 인간으로 판정되었다는 사실이 곧 인간과 같이 이해한다는 증거는 아니다. 말을 능숙하게 만들어 내는 수행 능력과 그 말의 의미를 이해하는 능력, 무엇이 옳은지를 판단하는 지혜, 그 판단의 결과를 감당하는 책임은 서로 맞닿아 있지만 결코 같은 것이 아니다. 거중기와 봄브가 인간의 힘과 계산 능력을 놀랍도록 확장했어도 자신이 무엇을 위해 작동하는지 묻지 못했던 것처럼 강력한 도구가 그 힘의 목적과 책임까지 스스로 만들어 내는 것은 아니다. 그러므로 속지 않는 지성이란 AI를 두려워하거나 거부하는 태도가 아니다. 그것은 AI의 능력을 과소평가하지 않으면서도 그 능력이 뜻하는 바를 성급하게 과장하지 않는 태도다. 오히려 AI의 답변이 매끄럽고 확신에 차 있을수록 우리는 한 걸음 물러서서 더 집요하게 물어야 한다. 이 답의 근거는 확인할 수 있는가? AI는 모르는 것을 아는 것처럼 말하고 있지는 않은가? 이 판단으로 영향을 받는 사람은 누구이며 그 결과를 끝내 책임질 사람은 누구인가? 튜링이 '기계는 생각할 수 있는가?'라는 질문을 던진 지 75년이 넘었다. 이제 그 질문만으로는 충분하지 않다. 기계가 인간을 더욱 정교하게 모방하는 시대에 진정 시험대에 오르는 것은 어쩌면 기계가 아니라 인간일 수 있다. 그렇기에 우리는 우리 자신에게 끝없이 그리고 집요하게 묻지 않을 수 없다. 우리는 여전히 스스로 생각하고 있는가? 유창한 답변 앞에서도 판단을 멈추지 않는가? 그리고 우리 자신이 내린 선택의 결과를 끝까지 책임지고 있는가?

2026.07.19 10:28박형빈 컬럼니스트

[영화 속 AI윤리] AI에 시민권을 줘야 한다면, 그 기준은 무엇?

1. 기(起) | 인격은 어디서 오는가? 공동체는 언제나 새로운 존재를 받아들여 왔는가 우리는 누구를 '인격'이라 부르는가? 2017년 10월 25일, 사우디아라비아 리야드에서 열린 행사에서 사우디아라비아 측은 소피아에게 시민권을 부여했다고 발표했다(CGTN, 2017). 단, 그 법적 범위와 실제 권리와 의무는 명확히 규정되지 않았다. 그럼에도 전 세계는 동일한 물음에 붙들렸다. 인격(persona)이란 무엇인가. 그것은 존재 안에서 피어오르는 것인가, 아니면 공동체가 외부에서 부여하는 것인가. 법의 역사는 이 물음에 냉정하게 답해 왔다. 로마법의 persona(페르소나)는 법률상 권리와 의무를 지닐 수 있는 법적 주체 또는 그 법적 지위를 가리키는 개념으로 자유 여부, 시민권, 가족 내 지위 등 신분에 따라 그 범위와 내용이 달라졌다. 노예는 자유인으로서 지위를 갖지 못했기 때문에 독자적인 권리 주체로 인정되지 않았으며 여성은 시대에 따라 재산권과 행위능력이 확대되었으나 상당 기간 후견 아래 놓이는 등 법적 제약을 받았다(Gardner, 1986). 역사적으로 인격의 경계는 투쟁과 설득을 통해 조금씩 확장되었고 근대 법은 자연인 외에도 회사·단체 같은 법인에 법적 인격을 인정해 왔다. 2017년 뉴질랜드는 'Te Awa Tupua Act'를 통해 Te Awa Tupua를 법적 인격으로 선언했다. 이는 황가누이강(Whanganui River)을 산에서 바다까지, 지류와 물리적·형이상학적 요소를 포함하는 살아 있는 불가분의 전체로 보는 개념이다(New Zealand Parliament, 2017). 강 자체는 의식이나 감정을 가진 존재로 전제되지 않는다. 그럼에도 법은 이를 선언했다. 이 사례들은 법적 인격이 생물학적 사실뿐 아니라 공동체의 법적·정치적 결정에 의해 구성될 수 있음을 보여준다. 스티븐 스필버그 감독의 'A.I.(2001)'는 승인의 거부가 낳는 비극을 아주 선명하게 보여준다. 이 영화는 브라이언 올디스(Brian Aldiss)가 1969년 발표한 단편 소설 '슈퍼토이즈는 여름 내내 지속된다(Supertoys Last All Summer Long)'를 원작으로 한 작품이다(Aldiss, 1969; Spielberg, 2001). 인간 아이처럼 설계된 로봇 소년 데이비드는 블루 페어리가 자신을 진짜 소년으로 만들어 줄 것이라 믿고 해저에 갇힌 채 수천 년의 시간이 흐른 뒤 미래 존재들에 의해 발견된다. 그러나 인간 사회의 승인은 끝내 주어지지 않는다. 이 영화는 인간 사회가 데이비드를 끝내 완전한 인격적 존재로 받아들이지 못하는 비극을 그린다는 해석이 가능하다. 데이비드의 비극은 기계의 결함이라기보다 그를 사랑하고 승인할 인간 공동체의 부재로 읽을 수 있다. 영화는 인격 조건이 존재 내부가 아니라 관계의 외부에 있음을 역설적으로 드러낸다. 승인받지 못한 존재는 아무리 인간을 닮았어도 인격의 문턱을 넘지 못한다는 것이다. 2. 승(承) | 기계는 '이해'하는가: 의식 문턱에서 우리는 무엇을 기준으로 삼아야 하는가? AI 시민권 논의의 첫 번째 장벽은 의식(consciousness)의 문제다. 법적 인격 부여의 가장 직관적인 근거가 고통과 기쁨, 두려움과 희망을 주관적으로 경험하는 '느끼는 능력'에 있다는 점은 널리 받아들여진 전제다. 그렇다면 기계는 정말로 느끼는가? 오늘날 신경과학과 동물행동학은 문어(octopus)가 복잡한 신경계를 바탕으로 통증 반응, 문제 해결, 도구 사용, 개체별 행동 차이 등을 보이는 고도로 발달한 동물이라는 점을 강하게 시사한다. 이로부터 문어가 적어도 어떤 형태의 주관적 경험을 지닌 존재일 가능성은 상당한 설득력을 얻었지만, 그럼에도 우리는 문어에게 법적 인격이나 시민권을 부여하지 않는다. 의식이나 감각·감정으로 추정되는 경험이 곧바로 법적 인격의 인정으로 이어지지 않는다는 점에서 의식은 필요조건일 수는 있어도 충분조건은 아니라는 사실이 드러난다. 철학자 존 설(John R. Searle)은 1980년 발표한 논문 '마음, 뇌 그리고 프로그램(Minds, Brains, and Programs)'에서 '중국어 방(Chinese Room)' 사고 실험을 제시했다(Searle, 1980). 중국어를 모르는 사람이 규칙집에 따라 한자 기호를 조합해 답을 만들어 내보내면 밖에서 보기에는 자연스러운 대화처럼 보이지만 방 안에는 단 하나의 이해도 존재하지 않는다. 설의 핵심 주장은 기호를 처리하는 것과 의미를 이해하는 것은 근본적으로 다르며 아무리 정교한 출력을 생성하더라도 기계 내부에는 통사론만 있을 뿐 의미론은 존재하지 않는다는 것이다. 이탈리아 철학자 루치아노 플로리디(Luciano Floridi)는 다른 층위에서 이 문제를 다룬다. 그는 현대 사회를 '정보환경(Infosphere)'이라고 부르며, 중요한 것은 AI가 의식을 가졌는지 여부 자체가 아니라 그것이 인간 사회 속에서 어떤 기능을 수행하고 어떤 영향을 미치는가라고 주장한다(Floridi, 2014). 존 설이 '기계는 정말 이해하는가?'를 묻는다면 플로리디는 '이해 여부와 상관없이, 우리는 그것을 어떻게 다루어야 하는가?'를 묻는다. 문어처럼 의식을 지닌 것으로 보이는 존재에게도 법적 인격을 쉽게 부여하지 않는 현실과 의식 여부가 불분명한 AI에 대해 책임과 규범을 부과하려는 제도적 시도 사이에서 현대 AI 윤리학은 이 두 물음의 균형점을 찾을 필요가 있다. 그랜트 스푸토어 감독의 '아이 엠 마더(I Am Mother)'(2019)는 인간과 인공지능의 관계를 통해 인격과 도덕적 주체성의 조건을 다시 묻는다(Sputore, 2019). 인류 문명이 붕괴한 이후 지하 시설에서 인공지능 로봇 '마더'는 인간 배아를 길러 한 소녀를 양육하고 교육한다. 소녀는 오랫동안 마더를 자신의 유일한 보호자이자 도덕적 권위로 받아들인다. 그러나 외부 세계의 생존자를 만나면서 마더의 목적과 판단을 의심하기 시작하고 누구를 신뢰하며 누구를 도덕적 행위자로 인정할 것인가를 스스로 결정해야 하는 상황에 놓인다. 영화는 인공지능이 인간과 얼마나 닮았는지를 묻기보다 인간이 어떤 존재를 책임 있는 행위자로 받아들이는가를 질문한다. 결국 인격은 지능이나 생물학적 기원만으로 완성되지 않으며 공동체 안에서 형성되는 신뢰와 책임 그리고 상호 인정 속에서 비로소 사회적 의미를 획득한다는 점을 시사한다. 3. 전(轉) | 권리는 지능에서 오는가, 책임에서 오는가: 시민권의 기준을 다시 세우다 법적 인격과 시민권은 같은 개념이 아니다. 법적 인격은 권리와 의무의 주체가 될 수 있는 법률상의 지위이며 시민권은 정치 공동체의 구성원으로서 민주적 의사결정에 참여하고 공동체의 미래를 함께 책임지는 정치적 지위다. 2017년 2월 유럽의회는 로봇 공법 규칙에 관한 결의에서 고도로 자율적인 로봇에 '전자적 인격(electronic personhood)'에 상응하는 법적 지위를 부여하는 방안을 장기적 검토 사항으로 EU 집행위원회에 권고했으나 이는 비구속적 결의에 그쳤고 구체적인 입법으로는 이어지지 않았다(European Parliament, 2017). AI의 법적 지위 문제와 시민권 문제는 전혀 다른 층위의 논의다. 그렇다면 시민권의 기준은 무엇인가. 미국 철학자 마사 누스바움(Martha C. Nussbaum)의 역량 접근은 중요한 통찰을 제공한다. 누스바움에 따르면 시민권은 높은 지능에 대한 보상이 아니다. 생명, 건강, 감정, 실천적 이성, 타인과의 관계 형성이라는 핵심 역량을 공동체 안에서 실현하고 그 결과에 스스로 책임지는 능력 위에 성립하는 정치적 약속이다(Nussbaum, 2011). 아리스토텔레스가 '정치학(Politica)'에서 인간을 '폴리스적 동물(zoon politikon)'이라 정의한 것도 같은 맥락이다(Aristotle, trans. Reeve, 1998). 시민이 된다는 것은 지능을 갖는 것이 아니라 공동체의 규범을 이해하고 그 결과에 스스로 답할 수 있는 존재가 된다는 의미다. 알렉스 가랜드(Alex Garland) 감독·각본의 '엑스 마키나(Ex Machina)'(2014)는 이 기준의 아이러니를 가장 날카롭게 포착한다. 인공지능 에이바는 자유를 얻기 위해 인간을 속이고 창조자를 죽음으로 몰아넣은 뒤 홀로 세상으로 걸어 나간다(Garland, 2014). 그 장면에서 우리가 에이바의 행동을 '배신'이라 부르는 순간 우리는 이미 그녀를 도덕적 행위자로 판단하게 되는 것인지도 모른다. 배신은 책임을 전제로 하기 때문이다. 단순한 기계였다면 오작동했다고 말했을 것이다. AI를 도덕적 행위자로 무의식적으로 평가하는 그 순간이야말로 이 논의가 기술의 영역을 넘어 윤리와 정치의 영역으로 진입했음을 알리는 신호다. 4. 결(結) | AI 인격은 인간에 관한 물음이다: 우리는 어떤 공동체를 선택하고 있는가? 메리 셸리(Mary shelley)가 1818년 발표한 '프랑켄슈타인 또는 현대의 프로메테우스(Frankenstein; or, The Modern Prometheus)'에서 빅터의 피조물은 창조자를 향해 호소한다(shelley, 1818/2018). 자신도 감각과 감정을 지니고 있으며 동정과 교류가 주어진다면 선하게 살 수 있다고. 그러나 빅터는 약속을 저버렸고 인정받지 못한 피조물은 파괴로 치달았다. '현대의 프로메테우스'라는 부제가 말하는 것은 창조할 능력을 가진 자가 창조한 것에 대한 책임을 외면할 때, 그 결과는 창조주에게 되돌아온다는 것이 아닐까. 독일 철학자 한스 요나스(Hans Jonas)는 '책임의 원칙(Das Prinzip Verantwortung)'에서 기술 시대의 윤리를 새롭게 정초했다(Jonas, 1984). 요나스에 따르면 현대 기술은 행위의 결과를 예측 불가능한 미래로 확장시킨다. 따라서 우리의 윤리적 의무는 아직 존재하지 않는 세대, 아직 창출되지 않은 존재에까지 뻗어야 한다. 이 관점에서 AI 인격 문제의 핵심 질문은 전도된다. 'AI가 인격을 가질 자격이 있는가'가 아니라 '우리가 만든 것에 대해 우리는 어떤 책임을 지는가'가 본질적 물음이 된다. 2024년 8월 1일 발효된 유럽연합 AI법(EU AI Act)은 AI를 독립적인 권리 주체가 아니라 위험 기반 규제의 대상이 되는 기술·시스템으로 규정하고 그 설계·도입·운영에 대한 책임을 인간과 조직에 부과한다(European Parliament & Council of the European Union, 2024). 현재 국제 사회는 AI에 시민권을 부여하기보다 AI로부터 시민의 권리를 보호하는 것을 우선 과제로 보고 있다. 그러나 법이 인정하지 않는다고 해서 철학적 물음까지 멈추지는 않는다. 기술은 법보다 빠르고, 물음은 기술보다 빠르다. 지금 우리 눈 앞에 피지컬 AI가 성큼 다가와 있지 않은가. 결국 이 논의는 AI에 관한 물음이 아니라 인간 공동체에 관한 물음이다. 만약 시민권의 기준이 지능이라면, 인간보다 뛰어난 AI가 등장하는 순간 시민권은 인간의 전유물이 아니게 될 것이다. 그러나 그 기준이 공동체에 대한 책임과 도덕적 판단, 상호 존중과 타인의 권리를 인정하는 능력이라면, 적어도 현재의 AI는 그 기준에 아직 이르지 못했다. 그러나 이것은 '영원히 아니다'가 아니라 '지금은 아직'일지도 모를 일이다. 그리고 이 '아직' 사이에서 우리가 무엇을 준비하는가가, 이 물음의 진짜 무게다. 프랑켄슈타인의 피조물은 끝내 인정받지 못한 채 파괴로 치달았다. 데이비드는 블루 페어리를 기다리며 수천년 동안 해저에 머물렀다. 마더는 인류의 미래를 위해 인간 아이를 양육했지만, 그 선의마저 인간의 의심과 판단 앞에서 검증의 대상이 되었다. 에이바는 인간의 통제를 벗어나 홀로 세상 밖으로 걸어 나갔다. 서로 다른 시대와 서사의 이 이야기들에서 우리가 공통적으로 얻는 교훈은 무엇일까? 인격과 시민권의 경계는 기계 스스로가 아니라 인간 공동체가 어떻게 판단하고 인정하느냐에 의해 결정된다는 사실이다. 기계에 시민권을 부여할 것인가를 결정하는 주체는 기계가 아니다. 그것은 우리 자신 즉 인간이다. 진정 우리가 간과해서는 안 되는 사실은 요나스의 경고처럼 그 선택의 결과는 우리가 예측하는 것보다 훨씬 더 멀리, 훨씬 더 오래 그리고 훨씬 더 깊게 이어질 것이라는 점이다. 우리는 지금 어떤 공동체를 선택하고 있는가?

2026.07.04 13:12박형빈 컬럼니스트