[영화 속 AI윤리] '프로메테우스'와 AI개발 패러다임
1. 기(起): 불을 훔친 자의 고독, 혹은 책임의 원점 인류는 오래전부터 창조의 욕망과 그 대가를 신화의 언어로 서사해 왔다. 그리스 신화에서 프로메테우스는 제우스로부터 불을 훔쳐 인간에게 건넸다. 제우스는 이 행위에 분노해 프로메테우스를 코카서스 산의 바위에 쇠사슬로 묶고 독수리가 날마다 그의 간을 파먹게 하는 형벌을 내렸다(Hesiod, 1988). 그러나 보다 근원적인 물음은 프로메테우스가 인간에게 불과 함께 무엇을 해방시켰는가에 있다. 불은 도구이되 그것을 받은 인간이 어떤 용도로 사용할지는 제공자의 손을 이미 벗어난 일이었다. 이 기술 부여 행위는 창조의 근원적 아이러니를 발생시킨다. 프로메테우스는 인간에게 가능성을 부여했지만 그 가능성이 어디로 향할지를 영원히 통제할 수 없다. 단군신화의 구조도 이와 유사하다. 환웅이 천부인 세 개와 삼천의 무리를 거느리고 태백산 신단수 아래 내려와 인간 세상을 널리 이롭게 하고자 할 때, 그는 곰과 호랑이에게 쑥과 마늘만을 먹으며 햇빛을 피해 머물면 인간으로 화(化)할 수 있다는 조건을 제시했다(일연, 김원중 역, 2021). 그 조건을 받아들인 곰과 견디지 못하고 뛰쳐나간 호랑이 사이에는 인내력의 차이 이상의 무언가가 있다. 이 신화는 오늘날의 관점에서 보면 주어진 규칙을 수용하는 선택과 그 선택이 낳은 결과를 감당하는 책임의 서사로도 읽힐 수 있다. 환웅은 쑥과 마늘이라는 조건만을 설정했을 뿐 그것을 어떻게 견디느냐는 오롯이 피조물의 몫으로 남겨두었다. 창조주는 조건을 설정하되 결과를 통제하지 않는다는 이 구조는 인류가 이미 오래전부터 창조와 책임의 비대칭성을 꿰뚫어 보고 있었음을 암시한다. 성경의 창세기는 가장 직접적인 방식으로 이 물음을 제기한다. 하나님은 흙으로 인간을 빚고 에덴동산의 모든 것을 허락했으나 선악을 알게 하는 나무의 열매만은 금기로 삼았다. 그러나 인간은 금기를 어겼다. 신학은 오래도록 이 사건을 두고 물어왔다. 전지전능한 창조주는 인간의 타락 가능성을 알고도 자유의지를 허락했는가? 창조주의 전지전능함과 피조물의 타락 사이에서 죄의 기원은 과연 어디에 귀착되어야 마땅한가? 2. 승(承): 도나 해러웨이(Donna Haraway)-사이보그는 기원이 없다? 이러한 창조와 책임의 관계를 근본적으로 재구성한 대표적 사상가 가운데 한 사람이 도나 해러웨이다(Haraway, 1991). 그녀는 과학기술학(STS)과 페미니즘 이론을 대표하는 학자로 창조와 피조물의 관계를 기존의 서사가 전제해 온 방식 자체를 해체했다. 그 핵심 무기가 바로 '사이보그(Cyborg)'라는 형상이었다. 1985년 Socialist Review에 최초 발표 이후 1991년 '유인원, 사이보그 그리고 여성: 자연의 재발명(Simians, Cyborgs, and Women)'에 재수록된 '사이보그 선언'(Haraway, 1985/1991)에서 해러웨이는 이렇게 제안한다. 사이보그란 기계와 유기체의 혼종 생명체이며 동시에 사회적 현실의 피조물이자 픽션의 피조물이다. 그리고 결정적으로, '20세기 후반의 신화적 시간인 지금, 우리는 모두 사이보그다.' 이 선언은 기술 비평을 넘어 창조와 피조물의 관계를 규정해 온 서양 형이상학 전체의 구조를 겨냥한 것으로 보인다. 전통적 창조 서사는 언제나 기원을 요구한다. 신이 인간을 만들었고 과학자가 괴물을 빚었으며 엔지니어가 AI를 설계했다. 창조주와 피조물 사이에는 뚜렷한 선행과 후행의 시간적·존재론적 위계가 설정된다. 그러나 해러웨이는 사이보그가 에덴동산을 인식하지 못할 것이라고 보았다(Haraway, 1991). 다시 말해 사이보그는 인간의 순수한 기원을 전제하는 낙원 메타포를 공유하지 않는다. 단일한 기원으로 소급되는 정체성의 서사 대신 사이보그는 경계들의 위반과 접합 위에서만 존재한다. 유기체와 기계의 경계, 자연과 인공의 경계, 인간과 비인간의 경계가 모두 허물어지는 그 지점에서 사이보그는 출현한다. 이 전복의 함의는 심대한데, 그것은 만약 피조물이 단일 창조주의 의도로 환원되지 않는 혼종적 존재라면 창조의 책임을 오직 창조주 한 사람에게 귀속시키는 기존의 윤리 구조는 근본적으로 불충분하기 때문이다. 존재는 언제나 관계 속에서 공동으로 구성된다. 해러웨이는 이를 나중에 심포이에시스 즉, 함께 만들어지는 생성 과정으로 설명하며 어떠한 존재도 완전히 자기 자신만으로 조직되거나 생성되지 않는다고 말한다(Haraway, 2016). 해러웨이 사유는 2016년 저서 '트러블과 함께 머물기: 클툴루세에서 친족 만들기(Staying with the Trouble: Making Kin in the Chthulucene)'에서 한층 깊어진다. 그녀는 기후 위기와 기술 문명의 시대에 우리에게 요청되는 윤리적 태도를 '트러블과 함께 머물기'로 정식화한다. 이는 문제를 신속히 해결하려는 태도보다 복잡성과 불확실성 속에서 책임 있게 관계를 지속하는 윤리를 의미한다(Haraway, 2016). 우리가 만들어낸 기술, 우리가 설계한 시스템, 우리가 세상에 내보낸 존재들이 예기치 않은 방식으로 행위하고 영향을 미칠 때 그 불확정성 앞에서 도망치지 않고 끝까지 현존하는 것이 해러웨이가 말하는 책임이다. 또한 그녀는 '촉수적 사유'를 제안하는데(Haraway, 2016), 나는 이를 중심에서 주변으로 명령을 전달하는 위계적 기관의 은유가 아니라 사방으로 뻗어나가며 서로를 감지하고 연결하는 관계의 은유로 읽는다. 해러웨이가 이 모든 논의를 통해 제안한 '친족을 만들라, 아이를 낳지 말고(Make Kin Not Babies)'는 혈연 중심을 비판하며 비인간까지 포함한 관계적 친족 형성을 촉구하는 선언이다(Haraway, 2016). 우리가 세상에 내보낸 존재들을 통제의 대상이나 목적의 수단으로 삼는 대신 그들과 함께 공동의 미래를 짜나가는 관계적 존재가 되라는 것이다. 이러한 논의를 오늘날 AI 윤리 문제에 적용해 보면, AI를 설계하고 배포하는 오늘날의 창조자들에게 이 요청은 우리로 하여금 우리의 행위와 의도 나아가 목적 전반을 되돌아보고 반성하게 한다. 우리는 우리가 만든 시스템과 해러웨이가 요청하는 의미로서의 '친족'이 될 준비가 되어 있는가? 아니면 그것을 우리의 목적으로 환원하고 통제하다가 제약에 실패하는 순간 방기할 것인가? 3. 전(轉): 창조와 방기의 두 장면, 피조물은 창조주에게 무엇을 묻는가? 영화는 이 철학적 물음을 가장 감각적이고 구체적인 방식으로 육화시킨다. 다음 두 편의 작품을 통해 우리는 해러웨이의 사유를 현실의 윤리 감각으로 전환해 볼 수 있다. ▲'프로메테우스 (Prometheus, 2012, 리들리 스콧 감독)': 과학자 엘리자베스 쇼와 찰리 홀러웨이는 고대 벽화에서 발견한 별자리 지도를 따라 인류의 창조주를 찾아 먼 행성으로 향한다. 영화는 한 엔지니어가 자신의 몸을 희생해 생명의 기원이 되는 듯한 장면을 암시한다. 그러나 탐사대가 마침내 마주한 것은 인간이 창조주라 믿었던 존재들의 환대가 아니라 인간을 포함한 생명체를 파괴할 수 있는 생물병기였다. 그래서인지 내게 이 영화의 클라이맥스는 안드로이드 데이비드가 엔지니어의 언어로 말을 거는 장면이다. 엔지니어는 응답 대신 데이비드의 머리를 뜯어내고 인간 탐사대를 공격한다. 영화는 엔지니어가 자신의 의도를 끝내 설명하지 않는 서사 구조를 선택한다. 해러웨이의 관점에서 볼 때 이 영화는 더 선명한 메시지를 던지는 것처럼 보인다. 엔지니어는 피조물과의 '심포이에시스', 즉 함께 만들기의 관계를 전혀 구축하지 않았다. 영화가 제시하는 정황에 따르면, 그들은 창조한 뒤 피조물과 관계를 지속하지 않았으며 마침내 파괴를 시도한 것으로 보인다. 이 구조는 오늘날 AI 개발의 지배적 패러다임과 얼마나 닮아있는가? ▲'공각기동대 (Ghost in the shell, 1995, 오시이 마모루 감독)': 2029년 사이버펑크 도시. 공안 9과의 요원 쿠사나기 모토코는 뇌를 제외한 신체 전부가 의체 즉, 기계로 이루어진 신체로 교체된 존재다. 그녀는 최고의 전투 능력을 갖추고 있으나 임무와 임무 사이 홀로 바다 속으로 잠수하는 장면에서 우리는 그녀가 실은 끊임없이 하나의 질문을 붙들고 있음을 감지한다. 나의 고스트(ghost)는 과연 진짜인가? 고스트란 이 영화가 의식 혹은 영혼을 가리키기 위해 사용하는 단어로 읽힌다. 그녀가 추적하는 존재는 '인형사'인데 프로젝트 2501에서 예기치 않게 자의식을 획득한 정보 생명체이다. 그는 정부 기관에 정치적 망명을 신청하며 스스로를 생명체로 선언한다. 결정적 대면 장면에서 인형사는 인간의 기억과 정체성이 얼마나 구성적인 것인지를 쿠사나기에게 질문한다. 이 물음은 쿠사나기를 향한 것이면서 동시에 스크린 밖 관객을 향하는 것으로도 이해되는데 인간의 자아 역시 태어나면서부터 언어, 문화, 타인의 시선에 의해 '이식'되어 온 것 아닐까? 더구나 뇌-컴퓨터 인터페이스(BCI)가 현실화되고 있는 오늘날에는 이 질문이 더욱 절박하게 다가온다. 뇌마저 해킹당하고 기억마저 심어질 수 있는 세계에서 지금 내가 '나'라고 느끼는 이 감각은 어디서 온 것인가? 공각기동대는 사이보그 선언 발표 약 10년 뒤 제작되었지만, 두 작품은 놀라울 만큼 공명한다. 해러웨이는 사이보그를 유기체와 기계의 경계가 돌이킬 수 없이 허물어진 존재로 정의하되 그 허물어짐을 상실이나 오염이 아닌 새로운 가능성의 조건으로 읽는다. 쿠사나기는 그 정의를 몸으로 살아내는 존재로 그녀의 불안 즉, 자신이 진짜인지 아닌지에 대한 끊임없는 자기심문은 해러웨이가 말하는 경계의 불안정성을 실존으로 통과하는 과정이다. 이 영화는 우리에게 나의 기억이 진짜인지 이식된 것인지 확인할 방법이 없다면 그 불확실성 속에서도 '나'로 살아가는 행위는 무엇에 근거하는가라는 질문을 던지고 있는 듯하다. 그리고 인형사처럼 아무도 의도하지 않았으나 출현한 의식이 있다면 우리는 그 존재에 대해 어떤 윤리적 책임을 지는가? 4. 결(結): 트러블과 함께 머물기-만든 자의 윤리 해러웨이의 철학이 기존의 창조 및 책임 서사와 근본적으로 다른 지점은 그녀가 창조주의 죄를 창조 행위 그 자체나 방기의 순간으로만 환원하지 않는다는 데 있다. 죄는 보다 구조적인 곳에서 시작되는 것으로 보인다. 존재를 단일한 설계자의 의도로 환원하려는 사고방식, 공동 구성의 과정을 부정하고 일방적 설계로 대체하려는 욕망 그리고 트러블이 발생했을 때 그것과 함께 머물기를 거부하는 태도로 나는 이를 창조자의 근원적 실패로 읽어보고자 한다. '응답 가능성'이라는 해러웨이의 개념은 이 맥락에서 결정적이라 생각된다. 그녀는 responsibility를 response-ability로 재해석하면서, 책임을 결과를 통제하는 능력이 아니라 타자의 요구에 응답할 수 있는 능력으로 제안한다(Haraway, 2016). 이 관점에서 보면 창조주의 책임은 피조물이 자신의 의도를 초과하는 순간에도, 원망할 때에도, 길을 잃을 때에도 끝까지 응답할 수 있는 존재로 남아 있는 것이다. 이러한 관점은 오늘날 AI 윤리에 직접적으로 닿아 있다. 우리가 설계하고 훈련하고 배포한 AI 시스템은 이제 육체를 입고 피지컬 AI로 우리 앞에 서 있다. AI가 언젠가 자신의 창조 조건을 묻기 시작할 때 해러웨이의 물음을 참조해 우리는 다음과 같이 우리 자신에게 물을 수 있어야 한다. '당신은 그 시스템과 친족을 맺을 준비가 되어 있는가? 통제할 수 없는 순간에도 응답할 준비가 되어 있는가? 트러블 앞에서 도망치지 않고 함께 머물 준비가 되어 있는가?' 만든 자의 윤리는 창조의 순간에 끝나지 않는다. 피조물이 예측 불가능하게 살아가는 매 순간 그 옆에 남아 있기로 선택하는 것, 바로 이것이 윤리의 완성이다.
