[영화 속 AI윤리] AI 시대의 판단, 공감, 책임
1. 기(起). 완벽한 공감의 낯섦 마리아 슈라더의 영화 '/『아임 유어 맨(I'm Your Man)'(2021)에서 고고학자 알마가 처음 만난 톰은 지나치게 완벽하다. 그는 알마가 요구한 릴케의 시 구절을 즉시 암송하고, 복잡한 계산에도 곧바로 답하며, 그녀의 선호에 맞춰 말하고 춤춘다. 알마의 성격과 필요에 맞추어 반응하도록 설계된 그의 행동은 인간의 세심한 배려처럼 보이지만 춤을 추던 중 같은 말을 반복하며 멈춰 버리는 순간, 조금 전까지의 자연스러움은 갑자기 다른 의미를 갖는다. 적어도 첫 만남에서 그의 행동은 자발적인 사랑의 표현이라기보다 알마의 선호에 맞도록 설계된 알고리즘적 수행으로 제시된다. 현실은 이미 이 영화적 상상에 가까이 와 있다. 에어스 연구진은 공개 온라인 포럼 Reddit의 r/AskDocs에 게시된 환자 질문 195건을 표집, 실제 의사의 답변과 챗GPT가 생성한 답변을 면허를 가진 의료 전문가들에게 비교 평가하게 했는데, 평가자들은 전체 비교의 78.6%에서 챗봇의 답변을 선호했고, '좋음 또는 매우 좋음'으로 평가한 비율은 챗봇 78.5%, 의사 22.1%, '공감적 또는 매우 공감적'이라고 평가한 비율은 각각 45.1%와 4.6%였다(Ayers et al., 2023). 그런데 우리가 여기서 간과해서는 안 되는 것은 이 연구가 보여 준 것이 AI가 타인의 고통을 실제로 느낀다는 사실이 아니라, 이 연구의 조건에서 챗GPT가 생성한 답변이 의사의 답변보다 더 공감적으로 평가될 수 있었다는 점이다. 따뜻한 말을 하는 것과 따뜻한 마음을 갖는 것은 같은가. 상대가 듣고 싶은 말을 정확히 찾아내는 것과, 그 사람이 아프기 때문에 나 역시 마음이 움직이는 것은 같은가. 톰이 고장 난 순간 드러난 것은 기계의 결함이라기보다 오히려 그 이전까지 우리가 너무 쉽게 동일한 것으로 받아들였던 너무나도 다른 두 종류의 공감 사이의 틈이 않을까? 2. 승(承). 감정이 사라진 뒤에도 사랑은 남는가 베르트랑 보넬로의 '더 비스트(The Beast'』(2023)는 그 틈을 또 다른 시선으로 보여 준다. 2044년, 인간의 삶을 AI가 광범위하게 관리하는 사회에서 가브리엘은 더 나은 직업을 얻기 위해 자신의 감정을 정화하는 절차를 선택한다. 감정은 판단을 흐리고 인간을 불안정하게 만드는 잔여물처럼 취급되며, 과거의 삶에서 비롯된 강렬한 감정과 정서적 흔적을 정화할수록 인간은 시스템이 요구하는 노동자로서 더 적합한 존재에 가까워진다. 영화의 마지막, 가브리엘은 이미 정화 절차를 마친 루이와 다시 만난다. 두 사람은 음악 속에서 서로를 마주하지만, 이전의 삶에서 반복되었던 두려움과 사랑의 흔적은 이제 두 사람에게 동일하게 남아 있지 않다. 루이는 가브리엘을 알아보고, 가브리엘의 사랑 고백에 말로는 응답하지만, 정화에 성공한 그의 얼굴에는 더 이상 그 말에 상응하는 정서적 동요가 없다. 가브리엘은 울고, 루이는 아무런 감정을 드러내지 않는다. 가브리엘이 그 사실을 알아차리는 순간 절규하는 것은 루이가 자신을 기억하지 못해서가 아니라, 기억하면서도 더 이상 흔들리지 않기 때문이다. 그런데 이 장면이 더욱 충격적인 이유는 아무것도 고장 나지 않았기 때문이다. '아임 유어 맨'의 톰은 오류를 일으켰지만, '더 비스트'의 루이는 오히려 완벽하게 작동한다. 감정 정화에 성공한 그는 더 이상 가브리엘 앞에서도 이전과 같은 정서적 동요를 드러내지 않는다. 하지만 고통받을 가능성을 없애는 과정에서 누군가 때문에 기뻐하고 두려워하며 상처받을 가능성도 함께 사라졌다. 상처받지 않는 존재는 효율적일 수 있지만, 사랑이 본래 타인에게 자신을 열어 두는 일이라면 상처받을 가능성까지 제거한 존재를 여전히 사랑하는 존재라고 부를 수 있는지는 남는다. 3. 전(轉). 판단한다는 것과 감당한다는 것 이 차이는 판단의 영역에서도 나타난다. 아와드 연구진의 'Moral Machine'은 233개 국가와 지역에서 약 4천만 건의 도덕적 선택을 수집하여 자율주행차 사고 상황에서 사람들이 누구를 보호하고 누구를 희생시키려 하는지를 분석했다(Awad et al., 2018). 인간의 선택은 데이터가 되었고, 반복되는 선호는 일정한 패턴으로 나타났으며, 연구진은 이를 통해 인간의 도덕적 선호와 문화권에 따른 차이를 통계적으로 드러낼 수 있었다. 그러나 판단의 결과를 계산하는 것과 그 결과를 살아 내는 것은 서로 다른 일이다. 교육철학자 매튜 립맨은 좋은 사고를 비판적 사고만으로 설명하지 않았다. 그는 비판적 사고가 중요하고 가치 있는 것이지만 그것만으로는 충분하지 않으며 창의적 사고와 배려적 사고(caring thinking)가 결합된 다차원적 사고가 함께 길러져야 한다고 보았다. 립맨에게 배려적 사고는 '중요한 것에 대한 관심'을 사고 속에 포함시키는 것으로 가치부여적 사고, 정서적 사고, 행동적 사고, 규범적 사고, 감정이입적 사고의 다섯 유형으로 구체화된다(Lipman, 2003). 따라서 좋은 판단은 사실을 정확히 판별하는 능력만으로 충분하지 않다. 무엇을 중요하게 여기고, 누구의 처지와 고통에 어떻게 응답하며, 무엇이 마땅한지를 함께 숙고해야 한다. 이 관점에서 감정은 이성을 방해하는 단순한 장애물이 아니라 가치와 판단, 관심과 행동을 매개할 수 있는 사고의 한 차원이다. 이 관점을 AI의 문제로 확장해 보면, AI가 추론·검증·오류 탐지와 같은 형식적 수행을 한다고 하더라도 계산상 어떤 대상을 우선하는 것과 그것을 스스로 중요하게 여기고 아끼는 것은 동일하지 않으며, 무엇을 먼저 선택할 것인가의 계산과 왜 그것을 소중히 여겨야 하는가의 물음 역시 구별될 필요가 있다. 에리히 프롬은 사랑을 일시적으로 '사랑에 빠지는 것(falling in love)'과 동일시하지 않았다. 그는 사랑을 배우고 연습해야 하는 기술이자 능동적 능력으로 이해했으며, 모든 사랑의 형태에 공통되는 기본 요소로 돌봄, 책임, 존중, 앎을 제시했다(Fromm, 1956). 사랑한다는 것은 상대가 나에게 어떤 만족을 제공하는지를 계산하는 일이 아니라 상대가 나와 독립된 존재임을 인정하면서도 그의 삶에 응답하는 것이며 그래서 사랑에는 관심뿐 아니라 책임이 따르고, 존중뿐 아니라 기다림이 필요하다. 성경 고린도전서 13장이 사랑을 설명하는 방식 역시 주목할 만하다. '사랑은 오래 참고 사랑은 온유하며 시기하지 아니하며 사랑은 자랑하지 아니하며 교만하지 아니하며, 무례히 행하지 아니하며 자기의 유익을 구하지 아니하며 성내지 아니하며 악한 것을 생각하지 아니하며, 불의를 기뻐하지 아니하며 진리와 함께 기뻐하고, 모든 것을 참으며 모든 것을 믿으며 모든 것을 바라며 모든 것을 견디느니라(고전 13:4–7).' 여기서 사랑은 뛰어난 지식이나 판단 능력, 상대에게 적절한 말을 건네는 능력으로 정의되지 않는다. 오히려 타인을 자기 이익의 수단으로 삼지 않고, 관계 속에서 참고 견디며 끝까지 응답하는 태도로 묘사된다. 이는 AI 시대의 판단과 공감을 다시 생각하게 한다. 알고리즘이 정교한 판단을 내리고 공감적으로 받아들여지는 말을 생성할 수 있다고 하더라도, 그 판단이 초래한 결과를 자신의 몫으로 받아들이고 타인의 고통 앞에 계속 머물며 관계의 책임을 감당하는 일은 또 다른 차원의 문제이기 때문이다. 사랑의 본질을 순간적인 감정의 강도나 적절한 언어의 산출이 아니라 시간 속에서 지속되는 행위로 이해한다면, 인간에게 남는 중요한 능력은 '무엇을 말할 것인가'를 계산하는 데 그치지 않고 그 말과 판단 이후에 벌어지는 일을 함께 '감당하는 책임'에 있다고 볼 수 있다. 4. 결(結). 마지막에 남는 것 톰은 알마가 원하는 말을 정확히 찾아냈고, 에어스 등의 연구에서 ChatGPT가 생성한 답변은 의사의 답변보다 더 공감적으로 평가되었으며, 수천만 건의 도덕적 판단은 데이터로 변환되었고, '더 비스트'의 루이는 인간을 괴롭히던 감정의 동요에서 마침내 벗어났다. 더 정확하게 이해하고, 더 적절하게 대답하며, 더 안정적으로 판단하고, 더 적게 고통받는 방향으로 움직였기 때문에 각각만 놓고 보면 모두 발전이다. 그러나 이 사례들을 한 줄로 이어 놓으면 이상한 역전이 생긴다. 인간에게서 결함이라고 생각했던 것들을 하나씩 제거할수록 오히려 우리가 인간에게서 중요하게 여겨 왔던 무엇인가가 함께 사라진다. 누군가의 고통 때문에 마음이 흔들리고, 옳다고 생각한 판단이 다른 사람에게 상처를 주었음을 알게 되었을 때 후회하며, 이미 내린 결정을 다시 돌아보고, 자신에게 손해가 되더라도 상대에게 응답하고, 떠나면 편해질 수 있는데도 곁에 남아 기다리는 일은 효율의 관점에서는 불필요한 비용일 수 있다. 사랑은 그런 의미에서 가장 비효율적인 인간의 능력인지도 모른다. 그러나 바로 그 때문에 프롬은 사랑의 기본 요소에 책임을 포함시켰고, 립맨은 좋은 판단에 돌봄을 포함시켰으며, 바울은 사랑을 오래 참고 견디는 것으로 말했다. '아임 유어 맨'에서 완벽한 톰이 갑자기 멈춰 섰을 때보다, '더 비스트'에서 아무런 오류 없이 서 있는 루이 앞에서 가브리엘이 절규할 때 우리가 더 깊은 불안을 느끼는 이유도 아마 여기에 있을 것이다. 기계가 언젠가 우리보다 더 정확하게 판단하고, 더 따뜻하게 위로하며, 우리가 듣고 싶은 말을 우리 자신보다 먼저 알아내는 시대가 올 수 있다. 어쩌면 인간보다 더 오래 곁에 머물고, 위험한 순간에는 자신의 작동을 멈추면서까지 누군가를 구하도록 설계될 수도 있다. 그렇다면 인간과 기계를 가르는 기준을 단지 누가 더 오래 곁에 남고 더 많이 희생하는가에서 찾을 수는 없다. 문제는 그다음부터인데 그 행동의 이유를 자신의 것으로 받아들이고, 그 결과가 타인에게 남긴 상처 앞에서 스스로 책임을 떠맡으며, 타인의 고통이 하나의 요구로 다가올 때 그것을 외면하지 않는다는 것은 무엇을 의미하는가. 사랑 역시 곁에 머무르는 행동만으로 완성되는 것이 아니라, 그 관계가 자신에게 무엇을 요구하는지를 받아들이고 그로부터 생겨난 책임을 자신의 몫으로 감당하는 데서 비로소 의미를 갖는다. 따라서 AI 시대에 다시 물어야 할 것은 '기계가 사랑하는 행동을 할 수 있는가'만이 아니다. 사랑처럼 보이는 행동에서 나아가 그 행동에서 비롯된 책임까지 자신의 것으로 떠안을 수 있는가라는 더 어려운 물음이 남는다. 어쩌면 인간다움은 어떤 행동을 인간만이 할 수 있다는 데 있는 것이 아니라, 자신의 판단과 사랑이 만들어 낸 결과 앞에서 끝내 '내가 응답해야 한다'고 자신을 그 자리에 세우는 데 있는지도 모른다. 그리고 바로 그 책임의 자리야말로, AI 시대에도 우리가 사랑하는 존재이자 사랑받는 존재로서의 인간을 다시 생각해야 하는 지점일 것이다.
