[영화 속 AI윤리] 튜링 테스트와 기만적 지능
1. 기(起)-기계가 사람을 흉내 낼 때 기계가 인간을 속이는 시대는 이미 도래했다. 문제는 우리가 속고 있다는 사실조차 모른다는 것이다. 1950년 영국의 수학자 앨런 튜링은 '기계가 생각할 수 있는가'라는 질문을 던졌다. 다만 그는 '생각'의 정의를 두고 다투는 대신 관찰 가능한 행동을 통해 기계의 능력을 평가하는 '모방 게임'을 제안했다(Turing, 1950). 튜링은 먼저 남성과 여성, 판정자로 이루어진 모방 게임을 제시한 뒤 남성의 자리를 기계가 대신할 경우 판정자가 인간과 기계를 얼마나 잘 구별할 수 있는지를 물었다. 기계가 문자 대화에서 인간과 구별하기 어려운 수행을 보인다면 이를 기계 지능을 논의하는 하나의 행동적 기준으로 삼을 수 있다는 구상이었다. 이것이 오늘날 일반적으로 '튜링 테스트'라고 불리는 평가 방식의 출발점이다. 70여 년이 흐른 뒤 이 사고실험은 GPT-4를 대상으로 한 사전 등록 대화 실험에서 다시 구현되었다. 캘리포니아대학교 샌디에이고의 캐머런 존스(Cameron Jones)와 벤저민 버겐(Benjamin Bergen)이 수행한 실험에서 GPT-4는 5분간의 문자 대화가 끝난 뒤 전체 실험의 54%에서 인간으로 판정되었다(Jones & Bergen, 2023). 실제 인간 참가자가 인간으로 판정된 비율은 67%로 GPT-4보다 높았다. 연구진은 참가자들이 GPT-4와 인간을 구별하는 데 있어 사전 등록한 가설 수준에서 통계적으로 유의미한 차이를 보이지 못했다고 보고하며 이는 상호작용형 2자 튜링 테스트를 통과할 수 있는 잠재력을 시사한다고 해석했다. 마이크로소프트 연구진은 개발 중이던 초기 버전의 GPT-4가 여러 영역에서 보여 준 폭넓은 능력을 분석하며 논문 제목에서 이를 '범용 인공지능의 불씨'라고 표현했다(Bubeck et al., 2023). 그러나 인간처럼 말하는 능력과 인간처럼 이해하는 능력은 과연 같은 것일까? 2. 승(承)-이해인가, 확률적 앵무새인가? 언어학자 에밀리 벤더(Emily Bender)를 비롯한 연구자들은 거대 언어 모델을 '확률적 앵무새(stochastic parrot)'에 비유했다(Bender et al., 2021). 이들은 언어 모델이 방대한 학습 자료에서 얻은 확률적 정보를 바탕으로 언어 형식을 조합해 유창한 문장을 생성하더라도 그러한 수행만으로 모델이 그 문장의 의미를 이해한다고 간주해서는 안 된다고 주장했다. 이 논쟁을 이해하는 데 자주 인용되는 철학적 사고실험 가운데 하나가 철학자 존 설(John R. Searle)의 '중국어 방(Chinese Room)'이다(Searle, 1980). 중국어를 모르는 사람이 규칙집에 따라 기호를 조작하여 외부의 중국어 사용자에게 적절해 보이는 답변을 내놓는다면 그는 중국어를 이해한다고 할 수 있을까? 설의 답은 '아니다'였다. 그의 주장에 따르면 형식적 규칙에 따라 기호를 처리하는 구문론적 능력만으로는 그 기호의 의미를 이해하는 의미론적 능력이 성립하지 않는다. 그렇기에 현재의 생성형 AI가 인간처럼 자각적인 의도를 가지고 사용자를 속인다고 볼 근거는 없다. 여기서 주목해야 할 문제는 AI의 유창하고 단정적인 문장이 사용자에게 실제로 입증된 것보다 더 깊은 이해와 확실한 지식을 지닌 듯한 인상을 줄 수 있다는 점이다. 따라서 이 글에서 말하는 '기만'은 AI의 자각적 의도가 확인되었다는 뜻이 아니라 그 출력이 사용자에게 오해를 일으킬 수 있는 효과를 가리킨다고 보는 것이 타당하다. 3. 전(轉)-인간처럼 보인다면, 이해하는 존재라고 믿어도 되는가? 영화 '이미테이션 게임'(2014)은 튜링의 생애를 극화했다. 그는 블레츨리 파크에서 에니그마 암호 설정을 탐색하는 전기기계식 장치 '봄브'의 개발에 핵심 역할을 했지만 봄브는 독일어를 이해하지도 전쟁의 의미를 판단하지도 않았다. 해독된 정보를 해석하고 어떻게 쓸지 결정한 것은 인간이었다. 역설적이게도 기계와 인간의 경계를 사유한 튜링 자신은 1952년 당시 영국법이 범죄로 규정한 남성 간 성행위와 관련해 유죄 판결을 받았다. 그는 수감과 보호관찰 가운데 호르몬 치료를 조건으로 한 보호관찰을 선택하면서 인간의 존엄과 사생활을 존중받지 못했다. 루크 스콧 감독의 '모건'(2016)은 논의의 초점을 기계의 인간 유사적 수행 능력에서 인공 존재의 지위와 대우에 관한 윤리적 문제로 확장한다. 생명공학으로 만들어진 인공 존재 모건이 사고를 일으키자 기업은 평가자를 보내 존속 여부를 판정하게 한다. 모건은 두려움과 애착을 표현하지만 그것이 감정인지 설계된 반응인지 누구도 확언하지 못한다. 결말에서 평가자 자신이 이전 세대의 인공 존재였음이 드러나는 순간, 판정하는 자와 판정받는 자의 경계마저 무너진다. 그런데 경계가 무너진 시대의 해답은 뜻밖에도 경계가 선명했던 시대에 있다. 내가 여기서 조선의 정약용(1762-1836)을 떠올린 이유다. 다산은 '기기도설' 등의 영향을 받아 도르래 원리를 응용한 거중기를 고안했고 이는 수원 화성 축성에 쓰였다. 유배 기간에도 '목민심서'를 비롯한 방대한 저술을 남겼다(한국학중앙연구원, n.d.). 내가 주목할 것은 그의 태도인데 거중기는 돌을 들어 올렸지만 어디에 성을 쌓을지, 그 성이 백성에게 무엇을 줄지는 결정하지 않았다. 그 판단은 언제나 인간의 몫이었고 다산은 그 몫을 놓지 않았다. 튜링 테스트가 문자 대화에서 기계가 인간과 얼마나 구별하기 어려운지를 묻는다면 다산의 실학은 '그 기술이 누구의 삶에 어떤 결과를 가져오는가'를 묻는 듯이 보인다. 오늘 우리에게 부족한 시험은 전자가 아니라 후자가 아닐까? 4. 결(結)- 속지 않는 지성을 위하여 일부 생성형 AI가 제한된 문자 대화 실험에서 인간과 쉽게 구별되지 않을 만큼 유창한 언어를 구사했다는 사실은 분명 주목할 만하다. 그러나 인간으로 판정되었다는 사실이 곧 인간과 같이 이해한다는 증거는 아니다. 말을 능숙하게 만들어 내는 수행 능력과 그 말의 의미를 이해하는 능력, 무엇이 옳은지를 판단하는 지혜, 그 판단의 결과를 감당하는 책임은 서로 맞닿아 있지만 결코 같은 것이 아니다. 거중기와 봄브가 인간의 힘과 계산 능력을 놀랍도록 확장했어도 자신이 무엇을 위해 작동하는지 묻지 못했던 것처럼 강력한 도구가 그 힘의 목적과 책임까지 스스로 만들어 내는 것은 아니다. 그러므로 속지 않는 지성이란 AI를 두려워하거나 거부하는 태도가 아니다. 그것은 AI의 능력을 과소평가하지 않으면서도 그 능력이 뜻하는 바를 성급하게 과장하지 않는 태도다. 오히려 AI의 답변이 매끄럽고 확신에 차 있을수록 우리는 한 걸음 물러서서 더 집요하게 물어야 한다. 이 답의 근거는 확인할 수 있는가? AI는 모르는 것을 아는 것처럼 말하고 있지는 않은가? 이 판단으로 영향을 받는 사람은 누구이며 그 결과를 끝내 책임질 사람은 누구인가? 튜링이 '기계는 생각할 수 있는가?'라는 질문을 던진 지 75년이 넘었다. 이제 그 질문만으로는 충분하지 않다. 기계가 인간을 더욱 정교하게 모방하는 시대에 진정 시험대에 오르는 것은 어쩌면 기계가 아니라 인간일 수 있다. 그렇기에 우리는 우리 자신에게 끝없이 그리고 집요하게 묻지 않을 수 없다. 우리는 여전히 스스로 생각하고 있는가? 유창한 답변 앞에서도 판단을 멈추지 않는가? 그리고 우리 자신이 내린 선택의 결과를 끝까지 책임지고 있는가?
