[박형빈 교수 AI와 윤리⑩] 인간 증강시대..'Doing'이냐 'Being'이냐
1. 인간 업그레이드 시대, 우리는 '돌볼' 준비가 되어 있는가? 영화 '알리타: 배틀 엔젤(Alita: Battle Angel, 2019)'에서 닥터 이도는 고철 더미에 버려진 알리타의 잔해—코어가 남은 머리와 상반신—를 발견한다. 그는 죽은 딸을 위해 간직해 온 정교한 사이보그 의체를 알리타에게 이식하며 그녀를 '부활'시킨다. 파편화된 기계를 수습해 온전한 육체를 선사하는 이 과정은, 기술적 복원이라기보다 존재를 향한 깊은 '돌봄'의 태도를 드러낸다. 기계 부품이 생명의 일부가 되는 이 서사는 오늘날 우리가 열망하는 '인간 업그레이드'가 단지 성능의 개선인지, 혹은 존재의 본질을 재정의하는 윤리적 결단인지에 대해 묵직한 화두를 던진다. 사실 '인간 업그레이드' 혹은 '인간 증강'이라는 표현에는 저항하기 힘든 유혹이 깃들어 있다. 낡은 부품을 교체하듯 더 빠르고, 강하고, 영리한 존재가 되기를 우리는 끊임없이 갈망한다. 그러나 이 개념이 수면 위로 떠오르는 순간, 논의는 필연적으로 윤리의 영역에 진입한다. 과연 무엇을 진정한 '업그레이드'라 규정할 것인가. 그리고 그 변화는 우리를 더 인간답게 만드는가, 아니면 끝내 전혀 다른 존재로 변모시키는가. 인간이 스스로를 넘어서는 욕망은 오래된 이야기다. 그리스 신화의 프로메테우스는 인간에게 불, 곧 기술의 원형을 가져다주었지만 그 대가로 고통과 형벌을 감수해야 했다. 이 신화는 기술의 획득이 곧 책임의 짐을 동반한다는 경고로 읽힌다. 메리 셸리(Mary shelley)는 '프랑켄슈타인; 또는 현대의 프로메테우스(Frankenstein Or the Modern Prometheus, 1818)'를 통해 '창조의 능력'이 '돌봄의 의무(Duty of Care)'를 자동으로 담보하지 않음을 비극적으로 드러냈다. 이는 오늘날 인간 증강 기술을 마주한 우리에게 기술이 '무엇을 만들 수 있는가'에서 '그 결과에 대해 누가, 어떻게 책임질 것인가'라는 윤리적 성찰의 단계로 이끌어 낸다. 핵심은 명료하다. 기술이 인간의 능력을 확장하는 만큼, 그에 따른 윤리의 범위 또한 확장되어야 한다는 것이다. 셸리의 작품을 '과학의 오만'을 고발하는 이야기로만 치부하기엔, 무언가를 만드는 이가 감당해야 할 책임의 무게가 지나치게 엄중하다. 그녀의 가장 날카로운 통찰은 결국 한 문장으로 수렴한다. '창조란, 필연적으로 돌봄이라는 책임을 동반한다.' 소설에서 빅터 프랑켄슈타인은 생명을 빚어내는 쾌감에 취한다. 그러나 피조물이 눈을 뜨는 순간, 그는 공포에 질려 등을 돌린다. 태어나자마자 창조주에게 유기된 존재. 그가 겪는 소외와 분노, 그리고 증오의 축적은 사랑받지 못한 생명이 어디로 밀려나는지를 또렷이 보여준다. 비극은 우연이 아니다. 돌봄이 결여된 창조가 낳는, 거의 필연에 가까운 귀결이다. 오늘날 인간 증강과 인공지능 기술 앞에서 이 장면이 유난히 쓰라린 이유는, 우리가 만들어내는 것이 더 이상 도구의 범주에 머물지 않기 때문이다. BCI(뇌-컴퓨터 인터페이스)로 감각과 인지가 확장된 존재, 인간의 신경계와 기계가 결합해 '새로운 주체'로 살아가게 된 존재는 어느 순간 프랑켄슈타인의 피조물처럼 묻게 될지 모른다. '나는 무엇이며, 누구에게 속하는가'라고. 기술이 지평을 넓혀갈 때, 윤리 또한 그 그림자처럼 보폭을 맞추어 확장돼야 한다. 이제 우리는 '무엇을 만들 것인가'가 아니라 '우리가 만든 존재를 끝내 책임질 수 있는가'를 물어야 한다. 특히 그 창조의 끝이 우리 자신을 다른 존재로 탈바꿈시키는 '자기 변형'의 가능성까지 품고 있다면, 그 책임의 무게는 더욱 엄중해진다. 창조는 자유의 구현이지만, 그 자유는 결코 우리 자신과 타자에 대한 돌봄의 의무와 분리될 수 없다. 열아홉 살의 셸리가 남긴 이 비극적 예언이 현실이 되지 않도록, 우리는 창조의 욕망 이면에 놓인 책임과 연민의 무게를 잊지 말아야 하지 않을까. 2. '업그레이드'의 사회적 문법 영화 '가타카(Gattaca, 1997)'는 유전학적 완벽함이 개인의 성취를 압도하는 세계를 통해 '노력'이라는 인본주의적 가치가 어떻게 '데이터'라는 결정론에 굴복하는지를 보여준다. 이 세계에서 유전자는 생물학적 정보로서만이 아닌 개인의 사회적 위치를 지정하는 '언어'이자 '계급'으로 기능한다. 증강 기술이 보편화된 사회에서 차별은 더 이상 눈에 보이는 외견이나 출신이 아니라, 보이지 않는 나선형 구조 속에 은닉된다. 이는 타고난 우연성을 기술로 통제하려는 시도가 결국 인간의 가능성을 사전에 검열하고, '노력해도 바꿀 수 없는' 새로운 형태의 숙명론적 불평등을 낳을 수 있음을 시사한다. 이 영화가 던지는 정치철학적 질문은 결국 한 지점으로 수렴한다. 문제는 '기술'이 아니라, 그 기술이 '사회를 조직하는 방식'이다. 유전 정보가 능력의 '증거'로 통용되는 순간, 국가는 더 이상 시민을 권리의 주체로 대하지 않는다. 시민은 관리 가능한 위험이자 예측 가능한 생산성의 단위로 환원된다. 자유주의가 약속해 온 '기회의 평등'은 절차적 구호로 남고, 실제의 배분은 데이터가 정한 '자격'에 의해 선점된다. 더 정확히 말해, 여기서 정의의 핵심은 공정한 경쟁이 아니라 경쟁의 전제를 누가 설계하느냐에 있다. 존 롤스(John Rawls) 관점에서 보자면, 유전적 우연성은 원래 정의로운 제도가 '보정'해야 할 대표적 자연적 불평등이다. 그런데 '가타카'의 세계는 정반대로 움직인다. 우연성을 교정하기는 커녕, 우연성을 측정·등급화해 제도화한다. 그 결과 가장 약한 이들의 조건을 개선하는 대신, 약함을 '객관적 사실'로 박제해 불이익의 정당화로 삼는다. 능력주의는 평등의 약속이 아니라 차별의 문법이 된다. 3. 생명정치, 증강 사회의 통치 언어 그리고 평등의 함정 또 하나의 문제는 통치 양식이다. 유전 정보가 개인의 '미래'를 예측하고 분류하는 언어로 기능하는 순간, 사회는 지원보다 선별을, 포용보다 배제를 더 효율적인 해법으로 간주하기 쉬워진다. 이 지점에서 환기해야 할 개념이 바로 '생명정치(biopolitics)'다. 미셸 푸코(Michel Foucault)는 1970년대 콜레주 드 프랑스(Collège de France)에서 행한 일련의 강의에서, 근대 권력이 더 이상 개별 신체를 처벌하고 훈육하는 규율권력에 머무르지 않는, '인구'의 차원에서 생명의 과정—즉 출생률, 사망률, 건강 상태, 기대수명, 노동력, 위험—을 관리하고 조절하는 권력으로 확장되는 메커니즘을 분석한다. 이러한 권력 형식은 푸코가 '생명권력(biopower)'이라 명명한 것으로, 다양한 규격화 캠페인을 통해 '비정상'으로 규정된 범주들에 대해 내부적 폭력을 촉진한다. 왕으로부터 발산되던 주권적 지배 대신, 규율적 메커니즘들은 종에 유익하다고 간주되는 행위와 실천을 기준 삼아 경계를 설정하고, 그 '선 밖'에 위치한 이들을 위험 요소로 구성한다(Foucault, 1978; Hodler, 2019). 이러한 권력 작동을 정당화하고 지속시키는 정치적 합리성이 바로 생명정치(biopolitics)다. 푸코는 다음과 같이 말한다. “우리와 같은 사회에서 진정한 정치적 과제는, 중립적이며 독립적인 것처럼 보이는 제도들의 작동 방식을 비판하는 데 있다. 다시 말해, 언제나 그 제도들을 통해 '은밀'하게 행사되어 온 정치적 폭력이 드러나도록, 그러한 제도들을 비판하고 공격하는 것이다. 그래야만 우리는 그것들과 맞서 싸울 수 있다(Hodler, 2019 재인용).” '인간 증강' 시대의 권력은 이러한 관점에서 더 이상 '하지 말라'는 금지의 언어로만 작동하지 않는다. 권력은 오히려 '너는 원래 이런 존재다' 혹은 '너는 이런 존재였어야만 했다'라는 진술을 통해 개인을 분류하고 고정한다. 삶은 가능성과 잠재성의 장이 아니라, 통계적 위험과 적합성의 문제로 환원된다. 생명정치 통치에서 개인은 변모하는 주체가 아니라, 관리되고 예측되어야 할 확률의 묶음으로 다루어진다. 그 결과 '노력'은 윤리적 덕목이 되기보다, 언제든 취소될 수 있는 개인 데이터로 축소된다. 증강 기술이 보편화된 사회에서 '평등'은 무엇인가. 모두에게 업그레이드의 기회가 주어진다면 평등한가. 아니면 업그레이드가 '보통'이 되는 즉시, 비증강자는 곧바로 시민권의 경계 밖으로 밀려나는가. 문제는 접근성의 유무가 아니라, 정상성의 기준이 어디에 놓이는가다. 전통적인 사회계약은 자연적 인간을 전제로 성립해 왔다. 그러나 그 전제가 기술로 다시 쓰일 때, 민주주의는 같은 문법으로 자신을 유지할 수 없다. 기술이 정치적 표준이 될 때, 평등은 권리의 동등한 분배가 아니라, 특정한 신체적·인지적 기준에 대한 적합성 심사로 변질될 위험을 떠안는다. '누가 더 나은가'라는 질문은 곧 '누가 더 자격 있는가'로 변환되고, 그 변환은 대개 조용히 진행된다. 결국 질문은 시작점으로 되돌아온다. 우리가 만들어가고 있는 것은 정말로 더 나은 인간의 조건인가, 아니면 생물학적·기술적 지표로 정당화되는 더 정교한 계급 체계인가? 인간 증강의 쟁점은 삶을 얼마나 향상시킬 수 있는가가 아니다. 어떤 삶이 향상될 '자격'을 갖는가, 그 자격을 누가, 어떤 기준으로 판정하는가에 있다. 더 나아가 그 판정은 어떤 제도와 어떤 지식 체계를 통해 상식이 되고 규범이 되는가. 그리고 그 과정에서 무엇이 '정상'으로, 무엇이 '예외'로 고정되는가에 달려있다. 4. 흐려진 경계와 주체의 실종 몸과 마음, 유기체와 기계의 경계가 무너질 때 우리는 가장 근원적인 질문에 직면한다. '나라고 부를 수 있는 실체는 어디에 있는가?' 영화 '공각기동대(Ghost in the shell, 1995)'와 '엑스 마키나(Ex Machina, 2014)'는 '정체성'이 더 이상 고정된 육체에 머물지 않는 시대를 탐구한다. 만약 기억이 데이터화되고 뇌가 네트워크와 연결된다면, 의식의 주인은 누구이며 그에 따른 '법적·윤리적 권리는 누구에게 귀속되는가'라는 난제가 발생한다. 이는 개인의 자아를 사회적 권리의 주체로 상정해 온 근대적 법질서의 근간을 뒤흔드는 일이다. 존재의 본질이 파편화될수록, 우리는 인간다움을 정의하는 기준을 '생물학적 토대'뿐만 아니라 '사회적 관계와 실존적 감각'에서 다시 찾아야만 한다. 그렇다면, '인간 증강' 혹은 '업그레이드'로 인해 야기된 자율성 확장의 역설은 무엇일까. 기술은 흔히 인간의 한계를 극복하고 자율성을 확장해 줄 것처럼 약속하지만, 업그레이드는 그 이면의 치명적인 역설을 포착한다. 신체 증강을 통해 압도적인 능력을 얻게 된 주인공은 비로소 자유를 얻은 듯 보이지만, 결정적인 순간 자신의 의지가 알고리즘에 의해 '외주화'되고 있음을 깨닫게 될 수 있다. 이는 현대 사회가 직면한 '기술적 예속'의 은유다. 우리가 더 똑똑하고 강력해지기 위해 선택한 기술이 역설적으로 인간의 판단력을 대체하고 기계적 시스템의 부속품으로 전락시킨다면, 그것을 진정한 '업그레이드'라 부를 수 있을까? 여기서 간과해서는 안 되는 또 다른 난제는 설계된 선택지 너머의 '책임' 문제다. 앞서 언급한 영화 작품들이 공통으로 던지는 묵직한 메시지는 명확하다. 오늘날의 업그레이드는 순수한 개인의 자유로운 선택처럼 포장되어 있지만, 실제로는 시장의 효율성, 국가의 통제 방식, 플랫폼의 알고리즘이 정교하게 설계해 놓은 사회적 선택지일 가능성이 크다. 그렇기에 인간 증강의 윤리는 '어떤 기술을 가질 것인가'의 문제로 한정되기보다 '어떤 사회를 만들 것인가'의 문제로 귀결된다. 증강이 개인을 최적화된 도구로 만드는 수단이 될 때, 우리는 '더 나은 인간'이 되는 것이 아니라 '더 효율적인 부품'이 될 뿐이다. 나는 이러한 미래가 솔직히 두렵다. 우리에게 필요한 것은 기술적 성취에 대한 찬사와 도취가 아니라, 기술이 인간만이 지닌 고유한 자율성과 존엄—곧 인간 존재의 불가침성을 이루는 원초적 기초—을 훼손하지 않도록 감시하는 사회적 비판 정신과 돌봄의 윤리이지 않을까. 5. 기술이 인간을 바꾼다면, 인간의 정의는 무엇인가? 인간 증강의 시대 우리는 도구적 이성을 넘어 존재론적 정체성을 되 살려야 한다. 인간을 '업그레이드'한다는 담론은 더 이상 SF의 영역이 아닌, 실존적 위협으로 다가오고 있다. 기술이 신체와 지능의 한계를 돌파하는 순간, 우리는 역설적으로 '인간의 쓸모가 인간의 가치를 결정하는가?'라는 잔인한 질문에 직면한다. 만약 우리가 기능적 효율성에 매몰된다면, 초지능과 피지컬 AI가 주도하는 생태계에서 '생물학적 인간'은 필연적으로 도태될 수밖에 없다. 따라서 인간 증강의 윤리는 가이드라인에 정착하지 않고, 인간의 고유성을 수호하기 위한 최후의 방어선이 되어야 한다. 나는 이를 위해 다음 세 가지 기준을 더욱 엄밀하게 해부해야 한다고 본다. 첫째, 자율성(Autonomy)에 대한 문제다. 인간 증강은 확장된 자아인가, 설계된 노예인가? 기술이 우리 각자를 확장한다는 명분은 달콤하지만, 그 이면에는 '기술적 결정론'이 숨어 있다. 예를 들면, 인간의 뇌에 칩을 심거나 신경망을 연결하는 행위는 선택의 범위를 넓히는 듯 보이나, 실제로는 알고리즘이 선호하는 방향으로 인간의 욕망을 조율할 위험이 크다. 만약 내 의사결정의 70%가 알고리즘의 보정으로 이루어진다면, 그 결정은 '나'의 것일까, 아니면 '제조사'의 것일까? 그러므로 진정한 자율성은 기술에 의한 성능의 극대화가 아니라, 비효율적일지라도 자신의 의지로 선택하고 실패할 수 있는 행위 주체성(Agency)에 있다. 둘째, 책임(Responsibility)에 대한 문제다. 분산된 알고리즘 속의 도덕적 주체를 기대할 수 있는가? 증강된 인간은 단일한 인격체가 아니라, 수많은 소프트웨어와 하드웨어가 결합된 '복합체'가 아닐까. 만약 그렇다고 인정한다면, 여기서 책임의 소재는 모호해진다. 증강된 신체나 지능이 사회적 위해를 가했을 때, 그 책임은 사용자에게 있는가, 아니면 코드를 설계한 개발자에게 있는가. 또는 데이터를 학습시킨 시장에 있는가. 책임이 분산되는 순간 도덕은 증발할 우려가 있다. 인간 증강의 조건으로 '책임의 전이 불가능성'을 명시해야 할지도 모를 일이다. 기술을 수용한 주체가 그 결과값에 대해 온전히 책임질 수 없다면, 그것은 '증강'이 아니라 인간을 도구화하는 '외주화'에 불과하다. 셋째, 정의(Justice)의 문제를 눈여겨야 한다. 존재론적 불평등과 새로운 계급의 출현은 어떠한가? 가장 치명적인 위협은 경제적 불평등이 신체적·인지적 불평등으로 '고착'화되는 것이다. 과거의 계급이 부와 권력의 차이였다면, 포스트휴먼 시대의 계급은 '정보 처리 능력'과 '생물학적 수명'의 차이로 재편될 수 있다. 이는 격차를 넘어, 종(Species)의 분화로 이어질 수 있다. 더구나 증강 기술이 자본의 논리에만 맡겨진다면, '잉여 인간'은 경제적 빈곤층을 넘어 '진화에서 뒤처진 열등종'으로 낙인찍힐 것이다. 정의의 관점에서 우리는 반드시 물어야 한다. 이 기술이 인간의 존엄성을 보편적으로 상향시키는가, 아니면 선택된 소수만을 위한 신인류(Post-human) 프로젝트로 전락하고 있는가? 결론은 단순하다. '하는 것(Doing)'에서 '존재하는 것(Being)'으로의 회귀가 우리 모두에게 요구된다는 점이다. 인간 증강의 윤리는 '무엇을 할 수 있는가'라는 기능의 서사에서 '우리는 누구인가' 나아가 '우리는 어떤 존재가 되어야 하는가'라는 존재의 서사로 전환되어야 한다. 기술이 인간을 바꿀수록, 우리는 역설적으로 '기술이 대체할 수 없는 불완전함'—즉, 고통에 대한 공감, 유한함에 대한 수용, 논리로 설명되지 않는 창의적 도약—을 인간의 정의로 재정립해야 한다. 우리가 어떤 인간으로 살 것인가에 대한 답은 기술의 사양서(仕樣書)에 있지 않다. 답은 오히려 기술이 줄 수 없는, 불확실성 속에서 가치를 길어 올리는 인간만의 태도에 있다. 그렇다면 우리 사회는 '생물학적 존재로 남을 권리(The Right to Remain Biological)'를 헌법적 기본권으로 보장할 준비가 되어 있는가? ◆ 박형빈 서울교육대학교 윤리학과 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020)
