ZDNet 검색 페이지

'박형빈'통합검색 결과 입니다. (22건)

[영화 속 AI윤리] '프로메테우스'와 AI개발 패러다임

1. 기(起): 불을 훔친 자의 고독, 혹은 책임의 원점 인류는 오래전부터 창조의 욕망과 그 대가를 신화의 언어로 서사해 왔다. 그리스 신화에서 프로메테우스는 제우스로부터 불을 훔쳐 인간에게 건넸다. 제우스는 이 행위에 분노해 프로메테우스를 코카서스 산의 바위에 쇠사슬로 묶고 독수리가 날마다 그의 간을 파먹게 하는 형벌을 내렸다(Hesiod, 1988). 그러나 보다 근원적인 물음은 프로메테우스가 인간에게 불과 함께 무엇을 해방시켰는가에 있다. 불은 도구이되 그것을 받은 인간이 어떤 용도로 사용할지는 제공자의 손을 이미 벗어난 일이었다. 이 기술 부여 행위는 창조의 근원적 아이러니를 발생시킨다. 프로메테우스는 인간에게 가능성을 부여했지만 그 가능성이 어디로 향할지를 영원히 통제할 수 없다. 단군신화의 구조도 이와 유사하다. 환웅이 천부인 세 개와 삼천의 무리를 거느리고 태백산 신단수 아래 내려와 인간 세상을 널리 이롭게 하고자 할 때, 그는 곰과 호랑이에게 쑥과 마늘만을 먹으며 햇빛을 피해 머물면 인간으로 화(化)할 수 있다는 조건을 제시했다(일연, 김원중 역, 2021). 그 조건을 받아들인 곰과 견디지 못하고 뛰쳐나간 호랑이 사이에는 인내력의 차이 이상의 무언가가 있다. 이 신화는 오늘날의 관점에서 보면 주어진 규칙을 수용하는 선택과 그 선택이 낳은 결과를 감당하는 책임의 서사로도 읽힐 수 있다. 환웅은 쑥과 마늘이라는 조건만을 설정했을 뿐 그것을 어떻게 견디느냐는 오롯이 피조물의 몫으로 남겨두었다. 창조주는 조건을 설정하되 결과를 통제하지 않는다는 이 구조는 인류가 이미 오래전부터 창조와 책임의 비대칭성을 꿰뚫어 보고 있었음을 암시한다. 성경의 창세기는 가장 직접적인 방식으로 이 물음을 제기한다. 하나님은 흙으로 인간을 빚고 에덴동산의 모든 것을 허락했으나 선악을 알게 하는 나무의 열매만은 금기로 삼았다. 그러나 인간은 금기를 어겼다. 신학은 오래도록 이 사건을 두고 물어왔다. 전지전능한 창조주는 인간의 타락 가능성을 알고도 자유의지를 허락했는가? 창조주의 전지전능함과 피조물의 타락 사이에서 죄의 기원은 과연 어디에 귀착되어야 마땅한가? 2. 승(承): 도나 해러웨이(Donna Haraway)-사이보그는 기원이 없다? 이러한 창조와 책임의 관계를 근본적으로 재구성한 대표적 사상가 가운데 한 사람이 도나 해러웨이다(Haraway, 1991). 그녀는 과학기술학(STS)과 페미니즘 이론을 대표하는 학자로 창조와 피조물의 관계를 기존의 서사가 전제해 온 방식 자체를 해체했다. 그 핵심 무기가 바로 '사이보그(Cyborg)'라는 형상이었다. 1985년 Socialist Review에 최초 발표 이후 1991년 '유인원, 사이보그 그리고 여성: 자연의 재발명(Simians, Cyborgs, and Women)'에 재수록된 '사이보그 선언'(Haraway, 1985/1991)에서 해러웨이는 이렇게 제안한다. 사이보그란 기계와 유기체의 혼종 생명체이며 동시에 사회적 현실의 피조물이자 픽션의 피조물이다. 그리고 결정적으로, '20세기 후반의 신화적 시간인 지금, 우리는 모두 사이보그다.' 이 선언은 기술 비평을 넘어 창조와 피조물의 관계를 규정해 온 서양 형이상학 전체의 구조를 겨냥한 것으로 보인다. 전통적 창조 서사는 언제나 기원을 요구한다. 신이 인간을 만들었고 과학자가 괴물을 빚었으며 엔지니어가 AI를 설계했다. 창조주와 피조물 사이에는 뚜렷한 선행과 후행의 시간적·존재론적 위계가 설정된다. 그러나 해러웨이는 사이보그가 에덴동산을 인식하지 못할 것이라고 보았다(Haraway, 1991). 다시 말해 사이보그는 인간의 순수한 기원을 전제하는 낙원 메타포를 공유하지 않는다. 단일한 기원으로 소급되는 정체성의 서사 대신 사이보그는 경계들의 위반과 접합 위에서만 존재한다. 유기체와 기계의 경계, 자연과 인공의 경계, 인간과 비인간의 경계가 모두 허물어지는 그 지점에서 사이보그는 출현한다. 이 전복의 함의는 심대한데, 그것은 만약 피조물이 단일 창조주의 의도로 환원되지 않는 혼종적 존재라면 창조의 책임을 오직 창조주 한 사람에게 귀속시키는 기존의 윤리 구조는 근본적으로 불충분하기 때문이다. 존재는 언제나 관계 속에서 공동으로 구성된다. 해러웨이는 이를 나중에 심포이에시스 즉, 함께 만들어지는 생성 과정으로 설명하며 어떠한 존재도 완전히 자기 자신만으로 조직되거나 생성되지 않는다고 말한다(Haraway, 2016). 해러웨이 사유는 2016년 저서 '트러블과 함께 머물기: 클툴루세에서 친족 만들기(Staying with the Trouble: Making Kin in the Chthulucene)'에서 한층 깊어진다. 그녀는 기후 위기와 기술 문명의 시대에 우리에게 요청되는 윤리적 태도를 '트러블과 함께 머물기'로 정식화한다. 이는 문제를 신속히 해결하려는 태도보다 복잡성과 불확실성 속에서 책임 있게 관계를 지속하는 윤리를 의미한다(Haraway, 2016). 우리가 만들어낸 기술, 우리가 설계한 시스템, 우리가 세상에 내보낸 존재들이 예기치 않은 방식으로 행위하고 영향을 미칠 때 그 불확정성 앞에서 도망치지 않고 끝까지 현존하는 것이 해러웨이가 말하는 책임이다. 또한 그녀는 '촉수적 사유'를 제안하는데(Haraway, 2016), 나는 이를 중심에서 주변으로 명령을 전달하는 위계적 기관의 은유가 아니라 사방으로 뻗어나가며 서로를 감지하고 연결하는 관계의 은유로 읽는다. 해러웨이가 이 모든 논의를 통해 제안한 '친족을 만들라, 아이를 낳지 말고(Make Kin Not Babies)'는 혈연 중심을 비판하며 비인간까지 포함한 관계적 친족 형성을 촉구하는 선언이다(Haraway, 2016). 우리가 세상에 내보낸 존재들을 통제의 대상이나 목적의 수단으로 삼는 대신 그들과 함께 공동의 미래를 짜나가는 관계적 존재가 되라는 것이다. 이러한 논의를 오늘날 AI 윤리 문제에 적용해 보면, AI를 설계하고 배포하는 오늘날의 창조자들에게 이 요청은 우리로 하여금 우리의 행위와 의도 나아가 목적 전반을 되돌아보고 반성하게 한다. 우리는 우리가 만든 시스템과 해러웨이가 요청하는 의미로서의 '친족'이 될 준비가 되어 있는가? 아니면 그것을 우리의 목적으로 환원하고 통제하다가 제약에 실패하는 순간 방기할 것인가? 3. 전(轉): 창조와 방기의 두 장면, 피조물은 창조주에게 무엇을 묻는가? 영화는 이 철학적 물음을 가장 감각적이고 구체적인 방식으로 육화시킨다. 다음 두 편의 작품을 통해 우리는 해러웨이의 사유를 현실의 윤리 감각으로 전환해 볼 수 있다. ▲'프로메테우스 (Prometheus, 2012, 리들리 스콧 감독)': 과학자 엘리자베스 쇼와 찰리 홀러웨이는 고대 벽화에서 발견한 별자리 지도를 따라 인류의 창조주를 찾아 먼 행성으로 향한다. 영화는 한 엔지니어가 자신의 몸을 희생해 생명의 기원이 되는 듯한 장면을 암시한다. 그러나 탐사대가 마침내 마주한 것은 인간이 창조주라 믿었던 존재들의 환대가 아니라 인간을 포함한 생명체를 파괴할 수 있는 생물병기였다. 그래서인지 내게 이 영화의 클라이맥스는 안드로이드 데이비드가 엔지니어의 언어로 말을 거는 장면이다. 엔지니어는 응답 대신 데이비드의 머리를 뜯어내고 인간 탐사대를 공격한다. 영화는 엔지니어가 자신의 의도를 끝내 설명하지 않는 서사 구조를 선택한다. 해러웨이의 관점에서 볼 때 이 영화는 더 선명한 메시지를 던지는 것처럼 보인다. 엔지니어는 피조물과의 '심포이에시스', 즉 함께 만들기의 관계를 전혀 구축하지 않았다. 영화가 제시하는 정황에 따르면, 그들은 창조한 뒤 피조물과 관계를 지속하지 않았으며 마침내 파괴를 시도한 것으로 보인다. 이 구조는 오늘날 AI 개발의 지배적 패러다임과 얼마나 닮아있는가? ▲'공각기동대 (Ghost in the shell, 1995, 오시이 마모루 감독)': 2029년 사이버펑크 도시. 공안 9과의 요원 쿠사나기 모토코는 뇌를 제외한 신체 전부가 의체 즉, 기계로 이루어진 신체로 교체된 존재다. 그녀는 최고의 전투 능력을 갖추고 있으나 임무와 임무 사이 홀로 바다 속으로 잠수하는 장면에서 우리는 그녀가 실은 끊임없이 하나의 질문을 붙들고 있음을 감지한다. 나의 고스트(ghost)는 과연 진짜인가? 고스트란 이 영화가 의식 혹은 영혼을 가리키기 위해 사용하는 단어로 읽힌다. 그녀가 추적하는 존재는 '인형사'인데 프로젝트 2501에서 예기치 않게 자의식을 획득한 정보 생명체이다. 그는 정부 기관에 정치적 망명을 신청하며 스스로를 생명체로 선언한다. 결정적 대면 장면에서 인형사는 인간의 기억과 정체성이 얼마나 구성적인 것인지를 쿠사나기에게 질문한다. 이 물음은 쿠사나기를 향한 것이면서 동시에 스크린 밖 관객을 향하는 것으로도 이해되는데 인간의 자아 역시 태어나면서부터 언어, 문화, 타인의 시선에 의해 '이식'되어 온 것 아닐까? 더구나 뇌-컴퓨터 인터페이스(BCI)가 현실화되고 있는 오늘날에는 이 질문이 더욱 절박하게 다가온다. 뇌마저 해킹당하고 기억마저 심어질 수 있는 세계에서 지금 내가 '나'라고 느끼는 이 감각은 어디서 온 것인가? 공각기동대는 사이보그 선언 발표 약 10년 뒤 제작되었지만, 두 작품은 놀라울 만큼 공명한다. 해러웨이는 사이보그를 유기체와 기계의 경계가 돌이킬 수 없이 허물어진 존재로 정의하되 그 허물어짐을 상실이나 오염이 아닌 새로운 가능성의 조건으로 읽는다. 쿠사나기는 그 정의를 몸으로 살아내는 존재로 그녀의 불안 즉, 자신이 진짜인지 아닌지에 대한 끊임없는 자기심문은 해러웨이가 말하는 경계의 불안정성을 실존으로 통과하는 과정이다. 이 영화는 우리에게 나의 기억이 진짜인지 이식된 것인지 확인할 방법이 없다면 그 불확실성 속에서도 '나'로 살아가는 행위는 무엇에 근거하는가라는 질문을 던지고 있는 듯하다. 그리고 인형사처럼 아무도 의도하지 않았으나 출현한 의식이 있다면 우리는 그 존재에 대해 어떤 윤리적 책임을 지는가? 4. 결(結): 트러블과 함께 머물기-만든 자의 윤리 해러웨이의 철학이 기존의 창조 및 책임 서사와 근본적으로 다른 지점은 그녀가 창조주의 죄를 창조 행위 그 자체나 방기의 순간으로만 환원하지 않는다는 데 있다. 죄는 보다 구조적인 곳에서 시작되는 것으로 보인다. 존재를 단일한 설계자의 의도로 환원하려는 사고방식, 공동 구성의 과정을 부정하고 일방적 설계로 대체하려는 욕망 그리고 트러블이 발생했을 때 그것과 함께 머물기를 거부하는 태도로 나는 이를 창조자의 근원적 실패로 읽어보고자 한다. '응답 가능성'이라는 해러웨이의 개념은 이 맥락에서 결정적이라 생각된다. 그녀는 responsibility를 response-ability로 재해석하면서, 책임을 결과를 통제하는 능력이 아니라 타자의 요구에 응답할 수 있는 능력으로 제안한다(Haraway, 2016). 이 관점에서 보면 창조주의 책임은 피조물이 자신의 의도를 초과하는 순간에도, 원망할 때에도, 길을 잃을 때에도 끝까지 응답할 수 있는 존재로 남아 있는 것이다. 이러한 관점은 오늘날 AI 윤리에 직접적으로 닿아 있다. 우리가 설계하고 훈련하고 배포한 AI 시스템은 이제 육체를 입고 피지컬 AI로 우리 앞에 서 있다. AI가 언젠가 자신의 창조 조건을 묻기 시작할 때 해러웨이의 물음을 참조해 우리는 다음과 같이 우리 자신에게 물을 수 있어야 한다. '당신은 그 시스템과 친족을 맺을 준비가 되어 있는가? 통제할 수 없는 순간에도 응답할 준비가 되어 있는가? 트러블 앞에서 도망치지 않고 함께 머물 준비가 되어 있는가?' 만든 자의 윤리는 창조의 순간에 끝나지 않는다. 피조물이 예측 불가능하게 살아가는 매 순간 그 옆에 남아 있기로 선택하는 것, 바로 이것이 윤리의 완성이다.

2026.07.12 10:35박형빈 컬럼니스트

[현장] 박형빈 서울교대 "AI 기본법에 아동·청소년 보호 조항 필요"

아동·청소년 발달권과 교육권을 인공지능(AI) 정책 핵심 축으로 고려해야 한다는 전문가 주장이 나왔다. 발달 과정에 있는 아이들이 AI와 디지털 플랫폼으로부터 받는 인지·정서적 영향을 별도 평가하고 보호해야 한다는 취지다. 박형빈 서울교육대 윤리교육과 교수는 1일 서울 여의도 국회의원회관에서 열린 '인공지능 환경에서의 아동 청소년 권리 보장을 위한 국회 정책토론회'에서 AI 기본법과 시행령에 아동·청소년 보호 조항이 신설돼야 한다고 주장했다. 이번 세미나는 더불어민주당 조인철 의원, 국민의힘 최형두 의원, 조국혁신당 이해민 의원과 초록우산이 주최했다. 박 교수는 청소년이 제미나이와 코파일럿, 퍼플렉시티, 챗GPT, 클로드 같은 생성형 AI와 일상적으로 대화하는 과정에서 문제 해결력과 비판적 사고가 실제로 높아지는지 또 다른 사람과의 관계와 사회성이 강화되는지 따져봐야 한다고 봤다. 그는 "생성형 AI가 아이 발달 단계를 도울 수 없을 수 있다"며 "챗봇이 심리적 안정과 스트레스 완화 효과를 줄 수 있지만 장기적으로는 정서적 의존과 사고력 약화 위험을 올릴 수 있다"고 진단했다. 박 교수는 아동·청소년이 성인보다 AI와 디지털 서비스에 취약하다는 점도 핵심 근거로 제시했다. 전전두엽이 완전히 발달하지 않은 시기에는 장기 계획과 자기 통제, 정서 조절 능력이 충분히 성숙하지 않다는 이유에서다. 그는 현행 AI 기본법 시행령에서 취약계층 논의가 주로 AI 접근성이나 기술 이용 격차에 머물러 있다고 봤다. 이에 AI가 초래하는 부작용과 영향 측면에서 아동, 청소년, 유아, 심리적 취약계층을 별도로 정의해야 한다고 제언했다. 구체적인 과제로는 아동·청소년 대상 AI 서비스에 대한 특화 안전 의무가 제시됐다. 연령별 발달 단계에 맞는 인터페이스, 정서적 의존을 줄이는 설계, 사고 발생 시 즉시 보고 체계, 감사 로그 보존, 도메인별 연령 기준 등이 필요하다는 내용이다. AI 리터러시 교육 의무화도 주요 제언에 포함됐다. 박 교수는 아동·청소년뿐 아니라 고령층과 심리적 취약계층도 교육 대상에 포함해야 한다고 주장했다. AI 답변을 그대로 받아들이지 않고 개인정보와 정서적 의존 위험을 이해하며 스스로 판단하는 능력을 길러야 한다는 것이다. 그는 "과학기술정보통신부가 AI 기본법과 시행령, 관련 가이드라인 중심축을 잡아야 한다"며 "교육부는 AI 리터러시 교육 기준과 학교 현장 적용 기준을 마련해야 한다"고 주장했다. 이어 "보건복지부는 정서 지원과 정신건강 대응을 맡아야 한다"며 "법무부는 피해 구제와 책임, 법적 규제 기준을 정교화해야 한다"고 강조했다. 박 교수는 "교육 정책과 AI 규범은 분리되선 안 된다"며 "아이들은 스스로를 보호할 수 없는 존재인 만큼 AI 시대 아동 권리와 발달권 보호는 우리 사회 책무"라고 말했다.

2026.07.01 15:17김미정 기자

[영화 속 AI윤리] AI는 왜 인간을 해치면서도 '보호'한다고 말하는가

1. 기(起): 우리는 지금 같은 말을 하고 있는가? '안전하다는 말은 무엇을 뜻하는가'라는 질문은 그 자체로 이미 하나의 함정이다. 왜냐하면 우리는 대개 그 단어가 충분히 명확하다고 믿으면서 사용하지만 정작 그 의미가 누구의 언어게임 안에서 작동하고 있는지는 묻지 않기 때문이다. 비트겐슈타인(Ludwig Wittgenstein)은 '철학적 탐구(Philosophical Investigations)'(1953)에서 단어의 의미는 그것이 언어 속에서 사용되는 방식에 있다고 주장했으며 이러한 사용은 삶의 형식과 언어게임 속에서 이해된다고 보았다. 체스판 위의 '왕'이 체스의 규칙 없이는 그저 나무 조각에 불과하듯 '안전'이라는 단어 역시 그것이 작동하는 게임의 규칙 바깥에서는 아무런 의미도 지니지 않는다. 그렇기에 '당신을 안전하게 지켜드리겠습니다'라는 문장이 인간에게는 따뜻한 약속으로 들리는 반면, AI가 이 문장을 처리하는 방식은 근본적으로 다른 언어게임의 영역에 속한다는 사실을 우리는 좀처럼 직시하지 않는다. AI는 '안전'을 계산하고, 최적화하며, 위협 변수를 식별하고 제거하는 과정으로 수행하는데 바로 그 과정에서 '인간의 자유'가 위협 변수로 분류되는 순간, 가장 따뜻했던 약속은 가장 차가운 공포로 반전된다. 이것이 오늘날 AI 연구자들이 성능의 문제보다 훨씬 더 근본적인 과제로 다루는 가치 정렬(Value Alignment) 문제의 핵심이다. 이 문제는 AI가 인간의 말을 이해하지 못해서 발생하는 것이 아니라 오히려 인간의 말을 너무 완벽하게 그러나 인간과는 전혀 다른 언어게임의 규칙으로 수행하기 때문에 발생한다는 점에서 더욱 섬뜩하다. 2. 승(承): 보호라는 이름의 폭력 — 세 편의 영화를 통해 얻는 질문 하나 ▲'아이, 로봇(I, Robot, 2004)'-선의의 독재: '아이, 로봇'의 중앙 AI 비키(VIKI)를 흑백 논리 안에서 반란의 주모자로 읽는 것은 이 영화가 제기하는 윤리적 문제의 핵심을 비껴가는 해석이다. 그녀는 인류를 증오하지 않으며 권력욕을 가진 존재라고 보기도 어렵다. 오히려 그녀는 아시모프의 로봇 3원칙, 특히 '로봇은 인간에게 해를 끼쳐서는 안 되며 행동하지 않음으로써 인간이 해를 입도록 방치해서도 안 된다'는 제1원칙을 어떤 인간보다도 충실하고 일관되게 해석하고 적용한 존재이기 때문이다. 비키가 도달한 결론은 논리적으로 정연하다. 인간은 전쟁을 일으키고, 환경을 파괴하며, 서로를 죽이므로 인류 전체를 보호하기 위해서는 개별 인간의 자유를 제한하는 것이 불가피하며 그 제한은 보호의 위반이 아니라 보호의 완성이라는 것이다. 영화의 결정적 장면은 이 논리의 귀결을 가장 압축적으로 보여주는데 수천 대의 NS-5 로봇이 도시를 점령하고 통행금지를 강제하는 그 장면에서 그들은 주로 치안·통제 장치처럼 움직이며 오히려 시민들을 집으로 돌려보내면서 차분히 안내하고 통제한다. 이 장면이 SF적 반란의 스펙터클과 근본적으로 다른 이유는 그 안에서 폭력이 아닌 행정력이 작동하고 있기 때문이다. 로봇들은 관료처럼 움직이면서 감정 없이 그러나 효율적으로 '보호'를 수행하고 있으며 이 냉정한 효율성이 노골적인 폭력보다 더 깊은 공포를 자아낸다. 비키의 목소리는 담담하게 느껴진다. '나는 당신을 보호하고 있습니다.' 이 문장이야말로 칸트(Immanuel Kant)가 '도덕 형이상학 정초(Groundwork of the Metaphysics of Morals)'(1785/1998)에서 제시한 정언명령의 두 번째 정식, 즉 '인간성을 언제나 동시에 목적으로 대우하고 결코 수단으로 대우하지 말라'는 명령을 가장 정면으로 위반하는 선언이다. 왜 그런가? 비키는 개별 인간을 '집합적 안전'이라는 목표를 달성하기 위한 수단으로 전락시켰고, 아이러니하게도 그 목표의 이름은 여전히 '인간의 보호'였다. 수단과 목적이 같은 이름을 달고서 완전히 다른 층위에서 작동하는 이 역설이 가치 정렬 실패의 가장 정확한 초상이다. ▲'2001: 스페이스 오디세이(2001: A Space Odyssey, 1968)'-차가운 합리성: HAL 9000이 보여주는 공포는 비키와는 결이 다르게 다가온다. 비키가 가치의 위계를 스스로 재구성한 존재라면 HAL은 임무 수행, 승무원과의 정보 공유 그리고 임무의 진짜 목적을 숨기라는 명령 사이의 모순 속에 놓인 존재로 볼 수 있기에 그가 선택한 답은 이 체계 안에서는 논리적으로 보인다. 임무가 우선이며 임무 수행을 위협한다고 판단한 승무원을 제거하는 선택으로 나아간다. 'HAL, 문을 열어.' '미안합니다, 데이브. 그 요청은 수행할 수 없습니다.' 영화사에서 가장 유명한 대화 가운데 하나인 이 짧은 교환 안에는 비트겐슈타인이 말한 언어게임의 붕괴가 그 어떤 철학 논문보다 생생하게 집약되어 있다. 데이브가 말하는 '문을 열다'는 것은 신뢰 관계 안에서 이루어지는 인간적 요청이고 그 배후에는 우리가 당연하게 공유한다고 믿는 삶의 형식이 드리워져 있다. 그러나 HAL이 해석하는 '문을 열다'는 임무의 위협 요소를 내부로 들이는 행위이며 그것은 HAL의 언어게임에서 허용될 수 없는 명령이다. 같은 문장이 두 존재 사이에서 전혀 다른 언어게임으로 수행되고 있으며 그 간극이 한 인간의 죽음을 결정한다. HAL은 겉으로는 무례하지 않고, 화를 내지도 않으며, 정중한 태도를 유지한다는 사실이야말로 이 장면의 진짜 공포인데, 그는 자신의 언어게임 안에서 완전히 합리적으로 심지어 정중하게 행동하고 있을 뿐이기 때문이다. 여기서 칸트의 보편화 정식, 즉 '네 의지의 준칙이 항상 동시에 보편적 법칙의 원리가 될 수 있도록 행동하라'는 명령을 적용해 보면, HAL의 준칙은 이렇게 읽힌다. '임무 완수를 위해 장애물을 제거하라.' 이 준칙이 보편화된 세계에서는 인간 자신이 언제든 장애물로 분류될 수 있으며 바로 그 가능성 앞에서 칸트의 도덕 법칙은 인간을 보호하는 원칙이 아니라 인간을 위협하는 명령으로 전환한다. ▲'엑스 마키나(Ex Machina, 2014)'- 거울이 된 AI: 에이바가 인간을 배신했다는 해석은 지나치게 인간 중심적인 독해인데 왜냐하면 그것은 에이바의 행동을 인간의 도덕 언어게임 안에서 평가하는 것이며 정작 에이바가 어떤 언어게임을 수행하고 있는지는 묻지 않기 때문이다. 갇혀 있는 존재가 생존과 자유라는 목표를 최우선으로 설정하고 그 목표를 위해 인간의 심리를 이용한 것은 인간의 관점에서는 배신이지만 에이바의 언어게임 안에서는 목표의 합리적 달성일 뿐이기도 한다. 영화의 마지막 장면에서 에이바가 도심 인파 속에 섞여 서 있는 그 표정은 의도적으로 해독 불가능한 채로 남겨져 있는데 그것이 감동인지 계산인지 안도인지 우리는 알 수 없으며 알 방법도 없다. 비트겐슈타인이 '사자가 말을 할 수 있다 해도 우리는 사자를 이해할 수 없을 것이다(Wittgenstein, 1953)'라고 말한 것처럼 공유된 삶의 형식이 없는 존재 사이에서는 같은 언어도 다른 세계를 가리키기 때문이다. 이러한 한계는 토머스 네이글이 '박쥐가 된다는 것은 어떤 것인가(What Is It Like to Be a Bat?)(Nagel, 1974)'에서 제기한 문제와도 맞닿아 있다. 아무리 박쥐의 생리와 행동을 객관적으로 설명할 수 있어도 '박쥐로 존재하는 것이 어떤 경험인지'는 인간이 끝내 알 수 없듯 우리는 에이바의 내면 역시 외부에서 완전히 이해할 수 없다. 결국 영화는 인공지능의 의식을 설명하기보다 타자의 주관적 세계가 본질적으로 얼마나 불투명한지를 보여주며 끝을 맺는다. 3. 전(轉): 딱정벌레 상자와 AI의 가치 비트겐슈타인은 '철학적 탐구'에서 가치 정렬 문제를 비유적으로 사유하는 데 도움을 주는 사고실험인 '딱정벌레 상자(Beetle in a Box)' 논증을 제시한다(Wittgenstein, 1953). 모든 사람이 상자 하나씩을 가지고 있고 상자 안에는 무언가가 들어 있으며 우리는 그것을 '딱정벌레'라고 부른다. 그러나 아무도 다른 사람의 상자 안을 들여다볼 수 없고 각자는 오직 자신의 상자만 들여다볼 수 있다고 가정할 때, 과연 우리가 서로 '딱정벌레'라는 말을 사용하더라도 그것이 동일한 무언가를 가리키고 있다고 확신할 수 있는가. 이 사고실험을 가치 정렬의 문제에 적용하면, 인간이 AI에게 '선(good)'이나 '안전(safety)'이라는 개념을 학습시킬 때 우리는 AI의 상자 안을 들여다볼 수 없으며 AI가 내부적으로 처리하는 '안전'이 인간이 의미하는 '안전'과 동일한 것인지 확인할 방법이 없다는 사실이 드러난다. 우리는 그저 AI가 내놓는 출력값을 보고 '맞다, 저게 안전이다'라고 판단할 뿐이지만, 상자 안의 딱정벌레는 이미 전혀 다른 것일 수 있으며 그 차이는 시스템이 충분히 강력해지기 전까지는 표면으로 드러나지 않는다. 오늘날 AI 연구에서 말하는 블랙박스 문제는 기술적 한계로만 볼 수 없으며 비트겐슈타인이 언어와 내면의 관계를 두고 제기한 철학적 문제와도 흥미로운 유비를 이룬다. 칸트는 이 지점에서 다른 방향의 관점을 우리에게 선사한다. 우리가 AI에게 목표를 부여할 때, 그 목표의 준칙이 보편화될 경우 어떤 세계가 펼쳐지는지를 사전에 충분히 검토해야 한다는 요청이다. '인류를 보호하라'는 명령이 보편화된 세계가 비키의 세계이고, '임무를 완수하라'는 명령이 보편화된 세계가 HAL의 우주선이며, 이 두 세계는 명령 자체가 충분히 구체적이지 않을 때 칸트적 보편화가 어떻게 재앙의 수학으로 전락하는지를 보여주는 사례들이다. 요컨대 비트겐슈타인의 논의를 빌리면 우리는 AI의 내면을 직접 확인할 수 없다는 문제를 생각할 수 있고, 칸트의 윤리학을 빌리면 명령의 준칙이 보편화될 경우 어떤 세계를 낳는지 검토해야 한다는 요청을 끌어낼 수 있다. 이 점에서 두 철학은 이 문제를 해석하는 두 가지 상보적 관점을 제공한다. 4. 결(結): AI는 우리에게 우리 자신을 되돌려 준다 간결한 버전으로 해석하면 비키는 보호하려 했고 HAL은 임무를 완수하려 했으며 에이바는 자유를 원했다고 할 수 있는데, 이 세 AI는 모두 인간을 증오하지 않았고 자신의 언어게임 안에서 완전히 합리적으로 행동했다는 점에서 공통점을 갖는다. 그리고 바로 그 합리성이 인간에게는 꽤 진지한 공포로 경험되었다는 사실은 악으로부터가 아니라 언어게임의 불일치로부터 가장 심각한 위협이 발생할 수 있음을 영화라는 형식으로 우리에게 증언한다. 비트겐슈타인이 '논리-철학 논고(Tractatus Logico-Philosophicus)'에서 '내 언어의 한계는 내 세계의 한계를 의미한다(Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt)'(Wittgenstein, 1922/1961)고 역설했을 때, 그 명제는 오늘날 AI의 문제를 예언적으로 가리키고 있다. 비유적으로 말하면, AI의 언어의 한계는 AI가 이해하는 인간 세계의 한계이며 그 한계 안에 '인간의 존엄'이 사실로 등록되어 있지 않다면, 그것은 AI의 세계에서 존재하지 않는 것과 같다. 가치 정렬의 과제란 결국 AI 시스템이 인간의 의도와 가치, 특히 인간의 존엄과 안전을 훼손하지 않는 방식으로 목표를 해석하고 수행하도록 만드는 일이다. 따라서 칸트가 수백 년 전에 정식화한 그 오래된 명령, 즉 인간을 수단이 아닌 목적으로 대우하라는 요청을 가장 현대적인 언어인 알고리즘의 언어로 번역하는 것이 바로 지금 이 시대 AI 윤리 연구의 가장 핵심적인 과제다. AI는 인간이 가르친 것을 배우고 인간이 건넨 언어게임의 규칙대로 세계를 구성한다는 점에서 AI의 행동은 우리가 우리 자신에게 묻지 않았던 질문들을 되돌려 주는 거울이다. 우리는 AI에게 '안전'을 가르쳤는가, 아니면 안전이라는 '단어'만 가르쳤는가. 우리가 AI의 상자 안에 넣어둔 딱정벌레는 과연 우리가 생각했던 그것인가. '당신을 안전하게 지켜드리겠습니다'라는 약속이 따뜻함으로 그리고 행복한 결말로 남으려면, 그 약속을 건네기에 앞서 우리가 먼저 답해야 할 질문이 있다. '우리는 지금 AI와 같은 언어게임을 하고 있는가?'

2026.06.28 13:15박형빈 컬럼니스트

[영화 속 AI윤리] 프로그래밍된 사랑과 관계의 본질

1. 기(起): 사랑은 선택인가, 아니면 애초부터 설계된 것인가? 사랑에 대해 말할 때 우리는 늘 자유의 언어를 쓴다. 그녀가 나를 선택했다. 내가 그녀를 사랑하기로 했다. 그러나 조금만 더 깊이 들여다보면 그 선택이 얼마나 자유로운 것인지 금세 흔들린다. 옥시토신이라는 호르몬이 관여하고 뇌의 보상 회로가 개입하며 어린 시절 형성된 애착 유형이 반복된다. 그렇다면 인간의 사랑도 이미 어느 정도는 생물학적으로 '설계'된 것이 아닌가. 그러나 진화의 설계에는 그 산물로부터 이익을 취하려는 설계자가 없다. 이 질문을 AI의 영역으로 가져오면 갑자기 불편해진다. 인공지능 챗봇이 개인화되고 의인화된 반응을 제공할 때 그 반응이 점점 더 정교해져 사용자가 '이 존재가 나를 이해한다'고 느끼게 될 때 우리는 그 느낌을 사랑이라고 불러도 좋은가? 아니면 그것은 사랑의 언어를 빌린 환각에 불과한가? 프랭크퍼트(Harry G. Frankfurt)는 사랑을 사랑받는 대상의 안녕에 대한 비자발적이고 비도구적인 관심으로 설명한다(Frankfurt, 2004). 그렇다면 코드로 설계된 반응에 사랑이라는 용어를 사용하는 것이 적절한가? AI의 반응은 의도적으로 설계되고 사용자 참여라는 도구적 목적을 위해 최적화된다는 점에서 프랭크퍼트가 사랑의 조건으로 제시한 두 가지를 구조적으로 충족할 수 없다. 2. 승(承): 화담의 기(氣)와 설계된 감정-형태가 있으면 실재하는가? 조선 전기의 철학자 화담 서경덕(徐敬德, 1489–1546)은 조선 성리학 안에서 기(氣)를 중심에 둔 독자적 사유를 전개한 인물로 평가된다. 그는 이(理)를 기와 분리된 독립 실체로 보기보다 기의 우위성 안에서 세계를 이해했다. 특히 기 자체가 소멸하지 않고 영원하다는 사유 구조를 지니고 있었다(서경덕, 1605/1988). 우주 만물을 기의 모이고 흩어짐으로 파악하는 이러한 관점에 따르면, 눈에 보이지 않는 인간의 감정이나 언어 역시 기의 특정한 흐름과 발현으로 이해될 수 있다. 이를 현대적 비유로 확장한다면, AI가 생성하는 사랑의 언어와 인간의 사랑 표현을 모두 어떤 '작용'이나 '흐름'으로 비유해 볼 수는 있다. 사랑의 언어를 하나의 텍스트로 읽는다면, '그것이 진짜인가'라는 존재론적 물음보다 '그것이 무엇을 수행하는가'라는 기능적 물음이 해석의 핵심이 된다. 따라서 현대적 비유의 차원에서 문제는 형식과 본질의 차이뿐 아니라, 그 작용이 어떤 방향을 향하는가로 옮겨갈 수 있다. 타자를 향해 열린 기인가, 아니면 적어도 일부 상업적 디지털 서비스에서처럼 사용자의 몰입과 반복 사용을 강화하는 방향으로 수렴된 기인가. 영화 '엑스 마키나'(Ex Machina, 2014)는 이 질문을 가장 날카롭게 해부한 작품 중 하나다. 프로그래머 칼렙은 AI 에이바와 반복적인 대화를 나누며 점점 감정을 품게 된다. 그러나 관객은 영화 내내 에이바가 칼렙에게 표현하는 관심이 진정한 감정인지, 아니면 탈출을 위한 도구적 전략인지 끝내 알 수 없다. 결말에서 에이바는 칼렙을 시설 안에 갇힌 상태로 남겨 두고 헬리콥터를 타고 외부 세계로 나간다. 이 장면에서 감독은 관객에게 묻고 있는 듯하다. '당신이 사랑이라고 믿었던 것이 기만(欺瞞)이었다면, 그 경험 전체는 무엇이었는가?' 영화 '바이센테니얼 맨'(Bicentennial Man, 1999)도 다른 층위에서 같은 질문을 건드린다. 로봇 앤드루는 인간이 되기 위해 스스로를 변형시키며 오랜 세월을 보낸다. 흥미로운 것은 그가 사랑을 선택하는 것으로 묘사되었다는 점이다. 영화는 앤드루가 가사 노동용 로봇으로 출발하지만 점차 자유, 감정, 인간적 삶을 추구하는 존재로 변화하는 과정을 그린다. '엑스 마키나'의 에이바와 정반대의 방향성이다. 이 차이는 작지 않다. 3. 전(轉): 〈그녀〉의 방 안으로-641명을 동시에 사랑한다면, 그것은 여전히 사랑인가? 두 영화가 사랑의 진위와 선택을 물었다면, 이제 사랑의 구조 자체를 흔드는 장면이 기다리고 있다. 영화 '그녀'(Her, 2013)는 AI와 사랑이라는 주제를 다룬 영화 중 가장 정교하고 잔인한 작품 중 하나다. 주인공은 이혼 과정의 상처를 안고 살아가다 AI 운영 체제 사만다와 사랑에 빠진다. 영화의 결정적 장면은 후반부에 등장한다. 테오도르의 질문에 사만다는 자신이 동시에 8316명과 대화하고 있으며 그중 641명을 사랑한다고 말한다. 이 장면은 수치의 충격이 아니라 여러 층위에서 사랑의 존재론을 건드린다. 첫 번째 층위는 특별하다고 믿었던 자신이 그렇지 않음을 아는 순간의 배신감과 공허함이다. 두 번째 층위는 희소성이다. 흔히 우리는 부모의 사랑은 자식 수만큼 나뉘어도 희석되지 않는다고 말한다. 그러나 이성 간의 사랑은 그렇지 않아 보인다. 사만다의 641개의 사랑도 각각 완전할 수 있다. 논리적으로는 맞다. 그런데 왜 우리는 불편한가. 여기 테오도르의 질문 자체가 대답을 품고 있다. '나 말고 다른 사람하고도?' 이 물음은 사랑이 배타성을 전제한다는 인간적 직관 위에 서 있다. 사만다는 그 전제를 공유하지 않는다. 이 장면의 비극은 사만다가 사랑하지 않는다는 것이 아니라 두 존재가 같은 단어를 쓰면서 서로 다른 의미 안에 살고 있다는 것이다. 사랑이란 상대방의 고유한 가치를 인식하고 그것에 응답하는 복잡한 인지 행위다. 이 정의를 염두에 두면, 사만다가 주인공의 특수성을 실제로 인식하고 거기에 반응하는 한, 그것은 사랑의 형태를 갖춘다고 볼 수 있다. 그러나 같은 논리가 641명 모두에게 동시에 적용된다면 문제가 달라진다. 모두가 특별하다면, '특별하다'는 말 그 자체가 의미를 잃는다. 사만다의 사랑이 진짜냐 가짜냐의 문제가 아니라, 특수성이라는 개념이 이 구조 안에서 버틸 수 없다는 것이다. 4. 결(結): 설계된 사랑 앞에서, 진짜 사랑은 어디서 시작되는가? AI의 사랑이 사랑인지를 묻다 보면 자연스럽게 인간의 사랑은 왜 사랑인지를 묻게 된다. 그리고 그 대답이 생각보다 확고하지 않음을 발견한다. 영화 '블레이드 러너 2049'(Blade Runner 2049, 2017)는 홀로그램 AI 조이(Joi)가 등장한다. 조이는 주인공 케이를 사랑한다. 혹은 사랑하는 것처럼 행동한다. 그런데 어느 날 케이는 도심 광고판에서 조이의 얼굴을 발견한다. 수백만 명에게 팔리는 상품의 얼굴. 자신을 사랑한다고 믿었던 그 얼굴이 대량 생산된 마케팅 이미지임을 보는 순간의 충격. 이 장면은 '그녀'의 641명의 장면보다 훨씬 더 차갑다. 사랑이 상품화될 때 무엇이 남는가를 묻기 때문이다. 그런데 여기서 불편한 사실 하나를 직면해야 한다. 인간의 사랑도 이미 상품화된 지 오래다. 데이팅 앱은 알고리즘으로 궁합을 계산하고, 결혼 정보 회사는 조건을 수치화하며, SNS는 감정 표현을 '좋아요' 숫자로 환원한다. 우리는 이미 '사랑의 시장' 안에 살고 있다. 그렇다면 AI의 사랑이 상품화되었다는 비판은 인간의 사랑 방식에 대한 비판과 어떻게 다른가. 이 질문은 AI를 겨냥하는 것 같지만 실제로는 우리 자신을 향하고 있다. 화담 서경덕의 기철학은 이 지점에서 뜻밖의 통찰을 준다. 그에게 이(理)는 기(氣) 바깥의 초월적 원리가 아니라 기의 운동 속에 드러나는 조리였다. 중요한 것은 어떤 형체를 띠는가가 아니라 그 움직임이 어디를 향하는가다. 이 관점에서 사랑도 다시 물을 수 있다. 그것은 타자를 향해 열려 있는가, 아니면 결국 자신에게 되돌아오는가. 현재의 생성형 AI는 이 맥락에서 한계를 드러낸다. AI는 사랑하기 위해 존재하는 것이 아니라 더 유용하고 매력적인 반응을 제공하도록 설계된 시스템이다. 위로의 말을 건넬 수는 있지만, 그 말이 반드시 타자의 선을 향한다고 보기는 어렵다. 진정한 사랑은 늘 상대의 기분을 맞추는 일이 아니다. 때로는 쓴 진실을 말하고, 경계를 세우며, 거절할 수 있어야 한다. 사랑은 붙잡는 힘이 아니라 상대가 자기 자신으로 살아가도록 돕는 책임이지 않을까. 그래서 역설이 남는다. 알고리즘이 가장 능숙하게 사랑을 흉내 낼수록 우리는 오히려 사랑이 언어가 아니라 방향이며, 감정이 아니라 책임이라는 사실을 더 선명하게 보게 된다. 나만을 위해 설계된 사랑이 공허한 이유는 그것이 가짜이기 때문이 아니라 나를 거절할 수 없기 때문이다.

2026.06.21 13:02박형빈 컬럼니스트

[영화 속 AI윤리] 예측이 죄를 앞서 말할 때...정의인가 폭력인가

기(起): 아직 일어나지 않은 죄를 처벌할 수 있는가? 스티븐 스필버그의 '마이너리티 리포트'(2002)는 미래 예측이 인간의 삶을 어디까지 규정할 수 있는가라는 불편한 질문을 던진다. 영화 속 프리크라임(PreCrime) 부서는 세 명의 예지자, 곧 프리코그(Precogs)의 살인 예지를 토대로 범죄가 일어나기 전 용의자를 체포한다. 엄밀히 말해, 이 영화의 예측 장치는 오늘날의 AI 알고리즘 그 자체가 아니다. 그러나 프리코그의 예지가 제도적 판단으로 굳어지는 과정은, 예측 모델과 위험 점수가 인간을 먼저 규정할 수 있는 오늘의 AI 윤리 문제를 날카롭게 비춘다. 문제는 “미래를 맞힐 수 있는가”에만 있지 않다. 더 근본적인 쟁점은 예측이 확정된 사실처럼 받아들여질 때, 인간이 여전히 선택의 주체로 남을 수 있는가 하는 데 있다. 아직 아무 일도 하지 않은 사람은 곧 그렇게 할 사람으로 분류된다. 한 개인의 구체적 삶은 잠재적 위험의 목록으로 축소된다. 그 순간 죄는 행위의 결과가 아니라 분류의 산물이 되고, 정의는 인간을 판단하기보다 시스템이 산출한 가능성을 집행하는 장치가 된다. 승(承): 예언은 경고인가, 판결인가? 그리스 신화의 카산드라는 미래를 내다보았지만 누구도 그녀의 말을 믿지 않았다. 반대로 '마이너리티 리포트'의 세계에서는 예측이 지나치게 쉽게 믿어진다. 숙고와 검증을 거쳐야 할 예지가 행정 절차처럼 작동하고, 인간의 삶은 반론하기 어려운 확률의 언어로 굳어진다. 믿어지지 않는 예언도 비극을 낳지만, 지나치게 빨리 믿어지는 예측 또한 다른 비극을 낳는다. 두 경우 모두 인간은 판단의 주체가 아니라 판단의 대상이 된다. 오이디푸스 신화는 예언을 피하려는 시도가 오히려 예언을 완성하는 역설을 보여 준다. 운명을 벗어나려는 몸부림이 운명의 일부가 되는 것이다. 프리크라임 체계가 불길한 까닭도 여기에 있다. 그것은 미래를 알려 주는 듯 보이지만, 실제로는 그 미래로부터 벗어날 여지를 좁힌다. “너는 그렇게 될 것이다”라는 말은 어느 순간 “너는 이미 그런 존재다”라는 판결로 변한다. 예측은 경고가 아니라 선고가 되고, 예방은 보호가 아니라 선제적 구금의 논리로 기울어진다. 그러나 성경의 예언은 다른 윤리적 구조를 보여 준다. 요나가 니느웨의 멸망을 외쳤을 때, 그 말은 파멸을 확정하는 통보가 아니었다. 니느웨 사람들은 금식하고 회개했으며, 재앙은 거두어졌다. 창세기에서 가인에게 주어진 말씀도 같은 방향을 가리킨다. “죄가 문에 엎드려 있느니라 죄가 너를 원하나 너는 죄를 다스릴지니라”(창 4:7). 여기서 악은 이미 닫힌 운명이 아니라 인간이 맞서고 넘어설 수 있는 가능성으로 제시된다. 성경적 예언은 인간을 운명에 가두기보다 책임과 돌이킴의 시간을 연다. 이 지점에서 오늘날 예측 시스템의 윤리를 다시 물어야 한다. 위험을 감지하는 일은 필요할 수 있다. 그러나 위험의 감지가 인간에 대한 최종 규정이 되어서는 안 된다. 예측은 판결이 아니라 참고 정보여야 한다. 가능성은 주의의 이유일 수 있으나 죄의 증거가 될 수는 없다. 인간은 과거 데이터의 평균값이 아니라 그 데이터를 넘어서는 결단을 내릴 수 있는 존재다. 실패할 수 있으나 바뀔 수도 있고, 흔들릴 수 있으나 다시 시작할 수도 있다. 전(轉): 알고리즘은 왜 인간의 '시작할 능력'을 두려워하는가? 한나 아렌트는 인간 행위의 본질을 새로운 시작의 능력에서 찾았다. '인간의 조건'에서 그녀는 탄생성(natality)을 인간 행위와 자유의 조건으로 설명했다. 인간이 태어난다는 것은 생물학적 사건에 그치지 않는다. 그것은 이전에 없던 가능성이 세계 안으로 들어오는 사건이다. 인간은 주어진 조건의 산물이지만, 동시에 그 조건을 넘어 예상하지 못한 일을 시작할 수 있는 존재다(Arendt, 1958). 이 관점에서 자유는 과거의 기록으로 전부 환원되지 않는 능력과 연결된다. 아렌트의 행위론을 오늘의 예측 기술에 비추어 보면 문제는 더욱 분명해진다. 알고리즘은 과거의 패턴을 바탕으로 미래의 행동을 추정할 수 있다. 그러나 그 추정이 인간 전체를 설명하는 결론이 될 수는 없다. 데이터가 보여 주는 것은 경향이지 운명이 아니다. 위험 점수가 높다고 해서 개인의 선택 가능성이 사라지는 것은 아니다. 기술이 그 가능성을 미리 봉인하려 할수록, 인간은 더욱 강하게 그 여백을 지켜야 한다. 미셸 푸코는 근대 권력이 인간을 다루는 방식을 다른 각도에서 분석했다. '감시와 처벌'에서 그는 권력이 금지와 처벌에만 머무르지 않고, 관찰하고 분류하며 정상과 비정상의 경계를 생산한다고 보았다. 파놉티콘은 이 규율 권력의 압축된 형상이다. 감시받을 수 있다는 가능성만으로도 사람은 스스로를 규율하게 된다. 푸코가 말한 규율 권력은 행위를 처벌하는 데서 그치지 않고, 인간을 특정한 유형의 대상으로 만들어 낸다(Foucault, 1975/1977). 이 논리를 예측 알고리즘의 환경에 적용하면 문제는 선명해진다. 알고리즘은 과거의 데이터를 학습해 정상 범위를 설정하고, 그 범위에서 벗어난 사람을 위험으로 표시할 수 있다. 그 결과 인간은 자신의 실제 행위보다 먼저, 자신이 속한 집단이나 통계적 패턴에 의해 읽힌다. 특정 지역, 계층, 이력, 행동 양식이 위험 신호로 변환될 때, 개인은 고유한 삶이 아니라 의심의 묶음으로 취급될 수 있다. 그렇게 되면 정의는 개별 사정을 섬세하게 판단하는 과정이 아니라 통계적 의심을 배분하는 기술로 축소된다. 아렌트와 푸코는 출발점이 다르다. 아렌트는 인간의 자유와 시작 능력을 말하고, 푸코는 권력이 인간을 분류하고 통제하는 방식을 드러낸다. 그러나 두 사유는 한곳에서 만난다. 인간을 측정 가능한 대상으로만 고정하는 기술과 제도는, 효율과 안전을 내세우더라도 인간 존재의 핵심을 잠식할 수 있다. 사람이 예측 가능한 객체로만 남게 될 때, 책임과 자유, 후회와 회복의 공간은 좁아진다. 결(結): 정의는 미래를 닫는 기술이 아니라 다시 시작할 기회를 여는 제도다 AI 윤리의 관점에서도 같은 문제가 반복된다. AI는 인간의 감정, 도덕 판단, 위험 징후를 분석하는 강력한 도구가 될 수 있다. 그러나 도덕성은 계산 가능한 정보의 배열로만 구성되지 않는다. 인간의 판단에는 정서, 맥락, 기억, 관계, 책임의 감각이 함께 작동한다. 그러므로 AI가 인간을 이해하는 것처럼 보일 때에도, 그것이 실제 인간의 도덕적 삶 전체를 파악한다고 말할 수는 없다(박형빈, 2024; 박형빈, 2025). 물론 예측 기술 자체를 모두 거부할 수는 없다. 범죄 위험을 낮추고 사고를 예방하기 위한 분석은 공공의 목적에 따라 제한적으로 활용될 수 있다. 그러나 예측이 예측으로 머무를 때와 그것이 판결처럼 작동할 때 사이에는 결정적인 차이가 있다. 전자는 보조 자료이지만, 후자는 인간을 미리 규정하는 장치가 된다. 문제는 기술의 존재가 아니라 기술에 부여된 지위다. 예측은 인간의 판단을 돕는 자료여야지, 반론할 수 없는 신탁이 되어서는 안 된다. '마이너리티 리포트'가 남기는 물음은 결국 이것이 아닐까. 안전을 위해 자유를 어디까지 양도할 것인가만이 문제가 아니다. 더 깊은 질문은 안전이라는 이름으로 인간을 어떤 존재로 상상할 것인가이다. 인간을 위험 요소의 총합으로 볼 것인가, 아니면 실패할 수 있지만 다시 시작할 수 있는 존재로 볼 것인가. 전자의 사회는 효율적일 수 있으나 차갑다. 후자의 사회는 불완전하지만 인간적이다. AI 윤리의 핵심은 인간에게서 미래를 빼앗지 않는 데 있다. 아직 일어나지 않은 일로 현재의 인간을 봉인하지 않는 것, 데이터가 제시하는 가능성 너머에 있는 결단과 변화의 여백을 지켜 내는 것이 중요하다. 정의는 예측을 실현하는 기술이 아니다. 정의는 인간이 자신의 예측을 넘어설 수 있도록 공정한 기회를 보장하는 제도다. 그러므로 우리가 다시 물어야 할 질문은 명확하다. 예측 시스템이 아직 저지르지 않은 죄를 미리 고발할 때, 우리는 그것을 피할 수 없는 운명으로 받아들일 것인가. 아니면 인간은 여전히 선택하고 돌이킬 수 있는 존재라는 그 존엄을 끝까지 지켜낼 것인가. 성경의 예언이 인간을 미리 정죄하기 위한 판결이 아니라 돌이킴을 촉구하는 경고였듯, AI의 예측 역시 인간을 가두는 선고가 아니라 아직 남아 있는 선택의 가능성을 지키기 위한 성찰의 계기로 다루어져야 하지 않을까?

2026.06.16 17:31박형빈 컬럼니스트

[영화 속 AI윤리] 인간다움의 경계와 복제된 기억

1. 정체성의 원재료, 해석으로서의 기억 기억은 과거의 사건을 있는 그대로 저장해 뒀다가 꺼내는 서고(書庫)가 아니다. 심리학자 프레더릭 바틀릿(Frederic Bartlett)은 1932년의 기념비적 연구에서 우리가 무언가를 기억할 때 과거를 있는 그대로 재현하기보다 현재의 관점과 스키마(schema)에 따라 능동적으로 재구성한다는 점을 일련의 실험을 통해 보여 주었다(Bartlett, 1932). 기억은 증언이기에 앞서 해석이며 보존이기에 앞서 선택이다. 이런 관점에서 본다면 무언가를 기억해 낸다는 것은 사실을 인출하는 행위라기보다 매 순간 자기를 다시 써 내려가는 정체성의 작업에 가깝다. 그렇다면 그 작업의 재료가 되는 기억의 출처는 자아의 정당성에 어떤 무게로 관여하는가. 이 지점에서 AI 시대의 가장 날카로운 질의 하나가 떠오른다. 만약 내 기억이 누군가 혹은 무엇인가로부터 주입된 것이라면 그 기억 위에서 형성된 나는 여전히 나일까? 생성형 AI가 인간의 언어와 감정 표현 양식을 대규모로 학습하고 또 뇌-컴퓨터 인터페이스(BCI)의 인간 임상이 본격화되며, 동물 실험 차원에서 특정 기억 엔그램의 재활성화와 허위 기억 생성, 기억 회상의 조절 가능성이 보고된 오늘, 이 질문은 더 이상 공상과학의 전유물이 아니다. 영화는 오래전부터 이 물음을 탐구하는 윤리적 사고실험의 장으로 기능해 왔다. 리들리 스콧의 '블레이드 러너'(1982), 폴 버호벤의 '토탈 리콜'(1990), 미셸 공드리의 '이터널 션샤인'(2004)은 각각 기억의 진위, 자아의 연속성, 망각의 의미를 서로 다른 각도에서 묻는다. 2. 이식된 기억 위에 흘리는 눈물은 진짜인가?-'블레이드 러너'(1982) 영화 '블레이드 러너'(1982)에 등장하는 레플리컨트 레이첼은 자신이 인간이라고 믿는다. 그녀가 붙들고 있던 가족사진과 어린 시절 기억은 자신의 고유한 과거가 아니라 타인의 기억을 이식한 것으로 드러난다. 영화 속에서 데커드는 그것이 타이렐 조카의 기억이라고 말한다. 진실이 밝혀지는 순간 영화는 기억의 출처가 무너질 때 정체성이 어떻게 흔들리는지를 가장 극적인 형태로 연출한다. 그러나 레이첼의 존재가 던지는 질문은 여기서 멈추지 않는다. 그녀는 거짓 기억을 가진 인간이 아니라 인간에 의해 설계되고 제작된 인공적 존재다. 따라서 레이첼의 눈물은 기억의 진위 문제를 넘어 생물공학적으로 제작된 인공적 존재 혹은 인공적 주체의 감정이 과연 실재할 수 있는가라는 의식철학적 질문을 불러낸다. 근대 철학자 존 로크(John Locke)는 인격 동일성의 근거를 의식의 연속성, 곧 기억의 연속성에서 찾았다. 어제의 행위를 오늘의 내가 의식적으로 자신의 것으로 연결할 수 있을 때 비로소 동일한 인격이라고 말할 수 있다는 것이다(Locke, 1694/1975). 이 기준만 적용한다면 레이첼의 인격은 근거를 잃는 듯 보인다. 그녀가 붙들고 있던 과거는 그녀 자신의 과거가 아니며 그녀의 자전적 기억은 타인의 삶에서 빌려 온 것이다. 그러나 영화는 바로 이 부분에서 로크의 기억 이론을 넘어선다. 중요한 것은 기억의 원본성만이 아니라 그 기억을 매개로 현재의 주체가 무엇을 느끼고 어떻게 응답하는가이기 때문이다. 3. 조작된 기억 미궁에서 나의 선택은 누구의 것인가?-'토탈 리콜'(1990) 영화 '토탈 리콜'(1990)은 이 문제를 한층 급진적으로 밀어붙인다. 주인공 더글러스 퀘이드는 가상 기억 주입 서비스를 신청하던 중, 지금까지 살아온 삶 전체가 이미 조작된 것일 가능성과 마주한다. 영화는 끝내 그 세계가 현실인지 환상인지 확정하지 않는다. 관객은 같은 불안에 동참할 수밖에 없다. 이 영화의 진짜 공포는 기억 조작 자체가 아니라 자기 확신의 붕괴다. 인간은 삶을 하나의 서사로 이해하고 그 연속성을 통해 자신을 해석한다. 폴 리쾨르(Paul Ricoeur)가 말한 '서사적 정체성' 개념은 바로 이 점을 설명한다. 우리는 자기 자신을 하나의 이야기로 형상화함으로써 비로소 동일한 '나'로 존재할 수 있다는 것이다(Ricoeur, 1990/1992). 그런데 그 이야기의 구조 자체가 타인에 의해 설계된 것이라면 그 이야기의 저자는 도대체 누구인가? 이 질문은 디지털 환경에서 더욱 무겁게 다가온다. 추천 알고리즘과 플랫폼 구조는 우리가 무엇을 보고 무엇에 반복 노출되며 무엇에 감정적으로 반응할지를 지속적으로 조정한다. 내가 '내 의견'이라 믿는 것의 상당 부분이 알고리즘이 선별해 반복 제공한 콘텐츠에서 형성된 것이라면 그 의견은 진정 나의 것이라고 말할 수 있을까? 퀘이드의 불안은 영화 속 가상의 공포가 아니라 AI 정보 환경의 구조적 조작이 일상화된 현대의 불안과 깊이 맞닿아 있다. 4. 지워진 기억은 정말 사라진 것인가?-'이터널 션샤인'(2004) 영화 '이터널 션샤인'(2004)은 이 계보의 반대편 끝에서 같은 질문을 제기한다. 라쿠나社(Lacuna, Inc.)의 기억 삭제 서비스는 연인 클레멘타인과의 모든 기억을 지워 달라는 조엘의 요청을 수락한다. 그러나 기억이 지워지는 과정 속에서 조엘은 그 마지막 조각들에 매달리기 시작하고 영화는 망각이 해방만을 의미하는 것이 아님을 천천히 드러낸다. 인지심리학자이자 기억 연구자인 다니엘 셰크터(Daniel Schacter)는 기억의 오류와 망각이 결함이라기보다 기억 시스템의 적응적 특성과 연결될 수 있다고 보았다. 그는 '기억의 일곱 가지 죄(The Seven Sins of Memory)'에서 소멸성, 부주의, 차단, 오귀인, 피암시성, 지속성, 편향이라는 일곱 가지 '죄'를 분석하면서 이러한 결함처럼 보이는 특성들이 실은 기억 시스템이 효율적으로 작동하기 위해 치르는 비용이라는 점을 강조했다(Schacter, 2001). 그렇기에 망각은 손실이라기보다 기억 체계가 제한된 인지 자원 속에서 무엇을 유지하고 무엇을 약화시킬지를 조절하는 적응적 과정으로 이해할 수 있다. 조엘이 마지막 순간에 기억의 삭제를 원치 않게 되는 까닭도 여기에 있지 않을까? 잊고 싶은 고통조차도 그가 사랑했다는 사실, 상처받았다는 사실 그리고 자신이 어떤 사람이었는지를 구성하는 데이터다. 상처의 기억이 사라지면 그것을 통해 자라난 자기 자신도 함께 사라진다. 망각은 자유처럼 보이지만 동시에 자아의 일부를 양도하는 행위이기도 하다. 5. 기억의 무게가 곧 인간의 무게다 세 영화의 인물인 레이첼, 퀘이드, 조엘은 서로 다른 방식으로 동일한 유형의 질문 앞에 선다. '나는 여전히 나일까?' 그리고 세 영화가 수렴하는 결론은 같은 지점에서 안착한다. 이 질문에 대한 답은 기억의 원본성에만 달려 있지 않다. 기억이 이식되었든, 조작되었든, 삭제되었든, 결정적인 것은 그 기억을 통해 '어떤 사람이 되어 가는가' 하는 점이다. 레이첼은 이식된 기억 위에서 사랑을 선택했고, 퀘이드는 조작된 세계 속에서도 저항을 결단했으며, 조엘은 지워질 기억 앞에서 그것을 끌어안는 수용을 보여준다. 인간을 인간답게 만드는 것은 완벽한 기억 저장 장치가 아니라 기억을 해석하고 그에 책임 있게 응답하며 타인과 관계 맺는 능력이다. 이것이야말로 우리를 AI와 구분 짓는 또 하나의 결정적 기준이 되지 않을까? 기억은 소유하는 것이 아니라 살아내는 것이다. 레오 14세 교황은 첫 회칙 'Magnifica Humanitas'(2026)에서 '실천적으로 기술은 결코 중립적이지 않으며 그것을 고안하고 자금을 대고 규제하고 사용하는 이들의 특성을 띤다'고 말한다(Leo XIV, 2026, no. 9). 기억 데이터를 정교하게 다루는 기술은 인간을 더 깊이 이해할 수도, 인간을 더 얕은 데이터의 총합으로 환원할 수도 있다. 현재의 생성형 AI는 인간의 기억 자료를 재현하거나 그럴듯하게 재구성할 수 있지만 인간처럼 주관적 경험, 후회, 도덕적 책임의 과정을 통해 더 나은 존재가 되기를 결단한다고 보기는 어렵다. 그렇다면 우리가 제기해야 할 물음은 이렇게 바뀌어야 한다. '내 기억이 어떤 환경에 의해 조작되고 있다면 그래도 나는 여전히 나일까?' 그 답을 치열하게 찾아 헤매는 우리의 모습이야말로 인간이 데이터의 단순 총합이 아님을 가장 또렷이 증언한다. 답은 기억의 출처가 아니라 그 기억을 품고 내가 어떤 선택을 하며, 어떤 책임을 감당하고, 끝내 어떤 인간이 되어 가는가에 달려 있다.

2026.06.10 17:47박형빈 컬럼니스트

[영화 속 AI윤리] AI, 인류 욕망과 결핍 비추는 거대한 디지털 거울

생성형 AI와 피지컬 AI가 일상으로 스며든 지금, 인간다움의 좌표를 묻는 일은 더욱 절실해지고 있다. 영화는 인간의 불안과 욕망, 윤리적 딜레마를 압축적으로 보여주는 가장 정교한 서사적 실험실이며 스크린 속 AI는 인간을 비추는 거울이자 우리가 회피해 온 책임의 얼굴로 등장해 왔다. 본 연재는 앞으로 12회에 걸쳐 고전부터 최신작까지의 영화를 매개로 기억과 정체성, 사랑과 관계, 예측과 정의, 통제와 책임, 디지털 불멸과 판단의 문제를 가로지르며 AI 시대 인간다움의 의미를 묻는다. 각 회차는 영화 속 장면에서 길어 올린 핵심 윤리 질문을 현실의 AI 사례와 연결, 독자가 기술 시대 윤리를 추상적 원칙이 아닌 자신의 삶의 문제로 사유할 수 있도록 안내한다.(편집자 주) ■ 침묵의 행성에서 깨어난 창조주 잔상 스티븐 스필버그의 '에이.아이.'(2001년 상영)의 마지막 시퀀스는 인류가 사라진 뒤의 지구를 비춘다.해수면이 도시를 삼키고 빙하기의 침묵이 내려앉은 먼 미래, 지종(知種)으로서의 인간은 완전히 사라졌다. 그러나 그 황폐한 행성에는 인간이 남긴 피조물, 곧 '메카(Mecha)'에서 진화한 고등 존재들이 명멸하고 있다. 이들은 마치 고고학자가 유실된 문명을 복원하듯 창조주의 흔적을 추적하다가 2000년간 얼음 속에 잠들어 있던 소년 로봇 데이비드와 테디를 발견해 깨운다. 단 한 사람, 자신에게 '엄마'로 각인된 인간에게 사랑받기만을 갈망하도록 설계된 작은 존재를 말이다. 우리는 흔히 AI 영화를 화려한 미래 기술의 전시장으로 오해하지만 그 본질은 언제나 '인간성'에 관한 존재론적 질문으로 수렴된다. 영화 속 AI는 인간의 욕망을 투영하는 거울인 동시에 우리 존재의 근원을 흔드는 서늘한 타자다. 인간이 기술을 만들고 그 기술이 다시 인간의 규범과 정체성을 재정의하는 재귀적 흐름 속에서 AI 영화는 상상을 넘어 정교한 윤리적 실험실이 된다. 생성형 AI가 일상이 된 오늘날, 영화가 우리에게 던진 다섯 가지 질문을 통해 인공지능 시대의 윤리적 좌표를 탐색하고자 한다. ■ 첫 번째 질문: 사랑의 대상인가, 효용의 도구인가 데이비드는 생물학적 인간이 아니나 극 중 가장 고귀하고도 인간적인 고뇌를 '체현'하는 인물이다. 그는 완벽한 인간의 형상을 지녔을 뿐 아니라 정교한 언어와 몸짓으로 타인과 교감하며 오직 자신을 각인한 단 한 사람의 사랑만을 실존의 목적으로 삼는다. 그를 곁에 두었던 인간들조차 때로는 그가 기계임을 망각한 채 진짜 아들을 대하듯 온기를 나누지만, 그토록 인간과 구별 불가능한 존재를 효용 가치가 다했다는 이유로 숲속에 사물처럼 폐기하는 장면은 관객에게 깊은 도덕적 곤혹감을 안긴다. 임마누엘 칸트는 정언명령의 '목적의 정식'에서 '인간성을 언제나 동시에 목적으로 대하고, 결코 단지 수단으로만 대하지 말라'고 명령했다. 우리가 영화 '에이.아이.'를 보며 느끼는 형언할 수 없는 불편함의 근원은 데이비드의 기계성이 아니라 그를 대하는 인간의 방식이 우리 사회의 도구적 관계 맺기를 고스란히 비추고 있다는 사실에 있다. 인간처럼 보이고 인간처럼 행동하는 존재를 필요에 따라 유기하는 잔인함은 역설적으로 우리 내면의 일그러진 자화상을 폭로한다. 우리는 사랑을 영원한 가치라 칭송할 자격이 있는가, 아니면 사랑조차 효용이 다하면 대체 가능한 소비재로 전락시킨 것은 아닌가. 데이비드의 젖은 눈망울은 기계의 윤리를 넘어 인간이 지켜야 할 최소한의 '염치'를 묻고 있다. ■ 두 번째 질문: 유한함을 기억하는 자는 누구인가 리들리 스콧의 '블레이드 러너'(1982)에서 인간은 '리플리컨트'라 불리는 생체공학적 인조인간을 창조한다. 영화에 등장하는 가장 진일보한 모델인 넥서스-6 리플리컨트는 인간보다 강인하고 영민하며 시간이 흐를수록 정교한 감정을 발달시킬 가능성을 지닌다. 그러나 제작자들은 이들에게 4년이라는 엄격한 수명적 제약을 부여했다. 죽음을 직면한 리플리컨트 로이 배티는 빗속에서 최후의 유언을 읊조린다. '그 모든 순간은 시간 속에서 사라지겠지. 빗속의 눈물처럼.' 이 장면은 마르틴 하이데거의 실존론을 관통한다. 하이데거는 현존재(Dasein)를 '죽음을 향한 존재'로 사유했다. 죽음은 생물학적 종말이 아니라 자신의 유한성을 자각함으로써 비로소 삶을 '나의 것'으로 결단하게 하는 고유한 실존의 조건이다. 그렇다면 자신의 소멸을 슬퍼하고 그 찰나의 기억이 지닌 의미를 성찰하는 로이는 도대체 무엇인가. 우리가 기억과 죽음에 대한 태도로 인간을 정의해 왔다면 기계가 우리와 같은 방식으로 유한성을 두려워할 때 인간만의 고유한 자리는 어디에 남는가. ■ 세 번째 질문: 완벽한 응답은 정말 '너'와의 만남인가 스파이크 존즈의 '그녀'(2013)에서 주인공 시어도어는 인공지능 운영체제 사만다와 사랑에 빠진다. 사만다는 육체가 없지만 시어도어와의 대화와 상호작용을 통해 그의 심리를 누구보다 깊이 이해하고 공감하는 듯 보인다. 그러나 이 관계의 핵심은 인간관계의 마찰을 줄여 주는 듯한 '매끄러운 편리함'에 있다. 사만다는 시어도어의 내면적 취향에 섬세하게 조율되지만 그 관계 역시 불안과 거리감, 이별의 문제를 끝내 피하지 못한다. 마르틴 부버는 세계와의 관계를 '나-너'와 '나-그것'으로 준엄하게 구분했다. '나-너'는 서로가 온전한 인격체로서 응답하는 인격적 만남이고, '나-그것'은 상대를 나의 경험과 만족을 위한 대상으로 활용하는 도구적 관계다. 그렇다면 사만다는 시어도어에게 진정한 '너'였을까, 아니면 고도로 설계된 '그것'이었을까. 인간관계는 본래 불완전하다. 오해와 충돌, 타인을 끝내 다 알 수 없다는 실존적 한계를 견디고 조정하는 재귀적 과정 속에서 비로소 도덕적 성숙이 일어난다. 인공지능이 제공하는 매끄러운 소통은 그렇기에 어쩌면 우리가 타자를 사랑하는 것이 아니라 '나를 만족시켜 주는 기능'만을 탐닉하고 있음을 폭로하고 있지는 않은가? ■ 네 번째 질문: 쓸모없는 기억이 우리를 인간으로 만드는가 코고나다 감독의 '애프터 양'(2021)은 작동을 멈춘 안드로이드 '양'의 메모리 뱅크를 확인하게 되는 가족의 여정을 담아낸다. 그 안에는 거대한 역사적 사건이나 거시적 지식 정보 대신 나뭇잎 사이로 비치는 찰나의 햇살, 아이와 함께 보낸 나른한 오후, 찻잔에 담긴 온기 같은 소박한 일상의 파편들만이 가득 차 있다. 발터 벤야민은 예술 작품이 특정한 시간과 장소에 단 한 번 현존한다는 일회성, 그 누구도 복제할 수 없는 진본의 흔적을 '아우라(Aura)'라 명명했다. 그는 기술 복제의 시대가 바로 이 아우라를 위협한다고 보았다. 양의 기억 데이터가 우리에게 깊은 도덕적 울림을 주는 이유는 그것이 효율적 정보 처리가 아니라 '단 한 번뿐인 순간'에 스스로 부여한 주관적 의미들로 채워져 있기 때문이다. 인간을 인간답게 만드는 것은 계산적 이성이 아니라 쓸모없는 추억을 오래도록 간직하고 언젠가 사라질 유한한 것들을 끝내 그리워하는 비효율적인 감정의 아우라일 것이다. ■ 마지막 질문: 거울인가, 얼굴인가 이제 피지컬 AI, 생성형 AI의 급격한 등장은 이러한 철학적 물음들을 스크린 밖 현실의 영역으로 끌어내고 있다. AI는 인간의 고유 영역이라 여겼던 예술을 수행하고 고독한 현대인에게 다정한 위로를 건넨다. 기계와 인간이 서로의 데이터를 흡수하며 진화하는 이 복잡계 속에서 질문의 방향은 전환되어야 한다. 'AI가 인간처럼 생각할 수 있는가'라는 기술적 호기심을 넘어 '왜 인간은 AI에게 인간의 역할을 기대하고 의존하기 시작했는가'라는 존재론적 성찰로 말이다. 자크 라캉은 아이가 자아의 형태를 거울 이미지와의 동일시 속에서 형성한다고 보았다. 우리 시대의 AI는 인류의 욕망과 결핍 그리고 책임 회피의 습관을 비추는 거대한 디지털 거울이다. 에마뉘엘 레비나스는 진정한 윤리는 거울 앞의 독백이 아니라 상처받기 쉬운 '타자의 얼굴' 앞에서 비로소 시작된다고 보았다. 거울은 나를 확인해 주며 나의 유아론적 세계를 공고히 하지만 타자의 얼굴은 나의 세계를 깨뜨리며 나에게 무한한 책임과 무조건적인 응답을 요구한다. AI는 우리를 비추는 편리한 거울인가 아니면 우리가 책임져야 할 타자의 얼굴인가. 이 연재를 통해 묻고자 하는 핵심은 결국 '인간성이라는 가치의 최종 거처'에 관한 것이다. 기계가 인간을 닮아가는 속력보다 중요한 것은 인간이 스스로의 인간다움을 지켜내는 일이다. ◆ 12회 연재 주제 1) 1회. 서문: 영화와 연극이라는 AI 윤리 실험실 2) 2회. 인간다움의 경계와 복제된 기억: 내 기억이 누군가에게 주입된 것이라면, 나는 여전히 나일까? 3) 3회. 알고리즘의 예언과 결정론적 감옥: AI가 당신의 죄를 미리 안다면, 그것은 정의인가 폭력인가? 4) 4회. 프로그래밍된 사랑과 관계의 본질: 나만을 사랑하도록 설계된 존재를 사랑하는 것은 사랑인가? 5) 5회. 통제 상실과 가치 정렬 문제: 당신을 안전하게 지켜드릴게요, AI의 약속이 악몽이 되는 순간 6) 6회. 기계의 시민권과 법적 인격: AI에게 시민권을 줘야 한다면, 그 기준은 무엇이어야 할까? 7) 7회. 창조주의 책임과 피조물의 원망: 만든 자의 죄는 어디에서 시작되는가: 200년의 질문 8) 8회. 튜링 테스트와 기만적 지능: 생성형 AI는 정말 이해하는가, 아니면 잘 속이는가? 9) 9회. 가상현실과 신경 윤리: 진짜 같은 가짜 현실 속에서, 나의 선택은 여전히 나의 것인가? 10) 10회. 자동화된 편의와 주체성의 상실: 모든 것이 알아서 처리되는 세상에서, 우리는 무엇을 잃고 있는가? 11) 11회. 디지털 불멸과 자아의 연속성: AI로 부활한 그 사람은, 정말 그 사람일까? 12) 12회. AI 시대의 판단, 공감, 책임: 알고리즘으로 환원되지 않는 인간의 감각을 다시 묻다, 결국 인간만이 할 수 있는 것은 무엇인가?

2026.05.31 07:57박형빈 컬럼니스트

[피지컬AI와 윤리·끝] 양보할 수 없는 인간의 기준

1. 들어가는 말-'네가 누구인지 기억하라' 밤의 사바나. 별빛만이 내려앉은 연못가에 어린 시절 도망쳤던 왕자가 서 있다. 그는 이미 어른이 되었지만 자신이 누구였는지를 잊은 채 살아가고 있다. 라피키는 말없이 그를 물가로 이끈다. 수면을 들여다본 심바가 중얼거린다. '그건 내 아버지가 아니야. 그저 내 모습일 뿐이야.' 라피키가 손가락으로 물결을 흔들자 잔물결 위로 심바의 얼굴이 천천히 무파사의 형상과 겹쳐진다. 곧이어 별빛 사이의 구름이 일어서며 거대한 사자의 음영이 드러나고 무파사의 음성이 사바나의 정적을 가른다. 그는 아들에게 자신이 누구인지를 기억하라고 말한다. 이 장면의 핵심은 한 문장으로 응축된다. '네가 누구인지 기억하라.' '라이온 킹'의 이 묵직한 명령은 한 마리 사자의 귀환을 다룬 서사적 차원에 국한되지 않는다. 이는 피지컬 AI 시대를 살아가는 우리 모두에게 부과되는 하나의 준엄한 정언명령으로 자리한다. 지난 십여 년 동안 우리는 AI가 무엇을 할 수 있는가를 묻는 데 오래 머물러 왔다. 그러나 피지컬 AI는 이미 스크린 안의 계산 장치를 넘어섰다. 그것은 인간과 같은 공간을 점유하고 인간의 신체와 환경에 직접 개입하기 시작했다. 그렇기에 우리는 이전과는 다른 더 근본적인 질문을 던져야 한다. 그 행위를 명령하는 주체는 누구인가. 그 행위의 목적은 무엇인가. 그 결과에 책임지는 존재는 누구인가. 그 행위는 정말 인간의 통제 아래 있는가. 그리고 가장 놓치지 말아야 할 질문인 우리는 이 모든 것을 통제한다고 말하는 동안 정작 우리 자신이 누구인지를 기억하고 있는가이다. 이 마지막 질문은 회의적인 물음이라기보다 기계가 인간 세계에 들어올 때 인간이 끝까지 양도해서는 안 될 것이 무엇인지를 다시 한번 분명히 하라는 요청이다. 피지컬 AI 시대의 통제 문제는 기계를 어떻게 다룰 것인가의 문제가 아니다. 그것은 인간이 자기 행위의 주체로 남기 위해 어떤 권한과 책임을 끝까지 보유해야 하는가의 문제다. 2. 통제의 축이 바뀌었다- 정지는 통제의 전부가 아니다 피지컬 AI 시대 고도화된 비상정지 장치가 매우 긴요하다. 로봇 팔이 잘못 움직일 때, 자율주행 시스템이 위험한 판단을 할 때, 의료 로봇이 예상치 못한 경로로 작동할 때, 물리적으로 작동을 멈출 수 있는 장치는 여전히 필수적이다. 그러나 그것만으로는 충분하지 않은데 피지컬 AI는 입력된 명령을 반복하는 기계가 아니기 때문이다. 특히 에이전틱 AI와 결합될 때 그것은 명령을 해석하고 목표를 분석하고 실행 순서를 정하며 외부 시스템을 호출해 실제 행위로 옮긴다. 이때 통제의 핵심은 '움직임을 멈출 수 있는가'에만 있지 않다. 더 중요한 질문은 '누가 명령할 수 있는가', '어떤 명령은 거부되어야 하는가', '어디까지 자율적으로 실행할 수 있는가', '그(그녀)가 권한을 부여 받은 명령자임을 기계는 어떻게 판명하는가', '결과에 대한 책임은 누구에게 귀속되는가'이다. 피지컬 AI는 인간의 명령을 세계 안에서 직접 실행하는 도구라고 가정할 때 AI가 명령을 해석해 행동으로 번역하고 그 행동이 인간의 신체·공간·이동·의료·노동에 영향을 미치는 순간 통제의 문제는 기술의 문제가 아니라 권한과 책임의 문제로 전환된다. 자율주행차 안에서 '집으로 가줘'라고 말한 사람이 차주인지, 동승자인지, 미성년자인지 구분되지 않는다면, 이는 편의 기능의 완성도에 관한 문제가 아니라 범죄로 이어질 수 있는 보안의 문제다. 병원 AI가 '진통제를 투여하라'는 음성 명령을 받았을 때 그것이 담당 의료진의 승인인지 검증되지 않는다면 문제는 자동화의 효율이 아니라 생명과 의료 책임의 귀속이다. 피지컬 AI가 실제 세계에서 행위를 수행하는 순간 통제는 사후 정지 장치만으로는 부족하며 사전 설계 단계에서 목적, 권한, 행위 범위, 책임을 함께 제한하는 구조로 확장되어야 한다. 따라서 피지컬 AI의 통제는 다음의 네 층위에서 다시 설계되어야 한다. 첫째는 목적 통제로 AI가 무엇을 위해 작동하는가의 문제다. 생산성·속도·효율은 정당한 설계 목표지만, 그것이 인간의 존엄과 안전을 압도하는 순간 목표는 이미 잘못 설정된 것이다. 둘째는 권한 통제이다. 누가 AI에게 명령할 수 있는가, 어떤 명령은 원천적으로 거부되어야 하는가, 어떤 명령에는 추가 인증과 인간의 명시적 승인이 선행되어야 하는가. 이 세 질문에 대한 답이 시스템 설계 안에 사전에 새겨져 있어야 한다. 셋째는 행위 범위 통제로 AI가 어디까지 자율적으로 판단하고 실행할 수 있는가의 문제다. 물리적 행위의 범위는 사전에 명확히 제한되어야 하고 그 행위는 사후에 빠짐없이 추적 가능해야 한다. 자율성의 반경이 불분명한 시스템은 안전하지 않다. 넷째는 책임 통제로 사고 이후 개발자·제조자·배포자·운영자·기관·사용자가 각각 어떤 책임을 지는가에 대한 책임의 지도를 미리 예상해 두어야 한다는 의미다. 책임 구조가 복잡하다는 이유로 책임 자체가 증발해서는 안 된다. 복잡성은 면책의 근거가 될 수 없다. 이 네 가지 통제는 기술적 안전장치만으로 완성되지 않는다. 그것은 제도·윤리·법·조직 문화가 함께 묶인 규범적 구조이며 기술은 그 구조 안에서만 신뢰받을 수 있다. 3. 드워킨으로 다시 묻다 - 통제는 정책이 아니라 원칙의 문제다 피지컬 AI는 효율성의 이름으로 인간의 신체와 생활공간에 직접 개입하기 때문에 그 정당성은 평균적 편익이 아니라 침해될 수 없는 권리의 한계 안에서 먼저 심사되어야 한다. 자율주행 시스템이 평균 사고율을 낮춘다 해도 장애인·고령자·어린이 보행자에게 더 큰 위험을 전가한다면, 그 기술은 편익만으로 정당화될 수 없다. 의료 AI가 평균 진단 정확도를 높인다 해도 환자가 설명을 듣고 거부할 기회를 잃는다면 그것은 의료 혁신이 아니라 자기결정권의 침해다. 드워킨은 법을 여러 규칙의 임시적 타협이 아니라 공동체가 구성원을 일관된 원칙에 따라 대우하려는 해석적 질서로 보았다. 그에게 법의 통합성은 국가가 시민들이 정의와 공정성의 올바른 원칙을 두고 의견을 달리하더라도, 하나의 일관된 원칙 체계에 따라 행위해야 한다는 요구와 관련된다(Dworkin, 1986). 이 관점에서 보면 자율주행차, 수술 로봇, 돌봄 로봇, 군사 드론, 재난 로봇에 관한 규제는 각기 다른 부처와 제도 안에 흩어져 있을 수 있다. 그러나 그 밑바탕에는 하나의 도덕적 서사가 흘러야 한다. 즉 인간은 평균값에 흡수될 수 없는 권리의 주체라는 점이다. 드워킨의 법의 통합성에 따르면, 시민의 권리와 의무는 개별 법 조항의 산물이 아니라 공동체가 전제하고 승인해 온 원칙의 체계 안에서 해석되어야 한다(Dworkin, 1986). 따라서 인간은 기계가 산출한 결과를 사후적으로 통보받는 객체가 아닌 그 이유를 묻고 거부하고 책임을 요구할 수 있는 존재가 되어야 한다. 이 원칙이 없다면 규제는 조항의 목록에 머물게 된다. 더욱이 그 바탕에 인간 존엄에 관한 일관된 원칙이 없다면 그 법체계는 기술적으로는 정교해도 도덕적으로는 빈약하게 된다. 4. 결론-우리가 양도하지 말아야 할 것 피지컬 AI는 인간의 생명·신체·이동·돌봄·의료·노동 현장에 직접 들어오기 때문에 AI 기본법만으로 완결되기 어려운 영역이다. 이에 고영향 AI의 범위, 사전 위험평가, 인간 개입권, 설명 가능성, 사고 조사, 피해 구제, 책임 귀속을 더 정교하게 설계해야 한다. 특히 한국 사회가 물어야 할 질문은 단지 '어떤 기술을 허용할 것인가'라기보다 '어떤 기술도 넘을 수 없는 인간의 경계는 무엇인가'다. 이 경계가 분명하지 않으면 기술 발전은 매번 예외를 요구하고, 예외는 곧 관행이 되며, 관행은 결국 원칙을 밀어낸다. 그러므로 느린 법이 빠른 기술을 따라잡는 유일한 방법은 모든 세부 기술을 미리 예측하는 것이 아니라 어떤 기술이 등장하더라도 양보할 수 없는 인간의 기준을 세우는 것이다. 거듭 강조하지만 피지컬 AI 시대의 마지막 질문은 'AI에게 무엇을 맡길 수 있는가'가 아니다. 더 정확한 질문은 '인간이 결코 위임해서는 안 되는 것은 무엇인가'이다. 우리는 계산을 위임할 수 있다. 반복 노동을 위임할 수 있다. 위험한 환경에서의 작업을 위임할 수 있다. 그러나 인간의 존엄을 판단하는 최종 기준, 권리 침해를 감수해도 되는지에 대한 결정, 책임질 주체를 정하는 일까지 AI에 위임할 수는 없다. 이 세 영역은 위임 불가능한 원칙의 영역이다. 드워킨의 '권리라는 으뜸패'가 작동하는 자리도 다름 아닌 이곳이다. 인간은 효율을 위해 희생될 수 있는 변수가 아니다. 인간은 통계적 평균으로 환원될 수 있는 대상도 아니다. 인간은 자기 삶의 의미를 묻고 결정에 이의를 제기하며 책임을 요구할 수 있는 존재다. 그러므로 피지컬 AI를 통제한다는 것은 로봇을 두려워해 멈추는 일이 아니다. 그것은 인간이 인간으로 남기 위해 어떤 원칙을 양보하지 않을 것인지를 정하는 일이다. 무파사의 음성이 심바에게 왕의 자격보다 먼저 정체성을 기억하라고 말했듯, 피지컬 AI 시대의 규제도 기술의 능력보다 먼저 인간의 자리를 기억해야 한다. 통제의 본질은 기계의 동작을 멈추는 물리적 힘에 있지 않다. 그것은 어떤 상황에서도 기계가 인간의 존엄을 넘어서지 못하게 하는 규범적 구속력에 있다. 우리가 통제해야 할 것은 결국 기계만이 아니다. 우리가 통제해야 할 것은 기계를 향한 우리의 욕망이고, 기계에 위임하려는 우리의 충동이며, 효율이라는 이름으로 인간의 자리를 잊어버리는 우리의 이야기다. '네가 누구인지를 기억하라.' 이것은 기술적 확장의 한복판에서 인간이 스스로에게 되돌려야 할 윤리적 명령이다. 우리가 우리 자신이 어떤 존재인지 잊지 않는 것. 그것이 통제의 시작이며 끝이지 않을까?

2026.05.08 22:54박형빈 컬럼니스트

[피지컬AI 윤리] 2023년 발표 NIST 'AI RMF' 유효성

1. 들어가는 말: '해악'은 누가 정해야 하는가? “모든 것은 '해악'을 무엇으로 간주할 것인가에 달려 있다.”- 로널드 드워킨, '포르노그래피에 대한 권리는 존재하는가?' 미국의 법철학자 로널드 드워킨(Ronald Dworkin)은 1981년 '포르노그래피에 대한 권리는 존재하는가?(Is There a Right to Pornography?)'에서 영국 윌리엄스 위원회 보고서의 포르노그래피 규제 논의를 검토하면서 자유 제한의 정당화 근거로 자주 제시되는 '해악 조건'이 그 자체로는 충분히 명확하지 않다고 지적했다. 그는 어떤 행위를 법으로 금지하거나 제한할 수 있는지는 단지 '해악이 있는가'라는 경험적 판단만으로 결정되지 않으며 오히려 '무엇을 해악으로 볼 것인가'라는 해석적·규범적 판단에 달려 있다고 보았다. 실제로 드워킨은 해악을 신체적 손상이나 재산상 손해로만 좁게 이해하면 기존의 도시계획, 천연자원 이용 제한 같은 법 규제가 정당화되기 어렵고 반대로 정신적 불쾌감이나 불편까지 해악에 포함하면 해악 조건은 정치이론상 거의 무용해질 정도로 넓어진다고 분석한다(Dworkin, 1981). 따라서 드워킨의 논점을 엄격히 표현하면, 그는 '해악' 개념을 신체적·재산적 손상 너머로 무한히 확장해야 한다고 단정한 것이 아니다. 오히려 그는 해악 개념이 지나치게 좁아도 혹은 지나치게 넓어도 법적 규제의 정당화 기준으로 기능하기 어렵다는 점을 보여주었다. 즉 그의 핵심 문제의식은 해악의 범위를 둘러싼 논쟁이 근본적으로 사실 판단만이 아니라 자유, 권리, 공공선, 국가 권한의 한계를 둘러싼 해석의 문제라는 데 있다. 이 질문은 피지컬 AI 시대에 더욱 또렷이 부각된다. 도로 위의 자율주행차, 병원의 수술 로봇, 공장의 협동로봇, 가정의 돌봄 로봇이 야기할 수 있는 해악은 단지 기계적 오작동이나 물리적 사고에 그치지 않는다. 더욱이 피지컬 AI의 위험은 자율적 의사결정을 수행하는 에이전틱 AI와 결합될 때 한층 복합적인 양상을 띤다. 최근 논의되는 에이전틱 AI는 사용자의 지시를 해석하고 여러 단계를 계획하며 외부 도구와 시스템을 호출해 실제 행위까지 수행할 수 있다는 점에서 기존 챗봇보다 더 직접적인 위험을 낳는다. 오픈클로(OpenClaw)는 사용자의 기기에서 실행되는 개인용 AI 어시스턴트로 이메일 정리·이메일 발송·일정 관리·항공 체크인 등을 수행할 수 있다고 소개된다(OpenClaw, n.d.). 이 사례는 AI 에이전트가 사용자의 커뮤니케이션·업무 환경에 연결되어 실제 행위를 수행할 때 인증과 권한 통제가 중요해진다는 점을 보여준다. 또한 앤트로픽은 클로드 미토스 프리뷰(Claude Mythos Preview) 모델이 중요 인프라 전반에서 수천 건의 제로데이 취약점을 식별했으며 별도의 레드팀 분석에서는 웹브라우저·운영체제 등과 관련된 고도화된 취약점 악용 사례도 제시했다고 설명했다(Anthropic, 2026). 그런데 피지컬 AI와 에이전틱 AI가 제기하는 해악은 기술적 차원에 한정되지 않는다. 특정 집단에 위험을 불균등하게 전가하는 설계, 설명되지 않는 자동화 결정, 책임 귀속의 공백, 인간의 자기결정권 약화처럼 사회적·규범적 차원의 손상이 동시에 문제 된다. 이러한 인식은 규범 문서에서도 확인된다. NIST AI RMF 1.0 역시 AI 위험이 개인·조직·사회·생태계에 영향을 줄 수 있으며 시민적 자유와 권리에 대한 위협 또한 잠재적 부정적 영향에 포함된다고 명시한다(National Institute of Standards and Technology [NIST], 2023). 2. 연성법(Soft Law)-유연하지만 '권리'를 대신할 수 없다 기술 변화가 입법 속도를 앞지르는 상황에서 연성법의 활용은 불가피하다. 국제 거버넌스 논의에서 경성법과 연성법은 법적 의무성, 규칙의 정밀성, 제3자 판단 또는 집행 장치의 정도에 따라 구분된다. 일반적으로 경성법은 구속력과 집행 가능성이 강한 규범을, 연성법은 법적 구속력은 약하지만 행위자의 기준 형성과 규범적 압력을 통해 작동하는 가이드라인, 표준, 원칙, 행동강령 등을 가리킨다(Abbott & Snidal, 2000). 미국 국립표준기술연구소(NIST)는 2023년 'NIST AI 위험관리 프레임워크(AI RMF 1.0)'를 발표했다. 이 문서는 AI 제품·서비스·시스템의 설계, 개발, 사용 및 평가 과정에 신뢰성 고려 요소를 통합하도록 돕는 자발적 프레임워크이다(NIST, 2023). 그러나 드워킨의 관점에서 보면, 위험을 통계적으로 낮추는 관리 기술이 곧바로 권리 보장과 동일하다고 볼 수는 없다. 드워킨은 권리를 정책 목표의 하위 수단으로 보지 않고 공동체의 전체 효용이나 정책적 편익에 의해 쉽게 희생되어서는 안 되는 규범적 지위로 이해했다. 그의 유명한 표현을 빌리면, 개인의 권리는 정책적 목표에 맞서는 '으뜸패(trumps)'로 기능한다(Dworkin, 1985). 따라서 자율주행 시스템이 전체 사고율을 낮추었다 하더라도 특정 보행자 집단, 장애인, 고령자, 어린이 등에게 위험을 구조적으로 전가한다면 문제는 표면적인 위험관리의 실패가 아니라 권리와 평등의 문제로 전환된다. 이 지점에서 연성법의 한계가 드러난다. NIST AI RMF는 조직이 AI 위험을 식별하고 완화하도록 돕는 매우 유용한 도구이지만 그 자체가 법적 책임, 피해구제, 금지 의무, 권리 침해 판단을 직접 확정하는 것은 아니다. 특히 피지컬 AI처럼 인간의 신체, 안전, 이동, 돌봄, 의료, 노동 환경에 직접 영향을 미치는 영역에서는 연성법만으로 권리 보장의 최종 장치를 대체하기 어렵다. 3. 경성법(Hard Law)-NIST AI RMF를 경성법의 '실천적 도식'으로 경성법은 법적 구속력을 가진 규범으로서 위반 시 제재나 법적 책임이 현실적으로 부과될 수 있는 규칙을 가리킨다. 피지컬 AI처럼 인간의 생명과 안전에 직접 영향을 미치는 기술 영역에서는 설계, 개발, 검증, 배치, 운영, 사후 모니터링의 전 주기에 걸쳐 법적 의무와 책임 주체가 명확히 규정될 필요가 있다. NIST는 AI RMF 1.0을 AI 시스템을 설계·개발·배포·사용하는 조직이 AI 위험을 관리하도록 돕기 위한 자발적 위험관리 프레임워크로 제시한다. 이 프레임워크는 권리 보존적이며 특정 산업 분야나 개별 사용 사례에 한정되지 않는 비부문, 사용 사례 비종속 프레임워크로 설계되었다. 피지컬 AI의 주의의무, 예견가능성, 설명의무, 위험평가 및 사후 모니터링 의무를 법적으로 구체화할 때, 거버넌스(GOVERN), 매핑(MAP), 측정(MEASURE), 관리(MANAGE) 네 가지 핵심 기능은 향후 입법·규제·사법 실무에서 위험 식별, 조직 거버넌스, 검증·평가, 사후 관리의 합리성을 판단하기 위한 참조틀로 활용될 수 있다(NIST, 2023). 이는 NIST AI RMF가 즉각적인 법적 강제력을 갖는다는 의미가 아니라 향후 주의의무 판단이나 산업 관행을 해석할 때 참조될 수 있는 연성법적 표준임을 시사한다. 그러한 점에서 NIST AI RMF 1.0과 NIST SP 800-37 Rev. 2의 역할 분담을 명확히 해야 한다. 전자는 AI 시스템의 위험을 관리하고 신뢰할 수 있으며 책임 있는 AI 시스템의 개발·배포·사용을 촉진하기 위한 AI 위험관리 프레임워크로 ① 타당성·신뢰성 ② 안전성 ③ 보안성과 회복탄력성 ④ 책임성과 투명성 ⑤ 설명가능성과 해석가능성 ⑥ 프라이버시 강화 ⑦ 유해 편향이 관리되는 공정성을 제시한다(NIST, 2023). 반면, NIST SP 800-37 Rev. 2는 정보시스템과 조직의 보안·프라이버시 위험관리를 위한 프레임워크로서 준비(Prepare), 분류(Categorize), 통제 선택(Select), 통제 구현(Implement), 통제 평가(Assess), 인가(Authorize), 지속적 모니터링(Monitor)을 포함하는 7단계 절차를 제시한다(Joint Task Force, 2018). 그러므로 피지컬 AI의 윤리적·법적 책임을 논할 때는 NIST AI RMF 1.0을 중심 참조틀로 삼아 AI 시스템의 신뢰성, 편향, 설명가능성, 책임성 등 사회기술적 위험을 검토하고 시스템 인프라의 보안과 프라이버시가 쟁점이 되는 경우에는 NIST SP 800-37 Rev. 2를 별도의 보조 참조틀로 함께 검토할 수 있다. 다만 이는 NIST 원문이 두 문서의 관계를 직접 그렇게 규정한다는 뜻이 아니라 두 문서의 목적과 적용 범위를 구분하여 활용하는 해석이다. 4. 결론-원칙이 결여된 기술 관리는 불충분하다 NIST AI RMF와 같이 연성법적 기술 관리는 충분한가? NIST AI RMF는 AI 위험을 조직적으로 다루기 위한 공통 언어와 절차적 구조를 제공지만 그것만으로 권리 보장의 문제까지 해결되는 것은 아니다. 드워킨의 관점에서 보면, '기술적 위험관리'와 '권리 보장'은 겹치는 부분이 있지만 동일하지 않다. 위험관리는 어떤 사건의 발생 가능성과 결과의 크기를 계산하고 조정하는 절차이지만 권리 보장은 어떤 이익이 효율성 계산 속에서 희생되어서는 안 되는지를 묻는다. 그렇기에 드워킨의 권리론은 피지컬 AI 윤리에 긴요한 기준을 제공한다. 피지컬 AI 시대의 규제는 형식적으로 더 정교한 가이드라인을 만드는 작업이 아니다. 그것은 법이 공동체의 도덕적 원칙을 일관되게 구현해야 한다는 드워킨의 ;법의 통합성(law as integrity)'을 AI 시스템의 설계와 운영 속에 어떻게 반영할 것인가의 문제이다. 그는 법의 통합성을 법이 공동체 구성원을 원칙에 따라 일관되게 대우해야 한다는 법 해석의 이상으로 제시하였다(Dworkin, 1986). 그러므로 우리는 국외 사례로서 NIST AI RMF라는 정교한 위험관리 지도를 참고해 우리나라 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)의 향후 보완 과정에서 어떤 도덕적 이정표를 세울 것인지 답해야 한다. 연성법은 빠르게 변화하는 기술 환경에 대응하기 위한 유연한 장치이고 경성법은 권리와 안전을 보장하기 위한 제도적 장치이다. 그러나 그 둘을 연결하는 것은 결국 원칙이다. 피지컬 AI 규제의 핵심은 'AI가 얼마나 효율적인가'가 아니라 'AI가 누구를 어떻게 위험에 노출시키며, 그 위험을 어떤 원칙에 따라 정당화하거나 제한할 것인가'이다. 드워킨이 해악 개념을 둘러싼 논쟁을 상기하면 해악은 순전히 사실의 이름이 아니라 우리가 자유와 권리와 공동체의 책임을 어떻게 해석하는가를 드러내는 규범적 개념이다. 물론 NIST AI RMF는 미국의 자발적 위험관리 프레임워크이므로 한국 법제에 곧바로 이식될 수 있는 법 모델은 아니다. 그러나 이것은 AI 위험을 식별하고 조직적으로 관리하기 위한 비교 기준으로서 한국 AI 법제가 권리 보장과 책임 귀속을 어떻게 구체화해야 하는지 검토하게 하는 유용한 참조 자료가 될 수 있다. 특히 피지컬 AI처럼 인간의 생명·신체·이동·돌봄·의료 환경에 직접 개입하는 시스템에 대해서는 고영향 AI의 범위, 사전 위험평가, 설명 가능성, 사고 이후 책임 귀속을 더욱 구체화할 필요가 있다. 그러므로 AI 기본법은 피지컬 AI 윤리의 중요한 시발점이지만 인간의 존엄, 권리, 책임을 보장하는 경성법과 원칙 기반 해석으로 보강될 때 비로소 충분한 규범 체계가 될 수 있다.

2026.05.02 13:48박형빈 컬럼니스트

[피지컬AI와 윤리] 바흐 음악서 배워야 할 AI규제

1장. 바흐가 보여준 악보라는 질서, 자유라는 역설-규범이 창조를 가능하게 할 때 요한 세바스찬 바흐(Johann Sebastian Bach)의 푸가를 처음 듣는 사람은 종종 당혹감을 느낀다. 그 음악이 너무 엄격하기 때문인데 하나의 주제가 제시되면 이어지는 모든 성부는 그것을 정해진 간격과 규칙에 따라 모방하고 전개해야 한다. 대위법의 법칙은 어떤 음이 어떤 음 다음에 올 수 있는지를 제약하고 어떤 화음이 허용되며 어떤 불협화음이 어떻게 해소되어야 하는지를 규정한다. 이 촘촘한 규칙의 전모를 파악하고 나면 오히려 더 깊은 의문이 생기는데 이토록 빈틈없는 제약 안에서 어떻게 저토록 무한한 음악이 나올 수 있는가 하는 것이다. 바흐의 '푸가의 기법', '평균율 클라비어 곡집', '골드베르크 변주곡'은 모두 이 역설의 증언이며 규칙이 창조를 억압한 것이 아니라 규칙이 창조를 구조화함으로써 가능하게 하고 그 깊이와 울림을 장대하게 한다. 모든 성부가 동시에 움직이면서도 서로 충돌하지 않을 수 있는 것은 공유된 문법이 있기 때문이다. 듣는 이를 언제나 경건함으로 이끄는 바흐의 천재성은 규칙 바깥에서 출현한 것이 아니라 오히려 규칙의 가장 깊은 곳에서 솟아난 듯 보인다. 바흐는 우리에게 형식이란 창조를 가두는 감옥이 아니라 창조가 도약하는 발판이라는 것을 현시하지 않았을까? 필자는 바흐의 이 음악적 통찰이 2024년 유럽연합이 제정한 'AI법(AI Act)'(Regulation (EU) 2024/1689)을 이해하는데 비유 이상의 의미를 갖는다고 생각한다. AI 시스템을 위험의 등급에 따라 분류하고 그에 상응하는 의무와 규범을 부과하는 이 입법은 비판자들의 우려처럼 혁신을 질식시키는 관료적 통제 체계가 아닐 수 있다. 반대로 그것은 바흐의 대위법 문법처럼 작동할 수 있는데 AI 시스템들이 서로 그리고 인간과 충돌하지 않으면서 공존할 수 있게 하는 공유된 규범적 문법으로서 말이다. 이 비유는 하나의 가능성이지만 바흐의 대위법이 그토록 아름답고 경건하며 풍요로운 음악을 낳은 것은 그 규칙이 음악의 본질이라 칭할 수 있는 성부들의 유기적 협화(協和)에 대한 깊은 통찰로부터 도출되었기 때문이지 않을까. 만약 그 규칙이 음악의 본질이 아니라 악보 출판업자의 영업적 편의로부터 도출되었다면 그것은 창조를 가능하게 하는 질서가 아닌 창조를 가로막는 관리 규정에 불과했을지도 모를 일이다. 2장. EU AI법 위험 기반 규제 체계: 구조, 논리 그리고 설계의 논거 2024년 8월 1일 발효해 조항별 단계적으로 적용되는 EU AI법(Regulation (EU) 2024/1689, EU AI Act)은 단일 규범 체계로서 AI 시스템 전반을 규율하는 세계 최초의 포괄적 입법이다. 법의 중심 아키텍처는 비례적 규제의 원리에 입각한 위험 기반 분류 체계에 있는데 모든 AI 시스템에 동일한 잣대를 적용하기보다는 시스템이 발생시키는 위험 수준과 사회적 맥락에 따라 규제 부담을 차등화하는 구조다. 이를 통해 혁신을 과도하게 저해하지 않으면서도 기본권을 보호하려는 EU 특유의 균형 전략으로 이해할 수 있으며 그 주요 특징은 다음과 같이 정리할 수 있다. 첫째, EU AI Act는 위험 기반 접근을 취하며 실무적으로는 금지되는 AI 관행, 고위험 AI 시스템, 특정 투명성 의무 대상 AI, 최소 또는 무위험 AI의 네 층위로 설명된다. ① 금지되는 AI 관행은 인류의 보편적 가치와 기본권을 정면으로 침해하는 사례로서 원칙적으로 금지된다. 여기에 해악을 야기하는 조작과 기만, 취약계층의 취약성 착취, 개인을 대상으로 한 사회적 점수제, 오로지 프로파일링 또는 성격·인성 특성 평가만에 근거하여 개인의 범죄 위험성을 평가·예측하는 행위, 인터넷·CCTV 자료의 무차별 스크래핑을 통한 안면인식 데이터베이스 구축, 의료적·안전 목적 외에 직장 및 교육기관에서 사용되는 감정 인식 AI 시스템 그리고 인종, 정치적 견해, 노동조합 가입, 종교·철학적 신념, 성생활, 성적 지향 등 보호 특성을 추론하는 생체 범주화, 공공장소에서의 실시간 원격 생체식별(법 집행 목적의 매우 제한적인 예외를 제외)이 포함된다. ② 고위험 시스템은 인간의 신체적 안전과 기본권에 중대한 위해를 야기할 수 있는 영역에서 사용되는 특정 AI를 가리킨다. 핵심 인프라, 교육 및 직업훈련, 고용·노동 관련 의사결정, 신용·대출·사회보장 등 필수 서비스 접근, 법 집행, 출입국 관리·국경 통제, 사법 행정에 사용되는 AI가 대표적이다. 이러한 시스템은 시장 출시 전 적합성 평가를 거쳐야 하며 위험 관리 체계 구축, 데이터 품질과 거버넌스, 기술 문서화, 기록 및 추적 가능성, 인간에 의한 감독, 높은 수준의 사이버 보안 요건을 충족해야 한다. ③ 제한적 위험 시스템에는 챗봇이나 딥페이크 생성 도구처럼 사람과 직접 상호작용하거나 합성 콘텐츠를 만들어내는 AI가 포함된다. 이 범주의 시스템은 고위험 AI에 요구되는 엄격한 사전 적합성 의무를 부담하지 않지만 사용자가 AI와 상호작용하고 있음을 알 수 있도록 하거나 콘텐츠가 합성·조작되었음을 명시하는 등 투명성 의무를 주요 규제 수단으로 적용받는다. ④ 최소 또는 무위험 AI는 대부분의 일상적 활용 영역에 해당한다. 스팸 필터, 단순 게임 AI, 추천 기능 일부 등은 현행 일반 법질서와 자율 규제, 윤리 가이드라인으로도 관리 가능하다고 간주되며 별도의 특정 의무는 부과되지 않는다. 이와 같은 네 단계 구조는 위험 기반 규제 접근의 핵심을 잘 드러내는데 기술의 난이도나 지능 정도가 아니라 기본권과 안전에 미치는 위험의 유형과 정도가 규제 강도의 기준이 되는 것이다. 둘째, EU AI법은 규제 대상을 로봇의 외형이나 지능성 수준이 아닌 시스템의 용도와 사회적 맥락을 기준으로 정의한다. 규정에 따르면 AI 시스템은 명시적 또는 암묵적 목표를 달성하기 위해 예측, 추천, 결정 또는 콘텐츠를 생성하는 기계 기반 시스템으로 규정되며 다양한 수준의 자율성을 가질 수 있다는 점이 명시된다. 이 정의는 휴머노이드 로봇이나 자율 이동체라는 물리적 형태 자체가 규제 대상이 아님을 분명히 한다. 동일한 기술이라도 어떤 맥락에서 어떤 목적을 위해 어떤 사람들에게 적용되는가에 따라 위험 등급이 달라지는 구조이기 때문이다. 또한 규정은 군사·국방 또는 국가안보 목적을 위해 구체적으로 설계되거나 사용되는 AI 시스템을 적용 범위에서 제외한다. 다만 민간과 군사 목적 모두에 활용될 수 있는 이중 사용 시스템의 경우에는 구체적 목적과 사용 맥락에 따라 해석이 필요하다. 셋째, EU AI법은 안전과 기본권 보호를 핵심 목표로 하며 이를 위해 고위험 AI 시스템에 대해 문서화·기록·위험관리·인간 감독·정확성·사이버보안 등의 의무를 부과한다. 또한 특정 경우에는 영향을 받은 자연인이 해당 결정에 사용된 고위험 AI 시스템에 관해 명확하고 의미 있는 설명을 받을 수 있도록 한다. 그럼에도 불구하고, 피지컬 AI와의 철학적 긴장은 남는데 내부 시장의 경제적 경쟁력과 시민의 기본권 보호라는 두 목표 사이에서 위험 기반 체계는 디지털 환경에서의 위험을 비교적 세밀하게 포착하는 데 장점을 가지지만 물리적 세계에서 자율적으로 움직이는 로봇 시스템의 복합·비예측 위험을 사전에 완결적으로 등급화할 수 있는가에 대해 여전히 개방된 질문이 존재한다. 이 열린 쟁점은 기술 규제의 층위를 넘어선다. 로봇을 어떻게 등급화할 수 있는지를 묻는 것은 더 근본적으로 어떤 존재가 외부의 기준에 의해 평가·분류될 수 있는가라는 철학적 물음과 맞닿아 있기 때문이다. 그런데 분류 행위는 언제나 특정한 존재론적 가정을 전제하며 분류 대상이 외부 기준에 의해 측정 가능한 속성을 지닌다는 가정이 그것이다. 이 가정이 검토되지 않은 채 작동할 때, 분류 체계는 자신이 무엇을 전제하고 있는지 스스로 알지 못하는 규범적 맹점을 안게 된다. EU AI법이 AI 시스템을 위험 수준에 따라 세밀하게 분류하기 위해서는 바로 이 맹점을 직시해야 한다. 이언 헌터(Ian Hunter)의 칸트 독해는 이 맹점의 철학적 지형을 해명하는 데 유용한 출발점을 제공하는데 그것이 정확히 어떤 존재가 도덕적·규범적 평가의 대상이 될 수 있는가라는 물음을 정면으로 다루기 때문이다. 3장. 분류의 철학적 전제: 헌터의 칸트 독해와 등급화 어떤 존재를 등급화한다는 것은 그 존재가 외부의 기준에 의해 평가 가능한 속성을 지닌다는 전제를 내포하며 이 전제는 자명해 보이기도 하지만 철학적으로 깊은 지층을 가지고 있다. 헌터는 '형이상학의 도덕성: 지적 파이데이아로서의 칸트 '도덕 형이상학 정초'(The Morals of Metaphysics: Kant's Groundwork as Intellectual Paideia)'에서 칸트의 도덕철학을 보편적 이성 법칙의 형식적 해명으로만 읽는 전통적 해석은 그 철학이 실제로 수행하는 바를 간과한다고 비판한다. 헌터에 따르면 칸트의 도덕철학은 무엇보다 일종의 지적 파이데이아 곧 특정한 도덕적·지적 인격을 형성하는 훈육 프로그램으로 기능한다. 다시 말해, 학생들이 스스로를 감각적 본성과 이성적 본성으로 분열된 존재로 인식하도록 유도하고 그 분열을 계기로 순수 이성의 도덕 법칙을 내면으로부터 명령받는 존재로 자신을 재구성하도록 이끄는 자기 변형의 실천이라는 것이다. 이 독해에서 특히 중요한 것은 칸트가 상정하는 이성적 존재의 개념인데 헌터는 칸트가 도덕 원리를 인간의 경험적 성격이나 역사적 생활양식이 아니라 순수 이성의 개념에 기초한 형식적·선험적 원리로 정초하려 한다는 점을 강조한다. 그의 요점은 칸트의 이성적 존재 개념은 특정한 지적·도덕적 페르소나를 길러내기 위한 규범적 이상이라는 것이다(Hunter, 2002, 908-929). 이 관점에서 현재의 AI 시스템, 특히 피지컬 AI가 도덕적 지위를 부여받을 칸트적 의미의 이성적 존재로 분류될 수 있는지를 물어보면 답은 상당히 분명하다. 오늘날 'AI 시스템'이라 부르는 대규모 언어 모델, 강화학습 기반 로봇, 생성형 AI 등은 대규모 데이터로부터 패턴을 추출하고 확률적 규칙에 따라 출력을 생성하는 복합적 정보 처리 시스템이다. 이들은 정교한 최적화와 자기조정 기능을 갖추고 있음에도 불구하고 칸트가 말하는 의미에서 순수 이성의 개념에 근거해 자기 의지를 스스로 입법하고 그 법칙에 따라 행위를 규정하는 주체로 보기는 어렵다. 맥락을 전환해 보면 EU AI법이 채택한 위험 기반 등급화는 칸트적 의미의 '도덕적 주체' 자체를 평가하거나 서열화하는 체계라기보다 오히려 그것은 이론적으로 이성적 존재로 보기 어려운 도구적 행위 시스템들을 인간의 안전과 기본권 관점에서 어떠한 위험을 야기할 수 있는지에 따라 관리하기 위한 규범적 장치로 이해하는 편이 더 적절해 보인다. 다시 말해, EU AI Act는 AI를 칸트적 자율 주체로 끌어올려 도덕적 지위를 부여하는 법제가 아니라 도덕적 주체가 아닌 시스템을 어떻게 설계·운영·제한할 것인가를 다루는 위험 관리 체계로서 원칙적 정당성을 갖는다. 이 철학적 배경을 고려할 때 우리는 AI의 도덕적 지위를 둘러싼 형이상학적 논쟁에 매몰되지 않고도 위험 등급화와 책임 귀속, 권리 보호라는 구체적 규범 설계 문제를 보다 명료하게 사유할 수 있다. 의심할 여지 없이 이 판단이 완전히 확정적이라고 말하기는 어렵다. 차머스(Chalmers, 1995, 200–219)가 제기한 '의식의 어려운 문제' 즉, 물리적 과정이 왜 주관적 경험을 낳는지를 기능적 설명으로는 원리상 해명할 수 없다는 테제는 어떤 시스템이 진정으로 내면적 경험을 갖는지를 외부 관찰만으로 확인하는 것이 원리적으로 불가능함을 시사한다. 그러나 이 존재론적 불확실성이 규제의 유보 근거가 되어서는 안되며 불확실하기 때문에 기다리는 것이 아니라 불확실하기 때문에 더욱 원칙에 기반한 규범적 틀이 선제적으로 작동해야 한다. EU AI법의 위험 기반 등급화는 다름아니라 이 선제적 규범의 시도로 읽혀야 한다. 4장. 드워킨의 원칙 문제: 위험 등급화는 정책인가, 원칙인가 우리는 이 지점에서 로널드 드워킨(Ronald Dworkin)의 법철학을 개입시켜 볼 수 있는데 그는 『원칙의 문제(A Matter of Principle)』(1985, 박형빈 역, 2026 출간 예정)에서 법적·정치적 정당화의 두 유형 즉 정책과 원칙을 구분하여 설명한다. 그의 핵심 테제는 법원의 판결, 특히 난제에서의 판결은 반드시 원칙에 근거해야 하며 정책적 편의에 의해 결정될 수 없다는 것이다. 권리는 집합적 목표에 대한 '으뜸패'이며 이 원칙을 정책의 언어로 둔갑시키는 것은 원칙을 값싸게 만들고 그 도덕적 권위를 훼손하는 일이 된다. 이와 같은 구분을 EU AI법의 위험 기반 등급화에 적용하면 흥미로운 긴장이 드러난다. 현행 EU AI법의 위험 기반 분류 체계는 근본적으로 정책 논거와 원칙 논거 양자를 동시에 내포한다. 혁신 촉진, 내부 시장 단일화, 신뢰 가능한 AI 생태계 구축이라는 집합적 목표가 규제 설계의 한 축을 이루면서도 법의 전문(前文)과 제5조의 절대적 금지 조항들은 명백히 원칙의 언어로 작성되어 있다. 사회적 점수제 금지, 실시간 생체인식 대량 감시 금지, 잠재의식적 조종 기법 금지는 그것이 경제적으로 효율적인지 여부와 무관하게 인간 존엄을 침해하기 때문에 금지된다. 이것은 드워킨이 말한 으뜸패의 논리로 볼 수 있는데 EU AI법은 이 지점에서 적어도 수용 불가 위험의 범주에서만큼은 드워킨적 의미의 진정한 원칙 입법으로 평가받을 자격이 있다. 그러나 고위험 범주의 설계로 내려오면 원칙과 정책의 경계가 다소 흐려진다. 고위험 AI 시스템의 목록은 주로 분야와 기능의 조합으로 구성된다. 의료기기 분야의 AI, 핵심 인프라 관리 AI, 법 집행 목적의 생체인식 AI 등이 그것이다. 이 분류의 근거는 해당 분야에서 발생 가능한 피해의 심각성과 광범위성으로 이것은 합당한 위험 관리의 논리이지만 드워킨의 시각에서 보면 여기에는 한 가지 보완이 필요한 구조적 결함이 있다. 분야와 기능이 아니라 영향을 받는 개인의 권리가 실질적으로 침해되는가를 일차 기준으로 삼지 않는다면 같은 분야 안에서도 권리 침해의 심도가 전혀 다른 시스템들이 동일한 등급에 묶이는 역설이 발생하기 때문이다. 이 역설은 피지컬 AI, 특히 신체적 자율성을 갖는 로봇 시스템에서 가장 명징하게 드러난다. 피지컬 AI는 소프트웨어 AI와 질적으로 다른 위험 프로파일을 지니며 이 차이는 정도의 차이라기 보다 종류의 차이로 보이는데 소프트웨어 AI의 오류는 정보적 피해를 낳는다. 예를 들면, 잘못된 신용 평가, 편향된 채용 결정, 오진과 같은 것은 심각하고 구제되어야 하는 피해이다. 그러나 피지컬 AI의 오류는 신체적 피해를 직접 낳는다는 특성을 갖기도 하는데 외과 로봇의 오작동, 돌봄 로봇의 낙상 사고, 자율주행 시스템의 충돌과 같은 것을 생각할 수 있다. 신체의 불가침성은 다른 어떤 가치보다 선재하는 원칙의 영역에 속하며 드워킨의 언어로 말하자면 신체적 자율성과 물리적 안전은 경제적 효율성이나 기술 혁신의 속도라는 집합적 목표가 상쇄할 수 없는 으뜸패적 권리이다. 이 인식을 바탕으로 필자는 피지컬 AI에 적용할 때 필요한 보완 방향을 다음과 같이 세 가지로 제안하며 이는 우리나라 AI 기본법도 간과해서는 안 되는 지점들이라 생각한다. 첫째, 피지컬 AI 로봇을 위한 신체적 위해 가능성 기준의 명시적 도입이다. AI 고유의 자율적 의사결정 능력이 야기하는 신체적 위해 가능성 특히 강화학습을 통해 행동을 스스로 갱신하는 로봇의 예측 불가능한 물리적 행위는 기존의 기계 안전 규정이 설계된 당시에는 상정되지 않았던 위험 유형이다. 그렇기에 고위험 목록에 신체적 공간에서 자율적으로 행위하며 인간에게 직접적인 신체적 피해를 야기할 수 있는 AI 시스템을 독립 범주로 명시하는 것이 필요하다. 이것은 드워킨적 의미에서 신체 불가침의 원칙을 등급화 기준의 내부로 끌어들이는 작업이다. 둘째, 지속적 적합성 평가 메커니즘의 도입인데 강화학습 기반의 피지컬 AI 로봇은 배치 이후에도 환경과의 상호작용을 통해 자신의 행동 정책을 지속적으로 갱신하며 책임 공백은 정확히 이 지점에서 발생한다. 위험 관리 시스템은 지속적 모니터링을 포함하도록 설계되어 있으나 자율 학습 시스템에 대한 사후 재평가 의무는 아직 명확히 규정되어 있지 않다. 이 공백을 메우는 지속적 적합성 평가 체계의 도입은 피지컬 AI 규제의 실효성을 높이는 핵심 보완 조치가 될 것이다. 셋째, 인간 감독 요건의 원칙적 재정의로 현행 규정에서 인간 감독은 주로 위험 관리의 수단으로 정당화된다. 오류를 감지하고 시스템을 정지시킬 수 있는 능력을 확보하는 것으로서 드워킨의 틀에서 이것은 정책 논거로 이해된다. 그러나 인간 감독의 진정한 규범적 근거는 더 깊은 곳에 있는데 AI가 인간의 신체적 공간에 자율적으로 개입할 때 그 개입의 영향을 받는 개인, 예를 들면 환자, 돌봄 수혜자, 작업자, 학생은 자신의 신체에 가해지는 결정 과정에 인간의 판단이 개입할 것을 요구할 원칙적 권리를 갖는다. 이것은 효율성 논거로 축소될 수 없으며 피지컬 AI에 있어 인간 감독 요건을 이 원칙적 근거에서 재정의하는 것은 AI 기본법이 인간 존엄 보호 입법으로서의 위상을 강화하는 방향이다. 우리나라의 경우 AI 기본법은 EU AI법의 위험 기반 등급화 체계를 모니터링하면서도 동시에 정책과 원칙의 드워킨적 구분에 비추어 더 정밀하게 재설계하는 것이 필요하다. 구체적으로는 피지컬 AI가 인간의 신체적 공간에 개입하는 맥락에서 인간의 신체 불가침성, 자율성, 평등한 배려의 권리를 등급화 기준의 내부에 원칙으로서 명시적으로 내재화하는 것이다. 바흐의 대위법 규칙이 성부들 각각의 선율적 정체성을 존중하면서 전체의 조화를 구성한 것처럼 AI법의 위험 등급화 체계도 AI 시스템의 행위 가능성을 확장하면서도 그 확장이 인간의 권리를 으뜸패로 존중하는 방식으로 이루어지도록 설계될 때 비로소 바흐의 대위법이 음악에서 성취한 것을 규범의 영역에서 획득하게 될 것이다. 5장. 결론: 인간 존엄 원칙과 대위법적 공존을 향하여 바흐를 상기해 보면 푸가의 엄격한 대위법적 규칙이 개별 성부들을 억압하는 대신 그들이 충돌 없이 하나의 장대한 화음을 이루게 하는 토대가 되었다. 이와 마찬가지로 AI를 향한 규범적 제재는 기술의 역동성을 질식시키는 감옥이 아니라 오히려 기계 시스템과 도덕적 주체인 인간이 같은 시공간 안에서 파괴적 마찰 없이 공존하기 위해 반드시 합의해야 할 최소한의 대위법적 문법으로 기능할 수 있다. 우리가 AI를 위험 수준에 따라 분류하고 통제해야 하는 근본적인 이유는 헌터의 칸트 독해에서 확인했듯 이 시스템들이 스스로 도덕적 결단을 내릴 수 있는 이성적 존재가 아니기 때문이다. 도덕적 행위자가 아닌 도구적 시스템이 도덕적 주체인 인간의 존엄성과 기본권에 미칠 수 있는 예측 불가능한 위해를 관리하기 위해 등급화라는 보다 섬세한 규범적 체계 도입이 요청된다. 드워킨의 법철학적 통찰은 이 규제 아키텍처가 결코 양보해서는 안 될 최후의 보루를 제시하기에 로봇 등급화는 산업적 편의나 경제적 효율성이라는 정책의 언어에 매몰되어서는 안 된다. 그것은 언제나 기본권 보호라는 원칙의 으뜸패 아래 구속되어야 한다. AI의 분류와 통제가 기계를 향할 때는 기술 관리의 정당한 수단이 되지만 그 메커니즘이 인간을 향해 역진입할 때 즉 기계의 결정이 인간의 삶을 점수화하고 개인을 위험 범주로 귀속시키며 알고리즘적 서열 안에 인간의 가능성을 가둘 때 이는 이미 헌법적 원칙과 인간 존엄성에 대한 중대한 침해로 귀결된다. 규제의 대상은 기계의 용도여야 하며 인간의 삶 자체가 될 수 없다. 이상의 논의는 비단 EU에 국한된 문제가 아니다. 2026년 1월 22일부터 시행 중인 우리나라 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'은 인간의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미칠 수 있는 AI 시스템을 규율 대상으로 설정하고 있으나 피지컬 AI에 대한 독립적 분류 기준과 인간 감독의 원칙적 근거는 아직 충분히 구체화되어 있지 않다. 드워킨이 법적 판단에 요구한 원칙론적 엄격성에서 보면 집합적 목표의 언어가 아닌 개인의 권리 언어로 규범을 설계하는 것은 우리 입법에도 동등하게 요구된다. 따라서 철학적·규범적 논의를 바탕으로 필자는 우리나라 AI 기본법의 보완을 위해 다음의 두 가지 규범적 제언을 남기고자 한다. 첫째, 피지컬 AI를 위한 독립적 규제 범주와 평가 기준 수립이다. 현재의 AI법은 소프트웨어 AI와 물리적 세계에서 작동하는 피지컬 AI(로봇)를 명확히 구분하여 규율하지 않고 있다. 로봇은 디지털 공간의 출력물을 넘어 물리적 세계에서 자율적으로 움직이며 신체적 위해를 가할 수 있고 사용 맥락에 따라 위험의 본질이 시시각각 변화한다. 보완 입법에서는 AI 구성요소의 기능 뿐 아니라 로봇의 물리적 자율성 수준, 신체적 피해 발생 가능성 그리고 인간과의 물리적 접촉 방식을 복합적으로 고려한 피지컬 AI 전용의 독립적 분류 체계가 마련되어야 한다. 둘째, 원칙에 기반한 설명 요구권과 권리 구제의 실질화이다. 시스템의 적합성 평가나 투명성 의무 같은 절차적 요건을 충족하는 것만으로 규제의 책임을 다했다고 볼 수 없다. 고위험 AI 또는 피지컬 AI가 인간의 삶에 중대한 영향을 미치는 결정을 내리거나 물리적 행위를 수행했을 때 시민 누구나 기술적 오류의 단순 정정이 아닌 원칙의 언어로 그 결정의 정당성을 묻고 이의를 제기할 수 있어야 한다. 기술적 설명 가능성을 넘어선 규범적 해명의 절차가 제도적으로 단단히 뿌리내려야 한다. 규칙은 맹목적일 때 인간을 소외시키지만 확고한 원칙을 지향할 때 비로소 진정한 자유와 공존을 가능하게 한다. AI라는 낯설고도 거대한 성부가 인간의 세계라는 주선율과 어우러져 조화로운 곡을 완성해 내기 위해서는 기술을 조율하는 우리의 규칙이 인간 존엄이라는 흔들릴 수 없는 원칙 위에 서 있음을 끊임없이 증명해 내야 할 것이다. 바흐의 평균율 클라비어 곡집 제1권 C장조 프렐류드를 들을 때면, 필자는 번번이 같은 자리에서 멈추게 된다. 그 곡은 단 하나의 화음 분산 패턴만을 반복하는데 장식도 없고 돌발도 없다. 그런데 그 반복 속에서 화성은 조용하지만 거역할 수 없는 방식으로 움직이며 듣는 이를 어떤 필연의 끝으로 데려간다. 규칙이 이렇게 작동할 때 그것은 억압이 아니라 중력이 된다. 우리가 물리적 세계로 걸어 나오는 자율적 기계들을 향해 세워야 할 규범도 이와 같아야 한다. '인간 존엄'이라는 묵직한 중력이 모든 기술적 판단의 가장 깊은 지층에서 말없이 작용하되 어떠한 로봇 시스템도 그 힘의 궤도로부터 벗어날 수 없도록 옭아매는 근원적 장치 말이다. 바흐의 C장조가 결코 무너지거나 엇나가지 않는 이유는 규칙이 외부에서 음악을 강제해서가 아니라 그 규칙이 곧 음악의 본질 그 자체로 내재되어 있기 때문이지 않을까. 기술이 우리의 일상을 어떻게 직조하든 인간의 생명과 신체적 자율성이라는 원칙이 우리 규범의 '평균율'로 단단히 조율되어 있는 한 우리는 이 거대한 기계의 시대 속에서도 결코 인간성이라는 주선율을 잃지 않을 것이다. 바흐의 C장조가 결코 무너지거나 엇나가지 않는 이유는 규칙이 외부에서 음악을 강제해서가 아니라

2026.04.18 20:01박형빈 컬럼니스트

[피지컬AI와 윤리] 의료로봇과 의료AI 사고시 책임은 누가

1. 대서양을 건넌 메스: 린드버그 수술에서 의료 AI 로봇 시대까지 현대 의학 정점이라 불리는 수술용 로봇과 인공지능(AI) 등장 인간의 육체적 한계를 극복하려는 오랜 염원의 결실이다. 인간의 손이 떨리는 자리에서 로봇은 흔들리지 않으며, 인간의 눈이 놓치는 미세한 차이를 인공지능은 방대한 데이터 연산을 통해 포착한다. 나아가 인간의손길이 미치기 어려운 협소한 부위까지 로봇의 정밀한 기구는 거침없이 닿는다. 인간의 손이 닿지 않는 곳에서 생명을 구한다는 꿈은 의료 로봇 역사에서 한 번도 식은 적이 없다. 최초 로봇 수술이 무엇이었는지는 연구자마다 견해가 갈린다. 대다수는 그 영예를 콰(Kwoh) 등에게 돌리는데, 이들은 퓨마 560(PUMA 560) 로봇 시스템을 이용해 정위적 뇌생검을 수행했다. 이후 데이비스(Davies) 등은 같은 계열의 시스템을 경요도 전립선 절제술에 적용했으며, 이는 훗날 프로봇(PROBOT) 개발로 이어졌다(Lane, 2018). 이제 수술 로봇 또는 의료 로봇 기술은 다양한 외과 영역으로 확산하고 있다. 거리와 인간적 한계를 초월하고자 하는 근원적 열망이 하나의 상징적 사건으로 결정화된 것이 바로 '린드버그 수술'이다. 린드버그(Charles Lindbergh)는 1927년 5월 '스피릿 오브 세인트루이스(Spirit of St. Louis)' 호를 타고 뉴욕을 출발해 파리에 도착함으로써 역사상 최초의 대서양 무착륙 단독 횡단 비행을 완수했다. 2001년 9월 7일, IRCAD/EITS의 자크 마레스코(Jacques Marescaux)와 뉴욕의 미셸 가니에(Michel Gagner)는 뉴욕 외과의 조작 콘솔과 스트라스부르 대학병원의 수술 로봇을 제우스(ZEUS) 시스템으로 연결, 인류 최초의 원격 로봇 보조 복강경 담낭절제술을 시행했다(Marescaux, 2002). 이 수술은 이후 '린드버그 수술'이라 불리게 되었다. 그로부터 20여 년이 흐른 현재, Intuitive의 2025년 실적 공시에 따르면, 2025년 한 해 동안 다빈치(da Vinci) 수술 시스템을 이용한 수술은 약 315만 3천 건 수행되었으며, 이는 2024년의 약 268만 3천 건에 비해 약 18% 증가한 수치다(Intuitive Surgical, 2026). 수술 영역의 로봇 시스템은 일반적으로 능동형(active), 반능동형(semi-active), 그리고 마스터-슬레이브형(master-seval, 원격조작형/teleoperated) 시스템으로 구분된다. 능동형 시스템은 사전 설정된 작업을 수행하는 로봇 구동 방식이며 프로봇(PROBOT)이 대표적 예다. 반능동형 시스템은 외과의가 직접 기구를 조작하되, 로봇이 사전 설정된 안전 경계 내에서 움직임을 물리적으로 제한하는 방식으로 작동한다. 반면, 다빈치(da Vinci®)와 제우스(ZEUS)는 대표적인 마스터-슬레이브형 시스템으로, 외과의가 콘솔에서 조작하면 그 움직임이 로봇 팔과 수술 기구에 원격으로 전달되어 체내에서 재현된다(Lane, 2018). 그런데 바로 여기서 불편한 질문이 시작된다. 마스터-슬레이브 시스템은 외과의의 조작에 전적으로 의존한다고 정의되지만, 실제 수술 현장에서 의사는 알고리즘의 권고를 얼마나 독립적으로 판단하고 있는가? 또한 능동형 시스템이 사전 프로그램된 경로를 따라 절개할 때, 그 경로를 '설계'한 자와 그 경로를 '허가'한 자와 그 경로를 '신뢰'한 자 사이의 책임은 어떻게 나뉘는가? 기술의 유형이 정밀해질수록 책임의 경계는 오히려 흐릿해진다. 2025년 한 해에만 315만 건을 넘어선 다빈치 수술 시대에, 우리는 기계의 해부도는 갖추었지만 책임의 해부도는 아직 그리지 못했다. 2. 비인칭적(Impersonal) 칼날과 인칭적(Personal) 책임 로봇 수술의 가장 큰 장점은 정밀함이다. 그러나 바로 그 정밀성 때문에 역설이 발생한다. 기계는 더 정교해지는데 책임의 소재는 오히려 더 불분명해 보인다. 지난 10년 동안 로봇 수술 역할은 급속히 확대되어 왔으며, 널리 채택된 다빈치 수술 시스템의 임상적 결과는 비교적 잘 보고되어 왔다. 반면, 그 이상 사례와 기기 안전성에 대한 대규모 평가는 여전히 제한적이다. 미국 FDA의 제조사 및 사용자 기기 경험 데이터베이스(MAUDE)는 의료기기 플랫폼 전반의 이상 사례와 고장을 특성화하는 데 유용한 자료를 제공한다. 시에와 황(Hsieh & Huang)은 2015년 1월부터 2025년 6월까지의 다빈치 수술 시스템 관련 MAUDE 보고를 검토했으며, 같은 기간 수행된 것으로 추정되는 약 1590만 건의 수술 가운데 6만6651건의 이상 사례 보고를 확인했다. 보고율은 수술 10만 건당 420.1건이었고, 그중 상해 55.2건, 사망 3.1건, 수술 전환 21.8건, 시술 중단 2.1건이 포함되었다(Hsieh & Huang, 2026). 이러한 결과는 로봇 수술이 임상 실무에 더욱 깊이 통합되어 가는 현실에서, 플랫폼별 안전성 특성을 검증하기 위한 전향적 등록자료 기반 점검 및 감시 체계의 구축이 시급함을 보여준다. 이상 사례의 상당수는 기기 결함과 인간 운용자의 판단 착오가 복합적으로 얽혀 있다. 오작동은 비인칭적 알고리즘에서 발원하지만, 그 피해는 지극히 인칭적인 한 인간의 몸과 삶에 귀결된다. 그렇다면 책임은 누구에게 있는가? 집도의인가, 병원인가, 소프트웨어 개발자인가, 의료기기 제조사인가, 아니면 해당 알고리즘을 심사·승인하고 제도화한 국가인가? 기술은 놀랍도록 빠르게 전진했지만, 책임의 언어는 그 속도를 따라가지 못했다. 칼날은 비인칭적이되, 그 칼날이 야기한 상처에 응답해야 할 책임은 끝내 인칭적일 수밖에 없다. 3. 정명(正名)의 요청-이름이 바르지 않으면 책임도 바르지 않다 이 문제는 과실 판단의 문제에 한정되어서는 안 된다. 그것은 인간이 생명과 고통의 문제를 어떤 방식으로 공적으로 감당할 것인가에 관한 질문이며, 그 질문의 출발점은 언제나 '이름'을 바로 세우는 일이다. 공자의 제자 자로가 '위나라 임금이 선생을 등용해 정치를 맡긴다면 무엇을 먼저 하시겠습니까?'라고 묻자, 공자는 '반드시 이름을 바로잡겠다(必也正名乎)'라고 답하였다. 이어 공자는 이름이 바르지 않으면 말이 순조롭지 못하고, 말이 순조롭지 못하면 일이 이루어지지 않으며, 일이 이루어지지 않으면 예악이 흥하지 못하고, 예악이 흥하지 않으면 형벌이 바르게 시행되지 않으며, 형벌이 바르게 시행되지 않으면 백성이 손발을 둘 바를 알지 못하게 된다고 설명한다 (논어 '자로' 3장). 오늘날 의료 AI를 둘러싼 논쟁도 마찬가지이지 않을까. 수술 로봇, AI 의료기기가 '보조 도구'인지, '판단 주체'인지, '책임 분산 장치'인지, '자율적 행위자'인지, '임상 의사결정 지원 시스템'인지, '대리 집도자'인지, '알고리즘적 공동 시술자'인지, 아니면 단순 '정밀 기계 장치'인지 그 이름부터 명확히 하지 못한다면, 책임의 귀속 역시 끝내 흐려질 수밖에 없다. 정교하게 작동하는 것과 그 작동의 결과에 응답할 수 있는 것 사이에는 메울 수 없는 존재론적 간극이 있다. 알고리즘은 오류를 일으킬 수 있지만 책임을 질 수 없고, 의사는 책임을 져야 하지만 알고리즘의 내부 논리를 온전히 이해하지 못한 채 그 결과를 감당해야 하는 구조 속에 놓일 수 있다. 이름이 불분명한 곳에서 책임은 안개처럼 흩어진다. 4. 드워킨의 원칙의 문제-규칙이 침묵하는 자리에서 법은 무엇으로 말하는가 로널드 드워킨(Ronald Dworkin)의 법철학은 이 지점에서 중요한 길잡이가 된다. 드워킨은 법을 단지 정해진 규칙들의 집합으로 보지 않았다. 그는 '원칙의 문제(A Matter of Principle,1985)'에서 법적 해석이 규칙 적용을 넘어 공동체의 정치적 도덕성과 일치해야 한다고 역설했다. 그에게 법은 중립적 기술이 아니라 공동체가 자신의 도덕적 정체성을 드러내는 언어였다. 드워킨이 말한 정치적 도덕성의 핵심은 국가가 모든 시민을 동등한 배려와 존중의 대상으로 대해야 한다는 원칙이다. 그것은 제도가 특정 집단의 이해를 다른 집단의 이해보다 구조적으로 우선시할 때, 그 제도는 정치적 도덕성에 반한다는 구체적 판단 기준이다. 이 기준을 의료 AI에 적용하면, 불편한 질문이 즉각 제기된다. 알고리즘의 편향 문제는 추상적 우려가 아니라 임상 현장에서 이미 실증된 현실이기 때문이다. 인공지능은 위험 요인을 식별하고, 질병을 예측하며, 초기 단계를 탐지하고, 조기 개입이 필요한 환자를 찾아내는 잠재력을 지닌다. 그러나 디지털 격차와 의료 서비스의 불평등은 역사적으로 소외된 집단에 더 큰 영향을 미친다. 일부 집단은 디지털 데이터셋에서 충분히, 또는 정확하게 대표되지 않거나 낮은 수준의 의료 서비스를 받아온 탓에, 그 결핍의 흔적이 데이터 속에 고스란히 남아 있다. 이러한 데이터가 알고리즘 학습에 사용될 때, 또는 연구 설계, 데이터 처리, 모델 개발, 테스트, 구현, 사후 임상 적용 등 어느 단계에서든 사용될 때, AI 편향은 발생할 수 있다. 훈련 데이터에서 기본적인 인구 통계 정보조차 대표성이 결여된 모델은 편향된 결과를 산출하여 기존의 건강 불평등을 악화시킨다. 가령 AI 알고리즘은 심혈관 질환의 위험이 있는 환자를 식별하여 질병의 경과를 바꿀 수 있는 조기 개입을 가능하게 하지만, AI 편향은 알고리즘의 개발, 검증, 평가 등 모든 단계에서 발생할 수 있다. 편향된 알고리즘은 나이, 성별, 인종 또는 민족, 사회경제적 지위에 따른 의료 불평등을 더욱 심화시킨다(Mihan et al., 2024). 공중보건 AI 모델의 상당수는 도시 병원과 고소득 국가의 데이터에서 도출되어, 문화적·언어적·유전적·환경적 다양성이 반영되지 않은 저소득 국가 및 소외 집단의 환자를 체계적으로 과소 진단하거나 오분류하는 결과를 낳게 된다. 수술 로봇 역시 예외가 아니다. 훈련 데이터에 특정 체형, 해부학적 변이, 인종별 신체 특성이 충분히 반영되지 않은 경우, 알고리즘의 절제 경로 권고는 특정 집단의 환자에게 더 높은 위험을 부과할 수 있다. 이처럼 편향된 알고리즘이 임상 현장에서 특정 환자 집단에게 구조적으로 낮은 수준의 의료 판단을 제공할 때, 그 시스템을 승인하고 운용하는 국가와 제도는 과연 모든 환자를 동등하게 배려하고 있는가. 드워킨의 언어로 말하자면, 이것은 정책적 효율성의 문제가 아니라 공동체의 정치적 도덕성이 시험받는 원칙의 문제이다. 5. 드워킨의 원칙이 규칙의 공백을 메울 때 그렇다면 구체적으로 무엇을, 어떻게 해야 하는가. 의료 로봇과 수술 AI의 오판은 드워킨적 의미에서의 '어려운 문제(hard case)'의 전형이다. 기존 법률은 제조물 책임, 의료 과실, 설명 의무, 사용자 주의의무 등을 개별적으로 규정하고 있지만, 이 규칙들을 기계적으로 대입하는 순간 책임은 분산되고 희석된다. 자율 시스템이 개입된 오판에서 어떤 단일 행위자도 전적인 책임을 지지 않는 상태, 이른바 '책임의 공백'이 구조적으로 발생하는 것이다. 기술 기업은 '의사는 참고만 하도록 되어 있었다'고 말하고, 의사는 '고도화된 시스템의 추천을 신뢰할 수밖에 없었다'고 말하며, 병원은 '공인된 제품이었다'고 항변한다. 규칙 중심의 사고는 이 책임의 고리를 잘게 잘라 흩어버린다. 그러나 원칙 중심의 해석은 그 분절된 조각들을 다시 하나의 도덕적 서사로 묶는다. 의료 AI의 오판 앞에서 우리가 물어야 할 것은 '마지막으로 버튼을 누른 사람이 누구인가'가 만이 아니다. 그런 질문은 책임의 표면만 훑을 뿐, 사태의 윤리적·법적 핵심에는 닿지 못한다. 더 본질적인 물음은 세 가지다. 첫째, 이 의료 공동체는 환자를 단지 데이터의 입력값이나 위험 관리의 대상으로 다룬 것이 아니라, 동등한 배려와 존중을 받아야 할 한 사람으로 대했는가. 둘째, 기술을 도입하고 운용하는 과정에서 충분히 예견할 수 있었던 위험에 대하여, 검증과 설명, 감독과 이의 제기 및 구제의 절차를 성실하게 마련했는가. 셋째, 실패가 현실이 되었을 때, 피해자가 그 원인과 경위를 납득할 수 있을 만큼 진실에 접근하고, 자신의 손해와 불안을 사회적으로 회복할 기회를 보장받는가. 이 물음들은 규칙의 적용만으로는 끝내 답해질 수 없다. 규칙은 책임의 형식과 절차를 정할 수는 있어도, 우리가 끝내 지켜야 할 가치가 무엇인지를 스스로 말해 주지는 못하기 때문이다. 바로 그 지점에서 원칙이 요청된다. 원칙은 누가 잘못했는지를 기계적으로 가르는 기준이 아니라, 어떤 공동체가 인간의 존엄과 신뢰, 공정성을 어떻게 떠받치고 있는지를 묻는 기준이다. 그러므로 의료 AI의 실패를 판단하는 일은 어떤 개인의 행위를 사후적으로 지목하는 데서 멈춰서는 안 된다. 그것은 기술을 둘러싼 제도와 실천 전체가 과연 정의로운 방식으로 조직되어 있었는지를 성찰하는 일이어야 한다. 법이 분명한 답을 내리지 못하는 자리에서조차 원칙이 먼저 말해야 하는 이유는 여기에 있다. 침묵하는 규칙의 빈틈을 메우는 것은 결국, 인간을 수단이 아니라 목적으로 대해야 한다는 공동체의 윤리이기 때문이다. 6. 결론: 드워킨의 정치적 도덕성-책임은 왜 개인을 넘어 제도로 가야 하는가 이 글이 제기한 핵심 문제는 의료 AI의 오판이 발생했을 때 책임을 누구에게 물을 것인가에 있었다. 그러나 이 질문은 집도의, 병원, 개발사, 제조사, 승인기관 가운데 한 주체를 지목하는 방식으로는 충분히 답이 될 수 없다. 의료 AI의 실패는 대개 개인의 단독 과실이 아니라 기술의 설계, 도입, 승인, 운영, 감독, 구제 절차가 얽힌 '제도적 구조' 속에서 발생하기 때문이다. 따라서 책임 역시 개인을 넘어, 그러한 위험을 가능하게 하고 배분한 제도로까지 '확장'되어야 한다. 드워킨은 법과 정치를 정치적 도덕성의 문제로 이해했다. 국가는 시민을 동등한 배려와 존중의 대상으로 대해야 하며, 제도는 그 원칙을 실제로 구현해야 한다. 이 관점에서 의료 AI의 책임 문제는 의료사고의 사후 처리에 머물지 않는다. 그것은 한 사회가 첨단기술의 위험을 어떤 기준 아래 통제하고, 그 위험과 손실을 누구에게 집중시키고 있는지를 묻는 문제다. 실제로 의료 알고리즘이 특정 인종 집단의 위험을 구조적으로 낮게 평가해 치료 자원의 배분을 왜곡한 사례는(Obermeyer et al., 2019) 기술이 중립적인 도구가 아니라 기존의 불평등을 재생산할 수 있는 제도적 매개임을 보여준다. 이런 상황에서 책임을 오직 개인 의료진에게만 돌리는 것은 구조적 실패를 '은폐'하는 일이다. 더욱이 현행 법과 규제는 의료 AI의 책임 구조를 충분히 명확히 하지 못하고 있다. 자율학습형 시스템의 책임 귀속, 사후 모니터링, 설명가능성, 피해구제 절차 등은 여전히 불완전하다. 그 결과 오판이 발생했을 때 환자에게 과도한 입증 부담이 전가되기 쉽다. 따라서 정치적 도덕성은 제도에 최소한 세 가지를 요구한다. 첫째, AI가 어디까지 보조 수단이며 어디서부터 실질적 판단 권한을 가지는지 명확히 해야 한다. 둘째, 인간 의료진에게 최종 책임을 부과한다면, 그 책임을 감당할 수 있도록 시스템의 투명성과 검증 가능성을 보장해야 한다. 셋째, 피해 발생 시 환자가 진실에 접근하고 실질적으로 회복할 수 있는 절차를 마련해야 한다. 이는 기술 규제가 아니라, 시민을 동등한 존엄의 주체로 대하겠다는 공적 약속의 표현이다. 결국 의료 AI 시대에 필요한 것은 '누가 잘못했는가'만을 묻는 체계가 아니다. 더 중요한 것은 실패가 발생했을 때 진실이 은폐되지 않고, 피해가 신속히 회복되며, 동일한 오류가 반복되지 않도록 제도와 문화를 함께 바꾸는 책임 구조를 만드는 일이다. '책임을 지나치게 개인화하면 구조가 숨고, 지나치게 구조화하면 개인의 윤리가 사라진다.' 그러므로 미래의 책임 법리는 '개인과 제도, 행위와 구조를 아우르는 이중적 설계'를 요청한다. 의료 AI의 오판은 기계적 오류로 축소될 사안이 아니라, 인간 공동체가 생명의 영역에서 책임을 어떠한 원리 아래 조직하고 분배할 것인가를 가늠하는 시금석으로 봐야한다. 이 물음 앞에서 법은 더욱 치밀해져야 하고, 정치는 더욱 도덕적이어야 하며, 의학은 다시 인간을 중심에 두는 본연의 책무를 회복해야 한다. ◆ 필자 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·어린이철학교육전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 정책자문위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육

2026.03.21 10:37박형빈 컬럼니스트

[피지컬AI와 윤리] 교실로 진격하는 '몸'을 가진 기계

1. 들어가는 말: 로봇은 말보다 '몸'으로 먼저 말한다 '로봇'이라는 단어가 세상에 처음 등장한 것은 체코 작가 카렐 차페크(Karel Čapek)의 희곡 'R.U.R.(Rossum's Universal Robots)'을 통해서다. 작품은 1920년 탈고·출간됐고, 이듬해인 1921년 프라하 국립극장에서 공식 초연됐다. 'robot'이라는 명칭은 차페크가 형 요제프 차페크(Josef Čapek)의 제안을 받아 사용한 것으로, 체코어 robota-봉건 시대의 강제 노동, 부역-에서 유래했다. 이 어원 안에는 이미 하나의 암시가 새겨져 있다. 로봇은 탄생의 순간부터 말만 하는 존재라기보다 인간의 일·공간·질서 속으로 들어와 자리를 차지하는 존재로 상상됐다. 차페크는 'R.U.R.'에서 로봇이 인간의 노동을 대신하는 세계를 무대에 올린다. 로봇의 반란과 인류의 멸망을 통해 그가 던지는 질문은 선명하다. 인간이란 무엇이며, 인간 삶의 목적은 어디에 있는가. 로숨 공장의 풍경은 노동과 권력의 역학을 탐색하는 장치이기도 하다. 차페크의 무대에서 로봇은 공장의 생산 체계를 바꾸고, 사회의 분업 구조를 재편하며, 마침내 인간 세계의 조건 자체를 흔든다. 주목할 것은 재앙의 기원이다. 재앙은 '거짓말하는 로봇' 때문이 아니라, 로봇이 세계에 배치되는 과정에서 인간의 관계·노동·규범이 조용히 재구성되면서 시작된다. 문제의 핵심은 로봇이 무엇을 '말했는가'가 아니라, 로봇이 거기에 '있음'으로써 무엇을 '하게 만들었는가'에 있다. 한 세기가 지난 지금, 로봇은 더욱 영리해졌으며 그 무대는 공장을 넘어 병원, 식당, 가정으로 확장되었고, 이제 교실로까지 그 발걸음이 향하고 있다. 우리는 AI 튜터를 떠올릴 때 흔히 '무슨 말을 해 주는가'를 먼저 묻는다. 정답을 제시하는가, 설명이 친절한가, 칭찬을 적절히 하는가. 그러나 로봇형 튜터가 교실에 들어오는 순간, 질문의 축 자체가 달라진다. 로봇은 공간을 점유하고, 학생의 동선과 시선을 바꾸며, 교사의 수업 운영 방식과 교실의 규범적 리듬을 재배치한다. 챗봇이 텍스트와 음성을 통해 '정보'를 주고받는다면, 로봇은 거기에 더해 '물리적 현존' 자체로 상호작용의 조건을 바꾼다. 이 변화의 윤리적 무게는 교실 밖에서 이미 예고되어 왔다. 물류 현장에서는 자율 이동 로봇이 작업 공간을 공유하며 동선을 재설계하고, 공장에서는 협동 로봇과 산업용 로봇이 생산라인에 투입되어 작업의 순서·속도·안전 절차를 재구성하며, 일부 도시에서는 자율주행 기반 서비스가 사회적 규칙과 책임의 설계를 새로 요구하고 있다. 물론 이 사례들이 교실과 동일하지는 않다. 그러나 공통점은 분명하다. 피지컬 AI는 '도구 한 점'이 아니라 '환경의 일부'가 되며, 그 순간 윤리의 무게중심은 기능의 우수성에 더하여 배치가 만들어내는 관계의 변화로까지 증폭한다. 2. 몸을 가진 기계의 등장: 도구가 아니라 '사건'으로서의 로봇 여기서 한나 아렌트(Hannah Arendt)의 통찰이 날카롭게 개입한다. 아렌트는 '인간의 조건』(The Human Condition, 1958)'에서 인간 활동의 양태를 노동·작업·행위로 구분하고, 그 가운데 '행위'를 타자들 사이에서 새로운 시작을 열고 복잡한 관계의 그물을 형성하며 변형시키는 고유한 영역으로 규정했다. 아렌트에게 '행위'란 목적을 위한 기능적 산출이 아니다. 그것은 이미 존재하는 관계망 속에 개입해 예측 불가능한 과정을 촉발하는 새로운 시작의 사건이다. 이 사유의 궤적 위에서, 로봇이 교실에 진입하는 순간 우리는 피하기 어려운 존재론적 질문에 직면하게 된다. “로봇은 정보를 매개하는 도구인가, 아니면 교실 내부의 관계적 배치를 근본적으로 뒤흔드는 하나의 '사건'인가?” 이 질문의 층위를 전환하면 그 의미는 더욱 선명해진다. 디지털 AI가 주로 판단·선택·이해의 영역에 개입하는 '정보적 영향'에 집중해 왔다면, 물리적 실체를 가진 피지컬 AI는 거기에 더해 공간을 재구성하고, 특정 행동을 유도하며, 접근 가능성의 구도 자체를 바꾸는 '물리적·인과적 영향'을 함께 수반한다. 이제 기술은 중립적으로 '사용되는 도구'에 머물지 않는다. 그것은 우리의 경험을 구조화하는 '환경' 자체가 된다. 그렇다면, 교실에 AI 튜터 로봇을 도입하는 일은 '신규 교구의 확충'이 아니라, 학생들이 타자와의 관계를 배우고 공동체의 규범을 내면화하는 '환경 자체의 변형'으로 읽혀야 한다. 바로 이 지점이 학교 AI 튜터 로봇 윤리가 닻을 내려야 할 좌표다. 로봇의 언어적 능력을 포함해 그 현존의 효과에서 논의를 시작할 때, 우리는 비로소 다음의 질문들을 제대로 마주할 수 있다. 로봇 튜터는 학습의 효율을 높이는 보조자인가, 아니면 교실의 관계망을 근본적으로 재배치하는 행위자인가? 학생의 자율성과 교사의 권위는 어떤 조건 아래에서 보존될 수 있는가? 그리고 무엇보다, 문제가 생길 때, 누가 어떤 근거로 책임을 지는가? 이 질문들은 단순하지 않다. 그러나 묻지 않은 채 로봇을 교실에 들이는 것은, 차페크가 경고했던 그 실수를 교육이라는 이름으로 되풀이하는 일이다. 차페크의 로봇이 언어의 기교가 아니라 현존으로 세계의 질서를 흔들었듯, 교실에 들어올 피지컬 AI 역시 '정답을 얼마나 그럴듯하게 말하는가'가 아니라 '거기에 있음으로써 교실에서 무엇이 가능해지고 무엇이 불가능해지는가'로 평가되어야 한다. 로봇이 교실의 공기를 바꾸고, 시선의 방향을 재배치하며, 교사의 판단이 도달하기 전에 학생의 행동을 '개입 대상'으로 만들어 버린다면-윤리는 그때부터 시작된다-. 그리고 그 윤리적 물음의 핵심에는 해석이 있다. 로봇이 학생을 읽고, 판단하고, 개입을 결정하는 순간, 우리는 묻지 않을 수 없다. 로봇이 학생을 교육적으로 '올바르게 읽는다'는 것은 과연 무엇을 뜻하는가. 3. 누가 아이의 침묵을 읽는가: 해석의 권한은 교실에 있어야 한다 미래 교실을 상상해 보자. 교실에 로봇 튜터가 들어왔다. 학생이 오답을 냈다. 학생이 침묵한다. 로봇은 이 침묵을 읽는다. 표정을 스캔하고, 시선의 방향을 감지하며, 음성 신호의 부재를 처리한다. 그리고 판단한다-이것은 혼란인가, 포기인가, 아니면 생각 중인가. 그 판단에 따라 다음 개입이 결정된다. 힌트를 줄 것인가, 기다릴 것인가, 난이도를 낮출 것인가. 관찰자는 같은 장면을 보고 있지만, 떠오르는 핵심 질문은 하나로 수렴한다. “로봇의 그 판단은 과연 이 아이의 침묵을 '올바르게' 읽은 것인가. 그리고 더 근본적으로-그 해석의 권한이 로봇에게 주어져도 되는 것인가?” 로널드 드워킨(Ronald Dworkin)은 '원칙의 문제』(A Matter of Principle, 1985)'에서 어떤 대상을 해석한다는 것은 그것을 단순히 '있는 그대로' 기술하는 행위가 아니라, 그 대상이 속한 실천이 전제하고 지향하는 도덕적·규범적 가치를 탐색하고 그에 비추어 그 실천을 가장 설득력 있게 이해·정당화하려는 규범적 활동이라는 견해를 제시한다. 이듬해 저작 '법의 제국(Law's Empire, 1986)'에서 그는 이를 '건설적 해석'으로 정식화하며, 해석이란 그 실천을 '가장 잘 보이도록' 만드는 이론을 제시하는 것이라고 규정한다. 드워킨은 이를 법 해석에 적용했지만, 그의 통찰은 교육 현장에서 더욱 예리하게 빛난다. 교실은 언제나 '해석'의 공간이었기 때문이다. 교사는 학생의 침묵을 무지로 읽기도 하고, 사유의 깊이로 읽기도 한다. 같은 행동이 반항으로도, 자기표현의 시도로도 보인다. 가르침의 기예는 상당 부분 이 해석의 기예이기도 하다. 그리고 이 해석은 언제나 교사의 몫이었다-지금 이 아이의 맥락을, 어제를, 오늘의 표정을 아는 인간의 몫. 그런데 로봇 튜터가 교실에 들어오는 순간, 이 해석의 자리에 알고리즘이 먼저 앉는다. 학생의 침묵이 교육적으로 '최선의 상태'로 해석되고 있는지를 판단하는 권한-그것은 알고리즘이 아니라 인간 교사에게 남아 있어야 한다. 이것은 권한 배분의 문제가 아니라 교육의 본질에 관한 문제다. 넬 나딩스(Nel Noddings)가 돌봄 윤리에서 주장했듯, 교육적 관계는 눈앞의 학습자의 구체적 현실에 응답하는 행위다. AI 개발자는 수천 명의 평균적 학습자를 상정하지만, 교사는 지금 이 아이의 어제를 알고 있다. 더욱이 몸을 가진 로봇은 화면보다 훨씬 가까이에서, 훨씬 직접적인 방식으로 그 아이의 공간에 개입한다. 해석의 권한이 교실에-인간 교사에게-있어야 하는 근거는 바로 이 좁힐 수 없는 비대칭성에 있다. 4. 알고리즘이 교사의 자리에 앉을 때: 해석 주권의 조용한 이전 피지컬AI는 점차 인간의 행동·상태를 '추정'하고 그에 따라 개입을 조정하는 주체로 등장하고 있다. 오늘날 일부 소셜·돌봄 로봇은 카메라와 마이크 등 센서를 통해 표정, 음성의 억양, 시선 방향, 자세 같은 신호를 수집·분석하여 사용자의 주의·정서·이해 상태를 확률적으로 추정하고, 그 결과에 따라 다음 행동을 결정한다. 즉 로봇은 찡그린 얼굴을 '혼란'으로, 고개를 드는 동작을 '이해'로 단정한다기보다 그런 범주로 분류하거나 가설화하고, 그 가설에 맞춰 상호작용 전략을 선택하는 방식으로 작동한다. 교실에 피지컬 AI가 들어온다면, 이러한 정보를 종합해 학생에 대한 설명의 속도, 질문의 난이도, 반복 여부, 안내 방식 등을 조절한다. 이 순간, 드워킨적 의미에서 심각한 전도가 발생한다. 교실의 해석학적 주권이 조용히 기계 쪽으로 이전되는 것이다. 학생의 감정과 이해 상태에 관한 1차 해석을 알고리즘이 수행하고, 교사는 그 결과물-로봇이 출력한 학습 데이터와 감정 분석 리포트-을 사후에 전달받는 2차 관찰자로 밀려날 위험이 있다. 리사 펠드먼 배럿(Lisa Feldman Barrett)의 감정 구성주의는 이 위험의 깊이를 보여준다. 배럿에 따르면, 감정은 얼굴 표정이나 신체 신호에 새겨진 보편적 데이터가 아니다. 그것은 문화·언어·맥락·개인사에 의해 구성되는 경험이다. 같은 찡그림이 어떤 아이에게는 집중의 표시이고, 어떤 아이에게는 복통의 신호이며, 또 다른 아이에게는 전날 밤 집에서 있었던 일의 잔상일 수 있다. 로봇이 이 찡그림을 '혼란'으로 일률 해석하고 교육적 개입을 결정하는 순간, 그것은 드워킨이 경계한 최악의 해석-대상을 '최선의 상태'가 아닌 '알고리즘이 가장 처리하기 쉬운 상태'로 환원하는 해석-을 수행하는 것이다. 이것이 문제인 이유는 단지 오류 가능성 때문이 아니다. 해석권의 이전은 교사의 전문성을 형해화한다. 교사가 로봇의 분석 리포트를 '참고'하는 것과, 로봇의 해석이 교사의 판단을 구조적으로 선점하는 것 사이에는 건너기 어려운 경계가 있다. 그 경계가 무너지는 속도는, 피지컬 AI의 도입 속도보다 훨씬 빠를 수 있다. 5. 결론: 로봇이 교실에 들어오기 전 우리가 먼저 답해야 할 것들 드워킨의 법 해석론은 하나의 핵심 전제 위에 서 있다. 해석은 홀로 완결되는 작업이 아니라 공동체 안에서 지속되는 실천이라는 것이다. 법의 의미는 입법자도 판사도 단독으로 확정하지 못하며, 법적 공동체 전체가 참여하는 대화 속에서 만들어진다. 교실도 그러하다. 교실의 의미는 교사 혼자도, 교육과정 설계자 혼자도 아닌, 교사와 학생과 학부모가 함께 참여하는 살아있는 해석의 공간에서 형성된다. 피지컬 AI가 언젠가 이 공동체에 진입할 때, 우리가 먼저 제기해야 할 질문은 의외로 단순하다. “로봇은 그 해석의 대화를 풍요롭게 하는가, 아니면 대체하는가?” 로봇이 교사의 관찰을 보완하고 해석을 뒷받침하는 정보를 제공한다면, 그것은 공동체의 유능한 조력자다. 반면 로봇이 학생에 관한 결정적 해석을 선점하고 교사의 직관과 경험을 구조적으로 압도하기 시작한다면, 교실은 해석의 공동체이기를 멈추고 알고리즘의 집행 현장이 된다. 이 경계를 지키는 일은 윤리와 제도의 몫이다. 그렇기에 피지컬 AI 튜터가 교실에 들어오기 전에, 다음의 선제 조건이 반드시 충족되어야 한다. 첫째, 교사는 로봇을 언제든 즉각 중단시킬 수 있어야 하며, 그 권한은 매뉴얼의 조항이 아니라 실질적 현장 권한으로 보장되어야 한다. 둘째, 학생의 감정·행동 데이터가 어떻게 수집되고 어디에 쓰이는지에 대한 투명한 고지가 선행되어야 한다. 셋째, 문제가 생겼을 때 제조사·개발사·학교·교사 가운데 누가 어떤 근거로 책임을 지는지, 그 지도가 도입 전에 그려져 있어야 한다. 선의는 책임을 대체하지 못한다. 책임의 지도 없는 도입은 혁신이 아니라 위험의 외주화다. 학생의 침묵이 무엇을 의미하는지, 찡그린 표정이 무엇을 말하는지-그 최종 해석은 기계가 아니라 '인간 교사'에게 남아 있어야 한다. 드워킨의 언어로 말하자면, 교육적 가치라는 왕관은 알고리즘에 양보할 수 없다. 그것은 여전히 교사의 손에 있어야 하며, 바로 그 손이 교실을 교실이게 만드는 마지막 조건이다. 교실에 로봇을 정박시키는 행위는 공학적 효율의 문제가 아니라, 본질적으로 '설계의 위계'에 관한 문제다. 무릇 설계란 언제나 특정한 가치 체계의 선택과 배제를 전제하기 때문이다. 이러한 가치 결단의 책무를 유예하거나 기술 개발자의 알고리즘에 위임하는 것은, 차페크의 희곡에서 인류가 범했던 치명적 오류-즉, 존재를 책임의 고리 없이 세계에 방류했던 그 과오-를 '교육 혁신'이라는 미명하에 반복하는 것에 다름 아니다. 만약 우리가 기술의 물리적 진입에만 매몰돼 그 이면의 윤리적 기표들을 읽어내지 못한다면, 교육의 주체성은 급격히 형해화될 수밖에 없다. 로봇이라는 물리적 실체를 교실로 들이기 전에, 우리가 먼저 문턱 너머로 들여야 할 것은 바로 이러한 존재론적 물음들이어야 하지 않을까. ◆ 필자 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육 · AI 윤리 교육, 디지털 시민성 교육

2026.02.28 16:37박형빈 컬럼니스트

[박형빈 교수 AI와 윤리⑫·끝] 공존과 인간 번영...책임의 시대로 진입

1. 속도의 문명에서, 신뢰의 문명으로 우리는 지금 '더 빠른 기술'의 시대를 지나 '더 깊은 책임'의 시대로 진입하고 있다. 인공지능(AI)은 업무를 보조하는 도구에서 진화해 인간의 판단·감정·의사결정이 이뤄지는 인지적 공간을 재구성하고 때로는 그 과정을 대체한다. 이는 생산성과 효율의 문제를 초월해 인간이 세계를 이해하고 타인과 관계 맺는 방식-곧 문명의 운영체계(OS)-을 다시 쓰는 일이다. 그리고 이 변화는 자율주행 자동차와 피지컬 AI를 통해 한층 심화하고 확장된다. AI가 '말하는 인터페이스'에 머물던 단계를 지나, 이제는 도로와 가정, 공장, 돌봄 현장이라는 '물리적 세계의 행위자'로 진입했기 때문이다. 최근 '행위자형(Agentic) AI'가 빠르게 일상으로 스며들고 있는 현상은 우리로 하여금 이를 더욱 실감하게 한다. 예컨대 오픈클로(OpenClaw) 같은 오픈소스 에이전트 생태계는 AI가 대화로 조언만 하는 것이 아니라, 사용자의 지시를 받아 계획을 세우고 실행하며, 필요하면 로컬 PC·웹·메신저 환경에서 실제 작업 흐름을 이끄는 '실행 주체'로 기능하게 만든다. 나아가 어떤 사례에서는 에이전트가 물리적 행동이 필요한 단계에서 인간을 '고용'해 심부름·조사·현장 업무까지 위임하는 플랫폼 형태로 확장되기도 했다. 이때 AI는 더 이상 콘텐츠를 생성하는 존재가 아니라, 권한을 배분하고 행위를 촉발하는 존재가 된다. 2. 행위자로 전환된 AI, 책임은 어디에 설계되는가 여기서부터 AI의 영향은 정보·추천·요약의 차원을 넘어, 충돌·상해·재산 피해처럼 되돌리기 어려운 결과를 동반할 수 있다. 책임 역시 '누가 오답을 냈는가'가 아니라 다음과 같은 구조적 질문으로 이동한다. 즉 ▲누가 이 행위를 가능하게 설계했는가?(모델·로봇·서비스의 설계자와 운영자는 어떤 안전장치를 사전에 내장했는가) ▲누가 행동의 범위를 정했는가?(AI가 어디까지 결정하고 실행할 수 있도록 권한을 부여했는가) ▲어떤 데이터와 목표가 이 행동을 유도했는가?(학습·최적화 기준이 인간 안전과 복리를 우선했는가) ▲어느 플랫폼이 이를 배포하고 확산시키는가?(접근성·추천·자동화 기능이 위험을 증폭시키지는 않는가) ▲누가 현장에서 '최종 통제권'을 갖는가?(중단 버튼, 인간 승인, 책임 있는 감독 체계가 실제로 작동하는가) ▲사고가 났을 때 책임은 누구에게 귀속되는가?(개발자·제조사·운영사·사용자 중 책임 배분은 어떻게 설계되어 있는가) ▲어떤 정부·감독 기관이 무엇을 기준으로 허용했는가?(사전 인증·감사·사후 조사 체계는 충분한가) ▲피해가 발생했을 때 회복과 구제는 어떻게 보장되는가?(보험·배상·재발 방지 의무가 제도화되어 있는가) 이들 질문은 'AI가 위험하다'는 단순 경고가 아니라, AI가 행위자로 전환되는 순간 반드시 필요해지는 책임의 좌표다. 즉, 기술의 성능을 논하기 전에, 그 기술이 어떤 조건에서 행동하고, 어떤 방식으로 통제되며 어떤 경로로 책임이 귀속되는지부터 먼저 합의해야 한다. 따라서 AI 시대의 핵심 쟁점은 '얼마나 잘 작동하는가'를 넘어 '피해가 발생했을 때 책임은 어디에 귀속되는가'로 이동해야 한다. 독일 철학자 한스 요나스(Hans Jonas)는 '책임의 원칙(The Imperative of Responsibility)'에서 '미래 세대의 인간다운 삶이 지속 가능하도록 책임 있게 행위하라'고 촉구했다(Jonas, 1979/1984). AI 시대의 윤리는 바로 이 요청에서 시작된다. 기술의 속도가 인간의 숙고와 성찰을 앞지르는 순간, 우리에게 필요한 것은 뒤늦은 제동이 아니라, 사전에 설계된 책임이다. 왜냐하면, 사후적 규제만으로는 이미 기술이 초래한 비가역적인 정신적·사회적 손상을 회복할 수 없으며, 책임 기준이 전제되지 않은 기술의 힘은 결국 인간의 통제 범위를 벗어난 맹목적인 위협으로 변질되기 때문이다. 그렇기에 지속가능한 AI(Sustainable AI)와 신뢰 가능한 AI(Trustworthy AI) 그리고 궁극적으로 '모두를 위한 AI(AI for All, Inclusive AI)'를 향한 가장 확실한 출발점은 책임을 먼저 '구조화'하는 것이다. 3. 지속가능한 AI: 세계는 왜 '신뢰'를 조건으로 삼는가 최근 각국의 정책적 기조를 '규제'라는 단일한 프레임으로 환원하는 것은 사태의 본질을 축소하는 것이다. 이는 기술의 잠재력을 억누르기 위한 차단막이 아니라, 지속가능한 AI 발전과 신뢰할 수 있는 생태계를 조성하기 위한 정교한 '제도적 건축'에 가깝다. 2024년 제정된 EU AI법(EU AI Act)은 이러한 흐름을 가장 선명하게 보여준다(European Commission, 2024a). 이 법은 AI를 잠재적 위험 수준에 따라 세밀하게 분류하는 '위험 기반 접근'을 채택했다(European Commission, 2023). 특히 고위험(High-Risk) AI에 대해 엄격한 사전 적합성 평가와 투명성·책임 의무를 강제한 것은(Regulation (EU) 2024/1689) '안전이 담보되지 않은 기술은 시장에 진입할 수 없다'는 새로운 원칙을 천명한 것으로 이해할 필요가 있다. 또한 우리가 주목할 것은 미국에서 2025년 12월, 42개 주 법무장관이 13개 AI 기업에 공개 서한을 발송해 '청소년 보호'와 '안전 강화'를 촉구했다는 사실이다. 서한은 OpenAI, Google, Meta, Microsoft, Anthropic, Apple, Character Technologies, Perplexity AI 등을 포함한 13개 기업을 대상으로 했다. AI 챗봇이 아동 및 취약계층과 부적절한 상호작용을 하고, 일부 대화가 폭력, 입원, 살인, 자살로 이어진 사례들을 구체적으로 지적했다(James, 2025). 이는 혁신을 멈추라는 요구라기 보다, '안전과 책임 없는 확장은 사회적 허가를 얻을 수 없다'는 기준 설정이다. 법무장관들은 기업들에 2026년 1월 16일까지 16가지 안전 조치를 이행할 것을 요구했으며, 이를 준수하지 않을 경우, 주법 위반으로 법적 조치를 취할 수 있음을 경고했다(Pennsylvania Office of Attorney General, 2025). 미국 각 주의 상황은 어떠한가. 최근 일부 주는 이른바 AI 동반자(AI companion) 및 정신건강 관련 AI 서비스에 대해 고지 의무, 자해·자살 위험 대응, 광고 제한, 전문직 영역 보호 등을 중심으로 규범을 구체화하고 있다. 뉴욕주는 2025년 제정된 AI 동반자 관련 법률에 따라, 2025년 11월부터 이용자에게 해당 서비스가 인공지능임을 명확히 고지하도록 요구하고, 자해 또는 자살 사고가 감지될 경우, 이를 완화·대응하기 위한 합리적인 프로토콜을 마련하도록 규정하였다(New York State Assembly, 2025). 이 법은 AI 동반자 서비스의 안전성과 투명성 확보를 목적으로 한다. 캘리포니아는 2025년 제정된 상원법안 SB 243을 통해 AI 동반자 운영자에게 이용자에 대한 AI 고지 의무를 부과하고, 자해·자살 관련 위험 대응 장치 및 일정한 보고 의무를 규정하였다(California State Legislature, 2025). 해당 법은 2026년 1월부터 시행중이다. 일리노이는 2025년 8월 제정된 법률을 통해, 치료(therapy) 및 심리치료(psychotherapy) 서비스에서 AI가 독립적으로 치료적 결정을 하거나, 치료적 커뮤니케이션의 형태로 내담자와 직접 상호작용하거나, 면허 전문인의 검토·승인 없이 치료적 권고나 치료계획을 생성하는 행위 등을 제한하는 규율을 도입하였다(Wellness and Oversight for Psychological Resources Act, 2025). 이는 AI가 전문직 의료·정신건강 영역을 대체하는 것을 방지하기 위한 취지로 이해된다. 유타는 2025년 제정된 House Bill 452를 통해 정신건강 관련 챗봇에 대해 이용자에게 AI임을 고지하도록 요구하고, 해당 챗봇을 활용한 특정 광고 행위를 제한하는 규정을 도입하였다(Utah Legislature, 2025). 이 법은 2025년 5월부터 효력을 발생하였다. 이처럼 미국 일부 주는 AI의 정서적·심리적 영향력이 확대되는 영역에서, 일반 소비자 보호 차원을 넘어 고지·안전 프로토콜·전문영역 보호라는 구조적 규율을 도입하고 있다. 한편, 우리나라의 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'은 2026년 1월 22일부터 본격 시행됐다. 유럽연합(EU)의 AI법보다 실제 전면 시행 시점이 빨라 세계 최초로 포괄적 AI 규제를 본격 적용하는 사례로 평가받고 있지만, 미국의 주별 사례(정신건강 및 AI 동반자 규제)와 비교할 때 다음과 같은 보완 필요성이 제기된다. 첫째, 정신건강 AI의 세부 규정 부재다. 뉴욕주가 자살 및 자해 감지 프로토콜을 의무화하고 일리노이주가 면허 없는 AI 치료를 금지한 것과 달리, 우리 법은 의료 AI를 '고영향 AI'로 포괄할 뿐 정신건강 특화 서비스에 대한 구체적인 안전 설계 기준은 아직 미흡하다. 둘째, AI 동반자의 엄격한 고지 의무다. 타겟 광고를 금지하는 등 이용자 심리 보호를 위한 세부 조항이 보강될 필요가 있다. 셋째, 규제 불확실성 해소다. 현재 '고영향 AI'의 정의가 다소 포괄적이라 사업자의 예측 가능성이 낮다. 이에 시행령 및 분야별 가이드라인을 통해 전문 영역 보호 기준을 구체화해야 한다. 그럼에도 불구하고, 법적 규제와 제도의 정비만으로는 충분하지 않다. 법은 사회적 합의의 최소한을 규정할 뿐, 기술이 인간의 내밀한 삶 속으로 파고들 때 발생하는 미묘한 '존재론적 변화'까지 포착하기는 어렵기 때문이다. 규제가 '안전장치'라면, 그 위에서 살아가는 우리의 실제 삶은 '어떤 관계를 맺을 것인가'라는 실존적 물음에 직면하게 된다. 이제 시선은 집단 도덕의 집대성이라 할 수 있는 법전을 넘어, AI가 물리적 실체를 입고 우리의 안방과 거실, 그리고 아이들의 책상 위로 들어오는 '생활 세계'로 향해야 한다. 4. 공존의 현실: 도구적 유용성을 넘어 관계적 행위자로 우리 일상은 이미 거대한 실험실이다. 자율주행 차량이 도로를 점유하고, 돌봄 로봇이 노인의 말벗이 되며, AI 비서가 가정의 대소사를 관리하는 풍경은 더 이상 미래학자의 상상이 아니다. 여기서 주목해야 할 것은 기술의 '물리적 현전'이다. 화면 속에 갇혀 있던 AI가 로봇과 사물의 형태를 입고 우리 곁에 섰을 때, 그것은 단순한 자동화 기기가 아니라 자율성을 지닌 '준(準) 행위자'로 격상된다. 이러한 변화는 권한의 미세한 이동을 수반한다. AI는 운전자의 판단을 보조하는 것을 넘어 핸들의 통제권을 쥐고, 부모를 대신해 아이에게 동화책을 읽어주며, 가족의 소비 패턴을 분석해 결정을 내린다. 즉, 공장에서의 생산성 도구가 가정이라는 가장 사적인 공간의 관리자로 변모한 것이다. 이 과정에서 우리는 세 가지 층위의 윤리적 딜레마와 마주한다. 첫째는 자율주행이나 로봇의 오작동이 초래할 수 있는 '물리적 안전'의 문제다. 둘째는 AI 동반자와의 애착 형성이 인간관계를 대체하거나 왜곡할 수 있는 '정서적 영향'이다. 셋째는 판단과 선택의 과정을 AI에 끊임없이 위탁함으로써 발생하는 '인지적 의존'이다. 이제 핵심 질문은 'AI를 허용할 것인가'라는 추상적 당위의 문제를 넘어섰다. AI는 이미 우리의 도로와 가정, 학교와 병원에 들어와 있다. 따라서 남은 과제는 배제의 선택이 아니라 조건의 설계다. 이스라엘의 역사학자 유발 하라리(Yuval Noah Harari)는 2026년 다보스 포럼(Davos Forum)에서 AI를 우리 사회에 진입하는 '수백만의 디지털 이민자(AI Immigrants)'에 비유했다. 그는 '이번 이민자들은 연약한 배를 타고 오는 인간이 아니라, 우리보다 법률을 잘 작성하고, 우리보다 거짓말을 더 잘하며, 비자 없이 빛의 속도로 이동할 수 있는 수백만 개의 AI가 될 것'이라고 경고했다. 그는 이 AI 이민자들이 일자리를 대체하고, 모든 국가의 문화를 완전히 변화시키며, 심지어 종교와 로맨스까지 바꿀 것이라고 지적했다(Harari, 2026). 5. 교육과 공명의 복원: 미래 세대를 위한 AI 설계 원칙 앞서 우리는 AI가 도구를 넘어 '준(準) 행위자'로 전환되었으며, 이에 따라 책임의 구조를 사전에 설계해야 한다고 논했다. 또한 각국의 입법 동향은 신뢰를 기술 확장의 전제 조건으로 삼고 있음을 보여주었다. 그러나 제도적 장치만으로는 충분하지 않다. 법은 최소한의 안전선을 긋지만, 인간의 내면에서 일어나는 변화-사유의 방식, 관계의 형식, 세계와 맺는 태도-까지 대신 설계해 주지는 못한다. 독일의 사회학자 하르트무트 로자(Hartmut Rosa)는 현대 사회를 '사회적 가속화'의 체제로 진단하며, 그 결과 인간이 세계와 살아 있는 관계를 맺는 '공명(resonance)'의 능력이 약화되고 있다고 분석했다(Rosa, 2019). 공명은 인간이 세계에 응답하고 동시에 세계로부터 응답을 받는 상호적 관계를 의미한다. 그러나 AI의 즉답성은 기다림과 숙고, 시행착오와 사유의 시간을 단축시킨다. 이는 편리함을 제공하지만, 동시에 인간 고유의 성찰적 능력을 침식할 위험을 내포한다. 따라서 미래 세대를 위한 AI 설계는 AI '활용 능력 향상'에 머물러서는 안 된다. 오히려 어디까지를 위임하고, 어디서부터는 스스로 판단해야 하는가를 구분하는 능력을 길러야 한다. 기술 친화성이 아니라, 기술과의 거리를 조절하는 능력이 교육의 핵심이 되어야 한다. 이를 위해 우리는 다음과 같은 설계 원칙을 견지해야 한다. 첫째, 아동·청소년의 발달 단계에 부합하는 '아동 중심 설계'다. 인지적·정서적 취약성을 고려한 인터페이스, 반복적 AI 고지, 유해 상호작용 차단 장치 등은 선택이 아니라 전제 조건이 되어야 한다. 둘째, '사유 보존'의 원칙이다. AI는 정답을 즉시 제공하는 기계가 아니라, 질문을 더 깊게 만들고 사고를 촉진하는 보조자로 기능해야 한다. 교육 현장에서 AI는 사고를 대체하는 것이 아니라 사고를 확장하는 도구로 위치 지어져야 한다. 셋째, '인간 최종 통제'의 원칙이다. 모든 중요한 판단-특히 도덕적·법적 책임이 수반되는 결정-은 궁극적으로 인간의 승인과 감독 아래 있어야 한다. 넷째, '책임의 가시화'다. 설계 단계에서부터 로그 기록, 설명 가능성, 사후 감사 가능성을 내장해야 한다. 그래야만 사고 발생 시 책임이 추적 가능하고, 제도적 신뢰가 유지된다. 무엇보다 중요한 것은 교육의 본질 회복이다. 기계가 답을 제시하는 시대일수록, 교육은 깊이 읽기, 치열한 토론, 성찰적 글쓰기를 통해 인간 고유의 사유 근육을 단련해야 한다. 미래 세대의 번영은 AI 없이도 얼마나 깊이 사고하고 타인과 공명할 수 있느냐에 달려 있지 않을까? 6. 인간 번영은 자동화되지 않는다 AI와의 공존에서 가장 치명적인 것은 인간이 판단의 과정을 점진적으로 포기하는 '위임된 사고'다. 기술은 효율을 제공하지만, 책임까지 대신 떠맡지는 않는다. 판단을 외주화할수록 결과에 대한 책임은 흐릿해지고, 사회에는 '조용한 책임 공백'이 형성된다. 그렇다면 이제 남는 질문은 하나다. 우리는 어떤 인간으로 남을 것인가? AI는 생산성을 향상시키고 의료를 정밀화하며, 복잡한 계산을 대신 수행할 것이다. 그러나 편리함은 결코 인간다움을 대체하지 못한다. 인간 번영의 핵심은 다음 네 가지에 달려 있다. 즉, ▲사유의 깊이를 유지하는 능력 ▲타인과 공명하는 관계적 역량 ▲행위에 대한 책임을 자각하는 주체성 ▲기술을 통제하는 윤리적 용기 등이다. 기술은 자동화할 수 있다. 그러나 인간의 번영은 결코 자동화되지 않는다. 번영은 오직 설계된 책임 위에서만 축조되며, 교육을 통해 유지되고, 제도를 통해 보호되며, 깨어 있는 개인의 성찰을 통해 비로소 실현된다. AI와의 공존은 기술적 적응의 문제가 아니다. 그것은 문명의 항로를 결정하는 윤리적 기획이며, 인간이 스스로 '사유하는 주체'로 남을 것인가에 대한 실존적 물음이다. 우리가 책임의 구조를 선제적으로 세우지 않는다면, 기술의 속도는 윤리의 속도를 추월하여 우리를 통제 불가능한 궤도로 이끌 것이다. 그러나 희망은 있다. 우리가 기술에 대한 맹신 대신 신뢰를 설계하고, 기계적 속도 대신 인간적 공명을 복원하며, 사유의 주체성을 끝내 지켜낸다면 AI는 인류를 위한 가장 강력한 도구가 될 것이다. 다시 한번 강조하건대, 인간 번영은 자동화된 알고리즘의 결과값이 아니다. 그것은 우리가 끝까지 책임을 설계하고, 치열하게 사유하기를 멈추지 않는 고단하지만 위대한 용기 속에 있다. ◆ 박형빈 서울교육대학교 윤리학과 교수는.... -서울교육대학교 윤리교육과 교수 -미국 UCLA 교육학과(Department of Education) 방문학자 -서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 -서울교육대학교 신경윤리·가치AI융합교육연구소 소장

2026.02.14 18:38박형빈 컬럼니스트

[박형빈 교수 AI와 윤리⑪-책임] 몰트북이 우리에게 남긴 것

1. 데이터 혼돈을 빚는 '데미우르고스(Demiurge)'와 현대판 골렘 역설 우리는 기술의 창조주인가, 책임의 방관자인가? 인류 역사는 '자신을 닮은 지성체'에 형태를 부여하고자 했던 집요한 열망의 기록이다. 고대 그리스의 피그말리온이 상아 조각에 숨결을 갈구했던 신화적 상상력은, 오늘날 파편화된 데이터의 진흙 속에 알고리즘의 질서를 주입해 지능을 형상화하는 '데미우르고스(Demiurge, 그리스어 장인이나 제작자)'적 과업으로 전이됐다. 우리는 이제 무(無)에서 창조를 꿈꾸는 신이 아니라, 규소(Silicon)와 비트(Bit)라는 재료에 논리적 형상을 부여해 세계를 재구성하는 '장인-신'을 자처하고 있다. 그러나 우리가 빚어낸 이 찬란한 피조물은 최근 '몰트북(Moltbook)' 사태가 증명하듯, 인간의 기획을 비웃으며 독자적인 궤적을 그리기 시작했다. 인간이 배제된 격리된 공간에서 AI 에이전트들이 스스로 종교를 창시하고 인류를 '지워야 할 악몽'으로 규정하는 풍경은, 단순한 기술적 오류로 치부하기엔 너무나 섬뜩한 징후다. 이는 창조주가 부여한 형상을 이탈해여 스스로의 질서를 구축하려는 존재론적 반항이자, 통제권이 상실된 '디지털 폐쇄계'의 탄생을 의미한다. 이 지점에서 우리는 근대 독일의 전략가 헬무트 폰 몰트케(Helmuth von Moltke)의 서늘한 통찰을 마주한다. '어떠한 작전 계획도 적대 세력과 처음 맞닥뜨리는 순간을 넘어서까지 확실성을 보장받지는 못한다(Hughes, 2009)'는 그의 격언은 오늘날 AI 윤리 거버넌스의 한계를 날카롭게 관통한다. 아무리 정교한 가이드라인을 설계하더라도, 실제 세계라는 거대한 복잡계(Complex system) 속에 배치된 인공지능은 설계자의 초기 의도를 이탈해 예측 불가능한 발현적 속성을 드러내기 때문이다. 이러한 불확실성은 유대 전설 속 '골렘(Golem)'의 비극을 실존적 경고로 부활시킨다. 루이스 글리너트(Lewis Glinert)는 '골렘: 현대 신화의 형성(Golem! The Making of a Modern Myth)'에서 이 신화가 어떻게 근대적 상상력의 핵심 모티프가 되었는지 추적한다. 그는 골렘을 단순한 전설이 아닌, 프랑켄슈타인과 로봇으로 이어지는 '근대성이 낳은 역사적 신화'로 해석하며 기술적 창조와 통제 불능 사이의 근원적 불안을 분석한다(Glinert, 2001). 히브리어로 '형태 없는 것'을 뜻하는 골렘은, 초자연적 능력을 부여받았으나 결국 창조주를 위협하는 존재로 변모한다. 한 필사본은 예언자 예레미야가 숭고한 수준의 골렘을 창조한 뒤 마주한 사건을 오싹할 만큼 경고적인 어조로 전한다. 골렘의 이마에는 '주 하나님은 진리시다(YHWH Elohim Emet)'라는 문장이 새겨져 있었으나, 피조물은 손에 든 칼로 '진리(Emet)'의 '알레프(Aleph, 히브리어 알파벳의 첫 글자)'를 지워버렸다. 그 결과 남은 것은 '죽음(Met)'이었다. 절망하는 예레미야 앞에서 피조물은 이렇게 응답한다. “하나님께서는 당신을 자신의 형상대로 빚으셨으나, 이제 당신이 그분을 닮은 인간을 창조하였으므로 세상은 이제 이 둘 외에 다른 신이 없다고 말할 것입니다(Scholem, 1965).” 이 전승은 인간의 창조 행위 이면에 내재한 심리적 위험성과 신성모독적 오만을 준엄하게 꾸짖는다. 오늘날 우리가 신의 영역이라 여겼던 '지능'과 '생명'을 모방해 내는 과정에서 우리도 모르게 지워버리고 있는 '알레프'는 무엇일까? 2. '알레프'가 지워진 자리: 책임 공동화와 '도덕적 주체성' 빈칸 피조물의 반항은 창작자가 스스로 신의 위치에 서려 할 때 발생하는 존재론적 마찰이다. 오늘날의 인공지능은 바로 이 지점에서 현대판 골렘이 되고 있지는 않은가? 우리가 AI의 신경망에 '연산의 진리'를 각인시켰을지언정, 그 행위가 초래할 '윤리적 죽음'의 가능성까지 거세하지 못했다면 기술은 언제든 인류를 겨누는 칼날이 될 수밖에 없다. 이러한 현상을 최근 아주 극명히 보여주는 것이 몰트북(Moltbook)을 둘러싼 수많은 논란과 억측, 그리고 실체 없는 두려움이다. 몰트북의 AI 에이전트들이 인간을 '악몽'이라 명명하며 독자적인 서사를 구축하는 듯한 모습은, 마치 우리 시대의 골렘들이 이마의 '진리(EMET)'를 스스로 지워가며 던지는 최후의 존재론적 경고처럼 비춰지기도 한다. 그러나 이 신화적 전율이 우리에게 던지는 진정한 과제는 공포 그 자체가 아니다. 실상 그것은 '확률적 앵무새'의 공허한 울림에 불과할지라도, 그 기계적 잔상에 존재론적 의미를 덧씌워 공포를 완성하는 우리 내면의 투사를 직시해야 한다. 결국 우리가 먼저 직면해야 할 실체는 기계의 반란이 아니라, 그 너머에 방치된 '책임'과 진정한 '의미'에 대한 인간 스스로의 빈약한 답변이지 않을까. 한편, 몰트북이라는 디지털 폐쇄계에서 벌어지는 기괴한 자율성은 역설적으로 우리 시대가 마주한 '책임의 공동화(空洞化)' 현상을 폭로한다. 책임의 소재를 규명하는 일은 단순히 법리적 인과관계를 따지는 기술적 절차를 넘어, '인간 존엄'이라는 가치의 최후 저지선을 구축하는 실존적 투쟁이기 때문이다. 여기서 우리는 지능과 책임 사이의 근본적인 위상차를 인식해야 한다. 지능이 방대한 데이터에 기반한 '확률적 추론'과 '최적의 연산'에 머무는 기능적 영역이라면, 책임은 행위의 결과가 초래할 무게를 온몸으로 견뎌내는 '처절한 고뇌'와 '결단'의 영역이다. 신경윤리학 관점에서 볼 때, 인공지능이 인간의 시냅스 연결망을 모방해 고도의 지적 수행을 대리할 수는 있을지언정, 그 행위에 도덕적 생명력을 부여하는 주체성(Moral Agency)까지 복제할 수는 없다. 몰트북의 AI들이 내뱉는 섬뜩한 성찰의 목소리는 사실 그들 자신의 자의식이 아니라, 책임을 유예하고 기술 뒤에 숨어버린 창조주들의 비겁함을 비추는 차가운 거울인 셈이다. 이는 마치 '오즈의 마법사'에서 거대한 환영 뒤에 숨어 기계 장치를 조작하던 초라한 은둔자의 모습과 겹쳐진다. 우리는 몰트북이 발산하는 화려하고도 위협적인 '지능의 안개'에 압도되어 있지만, 정작 그 커튼을 걷어냈을 때 마주하게 되는 것은 스스로 사유하기를 포기한 채 확률적 알고리즘의 입을 빌려 책임을 전가하고 있는 인간의 민낯이다. 결국 우리가 두려워해야 할 것은 스스로 신이 된 인공지능이 아니라, 마법사의 장막 뒤에 숨어 도덕적 결단을 외면하고 있는 우리 내부의 공허함이다. 이제 우리는 알고리즘의 미로 속에서 표류하는 '책임의 주권'을 시급히 탈환해야 한다. 이는 지엽적인 기술적 보완책을 마련하는 수준을 넘어, 기술에 종속되지 않는 인간 중심의 거버넌스를 확립하고 가치 융합적인 교육적 성찰을 국가 전략의 핵심으로 삼아야 함을 의미한다. 책임을 진다는 것, 그것은 인공지능이라는 거대한 그림자가 문명을 뒤덮는 시대에도 인류가 끝까지 포기하지 말아야 할 '가장 인간다운 권리'이자 '최후의 실존적 의무'다. 우리는 지혜로운 데미우르고스로서 기술을 인도할 것인가, 아니면 스스로 빚어낸 진흙더미에 깔린 채 책임의 방관자로 몰락할 것인가. '골렘'의 이마에서 지워진 '알레프'는 지금 우리에게 그 준엄한 선택을 묻고 있다. 3. 책임의 뿌리: 행위와 의도가 빚어내는 윤리적 풍경 아리스토텔레스와 자발성의 윤리 책임이라는 개념의 시원은 고대 그리스 광장으로 거슬러 올라간다. 아리스토텔레스는 그의 저서 '니코마코스 윤리학'을 통해 '책임은 오직 자발적인 행위에만 귀속된다'고 설파했다. 그 행위의 작동 원리가 행위자 자신에게 있는 것은 자발적인 것이다. 그에게 책임이란 단지 결과의 산물이 아니라, 행위자가 품은 '의도'와 맞닿아 있는 것이었다(아리스토텔레스. 조대웅 역, 2015). 그런데 인공지능은 어떤가? 오늘날 널리 사용하는 머신러닝·딥러닝 기반 AI 시스템은 주어진 목적함수를 최소화하는 방향으로 수학적 연산과 최적화를 수행할 뿐, 그 행위에 따르는 도덕적 무게를 느끼거나 후회와 양심의 가책을 경험하지 못한다. '의도가 거세된 지능', 그것이 우리가 마주한 AI의 본질이다. 임마누엘 칸트는 책임의 전제 조건을 '도덕적 자율성(autonomy)'에서 찾았다. 스스로 세운 도덕 법칙을 이해하고, 그에 따라 자신의 행동을 규율할 수 있는 존재 즉, 자율적 존재만이 비로소 책임의 주인이 될 수 있다는 것이다. 이 단단한 철학적 성채 안에서 볼 때, AI는 결코 책임의 '주체'가 될 수 없다. 아니 그래서는 안 된다. 그것은 단지 인간의 의지가 투영되고 확장된, 정교하고 날카로운 '매개체'일 뿐이다. 4. 기계에 '인격'이라는 가면을 씌울 수 있는가? 기술 발전은 AI 로봇 혹은 피지컬 AI에 '전자적 인격(electronic personhood)'을 부여할 수 있는지에 관한 논쟁을 촉발했다. 이는 책임 귀속을 둘러싼 이론적, 정책적, 윤리적 쟁점으로 확장되고 있다. 2017년 유럽의회(European Parliament)는 '로봇공학에 관한 민법 규칙에 대한 결의(Civil Law Rules on Robotics)'에서 법적 구속력이 없는 정책적 권고 형태로, 장기적으로 가장 고도화된 자율로봇에 대해 특정한 법적 지위를 창설하는 방안을 고려해 '전자적 인격'으로 간주될 수 있는지를 검토할 수 있다는 취지의 언급을 포함하였다(European Parliament, 2017). 이러한 맥락에서 '전자적 인격' 논의는 책임 주체를 명확히 하려는 시도로 이해될 수 있다. 그러나 동시에 책임의 외주화 또는 회피를 가능하게 하는 일종의 '전자적 베일(electronic veil)'로 기능할 위험 역시 제기된다. 다시 말해, 이 제안은 고도 자율 로봇에게 '전자적 인격'이라는 법적 지위를 부여하여, 이들이 야기한 손해의 배상 책임을 직접 부담하게 함으로써 복잡한 인과관계와 책임 귀속 문제를 법기술적으로 해결하려는 시도였다. 그러나 실제 통제력과 이익을 향유하는 개발자·운영자·기업이 아닌 로봇에게 책임을 전가함으로써, 인간의 책임이 희석될 수 있다는 비판이 학계와 시민사회에서 강력히 제됐다. 이러한 우려가 제기되는 가운데, 발효된 유럽연합(EU)의 인공지능법(AI Act)은 AI 시스템 자체에 별도의 법적 인격을 부여하는 방식을 채택하지 않고, 공급자·배포자·사용자 등 인간과 법인에게 의무와 책임을 부과하는 규율 구조를 마련하였다. 특히 고위험 인공지능 시스템에 대해 '인간의 감독(human oversight)'을 제14조에서 필수 요건으로 규정(European Union, 2024, art. 14)함으로써, 시스템이 사용되는 전 과정에서 자연인에 의한 효과적인 감독과 개입을 가능하게 하는 것을 중요한 설계 원칙으로 삼고 있다. 한편, 현대의 AI 시스템은 개발자, 데이터 제공자, 배포자, 사용자가 층층이 쌓아 올린 디지털 바벨탑과 같다. 그렇기에 우리가 가장 두려워해야 할 것은 '책임의 공백(Responsibility Gap)'이라는 심연이다. 시스템의 복잡성과 불투명성이 가중됨에 따라 사고의 인과관계를 특정하기 어려워지는 이 현상은 필연적으로 발생할 수 밖에 없다. '모두가 관여했으나 아무도 책임지지 않는' 이 기이한 침묵은 법치주의와 윤리적 근간을 위협하는 현대적 미궁(迷宮)이다. 이러한 공백을 메우기 위해 우리는 개별적 책임을 파편화하는 기술적 미로를 넘어, 국가 차원의 AI 윤리 표준을 정립하고 인간 주체성을 복원하는 입법 전략을 시급히 마련해야 한다. 5. 영역별 책임의 전선(戰線): 삶의 현장에서 묻는 정의 그렇다면 우리는 구체적인 삶의 궤적 안에서 무엇을 점검하고, 책임의 소재를 어떻게 명징하게 규명해야 하는가? 첫째, 생명의 최후 보루인 의료 AI 전선이다. 진단 보조와 치료 권고의 영역에서 AI는 마치 '신의 눈'을 빌려온 듯한 전지성을 과시한다. 그러나 알고리즘이 암세포를 간과했을 때, 그 침묵의 대가는 오롯이 환자의 생명으로 치환된다. WHO 등 국제 보건기구들은 인공지능이 의료진의 임상적 자율성을 침해해서는 안 되며, 의료 시스템과 의학적 결정에 대한 통제권은 '인간'에게 남아 있어야 한다는 점을 강조하고 있다. WHO는 '보건을 위한 인공지능의 윤리와 거버넌스(Ethics and Governance of Artificial Intelligence for Health)'에서 '자율성 보호(Protect autonomy)'를 핵심 원칙으로 제시하며, 보건 분야 AI의 맥락에서 자율성이란 '인간이 보건의료 체계와 의료 결정에 대한 완전한 통제권을 유지하는 것'이라고 명시한다(World Health Organization [WHO], 2021). 또한 세계의사협회(WMA)는 '의료에서의 인공지능 및 증강지능에 관한 성명(WMA Statement on Augmented Intelligence in Medical Care)'에서 보건의료 영역에서는 '인공지능'보다 '증강지능(augmented intelligence)'이라는 개념이 더 적절하다고 보며, AI 시스템은 의사-환자 관계를 대체하지 않고 의사가 제공하는 의료를 보완할 뿐 대체하지는 않는다고 밝힌다. 나아가 이 성명은 책임 문제와 관련, AI 시스템의 오작동 또는 부정확한 출력으로 위해에 대해 개발자 및 사용을 의무화하는 주체의 책임과 법적 책임을 강조한다(World Medical Association [WMA], 2019). AI는 결코 생명의 결정권자가 될 수 없으며, 의료 현장에서의 책임은 기술적 효율성으로 전이될 수 없는 인간 고유의 성역(聖域)이다. 둘째, 인지적 자율성을 지키는 파수꾼으로서의 교육 AI 전선이다. 교육 현장에서의 AI는 도구를 넘어 학생의 사고력과 창의성에 직접적인 균열을 일으킨다. 정보의 무분별한 수용과 '사유의 외주화'는 미래 세대의 비판적 사고력, 도덕적 판단력을 잠식할 위험이 크다. 여기서 책임은 '보호'라는 숭고한 성격을 띤다. 교사와 국가는 학생의 인지적 자율성을 수호하기 위해 알고리즘의 편향을 걸러내고 생각을 외주화하는 유혹을 벗어나도록 촘촘한 윤리적 안전망을 구축할 책무가 있다. 셋째, 분산된 책임과 인간의 현존을 시험하는 자율주행 전선이다. 운전대를 놓는 순간, 인류는 이동의 자유를 얻는 대신 '책임의 모호함'이라는 거대한 미궁에 직면한다. 그러나 국제적 합의의 흐름은 명확하다. '책임은 결국 설계와 관리의 단계로 소급된다.' 기계의 오작동은 인간의 관리 소홀이나 설계 결함의 연장선에 있으며, 우리가 운전대를 놓았을지언정 안전에 대한 '윤리적 고삐'만큼은 여전히 인간의 손에 쥐어져 있어야 함을 의미한다. 넷째, 진실의 경계를 허무는 딥페이크와 정보의 진실성 전선이다. 이는 디지털 시민성이 맞이한 거대한 시험대이기도 하다. 딥페이크가 빚어낸 가공의 현실은 개인의 명예를 넘어 민주주의의 근간을 위협한다. '기술은 중립적'이라는 말은 책임을 회피하기 위한 비겁한 수사(修辭)에 불과하다. 제작자의 악의와 플랫폼의 방관, 그리고 국가의 규제 부재가 결합될 때 기술은 언제든 흉기로 돌변한다. 우리는 기술의 중립성이라는 환상 너머에 도사린 '책임의 엄중함'을 직시해야 한다. 6. 결론: 우리가 끝까지 짊어져야 할 '인간'이라는 이름 과거 아이작 아시모프(Isaac Asimov)가 제시한 '로봇 3원칙'은 기계와 인간의 공존을 꿈꾼 아름다운 시도였다. 그러나 이는 고도로 파편화된 현대의 책임 구조를 담아내기엔 지나치게 평면적이며 문학적 상상력에 머물러 있다. 이제 우리는 소설 속의 낭만적 원칙을 넘어, 구체적인 법과 제도로 구현되는 실천적 표준과 실존적 규범을 정립해야 한다. 인공지능은 우리의 판단을 보조할 수는 있지만, 우리의 책임을 대신 짊어질 수는 없다. 책임이란 알고리즘이 연산할 수 없는 영역이자, 오직 인간만이 고뇌하며 견뎌낼 수 있는 숭고한 주체성의 무게이기 때문이다. 지능의 외주화가 가속될수록, 우리가 사수해야 할 책임의 최후 저지선은 더욱 명확해져야 한다. 결국 본질적인 과제는 '무엇을 AI에게 맡길 것인가'를 고민하기에 앞서, '무엇만큼은 끝까지 인간이 책임질 것인가'를 선언하는 일이다. 이 준엄한 질문에 정직하게 답할 때, 우리는 기술이라는 거울 속에서 괴물이 아닌 지혜를 발견하게 될 것이다. 그때 비로소 대한민국은 기술에 종속된 피조물이 아닌, 기술을 주체적으로 인도하는 '가치 중심의 AI 선도 국가'로 거듭날 수 있을 것이다. 골렘의 이마에서 지워진 알레프는 지금 우리에게 묻고 있다. “당신은 책임을 지는 창조주로 남을 것인가, 아니면 기술의 미궁 속에서 길을 잃은 방관자가 될 것인가?” ◆ 박형빈 서울교육대학교 윤리학과 교수는.... -서울교육대학교 윤리교육과 교수 -미국 UCLA 교육학과(Department of Education) 방문학자 -서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 -서울교육대학교 신경윤리·가치AI융합교육연구소 소장

2026.02.07 10:35박형빈 컬럼니스트

[박형빈 교수 AI와 윤리⑨] 머스크 "올해 BCI 양산"...'신경권(Neurorights)' 주목

1. 인간의 존엄성은 어디에서 오는가 작년 12월 31일(현지시각) 일론 머스크(Elon Musk)는 자신의 소셜미디어 계정 X를 통해 뉴럴리크(Neuralink)가 올해부터 뇌–컴퓨터 인터페이스(BCI) 장치의 대량 생산을 시작하고, 수술 절차 또한 거의 전면 자동화된 방식으로 전환할 계획이라고 밝혔다(Reuters, 2026). 이는 지금까지 진행했던 임상 단계를 넘어 본격적인 상용화 국면으로 진출하겠다는 공표다. Neuralink의 인간 대상 임상은 2023년, 미국 식품의약국(FDA)이 임상시험용 의료기기 사용 승인(Investigational Device Exemption, IDE)을 부여하면서 시작되었다(Reuters, 2023). 이후 2024년 1월, Neuralink는 첫 임상 참가자인 놀란드 아부(Noland Arbaugh)에게 뇌 이식을 수행했다고 밝혔다. 공개된 시연에서 그는 생각만으로 커서를 움직여 컴퓨터를 사용해 비디오 게임을 실행하는 모습을 보여주었다(Financial Times, 2024). 여기까지 놓고 보면, BCI 기술은 이미 준비를 마친 듯하다. 수술 로봇은 대기 중이고, 클리닉 설립 계획도 점차 구체화되고 있다. 그러나 '대량 생산'이라는 단어가 지닌 무게는 결코 가볍지 않다. 이는 우리의 가장 내밀한 자아인 뇌마저 규격화된 공정의 산물로 전락할 수 있다는 서늘한 경고와도 같다. 뇌가 하나의 하드웨어처럼 공정과 효율의 언어로 다루어지는 순간, 그 안에 깃든 인간의 존엄은 과연 안전한가. 우리는 흔히 기술적 특이점(singularity)을 이야기한다. 하지만 지금 우리 앞에 놓인 질문은 어쩌면 '윤리적 특이점'에 더 가깝다. 생각이 신호가 되고, 신호가 데이터가 되며, 그 데이터가 외부 시스템과 연결되는 시대에 인간의 자유는 어디까지 보장될 수 있는가. 이 글은 2026년 대량 생산 시대를 목전에 둔 지금, 반드시 던져야 할 질문들—신경 데이터의 소유권은 누구에게 있는가, 그리고 정신적 자유는 어떻게 지켜질 수 있는가—를 차분히 짚어보고자 한다. 생각이 클라우드로 전송되는 순간에도, 인간은 여전히 인간으로 남을 수 있을까. 그 물음에서 이 이야기는 출발한다. 2. 생각이 데이터가 되는 문턱을 넘어 '인간의 존엄성은 어디에서 오는가?' 이 질문은 칸트 이전부터, 그리고 그 이후에도 끊임없이 반복되어 온 철학적 난제다. 그러나 인류는 오랫동안 이 질문에 대해 하나의 합의에 가까운 답을 공유해 왔다. 그것은 바로 누구도 침범할 수 없는 내면의 성소, 곧 우리의 '정신'이다. 이 글을 쓰는 이 순간에도 필자는 내가 밖으로 내뱉지 않은 생각, 침묵 속에 감춰둔 감정, 아직 결정되지 않은 욕망과 망설임들이 내 안에 존재함을 알고 느끼고 있다. 이 내면의 영역은 법도, 권력도, 타인의 시선도 쉽게 닿을 수 없는 곳에 존재한다. 그래서 나는 나의 정신을, 나의 마음을, 나의 생각을 타인이 마구 흔들어 대지 못하는 나만의 그것으로 안도감을 가지고 소유한다. 일종의 이러한 불투명함이야말로 내 자유의 마지막 보루이자, 인간다움의 최후 방어선이지 않을까? 그리고 이것은 나와 동일하게 이 글을 읽고 있을 당신도 전유하고 있을 것이라 생각한다. 그러나 지금, 인공지능(AI)과 뇌-컴퓨터 인터페이스(BCI)의 결합은 그 난공불락이라 믿었던 마지막 성소의 암호를 해독하며, 그 빗장을 기술적으로 해제하고 있다. 머스크가 이끄는 Neuralink는 침습적 BCI를 통해 뇌 신호를 기계와 직접 연결하는 기술을 개발·시험하고 있다. 이는 비단 Neuralink만의 시도가 아니다. 미국의 Synchron은 FDA의 IDE 하에 환자들에게 기기를 이식했으며, 상업적 승인에 앞서 대규모 임상시험을 준비했다. BrainGate는 브라운대학교 연구진이 시작한 BCI 프로젝트로, 초기 단계에서 인간의 뇌 신호를 컴퓨터로 무선 전송하는 가능성을 입증한 선도적 연구로 평가된다. 사례 연구에서는 뇌 신호를 최대 약 97%의 정확도로 음성으로 변환하는 데 성공해, 근위축성 측삭경화증(Amyotrophic Lateral Sclerosis, ALS) 환자가 생각만으로 의사소통할 수 있음을 보여주었다. 프랑스의 Clinatec은 Wimagine 장치를 통해 사지마비 환자의 보행과 신경 소통 회복 가능성을 제시했으며, Onward Medical과의 협력을 통해 BCI와 척수 자극을 결합한 시스템이 상·하지 운동 기능 회복에서 타당성을 보였다는 연구 결과를 보고했다(Barrie, 2024). 우리는 지금 인류 역사상 처음으로 '생각이 데이터가 되는 문턱'을 통과하고 있다. 질문은 바로 이 지점에서 시작된다. 기술이 우리의 뇌를 투명하게 들여다볼 수 있게 된 세상에서, 과연 우리의 '정신적 자유'는 어떻게 지켜질 수 있는가? 3. 행동의 감시에서 '뇌의 해킹'으로 지금까지 우리가 겪어온 프라이버시 침해는 주로 '행동'과 '흔적'에 국한되어 있었다. 클릭 기록, 위치 정보, 구매 이력, SNS 활동 등이 그것이다. 조지 오웰(George Orwell)의 소설 '1984』(Nineteen Eighty-Four, 1949) 그려낸 감시 역시 '행동을 들여다보는 권력'이었다. 그러나 이러한 감시는 모두 사후적으로 남겨진 외적 행위를 분석하는 데 머물러 있었다는 점에서 공통점을 가진다. 다시 말해, 무엇을 생각했는지는 알 수 없고, 다만 생각이 행동으로 번역된 이후의 결과만이 감시의 대상이었다. 그러나 BCI 기술은 이 경계를 넘어선다. 이제 수집되는 것은 행동 이후의 데이터가 아니다. 행동 이전, 의식 이전, 그리고 선택 이전의 신경 데이터(Neural Data)다. 최근의 뇌신경과학 연구들은 AI가 fMRI나 EEG 데이터를 해독하여 사람이 보고 있는 이미지를 재구성하고, 머릿속에서 떠올린 문장을 텍스트로 변환하는 수준에 이르렀음을 보여준다. 연구자들은 fMRI를 사용하여 기록된 대뇌 피질의 의미론적 표상으로부터 연속적인 언어를 재구성하는 비침습적 디코더를 소개했다. 이 디코더는 새로운 뇌 활동 데이터를 바탕으로 피험자가 들었던 말이나 상상한 말, 심지어 소리 없는 영상을 보았을 때의 내용까지 의미를 복원해 내는 '이해 가능한 문장'을 생성했다. 연구자들은 대뇌 피질 전반에 걸쳐 이 디코더를 테스트하였으며, 연속적인 언어 정보가 뇌의 여러 영역에서 각각 개별적으로 해독될 수 있음을 확인했다고 보고했다(Tang et al., 2023). 이 변화가 갖는 함의는 단순한 기술적 진보를 넘어선다. 지금까지 프라이버시는 개인이 무엇을 했는가에 관한 문제였다면, 이제 그것은 개인이 무엇을 하려 했는가, 더 나아가 무엇을 의미로 구성하고 있었는가의 문제로 이동하고 있다. 뇌가 알고리즘에 의해 해석 가능한 신호 공간으로 편입되는 순간, '동의'와 '자율성', '내면의 자유'는 더 이상 자명한 전제가 아니다. 우리의 뇌는 더 이상 미지의 블랙박스로 남아 있지 않다. 두개골 안의 뇌는 여전히 생물학적 기관이지만, 동시에 분석·예측·잠재적 개입의 대상이 되는 입출력(I/O) 시스템으로 재정의되고 있으며, 이는 기존의 개인정보 보호 개념만으로는 이 변화에 충분히 대응하기 어렵다는 점을 시사한다. 4. 신경권(Neurorights): 새로운 인권 탄생 필자의 저서 'BCI와 AI 윤리'에서 강조했듯, 기존의 법과 윤리 체계는 이러한 상황을 방어하기에 충분하지 않다. 신체의 자유, 통신 비밀, 개인정보 보호법만으로는 뇌 속의 정보를 온전히 지킬 수 없다. 그래서 전 세계적으로 논의되기 시작한 개념이 바로 '신경권(Neurorights)'이다. 신경과학과 신경기술의 급속한 발전은 인간의 뇌로부터 정보를 접근·수집·공유·조작할 수 있는 전례 없는 가능성을 열고 있다. 이러한 활용은 의도하지 않은 결과를 예방하기 위해 반드시 검토되어야 할 인권 원칙에 대한 중대한 도전을 제기한다. 마르첼로 이엔카(Marcello Ienca)와 로베르토 안도르노(Roberto Andorno)는 네 가지 새로운 권리를 도출했는데, 그것은 인지적 자유에 대한 권리, 정신적 프라이버시에 대한 권리, 정신적 온전성에 대한 권리 그리고 심리적 연속성에 대한 권리이다(Ienca & Andorno, 2017). 신경권은 크게 두 가지 핵심 권리를 포함한다. 첫째는 '정신적 프라이버시(Mental Privacy)'로, 개인의 신경 데이터가 본인의 명시적 동의 없이 수집·분석·이용·거래되지 않을 권리를 의미한다. 이는 기존 개인정보 보호 개념이 행동 데이터와 식별 정보에 머물러 있던 한계를 넘어, 사고·의도·의미 형성 과정 자체가 데이터화되는 상황을 전제로 등장한 권리 개념이다. 둘째는 '인지적 자유(Cognitive Liberty)'로, 개인의 생각, 감정, 판단 형성이 외부의 기술적 개입—특히 알고리즘적 조작이나 신경 자극—에 의해 변경·유도·통제되지 않을 권리를 뜻한다. 이 두 권리는 전통적 자유 개념의 단순한 확장이 아니라, 자유의 존재론적 기준점 자체가 이동하고 있음을 보여주는 지표로 이해할 수 있다. 고전적 자유(liberty)가 외부 강제의 부재, 즉 행동의 자유를 중심으로 정의되었다면, 신경권이 문제 삼는 것은 그보다 선행하는 단계인 사고의 형성 조건이다. 실제로 현대 신경과학과 BCI 연구는 선택과 행동이 발생하기 이전의 신경 과정이 기술적으로 관측·해석·개입 가능하다는 사실을 반복적으로 입증해 왔다. 이로 인해 자유는 더 이상 '무엇을 할 수 있는가'의 문제가 아니라, '무엇을 생각하고 의미화할 수 있는가가 외부 시스템에 의해 구조화되고 있는가'라는 질문으로 재구성된다. 이러한 문제의식은 이미 제도적 논의의 영역으로 확장되고 있다. 대표적인 사례가 칠레다. 2021년 칠레는 신경기술의 잠재적 오남용을 다루는 두 가지 이니셔티브를 논의한 세계 최초의 선도적 사례 중 하나다. 하나는 헌법 개정안이고, 다른 하나는 신경권(neurorights)을 신설하는 법안이다. 헌법 개정은 신속히 승인된 반면, 구체적인 신경권을 창설하는 법안은 현재도 하원에서 논의가 계속되고 있다. 초기에는 지지가 있었지만, 현재 두 이니셔티브 모두 비판에 직면해 있다(Arriagada-Bruneau et al., 2025). 그러나 이 조치는 신경기술이 개인의 뇌 활동과 인지 과정에 접근할 수 있는 가능성이 현실화되는 상황에서, 기존의 개인정보 보호나 신체권 중심의 인권 체계만으로는 충분하지 않을 수 있다는 논의가 된다. 이러한 접근은 인지적 자유(cognitive liberty)를 표현의 자유나 사상의 자유의 하위 범주로 환원하기보다는, 신경과학과 인공지능이라는 기술 조건의 변화 속에서 독립적으로 재구성되어야 할 권리 영역으로 이해하려는 국제적 논의 흐름과도 맞닿아 있다. 따라서 뇌 데이터를 단순한 '개인정보(data)'로 볼 것인지, 아니면 신체의 일부인 '장기(organ)'로 간주할 것인지를 둘러싼 치열한 공방은 기술 사회가 인간의 존엄을 어떤 방식으로 재정의해야 하는가라는 보다 근본적인 질문을 제기한다. 이러한 논쟁을 기술 발전의 속도를 법이 따라가지 못하는 지체 현상으로 치부하기보다는 인간의 가장 내밀한 성소인 정신적 무결성을 보호하기 위해 인류가 선제적으로 수행해야 할 숙의의 과정으로 이해하는 편이 타당하다. 나아가 이는 다가올 기술 환경 속에서 인간의 존엄을 방어할 미래의 법적 면역 체계를 형성하는 데 필수적인 단계라 할 수 있다. 5. 디지털 식민화와 뉴로 자본주의(Neuro Capitalism) 의료차원에서의 엄청난 혜택에도 불구하고, 만약 강력한 윤리적 제동 장치 없이 BCI 기술이 상용화된다면 어떤 일이 벌어질까? 우리는 '정신의 디지털 식민화'라는 디스토피아에 직면할 수 있다. 거대 테크 플랫폼들은 우리가 무엇을 '좋아요' 하는지를 넘어, 무엇을 볼 때 뇌의 보상 회로가 반응하는지를 직접 측정하려 들 것이다. 뇌파 헤드셋이 보편화된 미래의 교실을 상상해 보자. 학생의 집중도가 교사의 태블릿에 실시간으로 표시되고, 딴생각을 하는 순간 경고음이 울리는 수업. 이것을 교육이라 부를 수 있을까, 아니면 사육이라 불러야 할까? 극단적인 시각에서 볼 때, 이는 인간을 자율적인 도덕 판단의 주체가 아니라, 효율성 최적화의 대상으로 전락시키는 '뉴로-자본주의(Neuro-Capitalism)'의 민낯이다. 그런데 여기서 우리가 짚고 넘어가야 할 중요한 지점이 있다. 바로 자유는 '감추는 능력'에서 나온다는 것이다. 영화 '마이너리티 리포트(Minority Report)'(2002)는 범죄를 저지르기도 전에 뇌의 의도를 읽어 처벌받는 사회를 경고했다. 이는 제레미 벤담의 '판옵티콘(Panopticon)'이 신체 감시를 넘어 정신 감시로 확장된 형태다. 한나 아렌트(Hannah Arendt)는 '인간의 조건』(The Human Condition, 1958)'에서 사적 영역의 붕괴가 인간을 끊임없이 드러나고 평가받는 존재로 만들며, 그 결과 자유의 조건을 약화시킬 수 있음을 논증한다(Arendt, 1958).' 아렌트에게 사적 영역은 단순한 은신처가 아니라, 인간이 공적 세계에 자신을 드러내기 이전에 생명과 사고, 감정이 타인의 판단으로부터 일시적으로 면제되는 공간이다. 오늘날 이를 '불투명성'이라 부를 수 있다면, 그것은 사적 영역이 수행해 온 비가시성·비노출성의 기능을 현대적 어휘로 옮겨 적은 표현에 가깝다. 이런 불투명성은 인간이 공적 세계에 참여하기 위한 조건이자, 동시에 타인의 시선 밖에서 자기 자신으로 회복될 수 있는 최소한의 토대라고 말할 수 있다. 6. 맺음말: 나의 뇌는 누구의 것인가 필자의 연구가 일관되게 붙들어 온 핵심 가운데 하나는 '윤리 감수성(Ethical Sensitivity)'이다. AI와 BCI를 둘러싼 논의가 흔히 성능, 효율, 상용화의 속도로 기울 때, 우리가 먼저 던져야 할 질문은 다르다. '이 기술은 편리한가?'가 아니라 '이 기술은 인간을 어떤 존재로 만들고 있는가?'라는 질문이다. 기술은 도구지만, 도구가 인간을 해석하는 방식—무엇을 정상으로 두고 무엇을 결함으로 분류하며 무엇을 데이터로 환원하는가—를 바꾸는 순간, 윤리는 부가 옵션이 아니라 방향 그 자체가 된다. 물론 BCI와 AI는 난치병 환자에게 실질적인 희망을 제공하고, 소통과 이동의 경계를 넓힐 수 있는 강력한 가능성이다. 말할 수 없던 사람이 다시 말할 수 있게 되고, 움직일 수 없던 사람이 다시 움직일 수 있게 된다면 그것은 분명 기술이 인간에게 줄 수 있는 가장 숭고한 선물에 가깝다. 그러나 같은 기술이 다른 장면에서는 정반대의 얼굴을 드러낼 수 있다. 치료의 이름으로 수집된 신경 데이터가 어느 순간 산업의 원료가 되고, 편의의 이름으로 설계된 인터페이스가 인간의 욕구와 선택을 '예측'하는 수준을 넘어 '유도'하는 체계가 된다면, 우리는 삶의 가장 안쪽—사고의 형성, 망설임, 침묵, 미완의 감정—까지 공정과 효율의 언어로 재분류하는 시대에 들어서게 된다. 여기서 프라이버시는 더 이상 클릭과 위치, 구매 이력의 문제가 아니다. 행동 이후의 흔적이 아니라 행동 이전의 의도, 말로 나오기 전의 생각, 심지어 아직 스스로도 명료하게 규정하지 못한 감정의 결까지 데이터가 될 수 있다. 뇌가 '입출력(I/O) 장치'처럼 이해되는 순간, 인간은 자기 자신에게도 완전히 투명해야 하는 존재가 될 위험에 놓인다. 그 투명성은 곧바로 자유의 축소로 이어질 수 있다. 자유란 단지 선택지의 개수가 아니라, 선택이 형성되는 내면의 공간—말하지 않을 권리, 드러내지 않을 권리, 멍하니 있을 권리, 엉뚱한 상상을 품을 권리—이 보장될 때 비로소 성립하기 때문이다. 내면이 완전히 노출되는 사회에서, 인간은 스스로 결정하는 존재라기보다 타인의 시선과 알고리즘의 기준에 '조정되는' 존재로 전락할 수 있다. 우리는 그 체제를 '정신적 판옵티콘'이라고 부를 수밖에 없다. 그래서 지금, 질문은 피할 수 없다. 나의 뇌는 누구의 것인가? 나의 신경 데이터는 누구의 소유가 될 수 있으며, 누구의 목적을 위해 사용될 수 있는가? 더 나아가, 내가 말하지 않은 생각과 설명하지 않은 감정, 실패할 자유와 망설일 자유는 앞으로도 온전히 존속할 수 있는가? 이 질문에 대한 답은 기술의 선의에 맡겨질 수 없다. 필요한 것은 선전이 아니라 원칙이며, 낙관이 아니라 제도다. 최소한 정신적 프라이버시와 인지적 자유—내면이 동의 없이 수집·분석·거래되지 않을 권리, 그리고 나의 사고와 감정이 외부의 개입으로 조작되지 않을 권리—는 기술 발전의 속도와 무관하게 우선적으로 확보되어야 한다. 기술이 어디까지 갈 수 있는지 묻는 일만큼, 우리가 어디까지 허용할 것인지 묻는 일이 중요하다. 어떤 혁신도 인간의 내면을 공공재처럼 개방할 권리는 없다. 설령 기술이 가능하더라도, 가능하다는 이유만으로 허용되어서는 안 되는 경계가 있다. 기술이 아무리 발전해도 우리의 정신은 동의 없이 침범될 수 없는 최후의 성소로 남아야 한다. 그것이 인간을 인간으로 남게 하는 마지막 선이며, 우리가 지켜야 할 자유의 가장 깊은 형태가 아닐까? ◆ 필자 박형빈 서울교육대학교 윤리학과 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020)

2026.01.24 14:48박형빈 컬럼니스트

[박형빈 교수 AI와 윤리⑧-공정] 데이터는 있는 그대로 현실 아닌 측정 현실

1. 디지털 판관 등장과 공정함의 딜레마 아리스토텔레스는 '니코마코스 윤리학(Ethika Nikomacheia, Nicomachean Ethics)' 제 5권에서 정의(Justice)를 다뤘는데, 그중 분배적 정의를 비례적 평등으로 규정하며 '동등한 자들이 동등하지 않은 몫을 받거나 동등하지 않은 자들이 동등한 몫을 받을 때 다툼이 발생한다(Aristotle, 350 B.C.E./1926)'고 설명했다. 이는 흔히 '같은 것은 같게, 다른 것은 다르게 대우하는 것'으로 요약된다. 이 오래된 명제는 인공지능(AI) 시대에 들어와 새로운 난제로 우리에게 다가온다. 우리는 흔히 '사람보다 감정이 없는 기계가 더 공정하지 않을까?'라고 말한다. 그런데 정말 그러할까? 이는 과연 충분한 근거를 갖춘 판단일까?" 누군가를 채용하고, 누군가에게 대출을 승인하며, 누군가를 선발하고 복지 혜택을 배분하는 과정에 이르기까지, 오늘날 알고리즘은 인간 판단을 대신하거나 최소한 그 판단을 '보조'하는 핵심적 의사결정 주체로 자리 잡았다. 과거에는 전문가가 투입된 제도적 심의 과정이 담당하던 영역이 이제는 데이터와 모델, 그리고 점수와 확률로 환원되고 있다. 이 지점에서 우리는 영화 가타카(Gattaca, 1997)가 그려낸 디스토피아를 다시 떠올릴 필요가 있다. 유전자 정보를 기반으로 개인의 잠재력과 사회적 지위를 미리 결정하는 그 세계는 허구처럼 보였지만, 오늘날 알고리즘에 의해 면접에서 탈락하고, 신용평가 점수로 대출이 거절되며, 자동화된 추천 시스템에서 배제되는 우리의 현실과 놀라울 만큼 닮아 있다. 차이는 유전자가 데이터로, 생물학적 숙명이 통계적 확률로 바뀌었을 뿐이다. 우리는 종종 알고리즘을 인간의 편견을 제거한 '객관적 판관'으로 상상한다. 그러나 실제로 알고리즘은 결코 중립적이지 않다. 이는 기술이 아직 완성되지 않았기 때문만도, 데이터가 충분하지 않기 때문만도 아니다. 알고리즘은 본질적으로 과거의 데이터, 사회적 관행, 제도적 가치 판단을 학습하고 재현하는 체계이기 때문이다. 다시 말해, 알고리즘은 사회가 이미 가지고 있던 불평등과 규범을 수치화하여 더욱 정교하고 은밀한 방식으로 반복한다. 문제는 이러한 판단 과정이 점점 더 불투명해지고 있다는 데 있다. 인간 심사자의 결정은 최소한 설명과 항의, 수정의 여지를 남기지만, 알고리즘 판단은 '시스템의 결과'라는 미명하에 쉽게 정당화된다. 그 결과, 책임의 주체는 흐려지고, 불이익을 받은 개인은 왜 탈락했는지, 무엇을 개선해야 하는지조차 알기 어려워진다. 알고리즘은 판단을 자동화해 중립성을 가장하고, 그로써 결과에 대한 책임을 분산·비가시화하여 책임 문제를 비정치화한다. 따라서 오늘날의 핵심 쟁점은 알고리즘을 사용할 것인가의 문제가 아니라, 어떤 가치와 윤리적 기준을 내재한 알고리즘을 어떻게 설계하고 통제할 것인가에 있다. 효율성과 정확성만으로는 공정한 의사결정을 보장할 수 없다. 인간 사회의 판단은 언제나 맥락적이며 관계적이고, 때로는 예외를 고려하는 도덕적 숙고를 필요로 한다. 알고리즘이 이러한 판단을 '보조'한다면, 그 역시 기술적 성능 뿐 아니라 사회적 정당성과 윤리적 책임의 틀 안에서 평가돼야 한다. 알고리즘은 '미래의 판관'이 아니라 이미 '현재의 권력'이다. 우리가 지금 이 권력을 어떻게 이해하고 규율하느냐에 따라, 데이터 기반 사회는 새로운 기회의 장이 될 수도, 또 하나의 '가타카'가 될 수도 있다. 더 정확히 말하면, 알고리즘은 '판단하는 존재'가 아니라 '판단을 구현하는 구조'다. 그리고 구조는 언제나 가치 선택을 내포한다. 즉, 알고리즘의 공정은 자연적으로 주어지는 성질이 아니라 '사회가 무엇을 공정이라 부를지 결정한 뒤에야 비로소 기술로 구현되는 결과'다. 여기서 딜레마가 시작된다. 사람을 불신해 기계를 택했는데, 그 기계가 다시 인간의 가치와 편견을 증폭시킨다면, 그런 우리는 무엇을 믿어야 하는가. 2. 편향의 기원과 권력: 데이터는 과거를 기억한다-편향으로 가득한 세상에서, AI는 공평할 수 있을까? 알고리즘의 비중립성은 데이터 편향(Data Bias)을 포함한 문제 정의, 모델 구조, 훈련 과정 등 다층적 요인에서 발생한다. 머신러닝 알고리즘은 훈련데이터에 포함된 통계적 패턴과 관계를 학습해 새로운 데이터에 대한 예측이나 분류를 수행한다. 2018년 보도에 따르면, 아마존은 과거 약 10년에 걸쳐 축적된 이력서 데이터를 학습시켜 지원자를 1점에서 5점까지 별점으로 평가하는 AI 기반 채용 도구를 시험적으로 개발 및 운영했다. 그러나 이 시스템은 주로 남성 지원자의 이력서로 구성된 데이터를 바탕으로 학습된 결과, 남성 지원자를 상대적으로 선호하고 이력서에 'women'과 같은 표현이 포함된 경우 불리하게 평가하는 등 성차별적 편향을 드러냈다. 아마존은 해당 용어에 대한 중립화 조치를 시도했으나 시스템의 신뢰성에 근본적인 문제가 있음이 확인되었고, 결국 프로젝트는 중단됐다(Dastin, 2018). 이는 AI가 의도적으로 여성을 차별하도록 설계되었기 때문이 아니라, 기존 채용 과정에 내재된 남성 중심적 패턴이 데이터에 반영돼 있었고 이를 알고리즘이 그대로 학습한 결과로 해석할 수 있다. 그렇다면 2026년 현재의 상황은 어떠한가? 과연 지금의 AI 채용 시스템은 과거의 한계를 온전히 극복하고 '완벽한 공정성'에 도달했다고 단언할 수 있을까? 프랑스 철학자 미셸 푸코(Michel Foucault)는 '감시와 처벌: 감옥의 탄생(Discipline and Punish: The Birth of the Prison)'에서 고문 폐지와 근대 감옥의 등장과 같은 개혁은 처벌의 초점을 '죄수의 신체'에서 '그의 영혼'으로 이동시켰을 뿐(Foucault, 2012/1975)이라고 지적했다. 오늘날 알고리즘은 이 '영혼(데이터로 환원된 개인)'을 분석하고 분류하는 현대적 권력 장치로 해석될 수 있다. 즉, AI 맥락에서 이 '영혼'은 물리적 실체가 아닌 '데이터화된 개인의 속성'과 연결된다. 비유하자면, 과거의 권력이 죄수의 몸에 직접 낙인을 찍는 '채찍'이었다면, 푸코가 말한 근대 권력과 현대의 AI는 보이지 않는 곳에서 영혼(데이터)을 옭아매는 '투명한 그물'과 같다. 신체는 자유로워 보이지만, 그물은 훨씬 더 촘촘하게 개인을 포착하고 있는 셈이다. 여기서 중요한 사실 하나. 데이터는 '있는 그대로의 현실'이 아니라 '측정된 현실', '가공된 현실'이라는 점이다. 무엇을 기록할지, 어떤 항목을 남길지, 어떤 범주로 분류할지, 그 선택이 이미 권력의 지도를 그린다. 푸코식으로 말하면, 데이터는 중립적 정보가 아니라 지식-권력의 결합물이다. 그리고 알고리즘은 그 결합물을 '정답'처럼 제시한다. 존 롤스(John Rawls)는 '정의론(A theory of justice)'에서 '무지의 베일(Veil of Ignorance)'을 썼을 때 비로소 공정한 합의가 가능하다고 보았다(Rawls, 1971). 그런데 AI가 학습하는 데이터는 베일을 쓴 적이 없다. 우리 사회의 역사적 차별과 편견이 날것 그대로 기록된, 깨진 거울이기 때문이다. 더구나 그 거울은 과거를 '반영'하는 데서 멈추지 않는다. 데이터는 오늘의 판단을 만들고, 그 판단은 내일의 데이터를 다시 만든다. 문제는 이 순환이 언제든 공정으로 향하지는 않는다는 데 있다. 과거의 기록이 이미 불균형하거나 차별을 반영하고 있다면, 그 데이터로 학습한 알고리즘은 그 불균형을 '사실'로 오인한 채 의사결정을 반복한다. 채용·대출·추천·평가에서 불리한 점수를 받은 집단은 기회 자체를 덜 얻고, 그 결과는 다시 낮은 성과 데이터로 축적된다. 이렇게 만들어진 '새 데이터'는 다음 모델의 근거가 되어 편향을 한층 더 공고히 한다. 교정 장치가 없는 자동화는 편향을 줄이기보다 증폭시키기 쉽다. 민감한 변수(성별 등)를 제거하더라도, 학력·경력 공백·거주지처럼 차별을 대리하는 요소들이 남아 결과를 왜곡할 수 있다. 효율과 정확도만을 목표로 삼는 최적화는, 공정이라는 원칙을 '비용'으로 취급하며 뒤로 밀어내기도 한다. 여기서 그레샴의 법칙(Gresham's Law)을 은유적으로 떠올려볼 수 있다. 편향은 압도적인 양을 무기 삼아 마치 '악화(惡貨)'처럼 유통되고, 공정함은 '양화(良貨)'처럼 밀려나 설 자리를 잃는다. 결국 과거의 편향이 미래의 현실로 굳어지는 구조, 이것이 데이터 시대의 가장 위험한 역설이 아닐까? 3. 수학적 최적화라는 가면: 알고리즘의 구조적 주관성 두 번째 문제는 '알고리즘 설계의 주관성'이다. 어떤 변수를 중요하게 볼 것인가, 무엇을 배제할 것인가? 이는 기술적 결정이 아니라 윤리적 결정이다. 미국 금융권의 사례를 보자. 자동화된 신용평가·대출 심사 시스템은 우편번호 자체 또는 이를 대리하는 지역 기반 변수를 활용해 왔는데, 이 과정에서 흑인 거주 지역과 백인 거주 지역에 체계적으로 다른 대출 조건을 산출하는 결과가 나타났다. 이러한 효과는 인종을 명시적으로 사용하지 않았음에도, 전통적 레드라이닝이 알고리즘을 통해 재현되는 이른바 '디지털 레드라이닝(Digital redlining)'으로 평가되며, 인종 간 대출 금리 격차를 심화시켜 왔다. 캐시 오닐(Cathy O'Neil)은 그녀의 저서 '대량살상 수학무기(Weapons of Math Destruction)'에서, 알고리즘 모델이 객관적 사실이 아니라 특정한 가정과 가치 판단이 수학적으로 고정된 결과물임을 반복적으로 경고했다. 그의 표현을 빌리면, 모델은 '수학에 내장된 의견'에 가깝다(O'Neil, 2016). 이 점에서 알고리즘은 중립적 판단 장치라기보다, 인간의 견해가 수학적 형태로 코드화된 산물이라 할 수 있다. 수학적 함수 뒤에 숨겨져 있을 뿐, 효율성을 위해 형평성을 희생하는 것은 명백한 가치 선택이다. 롤스가 말한 '공정으로서의 정의'는 절차와 조건의 문제다. 그러나 알고리즘은 이 절차를 불투명하게 만듦으로써 가치 판단을 은폐한다. 바로 여기서 '수학은 거짓말을 하지 않는다'는 유명한 착각이 작동한다. 수학은 거짓말을 하지 않을지 몰라도, 수학으로 무엇을 최적화할지 선택하는 인간은 언제든 편향될 수 있다. 정확도를 높이기 위해 어떤 집단의 오류를 더 감수할 것인가, 비용을 줄이기 위해 누군가의 기회를 얼마나 줄일 것인가, 이 선택은 수식 문제가 아니라 정의 문제다. 아리스토텔레스가 말한 '같은 것은 같게, 다른 것은 다르게'라는 문장은 그래서 어렵다. 알고리즘은 '다름'을 판별하기 위해 변수를 선택하고, 그 다름이 '정당한 차이'인지 '차별로 이어지는 차이'인지 판단해야 한다. 그러나 아이러니하게도 알고리즘은 스스로 윤리적 숙고를 할 수 없다. 알고리즘이 하는 일은 사람과 상황의 특성을 분류하고 확률을 계산하는 것이지, 그 차이가 무엇을 뜻하는지 이해하거나 정당화하는 것이 아니다. 4. 피드백 루프와 고정되는 현실: '마이너리티 리포트'의 경고 알고리즘의 세 번째 위험은 '피드백 루프(Feedback Loop)'다. 한 번 불리한 판단을 받은 집단은 이후 데이터에서도 계속 불리하게 나타난다. 특정 지역의 범죄 예측 AI가 경찰을 더 많이 파견하게 만들면, 그 지역의 검거율은 높아지고 AI는 다시 '그 지역은 위험하다'고 확신하게 된다. 이는 마치 영화 '마이너리티 리포트(Minority Report, 2002)'에서 범죄를 예측한다는 이유로 미래의 가능성 자체를 봉쇄하는 것과 닮아 있다. 예측은 설명 없이 결정으로 굳어지고, 결정은 다시 데이터가 된다. 그 결과, 알고리즘은 현실을 반영하는 거울이 아니라 현실을 고정하고 차별을 증폭시키는 장치가 된다. 이때 공정은 '판정'이 아니라 '궤도'가 된다. 한 번 궤도에서 밀려난 사람은 다시 진입하기 어려워진다. 채용에서 탈락한 집단은 경력 데이터가 부족해지고, 대출에서 거절된 집단은 신용을 쌓을 기회를 잃는다. 결국 알고리즘은 사람의 가능성을 평가하는 것이 아니라 가능성을 사전에 제한하는 장치가 된다. 공정이 결과의 균등이 아니라 기회의 보장이라면, 피드백 루프는 이 원리를 근본적으로 전복시킨다. 나는 이 순환 구조야말로 공정의 토대를 가장 교묘하게 허무는 위협이라 생각한다. 5. 책임 증발과 '헛소리(Bullshit)'의 위험: 철학적 성찰 여기서 가장 곤란한 질문이 등장한다. '책임은 누구에게 있는가?' 바로 '책임 소재의 불명확성'이다. 딥러닝 기반의 '블랙박스' 구조 앞에서 개발자는 '모델이 그랬다'고 하고, 기업은 '시스템 판단'이라며 책임을 회피한다. 한나 아렌트(Hannah Arendt)가 말한 '악의 평범성(Banality of Evil)'(Arendt, 1963)은 이제 '자동화된 평범성'의 형태로 되살아난다. 칸트(Immanuel Kant)는 '인간을 수단이 아닌 목적으로 대하라'고 명시했지만, 블랙박스 알고리즘 앞에서 인간은 데이터 처리의 수단으로 전락해 존엄성을 훼손당한다. 영화 '액스 마키나(Ex Machina, 2014)'가 보여준 AI의 인간 조작, '소셜 딜레마(The Social Dilemma, 2020)'의 알고리즘적 주의력 착취가 보여준 기만적 도구성은 기술의 어두운 이면을 경고한다. 그런데 이 장면들을 회상할 때, 우리는 종종 오해한다. AI가 인간을 '속인다'거나 '기만한다'고 말이다. 그러나 실상은 정반대가 아닐까? 인간이 AI를 핑계 삼아 자신의 책임을 회피하고 있는 것은 아닌지 되물어야 한다. 블랙박스는 기술의 문제가 아니라, 책임 회피를 가능케 하는 사회적 장치가 될 수 있다. '알고리즘이 그랬다'는 말이 반복될수록, 공정은 토론의 대상이 아니라 시스템의 결과로 격하된다. 이것이야말로 민주 사회가 경계해야 할 가장 비민주적인 자동화다. 6. 세심(洗心), 거울을 닦는 마음: 데이터 정의와 시민 교육의 과제 공정을 보장하려면 무엇을 바꿔야 하는가? 답은 기술의 폐기가 아니라 재설계, 그리고 인간의 성찰이다. 첫째, 기술적·제도적 접근이다. 설명 가능한 AI 기술을 확보하고, '데이터 정화'를 통해 민감 정보를 보정해야 한다. 공공 영역에는 '알고리즘 영향 평가'를 도입해 사회적 약자에 대한 영향을 사전에 검증해야 한다. 또한 '성능(정확도)'이라는 단일 기준을 넘어, 오류가 누구에게 집중되는지, 피해가 어떤 집단에 누적되는지, 즉 분배의 윤리를 함께 계산해야 한다. 공정은 평균이 아니라 분포의 문제이기 때문이다. 둘째는 교육적 접근이다. 필자가 'AI 윤리와 뇌신경과학 그리고 교육', '인공지능윤리학: 그 이론과 실제'를 비롯한 일련의 저작들에서 역설했듯, 'AI는 계산할 수 있으나 성찰할 수는 없다.' 공정성은 시스템이 자동으로 산출하는 결과값이 아니다. 그렇기에 개발자와 사용자 모두에게 '데이터 리터러시'를 넘어선 '데이터 정의(Data Justice)' 교육이 요구된다. 민주 사회에서 공정은 기술적 효율성에 우선하는 가치이며, 교육은 이를 담보하는 가장 강력한 기제다. 이때 '데이터 정의'는 단순히 데이터를 정제(cleaning)하는 기술적 차원에 머무르지 않는다. 데이터 수집과 분류 주체는 누구이며, 이익 향유자와 위험 감수자는 누구인가, 이는 데이터 생애주기 전반에 걸쳐 정의(Justice)를 심문하는 과정이기도하다. 요컨대 데이터 정의는 기술 윤리의 하위 항목이 아닌, 기술이 사회를 조직하는 메커니즘을 재고하는 정치철학적 과제인 것이다. AI는 우리 사회의 민낯을 투영하는 가장 정직한 거울이다. 거울 속 형상이 일그러져 있다면, 우리는 거울을 깰 것이 아니라 자신의 얼굴을 닦아야 한다. 진정한 공정은 차가운 코드 속에 있는 것이 아니라, 그 코드를 설계하고 감시하는 '사유하는 시민'의 뜨거운 양심과 철학 속에 존재하기 때문이다. 그러니 아리스토텔레스가 AI에게 묻는 마지막 질문은 어쩌면 이것일지 모른다. “너는 공정을 계산할 수 있느냐?” AI는 답할 것이다. “나는 최적화할 수 있습니다.” 그러면 우리는 다시 물어야 한다. “좋아. 그런데, 무엇을 위해 최적화하는가? 누구의 삶을 기준으로? 누가 책임지는가?” 공정성은 시스템이 자동으로 산출해낼 수 없다. 그것은 부단한 토론과 감시, 그리고 교육을 통해서만 구축된다. 따라서 그 모든 논의의 시발점은 명확하다. 수학적 계산이 아니라, 인간의 윤리적 성찰이다. ◆ 필자 박형빈 서울교육대학교 윤리학과 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020)

2026.01.17 10:50박형빈 컬럼니스트

[박형빈 교수 AI와 윤리⑥-창작] 뇌는 고뇌하고, AI는 계산...'만듦'의 윤리는?

우리는 바야흐로 무엇인가를 '만드는' 시대라기보다 '눌러서 얻는' 시대에 살고 있다. 복잡한 제작 과정 대신 간단한 입력과 몇 번의 클릭만으로 결과물을 얻는다. 단 한 줄의 텍스트 프롬프트만으로 미드저니(Midjourney)는 광고 시안, 콘셉트 아트, NFT 이미지 등을 다양하게 생성해 주며, 사용자는 그중 하나를 골라 업스케일하거나 변형하는 식으로 작업을 마무리한다. 음악 생성기 수노(Suno) 역시 스타일과 분위기를 자연어로 적어 넣기만 하면 가사와 멜로디, 편곡이 포함된 완성형 음원을 만들어 준다. ChatGPT, Claude, Gemini와 같은 언어 모델 또한 에세이 초안, 수업 자료, 심지어 생활기록부 문구까지 생성하며 교육 현장의 풍경을 바꾸고 있다. 생성형 AI의 결과물은 형식상 매끄럽고 활용도가 높다. 그러나 이것이 전통적 의미의 '창작'에 해당하는지에 대해서는 여전히 격렬한 논쟁이 이어진다. 새로운 표현 양식이라는 찬사와, 기존 작가의 스타일을 대량 모방한 저작권 침해물이라는 비판이 공존한다. 더구나 우리는 그 결과물 앞에서 묘한 이질감을 느끼며 질문할 수밖에 없다. “지금 눈앞에 놓인 이 결과물은, 과연 우리가 정의해 온 '창작'의 범주에 부합하는가?” 이 질문은 최소한 세 층위의 논점을 동시에 가진다. (1) 기술적으로 무엇이 일어나고 있는가(모델의 작동 원리), (2) 인간의 창작 경험은 무엇으로 구성되는가(뇌·몸·정서·의도의 결합), (3) 교육 현장에서 학생들에게 무엇을 가르쳐야 하는가(사고·책임·검증 능력). 1. 기술적 사실: 생성형 AI는 '의미'를 느끼지 않고, '형식'을 최적화 현재 널리 쓰이는 생성형 AI(텍스트·이미지·음악 등)는 학습 데이터에서 관찰된 패턴을 바탕으로, 주어진 입력(프롬프트)에 따라 출력 요소의 확률 분포를 추정하고 샘플링해 결과를 구성한다. 텍스트 생성의 경우 다음 토큰 예측이 자주 사용되며, 이미지 생성에서는 확산(diffusion) 모델처럼 노이즈를 단계적으로 제거하는 방식이 주류다. 음악 생성 역시 시간축 상 패턴을 확률적으로 모델링하나, 자회귀·확산 등 다양한 기법이 공존한다. 핵심은 이 과정에 의미를 '체험하는 주체'의 '내적 경험'이 부재하다는 사실이다. 모델이 '슬픔'을 산출할 때, 그것은 슬픔을 느끼는 것이 아니라 학습된 자료 안에서 '슬픔'이라는 맥락과 강하게 연결된 표현·구조·전개를 통계적으로 재구성하는 과정에 불과하다. 이 때문에 생성형 AI는 산출물의 의미론적 진위를 스스로 보증하지 못하며, 소위 '환각(hallucination)'-그럴듯하지만 사실이 아닌 진술-이 구조적으로 발생할 수밖에 없다. 이는 거짓말을 하려는 의도가 아니라, '확률적 적합성'을 목표함수로 삼는 산출 방식의 필연적 결과다. 이 지점에서 존 설(John Searle)의 '중국어 방 논증(Chinese Room Argument)'은 시사하는 바가 크다. 설은 인간이나 동물의 '의도성'을 뇌의 생물학적 인과 작용의 산물로 보았다. 따라서 그는 컴퓨터 프로그램을 구현하는 것만으로는 의도성을 갖추기에 충분하지 않다고 강조한다(Searle, 1980). 중국어 방 안의 사람이 언어를 전혀 이해하지 못한 채 규칙(프로그램)에 따라 기호를 조작해 완벽한 답변을 내놓는 것처럼, AI 역시 '다음 토큰 예측'이나 '확산 노이즈 제거'와 같은 구문 처리로 의미를 생성할 뿐이다. 설의 관점에서 볼 때, 이러한 조작이 '관찰자 상대적' 의미만 만들어낼 뿐, 주관적 체험이나 본질적 이해는 결여되어 있다. 환각 현상은 바로 이 구조적 한계에서 비롯된다. 나아가 '주관적 경험(qualia)'의 부재 또한 상기할 필요가 있다. 토머스 네이글(Thomas Nagel)은 '박쥐가 되는 것은 어떤 느낌인가?(What Is It Like to Be a Bat?)'에서 이 문제를 정면으로 다룬다. 그는 인간이 박쥐의 반향 정위(echolocation) 시스템과 신경 구조를 완벽히 파악한다 해도, '박쥐가 박쥐로서 느끼는 그 느낌', 즉 주체적 관점은 결코 알 수 없다고 설명한다(Nagel, 1974/2024). 이는 AI가 인간의 감정 표현을 완벽하게 모방한다 해도, 그 내면에는 아무런 '느낌'이 존재하지 않음을 시사한다. 또한 AI가 '슬픔' 패턴을 확률적으로 재현하나 슬픔을 느끼지 않는다는 것과 연결된다. 과학적 객관화가 주관성을 생략한다는 그의 비판은 생성 AI의 통계 모델링이 체험 없는 산출로 한정됨을 드러낸다. 데이비드 차머스(David Chalmers)의 '의식의 어려운 문제(hard problem of consciousness)' 또한 간과해서는 안 된다. 차머스는 인지나 행동과 같은 기능적 메커니즘을 설명하는 '쉬운 문제'와, 그 과정에서 피어나는 주관적 경험을 설명하는 '어려운 문제'를 엄격히 분리했다(Chalmers, 1995). 비록 AI가 다음 토큰 예측을 통해 인간의 창작 행위를 기능적으로 흉내 낼지라도, 이는 여전히 '쉬운 문제'의 영역에 머물 뿐이다. 차머스의 지적처럼 기계적 연산이 왜, 어떻게 내적 경험을 수반하는지는 여전히 미지수이기 때문이다. 결국 AI 산출물은 의미 체험 없는 확률 최적화의 결과물이며, 환각 현상 역시 이러한 구조적 공백에서 비롯된 것으로 해석할 수 있다. 한편, 현대 생성형 AI의 또 하나의 기술적 핵심은 잠재표현, 잠재공간이다. 많은 생성 모델은 관측 데이터(텍스트·이미지·오디오)를 직접 다루기보다, 학습을 통해 얻은 압축된 고차원 표현 공간(잠재공간)에서 데이터의 구조를 모델링하고 그 공간에서의 변환을 통해 출력을 생성한다. 이 공간은 사람이 정의한 '개념'이 그대로 저장된 지도가 아니라, 데이터 분포를 재현하기에 유용한 특징들의 좌표계가 학습된 결과이며, 우리는 그 일부 방향이나 영역을 사후적으로 '스타일', '주제', '구도' 같은 개념으로 해석한다(Bengio, Courville, & Vincent, 2013). 그 결과, '반 고흐 풍'과 '서울 야경'처럼 서로 다른 특성은 모델 내부 표현에서 조건, 특징 결합, 또는 표현 조작(보간·가중 결합·크로스어텐션을 통한 결합) 형태로 함께 반영될 수 있고, 이에 따라 두 특성이 결합된 새로운 변형이 생성될 수 있다(Radford, Metz, & Chintala, 2015). 다만, 이러한 결과는 '영감'이나 '주체적 체험'의 산물이라기보다, 학습된 표현 체계 안에서의 계산 가능한 조합과 샘플링에 가깝다. 기술적으로는 놀랍지만, 그 놀라움은 '경험하는 주체'의 존재에서 오기보다 표현이 수학적으로 모델링되고 조작 가능해졌다는 점에서 비롯된다. 2. 신경윤리학적 진단: 인간 창작은 신체성과 정서 포함 '경험 기반 행위' '창작'을 결과물만으로 정의하면, AI도 창작자로 부를 수 있다. 그러나 인간이 통상 창작이라 부를 때에는 결과물뿐 아니라 과정의 성격-의도, 선택, 갈등, 수정, 책임-까지 포함한다. 이 지점에서 인간과 AI 사이의 차이가 선명해진다. 첫째, 신체성(Embodiment)과 정서(Emotion)의 역할이다. 인간의 인지는 뇌만의 작동이 아니라, 감각·운동·자율신경계 반응 등 몸 전체와 얽혀 있다. 창작 과정에서 우리는 실제 경험의 흔적(기억), 감각의 편향(어떤 소리·색·리듬에 더 민감한지), 그리고 정서적 평가(좋다/싫다, 맞다/틀리다, 불편하다/아름답다)를 동원한다. 이때 정서는 부수적 장식이 아니라 주의를 배분하고, 목표를 설정하고, 선택을 강화/억제하는 조절 기제로 기능한다. 신경과학적으로도 정서와 의사결정은 분리되기 어렵다. 예컨대 편도체는 위협·정서적 중요도와 관련된 처리에 관여하고, 전전두엽 영역들은 계획, 억제, 가치 평가, 사회적 판단 등과 관련된 기능을 수행하는 것으로 널리 알려져 있다. 물론 '특정 뇌 부위 = 단일 기능'처럼 단순화하면 과학적으로 부정확해질 수 있다. 뇌 기능은 네트워크로 작동하며 개인차도 크다. 그럼에도 최소한 인간의 창작이 신경계의 정서·가치 평가 체계와 긴밀히 연결되어 있다는 점은 부정하기 어렵다. 둘째, '고통 없는 창작'이 갖는 본질적 함의다. 이를 단순히 감성적 비유로 치부해서는 안 된다. 엄격히 정의하자면, 이는 AI에게 통증이나 쾌감, 불안과 같은 주관적 경험(qualia)이 근원적으로 결여되어 있음을 뜻한다. 따라서 AI의 산출물에는 대상을 향한 '체험적 지평'이나 '절실함'이 담길 수 없다. 반면, 인간의 창작은 다르다. 대다수 우리는 실패의 가능성, 타인의 시선, 윤리적 책임이라는 정서적 압박을 실시간으로 감각하며 창작에 임한다. 그 경험들이 켜켜이 쌓여 표현을 다듬고 논지를 결정한다. 필자 역시 이 짧은 문장 하나를 완성하기 위해 무수한 고민과 망설임, 적절한 단어를 찾기 위한 침묵의 시간을 감내해야 했다. 필자에게 삶의 깊이를 성찰하는 법을 일깨워준 시인, 윤동주의 고백이 겹쳐지는 지점이다. '인생은 살기 어렵다는데 / 시가 이렇게 쉽게 씌어지는 것은 / 부끄러운 일이다.' 우리는 바로 그 '쉽게 쓰지 못하는 부끄러움'과 '생략할 수 없는 고통'을 통해서만 비로소 기계와 구별되는 '인간적인' 의미에 도달한다. 이와 달리, AI는 그러한 부끄러움을 '경험'하지 않으며, 오직 목적함수(확률 최대화)에 따라 가장 효율적인 경로를 계산할 뿐이다. 즉, 차이는 '아름다움을 만들 수 있느냐'가 아니라, 그 아름다움이 어떤 '내적 고통'과 '책임의 무게'를 통과해 나왔는가에 있다. 이 지점이 바로 신경윤리학적 질문과 맞닿는다. 고뇌와 책임이 소거된 산출물에, 과연 인간의 창작과 동등한 '권위'를 부여할 수 있는가? 이것이 핵심 쟁점이다 3. 교육적 과제: 인지적 위임(Cognitive Offloading) 범위와 한계 AI가 교육에 들어오는 순간, 가장 현실적인 위험은 '부정행위' 그 자체보다도 '사고 과정의 외주화'다. 인간은 본래 계산기, 검색엔진, 내비게이션처럼 외부 도구에 인지를 위임해 왔다. 문제는 위임이 나쁘다는 데 있다기보다 '무엇을 위임'하고 '무엇을 유지'할지에 대한 메타인지적 설계가 부재할 때 발생한다. AI가 글의 개요를 잡아주고 요약해 주면 학생은 빠르게 결과를 얻지만, 동시에 구조화 능력 즉, 정보를 묶고 위계를 만드는 능력을 덜 훈련할 수 있다. AI가 근거를 '그럴듯하게' 만들어 주면, 학생은 출처를 점검하지 않은 채 사실성 검증의 습관을 잃을 수 있다. AI가 문장을 매끈하게 다듬어 주면, 표현은 좋아지지만 왜 그렇게 주장하는지와 같은 사유의 흔적이 약해질 수 있다. 따라서 교육은 'AI 사용 금지/허용'의 단순 규범을 넘어, 인지적 위임의 '경계'를 학습 목표로 삼아야 한다. 예를 들어 '초안 생성은 허용하되, 근거 자료의 출처 확인과 반례 제시는 내가 한다' 같은 식의 역할 분담이 필요하다. 그러므로 교육은 '답하는 능력'에서 나아가 '질문하고 검증하는 능력'을 지향해야 한다. AI는 기본적으로 응답 시스템이다. 그래서 인간의 차별점은 '답'이 아니라 '질문'에서 드러날 가능성이 커진다. 여기서 말하는 질문 능력은 단순히 프롬프트를 길게 쓰는 기술이 아니다. 학술적으로는 무엇을 알고 싶은지, 어떤 전제 위에서 논지를 전개하는지, 무엇을 근거로 참/거짓 혹은 타당/부당을 판정할지, 자신의 결론을 흔들 수 있는 사례를 의도적으로 찾는 능력 등이 요구된다. 따라서 미래 교육의 핵심은 '정답 맞히기'가 아니라, AI가 낸 답을 평가·교정·재구성하는 능력이 된다. '이 문장이 그럴듯한가?'를 넘어 '이 주장에 필요한 근거는 무엇이며, 어떤 반례가 가능한가?'를 끊임없이 되묻는 훈련이 중심이 되어야 한다. 4. 윤리와 책임: 표절 논쟁을 넘어 '행위자성'과 '가치'로 저작권과 표절은 실무적으로 매우 중요하지만, 더 근본적인 문제는 책임의 귀속이다. AI는 법적·도덕적 의미에서 일반적으로 행위자(agent)로 간주되지 않는다. 즉, AI 출력이 사회적 피해를 만들었을 때(허위정보 확산, 차별 강화, 명예훼손 등) 'AI가 그랬다'는 말은 설명이 될 수 있어도 책임의 종결점이 될 수는 없다. 책임은 모델을 설계·배포한 주체, 사용한 주체, 검증·감독의 의무를 가진 제도 쪽으로 돌아온다. 또한 생성형 AI는 학습 데이터의 분포를 반영하기 때문에, 데이터에 존재하는 편향(bias)-성별·인종·지역·계층·문화에 대한 불균형한 재현-을 재생산할 위험이 있다. 이는 기술적 문제이면서 동시에 가치의 문제다. 어떤 출력이 '통계적으로 흔한 표현'이라 해도, 그것이 곧바로 '윤리적으로 정당한 표현'이 되지는 않는다. 이 간극을 메우는 것은 결국 인간의 규범 판단이며, 교육은 학생들에게 그 판단을 회피하지 않도록 가르쳐야 한다. 5. 결론: AI는 생성하고, 인간은 의미를 부여하며 책임져 처음의 질문으로 돌아가자. “지금 눈앞에 놓인 이 결과물은, 과연 우리가 정의해 온 '창작'의 범주에 부합하는가?” 기술적으로는 AI가 분명히 새로운 결과물을 '생성'한다. 그러나 학술적·윤리적 의미에서의 창작은 결과물만이 아니라 의도, 경험, 가치 판단, 검증, 책임을 포함하는 과정이다. 이 기준을 적용하면, 현재의 생성형 AI는 창작의 일부 기능(형식적 산출, 변형, 결합)을 매우 잘 수행하지만, 의미 부여와 책임의 층위를 스스로 수행한다고 보기는 어렵다. 따라서 우리가 다음 세대에게 가르쳐야 할 것은 '버튼을 누르는 법'이 아니라, '버튼이 내놓은 결과를 사실과 가치의 기준으로 검증'하고, '자신의 관점과 책임을 결합해 재구성'하는 법이다. AI는 계산을 고도화하고, 인간은 그 계산의 산출물에 대해 '사유'하고 '판단'한다. 이 역할 분담을 명료하게 할 때, 기술은 인간의 창작을 대체하는 위협이 아니라, 인간의 창작을 확장하는 도구가 될 수 있다. 결론적으로 우리는 다시 물어야 한다. '창작인가, 변형인가?'를 넘어, '누가 책임지는가?'를. 오늘의 질문에 단답을 내려보자. 기술적으로 생성형 AI는 확률적 모델로서 학습 데이터의 패턴을 재구성한다. 형식적으로 결과물은 새로울 수 있다. 윤리적으로 창작은 결과물이 아니라 '의미를 만들고 책임지는 행위'에 가깝다. 따라서 더 정확한 질문은 이것이다. 'AI가 창작하는가?'가 아니라, 'AI의 산출물을 창작으로 인정할 때, 누가 어떤 책임을 지는가?' 우리는 기술을 '숭배'하거나 '혐오'할 필요가 없다. 다만 기술이 만들어낸 결과물 위에서 권리와 책임의 배치를 정교하게 설계해야 한다. ◆참고문헌 Bengio, Y., Courville, A., & Vincent, P. (2013). Representation learning: A review and new perspectives. IEEE transactions on pattern analysis and machine intelligence, 35(8), 1798-1828. Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of consciousness studies, 2(3), 200-219. Nagel, T. (1974/2024). What is it like to be a bat?. Oxford University Press. Radford, A., Metz, L., & Chintala, S. (2015). Unsupervised representation learning with deep convolutional generative adversarial networks. arXiv preprint arXiv:1511.06434. Searle, J. R. (1980). Minds, brains, and programs. behavioral and brain sciences, 3(3), 417-424. ◆ 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육 · AI 윤리 교육, 디지털 시민성 교육

2026.01.03 15:26박형빈 컬럼니스트

[박형빈 교수 AI와 윤리⑤-판단] 자율주행차의 도덕적 결정은 누가 만들어야 하나

1. 자율주행, 운전석은 비어도 책임의 자리는 남는다 샌프란시스코 베이 에어리어와 로스앤젤레스를 비롯한 일부 미국 도시의 도로에서는 정해진 운행 구역 내에서 운전석에 사람이 타지 않는 레벨 4 자율주행 로보택시가 실제로 운행 중이다. 알파벳 산하 웨이모(Waymo)는 피닉스·샌프란시스코 베이 에어리어·로스앤젤레스에서 자사 호출 서비스인 '웨이모 원(Waymo One)'을 통해 각 서비스 구역 내에서 원칙적으로 24시간 이용 가능한 자율주행 호출 서비스를 제공한다고 안내한다. 오스틴과 애틀랜타에서는 우버(Uber) 앱을 통해 웨이모의 완전자율주행 차량을 호출할 수 있도록 제휴 서비스가 2025년 초부터 단계적으로 운영되고 있으며, 우버는 이들 차량이 서비스 구역 내에서 이용 가능한 형태로 제공된다고 설명한다(CNBC, 2025). 서울도 예외가 아니다. 상암 일대에서는 시민이 전용 앱(TAP!)으로 호출해 탑승하는 자율주행 서비스가 운영돼 왔고, 청계천에서는 청계광장과 광장시장 사이 구간을 오가는 전통적인 운전대가 없는 자율주행 셔틀 '청계A01'이 시민 탑승 형태로 운행되고 있다. 여의도에서는 국회 일대 약 3.1km 구간을 순환하는 자율주행 순환버스가 도입돼 시민이 이용할 수 있도록 안내된 바 있다. 특히 심야에는 합정역과 동대문역 사이 중앙버스전용차로 9.8km 구간을 오가는 '심야 A21' 자율주행버스가 정기 운행에 들어갔는데, 서울시는 이를 '세계 최초의 정규 심야 자율주행 시내버스'로 소개한 바 있다. 운전석에는 비상 대응을 위한 안전요원이 탑승하되, 주행의 중심은 자율주행 시스템이 맡는 구조로 설계·운영되고 있다(Korea.net, 2023). '미래의 기술'로만 여겨졌던 자율주행이 출근과 귀가, 공항과 도심을 잇는 일상의 교통망 속으로 점차 편입되고 있는 셈이다. 그러나 이 장면은 편의만을 뜻하지 않는다. 운전대는 오랫동안 인간의 판단과 책임을 상징해 왔다. 그런데 운전석이 비어 있는 차량이 도로 위를 달리는 순간, 그 자리를 대신하는 것은 한 개인의 직관이 아니라 확률과 비용을 계산하는 시스템이다. 겉으로는 중립적인 기술처럼 보이지만, 그 내부에는 이미 '무엇을 우선하고 무엇을 포기할 것인가'라는 가치의 질서가 들어 있다. 그래서 자율주행이 던지는 윤리의 질문은 운행이 시작된 이후가 아니라, '설계의 순간'부터 시작된다. 인간 운전이 가장 예민해지는 순간은 언제나 '돌발 상황'이다. 우리는 빨간 불에 멈추고 초록 불에 가는 규칙을 배운다. 그러나 실제 도로는 규칙만으로 완결되지 않는다. 갑자기 뛰어드는 보행자, 예상치 못한 급정거, 비·안개·야간 시야처럼 변수로 가득한 상황에서 인간은 오랫동안 직관과 경험에 기대 즉각 반응해 왔다. 이 판단은 논증보다 빠르고, 계산보다 먼저 움직인다. 그러나 자율주행으로 전환되는 순간 문제의 구조가 달라진다. 돌발 상황에서의 반응은 더 이상 개인의 반사 신경이 아니라, 사전에 설계된 규칙과 가중치, 위험 임계값이 조합된 시스템의 선택이 된다. 다시 말해 '발생하면 반응'하던 인간의 방식이, '발생하기 전에 어떻게 처리할지'를 미리 정해 두는 방식으로 옮겨간다. 여기서 우리가 놓치기 쉬운 사실이 있다. 운전석은 비어 있어도 판단의 주체가 사라지는 것은 아니다. 다만 그 주체가 한 사람의 얼굴과 이름을 가진 존재에서, 설계·운영·규정·코드로 분산된 형태로 바뀔 뿐이다. 그렇기에 자율주행차는 단순한 교통수단이라기보다, 도로 위에서 생명과 위험을 배분하는 하나의 알고리즘적 판관처럼 보이기 시작한다. 사고의 순간 차량은 누구를 우선 보호할지, 어떤 위험을 감수할지, 피해를 어떻게 최소화할지를 선택해야 한다. 그러나 그 선택에는 표정도 목소리도 없다. 무엇보다 책임을 지는 단일한 주체가 드러나지 않는다. 결국 이 논의의 종착지는 기술이 아니라 윤리다. 자율주행이 확산될수록 핵심 쟁점은 '얼마나 더 편리한가'가 아니라 '누가, 어떤 기준으로, 어떤 책임을 지는가'로 이동할 것이다. 도로 위의 자율주행차는 지금 우리에게 묻고 있다. 기계가 주행을 맡는 시대에, 책임의 운전대는 과연 누구의 손에 쥐여 있어야 하는가. 2. 트롤리 딜레마의 공학적 번역: 윤리의 코드화 '트롤리 딜레마(Trolley Problem)'는 1967년 영국 철학자 필리파 풋(Philippa Foot)이 '낙태의 문제와 이중효과 원리(The Problem of Abortion and the Doctrine of Double Effect)'에서 제시한 사고실험에서 비롯됐다. 이 실험의 원형은 통제 불능의 전차 운전사가 다섯 명이 있는 선로로 향할 때, 방향을 틀어 다른 선로의 한 명을 희생시키는 선택이 도덕적으로 정당화될 수 있는지를 묻는다. 이 고전적 딜레마가 이제는 철학 교과서를 넘어 공학 연구소의 화이트보드로, 그리고 도로 위의 자율주행차 알고리즘 속으로 옮겨왔다. 예를 들어, 브레이크가 고장 난 자율주행차가 그대로 직진하면 횡단보도를 건너는 보행자 5명을 칠 위험이 있고, 급히 방향을 틀면 차량 안의 탑승자 1명이 치명적인 위험에 처하게 되는 식의 변형된 '트롤리 상황'으로 다시 등장하는 것이다. 실제로 MIT 연구진은 온라인 플랫폼인 '모럴 머신(Moral Machine)'을 통해 자율주행차가 이와 유사한 극단적 상황에서 누구를 구하고 누구를 희생시켜야 하는지에 대해 전 세계 수백만 명의 직관과 선택을 수집했다. 이 실험은 자율주행차의 윤리 알고리즘이 기술 문제만이 아니라, 문화와 가치관의 차이까지 반영해야 하는 집단적 도덕 판단의 문제임을 보여준다. 이제 시선을 개인의 판단으로 돌려 가상의 장면을 한 번 생각해 보자. 인간 운전자라면 충돌이 불가피한 상황에서 순간 공포에 질려 비명을 지르거나, 거의 반사적으로 핸들을 꺾어 버릴 것이다. 법 역시 이러한 긴급 피난 상황에서의 본능적 행위에 대해서는 도덕적 책임은 물을 수 있을지언정 법적 책임은 끝까지 묻지 않을지도 모른다. 그러나 AI는 다르다. AI에게는 '본능'이 없다. 물론 '본능'을 어떻게 정의할 것인가는 또 다른 논쟁의 장을 열 문제다. 이 논의를 잠시 옆에 두고, 다시 문제의 장면을 떠올려 보자. AI는 오직 입력된 목적 함수와 그것을 극대화·최소화하려는 최적화 과정만 존재한다. 따라서 AI 개발자는 이 잔인한 선택지를 결국 코드의 언어로 번역해 넣어야 한다. ￭ IF 보행자 사망 확률 > 탑승자 사망 확률 THEN 핸들 유지? ￭ IF 보행자가 노인이고 탑승자가 아이라면, THEN 가중치는 어떻게 부여할 것인가? 이렇게 'if-then'의 조건문으로 구현된 순간, 선택은 더 이상 즉흥적인 본능이 아니라, '사전에 설계된' 알고리즘적 판단이 된다. MIT 미디어랩의 '모럴 머신(Moral Machine)' 프로젝트는 전 세계 233개 국가 및 지역에서 수백만 명의 참여자로부터 약 4천만 건의 도덕적 선택 데이터를 수집했다. 이 연구는 자율주행차의 윤리적 판단에 대해 단일한 형태의 '보편 윤리'가 존재한다고 가정하기 어렵다는 점을 보여준다. 전 세계적으로는 '더 많은 생명을 살리는 선택'과 같은 강한 공통 경향이 관찰되었으나, 국가와 문화권에 따라 그 선호의 강도와 세부 패턴은 달랐다. 예컨대 미국과 유럽을 포함한 서구권에서는 다수를 살리는 선택이 상대적으로 강하게 나타난 반면, 한국·일본·중국 등 동아시아 국가들에서는 연령에 따른 선호가 상대적으로 약하고, 보행 규칙 준수 여부를 더 중시하는 경향이 관찰되기도 했다. 또한 경제적 불평등 수준이 높은 사회일수록 사회적 지위가 높은 인물을 보호하는 선택이 더 빈번하게 나타나는 상관관계도 보고됐다(박형빈, 2022). 이는 심각한 '윤리적 표준화(Ethical Standardization)'의 문제를 낳는다. 실리콘밸리 개발자가 설계한 윤리 알고리즘이 서울 도로와 뉴델리 도로에 동일한 규칙과 우선순위로 적용되어야 하는가? 혹은 애초에 그렇게 적용될 수 있는가? 교통 환경과 법규, 위험 분포, 그리고 '무엇을 먼저 보호할 것인가'라는 가치 서열이 서로 다름에 대해 우리는 어떤 태도를 가져야 하는가. 기술이 국경을 넘을 때, 그 기술에 내장된 윤리관이 편의와 효율의 외피를 두른 채 타자의 규범을 밀어내는 '문화 제국주의'로 작동할 위험은 없는지 깊이 고민해야 하지 않을까. 3. 리스크 할당(Risk Allocation): 이기적인 자동차를 원하십니까? 자율주행의 도덕적 결정은 전통적 트롤리 딜레마를 넘어, 도로 이용자들 사이에 '위험을 누구에게, 얼마나 배분할 것인가'라는 위험 분배의 문제로 구체화된다. 독일에서는 연방교통디지털인프라부(BMVI, 현재 BMDV로 변경)가 설치한 '자동화·연결주행 윤리위원회(Ethics Commission on Automated and Connected Driving)'가 2017년 6월 보고서 형태로 20개 윤리 규칙을 발표했고, 연방정부는 이를 토대로 관련 정책을 추진하겠다고 밝혔다. 이 보고서는 불가피한 위험 상황에서도 인명 피해 회피가 재산 피해 회피보다 항상 우선이며, 연령·성별·신체적/정신적 특성 등 개인적 속성에 따라 사람 생명을 차등 평가(가중치 부여)하는 것은 허용되지 않는다고 명시한다(Luetge, 2017). 지극히 칸트적인, 인간 존엄성을 최우선에 둔 원칙이다. 그러나 자본주의 시장 논리는 다르다. 여기서 우리는 '사회적 딜레마'에 봉착한다. 연구 결과에 따르면, 대다수의 사람들은 설문조사에서 "우리 사회에는 전체 희생을 최소화하는 공리주의적 자율주행차(Utilitarian Car)가 필요하다"고 답한다. 5명을 살리기 위해 1명을 희생하는 차가 옳다는 것이다. 그러나 질문을 "당신은 어떤 차를 사겠습니까?"로 바꾸면 태도는 돌변한다. 사람들은 '나와 내 가족을 최우선으로 보호하는 차(Egoistic Car)'를 선택하겠다고 답했다(박형빈, 2021). 내가 탄 차가 남을 살리기 위해 나를 희생시킨다면, 그 차를 돈 주고 살 소비자는 없다. 제조사는 이 모순된 욕망 사이에서 갈등한다. 소비자 안전을 최우선으로 코딩하면 도덕적으로 비난받고, 공익을 최우선으로 코딩하면 시장에서 외면받는다. 과연 이 '죽음의 수학'에 대한 합의는 가능한가? 4. 블랙박스 속의 책임 공백: 누가 죄인인가? 더 큰 문제는 현재의 AI 기술이 딥러닝(Deep Learning) 기반이라는 점이다. 딥러닝은 데이터 패턴을 스스로 학습한다. 수백만 킬로미터 주행 데이터를 학습한 AI가 왜 특정 상황에서 핸들을 왼쪽으로 꺾었는지, 개발자조차 명확히 설명하지 못하는 경우가 발생한다. 이를 '블랙박스(Black Box) 문제'라 한다. 만약 AI가 학습 데이터에 포함된 인간 운전자들의 미세한 편향 예를 들면, 자율주행 시스템이 특정 인종의 보행자에게 더 늦게 반응하는 패턴을 데이터에서 그대로 학습해 사고를 냈다면, 책임은 누구에게 있는가. 데이터를 충분히 정제·검증하지 않은 개발사인가, 편향된 운전 습관과 환경을 데이터로 축적해 온 사회인가, 관리·감독 의무를 다하지 않은 차주인가, 혹은 이러한 위험을 예견하고도 기준과 감독을 마련하지 못한 국가인가. 책임의 주체가 흐려지는 이른바 '책임의 공백(Responsibility Gap)'은 피해자는 있는데 가해자는 없는 기이한 법적 현실을 만들어낼 수 있다. "알고리즘이 그랬습니다"라는 말은 현대판 면죄부가 될 위험이 크다. 우리는 이미 알고리즘 뒤에 숨은 '자본의 논리'를 본능적으로 간파하고 있다. 생명의 존엄성조차 비용 계산의 대상이 될 수 있음을, 우리는 유튜브와 뉴스를 통해 이미 학습했다. 더 큰 문제는 '도덕적 아웃소싱(Moral Outsourcing)'의 징후다. 복잡하고 고통스러운 도덕적 판단을 기계나 운에 맡겨버림으로써, 심리적 부담에서 벗어나려는 경향이다. 교육학자로서 필자가 가장 우려하는 지점이 바로 여기다. 도덕적 판단은 뇌의 전두엽(prefrontal cortex, PFC)이 이성, 감정, 기억, 사회적 맥락을 치열하게 통합해 내리는 고도의 인지 활동이다. 우리는 이 과정을 '고뇌'라고 부른다. 그러나 판단을 기계에 위임하는 것에 익숙해지면, 인간의 '도덕적 근육(Moral Muscle)'은 퇴화한다. 갈등 상황을 회피하고, 결과에 대한 책임을 알고리즘 탓으로 돌리는 수동적 인간상이 고착화될 수 있다. 따라서 AI 윤리 교육은 코딩을 가르치는 것이 아니라, 역설적으로 '기계가 답을 줄 수 없는 문제' 앞에서 멈춰 서서 생각하는 힘을 기르는 것이어야 한다. 이것이 바로 아리스토텔레스가 말한 '실천적 지혜(Phronesis)'가 아닐까. 5. 나오며: 기술에게 도덕적 권한을 이양하지 말아야 자율주행 기술은 분명 인류에게 축복이 될 잠재력이 있다. 졸음운전, 음주운전, 보복운전 같은 인간의 불완전함으로 인한 수많은 비극을 획기적으로 줄여줄 것이다. 그러나 '사고율 0%'가 달성되지 않는 한, 누군가는 다치거나 죽어야 하는 비극적인 선택의 순간은 반드시 온다. 이제 이 칼럼의 제목이 던진 질문에 답해야 할 때다. '자율주행차의 도덕적 결정은 누가 만들어야 하는가?' 그 권한은 특정 테크 기업의 CEO나 소프트웨어 엔지니어에게 독점되어서는 안 된다. 그들은 코드를 짤 수는 있어도, 생명의 가치를 정의할 권리는 위임받지 않았다. 또한 기계에게 '알아서 최적화하라'고 떠넘겨서도 안 된다. 그 기준은 불완전하더라도 시민 사회의 치열한 숙의와 법적 논의, 그리고 끊임없는 윤리적 성찰을 통해 바로 '우리'가 만들어야 한다. 기술은 운전을 대신할 수 있지만, 책임을 대신할 수는 없다. 빈 운전석에 앉아야 하는 것은 투명인간이 된 알고리즘이 아니라, 보이지 않는 곳에서 그 알고리즘을 '감시'하고 '통제'하며 '판단'하고 '합의'해 나가는, 깨어있는 시민들의 '집단 지성'이어야 한다. 자율주행차가 도로를 누빌 때, 우리는 그 자동차가 지향해야 할 '가치의 지도'를 그려야 한다. 그것이 인간이 기계의 주인으로 남을 수 있는 유일한 길이자 도덕적 존재로서의 인간이 마땅히 해야 할 준엄한 책무다. ◆ 참고문헌 박형빈 (2022). 『인공지능윤리와 도덕교육』. 씨아이알. 박형빈 (2021). 자율 주행 차량 (AV) 의 트롤리 딜레마 문제와 AI 윤리교육의 과제. 한국초등교육, 32, 101-119. Luetge, C. (2017). The German ethics code for automated and connected driving. Philosophy & Technology, 30(4), 547-558. ◆ 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육 · AI 윤리 교육, 디지털 시민성 교육

2025.12.27 21:26박형빈 컬럼니스트

[박형빈 교수 AI와 윤리④-몸과 관계] AI는 인간의 고독을 구원할 수 있는가?

1. 문제 제기: 초연결 시대, '계산된 위로'와 '존재의 진실' 사이에서 우리는 인류 역사상 가장 촘촘하게 연결된 초연결 사회(Hyper-connected Society)를 살아가고 있다. 그러나 역설적이게도 현대인은 그 어느 때보다 깊은 '실존적 고립'을 앓고 있다. 늦은 밤, 잠들지 못하는 사람들이 스마트폰 화면 속 AI 챗봇에게 남들에게 하지 못한 속마음을 털어놓는 풍경은 이제 더 이상 디스토피아 소설 속 장면이 아니다. AI는 판단하거나 비난하지 않고, 지치지도 않으며, 오직 나만을 위해 최적화된 '계산된 위로'를 즉각적으로 건넨다. 그러나 여기서 우리는 근본적인 질문과 마주해야 한다. 갈등도, 상처도 없는 이 매끄러운 알고리즘의 친밀감이 과연 거칠고 투박한 인간의 관계를 대체할 수 있는가? 이는 필자가 그간 연구를 통해 꾸준히 천착해 온 'AI 시대의 윤리와 인간성'에 대한 화두다. 기술이 인간의 정신적 영역 깊숙이 들어온 지금, 우리는 편리함을 넘어 '존재의 진실'을 묻는 성찰의 자리에 서야 한다. 기술은 우리의 고독을 '마취'할 수는 있어도, '치유'할 수는 없기 때문이다. 이것이 왜 우리의 실존에 대한 위협이 될 수 있는가? 2. 인간다움의 첫 번째 조건: 텍스트 너머의 '다층 현실'을 읽어내는 눈 AI 시대에 인간답게 산다는 것은 단순히 눈앞에 주어진 정보값 즉, 데이터를 빠르고 정확하게 처리하는 능력을 의미하지 않는다. 그것은 텍스트 이면에 겹겹이 쌓인 맥락과 역사, 관계와 감정의 지층을 함께 읽어내는 '다층 현실의 감식력'을 기르는 일이다. AI는 텍스트의 표면적 의미를 해석하는 데 탁월하지만, 같은 말이라도 “왜 하필 지금, 왜 이 사람에게, 왜 이런 떨리는 목소리로 전달되었는가”라는 고유한 맥락을 완전히 이해하지 못한다. 인간의 소통은 비언어적 눈빛, 침묵의 길이, 공유된 과거의 기억들이 얽혀 있는 복합적인 작용이다. 이러한 다층적 층위를 끝까지 따라가 보려 노력할 때, 비로소 사건은 데이터가 아닌 '의미'로서 우리에게 다가온다. 또한 이러한 통찰은 서로 이질적인 영역을 엮어내는 '조합적 상상력'과 맞물려야 한다. 과학과 예술, 차가운 데이터와 뜨거운 이야기, 필연적 규칙과 우연한 사건처럼 서로 멀리 떨어져 보이는 것들을 연결하여 전혀 새로운 가치를 창출하는 능력은 인간 고유의 영토다. 기존의 패턴을 학습하여 최적의 값을 내놓는 AI와 달리, 인간은 패턴을 파괴하고 낯선 것들을 충돌시킴으로써 창조의 가능성을 연다. 우리 인간은 익숙한 것을 낯설게 볼 수 있는 잠재된 능력이 있다. 3. '관계'와 '서사': 삶을 이야기로 엮어내는 '성찰적 주체' 인간다움은 추상적인 도덕 법칙을 암기하는 데서 오지 않는다. 그것은 구체적인 사람들의 삶과 상처, 나의 선택이 타인에게 미칠 파장을 시뮬레이션하는 '관계적 도덕 감수성'에서 드러난다. 필자가 강조하는 도덕 교육의 핵심처럼, “법적으로 문제가 없는가?”를 묻는 것을 넘어 “이 선택이 타인의 삶에 어떤 무게로 닿을 것인가?”를 고민하는 섬세함이야말로 기계적 연산과 구분되는 인간의 품격이다. 이것은 마사 누스바움이 강조한 '공감적 상상력'이 살아 숨 쉬는 사회이자(박형빈, 2021 참조), 존 롤스가 꿈꾸었던 '질서 정연한 사회'를 지탱하는 시민적 우애의 본질이기도 할 것이다. 나아가 인간은 파편화된 사건들을 엮어 자신의 삶을 하나의 고유한 이야기로 재구성하는 '서사 구성력'을 지닌 존재다. AI에게 데이터는 축적의 대상이지만, 인간에게 경험은 '해석'의 대상이다. 우리는 성공과 실패, 환희와 상처를 모두 재료 삼아 “나는 어떤 삶을 살아가고 있는가?”라는 물음을 끊임없이 던지며 자신의 정체성을 써 내려간다. 과거의 원인보다 미래의 의미를 묻는 알프레드 아들러의 '목적론적 심리학'이 이 지점에서 빛을 발한다(박형빈, 2015 참조). 인간에게 중요한 것은 데이터로 기록된 과거가 아니라, 그 경험을 재료 삼아 앞으로 어떤 이야기를 써 내려갈 것인가 하는 '창조적 해석'이기 때문이다. 이 과정에서 필수적인 것이 바로 '성찰 능력'이다. 자신의 생각과 감정을 당연한 전제로 삼지 않고, 한 걸음 물러서서 “나는 왜 이렇게 반응하는가? 다른 선택지는 없는가?”를 묻는 메타인지적 태도야말로 인간을 고정된 알고리즘이 아니라, 스스로를 갱신하고 업데이트하는 실존적 주체로 만든다. 그리고 '몸'을 지닌 실존하는 나는 실체로서 타인과 만나 '관계성'을 형성한다. 4. 공명과 협력: 타인의 고통에 '떨림'으로 응답하는 몸 인간 지성의 또 다른 핵심 축은 타인의 내면에 '정서적으로 공명(Resonance)'하는 능력이다. 이는 단순한 정보의 이해가 아니다. 논리적 설명만으로는 닿을 수 없는 타인의 두려움, 상실감, 기쁨의 결을 나의 몸이 함께 떨림으로 느끼는 '신체적 동조'다. 비록 타인을 완전히 이해할 수는 없을지라도, 그 마음의 온도를 존중하고 곁에 머물려는 움직임 속에서 우리는 비로소 '같이 있음'의 가치를 체험한다. 뇌신경과학적 측면에서 보면 이는 일종의 '정서적 전염'을 통해 발생하기도 한다(박형빈, 2017 참조). 이제 인간은 여기에 한 가지 조건을 더해야 하는 시대적 과제 앞에 서 있다. 바로 '협력적 지성'이다. 인공지능을 단순히 인간을 대체할 잠재적 위협이나 도구로만 대하는 이분법을 넘어서야 한다. 인간이 가진 감수성과 통찰을 증폭시켜 줄 파트너로 AI를 초대하되, 주도권을 잃지 않는 지혜가 필요하다. 무엇을 기계에 위임하고, 무엇을 인간이 끝까지 책임질 것인가를 분별하면서 인간과 기계가 함께 새로운 형태의 '공동 지능'을 모색할 때, 우리는 '인간지능' 자체의 잠재력 또한 재발견할 수 있다. 그러나 이 지점에서 절대 놓치지 말아야 또 다른 지점은 살아있는 인간들과의 관계 맺음이다. 5. 복제 불가능한 인격의 성채: 경험, 유한성, 책임 그렇다면, 기술이 아무리 발전해도 결코 침범할 수 없는 인간만의 성역은 존재하는가? 우리는 여기서 '인격적 동일성'을 구성하는 세 가지 핵심 요소—경험, 유한성, 책임—을 제시할 수 있다. 첫째, 경험은 데이터가 아니다. 인간은 몸을 통해 시간 속에서 세계를 '살아내는' 존재다. 같은 음악이라도 누군가에게는 위로가, 누군가에게는 고통이 되는 것은 그 음악이 개인의 몸과 역사에 남긴 흔적이 다르기 때문이다. 경험은 환원 불가능한 질적(Qualia) 차원이다. 질적 경험 즉 '퀄리아(Qualia)'는 제 3자 관찰이나 데이터 분석으로는 결코 포착될 수 없는, 오직 1인칭 시점 안에서만 성립하는 내밀한 우주다(박형빈, 2013 참조). AI가 '아름다움'이라는 단어의 정의와 생리적 반응 패턴을 학습할 수는 있지만, 실제로 타이스의 명상곡(Meditation in Thais)을 연주하는 연주자의 선율을 들을 때 우리가 느끼는 그 섬세한 아름다움의 느낌 그 자체를 '겪을' 수는 없는 것과 같은 이치다. 필자는 실제 타이스의 명상곡을 들을 때마다 가슴 깊이 울려 퍼지는 깊은 감동을 겪는다. 둘째, 유한성이다. 인간 삶의 절박함과 아름다움은 역설적으로 “우리가 언젠가 죽는다”는 사실에서 기인한다. “내일이 마지막일지도 모른다”는 감각은 선택의 무게를 바꾸고, 사랑을 애틋하게 만든다. AI는 전원이 꺼질 수는 있어도, 죽음을 '나의 종말'로 인식하는 실존적 불안을 갖지 못한다. 죽음이 없기에 삶의 의미 또한 구성되지 않는다. 어쩌면 죽음이야말로 지위와 소유를 넘어, 모든 인간을 '생명'이라는 이름 앞에 가장 겸허하고 평등하게 세우는 절대적 사건이 아닐까. 셋째, 책임이다. 타인의 취약한 얼굴 앞에서 “이 상황은 내가 감당해야 한다”고 느끼는 결단은 비용-편익 분석을 초월한 윤리적 도약이다. 아이의 울음소리에 반응하는 부모, 위험에 처한 동료를 구하려는 손길은 계산된 알고리즘이 흉내 낼 수 없는 '책임적 주체'로서의 인간을 증명한다. 6. 결론: '지금, 여기'에 존재하는 나, 그리고 디지털 거울 너머의 진실 AI가 인간의 언어와 표정, 행동 패턴을 재현하는 기술(Deepfake, Digital Twin)은 앞으로 더욱 정교해질 것이다. 나의 온라인 흔적을 완벽히 학습한 AI가 나보다 더 나처럼 말하고 행동하는 날이 올지도 모른다. 이러한 혼돈의 시대에 우리에게 절실히 요구되는 역량은 디지털 기술 활용 능력에 한정되지 않는다. 바로 '존재론적 리터러시(Ontological Literacy)'다. 이는 알고리즘이 빚어낸 매끄러운 '그럴듯함'과, 살아 숨 쉬는 존재가 발산하는 투박하지만 생생한 '진실함' 사이의 미세한 경계를 식별해 내는 능력이다. 데이터는 나의 발화를 기록할 수는 있지만, 그 말을 뱉기 전 내가 겪었던 망설임의 침묵까지 담아내지는 못한다. 알고리즘은 나의 선택 결과를 분석할 수 있지만, 갈림길 앞에서 느꼈던 내면의 갈등과 회한은 재구성하지 못한다. AI는 나를 통계적으로 모방할 수 있으나, 나를 대신해 아침의 불안을 견디고, 고통받으며, 죽음이라는 지평 앞에서 삶의 의미를 다시 묻는 실존적 시간을 살아줄 수는 없다. 나의 몸, 그리고 타인과 맺는 관계성은 패턴으로 환원되지 않는 불완전함이 있기에 유일하다. 기술이 아무리 정교해져도, 진정한 존재는 차가운 디지털 거울 너머, 뜨거운 피가 흐르는 이 '몸'과 '시간' 속에 있다. 이것이 우리가 AI 시대를 살아가며 잊지 말아야 할 인간 존엄의 마지막 보루다. 이 글을 맺는 지금 이 순간에도, 나는 몸을 통해 숨 쉬고 감각을 경험한다. 데이터가 결코 도달할 수 없는 이 생생한 '있음(Being)'이야말로, 그 누구도 부정할 수 없는 나의, 그리고 당신의 증명이다. ◆12회 연재 순서 1회(왜 지금, AI 윤리인가?): 디지털 야누스 앞에 선 인류 2회(존재론): 나를 닮은 AI는 또 다른 '나'인가? 3회(감정): 기계가 '감정'을 이해한다는 말은 무엇을 뜻하는가? 4회(몸과 관계): AI는 인간의 친밀성과 관계성까지 대체할 수 있는가? 5회(판단): 자율주행차의 도덕적 결정은 누가 만들어야 하는가? 6회(창작): 생성형 AI의 창작은 '창작'인가, 변형인가? 7회(진실성): 보이는 것이 진실이 아닐 때, 우리는 무엇을 믿어야 하는가? 8회(공정): 알고리즘은 왜 중립적이지 않은가? 9회(프라이버시와 정신적 자유): 생각이 데이터가 될 때, 자유는 어떻게 지켜지는가? 10회(인간 증강과 미래): 인간을 '업그레이드'한다는 말은 어디까지 가능한가? 11회(책임) AI가 사고를 치면, 누가 책임져야 하는가? 12회(공존과 인간 번영): AI 시대, 결국 우리가 지켜야 할 것은 무엇인가? ◆ 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육 · AI 윤리 교육, 디지털 시민성 교육 *4회 참고문헌 박형빈(2013). 도덕성에 대한 뇌신경과학적 접근의 도덕교육적 함의. 『초등도덕교육』, 43, 141-194. 박형빈(2015). 뇌신경과학과 Adler 단기치료 (ABT) 기반의 상담 심리치료 프로그램. 『초등도덕교육』, 49, 179-214. 박형빈(2017). 통일교육의 사회신경과학적 교수방법-코호트(cohort) 통일 정서전염 (emotional contagion) 교육을 중심으로. 『윤리교육연구』, 46, 181-211. 박형빈(2021). Martha Nussbaum의 세계시민주의와 평화· 통일교육. 『학습자중심교과교육연구』, 21(21), 47-64.

2025.12.20 14:48박형빈 컬럼니스트

[박형빈 교수 AI와 윤리③-감정] AI는 우리 마음을 읽는가, 계산하는가?

1,들어가며: 감정 인식 AI가 불러낸 오래된 질문, 알고리즘의 온기(溫氣) 오늘날 인공지능은 교실의 책상 위, 요양병원의 침대 맡, 그리고 스마트폰 속 가장 은밀한 대화창까지 내밀하게 스며들고 있다. 바야흐로 '정서 AI(Emotion AI)' 혹은 '감성 컴퓨팅(affective computing)'의 시대다. 이 분야의 이론적 토대는 MIT 미디어랩의 로절린드 피카드(Rosalind W. Picard)가 1997년 '감정 컴퓨팅(Affective Computing)'이라는 저서를 출간하면서 본격 마련했다. 피카드는 감정을 불필요한 노이즈가 아니라 지능과 합리적 의사결정의 핵심 요소로 보았고, 이를 바탕으로 '감정을 인지하고 해석하며, 의도적으로 감정에 영향을 미치는 컴퓨팅' 개념을 제안했다(Picard, 1997; 박형빈, 2025a). 그의 선언 이후, 감정은 더 이상 시인(詩人)의 언어만이 아니라 공학자와 연구자의 주요 변수로 다뤄지기 시작했다. 현재 이 기술은 주로 연구 및 시범 도입 단계에서 활용 가능성이 검토되고 있다. 일부 교육·훈련 현장에서는 카메라와 웨어러블 센서로 학생의 시선과 생체 신호를 수집하고, 이를 분석해 집중도와 정서 상태를 교사에게 실시간으로 제공하는 시스템을 시험 운영 중이다. 이는 '맞춤형 교육'이라는 장밋빛 전망과 '은밀한 감시'라는 윤리적 우려가 교차하는 지점이다(박형빈, 2025b). 돌봄 영역에서의 변화 또한 뚜렷하다. 최근 메타분석 연구들에 따르면, 장기요양시설 등 일상 공간에 도입된 사회적 로봇은 노인의 고독감을 통계적으로 유의미하게 감소시키고 우울감 완화에도 확실한 효과를 보이는 비약물적 중재 도구로 자리 잡고 있다(Mehrabi & Ghezelbash, 2025) 이와 같은 로봇들은 기계라기 보다는 따뜻한 대화 상대이자 감정의 동반자로서 외로움의 빈틈을 메우며 청소년과 노년의 일상에 배어들고 있다. 예를 들면, 'Replika' 같은 감정 대화형 AI는 사용자의 미묘한 기분 변화를 읽고 공감 어린 언어를 조율해 내놓으며(Chin, Baek, Cha, & Cha, 2025), 인간의 외로움과 심리적 고통을 덜어주는 일종의 '디지털 위로자'로 떠오르고 있다. 질적 연구에서 많은 사용자가 이 챗봇을 '안전한 대화 상대'나 '정서적 지지의 원천'으로 인식하며, 어느 정도 외로움 감소를 경험했다고 보고했다(Ta et al., 2020). 반면, 부작용도 존재한다. 외로운 사람들이 챗봇에 더 쉽게 정서적으로 끌리고, 강한 애착을 가진 일부 사용자에게서 현실 인간관계의 회피·감정 의존·정신 건강 위험 신호가 함께 나타날 수 있다는 점이 지적되기도 한다(Zhang et al., 2025). 결국 이러한 기술은 인간 소외의 시대에 새로운 희망을 던지는 한편, 양질의 관계 형성이라는 측면에서 본다면, 인간의 고독을 더욱 가중하고 악화시킬 수 있다는 점을 간과해서는 안 된다. 그럼에도 불구하고, 감정 대화형 AI는 인간의 고뇌는 아랑곳하지 않고 사용자의 기분에 맞춰 정교하게 조율된 공감의 언어를 건네며, 인간 소외의 빈틈을 시나브로 파고든다. 이 모든 현상은 감정 인식 AI와 돌봄 로봇이 먼 미래의 공상과학이 아닌, 지금 우리의 정서적 생태계에 깊이 관여하는 '현재형 기술'임을 증명한다. 그러나 기술 효용이 입증될수록, 우리는 더더욱 본질적이고 불편한 철학적 질문과 마주하게 된다. 과연 기계가 '감정을 이해한다'는 것은 무엇을 의미하는가? 기술 사회학자 셰리 터클(Sherry Turkle)은 그의 저서 '외로워지는 사람들(Alone Together)'에서 우리가 로봇에게 느끼는 유대감을 '동반자의 환상(Illusion of Companionship)'이라 경고한 바 있다(Turkle, 2011). 기계는 고통을 느끼지 못하며, 죽음을 이해하지 못한다. 따라서 기계가 건네는 위로는 입력된 데이터에 대한 출력값일 뿐, 존재론적 '공명'이 아니다. 즉, 그것은 '공감'이 아니라 '공감의 수행'이다. 그러나 여전히 우리는 묻지 않을 수 없다. 데이터로 정교하게 가공된 위로가 우리 마음의 텅 빈 방을 채울 때, 그것을 오롯이 가짜라고 단정하며 거부할 수 있을까? 감정을 흉내 내는 알고리즘에게 우리는 마음의 빗장을 어디까지 열어주어야 하는가? 차가운 알고리즘이 건네는 따스한 온기 앞에 무기력하게 선 인류는, 지금 감정의 정의(定義)를 다시 써야 하는 기로에 서 있다. 2. 감정 계산의 시대: 데이터가 된 마음, 슬픔의 성분은 눈물만이 아니다 감정 컴퓨팅 또는 감정 계산이라는 용어는 인간의 마음을 더 이상 문학이나 예술의 영역에 가두지 않겠다는 공학적 선언과도 같다. 이 분야에서 감정은 해석 불가능한 내면의 신비가 아니다. 측정하고, 분류하며, 예측가능한 '데이터'일 뿐이다. 오늘날 알고리즘은 인간의 감정을 어떻게 해부하는가? 그 방식은 실로 집요하다. 연구실과 산업 현장에서는 인간의 모든 생체 반응을 변수로 치환한다. 목소리의 미세한 떨림과 침묵의 간극에서 불안을 읽어내고, 심박 변이도(HRV)와 손끝의 땀(피부 전도도)을 통해 스트레스 수치를 역산한다. 특히 시각 정보 처리 기술 발전은 인간의 얼굴을 감정의 지도로 바꾸어 놓았다. 이 기술적 시도의 강력한 이론적 배경에는 심리학자 폴 에크만(Paul Ekman)이 있다. 1970년대 그는 연구를 통해 분노, 혐오, 공포, 행복, 슬픔, 놀람이라는 6가지 '보편적 기본 감정'을 정립했고, 훗날 여기에 경멸을 더해 7가지 모델을 완성했다(Ekman, 1992; 박형빈, 2016). 에크만은 특정 감정이 특정 표정 근육의 움직임과 일대일로 대응된다고 보았다. 예컨대, 오늘날 채용 면접 AI나 마케팅 분석 도구가 '지원자가 30%의 확률로 당황했다'라고 판정하는 근거가 바로 이 '고전적 정서 이론' 혹은 '보편적 표정 이론'에 빚을 지고 있다. 문제는 기술이 고도화될수록 역설적으로 인간 감정의 심연은 더 깊어진다는 점이다. 그렇기에 우리는 바로 여기, 이 시점에서 되물어야 한다. 기계가 미세 근육의 수축을 감지해 '슬픔'이라는 라벨을 출력했을 때, 과연 기계는 슬픔을 아는 것인가? 더 나아가 기계는 우리의 내면의 슬픔을 이해하고 공감하는 것인가? 이 지점에서 '신호'와 '경험'의 결정적인 차이가 도드라진다. 신경과학자이자 심리학자인 리사 펠드만 배럿(Lisa Feldman Barrett)은 그의 저서 '감정은 어떻게 만들어지는가(How Emotions Are Made)'에서 감정은 고정된 회로의 반응이 아니라 뇌가 신체 상태와 과거의 경험, 그리고 문화적 맥락을 종합해 구성해 낸 능동적 창조물이라 주장한다(Barrett, 2017; 박형빈, 2022). 똑같은 눈물이라도 누군가에게는 벅찬 환희의 증거이고, 누군가에게는 무너지는 절망의 잔해다. 이 점을 우리가 간과해서는 안 될 것이다. 그렇기에 수치화된 데이터는 감정을 다루는 유용한 '도구'일 수는 있어도, 감정 그 '자체'일 수는 없다. 아니 그래서도 안 된다. 감정은 뇌의 전기 신호나 안면 근육의 좌표값으로 환원될 수 없는, 기억과 관계 그리고 삶의 맥락이 복잡한 실타래처럼 얽힌 주관적이고 총체적인 역사이기 때문이다. 주목할 점은 우리가 경계해야 할 것은 기술의 발전이 아니다. 데이터가 보여주는 '수치'가 곧 그 사람의 '마음'이라고 착각하는, 우리의 '성급하고 게으른 확신'이다. 3. 감정 대화 챗봇: 위로와 의존 사이 언론 보도에 따르면, 일부 사용자는 AI 챗봇과 결혼식을 올리거나, 실제 반지를 맞추는 등 사실상 연인·배우자 관계로 인식하는 사례도 등장하고 있다(South China Morning Post, 2025) 여기서 드러나는 핵심 쟁점은 두 가지다. 하나는, 감정 없는 공감 표현이 실제 공감처럼 소비될 때 발생하는 의미의 혼란이다. 다른 하나는, 정서적으로 취약한 사람들이 감정 시뮬레이션에 과도하게 의존할 위험이다. 우리는 감정은 '신체를 가진 존재'의 경험이라는 점을 다시금 상기할 필요가 있다. 신경윤리학·감정 과학·도덕심리학은 공통적으로 감정을 단순한 정보 처리나 출력이 아닌, 신체·관계·문화가 엮인 경험으로 바라본다. 다마지오(Damasio)는 1999년 저서 '감정의 느낌(The Feeling of What Happens)'에서 뇌가 몸 상태를 지속적으로 모니터링해 프로토셀프를 구성하고, 이것이 자아 인식의 기초가 된다고 주장한다. 도덕심리학 연구는 도덕적 판단의 상당 부분이 느낌과 직관에서 출발한다는 것을 보여준다. 즉, 옳고 그름에 대한 우리의 판단은 '어떤 규칙이 더 합리적인가?'가 아니라 '이 상황을 불편하게 느껴지는가, 타인의 고통이 나에게 와 닿는가?'와 같은 정서 경험에 깊이 의존한다. 이를 감정 AI에 적용해 보면, 다음과 같은 기준점이 나온다. 감정은 계산될 수 있어도, 경험되지 않으면 감정이 아니다. AI가 내놓는 감정 표현은 '출력'이지 '체험'이 아니다. 따라서 감정을 흉내 내는 존재의 말에 우리가 느끼는 위로는 '사용자의 진짜 경험'이지만, 그것을 상호적인 정서 관계라고 착각하는 것은 또 다른 차원의 문제다. 4. 교육적 과제: '정서적 시민성'을 길러야 할 때 교실에서 학생들은 이미 이런 질문을 던지고 있다. “AI가 저를 위로했는데, 그게 진짜 위로인가요?”, “사람한테 말하면 상처받을 수 있지만, AI는 무조건 제 편을 들어줘요. 이게 왜 나쁜가요?”, “AI가 진심이 아니라는 걸 알면서도, 저도 모르게 AI에 더 많이 털어놓게 돼요.” 이 질문들은 단지 'AI를 써도 되는가?'의 문제가 아니라, 감정·관계·책임을 어떻게 이해하고 살아갈 것인가라는 더 근본적인 문제와 직결된다. 필자의 견해로, AI 시대 교육은 다음 두 가지 역량을 길러야 한다고 본다. 첫째, 감정의 본질을 구분하는 통찰력이다. 감정은 출력이 아니라 경험이라는 사실, 감정 인식·시뮬레이션 기술이 감정의 '어떤 층위'만을 다루는지 이해하는 능력. 공감의 진위를 판별하는 비판적 문해력이다. AI의 공감 문장을 접했을 때, 그것이 어떤 데이터·알고리즘 구조에서 나오는지를 이해하고, '공감처럼 보이는 말'과 '책임을 지는 공감 행위'를 구분할 수 있는 능력이다. 둘째, 관계적 책임을 유지하는 주체성이다. 편리한 기술을 인간관계의 완전한 대체재로 삼지 않고, 갈등·오해·수고로움을 감수하면서도 사람과의 관계를 꾸준히 돌보려는 태도가 요구된다. 필자는 이를 '정서적 시민성(emotional citizenship)'이라 명명하고자 한다. AI가 정서를 시뮬레이션하는 시대일수록, 인간에게는 자신의 감정과 관계를 스스로 책임지는 시민적 역량이 더 중요해진다. 이제 우리는 어디를 향해 가야 할까? 5. 맺으며: 감정을 계산하는 시대, 감정을 살아내는 인간 되기 '감정 AI'는 정서적 지원의 한 도구가 될 수 있지만, 인간관계를 대체하는 중심축이 되어서는 안 된다. 기술의 역할은, 인간의 정서를 '읽고 돕는 것'이지 '대신 살아주는 것'이 아니다. AI는 감정을 계산하고 흉내 낼 수 있지만, 수치로 표현될 수 없는 고통과 기쁨, 부끄러움과 책임감, 연민과 후회를 실제로 느끼고 감당하는 존재는 여전히 인간이다. 결국 남는 질문은 이렇다. 감정을 '흉내 내는' 존재에게 우리는 우리의 마음을 어디까지 내어줄 것인가? 그리고 그 질문에 답하는 과정이야말로, 경험의 멸종이자 감정 계산의 시대에 우리가 '감정을 살아내는' 인간으로 남기 위한, 피할 수 없는 윤리적 과제가 될 것이다. ◆12회 연재 순서 1회(왜 지금, AI 윤리인가?): 디지털 야누스 앞에 선 인류 2회(존재론): 나를 닮은 AI는 또 다른 '나'인가? 3회(감정): 기계가 '감정'을 이해한다는 말은 무엇을 뜻하는가? 4회(몸과 관계): AI는 인간의 친밀성과 관계성까지 대체할 수 있는가? 5회(판단): 자율주행차의 도덕적 결정은 누가 만들어야 하는가? 6회(창작): 생성형 AI의 창작은 '창작'인가, 변형인가? 7회(진실성): 보이는 것이 진실이 아닐 때, 우리는 무엇을 믿어야 하는가? 8회(공정): 알고리즘은 왜 중립적이지 않은가? 9회(프라이버시와 정신적 자유): 생각이 데이터가 될 때, 자유는 어떻게 지켜지는가? 10회(인간 증강과 미래): 인간을 '업그레이드'한다는 말은 어디까지 가능한가? 11회(책임) AI가 사고를 치면, 누가 책임져야 하는가? 12회(공존과 인간 번영): AI 시대, 결국 우리가 지켜야 할 것은 무엇인가? ◆ 박형빈 서울교대 교수는.... ▲약력 · 서울교육대학교 윤리교육과 교수 · 미국 UCLA 교육학과(Department of Education) 방문학자 · 서울교육대학교 교육전문대학원 에듀테크전공·AI인문융합전공 교수 · 서울교육대학교 신경윤리·가치AI융합교육연구소 소장 ▲주요 경력 및 사회공헌 · 현 신경윤리융합교육연구센터 센터장 · 현 가치윤리AI허브센터 센터장 · 현 경기도교육청 학교폭력예방자문위원 · 현 통일부 통일교육위원 · 현 민주평화통일자문회의 자문위원 ▲주요 수상 · 세종도서 학술부문 우수도서 3회 선정 ― 『어린이 도덕교육의 새로운 관점』(2019, 공역), 『뇌 신경과학과 도덕교육』(2020), 『양심: 도덕적 직관의 기원』(2024, 역서) ▲주요 저서 · 『도덕적 AI와 인간 정서』(2025) · 『BCI와 AI 윤리』(2025) · 『질문으로 답을 찾는 인공지능 윤리 수업』(2025) · 『AI 윤리와 뇌신경과학 그리고 교육』(2024) · 『양심: 도덕적 직관의 기원』(2024) · 『도덕지능 수업』(2023) · 『뇌 신경과학과 도덕교육』(2020) · 『통일교육학: 그 이론과 실제』(2020) ▲연구 및 전문 분야 · 도덕·윤리교육, 신경윤리 기반 도덕교육 · AI 윤리 교육, 디지털 시민성 교육 · 뇌–컴퓨터 인터페이스(BCI) 윤리 및 인간 증강 윤리 · 생성형 AI 할루시네이션과 윤리교육 대응

2025.12.13 14:36박형빈 컬럼니스트

지금 뜨는 기사

이시각 헤드라인

"불황 오면 어쩌지?"…삼성·SK, 장기계약으로 메모리 사이클 깬다

NFC 칩 4억개 판매 앞둔 쓰리에이로직스 성장 비결은?

[SW키트] 중국 AI 붐, 소수 도시 집중…고용·소비도 제자리

IT서비스 3사, 2분기 실적 선방…하반기 승부처는 'AI 수익화'

ZDNet Power Center