[신간] 인공지능윤리교육학:그 이론과 실제
인공지능(AI)은 의식과 감정이 있을까? 인공지능은 생각을 할까? AI라는 단어가 등장한 지 70년이 돼가고, AI라는 말이 대한민국 사회에서 일상어로 사용한 게 지난 2016년 3월 '알파고 사건'이후니 근 9년이 됐음에도, 대중은 여전히 이 같은 질문을 하고 그 답을 궁금해한다. AI 신기술이 하루가 멀다하고 쏟아지는 지금, AI는 축복일까 재앙일까? 또 AI는 규제 대상일까 활용 대상일까? AI윤리에 대해 활발한 탐구를 이어 온 서울교육대학교(서울교대) 윤리교육과 박형빈 교수가 신간 '인공지능윤리교육학:그 이론과 실제'를 선보였다. AI 윤리학에 대한 배경 지식이 없는 비전문가도 쉽게 이해할 수 있는 해석에 기초한 실용적인 AI 윤리 입문서다. 박 교수는 그동안 AI 윤리가 무엇인지, 우리는 왜 도덕-양심을 기계적 사고로 이식하기 위해 노력해야 하는지, 또 이 시대의 아동·청소년들을 위해 우리가 체계화해야 할 AI 윤리에는 무엇이 있는지에 대한 활발한 연구를 진행해 왔다. 총 2부 9장으로 구성한 '인공지능윤리교육학: 그 이론과 실제'는 'AI 혁신' 이후 대두한 사회 변화 및 문제를 짚는 데서 시작, 이것이 발달 과정상 성인보다 '환각'에 취약한 아동·청소년에게 끼치는 영향에 주목하고, AI와의 공존을 피할 수 없는 현시대 아동·청소년이 함양해야 할 올바른 '인공지능 윤리'는 무엇인지, 그리고 인공지능 윤리라는 새로운 도덕 개념을 어떤 방식과 과정을 거쳐 교육 현장에 도입할 수 있을지에 대해 총체적으로 논의하며 AI 윤리학의 전반을 순차적으로 톺아 나간다. 단순히 교육 전공자에게 필요한 전문 지식을 논의하는 데서 그치지 않고, AI 시대를 맞아 '인공지능은 축복인가, 재앙인가', '인공지능은 규제 대상인가, 활용 대상인가' 등의 이분법적 사고에 갇혀 버린 우리의 맹점을 꼬집으며 도덕·철학적 관점에서의 새로운 활로를 제시한다. 철학 거장 하이데거는 1954년 발표한 그의 저서 '기술에 대한 물음'에서 “인간이 기술을 사용한다고 여기지만, 실제로는 기술적 사유 체계가 인간의 존재 이해를 지배한다”라고 주장, 도구-기계의 '효용' 판단을 준거로 변화하게 된 인간의 사고 체계가 결국 인간 그 자신의 존재마저 효율에 의해 가름되는 객체-도구로서 인식하게 될 것이라는 우려한 바 있다. 박 교수는 AI 감정 및 양심 부재 위험성, AI 의인화 현상과 AI-인간 '상호 관계' 환상이 초래하는 인간의 취약성을 탐구하고 나아가 하이데거의 기술철학을 바탕으로 현대 인간의 실존적 위기와 인간-기계의 재정의를 해석하며, 기술 발전이 가져온 초유의 '도구적 디스토피아'의 앞에 선 우리가 '인간'으로서 나아가야 할 길을 모색한다. 2014년 개봉한 영화 '허(HER)'는 AI와 인간의 사랑을 다뤘다. 앞서 2004년에는 로봇과 인간의 공존 가능성 및 기술에 의한 디스토피아 도래를 아이작 아시모프의 '로봇 3원칙'을 기반으로 풀이한 영화 '아이, 로봇'이 개봉했고, 이보 한발 앞선 2001년에는 감정을 가진 AI를 소재로 다룬 영화 'AI'가 등장했다. 이로부터 10~20년이 지금, 우리는 이제 'AI와 사랑에 빠진 사람' 이야기나 'AI기술로 인한 사회적 혼란'을 스크린 속 영화가 아닌 현실의 뉴스 속에서 접하고 있다. 실체 없이 화면 속에만 존재하는 'AI 모델'이 패션쇼 런웨이에 서는 등 상상 속에서만 존재한 기술들이 가파른 속도로 현실이 돼 가는 지금, 우리 곁에 가장 가까이 다가온 기술 중 하나는 'AI 대화 모델'이다. 오픈AI chatGPT, 구글 제미나이, 딥시크 등의 생성, 대화형 인공지능 서비스는 공개와 동시에 빠르게 우리 생활의 일부분으로 스며들었다. 이제 사람들은 모르는 것이 있으면 책을 찾아보거나 검색을 하는 대신 AI 챗봇에 질문을 건네고, 유행하는 애니메이션 그림체로 프로필 사진을 만들기 위해 챗봇 프로그램에 셀카 사진을 업로드한다. 서투른 아이디어를 손쉽게 '그럴싸해 보이는' 결과물로 보여주기 위해 그림이나 사진, 음악 등 창작물의 초안을 AI에 학습시키고 있다. 심지어 AI 챗봇을 단순한 도구로 활용하는 단계를 넘어 마치 친구나 가족, 연인처럼 '감정을 나눌 수 있는 대상'으로 여기며 AI 챗봇과의 대화에 몰두하는 사람들도 적지 않다. 실제, 2025년 자료에 따르면, 챗GPT 주간 이용자가 7억명을 넘어섰고, 커먼 센스 미디어 조사에 따르면, 10대의 70% 이상이 캐릭터닷AI(Character.AI)나 레플리카(Replika)와 같은 AI 동반자를 사용하고 있고, 이 가운데 31%는 AI와의 대화가 실제 친구와의 대화만큼 만족스럽거나 오히려 더 낫다고 답했고, 중요한 문제를 사람 대신 AI와 상의한 경험이 있다고 밝히기도 했다. 하지만 AI는 결국 기술이다. 사람이 아니다. 아직 지금 단계의 AI는 스스로의 의지로 사랑을 속삭이거나 위로를 건넬 '마음-감정'이 없고, 트롤리 딜레마 상황에서 계산이 아닌 윤리적 논증을 고민할 '도덕-양심'이 없으며, 하물며 학습된 데이터를 조합해 출력한 '창작물'의 저작권 문제나 창작 윤리 부재에 대한 '책임'조차 없다. AI에 대한 성찰 없이 수용하기만 하면 안되는 것이다. 박 교수는 "내가 추구하는 미래는 AI와 인간이 대립하는 디스토피아도, AI가 모든 문제를 해결해 주는 테크노-유토피아도 아니”라며 “궁극적으로 이 책은 기술의 시대에도 변치 않는 인간의 존엄과 가치를 발견하고, 그것을 교육을 통해 실현하고자 하는 노력”이라고 밝혔다. 저자인 박 교수는 서울교육대학교 윤리교육과 교수다. 미국 UCLA 교육학과에서 Visiting Scholar를 지냈고, 현재 서울교육대학교 교육전문대학원 에듀테크전공 및 인공지능인문융합전공 교수와 서울교육대학교 신경윤리융합교육연구센터 및 가치윤리AI허브센터 센터장을 겸하고 있다. 도덕 교육, 인격 교육, AI 윤리 교육, 신경 도덕 교육, 신경윤리학, 통일 교육 등에 관심을 갖고 연구하고 있다. 대표 저서로 ▲AI 윤리와 뇌신경과학 그리고 교육: 인공지능은 주저하지 않는다 ▲인공지능윤리와 도덕교육 ▲질문으로 답을 찾는 인공지능윤리수업 ▲BCI와 AI윤리 ▲도덕적 AI와 인간 정서 ▲도덕지능수업 ▲도덕교육학: 그 이론과 실제 ▲뇌 신경과학과 도덕교육』(2020세종학술도서) ▲통일교육학: 그 이론과 실제 ▲학교생활 나라면 어떻게 할까? ▲가정생활 나라면 어떻게 할까? ▲사회생활 나라면 어떻게 할까? 등이 있다. ◆ 목 차 프롤로그: 왜, 지금, '인공지능윤리교육학'인가? ...... 2 제1부: 이론 편 - AI 윤리의 철학적·과학적 기초 제1장. 생성 AI! 너는 나의 신이니 나를 구원하라! ...... 20 제2장. AI는 '양심'을 가질 수 있는가: 도덕적 행위 주체성의 신경철학적 탐구 ...... 41 제3장. 인간의 도덕 판단은 어떻게 이루어지는가: 신경철학적 기초와 한국 교사 사례를 통한 AI 윤리 인증의 이론적 토대 ...... 73 제4장. 인간-AI는 어떻게 상호 작용하는가: 사이버네틱스로 본 책임과 안전 ...... 101 제2부: 실천 편 - AI 윤리 교육의 방법과 적용 제5장. 아동의 뇌 발달과 AI Digital Textbooks(AIDT)의 빛과 그림자 ...... 130 제6장. 디지털 시민성은 어떻게 길러지는가: 벌코위츠의 '도덕 해부학' 적용 ...... 160 제7장. AI 의인화는 왜 위험한가: 비판적 리터러시 함양 교육 ...... 196 제8장. 인간 증진은 어디까지 허용되어야 할까: BCI 기술의 윤리적 쟁점과 교육 ...... 227 제9장. 존재의 목자(牧者), 알고리즘의 시대: 하이데거 기술철학으로 설계하는 존재론적 인공지능 윤리 교육 ...... 260 에필로그: 지속 가능한 AI 생태계를 향하여 ...... 293 참고 문헌 ...... 299 도서출판 어문학사 출간, 320쪽, 2만원.
