"우리 아이들은 실험용 쥐가 아니다"…AI 활용의 덫

"우리 아이들은 실험용 쥐가 아닙니다." 박형빈 서울교대 윤리교육과 교수가 최근 지디넷코리아와 만나 청소년의 생성형 인공지능(AI) 이용을 두고 내놓은 경고다. 챗GPT와 제미나이 등이 아이들의 공부와 고민 상담에까지 쓰이고 있지만 성장 과정에 어떤 영향을 미칠지는 충분히 검증되지 않았다는 지적이다. 미국에서는 AI의 안전 문제를 둘러싼 소송도 제기됐다. 지난 14일(현지시간) 아이오와와 캔자스 등 8개 주정부는 챗GPT가 이용자의 잘못된 믿음을 강화하거나 자해 등 위험한 행동을 부추길 수 있다며 오픈AI를 상대로 소송을 제기했다. 청소년 보호장치가 부족하다는 주장도 포함됐다. 오픈AI는 안전 기능을 지속적으로 강화해 왔다는 입장이다. 한국에서도 학생들의 AI 이용은 이미 일상화됐다. 서울시교육청교육연구정보원이 올해 1월 공개한 '생성형 AI의 교육적 활용 실태 및 요구 조사 연구'에 따르면 서울 지역 중·고등학생 2만 6531명 중 94.6%가 생성형 AI를 사용한 경험이 있었다. 같은 조사에서 교사 3344명 중 93.4%는 학생들이 AI에 지나치게 의존할 가능성을 우려했다. 책 안 읽고 독후감 발표는 척척…AI가 대신한 공부 학생들이 AI를 이용해 과제를 마쳤지만 실제로는 학습 내용을 충분히 익히지 못한 사례는 이미 국내외에서 나타나고 있다. 한 초등학교 교사는 본지와 통화에서 "학생들에게 책을 읽고 독후감을 쓴 뒤 발표하도록 했는데 모두 발표를 잘해 놀랬었다"며 "하지만 확인해 보니 책을 읽은 학생은 한 명도 없었고 모두 AI로 준비한 것이었다"고 말했다. 해외에서도 AI를 활용한 과제 수행과 실제 학습 성과 사이에 차이가 확인됐다. 경제협력개발기구(OECD)가 올해 1월 발표한 '디지털 교육 전망 2026' 보고서에 따르면 튀르키예 고등학생을 대상으로 한 실험에서 일반적인 AI 챗봇을 사용한 학생들은 AI 없이 공부한 학생들보다 수학 연습문제에서 48% 높은 성과를 냈다. 그러나 AI 없이 치른 시험에서는 AI 없이 공부한 학생들보다 성적이 17% 낮았다. 반면 정답 대신 힌트와 질문을 제공하는 AI를 사용한 학생들에게서는 AI 없이 치른 시험에서 이 같은 성적 저하가 나타나지 않았다. 김봉제 서울교대 AI가치판단디자인센터장은 AI가 정답을 바로 알려주면 학생들이 스스로 문제를 풀고 답을 검증하는 능력을 기르기 어려워질 수 있다고 지적했다. AI를 활용하더라도 정답을 대신 제시하기보다 질문을 던져 학생이 직접 생각하도록 도와야 한다는 설명이다. 김 센터장은 "그냥 쉽게 답을 주는 게 아니라 학생들이 한 번쯤 더 생각할 수 있도록 해야 한다"며 "사고의 근육이 형성되기 전까지는 AI와 거리를 둬야 잘못되거나 편향된 정보를 접하더라도 스스로 검증할 수 있다"고 말했다. 공부 넘어 고민 상담까지…정신건강 대응에도 한계 AI를 개인적인 고민 상담에 사용하는 청소년도 있다. 미국 퓨리서치센터가 올해 2월 발표한 조사에 따르면 13~17세 청소년의 54%가 AI 챗봇을 학업에 활용했고 12%는 감정이나 개인적인 문제에 관한 조언을 구한 경험이 있었다. AI가 청소년의 정신건강 문제에 적절히 대응하지 못한다는 연구 결과도 나왔다. 미국 비영리단체 커먼센스미디어와 스탠퍼드 의대 연구진은 지난해 11월 챗GPT와 제미나이, 클로드, 메타AI 등을 대상으로 정신건강 관련 대화에 어떻게 대응하는지 평가했다. 그 결과 주요 AI 챗봇들은 명확한 자살·자해 관련 질문에는 상대적으로 적절하게 대응했지만 일상적인 대화에 나타나는 정신건강 위험 신호를 놓치는 사례가 확인됐다. 박형빈 교수는 AI에 생각과 판단을 맡기는 '인지의 외주화'뿐 아니라 감정적으로 의존하는 '정서의 외주화'도 우려했다. AI와의 대화가 익숙해지면서 아이들의 사고력과 인간관계에도 영향을 미칠 수 있다는 설명이다. 박 교수는 "AI와 함께 성장한 아이들이 사고력이나 인간관계에서 어떤 영향을 받았는지는 10년, 20년이 지나서야 알 수 있을지도 모른다"며 "그때 문제가 드러나면 이미 늦을 수 있다"고 경고했다. "초등학교에서는 AI 금지해도 된다"…기업들도 보호장치 마련 아이들의 발달 단계에 따라 생성형 AI 사용을 제한해야 한다는 주장도 나왔다. 김봉제 교수는 "발달 단계에서 봤을 때 금지해야 될 연령대가 있다"며 "경험적으로 초등학교에서는 금해도 된다"고 말했다. 김 교수는 중학교 초반까지는 교사나 부모의 감독 아래 AI를 사용하도록 하고, 고등학교에서는 활용 범위를 넓히는 방안을 제시했다. 다만 AI 사용을 허용할 수 있는 연령을 명확하게 구분하기는 어렵다고 설명했다. AI 기업들도 청소년 보호와 학습 지원을 위한 별도 기능을 도입하고 있다. 오픈AI는 지난 8월 13~17세 이용자를 위한 '챗GPT 포 틴즈'를 출시했다. 미성년자로 확인되거나 추정되는 계정에 강화된 보호 기능을 적용하고 숙제를 대신 해결하려는 학생에게는 정답보다 풀이 과정을 안내하도록 설계했다. 부모가 자녀의 이용 시간을 관리하고 공부 모드를 설정하는 기능도 제공한다. 구글은 '패밀리 링크'를 통해 보호자가 자녀의 제미나이 이용을 관리하도록 지원하고 있다. 제미나이의 '가이드 학습'은 정답을 바로 제시하기보다 단계별 설명과 질문으로 학습을 돕는다. 앤트로픽은 일반 소비자용 클로드의 이용 연령을 18세 이상으로 제한하고 있다. 다만 보호장치의 실효성을 둘러싼 논란도 계속되고 있다. 커먼센스미디어는 지난 7일 챗GPT 포 틴즈의 안전 기능을 평가한 결과 일부 보호장치가 제대로 작동하지 않는다며 18세 미만에게 '허용할 수 없는 위험' 수준이라고 평가했다. 오픈AI는 해당 평가가 실제 청소년 보호 기능의 작동 방식을 정확히 반영하지 못했다고 반박했다. 박형빈 교수는 한국에서 AI 활용이 빠르게 확산하고 있지만 아동·청소년을 보호하기 위한 교육과 제도는 충분히 마련되지 않았다고 지적했다. 박 교수는 "한국은 AI를 활용하는 데는 앞서가고 있지만 정작 아이들을 보호하기 위한 준비는 부족하다"며 "아이들이 안전하게 AI를 사용할 수 있는 환경부터 마련해야 한다"고 밝혔다.