청소년 SNS·AI 과몰입 막으려면…"플랫폼 설계부터 안전하게"
청소년 사이에서 SNS·AI 이용이 빠르게 늘면서 과몰입과 정서적 의존 등 새로운 위험에 대응하기 위해 플랫폼 책임을 강화해야 한다는 제언이 나왔다. 청소년과 보호자가 이용을 조절하는 데만 의존하기보다 서비스 설계 단계부터 안전장치를 마련하고, 서비스 특성과 위험도에 따라 규제를 달리하는 제도적 접근이 필요하다는 지적이다. 박정하·한지아 국민의힘 국회의원, 한국소비자연맹, 한국정보통신법학회는 28일 서울 영등포구 국회의원회관에서 '청소년에게 안전한 디지털 환경, 누구의 책임인가?'를 주제로 토론회를 개최했다. 이번 토론회는 상윤모 연세대 언론홍보영상학부 교수와 김나정 국회입법조사처 조사관보가 각각 발제를 맡았다. 최근 온라인 환경에서의 청소년 SNS 중독과 위험 문제에서 플랫폼의 책임을 인정하는 판결이 속속 내려지고 있다. 지난 3월 미국 캘리포니아주 배심원단이 메타와 구글에 600만 달러를 배상하라고 한 판결과 SNS 중독을 유도했다는 이유로 메타가 미국 48개 주에 최대 180억 달러를 지급하기로 합의한 소송 등이 대표적이다. 새 법률 제정·망법 개정안 사이 결정 필요…민관 논의 병행해야 상 교수는 이같은 판결을 짚어보며 해외 주요국의 플랫폼 규제 현황과 아동·청소년의 SNS 규제 현황을 소개했다. 유럽연합(EU)은 디지털서비스법(DSA)을 통해 서비스 유형과 이용자 규모별로 불법 유해 정보 유통 방지를 위한 차등적인 의무를 부과하고 있다. 영국 온라인 안전법(OSA)은 플랫폼들이 아동 보호 관련 의무를 제대로 이행할 수 있도록 사용자 간 서비스, 검색 서비스로 사업자를 구분해 상세한 가이드라인을 제공한다. 호주는 아동 사이버 괴롭힘, 성인 사이버 학대 등 5개 주요 핵심 제도로 구분해 특정 유형의 콘텐츠를 규제하도록 법안을 설계했다. 해외 주요국에서는 청소년의 SNS 이용도 규제하고 있는데, 호주는 전 세계에서 처음으로 16세 미만 이용자에 한해 SNS 계정 보유·가입을 금지하고 있다. 인도네시아도 이와 같은 제도를 시행 중이다. 일본에서는 15~19세 청소년 과반이 SNS 이용 제한에 찬성하는 입장을 견지했다. 프랑스와 미국, EU 등에서도 관련 법안을 추진하겠다는 강한 의지를 표명하고 있다. 국내에서도 아동·청소년 SNS 이용과 관련해 정보통신망법 개정안이 여러 건 발의된 바 있다. 글로벌 환경에서는 세이프티 바이 디자인(설계에 의한 안전 모델) 측면에서 접근하려는 추세지만, 망법에서는 불법·유해 정보가 유통된 이후 콘텐츠를 중심으로 사후 규제하고 있다. 상 교수는 온라인상에서 이용자 보호를 위한 기본법 성격의 법률을 새로 제정하는 것과 기존 망법을 개정하는 것 사이에서 결정이 필요하다고 봤다. 그는 “가장 중요한 것은 시민단체, 사업자, 정부가 같이 논의하는 공동 규제 부분이 꼭 필요하다”며 “중독을 유발하는 알고리즘과 이에 기반한 맞춤형 광고는 어떻게 규제할지도 핵심적으로 논의에 포함돼야 한다”고 말했다. AI 규제 성격 달라졌다…개인화·알림 등 설계 같이 봐야 '청소년 AI 이용제한 이슈와 과제'에 대해 발제를 진행한 김 조사관보는 AI 이용을 운전에 비유하며 사업자의 안전 설계 의무라는 안전벨트와 위험 기반 차등 규율이라는 신호등을, 보호자·청소년 AI 리터러시라는 운전교육이 함께 갖춰질 때 청소년들이 AI 혜택을 안전하게 누릴 수 있다고 강조했다. 올해 미국 9~17세 청소년 1204명을 대상으로 시행한 조사에 따르면 응답자 중 86%가 AI를 사용하거나 접한 경험이 있다고 응답했고, 이 중 24%는 매일 AI를 사용한다고 답했다. 국내 청소년 3300명을 상대로 진행된 조사에서도 94.4%가 생성형 AI 챗봇을 이용한 경험이 있다고 밝혔다. 김 조사관보는 AI 규제에 있어 핵심은 위험의 성격이 달라진 것이라고 짚으며, 현재는 대화와 같이 반복되는 상호작용 구조에 있어 사후 삭제만으로 충분하지 않고 개인화·알림 등과 같은 설계 요소를 함께 봐야 한다고 평가했다. 특히, 청소년의 경우 보상에 반응하는 신경계가 성인보다 활성화돼 있어 칭찬과 공감에 민감하게 반응하는 반면 인지 통제 기능은 아직 부족해서 보다 위험하다고 진단했다. 그러면서 서비스 설계 단계에서부터 예견 가능한 위험을 평가하고 연령에 맞는 기본 설정 등을 서비스 안에 담아야 한다고 주장했다. AI 통제 문제 대두되나…서비스 특성별로 다른 규제 필요 이날 토론에서 윤영호 서울대학교 가정의학과 교수는 사회가 급격히 발전한 반면 사고 체계는 여전히 1970년대에 머물고 있다고 지적했다. 그는 “디지털 사회로 접어들면서 AI와 관련 부작용들이 나타날 때 통제 문제가 대두될 수밖에 없다”며 악행 근절의 원칙, 선행의 원칙, 자율성 존중의 원칙, 정의의 원칙이라는 의료 윤리의 4대 원칙이 디지털 환경에서도 이뤄져야 한다고 봤다. 청소년 SNS 중독 등은 기업과 국가의 책임이라며 입법 과제로 안전 조치의 의무, SNS 통제 방법에 대한 정신 건강 연구, 디지털 중독 해결 예산 마련, 디지털 건강 분담금 도입 등을 제안했다. 정지연 한국소비자연맹 사무총장은 청소년 특수성을 이해하면서 관련 제도를 고민해 봐야 한다며 EU처럼 플랫폼에 책임을 묻는 방안을 고려해 봐야 한다고 언급했다. 정 총장은 “SNS와 AI는 같은 원칙이지만, AI는 이용자의 질문과 감정에 직접 반응하고 SNS는 과몰입과 과한 신뢰, 의인화가 문제”라며 “서비스 특성과 위험도에 따라 규제 프레임워크도 달라져야 한다”고 덧붙였다. 천혜선 디지털산업정책연구소 박사는 “SNS나 AI 문제는 기존 인터넷 정책에서 경험해 보지 못한 새로운 위기 상황”이라며 “병원균으로부터의 격리가 아닌 백신을 통한 면역을 확보하는 방안이 무엇인가에 대한 고민이 필요하다”고 말했다. 이어 “우리가 집행 역량을 확보하는 것이 청소년들의 조절 역량을 확보하는 것만큼이나 중요하다”며 “제도를 설계할 때 불확실성을 줄여가는 과정 자체도 절차적으로 들어가야 한다”고 부연했다.
