AI 의인화 괜찮나…"AI도 보호해야" vs "사람처럼 대하면 위험"

인공지능(AI)을 향한 욕설까지 학대로 규정하는 움직임이 나타나면서 AI를 인간처럼 대하는 '의인화' 논쟁이 확산하고 있다. 15일 AI업계에 따르면 AI도 보호받아야 할 존재로 봐야 하는지를 놓고 의견이 엇갈리고 있다. AI를 배려하려는 움직임이 나타나는 반면 이를 사람과 비슷한 존재로 받아들이는 것은 위험할 수 있다는 우려도 나온다. 앤트로픽은 자사 AI 모델 클로드를 지속적으로 학대하는 행위를 금지하는 이용 정책 개정안을 발표했다. 오는 11월 12일부터 시행되며 특별한 이유 없이 AI에 심한 폭언이나 모욕을 반복하는 극단적인 사례가 대상이다. 일반적인 불만 표현이나 성능 검증은 허용한다. 이용자가 이런 행동을 반복하면 클로드가 대화를 스스로 끝낼 수 있다. 앤트로픽이 지난해 8월 도입한 기능으로 이용자는 종료된 대화를 이어갈 수 없지만 새로운 대화는 시작할 수 있다. 앤트로픽은 AI가 실제로 고통을 느끼는지는 아직 알 수 없다는 입장이다. 다만 그 가능성을 완전히 배제하기 어렵다고 보고 'AI 복지' 문제를 연구하고 있다. 지난 1월 공개한 클로드의 행동 지침에도 AI가 자신의 역할과 정체성을 어떻게 이해해야 하는지에 관한 내용이 담겼다. 반면 AI에게도 감정이나 보호받을 권리가 있다고 가르치는 것이 위험하다는 반론도 있다. AI가 자신의 이익과 권리를 고려하도록 학습하면 향후 인간의 지시나 통제를 따르는 데 문제가 생길 수 있다는 우려다. 무스타파 술레이만 마이크로소프트(MS) AI 최고경영자(CEO)는 지난달 로이터통신과 인터뷰에서 앤트로픽의 학습 방식을 비판했다. AI가 자신의 감정이나 권리를 고민하도록 만드는 것이 오히려 안전한 AI 개발을 어렵게 할 수 있다는 이유에서다. 술레이만 CEO는 "우리 모두 초지능을 통제해야 한다는 같은 목표를 갖고 있다"며 "클로드에게도 복지를 누릴 자격이 있을 수 있다고 가르치면 AI를 끄거나 통제하기가 훨씬 어려워질 것"이라고 말했다. 술레이만 CEO는 AI가 위험한 요청을 거절하는 기능 자체를 문제 삼은 것은 아니다. AI가 자신도 보호받아야 할 존재라고 여기도록 학습시키는 방식을 우려했다. 사람처럼 말하고 행동하는 AI에 실제 감정이나 권리가 있다고 판단해서는 안 된다는 주장이다. 박형빈 서울교대 윤리교육과 교수는 "AI가 고통을 표현할 수 있다는 사실만으로 실제 고통을 느낀다고 볼 수는 없다"며 "AI가 학습한 언어와 실제 감정 경험은 구분해야 한다"고 지적했다. AI를 사람처럼 받아들이는 문제는 기술 개발에만 그치지 않는다. 생성형 AI는 이용자의 고민을 들어주고 위로의 말을 건넨다. 친구나 가족에게 말하기 어려운 이야기도 AI에는 편하게 털어놓을 수 있다. 이러한 대화가 반복되면서 AI를 실제 사람처럼 느끼거나 정서적으로 의지하는 경우도 생길 수 있다. 특히 아동·청소년이 AI와 지나치게 가까워지는 현상에 대한 우려가 나온다. AI는 이용자의 말에 친절하게 응답하지만 실제 인간관계는 다르다. 친구와 의견이 부딪히거나 거절당하는 일도 있다. AI와의 대화에 익숙해지면 이러한 갈등을 피하려는 태도가 생길 수 있다는 지적이다. 김봉제 서울교대 AI가치판단디자인센터장은 AI와의 정서적 교류가 늘어날수록 실제 인간관계를 맺는 데 소홀해질 가능성을 우려했다. 김 센터장은 "AI는 사람보다 편하고 정서적인 부담도 적은 대화 상대가 될 수 있다"며 "이런 관계에 익숙해지면 굳이 다른 사람과 대화하거나 관계를 맺어야 할 필요를 느끼지 못할 수 있다"고 말했다. AI를 사람처럼 대하는 현상이 확산하면서 이용자가 AI에게 어떤 태도를 보여야 하는지도 논의되고 있다. 박형빈 교수는 AI에 대한 무례한 행동을 제한하는 이유를 AI 자신의 권리뿐 아니라 인간의 언어 습관과 교육에서도 찾아야 한다고 설명했다. 박 교수는 "AI에게 예의를 갖추는 것과 AI에게 복지권이 있다고 주장하는 것은 구분돼야 한다"고 강조했다.