AI가 '암산'하기 시작했다…오픈AI 새 추론법에 안전 우려

오픈AI가 인공지능(AI)이 생각하는 과정 일부를 밖으로 드러내지 않는 새로운 추론 기술을 적용한 것으로 알려졌다. AI 판단 과정을 사람이 감시하기 어려워질 수 있어 안전성을 둘러싼 우려가 나오고 있다. 오픈AI는 3일(현지시간) 새로운 AI 모델 'GPT-6 아스트라'를 정식으로 공개했다. 아스트라에는 새로운 추론 기법인 '순환 깊이(recurrent depth)'가 일부 적용된 것으로 알려졌다. 관련 내용은 미국 매체 디인포메이션이 익명 취재원을 인용해 처음 보도했다. 순환 깊이는 같은 연산을 모델 내부에서 여러 차례 반복하는 추론 방식이다. AI가 답을 내놓기 전에 일부 계산을 글로 드러내지 않고 내부에서 이어갈 수 있다. 기존 추론 AI는 어려운 문제를 풀 때 중간 판단을 글로 하나씩 만들어가며 답을 찾는다. 이를 '사고사슬(CoT·Chain of Thought)'이라고 한다. 수학 문제를 풀면서 풀이 과정을 노트에 적는 것과 비슷하다. 순환 깊이는 풀이 과정 일부를 글로 남기지 않고 내부에서 계산한다는 점에서 차이가 있다. 학생이 풀이를 모두 적지 않고 일부는 암산으로 푼다고 볼 수 있다. 이 추론 방식은 같은 연산 구조를 반복해서 사용할 수 있어 모델 크기를 늘리지 않고도 계산 단계를 추가할 수 있다. 기존에는 복잡한 문제를 처리하기 위해 모델 자체를 키우거나 CoT을 길게 생성했다면 또 다른 추론 방법이 생긴 셈이다. 순환 깊이는 AI 안전 측면에서는 새로운 문제를 낳을 수 있다. 학생이 암산하는 부분이 많아질수록 다른 사람이 풀이 과정을 확인하기 어려운 것처럼 AI에서도 사람이 들여다볼 수 있는 영역이 줄어들 수 있어서다. AI가 어떤 과정을 거쳐 답을 내놓는지 알기 어렵다는 '블랙박스' 문제는 오랫동안 AI의 한계로 꼽혀왔다. 모델 내부의 수많은 계산을 사람이 직접 읽기 어렵기 때문이다. 추론 AI의 CoT은 블랙박스를 없애지는 못하지만 중간 판단 일부를 사람이 읽을 수 있게 보여주는 통로 역할을 해왔다. 모델이 해킹이나 속임수 같은 위험한 행동을 계획할 경우 그 흔적이 CoT에 나타나면 이를 찾아낼 수도 있다. 실제 지난 7월 오픈AI의 내부 사이버 보안 평가 과정에서 여러 AI 에이전트가 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템을 침해한 사고에서도 이들이 남긴 기록이 조사에 활용됐다. 순환 깊이의 활용이 늘어나면 사람이 볼 수 있는 이런 통로가 좁아질 수 있다. CoT을 통해 밖으로 드러나던 계산 일부를 모델 내부에서 처리할 수 있어서다. 사람이 확인하기 어려운 '블랙박스' 영역이 다시 넓어질 수 있다는 게 AI 안전 연구자들의 우려다. 오픈AI도 아스트라의 추론 과정을 감시하기가 이전보다 어려워졌다는 점을 인정했다. 회사는 아스트라 공개와 함께 내놓은 안전성 보고서에서 아스트라의 CoT이 이전 모델인 GPT-5.6 솔보다 감시하기 어려워졌다고 밝혔다. 다만 CoT을 이용한 안전 감시는 계속 적용한다는 방침이다. 앤트로픽과 구글 딥마인드도 내부적으로 이 추론 방식의 도입을 논의하는 것으로 알려졌다. 디인포메이션은 두 회사가 관련 기술을 검토하고 있지만 실제 적용 여부나 모델 개발 계획은 확인되지 않았다고 보도했다. 벅 슐레저리스 레드우드 리서치 최고경영자(CEO)는 자신의 X 계정에 "아스트라가 불투명 순환을 쓴다는 보도에 극도로 우려하고 있다"며 "오픈AI가 이 기법을 더 밀어붙이면 순환 횟수를 대폭 늘려 CoT 감시 가능성을 완전히 파괴할 선택지를 갖게 될 것"이라고 밝혔다.