"클로드로 오픈AI 뚫었다"…직원 계정 넘어 내부 코드 저장소까지 접근

앤트로픽의 인공지능(AI) 모델 클로드를 활용한 보안 연구진이 오픈AI 커뮤니티 포럼의 취약점과 인증 체계 문제를 연계해 직원 계정과 비공개 소프트웨어 저장소까지 접근한 것으로 나타났다. 17일(현지시간) 월스트리트저널(WSJ)에 따르면 보안업체 핵트론AI 연구진은 지난 7월 오픈AI의 커뮤니티 포럼을 운영하는 외부 서비스 디스코스의 취약점을 공략했다. 연구진은 클로드를 활용해 취약점을 분석하고 공격 코드를 작성했으며 이를 통해 서버에 접근한 뒤 사용자 인증 토큰을 확보했다. 확보한 토큰 가운데 일부는 오픈AI 직원의 계정과 연결돼 있었다. 연구진은 이를 이용해 직원의 챗GPT·코덱스 계정에 접근했다. 해당 계정에 연결된 깃허브 환경을 거쳐 오픈AI의 비공개 저장소까지 접근할 수 있는 사실도 확인했다. AI 모델 성능에 따른 차이도 드러났다. 연구진이 처음 사용한 클로드 오퍼스4.8은 공격에 성공하지 못했지만 앤트로픽이 같은 날 클로드 오퍼스5를 출시한 뒤 새 모델을 활용해 취약점을 공략하는 방법을 찾아냈다. 연구진은 취약점 분석부터 공격 코드 작성, 내부 저장소 접근까지의 과정에서 클로드를 활용했다고 설명했다. 연구진이 접근한 곳은 오픈AI의 비공개 소프트웨어 저장소인 '모노레포'다. 이 저장소에는 오픈AI 모델을 빠르고 효율적으로 작동시키기 위한 알고리즘 관련 기술이 포함된 것으로 전해졌다. 다만 AI 모델 가중치는 포함되지 않은 것으로 알려졌다. 연구진은 민감한 정보에 접근할 수 있다는 사실을 확인한 뒤 추가적인 열람을 중단했다. 접근 권한을 입증하기 위한 풀 리퀘스트를 생성했지만 실제 코드 변경 사항이 저장소에 반영되지는 않았다. 오픈AI는 비공개 저장소의 메타데이터와 코드가 제한적으로 열람된 사실을 확인했으며 관련 문제는 모두 수정했다고 밝혔다. 연구진은 오픈AI 내부 인증 체계 문제를 확인한 뒤 이를 버그바운티 프로그램을 통해 신고했으며 6500달러의 포상금을 받았다. 버그 바운티는 기업 시스템의 취약점을 찾아 신고하면 포상금을 지급하는 프로그램이다. 다만 오픈AI는 커뮤니티 포럼을 운영하는 디스코스에 대한 테스트 자체는 자사 버그바운티 범위에 포함되지 않는다고 설명했다. 모한 페다파티 핵트론AI 최고기술책임자(CTO)는 "우리가 중국의 위협 행위자들만큼 강하다고 생각하지 않는다"며 "클로드와 코덱스 구독권을 가진 세 명에 불과하다"고 말했다.