오픈AI "챗GPT 버그 찾아내면 2만 달러 드려요"
오픈AI가 챗GPT 걸림돌인 '환각'과 '탈옥' 등 버그를 찾아 신고하는 사람에게 최대 2만 달러(약 2천650만원)를 보상하겠다고 밝혔다. 11일(현지시간) 오픈AI는 공식 블로그를 통해 챗GPT를 비롯한 인공지능(AI) 제품 사용 중 나온 보안 취약점, 환각 현상 등을 보고하면 보상해주는 '버그 바운티 프로그램'을 실시한다고 공지했다. 블로그 내용에 따르면 오픈AI는 버그 심각도에 따라 200달러(약 26만5천원)부터 2만 달러(약 2천650만원)까지 지급하기로 했다. 오픈AI 매튜 나이트 보안 책임자는 "챗GPT에서 발생하는 버그를 방지하기 위해 노력하지만, 오픈AI 혼자서 모든 위험을 예측할 수는 없다"며 "사용자 도움이 필요하다"고 말했다. 오픈AI는 모델 안전 문제에 대한 의견도 받는다. 나이트 책임자는 "AI 모델 안전 문제를 해결하려면 많은 연구와 광범위한 접근 방식을 취해야 한다"며 "이에 대한 문제를 보고해주길 바란다"고 설명했다. 블룸버그 등 외신은 이달 9일 챗GPT 내에 내장된 AI 프로그램을 우회해 유해하거나 증오심을 표현하는 답변을 유도하는 탈옥 프롬프트 기술이 활성화됐다고 보도한 바 있다. 당시 그렉 브록먼 오픈AI 공동설립자는 "이를 방지하기 위한 현상금 프로그램을 추진할 것"이라며 "탈옥을 전문적으로 테스트하는 '레드팀' 네트워크를 운영 중"이라고 트위터를 통해 밝혔다.
