구글, 제미나이 1.5 공개…더 적은 자원으로 더 빠른 성능
구글이 대규모언어모델(LLM) 제미나이 1.5를 공개했다. 전 버전보다 더 적은 자원을 사용하고도 더 높은 성능을 낸다고 강조했다. 15일(현지시간) 구글은 제미나이 1.5를 개발자와 기업에게 제공한다고 밝혔다. 구글에 의하면, 제미나이 1.5 프로의 경우 기존 제미나이 울트바와 동등한 수준의 성능을 보이며, 기존 제미나이 1.0 프로를 능가한다. 쿼리를 전송할 때 전체 모델에서 처리하는 대신 일부만 실행해 성능을 더 높였다는 설명이다. 제미나이 1.5 프로는 한 컨텍스트 창에 3만2천개 토큰을 입력할 수 있고, 한번에 100만개 토큰을 생성할 수 있다. 구글은 1시간의 비디오, 11시간의 오디오, 3만줄 이상의 코드, 70만 단어 이상의 코드베이스를 한번에 처리할 수 있는 용량이라고 강조했다. 경쟁모델인 GPT-4의 컨텍스트 용량은 12만8천개다. 주어진 프롬프트에서 더 많은 양의 콘텐츠를 분석, 분류, 요약할 수 있다. 순다 피차이 알파벳 최고경영자(CEO)는 "모델의 컨텍스트 창이 클수록 주어진 프롬프트에서 더 많은 정보를 받아들이고 처리할 수 있으므로 출력이 더욱 일관되고 관련성 높으며 유용해진다"며 "구글 연구원이 1천만개 토큰 컨텍스트 창을 성공적으로 테스트했다"고 밝혔다. 구글은 제미나이 1.5 프로가 아폴로11의 달 탐사 임무를 다룬 402 페이지 분량의 기록을 이해하고 추론할 수 있다고 강조했다. 제미나이 1.5는 구글클라우드의 버텍스AI와 AI 스튜디오를 통해 기업 사용자와 개발자에게 제공된다. 제미나이 프로 표준 버전은 한 컨텍스트 창에 12만8천 토큰까지 입력할 수 있고, 100만개 단위까지 추가 용량을 원하는 경우 비용을 더 지불해야 한다. 테스트 기간 중에 100만개 토큰을 무료로 입력할 수 있다.
