환각은 줄이고, 검색은 빠르게…네이버, 'AI탭' 핵심 기술 공개

“네이버는 서비스 역량에서 확실한 우위를 점하고 기본 역량은 경쟁사를 넘어서는 수준을 유지하고, 전문 역량은 글로벌 프론티어 최고 수준과의 격차를 최소화하는 것을 목표로 하고 있습니다.” 이기창 네이버클라우드 이사는 지난 2일 서울 강남구에서 열린 테크 딥톡 세션에서 이같이 말하며 AI탭에 적용된 초거대 언어모델(LLM)의 지향점을 공유했다. AI탭은 네이버가 지난달 26일 정식 출시한 대화형 검색 서비스로, 사용자의 검색 의도와 맥락을 이해해 답변을 제공하는데 이어 쇼핑, 장소 탐색 등 실제 행동으로 연결하는 에이전틱 검색 서비스다. 특히, AI탭에는 기존 하이퍼클로바X를 기반으로 AI 검색 서비스를 위해 개발된 경량 모델인 프로덕트 네이티브 LLM이 적용됐다. 프로덕트 네이티브 LLM은 네이버의 데이터·서비스 시나리오·사용자 피드백을 모델 설계 전반에 반영했다. 데이터·아키텍처·트레이닝 3대 축으로…MoE 도입으로 응답속도 향상 이번 모델은 서비스 효율성을 극대화하기 위해 데이터, 아키텍처, 트레이닝 3대 축을 중심으로 개발됐다. 문서 품질 필터를 통해 학습 데이터의 품질을 높였으며 복잡한 사용자 요청과 최적의 답변을 매핑하는 '비스형 데이터 수집 파이프라인'을 구축해 검색·쇼핑·플레이스·생활정보 분야의 데이터를 사전 학습 단계부터 반영했다는 것이 네이버의 설명이다. 아키텍처 측면에서는 대규모 서비스 환경에 최적화된 MoE 구조를 도입했다. 이를 통해 기존 HCX 대비 빠른 응답 속도와 높은 처리량을 확보했다. 사용자 경험과 직결되는 E2E Latency도 단축했다. 이는 입력부터 최종 답변 완료까지 걸리는 총 소요 시간으로 낮아질수록 좋은 모델로 평가된다. 기존 트랜스포머 구조 모델의 경우 입력 길이가 늘어날수록 연산량이 제곱으로 증가해 응답 시간이 가파르게 늘어나지만, 해당 모델은 연산량을 입력 길이에 선형적으로 비례하는 수준으로 개선해 긴 문맥에서도 안정적인 응답 속도와 높은 처리량을 유지한다. 트레이닝 단계에서는 강화학습에 투입되는 컴퓨팅 자원이 기존 HCX 대비 2배 이상 확대됐으며, 답을 낼 수 없는 질문에 대해 추가 조건을 되물었을 때 보상을 부여해 모델 성능을 높이는 강화학습 기술도 새롭게 적용됐다. AI가 모호한 요청을 임의로 해석하지 않고, 추가 질문을 통해 사용자의 의도를 명확하게 확인하는 명료성 강화학습(Clarify RL) 기술로 환각 현상을 개선했다. 자기정책 기반 증류(OPD) 기법 역시 함께 적용됐다. 학습 중인 모델이 직접 생성한 답변을 고성능 모델이 토큰 단위로 첨삭하는 방식으로, 부족한 전문 영역의 역량을 효과적으로 보완할 수 있는데다 고성능 모델 성능이 높아질수록 학습 중인 모델도 함께 향상되는 지속적 개선 구조를 갖는다. AI탭에 적용된 모델의 '검색·구매·예약' 등의 실행 품질을 네이버가 종합적으로 평가한 자체 벤치마크 결과 '서비스 역량'은 108점으로 경쟁사 평균인 100점과, 경쟁사 최고점인 106점보다 높았다. 지시 이행과 일본 도구 호출 등 기본 역량에서는 104점을 기록해 경쟁사 평균인 100점을 웃돌았다. 박사급 과학문제를 해결하는 전문 역량은 97점으로 경쟁사 평균인 100점보다 소폭 낮았다. 이 이사는 “세 역량을 지금 모두 잘하는 모델을 만들겠다는 것은 아니다”라며 “기본, 전문 역량도 힘을 주면 열심히 해서 (타사를) 따라갈 수는 있다. 어디서 가장 잘해야 하느냐는 질문을 던졌을 때 서비스 관련 역량에 더 집중 투자해야겠다고 전략적으로 결정한 것”이라고 설명했다. 안정 구동 담당하는 하네스 엔지니어링…스마트렌즈는 넥스트 스텝 담당 현장에서 네이버는 AI탭을 안정적으로 구동하는 핵심 기술인 '하네스 엔지니어링'도 공개했다. AI탭에 적용된 하네스 엔지니어링은 AI가 부적절한 답변을 하지 않도록 제어하면서 필요한 정보를 스스로 찾고 적절한 도구를 활용해 사용자의 요청을 끝까지 수행하도록 설계됐다. 사용자 의도 이해 및 긴 대화 맥락 관리, 검색·쇼핑·플레이스 등 서비스 연계 추론, 출처 제공 및 실행 연결의 네 단계로 동작한다. 여기에 네이버는 검색창에 적용된 스마트렌즈를 중심으로 멀티모달 에이전트로 진화하겠다는 비전을 제시했다. 멀티모달은 이미지를 AI가 이해할 수 있는 표현(임베딩)으로 변환해 텍스트뿐 아니라 이미지와 영상 등 다양한 형태의 정보를 함께 이해하고 활용할 수 있도록 하는 기술을 뜻한다. 네이버는 2017년 스마트렌즈를 출시하며 이미지 검색 서비스를 선보인 이후, 2022년 이미지와 텍스트를 더한 복합 검색, 지난해 이미지 이해 및 요약을 수행하는 스마트렌즈 X AI 브리핑으로 기술을 고도화해왔다. 앞으로는 상품 검색을 넘어 다양한 영역에서 실행형 멀티모달 경험을 제공할 수 있도록 관련 기술을 고도화할 방침이다. 윤상두 네이버 리더는 “현재 네이버 AI 에이전트는 텍스트 중심으로 입력되지만 향후에는 이미지를 통해서도 의도를 이해하고, 실제 행동까지 연결하는 멀티모달 에이전트 방향으로 진화할 것”이라고 밝혔다.