검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'젠AI360'통합검색 결과 입니다. (4건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

메가존클라우드 "기업 생성형 AI 도입, '관망'에서 '관리' 영역으로 진화"

"기업들이 생성형 인공지능(AI)을 도입하는 데 있어 환각 현상을 줄이는 것이 반드시 필요합니다. 조만간 선보일 '젠AI360 버전2(GenAI360 v2)'가 이같은 기업들의 고민을 해결해 줄 것입니다." 공성배 메가존클라우드 AI·데이터분석센터장은 10일 서울 강남구 코엑스에서 개최된 'SaaS 서밋 2024(SaaS Summit 2024)'에 연사로 참석해 이달 말께 '젠AI360'의 새로운 버전을 공개하며 기업 고객 공략에 속도를 내겠다는 의지를 밝혔다. '젠AI360'은 생성형 AI를 도입하고자 하는 기업들을 위해 설계부터 구축, 운영까지 지원하는 기업 맞춤형 엔드 투 엔드 서비스로, 지난해 9월 처음 론칭됐다. 기존 버전은 ▲기업의 생성형 AI 활용 전략 수립 및 파일럿 과제 수행 등 컨설팅 ▲기업별 환경을 고려한 최적 플랫폼 선정과 데이터 학습 및 검증 ▲기업 내 활용 대상 서비스 개발 및 가이드 제공 ▲생성형 AI 운영 전략 수립 및 서비스 운영 등으로 구성된다. 이번에 선보이는 새로운 버전은 검색증강생성(RAG) 기능을 적용해 좀 더 간편하고 정확하게 질의응답 할 수 있는 플랫폼으로 구현함으로써 기업 고객들이 원하는 답변을 제대로 도출할 수 있도록 지원하는 것이 특징이다. 주요 질문 유형에 대해 프롬프트 엔지니어링을 적용해 신뢰할 수 있는 답변을 생성함으로써 기업들은 업무를 더 효율적으로 할 수 있게 된다. 공 센터장은 이날 '비즈니스 혁신을 이끄는 생성형 AI, 고객 경험으로 본 가능성'을 주제로 발표하며 "2022년 말 '챗GPT' 등장 후 생성형 AI가 굉장히 주목 받게 되면서 기업들이 이를 적용하는 것에 대한 고민이 많았다"며 "지난해까진 많은 기업들이 적용하는 부분에 대해 대체적으로 '관망'하는 분위기였지만, 이제는 '관리'하는 영역으로 넘어오면서 자사 데이터와 결합하려는 곳들이 많아지고 있다"고 말했다. 이어 "조직 차원에서 생성형 AI를 활용하는 것을 받아 들이고 1~2개 업무 프로세스와 연계해 자사 데이터를 활용하는 방안을 추진하는 기업들이 많아지고 있다"며 "각 기업들이 지속적으로 생성형 AI를 활용하기 위해선 ▲비정형·정형 데이터 ▲기존 전사적자원관리(ERP) 시스템이나 데이터 웨어하우스에서 잘 정의된 데이터 ▲웹에서 크롤링한 데이터 등 세 가지 잘 버무릴 수 있어야 한다"고 덧붙였다. 공 센터장은 이를 고려해 만들어진 '젠AI360 버전2'가 기업들의 제조 현장 업무 생산성을 더 강화시켜 줄 것이라고도 자신했다. 또 이커머스 플랫폼의 검색 및 추천 기능을 강화시키는 데 도움을 줄 뿐 아니라 B2C(기업간소비자거래) 지식 제공 서비스 지식 상품을 생성하는 데도 적극 활용될 수 있다고 설명했다. 공 센터장은 "현재 19개 기업과 관련 프로젝트를 진행해 본 결과 각각의 기업들이 적용하는 것이 다르다는 점과 내부에 이식하는 데 4~6주 정도 걸린다는 점을 파악할 수 있었다"며 "각 기업 맞춤 서비스를 제공하는 동시에 적용 기간을 단축할 수 있도록 PaaS(서비스형 플랫폼) 형태로 애플리케이션을 만들어 선보이게 됐다"고 말했다. 이를 앞세워 메가존클라우드는 앞으로 성장성이 높은 기업용 생성형 AI 시장에서 다양한 사업 기회를 잡겠다는 전략이다. 시장조사기관 가트너에 따르면 오는 2026년까지 기업 80% 이상이 생성형 AI를 적용해 사용할 것으로 예상됐다. 지난해 생성형 AI를 활용한 기업은 5% 미만이었다. 공 센터장은 "생성형 AI 시장은 많은 새로운 서비스와 제품을 출시하고 있는 상황으로, 이를 위한 다양한 에코시스템 구성도 필요해졌다"며 "오픈소스 관심도 지표상 관련 생태계 기술 또한 기반 모델에서 응용·인프라(SaaS, PaaS) 부분으로 빠르게 전환하고 있다"고 설명했다. 그러면서 "올해는 생성형 AI와 관련해 기업들이 구체적 실증 사업을 실행하고 기술·활용 역량을 내재화 하는데 집중하는 분위기"라며 "기업들이 생성형 AI를 도입하기 위해 고려하는 방법은 다양하겠지만 자사가 선보이는 '젠AI360 버전2'를 도입하면 좋은 결과물을 내놓을 수 있는 데이터를 최적의 비용으로 잘 활용할 수 있을 것"이라고 덧붙였다.

2024.10.10 15:07장유미

"장 건강 뭐가 좋아?"…hy 온라인몰, 검색 빨라진 비결은?

"고객이 원하는 제품을 쉽고 빠르게 검색한 뒤 구매할 수 있는지가 이커머스 성공의 핵심으로 봤습니다. 그 과정에서 검색 속도와 품질을 높이고 싶은 마음이 컸죠." 생성형 인공지능(AI)의 기능이 고도화됨에 따라 여러 기업에서 생성형AI를 기업 업무에 활용하는 사례가 늘어나고 있다. hy도 이 기업 중 하나다. AI를 활용해 온라인 쇼핑몰인 '프레딧'의 검색 기능을 높이고자 시도했지만 한계에 종종 부딪혔었던 것이 고민거리였다. 이에 hy는 메가존클라우드와의 AI 협업을 진행한 끝에 프레딧의 검색기능 성능 향상에 성공하며 고민을 해결했다. 23일 hy 구태모 플랫폼 개발팀장은 메가존클라우드와 젠AI360 오퍼링을 적용해 프레딧의 검색 엔진 기능을 향상하는 프로젝트를 수행한 성과를 소개했다. hy의 프레딧은 이번 프로젝트를 통해 검색 즉시 답변을 제공하는 응답속도를 확보했으며 사용자가 잘못된 정보를 입력해도 가장 가까운 결과를 제공하는 오타 보정 기능이나 초성 검색 기능이 추가됐다. 더불어 전처리 작업을 통해 오픈 서치에 데이터를 적재하고 생성형AI의 구성요소를 편리하게 사용하도록 도와주는 아마존웹서비스(AWS) 베드록을 활용해 고객의 질문 의도를 보다 정확히 분석하고 최적의 결과를 추천하는 기능도 선보인다. hy 구태모 플랫폼 개발팀장은 도입 과정에서 제품을 검색할 때 '기다리는 느낌'을 지우는 것이었다고 밝혔다. 기존 검색 방식은 전체 문장을 완성해 띄우는 방식으로 질의응답 과정에서 몇 초의 공백이 있었기 때문이다. 그는 "검색 과정의 몇 초의 공백만으로도 사용자는 기다린다는 불편한 감장을 느끼는 만큼 질문 즉시 대답이 나오도록 서비스를 구상하는 것에 초점을 맞췄다"고 초기 구상안을 소개했다. 오타 보정 기능이나 초성 검색 기능 역시 고객 경험향상을 위해 추가한 기능이다. 구 팀장은 "정확한 제품명을 모르는 고객들은 제품 상세 페이지를 방문해 일일이 제품을 비교해야 했었다"며 "자동완성·오타 정정·제품 추천 등의 기능이 추가 되면 고객 만족도를 크게 높일 수 있을 것이라 느꼈지만 생각을 현실로 이루는 과정은 쉽지만은 않았다"고 개선 이유를 설명했다. hy는 프로젝트를 진행하기 위해 여러 파트너사와 논의 끝에 메가존클라우드를 선정했다. 유통·커머스 영역에선 적용 사례가 드문 실제 데이터 기준 데모 버전을 제시한 것이 이유다. 구 팀장은 "최초 기술 검토 단계부터 서비스 구축 후 관리까지 메가존클라우드가 도와준다는 점도 파트너십을 체결하게 된 주요 이유 하나였다"고 덧붙였다. 도입 과정에서 예상치 못한 난관도 있었다. 메가존클라우드 측은 "학습모델이 아닌 파운데이션 모델을 활용하는 방식을 택하다 보니 hy의 특허 유산균 제품명 등 고유 검색어를 입력하면 검색엔진이 정확히 인식을 못 하는 부분도 있었다"며 "여러 시행착오 끝에 텍스트 서치와 벡터 서치를 결합한 하이브리드 서치를 통해 문제점을 해결하는 것에 성공했다"고 개발 과정의 고충을 토로했다. 구 팀장은 "구체적인 상품명 없이 '간에 좋은', '장에 좋은' 등의 키워드만으로 제품을 추천해 주는 것이 가장 고객 만족도가 높았다"며 "단순히 솔루션 구축에서 끝나지 않고 서비스 오픈 이후에도 검색 품질 높이는 작업을 하고 지속 가능한 운영을 만들어 준 점이 인상적"이라고 이번 프로젝트에 대해 평가했다. 메가존클라우드 관계자는 "이커머스의 특징을 고려해 두루뭉술한 키워드로 질문하면서도 원하는 검색 결과를 빠르게 지원해야 해 불가피한 지연을 최대한 줄여야 했다"며 "'달콤한', '엄마에게 좋은' 등 유사 검색어를 넣어도 AI가 원하는 제품을 찾도록 개발한 결과를 토대로 향후에도 다양한 IT 솔루션을 구축해 나가겠다"고 말했다.

2024.08.23 17:08양정민

"어버이날 선물 추천해줘"…hy, 생성형 AI로 구매 경험 혁신

메가존클라우드(대표 이주완)가 생성형 인공지능(AI)를 활용해 hy(구 한국야쿠르트)의 고객 경험을 향상시켰다. 메가존클라우드는 hy의 온라인몰 프레딧(Fredit)의 검색 시스템을 고도화하는 프로젝트를 진행했다고 9일 밝혔다. 이 프로젝트는 가입자 수 180만명, 유료 멤버십 4만명을 돌파하며 고속 성장하고 있는 hy 온라인몰 프레딧의 검색 기능을 AI 기반으로 고도화하는 것이다. 고객들이 원하는 상품을 손쉽게 찾는 것은 물론, 제품에 관한 정보가 없는 경우에도 최적의 추천을 받을 수 있도록 하는 것이 핵심 과제였다. hy는 프레딧 내 상품 검색을 위해 특정 검색 엔진 제품을 적용해 왔으나, 단순 키워드 검색 기능 만 제공한 상태였다. 또한 자동 완성, 초성 검색, 오타 정정 검색 등은 시간이 지남에 따라 지속적으로 업데이트가 필요하기 때문에, 운영상 많은 리소스가 필요한 상태였다. hy는 프레딧에 접속하는 고객이 원하는 제품을 보다 정확하고 손쉽게 검색할 수 있도록 하기 위해 메가존클라우드의 젠AI360(GenAI360)오퍼링을 통해 생성형AI 기반 검색엔진 구축 사업을 진행했다. 이에 따라 아마존 배드락, 애트로픽 클로드, 아마존 오픈서치와 같은 클라우드 기반 생성형 AI 기술을 검색 서비스에 연계해 사용자 의도에 맞는 제품 검색 정확도 향상과 초성 검색, 오타 자동 보정 검색, 추천 검색어 생성, 자동 완성 등 보다 고도화된 기능을 고객에게 제공할 수 있게 됐다. 무엇보다 생성형AI 기술의 강점을 기반으로 “어버이날 선물 추천해줘”와 같이 일상적인 표현으로 검색하는 '자연어 검색'이 가능해진 것이 가장 눈에 띄는 변화였다. hy는 질문의 의도를 분석해 검색 결과 화면에서 사용자의 이해를 도울 수 있는 설명 문구를 생성하고 관련 제품을 추천함으로써 고객의 구매 경험을 돕는 효과도 기대하고 있다. 이번 hy 프레딧 검색 시스템 고도화 프로젝트에는 메가존클라우드의 GenAI360을 기반으로 하는 생성형 AI 기술이 적용됐다. GenAI360은 생성형 AI를 도입하고자 하는 기업들을 위해 설계부터 구축, 운영까지 지원하는 메가존클라우드의 기업 맞춤형 엔드 투 엔드 서비스다. GenAI360은 ▲기업의 생성형 AI 활용 전략 수립 및 파일럿 과제 수행 등 컨설팅 ▲기업별 환경을 고려한 최적 플랫폼 선정과 데이터 학습 및 검증 ▲기업 내 활용 대상 서비스 개발 및 가이드 제공 ▲생성형 AI 운영 전략 수립 및 서비스 운영 등으로 구성된다. hy 플랫폼 개발팀 구태모 팀장은 “제품의 검색부터 구매까지의 과정이 물 흐르듯 이어지도록 하는 것이 핵심 성공요소인 이커머스 사업의 특성상 AI를 활용한 검색 고도화는 선택이 아닌 필수였다”며 “검색의 정확도는 물론 답변 속도까지 대폭 향상돼 고객만족도를 크게 높일 수 있을 것으로 기대한다”고 말했다. 메가존클라우드 AI&데이터분석센터 공성배 센터장은 “hy 프로젝트는 생성형 AI 기술을 이커머스 플랫폼에 적용해 비즈니스 성과로 연결할 수 있다는 것을 확인한 첫 사례”라며 “이번 프로젝트 수행 과정에서 정확한 답변을 낼 수 있도록 생성형 AI 모델을 학습시키고 답변 속도를 향상해 사용자의 검색 편의성을 높이기 위한 노하우를 축적한 것도 소중한 성과였다”고 말했다.

2024.07.09 12:46남혁우

메가존클라우드, 생성 AI 설계·구축·운영 서비스 출시

메가존클라우드(대표 이주완)가 생성형 AI를 도입하고자 하는 기업들을 위해 설계부터 구축, 운영까지 지원하는 기업 맞춤형 생성형 AI 엔드 투 엔드 서비스 '젠AI360(GenAI360)' 오퍼링을 출시했다. 젠AI360은 ▲기업의 생성형 AI 활용 전략 수립 및 파일럿 과제 수행 등 컨설팅 ▲기업별 환경을 고려한 최적 플랫폼 선정과 데이터 학습 및 검증 ▲기업 내 활용 대상 서비스 개발 및 가이드 제공 ▲생성형 AI 운영 전략 수립 및 서비스 운영 등으로 구성된다. 메가존클라우드는 7월부터 9주간 사내 HR 헬프데스크에 접수된 질의응답을 한국어 특화 LLM에 학습시키고, 관련 문서 및 사내 가이드는 RAG(검색 증강 생성)를 적용해 신뢰할 수 있는 답변을 생성하도록 하는 프로젝트를 수행했다. 그 결과, 첫 질문에 대한 답변의 정확도는 평균 75% 이상으로 확인됐고 이후 질문 수정 및 추가 질문을 통해 향상된 답변의 정확도는 90% 이상인 것으로 평가돼 질의응답과 관련된 단순·저효율 업무가 실제로 감소되는 성과를 확인할 수 있었다. 메가존클라우드는 이번 성과를 기반으로 RLHF(인간 피드백 기반 강화 학습)를 통해 답변 품질을 향상시키는 고도화 작업을 추가 진행하고 있다. 이 파일럿 프로젝트는 아마존 세이지메이커, 아마존 켄드라 등 데이터 분석 및 AI/ML을 위한 다양한 AWS 서비스를 근간으로 한 클라우드 기반 아키텍처로 구성됐다. 비용 효율적인 아키텍처 구성 및 답변 품질을 향상시킬 수 있는 학습 방법 등을 위해 AWS와 생성형 AI 분야의 기술 협력을 강화했다. 메가존클라우드는 이 과정을 통해 기업들이 생성형 AI 도입 시 고려해야 할 사항과 구축 과정에서 마주할 수 있는 문제점들에 대한 해결 방안 등 고객 서비스에 활용할 수 있는 실질적 노하우를 축적했다. 비용 최적화, 기업의 고유한 데이터 적용 및 기준 시간, 유의어 사전 등을 포함한 프롬프트 엔지니어링, 환각 현상, 리소스 비용 최적화 및 구현 방법 등이 대표적 사례다. 메가존클라우드 AI & 데이터분석센터 공성배 센터장은 “LLM에 대한 높은 관심에 비해 비즈니스 가치가 검증된 사례는 많지 않은 게 사실”이라며 “메가존클라우드의 경험과 기술력을 AWS 서비스에 결합해 LLM의 한계를 극복하고 비즈니스적 가치를 고객들에게 명확하게 제공할 것”이라고 말했다. 메가존클라우드는 21일 IDG 코리아 주최로 양재 엘타워에서 개최되는 퓨저 오브 AI & 데이터 2023 컨퍼런스에서 이번 파일럿 프로젝트 결과를 발표할 예정이다.

2023.09.19 10:40남혁우