LG CNS, 'AI 오케스트레이션'으로 생성 AI 접근성 확대
마이크로소프트(MS)와 오픈AI 서비스 계약을 맺은 LG CNS가 기업용 생성 인공지능(AI) 서비스를 일부 공개했다. LG CNS는 최근 진행한 라이브 웨비나를 통해 챗GPT를 사내 업무에 도입한 사례를 소개했다. 더불어 챗GPT 도입을 위해 개발한 솔루션을 발전시켜 곧 엔터프라이즈 전용 대외 서비스로 출시하기 위한 사업 전략도 함께 공개했다. LG CNS의 챗GPT 사업 사례는 AI컨택센터(CC)가 있다. 24시간 365일 고객 문의에 응대하는 챗봇, 고객 문의 실시간 분석을 기반으로 상담원의 상담 품질을 높이는 답변 추천 서비스, 상담 빅데이터 분석을 통해 고객에게 필요한 상품을 추천하는 개인화 마케팅 등을 지원한다. 챗GPT의 높은 언어 이해력이 적용된 상담 챗봇은 고객 사용자에 맞춰 부드러운 언어를 사용하거나, 경쟁사의 명칭과 제품명을 언급하거나 비교하지 않도록 조건을 설정할 수도 있다. 고객 맞춤형 탐지 대응(MDR) 보안 서비스도 개발한다. 생성AI로 위협 요소를 사전에 분석·발견해 외부 공격을 사전에 방지하고, 엔드포인트 탐지대응(EDR), 네트워크 탐지대응(NDR) 등과 결합해 일부 취약점이 노출되더라도 빠르게 감지하고 자동으로 대응 방안을 마련할 수 있는 보안 체계를 마련한다는 방침이다. 또한 LG그룹 제조사를 대상으로 제품 고장 문의전화를 대신 응대하는 챗봇을 개발 중이다. 엔터프라이즈용 챗GPT 서비스 개발에 앞서 LG CNS는 챗GPT 같은 대규모 언어모델(LLM) 기반 생성AI에 대한 고객사의 도입 의사와 우려되는 점을 조사했다고 밝혔다. 조사 결과 많은 기업이 혁신과 경쟁력 확보를 위해 도입을 원하지만, 재학습(파인튜닝)의 어려움을 주요 장애 요인으로 꼽았다. 이로 인해 부정확한 답을 생성하는 환각현상이 발생하거나 기업 특화된 서비스를 구현하기 어렵다는 것이다. 개인정보 유출 등 보안 문제와 아직 생소한 프롬프트 사용법도 문제점으로 지적됐다. LG CNS는 조사결과에 맞춰 생성AI 서비스 오퍼링을 발견(discovery), 통합(integration), 최적화(optimization)로 구성한 AI 오케스트레이션을 개발했다. AI 오케스트레이션은 LG CNS 내부 업무를 챗GPT와 연동해 효율성을 극대화하고 차별화된 AI기능을 제공하는 서비스다. 디스커버리는 사전학습 된 챗GPT를 업무에 가장 효과적으로 사용할 수 있는 방안을 발굴해주는 컨설팅 서비스다. 재학습이 어렵거나 데이터이동의 제약 등이 있는 상황에서 기업의 데이터를 분석해 가장 효과가 높은 생성 AI업무나 과제를 추천하고 비슷한 사용사례도 함께 소개해 효율성을 극대화할 수 있도록 돕는다. LG CNS 임은영 AI 전략사업팀장은 “하루에도 몇 번씩 최신화 되는 데이터로 인해 매번 LLM을 재교육시키는 것은 비용, 시간적으로 비효율적인 작업”이라며 “이런 한계와 전제 조건들을 고려했을 때 기존 학습한 LLM으로 가장 적합한 과제를 해결하는 것이 현실적인 해법”이라고 설명했다. 이어서 “챗GPT 등 생성AI로 창의적인 문구 등을 만드는 것도 중요하지만, 기업 업무의 대부분은 정확한 정보가 반복적으로 필요하다”며 “다만 대부분 AI에 대한 경험이 부족해 이를 판단하기 어려운 만큼 디스커버리를 활용한다면 많은 기업에서 성과를 거둘 수 있을 것”이라고 소개했다. 통합은 기업 내 문서, 업무 시스템과 챗GPT를 연계하기 위한 솔루션이다. 이를 통해 개인정보 및 중요정보를 식별하고 유출을 방지하는 보안 필터링과 모니터링 시스템을 구축할 수 있도록 지원한다. 임은영 팀장은 “LG CNS 업무 챗봇은 현재 챗GPT가 적용돼 있으며 마이크로소프트 애저의 오픈 AI API와 연계돼 있다”며 “이를 통해 민감데이터나 기밀, 독점적 성격의 데이터, 내부 소스 코드는 채팅창에 입력하지 않도록 가이드하고 효율적인 보안 모니터링에도 활용하고 있다”고 설명했다. 더불어 효율적인 프롬프트 활용을 위한 최적화된 프롬프트 엔지니어링 서비스를 구현하고 있다. 프롬프트 엔지니어링은 생성 AI에서 좋은 결과물을 얻기 위해 명령어를 만드는 작업이다. 기업에서 적용할 수 있을 정도로 높은 품질의 일관성 있는 응답을 얻기 위해선 도메인에 특화된 입력값을 바탕으로 구체적이고 상세한 조건으로 명령어를 조합해야 한다. 이를 위해 LG CNS는 현재 프롬포트 엔지니어링과 오케스트레이터 개발, AI 검색 등을 위해 100여 명의 인원을 선발해 관련 교육을 수행하고 레퍼런스가 될 프롬프트를 자산화하는 중이다. 또한 전략적인 협업을 맺은 마이크로소프트를 통해 프롬프트 작성 노하우를 공유 받아 산업별 프롬프트 명령어로 체계화해 제공할 예정이다. LG CNS는 챗GPT를 활용해 금융, 제조, 유통, 공공 시장의 사무업무 및 마케팅, 소프트웨어 개발 및 유지 보수 분야를 집중 공략할 계획이다. 임은영 팀장은 "LG CNS는 MS 애저의 오픈AI서비스를 활용해 질문데이터(프롬프트) 보안을 강화, 지속적인 보안 필터링을 통한 사전 차단 등 보안장치를 철저히 하고 있으며, 오케스트레이터·프롬프트 엔지니어링을 위한 100여명의 개발 인력 교육에도 공을 들이고 있다"고 설명했다. 이주열 수석 연구위원은 "생성AI는 우리가 생각하는 것보다 산업에서 큰 혁신을 불러일으킬 것으로 많은 전문가들이 예상하고 있다"며 "LG CNS에서 기업을 위해 준비한 생성AI 기술을 확인하고 함께 혁신할 수 있기를 바란다"고 말했다.
