• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'텔코 LLM'통합검색 결과 입니다. (7건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

SKT "클로드로 만든 텔코 LLM, 고객상담 효율성 높였다"

“앤트로픽 클로드를 파인튜닝한 텔코 LLM 도입으로 고객 상담 시 상담원이 더욱 효율적으로 상담에 필요한 정보를 찾을 수 있게 됐다.” 에릭 데이비스 SK텔레콤 AI테크콜라보레이션 본부장은 지난 19일 서울에서 열린 '앤트로픽 코리아 빌더 서밋'에서 클로드 활용 사례로 텔코 LLM 도입 건을 이같이 설명했다. 앤트로픽 코리아 빌더 서밋은 앤트로픽이 AI 제품 분석 플랫폼 운영사 콕스웨이브와 함께 개최한 개발자 행사로, 앤트로픽이 한국에서 처음으로 개최한 공식 행사다. 데이비스 본부장은 이날 패널 토의를 통해 SK텔레콤이 고객센터에 도입한 텔코 LLM의 사례를 소개하며 “고객센터에 적용한 텔코 LLM은 내부 상담원들이 사용하지만 결국 고객들에게 영향을 미치는 서비스”라고 소개했다. 이어, “SK텔레콤은 텔코 LLM을 사용하는 것이 실제로 고객을 만족시킬 수 있는 것인지에 대해 고민했고, 고객 만족도를 높이기 위한 형태로 엔지니어링을 계속 하고 있다”고 설명했다. SK텔레콤은 지난해 자체 개발 AI 모델 에이닷엑스(A.X)와 클로드 등을 포함, 멀티 LLM을 기반으로 텔코 LLM을 개발해 다양한 사내 운영 업무와 비즈니스에 활용하고 있고 이 가운데 고객센터에는 클로드를 적용한 텔코 LLM이 활용되고 있다. 서밋에 앞서 SK텔레콤은 앤트로픽 블로그를 통해 클로드를 베이스 모델로 파인튜닝된 텔코 LLM의 성과를 알리기도 했다. SK텔레콤은 고객센터에 텔코 LLM을 적용한 후 고객센터에 적용된 LLM의 저품질 응답 비율이 68% 감소했고, 통화 후처리에서 AI의 응답 품질이 인간 상담원의 약 89% 수준으로 올라왔으며, 고객센터 상담원이 상담에 활용한 후 평가한 점수도 기존 서비스에 비해 34% 높아졌다. SK텔레콤은 텔코 LLM 고객센터 도입이 상담원들을 지원하고 보조하기 위한 것임을 강조했다. 데이비스 본부장은 “우리의 목표는 사용자의 업무 능력을 보강해 고객센터 상담원들의 스트레스를 줄이고 일하는 즐거움을 찾아주는 것”이라며 “이러한 행위는 궁극적으로 SK텔레콤 가입자의 상담 경험 개선으로 이어져 상담원와 고객 모두에게 도움이 될 것”이라고 밝혔다. 그러면서 “과거에는 고객센터 직원들에게 고객들의 불만 제기에 어떻게 대응하면 좋을지를 교육했다면, 지금은 AI를 활용해 고객이 원하는 것에 대한 정보를 탐색하고 대응하는 데 도움을 주고있다”며 “우리의 AI는 인간을 대체하는 것이 아니고 사람들의 삶의 질을 개선하는 것”이라고 밝혔다. 한편 AI의 발전으로 인한 환경 변화에 대한 질문에 “SK텔레콤은 다양한 기업들과의 협업을 통해 각각의 상황에 따라 알맞은 모델을 활용할 수 있도록 멀티 LLM 전략을 진행하고 더욱 빠르고 더욱 효과적으로 일을 해결할 수 있도록 하고 있다”고 답했다.

2025.03.21 10:15박수형

SKT, AI 고객센터 오픈...자체 개발 AI모델 적용

SK텔레콤이 자체 개발한 텔코LLM과 LMM을 활용한 고객센터 AI 상담 업무 지원 시스템을 국내 메이저 고객센터 중 최초로 10월 중순부터 단계적으로 오픈했으며, 한 달여간 베타 서비스를 성공적으로 운영했다고 18일 밝혔다. SK텔레콤은 앤트로픽 등 해외 주요 LLM 업체들과 협력을 바탕으로 다양한 통신 전문 지식을 학습한 텔코LLM을 개발해 왔다. 지난 1년여 간 지식정보시스템을 AI 활용에 최적의 구조로 개편하고 다양한 통신 관련 데이터를 활용한 모델 튜닝을 진행했다. 또 고객센터 상담 전문가 수십명이 참여해 텔코LLM 성능 향상을 위한 다양한 학습 데이터를 구축했으며, 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들어 왔다. 이와 더불어 LLM이 질문에 가장 정확하고 구체적인 답을 생성할 수 있도록 답변 생성에 필요한 정확한 정보만을 검색, LLM에게 제공하고 답변 품질을 증강시키는 RAG도 개발 적용해 LLM의 답변 신뢰도를 대폭 개선했다. 아울러 텍스트를 넘어 다양한 이미지를 이해할 수 있는 LMM도 활용해 통신 관련 다양한 서류 등 이미지를 학습시켜 통신업에 특화된 전용 LMM을 개발했다. 그동안 SK텔레콤은 상담 대기 없이 콜봇을 통한 빠른 상담, 번거로운 절차 없이 고객 목소리만으로 본인 여부를 확인하는 성문 인증 등 다양한 AI 기술을 활용해 고객들에게 보다 빠르고 편리한 서비스를 제공하기 위해 노력해 왔다. 자체 개발한 텔코LLM, LMM을 실제 상담 업무에 활용할 수 있는 AI 상담 업무 지원 시스템을 구축하고 이를 통해 고객에게 한층 더 빠르면서도 고품질의 상담을 제공할 수 있게 될 예정이다. 먼저 텔코LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다. 이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이 퍼플렉시티나 챗GPT처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 이를 통해 상담사들의 정보 탐색 시간을 단축시키고, 상담사 개인의 역량 경력과 무관하게 고품질 상담 서비스를 제공할 수 있게 됐다. 지난 10월21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화 시키고 있으며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다. 아울러 A.X LMM을 활용하여 AI 서류 자동 처리 시스템도 구축한다. 고객센터는 고객들이 문자, 이메일, 팩스 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 수십종의 구비 서류들을 처리하고 있다. 이러한 다양한 형태의 각종 서류를 AI가 자동으로 분류하고 처리해 줌으로써, 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 기대된다. 먼저 10월23일부터 서류를 자동으로 분류하는 시스템을 도입했고, 향후에는 서류 내용까지 자동으로 판독하여 처리할 수 있게 될 것이다. 12월에는 고객 상담 결과를 텔코LLM을 활용해 자동으로 분류 요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다. 상담이 종료된 후 상담 결과를 정리하는데 평균 30초 정도 소요됐지만 AI가 자동으로 처리를 해주게 되면 상담사는 상담 종료 이후 후속 업무 처리 없이 보다 빠르게 대기중인 고객들에게 상담을 제공할 수 있다. 뿐만 아니라, 고객들의 이전 상담 내용에 대해 빠르고 정확하게 파악할 수 있어 개개인에게 가장 적합한 맞춤형 상담도 가능하다. 실제로 한 달여간 AI 상담 업무 지원 시스템을 운영한 결과 상담사들은 텔코LLM의 성능이 기대 이상으로, 고객 상담에 필요한 정확한 정보를 손쉽게 찾을 수 있었고 답했다. 특히 다양한 상품 서비스의 정보 확인에 어려움을 겪는 경력이 짧은 상담사들이 고객 응대에 부담을 크게 덜 수 있겠다는 반응을 보였다. 아울러 AI가 서류를 자동으로 분류해 주므로, 고객이 서류를 보냈는지 수시로 하나하나 확인해야 하는 수고로움과 확인 시간을 덜게 되어 고객 상담에 보다 집중할 수 있게 됐다고 말했다. 홍승태 SK텔레콤 고객가치혁신 담당은 “SK텔레콤 AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고, 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다”며 “SK텔레콤은 텔코LLM 기반 상담 업무 지원 시스템을 발판으로, 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약 시키겠다”고 밝혔다.

2024.11.18 08:49박수형

SKT, 6월에 통신사 특화 AI 모델 내놓는다

SK텔레콤이 5G 요금제와 공시지원금, 인공지능(AI) 윤리가치 등을 학습한 통신사 특화 AI 모델인 '텔코LLM'을 상반기 내에 선보인다. 에릭 데이비스 SK텔레콤 AI테크콜라보레이션 담당은 30일 서울 을지로 T타워에서 열린 간담회에서 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다”며 “통신 데이터와 도메인 노하우에 맞춰 조정하는 파인튜닝과 모델평가를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 멀티LLM 전략”이라고 말했다. GPT와 같은 범용 LLM보다 통신업종에 특화된 LLM이 필요하다는 뜻이다. 이를 위해 SK텔레콤은 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등의 데이터를 수집하고 선별해 GPT와 클로드에 학습시키고 있다. SK텔레콤이 직접 개발한 에이닷엑스 외에도 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델 기반으로 튜닝 작업에 나서면서 멀티 LLM 전략을 내세웠다. AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용 용도에 따라 최적화된 LLM을 갖추겠다는 뜻이다. 범용LLM 대비 텔코LLM은 통신 영역에서 높은 수준의 생성형 AI 작업을 수행할 수 있다. SK텔레콤은 현재 고객센터에서 상담전화 한 건을 처리하는데 고객 상담에 약 3분, 상담 후 업무 처리하는데 30초 이상이 소요되는데 텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축시켜 줄 수 있을 것으로 전망했다. 기존의 고객센터에서 상담사가 고객 문의 내용을 정리하고 필요한 문서를 검색, 요약해 답을 한 후 상담 내용을 기록하는 것까지 전 과정에 숙련되는 데에 많은 경험과 교육이 필요했다면, 텔코 LLM이 이 과정을 줄여주는 셈이다. 또한 텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있고 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있다. 네트워크 인프라 운용에도 텔코LLM이 유용하다. 인프라 운용자가 네트워크 모니터링 중 문제가 발생하면, 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있다. 텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공하기 때문에, 사람이 직접 정보를 찾는 것보다 대응 시간을 단축시킬 수 있다. SK텔레콤은 향후 인프라 운용 중에 발생되는 데이터 분석과 축적된 데이터 기반의 정보 조회 등에도 텔코LLM을 확대 적용할 계획이다. 정민영 SK텔레콤 AI플랫폼 담당은 “고객센터, 인프라뿐만 아니라 마케팅과 유통망 등 고객 접점이나 법무, HR와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것”이라며 “지속적으로 텔코LLM을 활용한 유즈케이스를 늘려갈 계획”이라고 설명했다. 한편, SK텔레콤은 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축, 개발할 수 있는 '인텔리전스 플랫폼'도 공개했다. 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등까지 아우르는 기업용 AI 개발 운용 패키지다.

2024.04.30 13:26박수형

"네트워크 기업에서 AI 전문회사로"...통신사 생존 지도 바뀐다

인공지능(AI)이 세상을 삼키고 있다. 일상생활뿐 아니라 첨단 비즈니스 영역까지 뒤흔들고 있다. 특히 챗GPT를 비롯한 생성형 AI는 다양한 산업 분야의 기본 문법을 바꿔놓으면서 새로운 혁신의 밑거름이 되고 있다. 반면, 기업에서는 AI 도입이 경쟁력 강화를 위한 기회라는 점을 알면서도 불확실성을 포함한 위험 요인 때문에 도입을 주저하고 있는 것도 현실이다. 지디넷코리아는 창간 24주년을 맞아 법무법인 세종의 AI센터와 함께 이런 변화를 진단하는 'GenAI 시대' 특별 기획을 마련했다. 이번 기획에서는 기업이 AI 규제에 효과적으로 대응하면서 도입 가능한 AI 거버넌스에 대해 살펴본다. 아울러, 소프트웨어, 통신, 인터넷, 헬스바이오, 유통, 전자, 재계, 자동차, 게임, 블록체인, 금융 등 11개 분야별로 AI가 어떤 변화를 일으키고 있는 지 심층 분석한다. 또 AI 기술 발전과 함께 논의되어야 할 윤리적, 사회적 문제들에 대한 다각적인 논점을 제시해 건강한 AI 생태계 조성에 기여하고자 한다. [편집자주] "글로벌 AI 컴퍼니, AICT 기업." 국내 통신사들이 최근 강조하는 선언적 구호다. 네트워크 구축을 통한 연결 서비스가 본업인 이들이 인공지능(AI)을 전면에 내세운다. 통신사 최고경영자(CEO)들은 단순히 AI를 강조하는 수준을 넘어 AI 회사로 바꾸겠다고 입을 모은다. 모든 산업이 AI를 바라보고 있지만 국내 통신업계가 AI를 도입하고 사업을 전환하는 속도는 차원이 다르다. 단순히 네트워크 자동화 관리 솔루션을 갖추는 데 그치지 않고, 글로벌 빅테크의 행보에 궤를 맞춰 직접 거대언어모델(LLM)까지 만들었다. 대부분의 업종에서 기업들이 AI를 중시하고 도입하겠다고 하지만, 언어모델을 직접 구축하겠다고 나서지는 않는다. 또 과거 CES에서 아마존 알렉사 광풍이 불었을 당시 국내 기업 중 통신사들이 가장 먼저 AI 스피커 출시 대열에 뛰어들었다. 보통 기업들이 디지털 트랜스포메이션을 중시하며 관련 조직을 신설하고 C-레벨급 임원을 발탁할 때 통신사들은 AI 전담 임원과 조직을 뒀다. 5G와 LTE로 이어지는 무선 네트워크의 진화가 지금의 디지털 경제를 가능케 한 사회적 인프라가 됐다는 평가를 받는다. 다만 세계 각국의 통신사들은 네트워크 구축 노력에도 과실은 일부 빅테크 회사가 독식했다고 여긴다. 이런 탓에 통신사들이 플랫폼 사업에 뒤늦게 뛰어들기도 했다. 하지만 AI를 대하는 태도는 다르다. 기술 주도권을 갖는다거나 AI를 통한 수익 사업화를 넘어 자체적으로 AI를 활용하지 않으면 디지털 사회에서만이 아니라 본업인 통신에서도 도태될 수 있다는 우려를 안고 있다. 무조건 AI에 뛰어들 수밖에 없다고 자각하는 상황이다. 글로벌 통신사들은 왜 AI에 빠졌나 통신산업은 AI와 뗄레야 뗄 수 없는 관계다. AI의 밑바탕 재료인 데이터가 계속 생성되는 지점에서 사업을 전개하기 때문이다. 세계 최다 가입자를 거느린 중국 차이나모바일을 예로 들어보자. 지난해 3분기 기준 5G 가입자 수만 7억3천만 회선으로 추정되는 회사다. 중국은 신용카드 도입이 늦어지면서 모바일페이가 가장 발전한 나라로 꼽힌다. 즉, 차이나모바일은 7억명 이상의 데이터 이용량과 이동 경로를 비롯해 결제와 소비 양상까지 살필 수 있는 셈이다. AI 모델을 구축하기 위해 학습 데이터를 찾아다니는 회사들이 보기에 차이나모바일은 빅데이터 창고를 여럿 거느린 곳이다. 세계이동통신사업자연합회(GSMA)는 '이동통신 산업과 AI(The Mobile Industry and AI)' 보고서에서 “5G와 사물인터넷(IoT) 출시로 실시간으로 더 많은 실제 데이터를 수집할 수 있게 됐고, AI 시스템은 이 데이터를 활용해 보다 정교해지고 능력이 향상될 수 있다”고 내다봤다. 그러면서 “통신산업에서 AI는 모바일 사업자가 연결성과 고객 경험을 모두 개선할 수 있도록 해준다”며 “AI를 사용해 네트워크를 최적화하고 자동화해 네트워크 운영자는 더 나은 서비스를 제공하고 더 많은 사람들이 연결되도록 할 수 있다”고 분석했다. AI로 사업의 이점을 살릴 수 있는데 마다할 이유가 없다는 뜻이다. 이에 각국의 통신사들은 다양한 방면에서 AI를 활용하고 있다. 예컨대 노르웨이에 본사를 두고 있는 유럽 지역의 통신사인 텔레노어(Telenor)는 수년 전부터 데이터 분석을 통해 무선 네트워크의 전력 소비와 이산화탄소 배출을 감소시키는 데 공을 들이고 있다. 미국의 AT&T는 AI와 통계 알고리즘을 사용하는 예측 모델을 사용해 네트워크 서비스 중단을 예측하며 방지한다. 일본의 KDDI는 IoT 디바이스와 센서, 무선 네트워크의 정보를 AI 기반 시스템으로 통합해 자연재해에 대한 정부의 대응을 최적화하는 데 도움을 주고 있다. 통신 사업을 전개하는 지역적인 환경이나 현지 공공 서비스의 수요에 부합하는 AI 모델을 일찍이 만든 것이다. 범용 LLM 넘어 특화모델 넘보는 韓 통신사 국내 통신 3사도 글로벌 통신사들이 선보인 AI 기반 사업 모델을 대부분 선보였다. AI컨택센터(AICC)와 같은 B2B 솔루션 사업은 기존 콜센터의 디지털 전환을 돕는 데 그치지 않고 3사의 수익을 창출하는 신사업 자리까지 올랐다. 특히 자체 개발 LLM까지 보유하고 있다. SK텔레콤의 에이닷엑스, KT의 믿음 등의 파라미터 값은 글로벌 회사들의 LLM과 견줘 뒤지지 않는다. LG유플러스도 그룹사 차원에서 개발한 엑사원을 바탕으로 AI 경쟁력을 갖추고 있다. GPT 기반의 AI 서비스가 열풍을 불러오며 국내 통신사들도 LLM 개발에 나섰지만, 이제는 기존 LLM 기반의 특화모델을 확보하는 단계로 접어들었다. 이를테면 SK텔레콤은 도이치텔레콤, 이앤(e&)그룹, 싱텔그룹, 소프트뱅크 등 주요 글로벌 통신사들과 '글로벌 텔코 AI 얼라이언스(GTAA)'를 구축하고 합작법인을 내세워 통신에 특화된 버티컬 LLM을 만든다는 계획이다. SK텔레콤은 파트너 관계를 맺고 있는 오픈AI, 앤트로픽과도 텔코LLM 개발에 힘을 모으고 있다. LLM 개발 경쟁 시기에 주요하게 따진 파라미터 크기가 아니라 LLM 기반으로 어떻게 활용할 수 있는지, 수익화가 가능한 사업모델을 찾는데 주력하겠다는 뜻이다. 정석근 SK텔레콤 글로벌AI테크사업부장(CAGO)은 “GTAA는 통신사향 LLM 기술 개발을 목표로 이를 통해 업무 효율 향상과 고객 서비스 가치를 높이고 네트워크 최적화, 마케팅 솔루션 등 다양한 효율화 사례로 협력을 늘릴 것”이라며 “GTAA 멤버사들은 13억 명의 가입자를 보유한 글로벌 통신사로 텔코 LLM 개발 등에서 규모의 경제를 바탕으로 협력을 이어갈 예정”이라고 밝혔다. KT는 자체 개발 LLM 믿음과 오픈AI의 GPT, 메타의 라마 등을 함께 활용하는 멀티 LLM 전략 기반의 내부업무 혁신 플랫폼 젠아이두(Gen.AIDU)를 개발하고 전사에 적용키로 했다. 젠아이두는 생성형 AI를 이용해 API를 직접 개발해서 사용할 수 있도록 하는 플랫폼이다. 특히 산업별로 특화된 SLM 수요가 커졌다는 점에 따라 LLM 개발 경험을 내세운 SLM을 만들어 기업고객 수요에 맞추겠다는 전략이다. 2천100억 파라미터 값의 모델을 만드는 과정에서 얻은 경험으로 각기 다름 AI 수요에 맞는 경량화 버티컬 모델을 내놓기로 한 것이다. 오승필 KT 기술혁신부문장(CTO)은 “LLM이 여러 가지를 할 수 있고 좋지만 수요기업 입장에서는 가격 경쟁력이 있어야 한다”며 “수요에 맞도록 파라미터 튜닝을 거쳐 고객에 제공하고, 이를 다 포함해 멀티 LLM 전략을 가져갈 것”이라고 말했다. LG유플러스는 LG AI연구원이 구축한 엑사원을 활용, 통신에 특화된 생성형 AI 모델인 익시젠(ixi-GEN)을 상반기 내에 공개한다는 방침이다. 익시젠을 기반으로 개인형 모바일 에이전트, 미디어 에이전트, 워크 에이전트를 구현키로 했다. 최근 GPT 기반의 챗 에이전트 서비스 4종을 내놨는데 이 역시 익시젠 기반으로 전환할 예정이다. LG유플러스는 이를 두고 AI 응용 서비스라 칭하며 이 부문에선 반드시 앞서간다는 계획이다. AI 자체 개발 단계를 넘어 앞으로는 응용 기술이 중요하다는 판단을 내린 것이다. 고도화된 LLM과 상황에 맞는 자연어이해도 활용한다. 성준현 LG유플러스 AI데이터프로덕트담당은 “LLM 기반의 대화형 상담은 최신 LLM과 기존 자연어이해(NLU)를 하이브리드로 사용해 효율성을 높였다”며 “챗 에이전트는 중복 개발 없이 빠르게 신규 챗 기능을 제공하고 간단한 업무는 자연어처리를, 복잡한 질문은 LLM 처리를 가능하도록 했다”고 설명했다.

2024.04.24 15:28박수형

[MWC]유영상 SKT "AI로 시장 판도 바꾸겠다"

“우리는 항상 글로벌에 대한 갈망과 피해의식이 있었다. 통신을 포함해 한국 서비스 기업이 글로벌 스케일을 가진 적이 많지 않다. 제조업은 글로벌 활약이 두드러지는데, 서비스는 왜 글로벌 강자가 탄생하지 못할까 자책도 해봤다.” 유영상 SK텔레콤 사장은 26일(현지시간) 스페인 바르셀로나에서 개막한 MWC24 현장에서 '글로벌 텔코 AI 얼라이언스(GTAA)'에 모인 회사들이 AI 합작법인을 추진키로 한 이유를 묻자 이같이 말했다. 기존과 같은 사업 운영으로는 ICT 시장의 주도권을 되찾기 어려웠지만, 글로벌 통신사들과 AI 협력으로 판도를 바꿀 자신감을 얻게 됐다는 것이다. 이날 SK텔레콤은 도이치텔레콤, 이앤(e&)그룹, 싱텔그룹, 소프트뱅크와 함께 AI 거대언어모델(LLM) 공동 개발과 사업 협력을 수행할 합작법인을 공동으로 설립하기로 했다. AI 언어모델 개발에 SK텔레콤과 뜻을 모은 회사들은 각각 유럽, 중동, 동남아 지역에서 통신사업을 주도하는 회사들이다. 또 소프트뱅크는 혁신 투자에 뛰어난 회사다. "AI 시대 리더십 위해 모였다" 유 사장은 여러 통신사들이 뜻을 모은 과정을 두고 “함께 하는 회사들과 비교하면 (SK텔레콤은) 가입자도 제일 적고 시총도 가장 작은 수준이다”며 “글로벌 강자가 되기 위해서는 동맹 체계를 우선 구축해야 했고, 이들을 설득하는 과정이 어려웠는데 AI(로 인한) 성장 모멘텀이 있어서 가능했다”고 회고했다. 이어, “통신 사업자들이 인터넷이나 모바일(을 통한 ICT 산업 발전) 모멘텀에 적극적으로 나서지 않고 분열됐다가 주도권을 잃게 됐는데, AI 시대에는 그렇게 하지 않았으면 좋겠다는 생각을 모은 것”이라고 설명했다. 그러면서 “챗GPT 등장 후 통신사들이 힘을 모아 제대로 AI 시대에 대응해보자고 생각했다"며 "왜 함께해야 하는지, 또 AI여야만 하는지 질문이 많았는데 (얼라이언스 구축 이후) 1년이 지났고, 이제 모든 기업이 AI를 외치고 있다”고 강조했다. 글로벌 유수의 통신사들과 뜻을 모은 것은 단순히 AI 경쟁력 확보를 넘어 글로벌 AI 강자로 나서겠다는 야심찬 포부인 셈이다. 텔코 LLM, 남들이 가질 수 없는 무기 유 사장은 SK텔레콤 대표 취임 1년이 지난 후부터 'AI 컴퍼니' 비전을 강조해왔다. 본업은 통신이지만 AI로 기존 사업과 신사업을 일구며 일하는 방식도 바꿔야 한다고 강조해왔다. 지난해 MWC에서는 AI 협력사들과 뜻을 모았는데, 지난해 하반기부터는 GTAA를 결성하면서 통신사만의 AI도 갖춰야 한다는 철학에 따라 텔코 거대언어모델(LLM) 구축의 필요성을 외쳤다. 자강과 협력을 키워드로 AI 피라미드 전략을 내세우며 AI 컴퍼니로의 전환 의지는 더욱 커졌다. 유 사장은 “1년 전 거대언어모델(LLM) 매개변수 크기를 따졌다면, 지금은 활용 방안과 어떤 비즈니스모델(BM)을 마련할지 여부에 관심이 쏠리고 있다”며 “텔코 LLM 같은 버티컬(특화형) LLM 발전이 하나의 기업을 넘어 산업 전체에 AI 전환을 불러일으키고, 수익화하는 데 중요한 축이 될 것”이라고 내다봤다. 범용 LLM이 아니라 통신에 특화된 버티컬 LLM은 꾸준한 데이터 학습과 함께, 규모의 경제를 통해 시간이 지나 큰 경쟁력을 가지며 산업 판도를 바꿀 수 있다는 자신감이다. AI 피라미드 전략 주효했다...게임체인저 도약 SK텔레콤의 AI 피라미드 전략에 따르면 데이터센터와 같은 AI 인프라를 갖추고 전 산업 영역에 걸쳐 AI 전환을 추진하며 실제 AI 서비스를 구현해야 글로벌 AI 회사로 성장하는 발판을 다질 수 있다. 구체적인 AI 서비스로 에이닷과 같은 AI 개인비서를 꼽았다. 즉, 통신사가 가장 잘할 수 있는 AI 개인비서(PAA, 퍼스널 AI 어시스턴트)로 글로벌 시장에서도 통할 수 있는 무기를 가지고 승부를 내겠다는 뜻이다. 유 사장은 “에이닷을 비롯한 PAA는 현 AI 시대 흐름과 궤를 같이하고 있다”며 “이는 빅테크의 전유물이 아니라 GTAA에서 서비스가 나올 수 있지 않을까 생각한다”고 말했다. 그는 또 “지금은 한 산업분야에 특화된 LLM이 해당분야의 변화를 이끌어가는 시대”라며, “글로벌 통신사들이 텔코 LLM 등 AI 분야 협력을 통해 시장 변화를 주도하는 게임 체인저가 되려는 것”이라고 강조했다. 그러면서 “기존 혁신에 그치지 않고 국내외 시장에서 과감한 도전을 계속할 것”이라며, “이를 통해 진정한 글로벌 AI 컴퍼니로 거듭날 것”이라고 밝혔다.

2024.02.27 08:00김성현

[MWC] SKT, 글로벌 통신사 4곳과 AI 합작법인 세운다

SK텔레콤이 26일(현지시간) MWC24 개막 현장에서 유럽, 중동, 아시아의 대표 통신사 최고 경영진들과 만나 인공지능(AI) 기술 공동 개발 과 사업 협력을 수행할 합작법인을 설립하기로 뜻을 모았다. 이 자리에 최태원 SK 회장이 직접 참석해 도이치텔레콤, 이앤(e&)그룹, 싱텔그룹, 소프트뱅크의 최고경영자들과 만나 글로벌 AI 기술 혁신과 AI 산업 생태계 선도에 대해 의견을 나누었다. 합작법인으로 글로벌 텔코 AI 협력체 구축 SK텔레콤, 도이치텔레콤, 이앤그룹, 싱텔그룹, 소프트뱅크는 MWC24에서 GTAA 창립총회를 열고 AI 거대언어모델(LLM) 공동 개발과 사업 협력을 수행할 합작법인 설립 계약을 체결했다. 이날 열린 창립총회에는 최태원 회장과 유영상 SK텔레콤 CEO를 비롯해 팀 회트게스 도이치텔레콤 회장, 하템 도비다 이앤그룹 CEO, 위엔 콴 문 싱텔 그룹 CEO, 타다시 이이다 소프트뱅크 최고정보보안책임자(CISO) 등 최고 경영진들이 한자리에 모였다. 합작법인은 '통신사 특화 거대언어모델(텔코 LLM)'을 본격적으로 개발할 계획이다. 한국어, 영어, 일본어, 독일어, 아랍어 등 5개 국어를 시작으로 전 세계 다양한 언어를 지원하는 다국어 LLM을 개발하는 것이 목표다. 합작법인은 연내에 설립할 예정이다. 텔코 LLM은 범용 LLM보다 통신 영역에 대한 이해도가 높고 이용자 의도도 잘 파악할 수 있다. AI컨택센터(AICC) 등 다양한 통신 사업 및 서비스 영역을 AI로 전환하는데 활용도가 높다는 강점을 가지고 있다. SK텔레콤은 텔코 LLM이 개발되면 전 세계 통신사들이 각국 환경에 맞춰 유연하게 AI 에이전트와 같은 생성형 AI 서비스를 만들어 낼 수 있다고 강조했다. 글로벌 통신사들의 합작법인 설립을 통해 전 세계 약 13억 명의 고객 기반을 확보할 수 있게 된 점도 주목할 부분이다. 국경 없는 AI 협력 나서 SK텔레콤, 도이치텔레콤, 이앤그룹, 싱텔그룹, 소프트뱅크는 전 세계 20여 개 통신사들을 초청해 글로벌 통신사 AI 협의체인 '글로벌 텔코 AI 라운드테이블(GTAR)' 행사를 열고 GTAA 참여를 제안했다. SK텔레콤은 특히 현장에 참석한 글로벌 통신사들에게 텔코 LLM을 선보였다. 데모 버전으로 준비한 LLM을 직접 시연하며 통신사 특화 LLM의 기술적 특징과 적용 사례에 대해 설명했다. 5社는 글로벌 통신기업들이 유무선 통신, 미디어 등 핵심사업을 인공지능으로 대전환해 미래 성장동력을 확보해야 한다고 강조하며, 인공지능 기술 확보 및 사업구조 혁신을 위해 GTAA에 참여할 것을 제안했다. 이 자리에서 SK텔레콤은 AI 기술을 개발하는 통신사들이 공통으로 구축해야 할 원칙과 체계의 수립에 대해서도 함께 고민해 보자고 제안했다. SK텔레콤은 올 초 회사 경영시스템에 AI 추구가치, AI 기술을 관리하는 체계 등을 설정하는 AI거버넌스를 도입한다고 밝혔다. 앞으로 5社는 통신사들의 AI 혁신 사례를 공유하고 AI 생태계를 선도해 나가기 위해 GTAR 행사를 정기적으로 운영하고 전 세계 글로벌 통신사들을 초청하기로 했다. 유영상 사장은 “합작법인을 기반으로 GTAA를 확장해 글로벌 AI 생태계 주도권을 확보할 것“이라며 “전 세계 13억 통신 가입자가 통신사 특화 LLM을 통해 새로운 AI 경험 누리게 될 것”이라고 말했다. 클라우디아 네맛 도이치텔레콤 기술혁신담당이사는 “독일에서는 월 10만 건 이상의 고객 서비스 대화가 생성형 인공지능을 통해 처리될 만큼 AI가 고객과 챗봇 간의 대화를 개인화하고 있다”며 “이번 합작법인 설립은 유럽과 아시아를 더욱 가까워지게 만들 것”이라고 설명했다. 데나 알만수리 이앤그룹 AI&데이터 최고책임자는 “텔코 LLM은 고객 지원을 손쉽게 하고 개인화된 추천을 가능하게 하는 등 기업이 고객과 소통하는 방식을 혁신할 것”이라며 “GTAA를 통해 통신을 혁신할 새로운 표준을 만들고 고객에게 더 나은 서비스를 제공할 수 있기를 기대한다”고 밝혔다. 콴 문 위엔 싱텔 그룹 CEO는 “텔코 LLM은 챗봇 기능을 크게 확장해 고객의 기술적 문의에 적절한 답을 하는 등 복잡한 고객 문제를 쉽게 처리할 수 있을 것”이라며 “글로벌 통신 업계가 AI 개발 협력에 뜻을 모은 것은 큰 의미가 있다”고 말했다. 히데유키 츠쿠다 소프트뱅크 부사장은 “GTAA와 같은 강력한 동맹을 통해 글로벌 커뮤니케이션을 혁신하고 서비스 품질을 높이며 AI를 기반으로 한 새로운 기술 혁신의 시대를 열 것”이라며 “전 세계 커뮤니티에 원활한 연결성과 무한한 기회를 제공함으로써 통신의 미래를 만들어갈 수 있는 힘을 가지게 됐다”고 말했다.

2024.02.26 17:00박수형

SKT, MWC24서 통신사 AI 언어모델 청사진 내놓는다

SK텔레콤이 이달 26일 스페인 바르셀로나에서 막을 여는 MWC24에서 다양한 통신 서비스와 네트워크 인프라, 실생활 영역 등 인공지능(AI) 혁신을 바탕으로 한 미래 기술을 전 세계에 소개한다. 또한 세계 통신사들 간 동맹인 글로벌 텔코 AI 얼라이언스(GTAA)를 비롯해, 빅테크와 초협력을 통해 SK텔레콤의 AI 지형을 글로벌 무대로 본격 확대한다. 올해 MWC 주제는 '미래가 먼저다'로, 미래와 현재 잠재력 실현을 우선순위 삼아 200여개국 2천400여개 회사가 AI를 포함해 6G, 사물인터넷(IoT), 로봇 등 다양한 신기술을 선보이는 장이 펼쳐질 전망이다. SK텔레콤은 MWC24 핵심 전시장인 피라그란비아(Fira Gran Via) 3홀 중앙에 약 300평(992㎡) 규모의 대형 전시장을 꾸린다. '새로운 변화의 시작, 변곡점이 될 AI'를 주제로 텔코 중심의 AI 기술을 선보일 예정이다. 전체 전시의 핵심 키워드는 텔코 거대언어모델(LLM)이다. 통신 사업에 특화한 LLM을 개발하고 이를 다양한 분야에 적용함으로써 사업자와 이용자 효용을 극대화한다는 것이다. 텔코 LLM을 바탕으로 SK텔레콤은 챗봇이 구현된 버추얼 에이전트, AI 기반의 스팸, 스미싱 필터링 시스템, AI콜센터(AICC) 등 다양한 적용 사례를 소개할 예정이다. 또 텔코 LLM을 활용해 기존 AI 기반 실내외 유동인구 데이터 분석 시스템 '리트머스 플러스', 로봇, 보안, 의료 등 여러 분야에 적용되는 'AI 퀀텀 카메라' 기능 강화에 대한 구상도 선보일 계획이다. 미디어와 의료 등 생활 속에서 활용되는 AI 기술도 선보인다. 반려동물 AI 진단보조 서비스 엑스칼리버를 비롯해 미디어 가공, 콘텐츠 품질향상 플랫폼 AI 미디어 스튜디오, 비전 AI를 활용한 바이오 현미경 인텔리전스 비전 등이 SK텔레콤 전시관에 마련된다. 이밖에 차세대 열관리 방식 액침 냉각을 포함한 AI 데이터센터(DC) 기술과 AI 기반 각종 네트워크 인프라 기술, 가상 체험 가능한 실물 크기의 도심항공교통(UAM) 등도 관람객 이목을 끌 것으로 기대된다. 회사는 별도 공간을 꾸려 국내 15개 혁신 스타트업과 진행 중인 ESG 프로젝트를 전시한다. 참여 기업들은 피라 그란 비아 8.1홀에 위치한 스타트업 전시회 4YFN(4 Years From Now)에서 사회문제 해결을 위한 ESG 추진 방안을 제시한다. 유영상 SK텔레콤 대표는 2천400여개 기업이 참가하는 MWC24 현장을 직접 찾아 글로벌 AI 컴퍼니로 진화하는 회사 미래 전략을 세계에 알리고, 다양한 글로벌 파트너사와 협력을 추진할 계획이다. 지난해 7월 공식 출범한 글로벌 텔코 AI 얼라이언스와 관련한 논의도 이번 MWC 무대에서 한층 구체화할 계획이다. 유영상 대표는 “이번 MWC는 우리가 보유한 핵심 AI 기술을 바탕으로 다양한 적용 사례를 소개하는 자리가 될 것”이라며 “세계적 기업들과의 초협력을 통해 글로벌 AI 컴퍼니로 빠르게 변모할 것”이라고 말했다.

2024.02.18 09:44김성현

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"요금 올리거나, 무료 풀거나"…OTT, 전략 분화

"책 대신 '아이패드'로 수업을"…디지털이 바꾼 교실 풍경은

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

[ZD브리핑] 아시아 IT 박람회 컴퓨텍스 개최...21대 대선 후보 첫 토론회

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현