검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'생성형AI 스튜디오'통합검색 결과 입니다. (2건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

MS가 추천하는 생성형AI 선택 방법은

마이크로소프트가 고객사의 인공지능(AI) 확산을 위해 직접 생성형AI 도입 방법을 제시했다. 25일 마이크로소프트의 루카 스타마테스쿠 AI 테크 스페셜리스트는 웨비나 애저 부트 캠프에서 '업무에 적합한 생성형 AI를 선택하는 방법'을 소개했다. AI의 발전과 함께 오픈AI의 GPT, 메타의 라마, 미스트랄AI 등 AI모델의 종류도 급격하게 늘어나고 있다. 또한 GPT만 해도 GPT-3.5에서 최근 공개한 GPT-o1까지 다양한 버전을 지원한다. 그만큼 각 기업이나 조직은 개발 중인 앱이나 서비스와 연계하기에 가장 적합하고 비용 효율적인 AI를 선택하기에 많은 어려움을 겪고 있다. 루카 스타마테스쿠는 이런 어려움을 해결하기 위한 방안으로 애저AI 스튜디오의 카달로그 서비스를 소개했다. 이를 통해 다양한 AI모델을 한 번에 확인할 수 있을 뿐 아니라 매개변수 양, 한 번에 처리할 수 있는 최대 단어 수를 비롯해 비용과 함께 사용방법 등을 제공한다. 더불어 각 조직이나 업무에서 진행하는 업무에 어떤 AI가 적합한지 비교 테스트도 가능하다. 예를 들어 2개의 모델에 같은 질문을 했을 때 얻어지는 결과를 확인해 보다 만족스러운 결과를 제공하는 AI 모델을 선택할 수 있는 것이다. 이후 클라우드 환경에서 개발 중인 기업 앱이나 서비스에 바로 연계하거나 각 조직의 업무나 산업 특성에 따라 모델을 추가로 훈련시키고 관리하는 것도 가능하다. 루카 스타마테스쿠는 애저AI 스튜디오에서 지원하는 다양한 AI 모델 중 기업에 적합한 AI모델을 선정하는 방법으로 벤치마크를 강조했다. AI 벤치마크는 AI 모델의 성능을 정량적으로 평가위한 방법의 일환이다. 주로 공개된 데이터셋을 활용해 얼마나 정확한 답변을 제공할 수 있는지 역량을 평가한다. 애저AI 스튜디오는 모델별 다양한 벤치마크 평가 점수를 제공하며 이를 기준으로 산업이나 분야별 정확성 등을 고려해 AI를 선정할 수 있다. 루카 스타마테스쿠는 "벤치마크의 경우 공개 데이터를 기반으로 하는 만큼 사전에 데이터를 확인하고 의도적으로 정확성을 높일 수 있는 답안을 활용할 가능성이 있어 주의가 요구된다"며 "기업에서 실제로 사용하려는 분야가 어딘지 어떻게 AI를 활용할 것인지와 벤치마크 성과를 주의 깊게 비교하고 애저AI 스튜디오의 자동 평가 시스템을 이용해 지속해서 정확성을 확인할 필요가 있다"고 설명했다. 이어서 AI를 선택한 후 기업에 맞춰 최적화하는 방법을 소개했다. 그는 우선 프롬프트 엔지니어링으로 기본적인 가이드라인을 만들어 업무 환경에 AI를 연계할 것을 권했다. 만약, AI모델만으로 기능이 부족할 경우 검색 증강 생성(RAG)을 도입해 외부 웹사이트 등의 데이터를 추가로 도입하는 방안을 제시했다. 이 방법만으로도 AI를 활용해 효율적으로 업무를 수행하기 어려울 경우 AI 모델에 추가 학습을 더하는 미세조정을 시도할 것을 권했다. 그는 "제시한 순서는 빠르고 비용 효율적인 업무를 우선적으로 제시한 것"이라며 "다만 미세조정의 경우 한국, 일본 등 영어 외적인 언어를 사용하는 경우 업무 정확성을 높이기 위해 마무리 작업 등으로 사용할 가능성이 있다는 것을 고려해야 한다"고 설명했다. 이어 "특히 AI모델을 교체하는 것은 가장 많은 비용과 시간이 소모되는 만큼 도입 단계부터 신중하게 검토해서 이런 상황을 사전에 방지하는 것이 중요하다"고 강조했다. 루카 스타마테스쿠는 AI를 도입하는 과정에서 가장 고려해야 할 것은 기업 비즈니스의 가치와 AI모델의 가치를 비교할 수 있어야 한다고 강조했다. 또한 급격한 AI의 기술 발전에 따라 AI 서비스 비용이 점차 낮아지고 있다는 것도 고려할 필요가 있다고 설명했다. 그는 "기업에서 신규 서비스를 출시하거나 복잡한 업무 프로세스를 개선해 비용을 줄이면서 발생하는 이득과 AI 모델의 도입 비용 등을 검토할 필요가 있다"며 "특히 기술의 발전에 따라 수 많은 AI모델이 등장하고 있는 만큼 직접 사용하고 체험하면서 무엇이 기업에 적합한 AI인지 판단하길 바란다"고 말했다.

2024.09.25 17:02남혁우

생성형AI 도입 고민하는 기업, LG CNS 전 과정 돕는다

LG CNS가 마곡 본사에 '생성형AI(Gen AI) 스튜디오'를 오픈했다. LG CNS는 생성형AI 스튜디오를 통해 기업 고객의 생성형AI 도입에 필요한 전 과정을 빠르고 체계적으로 지원할 것이라고 9일 밝혔다. 많은 기업 고객이 생성형AI 혁신에 관심이 많지만 어디서부터 어떻게 시작해야 하는지 잘 몰라 어려움을 겪고 있다. LG CNS는 이 같은 점에 착안해 생성형AI 스튜디오를 신설했다. 생성형AI 스튜디오는 기업 고객이 생성형AI를 접목해 혁신을 가속화할 수 있도록 LG CNS가 개발한 고객 맞춤형 참여 프로그램이자, 이를 위해 마련한 특화 공간이다. ▲생성형AI 투어 ▲ 생성형AI 디스커버리 워크숍 ▲ 생성형AI 프로토타이핑 등 기업 고객들의 생성형AI 사업화를 지원하는 다양한 프로그램을 제공한다. Gen AI 투어에서는 각 산업영역 및 밸류체인별 120여개의 유스케이스(적용 가능 사례)와 LG CNS가 진행한 개념검증(PoC) 우수사례 등을 소개한다. 고객들은 DAP 생성형AI 플랫폼, 멀티모달 엔진 드래그와 같은 LG CNS의 자체 생성형AI 솔루션도 경험해볼 수 있다. 마이크로소프트, 구글, AWS 등 글로벌 빅테크 기업의 생성형AI 솔루션도 체험 가능하다. 이를 기반으로 평소 갖고 있었던 생성형AI 도입 관련한 다양한 고민을 LG CNS 생성형AI 전문가와 함께 논의할 수 있다. 생성형AI 디스커버리 워크숍은 기업 고객과 LG CNS 정예전문가들이 협업해 비즈니스 목표에 부합하는 생성형AI 아이디어를 도출하고, 타당성을 검토하는 프로그램이다. AI센터 산하 생성형AI 사업단, AI연구소의 AI 기술전문가, 생성형AI 엔지니어와 함께 사용자경험(UX) 전문가, 문제 해결 조력자(퍼실리테이터)도 참여한다. 고객이 직면해 있는 난제에서 시작해 이를 해결할 수 있는 혁신적인 아이디어를 다각도로 검토하고 구체화하는 시간을 갖는다. 예를 들어, 직원들의 업무 효율성을 높이고 싶은 기업의 경우, 보고서 초안 작성 임직원용 챗봇, 이메일 작성 자동화 등의 서비스를 발굴할 수 있다. 창의적인 디자인을 빠르게 탐색하고 싶은 제조사 디자인센터의 경우, 초기 디자인 개발 및 검증 서비스를 구체화해볼 수 있다. 이 과정에서 ▲기술 실행 용이성 ▲고객가치 ▲비즈니스 가치 등을 평가하게 된다. 프로토타이핑 단계에서는 발굴한 아이디어를 실제 눈으로 확인하고 검증할 수 있다. LG CNS는 생성형AI 서비스를 기업 고객의 기존 업무 프로세스에 최적화해 활용 가능한지 PoC, 사용자 테스트 등을 진행한다. 기업 고객들은 프로토타이핑을 통해 AI 서비스 기획, 개발 과정 체험에 그치지 않고 실제 사업화의 가능성을 높일 수 있다. LG CNS는 글로벌 빅테크가 제공하는 대규모 언어모델(LLM)의 API에 검색증강생성(RAG)을 활용하는 방법을 고려한다. 뿐만 아니라 각 기업이 갖고 있는 고유한 데이터로 LLM을 파인튜닝해 기업별 맞춤형 LLM을 구축하는 방안 등도 다각도로 검토한다. 기업 고객들은 ▲데이터 요건 ▲시스템 인프라 ▲도입 비용 등 생성형 AI 도입을 위한 필수사항을 점검해, 시행착오를 최소화하고 비즈니스를 혁신할 수 있다. LG CNS는 Gen AI 스튜디오를 기반으로 생성형AI 사업에 더욱 박차를 가한다. LG CNS는 기업 고객들과 함께 20여개의 생성형AI PoC를 성공적으로 진행한 바 있다. 올 초에는 AI 기술연구와 사업발굴·수행을 통합한 엔터프라이즈 AI 전문 조직인 AI센터를 신설해, 현재 제조·금융·공공 분야에서 생성형AI 본사업 약 10개를 추진 중이다. LG CNS는 생성형AI 스튜디오와 AI센터는 기업 고객의 생성형AI 혁신을 주도하는 쌍두마차로, 고객의 비즈니스 혁신 기회를 발굴하고 실현해 나갈 계획이다. 각각의 전문성을 긴밀히 협력해 시너지를 발휘하며, 국내 생성형AI 서비스 시장에서 LXM 패러다임을 이끌어 나간다. LXM(Large X Model)에서 X는 모든 것(Everything)을 의미한다. 생성형AI 기술은 초거대 언어모델(LLM), 초거대 비전모델(LVM) 등과 같이 언어, 이미지 등 1개 데이터 유형으로만 입출력이 가능한 단일 모델에서 다양한 형태의 데이터를 동시에 인식하고 처리할 수 있는 대규모 멀티모달 모델(LMM)으로 진화하고 있다. LG CNS CTO 김선정 전무는 “'Gen AI 스튜디오'는 성공적인 생성형AI 비즈니스 추진을 돕는 전문가, 기술력, 인프라 등이 집약된 핵심 공간”이라며 “기업들이 LXM 시대에서 새로운 경쟁력을 가질 수 있도록 고객가치를 혁신하겠다”고 강조했다. 최근 Gen AI 스튜디오 투어에 참여한 우정사업본부 관계자는 “평소 생성형AI에 대해 많이 들어봤지만 실제로 어떻게 적용되고 사용할 수 있는 지 막연했는데, 직접 체험하면서 전문가들과 함께 논의를 해볼 수 있어 매우 유익했다”고 말했다.

2024.05.09 08:21남혁우