검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'아마존 베드록'통합검색 결과 입니다. (23건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

코멘토, AI 에이전트 구축에 '아마존 베드록' 선택…"강력한 보안 때문"

"인공지능(AI) 도입을 고민하는 기업이 가장 우려하는 건 보안입니다. 코멘토는 보안에 강한 '아마존 베드록'으로 AI 에이전트를 구축했습니다. 기업은 이 에이전트로 걱정 없이 챗봇을 업무 현장에 적용할 수 있습니다." 김창섭 코멘토 공동창립자 겸 소프트웨어 개발 리드는 최근 지디넷코리아 인터뷰에서 아마존 베드록을 채택한 이유로 우수한 보안성을 꼽았다. 코멘토는 AI를 활용해 기업의 워크플로를 분석하고 생산성을 높일 수 있는 방안을 제시하는 기업이다. 이런 서비스를 '포텐스닷'이라는 기업용 플랫폼을 통해 제공하고 있다. 최근 맞춤형 AI 챗봇 구축을 지원하는 AI 에이전트도 포텐스닷 내에 도입했다. 이런 서비스를 '포텐스닷'이라는 브랜드를 통해 운영 중이다. 최근에는 기업 맞춤형 AI 챗봇 구축을 지원하는 'AI 에이전트' 기능도 포텐스닷에 추가했다. 김 리는 AI 에이전트의 가장 큰 걸림돌로 보안을 꼽았다. 이에 고객 맞춤형 AI 에이전트 구축이 필요했다고 밝혔다. 그는 "고객사는 챗GPT 기반 에이전트를 기업 시스템에 도입했을 때 보안을 가장 크게 우려했다"고 구축 이유를 밝혔다. 코멘토는 AI 에이전트 개발을 위해 아마존웹서비스(AWS)의 '아마존 베드록'을 활용했다. 아마존 베드록은 앤트로픽을 비롯한 메타, 코히어 등 고성능 생성형 AI 모델을 API 형태로 제공한다. 또 검색증강생성(RAG), 가드레인, 프롬프트 라우드 등 기능도 통합 지원한다. 김 리드는 "GPT 기반 챗봇이나 에이전트는 사용자 파일이나 대화 내용이 외부에 저장될 수 있다는 우려가 있다"며 "아마존 베드록은 AI 모델과 사용자 간 대화가 저장되지 않고, 학습에도 활용되지 않아 보안 측면에서 유리하다"고 강조했다. 그러면서 "아마존 베드록 내 AI 모델은 AWS에서 독립 운영되는 구조"라며 "대화 데이터가 외부에 전송되지 않아 안전했다"고 설명했다. 코멘토는 AI 에이전트 개발 과정에서 아마존 베드록뿐 아니라 AWS의 다양한 보안 기능도 적용했다. KMS 기반 암호화, IAM 최소 권한 정책, VPC 엔드포인트 접속 방식을 주로 활용했다. 다이나모DB의 TTL 기능과 S3의 라이프사이클 설정까지 도입해 데이터 유효 기간을 효율적으로 관리했다. 김 리드는 "에이전트 내 채팅 기능을 비롯한 스트리밍, 파일 첨부 구현을 위해 '컨버스 API'도 적용했다"며 "이를 통해 사용자 질문 흐름을 기억하고 이어갈 수 있는 체이닝 구조를 빠르게 구현할 수 있었다"고 설명했다. "RAG 고도화…멀티 AI 오케스트레이션 실현 목표" 코멘토는 아마존 베드록을 통해 AI 에이전트 기능을 고도화할 방침이다. 특히 RAG 구현을 위한 파일 첨부 기능을 핵심 요소로 봤다. 사용자가 첨부한 문서 기반으로 실시간 질의응답이 가능하도록 설계해, AI의 실질적 업무 적용 사례를 늘리기 위해서다. 현재 코멘토는 포텐스닷 커뮤니티 사이트에 게시되는 글들을 AWS S3에 업로드한 뒤, 이를 지식 베이스(Knowledge Base)에 연동해 실시간 챗봇 질의응답에 활용하고 있다. 업로드 주기는 하루 1~2회 수준이다. 해당 데이터 기반으로 AI가 빠르게 인사이트를 고객에 제공하는 구조다. 문서뿐 아니라 이미지·동영상·오디오 등 멀티모달 데이터를 분석하는 '데이터 오토메이션(Data Automation)' 기능도 테스트 중이다. 이 기능은 지식 베이스와 통합돼 별도 파싱 없이도 AI가 인사이트를 추출할 수 있는 구조다. 김 리드는 "향후 RAG 구현 범위가 텍스트 중심에서 멀티데이터 기반으로 확장될 수 있을 것"으로 기대했다. 코멘토는 프롬프트 품질·양에 따른 AI 활용법도 업그레이드한다. 김 리드는 "베드록의 프롬프트 라우터 기능을 활용해 짧은 대화는 저렴한 모델, 긴 대화는 고성능 모델로 자동 분기하는 시스템을 도입할 계획"이라며 "여러 AI 모델과 기능을 유기적으로 연동하는 오케스트레이션 구조를 내부 실험하고 있다"고 밝혔다. 김 리드는 포텐스닷에서 AI의 역할에 대해 언급했다. 그는 "AI는 어디까지나 사람을 돕는 '코파일럿'이어야 한다"고 강조했다. 그러면서 "AI를 단순한 자동화 도구가 아닌, 생산성 향상을 위한 협력 파트너로 활용할 수 있도록 하는 것이 핵심"이라고 주장했다. 김 리드는 "국내 기업은 이제 막 AI 도입을 고민하는 단계"라며 "앞으로 신기술을 빠르게 테스트하고 필요시 즉시 도입하는 실행력을 갖출 것"이라고 덧붙였다.

2025.03.26 08:15김미정 기자

AWS, 생성형 AI 사업 전략 방향 수정될까…핵심 임원 '이탈'

아마존웹서비스(AWS)가 생성형 인공지능(AI) 사업 전략 방향 수정에 나설 것으로 보인다. 제품을 개발, 구축했던 인재가 새로운 스타트업을 설립하기 위해 최근 회사를 떠났기 때문이다. 20일 테크크런치에 따르면 라지 아가왈 AWS 생성형 AI 담당 임원은 이날 자신의 소셜미디어(SNS) 링크드인에 "AWS에서 3년 동안 놀라운 여정을 보낸 후 최근 새로운 회사를 시작하기 위해 회사를 그만뒀다"며 "AWS에서 초창기부터 생성형 AI 분야에서 수행한 일들을 자랑스럽게 생각한다"고 말했다. 라지 아가왈은 AWS에서 근무한 3년간 생성형 AI와 관련된 일들을 총괄해왔다. 그는 AWS의 생성형 AI 애플리케이션 구축을 돕는 '베드락' AI 플랫폼을 비롯해 워크플로우 자동화와 소프트웨어 개발 프로세스 최적화를 돕는 '아마존 Q'를 출시하는 데 주도적인 역할을 한 것으로 알려졌다. AWS에 합류하기 전에는 다양한 회사를 설립했다. 우선 지난 2009년에는 모바일 분석 및 메시징 플랫폼인 로컬리틱스(Localytics)를 창업했다. 로컬리틱스는 2020년에 업랜드 블루벤이 인수하기 전까지 6천900만 달러 이상의 벤처 자금을 조달했다. 라지 아가왈은 2017년에 회사를 떠났다. 이후 라지 아가왈은 2018년에 AI 기반 영업 분석 플랫폼인 디맨드 세이지(Demand Sage)를 설립했다. 디맨드 세이지는 300만 달러의 벤처 캐피탈을 유치한 후 2021년 4월에 스냅(Snap)에 매각됐다. 아가왈은 2022년 AWS에 합류하기 전까지 R&D 그룹의 제품 및 성장 책임자로 스냅에서 근무했다. 라지 아가왈은 "수만 명의 판매자에게 출시되고 수십만 번 사용돼 파이프라인 생성을 4.9% 증가시킨 세계 최초의 대규모 생성형 AI 제품을 (AWS에서) 구축했다"며 "앞으로는 초심으로 돌아가 새로운 회사를 설립할 계획"이라고 밝혔다.

2025.03.20 09:35장유미 기자

"글로벌 AX 기업 되겠다"…상장 공약 실천 나선 현신균, '클라우드 강자' AWS와 일 냈다

"글로벌 '인공지능 전환(AX)' 전문기업으로 거듭날 LG CNS의 미래를 함께 지켜봐 주십시오." 지난달 유가증권시장(코스피)에 상장하며 이처럼 포부를 밝힌 현신균 LG CNS 대표가 글로벌 클라우드 시장 강자인 아마존웹서비스(Amazon Web Services, AWS)와 손잡고 클라우드 기반 생성형 AI 서비스 대중화에 나섰다. LG CNS는 최근 AWS와 함께 'AWS-LG CNS 생성형 AI 론치 센터(Gen AI Launch Center)'를 신규 설립했다고 4일 밝혔다. 이 센터는 기술, 비용, 시간 문제로 생성형 AI 서비스 구축에 어려움을 겪는 기업이 보다 쉽게 서비스를 도입할 수 있도록 지원하는 전담조직(TF)이다. 이 TF에는 생성형 AI, 클라우드 분야의 양사 전문가들이 참여해 AX 협력을 가속한다. AWS는 이번에 LG CNS와 협력 조직을 구성해 생성형 AI 공동사업을 추진한다. 최근 LG CNS는 은행, 보험, 증권, 카드 등 금융 분야에서 AX 프로젝트를 대거 수주했으며 제조 AX 영역에서도 활발히 사업을 진행 중이다. 지난해에는 'AWS 생성형 AI 컴피턴시(AWS Generative AI Competency)' 등을 포함한 다양한 생성형 AI 인증도 획득했다. 'AWS-LG CNS 생성형 AI 론치 센터'는 기업을 위한 생성형 AI 서비스 100개를 저비용으로 신속하게 구축하는 프로젝트를 진행한다. 기업은 ▲사용자 맞춤형 챗봇 ▲마케팅 문구·이미지 생성 서비스 ▲이슈 요약 및 대응체계 수립 등을 지원하는 이슈관리 통합플랫폼 등 생성형 AI 기술이 적용되는 다양한 서비스를 구현할 수 있다. 이를 위해 LG CNS는 '생성형 AI 퀵 딜리버리' 체계를 활용한다. '생성형 AI 퀵 딜리버리'는 기업이 최소한의 기간과 비용으로 생성형 AI 서비스를 기획부터 구현·검증까지 일괄 지원하는 '산업·업무 영역별 사용사례(Use Case)'와 'AI 솔루션'을 제공한다. LG CNS는 금융, 제조, 유통 등 산업 분야에서 생성형 AI 사업을 진행하며 다양한 사용사례를 축적해왔다. 이 과정에서 상품기획, 고객 서비스(CS), 인사·총무 등 여러 업무 영역에 특화된 생성형 AI 서비스를 적용할 수 있는 시나리오도 개발했다. 이를 통해 LG CNS는 기업이 생성형 AI 서비스 도입에 대한 구체적인 로드맵을 세울 수 있도록 지원한다. 예를 들어 생성형 AI 서비스 중 가장 대중적인 챗봇도 산업 분야나 사용자에 따라 다른 기술과 방식으로 만들 수 있다. 금융 상담원을 위한 AI 챗봇에는 금융 상품 검색, 요약 등 고객상담 업무에 최적화된 응대 매뉴얼을 적용할 수 있다. 가전 제조업 제품 개발자를 위한 AI 챗봇에는 가전 제품 설계 가이드, 과거 발생 이슈 등을 빠르고 정확하게 검색할 수 있는 검색증강생성(RAG) 기술을 적용할 수 있다. 기업은 LG CNS가 보유하고 있는 수많은 생성형 AI 사용사례를 참고해 사용자 관점에서 필요한 서비스를 구축할 수 있다. LG CNS는 생성형 AI 서비스 개발 속도를 향상시키기 위해 기업의 기존 애플리케이션에 AI를 쉽게 적용할 수 있는 자체 AI 솔루션을 활용한다. 이 솔루션은 기업의 데이터와 지식을 생성형 AI가 빠르게 학습할 수 있도록 돕는다. 데이터를 수집·가공해 분석하고, 최적화된 AI 모델을 선정·관리하는 기능을 제공해 서비스 개발 효율성을 극대화한다. 더불어 LG CNS는 AWS의 다양한 생성형 AI 서비스를 결합해 시너지를 강화한다. 주요 AI 기업 및 아마존의 파운데이션 모델을 손쉽게 활용할 수 있는 완전 관리형 서비스 '아마존 베드록(Amazon Bedrock)'을 활용해 기업에게 적합한 모델을 선정하고 효과적으로 생성형 AI 서비스를 만들 수 있다. 또 서비스 품질 향상을 위해 AWS가 자체 개발한 업계 최고 수준의 차세대 파운데이션 모델 '아마존 노바(Amazon Nova)', AWS의 고성능 컴퓨팅 특화 하드웨어 등도 활용할 수 있다. 양사는 과거에도 클라우드, 애플리케이션 현대화(AM) 사업 확대를 위해 긴밀히 협력해왔다. 그 결과 LG CNS는 국내 최고의 클라우드 MSP(Managed Service Provider)로 입지를 공고히 하고 있다. 현 사장은 "AWS와의 협력을 통해 국내 모든 기업의 생성형 AI 도입 문턱을 낮추겠다"며 "앞으로 양사는 생성형 AI 공동사업을 적극 발굴하고 향후 아시아태평양 및 일본(APJ) 지역으로 시장을 확대해 나갈 것"이라고 밝혔다.

2025.03.04 17:32장유미 기자