• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'아마존 베드록'통합검색 결과 입니다. (11건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AWS "성공적 AI 개발 환경, 컴퓨팅·스토리지·추론 탄탄해야"

"앞으로 인공지능(AI) 인프라는 저렴한 가격에 빠른 속도를 필수로 갖춰야 합니다. 대규모 데이터 스토리지 구축도 필수입니다. 우리는 이같은 사업 전략을 가장 우선순위에 둠으로써 전 세계 고객들에게 안정적이고 빠른 AI 개발 환경을 제공합니다." 아마존웹서비스(AWS) 야세르 알사이에드 사물인터넷(IoT) 부문 부사장은 14~15일 서울 코엑스에서 열린 'AWS 서밋 서울' 기조연설에서 미래 AI 사업 전략을 이같이 밝혔다. 알사이에드 부사장은 AWS의 AI 개발 핵심으로 컴퓨팅, 스토리지, 추론이라고 밝혔다. 기업들은 이를 블록처럼 연결해 원하는 사업이나 애플리케이션을 구축할 수 있다. 이를 통해 타사가 제공하는 AI 인프라보다 저렴한 가격에 빠르고 정확한 개발 과정을 만들 수 있다는 설명이다. 그는 AI 컴퓨팅을 지원하는 인프라 솔루션 생명은 가성비와 빠른 속도라고 밝혔다. 타사 인프라와 비슷한 성능일 경우 동급 인스턴스를 훨씬 뛰어넘어야 한다는 설명이다. 그러면서 가상 서버와 컨테이너, 서버리스, 엣지·하이브리드 등 AWS 컴퓨팅 제품 특장점을 설명했다. 우선 '아마존 EC2'를 통해 850개 넘는 인스턴스 유형으로 이뤄진 컴퓨팅을 지원한다. 향후 엔비디아와 손잡고 '블랙웰 GPU'를 탑재한 P6 패밀리 인스턴스 출시 계획도 알렸다. 그는 'AWS 그래비톤4'도 소개했다. 이는 그래비톤3보다 대규모 자바 애플리케이션에서 최대 45% 더 빠르고, x86 기반 EC2 인스턴스보다 에너지 소비가 60% 적은 것으로 알려졌다. 이어 '트레이니움2'는 1세대보다 최대 4배 빠르고 에너지 효율이 3배 올랐다는 소식도 발표했다. "올바른 데이터 관리, 성공적 AI 앱 구축 비결" 알사이에드 부사장은 대용량 데이터를 처리하는 스토리지 부문도 핵심이라고 강조했다. 스토리지 기술이 성장해야 몇 년 걸리던 대규모 프로젝트를 몇 시간으로 줄일 수 있다는 이유에서다. 현재 AWS는 핵심 스토리지 솔루션으로 '아마존 S3'와 '아마존 S3 메타데이터'를 제시했다. 그는 "아마존 S3는 400조개 넘는 데이터가 저장된 상태"라며 "최근 아파치 아이스버그 지원을 위해 새 버킷 유형인 아마존 S3 테이블도 추가됐다"고 설명했다. 이어 "아마존 S3 메타데이터는 시스템 메타데이터를 자동 생성하고 쿼리할 수 있다"고 덧붙였다. 알사이에드 부사장은 생성형 AI 플랫폼 '아마존 베드록'을 통해 추론과 AI 앱 개발 가속화를 돕겠다고 강조했다. 그는 "AI 앱을 효과적으로 구축하려면 올바른 모델 선택과 기능 맞춤화, 신뢰와 안전성, 경제성이 핵심"이라며 "아마존 베드록은 이를 모두 가능케 하는 핵심 플랫폼"이라고 말했다. 그는 아마존 베드록의 가드레일과 자동화된 추론 검사를 통해 AI 환각 현상을 해결하고 있다는 점도 알렸다. 해당 기능은 모델 증류와 지능형 프롬프트 라우팅으로 성능을 유지하면서 비용을 절감할 수 있다. 그는 "기업의 성공적인 AI 기업 활용은 적합한 모델과 도구 선택이 좌우할 것"이라며 "이는 AI 에이전트 시대에도 핵심"이라고 강조했다.

2025.05.14 12:15김미정

코멘토, AI 에이전트 구축에 '아마존 베드록' 선택…"강력한 보안 때문"

"인공지능(AI) 도입을 고민하는 기업이 가장 우려하는 건 보안입니다. 코멘토는 보안에 강한 '아마존 베드록'으로 AI 에이전트를 구축했습니다. 기업은 이 에이전트로 걱정 없이 챗봇을 업무 현장에 적용할 수 있습니다." 김창섭 코멘토 공동창립자 겸 소프트웨어 개발 리드는 최근 지디넷코리아 인터뷰에서 아마존 베드록을 채택한 이유로 우수한 보안성을 꼽았다. 코멘토는 AI를 활용해 기업의 워크플로를 분석하고 생산성을 높일 수 있는 방안을 제시하는 기업이다. 이런 서비스를 '포텐스닷'이라는 기업용 플랫폼을 통해 제공하고 있다. 최근 맞춤형 AI 챗봇 구축을 지원하는 AI 에이전트도 포텐스닷 내에 도입했다. 이런 서비스를 '포텐스닷'이라는 브랜드를 통해 운영 중이다. 최근에는 기업 맞춤형 AI 챗봇 구축을 지원하는 'AI 에이전트' 기능도 포텐스닷에 추가했다. 김 리는 AI 에이전트의 가장 큰 걸림돌로 보안을 꼽았다. 이에 고객 맞춤형 AI 에이전트 구축이 필요했다고 밝혔다. 그는 "고객사는 챗GPT 기반 에이전트를 기업 시스템에 도입했을 때 보안을 가장 크게 우려했다"고 구축 이유를 밝혔다. 코멘토는 AI 에이전트 개발을 위해 아마존웹서비스(AWS)의 '아마존 베드록'을 활용했다. 아마존 베드록은 앤트로픽을 비롯한 메타, 코히어 등 고성능 생성형 AI 모델을 API 형태로 제공한다. 또 검색증강생성(RAG), 가드레인, 프롬프트 라우드 등 기능도 통합 지원한다. 김 리드는 "GPT 기반 챗봇이나 에이전트는 사용자 파일이나 대화 내용이 외부에 저장될 수 있다는 우려가 있다"며 "아마존 베드록은 AI 모델과 사용자 간 대화가 저장되지 않고, 학습에도 활용되지 않아 보안 측면에서 유리하다"고 강조했다. 그러면서 "아마존 베드록 내 AI 모델은 AWS에서 독립 운영되는 구조"라며 "대화 데이터가 외부에 전송되지 않아 안전했다"고 설명했다. 코멘토는 AI 에이전트 개발 과정에서 아마존 베드록뿐 아니라 AWS의 다양한 보안 기능도 적용했다. KMS 기반 암호화, IAM 최소 권한 정책, VPC 엔드포인트 접속 방식을 주로 활용했다. 다이나모DB의 TTL 기능과 S3의 라이프사이클 설정까지 도입해 데이터 유효 기간을 효율적으로 관리했다. 김 리드는 "에이전트 내 채팅 기능을 비롯한 스트리밍, 파일 첨부 구현을 위해 '컨버스 API'도 적용했다"며 "이를 통해 사용자 질문 흐름을 기억하고 이어갈 수 있는 체이닝 구조를 빠르게 구현할 수 있었다"고 설명했다. "RAG 고도화…멀티 AI 오케스트레이션 실현 목표" 코멘토는 아마존 베드록을 통해 AI 에이전트 기능을 고도화할 방침이다. 특히 RAG 구현을 위한 파일 첨부 기능을 핵심 요소로 봤다. 사용자가 첨부한 문서 기반으로 실시간 질의응답이 가능하도록 설계해, AI의 실질적 업무 적용 사례를 늘리기 위해서다. 현재 코멘토는 포텐스닷 커뮤니티 사이트에 게시되는 글들을 AWS S3에 업로드한 뒤, 이를 지식 베이스(Knowledge Base)에 연동해 실시간 챗봇 질의응답에 활용하고 있다. 업로드 주기는 하루 1~2회 수준이다. 해당 데이터 기반으로 AI가 빠르게 인사이트를 고객에 제공하는 구조다. 문서뿐 아니라 이미지·동영상·오디오 등 멀티모달 데이터를 분석하는 '데이터 오토메이션(Data Automation)' 기능도 테스트 중이다. 이 기능은 지식 베이스와 통합돼 별도 파싱 없이도 AI가 인사이트를 추출할 수 있는 구조다. 김 리드는 "향후 RAG 구현 범위가 텍스트 중심에서 멀티데이터 기반으로 확장될 수 있을 것"으로 기대했다. 코멘토는 프롬프트 품질·양에 따른 AI 활용법도 업그레이드한다. 김 리드는 "베드록의 프롬프트 라우터 기능을 활용해 짧은 대화는 저렴한 모델, 긴 대화는 고성능 모델로 자동 분기하는 시스템을 도입할 계획"이라며 "여러 AI 모델과 기능을 유기적으로 연동하는 오케스트레이션 구조를 내부 실험하고 있다"고 밝혔다. 김 리드는 포텐스닷에서 AI의 역할에 대해 언급했다. 그는 "AI는 어디까지나 사람을 돕는 '코파일럿'이어야 한다"고 강조했다. 그러면서 "AI를 단순한 자동화 도구가 아닌, 생산성 향상을 위한 협력 파트너로 활용할 수 있도록 하는 것이 핵심"이라고 주장했다. 김 리드는 "국내 기업은 이제 막 AI 도입을 고민하는 단계"라며 "앞으로 신기술을 빠르게 테스트하고 필요시 즉시 도입하는 실행력을 갖출 것"이라고 덧붙였다.

2025.03.26 08:15김미정

AWS, 생성형 AI 사업 전략 방향 수정될까…핵심 임원 '이탈'

아마존웹서비스(AWS)가 생성형 인공지능(AI) 사업 전략 방향 수정에 나설 것으로 보인다. 제품을 개발, 구축했던 인재가 새로운 스타트업을 설립하기 위해 최근 회사를 떠났기 때문이다. 20일 테크크런치에 따르면 라지 아가왈 AWS 생성형 AI 담당 임원은 이날 자신의 소셜미디어(SNS) 링크드인에 "AWS에서 3년 동안 놀라운 여정을 보낸 후 최근 새로운 회사를 시작하기 위해 회사를 그만뒀다"며 "AWS에서 초창기부터 생성형 AI 분야에서 수행한 일들을 자랑스럽게 생각한다"고 말했다. 라지 아가왈은 AWS에서 근무한 3년간 생성형 AI와 관련된 일들을 총괄해왔다. 그는 AWS의 생성형 AI 애플리케이션 구축을 돕는 '베드락' AI 플랫폼을 비롯해 워크플로우 자동화와 소프트웨어 개발 프로세스 최적화를 돕는 '아마존 Q'를 출시하는 데 주도적인 역할을 한 것으로 알려졌다. AWS에 합류하기 전에는 다양한 회사를 설립했다. 우선 지난 2009년에는 모바일 분석 및 메시징 플랫폼인 로컬리틱스(Localytics)를 창업했다. 로컬리틱스는 2020년에 업랜드 블루벤이 인수하기 전까지 6천900만 달러 이상의 벤처 자금을 조달했다. 라지 아가왈은 2017년에 회사를 떠났다. 이후 라지 아가왈은 2018년에 AI 기반 영업 분석 플랫폼인 디맨드 세이지(Demand Sage)를 설립했다. 디맨드 세이지는 300만 달러의 벤처 캐피탈을 유치한 후 2021년 4월에 스냅(Snap)에 매각됐다. 아가왈은 2022년 AWS에 합류하기 전까지 R&D 그룹의 제품 및 성장 책임자로 스냅에서 근무했다. 라지 아가왈은 "수만 명의 판매자에게 출시되고 수십만 번 사용돼 파이프라인 생성을 4.9% 증가시킨 세계 최초의 대규모 생성형 AI 제품을 (AWS에서) 구축했다"며 "앞으로는 초심으로 돌아가 새로운 회사를 설립할 계획"이라고 밝혔다.

2025.03.20 09:35장유미

"글로벌 AX 기업 되겠다"…상장 공약 실천 나선 현신균, '클라우드 강자' AWS와 일 냈다

"글로벌 '인공지능 전환(AX)' 전문기업으로 거듭날 LG CNS의 미래를 함께 지켜봐 주십시오." 지난달 유가증권시장(코스피)에 상장하며 이처럼 포부를 밝힌 현신균 LG CNS 대표가 글로벌 클라우드 시장 강자인 아마존웹서비스(Amazon Web Services, AWS)와 손잡고 클라우드 기반 생성형 AI 서비스 대중화에 나섰다. LG CNS는 최근 AWS와 함께 'AWS-LG CNS 생성형 AI 론치 센터(Gen AI Launch Center)'를 신규 설립했다고 4일 밝혔다. 이 센터는 기술, 비용, 시간 문제로 생성형 AI 서비스 구축에 어려움을 겪는 기업이 보다 쉽게 서비스를 도입할 수 있도록 지원하는 전담조직(TF)이다. 이 TF에는 생성형 AI, 클라우드 분야의 양사 전문가들이 참여해 AX 협력을 가속한다. AWS는 이번에 LG CNS와 협력 조직을 구성해 생성형 AI 공동사업을 추진한다. 최근 LG CNS는 은행, 보험, 증권, 카드 등 금융 분야에서 AX 프로젝트를 대거 수주했으며 제조 AX 영역에서도 활발히 사업을 진행 중이다. 지난해에는 'AWS 생성형 AI 컴피턴시(AWS Generative AI Competency)' 등을 포함한 다양한 생성형 AI 인증도 획득했다. 'AWS-LG CNS 생성형 AI 론치 센터'는 기업을 위한 생성형 AI 서비스 100개를 저비용으로 신속하게 구축하는 프로젝트를 진행한다. 기업은 ▲사용자 맞춤형 챗봇 ▲마케팅 문구·이미지 생성 서비스 ▲이슈 요약 및 대응체계 수립 등을 지원하는 이슈관리 통합플랫폼 등 생성형 AI 기술이 적용되는 다양한 서비스를 구현할 수 있다. 이를 위해 LG CNS는 '생성형 AI 퀵 딜리버리' 체계를 활용한다. '생성형 AI 퀵 딜리버리'는 기업이 최소한의 기간과 비용으로 생성형 AI 서비스를 기획부터 구현·검증까지 일괄 지원하는 '산업·업무 영역별 사용사례(Use Case)'와 'AI 솔루션'을 제공한다. LG CNS는 금융, 제조, 유통 등 산업 분야에서 생성형 AI 사업을 진행하며 다양한 사용사례를 축적해왔다. 이 과정에서 상품기획, 고객 서비스(CS), 인사·총무 등 여러 업무 영역에 특화된 생성형 AI 서비스를 적용할 수 있는 시나리오도 개발했다. 이를 통해 LG CNS는 기업이 생성형 AI 서비스 도입에 대한 구체적인 로드맵을 세울 수 있도록 지원한다. 예를 들어 생성형 AI 서비스 중 가장 대중적인 챗봇도 산업 분야나 사용자에 따라 다른 기술과 방식으로 만들 수 있다. 금융 상담원을 위한 AI 챗봇에는 금융 상품 검색, 요약 등 고객상담 업무에 최적화된 응대 매뉴얼을 적용할 수 있다. 가전 제조업 제품 개발자를 위한 AI 챗봇에는 가전 제품 설계 가이드, 과거 발생 이슈 등을 빠르고 정확하게 검색할 수 있는 검색증강생성(RAG) 기술을 적용할 수 있다. 기업은 LG CNS가 보유하고 있는 수많은 생성형 AI 사용사례를 참고해 사용자 관점에서 필요한 서비스를 구축할 수 있다. LG CNS는 생성형 AI 서비스 개발 속도를 향상시키기 위해 기업의 기존 애플리케이션에 AI를 쉽게 적용할 수 있는 자체 AI 솔루션을 활용한다. 이 솔루션은 기업의 데이터와 지식을 생성형 AI가 빠르게 학습할 수 있도록 돕는다. 데이터를 수집·가공해 분석하고, 최적화된 AI 모델을 선정·관리하는 기능을 제공해 서비스 개발 효율성을 극대화한다. 더불어 LG CNS는 AWS의 다양한 생성형 AI 서비스를 결합해 시너지를 강화한다. 주요 AI 기업 및 아마존의 파운데이션 모델을 손쉽게 활용할 수 있는 완전 관리형 서비스 '아마존 베드록(Amazon Bedrock)'을 활용해 기업에게 적합한 모델을 선정하고 효과적으로 생성형 AI 서비스를 만들 수 있다. 또 서비스 품질 향상을 위해 AWS가 자체 개발한 업계 최고 수준의 차세대 파운데이션 모델 '아마존 노바(Amazon Nova)', AWS의 고성능 컴퓨팅 특화 하드웨어 등도 활용할 수 있다. 양사는 과거에도 클라우드, 애플리케이션 현대화(AM) 사업 확대를 위해 긴밀히 협력해왔다. 그 결과 LG CNS는 국내 최고의 클라우드 MSP(Managed Service Provider)로 입지를 공고히 하고 있다. 현 사장은 "AWS와의 협력을 통해 국내 모든 기업의 생성형 AI 도입 문턱을 낮추겠다"며 "앞으로 양사는 생성형 AI 공동사업을 적극 발굴하고 향후 아시아태평양 및 일본(APJ) 지역으로 시장을 확대해 나갈 것"이라고 밝혔다.

2025.03.04 17:32장유미

"리뷰 요약·검색 관리"…GS샵에서 24시간 일하는 AI 직원 정체는

"GS샵 '상품 검색 필터'와 '리뷰 요약' 기능이 생성형 인공지능(AI)으로 개선됐습니다. 아마존 베드록이 검색 필터 관리 작업을 간소화하고 수천 개 리뷰를 요약해 주기도 합니다. 내부적으로 인건비를 절약할 수 있었고 소비자에게 편리한 서비스를 제공할 수 있었습니다." GS리테일 정향선 클라우드 부문 팀장은 최근 지디넷코리아와의 인터뷰에서 GS샵에 적용한 아마존웹서비스(AWS)의 아마존 베드록 특장점을 강조하며 이같이 말했다. GS샵은 GS리테일이 운영하는 온라인 쇼핑몰이다. 패션부터 뷰티, 가전 등 여러 상품을 판매한다. TV쇼핑과 모바일 앱을 통해 고객 맞춤형 서비스를 제공한다. 웹과 앱 모두 지원한다. 소비자는 GS샵에서 원하는 상품을 검색하거나 적합한 상품을 추천받을 수 있다. 상품 하단에 위치한 리뷰 내용을 보고 구매를 결정한다. "상품 검색 필터 관리…리뷰 수천개 AI가 요약" 정향선 팀장은 아마존 베드록이 GS샵에 적용된 사례를 소개했다. 패션 상품 검색 필터와 리뷰 요약 기능이 대표적인 예다. 패션 상품 검색 필터는 고객이 검색한 상품 결과를 최신순, 추천순, 금액 등에 맞춰 제공하는 기능이다. 그동안 개발자는 새 상품이 GS샵에 들어왔을 때 제품 무늬, 색상, 크기 등 정보를 데이터베이스(DB)에 일일이 저장하는 수작업을 거쳤다. 상품이 소비자 검색 결과에 맞게 필터링돼야 해서다. 정 팀장은 올해 6월부터 검색 필터에 아마존 베드록을 적용했다. 현재 직원이 새 상품 정보를 베드록에 정송하면, AI가 상품 색상부터 무늬, 크기 등 정보를 추출한다. 이후 이를 DB에 바로 저장한다. 사람은 해당 데이터가 맞게 생성됐는지 확인만 하면 된다. 정 팀장은 "사람이 재킷 이미지를 아마존 베드락에 전송하면, AI가 색상·패턴 등 제품 속성을 자동 추출해 DB에 저장한다"며 "해당 정보는 검색 결과에 바로 반영된다"고 설명했다. 이어 "사람으로만 데이터 필터링 작업을 하면 억 단위 인건비가 들지만, AI를 활용하면 상품 개당 1.2원 정도 비용이 든다"며 "현재 GS샵 패션 상품이 700만 개인데 생성형 AI로 1천만원 미만으로 동일한 업무를 할 수 있는 셈"이라고 덧붙였다. 다만 정 팀장은 AI를 활용한다고 해서 모든 과정이 순탄치 않았다고 했다. 그는 "아마존 베드록 도입 초기에는 AI가 제품 색상·형태를 제대로 인식하지 못해 세부 사항에서 오류를 일으켰다"며 "내부적으로 데이터를 꾸준히 검증해 정확성을 높였다"고 말했다. 10일 업계에 따르면 GS리테일은 소비자들이 게시한 제품 리뷰를 AI로 간추리는 AI 리뷰 요약을 도입했다. 아마존 베드록 내 앤트로픽의 거대언어모델(LLM) '하이쿠'로 작동한다. 정 팀장은 "상품 리뷰를 다 읽는 것은 쉽지 않다"며 "AI가 모든 리뷰를 종합해 품질이나 사용 후기에 대한 핵심 내용을 한눈에 볼 수 있도록 요약한다"고 설명했다. 또 그는 "리뷰 상단에 요약 정보를 제공함으로써 고객들이 제품을 구매할지 말지에 대한 의사결정을 더 빠르게 할 수 있다"고 덧붙였다. "AI 기술 완벽지 않아…비용 효율은 우수" 정 팀장은 모든 업무를 생성형 AI로 대체할 수 없다고 강조했다. 다만 비용 효율 측면에서 우수하다는 점엔 동의했다. 기업이 AI를 사용하면 기존보다 더 낮은 비용과 시간으로 사람과 비슷한 수준의 결과를 얻을 수 있기 때문이다. 또 정 팀장은 AI가 사람보다 업무를 더 잘하길 바라는 것은 현실적이지 않다고 지적했다. 정 팀장은 "기업은 사람과 비슷한 수준의 결과물을 AI로 얻기만 해도 이득 본 것"이라며 "AI 구축이 사람 고용보다 더 낮은 비용·시간을 요구하기 때문"이라고 설명했다. 이어 "현재 AI가 사람보다 조금 부족해도 업무 진행에 문제없다"며 "중요한 것은 일정 수준 이상의 결과물을 효율적으로 생산하는 것"이라고 주장했다. 그러면서 "앞으로 AI 기술을 적극 도입해 비용 절감과 업무 효율성을 높일 계획"이라며 "효율적인 자원 활용이 기업 경쟁력의 핵심"이라고 강조했다.

2024.11.10 14:00김미정

"AI 개발 더 빠르고 저렴하게"…AWS, 아태지역 리전에 아마존 베드록 출시

앞으로 국내 아마존웹서비스(AWS) 사용자는 아마존 베드록을 기존보다 더 빠른 속도와 낮은 비용으로 이용할 수 있게 됐다. AWS는 AWS 아시아·태평양 리전에 아마존 베드록을 출시했다고 2일 발표했다. 아마존 베드록은 사용자가 특정 용도에 적합한 고성능 파운데이션 모델(FM)과 거대언어모델(LLM)을 쉽게 찾고 접근할 수 있게 돕는다. 이를 통해 생성형 인공지능(AI) 애플리케이션을 구축하고 확장할 수 있는 기능을 제공한다. AWS는 전 세계 모든 고객이 이러한 새로운 기술을 신속하게 활용할 수 있도록 2023년부터 일부 지역을 시작으로 서비스를 제공해 왔다. 이번 AWS 이태지역 리전의 아마존 베드록 정식 출시는 국내 고객에게 생성형 AI를 활용한 혁신을 지원하고, 생성형 AI 앱을 실행·저장할 수 있는 위치에 대한 폭 넓은 선택지를 제공한다. 최종 사용자에 더 가깝게 생성형 AI 워크로드를 배포함으로써 저지연 환경이 중요한 고객에게도 유용하다. 낮은 지연 시간은 실시간 콘텐츠 생성, 인터랙티브 사용자 경험, 실시간 대화형 인사이트와 같은 AI 작업에 필수적인 빠른 처리·응답 시간을 제공하는데 중요하다. 국내 기업들은 생산성 향상, 혁신적인 사용자 경험 제공, 업무 재구상 등 다양한 목적으로 생성형 AI를 사용하고 있다. 아마존 베드록은 완전 관리형 서비스로, 고객에게 엔터프라이즈급 보안과 개인정보 보호로 구축된 모델과 모델 커스터마이즈 기능을 제공한다. 또 AWS는 고객이 책임감 있고 안전한 생성형 AI 혁신을 발전시키는 데 필요한 툴과 리소스, 교육을 제공한다. 이날부터 국내 고객들은 아마존 타이탄(Amazon Titan)의 텍스트 임베딩 v2(Text Embeddings v2), 앤트로픽(Anthropic)의 클로드3.5 소네트(Claude 3.5 Sonnet)와 클로드3 하이쿠(Claude3 Haiku) 등 최신 모델을 이용할 수 있다. 함기호 AWS 코리아 대표는 "앞으로 한국 내 기업들이 생성형 AI를 구축하는데 필요한 성능과 비용 효율적인 인프라를 제공할 것"이라며 "아마존 베드록을 통해 모든 산업 분야 고객이 생성형 AI 혁신을 가속화할 수 있도록 지원할 수 있어 기쁘다"고 강조했다.

2024.10.02 16:01김미정

식신, 아마존 서비스 활용한 AI 대시보드 구축

푸드테크 기업 식신은 아마존의 '아마존 베드록' 서비스를 활용한인공지능(AI) 대시보드 '외식메타 인덱스'를 구축했다고 8일 밝혔다. 아마존 베드록은 선도적인 AI 스타트업과 아마존의 고성능 파운데이션 모델을 활용한 생성형 AI 애플리케이션 구축을 지원하는 완전 관리형 서비스다. 외식메타 인덱스는 식신이 보유한 100만개 이상의 맛집 데이터 및 월간 350만명의 이용자 데이터를 기반으로 금융·공공·검색·SNS·방문자 정보 등 다양한 데이터를 통합·분석한다. 이를 통해 ▲지역별 인기 메뉴 ▲스토리가 있는 메뉴 트렌드 ▲상황이나 장소에 맞는 테마 데이터 ▲메뉴별 사용된 식자재 등의 데이터를 실시간으로 확인할 수 있다. 구축된 데이터는 수요처의 니즈에 따라 API, 콘텐츠형 위젯, 분석형 대시보드 등 다양한 형태로 제공한다. 식신은 아마존웹서비스(AWS)의 스타트업 고객 지원 프로그램에 선정돼 전략적 서비스 도입을 위한 리소스를 지원받았다. 이번 프로젝트는 AWS, 메가존클라우드, 스노우플레이크와의 협력을 통해 진행됐다 메가존클라우드는 AWS의 아마존 베드록과 스노우플레이크의 데이터 플랫폼 기능을 연동해 거대언어모델(LLM) 기반 마케팅 솔루션의 데이터 파이프라인을 구축했다. AWS는 아마존 베드록을 통해 LLM 서비스의 확장성을 제공함으로써 프로젝트에 필요한 AI 기능을 구현할 수 있도록 지원했으며, 스노우플레이크는 데이터 관리의 효율성을 높여 방대한 양의 데이터를 저장하고 분석할 기반을 마련했다. 식신은 이번 프로젝트 결과물을 통해 다양한 분야로 비즈니스를 확대할 계획이다. 에프엔비(F&B)와 여행관광 산업에서는 식신의 데이터를 통해 가맹점 컨설팅, 신메뉴 분석, 외식트렌드 등에 대한 인사이트를 제공할 예정이다. 사용자 재방문 및 전환 리마케팅용 콘텐츠를 필요로 하는 기업에도 자료를 유통한다. 식신 안병익 대표는 "글로벌 기업과 협력해 수십억건의 데이터를 효율적으로 분석하는 AI 프로젝트를 진행했다"며 "앞으로 LLM 기반 AI 프로젝트를 더욱 고도화할 예정"이라고 말했다.

2024.08.08 10:38정석규

디노도, 아마존 베드록 LLM 통합

디노도테크놀로지(이하 디노도)는 데이터 통합, 관리 솔루션인 디노도 플랫폼에 아마존웹서비스(AWS)의 '아마존 베드록' 대규모 언어 모델(LLM)과 원활한 통합을 제공한다고 6일 밝혔다. AI와 머신러닝은 데이터 관리의 주요 업무를 자동화 및 효율화하고 데이터 민주화를 실현할 수 있는 디노도 플랫폼의 핵심 기술이다. 디노도와 베드록의 조합은 가상 비서와 에이전트를 만드는 데 도움이 된다. 이들은 수많은 데이터 소스를 활용해 사용자 요청을 이해하고 작업을 자동으로 분류하며, 대화를 통해 정보를 수집해 요청 사항을 해결한다. 생성형 AI가 가진 잠재력에도 불구하고 오늘날 많은 기업은 비즈니스 목표에 맞는 생성형 AI 애플리케이션 구축에 어려움을 겪고 있다. 디노도 플랫폼은 검색 증강 생성(RAG) 프레임워크 안에서 아마존 오픈서치를 벡터 데이터베이스로 활용해 가용한 모든 데이터 소스로부터 신뢰할 수 있고 관리된 데이터를 베드록 LLM에 공급한다. 디노도 플랫폼은 데이터 소스 위에 단일 시맨틱 레이어를 구현해 시맨틱스를 표준화하고 강력한 데이터 거버넌스와 보안을 제공한다. 이러한 데이터 아키텍처에서는 RAG 쿼리를 통해 기업 내부의 모든 데이터에 액세스할 수 있지만, 해당 데이터는 질문을 한 사용자에게만 노출된다. 디노도 플랫폼을 사용할 경우 생성형 AI 애플리케이션 개발자들은 AI 기반 코파일럿을 활용해 데이터 뷰 생성과 시스템 운영을 손쉽게 할 수 있다. 보이다르 크랍체프 AWS 이머징 테크놀로지 파트너십 총괄은 “AWS 고객들은 AI와 머신러닝 애플리케이션의 성공 여부가 신뢰할 수 있는 데이터 확보에 달려있다고 생각한다”며 “디노도 플랫폼과의 통합을 통해 고객을 대신해 데이터 확보 과제를 해결했으므로 앞으로 AWS 고객들은 안전하고 믿을 수 있는 AI 애플리케이션 구축에 들어가는 시간을 줄일 수 있을 것”이라고 밝혔다. 알베르토 팬 디노도 수석부사장 겸 최고기술책임자(CTO)는 “디노도와 AWS의 협업을 통해 양사 고객들은 디노도의 논리적 데이터 관리 역량과 AWS 인프라와 서비스가 제공하는 확장성, 안정성, 보안성을 활용해 생성형 AI 기반의 데이터 관리와 배포를 개선할 수 있을 것”이라며 “이번 통합에 따라 베드록의 LLM은 기업 내부의 데이터 소스에 안전하게 액세스할 수 있게 됐고, 앞으로 기업들은 정보 요청에 정확하게 답변하는 강력한 생성형 AI 애플리케이션을 활용할 수 있게 될 것”이라고 설명했다.

2024.08.06 12:18김우용

"한국은 어떤 마법을 만들고 싶습니까?"

“생성형 AI 덕분에 한국에서 더 이상 빌더가 되기 이보다 더 좋은 시기는 없었다. 여러분이 오늘 발명하는 모든게 전세계에 영향 미칠 것이다. 한국은 어떤 마법을 만들고자 하느냐?” 프란체스카 바스케즈 AWS 프로페셔널 서비스 및 생성형 AI 혁신센터 부사장은 아마존웹서비스(AWS)가 16일 서울 삼성동 코엑스에서 개최한 'AWS 서밋 서울 2024' 기조연설에서 이같이 밝혔다. 17일까지 이틀 동안 열리는 AWS서밋서울 2024는 2만9천여 명이 사전 등록했다. 올해 행사는 다양한 산업 분야와 기술 주제에 대한 100여 개 이상의 강연을 준비했다. 70여 고객이 AWS를 통한 실질적인 성공 사례를 공유할 예정이다. 첫째 날 AWS 프로페셔널 서비스 및 생성형 AI 혁신센터를 총괄하는 프란체스카 바스케즈 부사장이 생성형 AI를 통한 비즈니스 혁신 방법에 대해 전달하고, 우아한형제들 송재하 CTO, SKT의 정석근 AI 사업 총괄의 기조 연설을 진행했다. 앤스로픽의 글로벌 제휴총괄 니라브 킹스랜드가 AWS와 전략적 파트너십 및 한국 고객을 위한 지속적인 협력 방안에 대해서 공유했다. 둘째 날 기조연설은 아마존 CTO 워너 보겔스, AWS AI 서비스 부사장 맷 우드의 온라인 대담이 준비됐으며, 인프랩, 카카오페이증권 등 고객사가 기술 혁신 사례에 대해 인사이트를 나눌 예정이다. 함기호 AWS코리아 대표는 국내에 형성된 강력한 생성형 AI 흐름을 강조하면서 국내 기업의 AWS 기반 AI 구축 사례를 간략히 소개했다. 아마존 세이지메이커 점프스타트를 기반으로 대규모언어모델(LLM) '바르코'를 출시한 엔씨소프트, AWS 기반의 AI 이미지-투-텍스트 캡셔닝 솔루션을 출시한 LG AI연구원 등이 먼저 소개됐다. 아마존 세이지메이커 점프스타트는 고객이 엔씨소프트의 바르코 LLM과 같은 사전 구축된 솔루션을 활용해 생성형 AI를 쉽게 시작하고, 모델을 처음부터 학습시키지 않고도 자체 데이터 세트로 맞춤화하며 특정 사용 사례에 맞는 새로운 애플리케이션을 출시할 수 있도록 지원한다. LG AI연구원의 솔루션은 광고, 패션, 리테일 등 다양한 산업 분야의 전 세계 고객을 위해 보다 정확하고 적절한 콘텐츠를 생성하는 3천억개의 파라미터를 보유한 LG AI연구원의 멀티모달 FM인 엑사원(EXAONE)을 활용한다. 엑사원의 학습 과정에서 LG AI연구원은 안전하고 조정 가능한 클라우드 컴퓨팅 용량을 제공해 파라미터 확장 필요에 따라 IT 자원을 확장할 수 있는 서비스가 필요했다. 아마존 세이지메이커와 아마존 EC2를 도입 한 LG AI연구원은 엑사원 내에 체크포인트를 구현하고 데이터 편향 문제를 빠르게 해결할 수 있었다. 업스테이지, KT, SK텔레콤 등의 생성형 AI 구축 사례도 연이어 소개됐다. 함기호 대표는 “AWS는 국내 기업의 생성형 AI 도입과 디지털 전환 가속을 지원하고 있으며, 이를 위해 앤트로픽과 전략적 파트너십을 체결해 생성형 AI 혁신을 진행하고 있다”며 “대규모 투자로 AI 기술 고도화에 박차를 가하고 있다”고 강조했다. 이어 무대에 오른 니라브 킹스랜드 앤트로픽 글로벨 제휴 총괄은 “AWS와 함께 가장 역량있고 안전한 모델을 만들고 있다”며 “모든 모델은 높은 인텔리전스 레벨을 갖춰 이미지도 처리할 수 있으며, 아마존 베드락에서 사용가능하다”고 말했다. 프란체스카 바스케즈 부사장은 기조연설에서 AWS가 주도하는 생성형 인공지능(AI) 기반 혁신의 미래를 소개했다. 바스케즈 부사장은 우선 생성형 AI가 인간 수준의 사고와 추론을 할 수 있게 됨에 따라 다양한 산업 분야에서 일어난 혁신을 설명하고, “AWS는 줄곧 고객을 대신하여 그들이 최첨단 기술을 더 쉽게 사용, 확장, 배포할 수 있도록 혁신해 왔다”고 말하며 생성형 AI에 대한 접근성을 높이고 있는 AWS의 역할을 강조했다. 다음으로 데이터, 사용 사례, 고객에게 맞춤화된 생성형 AI를 쉽게 구축하고 확장할 수 있도록 지원하는 AWS의 생성형 AI 스택을 소개했다. 생성형 AI 스택은 파운데이션 모델(FM) 훈련 및 추론을 위한 인프라, 생성형 AI 애플리케이션을 구축하고 확장하는 데 필요한 FM 및 거대 언어 모델(LLM) 등을 제공하는 플랫폼, FM 및 LLM을 활용하여 구축된 애플리케이션의 세 계층으로 구성된다. 바스케즈 부사장은 “AWS 트레이니움, AWS 인퍼런시아, 아마존 세이지메이커 등 인프라에 대한 투자가 상위 계층에서 제공하는 서비스의 역량 향상으로 이어진다”며 “비용 효율적인 고성능의 인프라를 구축하기 위한 노력의 일환으로 AWS는 엔비디아와 전략적 협력을 확대해 AWS 클라우드에서 엔비디아 H100 GPU를 제공하고 프로젝트 세이바(Ceiba)를 통해 AI 슈퍼컴퓨터를 구축하고 있다”고 강조했다. 그는 “단 하나의 모델이 모든 것을 지배할 수 없다”며 “아마존, 앤트로픽, 코히어, 메타, 미스트랄 AI, 스태빌리티AI 등 아마존 베드록에서 다양한 FM을 고객에게 제공하여 여러 모델을 사용해보고 선택할 수 있다”고 밝혔다. 이어 “어떤 모델을 선택하든 안전하고 신뢰할 수 있으며 책임감 있는 방식으로 배포할 수 있는 책임감 있는 AI를 구축하기 위한 가드레일 포 아마존 베드록도 선보였다”고 덧붙였다 그는 베드록에서 제공하는 미세 조정, 검색증강생성(RAG) 등 포괄적인 기능 세트와 보안 기능을 통해 기업의 자체 데이터를 이용하여 비즈니스 관련 애플리케이션을 안전하게 구축할 수 있다고 밝혔다. 송재하 우아한형제들 최고기술책임자(CTO)는 “배달의민족은 마이크로서비스아키텍처, 핀옵스, 데이터분석, 머신러닝, 생성형 AI 등을 활용해 문앞으로 배달되는 일상의 행복을 실현하고 고객 만족과 고객 창출을 실현해왔다”며 “2016년 AWS로 클라우드 전면 이전 프로젝트를 성공적으로 진행한 덕에 성장과 토태를 결정하는 중요한 순간을 근본적으로 돌파할 수 있었다”고 말했다. 송재하 CTO는 “배달의민족은 AWS를 통해 유연하고 확장성있는 구조를 갖춰 더 효율적이고 유연한 플랫폼으로 진화했다”며 “이후 2019년 루비란 이름의 거대한 데이터베이스에 묶여있던 모든 데이터를 이동하는 먼데이프로젝트를 진행해 API와 어드민 시스템 거의 대부분을 마이크로서비스 아키텍처로 전환했으며 이로써 시스템의 유연성과 안정성, 개발 생산성 등을 크게 향상시켰다”고 덧붙였다. 우아한형제들은 이후 2020년 온프레미스의 결제와 정산 영역도 클라우드 환경에 구현하는데 성공했다. 송 CTO는 “클라우드를 촉매로 진행된 배달의민족 구조적 혁신은 팬데믹을 맞으며 폭발적 성장을 뒷받침했다”며 “2022년 핀옵스를 통해 운영 비용을 최적화하고 주문 한건 당 AWS 비용을 전년대비 15% 줄여 엔데믹에서 재정적으로 생존하고 번창하는 토대를 마련할 수 있었다”고 강조했다. 그는 “현재 다양한 AI를 활용해 배달의민족 앱 UX를 개선하고 있으며, 리뷰필터링, 메뉴 추천, 배차 효율화 등을 이루고 있다”며 “로봇기술이 생성형 AI와 함께 이시대에 빠르게 발전하고 있어 자율주행 배달로봇 기술을 연말께 베타테스트할 수 있을 것”이라고 밝혔다. 이어 정석근 SK텔레콤 최고AI글로벌책임자가 기조연설 무대에 올라 SK텔레콤의 글로벌 AI비전에 대해 소개했다. 그는 “SK텔레콤은 글로벌 통신사와 글로벌 텔코 AI 얼라이언스(GTTA)를 설립해 AI 기술 혁신 및 산업 선도를 위한 글로벌 AI 생태계를 연결해 나갈 것이며, GTTA와 글로벌 빅테크를 이어주는 가교의 역할을 하고자 한다”며 “도이치텔레콤, 이앤(e&), 싱텔, 소프트뱅크 등과 공동 개발한 거대 언어 모델 '텔코 LLM'와 이를 향상시킬 RAG을 개발하기 위해 베이스 모델을 제공하는 앤스로픽, 파운데이션 모델을 제공 및 관리해주는 서비스를 제공하는 AWS와 협력하고 있다”고 말했다. 그는 텔코 LLM의 활용 사례를 소개하며, 효율적인 AI 개발과 운용에 있어 아마존 베드록의 역할을 특히 강조했다. SK텔레콤은 아마존 베드록을 기반 모델로 한 텔코 LLM을 통해 협력을 바탕으로 한 파트너십을 구축할 예정이다. 그는 “SK텔레콤은 또한 AI 기술로 고객 가치를 더하는 글로벌 AI 개인 비서(PAA) 서비스를 준비 중”이라며 “PAA는 고객 일상의 크고 작은 일들을 더욱 편리하게 바꿔주는 것을 목표로 하며, 이 서비스를 위해 SK 텔레콤은 미국과 국내에 PAA 전담 자회사를 설립하고, 글로벌 시장과 고객 니즈를 반영한 서비스 개발을 진행 중”이라고 강조했다. 이어 고객의 비즈니스에 맞춤화된 업무용 생성형 AI 비서인 아마존 Q를 소개하고, 특히 개발자 생산성을 크게 향상시킬 수 있는 방법을 소개했다. 아마존 Q 디벨롭퍼를 활용해 아마존 베드락 호출 코드를 손쉽게 생성하고, 기획, 디자인, 코드구현, 테스트, 배포, 운영 등에 이르는 개발 주기 전단계의 생산성을 향상시키는 방안을 제시했다. 애플리케이션의 작동 방식을 파악하고 싶은 경우, 기존 애플리케이션에서 업데이트해야 할 부분을 알고 싶은 경우, 콘솔에서 예기치 못한 오류가 발생했을 경우, 기존 데이터를 바탕으로 RAG를 구현하고 싶은 경우 등 개발자들이 마주하는 다양한 상황에서 아마존 Q와 아마존 베드록을 어떻게 이용할 수 있는지 구체적으로 보여주었다. 이를 통해 AWS를 활용하여 복잡한 생성형 AI 애플리케이션을 빠르고 효율적으로, 안전하게 구축할 수 있음을 강조했다. 끝으로 바스케즈 부사장은 2025년까지 전 세계 2,900만 명에게 무료 교육을 제공하겠다는 AWS의 약속을 재확인하고, AWS 스킬 빌더와 AWS 에듀케이트 등 AI/ML과 생성형 AI 관련 교육 프로그램과 AWS의 개발자 커뮤니티에 관해서도 설명했다.

2024.05.16 13:45김우용

AWS, 아마존 베드록 신기능 발표

아마존웹서비스(AWS)는 생성형 인공지능(AI) 애플리케이션과 경험을 쉽게 개발할 수 있게 지원하는 아마존 베드록의 신규 혁신 기능을 23일 발표했다. 아마존 베드록 신규 기능을 통해 고객은 아마존 베드록에서 자체 완전 관리형 모델을 실행하고, 사용 사례에 가장 적합한 모델을 쉽게 찾고, 생성형 AI 애플리케이션에 더 쉽게 보호 기능을 적용하고, 더 많은 모델 선택권을 제공받을 수 있게 됐다. 새로운 아마존 베드록 커스텀 모델 가져오기 기능은 조직이 아마존 베드록에서 완전히 관리되는 애플리케이션 프로그래밍 인터페이스(API)로 자체 커스텀 모델을 가져와 액세스할 수 있게 함으로써 생성형 AI 애플리케이션 구축 시 전례 없는 선택의 폭을 제공한다. 고객은 클릭 몇 번으로 아마존 세이지메이커나 다른 도구에서 커스터마이징한 모델을 손쉽게 아마존 베드록에 추가할 수 있다. 이 새로운 기능은 조직이 동일한 API를 통해 아마존 베드록 모델과 자체 커스텀 모델의 조합을 쉽게 선택할 수 있도록 지원한다. 현재 프리뷰 버전으로 제공되는 아마존 베드록의 커스텀 모델 가져오기 기능은 가장 인기 있는 오픈 모델 아키텍처인 플란-T5, 라마, 미스트랄 세 가지를 지원하며 향후 더 많은 아키텍처를 지원할 계획이다. 모델 평가 기능은 조직이 아마존 베드록에서 모델을 분석하고 비교할 수 있는 가장 빠른 방법으로, 모델 평가에 소요되는 시간을 몇 주에서 몇 시간으로 단축하여 새로운 애플리케이션과 경험을 더 빠르게 시장에 출시할 수 있게 지원한다. 고객은 정확성이나 견고성 등 사전 정의된 평가 기준을 선택하고 자체 데이터 세트 또는 프롬프트 라이브러리를 업로드하거나 기본 제공되는 공개 리소스에서 선택하여 빠르게 시작할 수 있다. 주관적인 기준이나 세심한 판단이 필요한 콘텐츠의 경우, 고객은 간편하게 워크플로우에 평가자를 추가해 관련성, 스타일, 브랜드 보이스 등 사용 사례별 메트릭에 따라 모델 응답을 평가할 수 있도록 지원한다. 설정 프로세스가 완료되면 아마존 베드록이 평가를 실행하고 보고서를 생성하며, 고객은 주요 기준에 따라 모델이 어떻게 수행되었는지 쉽게 이해하고 사용 사례에 가장 적합한 모델을 신속하게 선택할 수 있다. 정식 출시된 가드레일 포 아마존 베드록은 FM의 기본 기능에 안전 보호 기능을 추가해 고객이 유해 콘텐츠를 최대 85%까지 차단할 수 있도록 지원한다. 현재 사용 가능한 다른 모델보다 뛰어난 성능을 제공한다. 가드레일은 아마존 베드록의 모든 대규모 언어 모델(LLM)과 미세 조정된 모델에서도 작동한다. 가드레일을 생성하려면 고객은 애플리케이션의 컨텍스트 내에서 거부된 주제에 대한 자연어 설명을 제공하기만 하면 된다. 혐오 발언, 모욕, 성적인 언어, 자극적인 표현, 폭력 등의 영역을 필터링하는 임계값과 개인 및 민감한 정보, 욕설 또는 특정 차단 단어를 제거하는 필터를 구성할 수 있다. 가드레일 포 아마존 베드록은 일관된 사용자 경험을 제공하고 생성형 AI 애플리케이션 전반에 걸쳐 안전 및 개인정보 보호 제어를 표준화함으로써, 고객이 빠르고 안전하게 혁신할 수 있도록 지원한다. 현재 아마존 베드록은 아마존 타이탄 제품군을 지속적으로 확장해 고객에게 더 많은 선택권과 유연성을 제공하고 있다. RAG 사용 사례 작업에 최적화된 아마존 타이탄 텍스트 임베딩 V2는 정보 검색, 질의응답 챗봇, 개인화된 추천과 같은 다양한 작업에 적합하다. 아마존 타이탄 텍스트 임베딩 V2 모델은 스토리지 및 컴퓨팅 비용을 절감하는 동시에 정확도를 높여준다. 이 모델은 고객에게 유연한 임베딩을 제공해 전체 스토리지를 최대 4배까지 줄여 운영 비용을 크게 절감하는 동시에, RAG 사용 사례의 정확도를 97%로 유지해 다른 주요 모델보다 뛰어난 성능을 발휘한다. 정식 버전으로 사용 가능한 아마존 타이탄 이미지 제너레이터는 광고, 전자상거래, 미디어 및 엔터테인먼트와 같은 업계의 고객이 자연어 프롬프트를 사용해 저렴한 비용으로 스튜디오 품질의 이미지를 제작하거나 기존 이미지를 개선 및 편집할 수 있도록 지원한다. 아마존 타이탄은 생성하는 모든 이미지에 보이지 않는 워터마크를 적용하여 AI가 생성한 이미지를 식별할 수 있도록 지원함으로써, 안전하고 투명하며 보안이 유지된 AI 기술 개발을 촉진하고 허위 정보의 확산을 줄이는 데 도움을 준다. 현재 아마존 베드록에서 메타 라마 3 FM을 사용할 수 있으며, 곧 코히어의 커맨드 R 및 커맨드 R+ 모델도 출시될 예정이다. 라마 3는 개발자, 연구자, 기업이 생성형 AI 아이디어를 구축 및 실험하고 책임감 있게 확장할 수 있도록 설계됐다. 라마 3 모델은 광범위한 사용 사례를 지원하는 사전 학습 및 지침 파인튜닝된 LLM 컬렉션이다. 텍스트 요약 및 분류, 감정 분석, 언어 번역, 코드 생성에 적합하다. 코히어의 커맨드 R 및 커맨드 R+ 모델은 고객이 글로벌 비즈니스 운영 지원을 위해 10개 언어의 고급 RAG 기능을 갖춘 엔터프라이즈급 생성형 AI 애플리케이션을 구축하는 데 사용할 수 있는 최첨단 FM이다. 스와미 시바수브라마니안AWS AI 및 데이터 부문 부사장은 "아마존 베드록은 그 어느 곳보다 빠르고 쉽게 실험에서 운영환경으로 전환할 수 있도록 지원하기 때문에 모든 규모와 산업군에 걸친 수만 개의 조직이 생성형 AI 전략의 기반으로 선택하면서 폭발적인 성장을 경험하고 있다"며 "고객은 엔터프라이즈급 보안과 개인정보 보호, 폭넓은 FM 선택권, 그리고 생성형 AI 애플리케이션 구축을 위한 가장 쉬운 방법을 제공하는 아마존 베드록에 많은 관심을 보이고 있다”고 밝혔다. 그는 “이번 발표는 고객에게 가장 포괄적인 기능들과 업계 선도적인 모델 선택권을 제공하고자 하는 노력의 일환이며, 이를 통해 고객을 위한 빠른 혁신을 지속하고 대규모 생성형 AI 혁신을 더욱 대중화할 것"이라고 강조했다.

2024.04.24 13:51김우용

AWS·메가존 "기업 고객, 더 안전한 환경서 생성형 AI 개발 누릴 것"

"기업들이 본격적으로 생성형 인공지능(AI)의 보안과 정확도에 더 신경 쓰기 시작했다. 기업 고객은 아마존베드록과 젠AI360 등으로 보안성·정확도 높은 환경에서 생성형 AI 모델과 제품 개발을 할 수 있을 것이다." 아마존웹서비스(AWS)코리아 최효근 시니어 솔루션아키텍트는 12일 인터컨티넨탈 호텔 서울에서 메가존클라우드와 공동 개최한 '비즈니스 리더를 위한 성공적인 생성형 AI 도입 로드맵'에서 베드록의 최신 기능을 소개했다. 메가존클라우드 김한수 AI&데이터분석센터 그룹장도 젠AI360 서비스를 선보였다. 두 기업 모두 생성형 AI 모델 개발시 보안과 정확도를 올릴 수 있는 기능을 설명했다. 최효근 아키텍트는 실제 기업이 생성형 AI를 도입해 내놓은 제품이 많지 않다고 했다. 생성형 AI의 가장 큰 걸림돌인 환각 현상과 보안 문제를 주요 이유로 꼽았다. 이에 AWS는 베드록에 환각 현상과 데이터 유출을 방지하기 위한 새로운 기능을 추가했다고 설명했다. 최 아키텍트는 베드록에 새로 업그레이드된 파인튜닝 시스템을 설명했다. 일반적으로 사용자가 특정 도메인이나 특정 지식을 추가하고 싶을 때 파인튜닝 기법을 활용한다. 그러나 파인튜닝을 한다고 해서 답변 정확도가 무조건 오르는 것은 아니다. 그는 "베드록은 정확도 향상을 위해 소수의 레이블 된 데이터를 이용한다"며 "질문과 가장 연관성 높은 데이터만 활용함으로써 답변 정확도를 높일 수 있다"고 했다. 최효근 아키텍트는 "도메인에 대한 모델 정확도 유지를 위해 많은 수의 레이블 없는 데이터까지 추가로 이용한다"고 덧붙였다. 현재 사용자는 파인튜닝을 진행할 때 코히어, 메타, 아마존의 거대언어모델(LLM)을 통해 진행했다. 올해 앤트로픽의 LLM도 추가될 방침이다. 최 아키텍트는 베드록이 검색 증강 생성(RAG)을 강화했다고 했다. 그는 "베드록은 완전 관리형 RAG를 지원하고 있다"며 "다른 플랫폼처럼 RAG 실행을 위한 추가적인 프로그래밍이 불필요하다"고 했다. 베드록 RAG의 가장 큰 특징은 RAG 내부 시스템이 단계별로 진행된다는 점이다. 예를 들어, 사용자가 AI 모델에 복잡한 요청을 했을 때, 베드록의 RAG 에이전트가 이를 여러개의 작은 작업으로 나눠 적절한 API를 호출하거나 데이터베이스(DB)를 스스로 찾아 답하는 식이다. 이를 통해 답변 정확도를 높일 수 있다. 그는 "이는 기존 RAG보다 품질 높은 답변을 준다"고 강조했다. 최효근 아키텍트는 AWS가 '책임감 있는 AI'구현도 힘쓴다고 강조했다. 그는 "모델이 응답할 때 내부적으로 필터링해야 한다"며 "베드록은 이를 위한 가드레일을 제공한다"고 설명했다. 사용자가 유해 콘텐츠 차단 등 AI 정책을 모델 내 세팅할 경우, 베드록은 이를 위한 필터링을 만들거나 개인 식별 번호 등을 설정한다. 외부로 유출되면 안 되는 정보까지 필터링한다. 이날 AWS 루크 앤더슨 아시아 태평양 및 일본 AI·ML 매니징 디렉터도 자리했다. 그는 LG AI연구원을 비롯한 KT, 업스테이지, 이스트소프트 등과 협력해 다양한 생성형 AI 모델과 서비스를 구축했다고 알렸다. 앤더슨 디렉터는 “모든 고객이 쉽게 빠르게 생성형 AI를 사용할 수 있도록 서비스를 연구하고 있다”며 “IT 전문가가 아니어도 몇 분 안에 AI를 구축할 수 있게 만들 것”이라고 강조했다. 메가존클라우드 김한수 그룹장도 지난해 출시된 젠AI360 오퍼링 서비스를 소개했다. 젠AI360은 생성형 AI를 도입하고자 하는 기업들을 위해 설계부터 구축, 운영까지 지원하는 기업 맞춤형 생성형 AI 엔드 투 엔드 서비스다. 김한수 그룹장은 "최근 기업들이 RAG와 파인튜닝에 집중하는 추세"라며 "이러한 시대에 발맞춰 메가존도 AWS와 협력해 안전한 개발 환경을 위한 기능을 젠AI360에 꾸준히 넣을 것"이라고 강조했다.

2024.03.12 17:32김미정

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

폴더블 아이폰, 펀치홀 카메라 탑재 유력

배민·요기요, 먹통 뒤 정상화..."금요일 밤 비 내린 탓"

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

SKT 유심교체 누적 193만...교체 예약 대기 686만

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현