• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'아마존베드록'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[현장] AWS, 아마존베드록 서울 리전에 설치…"AI 개발 더 빠르고 저렴하게"

"아마존웹서비스(AWS)는 '아마존베드록'을 통해 가장 광범위하고 강력한 생성형 인공지능(AI) 서비스를 제공합니다. 한국 사용자들이 생성형 AI 개발을 보다 더 쉽고 빠르게 할 수 있을 것입니다. 이를 위해 AWS는 아마존베드록을 서울 리전에 설치할 예정입니다." AWS 벤 카바나스 아시아태평양 및 일본 지역 기술 디렉터는 24일 오전 서울 롯데월드 호텔에서 열린 'AWS AI 데이 : 이노베이션' 행사에서 이 같은 사업 계획을 발표했다. 아마존베드록을 한국 AWS 데이터센터에 설치함으로써 국내 사용자들에게 기존보다 더 빠르고 저렴한 가격으로 해당 플랫폼을 공급할 계획이다. 아마존베드록은 생성형 AI 서비스 플랫폼이다. 사용자는 직접 AI 모델이나 LLM을 만들지 않아도 베드록 내 사전 훈련된 AI 모델을 활용해 맞춤형 AI 애플리케이션을 구축할 수 있다. 그동안 국내 사용자는 아마존베드록을 일본이나 싱가포르 등 해외 데이터센터를 통해서만 이용할 수 있었다. 베드록으로 생성형 AI 모델을 사용하거나 애플리케이션 구축, 데이터를 처리할 때 응답 속도가 다소 느렸다. 해외 리전을 사용하면서 발생할 수 있는 네트워크 비용이나 데이터 전송 비용도 상당했다. AWS는 이번 플랫폼 서울 리전 론칭을 통해 국내 사용자가 다양한 이점을 누릴 것으로 봤다. 우선 응답 속도가 기존보다 더 빨라질 전망이다. 국내 AWS 데이터센터를 통해 모든 작업을 처리할 수 있게 돼서다. 이에 따라 발생할 수 있는 처리 비용도 기존보다 획기적으로 줄일 수 있다. 카바나스 디렉터는 "베드록은 가장 광범위한 생성형 AI 기능과 가장 많은 모델 선택권을 제공한다"며 "이번 론칭으로 국내 고객이 기존보다 더 광범위한 용도로 베드록을 활용할 것"이라고 강조했다. 그는 아마존베드록이 생성형 AI 개발과 사업에 필요한 이유도 설명했다. 현재 AI 앱을 개발하거나 연구를 진행할 때 거대언어모델(LLM) 하나만으로 진행 불가한 추세이기 때문이다. 사업이나 개발 용도에 따라 필요한 LLM은 제각각이며 한 프로젝트에 여러 LLM이 필요할 수 있다는 주장이다. 카바나스 디렉터는 "고객은 유스케이스에 맞는 여러 모델 장점을 활용해야 한다"며 "생성형 AI 모델을 가장 많이 보유한 베드록을 통해 빠르고 신속한 개발을 기존보다 낮은 비용으로 진행할 수 있을 것"이라고 자신했다.

2024.09.24 11:26김미정

아마존베드록, 생성형 AI 답변에 정확도 점수 매긴다

"전 세계가 생성형 인공지능(AI) 보안과 안전에 주목하고 있습니다. 생성형 AI를 이용하는 개인·기업이 늘면서 AI 취약점인 환각현상 해결책 마련이 시급해졌습니다. 이에 발맞춰 아마존웹서비스(AWS)는 아마존베드록이 안전하고 책임감 있는 AI 서비스를 제공할 수 있는 기능을 추가했습니다." AWS코리아 김선수 AI·ML사업개발 매니저는 13일 서울 샌터필드에서 열린 'AWS 2024 생성형 AI 미디어 브리핑'에서 아마존베드록의 새 보안 기능 특장점을 소개하면서 이같이 밝혔다. 김 매니저는 최근 아마존베드록에 추가된 '문맥 그라운딩 체크' 기능을 공개했다. 지난달 미국 뉴욕서 열린 AWS 행사에서 처음 발표된 기능이다. 문맥 그라운딩 체크는 아마존베드록 보안 기능을 담당하는 가드레일에 신규 탑재됐다. 생성형 AI 답변 신뢰성과 정확성 향상을 목표로 뒀다. 김 매니저는 문맥 그라운딩 체크 기능 특장점으로 객관적 수치를 통한 답변 필터링으로 꼽았다. 아마존베드록이 생성물에 신뢰성·정확성 점수를 자체적으로 매김으로써 답변 품질을 평가하는 식이다. 점수 매기는 기준은 문맥에 따라 다르다. 다만 공통으로 답변에 핵심 참조 내용이 포함됐는지, 질의 내용과 답변이 통일성 있는지, 답변과 질문 관련성이 얼마나 높은지를 측정한다. 김 매니저는 구체적인 평가 기준이나 점수 커트라인에 대한 설명을 밝히진 않았다. 다만 그는 "점수 매기는 작업은 AWS 노하우를 통해 이뤄진다"고 설명했다. 이어 "답변에 AWS가 지정한 필수 출처 내용이 답변에 없으면 이를 사용자에게 제공하지 않는다"며 "답변 품질 점수가 평균보다 낮을 때도 이를 내놓지 않는다"고 강조했다. 전 세계 AI 안전망 구축에 한창..."AWS도 동참" 김 매니저는 가드레일에 보안 기능을 추가한 이유를 밝혔다. 기업들이 AI 보안과 안전에 높은 관심을 보이는 분위기 때문이다. 김 매니저는 "AI 사용 기업은 보안이나 책임감 있는 AI에 높은 관심을 두고 있다"며 "관련 문의를 AWS 측에 활발히 주고 있다"고 설명했다. 그는 "이에 발맞춰 AWS도 AI 안전과 보안에 대한 많은 고민을 해 왔다"며 "AI 모델과 기업 데이터, 내부 시스템을 연계했을 때 환각현상 등을 최소화하기 위한 방안 마련에 한창"이라고 덧붙였다. 실제 전 세계 기업과 정부는 생성형 AI 안전망 구축 마련에 집중하고 있다. 생성형 AI를 이용하는 기업이나 개인이 늘면서 AI 한계점으로 알려진 환각현상이나 개인정보 유출 등을 최소화하기 위한 대책이 각국 정부·기업에서 이뤄지고 있다. 현재 유럽연합(EU)을 비롯한 미국 등은 이런 안전 대책을 마련했다. 정부가 자체적으로 'AI 안전연구소'를 설립해 관련 작업에 착수했다. 특히 캐나다 정부는 AI 안전연구소 설립에만 500억원 투자한 바 있다. 한국도 올해 한국전자통신연구원 산하에 AI 안전연구소 설립을 계획했다. AWS가 이런 시대에 발맞춰 AI 안전망을 아마존베드록에 구축했다는 입장이다. 김 매니저는 "실제 문맥 그라운딩 체크 기능을 이용했을 때 검색 결과에 대한 증명, 요약 작업에 대한 필터링을 75% 더 선명히 이룬 결과가 나왔다"며 "사용자는 아마존베드록 신기능을 통해 각 산업에 맞는 안전 가드레일을 구축할 수 있을 것"이라고 덧붙였다.

2024.08.13 13:22김미정

AWS "아마존베드록, 생성형 AI 트렌드·보안 다 잡았다"

"아마존웹서비스(AWS) 고객은 아마존베드록으로 최신 거대언어모델(LLM)을 즉각적으로 경험할 수 있다. 또한 다양한 추가 옵션을 통해 새로운 애플리케이션을 효율적으로 구축할 수 있다. 이 모든 과정은 엔터프라이즈급 보안 속에서 이뤄진다. AWS는 높은 고객 기준을 만족시키고 있다." AWS코리아 양승도 솔루션즈 아키텍트 리더는 16일부터 17일까지 서울 코엑스 컨벤션센터에서 열린 'AWS 서밋 서울'에서 아마존베드록의 생성형 AI 비즈니스 효과에 대해 이같이 밝혔다. 고객은 아마존베드록을 통해 빠르게 바뀌는 AI 트렌드를 즉각적으로 느낄 수 있고, 강력한 앱을 안전한 인프라 환경에서 구축할 수 있다는 것이다. 아마존베드록은 지난해 9월 전 세계에 정식 출시됐다. 고객은 베드록에 탑재된 LLM 모델을 활용해 생성형 AI 앱을 구축하는 등 다양한 비즈니스를 운영할 수 있다. 현재 앤트로픽 '클로드'를 비롯한 메타 '라마', 미스트랄AI '미스트랄', 스테빌리티AI '스테이블 디퓨전' 전 시리즈가 완전 관리형으로 제공된다. 고객은 이를 API로 골라서 활용하면 된다. 올해 초 출시된 메타 '라마3'와 앤트로픽의 '클로드3' 시리즈도 추가됐다. 양승도 솔루션즈 아키텍트 리더는 "베드록에서 최초로 제공되거나, 베드록에서 독점 지원하는 모델이 다수다"고 강조했다. 그는 "현재 AI 시장은 매우 빠르게 변하고 있다"며 "고객은 베드록을 통해 최신 LLM을 즉각 활용할 수 있다. 트렌드 읽는 힘을 기를 수 있는 셈이다"고 덧붙였다. 양 리더는 베드록이 비즈니스 상황에 맞는 서비스를 적용한다는 점도 높이 평가했다. 기업이 자체 데이터로 생성형 AI 앱을 최적화할 수 있기 때문이다. 그는 "고객은 베드록에 있는 LLM을 파인튜닝해 비즈니스에 가장 잘 맞는 생성형 AI 앱을 구축할 수 있다"며 "이 외에도 검색증강생성(RAG) 등 다양한 기능 옵션을 통해 챗봇 답변 만족도를 높이고 있다"고 설명했다. 양승도 리더는 베드록이 높은 수준의 보안 기능도 제공한다고 설명했다. 양 리더는 "어떤 고객 데이터도 모델 훈련·개선에 활용되지 않는다"고 재차 강조했다. 비공개 버전 파운데이션 모델도 외부로 이동하지 않도록 설정했다고 했다. 고객 데이터가 인터넷상에 노출될 일도 없다고 설명했다. 그는 "모든 고객 데이터는 AWS 네트워크를 절대 벗어나지 않는다"고 강조했다. 그는 "제품 설계 단계부터 보안을 고려해야 한다"고 주장했다. 서비스를 구축하고 나서 보안을 생각하는 건 위험하다"고 했다. 고객은 아마존베드록으로 제품 설계 단계부터 보안까지 챙길 수 있는 셈이다. 양 리더는 "AWS는 보안과 개인정보보호가 비즈니스에 얼마나 중요한지 알고 있다"며 "그동안 회사 데이터 유출을 염려한 고객들은 베드록 보안에 매우 만족하고 있다"고 덧붙였다. 이 외에도 AWS는 비즈니스 워크플로우 최적화를 위한 서비스를 지속적으로 출시했다. 올해 '에이전트 포 아마존베드록'과 '아마존 Q' 등을 통해 AI 앱 구축뿐 아니라 기업 시스템, 데이터 소스 전반에 생성형 AI가 적용될 수 있게 지원해 왔다. 양승조 리더는 "현재 고객은 보안을 유지하면서 강력하고 다양한 LLM 모델을 이용해 보고 싶어 한다"며 "아마존베드록은 이러한 고객 요구사항을 가장 잘 충족할 수 있는 유일한 서비스다"고 강조했다.

2024.05.16 13:46김미정

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"아무도 없었다"…국가AI컴퓨팅센터 공모 결국 '유찰'

대형마트 두고 엇갈린 대선 공약...민주당 '규제' VS 국민의힘 '완화'

교촌치킨 "소스 붓질만 72번...속도보다 맛에 투자"

TSMC 손 잡은 SK하이닉스, HBM4 로직 다이 비용 압박↑

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현