검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI API'통합검색 결과 입니다. (16건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

MS 엣지, AI·보안 모두 잡았다…브라우저 경쟁력 '자신'

마이크로소프트가 브라우저 '엣지'에 인공지능(AI) 기술과 보안 기능을 추가해 기업 업무 생산성과 보안 환경을 높였다. 마이크로소프트는 22일까지 미국 레드먼드에서 열린 연례 개발자 컨퍼런스 '마이크로소프트 빌드 2025'를 통해 엣지 브라우저의 최신 기능을 공개했다. 발표에는 AI API부터 PDF 번역, 업무 자동화, 콘텐츠 필터링, 보안 기능 확장까지 다양한 내용이 포함됐다. 엣지는 브라우저에 소형 AI 모델 '파이4-미니'를 탑재했다. 파이4-미니는 마이크로소프트가 개발한 38억 개 매개변수 규모를 갖춘 오픈소스 모델이다. 개발자는 해당 모델로 웹사이트에 AI 기능을 추가할 수 있다. 파이4-미니 기반 프롬프트 API와 글쓰기 지원 API가 제공되며, 추후 번역 API도 추가된다. 사용자는 엣지로 외국어 PDF 문서를 클릭 한 번으로 번역할 수 있다. 번역 결과는 원문 맥락과 의미를 유지한 상태로 새 문서를 생성해 제공된다. 마이크로소프트는 엣지 포 비즈니스에 '마이크로소프트 365 코파일럿'이 통합됐다. 이를 통해 문서 요약, 업무 흐름 지원 기능을 강화했다. 세일즈 업무 자동화 에이전트도 탑재돼 워크플로 중단 없이 활용 가능하다. 마이크로소프트는 엣지 보안 기능도 업데이트했다고 강조했다. 보안 기능은 마이크로소프트 365 E5 라이선스 사용자에게 추가 비용 없이 제공된다. 우선 개인 윈도·맥OS 장비에서도 조직 데이터 접근을 보호하고, 민감 데이터 전송을 차단하는 기능이 적용됐다. 엣지 보안 커넥터 프레임워크를 통해 기존 인증 시스템이나 데이터 유출 방지(DLP) 도구와 연동 가능하다. 또 IT 관리자는 브라우저 자체를 보안 체계로 통합해 사내 리소스 접근 제어와 AI 기반 자동화를 진행할 수 있다. 학교나 중소기업 IT 관리자들이 부적절한 웹사이트를 무료로 차단할 수 있는 콘텐츠 필터링 기능도 제공된다. 관리자가 카테고리를 설정하면, 수백만 개 유해 사이트를 차단할 수 있다. 장비가 사외 네트워크에 있어도 작동한다. 엑센츄어 수만 순다르 데이터·AI·생성형 AI 총괄은 "엣지에서 코파일럿을 사용한 후 우리 직원들은 자연어로 대시보드를 만드는 등 업무 환경이 완전히 달라졌다"며 "하루 업무 생산성이 전반적으로 향상됐다"고 밝혔다.

2025.05.22 10:17김미정

위베어소프트 오소리 APIM, 시범 구매 제품 선정…공공시장 확산 발판 마련

위베어소프트가 공공기관과의 협력을 확대하고 기술력을 알릴 기회를 얻게 됐다. 위베어소프트는 자사 대표 제품인 '오소리(OSORI) APIM'이 기술개발제품 시범 구매제도 대상에 선정됐다고 20일 밝혔다. 이는 공공기관이 기술개발제품을 구매해 판로 개척을 지원하는 제도로, 기술력과 시장성을 인정받은 제품만이 선정될 수 있다. 기술개발제품 시범 구매제도는 중소벤처기업부가 운영하며 창업 기업과 공공 조달 시장 첫걸음 기업의 기술개발제품을 공공기관이 시범 구매하도록 지원하는 프로그램이다. 이를 통해 공공기관은 신기술을 적극 도입하고, 중소기업은 안정적인 시장 진입 기회를 확보할 수 있다. 오소리 APIM은 API 관리 및 게이트웨이 기능을 제공하는 솔루션으로, 기업들이 보다 효율적으로 API를 운영하고 보안을 강화할 수 있도록 지원한다. 이번 선정으로 위베어소프트는 공공기관과의 협력을 확대해 기술력을 확산한다는 방침이다. 최근 인공지능(AI) 기술이 빠르게 발전하면서 오픈 API의 활용성이 더욱 높아지고 있다. 다양한 AI 모델과 서비스를 연결하고 데이터를 원활하게 교환하기 위해서는 우수한 API 관리 솔루션이 필수적이다. 오소리 APIM은 API의 효율적인 운영과 보안 강화를 지원한다. 이를 통해 기업들은 오픈 API를 자산으로 통합 관리할 수 있는 환경을 구축할 수 있다. 올해 위베어소프트는 데이터 바우처 공급기업으로서 AI 기반 기업들의 데이터를 API로 가공·판매할 수 있도록 지원하며 디지털 경제 활성화와 산업 혁신을 촉진하고 있다. 장영휘 위베어소프트 대표는 "오소리 APIM이 기술개발제품 시범 구매제도 대상으로 선정된 것은 우리의 기술력과 혁신성을 인정받은 결과"라며 "앞으로도 지속적인 연구개발을 통해 더욱 발전된 솔루션을 제공할 것"이라고 밝혔다.

2025.05.20 16:45한정호

[AI는 지금] 中 딥시크·구글 움직임에 속 타는 오픈AI?…느리고 싼 新무기로 맞선다

저비용·고성능 인공지능(AI) 모델을 앞세운 중국 딥시크가 등장한 이후 자극을 받은 미국 기업들이 앞 다퉈 가격 조정에 나섰다. 그간 AI 학습에 드는 시간과 비용이 상당해 값비싼 구독료로 수익 확보에 나서던 이들은 딥시크를 의식해 가격 인하 경쟁을 벌이며 주도권을 빼앗기지 않기 위해 안간힘을 쓰는 모양새다. 18일 테크크런치 등 주요 외신에 따르면 오픈AI는 지난 17일(현지시간) 새로운 앱프로그램인터페이스(API) 옵션인 '플렉스 프로세싱(Flex Processing)'을 출시했다. 처리 우선순위가 낮아 응답시간은 느려지고 간헐적으로 사용 가능한 자원도 줄어들지만, AI 모델 사용 비용을 기존 구독료의 절반으로 낮춰준다는 점이 눈길을 끈다. 이는 전날 공개된 최신 추론 모델인 오픈AI 'o3' 및 'o4-미니'에서 베타 버전으로 제공된다. 모델 평가, 데이터 보강, 비동기 작업 등 긴급하지 않은 비생산성 작업을 위한 용도로 설계된 것이 특징이다. 다만 '플렉스 프로세싱'은 새롭게 도입된 오픈AI의 신원 인증을 거쳐야 활용할 수 있다. 신원 인증은 추론 요약 기능이나 스트리밍 API 지원 등 고급 기능을 접근하기 위한 조건이다. 사용 등급(tier) 1~3에 해당하는 개발자들은 신원 인증 절차를 통해 o3 등 주요 모델에 접근할 수 있다. 오픈AI의 사용자 등급은 서비스 이용 금액을 기준으로 나뉜다. 오픈AI는 신원 인증의 도입 배경에 대해 "악의적 사용자들의 정책 위반을 막기 위한 조치"라고 설명했다. API 가격은 o3 모델 기준으로 입력 토큰(AI 연산단위) 100만 개당 5달러, 출력 토큰 100만 개당 20달러다. o4-미니 모델 기준으로는 입력 토큰 100만 개당 0.55달러, 출력 토큰 100만 개당 2.20달러다. 기존 가격은 o3 모델이 각각 10달러, 40달러, o4-미니 모델이 1.10달러, 4.40달러다. 이처럼 오픈AI가 새로운 가격 정책을 내세우게 된 것은 최첨단 AI 모델의 사용 비용 증가 속에서도 구글, 딥시크 등 경쟁사들이 더 저렴하고 효율적인 AI 모델을 출시하고 있다는 점을 의식한 행보로 분석된다. 실제로 구글은 같은 날 고성능이면서도 저비용 가격으로 책정된 추론 모델 '제미나이 2.5 플래시'를 출시했다. 최근 '구글 클라우드 넥스트 2025'에서 공개됐던 이 모델은 딥시크의 R1 모델과 비교해 성능 면에서 우위에 있다고 평가받고 있다. '제미나이 2.5 프로' 대비 경량화한 모델로, 일반, 추론형 등 두 가지 버전으로 제공된다. 제미나이 2.5 플래시의 API 사용료는 100만 토큰당 입력이 0.15달러, 출력이 비추론의 경우 0.6달러, 추론은 3.5달러다. 이는 오픈AI o4-미니보다 저렴한 가격이지만, 딥시크 R1(0.55달러, 2.19달러)에 비해선 비싸다. 업계에선 구글 제미나이가 사용 방식에 따라 딥시크보다 높은 가성비를 지닌 것으로 평가했다. 구글도 "제미나이 2.5 플래시는 속도와 비용에 중점을 두면서도 추론 기능을 대폭 업그레이드해 비용 대비 성능이 매우 좋다"며 "품질과 비용, 시간 지연 간 균형 최적화를 위해 '사고(추론)'에 대한 예산을 설정할 수 있고 추론 기능을 쓰지 않더라도 기존과 같은 속도로 성능을 향상시킬 수 있다"고 자신했다. 업계에선 AI API 시장의 가격 경쟁이 치열해지는 상황 속에 오픈AI의 플렉스 프로세싱이 개발자들과 기업 고객에게 좋은 반응을 얻을 수 있을지 주목하고 있다. 또 오픈AI가 자체 클라우드 부재로 가격 구조가 취약한 상황에서 이번 조치가 해결책이 될 수 있을지에 대해서도 관심있게 보고 있다. 업계 관계자는 "구글은 자체 클라우드 사업이 있어 AI 가격을 낮춰도 수익성을 확보할 수 있지만, 오픈AI는 마이크로소프트(MS) 등 타사 클라우드를 빌려 써야 해 가격 인하에 제약이 있다"며 "'지브리풍 이미지'로 불리는 챗GPT 이미지 생성으로 연산력 부족도 심화하고 있어 연산 속도와 함께 가격을 낮추는 전략으로 경쟁사 견제에 나선 듯 하다"고 말했다.

2025.04.18 14:52장유미

아카마이, 분산 인프라 보안 강화한 솔루션 출시

아카마이테크놀로지스가 분산된 인프라 환경에서 일관된 보안 구축을 돕는 하이브리드 보안 솔루션을 공개했다. 아카마이는 웹 애플리케이션 방화벽 기능을 강화한 '앱 & API 프로텍터 하이브리드'를 출시했다고 14일 밝혔다. 이 제품은 멀티 클라우드, 온프레미스, 콘텐츠 전송 네트워크(CDN) 독립형 등 다양한 인프라 환경에서도 아카마이의 웹 애플리케이션 및 API 보호(WAAP) 기능을 동일하게 적용할 수 있게 구성됐다. 이번 솔루션은 분산된 애플리케이션 환경에서도 운영 효율성과 가시성을 확보하고 보안 정책을 표준화할 수 있도록 설계됐다. 엣지와 비엣지 환경을 모두 통합 관리해 보안 운영 오버헤드를 줄일 수 있다. 데브옵스 팀의 멀티 클라우드 배포 효율도 개선할 수 있다. 앱 & API 프로텍터 하이브리드는 애플리케이션과 API, 마이크로서비스, 워크로드를 점점 정교해지는 사이버 위협으로부터 보호한다. 복원력과 확장성이 뛰어나며 보안 관리도 간편해 어떤 인프라에서도 핵심 자산을 안정적으로 지킬 수 있다는 평가를 받고 있다. 이 제품은 클라우드 전환을 진행 중인 기업들이 기존 보안 수준을 유지하면서도 전환 속도를 높일 수 있도록 지원한다. 다양한 인프라 환경에 일관된 보안을 적용하려는 기업 수요에 부합하는 제품이다. 아카마이 루페시 초크시 애플리케이션 보안 담당 수석 부사장 겸 총괄 매니저는 "복잡해지는 인프라 환경에서 일관된 보안을 제공하는 것이 그 어느 때보다 중요해졌다"며 "이번 솔루션은 보안 운영을 단순화해 보안 팀이 통제력을 유지하면서도 비즈니스 성장에 집중할 수 있도록 돕는다"고 밝혔다.

2025.04.14 10:27김미정

오픈AI 견제 나선 일론 머스크, xAI 광폭 투자 가속…이미지 생성 모델 API도 론칭

일론 머스크가 이끄는 인공지능(AI) 기업 xAI가 스타트업 인수와 데이터센터 부지 확장에 속도를 내는 동시에 새로운 서비스도 속속 선보이며 오픈AI를 견제하기 위해 사활을 걸고 있다. 20일 테크크런치에 따르면 xAI는 이미지 생성형 AI 모델 '그록(grok)-2-이미지-1212'의 애플리케이션 프로그래밍 인터페이스(API)를 출시했다. 이 모델은 사용자 요청당 최대 10개의 JPG 형식 이미지를 생성할 수 있다. 이미지당 가격은 0.07달러(한화 약 102원)다. 이는 시중의 다른 이미지 생성 모델과 비슷한 수준의 가격이다. xAI와 제휴한 블랙 포레스트 랩스(Black Forest Labs)는 생성 이미지당 약 0.05달러(한화 약 73원)를 청구한다. 또 다른 인기 이미지 모델 제공업체인 이데오그램(Ideogram)은 고품질 서비스에 대해 0.08달러(한화 약 116원)를 책정했다. 이번 론칭한 이미지 모델 API에 대해 xAI는 "아직 이미지의 품질·크기·스타일을 조정하는 것을 지원하지 않는다"며 "사용자 요청 시의 프롬프트는 자사 채팅 모델을 통해 수정될 수 있다"고 설명했다. xAI는 최근 영상 생성형 AI 스타트업 '핫샷(hotshot)'을 인수하며 자체 영상 생성 모델 출시도 계획 중이다. 뿐만 아니라 데이터센터 확장을 위해 미국 멤피스 소재 부지 약 3만 평을 추가 매입해 주목 받았다. 이를 토대로 xAI는 그록-3와 같은 자사 대표 플래그십 모델의 훈련·개발을 강화하며 투자처 확대에 더욱 박차를 가할 것으로 전망된다. 테크크런치는 "xAI는 투자자들과 100억 달러(한화 약 14조5천720억원) 규모의 펀딩 라운드를 통해 기업 가치를 750억 달러(한화 약 109조2천900억원)로 끌어올릴 수 있는 방안을 논의하고 있다"고 밝혔다.

2025.03.20 09:55한정호

"올해 AI 에이전트 본격화"…오픈AI, 中 마누스 공습 속 新 무기로 맞불

"우리는 점점 더 나은 모델을 갖게 될 것입니다. 다음 거대한 돌파구는 인공지능(AI) 에이전트가 될 것이라고 생각합니다." 샘 알트먼 최고경영자(CEO)가 지난해 소셜미디어(SNS) 플랫폼 '레딧'에서 이처럼 강조한 가운데 오픈AI가 AI 에이전트 시장을 공략하기 위해 또 다시 새로운 무기를 꺼냈다. 최근 테크 기업들이 앞 다퉈 AI 에이전트를 선보이고 있는 상황에서 오픈AI가 시장 주도권을 가져갈 수 있을지 주목된다. 12일 테크크런치, 로이터통신 등 주요 외신에 따르면 오픈AI는 지난 11일(현지시간) AI 에이전트 구축 플랫폼 '리스폰스 API(Responses API)'를 출시한다고 발표했다. 리스폰스 API는 오는 2026년 상반기까지 지원되는 어시스턴트 API를 대체하게 된다. 오픈AI는 리스폰스 API를 출시하기 전에 챗GPT 내에서 오퍼레이터, 딥리서치 등 두 가지 AI 에이전트를 도입했으나, 기본적인 기능만 제공해왔다. '오퍼레이터'는 지난 1월 출시된 것으로, 인터넷을 탐색해 식료품을 구매하거나 비용 보고서를 작성하는 AI 에이전트다. 2월에 공개된 '딥리서치'는 인터넷에서 복잡한 연구 작업을 수행할 수 있도록 돕는다. 리스폰스 API는 오픈AI 모델 등을 이용해 개발자와 기업들이 독립적으로 작업을 수행하는 AI 에이전트를 구축할 수 있도록 돕는다. 이를 통해 기업들은 금융 분석이나 고객 서비스와 같은 업무를 수행하는 AI 봇을 만들 수 있다. 또 기업이 웹 검색을 수행하고 회사 파일을 스캔하는 동시에 웹사이트를 탐색할 수 있는 맞춤형 AI 에이전트를 개발할 수 있도록 지원한다. 오픈AI는 리스폰스 API를 유료로 운영할 방침이다. 현재 챗GPT 팀(Team), 엔터프라이즈(Enterprise), 에듀(Edu)를 이용하는 유료 기업 고객은 200만 명에 달한다. 브래드 라이트캡 오픈AI 최고운영책임자(COO)은 "이제 사람들은 AI 에이전트와 상호작용할 수 있다"며 "이 에이전트는 파일을 참조하고 웹을 검색하며 컴퓨터를 사용할 수도 있다"고 말했다. 업계에선 오픈AI가 리스폰스 API를 출시하며 본격적인 AI 에이전트 시장 경쟁이 펼쳐질 것으로 봤다. 샘 알트먼 CEO도 올해를 "AI 에이전트가 본격적으로 업무에 도입되는 해"라고 말한 바 있다. 특히 최근 중국 AI 스타트업 모니카가 '마누스(Manus)'라는 AI 에이전트를 공개한 후 업계의 관심은 더 증가한 분위기다. 모니카는 마누스가 독립적으로 생각하고 계획을 세우고 복잡한 업무를 수행해 완벽한 결과물을 내놓을 수 있는 능력을 보여줬다고 주장했다. 또 마누스를 '제2의 딥시크'로 기대하며 AI 에이전트 검증 테스트에서 오픈AI 모델을 능가했다고 강조했다. 모니카는 전날 알리바바의 콴 AI 모델 팀과 파트너십을 맺기도 했다. 로이터는 "이번 개발은 중국의 스타트업들이 미국에서 업계 최고의 모델과 동등하거나 더 나은 성능을 자랑하는 최신 AI 모델을 훨씬 저렴한 비용으로 출시한 직후 이뤄졌다"고 말했다. 다만 테크크런치는 중국 마누스를 AI 에이전트에 대한 과대 광고의 대표 사례로 지목했다. 모니카가 공개한 것만큼의 서비스가 제공되지 않고 있다는 이유에서다. 또 테크크런치는 오픈AI가 제대로 된 AI 에이전트를 제공하기 위해 더 많은 노력을 기울여야 할 것이라고 주장했다. 오픈AI는 조만간 박사 수준의 업무 능력을 보유한 AI 에이전트도 출시할 것으로 알려졌다. 월 이용료는 수천만 원 상당인 것으로 전해졌다. 올리비에 고뎀먼트 오픈AI API 제품 책임자는 "에이전트를 데모하는 것은 매우 쉽다"면서도 "하지만 AI 에이전트를 확장하는 것은 매우 어렵고 사람들이 자주 사용하도록 하는 것도 매우 어렵다"고 밝혔다.

2025.03.12 09:03장유미

엘리스클라우드, 오픈소스 AI 생태계 최적화 솔루션 선보여

엘리스그룹(대표 김재원)의 AI 특화 클라우드 '엘리스클라우드'가 오픈소스를 포함한 다양한 범용 AI 모델을 클라우드 환경에서 안전하고 편리하게 사용할 수 있는 솔루션을 20일 공개했다. 엘리스클라우드는 기존 머신러닝(ML) API 기능을 업그레이드해 오픈소스 AI 모델을 맞춤형 AI 인프라에서 활용할 수 있는 'ML API 라이브러리' 기능을 선보였다. 이번 업그레이드의 특징은, 별도의 설치, 설정 없이 다양한 오픈소스 AI 모델도 편리하게 쓸 수 있는 최적화된 GPU·NPU 환경을 제공하는 것이다. API 기반 솔루션이 제공되는 일반 상용 AI 모델과 달리 오픈소스 AI 모델은 사용하는 모델에 따라 환경을 설정해야 하고, 원하는 특정 작업에 맞추는 파인 튜닝과정이 필요하다. 이런 어려움을 해소하기 위해 엘리스클라우드는 GPU·NPU 환경을 각 오픈소스 모델에 최적화하고, 최적화된 API를 제공한다. 딥시크의 R1, 메타의 라마 등 오픈소스를 포함한 다양한 AI 모델에 따라 맞춤형으로 구성한 고성능 AI 인프라 환경에서 AI 챗봇 등을 개발하고 관리, 배포까지 간편히 할 수 있다. 엘리스클라우드가 협약을 맺은 퓨리오사AI, 리벨리온의 최신 NPU를 활용한 고성능 컴퓨팅 서비스도 제공한다. 엣지데이터센터인 엘리스 AI PMDC(Portable Modular Data Center, 이동형 모듈러 데이터 센터) 기반의 프라이빗 클라우드 환경에서 실행돼 민감한 데이터의 외부 유출도 방지한다. 엘리스 AI PMDC는 모듈 단위로 구성이 가능해 물리적 격리가 가능하고, AI 수요 변화에 민첩하게 대응하는 것은 물론 전력효율지수(PUE)를 1.27까지 낮춰 뛰어난 에너지 효율도 갖췄다. 엘리스클라우드는 연내 운영을 목표로 1기당 1MW급 AI PMDC를 설계 및 구축하고 있다. 고밀도 전력과 발열을 안정적으로 관리하기 위해 공간 최적화 설계와 직접액체냉각(DLC) 기술을 도입, 업계 최고 수준인 랙 당 160kW전력으로 엔비디아 B100을 비롯한 최신 고성능 GPU를 지원하도록 설계된다. 김재원 엘리스그룹 대표는 "현재 고성능 GPU H100 5천장까지 수용할 수 있는 AI PMDC 설계·구축했고, 이는 국내 클라우드 기업 중 최대 규모일 것으로 예상한다"며 "엘리스클라우드 사업 본격화를 위해 GPU 확보에 더불어 R&D를 통한 기술 혁신과 투자에 집중하겠다"고 밝혔다.

2025.02.20 11:21백봉삼

"정확도 높이고 비용은 6배"…오픈AI, 추론 AI 'o1' API 배포

오픈AI가 자사 추론 모델 'o1'을 애플리케이션 프로그램 인터페이스(API)에 도입하며 인공지능(AI) 기술의 신뢰성과 정밀성 제고에 나섰다. 18일 테크크런치 등 외신에 따르면 오픈AI는 크리스마스 '쉽마스' 9일차 행사에서 자사 'o1' 추론 모델을 개발자 대상 API에 제공하기 시작한다고 밝혔다. 이 모델은 최소 1천 달러(한화 약 140만원)를 오픈AI에 지출하고 첫 결제 이후 30일 이상이 지난 '레벨 5' 개발자들만 이용할 수 있다. '쉽마스' 1일차 행사에서 처음 도입된 'o1' 모델은 기존 'o1-프리뷰' 모델을 대체하며 AI의 사실 확인 능력을 강화했다. 이로써 일반 모델에서 발생하는 오류를 줄이고 더 신뢰성 있는 답변을 제공하는 것이 특징이다. 다만 비용은 기존 모델에 비해 대폭 상승했다. 약 75만 단어를 분석할 때 15달러(한화 약 2만1천원), 같은 양을 생성할 때 60달러(한화 약 8만4천원)를 책정해 기존 'GPT-4o'보다 6배 높은 가격이다. 이번 API 연동을 통해 오픈AI는 'o1' 모델에 다양한 맞춤형 기능을 도입했다. 함수 호출을 통해 외부 데이터와 연동이 가능해졌고 개발자 메시지를 통해 AI의 톤과 스타일을 제어할 수 있다. 또 이미지 분석 기능이 제공되며 'o1'이 답을 도출하는데 사고하는 시간을 설정하는 기능도 지원한다. 오픈AI는 이 기능들을 API뿐 아니라 자사 '챗GPT'에도 곧 적용할 계획이라고 밝혔다. 이외에도 실시간으로 작동하는 API와 'GPT-4o' 미니 모델의 업그레이드를 발표하며 실시간 AI 음성 응답의 데이터 효율성과 신뢰성을 개선했다고 강조했다. 오픈AI 관계자는 공식 블로그를 통해 "'o1' 모델을 단계적으로 더 많은 개발자에게 공개할 계획"이라며 "확장된 기능을 통해 더 정교하고 맞춤화된 AI 환경을 제공할 것"이라고 밝혔다.

2024.12.18 09:16조이환

스노우플레이크 "방대한 기업 데이터, 단일 API로 관리 간소화"

"생성형 인공지능(AI) 시대 최대 과제는 기업 데이터 관리입니다. 단일 API로 데이터 환경을 간소화해야 합니다. 효율적인 데이터 관리로 쉬운 AI 애플리케이션 개발 환경을 고객에 제공할 수 있습니다. 또 고객에게 생성형 AI 서비스를 잘 지원하려면 높은 신뢰성·가성비도 필수입니다." 최기영 스노우플레이크 코리아 지사장은 10일 미디어 간담회를 통해 생성형 AI 시대 데이터 관리 방식과 AI 애플리케이션 개발 필수 요소를 이같이 밝혔다. 스노우플레이크는 10년 동안 글로벌 시장에 데이터 레이크하우스와 데이터 메시 등 다양한 데이터 아키텍처 솔루션을 지원해 왔다. 한국에는 3년 전 진출했다. 현재 전 세계적으로 50억 건 넘는 데이터를 매일 처리하고 있다. 고객은 약 10만 명이다. "AI로 복잡한 데이터 관리…단일 API로 간소화" 최기영 지사장은 생성형 AI 산업 활성화로 기업 데이터가 방대해졌다고 주장했다. 그동안 기업이 데이터 레이크 하우스와 데이터 메시, 웨어하우스 등으로 데이터 간소화에 노력했지만 복잡성이 오히려 늘었다고 지적했다. 이 과정에서 기업이 여러 엔진을 활용하면서 데이터 사일로가 다시 발생했다는 이유에서다. 이에 스노우플레이크는 방대한 데이터 관리를 간소화하기 위해 단일 API 방식을 채택했다. 이는 데이터 관리를 간소화할 뿐 아니라 여러 엔진을 하나로 합쳐줄 수 있는 방식으로 평가받고 있다. 현재 스노우플레이크 기업 고객은 단일 API로 정형 데이터와 비정형 데이터, 외부 데이터 등 다양한 소스를 하나의 통합된 인터페이스로 연결해 데이터를 간소화하고 통합적으로 활용하고 있다. 사용자는 복잡한 데이터 위치나 처리 방식을 고려하지 않아도 단일 API 호출로 데이터를 쿼리·분석할 수 있다. 예를 들어 PDF 계약서에서 결제 조건을 추출하거나 SQL 데이터베이스(DB)에서 배송 시간을 조회하는 작업을 동일한 API 호출로 한 번에 할 수 있다. 최 지사장은 "사용자는 단일 API를 통해 적합한 엔진을 자동으로 라우팅할 수 있다"며 "정형 데이터와 비정형 데이터를 유기적으로 연결할 수 있다"고 설명했다. 이어 "사용자는 별도 설정 없이 필요한 데이터를 간편하게 얻을 수 있다"며 "단일 API는 데이터 소스 간 경계를 허물고, 복잡한 데이터 추출·변환·적재(ETL) 작업을 줄여 효율성을 높인다"고 강조했다. "생성형 AI 환각현상 최소화·가성비 최대화 핵심" 스노우플레이크는 향후 AI 애플리케이션이 기업 시장에서 주요 킬러 앱으로 자리 잡을 것으로 내다봤다. 이를 실현하기 위한 필수 요소로 답변 신뢰성과 가성비를 꼽았다. 이날 스노우플레이크 코리아 이수현 테크에반젤리스트는 스노우플레이크의 검색증강생성(RAG) 주요 특징을 설명했다. 스노우플레이크는 현재 20개 넘는 매트릭스를 활용해 AI 모델 성능을 다각적으로 측정할 수 있는 방법을 도입했다. 측정 기준은 정확성과 연관성, 문맥 적합성이다. 우선 AI 모델이 내놓은 답변이 사용자 질문과 얼마나 밀접히 관련됐는지 평가한다. 이후 AI가 검색한 데이터와 제공한 응답 간 연관성을 검증한다. 마지막으로 답변이 질문 문맥과 얼마나 잘 맞는지 확인한다. 이를 자체적으로 수치화해 일정 점수가 넘어야 사용자에게 답변을 제공하는 식이다. 이 에반젤리스트는 AI 모델 성능이 임계값보다 낮을 경우 이를 자동으로 감지하고 사용자에게 알림을 제공한다고 설명했다. 과정도 간단하다. 우선 사용자는 모델 성능의 최소 허용 수준을 설정한다. 이후 시간이 지나면서 솔루션이 자체적으로 훈련 데이터와 현재 데이터 간 불일치를 탐지해 실시간으로 성능 저하를 식별한다. 이때 답변 정확도에 문제가 생기면 사용자는 기존 모델을 수정하거나 새 데이터로 모델을 재학습시키면 된다. 이 에반젤리스트는 "엔터프라이즈의 AI 핵심은 옵저버빌리티"라며 "AI 모델이 비즈니스 목표를 효과적으로 지원하고 기업에게 데이터 중심 의사 결정 기회를 줄 수 있을 것"이라고 밝혔다. 스노우플레이크는 데이터보안 강화를 위한 전략도 소개했다. 최근 잇따라 발생하는 데이터 거버넌스 이슈와 보안 문제를 해결하기 위한 목표다. 이 에반젤리스트는 "최근 기업들은 데이터를 AI 모델로 보내는 방식을 채택하기 일쑤"라며 "데이터를 외부 AI로 전송할 경우 보안 위험과 관리 어려움이 발생할 수 있다"고 지적했다. 이어 "AI 모델을 데이터 플랫폼으로 직접 가져와 데이터 내에서 관리하는 방식이 더 안전하다"며 "이를 통해 데이터 거버넌스와 보안에 생기는 이슈를 최소화할 수 있다"고 덧붙였다. 스노우플레이크는 가성비 있는 AI 활용을 지원하기 위해 오픈소스를 적극 활용할 것이라고 밝혔다. 기업이 데이터를 저비용에 처리할 수 있기 때문이다. 이를 통해 기업의 생성형 AI 사용 비용을 획기적으로 낮출 수 있다. 이 에반젤리스트는 "현재 아파치 아이스버그 도구로 생성형 AI의 학습 데이터 준비와 처리를 최적화해 비용 효율성을 높이고 있다"며 "대규모 데이터를 테이블 형식으로 관리해 필요한 데이터만 선택적으로 로드할 수 있어 데이터 준비와 처리 시간을 줄이고 불필요한 리소스 사용을 없앨 수 있다"고 강조했다.

2024.12.10 16:26김미정

AI 영상 생성 모델 '소라' 유출 논란…예술가들 오픈AI에 반격

오픈AI의 동영상 생성 인공지능(AI) '소라'가 정식 오픈 전에 유출돼 혼란을 빚고 있다. 일자리에 위협을 느끼고 있는 예술가들이 오픈AI의 움직임이 반발해 '소라'에 대한 접근 권한을 유출시켰기 때문이다. 27일 테크크런치에 따르면 자칭 '소라 PR(대외홍보) 퍼펫'이라고 부르는 예술가 그룹은 지난 26일 오픈AI '소라'에 접속할 수 있는 프로그래밍 인터페이스(API)를 온라인에 공개했다. 이들은 조기 접근 시스템에서 가져온 것으로 추정되는 인증 토큰을 사용해 이용자가 '소라'로 비디오를 생성할 수 있는 프론트엔드를 만들었다. 이들은 AI 개발 플랫폼인 '허깅 페이스'에 소라를 사용해 볼 수 있도록 API를 게시했다. 이를 통해 테스터가 아닌 일반인들도 사실상 소라의 기능을 미리 써볼 수 있게 됐다. 다만 미국 동부시각 기준 정오부터 접근이 중단됐다. 이번 일로 수 많은 이용자들은 '소라'를 통해 1천80p 고해상도의 10초짜리 영상을 제작해볼 수 있었다. 이용자들이 한꺼번에 몰리면서 서비스를 이용할 때 대기자까지 발생한 것으로 알려졌다. 이후 소셜미디어에 올라간 결과물들은 오픈AI의 워터마크가 삽입돼 있어 눈길을 끌었다. '소라'는 지난 2월 오픈AI가 공개한 동영상 생성 AI 모델로, 텍스트만 입력하면 최대 1분 분량의 영상 제작이 가능하다. 구글이 올해 1월 공개한 생성 AI 모델 '루미에르'가 단 5초 분량의 영상물을 제작해주는 것에 비해 월등한 기술력이란 평가를 받고 있다. 덕분에 유튜브·틱톡 등에서 인기를 끌고 있는 1분 미만의 짦은 영상(숏폼) 제작에 용이하다. 콘텐츠만 있으면 누구나 영상 크리에이터가 될 수 있는 환경이 마련된 것이다. 하지만 영상 제작 관련 업종에 종사하는 이들에게는 위협이 되고 있다. 간단한 명령어 몇 마디로도 디즈니 애니메이션이나 할리우드 영화에서나 나올 듯한 영상을 순식간에 만들 수 있어서다. 특히 할리우드의 단역 배우, 촬영 스태프, 작가 등의 일자리를 빼앗을 수 있다는 우려가 커지고 있다. 이에 오픈AI는 '소라'를 바로 출시하지 않고 기능을 보완하기 위해 일부 예술가들을 대상으로 테스트만 진행해왔다. 샘 알트먼 오픈AI 최고경영자(CEO)는 지난 1일 레딧에서 열린 AMA(Ask Me Anything) 채팅 행사에서 '소라'와 관련해 "모델을 완성하고 안전 및 딥페이크 문제를 처리하고 컴퓨팅을 확장해야 하는 문제로 출시가 지연되고 있다"고 설명했다. 하지만 이번에 '소라 PR 퍼펫'이란 예술가 그룹이 API를 공개해버리면서 다소 난감해졌다. 테스트를 진행한 예술가들은 오픈AI가 '소라'에 대한 긍정적인 이야기를 퍼뜨리라고 압력을 가하고 있다고 주장하며 불만을 드러내기도 했다. 또 익명으로 활동했던 이들은 '소라' 접근권이 공개된 이후 청원서와 함께 자신들과 함께할 예술가들의 서명을 받기 시작했다. 이들은 "수 백명의 아티스트가 1천500억 달러 규모의 회사를 위해 버그 테스트, 피드백, 실험작 제작 등의 무급 노동을 제공하고 있다"며 "우리의 작업에 오픈AI가 공정한 보상을 하지 않고 있다"고 주장했다. 오픈AI는 그동안 테스터들을 엄격하게 통제하고 '소라'로 만들어진 결과물을 공유하기 전에 승인을 받도록 조치한 것으로 알려졌다. 일각에선 오픈AI가 예술가들의 작품을 통제하는 것을 두고 '소라'의 개발 속도가 느려졌기 때문이라는 분석을 내놨다. '소라' 개발을 이끈 책임자 중 한 명인 팀 브룩스가 지난 10월 오픈AI를 떠나면서 생성된 영상에서 캐릭터의 일관성을 유지하는데 오류가 여전한 것으로 전해졌다. '소라'는 공개 당시 도쿄 밤거리를 걷는 여성의 영상을 생성했지만 다리가 불안정하게 움직이는 모습이 포착돼 눈길을 끈 바 있다. 예술가들은 "우리는 예술도구로서의 AI를 반대하지 않는다"며 "예술가들에 대한 대우가 어떻게 형성되는지, 이 도구로 만들어지는 결과물이 어떻게 확산되는지에 대한 뚜렷한 답이 없어 반대하는 것"이라고 밝혔다. 이에 대해 오픈AI는 "수백 명의 예술가들이 '소라'를 쓰고 있고 기밀 정보를 공유하지 않는 것 외에는 주어진 의무가 없다"고 반박했다. 다만 오픈AI는 어떤 세부 정보가 '기밀'로 취급되는지는 설명하지 않았다. 테크크런치는 "이번 사태는 오픈AI의 '아트워싱'에 항의하기 위한 것"이라며 "예술 단체와 AI 기업의 갈등이 보다 심해지고 있다"고 분석했다.

2024.11.27 10:09장유미

스픽, 오픈AI 컨퍼런스서 '라이브 롤플레이' 기능 발표

스픽이지랩스코리아(대표 코너 니콜라이 즈윅)는 오픈AI 개발자 컨퍼런스에서 GPT-4o 기반의 '실시간 API'를 활용한 '라이브 롤플레이' 기능을 공개했다고 2일 밝혔다. 스픽은 2022년 11월 오픈AI와 기술 제휴를 맺고 오픈AI의 최신 AI 기술을 선제적으로 앱에 탑재해 AI 기반 롤플레이 교육 서비스를 선보였다. 이런 협력 관계를 바탕으로 양사는 AI 언어 학습 분야에서 지속적인 혁신을 이어왔다. 미국 현지시간으로 1일, 오픈AI는 미국 샌프란시스코에서 개발자 컨퍼런스 'OpenAI DevDay'를 개최하고 GPT-4o 기반의 '실시간 API'를 발표했다. 실시간 API는 AI가 인간의 말을 인식하는 과정에서 음성을 텍스트로 변환한 후 인지·대응하던 기존 기술과는 달리, 음성과 음성 간 직접적인 상호작용을 가능하게 한다. 이번 컨퍼런스에서 스픽은 오픈AI의 실시간 API와 자사의 독자적인 학습 엔진을 결합한 '라이브 롤플레이' 기능을 선보였다. 스픽은 라이브 롤플레이를 통해 사람과 대화하는 것처럼 빠르고 자연스럽게 반응할 수 있도록 AI 튜터를 고도화했다. 기존 AI 대화 시스템은 음성 인식, 텍스트 처리, AI 음성 합성 등 여러 단계의 복잡한 처리 과정으로 인해 대화에 지연이 발생해 자연스러운 상호작용이 어려웠다. 하지만 라이브 롤플레이는 음성 간 직접 상호작용을 통해 이런 한계를 극복해 사용자에게 실제 원어민과 대화하는 듯한 경험을 제공한다. 더 나아가 라이브 롤플레이는 사용자의 비언어적 요소까지 분석한다. 발화자의 톤, 발음, 운율 등을 실시간으로 이해하고 즉각적인 피드백을 제공해 사용자들은 더욱 효과적이고 몰입도 높은 영어 학습을 경험할 수 있다. 스픽은 라이브 롤플레이를 통해 개인화된 학습 경험을 한층 강화할 계획이다. 또 사용자의 언어 능력과 학습 패턴을 분석하는 '지식 그래프 시스템'을 도입해 실시간으로 사용자의 언어 능력을 측정할 계획이다. 이를 통해 각 개인의 수준에 맞는 대화 난이도와 적합한 문장 패턴, 어휘를 제시함으로써 학습 효과를 극대화할 예정이다. 라이브 롤플레이는 먼저 일부 사용자들을 대상으로 베타 테스트를 진행할 예정이며, 올해 말 정식 출시를 목표로 하고 있다. 코너 니콜라이 즈윅 스픽 대표는 "이번에 공개한 라이브 롤플레이 기능은 실시간 음성 인식과 자연스러운 대화를 통해 기존 언어 학습의 한계를 뛰어넘는 혁신적인 솔루션"이라며 "앞으로도 AI 기술과 교육학적 노하우를 결합해 사용자들이 자신감 있게 실제 의사소통 능력을 향상시킬 수 있는 글로벌 경쟁력을 갖춘 언어 교육 플랫폼으로 성장해 나가겠다"고 말했다.

2024.10.02 15:29백봉삼

[ZD SW 투데이] 위베어소프트, 'API 중개 및 통합 관리 시스템' 기술 특허 등록 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆위베어소프트, 'API 중개 및 통합 관리 시스템' 기술 특허 등록 위베어소프트가 응용 프로그램 인터페이스(API) 설정을 동적으로 적용하는 게이트웨이 장치 및 방법에 대한 기술로 두 번째 특허를 등록했다. 이 기술은 API 설정을 실시간으로 갱신하면서 성능 저하 없이 처리할 수 있도록 설계됐다. 이 특허는 두 개의 규칙 테이블을 활용해 스레드 간 충돌 없이 API 설정을 실시간으로 관리할 수 있는 점이 특징이다. 특히 클라우드 환경에서도 안정적인 시스템 운영이 가능하다. ◆티젠소프트, 대법원 동영상 스트리밍 솔루션 구축 티젠소프트가 대법원 차세대 전자 소송 시스템에 '동영상 등록, 변환, 스트리밍 솔루션(TG 1st Movie)'을 도입했다. 이를 통해 기술 표준 준수, 보안 강화, 사용자 편의성 증대 및 통합 검색 기능을 제공해 고객사 업무 효율성을 높일 것으로 기대된다. 'TG 퍼스트 무비(1st Movie)'는 액티브X를 사용하지 않는 방식으로 웹·모바일에서 대용량 동영상 업로드와 트랜스코딩을 지원하며 AI 기반 자막 생성 기능도 제공한다. 이 솔루션은 여러 기관 및 기업에서 안정적인 동영상 스트리밍 서비스를 제공하는 제품으로 자리잡고 있다. ◆딥브레인AI, 교보생명 오픈이노베이션 '이노스테이지 온 5' 최우수 기업 선정 딥브레인AI가 교보생명의 오픈이노베이션 프로그램인 '이노스테이지 온(ON) 5'에서 최우수 기업으로 선정됐다. 딥브레인AI는 'AI 명함', AI 추모서비스 '리메모리', 'AI 스튜디오스' 등 AI 기반 서비스들로 협업 성과를 인정받았다. AI 명함은 설계사 30명을 대상으로 제공됐다. 또 '리메모리'는 고인의 가상인간을 구현하는 제품으로, 종신보험 상품과 연계한 상용화가 검토되고 있다. 'AI 스튜디오스'는 보험 안내와 교육 영상 제작에 활용된 것으로 알려졌다. ◆셀로니스, 삼성화재해상보험과 프로세스 최적화 파트너십 확대 셀로니스가 삼성화재해상보험과 기업 확장 계약을 체결하고 '셀로니스 프로세스 인텔리전스 플랫폼'을 통해 운영 효율성을 강화하기로 했다. 이로써 프로세스 최적화와 가치 창출을 목표로 협력할 예정이다. 이번 협력은 삼성화재해상보험이 파일럿 프로젝트에 성공한 후 확대된 것으로, 확대 자동차 보험 청구 프로세스를 투명하게 분석할 수 있을 것으로 기대된다. ◆셀바스AI, '2024 에듀테크 코리아 페어'서 맞춤형 AI 교육 솔루션 전시 셀바스AI가 오는 23일부터 25일까지 서울 코엑스에서 열리는 '2024 에듀테크 코리아 페어'에 참가해 디지털 교육을 위한 맞춤형 AI 에듀테크 솔루션을 선보인다. 특히 이번 전시에서 처음 공개되는 셀바스의 AI 학습 분석 솔루션 '셀비 클래스'는 학습자 데이터를 분석해 맞춤형 튜터링과 코스웨어 기능을 제공한다. 또 맞춤형 디지털 교과서 솔루션 '셀펍'과 AI 필기 인식 솔루션 '셀비 펜' 등 다양한 제품을 통해 디지털 교육 전 과정에 필요한 핵심 솔루션을 소개한다.

2024.09.20 16:04조이환

이데아텍 "코딩 안해도 업무용 AI 개발 하는 시대 온다"

"자사 아이파스(iPaas) 플랫폼의 핵심은 GUI를 이용한 노코드 방식으로 코딩을 모르는 사람도 개발을 할 수 있다는 점입니다." 백미선 이데아텍 부대표는 3일 숭실대학교 한경직기념관에서 열린 오픈클라우드 플랫폼 서밋 2024 행사에서 '아이파스(iPaaS)를 활용한 인공지능(AI) 서비스 개발' 세션에 참가해 아이파스 및 업무용 AI 개발을 위한 API 제작에 대해 이처럼 설명했다. 아이파스는 기존 애플리케이션 및 데이터 흐름을 새로운 서비스로 연결하는 클라우드 기반 도구를 뜻한다. GUI란 그래픽 사용자 인터페이스로 기능을 사용자 입장에서 직관적으로 시각화 한 인터페이스를 뜻한다. 백 부대표는 이날 자사 제품의 강점으로 하드코딩을 하지 않아도 API, 업무용 AI 등을 개발 할 수 있는 플랫폼이란 점을 강조했다. 백 부대표는 "API, 클라우드를 넘어 아이파스라는 개념이 등장했다"며 "아이파스를 통합 관리하는 플랫폼이 필요하다고 느꼈다"고 말했다. 이어 "자사 아이파스는 하드 코딩 없이도 API 전문 변환부터 개시 및 모니터링 할 수 있는 모든 단계들을 통합적으로 관리하고 생성 가능하다는 점이 강점"이라고 덧붙였다. 이날 세션에서 백 부대표는 비즈니스 자동화에 대한 기업·개인들의 요구가 커지며 업무용AI에 대한 수요도 늘어나고 있다고 분석했다. 다만 AI는 엄청나게 많은 API를 필요로 하기 때문에 이를 모두 하드코딩 하는 것은 어렵다는 점도 지적했다. 백 부대표는 "업무용 AI를 위해선 서비스 업무 시스템과 관련된 데이터베이스와 명령들을 잘 연결해야 한다"며 "이 과정에서 쉽고 직관적인 개발방식과 아이파스가 큰 도움이 된다"고 설명했다. 백 부대표는 노코드 방식뿐만 아니라 표준 API 제공 역시 중요한 부분 중 하나임을 강조했다. 또 회사가 가지고 있는 여러가지 기술과 데이터들을 외부 디바이스에 연결하려면 결국 표준화된 방식이 많이 필요하다고 조언했다. 백 부대표는 "거대언어모델(LLM)과 AI가 진화하고 발전하면서 사람이 AI를 단순히 '사용'하는 게 아니라 이를 '활용'하는 것으로 바뀌고 있다"며 "내외부 클라우드에 대한 시스템 데이터 등 서비스들을 원활히 노코드 방식으로 연결해 결국 내가 필요한 비즈니스에 필요한 것을 만드는 것이 골자"라고 마무리했다.

2024.07.03 17:09양정민

남부발전, 차세대 전자결재 시스템 구축…생산성·업무 효율 향상

남부발전이 생산성과 업무 효율성 향상을 위한 '차세대 전자결재 시스템'을 구축하고 본격적인 운영에 나섰다. 한국남부발전(대표 이승우)은 나눔기술·캠벨·세포아소프트와 협력해 차세대 전자결재 시스템을 구축하고 3주간 안정화 기간을 거쳐 운영 단계로 전환했다고 4일 밝혔다. 차세대 전자결재 시스템은 생산성·일관성·효율성 향상이라는 전략적 목표 달성을 위해 불필요한 절차는 간소화하고 문서작성 지원과 수기 문서 전산화 기능을 강화했다. 특히 설계 단계부터 생성형 인공지능(AI)을 고려해 생성형 AI와 쉽게 연동하는 플랫폼으로 구축했다. 또 웹표준 기술과 표준 분류체계관리 적용을 통해 ▲직인 날인 신청과 날인 전산화 ▲수기 계약(서명) 전산화 기능을 구현했다. 웹한글 기안기를 기반으로 ▲문서24 연동 ▲모바일 전자결재 ▲자료요청 및 회신 기능 ▲AI 문서 요약 등을 신규 지원하도록 했다. 남부발전은 정부의 Open API 적극 활용 정책에 부응하고자 ▲국립국어원 사전 Open API ▲국가법령정보 Open API 연동으로 업무 생산성 향상은 물론 직원 만족도를 극대화했다. 이승우 남부발전 사장은 “표준을 준수하고 다양한 편의 기능과 AI 플랫폼으로의 역할까지 고려했다”며 “최신 정보통신 기술을 전략적으로 활용해 지속적인 업무 혁신은 물론 경쟁 우위를 확보하겠다”고 말했다. 한편, 남부발전은 통합검색+GPT에 이어 AI 플랫폼인 차세대 전자결재 시스템을 구축함으로써 향후 사내 생성형 AI 탑재를 통해 PC와 모바일에서도 직원이 생성형 AI를 이용할 수 있도록 할 계획이다.

2024.06.04 18:09주문정

MS 코파일럿 스택, 윈도용 앱 개발에 API로 끌어와 쓴다

마이크로소프트 코파일럿이 윈도 운영체제(OS)의 소프트웨어 스택에 들어갔다. 윈도 애플리케이션 계층에 '코파일럿 런타임'이란 AI 전용 라이브러리가 포함돼, 개발자는 자신의 윈도용 앱에 OS의 생성형 AI 관련 API와 기능을 쉽게 접목할 수 있다. 마이크로소프트는 21일(현지시간) 개막한 연례 개발자 컨퍼런스 '마이크로소프트 빌드 2024'에서 '윈도 코파일럿 런타임'을 발표했다. 윈도 코파일럿 런타임은 GPU, NPU 등 장치의 실리콘을 기반으로 구축된 애플리케이션 계층이다. 윈도와 함께 제공되는 40개 이상의 온디바이스 AI 모델 API 세트인 '윈도 코파일럿 라이브러리'를 포함한다. 개발자의 온디바이스 모델을 윈도로 가져오는데 도움을 주는 AI 프레임워크와 툴 체인도 포함한다. 개발자는 간단한 설정 토글을 이용해 접근가능한 상위 수준 API부터 자체 머신러닝 모델을 가져오는 것까지 다양한 방법으로 윈도 코파일럿 런타임을 활용할 수 있다. 윈도 셸, Win32 앱, 웹 앱 등에 걸쳐 마이크로소프트 앱과 개발자 자체 앱에서 활용가능하다. 윈도 코파일럿 라이브러리는 윈도 환경을 강화하는 온디바이스 AI 모델 API와 벡터 스토어, 알고리즘 등을 포함한다. 스튜디오이펙트, 라이브캡션트렌스레이션, OCR, 리콜 위드 유저 액티비티, 파이 실리카 등의 AI API와, DiskANN 같은 알고리즘 등을 이용할 수 있다. 파이실리카는 소형언어모델(SLM) '파이(Phi)'를 코파일럿 플러스 PC의 NPU용으로 설계한 것이다. 파이 실리카는 프롬프트 처리를 NPU로 오프로드하고, 첫번째 토큰 대기 시간은 초당 650개 토큰이며 비용은 약 1.5와트라고 회사측은 설명했다. CPU와 GPU를 다른 계산에 사용하도록 남겨두면서 전력을 공급할 수 있다. 토큰 생성은 NPU의 KV캐시를 재사용하고, CPU에서 실행돼 초당 약 27개 토큰을 생성한다. 6월부터 윈도 코파일럿 라이브러리를 이용할 수 있으며, 향후 벡터 임베딩, 검색증강생성(RAG), 텍스트 요약 등의 기타 API가 새로 제공될 예정이다. 다이렉트ML, ONNX 런타임, 파이토치, WebNN 같은 AI 프레임워크, 올리브 같은 툴 체인, 비주얼스튜디오코드용 AI 툴킷 등을 활용해 개발자 자체 모델을 가져오고 윈도 하드웨어 생태계 전반에 AI 앱을 확장할 수 있다. 윈도 코파일럿 런타임은 20일 공개된 마이크로소프트의 '코파일럿 플러스 PC'의 다양한 생선형 AI 기능에 먼저 활용됐다. 사용자가 PC에서 본 모든 것을 즉시 찾도록 도와주는 리콜(Recall), AI 이미지 생성기 '코크리에이터', 사진 앱에서 스타일을 생성할 수 있는 '리스타일이미지', 윈도 스튜디오 효과, 라이브 캡션 등의 기능 등이다. 개발자는 코드 작업 없이 윈도 코파일럿 라이브러리르 활용해 크리에이티브 필터, 인물 사진 조명, 아이컨택트 텔레프롬프터, 인물사진 흐림, 음성 초점 같은 앱에 스튜디오 이펙트를 통합할 수 있다. 왓츠앱이 윈도 스튜디오 효과 컨트롤을 UI에 추가했다. 윈도 라이브캡션 기능을 개발자의 앱에 활용해 오디오와 비디오를 실시간으로 번역해 앱의 기본언어로 자막을 제공할 수 있다. 유저액티비티 API를 활용하면 기본 벡터 데이터베이스에 상황별 정보를 추가해 앱에 대한 회상 경험을 높일 수 있다. 사용자가 앱에서 중단한 위치를 선택하기 쉽게 하고, 윈도와 앱 간 원활한 작업 흐름을 만드는데 도움을 준다. 파워포인트와 팀즈가 리콜로 앱을 확장했다. 마이크로소프트는 윈도 검색에 의미 기반 검색 기능을 추가했다.'윈도 시맨틱 인덱스(Windows Semantic Index)'다. 벡터 임베딩 API로 개발자는 앱 데이터를 사용해 자체 벡터 저장소와 RAG를 구축하게 해준다. 리콜 데이터베이스는 윈도 시맨틱 인덱스로 구동된다. 리콜은 다중모드 SLM을 포함해 동시에 실행되고 OS 자체에 통합된 여러 첨단 AI 모델을 기반으로 한다. 모델은 다양한 종류의 콘텐츠를 이해하고, 여러 언어로 작동해 윈도에서 텍스트, 이미지, 비디오에 이르는 정보를 이해한다. 이 데이터는 윈도 시맨틱 인덱스란 벡터 저장소에 저장된다. 시맨틱 인덱스는 사용자의 데이터베이스에만 저장된다. 마이크로소프트는 다이렉트ML을 통해 윈도에서 파이토치를 네이티브로 지원한다고 밝혔다. DML은 허깅페이스 내 수천개 모델을 윈도에서 즉시 사용하게 한다. 마이크로소프트는 또한 다이렉트ML을 통해 윈도에서 '웹뉴럴네트워크(WebNN)' 개발자 프리뷰를 제공한다. 이는 웹개발자가 윈도 장치 AI용 실리콘의 이점을 이용하게 한다. 다이렉트ML은 윈도의 머신러닝을 위한 고성능 하위수준 API다. 다이렉트ML은 윈도 하드웨어 파트너의 다양한 옵션을 추상화하고, GPU와 NPU 전반을 지원한다. 곧 CPU 통합도 제공될 예정이다. ONNX 런타임, 파이토치, WebNN 같은 프레임워크와 통합된다. 다이렉트ML은 모든 윈도 GPU에서 사용할 수 있다. 인텔 AI 부스트를 탑재한 인텔 코어 울트라 프로세서 지원은 곧 개발자 프리뷰로 제공되고, 스냅드래곤X 엘리트 SoC의 퀄컴 헥사곤 NPU도 곧 출시된다. 리눅스용윈도서브시스템(WSL)은 엔터프라이즈급 보안 요건을 충족하도록 개선됐다. 제로트러스트 기능인 '리눅스 인튠 에이전트'와 '마이크로소프트 엔트라ID'와 통합된다. 마이크로소프트는 Arm용 윈도의 개발자 생태계 강화도 이어갔다. 비주얼스튜디오가 'Arm 기본 SQL서버 개발자도구(SSDT)'를 포함한다. 닷넷8에 Arm 관련 성능 개선 사항이 포함됐고, 유니티 게임 편집기가 미리보기로 제공된다. 윈도용 Arm 네이티브 도커 도구를 사용할 수 있다.

2024.05.22 02:02김우용

세일즈포스 "AI 시대에도 통합과 연계는 중요한 과제"

“AI 시대에 통합과 연계는 여전히 중요한 과제다. 기업의 개발자가 번아웃을 일으키는 주요 요건 중 하나가 통합, 연계, 자동화 같은 일 때문에 생산적인 일에 몰두하지 못하기 때문이다.” 세일즈포스코리아 이성 상무는 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 세일즈포스 뮬소프트는 얼마전 자동화 및 디지털 통합 현황과 AI 전략 구축 인사이트를 담은 '2024 연결성 벤치마크' 보고서를 발표했었다. 뮬소프트의 이번 보고서는 미국, 영국, 프랑스, 일본 등 전 세계 9개국의 1천50명의 CIO 및 IT 부문 리더들을 대상으로 작년 10월부터 11월까지 진행한 연구조사에 기반한다. 조직 내 IT 부문 리더 중 85%는 AI를 통해 개발자의 업무 생산성이 향상할 것이라고 응답했다. 반면, AI의 중요성에도 불구하고 62%는 조직에서 아직 AI 활용에 필요한 데이터 시스템 통합이 준비되어 있지 않다고 답했다. 보고서에 따르면, 기업의 운영 효율성, 생산성, 직원 및 고객경험 향상 등을 위한 성공적인 AI 전략은 데이터 통합에 달린 것으로 나타났다. 설문 응답자의 80%는 이미 조직 내에서 생성형 AI 또는 예측형 AI를 활용하고 있는 가운데, 근 3년 내 조직이 활용하고 있는 LLM 수가 69% 이상 늘어날 것이라고 예상했다. 기업 내 데이터 및 시스템에 연동된 앱은 약 28%에 불과했으며, 응답자의 95% 이상은 기업의 AI 도입에 시스템, 장치, 소프트웨어, 데이터 소스 등의 '디지털 통합'이 당면과제라고 답했다. 이성 상무는 “평균적으로 기업이 보유한 애플리케이션 수가 900여개 정도라고 하는데, 트랜잭션 한번 일어날 때마다 32개 시스템을 연결해야 한다”며 “투자 비용은 늘지 않지만, 점점 더 많은 기술 스택을 지원해야 하는 과제 때문에 통합의 복잡성은 중요한 문제가 되고 있다”고 말했다. 그는 뮬소프트의 API 관리와 통합 영역을 설명하면서 복잡한 시스템 연계를 어떻게 자동화할 수 있는지 설명했다. 그는 “뮬소프트는 API를 레이어별로 구분해 느슨하게 연계하는 방식으로 기술을 지원하고 있다”며 “이를 통해 타임투마켓에 맞춰 애플리케이션을 개발한 다음에 API를 땡겨가면 되므로 실제로 전체적인 영향도나 안정성 이에 대해서 시간을 최소화하고, API 재사용성을 극대화할 수 있다”고 밝혔다. AI 도입 및 통합된 고객경험을 제공하기 위해서는 데이터 사일로 해결이 급선무인 것으로 나타났다. 조사 결과, 81%의 IT 리더는 데이터 사일로가 디지털 혁신에 있어 가장 큰 어려움이라고 답했으며, 약 26%만이 전체 디지털 채널에서 연결된 사용자 경험을 제공하고 있다고 밝혔다. 이와 관련해 뮬소프트는 AI를 도입하고 운영하기 위해서 모든 비즈니스 데이터를 통합할 수 있는 시스템의 필요성이 증가하고 있다고 설명했다. 뮬소프트는 노코드 기반의 자동화, API, 데이터 및 시스템 통합을 지원하는 유니파이드 플랫폼으로 새로운 장치, 소프트웨어, 버전 및 데이터 소스를 쉽고 빠르게 통합 및 연동할 수 있도록 지원한다. 이를 통해 기업은 빠르게 변화하는 내·외부 환경에도 민첩한 대응 역량을 확보할 수 있다. 지난 18년간 뮬소프트는 글로벌 생활용품 기업 유니레버, 유럽 항공기 제작사 에어버스, 미국의 통신사인 AT&T, 프랑스의 보험 금융 그룹 AXA, 스포츠 브랜드 아식스 등 전 세계 기업의 디지털 혁신을 지원했다.

2024.04.17 16:59김우용

Prev 1 Next