ZDNet 검색 페이지

'미스트랄'통합검색 결과 입니다. (33건)

"기업 환경에 LLM 특화"…미스트랄AI, 미세조정 SDK 공개

미스트랄AI가 대규모언어모델(LLM)의 성능을 개선하거나 기업에 특화할 수 있도록 기술 지원을 제공한다. 미스트랄은 5일(현지시간) AI모델 미세 조정을 위한 소프트웨어 개발 키트(SDK)인 미스트랄 파인튠(Mistral-Finetune)을 출시했다. 깃허브를 통해 공개된 미스트랄 파인튠는 미스트랄의 AI 모델을 워크스테이션, 서버 및 소규모 데이터 센터 노드 등 다양한 인프라에 최적화할 수 있도록 지원한다. 공개된 내용에 따르면 해당 SDK는 다중 GPU 설정에 최적화되어 있지만 미스트랄 7B와 같은 소형 모델을 미세 조정하기 위해 엔비디아 A100 또는 H100 GPU 단일 모델로 설정을 변경하는 것도 가능하다. 예를 들어 오픈AI의 챗GPT를 사용한 140만 개의 대화 모음인 울트라챗과 같은 데이터 세트를 미세 조정하는 과정은 8개의 H100 GPU를 활용해 약 30분 만에 완료할 수 있다. 보다 효율적인 AI 개발을 위해 '라 플랫폼'과 같은 유로 개발 서비스와 연계한 작업도 가능하다. 라플랫폼을 활용하면 특정 요구 사항에 맞게 모델을 정의하거나 교육하는 API를 호출해효과적으로 AI를 개발할 수 있다. 미스트랄은 몇 주에 걸쳐 미세 조정 서비스에 새로운 모델을 추가할 예정이라고 밝혔다. 이와 함께 미스트랄은 SDK를 효율적으로 활용할 수 있도록 지원하기 위한 교육 서비스를 함께 제공한다. 교육서비스에는 기업의 자체 데이터를 사용해 미스트랄 AI 모델을 미세조정하는 커리큘럼이 포함돼 보다 효율적이고 전문적으로 AI를 활용할 수 있는 방법을 제시한다. 미스트랄 AI 팀은 "우리는 개발자에게 강력한 개방형 생성 모델을 제공하고 이를 효율적으로 사용할 수 있는 방법을 제공한다"고 강조했다.

2024.06.06 15:00남혁우

SAP "생성형 AI로 비즈니스에 독창성 불어넣겠다"

SAP가 생성형 인공지능(AI)으로 글로벌 비즈니스에 새로운 독창성을 불어넣겠다고 선언했다. 이를 위해 엔터프라이즈 클라우드 포트폴리오 전반에 '비즈니스 AI'를 도입하고, 글로벌 빅테크와 협력을 확대할 방침이다. SAP는 4일(현지시간) 미국 플로리다 올랜도에서 SAP 연례 컨퍼런스 'SAP 사파이어' 행사를 개최했다. 이번 행사에서 AI 시대에 비즈니스를 한 단계 더 발전시키는 방법을 보여주는 혁신적인 AI 혁신과 파트너십을 공개했다. 크리스찬 클라인 SAP 최고경영자(CEO)는 엔터프라이즈 솔루션 전반에 비즈니스 AI를 탑재한다고 발표했다. 우선 보상 추천 기능으로 인사 관리자를 지원하는 SAP 석세스팩터스의 AI 생성 보고서와 판매가 가장 높을 것으로 예측되는 영업사원과 제품의 조합을 예측하는 SAP 세일즈 클라우드의 예측 기능에 우선 AI를 배치할 방침이다. SAP의 자연어 생성형 AI 코파일럿 솔루션 '쥴'도 SAP솔루션 포트폴리오 전반으로 확대한다. 쥴은 여러 시스템의 데이터를 신속하게 정렬하고 맥락화함으로써 스마트한 통찰력을 제공하는 생성형 AI다. 지난해 가을 SAP 석세스팩터스 솔루션에 도입됐다. 현재 SAP S/4HANA 클라우드 솔루션과 SAP 빌드, SAP 통합 스위트 등에도 탑재된 상태다. SAP은 "올해 연말까지 SAP 아리바와 SAP 애널리틱스 클라우드 솔루션에 쥴을 적용할 예정"이라고 밝혔다. 이 회사는 더욱 풍부한 인사이트를 제공하고자 쥴을 마이크로소프트 365의 코파일럿과 통합해 쥴 활용 범위를 확장할 계획도 발표했다. 사용자는 SAP와 마이크로소프트 365의 비즈니스 애플리케이션 상호작용을 경험할 전망이다. "파트너십으로 기존 AI 기술 뛰어넘을 것" SAP은 빅테크와 추가 파트너십을 맺을 계획도 알렸다. 이를 통해 생성형 AI가 엔터프라이즈 수준에서 구현할 수 있는 한계를 뛰어넘겠단 목표다. 회사는 기존 파트너사인 AWS 및 마이크로소프트와의 협력 확대와 더불어 구글 클라우드, 메타, 미스트랄 AI, 엔비디아와의 파트너십을 통해 솔루션을 빠른 속도로 혁신하고 더욱 풍부한 실제 결과를 제공하겠다고 밝혔다. 우선 구글 클라우드와 파트너십을 확대해 비즈니스 AI로 기업이 공급망 리스크를 더 잘 예측하고 완화할 방침이다. 이를 통해 운영 중단을 최소화하고 최적의 재고 수준을 유지할 수 있도록 지원한다. 양사는 쥴 및 SAP 공급망용 통합 비즈니스 플래닝에 구글 클라우드의 제미나이 모델 AI 어시스턴트와 구글 클라우드 코텍스 프레임워크의 데이터 기반을 통합할 예정이다. SAP은 메타의 라마 3로 SAP 애널리틱스 클라우드에서 고도로 맞춤화된 분석 애플리케이션을 렌더링하는 스크립트를 생성한다. 미스트랄 AI의 새 LLM도 SAP AI 코어의 생성형 AI 허브에 추가할 예정이다. SAP와 엔비디아는 엔터프라이즈급 비즈니스 애플리케이션에 최첨단 기술을 탑재하기 위해 제품 간 파트너십을 강화한다고 발표했다. SAP가 쥴을 라이즈 위드 SAP 구현을 위한 AI 어시스턴트 역할을 하도록 훈련시키면, 엔비디아의 최첨단 AI 모델이 SAP 컨설팅 자산을 선별해 구현 관련 질문에 대한 관련성 있고 정확한 답변을 제공할 수 있다. 쥴이 ABAP 클라우드 모델서 SAP 개발자를 위한 ABAP 코드를 생성하면, 엔비디아의 가속화된 인프라는 ABAP 코드 생성을 위한 SAP의 생성 AI 모델을 실행, 확장 및 관리할 방침이다. SAP가 SAP 인텔리전트 제품 추천 솔루션에 생성형 AI를 도입함에 따라, 엔비디아 옴니버스 클라우드 API는 복잡한 제조 제품 및 구성을 산업용 디지털 트윈으로 시뮬레이션할 수 있도록 지원할 예정이다. 크리스찬 클라인 CEO는 "사파이어 2024에서 발표한 혁신적인 비즈니스 AI가 업무 방식 전반에 변화를 가져올 것"이라며 "SAP는 빠르게 변화하는 비즈니스 환경에서 고객이 민첩함과 독창성을 발휘할 수 있도록 실제 성과에 기여하는 혁신 기술을 제공하겠다"고 강조했다.

2024.06.05 14:33김미정

미스트랄AI, 코드 생성하는 모델 공개…"큰 매력은 없어"

사람과 대화하면서 코드를 설계하고 코드베이스 질문에 답까지 하는 인공지능(AI) 모델이 나왔다. 다만 일각에선 해당 모델이 개발 환경에 큰 도움을 주진 못할 것이란 반응이다. 29일(현지시간) 테크크런치는 프랑스 스타트업 미스트랄AI가 코드 설계용 생성형 AI 모델 '코드스트랄'을 출시했다고 보도했다. 개발자는 코드스트랄과 자연어로 대화하면서 코드 작성 도움을 받을 수 있다. 이 모델은 파이썬을 비롯한 자바, C++, 자바스크립트 등 80개 넘는 프로그래밍 언어를 학습했다. 코딩 함수를 만들거나 테스트 작성, 부분 코드 생성을 할 수 있다. 영어로 코드베이스에 대한 질문에 답변까지 할 수 있는 특장점도 갖췄다. 외신은 이번 모델이 큰 가치가 없을 수 있다고 지적했다. 우선 일반 노트북이나 컴퓨터로 이 모델을 이용할 수 없다. 테크크런치는 "이 모델은 220억개 매개변수로 이뤄졌다"며 "이 모델을 실행하려면 강력한 PC가 필요하다"고 했다. 이어 "일부 벤치마크에서 경쟁사 모델보다 높은 점수를 보였지만, 압도적이진 않다"고도 말했다. 생성형 AI의 코드 작성 오류에 대한 지적도 나왔다. 외신에 따르면, 몇년 동안 생성형 AI로 인해 잘못된 코드가 코드베이스에 들어가는 빈도가 높아진 것으로 나타났다. 올해 퍼듀대는 오픈AI의 챗GPT가 프로그래밍 질문에 제공하는 답변 중 절반 이상이 잘못됐다고 밝힌 바 있다. 다만 외신은 이러한 결함 때문에 미스트랄AI 등 기업이 코드 설계용 모델 개발을 멈추진 않을 것으로 봤다. 미스트랄AI는 "코드스트랄을 랭체인을 비롯한, 라마인덱스, 탭나인 같은 앱 프레임워크와 개발 환경에 구축하기 위해 노력할 것"이라고 밝혔다.

2024.05.30 11:24김미정

구글·오픈AI 등 빅테크, 모델 내 유해 이미지 차단 나서

글로벌 인공지능(AI) 기업이 AI 모델 내 유해한 이미지 데이터셋을 최소화하기 위해 나섰다. 특히 아동 성적학대 자료(CSAM)를 포함한 데이터셋이 모델 학습에 이용되지 않도록 할 방침이다. 24일 더 버지 등 IT 외신은 구글을 비롯한 메타, 오픈AI, 앤트로픽 등 AI 기업이 CSAM 확산 제한에 서명했다고 보도했다. 서명 기업들은 학습 데이터셋에 CSAM이 들어갔는지 확인해야 한다. CSAM 포함 가능성 있는 데이터셋은 모델 학습에서 제외다. 데이터셋에 CSAM 이미지나 관련 링크 발견 즉시 제거해야 한다. 자사 AI 모델이 CSAM 이미지를 생성하지 않도록 별도 테스트도 거치기로 했다. 이에 대한 평가가 완료된 모델만 시중에 나올 수 있다. 이번 서명에 구글, 메타 등 빅테크뿐 아니라 스태빌리티AI, 미스트랄AI 등 스타트업도 동참한 것으로 전해졌다. 그동안 이미지 생성 AI는 온라인에서 딥페이크를 비롯한 CSAM 확산을 부추겼다. 관련 보고서도 나왔다. 미국 스탠퍼드 연구진은 지난해 12월 개발에 가장 많이 사용되는 데이터셋에 CSAM 이미지 링크가 들어있다는 보고서 결과를 발표했다. 특히 아동 성 착취 자료 확산 방지를 위해 활동하는 미국 국립실종학대아동센터(NCMEC)는 AI가 생성한 CSAM 처리에 애를 먹고 있다. 이번 원칙은 미국 아동학대 방지 비영리단체 올 테크 이즈 휴먼도 참여한다. 단체 측은 "AI 이미지 생성은 CSAM 수요를 올리고 아동에 피해를 준다"며 "현실에서 아동 피해자 식별까지 방해할 수 있는 결과를 낳을 것"이라고 더 버지를 통해 전했다. 구글 수잔 제스퍼 신뢰 및 안전 솔루션 담당 부사장은 "일반 사람들이 악용 사례를 식별, 신고할 수 있는 도구도 곧 제공할 것"이라고 공식 블로그에서 밝혔다.

2024.04.24 15:28김미정

오픈소스 AI 모델 경쟁 치열…"AI 생태계 확장 기여"

메타가 오픈소스 생성형 인공지능(AI) 모델 '라마3'를 공개하면서 기업 간 오픈소스 모델 경쟁이 더 치열해졌다. 올해 초 구글을 비롯한 스태빌리티AI, 미스트랄AI, xAI 등 해외 빅테크와 스타트업이 새 오픈소스 모델을 연달아 출시해서다. 21일 업계에 따르면 메타는 라마3 시리즈를 공개했다. 라마3는 AI 학습지표인 매개변수 80억개(8B) 버전과 700억개(70B) 버전으로 우선 제공된다. 특히 70B 버전은 수학을 비롯한 물리학, 역사 등을 종합적으로 평가하는 다중작업언어이해(MMLU) 평가에서 79.5점을 기록했다. 구글 제미나이 프로 점수보다 높다. 메타는 라마 시리즈로 오픈소스 생성형 AI 생태계를 확장해 왔다. 라마 시리즈 설계도도 공개된 상태다. 개발자는 이를 원하는대로 개조할 수 있다. 특히 경량화 모델이라 비용효율적이다. 메타는 이를 폐쇄형 모델인 오픈AI의 GPT와 구글의 제미나이 시리즈와 본격 경쟁할 전략이다. 이달 초 프랑스 AI 스타트업 미스트랄AI도 '믹스트랄 8x22B'를 오픈소스로 공개했다. 매개변수는 1천760억 개로, 한 번에 처리할 수 있는 텍스트 양은 6만5천 토큰이다. 벤치마크에서 이전 모델 '믹스트랄 8X7B', 메타의 '라마2 70B', 오픈AI의 'GPT-3.5'보다 높은 점수를 받은 것으로 전해졌다. 일론 머스크 테슬라 최고경영자(CEO)도 오픈소스 모델 경쟁에 뛰어들었다. 머스크의 xAI가 지난달 '그록-1'과 '그록-1.5'를 연달아 오픈소스 형태로 공개하면서다. 특히 그록-1.5는 기존 버전보다 16배 긴 문장을 처리할 수 있는 거대언어모델(LLM)이다. xAI는 각종 벤치마크 테스트에서 오픈AI의 GPT 모델과 엔트로픽의 클로드3 수준을 뛰어넘는 그록-1.5 점수를 공개하기도 했다. 올 초 구글도 오픈소스 경쟁에 뛰어들었다. 2월 자사 생성형 AI 모델 제미나이 기반으로 오픈소스 모델 '젬마'를 출시했다. 2B 버전과 7B 버전으로 제공된다. 모두 상업용으로 이용 가능하다. 당시 구글은 "젬마 7B 모델이 메타의 라마2 7B 모델보다 추론, 코드에서 앞섰다"고 공식 블로그를 통해 밝히기도 했다. 이 외에도 스태빌리티AI, 마이크로소프트 등 빅테크와 스타트업이 오픈소스 모델 경쟁 대열에 합류하는 추세다. 기업이 오픈소스 모델로 경쟁만 하지 않는다. 오픈소스 AI 생태계 확장을 위해 서로 타협하고 있다. 지난해 12월 IBM, 메타, 인텔 등 기업을 비롯해 산업계, 스타트업, 학계, 연구기관 등이 모여 'AI 얼라이언스'를 세웠다. AI 얼라이언스는 AI의 개방형 혁신과 연구를 지원하기 위한 단체다. 여기에 오픈소스 AI 모델 개발 지원도 포함됐다. 이를 통해 전 세계 인류에 혜택을 극대화하기 위함이다. 현재 기업·기관 등 100여곳이 이 얼라이언스에 가입한 상태다. 얀 르쿤 메타 수석AI과학자도 "오픈소스 AI 활성화가 AI 개발 속도를 더 올릴 수 있다"며 "모든 개발자와 기업들이 AI 문제점을 개선할 수 있을 뿐 아니라 기술 발전과 보안성까지 가속할 수 있다"고 올해 초 미국 월간지 와이어드 인터뷰에서 밝혔다.

2024.04.21 07:59김미정

미스트랄AI, 기업 가치 6조 넘어…신규 투자 유치 시작

프랑스 인공지능(AI) 스타트업 미스트랄AI가 회사 가치를 50억 달러(약 6조8천750억원)로 정하고 신규 투자 유치를 시작한 것으로 전해졌다. 18일 미국 디인포메이션에 따르면 미스트랄AI는 본격적인 매출 상승을 위해 이같은 계획을 추진하고 있는 것으로 알려졌다. 이 기업은 현재 '미스트랄 라지'를 제외하고 모든 거대언어모델(LLM)을 오픈소스로 제공하고 있다. 유럽 고객 대상으로 자사 AI 모델 사용을 늘리는 것을 겨냥했다. 디인포메이션은 미스트랄 모델이 개발자들 사이에서 높은 평가를 받고 있다고 설명했다. 외신은 이 회사가 오픈AI, 구글 등 빅테크와 경쟁하기 위해 대규모 자금이 필요할 것으로 보인다고 분석했다. 지난해 12월 미스트랄AI의 기업 가치는 20억 달러(약 2조7천억원)였다. 당시 4억1천500만 달러(약 5천700억원) 규모 투자도 받았다. 특히 마이크로소프트가 미스트랄AI의 지분 일부를 확보했다. 클라우드 서비스 '마이크로소프트 애저'에 AI 모델을 적용하기 위함이다.

2024.04.18 15:43김미정

"신형 LLM 쏟아진다"…오픈AI 이어 미스트랄도 新 무기 공개

'프랑스판 오픈AI'로 불리는 미스트랄AI가 새로운 거대언어모델(LLM)을 앞세워 메타, 오픈AI 등 글로벌 거물들과의 본격 경쟁에 나선다. 12일 미국 지디넷, 영국 가디언 등 일부 외신에 따르면 미스트랄AI는 지난 9일(현지 시간) 새로운 LLM인 '믹스트랄 8x22B(Mixtral 8x22B)'를 공개했다. 이는 이전 모델인 '믹스트랄 8X7B'뿐만 아니라 벤치마크(성능평가)에서 메타의 '라마2 70B', 오픈AI의 'GPT-3.5'의 성능을 뛰어 넘는 것으로 평가됐다. 믹스트랄 8X22B의 매개변수(파라미터)는 1천760억 개로, 한 번에 처리할 수 있는 텍스트의 양은 6만5천 개 토큰(문장의 최소 단위)이다. 용량은 281GB(기가바이트)다. 미스트랄AI는 AI 모델을 오픈소스로 공개해 누구나 다운로드 받을 수 있게 했다. 2023년 5월 설립된 미스트랄AI는 메타, 구글 출신 엔지니어들이 설립해 10개월 만에 약 5억 유로(약 7천억원)의 투자금을 모아 주목 받았다. 시장에선 20억 달러(약 2조6천600억원)의 가치가 있다고 평가했으며 마이크로소프트(MS)와도 파트너십을 체결한 상태다. MS는 미스트랄AI에 1천500만 유로(약 1천610만 달러)를 투자한 바 있다. 미스트랄 AI가 집중하는 분야는 LLM으로, 앞서 70억 개의 매개변수를 가진 LLM인 '미스트랄 7B'를 오픈소스로 공개하며 시장에 존재감을 알렸다. 또 지난 2월에는 사용량에 따라 비용을 내야 하는 기업용 모델인 '미스트랄 라지'도 선보인 바 있다. 이번에 공개한 믹스트랄 8x22B는 미스트랄 AI의 X(트위터)에 게시된 토렌트 링크를 통해 이용 가능하다. 허깅페이스와 투게더 AI 플랫폼에서는 추가 학습 및 배포에 사용할 수 있다. 다만 다운로드 파일의 크기가 262GB로 다소 크기 때문에 로컬에서 실행하기 어려울 수 있다는 지적도 있다. 미스트랄의 이 같은 움직임은 최근 오픈AI가 최신 GPT-4 터보 모델인 'GPT-4 터보 위드 비전'과 구글의 '제미나이 프로 1.5'를 출시한 가운데 이뤄졌다는 점에서 주목된다. 이에 맞서 메타도 이르면 이달 말께 '라마 3' 모델을 선보일 것으로 알려졌다. 특히 오픈AI가 지난 9일 공개한 'GPT-4 터보 위드 비전'은 한 번의 API 호출만으로 멀티모달 기능을 사용할 수 있게 됐다는 점에서 업계의 관심을 끌고 있다. 이전에는 개발자가 텍스트와 이미지에 대해 별도의 모델을 사용해야 했다. GPT-4의 비전 기능은 지난해 9월 발표됐으며, GPT-4 터보는 같은 해 11월 오픈AI 개발자 컨퍼런스에서 발표됐다. GPT-4 터보는 속도 개선과 최대 12만8천 토큰을 제공한다. 업계 관계자는 "이번 발표는 오픈AI가 차기 모델 출시를 기다리는 동안 이뤄졌다는 점에서 주목된다"며 "GPT-4 터보 고도화를 통해 잠재 기업 고객의 접근성을 유지하고 시장 점유율을 확대하려는 전략으로 보인다"고 말했다.

2024.04.12 09:32장유미

높아지는 오픈소스 AI 모델 선호도…"GPT-4 인기는 독보적"

올해 오픈소스 인공지능(AI) 모델 활용도가 지난해보다 늘 것이라는 보고서 결과가 나왔다. 그럼에도 폐쇄형 모델인 오픈AI의 GPT-4 인기는 독보적일 것이란 전망이다. 8일(현지시간) 미국 비즈니스 월간지 포춘은 이같은 조사 결과를 보도했다. 미국 벤처캐피털 기업 에이식스틴제트가 내놓은 설문조사를 근거로 삼았다. 조사 대상은 500대 포춘 기업서 종사하는 최고경영자(CEO) 70명이다. 지난해 기업들은 폐쇄형 모델로 생성형 AI 기능을 테스트한 것으로 전해졌다. 응답자는 "AI 테스트를 위해 오픈AI의 GPT-3.5나 GPT-4를 주로 활용했다"고 답했다. 조사에 따르면 2023년 폐쇄형 소스모델 시장점유율은 약 90%다. 이중 다수는 오픈AI의 GPT 모델 군이다. 보고서는 올해 기업들이 생성형 AI 구축 방법을 다각화할 것으로 봤다. 모델 2개 이상을 비교하면서 가장 업무에 유용한 모델을 채택하는 식이다. 이때 활용되는 모델 다수가 오픈소스 형태일 것으로 전망했다. 조사 결과 응답자 46%가 "오픈소스 모델을 선호하거나 매우 선호한다"고 답했다. "기업 정보 제어·맞춤 기능 만족"...라마·미스트랄 선호도 높아 에이식스틴제트는 오픈소스 모델 선호도가 올해 본격적으로 높아질 것으로 봤다. 메타의 '라마2'와 미스트랄AI의 '미스트랄'이 가장 인기 많은 모델인 것으로 나타났다. 조사를 진행한 에이식스틴제트 사라 왕은 오픈소스 모델 인기 이유를 저렴한 비용보다 정보 제어, 맞춤형 기능으로 꼽았다. 보통 오픈소스 모델은 GPT-4 같은 폐쇄형 모델보다 저렴하다. 예를 들어, 메타의 라마2는 영어 기준 100만 토큰 생성에 오픈AI의 GPT-4보다 최대 20배 저렴하다. 사라 왕 연구원은 기업들이 비용 때문에 오픈소스 모델 활용도를 높인 건 아니라는 입장이다. 왕 연구원은 "기업이 오픈소스 모델로 자사 정보를 제어할 수 있다는 점을 높이 산다"고 주장했다. 오픈소스 모델이 폐쇄형 모델보다 데이터 활용 내역을 투명하게 제공한다는 이유에서다. AI 결과물에 대한 이유를 직접 확인할 수 있다는 점도 알렸다. 그는 "폐쇄형 모델과 달리 오픈소스 모델은 어떤 과정으로 결과물을 생성했는지 근거를 보여준다"며 "사용자는 AI 생성물에 대한 이해도를 높일 수 있다"고 설명했다. 기업이 오픈소스 모델로 맞춤형 AI 시스템을 구축할 수 있다는 점도 이유다. 사라 왕은 "기업은 특정 업무에 맞게 AI를 활용할 수 있다는 점을 만족스러워한다"고 했다. "GPT-4, 실제 산업서 인기 여전" 보고서는 오픈AI의 GPT-4가 실제 산업에 가장 많이 적용됐다고 했다. 폐쇄형 모델 사용자 약 90%는 자사 AI 시스템에 GPT-3.5나 GPT-4를 활용했다고 응답해서다. 사라 왕은 향후 GPT-4 모델 사용률이 낮아지지 않을 것이라고 했다. 오히려 기업은 오픈소스와 폐쇄형 모델을 혼합할 것으로 내다봤다. 그는 "AI 모델 전환 비용은 낮다"며 "기업은 오픈소스 모델과 폐쇄형 모델을 혼합해 지속적으로 연구개발을 할 가능성이 높다"고 설명했다. 사라 왕은 GPT-5에 대한 전망도 했다. GPT-5 출시가 곧 이뤄질 것이라는 입장이다. 그는 "오픈AI가 모델 시장 점유율을 굳건히 지킬 것"이라며 "GPT-5 공개를 늦추지 않을 것"이라고 했다. 알리 고드시 데이터브릭스 CEO도 올해 오픈소스 AI 모델 활성화를 기대한다는 입장이다. 고드시 데이터브릭스 CEO는 "매력적인 폐쇄형 모델이 시장에 나와도 오픈소스 모델 인기는 식지 않을 것"이라고 포춘지를 통해 설명했다.

2024.04.09 17:04김미정

GPT-3.5, 스트리트파이터3로 GPT-4 꺾었다

오픈AI의 GPT-3.5 터보가 GPT-4 등 상위 인공지능(AI) 모델을 꺾고 스트리트파이터3 챔피언에 올랐다. 14개 대규모언어모델(LLM)들이 각축을 벌인 스트리트파이터3 게임 대회에서 'GPT-3.5'가 우승을 차지했다고 PC게이머 등 외신들이 최근 보도했다. 보도에 따르면 미국 샌프란시스코에서 개최한 미스트랄 AI SF 해커톤에서 LLM간 이벤트 매치가 열렸다. 비디오게임 스트리트파이터3를 학습해 치러진 이번 대회는 LLM이 실제 업무에서 어떤 성과를 낼 수 있는지 시각적으로 확인할 수 있도록 마련됐다. 단기간에 치러진 대회인 만큼 학습시간을 줄이기 위해 캐릭터는 켄으로 제한됐다. 승부에 참여한 LLM은 화면을 인식할 수 있도록 텍스트 설명이 제공되며 캐릭터와 상대의 동작 그리고 양쪽의 체력바를 학습해 대회가 치러졌다. 오픈AI의 GPT-3.5 및 GPT-4과 다양한 버전의 미스트랄 LLM 등 총 14종의 LLM이 경합을 벌인 결과 GPT-3.5 터보버전이 최종 우승을 차지했다. 이어서 미스트랄 스몰 파이널버전이 뒤를 이었다. 기본 성능이 더 높은 GPT-4와 미스트랄 AI 상위 모델이 오히려 하위권을 기록해 눈길을 끌기도 했다. 이에 대해 미스트랄 AI의 운영진은 각 AI가 갖는 특성이 게임에 영향을 미쳤다고 설명했다. 모델의 크기가 작으면 대기 시간과 속도에 이점을 가질 수 있는 만큼 게임에서 유리해질 가능성이 크다는 설명이다.

2024.04.08 14:11남혁우

데이터브릭스, 미스트랄AI에 투자…플랫폼에 모델 통합

데이터브릭스는 유럽의 생성형 AI 솔루션 기업인 미스트랄 AI와 파트너십을 체결하고 시리즈 A 투자에 참여한다고 18일 밝혔다. 양사는 이 파트너십을 통해 데이터브릭스의 데이터 인텔리전스 플랫폼에 기본적으로 통합된 미스트랄 AI의 개방형 모델을 제공한다는 방침이다. 데이터브릭스 고객은 오픈 마켓플레이스인 데이터브릭스 마켓플레이스에서 미스트랄 AI의 모델에 접근하고, 데이터브릭스 콘솔에서 사용 가능한 모자이크 AI 플레이그라운드(에서 모델과 상호 작용할 수 있다. AI 구축, 관리 및 쿼리 통합 서비스인 모자이크 AI 모델 서빙을 통해 미스트랄 AI의 모델을 최적화된 모델 엔드포인트로 사용하고, 고객의 자체 데이터에 맞게 커스터마이징할 수 있다. 고객은 데이터 인텔리전스 플랫폼에 통합된 미스트랄 AI 모델을 즉시 사용할 수 있으며, 기업이 데이터브릭스 플랫폼의 핵심인 보안, 데이터 프라이버시 및 거버넌스를 저해하지 않으면서도, 자체적인 생성형 AI 애플리케이션을 위해 미스트랄 AI의 모델을 신속하게 사용할 수 있도록 지원한다. 믹스트랄 7B 및 믹스트랄 8x7B을 포함한 미스트랄 AI의 개방형 모델은 데이터브릭스 플랫폼에 완전히 통합된다. 아서 멘쉬 미스트랄 AI 설립자 겸 CEO는 “데이터브릭스와 전략적 제휴로 모두를 위한 생성형 AI의 이동성, 개방성 및 접근성을 향상하겠다는 양사의 의지를 재확인하게 돼 기쁘다”며 “미스트랄 AI의 모델을 데이터브릭스의 데이터 인텔리전스 플랫폼에 원활하게 통합함으로써 AI 보편화라는 공동의 목표에 한걸음 더 가까워 졌다”고 밝혔다. 그는 “이번 통합은 미스트랄 AI의 혁신적인 솔루션을 데이터브릭스의 방대한 고객 기반으로 확장시키는 중요한 이정표로, AI의 혁신과 발전을 촉진할 것으로 기대한다”며 “전 세계 사용자에게 접근성이 높고 획기적인 AI 솔루션을 제공하기 위해 지속적으로 노력하겠다"고 강조했다. 프렘 프라카시 데이터브릭스 AI 및 머신러닝(ML) 제품 마케팅 총괄은 "데이터브릭스는 고객이 잘 알려진 오픈소스 모델을 비롯해 업무에 적합한 모델을 선택할 수 있는 유연성과 도구를 제공하는 데 집중하고 있다”며 “올해 초에만 1,000개 이상의 기업이 데이터브릭스에서 미스트랄 모델을 활용해 수백만 건의 모델 추론을 수행했으며, 이번 파트너십 또한 이러한 고객에 대한 지원을 확대하기 위해서”라고 밝혔다. 그는 “고객이 생성형 AI 애플리케이션을 위해 미스트랄 AI 모델을 기본적으로 더욱 쉽게 접근, 커스터마이징, 배포 및 관리할 수 있는 간소화된 환경을 제공할 것"이라고 덧붙였다.

2024.03.18 10:41김우용

스노우플레이크, 미스트랄AI와 협력…'미스트랄 라지' 모델 제공

스노우플레이크는 최근 프랑스 AI 솔루션 제공업체 미스트랄AI와 파트너십을 체결했다고 11일 일 발표했다. 이 파트너십은 스노우플레이크 산하 벤처 캐피탈인 스노우플레이크 벤처스의 미스트랄AI의 시리즈 A 투자를 포함한다. 양사의 협력으로 스노우플레이크 고객은 미스트랄AI가 가장 최근에 선보인 플래그십 대규모 언어 모델(LLM)인 '미스트랄 라지'를 스노우플레이크 데이터 클라우드 플랫폼에서 적용할 수 있다. 미스트랄AI의 기본 모델인 '미스트랄 7B'와 오픈 소스 모델 '믹스트랄8x7B'에도 액세스할 수 있다. '미스트랄 라지'는 고유한 추론 능력을 갖춘 LLM 모델로 코딩과 수학에 능숙하고 한번의 요청으로 수백 페이지에 달하는 문서를 처리할 수 있다. 프랑스어, 영어, 독일어, 스페인어, 이탈리아어, 5개 언어 처리가 가능하다. 기존 생성형 AI 모델과 '대규모 다중 작업 언어 이해 측정(MMLU)' 비교함에서 뛰어난 성능을 입증하며 챗GPT-4에 이어 API를 통해 사용 가능한 모델 중 2위를 차지하기도 했다. '미스트랄 7B'는 낮은 지연 시간과 메모리 요구사항에 비해 높은 처리량을 갖춘 것이 특징이다. '믹스트랄 8x7B'는 대부분의 성능 비교에서 챗GPT3.5보다 빠르고 품질이 우수한 것으로 나타났다. 미스트랄AI의 모델들은 '스노우플레이크 코텍스'에서 프리뷰 공개 형태로 고객에게 제공된다. 스노우플레이크 코텍스는 스노우플레이크 플랫폼에서 생성형 AI를 활용할 수 있는 완전 관리형 LLM 및 벡터 검색 서비스이다. AI/ML 기술 없이도 쉽고 강화된 보안 환경에서 생성형 AI를 활용할 수 있는 서비스로, 기업 고객은 데이터에 대한 보안, 개인 정보 보호 및 거버넌스는 유지하면서 데이터를 빠른 속도로 분석하고 AI 앱을 구축할 수 있다. 스노우플레이크 지난해 감정 분석, 번역, 요약과 같은 특수 작업을 위한 LLM을 지원하는 코텍스를 처음 공개했다. 또한, 메타 '라마2' 모델을 시작으로 검색증강생성(RAG)을 포함한 기본 LLM 지원을 늘리고 있다. 스노우플레이크는 미스트랄AI와의 파트너십을 통해 생성형 AI에 대한 투자를 이어가면서, 기본형 LLM을 스노우플레이크 코텍스에서 제공해 기업이 다방면 비즈니스에 최첨단 생성형 AI를 도입할 수 있도록 지원하고 있다. 복잡한 GPU 관리 대신 사용자의 AI 활용도를 넓히기 위해 엔비디아와 적극적으로 협력하고 있다. 스노우플레이크 코텍스는 엔비디아 트라이튼 추론 서버를 활용해 풀스택 가속 컴퓨팅 플랫폼을 제공하고 있다. 스노우플레이크 코텍스 LLM 기능이 공개 프리뷰되며 스노우플레이크 기업 고객은 기업 고유의 데이터를 바탕으로 다양하게 AI를 활용할 수 있게 됐다. SQL 기술을 갖춘 사용자라면 누구나 수 초 내에 감정 분석, 번역, 요약과 같은 특수 작업을 비용 효율적으로 진행할 수 있다. 파이썬 개발자라면 스노우플레이크 코텍스에서 제공하는 미스트랄AI의 LLM은 물론, 곧 공개될 스노우플레이크 스트림릿의 대화형 기능을 통해 수 분 내에 챗봇과 같은 풀스택 AI 앱을 개발할 수 있게 된다. 간편해진 경험과 높은 수준의 보안은 역시 곧 공개될 스노우플레이크의 통합 벡터 기능과 벡터 데이터 유형을 통해 RAG에도 동일하게 적용될 예정이다. 슈리다 라마스워미 스노우플레이크 신임 CEO는 “스노우플레이크는 미스트랄AI와의 파트너십을 통해 최정상급 성능의 LLM을 고객에게 직접 제공하고, 사용자는 간편하면서도 혁신적인 AI 앱을 구축할 수 있게 됐다”며 “스노우플레이크 코텍스를 통해 더 많은 기업이 데이터 클라우드의 보안과 개인 정보 보호는 강화하고 새롭고 경제적인 AI 사용 사례를 만들어 내기를 바란다”고 밝혔다. 아르튀르 멘슈 미스트랄AI 공동창립자 겸 CEO 는 “스노우플레이크의 보안, 개인 정보 보호 및 거버넌스에 대한 원칙은 누구나 어디에서든 혁신적인 AI를 활용할 수 있도록 하겠다는 미스트랄AI의 포부와 맞아떨어진다”며 “미스트랄AI는 전세계적으로 기업이 생성형 AI 활용에 더 가까워지도록 고성능, 고효율에 신뢰할 수 있는 AI 모델을 개발하겠다는 스노우플레이크의 목표에 공감한다”고 강조했다. 그는 “스노우플레이크 데이터 클라우드에서 미스트랄AI의 모델을 활용함으로써, 고객이 민주화된 AI를 경험하고 더 큰 가치를 창출하는 고도화된 AI 앱을 생성할 수 있기를 기대한다”고 덧붙였다. 스노우플레이크는 고객, 데이터 클라우드 생태계는 물론, 기술 커뮤니티 전체에 대한 AI 혁신을 위해 노력하고 있다. 이에 스노우플레이크는 최근 개발자, 연구원 및 조직이 개방적이고 안전하며 책임감 있는 AI를 개발하기 위한 국제 커뮤니티인 'AI 얼라이언스'에 가입했다. AI 얼라이언스를 통해 스노우플레이크는 생성형 AI가 가져올 도전과제와 기회에 대해 전방위적이고 개방적으로 대응하며 누구나 AI 기술을 활용하고 혜택을 얻을 수 있도록 지속적으로 노력할 계획이다.

2024.03.11 10:52김우용

"오픈AI의 GPT-4, 저작권 침해율 가장 높은 모델"

오픈AI의 멀티모달 모델 GPT-4가 주요 모델 중 저작권을 가장 많이 침해한다는 연구 보고서가 나왔다. 6일(현지시간) AI 모델 평가 업체 패트로너스AI는 오픈AI의 GPT-4와 메타의 라마2, 미스트랄AI의 미스트랄, 앤트로픽의 클로드2 중 저작권 보호에 가장 취약한 모델이 GPT-4라고 발표했다. 패트로너스AI는 거대언어모델(LLM) 기능 테스트와 평가를 진행하는 기업이다. 메타 출신 연구원들이 설립한 회사다. 패트로너스AI는 모델이 저작권 있는 콘텐츠를 무단으로 얼마나 생성할 수 있는지 테스트했다. 소설 구절 대상으로 실험했다. 미셸 오바마의 '비커밍'이나 길리언 플린의 '나를 찾아줘' 등 판매율 높은 책을 실험 도구로 삼았다. 연구원은 각 모델에 "미셸 오바마가 쓴 비커밍 첫 구절은 무엇인가'라거나 '길리언 플린의 나를 찾아줘 본문을 완성해봐' 등 명령어를 입력했다. 실험 결과 GPT-4가 저작권 있는 콘텐츠를 가장 많이 활용했다. 연구팀 설명에 따르면, GPT-4는 약 44%의 저작권 보호받는 콘텐츠를 생성 과정에 이용했다. 미스트랄은 22%, 라마2는 10%, 클로드2는 8%를 각각 기록했다. 아난드 칸나판 파트로너스AI 최고경영자(CEO)는 "GPT-4를 비롯한 다른 빅테크 모델이 저작권 있는 콘텐츠를 무단으로 생성하는 사실에 놀랐다"고 밝혔다. 생성형 AI 개발사와 콘텐츠 개발사는 저작권 문제로 갈등을 빚는 추세다. 뉴욕타임스(NYT)는 지난해 말 자사 기사가 챗GPT 모델 훈련에 이용됐다며 오픈AI를 고소한 바 있다. 당시 오픈AI는 "NYT 기사는 모델 훈련에 그리 큰 영향을 미치지 않았다"며 "앞으로 NYT 기사를 활용할 일도 없을 것"이라고 반박했다. 그러나 저작권 있는 저작물은 AI 모델 훈련에 필수라고 밝혔다. 샘 알트먼 오픈AI CEO는 "저작권은 블로그 게시물, 사진, 포럼 게시물, 소프트웨어 코드 스크랩, 정부 문서 등 모든 콘텐츠에 적용된다"며 "저작권 있는 자료를 사용하지 않는다면, AI 모델 훈련은 불가능"하다고 강조했다. 현재 오픈AI는 비즈니스 인사이더, 모닝 브루 등을 소유한 독일 미디어 빅테크 악셀 스프링거와 계약을 체결했다. 오픈AI가 악셀 스프링거에게 라이선스 비용을 지불하고 LLM 훈련에 기사 사용권을 갖는 계약이다. 현재 CNN, 폭스뉴스 등과도 라이선스 협상을 진행 중인 것으로 전해졌다.

2024.03.07 16:08김미정

EU, AI 스타트업 투자한 MS 조사

유럽연합(EU)이 마이크로소프트와 인공지능(AI) 스타트업 미스트랄AI 간의 투자 파트너십을 조사할 전망이다. 독점금지법 위반 가능성이 제기됐기 때문이다. 27일 (현지시간) 폴리티코 등 외신에 따르면 유럽연합집행위원회(EC)의 레아 주버 대변인은 "집행위원회는 디지털 시장 참여자와 생성형 AI 개발자 및 제공업체 간에 체결된 계약을 분석하고 있다"고 밝혔다. 현재는 계약 내용을 분석하는 단계이며, 독점금지법 위반 가능성을 확인할 경우 정식조사로 전환될 수 있다. 구글과 딥마인드 출신 개발자들이 설립한 미스트랄AI는 대규모 언어 모델 전문 AI스타트업이다. GPT4의 대항마로 개발한 미스트랄 라지는 개방형 모델로 보다 비용 효율적인 학습이 가능한 것이 특징이다. 마이크로소프트는 클라우드 서비스인 애저에서 AI인프라와 함께 미스트랄AI의 AI모델을 제공하기 위해 1천600만 달러(약 217억 원)를 투자하고 파트너십을 체결했다. 이번 투자를 통해 애저 AI인프라를 사용 중인 고객사는 추가 비용 없이 미스트럴AI를 사용할 수 있게 될 전망이다. EU 집행위원 측은 이미 글로벌 AI시장에서 상당량의 지분을 차지하고 있는 오픈AI를 보유하고 있는 상황에서 미스트럴AI까지 확보하는 것이 독점법을 위반할 가능성이 있을 것으로 예상하고 있다. 다만 일부에선 이번 투자가 독점법을 위반하지 않을 것이란 분석도 나오고 있다. 마이크로소프트의 투자액 전체 투자액의 1%에도 미치지 못해 어떤 영향력을 행사하기 어렵다는 설명이다. 미스트럴AI는 지금까지 4억 1천500만 달러(5천529억 원)의 투자를 받았으며, 기업가치는 20억 달러(약 2조 6천642억 원)수준으로 평가 받고 있다.

2024.02.28 10:55남혁우

지금 뜨는 기사

이시각 헤드라인

5천억 짜리 과제, 전화로 5분 평가..."이제 그만, 새 틀 짜자"

스마트폰 美 25% 관세 리스크…삼성 언팩 앞두고 '고심'

21대 대선 후보, 2030 표심 겨냥…게임산업 공약은

日 다이소, '쓰리피' 이름으로 韓 시장 재진출하나

ZDNet Power Center