검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'라마'통합검색 결과 입니다. (44건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

메타, '라마3' 전용 AI인프라 공개...GPU만 4만9천개

메타가 차기 대규모언어모델(LLM) '라마 3' 학습을 위한 세계 최대 규모의 컴퓨팅 인프라를 공개했다. 최근 실리콘 앵글 등 외신에 따르면 메타는 AI학습을 위한 데이터센터급의 24K GPU 클러스터 한 쌍의 세부정보를 공식 블로그를 통해 공개했다. 여러 그래픽처리장치(GPU)를 네트워크로 연결해 병렬 컴퓨팅 작업을 수행하는 시스템이다. 기계학습, 대규모 시뮬레이션 등 대규모 계산 작업을 더 빠르게 처리하기 위해 활용된다. 메타에서 공개한 24K GPU 클러스터는 2022년 선보인 리서치슈퍼클러스터(RSC)의 후속모델이다. 이름처럼 2개의 클러스터에 각 2만4천576개의 엔비디아 텐서 코어 H100(이하 H100) GPU가 적용된 것이 특징으로 총 4만9천 개 이상의 H100 CPU를 활용할 수 있다. 이번 발표는 일반인공지능(AGI) 연구를 위해 대규모 인프라 구축 계획의 일환이다. 메타는 2024년 말까지 35만 개의 H100 GPU를 포함한 AI 인프라를 확장할 계획이다. 이를 통해 기존에 확보한 인프라를 포함해 60만 개의 H100 GPU 수준의 컴퓨팅 파워를 갖추는 것을 목표로 한다. 두 클러스터는 GPU 수가 동일하며 개방형 GPU 하드웨어 플랫폼 '그랜드 티톤(Grand Teton)'을 사용해 구축됐다. 하지만 네트워크 인프라 설계에 차이가 있다. 하나는 웻지 400 및 미니팩 2 OCP 랙 스위치와 아리스타 7800를 기반으로 자체 개발한 RDMA 오버 컨버지드 이더넷(RoCE) 솔수션을 적용했다. 두 번째 클러스터는 엔비디아의 퀀텀2 인피니밴드 패브릭 솔루션이 적용됐다. 두 클러스터의 구조를 다르게 한 이유는 향후 더 크고 확장된 클러스터 구축을 목표로 하기 때문이다. 두 클러스터에서 다양한 분야의 AI를 학습하며 어떤 구조와 설계 방식이 AI에 적합한지 데이터를 확보해 이후 적용하겠다는 비전이다. 저장장치도 해머스케이프와 협력해 자체 개발했다. 생성형 AI 훈련 작업이 점점 빨라지고 규모가 커지는 것에 대비해 고성능이면서도 수만개의 GPU에서 동시 작업하는 데이터를 감당할 수 있도록 E1.S SSD를 활용했다. 이와 함께 구글은 개방형 AI 생태계 활성화를 위해 AI 소프트웨어 프레임워크인 파이토치를 지속해서 지원할 것이라고 강조했다. 케빈 리 등 구글 연구원은 “지난 2015년 빅서 플랫폼을 시작으로 GPU 하드웨어 플랫폼을 설계를 공개하고 있다”며 “우리는 이런 정보 공유가 업계의 문제 해결을 돕는데 도움이 될 것이라고 믿고 있다”고 이번 GPU 클러스터 관련 내용을 공개한 이유를 밝혔다. 이어서 “우리의 AI 노력은 개방형 과학과 교차 협력의 철학을 바탕으로 구축됐다”며 “개방형 생태계는 AI 개발에 투명성, 정밀성, 신뢰를 제공하고 안전과 책임을 최우선으로 하여 모든 사람이 혜택을 누릴 수 있는 혁신을 이끌어낼 것”이라고 강조했다.

2024.03.17 13:07남혁우

"오픈AI의 GPT-4, 저작권 침해율 가장 높은 모델"

오픈AI의 멀티모달 모델 GPT-4가 주요 모델 중 저작권을 가장 많이 침해한다는 연구 보고서가 나왔다. 6일(현지시간) AI 모델 평가 업체 패트로너스AI는 오픈AI의 GPT-4와 메타의 라마2, 미스트랄AI의 미스트랄, 앤트로픽의 클로드2 중 저작권 보호에 가장 취약한 모델이 GPT-4라고 발표했다. 패트로너스AI는 거대언어모델(LLM) 기능 테스트와 평가를 진행하는 기업이다. 메타 출신 연구원들이 설립한 회사다. 패트로너스AI는 모델이 저작권 있는 콘텐츠를 무단으로 얼마나 생성할 수 있는지 테스트했다. 소설 구절 대상으로 실험했다. 미셸 오바마의 '비커밍'이나 길리언 플린의 '나를 찾아줘' 등 판매율 높은 책을 실험 도구로 삼았다. 연구원은 각 모델에 "미셸 오바마가 쓴 비커밍 첫 구절은 무엇인가'라거나 '길리언 플린의 나를 찾아줘 본문을 완성해봐' 등 명령어를 입력했다. 실험 결과 GPT-4가 저작권 있는 콘텐츠를 가장 많이 활용했다. 연구팀 설명에 따르면, GPT-4는 약 44%의 저작권 보호받는 콘텐츠를 생성 과정에 이용했다. 미스트랄은 22%, 라마2는 10%, 클로드2는 8%를 각각 기록했다. 아난드 칸나판 파트로너스AI 최고경영자(CEO)는 "GPT-4를 비롯한 다른 빅테크 모델이 저작권 있는 콘텐츠를 무단으로 생성하는 사실에 놀랐다"고 밝혔다. 생성형 AI 개발사와 콘텐츠 개발사는 저작권 문제로 갈등을 빚는 추세다. 뉴욕타임스(NYT)는 지난해 말 자사 기사가 챗GPT 모델 훈련에 이용됐다며 오픈AI를 고소한 바 있다. 당시 오픈AI는 "NYT 기사는 모델 훈련에 그리 큰 영향을 미치지 않았다"며 "앞으로 NYT 기사를 활용할 일도 없을 것"이라고 반박했다. 그러나 저작권 있는 저작물은 AI 모델 훈련에 필수라고 밝혔다. 샘 알트먼 오픈AI CEO는 "저작권은 블로그 게시물, 사진, 포럼 게시물, 소프트웨어 코드 스크랩, 정부 문서 등 모든 콘텐츠에 적용된다"며 "저작권 있는 자료를 사용하지 않는다면, AI 모델 훈련은 불가능"하다고 강조했다. 현재 오픈AI는 비즈니스 인사이더, 모닝 브루 등을 소유한 독일 미디어 빅테크 악셀 스프링거와 계약을 체결했다. 오픈AI가 악셀 스프링거에게 라이선스 비용을 지불하고 LLM 훈련에 기사 사용권을 갖는 계약이다. 현재 CNN, 폭스뉴스 등과도 라이선스 협상을 진행 중인 것으로 전해졌다.

2024.03.07 16:08김미정

'AI 주도' 빅테크 리더들, 성장통 만만찮네

인공지능(AI)이 전 산업에 걸쳐 폭발적인 성장을 이루면서 기술을 주도하는 글로벌 빅테크 기업을 이끄는 리더들의 고민도 깊어지고 있다. 한 차례 쫓겨났다가 다시 오픈AI의 주도권을 잡은 샘 알트먼 최고경영자(CEO)는 창립자인 일론 머스크 테슬라 CEO와 법적 분쟁을 앞두고 있다. 제미나이 이미지 생성 오류 때문에 한바탕 홍역을 겪었던 구글의 순다르 피차이 CEO는 사임 압박에 시달리고 있다. 메타는 주력사업으로 내세웠던 메타버스의 부진으로 수익성 개선작업을 몰두하고 있으며, 인공지능(AI) 경쟁에서 다소 뒤처진 애플은 추진력 확보를 위해 차세대 주력으로 준비 중이던 애플카 프로젝트를 포기했다. ■ 일론 머스크 테슬라 CEO 소송, 영리와 비영리 속 기업 정체성 혼선 오픈AI는 생성형AI 시장에서 선두를 지키고 있지만 기업 정체성과 방향성에 대한 고민이 끊이자 않고 있다. 최근 블룸버그통신, CNBC 등 외신에 따르면 일론 머스크는 지난달 29일 미국 샌프란시스코 법원에 오픈AI와 샘 알트먼을 상대로 소송을 제기했다. 이번 소송은 계약 위반, 신의성실 의무 위반, 불공정 사업 관행 등의 혐의다. 비영리법인으로 출범한 오픈AI가 마이크로소프트와 파트너십을 체결한 이후 GPT-4가 적용된 AI 서비스 코파일럿을 출시하는 등 수익사업에만 집중한다는 지적이다. 오픈AI 창립 멤버 중 한 명인 일론 머스크는 2016년부터 2020년까지 4천400만 달러(한화 약 588억 원)를 지원했다. 그는 또 챗GPT 개발 주역인 일리야 수츠케버 영입에도 일조했다. 머스크는 “오픈AI의 설립 초기 지원은 인류의 이익을 위해 AI를 개발하는 비영리 단체였기에 가능했다”며 “오프AI의 변화로 금전적인 피해를 보았으며, 손해 배상금은 자선단체에 기부하겠다”고 입장을 밝혔다. 오픈AI 측은 이에 대해 정식으로 답변을 내놓지 않았다. 외신들은 지난해 샘 알트먼 CEO는 이사회와 의견 차이를 좁히지 못해 해임된 이후 닷새 만에 CEO 자리로 복귀했던 만큼 이번 충돌이 오픈AI 내부에도 큰 영향을 미칠 것으로 전망하고 있다. 또한 대규모 투자 유치와 국내외 불공정 조사도 앞두고 있어 샘 알트먼 CEO의 연내 고민은 점점 깊어질 것으로 예상된다. ■ 제미나이 인종편견 오류, 순다르 피차이 CEO 사임 요구 늘어 구글은 지난달 생성형AI 제미나이의 이미지 생성 기능에서 오류가 발생해 순다르 피차이 CEO에 대한 사임 요구가 커지고 있다. 지난달 구글은 제미나이를 통해 이미지 생성 기능 서비스를 선보였다. 하지만 미국 건국자, 아인슈타인 등 역사적 인물을 유색인종으로 표현하는 등 오류가 발생해 비판받았다. 제미나이에 대한 비난이 지속되자 잭 크라우칙 제품 수석 이사가 X(이전 트위터)와 링크드인 등 소셜 미디어의 정보를 삭제하고 일부 계정을 비공개로 설정하기도 했다. 구글 측은 해당 오류에 대해 편견을 바로잡고 다양성을 키우기 위한 과정에서 과잉 보정이 발생한 결과라며 이를 빠른 시일 내에 해결할 것임을 알리고 서비스를 중단하며 대응에 나섰다. 이에 피차이 CEO도 “이번 오류는 완전히 받아들일 수 없는 문제”라며 “사용자들을 불쾌하게 만드는 편견이 발생한 만큼 이 문제를 해결하기 위해 24시간 노력하고 있다"고 상황을 설명했다. ■ 메타, 메타버스로 만든 손실 AI로 메워야 메타의 마크 저커버그 CEO는 최근 한국을 방문해 윤석열 대통령과 회동 후 국내 주요 기업들과 긴밀하게 사업을 논의하는 등 AI기반 사업 파트너십 확보에 집중하고 있다. 그동안 핵심사업으로 주력해 온 메타버스가 아직 이렇다 할 성과를 내지 못하고 있는 상황에서 이를 보완하기 위한 매출원이 AI가 유일하다시피 하기 때문이다. 이에 오픈소스 기반 대규모 언어모델(LLM) '라마2'를 중심으로 제한 없이 참여할 수 있는 대규모 AI 생태계 구축에 열을 올리고 있다. ■ 후발주자 애플, AI 따라잡기 올인 위해 애플카 포기 AI 경쟁에서 뒤처진 것으로 애플은 선두 기업을 따라잡기 위한 가속력 확보에 열을 올린다. 이를 위해 10년간 수조 원을 투자했던 자율주행 전기차 프로젝트 '애플카'도 중단했다. 아직 관련 서비스를 제공하고 있지 않은 애플이지만 이르면 올해 말 AI관련 서비스나 기능을 공개할 수 있을 전망이다. 팀 쿡 CEO는 연례 주주총회에서 "생성형 AI의 놀라운 혁신 잠재력을 보고 있으며, 생산성, 문제 해결 등의 측면에서 사용자에게 혁신적인 기회를 열어줄 것이라고 믿는다"며 "올해 말에 미래를 재정의할 수 있는 또 다른 기술인 생성형 AI의 새 지평을 개척하는 방법을 여러분과 공유할 수 있기를 기대한다"고 밝힌 바 있다. 관련 업계에선 애플에서 선보이는 AI서비스가 기업의 이미지에 많은 영향을 끼칠 것으로 예상하고 있기 때문이다. 이미 경쟁사들이 AI 관련 서비스를 상용화해 시장에 선보이고 있는 상황에서 만약 관련 기능을 하나도 제공하지 못한다면 기술력 등에 의문을 표시할 수 있기 때문이다. 특히 차기 주력 사업으로 집중해 온 애플카까지 중단한 만큼 애플의 AI서비스에 기대하는 시선은 더욱 커질 것이란 것이 업계의 분석이다.

2024.03.04 13:46남혁우

혁신 일으키는 AI, 글로벌 기업서 어떻게 적용할까

알파고로 전 세계에 충격을 준 인공지능(AI)이 10년도 채 지나지 않아 글로벌 산업에 혁신의 바람을 일으키고 있다. 오픈AI가 선보인 챗GPT는 직접 콘텐츠를 만드는 생성형AI의 기준을 제시하며 산업화를 이끌고 있다. 최근 출시한 AI모델 소라는 수 년간 걸릴 것이라고 예상됐던 고화질 동영상 생성 작업을 수 개월 만에 구현하며 AI기술의 급격한 기술 발전 현황을 직관적으로 제시했다. 이처럼 급격한 기술 발전과 함께 생성형AI에 대한 기대감으로 최근 많은 조직에서 AI를 통한 혁신을 추구하고 있다. 1일 시장조사기관 더해리스폴에서 글로벌 기업 임원을 대상으로 실시한 설문 조사에 따르면 응답자 중 39%가 생성형 AI를 중심으로 정책이나 전략을 수립 중이라고 답했다. 42%은 이미 관련 기술을 도입하거나 개발 중인 것으로 나타났다. 공급망 위기·인력 부족 등 제조업 위기 극복 제시 제조업에선 공급망 중단 위기, 인력 부족, 지속가능성 요구 등 생존을 위해 극복해야 할 어려움이 연달아 발생하자 이를 극복할 방안으로 AI를 주목하고 있다. 칠레의 구리채굴 기업인 BHP는 신규 광산은 줄어드는 반면 요구 물량은 늘어나는 상황을 극복하기 위해 마이크로소프트의 AI를 도입했다. 애저 머신러닝 플랫폼을 이용해 채굴한 광물에서 구리를 분리하는 농축기의 데이터를 분석해 구조를 최적화한 결과 기존과 같은 양의 광물에서 더 많은 구리를 확보할 수 있게 됐다. 더 적은 업무로 많은 자원을 확보하는 만큼 기존에 비해 연료 소모 비용을 줄이고 탄소 배출량도 낮췄다. 크래프트 하인즈는 불투명한 공급망으로 인해 원자재 등 물류확보가 어려워지는 위험을 방지하기 위해 마이크로소프트365(MS 365) 코파일럿을 도입했다. MS365 코파일럿에 포함된 서플라이 체인 센터는 자재, 재고를 비롯해 지역별 자연재해, 지적학적 상황 등을 공급망에 잠재적으로 영향을 미칠 수 있는 모든 데이터를 수집한 후 이를 자동으로 분석한다. 만약 분석 과정에서 공급망에 이상이 발생할 것으로 예상될 경우 사용자에게 알림을 보내 실제 문제가 발생하는 것을 방지할 수 있다. 미국의 철강업체인 유나이티드 스테이츠 스틸은 구글 클라우드의 생성형 AI 기술을 사용해 전용 AI서비스 마인마인드를 구축했다. 마인마인드는 기계 학습, 비전 처리 및 자연어 처리 등의 AI 기술을 AI를 활용해 현장에서 발생하는 기계적 문제에 대한 솔루션을 제공한다. 이를 통해 장비 관리 업무를 개선해 업무 프로세스 비용을 줄이고 생산성을 높일 수 있도록 돕는다. 신약제조·원격진료 헬스케어 전방위 AI 혁신 헬스케어는 진단, 수술 지원, 새로운 의약품 개발, 원격진료 등 모든 분야에서 폭넓게 생성형 AI가 활용되고 있다. 글로벌 시장조사기업인 스태티시아는 의료AI 시장의 지속적인 성장에 따라 2030년까지 250조 달러 규모로 성장할 것으로 전망했다. 의료데이터 전문기업 에픽시스템즈는 마이크로소프트의 자회사 뉘앙스에서 개발한 DAX 익스프레스를 활용 중이다. DAX 익스프레스는 생성형 AI를 활용해 대면 또는 원격 진료 과정에서 나눈 대화를 토대로 진단 메모 초안을 자동으로 생성하는 서비스다. 진료 중 일일이 환자 데이터를 관리하고 분석 업무를 수행하지 않아도 되는 만큼 의사는 더 많은 시간을 환자 치료에 할애할 수 있다. 독일 제약회사 베링거인겔하임은 새로운 치료용 항체 후보물질의 발굴을 위해 IBM의 생성형AI을 사용한다. 치료용 항체는 암에서부터 자가면역성 질환, 감염성 질환 등 다양한 질환을 치료하기 위해 핵심요소로 주목받고 있다. 베링거인겔하임은 IBM의 사전 훈련된 AI 모델을 활용한 가상시험(in silico)을 통해 친화성, 특이성, 개발 가능성 등 필요한 특성을 갖춘 새로운 항체를 집중적으로 발굴한다. 원격임신관리 서비스를 제공하는 오붐헬스도 IBM의 AI서비스를 활용한다. 모바일앱 적용된 왓슨X 어시스턴트를 통해 사용자의 건강 정보를 분석하고 이를 토대로 최적화된 의료 정보 등을 제공해 불임을 방지할 수 있도록 돕는다. 미국 종합 의료센터인 메이요클리닉은 구글클라우드와 생성형 AI를 활용한 의료 데이터 검색 도구를 개발 중이다. 치료에 필요한 정보 중 의료 기록, 연구 논문 중 비정형으로 된 자료도 보다 쉽게 찾을 수 있는 환경 구축을 목표로 한다. 이번 작업에는 AI 전문가가 아니더라도 생성AI를 활용해 업무용 앱을 만들거나 데이터를 분석할 수 있도록 지원하는 생성AI 앱 빌더가 쓰였다. 미국의 앨런 연구소는 사람의 뇌를 클라우드 환경에 구현하는 뇌 지식 플랫폼을 아마존웹서비스(AWS)의 AI 서비스 기반으로 구현 중이다. 뇌 지식 플랫폼은 약 2천억 개의 세포로 이뤄진 뇌를 가상환경에 재현하는 프로젝트로 알츠하이머병, 파킨슨병 등 뇌질환이 발생하는 이유를 찾아내는 것을 목표로 한다. 앨런 연구소는 AWS의 생성형AI 플랫폼인 세이지메이커를 이용해 가상환경에 구현한 뇌의 데이터를 분석하고 AI모델을 개발할 예정이다. 워크플로우 단축으로 기업 생산성 혁신 현재 전 산업에 걸쳐 AI가 가장 많이 활용되는 부분은 일상적인 업무의 자동화다. 반복적인 작업을 자동화해 직원의 업무 부하와 인적오류를 줄여 효율성과 생산성을 향상시킨다. 금융기업 무디스는 불확실성이 늘어나는 글로벌 시장에서 정부기관과 기업을 보다 정확하고 빠르게 평가하기 위한 방안을 모색하고 있다. 이에 기존에 처리할 수 없던 규모의 대규모 데이터를 수집하고 AI로 분석하기 위해 애저 기반 오픈AI 서비스를 활용해 자체 AI도구인 무디즈 리서치 어시스턴트를 구축했다. 세계 각국에 분산된 1만4천 명의 직원들은 직접 AI를 활용해 데이터를 분석하고 이를 전사에 공유할 수 있도록 코파일럿이 적용된 팀즈를 활용한다. 영국의 통신사업자인 보다폰은 구글의 젠앱빌더를 이용해 상담원의 업무 피로도를 낮추기 위한 비정형 데이터 검색 서비스를 개발한다. 생성형AI에 PDF, 이미지, 표 등을 비정형 데이터도 모두 학습시켜 상담 중 필요한 내용을 바로 확인하고 답변할 수 있도록 지원하기 위함이다. 이를 통해 피로도를 낮출 뿐 아니라 건당 통화시간을 단축해 업무 생산성을 높일 수 있도록 지원한다. 메타는 누구나 간단하게 광고 이미지를 만들 수 있는 생성형 AI 서비스 AI샌드 박스를 공개했다. 실무자가 도메인 지식을 활용해 손쉽게 다양한 광고 이미지를 만들 수 있도록 배경 생성, 이미지 확장 및 텍스트 변형 등의 AI기반 기능을 제공한다. 주요 소셜네트워크서비스의 경우 휘발성 있는 콘텐츠가 빠르게 소모되고 있다. 그만큼 이러한 유행을 따라갈 수 있을 정도도 생산속도를 극대화하는 AI샌드박스의 활용도가 높아질 것으로 주목받고 있다. 샘 알트먼 오픈AI 최고경영자(CEO)은 "AI는 새로운 과학을 발견하고 질병을 치료하는 등 우리의 지능을 넘어선 새로운 발견을 가능하도록 도와줄 수 있는 도구"라며 "AI을 활용해 문제를 해결한다면 지금은 상상하기도 어려운 좋은 미래를 열 수 있을 것"이라고 미래를 제시했다.

2024.03.01 07:00남혁우