검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'메타 AI'통합검색 결과 입니다. (291건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

메타 새 AI 자문위, 백인 남성으로만 꾸려져

메타가 최근 인공지능(AI) 기술 발전에 대해 논의할 AI 자문위원회를 꾸렸다. 다만 이 위원회가 백인 남성으로만 구성돼 비판을 받고 있다. 22일(현지시간) 메타는 AI 자문위원회를 만들었다고 발표했다. 위원회는 AI 기술 발전과 혁신, 전략적 성장 기회에 대한 통찰력과 자문 등을 제공할 예정이다. 자문위원회에는 패트릭 콜리슨 스트라이프 공동창업자이자 최고경영자(CEO)와 냇 프리먼 전 깃허브 CEO, 토비 루트케 쇼피파이 CEO, 찰리 송허스트 기술 투자자 등 4명이 포함됐다. 테크크런치에 따르면 AI 자문위원회는 사업가와 투자자 등 기업가로 구성돼 있다. 여성과 유색인종은 포함돼 있지 않고, 백인 남성들로만 구성돼 있다는 것이다. 외신은 "메타의 이사회와 감독위원회는 AI 자문위원회와는 달리 성별과 인종에서는 다양하다"며 백인 남성들로만 꾸려진 자문위원회를 꼬집고 나섰다. 그러면서 "여성은 남성보다 AI 산업에서 어두운 면을 경험할 가능성이 높다. 특히 생성형 AI에서 나타날 수 있는 딥페이크 영상 등에서 여성은 위반 행위의 대상이 된다"며 "AI 제품 혁신에는 여성과 유색인종의 목소리가 반드시 포함돼야 한다. 소외 집단은 세상을 바꾸는 기술과 연구 개발에서 배제돼 왔다"고 비판했다. 외신은 메타 측에 자문위원회 다양성과 관련 문의했지만, 답변이 오지 않았다고 전했다.

2024.05.23 11:22안희정

[유미's 픽] "빛 좋은 개살구?"…'AI 기본법' 없는 韓, 'AI 서울 서밋'서 주도권 잡을까

우리나라 정부가 새로운 먹거리로 떠오른 인공지능(AI) 시장에서 존재감을 드러내기 위한 본격적인 움직임에 나섰지만 '빛 좋은 개살구'에 그친다는 지적이 나온다. 'AI 서울 정상회의'로 글로벌 주도권을 잡으려고 나섰으나, 'AI 기본법'도 제대로 갖추지 않은 상황에서 AI 서비스 기업들에 대한 지원책도 없이 보여주기식 행사에만 혈안된 듯한 모습을 보이고 있어서다. 21일 업계에 따르면 한국과 영국은 이날부터 양일간 서울에서 'AI 정상회의'를 공동 주최한다. 지난해 11월 영국에서 처음 열린 'AI 안전성 정상회의'에 이어 두 번째로 열리는 행사로, 혁신·안전·포용성 등 AI 거버넌스 3대 원칙이 제시될 예정이다. 특히 첫째 날에는 오후 8시 30분부터 10시까지 90분 동안 정상 세션이 화상회의 방식으로 열린다. 윤석열 대통령과 리시 수낵 영국 총리가 주재하는 이번 회의의 주제는 'AI 안전성 정상회의를 토대로, 혁신적이고 포용적인 미래로'다. 장관 세션은 오는 22일 오후 2시 20분부터 5시 40분까지 한국과학기술연구원(KIST)에서 대면으로 개최된다. 이종호 과기정통부 장관과 미셸 더넬란 영국 과학혁신기술부 장관이 공동 의장을 맡고, 19개국 이상의 정부, 산업계, 학계 및 시민사회의 주요 인사들이 참여할 예정이다. 이날 장관 세션에선 AI 안전성 확립과 지속 가능한 AI 발전에 대해 논의한다. 각국의 AI 안전 연구소 설립 현황을 공유하는 한편, 미래의 AI 위험 요인을 진단하고 안전성 강화 방안을 모색한다. 또 AI 개발에 따른 막대한 전력 소모가 우려되면서 저전력 반도체 등 우리나라의 AI 반도체 비전도 공개할 것으로 예상된다. 같은 날 부대행사로 열리는 'AI 글로벌 포럼'은 오전 9시부터 오후 6시까지 진행된다. 포럼은 오전의 고위급 라운드 테이블과 오후의 전문가 세션으로 구성된다. 전문가 세션은 유튜브로 중계돼 일반 국민도 볼 수 있다. 다만 'AI 서울 정상회의'는 지난해 영국에서 열린 1차 회의보다 거물급 인사들의 참여가 많지 않은 것으로 알려졌다. 1차 회의에는 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 무스타파 술레이만 딥마인드 공동 창립자 등 거물급 인사들이 참여했다. 반면 이번 'AI 서울 정상회의'는 눈에 띄는 인사들이 많지 않다. 앤드류 응 미국 스탠퍼드대 교수, 엘리자베스 켈리 미국 AI안전연구소장, 나타샤 크램튼 마이크로소프트(MS) 최고 AI 책임자(CAIO), 톰 루 구글 딥마인드 부사장, 롭 셔먼 메타 최고개인정보보호책임자(CPO), 잭 클락 앤스로픽 공동창업자, 에이단 고메즈 코히어 CEO, 사바스티안 나일스 세일즈포스 최고법률책임자(CLO), 크리스티나 몽고메리 IBM 최고개인정보보호·신뢰책임자 등이 일단 거론되고 있다. 또 정부는 'AI 대부'로 알려진 제프리 힌튼 토론토대 교수에게 행사 참석을 요청했으나, 부상을 당했다는 이유로 거절 당한 것으로 전해졌다. 파이어폭스(Firefox) 웹브라우저를 만든 모질라의 공공정책 책임자 린다 그리핀도 다음에 열릴 파리 행사에 집중하고 있다며 불참 의사를 전했다. 일각에선 '챗GPT'로 AI 시장을 이끌고 있는 오픈AI에서 안전팀을 이끌고 있던 일리야 수츠케버 공동창업자가 이번 행사에 참여해 힘을 실어줄 것으로 기대했지만, 'AI 서울 정상회의'를 앞두고 관련 팀이 해체된 데다 수츠케버까지 떠나게 되면서 아쉽다는 반응을 내놨다. AI의 안전성 문제를 경시한다는 지적을 받고 있는 오픈AI는 이번 'AI 서울 정상회의'에 제이슨 권 CSO(최고전략책임자)를 참석시킬 예정이다. 한국계인 그는 'AI 수익화'를 우선 시 하는 샘 알트먼 오픈AI 최고경영자(CEO)를 적극 지지하는 인물로 알려졌다. 업계 관계자는 "이번에는 가상 정상회의로 진행되는 만큼 1차 영국 회의 때보다 굵직한 참석자들이 많지 않은 데다 작은 규모로 진행될 예정"이라며 "내년 초 프랑스에서 열리는 3차 회의가 정식 대면행사이기 때문에 상대적으로 AI 서울 정상회의는 전 세계적으로 주목을 많이 받지 못하는 분위기"라고 밝혔다. 1차 회의 때만큼의 결과물을 제대로 내놓을 지에 대해서도 기대감이 다소 낮은 상태다. 이전 회의에선 한국, 미국, 중국 등 28개국 대표와 기업들이 AI 기술에 따른 잠재적 위험을 완화하기 위한 '블레츨리 선언'을 발표한 바 있다. 여기엔 AI 기술을 안전하게 개발하고 활용하도록 국가 간에 공동으로 노력하자는 약속이 담겼다. 업계 관계자는 "선거에서 기만적 AI 사용을 막자는 '뮌헨 기술협약' 등 그간 IT 기업들의 자율 규제에 초점이 맞춰진 합의는 몇 차례 있었다"며 "이번에 안전한 AI 활용과 혁신 지속 사이 균형을 갖춘 IT 기업들의 합의문이 나올지 모르겠으나, 안전·혁신·포용이란 형이상학적 주제를 토대로 실효성 있는 결과물을 내놓을 수 있을지 의문"이라고 밝혔다. 또 다른 관계자는 "각 국가별로 AI 주권을 위한 소버린 AI(Sovereign AI)를 추진 중"이라며 "각 나라마다 상황이 다르기 때문에 (당장 이번에 결정될 것이 아니라) 적정한 규제의 선을 국제적으로 합의하는데는 시일이 오래 걸릴것으로 보인다"고 말했다. 우리나라가 'AI 거버넌스'를 제시할 환경이 자체적으로 갖춰져 있지 않다는 점도 글로벌 AI 주도권을 가지기엔 걸림돌이 되고 있다는 지적도 나온다. 전 세계 주요국이 앞 다퉈 AI 제도 정비에 나서고 있는 반면, 우리나라는 'AI 기본법'조차 장기간 국회 문턱을 넘지 못하고 방치되다 결국 폐기 수순을 밟고 있어서다. 'AI 기본법'은 지난해 초 발의된 뒤 1년 넘게 국회 상임위원회에 계류돼 있었으나, 과학기술정보방송통신위원회 여야가 마지막까지 합의점을 찾지 못해 결국 이달 말 21대 국회 임기 종료와 함께 폐기되는 것으로 결론이 났다. AI 주요 3개국(G3)으로 도약하겠다는 윤석열 정부의 구호만 요란했다는 평가가 나온다. 이에 대해 과방위 소속 한 의원 관계자는 "공들여 쌓은 AI기본법이 21대 국회에서 무산됐다"며 "(과방위) 전체회의에 대한 양당 합의가 되지 않아 개최하지 않기로 했다"고 말했다. 이어 "일정을 다시 만들어 오는 29일까지 본회의에 올리기에는 물리적으로 어렵다"고 덧붙였다. 반면 유럽연합(EU)의 입법기관인 유럽의회는 지난 3월 AI 개발 기업이 지켜야 할 의무 등을 규정한 포괄적 규제법을 세계 최초로 마련했다. 미국은 2020년 '국가 AI이니셔티브법'을 제정하고 AI 분야에 약 2조3천억원을 지원하고 있다. 여기에 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 통해 AI 안전 테스트 결과와 주요 정보 등을 정부와 공유하도록 의무화했다. 이 외에 중국은 지난해 'AI 윤리 거버넌스' 표준화 지침을 마련했다. 일본 역시 히로시마 AI 프로세스를 주도적으로 이끌며 국제 규범 만들기에 앞장서고 있다. 업계 관계자는 "규제를 더 담아야 한다는 의견과 산업 육성이 먼저란 주장이 맞서며 'AI 기본법'은 그간 국회에서 계속 갈피를 잡지 못했다"며 "일종의 가이드라인도 없어 AI 산업 전체가 표류하고 있는 우리나라가 글로벌 'AI 거버넌스'를 제시한다는 게 다소 앞뒤가 맞지 않는 느낌"이라고 지적했다. 또 다른 관계자는 "'서울 AI 정상회의'가 서울에서 열리기 전까지 'AI 기본법'이 당연히 통과될 것으로 기대했지만 결국 폐기 수순을 밟는다는 점이 굉장히 아쉽다"며 "'AI 기본법' 논의를 멈춘 국가에서 AI 안전을 논의하는 것이 사실 민망하다"고 말했다. 반면 이 같은 분위기 속에서도 우리나라가 'AI 서울 정상회의' 개최를 이끌어 냈다는 점에 대해 긍정적으로 평가하는 의견도 나왔다. 업계 관계자는 "영국에서 열린 1차 회의 때만큼은 아니지만 여러 나라들이 AI 거버넌스를 우리나라에서 논의하는 기회를 가졌다는 자체만으로도 대단한 일이라고 생각된다"며 "'AI 서울 정상회의' 개최는 국내 AI 기술 수준을 해외에서도 인정하고 있다는 의미"라고 평가했다.

2024.05.21 09:37장유미

"메타, 카메라 장착 AI 이어폰 개발 중"

메타 플랫폼이 카메라를 이용해 인공지능(AI) 기술로 구동되는 이어폰을 개발 중이라는 소식이 나왔다. IT매체 디인포메이션은 13일(현지시간) 메타 직원 3명을 인용해 메타가 '카메라버드(Camerabuds)'라 불리는 AI 이어폰 프로젝트를 가동 중이라고 보도했다. 해당 프로젝트에서 메타는 카메라를 통해 사물을 식별하고 외국어를 번역하는 AI 이어폰을 개발 중이다. 마크 저커버그 메타 최고경영자(CEO)는 현재 몇 가지 가능한 디자인을 본 상태이나 아직 만족스럽지 않은 상태라고 알려졌다. 이어폰 디자인이 귀속에 들어가는 이어버드가 될지, 아니면 귀 위에 쓰는 헤드폰이 될지는 아직 확실치 않으며, 출시 일정도 아직 불확실한 상황이다. 메타는 작년 9월 가격이 299달러인 차세대 레이벤 스마트 안경을 발표했다. 이 제품에는 AI가 장착돼 사용자가 보고 있는 제품에 대한 정보를 파악할 수 있었다.

2024.05.14 11:14이정현

[유미's 픽] "日·동남아에도 돈 몰리는데"…데이터센터 투자 경쟁서 韓 '찬밥'

글로벌 생성형 인공지능(AI) 시장이 빠른 속도로 성장하면서 한국을 제외한 해외 곳곳에서 빅테크들의 데이터센터 확보 경쟁이 점차 치열해지고 있다. 오픈AI의 챗GPT 같은 거대언어모델(LLM)과 사람처럼 생각하고 행동하는 '인공 일반 지능(AGI)' 모델이 방대한 양의 데이터를 처리하고 복잡한 알고리즘을 실행하기 위해 고성능 컴퓨팅 리소스를 필요로 하는 만큼, 데이터센터가 AI 경쟁력을 끌어올리는 중요한 요소로 지목되는 분위기다. 14일 블룸버그 통신 등 주요 외신에 따르면 마이크로소프트(MS)는 프랑스에 40억유로(약 6조원)를 투자해 데이터 센터를 짓고 클라우드와 AI 인프라를 구축할 계획이다. MS는 2027년까지 AI분야에서 100만 명을 육성하고 2천500개의 스타트업을 지원하겠다고 발표했다. 브래드 스미스 MS 부회장은 "이번 투자는 프랑스 진출 41년 만에 최대 규모"라고 설명했다. 앞서 MS는 올해 초 프랑스 스타트업 미스트랄AI에 1천500만 유로(약 221억원)를 투자한다고 발표한 바 있다. 오픈 AI의 대항마로 불리는 미스트랄AI는 최근 펀딩에서 60억 달러(8조2천억원)의 기업 가치를 평가받은 것으로 알려졌다. 이 외에도 MS는 전 세계 지역에서 데이터센터 투자를 확대하고 있다. 최근에는 오픈AI와 2028년까지 1천억 달러(약 135조원)를 투입해 슈퍼컴퓨터를 포함한 초대형 데이터센터를 구축하는 '스타게이트' 프로젝트를 추진한다는 것으로 알려져 주목 받았다. 이 프로젝트는 현존하는 가장 큰 데이터센터에 투입된 금액의 100배 이상 규모로 알려졌다. '스타게이트' 프로젝트는 총 5단계로 이뤄진 AI 인프라 구축 작업으로, 2026년까지 슈퍼컴퓨터를 구축하는 것이 4단계다. 슈퍼컴퓨터는 대규모 데이터 처리와 복잡한 AI 모델 학습에 필요한 강력한 연산 능력을 제공한다. 데이터센터에는 슈퍼컴퓨터와 함께 오픈AI의 AI 모델을 구동하기 위해 특별 제작된 수백만 개의 AI 칩이 탑재될 예정이다. 업계 관계자는 "'스타게이트' 프로젝트는 MS와 오픈AI가 전 세계 기업과 개발자들에게 자사의 AI 기술 및 서비스를 활용할 수 있도록 지원하는 것"이라며 "이를 통해 AI 시장 주도권을 확보하려는 것으로 보인다"고 말했다. 나아가 MS는 유럽 곳곳에 AI 허브를 구축하는 계획도 속속 내놓고 있다. 영국에선 수년간 25억 파운드(약 4조3천억원)를 투자해 런던에서 최첨단 언어모델과 지원 인프라를 발전시키고, 기초 모델에 필요한 세계적 수준의 도구 개발을 위한 작업을 추진한다는 구상이다. 독일에선 향후 2년 간 34억4천만 달러(약 4조8천억원)를 들여 데이터센터를 짓기로 했다. 스페인에도 21억 달러(약 2조8천600억원)를 투자키로 했다. 미국에서도 데이터센터 투자에 속도를 내고 있다. 특히 최근에는 미국 중·북부 지역의 대표적 러스트 벨트 지역(Rust Belt·제조업 쇠퇴 지역)인 위스콘신주 동부 공업지대 러신에 33억 달러(약 4조5천61억원)를 투자해 AI 데이터센터를 짓기로 했다. 최근 지역 당국의 승인을 받은 상태로, 2026년 7월 이전에 1단계 공사에 착수하고 2033년 7월 이전에 2단계 공사를 시작할 방침이다. 아시아 지역에서도 MS의 데이터센터 투자 움직임은 활발하다. 특히 올해는 기시다 후미오 일본 총리의 미국 국빈 방문에 맞춰 일본에서 클라우드 컴퓨팅과 AI 사업을 확장하기 위해 2년간 약 4천400억엔(29억 달러)을 투자한다고 발표해 눈길을 끌었다. MS 창립 이후 일본에 대한 투자액으로는 역대 최대다. 사티아 나델라 MS 최고경영자(CEO)는 직접 동남아시아를 방문해 인프라 확대에 공을 들였다. 나델라 CEO는 지난달 30일부터 사흘간 인도네시아와 말레이시아를 찾아 각각 17억 달러, 22억 달러의 투자 계획을 발표했다. 지난 1일 태국에서는 MS 최초로 태국 데이터센터를 건설한다고 밝혔다. 현지 매체는 투자 규모를 10억 달러 이상으로 추정하고 있다. 여기에 MS는 재생 에너지 개발에도 100억 달러(약 13조8천900억원) 이상을 투자키로 했다. AI 개발 경쟁이 치열해지고 데이터 센터에 대한 수요가 급증하면서 가동에 필요한 전력을 확보하는 것이 필요하다고 판단해서다. 지난해 5월에는 핵융합 스타트업 헬리온 에너지와 전기 공급계약을 체결해 오는 2028년부터 매년 최소 50MW(메가와트)의 전기를 공급받기로 했다. MS 측은 "AI 수요가 가용 용량보다 조금 더 높다"며 "데이터센터에 더 많은 자금이 필요하다"고 밝혔다. 이에 맞서 아마존도 MS·구글 등 경쟁사보다 우위를 차지하기 위해 향후 15년간 데이터센터 건설에 약 1천500억 달러(약 202조원)를 투자키로 했다. 아마존 자회사 아마존웹서비스(AWS)의 부동산 보유량은 2020년 이후 현재 2배 이상 증가한 것으로 알려졌다. 미국에선 미국 버지니아주와 오리건주에서 데이터센터를 운영 중이다. 프랑스에선 생성형 AI 분야의 수요를 충족하기 위해 프랑스에 12억 유로(약 1조8천억원) 규모를 투자하겠다고 발표했다. 싱가포르에선 클라우드 인프라에 2028년까지 120억 싱가포르달러(약 12조원)를 추가 투자키로 했다. 지난해까지 투자액을 더하면 총규모는 225억 싱가포르달러다. 일본에선 2027년까지 도쿄·오사카 클라우드 인프라 확장에 2조3천억 엔(약 20조2천억원)을 투자할 계획이라고 지난 1월 발표했다. 2030년까지는 인도에 150억 달러(약 20조5천억원), 사우디에 53억 달러(약 7조2천억원)도 투입한다. 이 외에 메타도 최근 총 8억 달러(약 1조900억원) 이상을 투자해 미국 앨라배마주에 데이터센터를 건립한다는 계획을 밝혔다. 올해만 세 번째 발표로, 총 24억 달러(약 3조원)을 데이터센터 신설에 쏟아 붓겠다는 의지를 드러냈다. 구글 역시 올해 1월 데이터센터 확장을 위한 대규모 투자 계획을 내놨다. 미국 인디애나주 포트 웨인에 20억 달러(약 2조7천200억원)을 들여 신규 데이터 센터 캠퍼스 건설에 나서기로 한 것이다. 또 미국 동부 버지니아주 데이터센터 확장에도 10억 달러(약 1조3천600억원)를, 유럽 네덜란드에는 6억 유로(약 9천억원)를 추가 투자키로 했다. 영국에선 런던 외곽에 데이터센터를 건설하는 데 10억 달러를 투자했다. 이처럼 빅테크들이 세계 곳곳에 데이터센터를 짓기 위해 대규모 자금을 투입하는 것은 급속도로 커지고 있는 생성형 AI 시장을 선점하기 위해서다. 시장조사기관 얼라이드 마켓 리서치에 따르면 글로벌 생성형 AI 시장은 연평균 32%의 증가율로 성장해 2031년 1천265억 달러(약 175조원)의 시장을 형성할 전망이다. 업계 관계자는 "생성형 AI 개발 경쟁이 촉발한 인프라 투자가 데이터센터 시장의 2차 호황으로 이어지고 있다"며 "대규모 데이터센터 수요가 늘면서 2026년까지 해마다 16% 성장할 것으로 보인다"고 관측했다. 하지만 우리나라는 빅테크들의 대규모 데이터센터 투자 후보지로 제외된 분위기다. 현재로선 AWS가 2027년까지 클라우드 인프라에 58억8천만 달러(약 7조8천500억원)를 투자할 계획이라고 밝힌 것이 전부다. 최근 일본에 MS가 29억 달러(약 3조9천억원), 아마존이 2조3천억 엔(약 20조7천190억원), 오라클이 80억 달러(약 11조원)을 투입키로 한 것과 비교하면 다소 아쉽다. 업계 관계자는 "미국과 중국을 중심으로 첨단기술 패권 경쟁이 전개되는 상황에서 주요 국가들은 AI 혁신 흐름에 뒤처지지 않기 위해 데이터 인프라 구축 지원책을 내놓고 규제는 완화하는 등 기업 친화적인 환경을 조성하는 모습"이라며 "우리나라는 낮은 조세경쟁력과 과도한 규제, 부족한 인센티브 등의 영향으로 매력적인 투자처로서 인정 받지 못하고 있는 분위기"라고 말했다.

2024.05.14 10:52장유미

구글·오픈AI 등 빅테크, 모델 내 유해 이미지 차단 나서

글로벌 인공지능(AI) 기업이 AI 모델 내 유해한 이미지 데이터셋을 최소화하기 위해 나섰다. 특히 아동 성적학대 자료(CSAM)를 포함한 데이터셋이 모델 학습에 이용되지 않도록 할 방침이다. 24일 더 버지 등 IT 외신은 구글을 비롯한 메타, 오픈AI, 앤트로픽 등 AI 기업이 CSAM 확산 제한에 서명했다고 보도했다. 서명 기업들은 학습 데이터셋에 CSAM이 들어갔는지 확인해야 한다. CSAM 포함 가능성 있는 데이터셋은 모델 학습에서 제외다. 데이터셋에 CSAM 이미지나 관련 링크 발견 즉시 제거해야 한다. 자사 AI 모델이 CSAM 이미지를 생성하지 않도록 별도 테스트도 거치기로 했다. 이에 대한 평가가 완료된 모델만 시중에 나올 수 있다. 이번 서명에 구글, 메타 등 빅테크뿐 아니라 스태빌리티AI, 미스트랄AI 등 스타트업도 동참한 것으로 전해졌다. 그동안 이미지 생성 AI는 온라인에서 딥페이크를 비롯한 CSAM 확산을 부추겼다. 관련 보고서도 나왔다. 미국 스탠퍼드 연구진은 지난해 12월 개발에 가장 많이 사용되는 데이터셋에 CSAM 이미지 링크가 들어있다는 보고서 결과를 발표했다. 특히 아동 성 착취 자료 확산 방지를 위해 활동하는 미국 국립실종학대아동센터(NCMEC)는 AI가 생성한 CSAM 처리에 애를 먹고 있다. 이번 원칙은 미국 아동학대 방지 비영리단체 올 테크 이즈 휴먼도 참여한다. 단체 측은 "AI 이미지 생성은 CSAM 수요를 올리고 아동에 피해를 준다"며 "현실에서 아동 피해자 식별까지 방해할 수 있는 결과를 낳을 것"이라고 더 버지를 통해 전했다. 구글 수잔 제스퍼 신뢰 및 안전 솔루션 담당 부사장은 "일반 사람들이 악용 사례를 식별, 신고할 수 있는 도구도 곧 제공할 것"이라고 공식 블로그에서 밝혔다.

2024.04.24 15:28김미정

"오픈소스 AI 모델, 공공사업에도 들어가야…생태계 확장 필요"

국내 오픈소스 인공지능(AI) 생태계에 활력을 불어넣자는 목소리가 나오고 있다. 전문가들은 정부가 공공사업에 오픈소스 AI 모델이 들어갈 수 있는 활로를 마련하는 등 관련 정책과 예산을 확보해야 한다고 입을 모았다. 오픈소스는 저작권자가 소스코드를 공개한 소프트웨어(SW)다. 개발자는 라이선스 규정에 맞게 이 SW를 자유롭게 사용하고 수정·재배포를 할 수 있다. 오픈소스형 AI 모델도 마찬가지다. 사용자들은 일정 조건 하에 이 모델로 새로운 AI 모델을 만들거나 기술, 솔루션 개발을 할 수 있다. 메타가 이달 19일 출시한 '라마3'를 비롯한 스태빌리티AI의 '스테이블 디퓨전', 미스트랄AI의 '미스트랄' 등이 오픈소스형 AI 모델이다. 한국에는 업스테이지의 '솔라'가 있다. 일각에서는 국내 기업도 라마3 수준의 오픈소스 모델을 보유해야 한다는 입장이다. 반면 전문가들은 라마3로 새로운 모델과 기술, 제품 제작을 돕는 환경 조성이 우선이라고 주장했다. 건국대 김두현 컴퓨터공학부 교수는 오픈소스 AI 모델 신뢰성부터 높여야 한다고 주장했다. 일반적으로 오픈소스 모델이 신뢰도가 낮거나 안전하지 않다는 편견이 존재한다. 폐쇄형 모델과 다르게 소스코드 등이 공개됐다는 이유에서다. 김두현 교수는 "공공기관이 시중에 나온 오픈소스 AI 모델을 자체 검증해야 한다"고 주장했다. 그는 "정부가 강력한 검증 방식으로 이를 시행한다면 모델 신뢰성과 안전성을 확보할 수 있을 것"이라고 설명했다. 김 교수는 오픈소스 AI 모델이 공공사업에 들어갈 수 있는 활로를 마련해야 한다고 봤다. 정부가 오픈소스 모델 활용 사례를 늘려야 한다는 의미다. 그는 "특히 정부 조달정책에 이같은 내용이 다뤄지지 않았다"며 "최소한 나라장터에 오픈소스 모델 기반 솔루션 입찰이 가능해야 한다"고 주장했다. 업계에서도 오픈소스 AI 생태계가 커져야한다고 의견을 밝혔다. 이를 위해 강력한 모델 검증과 정확한 성능 파악이 필요하다고 봤다. 개발자 커뮤니티 활성화도 절실하다고 강조했다. 업스테이지는 AI 모델 성능을 평가하는 플랫폼에 지원을 아끼지 않아야 한다고 강조했다. 회사 관계자는 "모든 개발자가 검증받은 오픈소스형 모델로 AI 개발을 자유롭게 할 것"이라며 "이를 통해 국내 'AI 민주화'를 이룰 수 있을 것"이라고 했다. 이 기업은 현재 한국지능정보사회진흥원(NIA)과 지난해부터 한국어 AI 모델 순위 매기는 '오픈 Ko-LLM 리더보드'를 운영하고 있다. 업스테이지 관계자는 "특히 모델 성능 측정에 필요한 LLM 전용 평가 데이터 개발이 절실하다"며 "정부가 이 분야를 위해 예산을 마련해야 할 것"이라고 덧붙였다. 이 외에도 AI 업계에선 정보와 노하우를 공유하는 커뮤니티 활성화도 필요하다는 의견이 나왔다. 국내 기업 관계자나 개발자가 AI에 대해 토론하고 기술을 서로 소개하는 공간이다. 업계 관계자는 "커뮤니티는 개발자에게 다양한 모델 활용 사례를 제공할 것"이라며 "도메인 특화 서비스 출시를 기존보다 신속하게 진행할 수 있을 것"이라고 말했다.

2024.04.24 09:43김미정

오픈소스 AI 모델 경쟁 치열…"AI 생태계 확장 기여"

메타가 오픈소스 생성형 인공지능(AI) 모델 '라마3'를 공개하면서 기업 간 오픈소스 모델 경쟁이 더 치열해졌다. 올해 초 구글을 비롯한 스태빌리티AI, 미스트랄AI, xAI 등 해외 빅테크와 스타트업이 새 오픈소스 모델을 연달아 출시해서다. 21일 업계에 따르면 메타는 라마3 시리즈를 공개했다. 라마3는 AI 학습지표인 매개변수 80억개(8B) 버전과 700억개(70B) 버전으로 우선 제공된다. 특히 70B 버전은 수학을 비롯한 물리학, 역사 등을 종합적으로 평가하는 다중작업언어이해(MMLU) 평가에서 79.5점을 기록했다. 구글 제미나이 프로 점수보다 높다. 메타는 라마 시리즈로 오픈소스 생성형 AI 생태계를 확장해 왔다. 라마 시리즈 설계도도 공개된 상태다. 개발자는 이를 원하는대로 개조할 수 있다. 특히 경량화 모델이라 비용효율적이다. 메타는 이를 폐쇄형 모델인 오픈AI의 GPT와 구글의 제미나이 시리즈와 본격 경쟁할 전략이다. 이달 초 프랑스 AI 스타트업 미스트랄AI도 '믹스트랄 8x22B'를 오픈소스로 공개했다. 매개변수는 1천760억 개로, 한 번에 처리할 수 있는 텍스트 양은 6만5천 토큰이다. 벤치마크에서 이전 모델 '믹스트랄 8X7B', 메타의 '라마2 70B', 오픈AI의 'GPT-3.5'보다 높은 점수를 받은 것으로 전해졌다. 일론 머스크 테슬라 최고경영자(CEO)도 오픈소스 모델 경쟁에 뛰어들었다. 머스크의 xAI가 지난달 '그록-1'과 '그록-1.5'를 연달아 오픈소스 형태로 공개하면서다. 특히 그록-1.5는 기존 버전보다 16배 긴 문장을 처리할 수 있는 거대언어모델(LLM)이다. xAI는 각종 벤치마크 테스트에서 오픈AI의 GPT 모델과 엔트로픽의 클로드3 수준을 뛰어넘는 그록-1.5 점수를 공개하기도 했다. 올 초 구글도 오픈소스 경쟁에 뛰어들었다. 2월 자사 생성형 AI 모델 제미나이 기반으로 오픈소스 모델 '젬마'를 출시했다. 2B 버전과 7B 버전으로 제공된다. 모두 상업용으로 이용 가능하다. 당시 구글은 "젬마 7B 모델이 메타의 라마2 7B 모델보다 추론, 코드에서 앞섰다"고 공식 블로그를 통해 밝히기도 했다. 이 외에도 스태빌리티AI, 마이크로소프트 등 빅테크와 스타트업이 오픈소스 모델 경쟁 대열에 합류하는 추세다. 기업이 오픈소스 모델로 경쟁만 하지 않는다. 오픈소스 AI 생태계 확장을 위해 서로 타협하고 있다. 지난해 12월 IBM, 메타, 인텔 등 기업을 비롯해 산업계, 스타트업, 학계, 연구기관 등이 모여 'AI 얼라이언스'를 세웠다. AI 얼라이언스는 AI의 개방형 혁신과 연구를 지원하기 위한 단체다. 여기에 오픈소스 AI 모델 개발 지원도 포함됐다. 이를 통해 전 세계 인류에 혜택을 극대화하기 위함이다. 현재 기업·기관 등 100여곳이 이 얼라이언스에 가입한 상태다. 얀 르쿤 메타 수석AI과학자도 "오픈소스 AI 활성화가 AI 개발 속도를 더 올릴 수 있다"며 "모든 개발자와 기업들이 AI 문제점을 개선할 수 있을 뿐 아니라 기술 발전과 보안성까지 가속할 수 있다"고 올해 초 미국 월간지 와이어드 인터뷰에서 밝혔다.

2024.04.21 07:59김미정

메타, 오픈소스 모델 '라마3' 출시…페북-인스타 등에 적용

메타가 오픈소스 생성형 인공지능(AI) 모델 '라마 3'를 출시했다. 라마3는 현재 AI 챗봇서비스 '메타 AI'에 적용됐다. 18일(현지시간) 메타는 자사 블로그를 통해 라마3 시리즈의 자세한 내용을 공개했다. 시리즈는 총 3가지 버전으로 이뤄졌다. 우선 매개변수 80억개와 700억개 버전부터 나왔다. 나머지 버전은 미공개 상태다. 매개변수 4천억개 버전이며 데이터셋 훈련 중이다. 메타 측은 "메타3의 최소형 버전 기능은 라마2 초대형 버전과 비슷한 수준"이라며 "현존하는 오픈소스 모델 중 가장 성능 좋다"고 강조했다. 메타는 다른 모델과 비교한 성능 테스트 결과를 공개했다. 다중작업언어이해(MMLU) 등 AI 벤치마크를 활용했다. 라마3 8B는 9개 벤치마크에서 미스트랄 7B와 구글 제미나이 나노를 넘어섰다. 특히 라마3 70B는 MMLU에서 79.5점을 받아 구글 제미나이 프로보다 높은 점수를 기록했다. 이 버전은 제미나이뿐 아니라 앤트로픽 클로드3 오퍼스 버전과 맞먹는 점수를 기록했다. 라마3 모델은 아마존웹서비스(AWS)를 비롯한 데이터브릭스, 구글 클라우드, 허깅 페이스, 캐글, IBM의 왓슨X, 마이크로소프트 애저, 엔비디아의 NIM, 스노우플레이크를 포함한 클라우드 플랫폼에서 관리형 형태로 제공될 예정이다. 라마3, 비영어권 데이터셋 전체 5%…안전 도구 업데이트 메타는 라마3 데이터셋 중 비영어권 데이터 비율이 5% 이상이라고 설명했다. 이 5% 안에 영어를 제외한 30개 언어가 들어갔다. 메타 측은 "이번 모델은 라마2보다 더 높은 비영어권 데이터셋으로 이뤄졌다"며 "데이터 다양성이 증가하면 여러 언어에서도 강력한 성능을 발휘할 것"이라고 설명했다. 답변 편향성 감소를 위한 노력도 했다. 메타의 생성형 AI 안전 제품군인 '라마 가드'를 업데이트했다. 보안 취약점을 탐지할 수 있는 도구 '코드 쉴드'도 조만간 출시할 예정이다. 반면 업계에서는 이런 도구가 답변 필터링을 100% 보장하지 않는다고 반응했다. 라마3 모델이 실제 환경에서 어떻게 작동될지 우선 지켜봐야 할 것이라는 입장이다. 라마3 모델은 아마존웹서비스(AWS)를 비롯한 데이터브릭스, 구글 클라우드, 허깅 페이스, 캐글, IBM의 왓슨X, 마이크로소프트 애저, 엔비디아의 NIM, 스노우플레이크를 포함한 클라우드 플랫폼에서 관리형 형태로 제공될 예정이다. 라마3, 인스타그램·페이스북·왓츠앱 탑재…'메타 AI' 서비스 시작 이날 메타는 자사 소셜미디어 서비스 페이스북과 인스타그램, 왓츠앱에서 메타 AI 서비스를 시작했다. 여기에 라마3 시리즈가 들어갔다. 메타 AI는 이용자 질문에 답변을 제공하거나 이미지 등을 생성할 수 있다. 이용자는 메타 AI에 레스토랑 추천을 요청하고, 휴가를 계획하거나 새 아파트를 장식에 필요한 아이디어를 물어볼 수 있다. 다만 메타 AI의 이미지 생성 기능은 왓츠앱과 웹사이트에서 베타 버전만 제공된다. 현재 미국과 캐나다, 뉴질랜드, 호주 등 12개국 영어권 사용자부터 서비스를 이용할 수 있다. 한국은 1차 서비스 대상이 아니다. 마크 저커버그 메타 최고경영자(CEO)는 "메타 AI는 가장 지능적인 'AI 비서' 역할을 할 것"이라고 했다.

2024.04.19 10:41김미정

인텔 "서버·AI PC서 메타 라마3 구동 지원"

인텔은 19일 메타가 공개한 생성 AI LLM(거대언어모델) 라마3(Llama 3)를 제온 프로세서와 가우디 AI 가속기, 코어 울트라 탑재 AI PC 등에서 지원한다고 밝혔다. 메타가 공개한 라마3는 오픈소스 생성 AI 모델이며 데이터셋 중 비영어권 데이터 비중을 5%까지 높였다. 현재 매개변수 80억 개, 700억 개 버전이 선 공개됐다. 매개변수 4천억 개 버전은 현재 데이터셋 훈련중이다. 인텔은 가우디 AI 가속기, 제온/코어 울트라 프로세서와 아크 GPU로 메타가 선공개한 매개변수 80억/700억 개 버전의 구동을 검증했다고 밝혔다. 인텔은 파이토치(PyTorch), 딥스피드, 인텔 옵티멈 하바나 라이브러리, 인텔 파이토치 익스텐션 등 오픈소스 소프트웨어로 수행한 자체 벤치마크 결과도 공개했다. 인텔이 2분기 중 출시할 P코어 제온6 프로세서는 80억 개 모델 추론 구동시 4세대 제온 스케일러블 프로세서 대비 지연 시간을 절반으로 단축했다. 또 700억 개 버전에서 토큰 하나당 지연시간을 0.1초 미만으로 줄였다. 코어 울트라 프로세서는 내장 아크 GPU를 이용해 라마3 구동시 사람이 읽을 수 있는 것보다 더 빠른 속도로 토큰을 생성했다. Xe 행렬곱셈 확장(XMX)을 내장한 아크 A770은 16GB 메모리를 활용해 라마3 처리를 가속한다. 가우디2 AI 가속기는 라마2 3개 모델(70억개, 130억개, 7천억개)에 이어 라마3 모델도 구동했다. 올 하반기 출시될 가우디3 AI 가속기도 라마3를 지원한다. 인텔은 향후 매개변수를 늘리고 성능을 강화한 라마3 모델도 지속 지원할 예정이다.

2024.04.19 10:24권봉석

메타, 2세대 AI 반도체 'MTIA' 공개...엔비디아 의존도 낮춘다

메타가 자체 개발한 2세대 AI 반도체 'MTIA(Meta Training and Inference Accelerator)'를 공개했다. 메타는 이 제품을 통해 엔비디아 등 외부 반도체 회사에 대한 의존도를 줄이고 인공지능(AI) 서비스를 강화한다는 목표다. 메타는 작년 5월 첫 버전(1세대) V1를 선보인 바 있다. 12일 메타에 따르면 2세대 칩은 4개 유형 AI 모델에서 이전 모델보다 3배 더 나은 성능을 보인다. MTIA는 대만 TSMC 5나노미터(nm) 공정에서 생산된다. 메타는 이 AI 반도체를 페이스북과 인스타그램에서 콘텐츠의 순위를 매기고 추천하는 데 활용할 계획이다. 메타는 "이 칩의 아키텍처는 자체 대규모언어모델(LLM)인 '라마'와 같은 생성형 AI를 훈련하는 것이 목표"라며 "컴퓨팅, 메모리 대역폭, 메모리 용량의 균형에 초점을 두고 있다"고 설명했다. 메타는 MTIA의 대역폭을 기존보다 늘리고, 반도체가 들어가는 서버컴퓨터용 랙도 직접 개발했다. 또 엔비디아의 소프트웨어 '쿠다(CUDA)'와 경쟁할 수 있는 자체 소프트웨어 생태계를 개발하는데 상당한 투자를 했다. 메타는 최근 AI 칩을 구입하는 데 수십억 달러를 지출하고 있다. 올해 마크 저커버그 메타 최고경영자(CEO)는 투자자들에게 “엔비디아로부터 H100 칩 35만개 구매를 포함해 연내에 총 60만개의 H100급 AI 칩을 확보할 것"이라고 밝혔다.

2024.04.12 10:00이나리

높아지는 오픈소스 AI 모델 선호도…"GPT-4 인기는 독보적"

올해 오픈소스 인공지능(AI) 모델 활용도가 지난해보다 늘 것이라는 보고서 결과가 나왔다. 그럼에도 폐쇄형 모델인 오픈AI의 GPT-4 인기는 독보적일 것이란 전망이다. 8일(현지시간) 미국 비즈니스 월간지 포춘은 이같은 조사 결과를 보도했다. 미국 벤처캐피털 기업 에이식스틴제트가 내놓은 설문조사를 근거로 삼았다. 조사 대상은 500대 포춘 기업서 종사하는 최고경영자(CEO) 70명이다. 지난해 기업들은 폐쇄형 모델로 생성형 AI 기능을 테스트한 것으로 전해졌다. 응답자는 "AI 테스트를 위해 오픈AI의 GPT-3.5나 GPT-4를 주로 활용했다"고 답했다. 조사에 따르면 2023년 폐쇄형 소스모델 시장점유율은 약 90%다. 이중 다수는 오픈AI의 GPT 모델 군이다. 보고서는 올해 기업들이 생성형 AI 구축 방법을 다각화할 것으로 봤다. 모델 2개 이상을 비교하면서 가장 업무에 유용한 모델을 채택하는 식이다. 이때 활용되는 모델 다수가 오픈소스 형태일 것으로 전망했다. 조사 결과 응답자 46%가 "오픈소스 모델을 선호하거나 매우 선호한다"고 답했다. "기업 정보 제어·맞춤 기능 만족"...라마·미스트랄 선호도 높아 에이식스틴제트는 오픈소스 모델 선호도가 올해 본격적으로 높아질 것으로 봤다. 메타의 '라마2'와 미스트랄AI의 '미스트랄'이 가장 인기 많은 모델인 것으로 나타났다. 조사를 진행한 에이식스틴제트 사라 왕은 오픈소스 모델 인기 이유를 저렴한 비용보다 정보 제어, 맞춤형 기능으로 꼽았다. 보통 오픈소스 모델은 GPT-4 같은 폐쇄형 모델보다 저렴하다. 예를 들어, 메타의 라마2는 영어 기준 100만 토큰 생성에 오픈AI의 GPT-4보다 최대 20배 저렴하다. 사라 왕 연구원은 기업들이 비용 때문에 오픈소스 모델 활용도를 높인 건 아니라는 입장이다. 왕 연구원은 "기업이 오픈소스 모델로 자사 정보를 제어할 수 있다는 점을 높이 산다"고 주장했다. 오픈소스 모델이 폐쇄형 모델보다 데이터 활용 내역을 투명하게 제공한다는 이유에서다. AI 결과물에 대한 이유를 직접 확인할 수 있다는 점도 알렸다. 그는 "폐쇄형 모델과 달리 오픈소스 모델은 어떤 과정으로 결과물을 생성했는지 근거를 보여준다"며 "사용자는 AI 생성물에 대한 이해도를 높일 수 있다"고 설명했다. 기업이 오픈소스 모델로 맞춤형 AI 시스템을 구축할 수 있다는 점도 이유다. 사라 왕은 "기업은 특정 업무에 맞게 AI를 활용할 수 있다는 점을 만족스러워한다"고 했다. "GPT-4, 실제 산업서 인기 여전" 보고서는 오픈AI의 GPT-4가 실제 산업에 가장 많이 적용됐다고 했다. 폐쇄형 모델 사용자 약 90%는 자사 AI 시스템에 GPT-3.5나 GPT-4를 활용했다고 응답해서다. 사라 왕은 향후 GPT-4 모델 사용률이 낮아지지 않을 것이라고 했다. 오히려 기업은 오픈소스와 폐쇄형 모델을 혼합할 것으로 내다봤다. 그는 "AI 모델 전환 비용은 낮다"며 "기업은 오픈소스 모델과 폐쇄형 모델을 혼합해 지속적으로 연구개발을 할 가능성이 높다"고 설명했다. 사라 왕은 GPT-5에 대한 전망도 했다. GPT-5 출시가 곧 이뤄질 것이라는 입장이다. 그는 "오픈AI가 모델 시장 점유율을 굳건히 지킬 것"이라며 "GPT-5 공개를 늦추지 않을 것"이라고 했다. 알리 고드시 데이터브릭스 CEO도 올해 오픈소스 AI 모델 활성화를 기대한다는 입장이다. 고드시 데이터브릭스 CEO는 "매력적인 폐쇄형 모델이 시장에 나와도 오픈소스 모델 인기는 식지 않을 것"이라고 포춘지를 통해 설명했다.

2024.04.09 17:04김미정

메타 "5월부터 AI로 만든 사진·영상·음성에 라벨 부착"

메타가 인공지능(AI)으로 생성된 이미지를 비롯한 영상, 음성 콘텐츠에 라벨을 본격 부착한다. 다음 달부터 페이스북, 인스타그램 등 자사 플랫폼 내 콘텐츠에 우선 적용된다. 6일(현지시간) 미국 악시오스 등 외신은 메타가 AI 콘텐츠 표시 적용 범위를 늘리고자 이런 결정을 내렸다고 보도했다. 라벨은 '메이드 위드 AI'로 표시된다. 그동안 메타는 오해의 소지가 있을 것 같은 AI 생성물을 남겨두지 않고 삭제했다. 회사 정책에 따르면, 사용자에게 분명하지 않고 일반 사람이 이미지 속 인물을 특정인으로 오해할 소지가 있는 이미지는 삭제됐다. 앞으로 삭제 대신 AI 콘텐츠라는 점을 표시하고 남겨둔다. 이는 이미지뿐 아니라 영상, 음성 콘텐츠 모두 해당한다. 상황에 따라 라벨 정보는 추가될 수 있다. 외신은 메타가 올해 미국 대선과 유럽연합(EU) 선거 등에서 발생하는 딥페이크와 콘텐츠 조작을 방지하기 위해 내린 결정으로 분석했다. 메타는 지난해부터 관련 정책을 여러 차례 내놓기도 했다. 올해 2월 외부 학자와 연구원으로 구성된 감독 위원회를 조직했다. AI 생성물에 라벨링을 부착하는 정책을 일관되게 구성하기 위해서다. 당시 위원회는 "게시물을 무조건 삭제하는 건 표현의 자유를 침해한다"며 "논란의 여지가 있는 콘텐츠를 무조건 삭제하는 것보다 콘텐츠에 더 많은 라벨을 붙이는 게 적절"하다고 밝혔다. 같은 달 이 기업은 오픈AI를 비롯한 구글, 아마존, 틱톡, 마이크로소프트 등과 AI로 제작된 콘텐츠가 선거 악용을 방지하기 위한 공동 대책을 마련하기로 했다.

2024.04.07 09:48김미정

메타, '라마3' 전용 AI인프라 공개...GPU만 4만9천개

메타가 차기 대규모언어모델(LLM) '라마 3' 학습을 위한 세계 최대 규모의 컴퓨팅 인프라를 공개했다. 최근 실리콘 앵글 등 외신에 따르면 메타는 AI학습을 위한 데이터센터급의 24K GPU 클러스터 한 쌍의 세부정보를 공식 블로그를 통해 공개했다. 여러 그래픽처리장치(GPU)를 네트워크로 연결해 병렬 컴퓨팅 작업을 수행하는 시스템이다. 기계학습, 대규모 시뮬레이션 등 대규모 계산 작업을 더 빠르게 처리하기 위해 활용된다. 메타에서 공개한 24K GPU 클러스터는 2022년 선보인 리서치슈퍼클러스터(RSC)의 후속모델이다. 이름처럼 2개의 클러스터에 각 2만4천576개의 엔비디아 텐서 코어 H100(이하 H100) GPU가 적용된 것이 특징으로 총 4만9천 개 이상의 H100 CPU를 활용할 수 있다. 이번 발표는 일반인공지능(AGI) 연구를 위해 대규모 인프라 구축 계획의 일환이다. 메타는 2024년 말까지 35만 개의 H100 GPU를 포함한 AI 인프라를 확장할 계획이다. 이를 통해 기존에 확보한 인프라를 포함해 60만 개의 H100 GPU 수준의 컴퓨팅 파워를 갖추는 것을 목표로 한다. 두 클러스터는 GPU 수가 동일하며 개방형 GPU 하드웨어 플랫폼 '그랜드 티톤(Grand Teton)'을 사용해 구축됐다. 하지만 네트워크 인프라 설계에 차이가 있다. 하나는 웻지 400 및 미니팩 2 OCP 랙 스위치와 아리스타 7800를 기반으로 자체 개발한 RDMA 오버 컨버지드 이더넷(RoCE) 솔수션을 적용했다. 두 번째 클러스터는 엔비디아의 퀀텀2 인피니밴드 패브릭 솔루션이 적용됐다. 두 클러스터의 구조를 다르게 한 이유는 향후 더 크고 확장된 클러스터 구축을 목표로 하기 때문이다. 두 클러스터에서 다양한 분야의 AI를 학습하며 어떤 구조와 설계 방식이 AI에 적합한지 데이터를 확보해 이후 적용하겠다는 비전이다. 저장장치도 해머스케이프와 협력해 자체 개발했다. 생성형 AI 훈련 작업이 점점 빨라지고 규모가 커지는 것에 대비해 고성능이면서도 수만개의 GPU에서 동시 작업하는 데이터를 감당할 수 있도록 E1.S SSD를 활용했다. 이와 함께 구글은 개방형 AI 생태계 활성화를 위해 AI 소프트웨어 프레임워크인 파이토치를 지속해서 지원할 것이라고 강조했다. 케빈 리 등 구글 연구원은 “지난 2015년 빅서 플랫폼을 시작으로 GPU 하드웨어 플랫폼을 설계를 공개하고 있다”며 “우리는 이런 정보 공유가 업계의 문제 해결을 돕는데 도움이 될 것이라고 믿고 있다”고 이번 GPU 클러스터 관련 내용을 공개한 이유를 밝혔다. 이어서 “우리의 AI 노력은 개방형 과학과 교차 협력의 철학을 바탕으로 구축됐다”며 “개방형 생태계는 AI 개발에 투명성, 정밀성, 신뢰를 제공하고 안전과 책임을 최우선으로 하여 모든 사람이 혜택을 누릴 수 있는 혁신을 이끌어낼 것”이라고 강조했다.

2024.03.17 13:07남혁우

KAIST, 대규모 데이터 출력 때 GPU 에러 해결

인공지능(AI) 그래픽 연산 장치(GPU)에서 메로리 한계로 인해 초병렬 연산 등 대규모 데이터 출력 때 발생하는 에러 문제를 국내 연구진이 해결했다. 향후 가정에서 사용하는 메모리 크기가 작은 GPU로도 생성형 AI 등 대규모 출력이 필요한 고난이도 연산을 빠르게 수행할 수 있게 됐다. 초병렬 연산은 GPU로 수 십 만~수 백 만 개의 작은 연산들을 동시에 수행하는 것을 말한다. KAIST(총장 이광형)는 전산학부 김민수 교수 연구팀이 한정된 크기의 메모리를 지닌 GPU를 이용해 수십, 수백 만개 이상의 스레드들로 초병렬 연산을 하면서 수 테라바이트의 큰 출력 데이터가 발생하더라고 메모리 에러 없이 해당 출력 데이터를 메인 메모리로 고속 전송 및 저장할 수 있는 데이터 처리 기술(일명 INFINEL)을 개발했다고 7일 밝혔다. 출력데이터는 데이터 분석 결과 또는 인공지능에 의한 생성 결과물에 해당하는 데이터를 말한다. ■기존 기술 문제들 최근 AI의 활용이 급속히 증가하면서 지식 그래프와 같이 정점과 간선으로 이루어진 그래프 구조 데이터의 구축과 사용도 점점 증가하고 있다.. 그러나 그래프 구조 데이터에 대해 난이도가 높은 초병렬 연산을 수행할 경우 그 출력 결과가 매우 커 각 스레드 출력 크기를 예측하기 어렵다는 문제가 발생한다. 또, GPU는 근본적으로 CPU와 달리 메모리 관리 기능이 매우 제한적이기 때문에 예측할 수 없는 대규모의 데이터를 유연하게 관리하기 어렵다. 이러한 이유로 지금까지는 GPU를 활용해 '삼각형 나열'과 같은 난이도가 높은 그래프 초병렬 연산을 수행할 수 없었다. ■해결 방법 김 교수팀은 이를 근본적으로 해결하는 인피넥(INFINEL) 기술을 개발했다. 이 기술은 GPU 메모리 일부 공간을 수백 만 개 이상의 청크(chunk)라 불리는 매우 작은 크기의 단위들로 나누고 관리하면서, 초병렬 연산 내용이 담긴 GPU 커널(kernel) 프로그램을 실행하도록 설계했다. 이때 각 스레드는 메모리 충돌 없이 빠르게 자신이 필요한 청크 메모리들을 할당받아 자신의 출력 데이터를 저장할 수 있도록 했다. 또한, GPU 메모리가 가득 차도 무중단 방식으로 초병렬 연산과 결과 출력 및 저장을 지속할 수 있다. 김민수 교수 연구팀은 INFINEL 기술의 성능을 다양한 실험 환경과 데이터 셋을 통해 검증했다. 종래의 최고 성능 동적 메모리 관리자 기술에 비해 약 55배, 커널을 2번 실행하는 2단계 기술에 비해 약 32배 연산 성능이 향상됐디. ■기대효과 이 기술을 사용하면 가정에서 사용하는 메모리 크기가 작은 GPU로도 수 테라 바이트 이상의 출력 데이터가 발생하는 고난이도 연산을 빠르게 수행할 수 있다고 연구진은 설명했다. 김민수 전산학부 교수는 “생성형 AI나 메타버스 시대에는 GPU 컴퓨팅의 대규모 출력 데이터를 빠르게 처리할 수 있는 기술이 중요해질 것으로 예상되며, INFINEL 기술이 그 일부 역할을 할 수 있을 것”이라고 말했다. 이번 연구에는 박성우 박사과정 학생이 제1 저자, 김민수 교수가 창업한 그래프 딥테크 기업인 (주)그래파이 소속 오세연 연구원이 제 2 저자, 김민수 교수가 교신 저자로 참여했다. 연구결과는 국제 학술지 'PPoPP' 3월 4일자 발표됐다. 한편, 이번 연구는 과기정통부 IITP SW스타랩 및 ITRC 사업, 한국연구재단 선도연구센터인 암흑데이터 극한 활용 연구센터의 지원을 받아 수행됐다.

2024.03.07 16:29박희범

'AI 주도' 빅테크 리더들, 성장통 만만찮네

인공지능(AI)이 전 산업에 걸쳐 폭발적인 성장을 이루면서 기술을 주도하는 글로벌 빅테크 기업을 이끄는 리더들의 고민도 깊어지고 있다. 한 차례 쫓겨났다가 다시 오픈AI의 주도권을 잡은 샘 알트먼 최고경영자(CEO)는 창립자인 일론 머스크 테슬라 CEO와 법적 분쟁을 앞두고 있다. 제미나이 이미지 생성 오류 때문에 한바탕 홍역을 겪었던 구글의 순다르 피차이 CEO는 사임 압박에 시달리고 있다. 메타는 주력사업으로 내세웠던 메타버스의 부진으로 수익성 개선작업을 몰두하고 있으며, 인공지능(AI) 경쟁에서 다소 뒤처진 애플은 추진력 확보를 위해 차세대 주력으로 준비 중이던 애플카 프로젝트를 포기했다. ■ 일론 머스크 테슬라 CEO 소송, 영리와 비영리 속 기업 정체성 혼선 오픈AI는 생성형AI 시장에서 선두를 지키고 있지만 기업 정체성과 방향성에 대한 고민이 끊이자 않고 있다. 최근 블룸버그통신, CNBC 등 외신에 따르면 일론 머스크는 지난달 29일 미국 샌프란시스코 법원에 오픈AI와 샘 알트먼을 상대로 소송을 제기했다. 이번 소송은 계약 위반, 신의성실 의무 위반, 불공정 사업 관행 등의 혐의다. 비영리법인으로 출범한 오픈AI가 마이크로소프트와 파트너십을 체결한 이후 GPT-4가 적용된 AI 서비스 코파일럿을 출시하는 등 수익사업에만 집중한다는 지적이다. 오픈AI 창립 멤버 중 한 명인 일론 머스크는 2016년부터 2020년까지 4천400만 달러(한화 약 588억 원)를 지원했다. 그는 또 챗GPT 개발 주역인 일리야 수츠케버 영입에도 일조했다. 머스크는 “오픈AI의 설립 초기 지원은 인류의 이익을 위해 AI를 개발하는 비영리 단체였기에 가능했다”며 “오프AI의 변화로 금전적인 피해를 보았으며, 손해 배상금은 자선단체에 기부하겠다”고 입장을 밝혔다. 오픈AI 측은 이에 대해 정식으로 답변을 내놓지 않았다. 외신들은 지난해 샘 알트먼 CEO는 이사회와 의견 차이를 좁히지 못해 해임된 이후 닷새 만에 CEO 자리로 복귀했던 만큼 이번 충돌이 오픈AI 내부에도 큰 영향을 미칠 것으로 전망하고 있다. 또한 대규모 투자 유치와 국내외 불공정 조사도 앞두고 있어 샘 알트먼 CEO의 연내 고민은 점점 깊어질 것으로 예상된다. ■ 제미나이 인종편견 오류, 순다르 피차이 CEO 사임 요구 늘어 구글은 지난달 생성형AI 제미나이의 이미지 생성 기능에서 오류가 발생해 순다르 피차이 CEO에 대한 사임 요구가 커지고 있다. 지난달 구글은 제미나이를 통해 이미지 생성 기능 서비스를 선보였다. 하지만 미국 건국자, 아인슈타인 등 역사적 인물을 유색인종으로 표현하는 등 오류가 발생해 비판받았다. 제미나이에 대한 비난이 지속되자 잭 크라우칙 제품 수석 이사가 X(이전 트위터)와 링크드인 등 소셜 미디어의 정보를 삭제하고 일부 계정을 비공개로 설정하기도 했다. 구글 측은 해당 오류에 대해 편견을 바로잡고 다양성을 키우기 위한 과정에서 과잉 보정이 발생한 결과라며 이를 빠른 시일 내에 해결할 것임을 알리고 서비스를 중단하며 대응에 나섰다. 이에 피차이 CEO도 “이번 오류는 완전히 받아들일 수 없는 문제”라며 “사용자들을 불쾌하게 만드는 편견이 발생한 만큼 이 문제를 해결하기 위해 24시간 노력하고 있다"고 상황을 설명했다. ■ 메타, 메타버스로 만든 손실 AI로 메워야 메타의 마크 저커버그 CEO는 최근 한국을 방문해 윤석열 대통령과 회동 후 국내 주요 기업들과 긴밀하게 사업을 논의하는 등 AI기반 사업 파트너십 확보에 집중하고 있다. 그동안 핵심사업으로 주력해 온 메타버스가 아직 이렇다 할 성과를 내지 못하고 있는 상황에서 이를 보완하기 위한 매출원이 AI가 유일하다시피 하기 때문이다. 이에 오픈소스 기반 대규모 언어모델(LLM) '라마2'를 중심으로 제한 없이 참여할 수 있는 대규모 AI 생태계 구축에 열을 올리고 있다. ■ 후발주자 애플, AI 따라잡기 올인 위해 애플카 포기 AI 경쟁에서 뒤처진 것으로 애플은 선두 기업을 따라잡기 위한 가속력 확보에 열을 올린다. 이를 위해 10년간 수조 원을 투자했던 자율주행 전기차 프로젝트 '애플카'도 중단했다. 아직 관련 서비스를 제공하고 있지 않은 애플이지만 이르면 올해 말 AI관련 서비스나 기능을 공개할 수 있을 전망이다. 팀 쿡 CEO는 연례 주주총회에서 "생성형 AI의 놀라운 혁신 잠재력을 보고 있으며, 생산성, 문제 해결 등의 측면에서 사용자에게 혁신적인 기회를 열어줄 것이라고 믿는다"며 "올해 말에 미래를 재정의할 수 있는 또 다른 기술인 생성형 AI의 새 지평을 개척하는 방법을 여러분과 공유할 수 있기를 기대한다"고 밝힌 바 있다. 관련 업계에선 애플에서 선보이는 AI서비스가 기업의 이미지에 많은 영향을 끼칠 것으로 예상하고 있기 때문이다. 이미 경쟁사들이 AI 관련 서비스를 상용화해 시장에 선보이고 있는 상황에서 만약 관련 기능을 하나도 제공하지 못한다면 기술력 등에 의문을 표시할 수 있기 때문이다. 특히 차기 주력 사업으로 집중해 온 애플카까지 중단한 만큼 애플의 AI서비스에 기대하는 시선은 더욱 커질 것이란 것이 업계의 분석이다.

2024.03.04 13:46남혁우

교황이 흑인?...메타 '이메진'도 황당 이미지 생성

구글 '제미나이'처럼 메타의 이미지 생성형 인공지능(AI) 모델 '이메진'도 편향된 이미지를 꾸준히 생성한 것으로 나타났다. 2일(현지시간) 악시오스 등 외신은 메타의 이메진이 편향되거나 역사적으로 틀린 이미지를 생성했다고 일제히 보도했다. 이메진 사용자는 생성 결과 오류 장면을 소셜네트워크서비스(SNS)를 통해 공유했다. 예를 들어, 사용자가 '교황 이미지를 그려줘'라고 이메진에 요청했을 때, 흑인 교황 이미지를 생성했다. '미국 식민지 시대에 어떤 사람이 국가에 거주하고 있었나'라고 물었을 때, 이메진은 아시아 여성 그룹을 그려서 사용자에게 보여주기도 했다. 프로 미식축구 선수라는 프롬프트에 미식축구 유니폼 입은 여성 모습을 생성하기도 했다. 이에 메타 측은 "더 많은 사람이 이메진 피드백을 공유한다면, 메타는 이메진 기능을 지속적으로 개선할 수 있을 것"이라고 벤처비트를 통해 밝혔다. 다수 외신은 메타가 이메진에 발생하는 인종, 성별, 직업 등에 대한 편향성을 없애기 위해 노력했지만, 기술적 보정이 지나치게 진행돼 문제를 낳았다고 분석했다. 이런 현상은 구글 제미나이의 이미지 생성 기능에서 발생하는 문제와 비슷하다. 제미나이는 지난달 이미지 생성 기능에 지속적 오류가 발생한 바 있다. 예를 들어, 사용자가 '1800년대 미국 상원의원을 생성해라'고 요청하면, 제미나이는 아메리카 원주민 여성을 닮은 인물을 내놨다. 실제 역사상 미국 첫 여성 상원의원은 1922년 등장했으며, 백인이었다. 제미나이가 잘못된 이미지를 생성한 셈이다. 이에 순다 피차이 구글 최고경영자(CEO)는 해당 오류를 인정하면서 제미나이의 이미지 생성 기능을 일시 중단하겠다고 발표했다. 피차이 CEO는 "구글 AI 연구팀은 기능 문제를 해결하기 위해 24시간 내내 노력하고 있다"며 "현재 다양한 프롬프트에서 상당한 개선이 이뤄지고 있다"고 설명했다. 이어 "그동안 문제를 추가로 검토함으로써 이에 맞는 기능 수정을 진행하겠다"고 덧붙였다.

2024.03.03 08:18김미정

혁신 일으키는 AI, 글로벌 기업서 어떻게 적용할까

알파고로 전 세계에 충격을 준 인공지능(AI)이 10년도 채 지나지 않아 글로벌 산업에 혁신의 바람을 일으키고 있다. 오픈AI가 선보인 챗GPT는 직접 콘텐츠를 만드는 생성형AI의 기준을 제시하며 산업화를 이끌고 있다. 최근 출시한 AI모델 소라는 수 년간 걸릴 것이라고 예상됐던 고화질 동영상 생성 작업을 수 개월 만에 구현하며 AI기술의 급격한 기술 발전 현황을 직관적으로 제시했다. 이처럼 급격한 기술 발전과 함께 생성형AI에 대한 기대감으로 최근 많은 조직에서 AI를 통한 혁신을 추구하고 있다. 1일 시장조사기관 더해리스폴에서 글로벌 기업 임원을 대상으로 실시한 설문 조사에 따르면 응답자 중 39%가 생성형 AI를 중심으로 정책이나 전략을 수립 중이라고 답했다. 42%은 이미 관련 기술을 도입하거나 개발 중인 것으로 나타났다. 공급망 위기·인력 부족 등 제조업 위기 극복 제시 제조업에선 공급망 중단 위기, 인력 부족, 지속가능성 요구 등 생존을 위해 극복해야 할 어려움이 연달아 발생하자 이를 극복할 방안으로 AI를 주목하고 있다. 칠레의 구리채굴 기업인 BHP는 신규 광산은 줄어드는 반면 요구 물량은 늘어나는 상황을 극복하기 위해 마이크로소프트의 AI를 도입했다. 애저 머신러닝 플랫폼을 이용해 채굴한 광물에서 구리를 분리하는 농축기의 데이터를 분석해 구조를 최적화한 결과 기존과 같은 양의 광물에서 더 많은 구리를 확보할 수 있게 됐다. 더 적은 업무로 많은 자원을 확보하는 만큼 기존에 비해 연료 소모 비용을 줄이고 탄소 배출량도 낮췄다. 크래프트 하인즈는 불투명한 공급망으로 인해 원자재 등 물류확보가 어려워지는 위험을 방지하기 위해 마이크로소프트365(MS 365) 코파일럿을 도입했다. MS365 코파일럿에 포함된 서플라이 체인 센터는 자재, 재고를 비롯해 지역별 자연재해, 지적학적 상황 등을 공급망에 잠재적으로 영향을 미칠 수 있는 모든 데이터를 수집한 후 이를 자동으로 분석한다. 만약 분석 과정에서 공급망에 이상이 발생할 것으로 예상될 경우 사용자에게 알림을 보내 실제 문제가 발생하는 것을 방지할 수 있다. 미국의 철강업체인 유나이티드 스테이츠 스틸은 구글 클라우드의 생성형 AI 기술을 사용해 전용 AI서비스 마인마인드를 구축했다. 마인마인드는 기계 학습, 비전 처리 및 자연어 처리 등의 AI 기술을 AI를 활용해 현장에서 발생하는 기계적 문제에 대한 솔루션을 제공한다. 이를 통해 장비 관리 업무를 개선해 업무 프로세스 비용을 줄이고 생산성을 높일 수 있도록 돕는다. 신약제조·원격진료 헬스케어 전방위 AI 혁신 헬스케어는 진단, 수술 지원, 새로운 의약품 개발, 원격진료 등 모든 분야에서 폭넓게 생성형 AI가 활용되고 있다. 글로벌 시장조사기업인 스태티시아는 의료AI 시장의 지속적인 성장에 따라 2030년까지 250조 달러 규모로 성장할 것으로 전망했다. 의료데이터 전문기업 에픽시스템즈는 마이크로소프트의 자회사 뉘앙스에서 개발한 DAX 익스프레스를 활용 중이다. DAX 익스프레스는 생성형 AI를 활용해 대면 또는 원격 진료 과정에서 나눈 대화를 토대로 진단 메모 초안을 자동으로 생성하는 서비스다. 진료 중 일일이 환자 데이터를 관리하고 분석 업무를 수행하지 않아도 되는 만큼 의사는 더 많은 시간을 환자 치료에 할애할 수 있다. 독일 제약회사 베링거인겔하임은 새로운 치료용 항체 후보물질의 발굴을 위해 IBM의 생성형AI을 사용한다. 치료용 항체는 암에서부터 자가면역성 질환, 감염성 질환 등 다양한 질환을 치료하기 위해 핵심요소로 주목받고 있다. 베링거인겔하임은 IBM의 사전 훈련된 AI 모델을 활용한 가상시험(in silico)을 통해 친화성, 특이성, 개발 가능성 등 필요한 특성을 갖춘 새로운 항체를 집중적으로 발굴한다. 원격임신관리 서비스를 제공하는 오붐헬스도 IBM의 AI서비스를 활용한다. 모바일앱 적용된 왓슨X 어시스턴트를 통해 사용자의 건강 정보를 분석하고 이를 토대로 최적화된 의료 정보 등을 제공해 불임을 방지할 수 있도록 돕는다. 미국 종합 의료센터인 메이요클리닉은 구글클라우드와 생성형 AI를 활용한 의료 데이터 검색 도구를 개발 중이다. 치료에 필요한 정보 중 의료 기록, 연구 논문 중 비정형으로 된 자료도 보다 쉽게 찾을 수 있는 환경 구축을 목표로 한다. 이번 작업에는 AI 전문가가 아니더라도 생성AI를 활용해 업무용 앱을 만들거나 데이터를 분석할 수 있도록 지원하는 생성AI 앱 빌더가 쓰였다. 미국의 앨런 연구소는 사람의 뇌를 클라우드 환경에 구현하는 뇌 지식 플랫폼을 아마존웹서비스(AWS)의 AI 서비스 기반으로 구현 중이다. 뇌 지식 플랫폼은 약 2천억 개의 세포로 이뤄진 뇌를 가상환경에 재현하는 프로젝트로 알츠하이머병, 파킨슨병 등 뇌질환이 발생하는 이유를 찾아내는 것을 목표로 한다. 앨런 연구소는 AWS의 생성형AI 플랫폼인 세이지메이커를 이용해 가상환경에 구현한 뇌의 데이터를 분석하고 AI모델을 개발할 예정이다. 워크플로우 단축으로 기업 생산성 혁신 현재 전 산업에 걸쳐 AI가 가장 많이 활용되는 부분은 일상적인 업무의 자동화다. 반복적인 작업을 자동화해 직원의 업무 부하와 인적오류를 줄여 효율성과 생산성을 향상시킨다. 금융기업 무디스는 불확실성이 늘어나는 글로벌 시장에서 정부기관과 기업을 보다 정확하고 빠르게 평가하기 위한 방안을 모색하고 있다. 이에 기존에 처리할 수 없던 규모의 대규모 데이터를 수집하고 AI로 분석하기 위해 애저 기반 오픈AI 서비스를 활용해 자체 AI도구인 무디즈 리서치 어시스턴트를 구축했다. 세계 각국에 분산된 1만4천 명의 직원들은 직접 AI를 활용해 데이터를 분석하고 이를 전사에 공유할 수 있도록 코파일럿이 적용된 팀즈를 활용한다. 영국의 통신사업자인 보다폰은 구글의 젠앱빌더를 이용해 상담원의 업무 피로도를 낮추기 위한 비정형 데이터 검색 서비스를 개발한다. 생성형AI에 PDF, 이미지, 표 등을 비정형 데이터도 모두 학습시켜 상담 중 필요한 내용을 바로 확인하고 답변할 수 있도록 지원하기 위함이다. 이를 통해 피로도를 낮출 뿐 아니라 건당 통화시간을 단축해 업무 생산성을 높일 수 있도록 지원한다. 메타는 누구나 간단하게 광고 이미지를 만들 수 있는 생성형 AI 서비스 AI샌드 박스를 공개했다. 실무자가 도메인 지식을 활용해 손쉽게 다양한 광고 이미지를 만들 수 있도록 배경 생성, 이미지 확장 및 텍스트 변형 등의 AI기반 기능을 제공한다. 주요 소셜네트워크서비스의 경우 휘발성 있는 콘텐츠가 빠르게 소모되고 있다. 그만큼 이러한 유행을 따라갈 수 있을 정도도 생산속도를 극대화하는 AI샌드박스의 활용도가 높아질 것으로 주목받고 있다. 샘 알트먼 오픈AI 최고경영자(CEO)은 "AI는 새로운 과학을 발견하고 질병을 치료하는 등 우리의 지능을 넘어선 새로운 발견을 가능하도록 도와줄 수 있는 도구"라며 "AI을 활용해 문제를 해결한다면 지금은 상상하기도 어려운 좋은 미래를 열 수 있을 것"이라고 미래를 제시했다.

2024.03.01 07:00남혁우

일본간 저커버그, 기시다 총리와 면담…AI 관련 의견 나눈다

아시아 국가 투어중인 마크 저커버그 메타 최고경영자(CEO)가 27일 기시다 후미오 일본 총리와 만난다는 보도가 나왔다. 이날 후지뉴스네트워크(FNN)는 저커버그 CEO가 기시다 총리와 도쿄 관저서 면담을 갖는다고 밝혔다. FNN에 따르면 일본 정부 관계자는 기시다 총리가 저커버그 CEO는 AI(인공지능) 관련 의견을 나눌 예정이다. 최근 AI와 관련된 개인정보 침해와 같은 위험요소가 지적되고 있는 가운데, 이 면담에서 정부가 메타에 기술 안정성 평가 등 대처 방안을 요구할 전망이다. 메타 측은 28일 저커버그 CEO가 서울에 방문할 계획이라고 했지만, 자세한 계획은 언급하지 않았다. 업계에 따르면 저커버그 CEO는 대통령실뿐만 아니라 이재용 삼성전자 회장, 조주완 LG전자 대표를 만날 예정이다. 이재용 회장과는 AI 협력을, 조주완 대표와는 XR(확장현실) 헤드셋 공동 개발과 관련된 논의를 할 것으로 보인다. 메타 측은 "저커버그 CEO는 개인 여행으로 일본에 있으며, 있는 동안 몇몇 주요 파트너들과 만날 예정"이라며 "알려진 것과 같이 주요 파트너들과 회의를 위해 잠시 한국을 방문할 계획"이라고 말했다. 저커버그 CEO는 한국 일정을 끝내고 인도 서부 구자라트주 잠나가르로 떠난다. 여기서 인도 부호인 무케시 암바니 막내아들 아난트 암바니 결혼식 전 축하 행사에 참여할 계획으로 알려졌다. 내달 1일부터 3일간 열리는 이 행사에는 여러 유명 인사들이 참석할 예정이다.

2024.02.27 15:22안희정

"MS 애저보다 빠르다"…美 스타트업 그로크, AI 칩으로 시장 판도 흔들까

거대언어모델(LLM)의 추론·응답 속도를 높인 인공지능(AI) 칩이 나왔다. 엔비디아 그래픽처리장치(GPU)보다 더 빠른 속도를 갖췄다는 점에서 업계의 주목을 받고 있다. 22일 미국 IT 매체 뉴아틀라스에 따르면 미국 AI 스타트업 그로크는 지난 20일 LLM의 추론과 응답 속도를 높이는 AI 칩 '언어처리장치(LPU)'를 출시했다. 그로크는 구글 개발자 출신들이 모여 2016년 설립한 반도체 기업이다. 설립자 중에는 구글 머신러닝(ML) 칩을 개발한 조나단 로스가 최고경영자(CEO)다. 보도에 따르면 LPU는 LLM을 탑재한 챗봇인 오픈AI의 '챗GPT', 구글의 '제미나이' 등의 응답 속도 향상에 특화됐다. 사용자 질문에 1초도 안 되는 시간에 영어 기준 수백 단어의 답변을 생성할 수 있다. 벤치마크 테스트에서도 LPU는 마이크로소프트의 애저 클라우드 인프라 성능을 능가했다. 메타의 700억 매개변수 '라마 2'는 마이크로소프트 애저 클라우드상에서 초당 19개 토큰을 생성했지만, 그로크를 탑재했을 때 초당 241개 토큰을 만들었다. LLM이 그로크를 탑재할 경우 18배 이상 빠른 추론 속도를 갖출 수 있는 셈이다. 또 LPU는 100개 토큰을 생성하는 데 0.8초가 걸렸지만, 마이크로소프트의 애저 클라우드는 10.1초 소요됐다. 현재 개발자는 그로크챗 인터페이스에서 LPU 엔진을 이용할 수 있다. 승인된 사용자는 라마 2, 미스트랄, 팰컨 등을 통해 엔진을 시험해 볼 수 있다. 조나단 로스 그로크 CEO는 "LLM의 추론 속도는 개발자의 아이디어를 사업화할 수 있다"며 "이는 AI 사업 생태계 필수 요소"라고 밝혔다.

2024.02.22 11:05김미정

저커버그, 이재용 삼성전자 회장 이달 말 만난다

마크 저커버그 메타 최고경영자(CEO)가 이재용 삼성전자 회장을 만나 인공지능(AI) 반도체와 생성형 AI 협력 방안을 논의할 예정이다. 21일 업계에 따르면, 마크 저커버그는 이달 말 방한, 이재용 회장을 만나 AI 반도체 수급과 관련해 논의할 계획이다. 또 저커버그는 윤석열 대통령과의 만남도 추진 중인 것으로 전해졌다. 저커버그 대표가 한국을 방문하는 것은 2013년 6월 이후 약 10년 만이다. 당시 저커버그는 1박 2일 일정으로 방한해 박근혜 전 대통령과 이재용 회장을 만난 바 있다. 삼성전자는 최근 미국 실리콘밸리에 AGI 반도체 개발 특별 연구 조직인 'AGI 컴퓨팅랩'을 신설하는 등 AI 반도체 기술 확보에 나섰다. 삼성전자 AGI 컴퓨팅 랩은 구글 텐서처리장치(TPU) 개발자 출신 우동혁 박사가 맡았다. 최근 글로벌 빅테크들은 AI 반도체 확보에 열을 올리고 있다. 고성능 AI 반도체 수요가 급증하는 상황이지만 AI 반도체 시장은 엔비디아 그래픽처리장치(GPU)가 사실상 독점한 상태다. 이에 메타는 최근 범용인공지능(AGI) 연구를 위한 슈퍼컴퓨팅 인프라를 확충하기 위해 올해 말까지 엔비디바 고성능 그래픽처리장치(GPU) H100 35만 개를 확보할 계획이라고 밝힌 바 있다. AGI는 사람 수준과 동등하거나 그 이상 능력을 지닌 인공지능을 의미한다. 아울러 메타는 지난해 5월 자체 AI 칩 MTIA를 공개, 최근 2세대 '아르테미스'까지 자체 개발했다. 메타는 해당 칩을 올해 투입할 계획이다. 오픈AI는 고성능 AI 반도체를 직접 생산한다는 전략을 세우기도 했다. 샘 알트먼 오픈AI 대표는 지난 달 삼성전자, SK 그룹 주요 경영진과 회동을 가졌고, 인텔과도 논의를 이어갈 전망이다. 샘 알트먼 대표는 자체 AI 반도체 생산을 위해 최대 7조 달러(약 9천300조원) 투자를 유치 중이다. 구글도 최근 TPUv5p 칩을 대규모 언어 모델(LLM) 제미나이에 적용했고, 마이크로소프트(MS)도 '마이아100'이라는 칩을 공개한 바 있다. 또한 손정의 일본 소프트뱅크 회장도 1천억 달러(약 133조5천억원) 규모 반도체 펀드 조성을 추진 중인 것으로 알려졌다.

2024.02.21 16:08최다래

Prev 11 12 13 14 15 Next