• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'SLM'통합검색 결과 입니다. (10건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

GIST, "기존 주파수 해상도 대비 100만배 뛰어난 양자 분광기 가능"

기존 주파수 해상도보다 100만배 더 뛰어난 양자 분광기 구현 방법론이 제시됐다. 기존 분광기에도 탑재가 쉬워 광학정밀계측계에 파장이 예상된다. 광주과학기술원(GIST, 임기철 총장)은 함병승 전기전자컴퓨터공학과 교수가 공간광변조기(SLM)를 이용해 '양자분광기'를 구현할 수 있는 가능성을 확인했다고 6일 밝혔다. SLM은 빛의 공간적 특성을 제어해 영상을 표시하거나 변조하는 장치다. 주로 전자광학 소자나 액정 디스플레이 기술을 활용해 빛의 세기, 위상, 편광 등을 조절한다. 픽셀 수가 많을수록 더 세밀한 빛의 조절이 가능해 고해상도의 영상을 표현하는데 용이하다. 또, 외부 환경의 노이즈나 간섭에 강한 안정성을 보이는 경우가 많아 다양한 조건에서도 안정적인 동작을 유지하는 장점이 있다. 함 교수는 이 분광기 기술 연구에 독자 정립한 '초해상 양자센싱'이론도 응용했다. 이 이론에 따르면 고전광학과 호환 가능하면서도 빛의 파동과 양자 얽힘을 활용해 무한대 양자 센싱이 가능하다. 함병승 교수는 "수치 시뮬레이션과 실험을 통해 주파수 해상도가 10배에서 최대 100만 배까지 향상될 가능성을 검증했다"며 "주변 소음에도 강한 안정성을 갖춘 것을 확인했다"고 설명했다. 함 교수는 "기존 양자 광학 기반 기술이 요구하는 복잡한 장비 없이도 비교적 간단한 구성만으로 양자 수준의 감도와 해상도를 확보할 수 있다는 점에서 큰 의미가 있다"고 부연설명했다. 함 교수는 "이번 연구의 가장 큰 성과는 단일광자 기반의 고차원 얽힘 광자쌍을 사용하는 대신, 일반적인 레이저를 활용해 '위상조절 세기곱'이라는 혁신적인 이론을 창안한 것"이라고 말했다. 위상조절세기곱은 빛의 위상 정보를 정밀하게 제어하고, 광 강도(intensity)의 고차 상관관계(higher-order correlation)를 결합해 해상도와 측정 감도를 극대화할 수 있다. 분광기는 물질이 빛을 흡수하고 방출하는 방식을 정량적으로 측정하는 장치다. 알려진 파장(헬륨네온 레이저)과의 주파수 차이를 분석해 미지의 빛의 파장을 정확히 파악할 수 있다. 이를 통해 화학물질의 구성, 농도, 반응 동역학 등을 분석한다. 환경 모니터링, 품질 관리, 생화학 연구 등 다양한 분야에서 폭넓게 활용된다. 함병승 교수는 "기존 양자 센싱은 얽힘 광자를 사용해야 하는 복잡성과 환경적 노이즈에 취약하다는 문제가 있었다"며 "이 문제 해결을 위해 간섭계의 스캐닝 모드를 이용, 간섭무늬의 변화를 정확하게 세는 고전방식으로 노이즈 저항성과 높은 안정성을 동시 확보했다"고 말했다. 함병승 교수는 "이번 연구로 광학 계측 분야 패러다임 전환이 이루어질 것"으로 예상하며 "향후 실용적 양자센싱 장비 개발 및 양자센서 상용화 연구에 박차를 가할 계획"이라고 언급했다. 이 연구는 과학기술정보통신부 ITRC 양자인터넷 사업의 지원을 받아 수행됐다. 연구 결과는 국제학술지 '사이언티픽 리포트'에 온라인으로 게재됐다.

2025.03.06 11:13박희범

MS, 첫 멀티모달 SLM 공개…저비용·고효율 AI 구현

마이크로소프트가 소규모 언어 모델(SLM) 제품군 파이(Phi)의 신규 모델 2종을 발표했다. 이번 모델들은 적은 컴퓨팅 자원으로도 멀티모달 처리와 경량화된 고성능 AI 모델의 가능성을 확대하는 데 중점을 두고 있다. 3일 마이크로소프트는 SLM 파이4 멀티모달과 파이4 미니를 공개했다고 공식홈페이지를 통해 밝혔다. 파이4 멀티모달은 56억 개의 파라미터를 갖춘 마이크로소프트의 최초 멀티모달 AI 모델로 텍스트, 이미지, 음성을 동시에 처리할 수 있다. 기존 멀티모달 AI가 각각의 입력 유형을 개별적으로 분석한 것과 달리 하나의 모델에서 통합적으로 이해하고 분석할 수 있도록 설계됐다. 이 AI모델은 LoRA 조합 기법(MoL)을 활용해 모델 크기를 최적화하면서도 고성능을 유지하는 것이 특징이다. 허깅페이스 오픈ASR 리더보드에서 6.14%의 단어 오류율(WER)을 기록하며 위스퍼 V2와 같은 오픈소스 음성 인식 모델보다 뛰어난 성능을 기록했다. 마이크로소프트는 파이4 멀티모달이 문서 이해, 차트 및 테이블 해석, 과학적 추론 등의 작업에서 탁월한 성능을 발휘하며, 향후 AI 비서, 음성 기반 서비스, 스마트 기기 등에 폭넓게 적용될 수 있을 것이라고 밝혔다. 이와 함께 파이4 미니는 이 모델은 38억 개의 파라미터를 갖춘 경량화된 고성능 AI 모델이다. 최대 12만8천 토큰 규모의 긴 컨텍스트를 한 번에 처리할 수 있어 코딩, 함수 호출, 과학적 계산, 명령어 실행 등 다양한 텍스트 기반 작업에서 보다 높은 성능을 제공한다 파이4 미니는 작은 규모에도 대규모 AI모델 수준의 성능을 제공할 수 있어 스마트폰, IoT 기기, 자동차, 로봇 등 엣지 디바이스에서 효율적으로 활용 가능하다. 마이크로소프트는 이를 통해 AI 모델을 보다 저렴한 비용으로 다양한 분야에서 효율적으로 운영할 수 있을 것이라고 설명했다. 이제 마이크로소프트는 AI 기술이 단순히 모델 크기를 키우는 방향에서 벗어나, 더 효율적이고 실용적인 모델을 바탕으로 AI사업을 확대할 전망이다. 마이크로소프트의 웨이주 첸 생성형AI 부사장은 "새롭게 선보인 2종의 AI 모델은 복잡한 작업을 효율적으로 처리하도록 설계돼 성능이 제한된 엣지컴퓨팅 환경 등에 이상적"이라며 "낮은 컴퓨팅 요구 사항은 더욱 낮은 대기 시간과 적은 비용을 요구하며 미세 조정이 쉬운 만큼 산업 전반에 걸쳐 다양한 분야에 활용될 수 있을 것"이라고 설명했다.

2025.03.03 09:16남혁우

투비유니콘 윤진욱 대표, "맞춤형 AI솔루션으로 '유니콘' 비상 포부"

"올해 투비유니콘은 초거대 AI 기업으로서의 입지를 다지는데 모든 역량을 집중할 계획입니다. 유니콘을 향해 새롭게 날아오르는 한 해가 될 것입니다." 초거대 AI 상용화 모델을 자체 구축한 생성형 AI 전문 기업 (주)투비유니콘 윤진욱 대표의 새해 포부다. 투비유니콘은 자체 구축한 한국어 전용 거대언어모델(TBU-LLM)을 기반으로 아담, 닥터챗, 담소, 노크 등 다양한 분야 생성형 AI 솔루션을 확보하고 있다. "올해는 고객의 사업 분야별 소형언어모델(sLM) 시장 진입에 적극 나설 것입니다. 보다 정교하고 맞춤화된 AI 솔루션을 고객에 제공할 것입니다." 윤 대표는 "비전 AI 분야로의 진출도 도모할 것"이라며 "AI 시스템과 사물인터넷(IoT), 모빌리티 기술을 결합해 기후변화에 따른 재난 안전 및 피해 최소화를 위한 연구개발에도 적극 나선다"고 언급했다. 투비유니콘이 그동안 개발해 선보인 솔루션이 올해 비상의 기반이다. 곧 개발이 마무리되는 사회필수요원 인력매칭 시스템 '아담(ADAM)'은 육군 AI인재 매칭 플랫폼으로 완성해 시범 공급할 계획이다. 향후 경찰, 소방 등 다양한 분야의 사회필수인력 AI 인재 매칭 플랫폼으로 확장시켜 나갈 계획이다. 지난해 공개한 AI 진료 상담 및 병원예약 서비스 '닥터챗'과 대화형 AI 심리케어솔루션 '담소'도 완성도를 높여, 시니어를 대상으로 하는 AI헬스케어 시장에 안착시킬 방침이다. "서비스형 소프트웨어(SaaS)형 AI 플랫폼으로 학생들의 진로관리 및 수업설계가 가능한 '노크'도 올해 전국 디지털 선도학교를 중심으로 1000곳의 중・고등학교에 보급이 가능할 것으로 전망합니다. 제품 완성도가 높은 만큼 영업 역량이 목표 달성을 좌우할 것으로 봅니다." 인력·자금 안정... "죽음의 계곡 넘었다" 투비유니콘은 창업 5년차 성장기 벤처기업이다. 지난해 정부 R&D 사업과 솔루션 판매에 힘입어 처음으로 매출 25억 원을 돌파했다. 오는 2027년까지 매출 100억 원 달성이 단기 목표다. "지난해 안정적인 재정 기반을 마련함으로써, 벤처기업에 '죽음의 계곡'으로 불리는 데스밸리(Death Valley)는 무사히 건넜다고 봅니다. 전 직원이 똘똘 뭉쳐 어려움을 헤쳐나간 덕분입니다." 투비유니콘은 지난해 정부사업만 모두 11개를 땄다. 사업 확장을 위한 인력과 자금을 확보했다. 자금 면에서는 중소벤처기업부 창업성장기술개발사업인 '2024년 팁스(TIPS)'와 기술보증기금의 '기보-스타(Kibo-Star) 밸리기업'에 선정됐다. 이 덕분에 경영 안정에 도움이 됐다. 수주한 사업도 다양하다. 대표적으로 ▲인공지능산업융합사업단의 AI 시제품 제작 및 상용화 지원사업 ▲한국지능정보사회진흥원의 K-클라우드 프로젝트 공공부문 이용 SaaS 개발・검증 지원사업 ▲중소기업기술정보진흥원의 기술혁신개발사업 등을 땄다. 투비유니콘은 이외에 기술보증기금이 기술이전과 상용화 우수기업 10곳을 선정해 소개하는 우수사례집에도 이름을 올렸다. "대학을 졸업한 뒤 한때 대기업에 다니기도 했습니다. 그러나 창업기회가 곧바로 다가왔습니다. 교육포털인 '스쿨로직' 사이트가 대학 수시모집 기간에 네이버 실시간 검색 1위에 오르는 등 인기를 끌었습니다." 이때 수집된 데이터가 지난 2020년 4월 '투비유니콘'을 설립하는 기반이 됐다. 윤 대표는 "올해 상반기에 몰릴 정부 각 부처 R&D 지원사업 수주는 물론 개별 마케팅을 통해 서비스를 적극 확대해 나갈 것"이라며 자신감을 드러냈다.

2025.02.04 12:39박희범

투비유니콘, 의료분야 AI진료 상담사 '닥터챗' 첫 공개

초거대AI 상용화 모델을 보유한 에듀테크 전문 기업 투비유니콘(대표 윤진욱)이 '2024 대한민국 정부박람회'에서 초거대AI 기술과 공공 서비스를 연계한 교육 및 의료 AI플랫폼을 선보인다고 8일 밝혔다. 이 박람회는 행정안전부와 대통령직속 디지털플랫폼정부위원회가 주최한다. 오는 13~15일 광주 김대중컨벤션센터 1층 전시장에서 개최된다. 투비유니콘은 이 박람회에서 중・고교용 진로 및 수업 설계 플랫폼인 '2025 노크(NOK)' 고도화 버전과 의료용 AI 플랫폼 '닥터챗' 등을 선보인다. '2025 노크' 버전은 교사의 수업 진도와 학생 진로를 분석, 지원하는 생성형 AI 교육 플랫폼이다. 독자 구축한 LLM(거대 언어모델)을 기반으로 만들었다. 중·고등학교 교사의 다양한 경험과 실증을 바탕으로 만든 에듀테크 플랫폼을 생성형 AI를 활용해 고도화했다. 이 '노크'버전은 수업 및 진로설계를 위한 자료 제공이 가능하다. 16+1 융합 활동 주간에는 학습 내용 및 활동, 발표자료 등을 AI기반으로 학생 개인별 수준에 맞춰 지도할 수 있다. 현재 전국 중・고교 7백여 곳에서 이 플랫폼을 도입해 사용 중이다. 이와 함께 투비유니콘은 초거대 AI 기술과 연계해 개발 중인 의료 서비스 '닥터챗'을 처음 공개한다. '닥터챗'은 AI진료 상담 및 병원예약을 할 수 있는 서비스다. 향후 실버 헬스케어 AI인 '담소'로 확장해 나간다는 복안이다. '담소'는 충남 부여군과 함께 지역 및 사용자의 특성과 심리 데이터를 학습시켜 사용자 맞춤형 대화 제공이 가능한 심리케어 솔루션이다. 내년까지 시니어 데이터 기반의 sLM(소형언어모델)을 구축한 뒤 대화형 AI 보이스 봇으로 개발할 계획이다. 윤진욱 대표는 “대한민국 정부 박람회에 초청돼 자체 구축한 초거대AI 기술과 이와 연계한 서비스를 선보인다"며 "정부가 추진 중인 디지털플랫폼정부 구현을 지원하는 기술 개발에 매진할 계획"이라고 말했다.

2024.11.08 15:58박희범

퀄컴 "파트너사 위한 풀스택 최적화·멀티모달 AI에 집중"

[하와이(미국)=권봉석 기자] "퀄컴은 자체 AI 모델을 제작하지 않지만 AI 인프라와 소프트웨어 라이브러리를 제공하여 다양한 AI 제품 개발을 지원하고 있다. 기기 제조사, 개발자, 그리고 모델 제작자와 협업으로 스냅드래곤 디바이스에서 AI 모델을 최적화하는 것이 퀄컴의 전략이다." 미국 하와이에서 진행중인 퀄컴 연례 기술행사 '스냅드래곤 서밋 2024' 첫 날인 21일 오후(미국 현지시간) 국내 기자단과 만난 비네쉬 수쿠마(Vinesh Sukumar) 퀄컴 제품 담당 시니어 디렉터가 이렇게 소개했다. 현재 퀄컴은 메타와 오픈AI 등과 협력해 스냅드래곤 디바이스에서 AI 모델 성능을 최적화하고 있다. 또 스마트폰, PC, 자동차 등 다양한 기기에서의 AI 모델 최적화뿐만 아니라, 책임있는 AI를 통해 데이터 관리와 사용자 프라이버시 보호도 추진중이다. 이날 비네쉬 수쿠마 디렉터는 "여러 회사와 협업을 통해 기존 모델의 성능 최적화는 물론 멀티모달 AI와 같은 향후 기술에도 대비하고 있다"고 밝혔다. ■ 퀄컴 AI 허브와 오케스트라로 AI 모델 배포 간소화 퀄컴은 개발자들의 AI 모델 배포를 간소화하기 위해 올해 3월부터 '퀄컴 AI 허브'를 운영중이다. AI 허브는 개발자들이 최소한의 코드로 스냅드래곤 SoC에서 작동하는 AI 모델을 쉽게 배포할 수 있도록 돕고 있으며, 윈도우, 안드로이드, 리눅스 등 주요 운영체제를 모두 지원한다. 비네쉬 수쿠마 디렉터는 "퀄컴은 도메인별 소형 언어 모델(SLM)을 위한 AI 오케스트라도 제공한다. AI 오케스트라는 특정 도메인에 적합한 소형 언어 모델을 최적화하여 다양한 용도로 활용할 수 있게 하며, 필요에 따라 더 큰 모델을 사용할 수도 있다"고 설명했다. 퀄컴은 AI 어시스턴트 기술에서도 멀티모달 AI의 발전을 기대하고 있다. 멀티모달 AI는 비전, 자연어 처리 등 여러 모달리티를 결합하여 사용자의 제스처와 음성 명령을 동시에 이해할 수 있도록 한다. 비네쉬 수쿠마 디렉터는 자동차 환경을 예로 멀티모달 AI의 역할을 다음과 같이 설명했다. "자동차 내 AI 비서는 운전 중인 사람에게 경고등의 의미를 설명하거나, 장거리 운전 시 디스플레이를 활용해 단조로운 주위 환경을 보다 다채로운 환경으로 생성할 수 있다." ■ "다양한 정밀도 지원해 LLM 성능 극대화" 퀄컴은 AI 모델이 다루는 데이터의 정밀도와 관련해 다양한 데이터 표현 방식을 지원하고 있다. 예를 들어 메모리 제약이 있는 디바이스에서는 4비트 정수(INT4)를 사용하여 효율성을 높이는 방식이다. 비네쉬 수쿠마 디렉터는 "퀄컴은 메모리 대역 개선을 위해 LPDDR5X 메모리를 지원하고 있으며, 이는 초기 토큰 생성 속도와 분당 토큰 생성 속도에 큰 영향을 준다"고 밝혔다. ■ "AI의 윤리적 활용과 책임있는 AI도 주요 관심사" 퀄컴은 각종 AI 기술 개발과 함께 책임있는 AI에도 중점을 두고 있다. 데이터 관리, 편향 제거, 사용자 프라이버시와 보안을 포함한 윤리적 AI 배포를 위해 규제 기관과 협력하고 있다. 비네쉬 수쿠마 디렉터는 "퀄컴은 지난 15년간 AI에 투자해 왔으며, 사용자의 경험을 개선하고 엣지 컴퓨팅을 통해 보다 나은 경험을 제공할 것이다. 또 책임있는 AI를 위해 지속적으로 노력할 것"이라고 밝혔다.

2024.10.23 07:00권봉석

MS, 신규 SLM '파이3.5' 공개…"일부 성능 GPT-4o 미니 제쳐"

마이크로소프트가 신규 소규모언어모델(SLM) '파이3.5'를 공개했다. 벤치마크 결과 일부 성능은 오픈AI의 GPT-4o 미니를 넘어서는 것으로 나타났다. 21일 벤처비트 등 외신에 따르면 마이크로소프트는 파이3.5의 AI모델 3종을 허깅페이스를 통해 출시했다. 파이3.5는 합성 데이터와 필터링한 공개 웹사이트 기반 데이터를 학습한 오픈 멀티모달 모델이다. 공개한 3종은 파이3.5 미니, 파이3.5 전문가 혼합(MoE), 파이3.5 비전이다. 각각 빠른 추론, 복잡한 추론 그리고 이미지 및 비디오 분석 등 비전 작업을 위해 설계됐다. 파이3.5 미니는 38억개의 매개변수로 학습된 SLM으로 노트북이나 모바일 디바이스 등 제한된 컴퓨팅 환경에서도 추론을 비롯한 코드 생성, 수학 문제 해결 작업을 위해 설계됐다. 특히 다국어 및 복잡한 대화에 관련 성능이 최적화됐으며, 128k 토큰 컨텍스트를 지원해 대량의 텍스트도 한 번에 검토하는 것이 가능하다. 파이-3.5 MoE는 복잡한 작업을 효율적으로 처리하기 위해 설계된 모델이다. 서로 다른 역할이나 작업에 특화된 소규모AI를 여러 개 결합한 형태가 특징이다. 덕분에 총 419억 파라미터 규모지만 주어진 업무에 필요한 소규모 모델만 처리를 담당하기 때문에 실제는 66억 개의 파라미터만 활성화해 작업을 수행한다. 이를 통해 자원 효율성을 높임과 동시에 높은 성능을 유지할 수 있다. 이를 통해 파이3.5 MoE는 일부 작업의 벤치마크 결과에서 GPT-4o 미니를 넘어서는 결과를 달성했다. 과학, 인문학, 사회과학 등 다양한 분야의 이해도를 평가하는 다중 작업 언어 이해(MMLU)의 경우 파이3.5 MoE는 GPT-4o 미니보다 평균 2-3% 더 높은 점수를 기록했다. 코드를 이해하거나 긴 문맥에서의 정보 추출을 평가하는 레포QA에서도 파이3.5 MoE가 높은 성과를 거뒀다. 파이3.5 비전은 이름에서 알 수 있듯 텍스트와 이미지 처리 기능에 최적화한 모델이다. 41억5천만 파라미터 기반으로 이미지 및 문자 인식, 차트 해석, 비디오 요약 관련 학습을 중점적으로 훈련했다. 세 모델은 모두 오픈소스로 허깅페이스에서 다운 받아 사용할 수 있다. 또한 마이크로소프트의 MIT 라이선스 기반으로 상업적 사용 및 수정, 배포에 제한이 없다. 마이크로소프트 측은 "파이3.5는 저렴한 비용과 낮은 대기 시간을 제공하는 SML모델"이라며 "개발자들이 이러한 AI를 활용해 상업 및 연구 분야 전반에서 혁신을 촉진할 수 있도록 오픈소스로 제공하고 있다"고 밝혔다.

2024.08.21 09:43남혁우

리벨리온·이글루코퍼레이션, AI 보안 솔루션 개발 '맞손'

AI 반도체 스타트업 리벨리온은 AI 기반 보안 운영·분석 플랫폼 기업 이글루코퍼레이션과 전략적 제휴를 맺고 AI 보안 제품 및 서비스 사업 분야에서 협력하기로 했다고 16일 밝혔다. 양사는 이번 제휴를 바탕으로 AI 보안 제품 및 서비스의 비즈니스 모델을 공동 개발한다. 더불어 시장과 사업 기회 확대를 위한 공동 마케팅 분야에서도 적극적으로 협력한다. 특히 리벨리온의 NPU인 '아톰(ATOM)' 서버 상에 이글루코퍼레이션이 개발한 'AI 보안 어시스턴트' 시스템을 구축해, 보안 조직이 보다 안정적이고 효율적인 인프라 상에서 보안 생산성을 높일 수 있도록 지원한다. 리벨리온은 올해 데이터센터향 AI반도체 '아톰(ATOM)' 양산에 돌입했다. 최근 AI 도입의 효율성과 경제성 측면에서 소형언어모델(SLM)이 주목받고 있는 가운데, 아톰은 국내 상용화 제품 중 유일하게 SLM 지원 제품으로서 높은 전성비(전력 대비 성능)를 갖춘 점이 특징이다. 이글루코퍼레이션의 'AI 보안 시스템'과 같이 생성형 언어모델을 적용한 AI서비스의 핵심 인프라로서 시장을 확보해나갈 예정이다. 이글루코퍼레이션은 2015년 AI 연구개발에 착수한 이래, AI 기반의 보안 솔루션 및 서비스 고도화에 매진해 왔다. 2023년에는 고유의 분류형·설명형·생성형 AI 기술이 적용된 국내 최초의 AI 탐지모델 서비스 '에어(AiR)'를 선보인 바 있다. 박성현 리벨리온 대표는 “생성형 AI를 활용한 서비스를 안정적으로 제공하기 위해선 이에 최적화된 하드웨어가 필수적”이라며 “이번 이글루코퍼레이션과 협력으로 리벨리온은 소형언어모델 특화 AI반도체인 '아톰'을 기반으로 'AI 보안 어시스턴트' 시스템이 보다 효율적으로 구동될 수 있도록 기술적·사업적 협력에 최선을 다할 것”이라고 밝혔다. 이득춘 이글루코퍼레이션 대표는 “전 산업에 걸쳐 생성형 AI 활용이 증가하면서 이를 악용한 보안 위협도 급증하고 있는데, 이에 대응하기 위해서는 조직의 보안 운영 과정에 AI를 활용한 공격 방어 기술이 적용되어야 한다"며 "두 회사의 강점을 결합한 'AI 보안 어시스턴트' 시스템 제공을 통해, 모든 보안 조직이 사이버 위협 방어력을 한 단계 더 강화할 수 있도록 지원하겠다”고 밝혔다.

2024.07.16 09:37장경윤

이음, 파두와 연내 CXL용 칩 제작 돌입…"sLM 시장 노린다"

국내 팹리스 파두의 자회사 이음이 연내 CXL(컴퓨트익스프레스링크) 칩 제작에 착수한다. 오는 2026년 CXL 3.0용 스위치 SoC(시스템온칩)를 상용화하는 것을 목표로 파두와의 시너지 효과를 극대화한다는 전략이다. 한진기 이음 대표는 최근 서울 소재의 파두 본사에서 기자들과 만나 CXL 제품 개발 로드맵에 대해 이같이 밝혔다. 이음은 국내 메모리 분야 팹리스인 파두가 지난해 10월 미국 실리콘밸리에 설립한 자회사다. 차세대 메모리 솔루션으로 주목받는 CXL 관련 기술을 전문으로 개발하고 있다. CXL은 고성능 서버에서 CPU(중앙처리장치)와 함께 사용되는 GPU 가속기, D램, 저장장치 등을 효율적으로 활용하기 위한 차세대 인터페이스다. 기존 각각의 칩들은 별도의 인터페이스가 존재해 원활한 상호연결이 어렵다는 문제점이 있었다. 반면 CXL은 PCIe(PCI 익스프레스; 고속 입출력 인터페이스)를 기반으로 각 칩의 인터페이스를 통합해 메모리의 대역폭 및 용량을 확장할 수 있다. 정해진 아키텍쳐에 따라 서버 내 칩을 구성해야 하는 기존 시스템과 달리, 용도에 따라 유연하게 구성을 설계할 수 있다는 점도 CXL의 장점이다. 또한 CXL은 시스템 반도체와 메모리의 거리가 멀어져도 원활한 통신을 가능하게 해, 더 많은 메모리 모듈을 연결할 수 있게 만든다. 이음은 이 CXL의 핵심 요소인 스위치 SoC를 개발하고 있다. 스위치는 서버 내 시스템반도체와 메모리 등이 동일한 인터페이스로 통신할 수 있게 조율해주는 가교 역할을 담당한다. 한 대표는 "CXL이 차세대 데이터센터 솔루션으로 각광받고 있으나, 스위치 기술은 높은 개발 난이도로 아직 상용화에 이른 곳은 없다"며 "이음은 스위치 SoC와 소프트웨어를 모두 개발해 시장을 선점할 것"이라고 밝혔다. ■ "연내 칩 개발 착수…파두와 시너지 효과 낼 것" 한 대표는 삼성전자, SK하이닉스 등 주요 반도체 기업에서 SSD 등 메모리 개발에 주력해 온 반도체 전문가다. 이후 미국 실리콘밸리에서도 반도체 관련 스타트업을 운영했으며, 2022년경부터 CXL에 주목해 사업 진출을 검토해 왔다. 미국 현지에서도 협업을 제안한 기업들이 있었으나, 한 대표는 파두와 손을 잡기로 했다. 이후 지난해 10월 파두의 자회사로 이음이라는 회사를 공식 설립했다. 한 대표는 "파두는 SSD 컨트롤러 분야에서 단연 최고 수준의 기술력을 지닌 기업으로, SSD도 PCIe 표준을 활용해 CXL과 기술적 연관성이 깊다"며 "CXL 스위치를 만들기 위해선 전문 엔지니어들이 많이 필요한데, 이음은 설계를 담당하고 파두가 칩 제작을 지원하는 구조로 협업할 예정"이라고 설명했다. 현재 이음은 CXL 스위치 칩의 아키텍처, 모델 등을 모두 개발한 상태다. 칩을 만들기 위한 사전단계는 모두 끝낸 격으로, 연내 파두와 칩 제작에 돌입할 수 있을 것으로 전망된다. 한 대표는 "파두와 일정을 조율해 연내 칩 제작을 시작하면 1년 반 정도의 시간이 소요될 것으로 보고 있다"며 "4나노미터(nm) 수준의 최선단 공정을 활용할 예정으로, 삼성전자와 TSMC를 모두 고려하고 있다"고 밝혔다. ■ 목표 시장은 LLM이 아닌 'sLM' 이음이 바라보는 CXL의 유망한 적용처는 LLM(거대언어모델)이 아닌 sLM(소형언어모델)이다. 현재 AI 업계에서 챗GPT로 대표되는 LLM이 가장 많은 주목을 받고 있으나, 데이터 처리 효율성을 고려하면 특정 목적에 초점을 맞춘 sLM이 향후 각광받을 것이라는 판단 하에서다. 한 대표는 "엔비디아와 오픈AI가 주도하는 LLM은 400GB 이상의 데이터 용량을 요구하는데, 간단한 답변을 얻기 위해 이러한 대규모 모델 전체를 구동하는 것은 매우 비효율적"이라며 "향후에는 50~80GB 급의 sLM을 여러 개 두고 목적에 따라 특정 시스템만을 구동하는 방식으로 나아갈 것"이라고 내다봤다. 이러한 sLM 구동 모델에서는 CXL이 핵심 역할을 담당할 수 있다. CXL은 서버 내 각 칩들을 유기적으로 연결하기 때문에, 목적에 따라 구동 시스템을 변환하면서 서비스하는 데 최적화돼있다. 그는 "현재 시스템은 아키텍처가 정해져 있는 데 반해, CXL은 스위칭 기술로 데이터센터 내 구성 요소를 자유롭게 커스터마이즈할 수 있다"며 "이 경우 데이터센터의 유지비용이 획기적으로 줄일 수 있게 된다"고 말했다. ■ CXL, 3.0부터 본격 개화…한국도 미리 에코시스템 갖춰야 CXL은 이를 지원하는 각종 시스템반도체와 메모리, 표준 등 제반 기술이 구축돼야만 실제 적용이 가능하다. 그러나 현재로선 2.0 버전의 일부 개별 요소만이 개발 완료됐을 뿐, 전체 시스템 구축에는 더 많은 시간이 걸릴 것으로 전망된다. 한 대표는 "AI 산업에서 CXL이 본격적으로 개화하는 시기는 오는 2026년 CXL 3.0이 도래하는 때가 될 것"이라며 "이음 역시 CXL 3.0용 스위치를 2026년 상용화하는 것을 목표로 하고 있다"고 밝혔다. 또한 이음의 구체적인 비즈니스 모델은 단순히 칩 공급에만 있지 않다. CXL은 엔비디아의 NV링크, NV스위치처럼 각 칩의 통신을 돕는 소프트웨어가 반드시 필요하다. 이음은 CXL용 소프트웨어를 함께 개발 중으로, 고객사가 이음 칩 활용시 소프트웨어를 구독해 지속적인 매출을 올리는 사업 방향을 구상하고 있다. 끝으로 한 대표는 "CXL 스위치를 잘 만들기 위해서는 시스템반도체와 그 하위 시스템을 모두 이해하고 검증할 수 있는 에코시스템이 갖춰져야 한다"며 "우리나라도 AI 시대를 대비하기 위해선 다양한 기업들이 협력할 수 있는 새로운 생태계를 만들어야 할 것"이라고 강조했다.

2024.07.10 14:48장경윤

리벨리온-스퀴즈비츠, AI 기술 고도화 위한 파트너십 체결

AI반도체 스타트업 리벨리온은 AI모델 경량화 전문 스타트업 스퀴즈비츠와 NPU(신경망처리장치)에 최적화된 생성형AI 모델 개발과 관련한 전략적 파트너십을 체결했다고 29일 밝혔다. 이번 협력은 특히 소형언어모델(SLM)의 경량화에 초점을 둔다. SLM은 범용인공지능(AGI) 대비 작은, 통상 300억개 미만의 파라미터를 가진 언어모델을 뜻한다. 스퀴즈비츠는 정확도 손실을 최소화하면서도 AI모델의 계산량을 압축할 수 있는 경량화 전문성을 가지고 있다. 리벨리온은 국내에선 최초로 소형언어모델 가속이 가능한 NPU를 양산한다. 이번 파트너십을 기반으로 양사는 각사가 가진 AI 경량화 노하우와 AI 추론 전용 하드웨어 기술을 바탕으로 다양한 소형언어모델을 리벨리온의 NPU에 최적화하여 경량화하는데 전략적으로 협력한다. 스퀴즈비츠는 현재 지원 중인 엔비디아 GPU 뿐 아니라 리벨리온의 NPU향으로 생성형AI 모델을 경량화할 수 있는 기술적 기반을 확보하게 된다. 리벨리온 또한 자사 하드웨어에 최적화된 경량화 언어모델을 활용해 생성형AI용 NPU의 판매 활로를 확장한다. 이번 파트너십은 생성형AI에 특화된 하드웨어를 기반으로 경량화 소프트웨어 기술을 개발하는 국내 최초 사례다. 양사는 소형언어모델 경량화 분야에 선도적인 역할을 수행해 지속가능한 생성형AI 서비스 제공 환경을 구축하고, 나아가 국내 AI 생태계 발전에 기여한다는 목표다. 이번 파트너십은 최근 생성형AI 가동에 소요되는 비용과 전력을 최소화하기 위한 최신 기술 트렌드를 반영한다. 최근 제한된 컴퓨팅 자원으로도 효율적으로 활용할 수 있는 소형언어모델이 각광받고 있으며, AI모델을 압축해 하드웨어 연산의 부담을 더는 경량화 기술 또한 크게 주목받고 있다. AI추론에 특화된 NPU 역시 전력소모와 구축비용을 대폭 줄이는 역할을 수행할 것으로 기대된다. 김형준 스퀴즈비츠 대표는 “리벨리온과의 협력을 통해 생성형 AI 기반 서비스 기업 고객들에게 더욱 다양한 하드웨어 옵션을 제공할 수 있게 되었다”며 “다양성을 바탕으로 각각의 서비스에 가장 최적화된 하드웨어와 경량화 기술을 제공함으로써 기업들이 더 효율적으로 AI를 사용할 수 있게 지원할 것”이라고 말했다. 박성현 리벨리온 대표는 “NPU와 AI경량화 기술은 지속가능하고 비용효율적인 AI 비즈니스를 위한 필수요소로 자리잡고 있다”며 “이번 파트너십으로 사용자들에게 리벨리온의 NPU 상에서 경량화된 생성형AI 모델을 활용해 부담없고 손쉽게 AI를 도입할 수 있는 기회를 제공할 것으로 기대한다”고 밝혔다.

2024.05.29 10:03장경윤

"네트워크 기업에서 AI 전문회사로"...통신사 생존 지도 바뀐다

인공지능(AI)이 세상을 삼키고 있다. 일상생활뿐 아니라 첨단 비즈니스 영역까지 뒤흔들고 있다. 특히 챗GPT를 비롯한 생성형 AI는 다양한 산업 분야의 기본 문법을 바꿔놓으면서 새로운 혁신의 밑거름이 되고 있다. 반면, 기업에서는 AI 도입이 경쟁력 강화를 위한 기회라는 점을 알면서도 불확실성을 포함한 위험 요인 때문에 도입을 주저하고 있는 것도 현실이다. 지디넷코리아는 창간 24주년을 맞아 법무법인 세종의 AI센터와 함께 이런 변화를 진단하는 'GenAI 시대' 특별 기획을 마련했다. 이번 기획에서는 기업이 AI 규제에 효과적으로 대응하면서 도입 가능한 AI 거버넌스에 대해 살펴본다. 아울러, 소프트웨어, 통신, 인터넷, 헬스바이오, 유통, 전자, 재계, 자동차, 게임, 블록체인, 금융 등 11개 분야별로 AI가 어떤 변화를 일으키고 있는 지 심층 분석한다. 또 AI 기술 발전과 함께 논의되어야 할 윤리적, 사회적 문제들에 대한 다각적인 논점을 제시해 건강한 AI 생태계 조성에 기여하고자 한다. [편집자주] "글로벌 AI 컴퍼니, AICT 기업." 국내 통신사들이 최근 강조하는 선언적 구호다. 네트워크 구축을 통한 연결 서비스가 본업인 이들이 인공지능(AI)을 전면에 내세운다. 통신사 최고경영자(CEO)들은 단순히 AI를 강조하는 수준을 넘어 AI 회사로 바꾸겠다고 입을 모은다. 모든 산업이 AI를 바라보고 있지만 국내 통신업계가 AI를 도입하고 사업을 전환하는 속도는 차원이 다르다. 단순히 네트워크 자동화 관리 솔루션을 갖추는 데 그치지 않고, 글로벌 빅테크의 행보에 궤를 맞춰 직접 거대언어모델(LLM)까지 만들었다. 대부분의 업종에서 기업들이 AI를 중시하고 도입하겠다고 하지만, 언어모델을 직접 구축하겠다고 나서지는 않는다. 또 과거 CES에서 아마존 알렉사 광풍이 불었을 당시 국내 기업 중 통신사들이 가장 먼저 AI 스피커 출시 대열에 뛰어들었다. 보통 기업들이 디지털 트랜스포메이션을 중시하며 관련 조직을 신설하고 C-레벨급 임원을 발탁할 때 통신사들은 AI 전담 임원과 조직을 뒀다. 5G와 LTE로 이어지는 무선 네트워크의 진화가 지금의 디지털 경제를 가능케 한 사회적 인프라가 됐다는 평가를 받는다. 다만 세계 각국의 통신사들은 네트워크 구축 노력에도 과실은 일부 빅테크 회사가 독식했다고 여긴다. 이런 탓에 통신사들이 플랫폼 사업에 뒤늦게 뛰어들기도 했다. 하지만 AI를 대하는 태도는 다르다. 기술 주도권을 갖는다거나 AI를 통한 수익 사업화를 넘어 자체적으로 AI를 활용하지 않으면 디지털 사회에서만이 아니라 본업인 통신에서도 도태될 수 있다는 우려를 안고 있다. 무조건 AI에 뛰어들 수밖에 없다고 자각하는 상황이다. 글로벌 통신사들은 왜 AI에 빠졌나 통신산업은 AI와 뗄레야 뗄 수 없는 관계다. AI의 밑바탕 재료인 데이터가 계속 생성되는 지점에서 사업을 전개하기 때문이다. 세계 최다 가입자를 거느린 중국 차이나모바일을 예로 들어보자. 지난해 3분기 기준 5G 가입자 수만 7억3천만 회선으로 추정되는 회사다. 중국은 신용카드 도입이 늦어지면서 모바일페이가 가장 발전한 나라로 꼽힌다. 즉, 차이나모바일은 7억명 이상의 데이터 이용량과 이동 경로를 비롯해 결제와 소비 양상까지 살필 수 있는 셈이다. AI 모델을 구축하기 위해 학습 데이터를 찾아다니는 회사들이 보기에 차이나모바일은 빅데이터 창고를 여럿 거느린 곳이다. 세계이동통신사업자연합회(GSMA)는 '이동통신 산업과 AI(The Mobile Industry and AI)' 보고서에서 “5G와 사물인터넷(IoT) 출시로 실시간으로 더 많은 실제 데이터를 수집할 수 있게 됐고, AI 시스템은 이 데이터를 활용해 보다 정교해지고 능력이 향상될 수 있다”고 내다봤다. 그러면서 “통신산업에서 AI는 모바일 사업자가 연결성과 고객 경험을 모두 개선할 수 있도록 해준다”며 “AI를 사용해 네트워크를 최적화하고 자동화해 네트워크 운영자는 더 나은 서비스를 제공하고 더 많은 사람들이 연결되도록 할 수 있다”고 분석했다. AI로 사업의 이점을 살릴 수 있는데 마다할 이유가 없다는 뜻이다. 이에 각국의 통신사들은 다양한 방면에서 AI를 활용하고 있다. 예컨대 노르웨이에 본사를 두고 있는 유럽 지역의 통신사인 텔레노어(Telenor)는 수년 전부터 데이터 분석을 통해 무선 네트워크의 전력 소비와 이산화탄소 배출을 감소시키는 데 공을 들이고 있다. 미국의 AT&T는 AI와 통계 알고리즘을 사용하는 예측 모델을 사용해 네트워크 서비스 중단을 예측하며 방지한다. 일본의 KDDI는 IoT 디바이스와 센서, 무선 네트워크의 정보를 AI 기반 시스템으로 통합해 자연재해에 대한 정부의 대응을 최적화하는 데 도움을 주고 있다. 통신 사업을 전개하는 지역적인 환경이나 현지 공공 서비스의 수요에 부합하는 AI 모델을 일찍이 만든 것이다. 범용 LLM 넘어 특화모델 넘보는 韓 통신사 국내 통신 3사도 글로벌 통신사들이 선보인 AI 기반 사업 모델을 대부분 선보였다. AI컨택센터(AICC)와 같은 B2B 솔루션 사업은 기존 콜센터의 디지털 전환을 돕는 데 그치지 않고 3사의 수익을 창출하는 신사업 자리까지 올랐다. 특히 자체 개발 LLM까지 보유하고 있다. SK텔레콤의 에이닷엑스, KT의 믿음 등의 파라미터 값은 글로벌 회사들의 LLM과 견줘 뒤지지 않는다. LG유플러스도 그룹사 차원에서 개발한 엑사원을 바탕으로 AI 경쟁력을 갖추고 있다. GPT 기반의 AI 서비스가 열풍을 불러오며 국내 통신사들도 LLM 개발에 나섰지만, 이제는 기존 LLM 기반의 특화모델을 확보하는 단계로 접어들었다. 이를테면 SK텔레콤은 도이치텔레콤, 이앤(e&)그룹, 싱텔그룹, 소프트뱅크 등 주요 글로벌 통신사들과 '글로벌 텔코 AI 얼라이언스(GTAA)'를 구축하고 합작법인을 내세워 통신에 특화된 버티컬 LLM을 만든다는 계획이다. SK텔레콤은 파트너 관계를 맺고 있는 오픈AI, 앤트로픽과도 텔코LLM 개발에 힘을 모으고 있다. LLM 개발 경쟁 시기에 주요하게 따진 파라미터 크기가 아니라 LLM 기반으로 어떻게 활용할 수 있는지, 수익화가 가능한 사업모델을 찾는데 주력하겠다는 뜻이다. 정석근 SK텔레콤 글로벌AI테크사업부장(CAGO)은 “GTAA는 통신사향 LLM 기술 개발을 목표로 이를 통해 업무 효율 향상과 고객 서비스 가치를 높이고 네트워크 최적화, 마케팅 솔루션 등 다양한 효율화 사례로 협력을 늘릴 것”이라며 “GTAA 멤버사들은 13억 명의 가입자를 보유한 글로벌 통신사로 텔코 LLM 개발 등에서 규모의 경제를 바탕으로 협력을 이어갈 예정”이라고 밝혔다. KT는 자체 개발 LLM 믿음과 오픈AI의 GPT, 메타의 라마 등을 함께 활용하는 멀티 LLM 전략 기반의 내부업무 혁신 플랫폼 젠아이두(Gen.AIDU)를 개발하고 전사에 적용키로 했다. 젠아이두는 생성형 AI를 이용해 API를 직접 개발해서 사용할 수 있도록 하는 플랫폼이다. 특히 산업별로 특화된 SLM 수요가 커졌다는 점에 따라 LLM 개발 경험을 내세운 SLM을 만들어 기업고객 수요에 맞추겠다는 전략이다. 2천100억 파라미터 값의 모델을 만드는 과정에서 얻은 경험으로 각기 다름 AI 수요에 맞는 경량화 버티컬 모델을 내놓기로 한 것이다. 오승필 KT 기술혁신부문장(CTO)은 “LLM이 여러 가지를 할 수 있고 좋지만 수요기업 입장에서는 가격 경쟁력이 있어야 한다”며 “수요에 맞도록 파라미터 튜닝을 거쳐 고객에 제공하고, 이를 다 포함해 멀티 LLM 전략을 가져갈 것”이라고 말했다. LG유플러스는 LG AI연구원이 구축한 엑사원을 활용, 통신에 특화된 생성형 AI 모델인 익시젠(ixi-GEN)을 상반기 내에 공개한다는 방침이다. 익시젠을 기반으로 개인형 모바일 에이전트, 미디어 에이전트, 워크 에이전트를 구현키로 했다. 최근 GPT 기반의 챗 에이전트 서비스 4종을 내놨는데 이 역시 익시젠 기반으로 전환할 예정이다. LG유플러스는 이를 두고 AI 응용 서비스라 칭하며 이 부문에선 반드시 앞서간다는 계획이다. AI 자체 개발 단계를 넘어 앞으로는 응용 기술이 중요하다는 판단을 내린 것이다. 고도화된 LLM과 상황에 맞는 자연어이해도 활용한다. 성준현 LG유플러스 AI데이터프로덕트담당은 “LLM 기반의 대화형 상담은 최신 LLM과 기존 자연어이해(NLU)를 하이브리드로 사용해 효율성을 높였다”며 “챗 에이전트는 중복 개발 없이 빠르게 신규 챗 기능을 제공하고 간단한 업무는 자연어처리를, 복잡한 질문은 LLM 처리를 가능하도록 했다”고 설명했다.

2024.04.24 15:28박수형

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"요금 올리거나, 무료 풀거나"…OTT, 전략 분화

"책 대신 '아이패드'로 수업을"…디지털이 바꾼 교실 풍경은

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

[ZD브리핑] 아시아 IT 박람회 컴퓨텍스 개최...21대 대선 후보 첫 토론회

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현