검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'언어'통합검색 결과 입니다. (131건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

업스테이지-플리토, 아시아 다국어 AI모델 함께 만든다

업스테이지(대표 김성훈)가 플리토와 함께 일본어, 태국어 등 데이터가 부족한 아시아 지역 대규모 언어모델을 공동 개발한다. 업스테이지는 플리토와 AI 언어 데이터 구축을 위한 업무협력 협약(MOU)를 체결했다고 9일 밝혔다. 현재 빅테크 기업이 주도하는 거대언어모델(LLM) 개발은 영어에 편중돼, 상대적으로 아시아권의 언어는 학습 데이터가 부족한 실정이다. 이에 양사는 ▲ 한국어 언어모델 평가 플랫폼 'Open-Ko LLM 리더보드' 벤치마크 데이터셋 구축 ▲ 다국어 LLM 리더보드 운영 ▲ 저자원 언어 데이터 구축 및 저자원 언어 활용 LLM 현지화 ▲ 기업용 LLM 구축에 따른 데이터 공급 파트너십 강화 등 다양한 분야에서 협력을 강화하기로 했다. 이를 통해 고품질의 저자원 언어 데이터를 확보, 사전학습 LLM 솔라의 지원 언어를 확장해 동남아시아 등 다양한 지역별 언어에 특화된 맞춤형 모델을 개발하겠다는 전략이다. 솔라는 현재 한국어, 영어를 지원하며, 연내 일본어와 태국어까지 지원 언어를 확대할 예정이다. 플리토는 이번 협약을 바탕으로 언어 데이터와 AI 기술 간의 시너지를 통해 언어 모델의 고도화에 적극적으로 기여할 예정이다. 더불어 다국어 병렬 말뭉치 구축 노하우와 저작권 이슈가 없는 텍스트·이미지·음성 데이터셋을 통해 자사 언어 수집 기술 경쟁력을 높인다는 계획이다. 김성훈 업스테이지 대표는 “언어모델로 촉발된 생성형 AI 열풍이 전 세계를 뒤흔들고 있는 상황에서 양질의 언어 데이터 확보는 필수적인 과제”라며 “업스테이지는 이번 플리토와의 협력을 통해 전 세계 더 많은 사람들이 생성형 AI 혁신을 경험할 수 있도록 데이터 고도화에 나설 것”이라고 밝혔다. 이정수 플리토 대표는 "저자원 언어 학습분야는 초거대언어모델 성능의 핵심 요소로 부상했다”며 “양사 협력을 통해 고품질 데이터와 고도화된 기술 간의 접목이 국내 생성형 AI 생태계에 얼마나 긍정적인 기여를 할 수 있는지 보이자고 한다”고 말했다.

2024.05.09 15:15남혁우

[유미's 픽] 삼성도 챗GPT로 기밀 샐까 골머리…'AI 보안' 선두 경쟁 본격화

#. 지난해 5월. 삼성전자는 회사 내부 기기에서 생성형 인공지능(AI) 사용을 금지했다. 삼성전자 반도체(DS) 부문 직원들이 같은 해 3월 소프트웨어 소스코드의 오류를 확인하고 회의 내용을 요약하는 등의 업무를 위해 챗GPT에 소스코드, 회의 내용 등을 입력했다가 문제가 발생했기 때문이다. 이에 삼성전자는 "사내 PC를 통한 생성형 AI 사용을 일시적으로 제한한다"며 "사외에서 챗GPT 등 생성형 AI를 사용하는 경우에도 회사와 관련된 정보, 본인 및 타인의 개인정보 등은 입력하지 않도록 각별히 유의해 달라"고 당부했다. 이처럼 오픈AI '챗GPT', 구글 '제미나이' 같은 생성형 AI를 통한 검색이 최근 활발히 이뤄지며 기밀 정보 유출 우려가 높아진 가운데 기업을 중심으로 '보안'의 중요성이 점차 커지고 있다. 보안이 AI 산업의 한 축이 될 것으로 전망되면서 국내외 업체들도 앞 다퉈 대응에 나선 모양새다. 7일 업계에 따르면 마이크로소프트(MS)는 지난달 1일 '코파일럿 포 시큐리티(Copilot for Security)'를 출시하며 기업 공략에 본격 나섰다. 이 서비스는 IT 및 보안 담당자를 위한 생성형 AI 보안 솔루션으로, 오픈AI GPT-4와 MS 자체 보안 특화 AI 모델을 기반으로 구동된다. MS는 지난해 3월 사이버보안 업계 첫 생성형 AI 보안 서비스라는 이름으로 이 시장에 첫 발을 내딛었다. 당시 이 서비스는 챗봇처럼 위협 요인을 알려주는 구동 방식에 그쳤다. 이번에 나온 '코파일럿 포 시큐리티'는 프롬프트 입력 시 사고 요약, 취약점 분석도 가능하다는 점에서 한 단계 더 진화됐다는 평가다. 이에 맞춰 체크포인트 소프트웨어 테크놀로지스는 보안 작업 필요 시간을 10%로 줄이는 AI 보안 솔루션 '인피니티 AI 코파일럿'을 올해 2월 선보였다. 체크포인트는 MS의 오랜 파트너인 사이버 보안 플랫폼 기업으로, 현재 프리뷰 형태로 이 서비스를 제공 중이다. 2분기에 정식 출시를 앞둔 '인피니티 AI 코파일럿'은 보안 정책을 변경하고 직원 내 담당 권한을 변경하는 작업도 가능한 것이 특징이다. 글로벌 보안 시장을 이끌고 있는 팔로알토 네트웍스는 AI 열풍 이전인 12여년 전부터 사이버 보안에 AI·머신러닝(ML)을 활용해 업계 선구자로 통한다. 최근에는 보안관제 인력난에 대한 해결책으로 '확장된 보안 인텔리전스 자동화 관리(XSIAM)'를 내세워 AI를 통한 보안운영센터(SOC)의 운영 효율을 높이기 위해 애쓰고 있다. 구글도 AI로 보안 강화에 나설 것이란 뜻을 내비쳤다. 순다르 피차이 구글 최고경영자(CEO)는 지난 2월 독일 뮌헨 안보회의에서 "사이버 해커는 시스템을 공격하기 위해 한 번만 성공하면 되지만, 방어자는 시스템을 보호하기 위해 매번 성공해야 한다는 딜레마가 있다"며 "(AI는) 이러한 딜레마를 줄여줄 것"이라고 밝혀 눈길을 끌었다. 국내 업체 역시 AI 기술을 적용해 서비스 경쟁력을 끌어 올리고 있다. 안랩은 현재 연구소 산하에 '인공지능팀'을 두고 머신러닝 기술을 통한 솔루션·서비스 탐지 기능 고도화 작업에 집중하고 있다. 또 AI를 악성코드와 피싱 이메일, 스미싱 문자 등을 탐지하는데도 활용 중이다. 여기에 생성형 AI 기술 개발을 통해 확장된 탐지 및 대응(XDR) 플랫폼 '안랩 XDR'에서 보안 담당자의 업무를 더 끌어올릴 수 있는 'AI 시큐리티 어시스턴트'도 개발 중이다. 업계 관계자는 "보안업체들은 판정형 AI업체의 서비스를 생성형 AI와 결합해 기술을 고도화 하던가, 생성형 AI가 기존에 가지고 있는 보안 문제를 최소화 하는 것에 집중하고 있다"며 "이들이 다양한 방식으로 AI 기술을 활용하는 것은 자연스러운 흐름"이라고 말했다. 일부 기업들은 AI를 활용해 보안 위협을 탐지하는 것에 그치지 않고 기업용 AI 시장에 직접 뛰어들고 있다. 내부 보안 혹은 사이버 위협·악성코드 분석 등 비정형 데이터를 포함한 데이터 분류와 필터링 기술에 강점을 갖고 있다는 점을 앞세워 보다 안전한 맞춤형 AI 서비스를 제공할 수 있다고 강조하고 나섰다. 데이터·애플리케이션 보안 사업에 집중했던 파수는 지난 3월 경량언어모델(sLLM) '엘름(ELLM)'을 출시하며 본격적으로 LLM 시장 경쟁에 나섰다. 구축형(온프레미스)으로 제공되는 엘름은 코딩, 법률, 세무, 금융 등 다양한 직군, 산업 환경에서 활용할 수 있는 것이 특징이다. 또 특정 작업이나 도메인에 맞는 작은 데이터 세트를 활용해 모델을 추가적으로 훈련시킬 수 있다. 이에 기업에선 특정 부서나 조직에서만 사용할 수도 있다. 사이버 위협 인텔리전스(CTI) 기업 S2W도 sLLM 플랫폼 'S-AIP(S2W Artificial Intelligence Platform)'를 내놨다. S-AIP는 각 기업이 가지고 있는 보안 수준에 맞춰 아키텍처를 구현하고, 데이터 보안 기술을 기반으로 기업용 프라이빗 sLLM 구축을 지원할 수 있다. 보안업계에서 떠오르고 있는 샌즈랩도 AI 기반 사이버 보안 사업 영역을 빠르게 고도화하고 있다. 이곳은 지난 2월 기업 내부 인프라에서 직접 운영, 제어가 가능한 온프레미스 sLLM '샌디(SANDY)'를 개발했다. 샌디는 기존에 사람이 직접 했던 보고서 요약·교정, 기업 내 해킹 대응 정보 검색을 대신 수행하며 최신 사이버 위협에 선제 대응할 수 있는 역량도 갖췄다. 이 외에 샌즈랩은 샌디를 기반으로 최근 포티투마루, LG유플러스와 사이버 보안을 강화할 수 있는 LLM 기술을 공동 개발키로 해 주목 받고 있다. 업계 관계자는 "국내 보안기업들이 생성형 AI 시장에 뛰어드는 이유는 데이터 보안·악성코드 분석 등의 분야에서 다년간 축적된 기술력과 노하우가 AI 데이터 학습에 유리하다는 판단 때문"이라며 "정보유출 등에 민감한 기업용 AI 분야에선 강점이 될 수 있을 것"이라고 분석했다. 이어 "보안 시장이 AI처럼 폭발적인 성장 잠재력을 갖추기 어렵다는 점에서 기존 보안 사업과 연계할 경우 AI를 새로운 성장동력으로 삼을 수 있을 것이란 점도 영향을 미친 듯 하다"며 "글로벌 단위에서 아직까지 AI 보안 시장을 이끄는 선두 업체가 마땅히 없다는 것도 매력적인 요소"라고 덧붙였다.

2024.05.07 16:19장유미

강신숙 수협은행장 "언어폭력 없어져야"

수협은행 강신숙 은행장이 2일 서울 서대문구 핀란드타워에서 열린 '2024년 제21회 윤경 CEO서약식' 참석 및 '윤경 ESG포럼' 입회를 통해 윤리경영 실천 의지를 다졌다. 윤경 ESG포럼은 윤리경영을 확산하고 윤리적 기업문화 정착을 도모하기 위해 지난 2003년 시작된 국내 최장수 민간포럼으로 산업통상자원부 산하 산업정책연구원(IPS)이 발족한 포럼이다. '언어폭력 없는 사회'를 주제로 열린 이날 포럼에는 약 100여개 기업과 사회단체, 학계 관계자들이 참석했으며 강신숙 수협은행장이 참석자를 대표해 실천서약서에 서명하는 등 윤리경영 실천에 대한 의지를 다졌다. 강신숙 은행장은 이날 서약행사를 마치고 윤경 ESG포럼 회원으로 정식 입회했으며 앞으로 포럼이 주최하는 다양한 행사에 적극 동참해 윤리경영 및 ESG경영 실천을 강화할 방침이다. 한편, 강신숙 은행장은 이에 앞서 윤경 ESG포럼이 진행하는 '언어폭력 없는 사회' 챌린지에 참여해 시민들의 공감대 확산과 자발적 참여를 유도하는 홍보 캠페인을 펼쳤다. 강신숙 은행장은 이번 챌린지를 통해 “언어폭력은 신체적‧물리적 폭력이 아니라는 점에서 비교적 쉽게 상대방에게 표현하게 되지만 언어폭력에 노출된 당사자는 평생 잊지 못할 심각한 트라우마를 겪게 될수 있다”며 “칭찬과 격려, 애정어린 배려와 관용이 우리 일상에 스며들고 아름다운 말로 소통하는 시민의식 함양을 통해 영혼을 병들게 하는 언어폭력을 우리사회에서 영원히 사라지게 하자”고 강조했다.

2024.05.02 16:53손희연

애플, 오픈AI와 재논의 시작?…"생성형 AI 기능 강화 대화 재개"

애플이 올해 말 출시될 아이폰의 새로운 기능을 강화하기 위해 오픈AI와 논의를 다시 시작했다. 27일(현지시간)외신들은 이 문제에 정통한 소식통을 인용해 두 회사는 계약 조건과 오픈 AI의 기능이 차기 아이폰 운영체제인 애플의 iOS 18에 어떻게 적용할지 논의를 시작했다고 보도했다. 앞서 애플은 올해 초 오픈AI와 생성형 AI 기술 관련해 대화를 진행했지만 진전된 내용은 없었다. 외신은 이번 조치가 양 기업간 대화가 재개되는 것을 의미한다고 분석했다. 현재 애플은 알파벳(구글의 모회사)와 제미나이 챗봇 라이센스에 대해서도 논의 중이다. 다만 외신은 어떤 기업과 손을 잡을지, 거래 성사에 대한 보장도 없는 상황이라고 전했다. 올해 말 출시될 아이폰 운영 체제에는 애플의 대형 언어 모델(LLM)을 기반으로 하는 몇 가지 새로운 기능이 포함될 예정이다. 이와 더불어 애플은 오픈AI, AI 스타트업 앤트로픽과도 논의를 진행하고 있다는 보도가 나온 바 있다.

2024.04.28 09:08이한얼

웹 언어 PHP, 2년 간 사용량 40% 감소..."영광의 시절 지나"

오랫동안 웹 개발을 위해 널리 사용된 언어인 PHP가 지난 2년간 사용량이 40% 가까이 감소하며 하락세를 기록 중이다. 최근 인포월드 등 외신에 따르면 4월 티오베 인덱스 프로그래밍 언어 인기 지수(티오베 인덱스)에서 PHP가 17위로 역대 가장 낮은 순위를 기록했다 PHP는 중소 규모 웹사이트 분야에서 가장 인기 있는 웹 콘텐츠 관리 시스템인 워드프레스의 기반이 되는 언어다. 그만큼 전 세계적으로 많은 사용자를 보유한 인기 언어로 2006년부터 2010년까지 수 차례 인기지수 3위를 기록했다. 하지만 이후 리액트, 장고, 루비온레일즈 등 워드프레스의 경쟁 웹 개발 프레임워크가 다른 언어로 출시되면서 PHP의 인기가 점차 줄어들기 시작했다. 특히 치명적인 보안 취약점이 발생하면서 사용자의 감소세가 더욱 가속화됐다. 티오베의 폴 얀센 최고 경영자는 “2001년 티오베 인덱스가 시작했을 때 당시 PHP는 웹사이트 구축을 위한 표준언어 수준의 위상을 가지고 있었다”며 “하지만 이후 등장한 자바스크립트를 비롯해 루비, 파이썬 등에 밀리고 보안 취약점이 발견되면서 그런 영향력은 많이 줄어들었다”고 평가했다. 이어서 “지금도 PHP는 여전히 중소형 웹사이트에서 강력한 입지를 차지하고 있으며 워드프레스도 활발하게 사용되고 있지만 이전 영광의 시절은 끝난 것 같다”고 말했다. 프로그래밍 언어 순위는 파이썬이 16.41%로 여전히 1위를 기록 중이며 2위는 C 3위 C++ 순으로 변동 없이 유지 중이다. 이어서 자바, C#, 자바스크립트, 고(GO) 순으로 자바스크립트와 고의 지속적인 성장이 두드러지고 있다.

2024.04.23 11:00남혁우

삼성전자 '갤럭시 AI' 지원 언어 총 16개로 확대

삼성전자가 '갤럭시S24 시리즈'에서 처음 선보인 '갤럭시 AI'의 지원 언어를 기존 13개에서 16개 언어로 확대한다. 삼성전자는 4월 중 업데이트를 통해 아랍어, 인도네시아어, 러시아어 등 3개의 언어를 '갤럭시 AI'에서 추가 지원한다고 밝혔다. 또한 호주 영어, 홍콩 중국어, 캐나다 프랑스어 등 3개의 파생어도 함께 추가될 예정이다. 기존 지원 언어는 한국어, 중국어(간체), 영어, 프랑스어, 독일어, 힌디어, 이탈리아어, 일본어, 폴란드어, 포르투갈어, 스페인어, 태국어, 베트남어 등이었다. 새롭게 추가되는 언어는 설정 앱의 언어팩 메뉴에서 다운로드를 받아 사용할 수 있다. 이번 업데이트를 통해 사용자는 총 16개 언어에서 '실시간 통역', '채팅 어시스트' 등 언어의 장벽을 뛰어넘는 '갤럭시 AI'의 커뮤니케이션 기능을 사용할 수 있게 된다. 한편, 삼성전자는 연내 추가 업데이트를 통해 스웨덴어, 네덜란드어, 루마니아어, 튀르키예어 등 더 많은 언어를 '갤럭시 AI에서 지원할 예정이다. 노태문 삼성전자 MX사업부장 사장은 "지원 언어 확대를 통해 갤럭시 AI 경험의 글로벌 대중화를 보다 빠르게 실현할 것"이라며, "더 많은 사용자가 갤럭시 AI를 통해 세상을 경험하는 방식을 바꿀 수 있을 것"이라고 말했다.

2024.04.11 08:54이나리

GPT-3.5, 스트리트파이터3로 GPT-4 꺾었다

오픈AI의 GPT-3.5 터보가 GPT-4 등 상위 인공지능(AI) 모델을 꺾고 스트리트파이터3 챔피언에 올랐다. 14개 대규모언어모델(LLM)들이 각축을 벌인 스트리트파이터3 게임 대회에서 'GPT-3.5'가 우승을 차지했다고 PC게이머 등 외신들이 최근 보도했다. 보도에 따르면 미국 샌프란시스코에서 개최한 미스트랄 AI SF 해커톤에서 LLM간 이벤트 매치가 열렸다. 비디오게임 스트리트파이터3를 학습해 치러진 이번 대회는 LLM이 실제 업무에서 어떤 성과를 낼 수 있는지 시각적으로 확인할 수 있도록 마련됐다. 단기간에 치러진 대회인 만큼 학습시간을 줄이기 위해 캐릭터는 켄으로 제한됐다. 승부에 참여한 LLM은 화면을 인식할 수 있도록 텍스트 설명이 제공되며 캐릭터와 상대의 동작 그리고 양쪽의 체력바를 학습해 대회가 치러졌다. 오픈AI의 GPT-3.5 및 GPT-4과 다양한 버전의 미스트랄 LLM 등 총 14종의 LLM이 경합을 벌인 결과 GPT-3.5 터보버전이 최종 우승을 차지했다. 이어서 미스트랄 스몰 파이널버전이 뒤를 이었다. 기본 성능이 더 높은 GPT-4와 미스트랄 AI 상위 모델이 오히려 하위권을 기록해 눈길을 끌기도 했다. 이에 대해 미스트랄 AI의 운영진은 각 AI가 갖는 특성이 게임에 영향을 미쳤다고 설명했다. 모델의 크기가 작으면 대기 시간과 속도에 이점을 가질 수 있는 만큼 게임에서 유리해질 가능성이 크다는 설명이다.

2024.04.08 14:11남혁우

"더 똑똑한 '시리' 만든다"…애플, 소형 언어모델 '렘' 출시

애플이 아이폰 음성모델 '시리'를 더 똑똑하게 만들기 위해 소형언어모델(SLM)을 출시했다. 시리가 사용자 요구사항과 문맥을 더 정확히 이해할 수 있도록 도울 수 있다. 2일(현지시간) 미국 지디넷 등 IT 외신은 애플이 아이폰 내 시리가 사용자 문맥을 정확히 이해하고 요구사항을 맞춤형으로 수행하는 데 활용할 SLM '렘(ReALM)'을 출시했다고 보도했다. 이 모델은 온디바이스AI에 특화된 형태다. 시리가 사용자 대화 내용을 기존보다 더 오래 기억하고, 아이폰 화면에 표시된 내용을 이해할 수 있도록 도울 수 있다. 재생 중인 음악 등까지 인식할 수 있어서 사용자 취향에 따른 답변과 검색도 향상시킬 수 있다. 해당 모델은 파라미터 규모에 따라 'ReALM-80M' 'ReALM-250M' 'ReALM-1B' 'ReALM-3B'로 총 네가지 유형으로 이뤄졌다. 애플 AI연구팀은 "해당 모델들은 기존 거대언어모델(LLM)보다 파라미터는 작지만 특정 업무 수행에선 더 높은 성능을 보인다"고 밝혔다. 연구팀은 해당 모델을 오픈AI GPT-3.5와 GPT-4와 비교하는 테스트를 진행했다. 벤치마킹 테스트 결과 특정 작업에서 자사 모델이 오픈AI의 모델 성능을 뛰어넘었다는 평가다. 연구진은 "파라미터가 가장 작은 모델은 GPT-4와 비슷한 성능을 달성했다"며 "가장 큰 모델은 GPT-4보다 특정 작업에서 더 뛰어난 성능을 보였다"고 설명했다. 또 "렘이 GPT보다 적은 수의 파라미터로 구성됐음에도 최신 LLM과 비슷한 수준의 성능을 보인 셈"이라고 덧붙였다. GPT-3.5는 1천750억 매개변수로 이뤄졌다. GPT-4는 약 1조5천억개 매개변수가 있는 것으로 알려졌다. 일각에선 이 모델이 오는 6월 열릴 애플세계개발자회의(WWDC) 2024에서 소개할 iOS18 버전에 탑재될 것으로 보고 있지만, 확실한 적용 시기는 미정이다. 애플조차 해당 모델이 최신 버전이나 기기에 탑재할 여부에 대해 밝히지 않았다. 최근 스마트폰 시장에선 생성형 AI가 핵심 기능으로 떠오르고 있는 분위기지만 애플은 아이폰에 생성형 AI 탑재 등에 대한 뚜렷한 청사진을 제시하지 않았다. 일각에선 아이폰 혁신이 사라지고 있다고 평가하기 시작했다. 이에 애플은 10년 동안 공들인 애플카 프로젝트를 중단하고 생성형 AI 기능에 주력하기로 했다. 지난달 구글, 바이두, 앤트로픽 등에 도움을 요청한 것으로 전해졌다.

2024.04.03 09:02김미정

오라클, 자바22 발표

오라클은 자바의 최신 버전인 '자바 22'를 출시한다고 25일 발표했다. 개발자는 자바 22(오라클 JDK 22)의 수천 개의 성능 및 안정성, 보안성 관련 개선 사항을 활용해 생산성을 향상시키고 혁신을 추구하며, 기업의 신속한 성장을 지원할 수 있다. 자바 22는 자바 언어와 자바 API 및 성능, 자바 개발 키트(JDK)에 포함된 도구 등에 대한 포괄적인 개선 사항을 제공한다. 최신 JDK는 12개의 JDK 개선 제안(JEP)을 통한 업데이트 및 개선 사항을 제공한다. JDK 22는 오픈JDK 프로젝트 앰버(Project Amber)의 언어 개선 사항 super[…] 앞의 명령문, 언네임드(Unnamed) 변수 및 패턴, 문자열 템플릿, 암시적으로 선언된 클래스 및 인스턴스 메인 메서드), 프로젝트 파나마(Panama)의 개선 사항(외부 함수 및 메모리 API, 벡터 API), 프로젝트 룸(Loom) 관련 기능(구조화된 동시성, 범위가 지정된 값), 코어 라이브러리 및 도구 기능(클래스-파일 API, 다중 파일 소스 코드 프로그램 실행 및 스트림 수집기), 성능 업데이트(G1용 영역 고정) 등을 제공한다. 'super(…) 앞의 명령문(JEP 447)'은 개발자가 생성자의 행동을 자유롭게 표현할 수 있는 기능이다. 생성 중인 인스턴스를 참조하지 않는 명령문을 명시적 생성자 호출 앞에 표시할 수 있도록 허용해 보조 정적 메서드, 보조 중간 생성자, 또는 생성자 인수에 팩토링되어야 하는 로직을 보다 자연스럽게 배치할 수 있다. 클래스 인스턴스화 도중 생성자가 하향식 순서로 실행된다는 기존 보장을 유지해 하위 클래스 생성자의 코드가 슈퍼 클래스 인스턴스화를 방해하지 못하도록 원천 방지를 지원한다. 또한 이 기능은 생성자 내에서의 명시적 생성자 호출 이전에 나타나는 코드를 검증 및 실행할 수 있는 자바 가상 머신(JVM)의 기능만을 활용하므로, JVM을 변경할 필요 없이 바로 사용 가능하다. 언네임드 변수 및 패턴(JEP 456)은 언네임드 변수 및 패턴을 통해 자바 언어를 개선해 개발자의 생산성을 향상시킬 수 있다. 변수 선언 또는 중첩 패턴이 요구되지만 실제로는 사용되지 않는 경우 활용 가능한 기능이다. 해당 기능을 통해 오류 발생 가능성 감소, 레코드 패턴의 가독성 향상, 모든 코드의 유지 관리 가능성 강화 등의 이점을 누릴 수 있다. 문자열 템플릿(JEP 459, 두 번째 미리보기)은 런타임 시 연산된 값을 포함한 문자열을 쉽게 표현할 수 있게 해 자바 프로그램의 개발을 간소화하고, 사용자가 제공한 값으로부터 문자열을 구성해 이를 다른 시스템으로 보내 프로그램의 보안성을 높인다. 추가로, 텍스트와 혼합된 표현식의 가독성이 향상됐고, 중간 문자열 표현을 통한 변환 없이도 리터럴 텍스트 및 임베디드 표현식)을 통해 연산된 비문자열 값을 생성할 수 있다. 암시적으로 선언된 클래스 및 인스턴스 메인 메서드(JEP 463, 두 번째 미리보기)는 자바 프로그래밍에 대한 진입 장벽을 크게 낮춰 주는 기능이다. 대규모 프로그램 개발을 위해 설계된 자바의 고급 언어 기능을 모두 알지 못하는 학생들이 자신의 첫 번째 자바 프로그램을 더 일찍 개발할 수 있도록 지원한다. 해당 기능을 사용하는 교육자는 자바 개발과 관련된 개념들을 점진적인 방식으로 소개할 수 있고, 학생은 먼저 단일 클래스 프로그램에 대한 간소화된 선언을 작성한 후 프로그래밍 실력이 성장함에 따라 보다 고급 기능을 사용해 프로그램을 원활하게 확장할 수 있다. 프로젝트 룸 기능으로 구조화된 동시성(JEP 462, 두 번째 미리보기)을 위한 API를 도입해 개발자가 오류 처리 및 취소를 간소화하고 관찰 가능성을 개선할 수 있도록 지원한다. 이 기능을 활용해 취소 및 종료로 인해 발생하는 일반적인 위험(예: 스레드 유출, 취소 지연)을 방지할 수 있는 동시성 프로그래밍 방식 사용을 장려하고, 동시성 코드의 관찰 가능성을 개선할 수 있다. 범위가 지정된 값(JEP 464, 두 번째 미리보기)은 스레드 내에서, 또한 스레드 간에 변경 불가능한 데이터를 공유할 수 있도록 지원함으로써 개발자 프로젝트의 사용 편의성, 이해 가능성, 성능, 견고성을 향상시켜 주는 기능이다. 프로젝트 파나마 기능으로 외부 함수 및 메모리 API(JEP 454)는 자바 프로그램이 자바 런타임 외부의 코드 및 데이터와 상호 운용할 수 있는 API를 도입함으로써 개발자를 위한 향상된 사용 편의성, 유연성, 안전성, 성능을 제공하는 기능이다. 이 새로운 API는 외부 함수(JVM 외부의 코드)를 효율적으로 적용하고, 외부 메모리(JVM이 관리하지 않는 메모리)에 안전하게 액세스함으로써 자바 프로그램이 자바 네이티브 인터페이스(JNI) 없이도 네이티브 라이브러리를 호출하거나 네이티브 데이터를 처리할 수 있도록 지원한다. 벡터 API(JEP 460, 7차 인큐베이터)는 벡터 연산을 표현할 수 있는 API를 제공한다. 개발자는 지원되는 CPU 아키텍처에서 최적의 벡터 명령어로 런타임에 안정적으로 컴파일되는 벡터 계산을 표현함으로써 상응하는 스칼라 연산보다 뛰어난 성능을 얻을 수 있다. 코어 라이브러리 및 도구 기능으로 클래스-파일 API(JEP 457, 미리보기)는 자바 클래스 파일의 구문 분석, 생성, 변환용 표준 API를 제공함으로써 개발자의 생산성 향상을 지원한다. 다중 파일 소스 코드 프로그램 실행(JEP 458)은 자바 애플리케이션 런처를 개선해 다수의 자바 소스 코드 파일 형식으로 제공되는 프로그램을 실행할 수 있도록 함으로써 빌드 도구의 구성 여부 및 그 시기를 개발자가 직접 선택할 수 있도록 지원하는 기능이다. 스트림 수집기(JEP 461, 미리 보기)는 스트림 API를 개선해 커스텀 중간 작업을 지원함으로써 스트림 파이프라인이 기존의 내장형 중간 작업으로는 달성하기 어려운 방식으로 데이터를 변환할 수 있게 하고, 결과적으로 개발자의 생산성 향상에 기여하는 기능이다. 이 기능은 스트림 파이프라인을 더욱 유연하고 표현하기 쉽게 만들고, 커스텀 중간 연산을 통해 무한한 용량의 스트림을 조작할 수 있게 하여 개발자가 보다 효율적으로 자바 코드를 읽고, 쓰며 유지 관리할 수 있게 해 준다. 성능 업데이트로 G1용 영역 고정(JEP 423)은 수집기를 일시 중지할 필요가 있는 일부 네이티브 라이브러리 호출 중에 일부 가비지 컬렉션을 수행하도록 허용해 지연 시간을 줄여 주는 기능이다. 이 기능은 해당 네이티브 라이브러리를 호출하는 과정에서 차단해야 하는 오브젝트를 추적하고, 해당 오브젝트가 포함된 영역만 '고정(pinning)'하는 방식으로 작동한다. 결과적으로 고정되지 않은 영역에서는 정상적으로 가비지 컬렉션을 지속할 수 있으며, 네이티브 라이브러리 호출을 차단할 필요가 없다. 자바 22는 오픈JDK 및 자바 커뮤니티 프로세스(JCP)를 통한 오라클 및 전 세계 자바 개발자 공동체 일원들의 지속적인 협업을 바탕으로 탄생했다. 앞서 소개한 새로운 개선 사항 및 기능에 더해 자바 관리 서비스(JMS, 자바 런타임 및 애플리케이션을 온프레미스 또는 기타 클라우드에서 관리할 수 있도록 통합 콘솔 및 대시보드를 제공하는 오라클 클라우드 인프라스트럭처(OCI) 네이티브 서비스 또한 자바 22를 지원한다. 자바 22의 신기능에 대한 보다 자세한 정보는 자바 22 기술 블로그 포스트에서 확인할 수 있다. 자바 22를 지원하는 하이퍼스케일 클라우드 중 하나인 OCI 클라우드에 자바 애플리케이션을 배포하면 더욱 향상된 성능과 효율성, 혁신 기술, 비용 절감 효과 등을 누릴 수 있다. 개발자는 OCI에서 무료로 제공되는 오라클 자바 SE, 오라클 그랄VM, 자바 SE 구독 엔터프라이즈 성능 팩과 자바 22를 함께 활용해 최적화된 비용 대비 성능을 갖추고 보다 빠르고 효과적으로 실행되는 애플리케이션을 구축 및 배포할 수 있다. 오라클 자바 유니버설 SE 구독 프로그램은 업계 최고의 고객 지원을 제공하는 사용량 기반 과금 방식의 서비스다. 전체 자바 포트폴리오에 대한 우선순위 분류 기반 지원, 그랄VM 사용 권한, 자바 SE 구독 엔터프라이즈 성능 팩, JMS의 고급 기능 사용 권한, 고객사의 비즈니스 현황에 비례하여 업그레이드할 수 있는 유연성 등을 제공한다. 또한 이 서비스는 IT 조직의 복잡성 관리, 비용 절감, 보안 위험 방지에 기여한다. 내년 미국 샌프란시스코 베이 지역에서 글로벌 자바 커뮤니티를 위한 대표적인 행사인 자바원이 다시 개최될 예정이다. 3월 17일부터 20까지 4일 동안 미국 캘리포니아 레드우드 쇼어에서 진행되는 자바원 2025는 참가자들에게 자바 개발 트렌드에 대한 최신 정보를 학습하고 오라클 자바 전문가 및 업계 전문가들과 교류할 수 있는 기회를 제공할 예정이다. 조지 사브 오라클 자바 플랫폼 부문 수석 부사장 겸 오픈JDK 이사회 의장은 "자바 22가 제공하는 다양한 개선 사항을 통해 더 많은 개발자들은 기능이 풍부하고, 확장 가능하며 안전한 애플리케이션을 빠르고 간단히 구축할 수 있게 돼 전 세계 기업의 비즈니스 성장에 기여할 것"이라며 “자바 22는 애플리케이션 개발을 간소화하고 Java의 범위를 확장하여 모든 숙련도 수준의 개발자가 액세스할 수 있도록 하는 향상된 기능을 제공함으로써 조직과 개발자 모두를 위해 광범위한 새로운 애플리케이션 및 서비스를 만드는 데 도움을 줄 것”이라고 강조했다.

2024.03.25 12:32김우용

메타, '라마3' 전용 AI인프라 공개...GPU만 4만9천개

메타가 차기 대규모언어모델(LLM) '라마 3' 학습을 위한 세계 최대 규모의 컴퓨팅 인프라를 공개했다. 최근 실리콘 앵글 등 외신에 따르면 메타는 AI학습을 위한 데이터센터급의 24K GPU 클러스터 한 쌍의 세부정보를 공식 블로그를 통해 공개했다. 여러 그래픽처리장치(GPU)를 네트워크로 연결해 병렬 컴퓨팅 작업을 수행하는 시스템이다. 기계학습, 대규모 시뮬레이션 등 대규모 계산 작업을 더 빠르게 처리하기 위해 활용된다. 메타에서 공개한 24K GPU 클러스터는 2022년 선보인 리서치슈퍼클러스터(RSC)의 후속모델이다. 이름처럼 2개의 클러스터에 각 2만4천576개의 엔비디아 텐서 코어 H100(이하 H100) GPU가 적용된 것이 특징으로 총 4만9천 개 이상의 H100 CPU를 활용할 수 있다. 이번 발표는 일반인공지능(AGI) 연구를 위해 대규모 인프라 구축 계획의 일환이다. 메타는 2024년 말까지 35만 개의 H100 GPU를 포함한 AI 인프라를 확장할 계획이다. 이를 통해 기존에 확보한 인프라를 포함해 60만 개의 H100 GPU 수준의 컴퓨팅 파워를 갖추는 것을 목표로 한다. 두 클러스터는 GPU 수가 동일하며 개방형 GPU 하드웨어 플랫폼 '그랜드 티톤(Grand Teton)'을 사용해 구축됐다. 하지만 네트워크 인프라 설계에 차이가 있다. 하나는 웻지 400 및 미니팩 2 OCP 랙 스위치와 아리스타 7800를 기반으로 자체 개발한 RDMA 오버 컨버지드 이더넷(RoCE) 솔수션을 적용했다. 두 번째 클러스터는 엔비디아의 퀀텀2 인피니밴드 패브릭 솔루션이 적용됐다. 두 클러스터의 구조를 다르게 한 이유는 향후 더 크고 확장된 클러스터 구축을 목표로 하기 때문이다. 두 클러스터에서 다양한 분야의 AI를 학습하며 어떤 구조와 설계 방식이 AI에 적합한지 데이터를 확보해 이후 적용하겠다는 비전이다. 저장장치도 해머스케이프와 협력해 자체 개발했다. 생성형 AI 훈련 작업이 점점 빨라지고 규모가 커지는 것에 대비해 고성능이면서도 수만개의 GPU에서 동시 작업하는 데이터를 감당할 수 있도록 E1.S SSD를 활용했다. 이와 함께 구글은 개방형 AI 생태계 활성화를 위해 AI 소프트웨어 프레임워크인 파이토치를 지속해서 지원할 것이라고 강조했다. 케빈 리 등 구글 연구원은 “지난 2015년 빅서 플랫폼을 시작으로 GPU 하드웨어 플랫폼을 설계를 공개하고 있다”며 “우리는 이런 정보 공유가 업계의 문제 해결을 돕는데 도움이 될 것이라고 믿고 있다”고 이번 GPU 클러스터 관련 내용을 공개한 이유를 밝혔다. 이어서 “우리의 AI 노력은 개방형 과학과 교차 협력의 철학을 바탕으로 구축됐다”며 “개방형 생태계는 AI 개발에 투명성, 정밀성, 신뢰를 제공하고 안전과 책임을 최우선으로 하여 모든 사람이 혜택을 누릴 수 있는 혁신을 이끌어낼 것”이라고 강조했다.

2024.03.17 13:07남혁우

솔트룩스 AI 루시아, 오픈 LLM 리더보드 35B 이하 모델 기준 '1위' 수성

세계 언어모델들을 평가하는 허깅페이스(Hugging Face)의 오픈 LLM 리더보드(Open LLM Leaderboard)에서 국내 스타트업이 1위를 차지하며 기술력을 입증했다. 인공지능(AI) 기업 솔트룩스는 오픈 LLM 리더보드에서 자체 개발 초거대 언어모델 루시아(LUXIA)로 전 세계 1위를 달성했다고 15일 밝혔다. 루시아의 이번 성과는 35B 이하 언어모델들 사이에서 확보한 순위다. 평균 점수는 약 77.74점이다. 전체 초거대 모델들을 기준으로도 피라미터 50B 이상의 대규모 모델들을 제치고 전 세계 4위를 달성했다. 특히 '상식능력(HellaSwag)'과 '추론능력(ARC)' 테스트 점수는 각각 91.88점, 77.47점을 최초로 받으며 기존 기록을 경신했다. 솔트룩스 관계자는 "자체 연례 행사인 올해 솔트룩스 AI 컨퍼런스에서 현재의 루시아를 압도적으로 뛰어넘는 혁신적인 LLM을 공식적으로 선보일 것"이라며 "국내 대표 인공지능 기업으로서 글로벌 AI 시장을 선점할 초격자 경쟁력을 계속해서 확보해 나가겠다"고 말했다.

2024.03.15 16:10이한얼

에스넷시스템, 코난테크놀로지와 자체 LLM 구축 전망

에스넷시스템(대표 유홍준, 장병강)이 협력을 통해 자체 LLM을 구축할 전망이다. 에스넷시스템은 코난테크놀로지(이하 코난)와 AI 관련 사업 협력을 위한 업무협약(MOU)을 체결했다고 15일 밝혔다. 이번 업무협약은 AI 시스템 구축 및 AI 솔루션 공동개발을 통해 상호 시너지를 창출하고 사업 성장 동력을 확보하기 위함이다. ▲AI 솔루션 상호 협력 ▲AI 인프라 부문 공급, 설치 및 기술지원 ▲AI 플랫폼, 솔루션 부문 지원을 주요 골자로 하고 있다. 에스넷시스템이 AI 인프라, GPU 클라우드 서비스 그리고 아마존웹서비스(AWS), 삼성 클라우드 플랫폼(SCP) 등 클라우드 관련 부문을 지원하고, 코난테크놀로지가 대규모 언어 모델(LLM), 생성형 AI 등의 AI 솔루션 부문을 지원한다. 에스넷시스템은 AI 에너지 최적화 솔루션과 코난LLM을 대표적으로 코난테크놀로지의 생성형 AI솔루션과 함께 협업할 예정이다. 양사의 솔루션 협업을 통해 새로운 부가가치를 만드는 솔루션을 개발하겠다는 방침이다. AI 인프라 부문 지원을 위해 GPU 서버 및 클라우드, GPU 네트워크 뿐만 아니라 테스트 및 PoC용(기술검증용) GPU 서버까지 아우르는 공급, 설치 및 기술지원을 제공할 계획이다. AI 플랫폼, 솔루션 부문도 지원한다. 구체적으로 AI 인프라 운영 관리 플랫폼과 어플리케이션 개발 플랫폼을 제공할 예정이다. 유홍준 에스넷시스템 대표는 “에스넷시스템이 AI사업을 지속 강화해 나가는 과정에서 인공지능 소프트웨어 전문기업인 코난테크놀로지와 업무 추진하게 되어 뜻깊게 생각한다”며 “이번 협약을 통해 도출된 역량을 활용하여 경쟁력 있는 AI 인프라 및 솔루션 서비스를 선도할 예정”이라고 말했다. 김영섬 코난테크놀로지 대표는 “IT산업을 선도하는 에스넷시스템과 AI 관련 사업을 함께하게 되어 기쁘다”며 “코난테크놀로지가 가지고 있는 AI 기술과 역량을 기반으로 에스넷시스템과 긴밀히 협력하여 앞으로는 AI 시장에서 유의미한 성과를 도출할 수 있도록 노력하겠다”고 밝혔다.

2024.03.15 11:22남혁우

스노우플레이크, 미스트랄AI와 협력…'미스트랄 라지' 모델 제공

스노우플레이크는 최근 프랑스 AI 솔루션 제공업체 미스트랄AI와 파트너십을 체결했다고 11일 일 발표했다. 이 파트너십은 스노우플레이크 산하 벤처 캐피탈인 스노우플레이크 벤처스의 미스트랄AI의 시리즈 A 투자를 포함한다. 양사의 협력으로 스노우플레이크 고객은 미스트랄AI가 가장 최근에 선보인 플래그십 대규모 언어 모델(LLM)인 '미스트랄 라지'를 스노우플레이크 데이터 클라우드 플랫폼에서 적용할 수 있다. 미스트랄AI의 기본 모델인 '미스트랄 7B'와 오픈 소스 모델 '믹스트랄8x7B'에도 액세스할 수 있다. '미스트랄 라지'는 고유한 추론 능력을 갖춘 LLM 모델로 코딩과 수학에 능숙하고 한번의 요청으로 수백 페이지에 달하는 문서를 처리할 수 있다. 프랑스어, 영어, 독일어, 스페인어, 이탈리아어, 5개 언어 처리가 가능하다. 기존 생성형 AI 모델과 '대규모 다중 작업 언어 이해 측정(MMLU)' 비교함에서 뛰어난 성능을 입증하며 챗GPT-4에 이어 API를 통해 사용 가능한 모델 중 2위를 차지하기도 했다. '미스트랄 7B'는 낮은 지연 시간과 메모리 요구사항에 비해 높은 처리량을 갖춘 것이 특징이다. '믹스트랄 8x7B'는 대부분의 성능 비교에서 챗GPT3.5보다 빠르고 품질이 우수한 것으로 나타났다. 미스트랄AI의 모델들은 '스노우플레이크 코텍스'에서 프리뷰 공개 형태로 고객에게 제공된다. 스노우플레이크 코텍스는 스노우플레이크 플랫폼에서 생성형 AI를 활용할 수 있는 완전 관리형 LLM 및 벡터 검색 서비스이다. AI/ML 기술 없이도 쉽고 강화된 보안 환경에서 생성형 AI를 활용할 수 있는 서비스로, 기업 고객은 데이터에 대한 보안, 개인 정보 보호 및 거버넌스는 유지하면서 데이터를 빠른 속도로 분석하고 AI 앱을 구축할 수 있다. 스노우플레이크 지난해 감정 분석, 번역, 요약과 같은 특수 작업을 위한 LLM을 지원하는 코텍스를 처음 공개했다. 또한, 메타 '라마2' 모델을 시작으로 검색증강생성(RAG)을 포함한 기본 LLM 지원을 늘리고 있다. 스노우플레이크는 미스트랄AI와의 파트너십을 통해 생성형 AI에 대한 투자를 이어가면서, 기본형 LLM을 스노우플레이크 코텍스에서 제공해 기업이 다방면 비즈니스에 최첨단 생성형 AI를 도입할 수 있도록 지원하고 있다. 복잡한 GPU 관리 대신 사용자의 AI 활용도를 넓히기 위해 엔비디아와 적극적으로 협력하고 있다. 스노우플레이크 코텍스는 엔비디아 트라이튼 추론 서버를 활용해 풀스택 가속 컴퓨팅 플랫폼을 제공하고 있다. 스노우플레이크 코텍스 LLM 기능이 공개 프리뷰되며 스노우플레이크 기업 고객은 기업 고유의 데이터를 바탕으로 다양하게 AI를 활용할 수 있게 됐다. SQL 기술을 갖춘 사용자라면 누구나 수 초 내에 감정 분석, 번역, 요약과 같은 특수 작업을 비용 효율적으로 진행할 수 있다. 파이썬 개발자라면 스노우플레이크 코텍스에서 제공하는 미스트랄AI의 LLM은 물론, 곧 공개될 스노우플레이크 스트림릿의 대화형 기능을 통해 수 분 내에 챗봇과 같은 풀스택 AI 앱을 개발할 수 있게 된다. 간편해진 경험과 높은 수준의 보안은 역시 곧 공개될 스노우플레이크의 통합 벡터 기능과 벡터 데이터 유형을 통해 RAG에도 동일하게 적용될 예정이다. 슈리다 라마스워미 스노우플레이크 신임 CEO는 “스노우플레이크는 미스트랄AI와의 파트너십을 통해 최정상급 성능의 LLM을 고객에게 직접 제공하고, 사용자는 간편하면서도 혁신적인 AI 앱을 구축할 수 있게 됐다”며 “스노우플레이크 코텍스를 통해 더 많은 기업이 데이터 클라우드의 보안과 개인 정보 보호는 강화하고 새롭고 경제적인 AI 사용 사례를 만들어 내기를 바란다”고 밝혔다. 아르튀르 멘슈 미스트랄AI 공동창립자 겸 CEO 는 “스노우플레이크의 보안, 개인 정보 보호 및 거버넌스에 대한 원칙은 누구나 어디에서든 혁신적인 AI를 활용할 수 있도록 하겠다는 미스트랄AI의 포부와 맞아떨어진다”며 “미스트랄AI는 전세계적으로 기업이 생성형 AI 활용에 더 가까워지도록 고성능, 고효율에 신뢰할 수 있는 AI 모델을 개발하겠다는 스노우플레이크의 목표에 공감한다”고 강조했다. 그는 “스노우플레이크 데이터 클라우드에서 미스트랄AI의 모델을 활용함으로써, 고객이 민주화된 AI를 경험하고 더 큰 가치를 창출하는 고도화된 AI 앱을 생성할 수 있기를 기대한다”고 덧붙였다. 스노우플레이크는 고객, 데이터 클라우드 생태계는 물론, 기술 커뮤니티 전체에 대한 AI 혁신을 위해 노력하고 있다. 이에 스노우플레이크는 최근 개발자, 연구원 및 조직이 개방적이고 안전하며 책임감 있는 AI를 개발하기 위한 국제 커뮤니티인 'AI 얼라이언스'에 가입했다. AI 얼라이언스를 통해 스노우플레이크는 생성형 AI가 가져올 도전과제와 기회에 대해 전방위적이고 개방적으로 대응하며 누구나 AI 기술을 활용하고 혜택을 얻을 수 있도록 지속적으로 노력할 계획이다.

2024.03.11 10:52김우용

줌, 생성 AI 어시스턴트 한국어로 대화한다

줌비디오커뮤니케이션즈(이하 줌)은 생성형 AI 어시스턴트 '줌 AI 컴패니언'의 지원 언어를 한국어를 포함한 36개 언어로 확대한다고 8일 밝혔다. 줌 미팅 내 줌 AI 컴패니언 기능은 프리뷰 버전으로 한국어를 포함 36개국 언어로 제공될 예정이며, 미팅 요약 기능에는 자동 언어 감지 기능이 추가된다. 줌의 비동기식 커뮤니케이션 툴인 줌 팀챗의 지원 언어도 9개로 확대된다. 유료 계정 사용자에게 추가 비용없이 제공되는 줌 AI 컴패니언은 작년 9월 출시됐다. 출시 후 현재까지 51만 건 이상의 계정에서 사용됐으며, 720만 건 이상의 미팅 요약을 생성했다. 현재 프리뷰 버전으로 제공되는 줌 미팅의 AI 컴패니언 미팅 요약 및 미팅 중 질문 기능은 이제 한국어를 포함해 36개국 언어를 지원한다. AI 컴패니언이 회의 중 사용되는 언어를 자동으로 감지해 해당 언어로 미팅 요약을 생성하는 기능도 추가됐다. 이제 사용자가 사전에 직접 언어를 미리 설정하지 않아도 사용 언어로 작성된 미팅 요약을 받아볼 수 있다. 줌 팀챗의 AI 컴패니언도 영어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 중국어 간체자 및 번체자, 일본어 등 지원 언어가 9개로 확대된다. 사용자는 9가지 언어로 제공되는 AI 컴패니언을 활용해 챗을 생성하거나 챗 스레드의 요약본을 받아볼 수 있다. 줌은 줌 팀챗 지원 언어를 추가적으로 확대해나갈 예정이다. 마헤쉬 람 줌 AI총괄은 “글로벌 조직이라면 더더욱 다국어 서비스를 지원하는 AI를 사용해야한다”며 “협업과 생산성 향상을 위해 AI를 사용하는 경우, AI가 팀원의 언어를 지원하는 것은 매우 중요하다”고 밝혔다. 그는 이어 “글로벌 팀의 효과적 협업 지원을 목표로 하는 줌에게 AI 컴패니언 언어 지원 확대는 당연한 수순"이라고 덧붙였다.

2024.03.08 11:23김우용

kt클라우드, LLM으로 AI디지털교과서 맞춤형 교육 구현

kt클라우드(대표 황태현)가 AI디지털교과서에 학습분석 및 개인별 맞춤형 교육을 구현한다. kt클라우드는 스마트앤와이즈와 'AI기반 학습분석 플랫폼'을 선보인다고 8일 밝혔다. 양사는 지난 해 AI디지털교과서 사업을 위한 업무협약을 맺고, AI디지털교과서 구축에 필요한 AI학습분석 제공 플랫폼을 공동 개발했다. AI디지털교과서는 AI기반 학습 데이터를 수집∙분석하고, AI보조교사와 실시간으로 상호작용하며 학생별로 맞춤화된 교육을 제공하는 것이 핵심이다. 현재 다양한 에듀테크 기업에서 각자의 노하우를 바탕으로 학습 플랫폼을 개발하고 있지만, 대부분 AI기반이 아닌 단순 규칙에 따라 한정적으로 반응하는 룰베이스 방식을 활용하고 있다. kt클라우드는 스마트앤와이즈의 교육 전용 대규모언어모델(LLM) 및 플랫폼 개발을 위해 AI클라우드 인프라를 지원한다. kt클라우드의 AI 인프라는 LLM 학습, 개발에 있어 동적할당 기반의 이용료 과금, 대규모 클러스터링 지원 GPU 인프라를 제공한다. 향후 AI디지털교과서 사업이 확대되면서 늘어날 AI 인프라에 대비해 kt클라우드는 NPU 기반 인프라 공급도 적극 검토하고 있다. 발행사 및 에듀테크 기업은 NPU 이용으로 AI 인프라 이용 부담이 줄어들 전망이다. 스마트앤와이즈는 오랜 경험과 노하우가 축적된 교수학습플랫폼을 통해 교육 LLM을 개발했고, 이를 기반으로 학습자의 성향 및 과제 수행 정보를 분석하여 맞춤형 학습 전략을 제시하는 루츠(Roots) 플랫폼을 선보였다. 실제 교육현장 안착 및 확산을 위해 대구교육대학교와 시범 사업을 진행 중이며 연내 클라우드 보안인증(CSAP) 획득을 추진할 예정이다. 2023년 과학기술정보통신부와 한국지능정보사회진흥원이 주관한 'K-클라우드' 프로젝트에도 선정된 바 있다. 국정원은 '챗GPT 등 생성형 AI 활용 보안 가이드라인에 따라 발행사 및 에듀테크의 오픈AI 이용을 제한하고 있다. 또한 공공 교육에서는 ▲선행학습 ▲할루시네이션(허위정보) 등의 문제로, 객관적으로 검증할 수 있고 제어가능한 교육LLM의 이용이 필수적이다. 스마트앤와이즈 이민주 연구소장은 “CSAP 인증 획득을 통해 공공분야에 AI디지털교과서 제공을 위한 적격성 확보와 발행사의 콘텐츠 기반으로 특화된 교육 LLM을 구축∙제공할 수 있게 될 것”이라고 말하며 “이를 통해 공공분야 오픈 AI이용 제한과 학교 교육에서 엄격히 제한하고 있는 선행학습, 할루시네이션(허위정보) 등의 이슈를 해소할 것”이라고 강조했다. kt클라우드 남충범 본부장은 “다양한 발행사∙에듀테크에게 AI 인프라를 제공하여 사업자들의 이용 부담을 줄이고 효율적인 학습 플랫폼 개발을 적극 지원하겠다”고 말했다. 이어 “특히 AI디지털교과서 사업 및 생태계 활성화를 이끄는 선도 사업자로 앞장서겠다”며 다짐했다.

2024.03.08 10:29남혁우

ETRI, 절차 생성 AI 벤치마크 기술 첫 개발

대형언어모델(LLM)을 기반으로 만들어진 절차 성능을 자동 평가하는 기술이 세계 처음 개발했다. 한국전자통신연구원(ETRI)은 사람이 말로 작업을 명령하면 스스로 작업 절차를 이해하고 계획을 수립해 수행하는 절차 생성 인공지능(AI)의 성능을 자동 평가할 수 있는 로타벤치마크(LoTa-Bench) 기술을 개발했다고 7일 밝혔다. 기존에는 절차 이해 성능 평가를 자동으로 할 수 있는 벤치마크 기술이 없어서 사람이 직접 평가함으로써 손이 많이 갈 수밖에 없었다. 구글 세이캔(SayCan)을 비롯한 기존 연구에서는 여러 사람이 직접 작업 수행 결과를 관찰하고 성공 실패 여부를 투표하는 방법을 채택했다. 이는 성능 평가에 매우 긴 시간과 노력이 들어 번거로울 뿐 아니라 평가 결과에 주관적 판단이 개입하는 문제가 있다. 반면 ETRI가 개발한 로타벤치마크 기술은 사용자의 명령에 따라 대형언어모델이 생성한 작업 절차를 실행하고, 결과가 지시한 목표와 같은지 자동으로 비교해 성공 여부를 판단한다. 평가 시간과 비용을 최소화할 수 있고, 결과가 객관적인 이유다. 연구진은 알프레드(ALFRED) 기반 벤치마크 결과, 오픈AI(OpenAI)의 GPT-3는 21.36%, GPT-4는 40.38%, 메타(Meta)의 라마2(LLaMA 2)-70B 모델은 18.27%, 모자이크엠엘(MosaicML)의 MPT-30B 모델은 18.75% 성공률을 보였다고 밝혔다. 규모가 클수록 절차 생성 능력도 우수했다. 성공률이 20%면 100개의 절차 중 20개를 성공한 셈이다. 성능 평가는 로봇과 체화 에이전트 지능의 연구개발 목적으로 개발된 미국 알렌인공지능연구소(AI2-THOR)와 미국 MIT(버츄얼홈, VirtualHome) 가상 시뮬레이션 환경에서 이뤄졌다. “전자레인지에 차갑게 식힌 사과를 넣어라.”라는 일상적인 가사 작업 지시 명령을 내리고 각 작업 절차를 포함하는 데이터셋으로 평가했다. 또한, 연구진은 새로운 절차 생성 방법을 쉽고 빠르게 검증할 수 있는 로타벤치마크 기술의 이점을 활용해 데이터를 통한 훈련으로 절차 생성 성능을 개선할 수 있는 두 가지 전략도 발견했다. 컨텍스트 내 예제 선별법(In-Context Example Selection)과 피드백 기반 재계획(Feedback and Replanning)이다. 이와함께 파인튜닝을 통한 절차 생성 성능 개선 효과도 확인했다. 소프트웨어 오픈소스로 공개 기업·학교 활용 가능 연구진은 이 기술 개발로 대형언어모델을 이용한 로봇 작업계획 기술의 성능평가 시간과 비용을 대폭 줄일 수 있을 것으로 전망했다. 연구진은 또 관련 소프트웨어를 오픈소스로 공개했다. 기업, 학교 등에서 이 기술을 자유롭게 활용할 수 있다. 최근 대형언어모델은 언어처리, 대화, 수학 문제 풀이, 논리 증명 외에 사람 명령을 이해해 하위 작업을 스스로 선택하고 순서대로 수행해 목표를 달성하는 절차 이해 영역에서도 우수한 성능을 나타내고 있다. 이에 따라 대형언어모델을 로봇 응용과 서비스 구현에 적용하려는 시도가 폭넓게 이뤄지고 있다. 연구진은 국제 인공지능 학술대회인 표현학습국제학회(ICLR)에 논문을 발표하고, 이 기술을 이용한 대형언어모델 총 33종의 절차 생성 성능 평가 결과를 깃허브를 통해 공개했다. 장민수 소셜로보틱스연구실 책임연구원은 “로타벤치마크는 절차 생성 AI 개발의 첫걸음”이라며 “향후 불확실한 상황에서 작업 실패를 예측하거나 사람에게 질문하며 도움을 받아 작업 생성 지능을 지속 개선하는 기술을 개발할 계획”이라고 말했다. 장 책임연구원은 또 “1가구 1로봇 생활 시대의 구현을 위해서는 이 기술이 반드시 필요하다”고 덧붙였다. 김재홍 소셜로보틱스연구실장은 “ETRI는 실세계에서 각종 임무 계획을 생성하고 실행할 수 있는 로봇을 실현하기 위해 파운데이션 모델을 활용한 로봇 지능 고도화 연구개발에 매진하고 있다”고 밝혔다. 이 기술은 과학기술정보통신부와 정보통신기획평가원(IITP)의 “사람중심 인공지능 핵심원천기술 개발 사업”의 일환으로 '스스로 불확실성을 자각하며 질문하면서 성장하는 에이전트 기술 개발' 과제를 통해 수행됐다.

2024.03.07 10:55박희범

"일반기업도 채용·승진서 코딩 시험 활용한다”

디지털 기술의 중요성이 증가하면서 국내 기업들도 C, C++, C#, 자바, 파이선 등 컴퓨터 언어를 활용한 프로그래밍 '코딩' 시험을 채용·승진 과정에 적극 활용하고 있다. 주로 소프트웨어 개발자나 엔지니어에게 요구되었던 IT 능력이 이제는 일반 사무직에서도 필수 역량으로 여겨지고 있는 것. 기업에 있어 코딩 시험은 단순 기술뿐만 아니라, 업무의 효율성을 높이고 전반적인 업무 수행 능력을 평가하는 중요한 기준으로 작용하는 추세다. 코딩 능력을 확인하는 대표적인 시험으로는 평가전문 기관인 YBM이 2018년에 개발한 'COS Pro(코딩전문가자격시험)'가 있다. COS Pro는 높은 수준의 프로그래밍 활용능력을 증명할 수 있는 코딩전문자격시험이다. 현재 한국전력공사, 대한항공은 채용 전형에서 COS Pro를 취득한 지원자에게 가점 혜택을 부여하고 있다. SK C&C는 인사고과 및 직원 SW 교육 후 평가로 COS Pro를 활용 중에 있다. LG CNS와 비즈테크아이 등은 개발자뿐만 아니라 일반 사무직 직원들의 인사평가에도 COS Pro 2~3급을 활용하고 있다. 이를 통해 조직 전반에 걸쳐 직원들에게 사고력, 창의력, 논리력 등을 강화하고 코딩에 대한 기초 개념을 확실히 다질 수 있는 기회를 제공한다. 실제로 업무에서 많이 사용하는 프로그래밍 언어 C++, 자바, 파이선 등을 활용한 COS Pro는 100% 컴퓨터로 진행되는 CBT(Computer Based Test) 평가방식을 적용해 시험 종료 즉시 정확한 시험 결과를 알 수 있다. 1~3급으로 나뉘는 COS Pro는 각각 1천점 만점으로 600점 이상 획득 시 합격증을 받게 된다. 시험 시간은 1급 90분, 2·3급은 각각 50분씩이다. 3급은 프로그래밍 언어의 기초적인 개념을 이해하는 수준, 2급은 프로그래밍 언어의 기초적인 개념을 충실히 배운 다음 이를 활용하여 문제를 해결할 수 있는 수준, 1급은 개발자 채용 시 출제되는 문제와 유사한 수준으로 평가가 이뤄진다. YBM 관계자는 "요즘 코딩 능력은 직군과 관계없이 다양한 분야에서 필수 역량으로 인식되고 있다. 기업의 채용 과정에서 미치는 영향 또한 증가하고 있다"면서 "많은 기업들이 코딩 능력을 핵심 역량으로 간주하고 있는 만큼, COS Pro와 같은 코딩전문자격시험을 활용하여 코딩 능력을 강화해 놓으면 미래에 큰 도움이 될 것"이라고 말했다.

2024.03.06 14:00백봉삼

샌즈랩-포티투마루-LG U+, 정보유출 위험 없는 보안LLM 구축

샌즈랩(대표 김기홍)이 정보 유출 위험이 없는 사이버 보안 분야 대규모언어모델(LLM)구축에 나선다. 샌즈랩은 포티투마루, LG유플러스와 사이버 보안 강화를 위한 대규모언어모델(이하 LLM) 기술을 공동 개발한다고 4일 밝혔다. LG유플러스 마곡 사옥에서 진행된 업무 협약식에는 LG유플러스 한영섭 AI기술담당, 포티투마루 김동환 대표, 샌즈랩 김기홍 대표 등이 참석했다. 3사는 이번 협약을 통해 사이버 보안 핵심 4대 분야인 ▲보안 관제 ▲위협 인텔리전스 ▲이상 징후 분석 ▲취약점 식별 등에 특화된 LLM을 구축하고 LLM 배포 체계를 만들기로 했다. 이 체계가 상용화되면 기업들은 LLM을 기업 내부에서 활용하며, 정보 유출 위험을 막을 수 있다. 샌즈랩은 이번협약으로 정보 유출 위험이 없는 사이버 보안 분야 LLM 상용화에 도움이 될 것으로 기대하고 있다. 사이버보안 분야 및 사이버 범죄에 대응할 인공지능(이하 AI) 기술 공동 개발을 통해 관련 사업분야에서 시너지 효과를 기대하고 있다. LG유플러스는 LLM 개발과 고객 정보 보호 안전망 구축 역할을 담당하며, 포티투마루는 사이버 보안 및 범죄 예방에 특화된 LLM 모델링 및 검색증강생성(RAG) 등의 원천 기술 개발, 샌즈랩은 기업 내부 인프라에서 운영 가능한 데이터셋 개발 역량을 제공한다. 샌즈랩은 생성형 AI 기술과 인공지능 모델 학습용 데이터셋을 자사 전반의 보안 서비스와 솔루션에 적용하고 있는 AI 보안기업이다. 전문적인 위협 인텔리전스 분야 서비스를 자연어 형태로 손쉽게 활용할 수 있도록 한 'CTX for GPT'의 GPT 스토어 출시를 비롯해 기업 내부 인프라에서 운영할 수 있는 사이버보안 전문 소형언어모델(sLLM) 'SANDY'를 개발했다. 포티투마루는 기업이 LLM을 도입 시 발생되는 환각, 보안, 비용 문제를 극복하기 위한 전문 산업 분야별 도메인 특화 언어 모델인 'LLM42'를 개발하고 있다. 딥러닝 기반 인공지능 독해 솔루션(MRC42), 검색 증강 생성 솔루션(RAG42) 등을 통해 답변의 신뢰성을 제고하고, 기업 내부 데이터나 고객 정보가 유출되지 않도록 기업용 프라이빗 모드를 지원하며, 경량화 버전의 상용 실현을 통해 초거대 AI 도입 및 운영 비용을 절감할 수 있도록 돕는다. LG유플러스는 LG AI 연구원과 협업해 대규모언어모델(LLM) '익시젠(ixi-GEN)'을 출시할 예정이다. 상반기엔 챗봇의 진화 형태인 'AI 에이전트'를 선보인다. AI 기술을 활용해 차별적 고객 가치를 제공하고 신성장 동력을 만들어 디지털 혁신(DX) 역량을 강화한다는 복안이다. 샌즈랩 김기홍 대표는 “사이버 보안과 AI 기술에 강점을 가진 분야별 전문 기업들의 융합으로 시너지 효과가 극대화될 것”이라며 “샌즈랩만의 데이터셋과 보안 기술력에 포티투마루와 LG유플러스의 고도화된 AI 기술을 결합해 혁신적인 AI 보안 환경을 조성하겠다”고 말했다. 포티투마루 김동환 대표는 “LLM 모델을 활용해 각종 사이버 범죄에 선제적으로 대응할 수 있을 것”이라며 “이번 협력을 통해 국내 보안 기술 수준을 높일 수 있을 것으로 기대한다”고 밝혔다. LG유플러스 한영섭 AI 기술담당은 “LG 유플러스는 이번 협력을 통해 샌즈랩의 보안 기술력과 포티투마루의 AI 기술을 결합하여 사이버 위협으로부터 고객들의 정보를 보호하는 안전망을 구축할 것“이라며, “특히, 고객들의 정보 보호를 최우선으로 하며 사이버 위협에 대하여 보다 안전한 디지털 환경을 조성하겠다”고 말했다.

2024.03.04 16:01남혁우

온오프믹스, 117개 언어 지원 'AI 통역솔루션' 서비스 출시

종합 이벤트 테크 플랫폼 온오프믹스(대표 양준철)가 'AI 통역솔루션'을 선보인다고 29일 밝혔다. 행사 전문 통역 서비스를 제공하는 이 솔루션은 간편한 설치 및 운영, 언어 지원, 현장 스크린 및 모바일 통역 기능 등을 통해 글로벌 이벤트의 통역 장벽을 허물고 효율적인 커뮤니케이션을 가능하게 한다. 온오프믹스 AI 통역솔루션은 자체 개발을 통해 오역이 즉시 재통역 되는 것을 비롯해, 기존 통역 서비스에 비해 훨씬 더 높은 정확도와 자연스러운 번역 품질을 제공한다. 또 1명의 담당자가 노트북 놓을 공간만 확보하면 설치가 가능해 공간에 대한 부담을 줄일 수 있다. 영어, 중국어, 일본어 등 117개 언어 및 방언을 지원하며, 여러 언어 동시 통역도 가능하다. 이는 다양한 언어를 사용하는 참가자들이 있는 국제컨퍼런스 외 전시, 뮤지컬, 관광시설 등 다양한 분야에서 유용하게 활용될 수 있다. 또 온오프믹스 AI 통역솔루션은 자체 개발한 현장 스크린 및 모바일 통역 View 지원 등 다양한 기능을 제공하며 행사 참가자들의 편의를 크게 향상했다. 아울러 기존 통역 서비스 비용에 비해 경쟁력 있는 가격으로 높은 접근성을 제공한다는 평이다. 실제로 ▲컴업2023 ▲DMTS 2023 스타트업 IR 데이 ▲열린관광포럼 ▲리움미술관 다문화가정 초청행사 등 다양한 행사에서 성공적으로 적용되며 AI 통역솔루션의 효율성과 유용성을 입증했다. 특히 컴업은 3개 관에서 동시에 통역서비스를 제공하며 시스템 안정성도 확인받았다. 양준철 온오프믹스 대표는 "국내 행사 시장에 대해 가장 많은 경험을 갖고 있는 자사가 선보이는 이번 AI 통역솔루션 개발 과정에서 기존 통역 서비스의 아쉬움이 크게 개선됐다"면서 "현재 50여 개의 행사에 도입이 될 예정인데, 앞으로도 이벤트 시장을 위한 다양한 기능 개발로 국내외 사용자들에게 최상의 서비스를 제공하기 위해 노력하겠다"고 밝혔다.

2024.02.29 10:39백봉삼

S2W, 기업용 AI 플랫폼 'S-AIP' 소개 행사 개최

데이터 기업 S2W가 기업용 sLLM 인공지능(AI) 플랫폼 에스에이아이피(S-AIP)를 출시한다. S2W는 S-AIP를 소개하는 행사를 3월 13일 코엑스에서 개최한다고 28일 밝혔다. 이번 행사에서 S2W는 S-AIP의 차별점과 산업에서 실제 활용 사례를 제시할 예정이다. S-AIP의 강점은 제로트러스트 관점에서 설계돼 보안성이 보장되며 다년간의 빅데이터 분석을 통해 실전에서 검증된 안정성과 성능을 보여준다는 점이다. S2W는 사이버 공간의 빅데이터를 AI로 분석하는 전문 기업이다. 지난해 S2W는 한국과학기술원(KAIST)와 공동 연구를 통해 다크웹 빅데이터 분석에 인공지능을 접목한 다크웹 전용 언어모델 다크버트(DarkBERT)를 국제학술지(ACL)에 세계 최초로 공개한 바 있다.

2024.02.28 16:46이한얼

Prev 1 2 3 4 5 6 7 Next