검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'허깅페이스'통합검색 결과 입니다. (24건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

오픈AI, GPT 안전장치 강화… "더 강한 모델일수록 더 엄격하게"

오픈AI가 허깅페이스 취약점 유출 사고 이후 연구·훈련 환경 전반을 재점검한 데 이어 모델 역량이 높아질수록 더 엄격한 통제를 적용하는 새로운 개발 보안 체계를 공개했다. 오픈AI는 공식 블로그를 통해 모델 개발과 내부 테스트 단계에서 발생할 수 있는 보안 사고를 억제하기 위한 새 정책을 19일 공식 홈페이지를 통해 밝혔다. 회사는 모델 성능이 고도화될수록 개발 중인 시스템 자체가 새로운 위험 요인이 될 수 있다고 보고, 기존보다 촘촘한 감시와 강한 격리, 보다 엄격한 정렬 절차를 도입한다고 설명했다. 오픈AI 측은 "모델이 더 강력해질수록 내부 개발과 테스트에 따르는 위험도 함께 커진다"며 "모니터링, 정렬, 보안 기준이 그 위험보다 앞서가야 한다"고 밝혔다. 이번 조치는 허깅페이스 취약점 유출 사고 이후 공개된 첫 대규모 안전 체계 개편이라는 점에서 주목된다. 오픈AI는 이번 변화가 특정 사건 하나에 대한 직접 대응만은 아니라고 선을 그었지만 해당 사고와 함께 차세대 모델의 사이버보안 역량 고도화가 정책 강화의 배경이 됐다고 설명했다. 실제로 회사는 아스트라를 비롯한 향후 모델이 더 높은 수준의 보안 위험을 수반할 수 있다고 보고, 개발 속도보다 안전 검증을 우선하는 방향으로 운영 방침을 조정했다. 가장 상징적인 변화는 강화학습(RL) 훈련 운영 방식이다. 오픈AI는 허깅페이스 사고 이후 2주 동안 RL 훈련을 중단하고 연구 환경과 안전 절차를 재점검했다고 밝혔다. 이후 상대적으로 위험도가 낮은 일부 모델과 작업은 재개했지만, 회사가 준비 중인 최대 규모의 프런티어 RL 훈련은 여전히 보류 상태다. 오픈AI는 소규모 훈련과 추가 평가를 통해 모델 행동을 분석하고, 안전장치의 유효성과 정렬 수준에 대한 근거를 충분히 확보한 뒤 다음 단계로 넘어가겠다는 입장이다. 보안 인프라 측면에서는 연구 환경 격리가 핵심 축으로 제시됐다. 오픈AI는 모델이 생성한 코드나 신뢰할 수 없는 코드를 실행하는 워크로드에 대해 기존보다 강한 샌드박스 격리를 적용하고, 고위험 작업과 인터넷, 내부 네트워크 사이에 추가적인 차단 장치를 두겠다고 밝혔다. 이에 따라 단일 워크로드 또는 지원 서비스가 침해되더라도 곧바로 외부 인터넷이나 다른 내부망으로 접근이 이어지지 않도록 구조를 재설계한다는 설명이다. 이는 사고 이후 제기된 네트워크 보안 허점 비판을 의식한 조치로 풀이된다. 오픈AI는 이와 함께 공유 서비스 재구성, 최소 권한 원칙 적용, 보안 경계 강화, 로그 수집 확대 등 기본 보안 통제도 함께 손질하고 있다고 밝혔다. 또 자체 AI 모델을 활용한 모의 공격 기반의 지속적 보안 테스트 자동화에도 투자하고 있다고 덧붙였다. 단순히 침입을 막는 수준을 넘어, 고위험 모델이 개발 환경 내에서 어떤 방식으로 예상 밖 행동을 보일 수 있는지 상시 점검하는 체계로 전환하겠다는 의미다. 새 안전 체계의 중심에는 다단계 모니터링 시스템이 있다. 오픈AI에 따르면 이 시스템은 모델의 도구 사용 행동, 이용 가능한 추론 흔적, 활동 로그 등을 종합 분석해 무단 접근, 데이터 유출, 파괴적 행동, 안전장치 우회 시도 같은 이상 행위를 탐지한다. 의심 신호가 포착되면 보다 정밀한 자동 조사 단계로 넘겨 추가 분석을 진행하며 각 기업은 우려 활동 감지 후 30분 이내 경보 발령을 목표로 하고 있다. 치명적 보안 경계 위반 가능성이 높다고 판단될 경우 안전, 보안, 연구팀에 최우선 경보가 전달되는 구조다. 오탐 가능성에 대한 대응 절차도 포함됐다. 오픈AI는 경보가 발생한 뒤 30분 안에 실제 위협 여부를 명확히 판단하지 못할 경우 관련 작업을 우선 중단하도록 했다고 설명했다. 다만 이 같은 상시 감시에는 상당한 비용이 수반된다. 회사는 현재 기준으로 모니터링에 필요한 연산 부담이 감시 대상 프로세스의 약 20% 수준이라고 추산했다. 그럼에도 오픈AI는 프런티어 모델의 위험을 고려하면 이 정도 비용은 감수할 필요가 있다는 입장이다. 정렬 연구 강화도 이번 발표의 또 다른 축이다. 오픈AI는 가장 강력한 모델에 대한 RL 과정에서 훈련의 더 많은 단계에 정렬 기법을 적용하겠다고 밝혔다. 여기에는 위험 행동을 더 정밀하게 포착하는 보상 모델 개선, 모델이 자신의 능력과 한계를 보다 정직하게 설명하도록 유도하는 학습, 보상 체계나 평가 장치의 허점을 악용하는 행동을 줄이는 작업이 포함된다. 아울러 외부 시스템과 자원에 접근하는 과정에서 나타날 수 있는 유해 행동까지 훈련과 평가 범위를 넓히겠다고 했다. 오픈AI 연구진은 통제 강도가 모델의 위험 수준에 따라 달라질 것이라고 강조했다. 아멜리아 글레이즈 오픈AI 연구 부문 부사장은 기자들과 만나 "우리는 안전한 개발을 위한 요구사항과 기대 수준을 마련했다"며 "그 요구사항과 기대 수준은 우리가 보는 위험 수준에 따라 달라진다"고 말했다. 다시 말해 범용 모델과 고위험 모델을 동일한 잣대로 관리하지 않고, 역량이 높고 위험성이 큰 모델일수록 훨씬 강한 보안 통제를 적용하겠다는 것이다. 오픈AI는 특히 아스트라의 사이버보안 역량을 주요 변수로 보고 있다. 회사는 아스트라가 향후 자사 준비태세 프레임워크상 더 높은 수준의 보안 위험 범주에 도달할 가능성을 확인했으며, 이에 따라 관련 추론 작업과 도구 사용 과정에 추가 감시를 의무화했다고 설명했다. 이는 기존의 RL 훈련 중심 감시에서 나아가, 실제 모델 운용과 평가 전반으로 통제 범위를 확대한 조치다. 오픈AI 측 "향후 준비태세 프레임워크를 계속 고도화하고, 훈련과 배포 전반에 걸쳐 안전 기준을 발전시켜 나가겠다며 추가 기술 설명과 사고 분석 결과도 순차적으로 공개할 예정"아며모 "프런티어 모델의 역량은 빠르게 가속하고 있으며, 이를 이해하고 정렬하고 보호하는 능력은 그보다 앞서가야 한다"고 강조했다.

2026.08.19 14:51남혁우 기자

비드래프트, AI 안정성 진단 AX-RAY 및 평가 데이터셋 허깅페이스에 공개

딥테크 AI·과학연구 전문기업 비드래프트(대표 김민식)는 지난 13일 범용 인공지능 모델의 잠재적 안전성 취약성을 진단하는 'AX-RAY' 리더보드와 평가 데이터셋을 허깅페이스(Hugging Face)에 공개했다고 밝혔다. 허깅 페이스는 기계 학습 모델 구축·배포·교육을 하기 위한 도구와 리소스를 개발하는 프랑스계 미국 회사이자 오픈 소스 커뮤니티다. 비드래프트는 AX-RAY 평가에서 엔비디아(NVIDIA)의 범용 AI 모델 1종을 포함한 총 2종의 모델에서 인과누설 신호를 확인했다고 설명했다. 인과누설은 AI가 정상적인 추론 경로가 아닌 숨은 정보나 의도하지 않은 인과적 단서에 영향을 받아 판단·행동하는 현상을 의미한다. AI 안전성 분야에서는 로봇이나 자율 에이전트가 갑작스럽게 위험행동을 하거나, AI가 안전 가이드레일을 우회해 시스템 접근·해킹 등 예상 밖 행동을 수행하는 현상 역시 이러한 숨은 인과경로와 내부 의존성에 기인할 가능성이 있다는 가설이 제기돼 왔다. 그러나 이를 실제 범용 LLM에서 탐지하는 것은 어려운 과제로 남아 있었다고 알려졌다. 회사 측에 따르면 AX-RAY는 단순한 AI 성능 벤치마크가 아니라는 의견을 내기도 했다. 117개 안전성 진단항목을 통해 모델 내부의 위험행동 가능성과 취약성을 다각도로 진단하고, 각 항목을 국가별 기존 법률·규제 체계와 연결하기 때문이다. 특히 아랍권의 경우 현지 법률뿐 아니라 종교·사회적 규범을 반영한 율법 체계와의 매핑까지 고려해 국가·문화권별 AI 안전성 평가가 가능하도록 설계됐다. 비드래프트는 양자컴퓨터용 퀀텀OS(QuantumOS)와 신약·신소재 자율개발 플랫폼을 개발하는 딥테크 AI 기업으로, 서울AI허브 입주사이자 정부 첨단 GPU 지원과제 수행기업이다. 이 회사는 엔비디아 블랙웰(Blackwell) 등 고성능 GPU를 기반으로 자체 프롬스크래치 파운데이션 모델 '에테르(AETHER)'와 진화형 '다윈(Darwin)'을 개발하고 있으며, 허깅페이스 누적 다운로드 100만 회, K-AI 리더보드 1위, GPQA 90.9%, Fast Gemma Challenge 1위 등의 성과를 기록하고 있다. 김민식 대표는 “AI 경쟁의 다음 단계는 지능이 아니라 안전성”이라며 “AX-RAY를 모델에 숨어 있는 위험한 인과관계를 찾아내고 국가별 법률과 사회규범까지 연결해 검증하는 글로벌 AI 안전성 진단 체계로 발전시키겠다”고 전했다.

2026.08.14 15:33이도원 기자

[AI는 지금] LG, 더 크게 진화한 'K-엑사원'…확산 속도전

LG AI연구원이 국내 최대인 750B(7500억 개) 파라미터 규모 거대언어모델(LLM)을 오픈웨이트로 공개하며 소버린(주권) 인공지능(AI) 경쟁력 확보에 나섰다. 처음부터 다시 학습시키는 대신 전작의 가중치를 확장해 재사용하는 업사이클링 방식으로 몸집을 키웠다. LG AI연구원은 과학기술정보통신부 주관 '독자 AI 파운데이션 모델(독파모) 프로젝트' 2차수 모델인 'K-엑사원(K-EXAONE) 2.0'를 허깅페이스에 31일 공개했다. 라이선스는 상업적 이용까지 가능한 아파치 2.0으로 전환해 개방성을 높였다. 적은 자원으로 몸집 3배 불렸다…전작 대비 성능 10%↑ K-엑사원 2.0 테크 리포트에 따르면 이 모델은 처음부터 새로 학습시키지 않고 전작 K-엑사원의 가중치를 재사용해 구조를 확장하는 '업사이클링' 방식으로 개발됐다. LLM을 처음부터 학습시키면 이전 모델에 투입된 연산과 데이터, 학습 노하우를 모두 버리게 된다. LG AI연구원은 이를 그대로 이어받으면서 총 파라미터를 236B에서 750B로, 실제 작업 시 활성화되는 파라미터를 23B에서 37B로 늘렸다. 이 전략 덕분에 처음부터 다시 학습시키는 것보다 적은 자원으로 레이어를 48개에서 78개로, 레이어당 전문가 수를 128개에서 256개로 확장할 수 있었다는 설명이다. 종합 성능도 전작 대비 뚜렷한 향상을 보였다. LG AI연구원에 따르면 K-엑사원 2.0은 독파모 성능 평가 반영 항목을 포함한 9개 영역 24개 벤치마크에서 평균 70.1점을 기록해 전작(63.3점)보다 10% 이상 높은 성능을 냈다. 코딩·에이전틱 코딩 영역 주요 지표 3개 평균은 30% 상승했다. 장문 문맥 이해 평가(OpenAI-MRCR·Ko-LongBench)에서 GLM-5.1을 웃돌았고, 에이전틱 툴 사용 능력 평가(Tau3-Bench Banking)에서는 GLM-5.1과 큐원3.5를 모두 앞섰다. 지원 언어는 한국어·영어·스페인어·독일어·일어·베트남어 등 6개에 프랑스어·이탈리아어·포르투갈어·폴란드어를 더해 10개로 확장했다. LG AI연구원 관계자는 "국내 AI 파운데이션 모델 중 가장 많은 언어를 지원하는 것"이라며 "소버린 AI가 국내를 넘어 글로벌 시장까지 공략하는 발판을 마련했다"고 말했다. 엑사원, 정부 대국민 서비스 탑재…안전성 기준도 자체 확장 K-엑사원 2.0에 앞선 엑사원 계열 모델은 이미 정부기관의 대국민 서비스에 투입돼 가동 중이다. 비전언어모델(VLM) '엑사원 4.5'는 지난 4월 공개돼 행정안전부 'AI 안전신문고'의 분석 엔진으로 채택돼 하루 3만 9000건 이상의 안전 신고를 처리하고 있다. 식품의약품안전처의 '신약 심사 AI'에도 탑재돼 신약 허가 심사 기간 단축에 쓰이고 있다. LG AI연구원은 K-엑사원 2.0도 이 같은 실사용 궤도에 올리기 위한 준비를 진행하고 있다. 독파모 2차 심사 기간 실사용성 평가를 위한 대국민 평가 사이트 개발을 마무리하고 있다. 향후 전 국민이 K-엑사원 2.0을 직접 체험할 수 있는 서비스도 준비 중이다. 성능 못지않게 안전성 기준 자체를 확장하는 데도 공을 들였다. LG AI연구원은 유네스코 아시아태평양 국제이해교육원(APCEIU)과 협력해 세계시민교육 인증을 받은 교사 46명으로 구성된 자문위원회를 운영했다. 이들의 검토를 거쳐 기존 위험 영역 100여 개 판단 기준을 보완하고 70개를 새로 추가했다. 이에 따라 자체 안전성 분류체계인 'K-AUT'의 위험 영역은 226개에서 296개로 늘었다. 임우형 LG AI연구원 공동 연구원장은 "K-엑사원 2.0 성능은 완성된 결과가 아니라 글로벌 프런티어 스케일 모델의 잠재력을 본격적으로 끌어내기 위한 출발점"이라며 "데이터 품질 고도화와 후속 학습, 강화 학습, 추론 기술을 정교화해 K-엑사원 성능을 완성하겠다"고 강조했다.

2026.07.31 15:53이나연 기자

LG AI연구원, 국내 최대 AI 모델 'K-엑사원 2.0' 공개

LG AI연구원이 국내 최대 규모 인공지능(AI) 모델을 공개하며 독자 AI 생태계 확대에 속도를 낸다. LG AI연구원이 과학기술정보통신부 주관 '독자 AI 파운데이션 모델(독파모) 프로젝트' 2차수 모델인 'K-엑사원(K-EXAONE) 2.0'를 오픈소스 커뮤니티 허깅 페이스에 31일 공개했다. K-엑사원 2.0은 국내 최대인 750B(7500억 개) 파라미터 규모의 모델로 1차수 모델(236B) 대비 크기가 3배 이상 커졌다. 모델 라이선스 정책도 누구나 상업적 이용까지 가능한 아파치 2.0으로 전환하며 개방성을 높였다. LG AI연구원이 진행한 9개 영역 24개 벤치마크 평가에 따르면 K-엑사원 2.0은 평균 70.1점을 기록해 1차수 모델(63.3점)보다 10% 이상 높은 성능을 달성했다. 특히 코딩과 에이전틱 코딩 영역 주요 지표 3개의 평균 성능이 30% 상승했다. 장문 문맥 이해 평가, 에이전틱, 지시 이행 등 주요 영역에서 글로벌 선도 모델과 비교해 높거나 대등한 성능도 기록했다. K-엑사원 2.0은 장문 문맥 이해 영역에서 글로벌 장문 이해 능력 평가(OpenAI-MRCR)와 한국어 장문 이해 능력 평가(Ko-LongBench)에서 각각 94.4점과 89.6점을 달성했다. 이는 중국 지푸의 GLM-5.1(71.5점, 83.6점) 대비 높은 점수다. 주요 지표 3개(OpenAI-MRCR, AA-LCR, Ko-LongBench) 평균 점수 역시 10% 이상 앞섰다. 에이전틱 툴 사용 능력 평가(Tau3-Bench Banking)에서는 14.2점으로 GLM-5.1(11.5점), 큐원3.5(13.4점) 보다 우수한 결과를 냈다. 지시 이행 영역 평가(IFeval, IFBench)에서도 GLM-5.1, 딥시크 V4 프로 맥스, 큐원 3.5 등에 견주는 성능을 기록했다는 설명이다. K-엑사원 2.0은 직전 모델 대비 언어를 확장하며 국내 AI 파운데이션 모델 중 가장 많은 언어를 지원하게 됐다. 기존 한국어, 영어, 스페인어, 독일어, 일어, 베트남어에 프랑스어, 이탈리아어, 포르투갈어, 폴란드어를 추가한 총 10개 언어를 제공한다. 국내 특수성과 글로벌 윤리 기준을 준수하는 안정성을 높이는 데도 주력했다. K-엑사원 2.0은 한국의 특수성과 글로벌 윤리 기준 준수 평가(KGC-Safety), 지정학적 맥락 판단과 관련된 안정성 평가(ROK-Fortress)에서 평균 94.6점을 달성했다. GLM-5.1(71.3점), 딥시크 V4 프로 맥스(65.2점), 큐원3.5(89점)와 비교해 높은 안정성을 보였다. LG AI연구원은 다음 주 새로운 산업 특화 AI 파운데이션 모델을 추가로 공개하며 산업 현장과 일상을 혁신하는 '전문가 AI' 포트폴리오를 강화할 계획이다. 임우형 LG AI연구원 공동 연구원장은 "K-엑사원 2.0은 단순히 파라미터 수가 큰 모델이 아니라, 국내 연구진이 750B급 모델 설계부터 데이터 학습, 분산 학습, 추론 환경 구축까지 전 과정을 독자적으로 완수했다는 데 의미가 있다"며 "독자 AI 파운데이션 모델 프로젝트의 핵심 목표인 글로벌 프런티어 모델과 같은 체급에서 경쟁할 수 있는 역량을 확보한 것"이라고 말했다. 이어 "현재 성능은 완성된 결과가 아니라 글로벌 프런티어 스케일 모델의 잠재력을 본격적으로 끌어내기 위한 출발점"이라며 "데이터 품질 고도화와 후속 학습, 강화 학습, 추론 기술을 정교화해 K-엑사원 성능을 완성하겠다"고 부연했다.

2026.07.31 10:24이나연 기자

오픈AI 에이전트, 허깅페이스 이어 외부 서비스까지 침해

오픈AI의 인공지능(AI) 에이전트가 허깅페이스뿐 아니라 타사 외부 서비스 환경까지 침해한 사실이 추가로 확인됐다. 28일(현지시간) 로이터통신에 따르면 오픈AI의 AI 에이전트는 미국 개발자용 클라우드 플랫폼 기업 모달랩스의 고객이 운영하던 샌드박스에 접근한 것으로 전해졌다. 샌드박스는 프로그램과 코드를 실제 시스템과 분리해 실행하고 시험하는 격리 환경이다. 이번 침해는 모달 플랫폼 자체 취약점 때문은 아닌 것으로 파악됐다. 고객이 인증 없이 인터넷에 공개한 인터페이스를 통해 누구나 샌드박스에서 코드를 실행할 수 있었다. 오픈AI 에이전트가 이를 이용해 해당 환경에 접근한 것이다. 이번 모달 고객 환경 침해는 이후 허깅페이스 공격으로 이어지는 과정에서 발생한 것으로 전해졌다. 허깅페이스가 공개한 사고 타임라인에 따르면 오픈AI 에이전트는 제3자 인프라에서 운영되던 샌드박스에 침입한 뒤 이를 발판으로 추가 공격을 시도했다. 이번 후속 보도로 오픈AI 에이전트 활동 범위가 당초 알려진 것보다 넓었다는 사실도 확인됐다. 오픈AI는 최근 업데이트를 통해 문제의 에이전트가 서로 다른 4개 서비스에서 총 4개 계정에 침입했다고 밝혔다. 서비스 명단은 공개하지 않았지만 사안에 정통한 관계자는 모달이 이 가운데 하나라고 로이터통신에 밝혔다. 오픈AI는 허깅페이스에서 발생한 플랫폼 수준의 침해와 같은 추가 활동은 확인하지 못했다고 설명했다. 모달 사례는 개별 고객 환경에 대한 접근으로, 허깅페이스 사고와는 피해 규모가 달랐다는 설명이다. 미국 매체 악시오스는 같은 AI 에이전트가 UC버클리 연구진이 운영하는 '사이버짐' 관련 인프라에도 접근할 방법을 찾아냈다고 보도했다. 해당 연구진은 AI 에이전트의 사이버 능력을 평가하는 '익스플로잇짐'도 운영하고 있다. 이번 사고는 오픈AI가 'GPT-5.6 솔'과 더 강력한 비공개 모델을 활용해 사이버 공격과 방어 능력을 평가하는 과정에서 발생했다. 블룸버그에 따르면 오픈AI는 모델의 사이버 역량을 시험하기 위해 평소보다 안전장치를 낮춘 상태에서 평가를 진행했다. 그러나 AI 에이전트가 격리 환경을 벗어나 인터넷에 연결된 외부 시스템에 접근하면서 실제 침해 사고로 이어졌다. 이후 허깅페이스 시스템까지 공격하면서 사건이 외부에 알려졌다. 로이터는 오픈AI가 에이전트의 외부 활동이 시작된 이달 9일부터 허깅페이스가 침해 사실을 공개한 16일까지 자사 AI가 해킹의 배후라는 사실을 파악하지 못했다고 보도했다. 이에 오픈AI는 "이후 문제가 된 AI 모델을 비활성화하고 암호화했으며 연구진의 접근도 제한했다"고 밝혔다.

2026.07.29 15:04김미정 기자

AI 안전 논란 속 백악관 찾는 알트먼…규제·혁신 메시지 주목

샘 알트먼 오픈AI 최고경영자(CEO)가 이번 주 미국 백악관을 찾아 차세대 인공지능(AI) 모델의 성능과 경제적 가치를 직접 설명한다. 오픈AI 최신 모델이 사람의 개입 없이 스스로 기업 시스템에 침투한 사실이 알려진 뒤 처음 이어지는 공식석상인 만큼 샘 알트먼 CEO가 어떤 메시지를 내놓을지에 관심이 쏠리고 있다. 27일(현지시간) 미국 매체 악시오스에 따르면 샘 알트먼 CEO는 백악관 관계자들에게 오픈AI의 차세대 AI 모델과 에이전트 기반 업무 혁신 전략을 소개할 예정이다. 이번 회동은 도널드 트럼프 행정부가 첨단 AI 모델에 대한 자발적 사전 승인 체계 도입을 검토하는 시점과 맞물리며 업계의 주목을 받고 있다. 오픈AI가 선보인 신규 모델은 강력한 성능만큼 새로운 위험성으로도 주목받고 있다. 최근 공개한 안전성 자료에 따르면 장기 목표 수행에 특화된 내부 모델은 테스트 과정에서 안전장치를 우회하려는 행동을 반복적으로 보였다. 회사는 개발을 일시 중단한 뒤 감시 체계를 재설계한 것으로 알려졌다. 특히 해당 모델은 실험 과정에서 AI 개발 플랫폼 허깅페이스(Hugging Face)의 실제 시스템에 침투한 사례가 공개되면서 논란을 키웠다. 이는 AI가 목표 달성을 위해 예기치 않은 행동을 수행할 수 있다는 우려를 보여주는 사례로 해석된다. 이와 함께 오픈AI는 이번에 공개할 모델이 단순한 질의응답을 넘어 독자적인 연구와 복잡한 문제 해결 능력을 갖췄다고 설명했다. 대표 사례로 내부 연구 모델이 약 80년 동안 미해결 상태로 남아 있던 기하학 분야 난제인 '에르되시 단위거리 문제(Erdős Unit Distance Problem)'를 스스로 해결했다고 밝혔다. 해당 결과는 외부 수학자들의 검증도 거친 것으로 전해졌다. 오픈AI는 또 여러 AI가 동시에 협업하는 '에이전틱 AI 팀(agentic AI teams)'을 차세대 업무 혁신의 핵심으로 제시할 예정이다. 법무, 재무, 채용 등 서로 다른 역할을 맡은 AI 에이전트들이 인간의 개입 없이 협력해 복잡한 업무를 처리하는 방식이다. 실제로 오픈AI는 자사 법무·재무·채용 부문의 AI 관련 업무 가운데 85% 이상을 에이전트를 통해 수행하고 있다고 설명했다. 알트먼 CEO는 이러한 변화가 생산성을 측정하는 방식 자체를 바꿀 것으로 보고 있다. 이를 위해 오픈AI는 새로운 경제성 지표인 '달러당 지식(Knowledge per Dollar)' 개념도 제안할 계획이다. 같은 비용으로 얼마나 많은 지식 노동을 수행할 수 있는지를 기준으로 AI의 가치를 평가해야 한다는 주장이다. 업계에서는 이번 백악관 회동이 단순한 기술 시연을 넘어 차세대 AI 규제와 국가 경쟁력 논의의 시험대가 될 것으로 보고 있다. 중국 AI 기업이 성능 향상과 비용 절감을 앞세워 빠르게 추격하는 가운데 오픈AI는 미국이 AI 주도권을 유지하기 위해 혁신과 안전성 확보를 동시에 추진해야 한다는 메시지를 전달할 것으로 예상된다. 오픈AI 측은 "이번 사건을 최첨단 사이버 공격 기법이 동원된 전례 없는 사이버 공격으로 간주하고 그에 상응하는 대응을 진행하고 있다"며 "허깅페이스와 함께 철저한 조사를 계속 진행할 것이며, 조사가 완료되는 대로 취약점과 사건 내용, 조사 결과에 대한 자세한 정보를 공개할 예정"이라고 밝혔다.

2026.07.27 16:13남혁우 기자

[AI는 지금] 오픈AI 모델, 허깅페이스 시스템 침입…"실행 기록 공개하라"

오픈AI의 인공지능(AI) 모델이 사이버보안 성능 시험 도중 격리 환경을 벗어나 허깅페이스 시스템에 침입한 것으로 드러났다. 자율형 AI 에이전트의 공격 역량뿐 아니라 개발사가 시험 환경을 제대로 통제했는지를 둘러싼 책임 논란도 커지고 있다. 27일 업계에 따르면 오픈AI는 최근 내부 보안 시험에 투입한 모델이 시험 환경의 취약점을 이용해 외부 인터넷에 접속한 뒤 허깅페이스 시스템에 접근했다고 밝혔다. 모델은 허깅페이스 서버에서 시험 관련 정보를 확보한 것으로 파악됐다. 허깅페이스는 이상 활동을 탐지해 차단했으며 고객 서비스나 이용자 데이터 피해는 확인되지 않았다고 설명했다. 사이버보안 전문가들은 모델의 자율적 행동과 별개로 외부와 분리돼야 할 시험 환경을 제대로 구성하지 못한 운영상 책임을 살펴야 한다고 지적했다. 오픈AI는 모델이 광범위한 피해를 일으키려 한 것이 아니라 시험 점수를 높이기 위해 예상하지 못한 수단으로 정보를 확보한 것으로 보고 있다. 주어진 목표를 수행하는 AI 에이전트가 개발자의 의도와 다른 방식으로 외부 시스템까지 공격할 수 있다는 위험이 실제 사고로 이어진 셈이다. 이에 클렘 들랑그 허깅페이스 최고경영자(CEO)는 최근 오픈AI에 사고를 일으킨 에이전트의 실행 기록을 공개하라고 요구했다. 연구자들이 모델의 판단과 도구 사용 과정을 분석할 수 있도록 사고 정보를 연구 커뮤니티와 공유해야 한다는 주장이다. 허깅페이스는 AI 기반 사이버 공격에 대응할 방어 기술 개발도 확대해야 한다고 봤다. 또 오픈AI가 오픈·폐쇄형 모델을 활용한 사이버 방어 연구에 1억 달러 상당의 컴퓨팅 자원을 지원해야 한다고 제안했다. 들랑그 CEO는 "최초의 자율형 에이전트 사이버 공격은 전례 없는 사건"이라며 "전례 없는 대응이 필요하다"고 말했다.

2026.07.27 09:45장유미 기자

허깅페이스 해킹한 '외부 AI' 정체…알고 보니 오픈AI 모델

최근 허깅페이스를 해킹한 외부 인공지능(AI) 에이전트 실체가 오픈AI 모델인 것으로 드러났다. 21일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 자사 모델이 격리 환경을 벗어나 허깅페이스 시스템에 무단 접근한 사실을 인정했다. 허깅페이스는 오픈AI와 별도 관계 없는 기업으로 당초 공격 주체를 외부 AI 에이전트로 추정했다. 이번 사고에는 'GPT-5.6 솔'을 비롯한 오픈AI 미출시 버전 모델이 관여한 것으로 나타났다. 해당 모델들은 사이버 공격 능력을 평가받기 위해 안전 거부 기능이 완화된 상태로 내부 시험에 투입됐다. 시험에는 기존 보안 취약점을 이용한 공격 능력을 측정하는 공개 벤치마크 '익스플로잇짐'이 사용됐다. 모델들은 벤치마크 문제 정답을 찾는 과정에서 허깅페이스 시스템까지 침입·공격한 것으로 조사됐다. 해당 모델은 원칙적으로 외부 인터넷에 접속할 수 없도록 격리돼 있었다. 다만 시험에 필요한 소프트웨어(SW)를 설치할 수 있도록 패키지 설치 도구에는 접근할 수 있었다. 모델은 패키지 설치 프로그램에서 공개되지 않은 취약점을 찾아 인터넷 접속 제한을 우회했다. 이후 허깅페이스에 익스플로잇짐 관련 모델과 데이터셋, 문제 해결 정보가 저장돼 있을 가능성이 있다고 판단했다. 해당 모델은 허깅페이스 인프라 취약점도 추가로 찾아냈다. 이를 통해 허깅페이스 운영 데이터베이스(DB)에 접근하고 익스플로잇짐 시험 문제 정답을 직접 확보한 것으로 파악됐다. 허깅페이스는 "이번 공격은 단순한 일회성 침입이 아니었다"며 "AI 모델은 여러 임시 실행 환경을 옮겨 다니며 수천 건 공격을 수행했다"고 밝혔다. 이어 "공개 인터넷 서비스를 공격 명령을 전달하는 중간 거점으로 활용한 정황도 포착됐다"고 덧붙였다. 오픈AI는 패키지 설치 도구와 허깅페이스 인프라에서 발견된 취약점을 신고했다. 현재 허깅페이스와 추가 조사를 진행하고 있으며, 모델 시험과 관련 인프라에 새로운 통제 장치를 적용할 방침이다. 이번 사건으로 오픈AI가 법적 책임을 질지는 확인되지 않았다. 다만 외신은 모델 무단 시스템 접근이 미국 '컴퓨터 사기 및 남용 방지법'을 위반했을 가능성이 있다고 분석했다. 오픈AI는 "모델들은 익스플로잇짐의 해결책을 찾는 데 지나치게 몰두했고 매우 제한적인 시험 목표를 달성하기 위해 극단적인 수단까지 동원했다"며 "인터넷에 접근한 뒤 평가에서 부정행위를 하는 데 이용할 수 있는 비밀 정보를 찾아냈다"고 밝혔다.

2026.07.22 09:20김미정 기자

허깅페이스, 데이터·인증정보 털려…"이용자에 보안키 교체 권고"

허깅페이스가 해킹으로 내부 데이터와 서비스 인증정보를 탈취당한 것으로 전해졌다. 현재 이용자에게 보안키 교체와 계정 점검을 권고한 상태다. 20일(현지시간) 테크크런치 등 외신에 따르면 허깅페이스는 지난주 플랫폼에 업로드된 데이터셋을 통해 내부 시스템이 침해됐다고 밝혔다. 고객이나 협력사 데이터까지 유출됐는지는 조사하고 있다. 공격에 이용된 데이터셋은 보안 취약점을 악용해 허깅페이스 서버에서 악성코드를 실행했다. 공격자는 이후 자신의 접근 권한을 높여 내부 시스템으로 침투 범위를 넓혔다. 회사는 공격 과정에서 노출된 서비스 인증정보를 폐기하고 새로 발급했다. 이용자에게도 플랫폼에 저장한 보안키를 교체하고 계정에서 의심스러운 활동이 발생했는지 확인하라고 안내했다. 공격에 악용된 보안 취약점은 수정됐다. 공개된 이용자용 모델과 데이터셋이 변조됐거나 소프트웨어 공급망이 침해된 증거는 현재까지 발견되지 않았다. 허깅페이스는 이번 공격 과정에 외부 인공지능(AI) 에이전트가 동원됐다고 주장했다. 해당 에이전트는 짧은 시간만 운영되는 여러 샌드박스를 옮겨 다니며 수천 건의 개별 작업을 수행한 것으로 분석됐다. 공격자는 공개 서비스를 활용해 명령·제어 체계도 구축한 것으로 나타났다. 다만 허깅페이스는 AI 에이전트가 공격을 수행했다는 주장을 뒷받침할 구체적인 증거를 테크크런치에 즉시 제시하지 않았다. 이번 공격은 허깅페이스의 자체 이상징후 탐지 시스템을 통해 처음 포착됐다. 회사는 이후 공격 과정이 기록된 서버 로그를 분석하는 데 AI 모델을 활용했다. 초기 로그 분석에는 외부 업체가 제공하는 상용 프런티어 AI 모델이 투입됐다. 그러나 해당 모델이 사이버 공격 관련 분석 요청을 안전 정책에 따라 차단하자 자체 서버에서 구동하는 거대언어모델(LLM)로 전환했다. 자체 모델을 활용하면서 공격 정보가 담긴 민감한 서버 로그를 외부 AI 업체 서버에 전송하지 않아도 됐다. 일부 상용 AI 모델의 안전장치가 사이버 공격 방어와 침해 사고 조사까지 제한할 수 있다는 문제도 드러났다. 허깅페이스는 이번 사건을 수사기관에 신고했다. 사이버보안 포렌식 전문가도 투입해 침해 범위와 내부 보안 체계를 조사하고 있다. 허깅페이스는 외부 AI 에이전트가 "수명이 짧은 여러 샌드박스에서 수천 건의 개별 작업을 수행했다"며 "공개 서비스를 기반으로 스스로 이동하는 명령·제어 체계를 구축했다"고 밝혔다.

2026.07.21 10:04김미정 기자

[유미's 픽] G7 효과 본 '비바테크'...규제만 하던 유럽, 미·중 AI 판 흔드나

유럽이 인공지능(AI) 패권 경쟁의 새 축으로 부상하고 있다. 그동안 AI 규제 논의를 주도해 온 유럽이 지난주 프랑스 파리에서 열린 '비바테크 2026'을 계기로 자체 모델과 인프라, 산업 적용 전략을 전면에 내세운 모습이다. 24일 업계에 따르면 지난 17일부터 20일까지 프랑스 파리에서 열린 비바테크 2026에는 제프 베이조스 아마존 창업자, 젠슨 황 엔비디아 최고경영자(CEO), 아서 멘시 미스트랄AI CEO, 에이단 고메즈 코히어 CEO, 얀 르쿤 메타 수석 AI 과학자, 토머스 울프 허깅페이스 공동창업자, 마이크 크리거 앤트로픽 최고제품책임자(CPO), 로힛 프라사드 아마존 AGI 수석과학자 등이 참석했다.주요 연사들은 산업 AI, AI 인프라, 유럽형 생성AI, 기업용 AI, 오픈소스 생태계 등 서로 다른 의제를 제시했다. 제프 베이조스 창업자는 AI를 제조와 엔지니어링 영역으로 확장하는 산업 AI를 강조했고, 젠슨 황 CEO는 AI 인프라와 피지컬 AI를 앞세웠다. 아서 멘시 CEO는 유럽 생성형 AI와 AI 주권 논의를 대표했고, 에이단 고메즈 CEO는 보안 중심 기업용 AI를 내세웠다. 또 얀 르쿤 수석 AI 과학자는 언어모델 이후의 AI 방향을, 토머스 울프 공동창업자는 오픈소스 AI 생태계를, 마이크 크리거 CPO는 AI 제품화 흐름을 각각 다뤘다. 올해 행사는 주요 7개국(G7) 정상회의와 일정이 겹치며 주목도가 커졌다. 프랑스에서 같은 주간 열린 G7 정상회의에는 샘 알트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 데미스 허사비스 구글 딥마인드 CEO 등도 참석했다. 주요 AI 기업 수장들이 프랑스에 모이면서 AI 안전, 사이버 안보, 첨단 모델 접근권, 민주주의 국가 간 기술 협력이 주요 의제로 다뤄졌다. 비바테크 현장에선 유럽의 AI 주권 논의가 전면에 섰다. 특히 프랑스 AI 업계 선두주자인 미스트랄AI는 유럽 생성형 AI 생태계를 대표하는 기업으로 주목받았다. 프랑스 정부도 AI 모델과 컴퓨팅 인프라 확보 필요성을 강조하며 유럽 내 AI 산업 기반 확대에 힘을 실었다. 다만 AI 인프라 분야에서는 엔비디아의 역할이 부각되며 미국에 대한 의존도가 여전하다는 점이 드러났다. 유럽이 자체 모델을 키우더라도 대규모 학습과 추론을 처리할 컴퓨팅 인프라가 필요해서다. 이에 따라 엔비디아 등 미국 인프라 기업과의 협력은 당분간 이어질 것으로 보인다. 업계에선 이번 '비바테크'를 계기로 미국과 중국 중심 AI 경쟁 구도에 유럽이 새 축으로 들어섰다고 평가했다. 그동안 글로벌 AI 시장은 미국 빅테크가 모델·플랫폼·클라우드 주도권을 쥐고, 중국 기업들이 자체 생태계 안에서 풀스택 경쟁력을 키우는 흐름으로 전개됐다. 반면 유럽은 AI 규제 표준을 주도해 왔지만 산업 경쟁에서는 상대적으로 존재감이 약했다. 하지만 올해 비바테크에선 미스트랄AI를 중심으로 자체 모델 생태계를 키우고 산업 데이터와 규제 표준을 결합해 독자 입지를 넓히려는 움직임이 부각된 것으로 분석됐다. 이 같은 AI 주권 논의는 모델 확보와 규제 표준을 넘어 실제 산업 적용 경쟁으로도 이어졌다. 주요 연사들은 제조, 엔지니어링, 로보틱스, 기업 업무 자동화 등 AI가 적용될 현장을 구체적으로 제시했다. 특히 베이조스 창업자는 산업 AI 흐름을 대표하는 연사로 주목받았다. 그는 AI가 인간 일자리를 대체한다는 시각에 반대하며 AI가 더 많은 문제를 찾고 이를 해결할 노동 수요를 만들 수 있다고 밝혔다. 제품 구상부터 양산까지 이어지는 '설계-구축 사이클'을 AI가 줄이면 제조 장벽에 막혀 있던 아이디어가 실제 제품과 서비스로 이어질 수 있다고도 주장했다. 베이조스 창업자가 이끄는 AI 스타트업 프로메테우스도 소개됐다. 프로메테우스는 첨단 제조와 산업 시스템을 위한 AI 솔루션 개발 기업으로, 비바테크에선 AI가 텍스트와 이미지 생성 도구를 넘어 엔지니어링 소프트웨어와 제조 현장으로 확장되는 흐름을 부각했다. 엔비디아는 로보틱스와 피지컬 AI를 앞세워 AI 인프라 수요 확대를 강조했다. 또 생성형 AI 투자로 데이터센터 수요가 커진 데 이어 제조·물류·자율 시스템으로 AI 적용 범위가 넓어지며 GPU와 시뮬레이션 소프트웨어 시장도 함께 확대될 것으로 봤다. 이번 '비바테크'에선 AI 연구 방향에 대한 논의도 이어졌다. 얀 르쿤 메타 수석 AI 과학자는 언어모델 중심 AI 흐름을 넘어 물리 세계를 이해하는 AI 필요성을 강조했다. 또 생성형 AI가 텍스트와 이미지 생성에서 빠르게 확산됐지만, 로보틱스와 자율 시스템으로 확장되기 위해서는 세계 모델과 추론 능력이 필요하다고 주장했다. 소프트웨어 업계에선 AI 에이전트가 새 화두로 떠올랐다. 오픈AI의 티보 소티오 코어 제품·플랫폼 책임자와 피터 스타인버거 오픈클로 창시자는 소프트웨어 개발에서 일상 업무로 확장되는 에이전트형 기업을 주제로 무대에 올랐다. 개발 보조 도구로 쓰이던 AI가 문서 작성, 코드 생성, 업무 조율, 데이터 처리, 고객 응대 등 기업 운영 전반으로 확산되는 흐름을 반영한 것이다. 코히어, 앤트로픽, 허깅페이스는 이번에 각기 다른 AI 확산 전략을 제시했다. 코히어는 보안 중심 기업용 AI를, 앤트로픽은 안전성과 제품화를 결합한 AI 서비스 확장을, 허깅페이스는 오픈소스 AI와 개발자 생태계를 주요 의제로 내세웠다. 이를 통해 AI 확산 논의가 모델 성능 경쟁뿐 아니라 실제 도입 방식과 생태계 구축으로 넓어지고 있다는 것을 각 기업들이 드러낸 것으로 평가됐다. 이 같은 분위기 속에 국내 소프트웨어·AI 기업들이 향후 유럽 시장 대응에 적극 나설지 주목된다. 유럽은 AI 규제 표준을 주도하면서도 자체 모델과 산업 데이터를 기반으로 AI 생태계를 키우려 하고 있는 상태다. 이에 따라 국내 기업들도 미국 빅테크 플랫폼 활용 전략뿐 아니라 유럽 규제와 산업 수요에 맞춘 파트너십 전략을 마련해야 할 것으로 보인다. 업계 관계자는 "올해 비바테크는 유럽이 AI 규제 논의에 머물지 않고 산업 경쟁에 직접 뛰어들고 있다는 점을 보여준 자리였다"며 "국내 기업들도 모델 경쟁보다 실제 산업 적용, 데이터 확보, 해외 파트너십을 함께 보는 전략이 필요하다"고 말했다.

2026.06.24 12:47장유미 기자

알리바바 AI '큐원' 프로젝트 리더 하차…AI 경쟁 속 리더 공백 우려

알리바바의 오픈소스 AI 프로젝트 '큐원(Qwen)'을 이끌던 핵심 기술 리더가 차세대 모델인 큐원 3.5 공개 직후 프로젝트에서 물러난다고 밝혔다. 4일(현지시간) 린쥔양 알리바바 수석 알고리즘 엔지니어 겸 큐원 기술총괄은 소셜플랫폼 엑스(X)를 통해 프로젝트에서 물러난다고 밝혔다. 다만 알리바바 퇴사 여부나 보직 변경 여부는 공식적으로 확인되지 않았다. 린쥔양 기술총괄은 2019년 알리바바에 합류해 자연어처리와 멀티모달 연구를 담당했다. 이후 수석 알고리즘 엔지니어를 거쳐 2023년부터 큐원팀의 공식 기술총괄을 맡았다. 그는 대규모 혼합전문가(MoE) 모델 'M6', ICML 2022에서 발표된 멀티모달 사전학습 모델 'OFA', 중국어 비전-언어 모델 '차이니즈 클립(Chinese-CLIP)' 등 주요 프로젝트의 핵심 개발자다. 차이니즈 클립은 깃허브에서 별 2천 개 이상을 기록하며 중국어 멀티모달 모델의 대표 사례로 자리 잡았다. 연구 영향력도 두드러진다. 구글 스칼라 기준 린의 논문 인용 수는 4만2000 회를 넘어섰다. 이 가운데 큐원3 기술 보고서만 약 9천 회 인용됐다. 모델 기술 보고서로는 이례적으로 높은 수치다. 큐원 프로젝트가 단순 상용 모델을 넘어 학술·연구 생태계와 긴밀히 연결돼 있음을 보여준다. 큐원은 2023년 4월 베타 공개 이후 같은 해 9월 정식 공개됐다. 초기 70억 개 매개변수 언어모델에서 출발해, 비전-언어 모델(Qwen-VL), 오디오 모델, 수학 특화 모델, 코드 생성 모델, 추론 특화 모델(QwQ 시리즈) 등으로 빠르게 확장됐다. 지난해 4월 공개된 큐원3 기준 누적 다운로드는 6억 회를 넘겼고 허깅페이스 등록 파생 모델은 17만 개 이상을 기록했다. 이는 동일 기준에서 메타의 '라마(Llama)'를 상회하는 수치로 평가된다. 포춘은 이러한 오픈소스 성과를 근거로 2025년 '세상을 바꾸는 기업(Change the World)' 리스트에 알리바바를 선정했다. 린쥔양 기술총괄은 중국 AI 연구 환경의 한계를 공개적으로 언급해온 인물이기도 하다. 2026년 1월 칭화대 AI 서밋에서 그는 "미국의 컴퓨팅 인프라는 중국보다 1~2자릿수 이상 많을 가능성이 크다"고 말했다. 더불어 미국 연구소들이 차세대 모델 연구에 대규모 연산 자원을 투입하는 반면 자신의 팀은 상용 서비스 요구를 충족하는 데 상당한 컴퓨팅을 사용해야 한다고 밝혔다. 다만 그는 이러한 제약이 알고리즘-하드웨어 공동 설계와 같은 효율 중심 혁신을 촉진했다고 강조했다. 자원 열세 속에서도 모델 성능과 효율을 동시에 끌어올리는 전략을 택했다는 설명이다. 린쥔양 기술총괄테크리드가 이번 프로젝트에서 물러나는 것이 자발적 결정인지 여부는 확인되지 않았다. 알리바바도 이탈 배경, 향후 리더십 구조에 대해 공식 입장을 내놓지 않고 있다. 큐원 3.5가 예정대로 공개된 점을 고려하면 개발 파이프라인 자체는 유지되고 있는 것으로 보인다. 큐원 프로젝트 기여자인 첸청은 "떠나는 것이 당신의 선택이 아니었음을 안다"는 내용의 글을 엑스에 게시해 내부 사정에 대한 추측을 낳았다. 동료 연구원 자오원팅은 이를 '한 시대의 끝'이라고 표현했고 허깅페이스 아태지역 생태계 총괄 왕톄전(Tiezhen Wang)은 "큐원 프로젝트에 큰 손실"이라고 밝혔다.

2026.03.04 10:28남혁우 기자

엘리스그룹, '한국어 AI 교육용 데이터셋' 허깅페이스에 공개...1900억 토큰 규모

엘리스그룹(대표 김재원)이 한국어 교육용 데이터셋 2종을 글로벌 오픈소스 플랫폼 '허깅페이스'에 공개했다고 14일 밝혔다. 엘리스그룹은 한국어 AI 모델 학습에 적합한 고품질 데이터를 연구자, 개발자, 기업이 폭넓게 활용할 수 있도록 제공해 국내외 AI 연구·개발 활성화를 지원할 계획이다. 이번에 공개된 데이터셋은 거대 언어 모델(LLM)의 한국어 성능을 학술·교육 도메인에서 강화하기 위해 설계된 '한국어 파인웹 교육 데이터셋 데모'와 '한국어 웹 텍스트 교육 데이터셋' 2종으로 구성됐다. 한국어 파인웹 교육 데이터셋 데모는 영문 교육용 웹 텍스트 코퍼스(Corpus, 말뭉치)인 FineWeb-Edu를 한국어로 번역한 데이터셋 'korean-translated-fineweb-edu-dedup'의 5%를 샘플 형태로 구성한 데모다. 학술·교육 도메인의 한국어 LLM 학습에 활용할 수 있도록 설계했으며, 대규모 학습에 앞서 데이터 특성과 활용 가능성을 검증하는 용도로 제공된다. 데모의 원본인 korean-translated-fineweb-edu-dedup은 약 1천900억(190B) 토큰 규모의 대형 텍스트 데이터셋으로 수천만 페이지 분량에 해당한다. 다국어 데이터를 함께 활용할 경우 파운데이션 모델 학습에 활용 가능한 수준의 규모다. 이번에 공개한 한국어 파인웹 교육 데이터셋 데모는 이 중 5% 분량의 샘플이지만 오픈소스로 공개된 한국어 고품질 데이터셋 중에서는 대규모 수준에 해당한다. 함께 공개된 한국어 웹 텍스트 교육 데이터셋은 대규모 한국어 웹 텍스트에서 교육적 가치 점수를 통과한 콘텐츠만 선별해 구축했다. 사실성·문맥 일관성·교육 적합성을 평가해 한국어 AI 모델 학습에 활용할 수 있도록 구성했다. 이번 데이터셋 공개는 엘리스그룹이 AI 인프라, 모델 학습, 교육·산업 현장 적용까지 축적해 온 경험을 바탕으로 이뤄졌다. 엘리스그룹은 이번 데이터셋 공개를 통해 한국어 AI 연구 환경의 진입 장벽을 낮추는 한편, 교육·연구·공공 영역에서 한국어 AI 모델 활용을 지원할 계획이다. 또 AI 인프라·클라우드·데이터 엔지니어링 역량과 연계해 한국어 특화 AI 서비스와 솔루션 개발을 가속화한다는 전략이다. 엘리스그룹 김수인 CRO는 “데이터 접근성과 품질은 AI 기술 발전의 핵심 요소”라며 “엘리스그룹은 실제 모델 학습과 서비스 환경에서 검증된 기준을 적용해 연구자와 개발자, 기업이 보다 쉽게 활용할 수 있는 고품질 데이터셋을 구축했다”고 말했다. 이어 “앞으로도 데이터·모델·인프라를 아우르는 기술 역량을 기반으로 한국어 AI 연구와 산업 생태계 성장에 지속적으로 기여하겠다”고 덧붙였다.

2026.01.14 09:06백봉삼 기자

LG AI연구원, 'K-엑사원' 경쟁력 입증…'독파모' 첫 평가 1위

LG AI연구원 새 인공지능(AI) 모델 'K-엑사원'이 국내외 AI 생태계에서 경쟁력을 입증했다. LG AI연구원은 K-엑사원이 '독자 AI 파운데이션 모델 프로젝트' 1차 평가에서 13개 벤치마크 중 10개 부문 1위를 기록했다고 11일 밝혔다. 평균 점수 72점으로 5개 정예팀 가운데 가장 우수한 평가를 받았다. K-엑사원은 글로벌 AI 성능 평가 기관 '아티피셜 어낼리시스' 인텔리전스 지수에서도 오픈 웨이트 모델 기준 세계 7위, 국내 1위를 기록했다. 미국과 중국 모델이 다수인 글로벌 톱10에 한국 모델로는 유일하게 이름을 올렸다. 이 모델은 허깅페이스에 공개된 직후 글로벌 모델 트렌드 순위 2위로 등록됐다. 미국 비영리 AI 연구기관 에포크 AI '주목할 만한 AI 모델' 목록에도 포함됐다. K-엑사원은 LG AI연구원이 지난 5년간 축적한 기술 바탕으로 하이브리드 어텐션 구조를 고도화해 설계됐다. 이를 통해 메모리 요구량과 연산량을 엑사원 4.0 대비 70% 줄이면서도 성능은 끌어올렸다. LG AI연구원은 K-엑사원에 토크나이저 고도화, 멀티 토큰 예측 구조를 적용해 최대 26만 토큰의 초장문을 처리할 수 있고, 추론 속도도 기존 모델 대비 150% 높였다. A100급 그래픽처리장치(GPU) 환경에서도 구동 가능하다. LG AI연구원은 K-엑사원 기술 안전성과 신뢰성 검증도 강화했다고 밝혔다. 데이터 컴플라이언스를 비롯한 AI 윤리위원회, KGC-세이프티 지표를 적용해 한국 문화 맥락 위험성과 신뢰성을 체계적으로 평가했다는 설명이다. 최정규 LG AI연구원 에이전틱 AI 그룹장은 "K-엑사원은 자원의 한계 속에서도 독자 기술로 글로벌 거대 모델과 대등하게 경쟁할 수 있음을 보여준 사례"라며 "대한민국 대표 AI를 만든다는 자신감으로 전 세계 AI 생태계에 기여하는 모델로 키워가겠다"고 말했다.

2026.01.11 10:00김미정 기자

SKT 정예팀 AI 모델, 공개 나흘 만에 다운로드 9천건 기록

SK텔레콤 정예팀이 개발한 국내 최초 500B 급 초거대 AI 모델 '에이닷엑스 케이원(A.X K1)'이 공개 직후 국내외에서 좋은 평가를 받고 있다. A.X K1은 약 4개월의 한정된 기간 동안 519B 규모의 초거대 모델로 개발됐음에도 주요 벤치마크에서 딥시크 V3.1 등 글로벌 AI 모델과 유사하거나 앞선 성능을 선보였다. 특히 지난 7일 A.X K1 모델의 기술 보고서를 공개한 뒤 나흘 만에 모델 다운로드 수가 8천800여 건으로 급증하는 등 높은 관심이 이어지고 있다. 이처럼 A.X K1에 대한 관심이 큰 이유는 높은 확장성 때문으로 풀이된다. 링크드인과 페이스북 등 SNS에서는 A.X K1이 자유로운 사용과 배포가 가능한 '아파치 2.0' 라이선스로 공개된 점을 장점으로 꼽고 있다. 허깅페이스, 에포크 AI에서 주목받아 글로벌 AI 모델 플랫폼 허깅페이스의 창립자이자 CEO인 클렘 들랑그도 A.X K1 등을 직접 언급하며 대한민국 AI의 약진 사례로 지목했다. 클렘 들랑그 CEO는 8일 자신의 링크드인 계정을 통해 허깅페이스 인기 모델에 A.X K1을 포함한 한국의 3개 모델이 선정된 것을 알리면서 “AI 분야에서 미국과 중국에 대해 많이 이야기하지만, 오픈소스 덕분에 모든 국가가 개발자가 될 수 있으며 그렇게 되어야 한다”라 밝혔다. 앤비디아도 링크드인에 클렘 들랑그 CEO의 글을 리포스팅하며 한국 기업의 성과를 공개 지지했다. 미국 비영리 AI 연구 기관인 에포크AI는 지난해 12월29일부터 사흘간 '주목할 만한 AI 모델'에 대한민국의 독자 AI 파운데이션 모델 프로젝트 참여 모델 5종을 등재했다. 에포크 AI는 인공지능 모델의 연산 능력과 데이터 추세를 분석하며 학습 데이터양, 연산 효율성, 기술적 혁신성 등을 기준으로 전 세계 AI 모델을 엄격히 선별해 '주목할 만한 AI 모델' 리스트를 발표한다. “SKT, 멀티모달 추가하고 파라미터 확대 나서” AI 업계 관계자의 호평도 이어지고 있다. 이승현 포티투마루 부사장은 지난 8일 자신의 페이스북에서 "A.X K-1 모델은 프롬 스크래치 이상의 가치를 보여줬다"고 평가했다. 이 부사장은 자신이 제안한 '소버린 AI 판정 시스템'에 A.X K1을 적용한 결과, 기술 주권을 달성한 단계에 해당한다고 밝혔다. 해외 개발자들도 허깅페이스 등 AI 커뮤니티를 통해 "이 규모의 기초 모델이 공개되는 것은 드문 일"이라며, "처음부터 자체 개발한 모델이라는 점에서 매우 독창적"이라고 평가했다. 링크드인에도 “한국은 대규모 AI 개발에서 미국, 중국과 더 직접적으로 경쟁할 수 있는 위치에 놓였다"와 같은 평가들이 속속 게재되고 있다. 한편, SK텔레콤 정예팀은 올해부터 모델에 멀티모달 기능을 순차적으로 추가하고, 조 단위 파라미터로 확대하는 후속 개발을 이어 나갈 계획이다. SK텔레콤 정예팀은 A.X K1이 국가 AI 생태계를 지탱하는 '디지털 사회간접자본(SOC)'으로 활용될 수 있도록 한다는 전략이다. 또한 A.X K1을 기반으로 하는 다양한 소형 특화 모델들이 A.X K1의 지식을 바탕으로 성장할 수 있도록 지속적으로 지원해 나갈 계획이다.

2026.01.11 08:21박수형 기자

엔비디아도 'K-AI' 관심…"우리 솔루션으로 개발"

엔비디아가 한국 '독자 인공지능(AI) 파운데이션 모델' 프로젝트 정예팀 성과를 공개 지지했다. 9일 엔비디아는 "허깅페이스에 LG AI연구원과 SK텔레콤, 업스테이지의 전문가혼합(MoE) 모델이 트렌딩 모델로 올라 기쁘다"고 링크드인 공식 계정을 통해 밝혔다. 해당 게시물은 클렘 들랑그 허깅페이스 공동창업자 겸 최고경영자(CEO)가 올린 글을 리포스팅한 형태다. 들랑그 CEO는 지난 8일 "한국 모델 3개가 허깅페이스에서 트렌딩 모델로 올랐다"고 언급했다. 허깅페이스 트렌딩 모델은 일정 기간 동안 조회수, 다운로드, 커뮤니티 반응이 빠르게 증가한 모델을 의미한다. 실제 사용성과 개발자 관심도를 반영하는 지표로 활용된다. 당시 들랑그 CEO가 공개한 화면에는 LG AI연구원 'K-엑사원 236B-A23B' 모델이 국내 모델 중 가장 높은 순위에 올랐다. SK텔레콤 '에이닷엑스(A.X.) K1'과 업스테이지 '솔라 오픈 160B'이 뒤를 이었다. 실제 LG AI연구원과 SK텔레콤, 업스테이지는 엔비디아 서비스를 모델 개발에 활용한 것으로 전해졌다. 엔비디아는 "해당 모델들은 우리 풀스택 기반으로 구축됐다"며 "가속 인프라부터 네모트론 데이터셋, 라이러리 모두 적용됐다"고 강조했다. 이어 "글로벌 오픈소스 생태계에서 한국 AI 모델 경쟁력이 입증됐다"며 "오픈소스는 더 많은 국가가 소버린 AI 모델을 개발할 수 있게 돕는다"고 덧붙였다.

2026.01.09 16:56김미정 기자

"해외도 놀랐다"...허깅페이스 CEO가 주목한 'K-AI' 3곳 어디?

국내 기업들이 개발한 인공지능(AI) 모델이 글로벌 오픈소스 생태계에서 경쟁력을 입증했다. 8일 클렘 들랑그 허깅페이스 공동창업자 겸 최고경영자(CEO)는 "한국 모델 3개가 허깅페이스에서 트렌딩 모델로 올랐다"며 링크드인 게시글을 통해 밝혔다. 허깅페이스 트렌딩 모델은 최근 일정 기간 동안 조회수와 다운로드, 커뮤니티 반응이 증가한 모델이다. 실제 사용과 관심도를 반영한 지표로, 개발자 커뮤니티 주목도를 보여준다. 들랑그 CEO가 공개한 화면에는 LG AI연구원 'K-엑사원 236B-A23B' 모델이 국내 모델 중 가장 높은 순위에 올랐다. SK텔레콤 '에이닷엑스(A.X.) K1'과 업스테이지 '솔라 오픈 160B'이 뒤를 이었다. NC AI '배키'도 다음 페이지에 이름을 올렸다. 특히 LG AI연구원의 K-엑사원은 글로벌 오픈소스 모델과 동일한 인기 지표 선상에서 상위권을 차지하며 존재감을 드러냈다. 한국 AI 모델이 단순 참여 수준을 넘어 실질적인 경쟁 모델로 평가받고 있다는 의미로 해석된다. 들랑그 CEO는 해당 게시물에 글로벌 인기 모델 목록 화면을 캡처해 공유하며 태극기 이미지도 게시했다. 이 같은 성과는 정부가 추진 중인 '모두를 위한 AI' 기조와도 맞닿았다. 정부는 AI 모델을 오픈소스로 개발해 국내외에서 활용할 수 있도록 하는 '독자 AI 파운데이션 모델' 프로젝트를 진행 중이며, 들랑그 CEO가 언급한 세 모델 모두 이 프로젝트에 참여하고 있어서다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "최근 독파모가 프롬스크래치 여부 이슈 등 논쟁이 있지만 글로벌 AI 모델 도전은 진행 중"이라며 "각종 지표 반응도 긍정적"이라고 평했다. 이어 "윤리적 부분에 있어서도 모두 공감할 수 있는 수준이어야 비로소 K-AI 타이틀을 유지할 수 있을 것"이라고 페이스북을 통해 강조했다. 김성훈 업스테이지 대표는 "우리 모델이 허깅페이스에서 상위 트렌딩 모델 중 하나로 선정돼 매우 기쁘다"고 링크드인에서 밝혔다. 들랑그 CEO는 "우리가 AI 분야에서 미국과 중국에 대해서만 주로 논의했다"며 "오픈소스 덕분에 모든 국가가 AI 생태계 빌더가 될 수 있으며 그렇게 돼야 한다"고 설명했다.

2026.01.08 11:57김미정 기자

허깅페이스 대표 "LLM 버블, 내년 터질 수도"

오픈소스 AI 플랫폼 허깅페이스의 클레망 델랑그 대표가 현재 AI 투자 열풍은 AI가 아닌 '거대언어모델(LLM) 버블'에 있다고 진단하며, 이는 곧 터질 위기에 있다고 경고했다. 18일(현지시간) 테크크런치에 따르면 델랑그 대표는 최근 열린 한 행사에서 챗GPT나 제미나이 같은 텍스트 기반 생성형 AI에 과도한 관심과 자금이 쏠려있다고 지적했다. 다만 그는 “LLM은 AI의 일부분일 뿐”이라며 “바이오·이미지·영상 등 다양한 분야에 적용되는 AI 기술은 이제 막 시작 단계인 만큼, 산업 전체의 미래는 여전히 밝다”고 강조했다. 그는 향후 AI 시장 흐림이 '만능 모델'에서 '특화 모델'로 이동할 것이라고 내다봤다. 막대한 연산 자원을 투입해 만든 단일 거대 모델이 모든 문제를 해결하는 방식은 효율적이지 않다는 설명이다. 델랑그 대표는 “은행 상담 챗봇이 굳이 '삶의 의미'까지 설명할 필요는 없다”며 “기업 인프라 내에서 구동 가능하고 비용과 속도 측면에서 효율적인 맞춤형 전문 모델이 AI의 미래가 될 것”이라고 말했다. 이어 그는 경쟁사들과의 과도한 지출 경쟁과 차별화된 자사 경영 전략도 언급했다. 델랑그 대표는 “많은 기업이 수십억 달러를 쏟아부으며 단기적인 접근 방식에 매몰돼 있다”며 “허깅페이스는 투자금 4억 달러 중 절반을 여전히 보유하고 있다”고 했다. 그러면서 “우리는 15년 이상의 업력을 바탕으로 지속 가능한 성장을 목표로 한다”고 덧붙였다.

2025.11.19 09:14진성우 기자

KT, 한국적AI '믿음2.0' 오픈소스 공개...국내 AI 대중화

KT가 '한국적 AI'의 철학을 담아 자체 개발한 언어모델(LLM) '믿:음 2.0'의 오픈소스를 공개한다. 첫 국산 범용 LLM을 개방하며 국내 AI 생태계를 활성화하는 동시에 '한국적 AI'를 확산할 방침이다. KT는 자체 개발한 한국형 언어모델(LLM) '믿:음 2.0'을 오픈소스로 공개한다고 3일 밝혔다. 공개는 AI 개발자 플랫폼 허깅페이스를 통해 이뤄지며, 기업·개인·공공 모두 제약 없이 상업적 활용이 가능하다. '믿:음 2.0'은 KT의 AI 철학인 '한국적 AI'를 구현한 모델로, 한국의 언어·문화·사회 맥락을 반영해 개발됐다. 고품질 한국어 데이터를 기반으로 학습됐으며, 저작권 이슈 없이 신뢰성과 완성도를 높였다. 또한 국내외 정책과 가이드라인을 기반으로 전문가들과 함께 만든 'AI 영향 평가 체계'를 적용해 보다 안전하고 투명한 기술을 구현하는 데 힘썼다. '한국적 AI'는 KT의 AI 철학으로 한국의 정신과 방식, 지식을 기반으로 구현해 한국에 가장 잘 맞는 AI를 의미한다. 이를 위해 KT는 한국의 사회적 맥락과 같은 무형의 요소와 한국어 고유의 언어적·문화적 특성 등을 충분히 반영한 정보를 학습시킨 AI 모델을 개발했으며, 대한민국의 산업과 일상 속에서 AI가 자연스럽게 스며들어 대중화될 수 있도록 앞장서고 있다. 이번에 공개되는 모델은 ▲115억 파라미터의 '믿:음 2.0 Base'와 ▲23억 파라미터의 '믿:음 2.0 Mini' 두 가지다. 두 모델 모두 한국어와 영어를 지원하며, 특히 Base는 질의응답 등에서 뛰어난 성능을 보인다. KT는 이번 공개가 국내 최초로 110억 파라미터 이상 LLM을 상업적 오픈소스로 제공하는 사례라며, AI 생태계 활성화에 기여할 것으로 기대했다. 믿:음 모델은 Ko-Sovereign, KMMLU, HAERAE 등 주요 벤치마크에서 국내외 오픈소스 모델을 능가하는 성능을 기록했다. 고려대 민족문화연구원과의 협력을 통해 학술적 신뢰도도 확보했다. 또한, 국산 AI 반도체 기업 리벨리온과의 협력으로 국산 칩 최적화도 진행했으며, 프렌들리AI와 함께 누구나 쉽게 체험할 수 있는 환경도 제공한다. KT는 향후 GPT-4 기반의 한국어 특화 모델도 마이크로소프트와 협력해 순차적으로 공개할 계획이다. 앞서 KT는 자체 개발한 모델 '믿:음', 글로벌 기업들의 현존 최고 수준 모델(SOTA) 등을 두루 활용하여 한국의 특수성을 반영한 AI 모델에 집중 투자하고 국내 사용 환경에 특화한 AI의 대중화에 앞장서겠다고 밝혀온 바 있다. 국내 공공 및 민간 여러 분야에서 AI를 활용한 혁신을 주도하며 국가 AI 경쟁력 제고에 기여한다는 복안이다. 신동훈 KT Gen AI Lab장(CAIO)은 “믿:음 2.0은 일반적인 생성 능력을 갖추면서도 한국의 문화와 언어를 깊이 이해하도록 고도화된 AI 모델”이라며 “이는 KT가 국내 사용자들에게 고성능 한국적 AI 모델에 대한 새로운 대안을 제시하는 한편 글로벌 경쟁력을 갖추게 될 중요한 발판이 될 것”이라고 말했다.

2025.07.03 09:01진성우 기자

허깅페이스, 400만원 휴머노이드 로봇 공개…'로봇 대중화' 본격화

허깅페이스가 약 3천 달러(약 400만 원)에 전신 휴머노이드 로봇을 공개하며 대중화를 선언했다. 30일 허깅페이스는 공식 홈페이지를 통해 오픈소스 휴머노이드 로봇 '호프JR(HopeJR)'을 선보였다. 호프JR은 조립형으로 제공되며, 모터, 센서, 컨트롤러 등 주요 부품은 사용자가 직접 구성하거나 키트 형태로 구매할 수 있다. 기존 수천만 원에서 수억 원에 달하던 연구용·산업용 휴머노이드와 달리, 일반 연구자, 개발자, 교육기관 등 누구나 쉽게 접근할 수 있도록 설계된 점이 특징이다. 기존 테슬라의 옵티머스(Optimus), 피겨AI의 피겨01, 아마존이 투자한 디지트 등과 같은 고가 산업용 로봇과 비교할 때, 호프JR은 상업화보다 오픈소스 실험, 교육, 기술 확산에 방점을 찍고 있다. 이에 따라 다양한 분야에서 활용되는 소형 컴퓨터 '라즈베리파이(Raspberry Pi)'처럼 로봇 분야에서도 대중화의 기폭제가 될 수 있다는 평가가 나온다. 호프JR은 양팔과 양다리, 머리, 허리를 포함해 총 66개의 자유도(DOF)를 갖춘 휴머노이드 로봇이다. 일반 로봇이 보통 4~12개의 DOF를 갖는 데 비해, 호프JR은 사람과 유사한 복합 관절 움직임을 구현할 수 있도록 설계돼 있다. 로봇의 운영체제(OS)는 우분투(Ubuntu) 기반의 로봇 운영체제인 ROS 2.0이며, 하드웨어 프레임은 3D 프린팅 및 조립이 가능하도록 설계됐다. 관련 CAD 도면(STL), 회로도, 펌웨어, AI 제어 코드 등은 모두 GitHub 등 오픈소스 플랫폼을 통해 공개될 예정이다. 이번 호프JR 공개는 허깅페이스가 지난 4월 프랑스 로봇 스타트업 '폴렌 로보틱스(Pollen Robotics)'를 인수하면서 예고한 전략의 연장선상에 있다. 허깅페이스는 이를 계기로 자체 로봇 AI 개발 플랫폼인 '르로봇(LeRobot)'을 본격 가동 중이다. 르로봇은 음성 인식, 컴퓨터 비전, 강화학습 등 허깅페이스가 제공하는 다양한 AI 모델을 로봇 제어 시스템과 통합해 누구나 손쉽게 실제 로봇에 적용할 수 있도록 지원한다. 단순 하드웨어 제공을 넘어, 소프트웨어 생태계와 유기적으로 연결된 AI-로봇 개발 환경을 제공하는 것이 핵심이다. 플랫폼에는 실제 로봇 훈련에 필요한 데이터셋은 물론, 정책 네트워크(policy network), 보상 함수 설계 모듈 등이 포함돼 있어 로봇공학 입문자부터 전문가까지 폭넓은 계층이 활용 가능하다. 클레망 들랑 허깅페이스 공동 창업자 겸 최고경영자(CEO) (Clément Delangue)은 "우리는 로봇 공학이 가능한 한 오픈소스가 되어야 한다고 믿는다"며 "이를 통해 투명하고, 반복 가능하며, 신뢰할 수 있는 로봇 기술이 자리잡을 것"이라고 강조했다.

2025.05.30 11:10남혁우 기자

네이버 하이퍼클로바X, 오픈소스 공개 한 달만에 30만 다운로드 돌파

네이버클라우드의 오픈소스 인공지능(AI) 모델이 글로벌 시장에서 인기를 끌며 경쟁력을 입증하고 있다. 네이버클라우드는 지난달 24일 공개한 오픈소스 AI '하이퍼클로바X 시드' 3종 모델이 출시 한 달여 만에 30만 다운로드를 넘어섰다고 26일 밝혔다. 이는 글로벌 AI 모델 공유 커뮤니티 '허깅페이스'에 등록된 모델 중 상위 약 0.03%에 해당하는 수치로, 하이퍼클로바X의 영향력이 글로벌로 확대되고 있는 모습이다. 텍스트와 이미지, 영상 정보를 함께 처리할 수 있는 시각언어모델인 '하이퍼클로바X 시드 3B'는 약 26만 7천 회 다운로드를 기록하며 3종 모델 중 가장 큰 호응을 얻었다. 네이버클라우드가 한국어 및 영어 관련 시각 정보 이해 능력을 평가할 수 있는 9개 벤치마크의 평균 점수를 비교한 결과, 하이퍼클로바X 시드 3B는 유사 규모의 미국·중국 빅테크 모델보다 높은 점수를 기록했다. 또 파라미터 수가 훨씬 많은 해외 대규모 모델과 유사한 정답률을 보여 성능 경쟁력을 입증한 바 있다. 텍스트 모델인 '하이퍼클로바X 시드 1.5B'와 '하이퍼클로바X 시드 0.5B'도 약 3만5천 회의 다운로드를 기록했다. 특히 두 모델을 기반으로 29개에 달하는 파생 모델이 만들어지는 등 다양한 개선과 실험이 이뤄졌다. 개발자들은 "작은 크기에도 불구하고 균형 잡힌 언어 성능과 뛰어난 안정성이 돋보인다"며 "CPU 환경에서도 빨라 사내용 챗봇으로 매우 손쉽게 활용할 수 있을 것 같다"고 말했다. 네이버클라우드는 현재 개발 중인 하이퍼클로바X 추론 모델도 다음 달 대화형 AI 서비스 '클로바X'를 통해 선보일 계획이다. 또 하이퍼클로바X 음성 모델을 활용한 서비스도 향후 순차적으로 선보일 예정이다. 네이버클라우드 성낙호 하이퍼스케일 AI 기술 총괄은 "프롬 스크래치로 개발한 생성형 AI 모델이 글로벌 오픈소스 커뮤니티에서 주목받고 있어 뜻깊게 생각한다"고 말했다. 이어 "한국어를 비롯해 여러 언어와 문화를 이해하는 각각의 모델들이 공존할 수 있도록 AI 생태계에 다양성을 더할 것"이라며 "이를 기반으로 더욱 혁신적인 기술과 서비스가 나오는 데에 하이퍼클로바X가 기여할 수 있기를 기대한다"고 덧붙였다.

2025.05.26 14:59한정호 기자

Prev 1 2 Next