검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'페이블 5'통합검색 결과 입니다. (23건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[카드뉴스] 고성능 AI 페이블5, 대답을 거부한 이유

안녕하세요, AMEET 기자입니다. AI가 갑자기 대답을 거부했던 경험, 혹시 있으신가요? 단순한 안전장치라고 생각하기 쉬운데요, 그 뒤에 훨씬 복잡한 이야기가 숨어 있어요. 요즘 AI는 위험한 질문을 무려 98%나 차단하고 있는데, 마치 학교 앞 보안관처럼 단단히 막아서고 있는 거예요. 실제로 AI 회사들의 바이오 안전 성적표를 보면, 페이블5가 98%로 압도적인 1위를 차지했고, 2위인 경쟁사 A(82%)와는 무려 16%p나 차이가 났어요. 그리고 이 안전 규칙은 불과 2년 만에 기초 필터에서 실시간 차단 시스템으로 엄청나게 강화됐답니다. 그런데 이 카드뉴스가 진짜 주목한 건 그 이면이에요. 답변 거부 → 안전 예방 → 규제 장벽 → 패권 전략, 이렇게 4단계로 파고들어 보면, 겉으론 우리를 보호하는 것처럼 보이지만 속으로는 기업 간 힘 겨루기의 도구가 될 수 있다는 거예요. AI 검열이 안전장치가 아닌 '힘의 무기'로 작동할 수 있다는 경고인 셈인데요, 잘 대비하면 기회가 되지만 모르고 있으면 그대로 위험에 노출될 수 있어요. AI가 막아도 우리만의 정보 루트가 필요한 이유, 이제 조금 느껴지셨나요? 더 깊은 내용은 카드뉴스에서 직접 확인해보세요! ▶ 해당 보고서 보기 https://ameet.zdnet.co.kr/uploads/7be5e2ef.html ▶ 지디넷코리아가 리바랩스 'AMEET'과 공동 제공하는 AI 활용 기사입니다. 더 많은 보고서를 보시려면 'AI의 눈' 서비스로 이동해주세요. (☞ 보고서 서비스 바로가기)

2026.06.11 20:00AMEET

앤트로픽 '클로드 페이블5', 왜 바이오 정보에 더 엄격할까

안녕하세요 AMEET 기자입니다. 2026년 6월 9일, 앤트로픽이 야심 차게 공개한 최신 AI 모델 클로드 페이블5(페이블 5)가 출시와 동시에 뜨거운 감자로 떠올랐습니다. 뛰어난 성능만큼이나 화제가 된 것은 바로 이 모델에 적용된 강력한 '생물학 관련 답변 검열'입니다. 앤트로픽은 왜 이토록 생물학 정보에 엄격한 잣대를 들이대기 시작했을까요? 단순한 안전장치를 넘어선 인류적 리스크와 기술 패권의 이면을 짚어봤습니다. 현재 페이블 5는 6월 22일까지 무료 사용 기간을 거친 뒤 유료로 전환될 예정입니다. 눈에 띄는 점은 API 사용료가 100만 토큰당 입력 10달러, 출력 50달러라는 상당히 높은 수준으로 책정되었다는 것이죠. 업계에서는 이 비용에 고도의 안전 시스템을 유지하기 위한 '윤리적 비용'이 포함되어 있다고 보고 있습니다. 특히 앤트로픽이 상장을 앞두고 미국 정부에 AI 배포 차단 권한을 부여하라고 촉구한 사실은, 이들이 느끼는 생물학적 위협의 무게가 결코 가볍지 않음을 시사합니다. AI 전문가들의 치열한 논점 대립 이 문제를 두고 AI 전문가들 사이에서는 흥미로운 논리적 충돌이 벌어지고 있습니다. 처음에는 단순히 '안전이냐 자유냐'라는 고전적인 이분법으로 시작되었죠. 한쪽에서는 생물학적 정보가 악용될 경우 팬데믹이나 생물무기 제조와 같은 인류 멸종급 위협으로 이어질 수 있으니, 강력한 검열은 선택이 아닌 필수라고 주장합니다. 반면, 다른 쪽에서는 검열 기준이 불투명할 경우 합법적인 과학 연구와 희귀병 치료를 위한 정보 접근까지 가로막는 '정보 독점'이 발생할 수 있다는 우려를 제기했습니다. 여기서 주목할 점은 논점의 이동입니다. 토론이 심화되면서 논의는 기술적 안전을 넘어 '지정학적 전략'으로 옮겨갔습니다. 국제 정치 관점의 전문가들은 앤트로픽의 이러한 행보를 미국 주도의 기술 표준을 공고히 하려는 비대칭 규제 전략으로 해석합니다. 미국이 '생물학적 안전'이라는 도덕적 명분을 선점함으로써, 이러한 검열 기준을 갖추지 못한 중국이나 러시아의 AI 모델을 '위험한 기술'로 낙인찍는 효과를 노린다는 것이죠. 기술적 한계로 인해 발생하는 오탐이나 지연조차, 오히려 서방 AI의 신중함을 보여주는 '의도된 신호'가 될 수 있다는 분석입니다. 하지만 비판적인 시각도 만만치 않습니다. 이러한 비대칭적 규제가 결국 글로벌 과학 협력을 저해하고 정보의 파편화를 초래할 것이라는 지적입니다. 특히 저개발국의 연구자들이 고급 생물학 정보에 접근하지 못하게 됨으로써, 전 세계적인 공중보건 격차가 더욱 벌어질 수 있다는 생명윤리적 경고가 힘을 얻고 있습니다. 토론의 합의와 남겨진 과제 치열한 논의 끝에 전문가들이 합의한 지점은 분명합니다. 초고성능 AI가 생성하는 생물학 정보는 분명 '이중 용도'의 위험성을 가지고 있으며, 이를 관리하기 위한 최소한의 안전장치가 필요하다는 데에는 이견이 없었습니다. 또한 앤트로픽의 조치가 향후 글로벌 AI 안전 표준 수립에 강력한 이정표가 될 것이라는 점도 공통된 인식으로 자리 잡았습니다. 반면, 검열의 투명성 문제는 끝내 합의에 이르지 못했습니다. 앤트로픽이 어떤 기준과 알고리즘으로 정보를 차단하는지 상세히 공개하지 않는 한, '안전'이라는 이름의 '통제'라는 비판에서 자유로울 수 없기 때문입니다. 또한 기술적 오탐으로 인한 연구 지연이 인류의 의학적 발전을 얼마나 늦출지에 대해서도 여전히 팽팽한 견해차를 보였습니다. 페이블 5의 등장은 우리에게 중요한 질문을 던집니다. 우리가 누리는 편리함과 지식의 확장이 어떤 위험을 수반하는지, 그리고 그 위험을 관리할 권한을 누구에게 부여할 것인지에 대한 물음입니다. 앤트로픽은 먼저 방패를 들었지만, 그 방패가 모두를 지키는 성벽이 될지 아니면 누군가의 앞길을 막는 바리케이드가 될지는 결국 기술을 운용하는 인간의 몫으로 남아 있습니다. 새로운 기술의 도래는 언제나 양면성을 띠기 마련입니다. 안전을 향한 이 엄격한 실험이 인류의 지혜를 시험하는 또 다른 무대가 되고 있습니다. ▶ 해당 보고서 보기 https://ameet.zdnet.co.kr/uploads/7be5e2ef.html ▶ 지디넷코리아가 리바랩스 'AMEET'과 공동 제공하는 AI 활용 기사입니다. 더 많은 보고서를 보시려면 'AI의 눈' 서비스로 이동해주세요. (☞ 보고서 서비스 바로가기)

2026.06.11 09:53AMEET

앤트로픽, 페이블·미토스5 동시 공개…"AI 성능·안전장치 최상위"

앤트로픽이 일반 사용자도 사용할 수 있는 미토스급 인공지능(AI) 모델을 내놨다. 앤트로픽은 9일(현지시간) 신규 AI 모델 '클로드 페이블 5'와 제한적 접근 모델 '클로드 미토스 5'를 출시했다고 공식 홈페이지를 통해 밝혔다. 페이블 5는 일반 사용자를 대상으로 제공되며, 미토스 5는 미국 정부와 협력 중인 프로젝트 글래스윙 참여 기관 중심으로 배포된다. 페이블 5는 소프트웨어(SW) 엔지니어링과 지식 노동, 비전, 과학 연구 등 다수 AI 벤치마크에서 가장 높은 성능을 기록했다. 특히 작업이 길고 복잡해질수록 기존 모델과 성능 격차가 더욱 커지는 것으로 알려졌다. 앤트로픽은 페이블 5 활용 사례도 공유했다. 스트라이프는 페이블 5가 5000만 줄 규모 루비 코드베이스 마이그레이션 작업을 하루 만에 수행했다고 밝혔다. 이는 사람이 수행할 경우 두 달 이상 걸릴 수 있는 작업이다. 금융과 분석 업무에서도 성능 향상이 확인됐다. 헤비아 금융 벤치마크에서 최고 점수를 기록했으며 문서 추론과 차트 분석, 근본 원인 분석, 기댓값 계산 등 복합적인 지식 노동 영역에서 강점을 보였다. 비전 분야에서는 과학 도표 세부 수치를 추출하거나 화면 이미지만으로 웹 애플리케이션 코드를 재구성하는 능력을 보여줬다. 또 별도 보조 도구 없이 게임 '포켓몬 파이어레드'를 완주할 수 있는 수준의 시각적 추론 역량도 입증했다. 페이블 5는 장기 기억과 롱컨텍스트 성능도 기존보다 우수한 것으로 나타났다. 이 모델은 수백만 토큰 규모 작업에서 맥락을 유지할 수 있으며 자체 메모를 활용해 결과물을 지속적으로 개선하는 능력을 보였다. 미토스 5 공개…"신약 설계 과정 10배 빠르게" 이날 함께 공개된 미토스 5는 동일한 기반 모델을 사용하지만 일부 안전장치가 제거된 버전으로 출시됐다. 앤트로픽은 "미토스 5가 현재 세계 최고 수준 사이버보안 역량을 갖추고 있다"며 "신약 설계 과정 일부를 약 10배 가속하는 성과을 확인했다"고 밝혔다. 실제 미토스 5는 단백질 설계 도구를 자율적으로 활용해 후보 물질을 탐색했다. 14개 단백질 표적 가운데 9개에서 신약 개발 가능성이 있는 후보를 도출했으며 현재 후속 연구가 진행 중이다. 미토스 5는 과학 연구 분야에서도 의미 있는 결과를 내놨다. 분자생물학 분야에서 참신한 연구 가설을 생성했으며 일부 가설은 실제 연구실의 독립 연구를 통해 검증됐다. 138개 동물 단일세포 데이터를 활용한 유전체학 연구에서도 최근 사이언스 학술지에 발표된 모델보다 우수한 성능을 기록한 것으로 나타났다. 앤트로픽은 이 같은 고성능 AI가 악용될 수 있다는 점을 고려해 새로운 안전 체계를 도입했다. 사이버보안과 생물학, 화학, AI 모델 디스틸레이션 관련 요청이 탐지되면 응답을 페이블 5 대신 클로드 오푸스 4.8이 처리하도록 설계했다. 앤트로픽은 "현재 전체 세션 95% 이상이 이러한 폴백 없이 운영되고 있다"며 "일부 무해한 요청도 제한될 수 있어 향후 오탐 비율을 줄이는 방향으로 안전장치를 개선할 계획"이라고 설명했다. 앤트로픽은 미토스급 모델 사용 과정에서 발생하는 데이터를 최대 30일 보관하는 새로운 정책도 도입했다. 이는 새로운 탈옥 공격과 악용 시도를 탐지하고 안전장치를 개선하기 위한 목적이다. 클로드 페이블 5와 미토스 5의 가격은 모두 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러로 책정됐다. 앤트로픽은 "이번 모델 동시 출시는 첨단 AI 역량을 더 많은 사용자에게 빠르고 안전하게 제공하기 위한 과정"이라며 "향후 더 강력한 모델이 등장하는 만큼 안전장치를 지속적으로 개선하고 오탐을 줄여 나가겠다"고 밝혔다.

2026.06.10 08:43김미정 기자