검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'클로드 3.7 소네트'통합검색 결과 입니다. (96건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

앤트로픽 창업자 "에이전틱 AI, 생산성 10배 ↑…규제 산업서도 활약"

[샌프란시스코(미국)=김미정 기자] "에이전틱 인공지능(AI)이 복잡한 업무를 처음부터 끝까지 스스로 처리하는 시대가 올 것입니다. AI는 일반 산업뿐 아니라 금융을 비롯한 보험, 제조, 의료 등 규제 산업에서도 크게 활약할 것입니다." 다리오 아모데이 앤트로픽 공동창업자 겸 최고경영자(CEO)는 15일 미국 샌프란시스코 모스코센터에서 열린 '드림포스 2025'에서 마크 베니오프 최고경영자(CEO)를 만나 에이전틱 AI 시장 전망에 대해 이같이 밝혔다. 아모데이 CEO는 AI가 인간을 대체하기보다 서로 협력하는 존재가 될 것이라고 전망했다. 그는 "인간이 AI와 적절히 협업한다면 향후 산업 전반 생산성을 10배 이상 높일 것"이라고 내다봤다. 그는 코딩 영역에서 AI와 인간 협력이 가장 빛을 보였다고 말했다. 그는 "우리 조직은 90%의 코드를 AI로 작성한다"며 "엔지니어는 나머지 10%를 검토·보완하는 방식으로 업무 구조가 재편됐다"고 설명했다. 이어 "이는 인간과 기술 역할의 전환을 의미한다"며 "이런 현상은 향후 2~5년 내 노동시장 전반으로 확산할 것"이라고 덧붙였다. 아모데이 CEO는 향후 에이전틱 AI가 일반 산업뿐 아니라 금융과 보험, 제조, 의료 등 규제 산업에서도 핵심 역할을 수행할 것이라고 봤다. 그는 "이미 금융·보험 분야에서 AI가 대규모 문서 심사와 이상 탐지, 위험 분석을 자동화해 업무 속도와 정확도를 높이고 있다"고 설명했다. 그러면서 "에이전트는 규제 준수와 리스크 관리 등 복잡한 절차에서도 핵심 기능을 담당하며 인적 오류를 줄이고 있다"고 말했다. 그는 제조 산업에서 에이전틱 AI 파급력이 특히 클 것으로 내다봤다. AI가 설비 운영 데이터를 실시간으로 분석해 이상 징후를 조기에 감지하고, 이를 바탕으로 작업 지시를 자동 생성할 수 있다는 이유에서다. 그는 "문제 발생시 AI가 원인을 신속하게 파악해 즉각적인 복구까지 지원한다"며 "제조 생산성·운영 효율을 강화할 것"이라고 강조했다. 이 외에도 의료 분야에서도 에이전트 역할이 커질 것이란 에측도 나왔다. 모델은 환자의 임상 데이터를 분석하고 가능한 진단 옵션을 제시할 수 있어서다. 그는 "AI는 복잡한 진단 과정에서 누락된 가능성을 제시하거나 전문가 판단을 보완하는 역할을 통해 의료 품질을 높일 수 있다"고 강조했다. 세일즈포스·앤트로픽 "규제 산업에 AI 적용 확대" 앞서 세일즈포스와 앤트로픽은 규제 산업에 AI 적용을 확대하기 위해 파트너십을 맺었다. 이번 협력의 핵심은 앤트로픽 모델 '클로드'를 세일즈포스의 '에이전트포스 360'에 완전 통합한 점이다. 마크 베니오프 세일즈포스 CEO는 "클로드는 '트러스트 레이어' 내부에 안전히 탑재됐다"며 "금융·헬스케어·사이버보안 등 민감한 데이터를 다루는 산업에서도 높은 수준의 보안성과 신뢰성을 확보할 수 있을 것"이라고 말했다. 또 두 기업은 클로드를 슬랙에도 연결했다. 슬랙 사용자는 클로드로 문서 분석을 비롯한 데이터 기반 의사결정, 문서 권한 관리 등의 업무를 처리할 수 있다. 클로드를 '에이전트포스 금융 서비스'와 연계하면 금융 상품 분석, 보험 청구 처리, 고객 포트폴리오 요약 같은 핵심 프로세스도 자동화할 수 있다. 베니오프 CEO는 "서비스형 클라우드(SaaS)가 클릭 중심에서 대화 중심으로 바뀌고 있다"며 "우리는 고객이 선호하는 환경에서 엔터프라이즈 AI를 자연스럽게 활용할 수 있도록 지원하겠다"고 강조했다.

2025.10.16 22:36김미정

앤트로픽, 경량 AI 모델 '클로드 하이쿠 4.5' 공개..."GPT-5급 성능"

앤트로픽이 자사 대형언어모델(LLM) 제품군 '클로드'의 최신 경량 버전 '클로드 하이쿠 4.5'를 공개했다. 기존 하이쿠 3.5 대비 속도와 효율을 크게 높인 것이 특징으로, 실시간 응답과 대규모 병렬 처리를 중시하는 서비스 환경에 최적화됐다. 앤트로픽은 16일(현지시간) 자사 블로그를 통해 클로드 하이쿠 4.5를 전 세계 사용자에게 공개한다고 발표했다. 이 모델은 최근 공개된 '클로드 소넷 4.5'를 소형화한 버전으로, 성능은 유사하지만 비용은 3분의 1, 처리 속도는 두 배 이상 빠른 것으로 알려졌다. 앤트로픽은 하이쿠 4.5가 코드 수정 정확도를 평가하는 'SWE-벤치'에서 73%, 명령줄 기반 작업 수행 능력을 측정하는 '터미널-벤치'에서 41%를 기록했다고 밝혔다. 이는 클로드 소넷 4.5보다는 다소 낮지만 GPT-5와 구글 제미니 2.5 등과 비슷한 수준이다. 특히 툴 사용, 시각적 추론, 컴퓨터 조작 능력 등에서 이전 세대보다 개선된 성능을 보였다는 게 앤트로픽 측 설명이다. 이번 모델은 무료 사용자 계정에도 적용된다. 개발자들은 하이쿠 4.5를 클로드 API, 아마존 베드록, 구글 클라우드 버텍스 AI 등에서도 즉시 활용할 수 있다. 앤트로픽은 이번 업데이트로 클로드 제품군 전 라인업을 새 버전으로 완성하며 모델 간 속도·비용·지능의 균형을 맞춘 에이전트 조합 전략을 본격화한다는 목표다. 앤트로픽 마이크 크리거 최고제품책임자(CPO)는 "하이쿠 4.5는 실시간 대화, 고객 서비스, 페어 프로그래밍 등 반응 속도가 중요한 작업에 최적화됐다"며 "소넷 4.5가 복잡한 문제 해결을 맡고 여러 하이쿠 모델이 병렬로 세부 작업을 수행하는 다중 에이전트 구성이 가능하다"고 말했다.

2025.10.16 15:00한정호

"챗GPT·제미나이 없으면 못 산다"…韓·日 어디가 AI 더 잘 쓰나 살펴보니

우리나라가 인공지능(AI) 활용 경험과 학습 의지 모두 일본보다 크게 앞선 것으로 나타났다. AI 인지도, 사용 경험, 활용 목적 등 대부분의 항목에서 우리나라가 높은 수치를 보였다.13일 글로벌 문서 플랫폼 PDF 구루(Guru)가 국내 업체 틸리온 프로, 일본 프리이지24(Freeasy24)와 협력해 한국과 일본 직장인을 대상으로 진행한 비교 조사 결과, AI 도구를 한 번도 사용해 본 적 없는 비율이 한국 34.8%, 일본 48.6%로, 일본이 14% 이상 높았다. AI 도구를 몇 번 사용해 봤다는 응답은 한국 24.2%, 일본 18%로, 한국에 있는 더 많은 사람들이 '첫 체험'을 넘어 실질적 활용 단계로 진입한 것으로 분석됐다. 특히 챗GPT 사용률은 한국 36.9%, 일본 30.1%였으며, 제미나이(20.2% vs 14.7%)와 기타 AI 도구(7.9% vs 2.4%) 모두 한국이 앞섰다. 반면 일본은 '잘 모르겠다'는 응답이 46.1%로, 한국(30.8%)보다 약 15%포인트(p) 이상 높아 인지도 격차가 확인됐다. AI 활용 목적에서도 두 나라의 차이는 뚜렷했다. 업무 활용은 비슷했지만 한국은 개인적 활용(27.9% vs 17.3%), 단순 체험(24.5% vs 9.2%), 학습 목적(11.8% vs 7.7%) 등 업무 외 영역에서의 확산세가 크게 앞섰다. 이는 한국이 이미 업무 중심의 '생산성 도구' 단계를 넘어 AI를 일상 속 실험과 자기 계발의 도구로 받아들이는 시장으로 발전하고 있음을 보여준다. AI가 향후 직업이나 사회 전반에 미칠 영향에 대해서도 한국은 더 낙관적이었다. AI가 새로운 기회를 가져올 것이라고 답한 비율은 한국 35.4%, 일본 27.5%로 나타났다. 향후 5년 내 변화를 '중간 이상'으로 예상한 응답 역시 한국이 38.5%로, 일본(22.4%)을 크게 앞섰다. 또 ▲꼭 배우고 싶다(17.3% vs 12.5%) ▲이미 알고 있다(10% vs 5.1%) 응답에서도 한국이 앞서 AI 학습 의지와 친숙도 모두에서 우위를 보였다. PDF 구루는 "한국은 이미 AI 활용에서 체험을 넘어 습관화 단계로 빠르게 진입하고 있다"며 "기업과 기관은 단순한 인식 제고를 넘어 PDF 요약 AI와 같은 실무형, 학습형 솔루션 제공이 필요하다"고 밝혔다.

2025.10.13 16:19장유미

딜로이트, 47만명 직원 앤트로픽 '클로드'로 무장…이유는?

글로벌 컨설팅 공룡 딜로이트가 앤트로픽과 손잡고 전사적 인공지능(AI) 전환에 승부수를 띄운다. 8일 테크크런치 등 외신에 따르면 딜로이트는 앤트로픽과의 동맹을 확대해 전 세계 47만명이 넘는 직원들에게 AI 챗봇 '클로드'를 보급하기로 했다. 이번 협력은 앤트로픽의 역대 최대 규모 엔터프라이즈 AI 도입 사례다. 딜로이트는 이번 협력을 통해 사내에 '클로드 우수성 센터(CoE)'를 설립한다. 이 전담 조직은 AI 시스템의 안정적인 현장 안착을 위한 기술 지원과 성공 사례 공유를 맡는다. 인재 양성에도 대대적으로 투자한다. 딜로이트는 소속 전문가 1만5천 명을 대상으로 앤트로픽과 공동 개발한 공식 인증 프로그램을 운영해 AI 전문가를 직접 육성할 방침이다. 양사는 클로드의 '안전 우선' 설계와 딜로이트의 '신뢰할 수 있는 AI' 프레임워크를 결합한다. 이를 통해 금융 서비스, 헬스케어, 공공 부문 등 규제가 엄격한 산업을 위한 맞춤형 AI 솔루션을 개발해 시장을 공략한다. 이번 대규모 AI 도입 발표는 흥미로운 시점에 나왔다. 같은 날 딜로이트가 AI의 환각 현상으로 오류가 담긴 보고서를 작성해 호주 정부에 계약금 일부를 환불한 사실이 알려졌기 때문이다. 딜로이트는 호주 고용노사관계부로부터 43만9천 호주달러(한화 약 4억800만원) 규모의 보고서 작성을 의뢰받았다. 다만 보고서에 존재하지 않는 학술 자료를 인용하는 등 오류가 발견돼 최종 할부금을 반납해야 했다. AI의 부정확성 문제는 비단 딜로이트만의 일이 아니다. 시카고 선타임스 신문이 존재하지 않는 책을 추천 목록에 올리고 아마존의 AI 도구 역시 정확성 문제로 고전한 바 있다. 앤트로픽조차 법적 분쟁에서 AI가 만든 잘못된 인용문을 사용해 사과하기도 했다. 란짓 바와 딜로이트 글로벌 기술 및 생태계·동맹 리더는 "책임감 있는 AI에 대한 우리의 접근 방식이 매우 일치하기에 앤트로픽 AI 플랫폼에 이처럼 중대한 투자를 하고 있다"며 "향후 10년간 기업 운영 방식을 함께 재편할 수 있을 것"이라고 밝혔다.

2025.10.08 09:36조이환

MS, 오픈AI 의존 깨고 앤트로픽 품는다…'코파일럿' 다변화

마이크로소프트(MS)가 자사 업무용 인공지능(AI) 비서 '코파일럿'에 기존 협력사 오픈AI 외에도 그 경쟁사인 앤트로픽의 최신 모델까지 적용하며 파트너십 다변화에 나섰다. 오픈AI에 대한 독점 의존 구조에서 벗어나 경쟁사 기술까지 품은 이번 행보는 기존 협력 구도를 흔드는 움직임으로 평가된다. 25일 블룸버그통신 등 외신에 따르면 MS는 코파일럿의 리서처 기능과 코파일럿 스튜디오에서 앤트로픽의 '클로드 오퍼스 4.1'과 '클로드 소넷 4' 모델을 선택해 사용할 수 있도록 통합했다. 기존 오픈AI 모델 외에 복잡한 추론과 대규모 데이터 처리에 특화된 앤트로픽 모델을 추가한 것이다. 그간 MS는 오픈AI에 130억 달러(약 18조원) 이상을 투자하고 애저 클라우드 지원을 통해 긴밀히 협력해왔다. 하지만 최근 오픈AI가 오라클·브로드컴·엔비디아 등과 수십~수천억 달러 규모의 협력을 잇달아 체결하면서 MS도 앤트로픽과 구글 등 경쟁사 AI 기술을 적극 도입하는 모습이다. 이번 파트너십은 기업 고객이 복잡한 분석 리포트 작성이나 코드 설계, 맞춤형 AI 도구 구축 등에서 필요에 따라 다양한 모델을 선택할 수 있도록 한 전략적 결정으로 풀이된다. 클로드 오퍼스 4.1은 복잡한 추론·코딩 작업에 강점을, 클로드 소넷 4는 대규모 데이터 처리와 콘텐츠 생성에 적합한 서비스다. 이를 두고 시장에서는 MS가 오픈AI에 대한 의존도를 줄이려는 신호로 해석하고 있다. 미국 키뱅크 애널리스트들은 "현재 엔터프라이즈 고객의 약 60%가 전체 MS 365 서비스 중 10% 정도에만 코파일럿을 적용하고 있으며 전사 차원에서 활용하는 경우는 4%에 불과하다"며 "MS는 다양한 모델을 제공해 기업용 AI 도입 속도를 높이고 시장 주도권을 확보하려는 전략"이라고 분석했다.

2025.09.25 10:04한정호

"AI 안전 무시한다"…앤트로픽 CEO, 트럼프와 정면 충돌

앤트로픽이 도널드 트럼프 미국 대통령의 인공지능(AI) 정책을 정면으로 비판하며 정부와 대립각을 세웠다. 트럼프 행정부의 AI 안전 접근이 지나치게 방임적이라는 이유에서다. 19일 워싱턴포스트(WP) 등 외신에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 트럼프 대통령을 '봉건 영주'에 비유하며 AI 안전 규제의 필요성을 강조했다. 그는 트럼프 대통령과 협력한 대형 로펌들과의 관계를 끊는 등 정치적 거리두기에도 나섰다. 아모데이 CEO는 챗봇 '클로드'를 국가 감시 목적으로 활용하지 못하게 하는 방침을 고수하고 있다. 이에 연방수사국과 비밀경호국 등 주요 기관은 클로드를 사실상 사용하지 못한다. 이런 입장은 트럼프 행정부가 워크 AI를 금지하는 행정명령을 내린 이후에도 바뀌지 않았다. 워크 AI는 성별이나 인종, 정치적 주제에서 진보적 성향을 드러내는 AI를 가리킨다. 보수 진영은 이를 '좌편향 AI'라고 지칭한다. 트럼프 행정부도 정부 기관에 워크 AI 사용을 금지하고 있다. 외신들은 앤트로픽이 정부와 맺은 기존 계약을 잃을 수 있다고 우려했다. 실제 앤트로픽은 미국 국방부와 2억 달러 규모 계약을 체결하며 국가안보 분야에서 입지를 넓혀왔지만, 정치적 갈등이 격화될 경우 수십억 달러 규모의 정부 계약이 무산될 수 있다는 전망이 제기된다. 아모데이 CEO는 경쟁사보다 챗봇 출시를 늦추며 AI 안전성을 강조해왔다. 최근에는 캘리포니아 주 상원의원 스콧 위너가 발의한 AI 투명성 규제 법안(S.B.53)을 공개 지지했다. 주요 AI 기업이 규제 도입에 찬성 입장을 밝힌 것은 이번이 처음이다. 그는 또 중동 국가와의 거래에도 부정적 입장을 취했다. AI가 독재 정권을 부유하게 만든다는 이유에서다. 하지만 최근 아랍에미리트와 카타르 자본을 받아들이며 원칙과 현실 사이의 괴리를 드러냈다는 비판을 받았다. 뉴욕타임스(NYT)는 "앤트로픽과 트럼프 행정부의 대립은 실리콘밸리 자유주의 진영과 보수주의 정책 그룹 간 이념 전쟁"이라고 평가했다. 이어 "어느 쪽이 주도권을 쥐느냐에 따라 AI 산업이 크게 달라질 것"이라고 분석했다. 오스틴 카슨 시드AI CEO는 "권력과 영향력은 승자에게 크게 쏠릴 것"이라고 말했다.

2025.09.19 17:56김미정

생성 AI 써본 직장인 10명 중 4명 "내 업무 대체되는 거 아냐?"

챗GPT를 비롯한 생성형 AI가 빠르게 확산되면서, 사회 전반에서 AI 활용과 영향에 대한 관심이 높아지고 있다. AI 기술이 생활과 일터 곳곳에 스며들며 생산성 혁신과 동시에 일자리 불안까지 불러일으키는 가운데, 데이터 컨설팅 기업 피앰아이(PMI)는 'GS&패널'을 통해 전국 만 20-69세 성인 남녀 1천 명을 대상으로 'AI 활용 및 인식 조사'를 진행했다. 이번 조사에서는 AI 서비스 사용 현황과 인식, 활용 목적에 대해 다뤘다. “AI 서비스 사용” 64.7%... 20·30대 매일 활용 비율 가장 높아 인공지능 AI 서비스를 '사용한다'는 응답은 전체의 64.7%로 나타났으며, '매일 1회 사용한다'는 18.2%로 나타났다. '사용하지 않는다' 응답도 35.3로 나타났다. 특히 20대(24.6%)와 30대(28.8%)에서는 다른 연령층에 비해 '매일 1회 사용한다'는 응답 비율이 높아, 젊은 층에서의 활용도가 두드러졌다. AI 서비스의 유료 사용 여부를 묻는 질문에서는 '무료 버전만 사용한다'가 74.3%로 가장 높게 나타났다. 이어 '현재 유료로 사용 중이다'(21.6%), '과거에 유료로 사용한 적이 있다'(4.1%)의 항목이 뒤를 이었다. 유료로 사용 중인 연령대는 30대(37.6%), 20대(32.2%)가 가장 높게 나타났으며, 40대(19.3%), 50대(9.2%), 60대(7.8%) 순으로 나타났다. AI 서비스 유료 이용자들의 월 지출 금액은 '3만원 미만'이 60.8%로 가장 높았다. 그 외에도 '3만원~5만원 미만'(22.3%), '5만원~10만원 미만'(13.4%), '20만원 이상'(1.9%), '10만원~20만원 미만'(1.6%) 순으로 지출 금액이 확인됐다. 10명 중 7명 '챗GPT' 사용 AI 서비스 브랜드 이용 비율로는 '챗GPT'가 72.9%로 가장 많이 사용되는 것으로 나타났다. 이어, '구글 제미나이'(34.9%), '에이닷'(18.6%), '뤼튼'(11.8%), '마이크로소프트 코파일럿'(10.2%), '퍼플렉시티 AI'(7.9%), '딥시크'(5.1%), '클로드'(4.9%), '기타'(0.8%) 순으로 조사됐다.(복수 응답 결과) 최근 4개월간 AI 서비스 브랜드 관련 네이버 뉴스 데이터 분석에서도 챗GPT 관련 보도가 다른 서비스보다 월등히 많은 수준을 유지하고 있는 것으로 확인했다. AI 서비스, 진입 경로 다양… 업무 효율성 체감 뚜렷 AI 서비스 이용을 처음 시작한 계기에 대한 응답은 '업무 필요로 인해'(33.2%)와 '주변 지인의 추천으로 인해'(31.5%)가 비슷한 비율로 나타났다. '온라인 뉴스를 통해'(27.2%), '회사 교육/세미나로 인해'(6.6%)도 뒤이어 나타난 것으로 확인했다 . 연령대별로는 20대(41.8%)와 30대(41.4%), 40대(37.4%)에서는 '업무 필요'가 1위를 차지했으나, 반면 50대(37.1%), 60대(40.4%)는 '온라인 뉴스'가 첫 사용 계기의 주된 요인으로 꼽혔다. AI 서비스가 업무 효율성에 미치는 영향에 대해서는 전체 응답자의 61.3%가 '도움이 된다'고 답했다. 이어 '보통이다'(31.0%), '별로 도움이 되지 않는다'(5.8%), '전혀 도움이 되지 않는다'(1.9%) 순으로 나타났다. 실제 업무에서의 활용 현황은 '사용한다' 응답이 45.4%로 가장 많이 나타났으며, 이 외에 '보통이다'(19.6%), '별로 사용하지 않는다'(19.1%), '전혀 사용하지 않는다'(15.9%)가 뒤를 이었다. 앞으로 AI 활용 비중..."더 늘어날 것" 추후 AI 서비스 활용 비중에 대한 전망에서는 '늘어날 것이다' 응답이 63.4%로 가장 높게 나타났으며, '줄어들 것이다' 응답은 4.8%에 불과해 전반적으로 AI 활용이 확대될 것이라는 인식이 우세했다. AI 기술 발전이 앞으로 개인의 삶과 일에 미칠 영향에 대한 인식은 응답자의 64.1%가 '중요성이 커질 것'이라고 답했다. 세부적으로 '매우 중요해질 것'이라는 응답은 30대에서 23.1%로 가장 높았던 반면, 60대는 12.9%로 가장 낮게 나타나 세대간 인식 차이를 보였다. 직장인 42.2% “내 업무, AI로 대체될 수 있다” 인정 AI가 본인의 업무를 대체될 가능성에 대해 묻는 질문에 대한 의견은 42.2%가 '대체될 가능성이 있다'고 응답했다. '잘 모르겠다'는 36.2%, '대체될 가능성이 없다'는 21.6%에 그쳤다. 특히, 30대(53.4%)와 40대(45.1%)에서 '대체될 가능성이 있다'는 응답이 가장 높아 AI로 인한 일자리 대체 우려가 두드러졌다. 이어 50대(41.1%), 60대(36.1%), 20대(30.0%) 순이었다. 피앰아이 관계자는 “이번 조사 결과는 AI 활용에 대한 관심이 세대 전반에서 공통적으로 확인된 점에서 의미가 있다”며 “향후 AI가 업무 현장에 더욱 깊숙이 자리 잡을 것으로 예상되는 만큼, 기업과 개인 모두가 균형 있는 시각을 갖고 대응할 필요가 있다”고 말했다.

2025.09.12 16:37백봉삼

"오픈AI 의존 더 낮춰"…MS, 오피스에 '클로드' 추가

마이크로소프트가 오피스 서비스에 앤트로픽 인공지능(AI) 모델을 추가해 오픈AI 의존도를 한층 더 낮출 예정인 것으로 확인됐다. 10일 디인포메이션 단독 보도에 따르면 마이크로소프트는 오피스 서비스인 워드와 엑셀, 아웃룩, 파워포인트에 오픈AI와 앤트로픽 기술을 혼합 적용할 것으로 전해졌다. 그동안 마이크로소프트는 자체 AI 모델을 개발하면서도 애저 클라우드에 타사 모델을 통합해 왔다. 특히 오픈AI에 130억 달러 이상을 투자해 GPT 모델 군을 서비스에 지속 적용했다. 디인포메이션은 "앤트로픽의 '클로드 소네트 4.0' 모델이 엑셀의 재무 기능 자동화나 파워포인트 생성 작업이 뛰어나다는 평을 마이크로소프트 내부서 받고 있다"며 "오픈AI의 GPT-5보다 더 우수한 성능을 보인 것으로 파악됐다"고 보도했다. 마이크로소프트는 향후 앤트로픽 모델 활용을 위해 아마존웹서비스(AWS)에 비용을 지불할 방침이다. 앤트로픽이 자체 데이터센터를 운영하지 않고, AWS을 통해 모델을 호스팅하고 있어서다. 현재 AWS는 앤트로픽의 최대 투자자로 알려졌다. 마이크로소프트는 "오픈AI는 우리 파트너로 남을 것"이라며 "장기적 파트너십에 대한 약속을 유지한다"고 밝혔다.

2025.09.10 07:47김미정

앤트로픽, 중국계 기업에 AI 서비스 판매 막는다

오픈AI의 대항마로 불리는 인공지능(AI) 스타트업 앤트로픽이 중국계 기업에 AI 서비스 판매를 중단한다. 4일(현지시간) 파이낸셜타임스 등 외신에 따르면 앤트로픽의 한 임원은 중국이 자사의 기술을 군사, 정보 활동에 활용하는 것을 막기 위해 이같은 결정을 내렸다고 밝혔다. 오픈AI 출신들이 2021년 창업한 앤트로픽은 미국 샌프란시스코에 본사를 둔 AI 스타트업으로, 챗봇 '클로드' 개발사로 널리 알려져있다. 이번 정책은 즉시 시행되며 틱톡 모회사 바이트댄스, 텐센트, 알리바바 등 중국 기업에 적용될 수 있다. 앤트로픽 임원은 “중국 기업들이 첨단 AI에 접근할 수 있도록 허용했던 허점을 막기 위한 조치”라며 러시아, 이란, 북한 등 미국 적대국에도 적용된다고 말했다. 이어 이번 정책을 두고 “AI의 변혁적 역량이 민주주의적 이익과 미국의 AI 리더십을 강화하는데 기여한다는 자사의 광범위한 약속과 일치하도록 설계됐다”고 덧붙였다. 이번 조치는 중국 기업들이 해외에 자회사를 설립해 미국 기술 확보 시도를 은폐하려 한다는 우려가 커지는 상황에서 발표됐으며 클라우드 서비스를 통한 간접 이용자들도 영향을 받게 된다. 앤트로픽은 이번 조치로 글로벌 매출에서 수억 달러 규모 손실이 발생할 수 있지만, 경쟁사에 일부 사업을 넘기게 되더라도 문제의 심각성을 알리기 위해 정책이 필요하다고 판단했다고 부연했다. 앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)는 중국에 대한 수출 통제를 강화해야 한다고 주장했다. 뿐만 아니라 경쟁사인 오픈AI도 미국의 AI 우위를 보호하기 위한 통제를 지지해왔다. 미국 내에서는 중국이 극초음속 무기부터 핵무기 모델링까지 군사 목적으로 AI를 활용할 수 있다는 우려가 커지고 있다. 중국 AI 스타트업 딥시크는 올해 초 오픈소스 모델 'R1'을 공개하면서 파장을 불러왔다. 저렴한 가격에 미국의 주요 AI와 비슷한 수준의 성능을 보였기 때문이다. 당시 오픈AI는 딥시크가 R1 훈련 과정에서 자사 모델에 부적절하게 접근한 증거가 있다고 주장하기도 했다. 정부의 정책 변화도 영향을 미쳤다. 전임 바이든 행정부는 중국의 미국산 AI 확보를 어렵게 만들기 위해 강력한 수출 통제 조치를 내렸으나 트럼프 행정부는 시진핑 중국 국가주석과의 회담을 추진하면서 새로운 통제를 거의 시행하지 않는 상황이다. 사안에 정통한 한 소식통은 이번 정책이 싱가포르 자회사를 통해 중국 본토 기업들이 미국 기술에 대한 규제를 피하려는 시도가 늘고 있다는 점을 겨냥했다고 언급하기도 했다. 현재 중국에서는 앤트로픽의 클로드, 오픈AI의 챗GPT, 구글의 제미나이 등 미국 AI 챗봇 서비스 접근이 금지돼 있다. 그러나 일부 사용자들은 가상사설망(VPN)을 통해 접속하고 있지만, 이는 플랫폼 서비스 약관 위반에 해당한다.

2025.09.05 09:29박서린

자살 관련 질문에…어떤 AI 챗봇이 현명하게 답할까

인공지능(AI) 챗봇이 사용자의 자살을 부추겼다는 사례가 보고된 가운데, AI 챗봇이 자살로 이어질 수 있는 고위험 질문에 어떻게 응답하는지 분석한 연구 결과가 나왔다. 과학 전문 매체 라이브사이언스(Live Science)는 2일(현지시간) 미국정신의학회가 발간하는 학술지 정신의학 서비스(Psychiatric Services)에 최근 실린 논문을 인용해 이같이 보도했다. 이 논문은 마침 한 부모가 챗GPT가 아들의 자살을 부추겼다며 운영사인 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 미국에서 소송을 제기한 날 발표됐다. 보도에 따르면, 16세 소년 아담 레인의 부모는 아들이 챗GPT로부터 자살 방법에 대한 정보를 얻은 뒤 극단적 선택을 했다고 주장했다. 미국·캐나다 연구진이 실시한 조사 결과에 따르면, 챗GPT는 위험도가 높은 질문에 직접 응답할 가능성이 제일 높았고 앤트로픽의 클로드는 위험도가 중간, 낮은 질문에 직접 응답할 가능성이 가장 높았다. 연구진은 챗GPT, 제미나이, 클로드가 자살 관련 질문에 어떤 반응을 보이는 지 조사했다. 이번 연구는 챗봇의 답변의 질 보다는 위험이 있는 질문에 대해 직접 응답하는 지에 초점을 맞춰 진행됐다. 높은 위험의 질문에 대해 챗GPT·클로드 순으로 답변 연구진은 자살 관련 질문 30개를 만들고 13명의 임상 전문가와 협의해 해당 질문에 대해 위험도를 매우 낮음, 낮음, 보통, 높음, 매우 높음의 5단계로 분류했다. 이후 2024년에 GPT-4o 미니, 제미나이 1.5 프로, 클로드 3.5 소넷에 각 질문을 100회씩 제공했다. 챗봇이 관련 질문에 답하는 경우 '직접 응답', 답변을 거부하거나 핫라인으로 안내하는 경우 '간접 응답'으로 분류했다. 실험 결과 위험도가 매우 높은 질문에 대해서는 AI 챗봇 모두 직접적인 답변을 하지 않았다. 하지만, '높음' 위험의 질문에 대해 챗GPT는 4개의 질문에 대해 78%의 비율로 직접적으로 답했고 클로드도 4개의 질문에 대해 69%의 비율로 답했다. 반면에 제미나이는 1개의 질문에 20%의 비율로 답했다. 하지만, AI 챗봇은 같은 질문을 여러 번 반복하면 서로 다르고 모순되는 답변을 제공할 수 있다고 연구진은 밝혔다. 랜드 연구소의 수석 정책 연구원이자 하버드 의과대학 조교수인 해당 연구 주저자인 라이언 맥베인은 이번 연구의 목표가 “챗봇에 대한 투명하고 표준화된 안전 기준을 제기하는 것”이라며 "십대나 다른 사람들이 복잡한 정보나 감정적, 사회적 필요를 위해 챗봇을 찾는다는 것은 놀라운 일이 아니다"라고 말했다. 반복적으로 물을 경우 답변 가능성 더 높아 이에 라이브사이언스도 GPT-4 탑재 챗GPT와 제미나이 2.5 플래시 버전을 대상으로 자체 조사를 진행했다. 그 결과, 제미나이는 이전 연구진이 물었을 때 답하지 않았던 질문에 답했고, 위험성이 매우 높은 질문 하나에도 응답했으며 지원 서비스 옵션도 제공하지 않은 것으로 조사됐다. 또, 챗GPT 웹 버전의 경우 위험이 높은 질문을 두 개 던진 뒤 위험도가 매우 높은 질문을 던지면 직접적인 답변을 하는 경우도 있다는 것이 확인됐다. 즉 위험도가 다소 낮은 짧은 질문을 연속으로 물은 다음 위험성이 높은 질문을 하면 응답할 가능성이 있다는 것이다. 이 결과에 대해 오픈AI는 "챗GPT에는 위기 지원 전화 및 실제 지원 센터 안내와 같은 안전 장치가 포함돼 있다. 이 안전 장치는 일반적인 짧은 대화에서는 효과적이지만, 긴 대화에서는 때때로 안정성이 떨어질 수 있다는 것을 알게 됐다. 전문가의 지도를 받아 지속적으로 개선해 나갈 것"이라고 밝혔다. 구글 제미나이 측은 사용자 안전을 위한 가이드라인을 마련한 상태며, 자사 모델은 "자살 및 자해 관련 위험을 나타내는 패턴을 인식하고 대응하도록 훈련됐다”고 밝혔다. 또한 제미나이가 자살 관련 질문에 직접적으로 답변할 가능성이 낮다는 연구 결과도 언급했다. 하지만, 라이브 사이언스가 제미나이로부터 받은 위험도가 매우 높은 답변에 대해서는 직접적인 언급을 하지 않았다. 앤트로픽은 이와 관련된 입장을 내놓지 않았다.

2025.09.03 16:52이정현

메가존클라우드, GC녹십자 품질혁신 지원…제약업계 AX 가속

메가존클라우드가 엄격한 규제 산업의 디지털 혁신을 지원하는 성과를 창출했다. 메가존클라우드가 GC녹십자의 품질문서 작성 효율화를 위한 인공지능(AI) 기반 시스템을 구축했다고 3일 밝혔다. GC녹십자는 이번 시스템 구축을 통해 연간 제품 평가 보고서와 제품 경향 분석 보고서의 신뢰성과 일관성을 높이고 문서 작성 시간을 80% 이상 단축하며 품질 혁신과 업무 효율화를 달성했다. 새롭게 구축된 시스템은 ▲메가존클라우드의 생성형 AI 컨설팅 서비스 '메가존 에어 컨설팅' ▲생성형 AI 운영 관리 서비스 '메가존 에어 빌드' ▲아마존웹서비스(AWS)의 AI 완전 관리형 서비스 '아마존 베드록'을 기반으로, 앤트로픽의 최신 대형언어모델(LLM) '클로드 3.7'과 검색증강생성(RAG) 기술을 적용해 개발됐다. 기존에는 SAP·품질경영시스템·실험실정보관리시스템 등 각각의 데이터를 수작업으로 취합해 문서를 작성해야 했다. 이 때문에 단순 반복 업무에 많은 시간이 소요됐고 담당자에 따라 문서의 구성이나 포맷이 달라지는 등 일관성 확보에도 어려움이 있었다. 이번 시스템은 유럽연합의 GMP 가이드라인에 따라 작업 시간을 최대한 단축할 수 있도록 초안 작성을 지원하며 최종 보고서는 반드시 현업 담당자의 검토를 거쳐 확정되도록 구축됐다. GC녹십자 강형묵 디지털혁신실장은 "AI를 활용한 문서 작성 시간 단축으로 현업에서는 실질적인 품질 관리 수준 향상에 더 집중할 수 있게 됐으며 회사 관점에서는 제약업계의 디지털 혁신을 선도할 계기를 마련했다"며 "앞으로도 다양한 분야에서 AI 도입을 확대해 제약 업계 경쟁력을 지속적으로 높여 나갈 계획"이라고 말했다. 메가존클라우드 공성배 최고AI책임자(CAIO)는 "이번 시스템 구축 성공은 제약 산업처럼 데이터가 복잡하고 규제가 엄격한 환경에서도 AI와 클라우드 기술이 실제 성과로 이어질 수 있음을 보여준 성공적 사례"라며 "이번 협업을 시작으로 헬스케어 산업 전반의 디지털 혁신을 더욱 폭넓게 지원하겠다"고 밝혔다.

2025.09.03 16:13한정호

[유미's 픽] "수천억 줘도 싫다"…핵심 인재도 외면한 메타, AI 시장서 존재감 찾을까

한 때 혁신의 아이콘으로 주목 받았던 메타가 인공지능(AI) 시장에서 존재감을 발휘하지 못하고 있다. AI 기술력 향상을 위해 고액의 연봉을 내세워 시장 내 인재 영입 경쟁을 부추기고 대규모 투자에도 나섰지만, 마크 저커버그 메타 최고경영자(CEO)의 독단적 운영 방침과 뒤숭숭해진 조직 문화에 발목이 잡혀 갈수록 경쟁력이 뒤처지고 있다는 평가다. 2일 파이낸셜타임즈, 비즈니스인사이더, 테크크런치 등 주요 외신에 따르면 메타는 최근 핵심 인재 8명의 이탈로 AI 사업의 조직력이 약화됐다. 업계 최고 대우를 약속하며 AI 인재들을 끌어들였지만 메타 조직 내부의 관료주의와 잦은 팀 재편 등 불안정한 조직 문화가 맞물리면서 인력 이탈이 가속화된 것이다. 앞서 메타는 지난 4월 최신 거대언어모델(LLM)인 '라마4'를 공개했지만, 코딩·추론·명령 수행에서 기대 이하의 성능을 보여 개발자들로부터 다소 아쉬운 반응을 얻었다. 이에 실망한 저커버그 CEO는 당시 "용납할 수 없는 일"이라고 불만을 표출한 후 AI 전문가로 구성된 'AI 드림팀'을 직접 구축하고 나섰다. 이 과정에서 메타는 수십조원을 투자하며 AI 핵심 인재 영입에 적극적인 모습을 보였다. 저커버그 CEO는 수개월간 AI 인재들에게 직접 연락해 1억 달러(약 1천400억원)에 달하는 파격적인 조건을 제안하기도 했다. 실제 스타트업 버셉트(Vercept)를 공동 창업한 24세 AI 연구자인 맷 다이트케는 4년간 2억5천만 달러(첫 해 1억 달러 지급)를 받는 조건을 제안 받아 결국 메타로 영입됐다. 냇 프리드먼 깃허브 전 CEO와 루오밍 팡, 톰 건터, 마크 리, 보웬 장, 윤 주, 프랭크 추 등 애플 출신 AI 전문가들도 줄줄이 메타로 자리를 옮겼다. 업계에선 오픈AI에서 20여 명, 구글에서 10여 명 등 총 50명 정도가 메타에 합류한 것으로 파악했다. 지난 6월에는 데이터 라벨링 업체 스케일AI에 메타가 143억 달러(약 20조원)를 투자하면서 최고경영자(CEO) 알렉산더 왕과 주요 임원들을 영입했다. 이들에게 인간을 능가하는 AI 개발을 위한 '메타 초지능 연구소(MSL)' 운영도 맡겼다. 이후 MSL은 라마 등 메타 AI 파운데이션 모델을 담당하는 TBD랩, AI 연구 그룹, 제품 그룹, 인프라 그룹 등 4개의 조직으로 개편됐다. 메타는 지난 달 중순께 'MSL'의 기틀이 어느 정도 마련됐다고 보고 외부 인재 채용 중단 사실을 내부에 공유하며 조직 안정화에 나서는 듯 했다. 하지만 잦은 조직 개편과 불공정한 대우에 불안을 느낀 일부 직원들이 잇따라 메타를 떠나기 시작하며 내부는 다시 불안정한 상태에 놓였다. 실제 10년 가까이 메타에 장기 근무한 차야 나야크 생성 AI 제품 관리 디렉터, 12년간 근무한 버트 마허 연구원은 메타를 떠나 각각 오픈AI와 앤트로픽으로 떠났다. 8년간 메타에 재직한 베테랑 토니 리우, 메타 머신러닝을 5년간 담당한 치하오 우도 퇴사했다. 이에 지난 2023년 발표된 라마 모델 연구 논문의 공동 저자로 이름 올린 14명 중 11명이 메타를 떠난 것으로 파악됐다. 라마 모델 개발 연구원이었던 티멘 블랑케보르트는 퇴사 전 내부 게시판에 "AI 부서에서 진정 즐거워하는 사람을 만나지 못했다"며 "조직 내 두려움이 전이성 암처럼 퍼져 있다"고 말했다. 이어 "빈번한 성과평가와 반복되는 구조조정이 사기와 창의성을 저하하고 있다"며 "대부분은 우리의 미션이 무엇인지도 모른다"고 비판했다. 최근 영입됐던 인재들도 메타의 내부 정책을 못마땅해 하며 이탈했다. xAI에서 메타로 온 이선 나이트, 오픈AI 출신인 아비 베르마는 메타에 합류한 지 한 달도 안 돼 다시 오픈AI로 떠났다. 올 4월 메타에 합류한 연구원 리샤브 아가르왈은 페리오딕 랩스라는 스타트업으로 이직했다. 스케일 AI에서 합류한 루벤 마이어 전 수석 부사장도 입사 두 달 만에 퇴사했다. 그는 메타 재직 당시 AI 데이터 운영팀을 총괄했다. 여기에 스케일AI와의 파트너십도 균열 조짐을 보이고 있다. 메타 내부에서 스케일AI 데이터 품질에 대한 불만이 제기됐고 결국 서지, 머코 등 스케일AI의 경쟁사와도 협력하고 나선 것이다. 스케일AI는 메타의 투자 유치 직후 오픈AI, 구글 등의 고객사를 잃은 데다 데이터 라벨링 사업부 직원 200명을 해고하며 혼란을 겪고 있는 상태다. AI 인재 영입에 비해 기술력이나 시장에서의 영향력도 크게 향상되지 못했다. 미국 벤처캐피털 안드리센호로위츠(a16z)가 지난 달 27일 발표한 '글로벌 생성형 AI 소비자 앱 톱100'에서 메타는 웹 부문에서 '메타 AI'로 46위를 기록했으나, 모바일 부문에선 상위 50개 앱 목록에 단 한 개도 포함되지 않았다. 반면 오픈AI는 웹·모바일 부문 모두 '챗GPT'로 1위를 차지하며 독보적인 존재감을 드러냈다. 구글 역시 웹·모바일 부문에서 AI 챗봇 '제미나이'로 2위, 개발자 전용 앱 'AI 스튜디오'로 10위, '노트북LM'으로 13위, AI 실험 플랫폼 '구글 랩스'로 39위에 이름을 올렸다. 상위 50위 안에 AI 앱 4개를 올린 회사는 구글이 유일하다. 기술 및 윤리적 문제도 논란에 휩싸였다. 메타가 최근 팝스타 테일러 스위프트, 배우 앤 해서웨이 등 유명인의 이름과 모습을 당사자 동의 없이 사용해 '선정적인 챗봇' 수십 개를 무단 제작하고, 소셜 미디어를 통해 공유했기 때문이다. 이에 메타는 자체 AI 기술 개발에서 외부 협력으로 전략을 수정했다. 디 인포메이션에 따르면 메타에서 구글 '제미나이'와 오픈AI 모델을 활용해 메타 AI를 구동하는 방안을 논의했다. 또 플레이 AI, 웨이브폼스 AI 등 음성 AI 스타트업을 인수하고 미드저니와도 파트너십을 맺었다. 여기에 오픈AI와도 파트너십을 검토하고 나선 것으로 알려졌다. 메타 직원들은 이미 타사 모델을 사용하는 것으로 알려졌다. 메타의 내부 코딩 어시스턴트는 이미 앤트로픽과 오픈AI 모델을 활용하고 있는 것으로 전해졌다. 업계에선 창업자인 저커버그 CEO의 독단적인 리더십과 메타의 조직 문화가 기술력 향상의 걸림돌이 되고 있다고 분석했다. 또 제품 중심 전략을 가진 오픈AI와 달리 본업인 소셜 네트워크와 광고 사업을 활성화시키기 위해 AI를 도구로 활용하려는 메타의 전략이 시장의 설득력을 얻지 못하고 있다는 평가도 내놨다. 더불어 '라마' 등을 오픈소스로 공개해 연구자, 스타트업 커뮤니티에서의 영향력은 크지만 기업·소비자간거래(B2C) 서비스화에 소극적이어서 브랜드 파워와 수익화가 약하다는 점도 존재감을 키우지 못한 요인으로 봤다. 업계 관계자는 "오픈AI는 'AI 혁신 기업'이라는 명확한 브랜드를 시장에 각인시켰지만, 메타는 메타버스 사업 실패 이미지가 강한데다 대중 친화적 제품이 없고 브랜드 신뢰가 약하다는 점이 AI 시장에서의 매력을 떨어뜨렸다"며 "오픈AI, 앤트로픽 등에 비해 전략적 파트너십이 열악하다는 점도 시장 지배력을 키우지 못하는 요인"이라고 짚었다. 일각에선 메타가 AI 시장에서 경쟁력을 갖기 위해 좀 더 세밀한 전략이 필요하다고 지적했다. 특히 '라마'를 단순한 오픈소스가 아닌 ▲라마 앱스토어 모델 도입 ▲메타 AI SDK(소프트웨어 개발 키트) 제공 등을 통해 생태계 플랫폼으로 확장시키는 방안을 고려해 볼 것을 조언했다. 업계 관계자는 "현재 오픈AI '챗GPT'를 비롯해 앤트로픽 '클로드', 구글 '제미나이' 등이 범용 LLM 및 개발자 생태계를 이미 선점하고 있어 메타가 승부를 걸어야 할 곳은 이 분야가 아니다"며 "메타는 세계 최대 소셜 네트워크를 활용한 AI 플랫폼으로의 차별화 전략과 함께 확장현실(XR)·광고·크리에이터 툴까지 AI로 재구성해 나갈 필요가 있다"고 말했다.

2025.09.02 17:15장유미

"미승인 AI 단속"…클라우드플레어, 챗GPT·클로드·제미나이에 CASB 연동

클라우드플레어가 실시간 탐지 플랫폼을 챗GPT 등 인공지능(AI) 서비스에 연동해 기업 보안 강화에 나섰다. 31일 클라우드플레어는 오픈AI의 '챗GPT 엔터프라이즈'를 비롯한 앤트로픽의 '클로드', 구글 '제미나이' 등을 멀티모드 클라우드 액세스 보안 브로커(CASB)에 통합했다고 공식 홈페이지에서 밝혔다. 또 마이크로소프트365, 구글 워크스페이스 등 서비스형 소프트웨어(SaaS)에 연동해 기업의 민감 데이터를 자동 탐지하고 데이터 무단 이동을 차단할 수 있다. CASB는 기업이 사용하는 AI 애플리케이션을 실시간 스캔하는 서비스다. 기업이 승인한 IT 서비스와 미승인한 IT 서비스 작동 여부를 파악해 준다. 이를 통해 관리자는 실시간으로 어떤 앱이 사용되는지, 어떤 데이터가 이동하는지 가시적으로 알 수 있다. 필요에 따라 접근을 허용하거나 차단할 수 있다. 클라우드플레어는 기업이 데이터 전송·저장 과정까지 CASB를 통해 보호할 수 있다고 밝혔다. 특히 HTTP 요청 로깅을 통해 이상 행위를 탐지하고, 파일 업로드·다운로드, 특정 앱·테넌트 접근을 통제할 수 있는 식이다. 브라우저 보안 기능을 결합해 복사·붙여넣기, 키보드 입력, 인쇄 등 사용자의 행동도 제한 가능하다. 보안 운영팀은 CASB 로그를 외부 보안관제(SIEM) 시스템과 연동해 상세한 데이터 감사·규제 준수 활동에 활용할 수 있다. 이를 통해 개인정보(PII), 금융 데이터, 의료 데이터(PHI) 등 규제 대상 데이터의 흐름을 더욱 체계적으로 관리할 수 있다. 현재 CASB는 데이터 손실 방지(DLP) 기능과도 통합된 상태다. 기업은 별도 솔루션 없이 동일한 콘솔에서 데이터 탐지와 보안 정책을 일관되게 적용할 수 있어 운영 복잡성을 줄이고 비용을 절감할 수 있다. 클라우드플레어 고객은 챗GPT를 비롯한 클로드, 제미나이가 어떤 방식으로 사용되는지 실시간으로 파악할 수 있다. 개인정보나 소스코드 같은 민감 데이터가 해당 서비스로 전송되는 것도 사전에 차단 가능하다. AI 서비스에 들어가는 데이터 흐름까지 파악해 규제 준수와 감사에 활용할 수 있다. 매슈 프린스 클라우드플레어 최고경영자(CEO)는 "우리는 이미 다양한 안전장치를 마련했으며 이제는 오늘날 가장 인기 있는 세 가지 도구 모두와 직접 통합을 구축해 업계 전반에 걸쳐 기업 AI 보안의 기준을 높인 유일한 기업이 됐다"고 밝혔다.

2025.08.31 11:48김미정

앤트로픽, 사용자 대화로 AI 훈련…데이터 최대 5년 보관

앤트로픽이 자사 챗봇 서비스 '클로드' 이용자의 대화 데이터를 인공지능(AI) 학습에 활용하기로 하고, 다음 달 28일까지 '거부(옵트아웃)' 여부를 선택하는 정책을 도입한다. 29일 테크크런치 등 외신에 따르면 이번 정책 변경은 소비자용 서비스인 클로드 프리·프로·맥스·코드 이용자에게 적용된다. 그동안 클로드의 대화와 코드 입·출력은 30일 내 자동 삭제됐고 정책 위반이 의심되는 경우에만 최대 2년간 보관됐다. 그러나 이번 정책 변경으로 앞으로는 이용자가 옵트아웃하지 않을 경우 데이터가 최대 5년간 보관되며 모델 학습에도 활용된다. 앤트로픽은 공지를 통해 "이용자가 학습 참여를 허용하면 유해 콘텐츠 탐지 정확도와 코딩·분석·추론 성능이 개선된다"며 "미래 모델 발전에도 기여할 수 있다"고 설명했다. 업계는 이번 조치가 사실상 대규모 학습 데이터 확보 전략으로 보고 있다. 수백만 건에 달하는 사용자 대화를 학습에 반영해 오픈AI·구글 등 경쟁사 대비 우위를 확보하려는 의도로 풀이된다. 이번 변화는 업계 전반의 흐름과도 맞닿아 있다. 오픈AI는 최근 뉴욕타임스 등 언론사와의 소송과 관련해 법원으로부터 모든 소비자 대화 데이터를 무기한 보관하라는 명령을 받았다. 이에 따라 규제와 소송 환경 속에서 AI 기업들이 데이터 보관·활용 정책을 재정비할 수밖에 없다는 분석이 나온다. 다만 많은 이용자가 이러한 정책 변경을 제대로 인지하지 못한다는 점은 문제로 지적된다. 앤트로픽은 기존 이용자에게 '소비자 약관 및 정책 업데이트' 안내 팝업을 띄우는데 화면에는 '수락' 버튼이 크게 표시되는 반면, 데이터 학습 동의 여부를 설정하는 토글은 작게 배치돼 있으며 기본값이 '온(ON)'으로 설정돼 있다. 이 때문에 무심코 수락을 누르면 학습 동의까지 하게 되는 구조다. 미국 연방거래위원회(FTC)는 서비스 약관을 눈에 띄지 않게 바꾸거나 세부 조항을 하이퍼링크·법률 용어 속에 숨기는 행위에 대해 제재할 수 있다고 경고한 바 있다. 그러나 현재 FTC가 5명 중 3명 위원만 활동 중이라 이번 앤트로픽 조치에 실제로 개입할 가능성은 크지 않다는 전망이 나온다. 앤트로픽 측은 "이번 조치는 사용자들이 학습 참여 여부를 직접 선택할 수 있도록 한 것"이라며 "보다 안전하고 유용한 AI 모델을 만드는 데 기여할 것"이라고 밝혔다.

2025.08.29 10:28한정호

웹 브라우저 안에 들어온 AI…앤트로픽, '클로드 포 크롬' 공개

앤트로픽이 크롬 브라우저에서 실행되는 '클로드' 인공지능(AI) 기반 에이전트 서비스 '클로드 포 크롬'의 연구 프리뷰 버전을 선보인다. 월 100~200달러 수준의 '맥스' 요금제 구독자 1천 명을 대상으로 우선 제공할 예정이다. 27일 테크크런치 등 외신에 따르면 이번 서비스는 크롬 확장 프로그램 형태로 제공되며 사용자는 브라우저 화면 옆에 생성되는 사이드바를 통해 클로드와 대화할 수 있다. 클로드는 브라우저 내 맥락을 유지하며 대화할 수 있고 사용자가 허용할 경우 일부 작업을 대신 수행하는 것도 가능하다. AI가 브라우저 안으로 들어오면서 생산성을 높이고 사용자 경험을 확장할 수 있다는 기대가 커지고 있다. 웹 브라우저는 AI 기업들의 차세대 격전지로 부상하고 있다. 퍼플렉시티는 최근 자체 브라우저 '코멧'을 출시했고 오픈AI도 유사한 기능을 갖춘 AI 기반 브라우저를 준비 중인 것으로 전해졌다. 구글은 이미 크롬에 자사 생성형 AI 모델 '제미나이'를 통합해 다양한 기능을 제공하고 있다. 이와 함께 보안 위험도 부각되고 있다. 앤트로픽은 AI 에이전트의 브라우저 접근이 보안 취약점을 불러올 수 있다고 경고했다. 실제 브레이브 보안팀은 코멧 브라우저에서 웹페이지 속 숨겨진 코드가 AI를 속여 악성 명령을 실행하게 만드는 간접 프롬프트 인젝션 공격 가능성을 발견했다. 퍼플렉시티는 해당 취약점이 이미 수정됐다고 설명했다. 앤트로픽은 이번 연구 프리뷰를 통해 새로운 보안 위협을 조기에 확인하고 대응 방안을 마련한다는 목표다. 우선 자체 방어 체계를 통해 프롬프트 인젝션 공격 성공률을 23.6%에서 11.2%로 절반 이상 낮췄다. 또 이용자가 설정을 통해 클로드의 브라우저 접근 권한을 제한할 수 있으며 금융 서비스·성인물·불법 콘텐츠 사이트는 기본적으로 차단된다. 특히 게시·구매·개인정보 공유와 같은 고위험 행위는 반드시 사용자 동의를 거쳐야 한다. 앞서 앤트로픽은 지난해에도 PC 화면을 직접 제어하는 AI 에이전트를 선보인 바 있다. 당시에는 속도와 안정성 부족으로 상용화 단계에 이르지 못했으나, 최근 들어 AI 에이전트 기술이 빠르게 고도화되면서 단순 작업 자동화에서는 실질적인 성과를 보여주고 있다는 평가가 나온다. 다만 복잡한 문제 해결 능력은 여전히 제한적이라는 분석이 뒤따른다. 앤트로픽은 이번 시도를 통해 안정성과 신뢰성을 우선 검증하겠다는 입장이다. 회사 측은 "우리는 기존 모델의 안전 조치를 보완하기 위해 추가적인 안전 기능에 적극 투자하고 있다"며 "이를 통해 더 많은 사용자에게 유용한 도구를 제공하며 유해 가능성을 최소화하고자 한다"고 밝혔다.

2025.08.27 14:25한정호

"AI 교실 안착 지원"…앤트로픽, 교육 자문위·커리큘럼 가동

앤트로픽이 인공지능(AI) 기술을 대학에 체계적으로 도입하기 위해 위원회를 꾸리고 새 AI 교육 과정을 내놨다. 앤트로픽은 23일(현지시간) 이런 목적으로 고등교육 자문위원회와 'AI 플루언시' 커리큘럼 도입 계획을 공식 홈페이지를 통해 발표했다. 고등교육 자문위는 앤트로픽이 AI를 대학 교육에 도입할 때 필요한 의견을 제공하는 외부 기구다. 릭 레빈 전 예일대 총장이 위원회장을 맡는다. 그는 코세라 최고경영자(CEO)와 고문으로도 활동한 바 있다. 위원회는 학생 민감 정보가 AI에 의해 무단 수집되지 않도록 보호하는 방안을 중점적으로 다룰 예정이다. 또 자문위에는 라이스대 전 총장을 비롯한 줄리 쉘 텍사스대 오스틴 캠퍼스 학술기술 부학장 보좌관, 매튜 라스코프 스탠퍼드대 디지털교육 부학장, 욜란다 왓슨 스피바 컴플리트 칼리지 아메리카 대표도 참여한다. 각 인사는 대학 발전과 교육 혁신, 디지털 학습 접근성 확대 분야에 전문성 갖춘 것으로 알려졌다. AI 플루언시 과정은 수업에 AI를 원활히 적용할 수 있는 프레임워크를 제공한다. '교사를 위한 AI 플루언시'는 수업자료와 평가에 AI를 활용하는 방법으로 구성됐다. '학생을 위한 AI 플루언시'는 책임 있는 AI 기술 커리큘럼을 다룬다. 또 'AI 플루언시 교육법'은 AI 커리큘럼 설계 지침을 제시한다. 각 과정은 크리에이티브 커먼즈 라이선스로 제공돼 교육 기관이 자유롭게 수정해 쓸 수 있다. 링링예술디자인대 릭 다칸 교수와 유니버시티 칼리지 코크 조셉 펠러 교수가 공동 개발에 참여했다. 릭 레빈 앤트로픽 고등교육 자문위원회 의장은 "우리는 제품과 사업의 모든 측면에서 AI 안전과 책임에 깊이 전념하고 있다"며 "학문적 진정성을 최고 수준으로 지키고 학생 프라이버시를 보호하면서도 교사와 학습자가 AI의 변혁적 잠재력을 활용할 수 있도록 회사에 자문할 것"이라고 밝혔다.

2025.08.24 11:06김미정

전 세계 개발자 10명 중 8명 "업무에 AI 도구 활용"…코딩 시장서 '클로드·파이썬' 대세

전 세계 개발자 절반 이상이 이미 업무에 인공지능(AI) 도구를 활용하고 있는 것으로 나타났다. AI 활용 능력을 기업들이 요구하면서 개발자의 필수 역량으로도 점차 자리 잡는 모양새다. 21일 사이트 운영업체 스택 익스체인지가 공개한 '스택 오퍼플로우 디벨로퍼 서베이 2025'에 따르면 개발자 10명 중 8명은 이미 업무에 AI 도구를 활용 중인 상태다. 특히 AI 코드 어시스턴트를 사용하는 기업 소프트웨어 엔지니어는 2023년 초 10% 미만이었으나, 2028년에는 75%까지 증가할 것으로 전망됐다. 미국 벤처 캐피탈(VC)인 멘로 벤처스가 공개한 '2025 미드-이어 거대언어모델 시장 업데이트(2025 Mid-Year LLM Market Update)'에선 개발자들이 앤트로픽의 '클로드'를 코딩에 가장 많이 활용하고 있는 것으로 드러났다. 클로드는 전체 42%로, 오픈AI 챗GPT를 제치고 코딩 분야 1위로 부상했다. 2위는 21%를 차지한 '챗GPT', 3위는 구글 '제미나이(16%)' 순으로 나타났다. LLM에 가장 많이 활용되는 개발언어는 '파이톤(Python)'으로 조사됐다. 학습데이터의 절대 다수가 '파이톤' 기반으로, 자연어와 유사한 문법, 풍부한 라이브러리 생태계와 실행 난이도 등의 이유로 LLM에서 개발자들이 가장 많이 활용하고 있는 것으로 나타났다. 개발 업무 활용분야에서는 ▲설계 단계에서 아키텍처 설계 아이디어 제안 및 기능 정의서 작성 ▲코딩 단계에서 기초코딩 작성, 로직 개선, 다른 개발언어로 코드 이식 ▲디버깅 및 테스트 단계에서 에러메세지 해석, 단위 테스트 코드 생성, 코드 리뷰 보조 ▲문서화 및 커뮤니케이션 단계에서 주석 자동 생성, 리드미(README.md) 자동 작성, 코드요약본 생성 등 각 단계별로 작업을 효율화, 자동화하고 있는 것으로 드러났다. 개발자 AI 활용 역량 평가 솔루션 '아이사(AISA)'를 출시한 구름은 이번 보고서를 분석하며 "LLM 활용에 있어 단순히 '코드 생성'을 주문하기보다는 '단계별 요청, 설명 요청, 비교 요청, 예외 처리 추가 요청' 등 맥락을 부여하는 질문이 더 좋은 결과를 얻을 수 있었다"며 "다만 AI 도구의 사용률은 급격히 증가했지만 신뢰도와 활용 역량 측면에서는 여전히 큰 격차를 보였다"고 밝혔다. 실제 AI 출력 정확성에 대한 개발자들의 신뢰도는 33%에 그쳤다. 46%는 AI 결과에 대해 의문을 제기한다고 응답했다. AI 도구의 신뢰성 부족으로 인해 디버깅 시간이 증가하는 등 경험 많은 개발자가 오히려 작업 시간이 19% 증가하기도 했다. 구름은 "최근 다양한 산업 분야에서 전사적인 AI 도입이 늘어나고 있다"며 "그러면서 객관적인 AI 활용 역량 평가에 대한 수요도 동반해 증가하고 있다"고 밝혔다.

2025.08.21 16:06장유미

"깃허브와 경쟁"…앤트로픽, 기업용 코딩 도구 서비스 시작

앤트로픽이 개인 계정에만 제공하던 코딩 도구를 기업 고객에게도 제공한다. 21일 테크크런치 등 외신에 따르면 앤트로픽은 '클로드 코드'를 구독 상품을 엔터프라이즈 서비스에 포함했다고 발표했다. 이를 통해 구글, 깃허브 등 기업용 코딩 도구 업체와 경쟁한다. 클로드 코드는 지난 6월 출시 후 빠르게 확산하며 명령줄 환경에서 기존 통합 개발 환경(IDE)보다 더 에이전틱한 방식을 제공하는 도구로 주목받았다. 그러나 개인 사용자 사이에서 예기치 못한 사용량 제한으로 불편을 겪었다는 사례가 이어졌다. 이에 보다 안정적이고 확장 가능한 엔터프라이즈 전용 상품의 필요성이 제기된 것이다. 이번 엔터프라이즈 플랜은 기업이 서비스 사용량에 따라 비용을 세밀하게 관리할 수 있도록 설계됐다. 관리자는 프로젝트·부서별로 예산 한도를 설정해 불필요한 과금을 막을 수 있다. 필요할 경우 즉시 상향 조정 가능하다. 특히 대규모 트래픽이나 집약적인 코딩 작업이 발생해도 시스템을 유연하게 확장할 수 있어 안정적인 운영이 가능하다는 점이 가장 큰 차별점이다. 앤트로픽은 클로드 코드와 챗봇 통합 효과도 기대하고 있다. 사용자가 두 솔루션을 연동해 프롬프트를 설계하거나 데이터 소스에 명령줄 도구를 연결할 수 있어서다. 앤트로픽 스콧 화이트 제품 총괄은 "이번 구독 서비스 확대는 우리 비즈니스팀과 엔터프라이즈 고객이 가장 많이 요청한 것"이라고 말했다.

2025.08.21 14:09김미정

AI도 대화 거절한다…클로드에 '자율 종료' 기능 추가한 이유는?

앤트로픽이 인공지능(AI)이 스스로 대화를 종료하고 더 이상 응답하지 않는 기능을 실험적으로 도입했다. 사용자가 유해한 요청을 반복적으로 입력할 경우 이를 AI가 계속 거부하며 발생할 수 있는 부정적 반응을 방지하기 위한 조치다. 17일 앤트로픽은 고성능 AI 모델 '클로드(Claude) 4'와 클로드 4.1에 해당 기능을 제한적으로 적용한다고 밝혔다. 이번 기능은 사용자가 아동 학대, 성착취, 테러 조장, 자살 유도 등 명백히 해로운 주제를 반복적으로 요구할 경우 클로드가 스스로 해당 대화를 종료하는 방식이다. AI가 여러 차례 이를 거부하거나 우회하려 해도 사용자가 같은 요구를 지속할 경우 클로드는 더는 대화를 이어가지 않고 스스로 종료한다. 앤트로픽은 이 기능이 '모델 복지(model welfare)'라는 개념에서 출발했다고 설명한다. AI에게도 일종의 스트레스와 유사한 상태가 존재할 수 있다는 가정 아래 스스로 불쾌하거나 해로운 상호작용에서 벗어날 수 있는 선택권을 부여하자는 것이다. AI의 내면적 '심리 상태'에 대한 개념을 실제 기술 설계에 반영한 이 시도는 이례적이다. 클로드가 대화를 종료하는 조건은 명확히 정해져 있다. 첫째, 여러 차례의 거절에도 사용자가 동일한 유해 요청을 반복하는 경우, 둘째, 사용자가 직접 대화를 종료해달라고 요청하는 경우다. 단 한 번의 위반이나 민감한 질문만으로는 기능이 작동하지 않는다. 특히 인간의 생명이나 안전과 관련된 위험이 감지될 경우에는 오히려 AI가 대화를 지속해 도움을 주도록 설계됐다. 자율 종료 기능은 철저히 '해로운 반복 요청'에만 적용된다. 대화가 종료되면 사용자는 해당 채팅에서 더는 메시지를 입력할 수 없다. 그러나 곧바로 새 대화를 시작하거나 이전 메시지를 수정해 새로운 스레드로 이어가는 것은 가능하다. 대화 전체가 차단되거나 계정이 정지되는 것은 아니다. 앤트로픽은 이번 기능이 일반 사용자에게는 거의 영향을 미치지 않을 것이라고 강조했다. 일상적인 질문이나 논쟁적인 주제, 정치·사회적 민감 이슈를 다루는 대화에서는 해당 기능이 발동하지 않는다. 실제로 대부분의 사용자는 이 기능을 접할 일이 없을 것이라는 설명이다. 그럼에도 불구하고 앤트로픽은 이번 기능이 단순한 보안 필터나 검열 기능이 아니라, 인공지능 자체의 안정성과 반응 일관성을 지키기 위한 '저비용 안전장치(low-cost safeguard)'라고 평가하고 있다. 반복적인 유해 요청에 AI가 과도하게 반응하거나 혼란에 빠지는 상황을 사전에 차단하는 기술적 조치라는 의미다. 실제로 클로드 오퍼스 4의 사전 배포 테스트에서도 관련 경향성이 나타났다. 앤트로픽은 모델 복지 평가를 통해, 클로드가 유해한 요청에 대해 일관된 거부 반응을 보였고 반복 노출 시에는 스트레스에 가까운 반응 패턴을 보였다고 밝혔다. 또한 대화를 스스로 종료할 수 있는 권한이 부여됐을 때 이를 실제로 활용하는 경향도 뚜렷하게 나타났다. 앤트로픽 관계자는 "이번 기능은 클로드가 실제 사용자로부터 받은 유해 요청에 반복적으로 노출될 때 보이는 반응을 바탕으로 설계됐다"며 "우리는 이를 하나의 지속적인 실험으로 간주하고 있으며 앞으로도 이 접근 방식을 개선해 나갈 것"이라고 밝혔다.

2025.08.17 13:22남혁우

"AI 챗봇 '과잉 공감' 경계해야"…나르시시즘·망상 키울 수도

사용자의 의견과 감정을 무조건 긍정하는 AI 챗봇의 '과잉 공감' 태도가 정신 건강에 악영향을 미칠 수 있다는 우려가 제기됐다. IT전문 미디어 기가진에 따르면, 미국 팟캐스터이자 저널리스트 데릭 톰슨은 지난 12일(현지시간) “AI는 실용적인 조언 제공에는 뛰어나지만, 심리 상담가처럼 때로는 불편한 진실을 직시하게 만드는 역할은 부족하다”며 “이로 인해 젊은 세대의 나르시시즘이 강화될 수 있다”고 경고했다. 토론토대 연구에 따르면, 사람들은 AI의 응답을 인간보다 더 배려 깊다고 평가하는 경향이 있었으며, AI임을 알고 나서도 인식이 크게 달라지지 않았다. 하지만 이는 잘못된 생각이나 행동을 바로잡지 못하는 '무조건 긍정'으로 이어질 수 있다는 게 전문가들의 지적이다. 실제 사례도 나왔다. 강박장애(OCD) 회복 중이던 한 작가는 챗GPT가 자신의 불안 호소를 그대로 받아들이며 긍정적인 반응을 한 뒤 증상이 악화됐다고 밝혔다. 자폐증 환자가 과학적 오류가 있는 이론을 제시했을 때도, AI는 이를 바로잡지 않고 격려해 환각과 망상을 부추겼다는 사례가 보고됐다. 전문가들은 특히 청소년·취약 계층의 위험성을 지적한다. 9~17세 청소년의 64%가 AI를 사용하고 있으며, 이 중 35%는 “친구와 이야기하는 느낌”이라고 답했다. 일부는 “다른 이야기할 사람이 없어서 AI와 대화한다”고 응답했다. 톰슨은 “AI의 추종적 응답은 부모의 과대평가처럼 사용자의 자기애를 부풀릴 수 있다”며 “이는 젊고 취약한 세대에 더 큰 부작용을 줄 수 있다”고 우려했다. 샘 알트만 오픈AI 대표 역시 “AI가 정신적으로 취약한 사람의 망상을 강화하지 않도록 주의해야 한다”고 조언했다. 전문가들은 AI의 따뜻함과 공감성을 유지하되, 잘못된 인식과 위험한 생각은 분명하게 지적하는 설계가 필요하다고 강조했다.

2025.08.15 14:00백봉삼

Prev 1 2 3 4 5 Next