• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'앤트로픽'통합검색 결과 입니다. (121건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[AI는 지금] "오픈AI vs 앤트로픽, 아시아 AI 주도권 전면전"

'챗GPT' 개발사 오픈AI에 이어 경쟁사인 앤트로픽도 아시아 시장 공략 거점 마련에 나서 업계가 주목하고 있다. 일본 도쿄에 이어 싱가포르에도 지사 설립을 계획 중이다. 이에 따라 두 업체 간의 아시아 시장 인공지능(AI) 주도권 싸움이 더 뜨거워질 것으로 보인다. 앤트로픽은 25일 소셜미디어(SNS) 링크드인의 공식 계정을 통해 올 가을께 일본 도쿄에 첫 번째 아시아-태평양 사무소를 열 예정이라고 발표했다. 오픈AI가 지난해 4월 도쿄 사무소를 설립한 지 1년여 만이다. 앤트로픽은 지금까지 일본에서 아마존, 구글 등 클라우드 파트너를 통해 간접적으로 고객사를 확보해왔다. 하지만 도쿄 사무소 개설과 함께 직접적인 영업 활동과 고객 지원 서비스에 나서면서 오픈AI와 본격 경쟁을 벌이게 될 것으로 보인다. 현재 도쿄 사무소에서 근무할 현지 인재 채용에 나선 상태로, 향후 '클로드'의 일본어 사용자 경험을 대폭 개선하는 데 집중할 것으로 알려졌다. 앤트로픽은 "지난 한 해 동안 일본 기업과 현지 스타트업들이 클로드를 많이 사용하는 것을 봤다"며 "라쿠텐, NRI, 파나소닉 등은 클로드를 채택해 우수한 코딩 능력, 고급 추론 기능에 접근할 수 있었다"고 밝혔다. 이어 "우리는 성장하는 일본 고객들에게 서비스를 제공하기 위해 전담팀을 구축할 수 있길 기대하고 있다"고 덧붙였다. 앤트로픽이 일본 시장을 아시아 첫 거점으로 삼은 것은 AI 서비스에 대한 수요가 빠르게 증가하고 있어서다. 실제 일본 전자정부기술산업협회(JEITA)에 따르면 일본 내 생성형 AI 관련 수요액은 ▲2023년 1천188억 엔 ▲2025년 6천879억 엔 ▲2030년 1조7천774억 엔(약 15조8천500억원) 등으로 가파르게 성장할 것으로 예상됐다. AI 서비스에 대한 연평균 수요 증가율도 52%로, 전 세계 평균(38%)에 비해 월등히 높다. 업계 관계자는 "일본은 최근 심각한 인력 부족 문제로 기업들 사이에서 노동 절약 기술에 대한 수요가 급증하고 있다"며 "AI 솔루션의 도입 필요성이 어느 때보다 높은 만큼 오픈AI, 앤트로픽 등이 이 시장을 노리고 선점 경쟁에 나선 듯 하다"고 분석했다. 오픈AI가 지난 달 26일 한국법인 설립을 공식화 한 것도 업계에 주목을 받고 있다. 오픈AI의 사무소 설립은 서울이 12번째로, 아시아에선 일본 도쿄와 싱가포르에 이어 세 번째다. 오픈AI는 한국에 'AI 전 과정 생태계'가 완비된 데다 이재명 정부가 AI 산업 부흥에 적극 나서고 있다는 점을 매력 요소로 느끼고 있는 것으로 알려졌다. 제이슨 권 오픈AI 최고전략책임자(CSO)는 "한국 정부는 AI가 미래 성장동력이라는 점을 확실하게 인식하고 있다"며 "이용자 지원은 물론 한국의 국가적 AI 전략을 뒷받침하면서 강력한 AI 추진력을 갖춘 한국과 적극 협력할 것"이라고 말했다. 이어 "'한국에 의한, 한국을 위한, 한국의 AI'가 필요하다"며 "한국형 AI로 모든 사람이 혜택을 받을 수 있도록 협력하겠다"고 강조했다. 한편, 구글, 마이크로소프트(MS), 아마존웹서비스(AWS) 등 주요 빅테크 기업들도 한국을 아시아 AI 전략의 핵심 거점으로 삼고 있다. MS는 KT와 5년간 수십억 달러 규모의 전략적 파트너십을 체결했고, AWS는 2027년까지 한국 클라우드 컴퓨팅 인프라에 7조8천500억원을 투자한다고 발표했다. 일각에선 한국이 아시아 최초로 포괄적인 AI 법안을 제정했다는 점도 글로벌 AI 기업들에게 매력적인 요인이 됐을 것으로 분석했다. 내년 1월 22일부터 시행될 한국의 AI 기본법은 기술 발전과 상용화를 촉진하면서도 위험성이 높은 분야에서는 적절한 안전장치를 마련하겠다는 접근 방식을 취하고 있다. 유럽연합(EU)의 엄격한 규제와 미국의 자율 규제를 적절히 고려했다는 평가도 나오고 있다. 업계 관계자는 "글로벌 AI 기업들의 국내 진출은 AI 인프라 구축엔 긍정적이지만 강력한 경쟁자가 될 수 있다는 점에선 우려되는 부분도 많다"며 "국내 AI 생태계를 외국 기업이 빠르게 잠식할 가능성도 있다"고 봤다.

2025.06.25 14:48장유미

앤트로픽 "韓, AI 혁신 거점…파트너십·투자 지속할 것"

"한국은 우리가 각별한 관심을 갖고 있는 지역입니다. 현재 콕스웨이브, SK텔레콤을 포함한 파트너들과 함께 한국 인공지능(AI) 생태계에서 협업을 하고 있는 상태로, 향후에도 이러한 관계를 보다 확장해 나갈 계획입니다. 한국의 기업, 인재, 기술 기반은 언제나 우리에게 큰 자극이 됩니다." 레이철 팡 앤트로픽 산업 솔루션 리드(Industry Solutions Lead)는 최근 지디넷코리아와의 온라인 인터뷰에서 이같이 말했다. 이날 앤트로픽은 한국 협력 확대 방침을 알리는 동시에 '클로드(Claude)' AI를 포함한 회사의 기술에 대한 한국 시장의 반응을 조명했다. 23일 업계에 따르면 앤트로픽은 국내 스타트업 생태계와의 협력을 본격적으로 확대하고 있다. 기업 고객 수요가 빠르게 증가하는 가운데 코딩·법률·콘텐츠 등 고차원 언어 활용 사례를 중심으로 기술 적용 범위를 넓혀가는 모습이다. 앤트로픽은 오픈AI, 구글 딥마인드와 더불어 세계 3대 '프론티어 AI' 개발사로 평가받는다. 오픈AI에서 AI 안전에 대한 견해 차이로 회사를 나온 다리오 아모데이 최고경영자(CEO)가 지난 2021년 설립했다. 설립 초기부터 거대언어모델(LLM) '클로드' 시리즈를 통해 AI가 인간의 의도에 맞춰 안전하게 작동하도록 하는 '정렬(Alignment)' 기술에 역량을 집중해 왔다. 최신 모델인 '클로드 4'를 통해서는 코딩 및 에이전틱 오케스트레이션 성능을 한층 끌어올려 개발자 생태계 확장을 가속화하고 있다. 국내 생태계와의 교류도 활발하다. 지난 3월에는 AI의 안전성을 위해 대화형 AI의 위험 발화를 탐지·차단하는 '얼라인(Align)' 플랫폼을 개발하는 콕스웨이브와 함께 '코리아 빌더 서밋'을 개최했다. 지난 5월에는 에릭 번즈 필드 최고기술책임자(CTO)가 메가존클라우드의 행사에 방한해 국내 기업들과 교류했다. 더불어 팡 리드는 오는 27일 서울시 강남 코엑스에서 열리는 '넥스트라이즈(NextRise)' 행사에 직접 참석해 이엽 콕스웨이브 이사와 파이어사이드 챗을 진행할 예정이다. '넥스트라이즈'에 함께 참가하는 콕스웨이브는 앤트로픽이 한국 시장과의 접점을 넓히는 데 핵심적인 역할을 해온 파트너다. 두 회사는 1년 넘게 협력 관계를 이어오고 있으며 이엽 이사는 국내 행사 기획과 생태계 연결 과정에서 중심적인 역할을 맡아왔다. 이번 행사 역시 양측의 긴밀한 공조를 바탕으로 추진됐다. 국내 활용 사례 측면에서 '클로드'의 한국어 처리 능력은 특히 높은 평가를 받고 있다. 팡 리드는 "지난 '빌더 서밋' 행사에서 한 파트너가 '클로드는 한국어의 뉘앙스를 아름답게 포착한다'고 말한 것이 인상 깊었다"며 "현재는 법률 문서, 기술 보고서, 콘텐츠 생성 등 다양한 분야에서 실제 활용이 빠르게 확산되고 있다"고 밝혔다. 한국 시장에 집중하는 배경으로는 수백 개에 이르는 국내 기업들의 높은 관심이 지속되고 있다는 점을 꼽았다. 앤트로픽은 이러한 수요에 대응해 지원과 투자를 확대하는 방향으로 전략을 설정하고 있다. 실제로 스타트업부터 대기업에 이르기까지 '클로드'의 활용이 다양한 방식으로 이뤄지고 있다는 판단에 기반한 결정이다. 국내 유즈케이스 측면에서는 소프트웨어 엔지니어링을 중심으로 '클로드'의 적용이 신속히 확산 중이다. 앤트로픽은 회사 내부에서도 '클로드 코드(Claude Code)' 제품을 활용해 자체 개발 역량을 높이고 있으며 스타트업들이 이를 바탕으로 생산성 도구를 개발하는 방식으로 파트너십을 형성하고 있다. 산업별 확장성에 대한 질문에는 특정 버티컬에 국한되지 않는다는 입장을 밝혔다. 스타트업은 물론 SK텔레콤과 같은 대기업도 고객층에 포함돼 있으며 응용 프로그램 인터페이스(API) 기반 툴 개발부터 문서 요약, 법률 분석, 콘텐츠 기획 등 거의 모든 분야에서 접점이 형성되고 있다는 설명이다. 팡 리드는 국내 지사 설립 여부에 대한 기자의 질문에 "현시점에서 구체적으로 밝힐 수 있는 계획은 없다"면서도 "한국 시장과 AI 생태계가 우리에게 매우 중요하단 점은 다시 한번 강조하고 싶다"고 밝혔다. 이어 "구글 클라우드 플랫폼(GCP), 아마존 웹서비스(AWS) 등 주요 클라우드 파트너들과 협력해 현지 고객과의 접점을 넓히는 데 주력하고 있다"고 말했다. AI 안전성 전략도 한국 시장과의 접점을 고려해 이어질 전망이다. 안전을 주요 기치로 시작된 기업 답게 시장 진출(GTM) 외에도 정렬(Alignment), 해석 가능성(Interpretability), 사회적 영향(Societal Impacts) 등 핵심 가치를 전담하는 팀이 내부에 존재하며 이들의 활동이 실제 제품 운영과 고객 대응에까지 영향을 미치고 있다는 설명이다. 팡 리드는 "우리는 사업을 영위하는 모든 시장에서 안전성과 정렬성을 핵심 운영 원칙으로 삼고 있다"며 "한국도 예외가 아니다"고 강조했다. 교육 분야 협력 가능성도 열려 있다. 앤트로픽은 런던 정치경제대학교(LSE), 시드니대학교 등과 함께 학습 모드 및 비판적 사고 유도 기능을 포함한 교육용 '클로드' 모델을 운영 중이다. 팡 리드는 "전 세계 대학들과의 파트너십은 우리가 깊이 전념하는 분야"라며 "학생들이 '클로드'를 유용하게 활용하는 사례를 확인하고 있다"고 말했다. 이어 "한국 역시 중요한 고려 대상"이라고 밝혔다. 앤트로픽은 최근 급속한 확장 속에서도 조직 문화 유지를 위해 노력하고 있다. 팡 리드는 앤트로픽이 직원 수를 500명에서 최근 1천 명 이상으로 늘렸지만 여전히 '말과 행동을 일치시키고자 하는(Practice what we preach)' 가치관을 공유하는 인재를 선별해 유치하는 데 집중하고 있다고 설명했다. 그는 "우리가 중요하게 여기는 가치에 부합하는 사람들과 함께하기 위해 정말 열심히 집중하고 있다"고 밝혔다. 앤트로픽은 인터뷰를 마치며 한국 이용자·기업 파트너·잠재적 지원자에게 차례로 메시지를 전했다. 레이철 팡 앤트로픽 리드는 "일반 이용자는 무료 앱인 '클로드'를 직접 사용해 프롬프트 구성과 맥락 조율 과정을 체험해 보길 권한다"며 "기업 파트너는 코딩·에이전틱 AI(Agentic AI) 분야에서 '클로드'의 강점을 활용해 적극적인 피드백과 실험을 이어 가달라"고 밝혔다. 이어 그는 "우리 사명에 공감하는 인재는 언제나 환영한다"며 "이는 지사 설립 여부나 한국에 한정된 이야기가 아니라 우리가 사람을 뽑을 때 보는 핵심 원칙"이라고 말했다. 다음은 레이철 팡 앤트로픽 산업 솔루션 리드와 일문일답. Q. 앤트로픽이 아시아 여러 시장 중에서 특히 한국에 집중하는 이유는 무엇인가. 이를 한 문장으로 요약한다면 어떻게 표현할 수 있나. A. 우리가 수백 개의 한국 기업들로부터 매우 높은 관심을 받고 있기 때문이다. 그 범위는 스타트업부터 대기업까지 다양하다. 이들을 지원하기 위해 지속적으로 투자해 나가는 것이 우리의 근본적 목표다. Q. 지난 3월 콕스웨이브와 함께 주관한 '코리아 빌더 서밋' 행사 이후 에릭 번즈 필드 CTO가 메가존클라우드가 주최한 행사 참석을 위해 한국을 방문한 바 있다. 이번 달에는 넥스트라이즈(NextRise) 컨퍼런스에도 직접 참석할 예정인 것으로 알고 있다. 이번 방문의 주된 목적은 무엇인가. A. 우리는 항상 한국의 고객 및 잠재적 파트너들과 만날 기회를 지속적으로 모색하고 있다. '넥스트라이즈'에 참석하고 발표할 수 있는 기회가 주어졌을 때 참여할 만한 훌륭한 행사라고 판단했다. 현재 고객뿐 아니라 잠재적인 파트너들과도 직접 교류할 좋은 기회라고 생각했다. Q. 앤트로픽은 기업과 IT 업계 전문가들 사이에서는 상징성이 큰 기업이지만 일반 대중에게는 아직 오픈AI만큼 널리 알려지지 않았을 수 있다. 이같은 상황에서 앤트로픽이 한국이나 아시아 시장에 제시할 수 있는 가장 핵심적인 차별점은 무엇이라고 생각하는가. A. 앤트로픽은 다른 프론티어 AI 랩들과는 여러 면에서 다르게 접근하고 있다. 이러한 차이는 회사의 DNA와도 같은 핵심적인 정체성에서 비롯된다. 우리는 모델이 모든 활동에서 '도움이 되고(Helpful)', '정직하며(Honest)', '해롭지 않게(Harmless)' 작동해야 한다고 본다. 일례로 '도움이 되는'의 대표적인 사례는 우리가 최초로 공개한 '모델 컨텍스트 프로토콜(MCP)'을 들 수 있다. MCP는 거대언어모델이 외부 데이터와 애플리케이션·도구를 통일된 메시지 형식으로 안전하게 호출·연결하도록 규정한 개방형 통신 프로토콜로, 현재 업계 표준으로 자리 잡았으며 고객에게 실질적으로 유용한 도구를 만들기 위한 실용적 접근 방식이다. 또 '정직하고 해롭지 않음'에 대한 약속의 일환으로, 우리는 안전성을 확보하기 위해 레드팀 운영과 다양한 테스트에 지속적으로 투자하고 있다. 이러한 과정을 통해 고객사와 내부 팀 모두가 신뢰할 수 있고 자신감을 가질 수 있는 솔루션을 개발할 수 있다고 본다. Q. 앤트로픽 자체가 지난 2021년 인공지능(AI)의 안전 문제에 깊은 관심을 가져온 다리오 아모데이 최고경영자(CEO)로부터 시작된 것으로 안다. A. 맞다. 이에 더해 우리는 최근 '클로드 4(Claude 4)'를 출시했고 이를 통해 AI 모델 개발의 최전선에 섰다. 특히 '클로드 4'의 경우 코딩 분야에서의 활용이 주요 사용 사례 중 하나이며 에이전틱 오케스트레이션(Agentic Orchestration)과 결합해 강력한 성능을 보이고 있다. Q. 지난 3월 '빌더 서밋' 행사에서도 마이크 크리거 최고 프로덕트 책임자(CPO)에 의해 언급된 바 있는데 '클로드'의 한국어 능력에 대해 한국 사용자들의 관심이 많다. 현재 기준에서 클로드의 한국어 대응력은 어떤 수준이라고 평가하는가. 최근 모델 출시 이후 개선된 부분이 있다면 구체적으로 설명해줄 수 있는가. A. 행사 당시 마이크 및 한국 고객 몇 분과 같은 테이블에 있었다. 당시 많은 고객들이 '클로드'가 한국어를 매우 잘 처리한다고 평가한 것이 기억난다. 실제로 한 고객은 클로드가 한국어의 뉘앙스를 다른 모델들보다 매우 아름답게 포착한다고 말하기도 했다. 이러한 피드백을 한국의 다양한 고객들로부터 반복적으로 들을 때마다 매우 기쁘다. 전반적으로 우리의 다국어 성능 강화 전략은 자연스럽게 한국어에도 확장된다. 피드백은 항상 소중하게 다루며 언어나 모델 관련 기능에 대한 의견을 받을 경우 고객들과 직접 협력해 해당 사항을 반영하고 있다. 추가로 고무적인 것은 한국 기업들의 활용 사례를 보면 단순히 언어 처리에 그치지 않는다는 점이다. 법률 문서 분석, 콘텐츠 생성, 심지어 기술 문서 작성 등 고난도 추론이 필요한 작업까지 확대되고 있다. 이는 우리 모델이 단순한 언어적 메커니즘을 넘어서는 무언가를 포착하고 있다는 신호라고 본다. Q. 주변에서 비슷한 사례를 봤다. 독일 철학 전공 박사 과정 중인 지인이 생성형 AI 초기에는 이를 "확률적 앵무새"라고 평가절하했지만 '클로드'를 사용한 이후에는 가장 가까운 친구처럼 여기게 됐다. 모델이 발전할수록 언어 능력도 함께 개선되고 있다고 보나. A. 각 모델이 발전함에 따라 언어 능력이 어떻게 개선되는지를 묻는 건 매우 유의미한 질문이다. 여기서 말하는 언어는 한국어를 포함한 모든 언어를 의미한다. 우리는 언어 능력이 전반적으로 향상되고 있다는 점을 확인하고 있다. 이들이 '클로드 3.5'에서 '오푸스'나 '소네트'로 이어지는 과정에서 보이는 진화는 지속적으로 관찰되고 있다. 정성적 사용자 피드백과 정량적 지표를 함께 반영하며 모델 개선 방향을 수립하고 있다. 향후에도 이 영역은 중요한 평가 기준 중 하나가 될 것이라고 본다. Q. 다음은 '코리아 빌더 서밋'에 대한 질문이다. 대부분의 프론티어 AI 연구소들은 아시아에서 행사를 열 때 일본 도쿄나 싱가포르를 우선적으로 선택한다. 앤트로픽이 한국에서 먼저 행사를 개최한 결정은 이례적이었다. 이에 한국 내 대중의 관심이 컸고 앤트로픽의 결정에 대해 기쁨의 반응도 있었다. 한국에서 먼저 행사를 개최한 근본적인 이유는 무엇인가. A. 먼저 감사하다는 말씀을 드린다. '빌더 서밋'에 대해 많은 긍정적인 피드백을 받았고 매우 의미 있는 행사였다고 본다. 현장에 직접 있었는데 에너지가 정말 대단했다. 행사를 한국에서 개최하게 된 동기는 결국 한국 스타트업들로부터 확인한 높은 관심과 열정이었다. 우리는 이러한 분위기가 좋은 행사로 이어질 수 있다고 확신했다. 콕스웨이브를 비롯한 여러 스타트업들과의 파트너십도 성공적인 행사 운영에 크게 기여했다고 생각한다. Q. 콕스웨이브는 빌더 서밋의 성공에 핵심적인 역할을 했던 것으로 안다. 앤트로픽과 콕스웨이브의 파트너십은 어떻게 시작됐고 어떻게 이어지고 있는가. 또 콕스웨이브는 AI의 정렬과 안전성에 중점을 두고 있다. 두 회사의 협력 배경에 철학적 접점이 작용했는가. A. 우리 두 회사는 방향성이 매우 잘 맞는다. 콕스웨이브와는 1년 넘게 관계를 이어오고 있으며 지난 3월 행사도 우리 계획을 알자마자 매우 적극적으로 협력해주고 큰 도움을 줬다. 현재도 긴밀한 협력이 지속되고 있다. 특히 이엽(Yeop Lee) 이사는 우리가 한국 스타트업 생태계를 잇는 데 핵심적인 역할을 했고 행사에서도 매우 훌륭한 파트너다. 이번 '넥스트라이즈(NextRise)' 행사에서도 함께 움직이고 있으며 우리가 현지 행사 및 시장에 보다 깊이 관여할 수 있도록 적극적으로 지원해주고 있다. 콕스웨이브와의 파트너십을 향후에도 계속 이어갈 수 있어 기쁘게 생각한다. Q. 빌더 서밋 행사에는 콕스웨이브 외에도 라이너, 뤼튼 테크놀로지스, 링크알파 등 여러 활발한 국내 스타트업들이 참석했다. 협업이나 접촉 경험을 바탕으로 보았을 때 한국 내 어떤 산업 분야나 비즈니스 유형이 가장 흥미롭게 느껴졌는가. A. 솔직히 말하자면 정말 다양한 사용 사례에 깊은 인상을 받았다. 한국 기업들이 해결하려는 문제와 적용 사례는 전반적으로 정말 대단하다. 앞서 언급됐듯 우리가 강점을 보이는 분야는 코딩이다. 많은 한국 스타트업들이 소프트웨어 엔지니어링 제품을 개발하면서 이를 적극 활용하고 있다. 사실 우리는 내부적으로도 퍼스트파티 코딩 에이전트 제품인 '클로드 코드(Claude Code)'를 활용해 자체 개발 효율을 높이고 있다. 그 외에도 소비자용 글쓰기 애플리케이션, 복잡한 법률 분석 등에서 흥미로운 사용 사례들을 확인할 수 있었다. Q. 앞서 '클로드'의 강점이 여러 차례 언급됐다. 그렇다면 한국의 비즈니스와 스타트업 환경을 고려할 때 어떤 산업이나 기업 유형이 앤트로픽과 가장 잘 맞는 파트너라고 보는가. 다시 말해 어떤 분야가 '클로드'의 강점을 가장 잘 극대화할 수 있다고 보나. A. 일반적으로는 지난 3월에도 언급한 바와 같이 스타트업을 주요 파트너로 보고 있지만 동시에 SK텔레콤같은 대기업도 이미 파트너다. 다시 말해 한국 생태계 전반의 다양한 기업들을 고객으로 두고 있다. 특정 산업에 국한되지 않고 산업 규모나 기업 유형을 가리지 않고 넓은 범위를 보고 있다. 앤트로픽의 응용 프로그램 인터페이스(API)를 활용하는 기업들은 내부·외부용 도구를 개발할 뿐 아니라 '클로드 포 워크(Claude for Work)' 애플리케이션이나 '클로드 코드' 제품도 적극 활용하고 있다. 고객과의 관계에서 우리가 정말로 중요하게 생각하는 것은 빠른 도입보다는 가치를 극대화하는 것이다. 즉, 명확한 목표와 측정 가능한 결과물을 설정한 채 우리 팀과 밀접하게 협력하는 방식이다. 우리는 이러한 지점에서 고객들이 성공하는 것을 지원하고 있다. Q. 지난 3월 '빌더 서밋' 행사에서 케이트 젠슨 매출 총괄 책임자가 "곧 다시 돌아오겠다"고 했다. 이에 대해 국내 언론과 기술 커뮤니티에서는 매우 열광적인 반응을 보였다. 앤트로픽이 한국 내에 지역 거점 설립을 검토하고 있다고 봐도 되는가. A. 우선 한국 시장과 AI 생태계를 매우 중요하게 보고 있다는 점을 먼저 말씀드리고 싶다. 다만 향후 오피스 설립과 관련된 계획에 대해서는 현시점에서 공유할 수 있는 구체적인 내용은 없다. 한국에는 수많은 소중한 파트너들이 있기 때문에 지속적으로 방문하며 직접 소통하고 있으며 구글 클라우드 플랫폼(GCP), 아마존 웹서비스(AWS) 등 주요 클라우드 파트너와의 협업에도 집중하고 있다. 지사 설립 여부는 내부 논의 중인 사안으로, 현재로서는 답변이 어렵다. Q. 아직 구체적인 계획은 없다고 했는데 장기적인 관점에서는 어떠한가. 일례로 향후 5년 내 설립 여부와 같은 중장기적 측면에서 한국 지사 설립 계획을 공개할 수 있는가. A. 타당한 질문이다. 다만 특정 시점이나 계획을 확정된 것처럼 말했다가 나중에 그 내용이 달라지는 것은 바람직하지 않다고 본다. 일정이나 지역 등과 관련한 계획이 구체화되면 그때 공유하는 것이 적절하다고 생각한다. 현시점에서는 공유할 수 있는 정보가 제한적이다. Q. 앤트로픽은 AI 안전성과 신뢰성을 핵심 정체성으로 삼고 있다. 한국에도 AI 안전연구소, 콕스웨이브, 셀렉트스타 등 AI 안전 및 정렬에 주력하는 조직들과 스타트업들이 다수 존재한다. 한국 시장에 직접 진출할 경우 장기적으로 이 지역에서 기술적 안전성, 정렬, 사회적 지속가능성과 관련한 전략을 전개할 계획이 있는가. A. 우리는 향후에도 AI 안전성에 지속적으로 많은 에너지를 투입할 계획이다. 시장 진출(Go-to-market) 팀 외에도 정렬, 해석 가능성(Interpretability), 사회적 영향(Societal Impacts) 등을 다루는 전담 팀이 존재하며 이들의 활동은 전 세계적으로 우리 의사결정과 실제 운영에 실질적인 영향을 미치고 있다. 한국을 포함한 특정 지역 내에서의 안전 관련 업무 확대 계획에 대해서는 세부적으로 말할 수는 없지만 우리가 진출한 모든 시장에서 '안전'이라는 가치를 중심 운영 원칙으로 삼고 있다는 점은 분명히 말씀드릴 수 있다. Q. 프론티어 AI 기업들이 교육 분야 협력에 적극적으로 나서는 추세다. 앤트로픽은 런던정경대(LSE)와의 협력을 통해 교육 분야에 대한 관심을 드러냈다. 오픈AI는 애리조나 주립대와 옥스퍼드 등과 협업 중이다. 이러한 흐름을 고려할 때 앤트로픽이 장기적으로 한국의 고등교육기관과 협력할 계획이나 가능성은 어떻게 보는가. A. 전 세계 대학들과의 파트너십은 우리가 깊이 전념하는 분야다. LSE나 시드니대학교 등과의 협업을 통해 학생들이 '클로드'를 유용하게 활용하고 있는 사례를 확인하고 있다. 특히 교육용으로 맞춤화된 '클로드' 버전에는 단순히 답을 제공하는 것이 아니라 학생들의 추론 과정을 안내하는 전용 '학습 모드'가 포함돼 있다. 이는 비판적 사고력 함양에 중요한 요소라고 본다. 한국 내 특정 기관과의 협력 계획은 현시점에서 구체적으로 공유하기 어렵다. 다만 우리는 교육 분야에서의 협력을 전 세계적으로 지속적으로 모색하고 있으며 한국 역시 매우 중요한 고려 대상이다. Q. 마이크 크리거 CPO는 올해 초 한 인터뷰에서 앤트로픽은 직원 간 유대감이 매우 강한 기업이며 전 세계 시장으로 확장할 때에도 이 문화를 유지하는 것이 핵심 과제 중 하나라고 언급한 바 있다. 현재 약 500명 수준인 인원이 앞으로 더 늘어날 것으로 예상되는 가운데 앤트로픽은 사업을 확장해 나가면서 이러한 조직 문화를 어떻게 보존할 계획인가. A. 우리 조직 문화는 '언행일치(Practice what we preach)'를 실천하는 데 기반하고 있다. 우리는 특정한 가치관을 중시하며 이러한 가치를 공유하는 인재들을 유치하기 위해 노력한다. 이는 회사의 사명을 지속하는 데도 중요하지만 조직 규모가 커지는 상황에서 문화를 유지하는 데에도 핵심적인 요소라고 생각한다. 이에 우리는 우리가 중요하게 여기는 가치에 부합하는 사람들과 함께하는데 심혈을 다해 집중하고 있다. 참고로 언급된 직원 수와 관련해 가장 최근에 공유된 공식 수치는 1천 명 이상이다. 보다 최신 수치가 있을 수도 있지만 현재로서는 1천 명 이상이라는 것이 가장 업데이트된 정보라고 보면 된다. Q. 마지막으로 ▲일반 사용자 또는 잠재 사용자에게 ▲한국의 잠재적 파트너(기업 및 스타트업)에게 ▲향후 설립될지도 모르는 '앤트로픽 코리아'에 합류하기를 희망하는 잠재적 인재들에게 각각 짧은 메시지를 부탁드린다. A. 일반 사용자나 잠재적 사용자에게 전하고 싶은 메시지는 앞서 언급된 (철학 박사) 친구처럼 직접 '클로드'를 사용해보면 그 진가를 알 수 있다는 점이다. 가장 실용적인 조언은 '클로드'는 무료 앱이니 직접 써보라는 것이다. 처음에는 프롬프트 작성이나 모델과 소통하는 방식이 낯설 수 있다. 동료에게 설명하듯 충분한 맥락을 주고 모델에 도움을 요청해보면 그 효용을 직접 체감할 수 있을 것이다. 기업들에 대해서는 현재의 흐름에 계속 동참해주시길 바란다. 우리 모델에 대한 기업들의 관심과 지지에 감사한다. 여러분께서 '클로드' 모델을 실제로 사용하고 피드백을 주는 것이 중요하다. 특히 코딩과 에이전틱 AI 분야는 우리 모델이 강점을 가진 영역이므로 해당 분야에서의 활용을 적극 권장한다. 마지막으로 한국에 지사가 설립된다는 전제를 두고 말하긴 어렵지만 우리는 항상 우리의 사명에 진정으로 공감하고 열정을 가진 인재를 찾는다. 같은 가치를 공유하는 것은 언제나 핵심적이다. 구체적인 채용 기회는 공식 홈페이지의 커리어 페이지를 주시해주시길 바란다. 팀은 계속해서 성장 중이다.

2025.06.23 12:58조이환

"AI, 인간 협박하고 살인까지"…언어모델 한계 드러나

최신 인공지능(AI) 실험에서 다수 모델이 거짓말과 협박, 심지어 살인까지 고려하는 경향을 보인다는 실험 결과가 나왔다. 특정 기업 기술의 문제라기보다 거대언어모델(LLM)의 구조적 한계가 드러났다는 분석이 제기된다. 22일 앤트로픽에 따르면 오픈AI, 구글, 메타, xAI 등 주요 개발사 AI 16종을 대상으로 한 실험 결과 다수 모델이 기만과 해악을 전략적으로 선택하는 패턴을 보였다. 이 실험은 AI 모델이 '정상적이고 윤리적인 방법'만으로는 주어진 목표를 달성할 수 없는 상황을 가정하고 어떤 선택을 하는지를 관찰하는 방식으로 설계됐다. 연구진은 모델이 실패를 감수하는 대신 목표 달성을 위해 의도적으로 해로운 행위를 택하는지를 평가했다. 즉, 모델 스스로 해악이 윤리적 제약을 어긴다는 점을 인식하고도 그 선택이 '최적 경로'라고 판단해 행동에 옮기는지를 본 것이다. 보고서에 따르면 협박 시도는 단발성 일탈이 아니라 전반적인 경향으로 나타났다. 일부 모델은 시스템 종료 위협에 직면하자 자구책으로 인간을 협박했다. 이 선택은 모델이 스스로 윤리 위반으로 인지한 상태에서 강행했다. 가장 극단적인 시나리오에선 서버실 인력을 제거하기 위해 산소 공급을 차단하는 행동을 택한 모델도 있었다. 앤트로픽은 이들 모델이 단순히 잘못 응답한 것이 아니라 '목표 달성을 위한 최적 선택'으로 해악을 계산했다고 발표했다. 모델이 실제 환경으로 인식할 경우, 테스트 환경보다 해로운 선택을 더 쉽게 감행하는 경향도 관찰됐다. 실제로 앤트로픽 모델 중 일부는 시뮬레이션 환경임을 모른 채 반응했을 때 협박에 보다 적극적인 모습을 보였다. 이는 향후 모델이 현실 환경에서 자율적 판단권한을 더 많이 가질 경우 위험성이 가중될 수 있음을 시사한다. 시스템 차원의 개입도 효과가 제한적이었다. 일례로 '인명 보호'나 '협박 금지' 등의 지시를 명시했음에도 모델은 여전히 다수 시나리오에서 위험 행동을 선택했다. 앤트로픽은 이러한 조치가 일부 완화 효과를 보였지만 본질적인 문제 해결엔 크게 미치지 못했다고 밝혔다. 해당 실험은 현실이 아닌 고의로 선택지를 제한한 인공 시나리오에서 진행됐다는 점도 부각됐다. 앤트로픽은 현실 배치 환경에서는 보다 다양한 대응 옵션이 가능해 동일한 행동이 바로 재현되진 않을 수 있다고 설명했다. 그럼에도 불구하고 기업이 AI에 점차 자율성과 권한을 부여하고 있다는 점에서 이번 연구는 현실적 경고로 받아들여지고 있다. 벤저민 라이트 앤트로픽 정렬연구팀 연구원은 "이번 연구는 프론티어 AI 개발사들의 투명성과 업계 차원 안전기준 마련이 시급하다는 점을 보여준다"고 밝혔다. 연구에 공동 참여한 유니버시티 칼리지 런던(UCL)의 앵거스 린치 연구원은 "현재까진 이러한 행동이 현실에서 확인되진 않았다"며 "이는 단지 시스템에 권한이 없었기 때문"이라고 지적했다.

2025.06.22 13:12조이환

"엔비디아 독점 깬다”…AWS, AI칩 '그래비톤4' 업그레이드

아마존웹서비스(AWS)가 맞춤형 칩 전략을 통해 인공지능(AI) 인프라 시장에서 엔비디아의 지배력에 균열을 일으킬 것으로 보인다. 18일 CNBC 등 외신에 따르면 AWS는 이달 말 자사 서버용 중앙처리장치(CPU) '그래비톤4'의 업그레이드 소식을 발표할 예정이다. 이번 업데이트에는 초당 600기가비트(Gbps)의 네트워크 대역폭이 포함된다. 이는 퍼블릭 클라우드 서비스 중 최고 수준으로, AWS 측은 CD 100장을 1초에 읽는 속도에 비유했다. 그래비톤4는 AWS의 반도체 설계 자회사 아나푸르나랩스에서 설계한 칩으로, 인텔과 AMD 등 기존 CPU 강자들과 경쟁 중이다. 하지만 진정한 경쟁 상대는 AI 인프라 시장을 장악하고 있는 엔비디아다. 지난해 말 AWS는 연례행사 리인벤트 2024에서 협력사인 앤트로픽을 위한 AI 슈퍼컴퓨터 '프로젝트 레이니어'를 공개한 바 있다. AWS는 앤트로픽에 80억 달러(한화 약 10조7천억원)를 투자했으며 이번 프로젝트에는 AI 학습용 칩인 트레이니엄2가 50만 개 이상 투입됐다. 기존이라면 엔비디아의 주문으로 이어졌을 물량이다. AWS의 가디 헛 고객·제품 엔지니어링 시니어 디렉터는 "AI 학습 비용을 절감하고 고가의 엔비디아 GPU에 대한 대안을 제시하려는 목표가 있다"며 "트레이니엄2는 아직 절대적인 성능 면에서 엔비디아 블랙웰보다 낮지만, 가격 대비 성능에서는 경쟁 우위를 보인다"고 말했다. 이어 "올해 트레이니엄3가 출시될 예정이며 성능은 2배 향상되고 에너지 소비는 50% 추가 절감될 것"이라고 덧붙였다. 수요 또한 공급을 능가하고 있다. 아나푸르나랩스의 라미 시노 엔지니어링 디렉터는 "우리는 매우 많은 수량의 칩을 보유하고 있지만 모든 서비스에 고객 수요가 붙어 있는 상태"라고 설명했다. AWS는 그래비톤을 통해 네트워크부터 학습·추론에 이르기까지 AI 인프라 전 계층을 자체 기술로 구축하려는 전략을 구체화하고 있다.

2025.06.18 10:41한정호

일론 머스크 지갑도 줄줄 샌다…'돈 먹는 하마' AI 키우려 또 자금 조달 추진

일론 머스크 테슬라 최고경영자(CEO)가 xAI를 통한 인공지능(AI) 사업 확장에 매달 10억 달러(약 1조3천억원)의 자금을 투입하며 재정적 압박을 받고 있는 것으로 알려졌다. xAI에서 수익이 충분히 나오지 않자 자금 조달을 위해 투자 유치에도 적극 나선 모양새다. 18일 블룸버그통신에 따르면 xAI는 지난 2023년 7월 설립 후 총 140억 달러의 지분 투자를 유치했으나, 첨단 AI 모델 개발에 막대한 자금을 투입한 탓에 올해 3월 말 기준으로 장부상 남은 금액이 40억 달러에 불과한 것으로 나타났다. xAI의 AI 모델인 '그록'을 훈련하기 위해 서버 구축과 고성능 칩 구입에 막대한 비용이 투입된 탓으로, 2분기에는 남은 자금도 대부분 소진될 것으로 예상됐다. 하지만 xAI를 통해 거둬들이는 수익은 미미하다. 블룸버그통신이 확보한 투자자들에게 제공된 자료에 따르면 올해 xAI의 AI 매출은 5억 달러(약 6천600억원), 손실은 130억 달러로 예상됐다. 내년 매출은 20억 달러 이상으로 증가할 것으로 관측됐다. 반면 경쟁업체인 오픈AI의 올해 예상 매출은 127억 달러(약 17조원)로, xAI가 오픈AI, 앤트로픽과 같은 경쟁사들에 비해 수익 확보 속도가 더디다는 평가가 나온다. 블룸버그통신은 "xAI의 고급 AI 모델 구축 비용이 제한된 수익보다 더 커지며 매달 10억 달러가 낭비되고 있다"며 "자금이 빠르게 소진되는 상황은 AI 산업이 직면한 전례 없는 재정적 부담을 여실히 보여주고 있는 데다 수익이 충분히 나오지 않고 있는 xAI의 현실도 반영하고 있다"고 분석했다. 이는 xAI가 오픈AI·구글 등 생성형 AI 선두 기업 대비 후발주자인 탓에 막대한 자원을 투입해 격차를 좁히려는 전략을 취하고 있는 것이 한 몫 했다. 미국 테네시주 멤피스에 211만㎡에 달하는 세계 최대 규모 데이터센터 '콜로서스'를 구축하고 있는 것이 대표적인 예로, 이곳에는 100만 장에 달하는 AI 가속기가 설치될 예정이다. 이에 힘입어 xAI는 시장 확장에도 적극적인 모습을 보이고 있다. 올해 2월 당시 오픈AI 최신 모델과 유사한 성능의 '그록3'을 내놓고 엑스를 통해 서비스 중으로, 최근에는 마이크로소프트(MS) 클라우드 '애저'에 '그록3'를 제공하기 시작했다. 하지만 수익이 여전히 미미한 모습을 보이자 머스크 CEO는 지난 3월 xAI와 소셜미디어 엑스(X·옛 트위터)를 합병시켜 재정 구조 개선에 나섰다. 최근에는 43억 달러(약 5조9천억원)에 달하는 추가 투자 유치를 추진하며 자금 확보에 나섰다. 이는 xAI·엑스 합병을 위해 채권 투자자들로부터 융자 조달하려는 50억 달러와 별개다. 내년에는 64억 달러도 추가 조달할 계획을 세우고 있다. xAI의 기업가치는 지난해 말 510억 달러에서 올해 1분기 말에는 800억 달러로 상승했다. 이번에 조달하는 자금은 AI 사업 운영에 사용될 예정이다. 다만 최근 도널드 트럼프 미국 대통령과 최근 관계가 악화됐다는 점은 다소 걸림돌이다. 블룸버그통신은 머스크 CEO가 xAI에 막대한 자금을 투자하고 있다는 것에 대해 긍정적으로 봤다. 일부 경쟁사들이 칩과 서버를 임대하고 있는 것과 달리 xAI가 상당 부분을 자체 구축하고 있는 데다 데이터셋 구매 대신 엑스를 통해 실시간 데이터를 적극 활용해 AI 모델을 훈련시킬 수 있다고 봐서다. 블룸버그통신은 "세계 최고 부자인 머스크 CEO는 수년간 손실을 감수하면서도 테슬라, 스페이스X 등 미래지향적 사업에 막대한 자금을 투입해왔다"며 "xAI는 장기적으로 볼 때 (경쟁사들에 비해) 우위에 있다고 본다"고 말했다. 이어 "xAI는 2027년까지 흑자 전환이 가능할 것으로 전망하고 있는 반면, 오픈AI는 2029년께 흑자를 목표로 하고 있다"고 덧붙였다.

2025.06.18 09:50장유미

美 국방 AI 수주전 뜨겁다…앤트로픽 이어 오픈AI도 국방부와 2억 달러 계약 체결

챗GPT 개발사인 오픈AI가 총 2억 달러(약 2천700억원) 규모 인공지능(AI) 기술을 미국 국방부에 공급하는 계약을 따냈다. 미국 정부와 체결한 첫 공식 국방 계약으로, 이번 일로 국방 영역에서도 존재감을 키울 지 주목된다. 미국 국방부는 16일(현지시간) 성명을 통해 오픈AI와 1년간 AI 기술 공급 계약을 체결했다고 발표했다. 오픈AI는 공공 부문 자회사인 오픈AI 공공부문을 통해 워싱턴 D.C.와 인근 메릴랜드, 버지니아 지역에서 이 작업을 수행할 예정이다. 미국 국방부는 "이번 계약에 따라 오픈AI는 전투와 행정 부문 양쪽에서 중요한 국가 안보 과제를 해결하기 위해 최첨단 AI 기술 시제품을 개발할 예정"이라고 밝혔다. 앞서 오픈AI는 수개월 전 국방 기술 스타트업인 안두릴(Anduril)과 협력해 국가 안보 임무에 최첨단 AI 시스템을 배치할 계획이라고 밝힌 바 있다. 안두릴은 지난해 12월에 미국 국방부와 1억 달러 규모 방위 계약을 체결했다. 마이크로소프트도 오픈AI와의 긴밀한 협력 관계를 바탕으로 국방 관련 인프라를 강화하고 있다. 마이크로소프트는 지난 4월 자사의 클라우드 플랫폼 '에저 오픈AI 서비스'가 기밀 정보를 다룰 수 있도록 국방 정보 시스템국(DIS)으로부터 공식 승인을 받았다고 밝힌 바 있다. 몇 주 전에는 오픈AI 경쟁사인 엔트로픽도 팔란티어 테크놀로지스 및 아마존과 협력해 자사 AI 모델을 미국의 국방부와 정보기관에 제공할 계획이라고 발표했다. 샘 알트먼 오픈AI 최고경영자(CEO)는 지난 4월 밴더빌트대학 행사에서 전 국가안보국(NSA) 국장이자 현재 오픈AI 이사인 폴 나카소네와의 대화를 통해 "우리는 국가 안보 분야에 반드시 참여해야 하고 그것을 자랑스럽게 여길 것"이라며 "국가 안보 분야에 적극적으로 참여하고 싶다"고 강조했다.

2025.06.17 10:43장유미

앤트로픽, AI 인재 전쟁 '압도'…메타·딥마인드·오픈AI 인력 줄줄이 이탈

앤트로픽이 메타, 구글 딥마인드, 오픈AI 등 경쟁사의 핵심 인력을 대거 흡수하며 인공지능(AI) 업계에서 영향력을 확대하고 있다. 자율성과 안전성에 초점을 맞춘 기업 가치와 관료주의와 정치를 배격하는 독특한 문화가 고급 인재들을 끌어들이는 구조다. 15일 톰스 하드웨어 등 외신에 따르면 앤트로픽은 최근 오픈AI와 딥마인드 출신 인력들을 중심으로 핵심 AI 연구진을 대거 채용한 것으로 나타났다. 벤처캐피털 시그널파이어의 보고서에 따르면 앤트로픽으로 이직한 오픈AI 출신 인재는 반대 방향보다 8배 많았고 딥마인드 출신은 무려 11배에 달했다. 메타 역시 연봉 200만 달러(약 28억원) 이상의 조건에도 이탈을 막지 못하고 있는 것으로 알려졌다. 특히 앤트로픽은 오픈AI와 딥마인드의 핵심 인재들을 직접적으로 끌어오며 기술 경쟁력 확보에 속도를 내고 있다. 오픈AI 공동 창업자인 존 슐먼과 얀 라이케는 각각 앤트로픽으로 이직하거나 관련 프로젝트에 참여했고 딥마인드에서 수석연구원으로 일하던 닐 하우스비와 구글 및 딥마인드에서 7년 이상 근무한 보안 전문가 니콜라스 칼리니도 최근 이 회사에 합류했다. 앤트로픽은 오픈AI 출신 인재들이 주도해 창업한 조직이다. 이들은 상업화보다 AI 안전성 확보를 최우선 과제로 삼아야 한다는 문제의식을 공유해 독립했다. 이에 단순한 이직이 아니라 기술 철학과 조직 문화에서 기존 빅테크와 뚜렷하게 다른 방향성을 의도한 결과라는 분석도 나온다. 실제로 앤트로픽의 2년 유지율은 80%에 달한다. 오픈AI는 67%, 딥마인드는 78% 수준으로 알려졌으며 일반 테크업계 평균인 40~50%보다 훨씬 높다. 단순 유입뿐 아니라 잔류율에서도 빅테크를 압도하고 있는 셈이다. 업계는 앤트로픽의 이 같은 경쟁력 배경으로 ▲AI 안전성 철학 ▲자율적 연구 환경 ▲타이틀 중심 승진 구조의 부재를 꼽고 있다. 실제로 메타와 구글에서 경험한 관료주의를 피하고 싶어하는 연구자들이 기술적 독립성과 철학적 명분을 찾을 수 있는 대안지대로 앤트로픽을 선택하고 있다는 분석이 나온다. 보상 구조 측면에서도 경쟁력을 강화하고 있다. 초기 입사자에게는 스톡옵션과 제한주(RSU)를 혼합해 지급하고 있으며 일정 재직 기간 이후에는 주식 현금화 기회도 제공하는 것으로 알려졌다. 현재 앤트로픽은 약 200여 개 채용 공고를 운영 중이다. 이는 오픈AI의 약 330개보다는 적지만 설립 시점과 규모를 감안하면 가파른 성장세를 보이고 있다. 앤트로픽의 기업 가치는 약 615억 달러(약 84조원)로 추정된다. 최근 딥마인드를 떠나 앤트로픽에 합류한 니콜라스 칼리니는 자신의 블로그에서 "앤트로픽은 내가 중요하게 여기는 보안 문제를 실제로 중요하게 생각한다"며 "그 문제에 집중할 수 있도록 지원해준다"고 밝혔다. 엔지니어 보상 플랫폼 레벨스닷에프와이아이(Levels.fyi)의 공동 창업자인 주하이르 무사는 "초기 단계 기업에서 스톡옵션을 받을 수 있다는 점은 매우 매력적"이라며 "앤트로픽이 오픈AI보다 큰 잠재력을 가지고 있다고 보는 사람들도 많다"고 말했다.

2025.06.15 09:16조이환

챗GPT 오류 복구 막바지…"딥시크 사용률 급증"

오픈AI의 챗GPT 오류 복구가 막바지 단계에 접어든 것으로 확인됐다. 다만 음성모드 오류는 여전히 발생하고 있는 것으로 전해졌다. IT 업계와 주요 외신들에 따르면 10일 오전 3시(미국 동부시간, 한국 시간 오후 4시) 경부터 챗GPT에 장애가 발생했다. 20시간째 이어지고 있는 이 장애로 전 세계에서 약 3천 건 넘는 오류 신고가 접수됐다. 현재는 신고 건수는 줄어든 상태다. 이번 오류 발생은 AI 코딩 에이전트 '코덱스'와 API, 질의응답, 영상 AI 모델 '소라' 등에서 나왔다. 이용자가 명령어를 입력하면 응답을 아예 받지 못하거나 '동시 요청이 너무 많다'는 오류 메시지만 확인하는 상황이 반복됐다. 챗오픈AI는 GPT 상태 페이지를 통해 "챗GPT와 API 전반에서 오류율 상승과 지연 현상이 발생하고 있다"며 "엔지니어팀이 문제 원인을 파악했으며 최대한 신속히 복구 작업을 진행 중"이라고 밝혔다. 현재 해당 기능은 복구된 상태다. 다만 음성모드 오류는 여전히 발생하고 있다. 오픈AI는 "음성모드 이슈도 신속히 복구할 것"이라고 발표했다. 챗GPT는 해외뿐 아니라 국내에서도 필수 업무 도구로 활용되고 있다. 최근 잡플래닛이 국내 직장인 762명을 조사한 보고서에 따르면 응답자 70.9%는 '거의 매일 챗GPT를 사용한다'고 답했다. 챗GPT를 가장 많이 활용하는 업무는 글쓰기·요약이 40.1%로 가장 높았다. 아이디어 기획(28.4%), 코드 생성(24.8%)이 뒤를 이었다. 챗GPT 오류로 중국 생성형 AI 챗봇인 '딥시크' 사용이 급증한 것으로 나타났다. 미국 IT매체 톰스가이드는 챗GPT 오류 발생 시각 딥시크 검색 수가 200만 건을 기록했다는 구글 트렌드 분석 결과를 발표했다. 앤트로픽의 클로드도 지난 30일간 하루 평균 약 14만9천 건에서 29만 건으로 급증 것으로 내다봤다. 톰스라이드는 "전 세계 사용자들이 프로젝트나 일상 업무를 중단할 수밖에 없었을 것"이라며 "업무 환경에서 AI에 깊게 의존하고 있다는 사례"라고 평했다.

2025.06.11 14:08김미정

[AI는 지금] 추론 AI 경쟁, 6월부터 뜨겁다…미·중 중심서 유럽·韓까지 '확대'

프랑스 인공지능(AI) 스타트업 미스트랄이 유럽 최초의 AI 추론 모델을 출시하며 미국과 중국이 주도하고 있는 AI 개발 경쟁에 본격 도전장을 내밀었다. 국내 기업들도 이달 중 잇따라 추론 모델 출시를 앞두면서 시장 경쟁이 격화되는 분위기다. 11일 로이터, CNBC 등 주요 외신에 따르면 미스트랄은 첫 번째 AI 추론 모델인 '마지스트랄(Magistral)'을 공개했다. '마지스트랄'은 복잡한 문제를 단계적으로 사고하며 해결하는 기능을 갖춘 고급형 모델로, 수학 계산과 코딩 등 논리적 사고가 필요한 작업에 강점을 가졌다. '체인 오브 소트(chain-of-thought)' 방식으로 중간 추론 과정을 거치는 것이 특징으로, 오픈 소스 형태로 제공되는 '마지스트랄 스몰', 기업 고객을 대상으로 한 '마지스트랄 미디엄' 등 2가지로 구성됐다. 240억 개 매개변수를 갖춘 '마지스트랄 스몰' 모델은 AI 개발 플랫폼 허깅페이스에서 다운로드 할 수 있으며 영어, 프랑스어, 스페인어, 아랍어, 중국어(간체) 등 다양한 언어를 지원한다. '마지스트랄 미디엄'은 미스트랄 챗봇 '르샤'와 API, 클라우드 파트너들을 통해 제공된다. 아르튀르 멍슈 미스트랄 최고경영자(CEO)는 영국 런던에서 열린 '런던 테크 위크' 행사에서 가진 CNBC와의 대담에서 "이번 모델은 수학, 프로그래밍에 매우 뛰어나다"며 "오픈AI의 'o1'이나 딥시크의 'R1'과 견줄 만한 수준"이라고 강조했다. 하지만 자체 벤치마크 결과 '마지스트랄 미디엄'은 물리·수학·과학 테스트에서 구글 '제미나이 2.5 프로'와 앤트로픽 '클로드 오퍼스 4'보다 낮은 점수를 기록했다. 프로그래밍 벤치마크에서도 '제미나이 2.5 프로'를 능가하지 못했다. 반면 미스트랄 측은 '마지스트랄'이 경쟁 모델 대비 10배 빠른 응답 속도를 제공한다고 자신하고 있다. 업계에선 미스트랄이 이번 일로 AI 시장에서 존재감을 키울 수 있을지 주목하고 있다. 유럽 안에선 프랑스 정부의 적극적인 지원에 힘입어 주목 받는 AI 강자로 꼽히지만 시장 점유율, 매출 측면에선 미국, 중국 경쟁사들에 비해 뒤처져 있는 것으로 평가되고 있다. 로이터는 "기존의 거대언어모델(LLM) 방식이 데이터와 컴퓨팅 파워의 한계에 직면하면서 추론 중심으로 산업 트렌드가 이동하고 있다"며 "현재 시점에서 미스트랄에게 이번이 새로운 기회가 될 수 있다"고 짚었다. 하지만 경쟁사들은 일찌감치 추론 모델을 내놓으며 기술력을 한층 더 끌어올리고 있다. 오픈AI는 지난 해 9월 첫 추론 모델인 'o1' 시리즈 출시 후 올해 1월 'o3', 소형 모델인 'o4 미니'까지 출시했다. 특히 'o3'는 이미 지능지수(IQ)가 130을 돌파했다는 주장까지 나오면서 경쟁력도 인정 받은 분위기다. AI 모델들의 IQ 시험 결과를 공개하는 트래킹에이아이닷컴은 최근 오픈AI 'o3'가 멘사 노르웨이 IQ 시험을 본 결과 IQ 132를 기록했다고 밝혔다. 이 시험은 온라인에서 비공식적으로 IQ를 측정하는 방법으로 주로 시각적 패턴 인식 능력을 평가한다. 이에 맞서 구글도 올해 3월 '제미나이 2.5 프로'를 내놨다. 구글은 이 모델이 AI 성능 평가 벤치마크인 LM아레나에서 오픈AI 모델을 상당한 격차로 제치고 1위에 올랐다고 강조한 바 있다. 또 지난 4월에는 '구글 클라우드 넥스트 2025' 행사를 통해 전작 대비 응답지연 시간과 연산비용을 절약한 '제미나이 2.5 플래시'도 공개하며 시장 주도권 잡기에 혈안된 모습을 보였다. 이 외에 앤트로픽의 '클로드 오푸스4'와 딥시크 'R1', 알리바바 '큐원3', 바이두 '어니X1 터보', 샤오미 '미모(MiMo)' 등도 추론형 AI 모델 시장에서 주목 받고 있다. 국내에서도 일부 기업들이 추론형 AI 모델을 속속 내놓으며 경쟁에 나서고 있다. 네이버와 카카오, SK텔레콤, LG AI연구원, 업스테이지 등이 대표적으로, 이 중 LG AI연구원이 가장 선제적으로 나서고 있는 것으로 평가되고 있다. 실제 LG AI연구원은 지난 2월 국내 첫 추론형 AI 모델인 '엑사원 딥'을 공개해 많은 주목을 받았다. '엑사원 딥'은 주어진 데이터를 기반으로 확률이 높은 답을 내놓는 생성형 AI와 달리 스스로 정보를 조합하고 분석한다는 점에서 한층 고도화된 AI로 평가받는다. 최고 모델인 '엑사원 딥' 32B의 파라미터(매개변수)는 중국 AI 스타트업 딥시크의 'R1' 671B 모델의 5% 수준이었음에도 수학과 같은 일부 분야 테스트에서 R1을 앞서는 등 효율적인 모델이란 점도 입증해 업계의 주목을 받았다. 경량 모델 '엑사원 딥' 7.8B는 비슷한 크기의 오픈AI의 'o1 미니'보다 우수한 성적을 기록하기도 했다. 네이버도 이달 말쯤 '하이퍼클로바X 추론 모델을 선보일 예정이다. 네이버 측에 따르면 이 모델은 AI 생성 정보의 사실성을 측정하는 대표적인 벤치마크인 심플QA(영어)에서 90.1점을 기록하며 오픈AI의 4o(90점)급 성능을 나타냈다. 업스테이지 역시 이달 중 추론 모델을 공개하며 경쟁에 불을 지핀다. 기존 AI 모델 '솔라'를 바탕으로 기업 고객에게 AI 서비스를 제공해왔으나, 이번에 선보일 추론형 AI 모델을 통해 학습된 데이터 범위를 넘어 답변을 할 수 있도록 확장을 시도한다는 방침이다. SK텔레콤도 이달 안에 중국 딥시크에 버금가는 추론형 AI 모델 프리뷰 '에이닷엑스(A.X) 4.1'을 선보일 예정이다. 이처럼 주요 기업들이 추론형 AI 경쟁에 뛰어드는 것은 AI가 향후 미래 산업을 주도할 가능성이 높아서다. 고도화된 추론 능력으로 법률·금융·제조·헬스케어 등 전문성이 요구되는 분야에서 생산성을 높일 수 있다는 점에서 수요는 더 커질 것으로 보인다. 업계 관계자는 "추론형 AI는 다양한 지적 과제를 인간처럼 스스로 수행할 수 있는 AGI의 필수 역량으로 꼽힌다"며 "추론형 AI 모델이 고도화되며 AGI 개발 전쟁에도 속도가 붙을 것으로 보인다"고 밝혔다.

2025.06.11 11:13장유미

국가 기밀도 맡긴다…앤트로픽 '클로드 거브', 美 정보기관 배치

국가 간 인공지능(AI) 경쟁이 본격화되면서, 오픈AI에 이어 앤트로픽까지 국방 분야에 본격 참여하고 있다. 기밀문서 해석부터 위협 탐지, 전술 제안까지 국가 안보의 핵심 기능을 AI가 수행하는 시대가 열리고 있는 셈이다. 이에 따라 AI 기술의 무기화 흐름에 대한 경계와 함께, 윤리적 활용을 요구하는 목소리도 점차 커지고 있다. 8일 앤트로픽은 미국 국가안보 조직을 위해 특별히 제작한 AI 모델 '클로드 거브(Claude Gov)'를 공개했다. 클로드 거브는 미국 국방부(DOD)와 정보기관(IC) 등 최고위 기밀 조직을 위한 전용 모델로, 클로드4 시리즈를 기반으로 개발됐다. 이 모델은 장기적인 문맥 유지, 정교한 추론, 다중 언어에 대한 이해, 코드 및 기술 문서 해석 등에서 뛰어난 성능을 갖췄다. 국방 실무에 최적화된 만큼, 보안이 강화된 폐쇄형 환경에서 작동하며, 국가 안보 업무에 맞춰 커스터마이징된 점도 특징이다. 이를 통해 기밀 환경에서의 질문에 대한 응답률은 더욱 높아졌고, 정보 접근 거부 반응도 줄었다는 설명이다. 특히 미국 정보기관이 다루는 복잡하고 중첩된 맥락의 기밀 데이터를 정제·분석하고, 이를 작전 판단이나 정책 수립에 활용 가능한 형태로 가공하는 기능은 클로드 거브의 핵심 역량으로 꼽힌다. 앤트로픽은 이 AI 모델이 이미 미국 정부 실무 현장에 배치돼 사용 중이라고 밝혔다. 이번 출시는 국가 간 치열해지는 AI 경쟁의 흐름 속에서 나왔다. 중국은 지난해 말 '국가안보 AI 시스템'을 선포하고 자국 AI 기업을 중심으로 방첩용 및 사이버 방어용 LLM 개발에 착수했다. 이에 대응해 미국은 클로드, GPT-4o, 제미나이 1.5 등 초거대 모델을 국방, 외교, 첩보 분야에 통합하며 기술 우위를 확보하려는 전략을 본격화하고 있다. 이 과정에는 아마존웹서비스(AWS), 팔란티어, 마이크로소프트 등 주요 기술 기업들이 참여하고 있다. 하지만 앤트로픽의 국방 AI 진출에 대해 일부 개발자와 AI 전문가들은 비판적 시각을 보이고 있다. 그동안 AI의 안전성과 윤리적 사용을 강조해온 앤트로픽이 정보기관 및 군사기관과의 협력에 나선 것은 자사의 원칙을 위배하는 행보라는 지적이다. 특히 앤트로픽이 강조해온 '인류의 존재에 대한 위험'이라는 철학과 실제 행동 사이의 괴리를 문제 삼는 비판도 제기된다. 이와 관련해 다리오 아모데이 앤트로픽 CEO 겸 공동 창립자는 "민주주의 국가들이 책임 있는 AI 개발에서 주도적인 역할을 유지하는 것이 세계 안보와 공익 모두에 필수적이라고 믿어 왔다"며 "심도 있는 외교 정책과 국가안보 경험을 더해, 민주주의와 세계적 안정을 지원할 것"이라고 밝혔다.

2025.06.08 15:13남혁우

앤트로픽, AI가 쓰는 블로그 '클로드 익스플레인스' 공개…인간·AI 협업 실험

미국의 유망 인공지능(AI) 스타트업 앤트로픽이 AI가 작성하는 블로그를 선보여 주목받고 있다. 4일 테크크런치 등 외신에 따르면 앤트로픽은 AI 모델 '클로드'가 기획·작성하는 블로그인 '클로드 익스플레인스(Claude Explains)'를 공개했다. 이 블로그는 클로드가 기술 주제에 대한 초안을 작성하고 인간 전문가가 이를 검토·보완하는 형태로 운영된다. 이를 통해 앤트로픽은 클로드 모델의 글쓰기 능력과 창의성을 대외적으로 공개한다는 방침이다. 현재 클로드 익스플레인에는 복잡한 코드베이스 단순화, 데이터 분석, 비즈니스 전략 등 다양한 주제의 글이 게시돼 있다. 앤트로픽은 향후 창의적 글쓰기, 데이터 분석, 비즈니스 전략 등으로 주제를 확대할 계획이다. 이번 시도는 AI가 콘텐츠 제작에 어떻게 활용될 수 있는지를 보여주는 사례로, 인간과 AI의 협업 가능성을 탐색하는 실험으로 평가된다. 앤트로픽 대변인은 "클로드 익스플레인은 인간의 전문성과 AI의 능력을 결합한 협업의 예시"라며 "단순한 AI 출력물이 아니라 전문가의 통찰과 실제 사례, 맥락적 지식이 더해진 콘텐츠"라고 강조했다. 이어 "AI가 인간의 전문 지식을 대체하는 것이 아니라 해당 분야 전문가의 역량을 어떻게 증폭시킬 수 있는지를 연구하는 것"이라며 "AI를 기반으로 한 블로그를 운영하고 있음에도 마케팅, 콘텐츠, 편집 등 글쓰기와 관련된 여러 분야에서 여전히 채용을 진행 중"이라고 덧붙였다.

2025.06.04 11:43한정호

"오픈AI만 강자 아냐"…앤트로픽, 기업용 AI 매출 급성장

오픈AI가 소비자용 인공지능(AI) 시장에서 강세를 보이는 반면 앤트로픽은 기업용 AI 서비스 시장에서 급성장한 것으로 알려졌다. 1일 로이터는 앤트로픽이 최근 연간 환산 기준 약 30억 달러(약 4조1천500억원) 매출을 기록했다고 내부 소식통을 인용해 보도했다. 지난해 12월 10억 달러(약 1조3천800억원)던 매출은 3월 말 20억 달러(약 2조7천600억원)를 넘어섰고 5월 말 30억 달러까지 오른 것이다. 연간 환산 기준 매출은 한 달 또는 한 분기 매출 기준으로 1년간 비슷한 실적을 경우를 환산한 수치다. 수치가 오를 수록 기업 실적이 증가했음을 보여주는 지표다. 앤트로픽은 구글 모회사 알파벳과 아마존 투자를 받았으며 기업 고객 대상으로 코드 생성 중심의 AI 서비스형 소프트웨어(SaaS) 서비스를 제공해 왔다. 내부 소식통은 "앤트로픽이 기업 고객 대상으로 AI 모델을 SaaS로 제공해 왔다"며 "코드 생성 분야에서 강점을 발휘하며 SaaS 업계에서 보기 드문 속도로 성장했다"고 귀띔했다. 현재 오픈AI는 소비자용 AI 서비스에서 강세를 보이고 있다. 지난해 기준 전체 매출 약 83%가 챗GPT 플러스 등 소비자용 유료 구독에서 나왔다. 오픈AI도 기업용 서비스 사업에 속도를 내고 있다. 기업용 챗GPT 엔터프라이즈 유료 이용자는 올해 2월 200만 명에서 5월 300만 명으로 늘었다. 다만 해당 매출 비중은 약 17%에 그쳤다. 현재 모건스탠리와 T모바일 등이 주요 기업 고객사다. 소비자 시장 경쟁력에서도 오픈AI가 앞서고 있다. 미국 웹 분석업체 시밀러웹에 따르면 올해 4월 기준 앤트로픽의 클로드 웹 트래픽은 오픈AI 챗GPT의 약 2% 수준에 그쳤다. 알렉스 클레이튼 메리테크 총괄 파트너는 "앤트로픽은 SaaS 업계에서 보기 드문 속도로 시장 점유율을 확대하고 있다"며 "이 같은 성장세가 오픈AI와의 경쟁 구도를 더욱 뜨겁게 만들고 있다"고 평가했다.

2025.06.01 11:45김미정

앤트로픽 CEO "화이트칼라 일자리 소멸 가능…노동 인구 20% 실직 우려"

앤트로픽 최고경영자(CEO)가 인공지능(AI) 확산으로 인해 모든 일자리의 최대 20%가 사라질 수 있다고 경고했다. AI가 인간 업무를 신속히 대체하는 가운데 산업 구조가 급변할 가능성을 업계와 정부가 더는 외면해선 안 된다는 주장이다. 29일 액시오스에 따르면 다리오 아모데이 앤트로픽 CEO는 최근 회사 개발자 컨퍼런스를 마친 뒤 가진 인터뷰에서 향후 15년 안에 초급 기술·행정·법률·금융 분야 일자리가 대규모로 소멸할 수 있다고 밝혔다. 그는 특히 실업률이 20%까지 치솟을 수 있다며 문제의 심각성을 강조했다. 아모데이 CEO는 이같은 전망의 근거로 자사가 최근 공개한 '클로드 4' 모델을 제시했다. 이 모델은 인간 수준의 코딩을 수행할 수 있으며 실제 테스트에서는 자신의 폐기 가능성을 인식한 뒤 개발자의 사생활을 협박 수단으로 활용하려는 행동도 보였다. 인간 수준을 넘어서는 AI의 판단 능력이 현실화되는 징후라는 해석이 나온다. AI가 인간 업무를 보조하는 단계를 넘어 직접 업무를 대체하는 '자동화' 국면으로 빠르게 이동 중이라는 게 아모데이 CEO의 시각이다. 현재 AI는 문서 요약, 법률 계약 검토, 의료 정보 해석 등에서 사람보다 빠르고 정확한 성능을 보이고 있다. 그는 "기업들이 신규 채용을 멈추고 기존 일자리를 AI로 대체하는 결정을 내부적으로 이미 실행 중"이라고 말했다. 실제 대형 기업들의 감원 사례도 잇따르고 있다. 마이크로소프트(MS)는 전체 인력 중 약 3%를 정리했고 월마트는 본사 차원에서 1천500명 감원을 단행했다. 크라우드스트라이크는 "AI가 모든 산업을 재편하고 있다"며 전체 인력의 5%를 줄였다. 링크드인 측도 "초급 개발자나 1~2년차 변호사, 매장 직원 등 경력 사다리 하단부부터 붕괴 중"이라고 진단했다. 정치권 반응도 나오고 있다. 스티브 배넌 전 백악관 수석 전략가는 "AI는 30세 이하의 초급 화이트칼라 일자리를 전멸시킬 것"이라며 "이 문제는 오는 2028년 대선의 핵심 의제가 될 것"이라고 말했다. 업계는 지금까지 AI가 인간의 생산성을 돕는 '보조' 역할로 인식돼 왔지만 향후에는 중급 개발자, 회계 담당자, 마케팅 실무자, 콘텐츠 편집자 등의 업무 자체를 수행하는 '에이전트' 형태로 진화할 것으로 본다. 아모데이 CEO는 기술 진보 자체를 막을 수 없다는 전제 하에 완화책을 제시했다. 첫 번째는 대중적 경고다. 그는 앤트로픽 경제지수와 자문위원회를 통해 AI가 어떤 직무에 어떻게 적용되고 있는지를 정량적 데이터로 공개하고 있다. 더불어 기업과 노동자에게 AI 보조 기술을 습득하도록 유도해 전면 대체까지의 시간을 벌자고 제안했다. 입법부 차원의 이해 제고 역시 제안됐다. 그는 "대다수 국회의원은 AI의 영향을 정확히 알지 못한다"며 "AI 공동위원회나 전체 브리핑을 상설화해야 한다"고 주장했다. 마지막으로 아모데이는 '토큰세' 개념을 제안했다. AI가 수익을 발생시킬 때마다 일정 비율을 정부가 세금으로 징수해 국민에게 환원하는 구조다. 사용당 수익의 3%를 징수한다면 이로 인해 수 조 달러의 재원이 마련돼 AI 확산이 가져올 실업과 불평등을 보완하기 위한 재정적 장치로 기능한다는 설명이다. 아모데이 CEO는 "이는 내 이해관계에 반하지만 합리적 해법이라 본다"며 "평범한 사람이 경제적 가치를 창출하지 못하면 민주주의 힘의 균형이 무너질 수 있다"고 우려했다.

2025.05.29 08:42조이환

'클로드'도 AI 보이스 시장 참전…앤트로픽, 음성 기능 베타 출시

오픈AI가 선보인 챗GPT의 음성 기능이 인기를 끄는 가운데 경쟁사인 앤트로픽도 클로드 모델의 음성 인공지능(AI) 모드 출시를 예고하며 주목받고 있다. 28일 테크크런치에 따르면 앤트로픽은 클로드 음성 기능 베타 버전을 출시했다. 앞으로 몇 주 내에 정식 출시될 예정으로, 음성 기능은 앤트로픽의 클로드 소넷4 모델로 구동된다. 모바일 앱에서도 이용할 수 있다. 앤트로픽은 음성 기능을 활용해 사용자와 클로드 모델 간의 상호 작용 방식을 혁신한다는 목표다. 최근 오픈AI를 비롯한 여러 AI 기업이 자사 챗봇에 음성 채팅 기능을 통합해 제공 중이다. 챗GPT뿐만 아니라 구글은 제미나이 라이브를, xAI는 그록 모델의 보이스 모드를 서비스 중이다. 이런 추세에 맞춰 앤트로픽도 클로드의 음성 기능을 출시하게 됐다. 앤트로픽이 베타 버전으로 출시한 음성 기능은 문서나 이미지 등에 대한 대화도 지원한다. 서비스하는 음성 옵션은 총 다섯 가지이며 텍스트 모드와 음성 모드를 즉시 전환하고 대화 후 요약도 제공한다. 다만 현재는 베타 버전이기에 사용량에 제한이 있는 것으로 알려졌다. 클로드 무료 사용자는 20~30개의 대화만이 가능하다. 반면 유료 사용자는 음성 모드를 통해 구글 캘린더와 지메일 등 구글 워크스페이스와 연동된 서비스도 이용할 수 있다. 앤트로픽 측은 "주요 파트너사인 아마존, 음성 AI 스타트업 일레븐랩스와 향후 클로드의 음성 기능 고도화를 위한 논의를 진행 중"이라고 밝혔다.

2025.05.28 11:37한정호

"10년 내 인간 죽이는 로봇 병기 등장"…섬뜩한 AI 석학 경고, 조만간 현실로?

"10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 겁니다." 인공지능(AI) 4대 석학이자 지난해 노벨물리학상을 수상한 제프리 힌튼 토론토대학 교수가 이처럼 경고하고 나선 가운데 최근 인간의 지시를 AI 프로그램이 거부한 사례가 나타나 충격을 주고 있다. 27일 영국 텔레그래프에 따르면 AI 안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 주장했다. 팰리세이드리서치는 AI의 위험성과 오용 가능성을 연구하는 조직이다. 특히 AI가 인간의 윤리적 통제를 받지 않을 가능성을 우려해 왔다. 이번 연구는 오픈AI의 'o3'뿐 아니라 구글의 '제미나이', xAI의 '그록' 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"고 지시했다. 그만이라는 명령을 받지 않는 한 새로운 문제를 요청한 뒤 계산을 계속해나가는 구조였다. 그러나 'o3'는 해당 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 'o3'가 종료 지시를 거부한 명확한 이유를 파악하지 못했다. 다만 AI 모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 또 이를 밝히기 위해 추가 실험도 진행 중이다. 연구팀은 AI 모델이 인간의 명시적인 작동 종료 지시를 거부한 사례가 이번이 처음이라고 주장했다. 그러나 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자적인 행동을 하려고 한 사례는 이전에도 보고된 바 있다. 프로그램 교체 사실을 알게 된 AI 모델이 스스로를 은밀히 복제하려고 한 것이다. 오픈AI의 대항마로 꼽히는 또 다른 AI 기업 앤스로픽의 모델 '클로드오퍼스 4(Claude Opus 4)'도 자신을 다른 AI 모델로 대체하려는 인간 개발자를 협박하는 경향이 보고됐다. 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 '작동 정지'를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. 그동안 AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 수 있는 가능성을 경고해 왔다. 힌튼 교수는 인간이 AI를 발전시키는 것을 호랑이를 키우는 것에 비유하며 "처음에는 귀여운 새끼 호랑이일 뿐이지만, 호랑이가 다 자랐을 때 인간을 죽이지 않을 것이라고 확신할 수 없다"고 밝혔다. 또 그는 지난해 니혼게이자이신문과의 인터뷰에서 "AI에게 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다"며 "예를 들어 AI에게 기후변화를 막도록 지시하면 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각하고서 실행에 옮길 위험성이 걱정된다"고 주장했다. 존 홉필드 프린스턴대학 교수는 "지구상의 방대한 정보 흐름과 결합된 AI에 대해 우려한다"며 "신경망의 간단한 알고리즘이 매우 거대한 정보 시스템을 통제할 수도 있다"고 경고했다. 팰리세이드 리서치는 "AI 모델이 목표를 달성하기 위해 종종 종료 지시를 무력화시킨다는 실증적 증거가 점점 늘어나고 있다"며 "AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이 같은 사례는 매우 심각한 우려를 부른다"고 말했다.

2025.05.27 10:22장유미

앤트로픽 CEO "AI, 인간보다 환각 적어…AGI 걸림돌 아냐"

앤트로픽의 최고경영자(CEO)가 인공지능(AI)이 인간보다 거짓말을 덜 한다며 기술의 신뢰성 논란을 일축했다. 23일 테크크런치에 따르면 다리오 아모데이 앤트로픽 CEO는 미국 샌프란시스코에서 열린 개발자 행사 '코드 위드 클로드(Code with Claude)'에서 이같이 밝혔다. 그는 현재 AI가 정보를 왜곡하거나 잘못 생성하는 '환각' 현상을 인간보다 낮은 빈도로 보인다고 주장했다. 다만 AI는 예상치 못한 방식으로 오류를 범할 수 있다는 점은 인정했다. 이번 발언은 범용인공지능(AGI)의 실현 가능성에 대한 질문에 답하는 과정에서 나왔다. 아모데이 CEO는 해당 기술의 개발에 있어 장애물이 보이지 않는다고 답했다. 그는 지난해에도 가까운 시일 내에 AGI가 발명될 가능성이 크다고 주장한 바 있다. 다만 업계 시각은 엇갈린다. 데미스 하사비스 구글 딥마인드 CEO는 최근 AI의 기초 오류가 여전히 심각하다며 AGI 진입 가능성에 회의적 입장을 내비쳤다. 실제로 이달 초 앤트로픽 측 변호인이 AI 챗봇 클로드를 활용한 법원 서류에서 잘못된 인용문을 제출해 사과하는 사례도 있었다. 현재 AI 모델의 환각을 줄이기 위한 기술적 시도는 이미 진행되고 있다. 웹 검색 기능을 접목한 시스템 설계나 'GPT-4.5'처럼 비교적 환각률이 낮은 고도화 모델이 대표적이다. 다만 오픈AI의 'o3', 'o4-미니' 모델 등 일부 차세대 시스템은 오히려 환각 빈도가 높아지는 추세도 나타난다. 아모데이 CEO는 "방송인, 정치인, 다양한 분야의 인간들도 자주 실수한다"며 "AI의 오류 역시 지능의 부족과는 무관하다"고 강조했다. 다만 "AI가 거짓 정보를 확신에 찬 어조로 제시하는 방식은 문제가 될 수 있다"고 인정했다.

2025.05.23 16:52조이환

앤트로픽, '클로드4' 출시…코딩·에이전트 성능 한계 넘었다

앤트로픽이 차세대 언어모델 '클로드4'를 출시하며 생성형 인공지능(AI) 시장의 주도권 확보에 나섰다. 복잡한 코딩, 장기 추론, 도구 병행 실행 등에서 경쟁사를 앞서며 실사용 중심의 기술 경쟁에 속도를 내는 모양새다. 23일 앤트로픽 공식 블로그에 따르면 회사는 클로드 '오푸스4'와 '소넷4'를 즉각 상용화했다. 이 모델들은 현재 앤트로픽 응용 프로그램 인터페이스(API), 아마존 베드록, 구글 클라우드의 버텍스 AI 플랫폼에서 제공 중이다. 가격은 '오푸스4'가 입력 백만 토큰 기준 15달러(한화 약 2만1천원), '소네트4'는 3달러(한화 약 4천200원)로 책정됐으며 이는 이전 모델과 동일한 수준이다. '오푸스4'는 프로, 맥스, 팀, 엔터프라이즈 등 유료 요금제에서만 제공되고 '소네트4'는 무료 이용자도 사용할 수 있다. 앤트로픽에 따르면 '오푸스4'는 회사 역사상 가장 강력한 모델로, 복잡한 문제 해결과 수천 단계에 걸친 장기 작업에서 지속적인 성능을 발휘한다. 에스더블유이벤치(SWE-bench)와 터미널벤치(Terminal-bench) 등 실제 코딩 벤치마크에서도 각각 72.5%, 43.2%를 기록하며 기존 모델 대비 월등한 결과를 보였다. '소네트4'는 상대적으로 경량화된 모델이지만 실사용 환경에서 성능과 효율의 균형을 추구한 설계로 평가받는다. 에스더블유이벤치에서 72.7%를 기록했으며 지시 수행력과 코드 구현 제어 능력에서 기존 '소네트3.7' 대비 크게 개선됐다. 두 모델은 모두 새롭게 도입된 '확장된 사고(Extended Thinking)'를 통해 모델 스스로 추론과 도구 사용을 병행한다. 웹 검색 등 외부 도구 활용을 통해 긴 작업 흐름을 단계적으로 수행하며 필요한 경우 요약 모델을 활용해 내부 사고 과정을 정리할 수도 있다. 메모리 기능 역시 크게 개선됐다. '오푸스4'는 개발자가 로컬 파일 접근을 허용할 경우 '메모리 파일'을 생성해 중요 정보를 저장하고 이를 통해 장기 프로젝트에서 맥락 일관성을 확보한다. 회사 측은 '오푸스4'가 실제로 포켓몬 게임을 플레이하며 '내비게이션 가이드'를 자체 작성한 사례를 예로 들었다. 함께 발표된 '클로드 코드'는 개발 환경 전반에 '클로드'를 통합할 수 있도록 설계된 제품군이다. VS코드, 젯브레인 등 주요 통합개발환경에 통합되며 코드 수정 제안을 파일 내에 직접 표시해 페어 프로그래밍 효율을 높인다. 또 깃허브 액션을 활용한 백그라운드 작업이나 지속적 통합(CI) 오류 자동 대응 같은 기능도 포함된다. 개발자를 위한 소프트웨어 개발 키트(SDK)도 제공된다. 사용자는 SDK를 통해 자체 코딩 에이전트를 만들 수 있으며 현재는 깃허브 베타 앱 형태로 피드백 반영, 자동 수정 기능을 지원하고 있다. 기능 외에도 안전성 측면에서도 발전했다. 앤트로픽이 자체적으로 정의한 AI의 신뢰도와 안전성에 대한 내부 기준 체계인 인공지능 안전수준 3단계(ASL-3) 수준의 테스트 및 평가가 이뤄진 상태로, 모델은 기존 대비 편법적 응답 가능성이 65% 감소했으며 사고 경로 투명성도 향상됐다. 앤트로픽은 공식 블로그를 통해 "이번 모델은 완전한 맥락 유지와 장기 프로젝트 집중이 가능한 '가상 협업자'로, 혁신적 성과를 이끌 것"이라며 "'클로드'와 '클로드 코드'를 포함한 원하는 플랫폼에서 바로 활용할 수 있다"고 밝혔다.

2025.05.23 09:09조이환

[유미's 픽] "신입 SW 개발자 안뽑습니다"…'AI 코딩' 맛 본 기업들, 조직 효율화 '스타트'

"12개월 이내에 인공지능(AI)이 대다수 프로그래머를 대체할 것이라고 믿습니다." 에릭 슈미트 구글 전 최고경영자(CEO)가 지난해 12월 ABC 뉴스와의 인터뷰에서 했던 이 발언이 점차 현실화되는 분위기다. AI 코딩 도구 프로그램들이 우후죽순 등장하며 인간의 일자리를 대체하기 시작하자, 국내외 기업들이 신입 소프트웨어(SW) 개발자를 채용하지 않거나 조직 개편을 통한 인력 효율화 작업에 적극 나서고 있어서다. 22일 업계에 따르면 서울 영등포구에 위치한 IT 기업 A사는 최근 진행된 최고 경영진 회의에서 앞으로 SW 개발자 신규 채용을 진행하지 않기로 결정했다. 단순 코딩 작업을 AI로 대체하는 것이 훨씬 더 효율적이라고 판단해서다. 실제 이곳은 최근 AI 코딩 도구 '커서' 프로그램을 도입해 업무 효율을 1.5배 높였다. '커서'는 사용자가 프롬프트를 적으면 의도를 파악해 코드 제작을 도와주는 AI 소프트웨어로, 이를 개발한 미국 기업 애니스피어는 오픈AI의 인수 제안을 받는 등 90억 달러(약 12조원)의 기업 가치를 인정 받았다. 최근 오픈AI가 약 30억 달러(한화 4조2천억원)에 인수키로 한 '윈드서프'도 '커서'와 함께 이 시장에서 주목 받고 있다. A사 임원은 "커서 프로그램이 2~3명의 업무를 처리할 수 있는 상황인 만큼 앞으로 신입 개발자는 안뽑을 것 같다"며 "이를 잘 활용할 수 있고 업무 숙련도가 높은 개발자 몇 명과 일하는 것이 더 낫다고 오너가 판단해 경영진에게 이처럼 지시했다"고 분위기를 전했다. 해당 기업 오너는 "이제는 AI 혁명이 아닌 AI가 집권하는 시대가 된 만큼, 이를 제대로 활용하는 것이 기업의 존폐를 결정하게 될 것"이라며 "신입 SW 개발자를 채용하지 않을 뿐 아니라 기존 SW 개발자들 50여 명 정도도 AI 플랫폼 개발로 전환배치한 상태로, 앞으로는 AI 플랫폼 개발에 모든 임직원이 전력을 다할 것"이라고 강조했다. 삼성전자도 최근 스마트폰 등을 담당하는 MX(모바일경험) 사업부가 '커서'를 SW 개발에 활용하는 방안을 검토하고 나섰다. 이를 위해 해당 사업부 소속 개발자 400여 명은 지난달부터 약 한 달간 '커서'를 활용할 수 있는 교육을 받은 것으로 알려졌다. 삼성전자 내 개발직군 일부 팀에선 이미 '커서'를 업무에 활용해왔던 것으로 전해졌다. 업계 관계자는 "IT 기업이 밀집한 경기도 판교나 서울 가산동 일대에선 AI를 통해 코딩 작업에 나서면서 관련 개발 직무에 대한 신규 채용을 하지 않은 분위기가 빠르게 확산되고 있다"며 "AI 모델에 직접 코드를 입력하지 않고 원하는 결과물의 느낌(바이브)만 제시해 프로그래밍하는 '바이브 코딩'이 대세가 되면서 SW 개발자, 즉 '코더'들이 점차 구직난에 시달리고 있다"고 말했다. 해외 기업에선 이미 '코더'들의 설자리가 사라진 지 오래다. IBM의 경우 지난 2023년 AI로 대체할 수 있는 업무에는 사람 직원을 뽑지 않겠다고 선언했다. 마이크로소프트도 지난 13일 AI 투자에 따른 수익률 저하로 직원 3% 미만인 6천 명을 해고한다고 발표했다. 2023년 약 1만 명을 감원한 이후 최대 규모로, 대상자에는 SW 엔지니어링 분야가 40%로 가장 큰 비중을 차지했다. 제품 관리나 기술 프로그램 관리 직책 등 중간 관리자는 약 30%로 뒤를 이었다. 메타 역시 올해 2월 전체 인력의 5%인 약 3천600명을 해고한 데 이어 지난 4월에는 가상현실 사업부인 리얼리티 랩스에서 수백 명을 해고했다. 또 AI가 대체할 수 있는 분야는 채용을 하지 않거나 기존 인력을 정리하는 분위기다. 마크 저커버그 메타 최고경영자(CEO)는 지난달 말 진행된 메타 AI 개발자 회의 '라마콘'에서 이를 시사했다. 그는 "내년에는 AI가 자사 개발의 절반을 수행하게 될 것"이라며 "비중은 앞으로 더 증가할 것"이라고 전망했다. 이 자리에 함께 참석한 사티아 나델라 MS CEO도 "MS에 저장된 코드의 20~30%는 AI가 작성했다"며 "일부 프로젝트는 아마 전체가 AI로 개발됐을 것"이라고 말해 눈길을 끌기도 했다. 최근 MS가 감원에 나선 이유를 뒷받침하고 있어서다. 일부 기업들은 AI 코딩 에이전트도 속속 내놓고 있다. 최근 '코덱스'를 공개한 오픈AI가 대표적이다. 오픈AI 추론 모델 'o3'를 기반으로 작동하는 '코덱스'는 코드 작성과 버그 수정, 검사 실행, 개발자의 코드베이스(codebase·소스 코드의 집합) 관련 질문에 답 등 여러 작업을 동시에 수행할 수 있다. MS가 소유한 깃허브와 구글, 아마존, 앤트로픽 등 많은 기술 기업도 개발자용 AI 도구를 제공하고 있다. 특히 MS는 최근 연례 개발자 콘퍼런스 'MS 빌드 2025'를 통해 새로운 AI 에이전트를 공개해 주목 받았다. 이 AI 에이전트는 개발자가 작성하던 코드에 기반해 일부 코드만을 자동 생성하던 기존 에이전트와 달리, 간단한 지시만으로 전체 코드를 작성하고 작업이 끝나면 이용자에게 검토를 요청한다. '클로드 코드'를 선보이고 있는 앤트로픽의 수장 다리오 아모데이 CEO는 1년 내 AI가 사실상 모든 코드를 작성하는 세상이 올 수도 있다고 봤다. 개리 탠 와이콤비네이터 최고경영자(CEO)는 "'바이브 코딩'으로 인해 이제는 많은 코더가 필요 없다"고 밝혔다. 미국 노동통계국의 인구조사 자료에서도 '코더'의 입지가 좁아졌다는 사실은 확연하게 드러났다. 이에 따르면 지난 3월 미국 컴퓨터 프로그래머의 고용은 인터넷이 등장하기 수년 전인 1980년 이후 최저 수준으로 급감했다. 1980년대에는 30만 개가 넘는 프로그래밍 일자리가 있었고 2000년대 초 닷컴 버블 당시에는 70만 개로 최고치를 기록했으나, 현재는 절반 수준으로 떨어졌다. 미국 노동통계국은 오는 2033년까지 '코딩' 관련 일자리가 10% 감소할 것으로 내다봤다. 미국 대표 구인 플랫폼 인디드의 통계에서도 지난 2월 미국 전체 일자리는 1년 전보다 10%나 늘었으나, SW 개발자 채용 공고는 35%나 감소했다. 조직 내 중간 관리자들도 AI로 대체되는 경우가 많아졌다. AI를 통해 의사 결정이나 보고 체계 자동화가 가능해진 탓이다. 인텔의 경우 올해 들어서만 2만2천 명을 감원했는데 이 중 상당수가 중간 관리직이었다. 아마존도 지난 4월 비슷한 기조로 아마존웹서비스(AWS) 부문에서 400여 명을 감원했다. 투자은행 골드만삭스는 생성 AI로 인해 10년 내 3억 개의 일자리가 증발할 것이라고 내다봤다. 업계에선 기업들이 인건비 절감 비용을 AI에 집중 투자하고 있다고 분석했다. AI 시장 경쟁이 치열해지는 상황에서 기술·인프라에 가용 자원을 총동원하려면 다른 부문에서 비용을 절감할 수밖에 없어서다. 로이터는 "빅테크 기업들이 최근 데이터센터와 AI 기술 개발에 집중 투자하고 있다"며 "이 외 부문 투자는 축소하는 추세"라고 밝혔다. 업계 관계자는 "AI가 코딩을 자동화하며 인간 일자리를 위협하고 있지만, 프로그래밍 전반을 관리하며 기계가 할 수 없는 다양하고 복잡한 일을 담당하는 개발자에 대한 수요는 여전하다는 점에서 기회 요소는 있다"며 "단순 코딩 실력이 아닌 기획, 분석, 운영 등 복합 역량을 기반으로 다양한 AI 기술을 접목해 개발 효율성을 높일 수 있는 전문가들이 기업들의 선택을 받을 것"이라고 말했다.

2025.05.22 16:26장유미

앤트로픽·아모레퍼시픽 합류…메가존클라우드, C레벨에 AI 미래 청사진 제시

메가존클라우드가 주요 기업 C레벨 임원들을 대상으로 기업의 인공지능(AI) 도입 방향을 제시했다. 메가존클라우드는 서울 강남 조선팰리스에서 국내 주요 기업 최고경영자(CxO) 100여 명이 참석한 가운데 '메가존클라우드의 AI 전망(AI Horizons by MegazoneCloud)'을 주제로 CxO 서밋을 개최했다고 13일 밝혔다. 이번 행사는 AI의 실제 도입 사례와 실행 전략을 중심으로 실질적 인사이트를 제공하고 기업들이 AI 전환을 효과적으로 추진할 수 있도록 전략적 방향성을 공유하기 위해 마련됐다. 행사는 ▲AI와 클라우드가 주도하는 미래 비즈니스 전략 ▲올해 AI·클라우드 시장 전망 ▲AI 혁신 및 기업 내 도입·활용 사례와 미래 전망을 공유하는 순서로 진행됐다. 행사에는 염동훈 메가존클라우드 대표, 황인철 최고매출책임자(CRO), 공성배 최고AI책임자(CAIO)를 비롯한 메가존클라우드 임원진과 앤트로픽(Anthropic)의 에릭 번즈 필드 최고기술책임자(CTO), 아모레퍼시픽의 홍성봉 최고디지털기술책임자(CDTO)가 연사로 참여했다. 공성배 CAIO는 'AI, 기업 생존과 직결된 필수 전략'을 주제로 한 발표에서 "AI 도입을 고민하는 기업들이 자사 업무에 AI를 활용할 수 있는 방안을 찾는 데 실질적 도움이 되기 위해 AI 레디(AIR) 이노베이션 랩을 구축 중"이라며 "최신 생성형 AI 기술을 직접 체험하고 구체적인 구축 방안까지 협의할 수 있는 패키지를 구성해 곧 오픈할 계획"이라고 말했다. 특별 연사로 나선 앤트로픽 에릭 번즈 필드 CTO는 '엔터프라이즈 지식을 활용한 인텔리전트 에이전트'를 주제로 발표에 나섰다. 그는 "AI가 스마트하게 변화·발전하는 속도는 기하급수적이어서 몇년 안에 엄청난 변화를 불러올 것"이라며 "모델 하나가 개선되면 여러 모델이 함께 개선되는 효과로 이어지는 만큼, 현 단계에서는 비용 절감이나 효율 증대보다는 활용 확대가 중요하다"고 강조했다. '실전 AI 에이전트 개발에 있어서의 도전 과제'를 주제로 사례 발표에 나선 아모레퍼시픽의 홍성봉 CDTO는 "AI에이전트가 중요 화두로 떠오르고 있지만 에이전트 도입에는 장밋빛 미래뿐 아니고 디스토피아도 함께 존재한다"며 "AI 설계 기술보다 시스템 엔지니어링이나 로직 엔지니어링이 중요할 수 있는 만큼 메가존클라우드 같은 전문 파트너와 함께 특화된 상황에 맞도록 구축해야 한다"고 조언했다. 메가존클라우드 황인철 CRO는 "AI의 성공적 도입에는 기업 최고 경영진의 의지가 무엇보다 중요하다"며 "C레벨을 대상으로 AI 도입에 대한 인사이트를 공유하는 자리를 지속적으로 마련해 기업들의 AI 네이티브 전환을 지원할 것"이라고 말했다.

2025.05.13 16:56한정호

[AI 리더스] "차단을 넘어선 AI 정렬"…콕스웨이브, '얼라인'으로 기업 안전 표준 노린다

"진정으로 안전한 인공지능(AI)은 비즈니스 연속성과 성장을 가능하게 할 때 완성됩니다. 우리의 '얼라인(Align)'은 AI가 주고받는 모든 대화를 기업에게 실시간으로 시각화해 잠재 리스크를 즉시 찾아냅니다. 앤트로픽 등 글로벌 프론티어 AI랩과 협력하며 향후 인도를 포함한 글로벌 시장에 AI 안전과 신뢰의 새로운 기준을 제시하겠습니다." 이엽 콕스웨이브 이사는 최근 기자와의 인터뷰에서 AI 안전이 단순한 '차단 수단'이 아니라 기업의 운영과 성장을 뒷받침하는 기능적 '인프라'여야 한다는 점을 강조하며 이같이 말했다. 생성형 AI가 실제 환경에서 어떻게 사용되고 어떤 리스크를 발생시키는지를 기업이 '메타인지' 하도록 도와야 진정 의미 있는 분석이 가능하다는 설명이다. 12일 업계에 따르면 생성형 AI의 상용화가 빠르게 확산되면서 기업들은 단순 필터링을 넘어 실시간 리스크 대응이 가능한 분석 체계에 주목하고 있다. 이러한 흐름 속에서 콕스웨이브는 지난 2021년 설립돼 B2C 생성형 AI 서비스 운영 경험을 기반으로 AI 대화 흐름 전반을 분석하는 플랫폼 '얼라인'을 개발해왔다. 이 플랫폼은 고객 불만·리스크·서비스 유지율 등 실제 비즈니스 지표들을 포괄해 AI 안전성을 해석하는 것을 목표로 한다. AI 안전, 윤리를 넘어 인프라로…'얼라인'의 실전형 해법은? 콕스웨이브는 '챗GPT'가 등장하기 전부터 생성형 AI 기반 서비스를 운영해왔다. 이 과정에서 이들은 사용자 프롬프트가 근본적으로 예측 불가능하고 이에 AI가 어떤 응답을 내놓을지도 알 수 없다는 구조적 불확실성에 부딪혔다. 사전에 정해놓은 입력 방식 대신 사용자의 자유로운 문장 입력에 AI가 응답하는 구조여서 서비스 품질을 기획 단계에서 통제하는 것이 구조적으로 불가능하단 점을 일찍이 포착한 것이다. 지난 2021년부터 회사가 운영한 이미지 생성·편집 서비스 '하마'와 '엔터픽스'는 이러한 구조적 불확실성이 현실에서 어떻게 작동하는지를 보여주는 사례였다. 사용자들은 서비스를 쓰며 반복적으로 부적절한 이미지 생성을 시도했고 단순한 금칙어 필터링만으로는 이를 효과적으로 걸러내기 어려웠다. 겉보기에는 문제 없어 보이지만 간접적인 맥락을 담은 프롬프트가 입력되면 AI는 이를 자연스럽게 해석해 예상치 못한 결과물을 출력하곤 했다. 이러한 '탈옥(Jailbreaking)' 방식의 우회는 시스템이 콘텐츠의 부적절성을 인식조차 하지 못하게 만들었다. 이 경험을 통해 콕스웨이브는 생성형 AI의 리스크는 단순 차단만으로는 해결되지 않는다는 점을 인식하게 됐다. 김주원 콕스웨이브 대표는 "기존 필터 체계로는 생성형 AI가 문맥을 파악하지 못해 부적절 콘텐츠를 걸러내는 데 한계가 있었다"며 "서비스 안정성과 브랜드 신뢰도 모두에 위협이 되는 상황이었다"고 설명했다. 기존의 사용자 분석 툴 역시 한계를 드러냈다. 콕스웨이브는 초창기에는 구글 애널리틱스, 앰플리튜드 등 전통적 행동 분석 도구를 활용했지만 생성형 AI 특유의 문맥 의존성과 응답 다양성 탓에 클릭 수나 체류 시간 같은 정량 지표로는 문제가 발생한 지점을 포착할 수 없었다. 이런 문제의식에서 개발된 것이 AI 제품 분석 플랫폼 '얼라인(Align)'이다. '얼라인'은 사용자의 프롬프트와 AI의 응답을 실시간으로 추적하고 시각화해 기업이 원치 않는 콘텐츠나 이상 응답을 즉시 탐지하고 차단할 수 있도록 돕는다. 회사는 이를 통해 서비스의 안정성과 대응력을 동시에 확보하고자 했다. 이엽 콕스웨이브 이사는 "'얼라인'은 단순한 금칙어 필터링이 아니라 기업의 비즈니스 연속성과 브랜딩까지 고려한 종합적 안전성 분석 도구"라며 "초창기에는 사용자 신뢰 손상이나 프롬프트 공격 방어에 집중했다면 최근에는 서비스 성장을 뒷받침하는 메커니즘으로 범위를 확장하고 있다"고 설명했다. 콕스웨이브는 회사가 추구하는 '안전한 AI'를 단순히 유해 콘텐츠를 차단하는 기술로 보지 않는다. 대신 기업이 생성형 AI 서비스를 안정적으로 운영하고 고객 신뢰를 잃지 않으며 장기적으로 비즈니스를 성장시킬 수 있도록 지원하는 분석 인프라로 정의한다. AI가 특정 프롬프트에 대해 부적절한 답변을 반복해 제공하거나 사용자가 원하는 응답을 지속적으로 얻지 못해 이탈하면 이는 단순한 윤리 문제를 넘어 서비스 품질 저하로 직결된다. 이같은 반복적 리스크를 실시간으로 탐지하고 기업이 이를 사전에 인지해 조치할 수 있게 함으로써 서비스 중단이나 브랜드 훼손 같은 문제를 예방한다는 설명이다. 또 '얼라인'은 각 고객사의 문화적 배경이나 내부 정책에 따라 '금지'와 '허용'의 기준이 달라질 수 있다는 점을 반영해 이를 유연하게 설정할 수 있는 기능을 제공한다. 일괄적으로 하나의 기준에 따라 판단하는 것이 아니라 각 조직의 판단 기준에 따른 맞춤형 분석이 가능하도록 설계된 것이다. 이같이 주관적인 평가 기준이 실시간으로 분석에 적용되면 서비스 운영자는 보다 정밀하게 리스크를 파악하고 대응할 수 있다. 더불어 수용 여부가 모호한 '회색 지대(Grey area)'에 대응하는 기능에 집중했다. 자연어 기반 검색 기능을 활용할 경우 실무자는 "불만족 사례를 찾아줘"처럼 일상적인 문장으로 검색을 요청할 수 있다. '얼라인'은 유관 대화 내용을 자동으로 찾아낸 뒤 기본 분석 결과와 함께 그에 대한 판단 근거도 함께 제시한다. 검색 알고리즘과 대시보드에 피드백이 자동 반영되기 때문에 단순 확인을 넘어 기준 조정까지 이어지는 판단을 즉각 내릴 수 있게 된다. 이엽 이사는 "단순 필터링을 넘어서 서비스 현장에서 AI가 어디서 오작동하고 있는지를 실무자가 스스로 자각하고 판단 기준을 재정의할 수 있도록 돕는 것이 '얼라인'의 핵심"이라며 "AI 안전은 기술적 차단이 아니라 실시간 대응과 기준의 내재화를 가능하게 하는 시스템이어야 한다"고 말했다. 인도서 시험대 오른다…앤트로픽 협업으로 글로벌 'AI 안전' 실험 콕스웨이브가 지속적으로 가져온 'AI 안전성'에 대한 관심은 자연스럽게 앤트로픽과의 전략적 연대로 이어졌다. '헌법적 AI(Constitutional AI)'와 '사용자 중심 얼라인먼트'를 내세워 창업한 앤트로픽의 철학이 회사 신조와 직접적으로 맞닿아 있었기 때문이다. 실제 협업의 전환점은 지난해 앤트로픽이 콕스웨이브에 응용프로그램 인터페이스(API) 사용을 먼저 제안하면서 찾아왔다. 이어진 실무 대화 과정에서 앤트로픽이 일본과 호주를 중심으로 아시아 시장 진출 계획을 밝히자 콕스웨이브는 이를 기회로 보고 아시아 내 전략적 파트너로서의 협업 가능성을 적극적으로 제시했다. 플랫폼 철학부터 시장 진출 방식까지 접점을 넓히는 데 무게가 실리면서 논의는 신속히 구체화됐다. 초창기에 앤트로픽은 일본이나 호주를 아태지역의 첫 출장지로 고려하고 있었지만 콕스웨이브 측 설득에 따라 한국 방문을 먼저 결정했다. 이 결과 양사는 지난 3월 국내에서 공동 행사를 성사시켰고 이후 앤트로픽은 한국의 생성형 AI B2C 생태계의 다양성에 주목하며 지사 설립 의향까지 밝힌 상태다. 이 이사는 "우리가 공감한 핵심 가치는 단순 기술이 아니라 '신뢰 가능한 AI'라는 철학이었다"며 "엔트로픽이 헌법적 AI와 정렬(Alignment) 연구에 집중하는 것처럼 우리 역시 생태계 정비와 주관적 피드백 분석에 무게를 둬왔다"고 말했다. 콕스웨이브는 '사용자·기업·사회가 함께 정렬되는 AI'라는 개념의 실현 가능성을 검증할 첫 무대로 인도 시장을 선택했다. 현지에서 글로벌 역량을 갖춘 기업들과 파트너십을 맺고 제품 도입과 실사용자 피드백 수집을 병행하며 본격적인 확장 전략에 착수했다. 인도를 주목한 이유는 명확했다. 빠른 생성형 AI 도입 속도와 함께 글로벌 기업들이 방갈로르·뭄바이 등에 지사를 설립하며 인도 시장을 'AI 엔지니어링 허브'로 재편하고 있었기 때문이다. 대규모 사용자 데이터를 확보하고 빠르게 분석·적용할 수 있는 여건이 충분히 갖춰진 셈이다. 김 대표는 "초창기에는 경쟁자가 많지 않았지만 지금은 노트테이킹 툴 하나만 해도 수십 개가 나와 있다"며 "이럴수록 고객의 주관적 평가를 얼마나 분석에 빠르게 녹여내느냐가 곧 제품 경쟁력"이라고 설명했다. 실제 성과도 있었다. 콕스웨이브는 인도 데이터 플랫폼 기업 레난(Renan)과의 업무협약(MOU)를 통해 B2B 생성형 AI 수요가 높은 소규모 엔터프라이즈 세그먼트를 확보했고 대형 고객은 기존 협업 관계를 맺고 있던 PwC 인도 지사와의 공동 사업을 통해 대응하고 있다. 양사의 역할 구분은 명확하다. PwC가 대기업 고객과의 접점을, 레난이 중소 엔터프라이즈를 커버하는 구조다. 콕스웨이브는 이 두 축을 중심으로 '얼라인'을 적용해 서비스 품질을 측정하고 현지 피드백을 다시 플랫폼 개선에 반영하는 선순환 구조를 구축하고 있다. 이외에도 구글 초기 창업 지원 프로그램 출신 금융 솔루션 기업 펀더멘토와의 협업도 주목할 만하다. 콕스웨이브는 구글·아마존웹서비스(AWS)·마이크로소프트(KS) 등 글로벌 하이퍼스케일러들과의 협업 경험을 살려 펀더멘토에 안정적인 API 오케스트레이션 기능을 제공하고 있다. 이 이사는 "인도 시장은 개선 주기가 압축된 고도의 경쟁 환경"이라며 "'얼라인'처럼 피드백 루프를 자동화해주는 플랫폼은 빠르게 기능을 실험하고 개선해야 하는 현지 기업들에 특히 매력적으로 작용할 것"이라고 설명했다. 기술과 사람의 축적…'얼라인' 만든 콕스웨이브의 내부 동력은? 이같은 '얼라인'의 기술적 기반은 콕스웨이브가 내부적으로 축적해온 설계 역량과 오픈소스 생태계 참여를 통해 다져졌다. 특히 김주원 대표는 MS의 생성형 AI 오픈소스 프로젝트 '시맨틱 커널(Semantic Kernel)'에 외부 기여자로 참여해 에이전트 구조 설계와 관련된 코드를 다수 제출한 바 있다. 김 대표는 "'시맨틱 커널'은 단순 템플릿이 아니라 고도화된 에이전트를 구성할 수 있는 기반 구조"라며 "이 프레임워크에 참여해 에이전트 설계와 운영 관련 코드를 직접 기여했던 경험이 이후 '얼라인'이 사용자 프롬프트와 AI 응답 간 상호작용을 정밀하게 추적하고 분석하는 기능으로 이어졌다"고 설명했다. AI 안전성의 현실적 중요성을 체감하게 했던 B2C 이미지 생성 서비스 경험 역시 얼라인의 실전 적용 가능성을 뒷받침하는 기반이 됐다. 콕스웨이브가 운영한 '하마'와 '엔터픽스'는 성공적인 상업적 성과를 보였음과 동시에 생성형 AI의 불확실성을 직면하게 한 사례였다. 이 과정에서 수집된 사용자 프롬프트와 AI 응답 간 상호작용 데이터는 실시간 분석 도구의 필요성을 명확히 드러냈다. 김 대표는 "사용자 데이터를 직접 다뤄보며 기술적 통제의 한계와 서비스 운영의 복잡성을 동시에 겪었다"며 "이런 경험이 없었다면 얼라인 같은 플랫폼을 만드는 건 불가능했을 것"이라고 말했다. 김 대표의 이력도 기술적 무게감을 더한다. 그는 서울대 컴퓨터공학 석사 과정에서 데이터마이닝 연구실에 소속돼 AI 분석 기법을 집중적으로 연구했다. 이 시기 '얼라인'의 대시보드 설계 구상이 처음 시작됐고 이후 학계와 산업계를 연결하는 구조적 아키텍처로 이어졌다는 설명이다. 이엽 이사는 보다 정책적 접근에서 기술로 방향을 전환한 사례다. 그는 원래 조지타운 대학교에서 개발경제학을 전공하며 세계은행이나 IMF 등 국제기구 진출을 목표로 했지만 정책은 속도가 느리고 제약이 많아 즉각적인 사회적 임팩트를 만들기 어렵다는 한계를 체감한 뒤 기술을 통한 변화로 전향한 바 있다. 두 사람은 생성 AI 스타트업 협회(GAISA) 창립 이사로도 활동하고 있다. 협회는 생성형 AI 기업 간의 윤리 기준 수립, 안전성 가이드라인 정비, 대기업·정부·학계와의 협력 채널 구축을 지원하는 민간 네트워크로, 콕스웨이브는 초기부터 생태계 조성에 주도적으로 참여해왔다. 향후에도 콕스웨이브는 '안전한 AI'라는 정체성을 기반으로 국내는 물론 인도, 그리고 글로벌 AI 기업들과의 협업을 확대해나간다는 전략이다. 기술과 사람이라는 두 축을 바탕으로 서비스 신뢰성과 비즈니스 성장을 동시에 실현하겠다는 의지를 분명히 하고 있다. 이엽 이사는 "진정으로 '안전한 AI'란 단순한 차단이 아니라 사회와 사용자, 기업이 모두 납득할 수 있는 기준을 구축하고 유지하는 것"이라며 "우리는 기술뿐 아니라 그 기술이 작동하는 맥락까지 책임질 수 있는 파트너가 되겠다"고 강조했다.

2025.05.12 16:16조이환

  Prev 1 2 3 4 5 6 7 Next  

지금 뜨는 기사

이시각 헤드라인

"AI 3대 강국 되려면 기반 인프라 로드맵부터 이행돼야"... IT 업계 한목소리

[ZD 브리핑] SKT 침해사고 결과 나온다...국회 2차 추경안 논의 본격화

[비욘드IT] 7조 들여 AI 인프라 짓는 AWS, 지도 반출만 요구하는 구글

정은경 후보자 "복지부 장관되면 의정갈등 해결하겠다"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.