ZDNet 검색 페이지

'콕스웨이브'통합검색 결과 입니다. (13건)

[AI 리더스] "차단을 넘어선 AI 정렬"…콕스웨이브, '얼라인'으로 기업 안전 표준 노린다

"진정으로 안전한 인공지능(AI)은 비즈니스 연속성과 성장을 가능하게 할 때 완성됩니다. 우리의 '얼라인(Align)'은 AI가 주고받는 모든 대화를 기업에게 실시간으로 시각화해 잠재 리스크를 즉시 찾아냅니다. 앤트로픽 등 글로벌 프론티어 AI랩과 협력하며 향후 인도를 포함한 글로벌 시장에 AI 안전과 신뢰의 새로운 기준을 제시하겠습니다." 이엽 콕스웨이브 이사는 최근 기자와의 인터뷰에서 AI 안전이 단순한 '차단 수단'이 아니라 기업의 운영과 성장을 뒷받침하는 기능적 '인프라'여야 한다는 점을 강조하며 이같이 말했다. 생성형 AI가 실제 환경에서 어떻게 사용되고 어떤 리스크를 발생시키는지를 기업이 '메타인지' 하도록 도와야 진정 의미 있는 분석이 가능하다는 설명이다. 12일 업계에 따르면 생성형 AI의 상용화가 빠르게 확산되면서 기업들은 단순 필터링을 넘어 실시간 리스크 대응이 가능한 분석 체계에 주목하고 있다. 이러한 흐름 속에서 콕스웨이브는 지난 2021년 설립돼 B2C 생성형 AI 서비스 운영 경험을 기반으로 AI 대화 흐름 전반을 분석하는 플랫폼 '얼라인'을 개발해왔다. 이 플랫폼은 고객 불만·리스크·서비스 유지율 등 실제 비즈니스 지표들을 포괄해 AI 안전성을 해석하는 것을 목표로 한다. AI 안전, 윤리를 넘어 인프라로…'얼라인'의 실전형 해법은? 콕스웨이브는 '챗GPT'가 등장하기 전부터 생성형 AI 기반 서비스를 운영해왔다. 이 과정에서 이들은 사용자 프롬프트가 근본적으로 예측 불가능하고 이에 AI가 어떤 응답을 내놓을지도 알 수 없다는 구조적 불확실성에 부딪혔다. 사전에 정해놓은 입력 방식 대신 사용자의 자유로운 문장 입력에 AI가 응답하는 구조여서 서비스 품질을 기획 단계에서 통제하는 것이 구조적으로 불가능하단 점을 일찍이 포착한 것이다. 지난 2021년부터 회사가 운영한 이미지 생성·편집 서비스 '하마'와 '엔터픽스'는 이러한 구조적 불확실성이 현실에서 어떻게 작동하는지를 보여주는 사례였다. 사용자들은 서비스를 쓰며 반복적으로 부적절한 이미지 생성을 시도했고 단순한 금칙어 필터링만으로는 이를 효과적으로 걸러내기 어려웠다. 겉보기에는 문제 없어 보이지만 간접적인 맥락을 담은 프롬프트가 입력되면 AI는 이를 자연스럽게 해석해 예상치 못한 결과물을 출력하곤 했다. 이러한 '탈옥(Jailbreaking)' 방식의 우회는 시스템이 콘텐츠의 부적절성을 인식조차 하지 못하게 만들었다. 이 경험을 통해 콕스웨이브는 생성형 AI의 리스크는 단순 차단만으로는 해결되지 않는다는 점을 인식하게 됐다. 김주원 콕스웨이브 대표는 "기존 필터 체계로는 생성형 AI가 문맥을 파악하지 못해 부적절 콘텐츠를 걸러내는 데 한계가 있었다"며 "서비스 안정성과 브랜드 신뢰도 모두에 위협이 되는 상황이었다"고 설명했다. 기존의 사용자 분석 툴 역시 한계를 드러냈다. 콕스웨이브는 초창기에는 구글 애널리틱스, 앰플리튜드 등 전통적 행동 분석 도구를 활용했지만 생성형 AI 특유의 문맥 의존성과 응답 다양성 탓에 클릭 수나 체류 시간 같은 정량 지표로는 문제가 발생한 지점을 포착할 수 없었다. 이런 문제의식에서 개발된 것이 AI 제품 분석 플랫폼 '얼라인(Align)'이다. '얼라인'은 사용자의 프롬프트와 AI의 응답을 실시간으로 추적하고 시각화해 기업이 원치 않는 콘텐츠나 이상 응답을 즉시 탐지하고 차단할 수 있도록 돕는다. 회사는 이를 통해 서비스의 안정성과 대응력을 동시에 확보하고자 했다. 이엽 콕스웨이브 이사는 "'얼라인'은 단순한 금칙어 필터링이 아니라 기업의 비즈니스 연속성과 브랜딩까지 고려한 종합적 안전성 분석 도구"라며 "초창기에는 사용자 신뢰 손상이나 프롬프트 공격 방어에 집중했다면 최근에는 서비스 성장을 뒷받침하는 메커니즘으로 범위를 확장하고 있다"고 설명했다. 콕스웨이브는 회사가 추구하는 '안전한 AI'를 단순히 유해 콘텐츠를 차단하는 기술로 보지 않는다. 대신 기업이 생성형 AI 서비스를 안정적으로 운영하고 고객 신뢰를 잃지 않으며 장기적으로 비즈니스를 성장시킬 수 있도록 지원하는 분석 인프라로 정의한다. AI가 특정 프롬프트에 대해 부적절한 답변을 반복해 제공하거나 사용자가 원하는 응답을 지속적으로 얻지 못해 이탈하면 이는 단순한 윤리 문제를 넘어 서비스 품질 저하로 직결된다. 이같은 반복적 리스크를 실시간으로 탐지하고 기업이 이를 사전에 인지해 조치할 수 있게 함으로써 서비스 중단이나 브랜드 훼손 같은 문제를 예방한다는 설명이다. 또 '얼라인'은 각 고객사의 문화적 배경이나 내부 정책에 따라 '금지'와 '허용'의 기준이 달라질 수 있다는 점을 반영해 이를 유연하게 설정할 수 있는 기능을 제공한다. 일괄적으로 하나의 기준에 따라 판단하는 것이 아니라 각 조직의 판단 기준에 따른 맞춤형 분석이 가능하도록 설계된 것이다. 이같이 주관적인 평가 기준이 실시간으로 분석에 적용되면 서비스 운영자는 보다 정밀하게 리스크를 파악하고 대응할 수 있다. 더불어 수용 여부가 모호한 '회색 지대(Grey area)'에 대응하는 기능에 집중했다. 자연어 기반 검색 기능을 활용할 경우 실무자는 "불만족 사례를 찾아줘"처럼 일상적인 문장으로 검색을 요청할 수 있다. '얼라인'은 유관 대화 내용을 자동으로 찾아낸 뒤 기본 분석 결과와 함께 그에 대한 판단 근거도 함께 제시한다. 검색 알고리즘과 대시보드에 피드백이 자동 반영되기 때문에 단순 확인을 넘어 기준 조정까지 이어지는 판단을 즉각 내릴 수 있게 된다. 이엽 이사는 "단순 필터링을 넘어서 서비스 현장에서 AI가 어디서 오작동하고 있는지를 실무자가 스스로 자각하고 판단 기준을 재정의할 수 있도록 돕는 것이 '얼라인'의 핵심"이라며 "AI 안전은 기술적 차단이 아니라 실시간 대응과 기준의 내재화를 가능하게 하는 시스템이어야 한다"고 말했다. 인도서 시험대 오른다…앤트로픽 협업으로 글로벌 'AI 안전' 실험 콕스웨이브가 지속적으로 가져온 'AI 안전성'에 대한 관심은 자연스럽게 앤트로픽과의 전략적 연대로 이어졌다. '헌법적 AI(Constitutional AI)'와 '사용자 중심 얼라인먼트'를 내세워 창업한 앤트로픽의 철학이 회사 신조와 직접적으로 맞닿아 있었기 때문이다. 실제 협업의 전환점은 지난해 앤트로픽이 콕스웨이브에 응용프로그램 인터페이스(API) 사용을 먼저 제안하면서 찾아왔다. 이어진 실무 대화 과정에서 앤트로픽이 일본과 호주를 중심으로 아시아 시장 진출 계획을 밝히자 콕스웨이브는 이를 기회로 보고 아시아 내 전략적 파트너로서의 협업 가능성을 적극적으로 제시했다. 플랫폼 철학부터 시장 진출 방식까지 접점을 넓히는 데 무게가 실리면서 논의는 신속히 구체화됐다. 초창기에 앤트로픽은 일본이나 호주를 아태지역의 첫 출장지로 고려하고 있었지만 콕스웨이브 측 설득에 따라 한국 방문을 먼저 결정했다. 이 결과 양사는 지난 3월 국내에서 공동 행사를 성사시켰고 이후 앤트로픽은 한국의 생성형 AI B2C 생태계의 다양성에 주목하며 지사 설립 의향까지 밝힌 상태다. 이 이사는 "우리가 공감한 핵심 가치는 단순 기술이 아니라 '신뢰 가능한 AI'라는 철학이었다"며 "엔트로픽이 헌법적 AI와 정렬(Alignment) 연구에 집중하는 것처럼 우리 역시 생태계 정비와 주관적 피드백 분석에 무게를 둬왔다"고 말했다. 콕스웨이브는 '사용자·기업·사회가 함께 정렬되는 AI'라는 개념의 실현 가능성을 검증할 첫 무대로 인도 시장을 선택했다. 현지에서 글로벌 역량을 갖춘 기업들과 파트너십을 맺고 제품 도입과 실사용자 피드백 수집을 병행하며 본격적인 확장 전략에 착수했다. 인도를 주목한 이유는 명확했다. 빠른 생성형 AI 도입 속도와 함께 글로벌 기업들이 방갈로르·뭄바이 등에 지사를 설립하며 인도 시장을 'AI 엔지니어링 허브'로 재편하고 있었기 때문이다. 대규모 사용자 데이터를 확보하고 빠르게 분석·적용할 수 있는 여건이 충분히 갖춰진 셈이다. 김 대표는 "초창기에는 경쟁자가 많지 않았지만 지금은 노트테이킹 툴 하나만 해도 수십 개가 나와 있다"며 "이럴수록 고객의 주관적 평가를 얼마나 분석에 빠르게 녹여내느냐가 곧 제품 경쟁력"이라고 설명했다. 실제 성과도 있었다. 콕스웨이브는 인도 데이터 플랫폼 기업 레난(Renan)과의 업무협약(MOU)를 통해 B2B 생성형 AI 수요가 높은 소규모 엔터프라이즈 세그먼트를 확보했고 대형 고객은 기존 협업 관계를 맺고 있던 PwC 인도 지사와의 공동 사업을 통해 대응하고 있다. 양사의 역할 구분은 명확하다. PwC가 대기업 고객과의 접점을, 레난이 중소 엔터프라이즈를 커버하는 구조다. 콕스웨이브는 이 두 축을 중심으로 '얼라인'을 적용해 서비스 품질을 측정하고 현지 피드백을 다시 플랫폼 개선에 반영하는 선순환 구조를 구축하고 있다. 이외에도 구글 초기 창업 지원 프로그램 출신 금융 솔루션 기업 펀더멘토와의 협업도 주목할 만하다. 콕스웨이브는 구글·아마존웹서비스(AWS)·마이크로소프트(KS) 등 글로벌 하이퍼스케일러들과의 협업 경험을 살려 펀더멘토에 안정적인 API 오케스트레이션 기능을 제공하고 있다. 이 이사는 "인도 시장은 개선 주기가 압축된 고도의 경쟁 환경"이라며 "'얼라인'처럼 피드백 루프를 자동화해주는 플랫폼은 빠르게 기능을 실험하고 개선해야 하는 현지 기업들에 특히 매력적으로 작용할 것"이라고 설명했다. 기술과 사람의 축적…'얼라인' 만든 콕스웨이브의 내부 동력은? 이같은 '얼라인'의 기술적 기반은 콕스웨이브가 내부적으로 축적해온 설계 역량과 오픈소스 생태계 참여를 통해 다져졌다. 특히 김주원 대표는 MS의 생성형 AI 오픈소스 프로젝트 '시맨틱 커널(Semantic Kernel)'에 외부 기여자로 참여해 에이전트 구조 설계와 관련된 코드를 다수 제출한 바 있다. 김 대표는 "'시맨틱 커널'은 단순 템플릿이 아니라 고도화된 에이전트를 구성할 수 있는 기반 구조"라며 "이 프레임워크에 참여해 에이전트 설계와 운영 관련 코드를 직접 기여했던 경험이 이후 '얼라인'이 사용자 프롬프트와 AI 응답 간 상호작용을 정밀하게 추적하고 분석하는 기능으로 이어졌다"고 설명했다. AI 안전성의 현실적 중요성을 체감하게 했던 B2C 이미지 생성 서비스 경험 역시 얼라인의 실전 적용 가능성을 뒷받침하는 기반이 됐다. 콕스웨이브가 운영한 '하마'와 '엔터픽스'는 성공적인 상업적 성과를 보였음과 동시에 생성형 AI의 불확실성을 직면하게 한 사례였다. 이 과정에서 수집된 사용자 프롬프트와 AI 응답 간 상호작용 데이터는 실시간 분석 도구의 필요성을 명확히 드러냈다. 김 대표는 "사용자 데이터를 직접 다뤄보며 기술적 통제의 한계와 서비스 운영의 복잡성을 동시에 겪었다"며 "이런 경험이 없었다면 얼라인 같은 플랫폼을 만드는 건 불가능했을 것"이라고 말했다. 김 대표의 이력도 기술적 무게감을 더한다. 그는 서울대 컴퓨터공학 석사 과정에서 데이터마이닝 연구실에 소속돼 AI 분석 기법을 집중적으로 연구했다. 이 시기 '얼라인'의 대시보드 설계 구상이 처음 시작됐고 이후 학계와 산업계를 연결하는 구조적 아키텍처로 이어졌다는 설명이다. 이엽 이사는 보다 정책적 접근에서 기술로 방향을 전환한 사례다. 그는 원래 조지타운 대학교에서 개발경제학을 전공하며 세계은행이나 IMF 등 국제기구 진출을 목표로 했지만 정책은 속도가 느리고 제약이 많아 즉각적인 사회적 임팩트를 만들기 어렵다는 한계를 체감한 뒤 기술을 통한 변화로 전향한 바 있다. 두 사람은 생성 AI 스타트업 협회(GAISA) 창립 이사로도 활동하고 있다. 협회는 생성형 AI 기업 간의 윤리 기준 수립, 안전성 가이드라인 정비, 대기업·정부·학계와의 협력 채널 구축을 지원하는 민간 네트워크로, 콕스웨이브는 초기부터 생태계 조성에 주도적으로 참여해왔다. 향후에도 콕스웨이브는 '안전한 AI'라는 정체성을 기반으로 국내는 물론 인도, 그리고 글로벌 AI 기업들과의 협업을 확대해나간다는 전략이다. 기술과 사람이라는 두 축을 바탕으로 서비스 신뢰성과 비즈니스 성장을 동시에 실현하겠다는 의지를 분명히 하고 있다. 이엽 이사는 "진정으로 '안전한 AI'란 단순한 차단이 아니라 사회와 사용자, 기업이 모두 납득할 수 있는 기준을 구축하고 유지하는 것"이라며 "우리는 기술뿐 아니라 그 기술이 작동하는 맥락까지 책임질 수 있는 파트너가 되겠다"고 강조했다.

2025.05.12 16:16조이환

앤트로픽과 韓 공략한 콕스웨이브, 인도 기업 레난과 '맞손'

콕스웨이브가 앤트로픽과 함께 국내 시장을 공략한 데 이어 인도 인공지능(AI) 기업과도 손을 잡았다. 연평균 18.2% 성장세를 보이는 인도 시장에서 기술 기반 B2B 공략에 본격적으로 나선다. 콕스웨이브는 최근 인도 AI 기술 기업 레난과 'AI 솔루션 공동 개발을 위한 업무협약(MOU)'을 맺었다고 9일 밝혔다. 레난은 AI 모델 학습 플랫폼 '데이터브루어리'를 기반으로 글로벌 컨설팅 기업들과 협업 중인 현지 기업으로, 이번 협약은 콕스웨이브가 지난해에 이어 인도 시장 공략에 속도를 내는 두 번째 공식 행보다. 콕스웨이브는 지난 2021년 설립 이후 생성형 AI의 접근성과 안전성을 높이기 위한 AI 네이티브 솔루션을 개발해왔다. 현재는 얼라인을 중심으로 대화형 AI의 도입부터 운영, 개선까지 전 주기를 지원하는 기업형 제품을 제공하고 있다. 레난은 포춘 500대 기업을 상대로 운영 최적화와 비용 절감에 성과를 낸 경험을 보유한 AI 전문 기업이다. 엔터프라이즈 대상의 전환(AX) 기술에 특화돼 있으며 이번 파트너십에서도 기술력 기반의 시너지 창출이 주요 목표다. 양사는 이번 협력을 통해 인도 내 기업 대상 맞춤형 AI 솔루션을 공동 개발하고 향후 글로벌 시장까지 확장하는 데 초점을 맞춘다. 시장 진출(GTM) 전략 전개를 위한 기반 마련에도 속도가 붙을 전망이다. 특히 레난은 콕스웨이브의 기술력과 '얼라인' 플랫폼의 완성도를 높게 평가하며 이번 MOU 체결을 추진한 것으로 알려졌다. 콕스웨이브는 지난해 7월 인도 기업 펀다멘토와의 협업에 이어 이번 레난 파트너십으로 현지 시장 내 입지를 더욱 강화한다는 계획이다. 시장조사업체 마켓리서치퓨처에 따르면 인도 AI 시장은 올해 약 101억 달러(한화 약 13조1천억원) 규모에서 2034년까지 457억 달러(한화 약 59조4천억원) 규모로 성장할 전망이다. 두 자릿수 이상의 연평균 성장률을 보일 것으로 예측되면서 국내 기업들의 진출도 이어지고 있다. 한편 콕스웨이브는 미국 AI 기업 앤트로픽과도 긴밀한 협력 관계를 이어가고 있다. 지난 3월 서울에서 열린 '코리아 빌더 서밋'을 앤트로픽과 공동 개최하며 클로드의 활용 사례와 기술 방향성을 국내에 소개했고 한국어 처리 개선을 포함한 공동 연구도 진행 중이다. 두 회사는 AI 안전성과 윤리적 기술 확산이라는 가치를 공유하며 글로벌 기술 트렌드와 한국 생태계를 잇는 허브로 자리매김하고 있다. 바라트 차다 레난 대표는 "양사의 기술력을 결합해 세계 시장에서 AI 혁신의 새로운 기준을 만들 것"이라며 "고객들이 더 빠르고 효율적으로 비즈니스 가치를 실현할 수 있도록 할 것"이라고 밝혔다. 김주원 콕스웨이브 대표는 "글로벌 경험이 풍부한 레난과의 협업은 인도 진출의 핵심 동력이 될 것"이라며 "신뢰 기반의 AI 제품을 통해 고객 경험을 혁신해 나가겠다"고 말했다.

2025.04.09 15:18조이환

[AI는 지금] "AI의 미터법 될까"…앤트로픽 MCP, 생태계 '공용어' 부상

"이제는 지식 탐색과 코드 자동화가 현실화될 정도로 인공지능(AI) 모델이 발전했습니다. 단순히 답을 잘하는 AI가 아니라 현실 데이터를 탐색하고 툴을 활용해 실제 작업을 수행하는 AI가 가능한 시점에 도달한 겁니다." 마이크 크리거 앤트로픽 최고제품책임자(CPO)는 최근 서울 잠실 시그니엘에서 열린 '코리아 빌더서밋'에서 공동 주최사 콕스웨이브 이엽 이사와 대담을 통해 이같이 말했다. 그는 AI의 진화가 단순 생성 능력에 머물지 않고 업무 자동화와 문제 해결로 확장되는 임계점을 넘고 있다고 진단했다. 3일 업계에 따르면 이런 발언은 단순한 기능 향상 이상의 흐름 전환으로 해석된다. AI가 '혼잣말 잘하는 모델'을 넘어 일을 '수행'하는 AI, 즉 에이전트형 구조로 진화하려면 수많은 도구, 시스템, 데이터와 유연하게 연결해주는 기술 인프라가 꼭 필요하기 때문이다. "연결이 해답"…MCP, 단절된 AI 생태계 하나로 묶는다 이같은 문제의식에 대한 해답으로 앤트로픽은 지난해 11월 AI 시스템과 외부 데이터 소스를 연결하는 통합 표준 '모델 컨텍스트 프로토콜(MCP)'을 오픈소스로 내놨다. MCP는 '클로드'와 같은 생성형 AI가 파일, 채팅툴, 데이터베이스 등 다양한 시스템과 실시간으로 연동돼 더 정확하고 실질적인 응답을 생성할 수 있도록 설계된 연결 표준 규격이다. 모델 성능만으로는 해결할 수 없는 연결성의 한계를 구조적으로 보완하려는 시도다. 이 프로토콜은 AI 모델과 콘텐츠 저장소, 협업 툴, 개발 환경 등 실제 사용되는 시스템 간의 연결 장벽을 허무는 데 초점을 맞춘다. 기존에는 각 시스템마다 별도의 커넥터를 따로 개발해야 했지만 MCP를 활용하면 하나의 표준 방식으로 다양한 시스템을 동시에 연동할 수 있다. 앤트로픽은 MCP를 "AI와 데이터 간 단절을 해소하는 개방형 표준"이라고 설명한다. 프로토콜 구조도 단순하지만 강력하다. AI 모델이 일방적으로 데이터를 요청하는 데 그치지 않는다. 데이터 소스와 실시간으로 정보를 주고받는 '양방향' 통신이 가능하다는 의미다. 데이터와 기능을 제공하는 MCP 서버와, AI 모델이 설치된 클라이언트 간에 사전에 정해진 통신 규칙을 기반으로 상호 작용이 이뤄진다. 개발자는 MCP 사양과 소프트웨어개발키트(SDK)를 활용해 서버를 구축하거나 해당 규격을 지원하는 클라이언트를 제작해 생태계에 참여할 수 있다. MCP가 등장한 배경에는 기존 연동 방식의 비효율성이 자리하고 있다. 과거에는 서비스마다 애플리케이션 프로그램 인터페이스(API) 구조가 달라 AI를 적용하려면 시스템마다 일일이 별도 커넥터를 개발해야 했다. 이로 인해 연동은 복잡하고 유지보수는 반복적으로 요구됐으며 확장성도 떨어졌다. MCP는 이런 구조적 한계를 극복하기 위한 시도다. 이질적인 시스템과도 하나의 통일된 방식으로 연결할 수 있어 레거시 시스템이 다수인 기업 환경에서 도입 시 데이터 접근성과 AI 자동화 범위를 대폭 확장할 수 있다. 이에 더해 프로토콜의 핵심은 단순한 커넥터 수의 확장에 있지 않다. 툴과 데이터세트를 오가며도 문맥을 유지할 수 있는 AI 시스템 구조를 만들어낸다는 데 의미가 있다. "툴을 넘나드는 AI"…실행력 갖춘 연결형 생태계, 오픈AI까지 합류했다 이러한 연결형 구조는 사용자 경험 전반에 실질적인 변화를 가져오고 있다. 일례로 사용자가 "이번 주 회의 자료 요약해줘"라고 입력하면 AI는 구글 드라이브에서 관련 문서를 불러오고 슬랙 메시지를 분석해 회의 맥락을 파악한 뒤 요약본을 자동으로 생성한다. 복수의 툴을 전환하며 수작업으로 정보를 옮기던 기존 방식과는 전혀 다른 접근이다. "내 다운로드 폴더에서 이미지만 추려서 압축해줘" 같은 요청도 가능하다. AI가 로컬 파일 시스템에 직접 접근해 이미지 파일을 분류하고 정리한 뒤 자동으로 압축까지 수행한다. 복잡한 명령어나 API 호출 없이 프롬프트 한 줄이면 된다. 이미 MCP는 일반 사용자와 개발자 모두 접근이 쉬워졌다. 구글 드라이브, 슬랙, 깃허브 등 주요 툴은 이미 연결된 상태로 즉시 사용할 수 있으며 개발자들은 오픈소스 기반 도구나 커서(Cursor), 스미스리 등에서 손쉽게 커넥터를 구성할 수 있다. 이같은 사용자 경험 변화는 실제로 기업들의 빠른 도입으로 이어지고 있다. 결제·핀테크 기업 블록과 API 플랫폼을 제공사인 아폴로는 자사 시스템 전반에 연결형 AI 구조를 반영하고 있다. 클라우드 개발 환경을 제공하는 레플릿, 코드 자동화 도구를 개발하는 코드리움, 소프트웨어 코드 검색 엔진을 운영하는 소스그래프 등도 AI를 통해 코드 작성과 분석 효율을 높이고 있다. 이러한 흐름 속에서 AI가 실무에 파고드는 속도는 그 어느 때보다 가파르다. 파일을 검색하고 문서를 요약하는 데 걸리는 시간은 몇 분에서 몇 초로 줄고 복잡한 연동 없이 한 줄 명령어만으로 개발 환경에 AI를 붙일 수 있게 된다. 여기에 오픈AI까지 가세하면서 업계 반응은 더욱 달아올랐다. 샘 알트먼 최고경영자(CEO)는 최근 X(구 트위터)를 통해 '챗GPT' 데스크톱 앱과 API 전반에 연결 프로토콜을 도입하겠다고 밝혔고 이는 경쟁 기술 구조를 수용한 이례적 결정으로 받아들여지고 있다. 업계에서는 이를 두고 "사실상의 'MCP' 표준화를 선언한 것"이라는 평가도 나온다. 생성형 AI의 '작업 수행 능력'을 현실화하려는 흐름 속에서 오픈AI까지 뛰어든 만큼, 플랫폼 간 호환성은 물론 향후 생태계 확장의 속도도 급격히 가속화될 가능성이 크다는 분석이다. 이엽 콕스웨이브 이사는 "AI가 주체적으로 문제를 풀 수 있으려면 결국 다양한 환경과 실시간으로 연결돼 있어야 한다"며 "지금은 모델을 설계하는 시대를 넘어 모델이 '제대로 일할 수 있는 환경'을 만드는 시대에 가까워지고 있다"고 말했다.

2025.04.04 08:55조이환

[현장] 앤트로픽 "韓 AI 시장, B2C 성장 두드러져…한국어 성능 개선할 것"

앤트로픽이 한국 시장을 인공지능(AI) 채택 속도가 빠르고 B2C 중심으로 활성화된 시장으로 평가하며 맞춤형 AI 솔루션을 지속적으로 개선할 계획을 밝혔다. 앤트로픽은 19일 서울 잠실 시그니엘에서 콕스웨이브와 함께 개발자 행사인 '빌더 서밋'을 진행했다. 1천명 이상의 국내외 개발자들이 찾아온 이 행사에서 마이크 크리거 앤트로픽 최고제품책임자(CPO)와 이엽 콕스웨이브 이사는 AI 모델의 글로벌 확장성과 한국 시장에서의 기회를 집중적으로 논의했다. 크리거 CPO에 따르면 한국은 AI 채택 속도가 빠르고 스타트업부터 대기업까지 AI 활용도가 높은 시장으로, 앤트로픽은 이를 지속적으로 지원할 수 있도록 자사 '클로드' 모델을 지속적으로 개선해 나갈 계획이다. 한국어 지원 관련해서도 피드백을 받아 지속적으로 개선 중이라는 점을 강조했다. 현재 '클로드'는 한국어를 꽤 잘 다루고 있다는 평가를 받았지만 존댓말이나 미묘한 표현 등에서는 보완이 필요한 상황이다. 이에 앤트로픽은 한국 사용자의 피드백을 적극 반영해 모델 품질을 더욱 고도화할 계획이다. B2C 시장이 활성화된 만큼 AI가 다양한 산업군에서 활용될 가능성도 크다는 점도 언급됐다. 크리거 CPO는 "미국에서는 AI가 주로 금융·엔터프라이즈 등 B2B 서비스에 집중되어 있지만 한국에서는 콘텐츠·커머스·게임 등 다양한 분야에서 AI가 적용되고 있어 흥미롭다"며 "클로드 기반으로 자동화·에이전틱 코딩 등의 기능을 확장하면 한국 시장에서 더 많은 AI 활용 사례가 나올 것"이라고 전망했다. 이엽 콕스웨이브 이사는 "과거에는 AI 기반 대화 데이터 분석이 충분히 이뤄지지 못했지만 최근 앤트로픽의 모델 컨텍스트 프토로콜(MCP) 기술 도입으로 모델의 신뢰도를 높일 수 있는 기반이 마련됐다"며 "이를 통해 기업들이 AI 모델의 운영 효율성을 극대화할 수 있을 것"이라고 말했다.

2025.03.19 16:57조이환

[현장] 앤트로픽-콕스웨이브, 韓서 'AI 자동화·성능분석' 투트랙 공략

앤트로픽이 국내 인공지능(AI) 분석 스타트업 콕스웨이브와 함께 AI 자동화와 최적화 기술을 강화하며 시장 확대에 나섰다. 앤트로픽은 AI를 단순한 도구에서 '가상 협업자'로 발전시키는 전략을 추진하고 있으며 콕스웨이브는 AI 성능 분석 기술을 통해 모델의 신뢰성과 효과성을 높이는 데 집중하고 있다. 앤트로픽과 콕스웨이브는 19일 서울 잠실 시그니엘에서 '빌더 서밋'을 공동개최했다. 이번 행사는 앤트로픽의 AI 모델 '클로드 소네트 3.7'과 콕스웨이브의 '얼라인'을 발표하고 양사의 향후 사업 전략을 공유하기 위해 마련됐다. 행사에는 국내외 개발자 1천여 명이 참석해 AI 기술과 활용 사례에 대한 높은 관심을 보였다. 앤트로픽은 이날 행사에서 AI의 안전성과 혁신을 동시에 추구하는 기업이라는 점을 강조하며 한국을 포함한 아시아태평양 지역에서의 투자와 확장을 검토 중이라고 밝혔다. AI의 역할을 업무 자동화와 의사결정 지원으로 확대하는 전략을 제시하며 맞춤형 AI 솔루션을 강화하겠다는 계획도 공개했다. 함께 발표에 나선 콕스웨이브는 AI 성능 분석 플랫폼 '얼라인'을 소개하며 AI의 신뢰성과 안전성을 높이는 것이 기업들의 핵심 과제라고 강조했다. 젠슨 매출책임자 "AI, 동료가 되게 할 것…韓 포함 아태지역 지사 검토 중" 케이트 젠슨 앤트로픽 최고매출책임자는 '빌더 서밋'에서 회사가 AI의 안전성과 정렬에 많은 방점을 두면서도 혁신을 동시에 추구하는 기업이라는 점을 강조하며 한국을 포함한 아시아 지역에서의 투자와 확장을 적극 검토 중이라고 밝혔다. 젠슨 책임자에 따르면 앤트로픽은 현재 '프런티어급 거대언어모델(LLM)'을 개발하며 AI 모델의 안전성과 활용성을 동시에 높이는 것을 핵심 전략으로 삼고 있다. 이번에 발표된 '클로드 소네트 3.7'은 ▲파운데이션 모델(Foundation Model) 계층 ▲인프라 및 툴링(Infrastructure & Tooling) 계층 ▲가상 협업자(Virtual Collaborators)로 구성됐다. AI가 단순한 질문·응답 수준을 넘어 보다 심층적인 문제 해결과 의사결정 지원을 수행하도록 설계한 것이다. 특히 앤트로픽은 고객사의 AI 활용 방식을 ▲내부 ▲외부 ▲비용절감 ▲수익 창출이란 네가지 방향으로 구분하고 개발자 툴링(Dev Tooling)과 고객용 AI 솔루션을 각각 강화하는 전략을 추진 중이다. '클로드 3.7'의 '에이전틱 코딩(Agentic Coding)' 기능은 이를 위한 개발자의 생산성을 극대화할 수 있는 핵심 요소로 꼽힌다. 또 AI의 자연스러운 언어 처리 및 대규모 데이터 분석·추론 능력을 활용해 기업의 비즈니스 효율성을 높일 수 있도록 지원한다. 국내 시장에서도 이미 여러 기업들이 클로드를 활용하고 있다. 젠슨 책임자는 "슬랙, 뤼튼 등 여러 글로벌·한국 기업들이 클로드 기반 AI 솔루션을 도입 중"이라며 "AI 기술이 한국 기업들의 실제 운영 환경에 적합하도록 지속적으로 최적화할 것"이라고 말했다. 이에 더해 앤트로픽이 올해 아태지역에 최초로 지역사무소 설립을 검토 중으로, 한국을 포함한 아태지역에 투자를 추진하고 현지 기업과의 협력을 강화하겠다는 계획을 밝혔다. 이같이 앤트로픽은 앞으로 AI의 역할을 '가상 협업자'로 확대해 AI가 기업의 의사결정을 돕고 업무의 일부를 자동화하는 수준으로 발전시키겠다는 목표를 세우고 있으며 이 과정에서 안전성과 윤리적 AI 개발 원칙을 철저히 준수하겠다는 입장이다. 젠슨 책임자는 "AI가 기업의 운영을 혁신하는 동시에 신뢰할 수 있는 도구로 자리 잡을 수 있도록 지속적으로 연구개발(R&D)에 투자할 것"이라고 강조했다. 크리거 CPO "에이전트로 업무 자동화…비용은 줄이고 성능은 높인다" 이어 발표를 진행한 마이크 크리거 앤트로픽 최고제품책임자(CPO)는 AI 기반 업무 자동화와 기업 맞춤형 솔루션을 위한 새로운 투자 전략을 발표했다. 그러면서 한국에 대해서도 AI 활용도가 높은 시장으로 평가하며 국내 기업들과의 협업 가능성을 강조했다. 크리거 CPO는 "현재 AI 애플리케이션 프로그램 인터페이스(API)는 단순한 입력-출력 방식"이라며 "향후에는 기업이 원하는 작업을 AI가 직접 수행하고 백그라운드에서 지속적으로 학습하는 형태로 변화할 것"이라고 밝혔다. 앤트로픽은 이를 위해 ▲차세대 에이전트 API ▲데이터 커스터마이징 ▲비용 효율화 등 세 가지 분야에 대한 연구개발(R&D)을 집중적으로 진행하고 있다. 우선 태스크 기반 API와 쓰레드 기반 API를 도입해 AI가 업무를 자동으로 기억하고 필요할 때마다 최적의 의사결정을 내릴 수 있도록 지원한다. 또 클라우드 내에서 직접 코드를 실행할 수 있는 환경을 마련해 개발자들의 AI 활용도를 극대화할 예정이다. 데이터 커스터마이징 측면에서는 모델 컨텍스트 프로토콜(MCP)을 확장해 기업 내부 문서, 웹 데이터, 엑셀, 슬랙, 깃허브 등 다양한 데이터를 AI가 동적으로 분석할 수 있도록 했다. 이를 통해 기업이 자체 AI를 구축하지 않고도 '클로드' 모델을 최적화해 내부 데이터를 실시간으로 활용할 수 있다. 특히 기업이 원하는 정보를 AI에 자동으로 학습시키는 '프롬프트 에이전트' 기능을 통해 사용자의 개입 없이도 모델이 자체적으로 개선되도록 설계했다. 크리거 CPO는 회사의 비용 절감 전략도 설명했다. 앤트로픽은 프롬프트 캐싱 기능을 확장해 API 호출 비용을 줄이는 동시에 '파인튜닝' 기능을 도입해 모델을 맞춤형으로 학습할 수 있도록 지원한다. 기존 AI 모델이 지나치게 크거나 반대로 특정 업무에는 최적화되지 않은 문제를 해결하기 위해 기업이 자체적으로 모델을 수정하고 유연하게 배포할 수 있도록 했다. 국내 시장에서도 적극적인 확장을 예고했다. 그는 "한국 시장은 AI 채택 속도가 빠르고 스타트업부터 대기업까지 AI 활용도가 높은 시장"이라며 "비용 절감과 수익 창출을 동시에 원하는 기업들의 요구에 맞춰 맞춤형 AI 솔루션을 지속적으로 제공할 것"이라고 강조했다. "AI 성능, 제대로 분석해야 한다"…콕스웨이브, '얼라인' 통해 기업 지원 이날 함께 행사를 주최한 콕스웨이브의 김기정 대표는 회사의 AI 분석 플랫폼 '얼라인(Align)'을 소개하며 AI 제품의 완성도를 높이는 것이 기업들의 핵심 과제가 되고 있다고 강조했다. 김 대표는 "AI가 고객 응대, 업무 자동화, 생성형 AI 서비스 등에 폭넓게 도입되고 있다"면서도 "실제로 얼마나 효과적으로 작동하는지에 대한 분석이 부족하다"고 지적했다. 이에 콕스웨이브는 AI 성능 분석을 위한 필수 도구로 '얼라인'을 개발했다. 이 플랫폼은 ▲대규모 AI 대화 데이터 검색·분석 ▲자연어 기반 질의응답 ▲실시간 모니터링 패널 제공 기능을 갖추고 있다. AI 기업들이 챗봇, 가상 비서, 고객 서비스용 AI 모델을 운영할 때 발생하는 문제를 쉽게 파악하고, 개선 방향을 찾을 수 있도록 설계됐다. AI의 신뢰성과 안전성을 강화하는 것도 핵심 목표다. '얼라인'은 AI가 생성한 응답 중 비정상적인 패턴이나 비효율적인 대화 흐름을 자동 감지하고 이를 개발팀이 즉각 수정할 수 있도록 지원한다. 또 구글리서치 및 여러 학계 기관과 협력해 AI 모델의 윤리적 문제와 안전성을 개선하는 연구를 진행하고 있다. 이같이 콕스웨이브는 AI 모델 성능 분석에 대한 기업들의 수요가 커지고 있다고 보고, 글로벌 AI 기업들과 협력해 시장을 확대할 계획이다. 김기정 콕스웨이브 대표는 "앤트로픽과의 협력을 통해 AI 모델이 보다 안전하고 효과적으로 작동하도록 지원하고 있다"며 "AI와 인간이 조화롭게 협력하는 미래를 만들기 위해 지속적으로 연구개발(R&D)을 확대할 것"이라고 밝혔다.

2025.03.19 16:15조이환

"클로드 최신 기술 공개"…콕스웨이브, 앤트로픽과 국내 AI 시장 '공략'

콕스웨이브가 글로벌 인공지능(AI) 유니콘 앤트로픽과 손잡고 국내 AI 시장에서의 입지를 강화한다. AI 안전성과 효율성을 중심으로 개발자와 기업 간 협력을 확대해 글로벌 시장과 국내 생태계를 연결하려는 조치다. 11일 업계에 따르면 콕스웨이브는 오는 19일 서울 잠실 시그니엘 그랜드볼룸에서 '코리아 빌더 서밋'을 개최한다. 이번 행사는 앤트로픽이 한국에서 처음 여는 공식 행사로, 콕스웨이브가 공동 주최를 맡아 의미를 더했다. 서밋에서는 앤트로픽이 개발한 최신 AI 모델 '클로드'의 최신 기능들을 소개하고 국내 주요 AI 스타트업과 기술 리더들이 함께하는 패널 토론이 열린다. 또 앤트로픽 연구팀이 진행 중인 최첨단 AI 연구 내용을 공유하며 한국 AI 기업들이 클로드를 활용하는 방안도 논의된다. 이번 행사에는 앤트로픽의 핵심 인사들이 직접 참석한다. 마이크 크리거 최고제품책임자(CPO)와 케이트 얼 젠슨 매출 총괄책임자가 주요 연사로 나서며 콕스웨이브의 이엽 제품 총괄, 김동언 테크 리더를 비롯한 국내 AI 리더들이 패널로 참여한다. 국내 AI 스타트업과 기술 기업들의 실무 경험을 공유하는 세션도 마련된다. 뤼튼, 링크알파, 클레온 등 AI 스타트업 리더들이 패널 토론을 진행하며 라이너, 로앤컴퍼니, SKT 등 주요 기술 기업이 AI 활용 사례를 발표할 예정이다. 콕스웨이브는 AI 제품 분석 플랫폼 '얼라인'을 운영하며 생성형 AI의 안전성과 효율성을 높이는 솔루션을 제공해왔다. 지난해 인도의 AI 기업 펀다멘토와 전략적 파트너십을 체결했으며 한국금융IT와 AI 챗봇 솔루션을 공동 개발하는 등 글로벌 협력을 이어가고 있다. 김주원 콕스웨이브 대표는 "생성형 AI의 신뢰성과 안전성을 확보하는 것이 우리의 핵심 목표"라며 "이번 서밋을 통해 한국 AI 생태계를 더욱 활성화하는 계기가 되길 기대한다"고 말했다.

2025.03.11 10:24조이환

"韓 AI 시장 본격 공략"…앤트로픽, 서울서 '빌더 서밋' 개최

앤트로픽이 서울에서 '코리아 빌더 서밋(Korea Builder Summit)'을 개최하며 국내 시장 공략을 본격화한다. 주요 IT 강국 중 하나인 한국의 인공지능(AI) 생태계와의 협력을 확대함으로써 글로벌 시장에서의 입지를 강화하려는 조치다. 앤트로픽은 오는 3월 19일 시그니엘 서울에서 '빌더 서밋' 행사를 개최한다고 26일 밝혔다. 이 서밋은 앤트로픽이 한국에서 처음 여는 공식 행사로, 국내 AI 개발자, 기술 리더, 미디어를 대상으로 클로드의 최신 기능과 연구 성과를 공개할 예정이다. 행사 공동 주최사는 국내 AI 안전성 기업인 콕스웨이브다. 앤트로픽 '클로드'는 정교한 추론 능력과 복잡한 업무 처리 역량을 갖춘 AI 모델이다. 특히 한국어와 한국 문화에 대한 높은 이해도를 가져 비즈니스 환경에 최적화된 대응이 가능하다. 회사는 모델 개발에 있어 '헌법적 AI(Constitutional AI) 프레임워크'를 채택해 각 문화권의 특성을 존중하는 책임 있는 AI 기술을 지향한다. 이번 행사에서 앤트로픽은 최첨단 연구 성과를 국내 시장에 선보인다. '클로드'의 새로운 기능과 AI 모델 발전 방향을 공유하며 기업들이 어떻게 AI를 활용할 수 있을지 논의할 예정이다. 행사에서는 비즈니스 운영 및 개발 워크플로우 혁신 방안도 중점적으로 다뤄진다. 이번 서밋에는 마이크 크리거 앤트로픽 최고제품책임자(CPO)와 케이트 얼 젠슨 매출 총괄 책임자 등 핵심 경영진과 앤트로픽 연구진이 다수 참석해 한국 스타트업 커뮤니티와 함께 소통할 전망이다. 앤트로픽 측은 국내 기업들이 '클로드'를 활용해 AI 혁신을 선도하고 있다고 평가했다. 스타트업 및 기업들이 클로드 기반 애플리케이션을 개발하며 글로벌 경쟁력을 확보하고 있다는 분석이다. 이번 서밋은 AI 빅테크 기업들이 국내 시장 진출을 가속화하는 흐름과도 맞닿아 있다. 일례로 지난 4일 오픈AI는 서울에서 '빌더랩' 행사를 열고 샘 알트먼 최고경영자(CEO)가 직접 참석해 카카오와의 협력을 발표한 바 있다. 콕스웨이브 김주원 대표는 "이번 행사는 우리의 혁신적인 AI 커뮤니티와 글로벌 AI 리더를 연결하는 중요한 자리"라며 "우리나라가 책임감 있는 AI 개발의 핵심 허브로 성장하는 계기가 될 것"이라고 밝혔다. 조 주 앤트로픽 스타트업 성장 및 파트너십 총괄은 "한국 AI 생태계는 세계적으로 탄탄한 경쟁력을 갖추고 있다"며 "한국이 글로벌 기술 중심지로 자리 잡을 것으로 확신한다"고 말했다.

2025.02.26 11:23조이환

콕스웨이브가 제시한 성공적 AI 제품 조건은?

콕스웨이브가 성공적인 생성형 인공지능(AI) 제품을 위한 조건을 기획 의도와 정확한 구현, 사용자 니즈 달성, 지속적인 제품 가치 향상으로 꼽았다. 콕스웨이브는 지난 20일 패스트캠퍼스가 서울 코엑스에서 개최한 '2024 젠콘 AI 컨퍼런스 포 데브(2024 Gencon)' 연사로 참가했다고 23일 밝혔다. 이날 콕스웨이브 이엽 제품 팀장은 '생성형 AI 시대에서의 기회와 적응 전략' 주제로 발표했다. 이 팀장은 급성장하는 생성형 AI 시장에서 경쟁력 확보 핵심은 사용자 선택을 받을 수 있는 좋은 제품을 개발하는 것이라고 강조했다. 이 팀장은 제품 개발 경험과 국내외 기업과 협업에서 얻은 인사이트 바탕으로 성공적인 생성형 AI 제품은 ▲기획 의도의 정확한 구현 ▲사용자 니즈 달성 지원 ▲지속적인 제품 가치 향상이라는 3가지 조건을 실현해야 된다고 주장했다. 이어 그는 생성형 AI 기반 대화형 제품 분석 플랫폼 '얼라인 AI' 사례를 통해 좋은 생성형 AI 제품 조건을 달성하기 위해 필요한 고려사항을 제안했다. 이 팀장은 ▲AI 결과물 보장을 위한 시스템 구축 ▲사용자 친화적 인터페이스 설계 ▲유의미한 피드백 수집 및 분석 체계 확립 ▲개인화된 사용자 경험 설계 및 구현 ▲AI 네이티브 사고 강화를 기획자가 고민해야 할 관점을 꼽았다. 이런 요소가 생성형 AI 제품 품질과 경쟁력을 결정짓는다고 강조했다. '2024 젠콘'은 패스트캠퍼스가 국내 생성형 AI 인사이트 확장을 위해 주최하는 AI 컨퍼런스다. 엔비디아와 마이크로소프트, 허깅페이스, 깃허브 등 AI 산업 최전선에 있는 12개 글로벌 기업 소속 IT 전문가들이 연사로 나서 AI에 대한 최신 기술 트렌드, AI 투자 동향, AI 기술의 상품화 및 적용 과정에서의 어려움 등 관련 논의가 이뤄졌다. 콕스웨이브는 '2024 젠콘'의 파트너 기업으로 연사 참가 및 AI 기술 산업의 미래 인사이트를 제공했다. 이번 행사에는 AI 개발자, 스타트업 및 투자사 등 약 1천 명이 참석했다. 이 팀장은 "다양한 AI 제품을 직접 사용해 AI-네이티브적인 사고로 접근해야 새 시장 기회를 창출할 수 있다"며 "앞으로 사용자 기대에 부응하는 서비스 가치를 제공하기 위해 제품 개선과 고도화에 힘쓰겠다"고 밝혔다.

2024.09.23 10:40김미정

콕스웨이브, 이기민 교수 영입…"AI 안전성 앞장"

콕스웨이브가 인공지능(AI) 안전성과 AI 생태계 활성화를 위해 인재를 영입했다. 콕스웨이브는 카이스트 이기민 교수를 어드바이저로 영입했다고 10일 밝혔다. 이기만 교수는 AI 안전성·AI 정렬 분야 연구 선두주자로 알려졌다. 카이스트 신진우 석좌교수의 지도 아래 박사 학위 취득 후, AI 강화학습 분야의 권위자인 UC 버클리의 피터 아빌(Pieter Abbeel) 교수 연구실에서 박사후 과정을 수료했다. 이후 이 교수는 구글 리서치 소속 리서치 사이언티스트를 거쳐 현재 카이스트 김재철 AI 대학원에서 부교수로 재직 중이다. 최근 국제머신러닝학회(ICML)를 비롯한 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR) 등 글로벌 AI 분야 학회에서 논문을 게재했다. 그는 AI 모델이 잘못된 결과물을 냈을 때 인간이 피드백을 주며 강화 학습을 시키는 RLHF를 지속 연구해왔다. 이런 연구 방식을 '얼라인 AI'에 적용함으로써 AI 시스템이 겪을 수 있는 주요 위험 및 악용 사례를 식별하고, AI 모델 취약점을 보완해 잠재 위협 예방을 강화할 예정이다. 이기민 어드바이저는 "AI 안전성에 대한 논의가 활발해지는 가운데 연구 및 논의에 그치지 않고 이를 적용해 더 나은 제품을 제공하고자 하는 콕스웨이브 사업 방향성과 가치관에 공감해 합류를 결정했다"며 "모든 기업과 소비자가 안심하고 AI 제품을 이용할 수 있도록 연구 및 제품 개발에 기여하겠다"고 말했다. 김기정 콕스웨이브 대표는 "얼라인 AI는 누구나 생성형 AI 기술을 쉽고 편리하게 활용할 수 있도록 돕고자 만들어진 AI-네이티브 제품이다"며 "이번 이기민 교수 영입으로 기업 고객들이 더 안전한 AI 서비스를 제공할 수 있도록 얼라인 AI의 분석 및 평가 기술을 고도화해나겠다"고 밝혔다.

2024.09.10 11:18김미정

콕스웨이브가 제시한 AI 안전성 강화 방안은?

콕스웨이브가 구글 행사 '리서치앳 코리아'에서 인공지능(AI) 안전성에 대한 의견을 국내외 전문가들과 논의했다. 콕스웨이브가 이달 27일 서울 포시즌스 호텔 서울에서 개최된 구글 행사 연사로 참가했다고 28일 밝혔다. 김기정 콕스웨이브 대표는 국내 AI 연구사례 세션에 스타트업 대표로 참가했다. AI 안정성 향상이라는 주제로 발표를 진행했다. ▲AI 시스템이 직면한 주요 위험 ▲가장 많이 나타나는 AI 시스템 악용법 ▲AI 모델의 취약성 평가 방법을 공유하고 향후 연구 방향을 제안했다. 김 대표는 얼라인 AI 플랫폼 내 발생한 실사례를 들어 AI 모델의 취약성 평가와 잠재 위협 예방 방법을 공유했다. 얼라인 AI는 생성형 AI 기반 대화형 제품을 위한 분석 플랫폼으로 AI와 사용자 간의 대화 데이터를 분석할 뿐 아니라 AI 한계점으로 알려진 환각 현상이나 개인정보 유출 사례 없이 제대로 기능을 수행하는지 판단하는 서비스를 제공한다. 특히 AI 모델에 대규모 탈옥 프롬프트를 선적용함으로써 다중 샷 공격 저항 점수(MARS)를 측정하고, 해당 점수 기반으로 AI 모델의 취약성을 판단함으로써 잠재 위협을 대비할 수 있다. 리서치앳 코리아는 전 세계 연구자 대상으로 AI 관련 최신 연구를 공유하는 행사다. 김경훈 구글 코리아 사장, 구글 리서치 마야 쿨리키 부사장이 행사에 자리했다. 다수 구글 AI 연구원이 참여해 노트북 LLM, 제미나이, AI에이전트 프로젝트 등 연구사례를 발표했다. 올해 행사는 '코리아스타트업포럼'과 협업을 통해 학계 연구자뿐 아니라 AI 스타트업의 연구원 및 개발자까지 초청 규모를 확대했다. 지난해 11월 아태지역 최초로 리서치앳 코리아가 한국에서 진행된 이후 한국에서 두번째로 개최된 글로벌 행사다. 김기정 콕스웨이브 대표는 "얼라인 AI는 AI를 활용하면서 발생할 수 있는 위험을 사전에 탐지하고 방지하는 AI 안전망 역할을 제공한다"며 "지속적인 기술 개발 및 고도화로 기업들이 더 안전하고 신뢰할 수 있는 AI 서비스를 제공할 수 있도록 지원하겠다"고 말했다.

2024.08.28 23:35김미정

콕스웨이브, 'AI 엔터프라이즈 솔루션' 출시…분석 기능 확장

콕스웨이브(대표 김기정)가 기존 인공지능(AI) 제품 분석 플랫폼 기능을 확장했다. 콕스웨이브는 'AI 엔터프라이즈 솔루션'을 출시했다고 20일 밝혔다. 해당 솔루션은 기존 AI 솔루션 얼라인 AI를 확장한 패키지다. 기업의 챗봇 도입부터 구축, 운영, 분석, 개선까지 지원한다. 챗봇을 도입한 기업은 얼라인 AI로 사용자와 AI 간 대화를 포함한 복합적인 행동 데이터까지 분석할 수 있다. 얼라인 AI는 자연어 검색 기능도 갖췄다. 사용자는 IT 지식 없이 일반 언어로 정보 검색을 할 수 있다. 쿼리나 코딩 지식이 필요하던 기존 분석 플랫폼과 달리 챗봇 성능의 고도화 가능 지점을 파악하고 개선할 수 있다. 콕스웨이브는 패스스캠퍼스와 최근 계약을 체결했다. 패스트캠퍼스는 자사 강의 영상에 AI 챗봇을 도입하고 서비스 운영과 개선을 위해 얼라인 AI를 활용한 컨설팅을 제공할 계획이다. 신해동 패스트캠퍼스 대표는 "콕스웨이브의 AI 엔터프라이즈 솔루션은 AI 챗봇 도입부터 결과 분석까지의 서비스를 제공한다"며 "AI 챗봇 도입에 드는 물리적 시간과 비용을 절감할 수 있다"고 밝혔다. 김기정 콕스웨이브 대표는 "투자 유치 직후 신규 솔루션 출시와 계약 체결 소식까지 좋은 소식을 연달아 전할 수 있어 기쁘다"며 "기술적 장벽, 높은 비용, 유지보수의 어려움으로 AI 챗봇 도입을 망설이는 기업들에게 콕스웨이브의 AI 엔터프라이즈 솔루션을 제공해 누구나 쉽게 AI 활용이 가능한 시대를 열겠다"고 말했다.

2024.02.20 08:33김미정

사람대신 AI로 데이터 수집부터 분석까지…"AI 서비스 개선 도와"

국내 스타트업이 인공지능(AI) 기술을 활용해 AI 서비스 기능을 개선하고 있다. AI 서비스 핵심 요소인 데이터 수집부터 가공·라벨링에 드는 시간을 줄이는 솔루션이 줄줄이 나오는 추세다. 사람대신 AI가 데이터 작업을 진행함으로써 AI 서비스 개선을 더 빠르고 효율적으로 할 수 있다. 크라우드웍스는 AI 모델에 필요한 데이터를 수집·가공하는 기업이다. 데이터 수집은 크라우드 소싱 방식으로 이뤄진다. 예를 들어, 이미지 데이터를 수집해야 하는 경우 자사 사이트에 프로젝트성으로 이벤트를 연다. 일반 대중은 해당 홈페이지에 접속해 간단한 게임에 참여할 수 있다. 이를 통해 포인트를 얻을 수 있다. 크라우드웍스는 이렇게 모은 데이터를 수집한 후 가공한다. 편향, 반복된 데이터는 거른다. 데이터 가공을 마치면, AI 모델이나 서비스에 넣는다. 데이터 종류는 이미지, 영상, 텍스트, 음성 등이다. 크라우드웍스 측은 AI 제품이나 모델 품질을 좌우하는 가장 큰 요소는 데이터 질이라는 입장이다. 현재 주요 고객사로 중소·스타트업을 꼽았다. 회사 내부에 거대언어모델(LLM)을 도입하거나, AI 서비스 개발을 원하는 사업장에 맞춤형 데이터를 제공한다. "영상 데이터 라벨링 사람보다 잘 해" 슈퍼브에이아이는 비전 AI 기술 개발 활성화를 돕고 있다. 인간 개발자가 특정 이미지나 영상에 등장하는 물체에 라벨을 붙인 후 AI에 알려주는 식이다. 이후 AI가 비슷한 사진과 영상을 보면 해당 물체들을 구분할 수 있다. 예를 들어, 개발자가 영상 속 등장하는 자동차와 자전거에 라벨을 붙인 후 AI에게 알린다. AI는 이를 학습하고 이후 자동차와 자전거를 스스로 구분할 수 있게 된다. AI가 이미지·영상 데이터를 직접 선별하고 라벨링까지 하는 방식이다. 일반적으로 이미지나 영상 데이터를 선별하려면 긴 시간이 걸린다. 특히 개발자는 일일이 데이터 라벨링 작업을 필수로 거쳐야 한다. 라벨링에 오류가 생기면 이를 바로잡는 데 몇 주가 걸린다. 업계 관계자는 "외주업체에 데이터 라벨링을 의뢰하지만, 라벨링 오류가 여전히 많다"고 털어놨다. 업무 효율성을 위해 AI를 개발하지만, 오히려 그 과정 속에서 비효율을 경험하고 있다는 의미다. 이에 업계는 이미지나 영상 데이터 라벨링을 기존보다 더 빠르고 쉽게 개발할 수 있는 해결책을 찾고 있다. 슈퍼브에이아이는 LLM이 아닌 멀티모달 기술의 비전 영역에 초점 맞춘 서비스를 제공한다. 가장 대표 제품은 '슈퍼브 라벨'이다. AI가 데이터 라벨링을 돕는 플랫폼이다. 멀티모달 모델이 학습할 수 있는 형태로 데이터를 가공해 준다. IT 개발 지식은 없어도 된다. 클릭 몇 번만으로 AI를 개발하고 관리할 수 있도록 직관적인 솔루션을 운영하고 있다. 모든 이미지와 사진에 라벨링을 수작업으로 진행하는 것보다 업무 생산성을 높일 수 있는 셈이다. "데이터 분석 통해 AI 서비스 개선" 콕스웨이브는 사용자 데이터 분석을 통해 AI 서비스 기능을 개선해 준다. 현재 관련 솔루션 '얼라인 AI'를 운영 중이다. 생성형 AI 기술 개발부터 제품 상용화, 매각 등 서비스 제작 전 과정에서 활용된다. 얼라인 AI는 서비스 사용자 데이터 기반으로 분석을 진행한다. 사용자와 서비스 간 대화를 포함한 복잡적인 사용자 행동 데이터를 분석한다. 이를 토대로 고객 맞춤형 서비스나 제품에 필요한 사항을 보고서 형식으로 내놓는다. 기존 분석 플랫폼이 페이지 내 버튼 클릭률, 페이지 체류 시간 등 단순 데이터에 집중했다. 반면 얼라인 AI는 사용자와 AI 간 대화를 포함한 복합적인 사용자의 행동 데이터까지 분석 가능하다. 이를 챗GPT 같은 LLM 기반 서비스와 제품에 바로 도입할 수 있다. 콕스웨이브 측은 사용자들이 어떤 의도로 서비스를 사용하고 있는지, AI가 사용자 의도대로 잘 행동하고 있는지 등 보다 깊은 층위의 분석을 할 수 있다고 전했다.

2024.02.09 13:14김미정

콕스웨이브, 45억원 규모 시드 투자 유치

콕스웨이브(대표 김기정)가 약 45억 원 규모 시드 투자를 유치했다고 30일 밝혔다. 이번 투자에는 KB 인베스트먼트, 다날, 서울대기술지주 등이 참여했다. 콕스웨이브는 2021년부터 생성형 인공지능(AI) 기술을 개발하고 제품 상용화, 매각까지 진행한 스타트업이다. 130만 명의 사용자를 보유한 AI 기반의 이미지 편집 서비스 '하마(Hama)'와 AI 이미지 검색엔진 서비스 '엔더픽스(Enterpix)'를 출시하는 등 생성형 AI 서비스를 출시해 왔다. 현재 두 제품을 매각한 후 사용자 분석 플랫폼 '얼라인 AI'를 개발 및 운영하고 있다. 얼라인 AI는 사용자 경험을 분석함으로써 더 개인화된 제품을 만들 수 있도록 돕는 플랫폼이다. 기존의 분석 플랫폼이 페이지 내 버튼 클릭률, 페이지 체류 시간 등 단순 데이터에 집중했다면, 얼라인 AI는 사용자와 AI 간 대화를 포함한 복합적인 사용자의 행동 데이터까지 분석 가능하다. 사용자들이 어떤 의도로 서비스를 사용하고 있는지, AI가 사용자의 의도대로 잘 행동하고 있는지 등을 깊게 분석할 수 있다. 김기정 콕스웨이브 대표는 "생성형 AI는 기존과는 완전히 다른 패러다임으로, 제품 분석 역시 기존과는 다른 방식으로 이루어져야 한다"며 "이번 투자를 바탕으로 얼라인 AI의 서비스 개발 및 고도화, 우수 인재 영입 및 글로벌 시장 내 인지도 확보에 집중하여 AI-네이티브 시대를 열겠다"고 전했다.

2024.01.30 10:45김미정

지금 뜨는 기사

이시각 헤드라인

대기업 유통·이커머스 뒤바뀐 처지..."규제 풀어야 산다"

[르포] 격납고 할퀸 '더 뉴 아우디 A5'…獨 정수 담아왔다

[르포] 골프 코치에서 피부 상담까지…일상 파고든 AI, AWS서밋에서 만난다

SKT 유심교체 누적 187만...오늘 50만명에 유심재설정 안내

ZDNet Power Center