"AI 모델 성능만으론 부족"…24시간 인프라 안정성·비용 효율이 기업 생존 결정
"인공지능(AI) 모델이 뛰어나도 이를 뒷받침할 인프라가 비효율적이면 사업은 지속 불가능합니다. 기술이 고도화될수록 사업은 인프라 안정성과 비용 효율성이 결정합니다. 투디지트, 크립토랩, 멋쟁이사자처럼 등 국내 주요 AI 스타트업 3사는 3일 서울 강남구 그랜드 인터콘티넨탈 서울 파르나스에서 열린 '오라클 AI 서밋 2026'에서 이와 같이 말하며 오라클 클라우드 인프라스트럭처(OCI)를 선택한 이유를 밝혔다. 이들은 ▲고난도 병렬 연산 처리 ▲실시간 에이전트 구동의 안정성 ▲네트워크 비용 절감 및 글로벌 확장성 등 각 사의 비즈니스 난제를 OCI를 통해 어떻게 해결했는지 구체적인 사례를 공유했다. 크립토랩, 수학적으로 검증된 보안, 인벡터로 AI 데이터 보호 시장 공략 크립토랩은 데이터를 암호화한 상태에서도 연산을 수행할 수 있는 차세대 동형암호 기술 전문 기업이다. 정선철 플랫폼개발팀 이사는 동형암호를 "데이터를 보지 않은 채 원하는 계산을 수행할 수 있는 수학적으로 검증된 보안"이라고 정의했다. 최근 크립토랩은 동형암호 기반 벡터 검색 서비스인 '인벡터(enVector)'를 출시했다. AI 에이전트가 데이터를 처리할 때 발생하는 보안 문제를 해결하기 위해 벡터 데이터를 암호화한 상태에서 원본 노출 없이 유사도 검색을 수행하는 서비스다. 토스의 얼굴 인증 영역에서 페이스 템플릿 정보를 복호화 없이 매칭하는 것이 대표적인 사례다. 정 이사는 OCI 선택 이유로 CPU 기반의 탁월한 연산 환경을 꼽았다. "동형암호는 병렬성이 핵심인데 OCI는 ARM 서버에서 코어 스케일링이 자유로워 GPU 없이 CPU만으로도 고성능을 낼 수 있다"며 "특히 월 10TB까지 제공되는 무료 아웃바운드 트래픽과 저렴한 네트워크 비용 덕분에 데이터가 늘어나도 비용 부담이 적다"고 강조했다. 크립토랩은 향후 AI 에이전트 생태계 확산에 맞춰 '데이터 보호 인프라' 시장을 공략할 계획이다. 멋쟁이사자처럼, AI 조교 6명이 24시간 지원… 트래픽 폭증에도 '무중단' 멋쟁이사자처럼은 연간 1천600명 이상의 개발자를 양성하며 데이터 기반 통합 학습 관리 플랫폼(AXP)을 운영하고 있는 에듀테크 기업이다. AXP는 수업, 과제, 질의응답 등 학습 과정 전반이 플랫폼 안에서 데이터로 축적되고, 이를 AI가 분석해 개인화 리포트 제공과 학습 개선으로 이어지는 구조다. 그는 K-디지털 트레이닝 같은 대규모 인재 양성 사업에서도 이런 데이터 기반 운영 방식이 경쟁력으로 작동한다고 강조했다. 권오철 CTO는 학습 친구 '레오', 멘토 '알렉스' 등 6개의 AI 에이전트가 서로 협력하며 수업 참여부터 멘토, 요약노트·아침 브리핑 까지 학습 관련 전반적인 분야를 24시간 학습을 보조한다고 설명했다. 그는 OCI를 선택한 이유로는 보안과 운영 안정성을 꼽았다. 학습 데이터에는 지원서 정보와 학습 성취 등 민감 정보가 포함되는 만큼, 네트워크 분리와 권한 통제 같은 보안 기능을 기본으로 제공하는 점이 결정적이었다는 설명이다. 또 컨테이너 기반 서비스에서 네트워크 지연을 측정해 리포트를 제공하는 등 지원 체계도 실제 운영에 도움이 됐다고 밝혔다. 더불어 대규모 사용자가 몰리는 것을 대비한 운영 안정성을 강조했다. 지난해 이벤트 당일 약 22만 명이 유입됐지만 자동 확장으로 장애 없이 운영할 수 있었다고 소개했다. 권 CTO는 "AXP와 AI 에이전트를 고도화해 개인 맞춤형 학습 경험을 강화하고, 학습 운영 전 과정에서 자동화를 확대해 나갈 것"이라고 계획을 밝혔다. 투디지트 "인터넷 없는 곳에 LLM 수요"…미국 시장 공략 위해 OCI 도입 투디지트는 허깅페이스 오픈 LLM 리더보드 세계 1위를 기록한 LLM 파인튜닝 전문 스타트업이다. 박석준 대표는 전 세계 1만 개 종목의 분석 리포트를 실시간으로 생성하는 '나인메모스(NineMemos)'의 글로벌 상용화를 앞두고 OCI를 선택했다. 박 대표는 "전 세계 2억 명의 투자자를 대상으로 하는 글로벌 서비스는 지연 시간(Latency) 해결이 관건"이라며 "오라클이 미국 현지 리전 구축에 있어 가장 파격적인 조건과 최적의 성능을 제안했다"고 밝혔다. 또한 AI 서비스 운영의 가장 큰 걸림돌인 네트워크 비용 문제도 해결했다. 박 대표는 "인프라 제공 수준은 비슷할 수 있으나, 오라클은 클라우드 내부 네트워크 비용이 타사 대비 압도적으로 저렴해 전체 운영 비용을 획기적으로 절감할 수 있었다"고 평가했다. 투디지트는 1분기 상용 서비스 런칭을 시작으로 전 세계 투자자를 대상으로 한 월정액 구독 모델을 본격화할 계획이다.
