• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'신뢰'통합검색 결과 입니다. (64건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

세계 1위 CRM 세일즈포스도 찍었다…美서 다투모로 알려진 이 회사, 205억원 투자 유치

생성형 인공지능(AI) 활용의 신뢰 및 안전에 대한 전 세계적인 관심이 높아지고 있는 가운데 셀렉트스타가 대규모 투자 유치를 통해 경쟁력을 입증했다. 세계 1위 고객 관계 관리(CRM) 기업 세일즈포스까지 셀렉트스타의 AI 데이터 및 신뢰성 검증 능력을 인정해 투자에 나서면서 글로벌 시장 확대에도 더 속도를 낼 수 있게 됐다. 12일 테크크런치 등 주요 외신에 따르면 셀렉트스타는 지난 11일 세일즈포스 벤처스와 ACVC파트너스 등 해외 투자 파트너들과 KB인베스트먼트, KB증권, 신한벤처투자, 키움인베스트먼트, SBI인베스트먼트, 삼성증권, 무림캐피탈, 인포뱅크파트너스 등 국내 투자사를 통해 1천550만 달러(약 205억원) 규모의 시리즈B 투자 유치에 성공했다. 이에 따라 누적 투자유치액은 총 2천800만 달러(약 379억원)을 달성했다. 셀렉트스타는 해외에선 다투모(Datumo)라는 기업명으로 알려져 있다. 셀렉트스타라는 법인명을 해외 다른 기업이 사용하고 있어 미국 법인명을 제품명과 동일한 '다투모'로 정해 지난 3월부터 활동 중이다. 서울에선 지난 2018년 설립돼 AI 개발에 필수적인 데이터 수집·가공 솔루션을 제공하며 국내 5대 그룹 및 5대 금융그룹을 포함한 320여 고객사를 확보했다. 김세엽 셀렉트스타 대표는 국방과학연구소 AI 연구원 출신으로, 카이스트 동문 5명과 함께 공동 창업했다. 2023년부터는 라이선스가 확보된 고품질 학습용 데이터셋 판매 서비스를 론칭해 누적 판매 50억원을 돌파했다. 최근에는 한국어 데이터셋 구매를 희망하는 글로벌 기업의 문의가 이어지는 가운데 다국어 및 멀티모달 데이터셋 분야로 확장 중이다. 지난해에는 약 600만 달러의 매출을 기록했다. 이들에 투자에 참여한 기관들은 셀렉트스타의 기술력과 글로벌 성장 가능성에 주목했다. 특히 세일즈포스는 AI 데이터 분야에서 셀렉트스타가 보유한 독보적 기술력과 시장 선도 가능성을 높이 평가하며 전략적 투자를 단행했다. 셀렉트스타는 세일즈포스와의 파트너십을 발판으로 미국, 일본 등 해외 시장 진출에 속도를 낼 전망이다. 김 대표는 "국내에서 열린 행사에서 딥러닝AI 창립자 앤드류 응과 화상 대화를 진행한 것을 링크드인에 공유한 것이 세일즈포스 벤처스의 관심을 끌게 됐다"며 "자금 조달 과정은 약 8개월 가량 소요됐다"고 말했다. 셀렉트스타는 올해 초 국내 최초로 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(Datumo eval)'을 출시하며 업계의 주목을 받았다. '다투모 이밸'은 신뢰성 검증 프로세스를 자동화해 AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전에 식별, 대응하는 국내 최초 솔루션이다. 출시 이후 신한은행, 우리은행, NH농협은행 등에 도입됐다. 오는 8월에는 시티그룹 AI 총괄과 'AI 신뢰성 검증'을 주제로 한 글로벌 웨비나를 개최하며 글로벌 금융권의 실질적 수요 확대가 기대되고 있다. AI 데이터 및 신뢰성 검증 영역에 꾸준히 기술력을 쌓아온 셀렉트스타는 과학기술정보통신부가 주관하는 '독자 AI 파운데이션 모델 개발 사업'에 SKT 컨소시엄으로 참여, 지난 4일 최종 선발팀으로 이름을 올렸다. 셀렉트스타는 모델 안정성 검증 데이터를 비롯해 데이터 파트 전반을 총괄하며 완성도 높은 국가대표 AI 개발에 일조할 예정이다. 셀렉트스타는 시리즈B 투자 유치를 기점으로 신뢰성 검증 솔루션 기술 고도화 및 글로벌 시장 진출에 본격적으로 나설 예정이다. 이 외에도 포브스코리아 '2025 대한민국 AI 50' 선정, 국내 최초 '생성형 AI 레드팀 챌린지' 대표 파트너사로 행사 운영, MWC 2025 '글로벌 AI 레드팀 챌린지' 주최 등 다양한 국내외 프로젝트를 주도하며 글로벌 수준의 기술력을 인정받았다. 시리즈B 투자를 리드한 KB인베스트먼트 김승환 글로벌투자본부장은 "셀렉트스타는 국내 AI 데이터 분야에서 선두를 달리는 기업이지만, 꾸준한 도전과 성장으로 업계에 새로운 기준을 제시하고 있다"며 "'AI 신뢰성 검증' 초기 시장에서 이미 확실한 기술력을 확보하고 있고, 다양한 산업 도메인에서 AI 상용화가 가속화됨에 따라 의미 있는 성과를 만들어 낼 것으로 기대한다"고 설명했다. 쇼 야마나카 세일즈포스 수석심사역은 "이번 투자는 세일즈포스가 한국 시장을 겨냥한 AI 투자 및 사업 확장의 전략적 이정표가 될 것"이라며 "양사의 파트너십을 기반으로 '에이전트포스(Agentforce)'를 비롯한 글로벌 AI 에이전트 사업 전반에서 강력한 시너지를 창출할 것으로 기대한다"고 강조했다. 업계에선 이번 일을 두고 메타가 최근 데이터 라벨링 기업 스케일AI에 14억3천만 달러를 투입해 인수한 것과 비슷하다고 봤다. 또 셀렉트스타가 스케일AI와 유사하게 사전 훈련 데이터셋을 제공하고, 아리제AI처럼 AI 평가 및 모니터링 분야에서 제품을 선보이고 있다는 점을 높게 평가했다. 테크크런치는 "동종 기업과 달리 셀렉트스타(다투모)는 '다투모 이밸'이라는 풀 스택 평가 플랫폼을 제공하고 있다"며 "출판된 책에서 크롤링한 데이터셋을 통해 차별화한 것도 눈에 띈다"고 말했다. 김 대표는 "이번 시리즈B 투자 유치를 계기로 신뢰성 검증이라는 새로운 시장에서 우리의 독보적인 기술력과 성장 가능성을 인정받았다는 데 큰 의미가 있다"며 "글로벌 시장 진출의 원년으로 삼고 AI의 품질과 안전성을 책임지는 글로벌 AI 기업으로 도약하겠다"고 밝혔다.

2025.08.12 09:46장유미

SKT "3분기 실적 하락 불가피...신뢰회복 총력"

SK텔레콤이 침해사고에 따른 실적 악화가 3분기에도 이어질 전망이지만, 향후 기업가치를 위해 고객 신뢰 회복을 최우선으로 내세우겠다는 뜻을 밝혔다. 김양섭 SK텔레콤 CFO는 6일 실적발표 컨퍼런스콜에서 “올해 3분기는 8월 통신 요금 50% 할인이 예정돼 있어 2분기 대비 실적 하락이 불가피할 것으로 예상된다”고 말했다. 이어 “이런 사항들을 감안해서 올해 매출 가이던스를 17조8천억원에서 17조원으로 하향 조정한 바 있고, 영업이익 또한 전년 수준을 하회할 수밖에 없을 것으로 전망하고 있다”고 밝혔다. 앞서 김 CFO는 “유심 무상 교체와 유통망 보상안으로 발생한 2천500억원 규모의 일회성 비용을 2분기에 반영했다”고 설명했다. 이로 인해 2분기 영업이익은 3천383억원을 기록하며 전년 동기 대비 37.1% 감소했다. SK텔레콤은 3분기 실적 감소가 예상되는 상황에서도 고객 신뢰 회복을 최우선으로 삼겠다고 밝혔다. 김 CFO는 “올해 예상되는 재무적 영향이 작지 않지만, 가장 큰 자산인 고객 기반을 단단히 지키기 위해 고객 신뢰를 회복하고 궁극적으로는 기업 가치를 반드시 실현하겠다”고 강조했다. 정부에서 추진하는 AI와 관련, 이현우 SK텔레콤 AI DC 추진본부장은 “SK텔레콤은 지난 7월 당사 주관으로 컨소시엄을 구성했다”며 “독자 AI 파운데이션 모델의 개발 및 고도화를 진행하는 정부 프로젝트에 최종 5개 정예 팀 중 하나로 선발이 됐다”고 했다. 그러면서 “이와 같이 국가 AI 사업에 참여하는 것 외에도 정부 차원의 AI 산업 육성에 따른 새로운 사업 기회나 정책적 지원 확보 등의 기회를 선점하기 위한 노력도 다각적으로 병행 중”이라고 설명했다. AI 산업 육성의 대표적인 예시로는 울산 AI DC와 '에이닷엑스 3.1' 등을 제시했다. 이 본부장은 “지난 6월에 발표한 울산 AI DC 구축은 정부의 AI 고속도로 구축 및 국가 혁신 거점 육성 목표에 선제적으로 기여했다”며 “향후 SK텔레콤이 정부의 AI 정책 추진에 있어 중요한 파트너로 자리매김하는 기반이 되어 줄 것으로 기대한다”고 강조했다. 이어 “SK텔레콤은 독자적으로 개발한 한국형 LLM 에이닷엑스 3.1을 오픈소스로 공개해, 국내외 다양한 기업들이 AI 기술을 손쉽게 도입할 수 있도록 지원하고 있다”며 “에이닷 전화 통화 요약 등 당사의 AI 서비스에 리벨리온의 AI 반도체 '아톰'을 테스트하는 등 그간 해외 기술에 의존해왔던 AI 분야에서 자립도를 높이기 위해 노력하고 있다”고 설명했다.

2025.08.06 16:35진성우

앤앤에스피 망연동 보안 설루션, CDS 선정

보안 설루션 업체 앤앤에스피(NNSP, 대표 김일용)는 '앤넷CDS 가드 V2.0'이 국방부 '장병 체감형 원스톱 서비스 플랫폼' 구축사업 크로스도메인솔루션(CDS)으로 선정됐다고 5일 밝혔다. 앞서 한국지능정보사회진흥원(NIA)은 메가존을 통해 국방통합데이터센터(DIDC)에서 약 3개월간 CDS 기술검증(PoC)을 진행한 후 '앤넷CDS 가드 V2.0'을 선정했다 앤넷CDS가드 V2.0은 국가보안기술연구소에서 개발해 민간에 이전한 망연동 보안 설루션이다. CDE(Cross Domain Encapsulation) 전용 프로토콜을 통해 외부망과 내부망 간 실시간 양방향 데이터 요청 및 응답이 가능한 고신뢰 통신 환경을 제공하는 것이 특징이다. 앤넷CDS 가드 V2.0은 이번 기술검증에서 국방부 및 관련 기관 보안정책과 규제 요구사항 준수는 물론, 도메인 간 안전한 데이터 전송 역량을 입증했다. 또한 운영환경과 동일한 조건에서 시스템 성능 테스트도 통과한 것으로 전해졌다. 아울러 장시간 안정적인 동작 신뢰성 등 모든 평가 항목을 통과하며 실전 배치에 적합한 설루션으로 도약하게 됐다. 김일용 앤앤에스피 대표는 “이번 CDS 기술검증을 통해 당사의 기술력과 제품의 안정성을 다시 한번 입증하게 되어 매우 뜻깊다”며 “국방 분야를 넘어 주요 기반시설과 공공기관 보안 강화에 기여할 수 있도록 지속적인 기술 개발과 투자를 이어가겠다”고 밝혔다.

2025.08.05 15:07김기찬

[AI는 지금] '속도전' 넘어 '신뢰' 경쟁…AI, 보이지 않는 안전벨트 맨다

전 세계가 인공지능(AI) '속도전'에 몰두하는 사이 한국이 '안전'이라는 카드를 꺼내 들었다. AI 안전연구소가 신뢰성의 컨트롤타워로서 정책을 이끌고 네이버·LG 등 민간 기업들은 개발 현장에서 자체 안전망을 촘촘히 구축하는 '투트랙' 전략이다. 30일 업계에 따르면 AI 기술 경쟁이 격화하며 안전 논의가 뒷전으로 밀리고 있다는 우려가 나온다. 미중 기술 패권 경쟁이 '개발 가속'을 부추긴 탓이다. 이런 흐름에 맞춰 AI 안전 논의를 이끌던 주요국들의 행보도 달라졌다. 실제 영국은 올해 초 AI안전연구소를 AI보안연구소로 개편했다. 미국 역시 지난달 '미국 AI 안전연구소'를 'AI 표준 및 혁신 센터(CAISI)'로 전면 재편하며 정책의 무게추를 기술 표준 선점과 산업 경쟁력 강화로 옮기는 듯한 모습을 보였다. 반대로 국내에서는 안전과 신뢰가 단기적인 속도 경쟁을 넘어서는 장기적인 성공의 핵심 가치라는 인식이 상대적으로 유지되고 있다. 당장의 성능 과시보다는 신뢰할 수 있는 AI 생태계를 먼저 구축하는 쪽이 결국 시장의 최종 승자가 될 것이라는 판단이다. 韓 안전 컨트롤타워 'AI안전연구소'…'셰르파' 역할 자처 국내 AI 안전과 신뢰성 확보의 컨트롤타워는 AI안전연구소다. 지난해 11월 전자통신연구원(ETRI) 산하로 출범한 연구소는 국가 AI 정책을 지원하고, 기술 발전의 잠재적 위험을 해결하는 임무를 맡는다. 연구소 조직은 크게 세 축으로 나뉜다. ▲AI안전정책 및 대외협력실(정책) ▲AI안전평가실(평가) ▲AI안전연구실(기술)이다. 연구소는 이 세 조직의 유기적인 협력을 통해 AI 안전과 산업 경쟁력 확보라는 '두 마리 토끼'를 잡는다는 목표다. 기업과의 협력도 활발하다. 연구소는 지난 3월 'MWC 2025'에서 국내 스타트업 셀렉트스타가 주최한 '글로벌 AI 레드팀 챌린지'를 후원하며 국내 기업의 기술력을 알리는 데 힘을 보탰다. 레드티밍은 AI의 취약점을 일부러 공격해 약점을 찾는 활동으로, 안전성 확보의 핵심 과정이다. 최근에는 LG전자와 손잡고 글로벌 규제 대응에 나섰다. 지난 6월 맺은 업무협약(MOU)은 LG전자의 제품·서비스 개발에 연구소의 안전성 전문 지식을 결합하는 것이 골자다. 이는 유럽연합(EU)의 'AI 법(AI Act)'처럼 구체화되는 규제 흐름에 민관이 함께 대응한다는 점에서 의미가 있다. 이러한 활동은 '신뢰성이 곧 경쟁력'이라는 연구소의 철학을 보여준다. 김명주 AI안전연구소장은 "인공지능(AI)은 이제 자본과 기술의 경쟁을 넘어 '신뢰성'이 핵심인 시대에 접어들었다"며 "결국 어느 기업의 AI가 더 믿을 수 있느냐가 관건이 될 것"이라고 강조했다. '신뢰' 경쟁력, 민간서 꽃핀다…개발 DNA부터 '안전' 심는 K-AI 기업은? AI 신뢰성이라는 과제는 민간의 자발적인 노력과 만나 시너지를 내고 있다. 특히 정부의 '독자 AI 파운데이션 모델' 프로젝트에 참여한 기업들은 성능 경쟁을 넘어 믿을 수 있는 AI를 확보하는데도 주력하고 있다. 그 시작은 AI의 '원유'로 취급받는 학습 데이터 단계에서부터다. 업스테이지의 '1T 클럽'이 대표적이다. 1T 클럽은 1조 개 토큰 규모의 고품질 데이터를 공동으로 수집하고 공유하는 플랫폼으로, 업스테이지는 이를 통해 확보한 데이터를 '사람 중심, 신뢰성, 공정성' 등 5대 윤리 원칙에 기반해 정제하며 AI의 첫 단추를 꿰고 있다. 모델 개발 단계에서도 정교한 '컨트롤타워'가 가동된다. 네이버가 운영 중인 'AI 안전 프레임워크(ASF)'가 주요 예시다. 실무진이 모델의 잠재적 위험을 논의하고 '리스크관리워킹그룹'이 이를 평가해 최종적으로 이사회에 보고하는 방식의 다층적 거버넌스를 갖췄다. 카카오, SK텔레콤, KT 역시 구체적인 조직과 원칙을 마련했다. 카카오는 '그룹 기술윤리 소위원회'를 신설해 리스크를 사전에 점검하고 SK텔레콤은 '사람을 향한 AI'라는 의미를 담은 'T.H.E. AI' 거버넌스 원칙을 수립했다. KT 역시 '책임감 있는 인공지능센터'를 설립해 개발 초기부터 윤리성을 관리한다. LG AI연구원은 한발 더 나아가 학습 과정에서 생기는 '편향 뉴런'을 기술로 찾아 제거하는 방법론을 개발했다. 모델의 내재적 공정성을 높이려는 시도다. AI 모델이 완성된 후에도 신뢰도를 높이기 위한 '담금질'은 계속된다. 네이버는 '레드티밍'을 통해 AI의 약점을 의도적으로 공격하고 여기서 확보된 유해한 응답 데이터를 다시 모델 학습에 이용해 방어력을 키우는 방식을 활용한다. 업계 관계자는 "안전은 당장에는 비용처럼 보여도 글로벌 AI 규제에 선제적으로 대응하는 무형 인프라"라며 "AI 신뢰성 조차도 하나의 산업으로서 보고 접근해야 기업이 성공할 수 있을 것"이라고 말했다.

2025.07.30 15:27조이환

슈어소프트테크, 'AI 신뢰성' 책임진다…통신사 플랫폼 구축 계약 체결

국내 통신사들이 생성형 인공지능(AI) 상용화를 본격화하는 가운데 슈어소프트테크가 이들 서비스를 위한 기술 검증 체계를 구축하며 신뢰성 확보의 핵심 파트너로 부상하고 있다. 슈어소프트테크는 최근 한 국내 통신사와 AI 서비스 상용화 검증을 위한 플랫폼 구축 계약을 체결했다고 3일 밝혔다. 이번 계약은 통신사들의 AI 서비스의 품질과 안전성을 높이기 위한 일환으로 추진됐으며 슈어소프트테크는 플랫폼 기획·개발·적용 전 과정에 대한 기술적 지원을 맡는다. 이번 프로젝트는 기능 테스트 뿐만 아니라 다양한 사용 환경을 반영한 실제 데이터를 기반으로 AI 반응을 학습·평가하는 구조로 설계된다. 특히 AI가 상황별로 일관되고 정확한 판단을 내릴 수 있도록 자동 검증 로직이 포함되며 데이터 생성·편집·관리까지 가능한 통합형 도구도 함께 개발된다. 이미 SK텔레콤은 '에이닷', KT는 '믿음', LG유플러스는 '익시젠' 등 생성형 AI 기반 서비스를 시장에 출시하며 기술 고도화를 진행 중이다. 이번 플랫폼 도입은 통신사들의 서비스가 예측 불가한 실제 사용 환경에서도 안정적으로 작동하도록 보장하기 위한 목적이다. 슈어소프트테크는 앞서 지난해에도 자체 개발한 AI 검증 솔루션 '베리파이엠(VERIFAI-M)'을 출시한 바 있다. 이 제품은 국제표준에 기반해 머신러닝 기반 AI의 신뢰성과 성능을 평가할 수 있다. 최근에는 한국인정기구(KOLAS)로부터 해당 분야 공인시험기관으로 추가 인증을 획득했다. 현재 '베리파이엠'은 자동차·국방 등 고신뢰성 산업군에서 이미 도입돼 있으며 복잡한 AI 시스템의 안전성과 견고성을 평가하는 핵심 검증 툴로 자리잡고 있다. 슈어소프트테크는 이번 통신사 협업을 통해 그 적용 범위를 상용 서비스 분야까지 넓혀가겠다는 방침이다. 배현섭 슈어소프트테크 대표는 "국내 통신사와의 이번 협업은 지난 20년 동안 미션 크리티컬 분야에서 축적해 온 우리의 소프트웨어 검증 기술력이 상용 AI 서비스에도 효과적으로 적용될 수 있음을 보여준 사례"라며 "향후 다양한 산업의 AI 시스템이 신뢰받는 기술 위에서 작동할 수 있도록 검증 노하우를 계속해서 확장해 나가겠다"고 밝혔다.

2025.07.03 16:20조이환

"성능보다 신뢰"…AI 안전성 평가 기준, 민간서 시작

인공지능(AI) 신뢰성 검증의 필요성이 커지자 민간이 먼저 실증 기반 인증 체계를 구축하고 나섰다. 산업계가 주도해 기술의 책임성과 안정성을 정량 평가하려는 시도다. 한국인공지능산업협회(AIIA)는 최근 AI 신뢰성 민간 인증 체계인 '에이아이-마스터(AI-MASTER)'를 론칭했다고 2일 밝혔다. 첫 인증 대상으로는 생성형 AI 스타트업 포티투마루의 '거대언어모델42(LLM42)'가 선정됐다. 인증은 협회가 총괄하고 셀렉트스타와 슈어소프트테크가 시험기관으로 참여했다. '에이아이-마스터'는 유럽연합의 '신뢰할 수 있는 AI(Trustworthy AI)' 7대 요구사항을 바탕으로 국제표준 9종을 적용해 총 63개 항목을 평가한다. 항목의 60% 이상은 자동화 평가 도구로 검증돼 평가 결과의 일관성과 신뢰성이 높다는 점이 특징이다. 포티투마루의 '거대언어모델42(LLM42)'는 독자 개발한 검색증강생성(RAG42) 기술과 기계독해(MRC42) 엔진을 통해 초거대언어모델의 환각 문제를 줄이고 산업별 특화된 경량화 구조와 프라이빗 모드를 갖춘 기업형 모델이다. 모델 학습부터 서빙까지의 전 과정에서 비용 효율성을 강화한 점이 주요 평가 요소로 작용했다. 셀렉트스타는 이번 인증 사업에서 초거대 언어모델 영역 시험기관으로 참여해 평가 항목 정의, 자동화 평가 도구 개발, 전체 프레임 설계를 공동 수행했다. 특히 '다투모 이밸(Datumo eval)'이라는 자체 신뢰성 검증 솔루션을 도입해 인간 감독, 기술 안정성, 투명성, 사회적 책임 등 4대 항목의 점수를 정량화했다. 셀렉트스타의 '다투모 이밸'은 실제 업무환경에서 AI 모델의 응답 품질을 정량 분석하는 자동화 평가 솔루션으로, 금융권 등 고신뢰 산업에서 활용도가 높다. 현재는 삼성생명과 금융 특화 AI 데이터 검증 프로젝트도 진행 중이다. 업계에서는 '에이아이-마스터' 인증이 민간 주도의 정량 검증을 최초로 공식화했다는 점에서 의미가 있다고 평가한다. 향후 정부 연구개발(R&D), 공공조달, 고영향 AI 지정 등 정책 연계와 글로벌 상호인정 확장을 목표로 한다. 김태형 한국인공지능산업협회 본부장은 "이번 인증은 기술력뿐 아니라 사회적 책임성과 신뢰성을 입증할 수 있는 핵심 인증 체계로 자리잡을 것"이라며 "국내 AI 생태계 전반에 신뢰 기반의 문화를 확산시키는 데 기여하겠다"고 밝혔다. 김세엽 셀렉트스타 대표는 "우리가 시험기관으로 참여하면서 신뢰성 평가 역량을 공공 인증 체계에 적용할 수 있게 됐다"며 "향후 '다투모 이밸' 중심으로 AI 안전성과 서비스 품질 향상에 힘쓸 것"이라고 말했다.

2025.07.02 17:24조이환

씽크포비엘, 'AI 신뢰성 자격증' 신설…수도권 중심 채용 깨질까

씽크포비엘이 인공지능(AI) 신뢰성 기술을 다루는 민간 공인 자격 교육과정을 신설했다. 씽크포비엘은 오는 27일까지 국립군산대에서 'AI 신뢰성 검증 기술' 비교과 과정을 운영한다고 26일 밝혔다. 교육은 전북특별자치도와 전북테크노파크가 후원하며 국립군산대 ICT특성화취업연계형사업단이 주관했다. 실무 교육과 자격검정은 씽크포비엘이 직접 맡았다. 교육 과정에서는 농생명 분야 데이터를 중심으로 다양성과 편향성을 진단하는 시나리오 작성법, 신뢰 가능한 AI 개발의 기본 개념, 기술 적용 프로세스 등이 다뤄진다. 마지막 날 수강생을 대상으로 한 자격시험도 예정돼 있다. 시험을 통과한 수강생에게는 산업통상자원부 산하 한국산업지능화협회가 '산업인공지능데이터검증전문가' 2급 자격을 부여한다. 지난해까지 비공인 상태였던 이 과정은 지난 2월 한국직업능력연구원에 정식 등록돼 민간 공인 자격으로 전환됐다. 자격증은 기존 'AI 신뢰성 검증전문가'와는 다르다. 이번 과정은 AI 검증 기술 중에서도 데이터 밸런스 진단 기법을 중심으로 다룬다. 씽크포비엘은 해당 기술을 독자 교육과정에 지난 2020년부터 6년째 적용해 왔으며 지난해에는 시범적으로 내부 자격증을 부여한 바 있다. 회사 측은 민간 공인을 받지 못한 탓에 지금까지 수료생들의 취업 연계가 어려웠다는 점을 이번에 보완했다고 설명했다. 공인 자격이 생기면서 산업 현장에서도 검증된 인력으로 인정받을 수 있는 여지가 생겼다는 평가다. 이 협회는 향후 이 자격증을 산업디지털전환촉진법에 따라 디지털 전환(DX) 전문기업 인증 조건으로 포함하는 방안을 검토 중이다. 자격증이 법적 요건과 연결될 경우 기업 수요도 동시에 창출돼 교육과 취업 연계를 동시에 강화할 수 있을 전망이다. 이번 과정은 특히 수도권 외 대학 출신 인재에게 기회가 된다는 점에서 주목받는다. AI 신뢰성 검증 분야는 도입 초기 단계여서 특정 출신 학교 중심으로 채용이 이뤄지지 않고 있으며 기술 숙련도 위주로 평가받는 구조라는 것이 회사의 설명이다. 국제적 관심도 확산되는 분위기다. 태국 정부는 지난해부터 AI 신뢰성 아카데미 설립을 준비하고 있으며 우즈베키스탄 역시 유사한 형태의 국가 지원 교육기관 설립을 검토하고 있는 것으로 알려졌다. 국내 교육 모델의 수출 가능성도 점쳐진다. 박지환 씽크포비엘 대표는 "기존 소프트웨어 개발 인력은 바이브 코딩 등으로 입지가 흔들리는 상황"이라며 "데이터 검증 전문인력은 AI 신뢰성 확보라는 새로운 영역에서 대안 직군으로 부상하고 있다"고 말했다.

2025.06.26 15:44조이환

앤트로픽 "韓, AI 혁신 거점…파트너십·투자 지속할 것"

"한국은 우리가 각별한 관심을 갖고 있는 지역입니다. 현재 콕스웨이브, SK텔레콤을 포함한 파트너들과 함께 한국 인공지능(AI) 생태계에서 협업을 하고 있는 상태로, 향후에도 이러한 관계를 보다 확장해 나갈 계획입니다. 한국의 기업, 인재, 기술 기반은 언제나 우리에게 큰 자극이 됩니다." 레이철 팡 앤트로픽 산업 솔루션 리드(Industry Solutions Lead)는 최근 지디넷코리아와의 온라인 인터뷰에서 이같이 말했다. 이날 앤트로픽은 한국 협력 확대 방침을 알리는 동시에 '클로드(Claude)' AI를 포함한 회사의 기술에 대한 한국 시장의 반응을 조명했다. 23일 업계에 따르면 앤트로픽은 국내 스타트업 생태계와의 협력을 본격적으로 확대하고 있다. 기업 고객 수요가 빠르게 증가하는 가운데 코딩·법률·콘텐츠 등 고차원 언어 활용 사례를 중심으로 기술 적용 범위를 넓혀가는 모습이다. 앤트로픽은 오픈AI, 구글 딥마인드와 더불어 세계 3대 '프론티어 AI' 개발사로 평가받는다. 오픈AI에서 AI 안전에 대한 견해 차이로 회사를 나온 다리오 아모데이 최고경영자(CEO)가 지난 2021년 설립했다. 설립 초기부터 거대언어모델(LLM) '클로드' 시리즈를 통해 AI가 인간의 의도에 맞춰 안전하게 작동하도록 하는 '정렬(Alignment)' 기술에 역량을 집중해 왔다. 최신 모델인 '클로드 4'를 통해서는 코딩 및 에이전틱 오케스트레이션 성능을 한층 끌어올려 개발자 생태계 확장을 가속화하고 있다. 국내 생태계와의 교류도 활발하다. 지난 3월에는 AI의 안전성을 위해 대화형 AI의 위험 발화를 탐지·차단하는 '얼라인(Align)' 플랫폼을 개발하는 콕스웨이브와 함께 '코리아 빌더 서밋'을 개최했다. 지난 5월에는 에릭 번즈 필드 최고기술책임자(CTO)가 메가존클라우드의 행사에 방한해 국내 기업들과 교류했다. 더불어 팡 리드는 오는 27일 서울시 강남 코엑스에서 열리는 '넥스트라이즈(NextRise)' 행사에 직접 참석해 이엽 콕스웨이브 이사와 파이어사이드 챗을 진행할 예정이다. '넥스트라이즈'에 함께 참가하는 콕스웨이브는 앤트로픽이 한국 시장과의 접점을 넓히는 데 핵심적인 역할을 해온 파트너다. 두 회사는 1년 넘게 협력 관계를 이어오고 있으며 이엽 이사는 국내 행사 기획과 생태계 연결 과정에서 중심적인 역할을 맡아왔다. 이번 행사 역시 양측의 긴밀한 공조를 바탕으로 추진됐다. 국내 활용 사례 측면에서 '클로드'의 한국어 처리 능력은 특히 높은 평가를 받고 있다. 팡 리드는 "지난 '빌더 서밋' 행사에서 한 파트너가 '클로드는 한국어의 뉘앙스를 아름답게 포착한다'고 말한 것이 인상 깊었다"며 "현재는 법률 문서, 기술 보고서, 콘텐츠 생성 등 다양한 분야에서 실제 활용이 빠르게 확산되고 있다"고 밝혔다. 한국 시장에 집중하는 배경으로는 수백 개에 이르는 국내 기업들의 높은 관심이 지속되고 있다는 점을 꼽았다. 앤트로픽은 이러한 수요에 대응해 지원과 투자를 확대하는 방향으로 전략을 설정하고 있다. 실제로 스타트업부터 대기업에 이르기까지 '클로드'의 활용이 다양한 방식으로 이뤄지고 있다는 판단에 기반한 결정이다. 국내 유즈케이스 측면에서는 소프트웨어 엔지니어링을 중심으로 '클로드'의 적용이 신속히 확산 중이다. 앤트로픽은 회사 내부에서도 '클로드 코드(Claude Code)' 제품을 활용해 자체 개발 역량을 높이고 있으며 스타트업들이 이를 바탕으로 생산성 도구를 개발하는 방식으로 파트너십을 형성하고 있다. 산업별 확장성에 대한 질문에는 특정 버티컬에 국한되지 않는다는 입장을 밝혔다. 스타트업은 물론 SK텔레콤과 같은 대기업도 고객층에 포함돼 있으며 응용 프로그램 인터페이스(API) 기반 툴 개발부터 문서 요약, 법률 분석, 콘텐츠 기획 등 거의 모든 분야에서 접점이 형성되고 있다는 설명이다. 팡 리드는 국내 지사 설립 여부에 대한 기자의 질문에 "현시점에서 구체적으로 밝힐 수 있는 계획은 없다"면서도 "한국 시장과 AI 생태계가 우리에게 매우 중요하단 점은 다시 한번 강조하고 싶다"고 밝혔다. 이어 "구글 클라우드 플랫폼(GCP), 아마존 웹서비스(AWS) 등 주요 클라우드 파트너들과 협력해 현지 고객과의 접점을 넓히는 데 주력하고 있다"고 말했다. AI 안전성 전략도 한국 시장과의 접점을 고려해 이어질 전망이다. 안전을 주요 기치로 시작된 기업 답게 시장 진출(GTM) 외에도 정렬(Alignment), 해석 가능성(Interpretability), 사회적 영향(Societal Impacts) 등 핵심 가치를 전담하는 팀이 내부에 존재하며 이들의 활동이 실제 제품 운영과 고객 대응에까지 영향을 미치고 있다는 설명이다. 팡 리드는 "우리는 사업을 영위하는 모든 시장에서 안전성과 정렬성을 핵심 운영 원칙으로 삼고 있다"며 "한국도 예외가 아니다"고 강조했다. 교육 분야 협력 가능성도 열려 있다. 앤트로픽은 런던 정치경제대학교(LSE), 시드니대학교 등과 함께 학습 모드 및 비판적 사고 유도 기능을 포함한 교육용 '클로드' 모델을 운영 중이다. 팡 리드는 "전 세계 대학들과의 파트너십은 우리가 깊이 전념하는 분야"라며 "학생들이 '클로드'를 유용하게 활용하는 사례를 확인하고 있다"고 말했다. 이어 "한국 역시 중요한 고려 대상"이라고 밝혔다. 앤트로픽은 최근 급속한 확장 속에서도 조직 문화 유지를 위해 노력하고 있다. 팡 리드는 앤트로픽이 직원 수를 500명에서 최근 1천 명 이상으로 늘렸지만 여전히 '말과 행동을 일치시키고자 하는(Practice what we preach)' 가치관을 공유하는 인재를 선별해 유치하는 데 집중하고 있다고 설명했다. 그는 "우리가 중요하게 여기는 가치에 부합하는 사람들과 함께하기 위해 정말 열심히 집중하고 있다"고 밝혔다. 앤트로픽은 인터뷰를 마치며 한국 이용자·기업 파트너·잠재적 지원자에게 차례로 메시지를 전했다. 레이철 팡 앤트로픽 리드는 "일반 이용자는 무료 앱인 '클로드'를 직접 사용해 프롬프트 구성과 맥락 조율 과정을 체험해 보길 권한다"며 "기업 파트너는 코딩·에이전틱 AI(Agentic AI) 분야에서 '클로드'의 강점을 활용해 적극적인 피드백과 실험을 이어 가달라"고 밝혔다. 이어 그는 "우리 사명에 공감하는 인재는 언제나 환영한다"며 "이는 지사 설립 여부나 한국에 한정된 이야기가 아니라 우리가 사람을 뽑을 때 보는 핵심 원칙"이라고 말했다. 다음은 레이철 팡 앤트로픽 산업 솔루션 리드와 일문일답. Q. 앤트로픽이 아시아 여러 시장 중에서 특히 한국에 집중하는 이유는 무엇인가. 이를 한 문장으로 요약한다면 어떻게 표현할 수 있나. A. 우리가 수백 개의 한국 기업들로부터 매우 높은 관심을 받고 있기 때문이다. 그 범위는 스타트업부터 대기업까지 다양하다. 이들을 지원하기 위해 지속적으로 투자해 나가는 것이 우리의 근본적 목표다. Q. 지난 3월 콕스웨이브와 함께 주관한 '코리아 빌더 서밋' 행사 이후 에릭 번즈 필드 CTO가 메가존클라우드가 주최한 행사 참석을 위해 한국을 방문한 바 있다. 이번 달에는 넥스트라이즈(NextRise) 컨퍼런스에도 직접 참석할 예정인 것으로 알고 있다. 이번 방문의 주된 목적은 무엇인가. A. 우리는 항상 한국의 고객 및 잠재적 파트너들과 만날 기회를 지속적으로 모색하고 있다. '넥스트라이즈'에 참석하고 발표할 수 있는 기회가 주어졌을 때 참여할 만한 훌륭한 행사라고 판단했다. 현재 고객뿐 아니라 잠재적인 파트너들과도 직접 교류할 좋은 기회라고 생각했다. Q. 앤트로픽은 기업과 IT 업계 전문가들 사이에서는 상징성이 큰 기업이지만 일반 대중에게는 아직 오픈AI만큼 널리 알려지지 않았을 수 있다. 이같은 상황에서 앤트로픽이 한국이나 아시아 시장에 제시할 수 있는 가장 핵심적인 차별점은 무엇이라고 생각하는가. A. 앤트로픽은 다른 프론티어 AI 랩들과는 여러 면에서 다르게 접근하고 있다. 이러한 차이는 회사의 DNA와도 같은 핵심적인 정체성에서 비롯된다. 우리는 모델이 모든 활동에서 '도움이 되고(Helpful)', '정직하며(Honest)', '해롭지 않게(Harmless)' 작동해야 한다고 본다. 일례로 '도움이 되는'의 대표적인 사례는 우리가 최초로 공개한 '모델 컨텍스트 프로토콜(MCP)'을 들 수 있다. MCP는 거대언어모델이 외부 데이터와 애플리케이션·도구를 통일된 메시지 형식으로 안전하게 호출·연결하도록 규정한 개방형 통신 프로토콜로, 현재 업계 표준으로 자리 잡았으며 고객에게 실질적으로 유용한 도구를 만들기 위한 실용적 접근 방식이다. 또 '정직하고 해롭지 않음'에 대한 약속의 일환으로, 우리는 안전성을 확보하기 위해 레드팀 운영과 다양한 테스트에 지속적으로 투자하고 있다. 이러한 과정을 통해 고객사와 내부 팀 모두가 신뢰할 수 있고 자신감을 가질 수 있는 솔루션을 개발할 수 있다고 본다. Q. 앤트로픽 자체가 지난 2021년 인공지능(AI)의 안전 문제에 깊은 관심을 가져온 다리오 아모데이 최고경영자(CEO)로부터 시작된 것으로 안다. A. 맞다. 이에 더해 우리는 최근 '클로드 4(Claude 4)'를 출시했고 이를 통해 AI 모델 개발의 최전선에 섰다. 특히 '클로드 4'의 경우 코딩 분야에서의 활용이 주요 사용 사례 중 하나이며 에이전틱 오케스트레이션(Agentic Orchestration)과 결합해 강력한 성능을 보이고 있다. Q. 지난 3월 '빌더 서밋' 행사에서도 마이크 크리거 최고 프로덕트 책임자(CPO)에 의해 언급된 바 있는데 '클로드'의 한국어 능력에 대해 한국 사용자들의 관심이 많다. 현재 기준에서 클로드의 한국어 대응력은 어떤 수준이라고 평가하는가. 최근 모델 출시 이후 개선된 부분이 있다면 구체적으로 설명해줄 수 있는가. A. 행사 당시 마이크 및 한국 고객 몇 분과 같은 테이블에 있었다. 당시 많은 고객들이 '클로드'가 한국어를 매우 잘 처리한다고 평가한 것이 기억난다. 실제로 한 고객은 클로드가 한국어의 뉘앙스를 다른 모델들보다 매우 아름답게 포착한다고 말하기도 했다. 이러한 피드백을 한국의 다양한 고객들로부터 반복적으로 들을 때마다 매우 기쁘다. 전반적으로 우리의 다국어 성능 강화 전략은 자연스럽게 한국어에도 확장된다. 피드백은 항상 소중하게 다루며 언어나 모델 관련 기능에 대한 의견을 받을 경우 고객들과 직접 협력해 해당 사항을 반영하고 있다. 추가로 고무적인 것은 한국 기업들의 활용 사례를 보면 단순히 언어 처리에 그치지 않는다는 점이다. 법률 문서 분석, 콘텐츠 생성, 심지어 기술 문서 작성 등 고난도 추론이 필요한 작업까지 확대되고 있다. 이는 우리 모델이 단순한 언어적 메커니즘을 넘어서는 무언가를 포착하고 있다는 신호라고 본다. Q. 주변에서 비슷한 사례를 봤다. 독일 철학 전공 박사 과정 중인 지인이 생성형 AI 초기에는 이를 "확률적 앵무새"라고 평가절하했지만 '클로드'를 사용한 이후에는 가장 가까운 친구처럼 여기게 됐다. 모델이 발전할수록 언어 능력도 함께 개선되고 있다고 보나. A. 각 모델이 발전함에 따라 언어 능력이 어떻게 개선되는지를 묻는 건 매우 유의미한 질문이다. 여기서 말하는 언어는 한국어를 포함한 모든 언어를 의미한다. 우리는 언어 능력이 전반적으로 향상되고 있다는 점을 확인하고 있다. 이들이 '클로드 3.5'에서 '오푸스'나 '소네트'로 이어지는 과정에서 보이는 진화는 지속적으로 관찰되고 있다. 정성적 사용자 피드백과 정량적 지표를 함께 반영하며 모델 개선 방향을 수립하고 있다. 향후에도 이 영역은 중요한 평가 기준 중 하나가 될 것이라고 본다. Q. 다음은 '코리아 빌더 서밋'에 대한 질문이다. 대부분의 프론티어 AI 연구소들은 아시아에서 행사를 열 때 일본 도쿄나 싱가포르를 우선적으로 선택한다. 앤트로픽이 한국에서 먼저 행사를 개최한 결정은 이례적이었다. 이에 한국 내 대중의 관심이 컸고 앤트로픽의 결정에 대해 기쁨의 반응도 있었다. 한국에서 먼저 행사를 개최한 근본적인 이유는 무엇인가. A. 먼저 감사하다는 말씀을 드린다. '빌더 서밋'에 대해 많은 긍정적인 피드백을 받았고 매우 의미 있는 행사였다고 본다. 현장에 직접 있었는데 에너지가 정말 대단했다. 행사를 한국에서 개최하게 된 동기는 결국 한국 스타트업들로부터 확인한 높은 관심과 열정이었다. 우리는 이러한 분위기가 좋은 행사로 이어질 수 있다고 확신했다. 콕스웨이브를 비롯한 여러 스타트업들과의 파트너십도 성공적인 행사 운영에 크게 기여했다고 생각한다. Q. 콕스웨이브는 빌더 서밋의 성공에 핵심적인 역할을 했던 것으로 안다. 앤트로픽과 콕스웨이브의 파트너십은 어떻게 시작됐고 어떻게 이어지고 있는가. 또 콕스웨이브는 AI의 정렬과 안전성에 중점을 두고 있다. 두 회사의 협력 배경에 철학적 접점이 작용했는가. A. 우리 두 회사는 방향성이 매우 잘 맞는다. 콕스웨이브와는 1년 넘게 관계를 이어오고 있으며 지난 3월 행사도 우리 계획을 알자마자 매우 적극적으로 협력해주고 큰 도움을 줬다. 현재도 긴밀한 협력이 지속되고 있다. 특히 이엽(Yeop Lee) 이사는 우리가 한국 스타트업 생태계를 잇는 데 핵심적인 역할을 했고 행사에서도 매우 훌륭한 파트너다. 이번 '넥스트라이즈(NextRise)' 행사에서도 함께 움직이고 있으며 우리가 현지 행사 및 시장에 보다 깊이 관여할 수 있도록 적극적으로 지원해주고 있다. 콕스웨이브와의 파트너십을 향후에도 계속 이어갈 수 있어 기쁘게 생각한다. Q. 빌더 서밋 행사에는 콕스웨이브 외에도 라이너, 뤼튼 테크놀로지스, 링크알파 등 여러 활발한 국내 스타트업들이 참석했다. 협업이나 접촉 경험을 바탕으로 보았을 때 한국 내 어떤 산업 분야나 비즈니스 유형이 가장 흥미롭게 느껴졌는가. A. 솔직히 말하자면 정말 다양한 사용 사례에 깊은 인상을 받았다. 한국 기업들이 해결하려는 문제와 적용 사례는 전반적으로 정말 대단하다. 앞서 언급됐듯 우리가 강점을 보이는 분야는 코딩이다. 많은 한국 스타트업들이 소프트웨어 엔지니어링 제품을 개발하면서 이를 적극 활용하고 있다. 사실 우리는 내부적으로도 퍼스트파티 코딩 에이전트 제품인 '클로드 코드(Claude Code)'를 활용해 자체 개발 효율을 높이고 있다. 그 외에도 소비자용 글쓰기 애플리케이션, 복잡한 법률 분석 등에서 흥미로운 사용 사례들을 확인할 수 있었다. Q. 앞서 '클로드'의 강점이 여러 차례 언급됐다. 그렇다면 한국의 비즈니스와 스타트업 환경을 고려할 때 어떤 산업이나 기업 유형이 앤트로픽과 가장 잘 맞는 파트너라고 보는가. 다시 말해 어떤 분야가 '클로드'의 강점을 가장 잘 극대화할 수 있다고 보나. A. 일반적으로는 지난 3월에도 언급한 바와 같이 스타트업을 주요 파트너로 보고 있지만 동시에 SK텔레콤같은 대기업도 이미 파트너다. 다시 말해 한국 생태계 전반의 다양한 기업들을 고객으로 두고 있다. 특정 산업에 국한되지 않고 산업 규모나 기업 유형을 가리지 않고 넓은 범위를 보고 있다. 앤트로픽의 응용 프로그램 인터페이스(API)를 활용하는 기업들은 내부·외부용 도구를 개발할 뿐 아니라 '클로드 포 워크(Claude for Work)' 애플리케이션이나 '클로드 코드' 제품도 적극 활용하고 있다. 고객과의 관계에서 우리가 정말로 중요하게 생각하는 것은 빠른 도입보다는 가치를 극대화하는 것이다. 즉, 명확한 목표와 측정 가능한 결과물을 설정한 채 우리 팀과 밀접하게 협력하는 방식이다. 우리는 이러한 지점에서 고객들이 성공하는 것을 지원하고 있다. Q. 지난 3월 '빌더 서밋' 행사에서 케이트 젠슨 매출 총괄 책임자가 "곧 다시 돌아오겠다"고 했다. 이에 대해 국내 언론과 기술 커뮤니티에서는 매우 열광적인 반응을 보였다. 앤트로픽이 한국 내에 지역 거점 설립을 검토하고 있다고 봐도 되는가. A. 우선 한국 시장과 AI 생태계를 매우 중요하게 보고 있다는 점을 먼저 말씀드리고 싶다. 다만 향후 오피스 설립과 관련된 계획에 대해서는 현시점에서 공유할 수 있는 구체적인 내용은 없다. 한국에는 수많은 소중한 파트너들이 있기 때문에 지속적으로 방문하며 직접 소통하고 있으며 구글 클라우드 플랫폼(GCP), 아마존 웹서비스(AWS) 등 주요 클라우드 파트너와의 협업에도 집중하고 있다. 지사 설립 여부는 내부 논의 중인 사안으로, 현재로서는 답변이 어렵다. Q. 아직 구체적인 계획은 없다고 했는데 장기적인 관점에서는 어떠한가. 일례로 향후 5년 내 설립 여부와 같은 중장기적 측면에서 한국 지사 설립 계획을 공개할 수 있는가. A. 타당한 질문이다. 다만 특정 시점이나 계획을 확정된 것처럼 말했다가 나중에 그 내용이 달라지는 것은 바람직하지 않다고 본다. 일정이나 지역 등과 관련한 계획이 구체화되면 그때 공유하는 것이 적절하다고 생각한다. 현시점에서는 공유할 수 있는 정보가 제한적이다. Q. 앤트로픽은 AI 안전성과 신뢰성을 핵심 정체성으로 삼고 있다. 한국에도 AI 안전연구소, 콕스웨이브, 셀렉트스타 등 AI 안전 및 정렬에 주력하는 조직들과 스타트업들이 다수 존재한다. 한국 시장에 직접 진출할 경우 장기적으로 이 지역에서 기술적 안전성, 정렬, 사회적 지속가능성과 관련한 전략을 전개할 계획이 있는가. A. 우리는 향후에도 AI 안전성에 지속적으로 많은 에너지를 투입할 계획이다. 시장 진출(Go-to-market) 팀 외에도 정렬, 해석 가능성(Interpretability), 사회적 영향(Societal Impacts) 등을 다루는 전담 팀이 존재하며 이들의 활동은 전 세계적으로 우리 의사결정과 실제 운영에 실질적인 영향을 미치고 있다. 한국을 포함한 특정 지역 내에서의 안전 관련 업무 확대 계획에 대해서는 세부적으로 말할 수는 없지만 우리가 진출한 모든 시장에서 '안전'이라는 가치를 중심 운영 원칙으로 삼고 있다는 점은 분명히 말씀드릴 수 있다. Q. 프론티어 AI 기업들이 교육 분야 협력에 적극적으로 나서는 추세다. 앤트로픽은 런던정경대(LSE)와의 협력을 통해 교육 분야에 대한 관심을 드러냈다. 오픈AI는 애리조나 주립대와 옥스퍼드 등과 협업 중이다. 이러한 흐름을 고려할 때 앤트로픽이 장기적으로 한국의 고등교육기관과 협력할 계획이나 가능성은 어떻게 보는가. A. 전 세계 대학들과의 파트너십은 우리가 깊이 전념하는 분야다. LSE나 시드니대학교 등과의 협업을 통해 학생들이 '클로드'를 유용하게 활용하고 있는 사례를 확인하고 있다. 특히 교육용으로 맞춤화된 '클로드' 버전에는 단순히 답을 제공하는 것이 아니라 학생들의 추론 과정을 안내하는 전용 '학습 모드'가 포함돼 있다. 이는 비판적 사고력 함양에 중요한 요소라고 본다. 한국 내 특정 기관과의 협력 계획은 현시점에서 구체적으로 공유하기 어렵다. 다만 우리는 교육 분야에서의 협력을 전 세계적으로 지속적으로 모색하고 있으며 한국 역시 매우 중요한 고려 대상이다. Q. 마이크 크리거 CPO는 올해 초 한 인터뷰에서 앤트로픽은 직원 간 유대감이 매우 강한 기업이며 전 세계 시장으로 확장할 때에도 이 문화를 유지하는 것이 핵심 과제 중 하나라고 언급한 바 있다. 현재 약 500명 수준인 인원이 앞으로 더 늘어날 것으로 예상되는 가운데 앤트로픽은 사업을 확장해 나가면서 이러한 조직 문화를 어떻게 보존할 계획인가. A. 우리 조직 문화는 '언행일치(Practice what we preach)'를 실천하는 데 기반하고 있다. 우리는 특정한 가치관을 중시하며 이러한 가치를 공유하는 인재들을 유치하기 위해 노력한다. 이는 회사의 사명을 지속하는 데도 중요하지만 조직 규모가 커지는 상황에서 문화를 유지하는 데에도 핵심적인 요소라고 생각한다. 이에 우리는 우리가 중요하게 여기는 가치에 부합하는 사람들과 함께하는데 심혈을 다해 집중하고 있다. 참고로 언급된 직원 수와 관련해 가장 최근에 공유된 공식 수치는 1천 명 이상이다. 보다 최신 수치가 있을 수도 있지만 현재로서는 1천 명 이상이라는 것이 가장 업데이트된 정보라고 보면 된다. Q. 마지막으로 ▲일반 사용자 또는 잠재 사용자에게 ▲한국의 잠재적 파트너(기업 및 스타트업)에게 ▲향후 설립될지도 모르는 '앤트로픽 코리아'에 합류하기를 희망하는 잠재적 인재들에게 각각 짧은 메시지를 부탁드린다. A. 일반 사용자나 잠재적 사용자에게 전하고 싶은 메시지는 앞서 언급된 (철학 박사) 친구처럼 직접 '클로드'를 사용해보면 그 진가를 알 수 있다는 점이다. 가장 실용적인 조언은 '클로드'는 무료 앱이니 직접 써보라는 것이다. 처음에는 프롬프트 작성이나 모델과 소통하는 방식이 낯설 수 있다. 동료에게 설명하듯 충분한 맥락을 주고 모델에 도움을 요청해보면 그 효용을 직접 체감할 수 있을 것이다. 기업들에 대해서는 현재의 흐름에 계속 동참해주시길 바란다. 우리 모델에 대한 기업들의 관심과 지지에 감사한다. 여러분께서 '클로드' 모델을 실제로 사용하고 피드백을 주는 것이 중요하다. 특히 코딩과 에이전틱 AI 분야는 우리 모델이 강점을 가진 영역이므로 해당 분야에서의 활용을 적극 권장한다. 마지막으로 한국에 지사가 설립된다는 전제를 두고 말하긴 어렵지만 우리는 항상 우리의 사명에 진정으로 공감하고 열정을 가진 인재를 찾는다. 같은 가치를 공유하는 것은 언제나 핵심적이다. 구체적인 채용 기회는 공식 홈페이지의 커리어 페이지를 주시해주시길 바란다. 팀은 계속해서 성장 중이다.

2025.06.23 12:58조이환

"무산된 SB 1047, 부활하나"…캘리포니아, AI 외부 규제안 다시 꺼냈다

캘리포니아가 인공지능(AI) 기술에 대한 새로운 규제 정책 구상을 내놨다. 지난해 포괄적 규제 법안이 주지사 거부권으로 무산된 뒤 다시 시도되는 조치로, 규제 대상에 대한 기준은 완화됐지만 외부 감시와 고위험 통제를 강하게 요구하는 방향이다. 18일 더버지에 따르면 미국 캘리포니아 주정부는 최근 AI 거버넌스 로드맵인 '캘리포니아 최첨단 정책 보고서'를 공개했다. 보고서는 페이페이 리 스탠퍼드 대학교 교수, 제니퍼 차이스 UC버클리 교수 등 현지 AI·정책 전문가들이 공동 집필했으며 총 52쪽 분량으로 구성됐다. 이 보고서는 지난해 캘리포니아 의회를 통과한 AI 규제 법안 'SB 1047'이 주지사 거부권에 의해 무산된 이후 마련됐다. 당시 법안은 고비용 대형 모델에 대한 위험성 사전 테스트를 의무화하려 했지만 일률적이고 과도하다는 이유로 폐기됐다. 이에 개빈 뉴섬 주지사는 규제와 혁신을 함께 고려할 수 있는 새로운 정책 대안을 주문했고 이번 보고서가 그 결과물이다. 보고서는 AI 모델의 추론 능력과 사고의 연쇄(CoT) 방식 등 핵심 기술이 신속히 진화하고 있다고 지적했다. 특히 화학·생물·방사능·핵(CBRN) 무기와 관련한 위험성이 커지고 있으며 실제로 일부 기업이 해당 기능의 급속한 향상을 자발적으로 보고한 사례도 언급됐다. 더불어 AI 기술의 파급력이 농업, 생명공학, 청정 기술, 교육, 금융, 의료, 교통 등 산업 전반에 미칠 수 있다고 분석했다. 특히 기술 활용을 촉진하는 동시에 위험성 관리가 병행되지 않으면 '돌이킬 수 없는 피해'가 발생할 수 있다고 경고했다. 다만 기존 AI 규제 논의에서 활용돼 온 '훈련에 투입된 연산량(컴퓨트) 기준'은 한계가 있다는 것이 보고서의 주장이다. 이 같은 지표는 초기 필터로는 활용할 수 있지만 실제 위험도나 사회적 파급력은 고려하지 못한다는 지적으로, AI 모델 도입 전 단계의 위험 평가와 실사용 단계에서의 영향 분석이 병행돼야 한다고 제안했다. 현행 AI 산업 전반의 문제로는 데이터 확보 방식, 보안 절차, 사전 테스트, 사회적 영향 분석 등 주요 과정에서의 구조적 불투명성이 지목됐다. 또 기업 스스로가 모델의 위험성을 충분히 이해하고 대응할 수 있다는 전제가 현실과 맞지 않는다고 판단했다. 이에 보고서는 제3자 평가 체계 도입을 핵심 방안으로 제시했다. 현재는 기업 자체 검증이나 계약된 외부 업체 중심으로 모델 안정성 평가가 이뤄지고 있지만 이는 검증 범위와 신뢰도 면에서 한계가 있다는 것이다. 제3자 평가는 다양한 배경의 전문가 수천 명이 참여할 수 있어 기업 내부 인력보다 범위와 시각 모두에서 우위에 있다는 주장이다. 동시에 제3자 평가자에 대한 법적·기술적 보호장치인 '세이프 하버(Safe Harbor)' 조항 신설과, AI 피해를 입은 이용자들이 신고할 수 있는 체계 마련도 제안했다. 이 같은 보호 조치는 사이버 보안 분야에서 제3자 침투 테스트를 보호하는 법제도와 유사한 방식이다. 보고서는 "완벽한 안전 정책이라도 모든 피해를 100% 막을 수 없다"며 "대형 모델의 상용화가 본격화된 만큼 실제 사례에서 나타나는 피해를 추적하고 이해하는 작업이 더욱 중요해지고 있다"고 밝혔다. 스콧 싱어 보고서 공동 저자는 더버지와의 인터뷰에서 "연방 차원의 AI 정책 논의가 완전히 재편되고 있다"며 "캘리포니아는 상식적인 규제 조화를 이끌 수 있는 선도 주체가 될 수 있다"고 밝혔다.

2025.06.18 09:21조이환

셀렉트스타, '다투모 이밸'로 금융권 공략…삼성생명과 데이터 품질 '실증'

셀렉트스타가 삼성생명과 함께 금융권에 특화된 인공지능(AI) 신뢰성 검증 프로젝트에 돌입했다. 고신뢰 산업군의 실제 업무 기준에 부합하는 데이터와 모델 평가 체계를 마련하려는 행보다. 셀렉트스타는 삼성금융네트웍스의 오픈 이노베이션 프로그램 '2025 씨랩 아웃사이드(C-Lab Outside)'에 최종 선정돼 삼성생명과 5개월간 협업을 시작했다고 5일 밝혔다. 셀렉트스타는 이 프로젝트를 통해 약 3천만원 규모의 솔루션 개발비를 지원받는다. 이번 협업은 금융 도메인에 적합한 AI 모델의 검증 수요가 증가하는 가운데 이뤄졌다. 셀렉트스타의 데이터 컨설팅 역량을 접목해 내부 업무에 최적화된 거대언어모델(LLM) 검증 절차를 구축하는 데 초점이 맞춰졌다. 셀렉트스타는 삼성생명의 내부 데이터를 분석해 학습에 적합한 데이터 구축 전략을 수립하고 있다. 해당 데이터를 바탕으로 실제 서비스 환경에서 LLM의 응답이 내부 기준에 적합한지를 정량적으로 평가할 예정이다. 이 과정에서 활용되는 솔루션은 셀렉트스타의 자체 AI 신뢰성 검증 툴인 '다투모 이밸'이다. '다투모 이밸'은 업무 조건과 유사한 환경에서 모델 성능을 점검할 수 있어 금융처럼 오류 허용 범위가 좁은 산업군에 적합하다는 평가를 받는다. 삼성생명은 셀렉트스타와의 협업을 통해 데이터 기반의 실질적인 비즈니스 성과로 이어질 수 있는 성능 검증 결과를 도출하겠다는 계획이다. 김세엽 셀렉트스타 대표는 "금융 산업에서 AI 도입의 성패는 데이터 품질과 예측 가능성에 달려 있다"며 "삼성생명과의 협업을 통해 산업 기준에 맞는 AI 평가 프레임워크를 제시하겠다"고 밝혔다.

2025.06.05 13:01조이환

[현장] "글로벌 규제, 민간이 막는다"…한국형 신뢰성 'AI 마스터 인증' 공개

한국인공지능산업협회(AIIA)가 민간 주도의 인공지능(AI) 신뢰성 인증제도 'AI 마스터'를 공개했다. AI 모델의 윤리성과 강건성을 체계적으로 검증하는 방식으로, 국내외 규제 환경 변화에 선제적으로 대응하겠다는 의도다. 한국인공지능산업협회는 4일 경기도 성남시 그래비티 서울 판교 호텔에서 열린 '2025 슈어 AI 테크 컨퍼런스'에서 'AI 마스터 인증 프레임워크'를 발표했다. 슈어소프트테크가 개최한 이 행사에서 김태형 본부장은 인증의 배경과 평가 항목, 절차, 향후 계획 등을 직접 설명했다. 인증 체계는 협회가 사무국을 맡고 셀렉트스타와 슈어소프트테크가 시험기관으로 참여하며 평가 결과는 독립된 인증위원회가 심의한다. 'AI 마스터'의 추진 배경에는 전 세계적 AI 규제 재편 흐름이 있다. 유럽연합(EU)은 고위험 AI를 등급별로 분류해 위반 시 최대 30만 유로(한화 약 5억원) 과징금을 부과하는 'EU AI 법'을 세계 최초로 통과시켰다. 반대로 미국은 민간 자율 규제를 통해 기술 주도권 유지를 노리는 방향이다. 한국은 이 양 극단의 중간 지점에서 정부가 AI를 진흥하는 동시에 규제하는 AI 기본법을 지난해 말 통과시켰다. 김 본부장은 "이 가운데 우리가 내놓은 'AI 마스터'는 이 구조에서 실제 운영 가능한 민간 인증 체계를 만드는 시도"라고 말했다. AI 마스터의 기반은 '신뢰할 수 있는 AI(Trustworthy AI)' 프레임워크다. 이는 EU AI 법안의 철학적 근간으로, 인간의 기본권을 존중하기 위한 적법성, 윤리성, 견고성을 핵심 요구사항으로 제시한다. 협회는 이를 토대로 국제 표준, AI 기본법, 과학기술정보통신부 가이드라인을 통합해 평가 기준을 설계했다. 평가 항목은 총 63개이며 문서, 시험, 데이터 세 영역에서 검증이 이뤄진다. 시험평가는 기능성, 성능, 강건성을 다룬다. AI 시스템이 의도한 기능을 수행하는지와 비정상 입력에도 안정적으로 작동하는지를 자동화된 절차로 검증한다. 전체 항목의 60%는 자동화 도구를 통해 빠르게 처리된다. 성능은 정밀도, 재현율 등으로 측정되며 강건성은 노이즈 데이터에 대한 반응을 기준으로 한다. 생성형 AI는 별도 기준으로 다뤄진다. 협회는 생성형 모델의 고정관념 반영, 과소대표성, 편향 등을 점수화하고 이를 기반으로 검증 절차를 설계했다. 생성된 결과가 사회적 고정관념을 그대로 반영하거나 왜곡된 상황에서도 일관된 출력을 내는지를 중점 평가한다. 이 인증은 내년 시행될 AI 기본법과 연동돼 설계됐다. 협회는 매월 발행되는 해외 연구 결과와 국제 표준을 반영해 인증 기준을 업데이트하고 글로벌 상호인정 체계도 구축하겠다는 방침이다. 정부 연구개발(R&D) 기준으로도 활용될 수 있도록 제도 활용 범위도 넓혔다. 김태형 한국인공지능산업협회 본부장은 "'AI 마스터'는 국내 법령과 국제 기준을 모두 반영한 구조"라며 "글로벌 실효성을 확보한 인증으로 발전시켜 국내 AI 산업의 신뢰 기반을 구축하겠다"고 밝혔다.

2025.06.04 15:50조이환

[현장] 육군시험평가단 "기술 발전·저출산 극복, AI 신뢰성 필수"…新 무기 시험체계 구축

"과학기술 발전에 대응하고 인구절벽 시대를 극복하기 위해서는 인공지능(AI)의 신뢰성 확보가 필수적입니다. 이에 우리는 AI 무기체계의 신뢰성을 확보하기 위한 새로운 시험평가 체계를 개발하고 있습니다. AI는 전력화 이후에도 지속적으로 학습하고 성능이 변화하기 때문에 기존의 실물 시험 방식만으로는 충분하지 않습니다." 김강민 육군시험평가단 중령은 4일 경기도 성남시 그래비티 서울 판교 호텔에서 열린 '2025 슈어 AI 테크 컨퍼런스'에서 이같이 말했다. 이날 행사는 슈어소프트테크가 AI 신뢰성·안전성을 위한 시험평가의 현재와 미래를 조망하기 위해 마련한 자리였다. 김 중령은 이날 발표에서 군이 자체적으로 설계한 AI 시험평가 절차, 데이터셋 운영 구조, 향후 추진 계획 등을 소개했다. 그는 AI 기반 무기체계의 신뢰성을 확보하기 위해 기존의 단발성 시험에서 벗어나 반복 가능하고 정량적인 평가 체계로의 전환이 필요하다고 강조했다. 육군의 AI 시험평가 절차는 여러 단계로 구성돼 있다. 먼저 AI 성능평가용 데이터셋을 활용해 기본 성능을 확인하고 보안 검토를 마친 군 전용 데이터를 이용해 추가 학습을 진행한다. 이후 실제 운용 환경에서 수집한 데이터를 기반으로 다시 한 번 성능을 평가한다. 더불어 육군은 수집된 데이터를 학습용과 검증용으로 나눈다. 모델의 성능 향상 여부를 정량적으로 검증하고 마지막으로는 전체 무기체계를 대상으로 체계 수준의 시험평가를 실시하기 위함이다. 이 같은 절차는 AI 모델이 실시간으로 변화하는 특성을 반영하기 위한 구조다. 이 과정에서 가장 중요한 핵심은 시험평가 전용 데이터셋의 품질이다. 군 작전 환경은 민간과 달리 예측 불가능하고 비정형적인 경우가 많아 일반적인 데이터로는 실효성 있는 평가가 어렵기 때문이다. 김 중령은 "우리는 수십만 장 분량의 데이터를 프레임 단위로 정제했다"며 "이 중 일부는 평가용, 나머지 일부는 학습용으로 구성했다"고 설명했다. 이어 "다양한 전술 환경, 객체 자세, 복장, 기상 조건 등을 반영해 실전과 유사한 조건에서 AI 성능을 평가하도록 지원하고 이 데이터셋은 제3기관의 검수를 거쳐 품질 검증도 완료됐다"고 밝혔다. AI 데이터셋의 다변화와 품질 보강을 위한 연구도 병행되고 있다. 김 중령에 따르면 육군은 향후 생성형 멀티모달 AI와 비전-언어 모델(VLM)을 결합해 부족한 데이터 유형을 보강하는 방식을 도입할 계획이다. 일례로, "낮에 걷는 일반 병사의 영상은 풍부하지만 눈 오는 밤에 포복하는 병사의 영상은 부족하다"는 품질 평가 결과를 프롬프트로 삼아 해당 조건을 보완하는 합성 데이터를 생성하겠다는 계획이다. 올해 시험평가단은 AI 무기체계 성능평가를 전담하는 조직을 신설했다. 내년부터는 주요 전력화 사업에 이 평가 절차를 실전 적용할 예정이다. 김 중령은 발표에서 "AI 신뢰성 검증은 단순히 기능 평가가 아니라 작전 환경에서 실제 사용 가능한지를 판단하는 핵심 요건"이라고 강조했다. 이어 "AI가 실물보다 데이터 기반으로 평가돼야 한다는 전환적 인식이 필요하다"고 덧붙였다. AI 강건성 평가 체계도 구체적으로 소개됐다. 이 체계는 AI 모델이 적대적 환경에서도 신뢰할 수 있는 성능을 유지하는지 시나리오별로 검증하고 향후에는 뉴런 커버리지 기반의 내부 구조 분석까지 확대한다. 이는 경량화된 AI 모델이 엣지 디바이스에서 안정적으로 작동해야 하는 군 운용 조건을 반영한 조치다. 김강민 중령은 "지금은 기술이 개념을 끌고 가는 시대"라며 "과거처럼 개념을 먼저 세우고 기술을 따라오게 하는 방식으론 늦다"고 강조했다. 이어 "AI 무기체계는 실물 무기가 아니라 알고리즘의 무기로, 검증과 신뢰 확보는 데이터와 실전 환경이 핵심"이라고 말했다.

2025.06.04 14:42조이환

새 정부 출범, 'AI 100조' 시대 열린다…AI 안전연구소 "G3 도약, 신뢰성 확보가 핵심"

"새 정부가 들어선 가운데 100조 규모의 인공지능(AI) 투자 공약이 조명되고 있습니다. 이같은 진흥책의 추진과 동시에 기술이 초래할 수 있는 리스크를 관리해야 산업의 지속성과 확장성이 확보됩니다. 미래 세대의 먹거리를 위한 철저한 안전 설계를 위해 적극적으로 지원하겠습니다." 김명주 AI 안전연구소장은 4일 경기도 판교 그래비티 조선 서울에서 열린 '2025 슈어 AI 테크 컨퍼런스'에 참가해 이재명 대통령 당선에 따른 연구소의 방향성에 대한 기자의 질문에 이같이 말했다. 이번 행사는 슈어소프트테크가 AI 검증 기술의 현재와 미래를 공유하고 산업 전반의 안전 및 신뢰성 확보 전략을 모색하기 위해 마련한 자리다. 김 소장에 따르면 한국 AI 연구소는 세계 여섯 번째로 출범한 AI 안전기관이다. 지난해 11월 국내에서 최초로 설립된 이 기관은 영국, 미국, 일본, 싱가포르, 프랑스 등 10여 개국이 운영하는 AI 안전연구소들과 함께 글로벌 위험 기준 마련과 평가 체계 구축을 위한 협력에 참여하고 있다. 이날 발표는 AI 산업의 변곡점을 만든 역사적 사건들에 대한 회고로 시작됐다. 김 소장은 지난 2023년 처음 등장한 '챗GPT'가 산업의 방향성을 근본적으로 바꿨다고 진단했다. 출시 두 달 만에 1억명 사용자를 돌파한 '챗GPT'는 초기엔 '검색엔진 종말론'을 불러올 정도의 파괴력을 보였고 이에 구글은 마이크로소프트(MS)와의 검색 점유율 격차 축소를 우려해 급히 '바드'를 출시하며 글로벌 기술 경쟁이 본격화됐다. 김 소장은 "이 과정에서 구글의 AI 부사장이자 딥러닝 창시자인 제프리 힌턴이 안전성을 우려해 사임했다"며 "당시 구글은 자체 개발한 '람다' 모델의 위험성을 인지하고도 경쟁에서 밀릴까 봐 결국 공개를 강행했다"고 말했다. 이어 "통제 수단 없이 기술을 출시한 결정은 거버넌스 부재 상태에서 진행되는 AI 개발의 한계를 보여준 사례"라고 분석했다. 이어 그는 AI의 잠재 리스크를 인식한 글로벌 과학자 그룹이 지난 2023년 '개발 중단 서한'을 발표했던 사례도 언급했다. 미래생명연구소(FLI)의 주도로 작성된 이 서한에는 일론 머스크, 유발 하라리 등 주요 인사가 참여했으나 실제 개발 중단으로 이어지지는 않았다. 다만 이 서한을 계기로 미국, 유럽, 한국에서 본격적인 AI 규제 입법이 추진되기 시작했다. 실제로 AI 리스크에 대한 실증적 접근은 확대되고 있다. 매사추세츠 공대(MIT)는 증거 기반 리스크 저장소(Risk Repository)를 통해 1천800개 이상의 사례를 유형별로 정리했다. 이 중 AI가 직접 야기한 사례는 전체의 34%에 달한다. 김 소장은 "이 자료를 바탕으로 한국형 리스크 분류체계를 세분화하고 있다"며 "이달 말 200~300개 항목의 1차 리스크 맵을 공개할 계획"이라고 밝혔다. 그는 영국 AI안전연구소가 최근 발표한 분류체계도 언급했다. 이 체계는 ▲기술적 결함(Malfunction) ▲악의적 활용(Misuse) ▲사회 구조적 영향(systemic Impact)으로 위험을 구한다. 이는 각각 AI 개발 오류, 사용자의 악의적 활용, 노동시장이나 정치 등 사회적 외부효과로 이어지는 위험을 뜻한다. 이 같은 글로벌 기준을 토대로 국내 AI안전연구소도 평가모델을 정비 중이다. 구체적으로는 리스크 맵 기반으로 모델을 개별 테스트하고 그 결과를 전문가나 AI가 자동으로 평가해 통합 보고서를 작성하는 프로세스를 도입한다. 이 보고서는 각 위험에 대한 정책적 기술적 완화 방안까지 제시한다. 실제 사례로는 지난 2월 연구소가 중국계 AI 모델 '딥시크'에 대해 긴급 대응한 사례가 소개됐다. 이 모델은 중국 사회주의 체제에 불리한 질문에 답변하지 않는 등 편향성을 드러냈으며 연구소는 이를 설 휴가를 중단한 후 즉시 분석해 과학기술정보통신부에 보고서를 제출했다. 보고서에는 편향 제거를 위한 기술적 보정 방안이 포함됐다. AI 안전 평가의 기준 역시 지속적으로 진화하고 있다. 기존 소프트웨어의 안전성 검증이 기능 성능 보장에 집중됐다면 AI 평가에서는 개발자의 의도와 상관없는 오용 가능성까지 고려한 '건전성' 개념이 확대되고 있다. 유럽연합은 이 개념을 '신뢰성(Trustworthiness)'으로 확장해 기술의 사회적 수용 가능성까지 평가 대상에 포함시켰다. 이에 따라 각국은 AI 인증 체계 구축에 속도를 내는 상황이다. 영국은 이를 위해 지난 2023년 세운 AI 안전연구소의 명칭을 올해 초 'AI 보안연구소'로 변경했다. 현재 미국, 프랑스, 싱가포르, 케냐 등도 자체 안전연구소를 통해 여러 사업을 추진 중이다. 대선이 끝나 이재명 대통령이 취임한 가운데 향후 AI 정책을 위한 제언에 대해 묻는 기자의 질문에 김 소장은 "AI 산업이 장기적 지속 가능성과 확장성을 확보하라면 진흥과 함께 리스크 관리가 병행돼야 한다"며 "이를 위해서는 안전 설계를 처음부터 고려해야 한다"고 말했다. 이어 "우리는 선제적으로 리스크 완화 방안을 제안해 철저히 지원할 계획"이라고 밝혔다. 김 소장은 지난해 AI안전연구소 초대 소장으로 부임해 오는 2027년까지 임기를 이어갈 예정이다. 연구소는 과학기술정보통신부와 대통령실 등 정부 유관 부처와 함께 리스크 완화 방안 마련을 위한 협업을 지속할 것으로 전망된다. 기업과의 협력도 병행 중이다. 최근 LG전자와 AI 안전을 위한 파트너십을 맺었으며 해외 주요 기업들과도 공동 평가 및 안전 기준 정립을 위한 협력을 추진하고 있다. 참여 기업들은 자사 AI 시스템의 신뢰성과 안전성을 확보하기 위해 연구소와 함께 검증 체계를 구축하고 있다. 김 소장은 "우리는 평가기관을 넘어 국내 AI 기업의 국제 경쟁력 확보를 위한 전략적 거점이 되고자 한다"며 "향후 국내 기업의 해외 진출 시 안전보고서를 통해 신뢰성을 높일 수 있도록 적극 지원하겠다"고 밝혔다.

2025.06.04 13:50조이환

한수원, 산업계 협력으로 계통보호분야 상생기반 다진다

한국수력원자력(대표 황주호)은 지난 29일과 30일 양일간 한수원 중앙연구원에서 '국내 산업계와 함께하는 계통보호 기술네트워킹 강화 기술교류회'를 개최했다. 원자력발전소 전력설비 안전성 강화와 계통 신뢰도 제고를 위해 마련된 이번 행사에는 국내 주요 전력그룹사와 관련 엔지니어링사 등 총 16개 기관이 참여했다. 행사에서는 발전소 보호설계 개선 사례 공유, 디지털 보호기기의 신뢰성 검증 강화 등 실무 중심 발표와 토론이 이어졌다. 한수원은 산업계가 안고 있는 기술적 현안에 대한 문제 해결 방안을 제시하며 관련 기업과의 지속적인 기술 협력과 공동 연구, 워킹그룹 운영을 약속했다. 신호철 한수원 중앙연구원장은 “앞으로도 대외기관과 긴밀한 협력을 통해 설비 안전성과 계통 신뢰도를 지속해서 높이고 국내 계통보호 기술 발전을 위해 노력하겠다”고 밝혔다.

2025.06.02 11:18주문정

SKT 유심교체 누적 459만명...예약 대기자 수 추월

SK텔레콤이 사이버 침해사고 이후 총 459만 명의 가입자 유심 교체를 완료했다. 유심 교체 속도가 빨라지면서 교체 완료자가 예약 잔여 가입자 수를 앞질렀다. 김희섭 SK텔레콤 PR센터장은 27일 서울 중구 삼화타워에서 열린 브리핑에서 “전날 31만 명의 가입자가 유심을 교체하면서 현재까지(26일 자정 기준) 유심을 교체하신 가입자는 누적 459만 명”이라고 밝혔다. 이어, “유심 교체 예약은 현재도 하루에 1만~2만 명이 신청하고 있는데 누적 기준으로 교체하신 가입자가 남아있는 예약자보다 많아졌다”고 덧붙였다. 같은 날 기준 유심 교체 잔여 예약자는 444만 명이다. 평일 기준 하루 30만 명의 유심 교체가 이뤄진 속도를 유지하게 되면 오는 주말에 잔여 예약자는 200만 명대로 줄어들 전망이다. 전날 유심 재설정을 택한 가입자는 1만2천 명이다. 유심 재설정 누적 가입자는 22만9천 명이다. 회사 측은 가능한 유심 교체에 집중한다는 방침이다. 이달 유심 카드 500만 장과 함께 내달 570만 장의 공급을 앞두고 있다. 판매점과 달리 2천600여 개 T월드 대리점에서는 가입자 신규 모집이 중단된 가운데 새롭게 입고되는 유심 카드 물량은 판매점에 공급하지 않고 지속적으로 대리점의 유심 교체로 할당할 예정이다. 사내에 외부 전문가로 꾸려진 고객신뢰위원회도 본격 가동됐다. 김 센터장은 “고객신뢰위원회 첫 회의에서는 사이버 침해사고 개요과 대응 경과를 공유하는 회의부터 시작했다”며 “FDS 시스템이나 유심보호서비스, 유심 교체 작업이나 유심 재설정에 대한 고객안심패키지에 대해 고객들이 불안한 마음에서 안전하다는 마음이 들도록 핵심 매시지를 보다 이해하기 쉬운 언어로 명확하게 설명했으면 좋겠다는 의견을 받았다”고 말했다. 그러면서 “(회사의 침해사고 외에) 다른 기업들이 여러 사고에 어떻게 대처하고 고객 신뢰를 회복한 케이스도 있고 대처가 미흡해 어려움을 겪은 사례를 함께 논의했다”며 “SK텔레콤이 고객 신뢰를 회복하기 위해 정보보안에 앞으로 투자계획과 중장기 로드맵을 구체화하는 논의가 있었다”고 설명했다.

2025.05.27 11:19박수형

"AI 신뢰성 강화"…씽크포비엘, 中 산학연 협력 확대

씽크포비엘이 중국과 인공지능(AI) 신뢰성 기술 교류 협력을 추진하며 글로벌 AI 시장에서 입지를 강화했다. 씽크포비엘은 지난 23~24일 중국 상하이 르네상스 상하이 푸퉈 호텔에서 열린 '2025 AI+연구개발 디지털 서밋'에 참가했다고 26일 밝혔다. 행사에서 회사는 AI 신뢰성 관련 기술을 소개하고 중국 정부·기업·기관·대학·연구소 관계자들과 구체적인 협력 방안을 논의했다. 행사에는 1천명 넘는 글로벌 AI 전문가가 참석했으며 100건 이상의 발표와 토론, 토크쇼가 진행됐다. 씽크포비엘 천선일 매니저는 AI와 거대언어모델(LLM) 평가 방법을 위한 견고성 평가 기술과 사례를 발표했다. 씽크포비엘 부스에는 화웨이, 바이두, 텐센트 등 중국 주요 테크기업과 대학, 연구소, 정부 관계자들이 방문했다. 이들은 기술 시연 후 협력 범위, 사업화 방향 등을 문의했으며 다수 협의가 성사됐다. 씽크포비엘 관계자는 "중국의 높은 관심을 확인한 만큼 올해 안으로 현지 주요 기업·기관·대학과 후속 협력에 나설 계획"이라며 "이번 방문에서 두 국가 간 AI 기술 격차가 더욱 벌어지고 있음을 실감했다"고 밝혔다. 그러면서 "한국이 AI 선도국 관심을 끌만한 기술 발전을 보여주지 못하고 있고 작은 시장에 자본과 인적 자원이 부족해 주변국으로 전락할 수 있다는 위기감을 느꼈다"며 "새 정부가 글로벌 시장에서 경쟁력 강화를 위한 대응 방안을 빠르게 마련하길 바란다"고 덧붙였다. 박지환 씽크포비엘 대표는 "AI 시장 미래 경쟁력이 경제성, 편리성, 신뢰성을 통해 확보될 수 있음을 확신할 수 있었던 시간이었다"고 말했다.

2025.05.26 10:24김미정

SKT 고객신뢰위원회 출범..."1등 회사 명성 되돌아보겠다"

SK텔레콤이 고객신뢰위원회를 구성했다. 사이버 침해사고에 따른 고객 신뢰 회복을 넘어 향후 회사의 고객 만족을 높이기 위해 단기 운영이 아니라 2년간 위원회를 이어간다는 계획이다. 우선 SK텔레콤이 마련할 고객 신뢰 향상 방안을 검증하고 자문하는 활동부터 하게 된다. 홍승태 SK텔레콤 고객가치혁신실장은 18일 서울 중구 삼화타워에서 열린 브리핑에서 “침해사고 한 달을 겪으면서 여러 가지 조치를 내놨는데 회사의 의도와 달리 고객의 오해를 불러일으켰고, 회사가 전달하는 내용의 충분한지 살펴도 부족하다는 느낌이 들었다”고 말했다. 이어, “그동안 고객만족도 1등 회사로 평가받았는데, 지난 한 달간 그런 명성에 맞는 행동을 했는지 고민했다”며 “단순히 단기적인 대응이 아니라 향후 SK텔레콤의 고객 신뢰, 고객 만족을 한 단계 높이기 위해 무슨 일을 해야 하는지 고객신뢰위원회가 고민하게 될 것”이라고 강조했다. 지난 16일 위원회 발족 이후 안완기 전 한국생산성본부 회장을 위원장으로 정하고 활동 계획 정도를 논의했다. 이번 주 다시 회의를 열어 격주 단위 회의체로 운영되며, 사내 고객가치혁신실이 간사 조직으로 위원회와 소통하게 된다. 지난달 사내에 별도로 설치된 고객가치혁신TF에서 마련한 사고 대응 방안과 개선 사항에 대한 권고 역할도 맡는다. 위원회에는 안완기 위원장을 비롯해 신종원 전 소비자분쟁조정위원장, 손정혜 법무법인 혜명 변호사, 김난도 서울대 소비자학과 교수, 김채연 고려대 심리학부 교수 등이 참여했다. 홍 실장은 “안완기 위원장은 생산성본부 회장을 역임하면서 여러 서비스의 고객만족도와 고객불평 해소 컨설팅에 많은 경험을 갖고 계신 분”이라며 “신종원 위원은 소비자 권익 보호 분쟁 현장에서 30년의 경험으로 고객 불편을 줄이고 신뢰를 높이는 데 중심 축으로 말씀을 주실 것”이라고 소개했다. 이어, “손정혜 변호사는 여성, 청소년 등 사회적 약자로 판단되는 이들의 권익 보호 활동에 힘써오신 분이고 학계에서 참여한 김난도 교수는 소비자학 전공자로 소비자 권익과 보호에 많은 경험과 지식을 빌리고자 한다”면서 “김채연 교수는 소비자 전공은 아니자 커뮤니케이션 과정에서 고객들이 느끼셨을 심리적 불안감을 드린 부분에 죄송하게 생각하며 모시게 됐다”고 설명했다. 고객신뢰위원회 운영 지원은 고객가치혁신실이 맡는다. 고객가치혁신실은 회사 내에서 고객 목소리를 전달하고, 고객 시각에서 서비스 불편 개선을 제안하고, 서비스 만족도 관리하는 조직이다. 홍 실장은 “내부 TF에서 마련한 제안을 간사 조직인 고객가치혁신실이 정리해 위원회에 전달하고 위원회의 피드백을 반영해 실행하게 될 것”이라며 “투명한 소통을 위해 뉴스룸과 같은 곳에 논의 내용과 성과를 공개할 계획이다”고 말했다.

2025.05.18 14:00박수형

SKT 고객신뢰위원회 출범...위원장에 안완기 전 생산성본부 회장

SK텔레콤은 최근 발생한 사이버 침해사고로 불편과 불안을 겪은 고객의 신뢰 회복을 위해 외부 전문가로 구성된 '고객신뢰위원회'를 출범시켰다. SK텔레콤은 고객이 요구하는 바를 구체화하고 변화의 방향을 자문할 수 있는 전문가 5명으로 구성된 고객신뢰위원회를 지난 16일 발족하고 첫 회의를 진행했다. 독립 기구인 위원회는 고객의 이야기를 듣고 SK텔레콤이 마련한 고객 신뢰 향상 방안을 검증하고 효과를 극대화할 수 있게 자문하는 활동을 하게 된다. 또한, 활동 내용과 경과를 외부와 투명하게 소통하는 역할도 한다. 위원장은 안완기 전 한국생산성본부 회장(현 한국공학대학 석좌교수)이 맡는다. 한국테크노파크진흥회 회장과 한국가스공사 부사장 등을 역임한 안완기 위원장은 국내 기업, 기관들의 소비자 만족 평가 컨설팅 및 교육 전문기관인 한국생산성본부 회장으로 재임했다. 신종원 전 소비자분쟁조정위원장, 손정혜 법무법인 혜명 변호사는 위원으로 참여한다. 신 위원은 소비자 권익 보호와 집단 분쟁 해결에 정통한 전문가로, 실질적 제도 개선 논의에서 중심적 역할을 할 것으로 기대된다. 손 위원은 여성, 청소년 등 사회적 약자 지원과 인권 및 공익 분야에서 활발히 활동 중이며, 분쟁 조정 및 중재 분야에서도 다양한 경험을 보유하고 있다. 서울대 소비자학과 김난도 교수도 합류한다. 김 위원은 트렌드 전문가이면서, 과거 소비자정책포럼 간사를 역임하며 소비자 보호와 정책 자문 분야에서 풍부한 경험을 쌓은 바 있다. 김채연 고려대 심리학부 교수(전 고려대 다양성위원회 위원장)는 인지심리학 관점에서 개선안이 사용자 경험을 향상시키는지 검증하고, 광범위한 사용자들의 요구가 다양성 측면에서 조율되도록 힘을 보탤 예정이다. 위원회는 16일 위원장을 선임하고, 위원회의 역할, 운영 방식, 향후 일정 등을 논의했다. 회의에서 위원들은 위원회의 다양한 활동에 대한 사회적 신뢰와 이해도를 제고하고 고객에게 투명하게 알릴 수 있는 채널을 만들기로 했다. 앞으로 위원회는 격주로 개최되며, 수시 회의를 열어 신속한 실행이 필요한 조치들에 대해 자문할 계획이다. 이와 더불어 고객 신뢰 회복을 위한 회사의 중장기 로드맵을 요구하고 위원회 검토를 거쳐 발표하기로 합의했다. SK텔레콤은 기존 회사 내부 조직인 고객가치혁신실을 위원회 '간사 조직'으로 배치해 위원회의 원활한 운영을 돕고, 위원회가 자문한 조치들이 빠르게 실행될 수 있도록 지원할 계획이다. 또한 고객 신뢰 활동에 대한 고객 시장의 인식, 그에 따른 성과 측정 지표를 개발해 위원회에 제공함으로써 고객 신뢰 활동의 효과성을 지속적으로 점검하고 개선해 나간다는 방침이다. 이와 별도로 SK텔레콤은 지난 12일 회사 내에 '고객가치혁신TF'를 신설했다. 고객가치혁신TF는 고객 보호, 정보 보안 등의 영역에서 다양한 대응 방안을 마련하는 한편, 중장기 고객가치 향상 방안도 함께 검토할 예정이다. 고객신뢰 위원회에서는 고객가치혁신TF에서 마련한 방안을 고객 관점에서 검증하고 개선 사항을 권고하는 활동을 지속하게 된다. SK텔레콤은 “고객의 관점에서 바라보며, 고객 여러분이 체감할 수 있는 실질적인 변화를 시작하겠다”며 “이번 고객신뢰 위원회 출범을 계기로 고객과 사회가 공감할 수 있는 고객가치 향상 방안이 실행될 수 있도록 회사의 모든 역량을 집중하고, 장기적으로는 이번 사태를 전화위복 삼아 회사가 한 단계 더 높은 수준으로 발전하는 계기를 만들겠다”고 밝혔다.

2025.05.18 10:00박수형

"AI 신뢰성 수출 본격화"…씽크포비엘, 中 유수 기관과 기술 협력 확대

씽크포비엘이 중국의 주요 인공지능(AI) 기관 및 기업들과 공동 기술 교류 및 사업 협력에 나선다. 생성형 AI 시대를 맞아 '신뢰할 수 있는 AI'를 핵심 전략으로 삼고 기술 수출 가능성을 가시화하는 모습이다. 씽크포비엘은 오는 23일부터 이틀간 중국 상하이에서 열리는 '2025 AI+연구개발 디지털 서밋'에 초청받아 자사 AI 신뢰성 기술을 발표하고 협력을 모색한다고 15일 밝혔다. 해당 행사는 르네상스 상하이 푸퉈 호텔에서 진행되며 1천여 명의 글로벌 전문가가 참가할 예정이다. 이 행사에서 씽크포비엘은 '거대언어모델(LLM) 평가' 포럼에 참가해 'AI 견고성 평가 기술 및 사례 연구'를 주제로 발표한다. 최근 LLM의 안전성과 신뢰성이 주요 이슈로 떠오른 가운데 이를 정량적으로 측정·검증하는 기술을 집중적으로 소개할 예정이다. 또 행사 기간 전시 부스를 운영하며 자사가 개발한 AI 신뢰성 교육용 시스템인 'AI 튜터'도 선보인다. 이 기술은 AI 데이터의 편향 여부를 분석하고 사용자의 이해를 돕는 기능을 갖춘 도구다. 해당 서밋에는 중국 정보통신기술원, 국가인지지능핵심연구소 등 공공기관과 베이징대, 푸단대, 퉁지대 등 주요 대학이 조직했다. 더불어 마이크로소프트, 알리바바, 바이두, 화웨이 등 글로벌 기업 역시 지원한다. 지난 2023년 베이징, 2024년 선전·상하이에 이어 이번에 여섯 번째로 개최된다. 씽크포비엘은 지난해 말부터 중국 내 기술 홍보와 협력 기반 마련에 나섰다. 지난해 상반기 저장대와 상하이소프트웨어산업협회를 방문했고 12월에는 서울에서 열린 '트레인(TRAIN) 세미나'에 추샤오민 퉁지대 교수를 초청하며 관계를 넓혔다. 추 교수는 이번 행사의 핵심 창립자이자 중국 내 AI 평가 기술의 권위자로, 당시 씽크포비엘 기술에 높은 관심을 표한 것으로 알려졌다. 이후 직접 조직위원회를 통해 씽크포비엘의 발표를 주선하며 실질적 협력의 물꼬를 텄다. 박지환 씽크포비엘 대표는 "오픈AI조차 각국 정부와 소버린 AI 모델을 공동 추진하는 흐름으로 전환하고 있다"며 "AI 신뢰성은 언어 기술보다 사회적 수용성과 기술 안전성에 따라 결정될 것"이라고 밝혔다. 이어 "중국 측이 협력 의지를 보인다면 회사도 적극 대응할 준비가 돼 있다"고 말했다.

2025.05.15 13:52조이환

KTC-인공지능협회 업무협약…AI분야 시험인증 서비스 공동운영

한국기계전기전자시험연구원(KTC·원장 안성일)은 한국인공지능협회(KORAIA·회장 김현철)와 인공지능(AI) 소프트웨어 평가 경쟁력 강화 및 신규 시험인증 서비스 공동운영을 위한 업무협약(MOU)을 체결했다고 밝혔다. 협약은 지난 14일 'AI EXPO KOREA 2025'가 열리는 서울 삼성동 코엑스에서 안성일 KTC 원장, 김현철 KORAIA 협회장 등이 참석한 가운데 진행됐다. 두 기관은 협약에 따라 ▲산업지능화 시험인증 서비스 운영 ▲AI 모델 및 시스템에 대한 신규 시험·인증 서비스 개발 ▲AI 평가·품질 향상을 위한 기술지원·교육 ▲KORAIA 분야 활성화를 위한 협력 네트워크 구축 등에서 협력하기로 했다. KTC 관계자는 “AI 예측 결과 신뢰성과 안전성 요구가 높아짐에 따라, 모델 성능을 판단하기 위한 올바른 기준과 평가 방법의 필요성이 대두되고 있지만 명확한 기준과 평가 방법이 없어 AI 품질과 신뢰성을 보장하는 데 어려움을 겪고 있다”며 “개발 기업에 개발 과정과 실용화 일정 확보에 애로사항으로 작용하고 있다”고 설명했다. KTC와 KORAIA는 AI 모델과 시스템 품질·신뢰성·성능을 평가하는 원스톱 시험인증 서비스(산업지능화인증) 공동 운영을 통해 AI 품질·성능·신뢰성을 체계적으로 평가하고 AI 고유의 위험(데이터 편향·신뢰성)과 안전 문제 검증 강화해 AI 품질을 높이고 애로사항을 해소하겠다는 방침이다. 이번 시험인증 서비스는 KTC에서 분석하고 제시한 ISO/IEC AI 국제 표준을 KORAIA의 산업지능화인증(AI 기술 융합 인증 제도)에 접목해 기업이 신뢰할 수 있는 인공지능 제품을 개발하고 시장 경쟁력을 강화할 수 있도록 지원할 예정이다. KTC는 KORAIA가 주최하는 국내 최대 규모의 AI 전문 박람회인 'AI EXPO KOREA 2025'에 참가해 AI 분야를 포함한 다양한 영역에서 시험인증 역량 홍보에 나선다. 'AI EXPO KOREA 2025'는 2018년부터 개최된 대한민국 대표 인공지능 전문 박람회로, 최첨단 AI 기술 및 솔루션, 다양한 산업별 AI 적용 사례, 세미나 및 포럼, 비즈니스 네트워킹 행사를 선보인다. 올해는 14일부터 16일까지 사흘 일정으로 서울 코엑스 1층 홀A에서 개막했다. KTC는 올해 AI EXPO에서 홍보부스를 마련해 AI 설계, 개발, 검증, 배포 등 '개발 전주기 평가 서비스'를 선보일 예정이다. 이를 통해 국내 AI 솔루션 개발사들에게 국제 표준에 부합하는 품질 확보 및 기술 경쟁력 향상을 지원하겠다는 방침이다. 안성일 KTC 원장은 “AI·정보보안·사물인터넷(IoT)·스마트가전·전파통신 등의 분야는 현재 가장 가파르게 성장하고 있고, 전 세계가 시장 선점을 위해 치열하게 경쟁하고 있다”며 “KTC는 이러한 첨단산업에서 선도적인 시험인증 서비스를 제공하고, 특히 AI 분야에서 국제적으로 신뢰성을 확보할 다양한 지원 전략도 마련하여 국내 기업의 글로벌 경쟁력 향상을 적극 돕겠다.”고 밝혔다.

2025.05.15 09:53주문정

  Prev 1 2 3 4 Next  

지금 뜨는 기사

이시각 헤드라인

예스24 또 속였나?..."1차 해킹 때 백업망도 랜섬웨어 감염"

삼성·SK, 올 상반기 R&D에 '적극 투자'…AI 시대 준비

"소비쿠폰 사용도 막았다"…홈플러스 폐점 발표에 노조·종사자 "철회하라"

메가존클라우드, AI 챔피언 대회 인프라 사업 수주…정부 AI 인재 육성 사업 주도

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.