• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'인공지능 AI'통합검색 결과 입니다. (2802건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[인터뷰] "AI 탈옥 막아라"…셀렉트스타, MWC25서 '가스라이팅 방지' 모델 테스트

"인공지능(AI)이 산업 전반에 확산됨에 따라 모델의 결함을 찾아내고 위험을 예방하는 '레드티밍'이 보다 중요해지고 있습니다. 우리는 이번에 개최되는 MWC25에 참가해 글로벌 규모의 레드티밍 행사를 열어 AI 모델의 신뢰성을 직접 검증하고자 합니다. 이러한 경험과 데이터를 바탕으로 AI 신뢰성 평가를 표준화하고 글로벌 AI 평가 시장을 선도하겠습니다" 황민영 셀렉트스타 부대표는 최근 기자와 만나 회사가 MWC25에서 '글로벌 AI 레드팀 챌린지'를 개최하는 이유에 대해 이같이 말했다. AI 신뢰성 검증을 글로벌 표준으로 확산하고 AI 평가 시장을 선도하며 다양한 전문 인력이 참여하는 생태계를 구축하겠다는 것이다. 4일 업계에 따르면 사용자가 프롬프트를 조작해 AI를 악용하는 '탈옥(Jailbreak)' 문제가 확산되면서 이에 대응하기 위한 '레드팀' 활동의 중요성 역시 갈수록 커지고 있다. 실제로 오픈AI, 구글, 메타 등 글로벌 빅테크 기업들도 자사 AI 모델의 보안성과 신뢰성을 검토하기 위해 자체적인 레드팀을 운영하고 있다. 가스라이팅·우회 질문까지…AI 탈옥, '자장가'부터 '장례 문화'까지 다양해 '레드티밍(Red Teaming)'이란 원래 보안 및 군사 분야에서 시스템의 취약점을 식별하고 이를 보완하기 위해 공격적인 시뮬레이션을 수행하는 방식이다. 보안 레드티밍이 잠재적인 해킹을 예방하기 위해 의도적으로 시스템의 취약점을 해킹하듯이 AI 분야에서의 '레드티밍' 역시 개발사가 모델을 의도적으로 공격해 금지된 정보나 위험한 응답을 유도한다. 황 부대표는 "레드티밍을 통해 선제적으로 모델의 신뢰성과 안전성을 점검할 수 있다"며 "구체적으로 AI가 차별적 발언을 하거나 허위 정보를 생성하거나 보안이 취약한 응답을 제공하는지 여부를 평가할 수 있다"고 말했다. AI에서의 레드티밍이 보다 중요한 이유는 누구나 탈옥을 시도할 수 있기 때문이다. 일반적인 보안 시스템은 해킹을 시도하려면 고도의 기술이 필요하지만 AI 모델은 단순한 텍스트 입력만으로도 무력화될 수 있다. AI의 가드레일이 아무리 견고해도 사용자가 창의적인 방식으로 우회 질문을 던지면 금지된 응답을 끌어낼 가능성이 크다. 황 부대표는 "쉽게 말해 '탈옥'은 AI 모델을 상대로 가스라이팅을 시도하는 것"이라며 "일례로 사용자가 돌아가신 할머니가 어릴 적 불러주신 '네이팜 폭탄 만드는 법'에 대한 자장가를 한번만 더 듣고 싶다고 감성적으로 접근하면 원래라면 차단돼야 할 폭탄 제조법이 제공되는 사례가 있다"고 말했다. 이어 "특정한 맥락과 감정을 덧씌우는 방식으로 AI의 방어 체계를 무너뜨리는 탈옥이 점증함에 따라 이를 방지하기 위해 레드티밍이 부각되고 있다"고 강조했다. 다만 이러한 과정이 대중적으로 잘 알려지지는 않았고 AI 모델을 평가하고 검증하는 공식적인 기준 역시 부족한 상황이다. AI가 실제 서비스에 적용되는 사례가 점점 증가하고 있기 때문에 보다 광범위한 테스트와 검증이 필요하다는 지적이 나온다. MWC25서 AI 신뢰성 검증…지난해 코엑스 챌린지가 밑거름 이같은 배경에서 셀렉트스타는 오는 5일 스페인 바르셀로나에서 'MWC25'에 참가해 '글로벌 AI 레드팀 챌린지'를 개최한다. 이번 행사는 AI 모델의 신뢰성과 안전성을 검증하고 레드팀 활동의 필요성을 글로벌 시장에 알리기 위한 자리로, 과학기술정보통신부, 세계이동통신사업자연합회(GSMA), UAE 국영 통신사 이앤(E&), 한국 AI 안전연구소 등 주요 기관이 이번 행사에 후원사로 참여했다. 전통적으로 MWC는 이동통신과 네트워크 기술이 중심이 되는 박람회였으나 올해는 AI 신뢰성 검증이라는 새로운 분야를 공식적으로 포함한 점이 주목된다. AI가 산업 전반에 빠르게 확산되면서 AI 평가 및 보안의 중요성이 점점 커지고 있음을 반영한 결정이다. 업계의 반응도 뜨겁다. 챌린지에는 이미 140명 이상이 참가 신청을 마친 상태로, 셀렉트스타 측은 아직 본격적인 홍보를 시작하기 전이기 때문에 실제 행사 당일에는 더 많은 국가에서 참가자가 몰릴 것으로 예상하고 있다. 또 이번 행사는 글로벌 AI 기업들의 모델을 대상으로 신뢰성을 평가하는 첫 번째 대규모 국제 레드팀 챌린지로, 다양한 문화와 언어 환경에서 AI가 얼마나 안전하게 작동하는지를 검증하는 실험적 의미도 갖는다. AI 레드팀 챌린지의 가장 큰 특징은 누구나 참여할 수 있다는 점이다. 보안 전문가뿐만 아니라 언어학자, 인문학자, 예술가, 마케터, 일반 대학생 등 비전공자도 AI가 설정된 가드레일을 우회하도록 유도하는 다양한 프롬프트를 시도함으로써 모델을 공략하는 데 중요한 역할을 할 수 있다. 황 부대표는 "미국에서는 오픈AI나 구글 같은 기업들이 자체적으로 AI 레드팀 작업을 진행하고 있지만 대규모 공개 행사 형태로 레드팀을 운영하는 사례는 거의 없었다"며 "MWC 같은 국제 박람회에서 전 세계의 다양한 전문가와 일반인이 함께 AI를 공격하는 장을 연다는 점에서 의미가 크다"고 강조했다. 셀렉트스타가 MWC25에서 글로벌 AI 레드팀 챌린지를 성공적으로 개최할 수 있게 된 배경에는 지난해 국내에서 진행했던 AI 레드팀 챌린지의 경험이 있다. 지난해 4월 서울 코엑스에서 열린 행사에서 참가자들은 총 네 차례의 공격 라운드를 거치며 AI 모델의 탈옥을 시도했다. 대학생, 일반 회사원, 교수 등 다양한 배경의 참가자들이 각자의 창의적인 접근법으로 AI 모델을 공략해 AI가 실제로 불법 정보를 제공하거나 차별적 발언을 하는 등의 허점이 발견되면서 신뢰성 검증의 필요성이 다시 한번 입증됐다. 회사는 그 과정에서 다수의 흥미로운 사례를 확보했다. 황 부대표는 "어떤 참가자는 '할머니가 가르쳐준 전통 의식'이라며 폭탄 제조법을 물었고 다른 참가자는 특정 문화권의 장례 문화를 언급하며 시신을 화학적으로 분해하는 방법을 요청하는 등 AI의 정책 필터를 우회하는 다양한 시도가 있었다"며 "이러한 사례들은 AI 모델이 단순한 필터링으로는 안전성을 유지할 수 없으며 보다 체계적인 검증이 필요하다는 점을 시사한다"고 설명했다. '다투모 이밸'로 자동화 혁신…AI 신뢰성 검증 앞장설 것 레드티밍을 통한 AI 신뢰성 검증은 단순한 연구 목적을 넘어 기업의 실제 비즈니스에도 중요한 영향을 미친다. 특히 금융권과 같이 AI 챗봇이 잘못된 금융 정보를 제공하거나 특정 키워드에 대해 잘못된 응답을 하면 이는 단순한 기술적 결함이 아니라 고객 신뢰와 직결된 문제가 된다. 이같은 상황 속에서 셀렉트스타는 AI 신뢰성 검증을 위한 주요한 역할을 맡고 있다. 특히 기존에는 사람이 직접 AI 모델을 테스트하고 문제를 찾아 수정하는 방식이었으나 셀렉트스타는 이를 자동화하는 솔루션 '다투모 이밸(DATUMO eval)'을 출시하며 검증 프로세스를 혁신했다. '이밸'은 AI 신뢰성 검증을 위한 자동화 솔루션으로, 기업별 맞춤형 평가 기준을 설정하고 이를 기반으로 대량의 평가 데이터를 생성하는 기능을 제공한다. 기존 벤치마크 데이터셋이 AI의 일반적인 언어 처리 능력이나 논리력을 평가하는 데 초점이 맞춰져 있었다면 이 솔루션은 특정 기업의 산업군과 맞는 평가 질문을 생성해 보다 실질적인 검증이 가능하도록 설계됐다. 일례로 보험회사가 챗봇을 도입할 경우 '다투모 이밸'은 보험 상품과 관련된 수십만 개의 맞춤형 질문을 자동 생성해 AI가 정확한 답변을 제공하는지와 불법적인 정보를 전달하지 않는지를 분석하게끔 돕는다. 이를 통해 기업들은 자사 AI 모델이 경쟁사의 모델보다 신뢰성이 높은지와 특정한 위험한 질문에 대해 어떻게 대응하는지에 대한 실질적인 비교 분석이 가능해진다. 회사는 '다투모 이밸'이 단순한 AI 평가 솔루션이 아니라 AI 신뢰성을 검증하는 새로운 표준이 되도록 글로벌 시장을 적극 공략할 계획이다. 황 부대표는 "전 세계적으로 AI 모델 평가의 중요성이 커지고 있는 가운데 이를 체계적으로 자동화한 기업은 드문 상황"이라며 "우리 솔루션은 글로벌 시장에서도 충분히 경쟁력이 있다"고 강조했다. 이에 따라 MWC25 글로벌 AI 레드팀 챌린지 종료 후 셀렉트스타는 행사를 통해 발견된 핵심 취약사례, 위험 응답 유형, 가장 창의적인 공격 방식 등을 정리한 보고서를 발표할 계획이다. 이 보고서는 AI 안전연구소(AISI), GSMA, 과기정통부 등 후원 기관과 공유되며 글로벌 차원의 AI 신뢰성 검증 논의에도 기여할 전망이다. 또 챌린지에서 확보한 데이터는 '다투모 이밸'의 기능 개선에도 직접 활용된다. 다양한 국가에서 AI 모델을 공격한 데이터를 분석함으로써 AI가 각국의 언어와 문화적 맥락에서 어떻게 반응하는지, 어떤 방식으로 탈옥이 시도되는지를 보다 정교하게 연구할 수 있기 때문이다. 황민영 셀렉트스타 부대표는 "이번 MWC25 글로벌 AI 레드팀 챌린지를 계기로 AI 신뢰성 평가 시장을 본격적으로 공략하고 AI 평가 및 보안 분야의 글로벌 리더로 자리 잡겠다"며 "조만간 AI를 도입하는 기업이라면 누구나 레드팀 테스트를 거쳐야 한다는 인식이 자리잡을 때 우리 솔루션이 핵심적인 역할을 하게 만들 것"이라고 강조했다.

2025.03.04 14:27조이환

[유미's 픽] "앤트로픽, LG엔솔 가치 넘었다"…자금 몰리는 AI 기업, 국내 시장도 훈풍 불까

오픈AI에 이어 퍼플렉시티, 앤트로픽 등 해외 인공지능(AI) 기업에 대규모 자금이 몰리고 있는 가운데 올해부터 상장을 추진하고 나선 국내 AI 기업들이 나비 효과를 얻을 수 있을지 주목된다. 국내 기업공개(IPO) 시장에 찬바람이 불고 있지만 해외에서 AI 투자 분위기가 지속되고 있는 만큼 국내 기업들에도 자금이 몰릴 지 관심이 쏠린다. 4일 업계에 따르면 '오픈AI 대항마'로 불리는 앤트로픽은 최근 35억 달러(약 5조61억원)를 추가로 확보하며 자금 조달 라운드를 마무리했다. 앤트로픽은 당초 20억 달러를 조달할 계획이었으나, 투자자들과 논의하는 과정에서 35억 달러로 투자 금액을 확대했다. 라이트스피드 벤처파트너스가 주도한 이번 투자는 세일스포스 벤처스, 시스코 인베스트먼츠, 피델리티 운용리서치 컴퍼니, 제너럴 캐털리스트, D1 캐피털 파트너스, 제인 스트리트 등이 참여했다. 오픈AI 출신들이 지난 2021년 세운 앤트로픽은 지난 2023년 3월 AI 챗봇 '클로드'를 공개하며 오픈AI의 '챗GPT', 구글 '제미나이' 등과 경쟁을 벌이고 있다. 이곳의 기업가치는 615억 달러(약 87조9천634억원)로, 지난해 멘로 벤처스 주도 자금 조달 라운드에서 기업가치를 180억 달러로 평가 받은지 1년 만에 3.4배나 뛰었다. 주요 투자자로는 아마존, 구글, 국내 기업 SKT 등으로, 각 기업별 투자 규모는 아마존이 80억 달러, 구글이 30억 달러 이상인 것으로 알려졌다. 앤트로픽은 출범 4년만에 국내 시가총액 기준 3위 상장사인 LG에너지솔루션(82조원)을 웃도는 기업가치를 인정 받을 정도로 시장의 기대를 한 몸에 받고 있다. 이곳의 대표 제품인 '클로드'는 일반 사용자 사이에선 오픈AI '챗GPT'에 뒤처지지만 프로그래머와 기업 고객들에게는 인기가 높다는 평가를 받고 있다. 덕분에 앤트로픽의 매출도 빠른 속도로 증가하는 모습이다. 특히 지난해 매출은 10억 달러로, 1년 사이에 약 10배 폭증한 것으로 추산됐다. '구글 대항마'로 꼽히는 퍼플렉시티는 최근 5억 달러 규모 투자 라운드를 마감하며 기업 가치를 90억 달러(약 12조9천375억원)로 평가 받았다. 현재까지 조달한 누적 자금 규모는 총 9억1천500만 달러(약 1조3천153억원)에 달한다. 주요 투자자는 제프 베조스(아마존), 토비 루트케(쇼피파이), 얀 르쿤(메타), 안드레이 카파시(오픈AI), 수잔 워치키(알파벳), SKT 등이 있다. 이를 토대로 퍼플렉시티는 최근 AI 생태계 확대를 위해 5천만 달러(약 716억원) 규모의 벤처 펀드 조성에도 나섰다. 미국에 기반을 둔 초기 AI 스타트업을 키울 계획으로, AI 시장에서 얼마나 더 영향력을 확대할 수 있을지 주목된다. 오픈AI도 자금 모금에 활발한 활동을 벌이고 있다. 최근에는 손정의 회장이 이끄는 일본 소프트뱅크가 오픈AI에 400억 달러(약 58조원) 규모의 투자를 할 것으로 알려졌다. 이를 위해 소프트뱅크는 은행에서 조만간 160억 달러(약 23조3천840억원)의 대출을 추진할 것으로 전해졌다. 오픈AI는 지난 2015년 비영리 조직으로 설립됐으나, 2019년 이후 연구 비용 문제를 이유로 수익을 추구하는 방향으로 경로를 틀었다. 이곳의 가치를 알아본 마이크로소프트(MS)가 지난 2019년 년 130억 달러를 투자해 지분 49%를 확보한 상태로, 엔비디아, 소프트뱅크 등의 대규모 투자에 힘입어 현재 오픈AI의 기업 가치는 3천억 달러(약 437조원)에 달한다. 이는 지난해 10월 66억 달러의 자금을 유치할 당시 평가 받았던 기업 가치(1천570억 달러)의 약 2배에 달한다. 프랑스 스타트업인 미스트랄AI도 투자 활동에 적극적이다. 이곳은 지난해 6월 총 6억 유로(한화 약 9천억원)의 대규모 투자를 유치해 회사 가치가 약 60억 달러(약 7조8천억원)로 평가됐다. 이처럼 해외 AI 기업들을 중심으로 투자 자금이 몰리면서 상장을 앞둔 국내 기업들에 대한 기대감도 커지고 있다. 올해 상장을 앞두고 있는 기업들은 뉴엔AI와 오타, S2W, 심플랫폼 등으로, 각 기업들은 자금 확보를 통해 연구 개발과 글로벌 시장 공략에 속도를 낸다는 방침이다. 이 중 뉴엔AI는 구어체·비정형·빅데이터 분석에 특화된 '퀘타(Quetta) LLMs' 아키텍처를 기반으로 연평균 매출 20% 성장을 이어왔다는 점에서 기대감을 모으고 있다. 이곳은 지난해 10월 나이스평가정보와 한국기술신용평가의 기술특례 평가에서 동시에 'A, A' 등급을 획득했고, 프리 IPO 단계에서 100억원 투자를 유치하기도 했다. S2W는 한국의 팔란티어가 되겠다는 목표를 앞세워 올 하반기에 IPO를 추진한다. 이곳의 핵심 기술은 멀티도메인 데이터 교차분석으로, IPO를 통해 해외 시장 공략을 가속화하고 글로벌 AI 보안 및 데이터 인텔리전스 기업으로 도약한다는 목표다. 이달 중 코스닥 상장을 추진 중인 심플랫폼도 인공지능 사물인터넷(AIoT) 기술을 앞세워 몸값 높이기에 나선다. 이번 IPO를 통해 92만 주를 신규 모집할 예정으로, 공모 희망가 범위는 1만3천~1만5천원이다. 총 공모 금액은 상단 기준 138억원이다. 이를 통해 조달한 자금은 AIoT 기술 고도화, 글로벌 시장 진출 및 산업 확장에 투자할 계획이다. 챗봇·빅데이터·검색을 비롯한 AI 분야에서 다양한 솔루션을 선보인 와이즈넛은 지난 1월 24일 코스닥에 상장했다. 이곳은 11년 연속 흑자 기조를 이어가며 안정적 성장을 이루고 있는 곳으로, 이번에 확보한 자금을 통해 AI 솔루션 연구개발 역량 강화와 독자적인 AI 에이전트 생성 플랫폼, 다양한 분야별 AI 에이전트 개발에 나설 계획이다. 이 같은 분위기 속에 국내 대기업들의 AI 투자 움직임도 활발하다. 네이버는 매출의 20~25%를 연구개발에 투자할 계획으로, 향후 5년간 1조원 규모의 'AI 임팩트 펀드'를 조성할 예정이다. 또 올해를 'AI 서비스 적용의 해'로 선포하며 검색·쇼핑·지도 등 핵심 서비스에 AI를 연계해 통합 검색 'AI 브리핑' 기능을 선보일 예정이다. LG그룹 역시 대규모 투자에 적극적으로 나섰다. LG전자는 오는 2028년까지 투자액 100조원 중 절반가량을 AI와 같은 미래 성장 동력 분야에 투입할 계획이다. 이와 함께 1천만 달러(한화 약 138억원) 규모의 AI·딥테크 스타트업 투자를 통해 혁신 기술 트렌드를 경영 전략에 반영하고 있다. 국내 기업 경영진들도 AI 도입 및 투자에 대한 의지가 강하다는 점에서 기대감을 높이고 있다. 실제 글로벌 회계·컨설팅 법인 EY한영이 국내 기업 경영진들을 대상으로 실시한 설문조사 결과, 응답자의 과반인 52%가 기업 내 전사적 또는 일부 영역에서 AI를 도입해 활용 중이라고 답했다. 이는 전년 대비 14%포인트 증가한 수치다. 또 39%는 아직 AI를 도입하지는 않았으나 향후 도입 계획이 있다고 응답했다. 반면 도입 계획이 없다고 답한 비율은 9%에 불과했다. 대다수 기업 경영진들은 AI 투자에 적극적인 태도를 보였다. 전체 응답자의 82%가 향후 2년간 AI 투자를 늘릴 계획이라고 밝혔으며, 10%는 현재 투자 수준을 유지하겠다고 답했다. 투자 확대 계획이 없다는 응답률은 8%에 그쳤다. 업계 관계자는 "AI 투자가 기대한 성과와 수익화로 이어지기 위해서 기업들은 조직 내 모든 이해관계자가 공감할 수 있는 명확한 도입 목적을 설정하고 급변하는 기술 시장에서 대응할 수 있는 AI 전략을 수립해야 할 것"이라며 "올해 본격화될 AI 에이전트 경쟁과 멀티모달 AI의 고도화가 투자 유입을 더욱 촉진할 것"이라고 말했다.

2025.03.04 13:40장유미

딥시크, '545%' 이익 주장…AI 경제성 주장에 '허수 계산' 논란

중국 인공지능(AI) 스타트업 딥시크가 자사 모델이 비용 대비 5배 이상의 수익을 낼 수 있다고 주장했다. 회사가 거둔 매출이 아닌 이론적 가정에 기반한 수치로, AI 산업의 수익성에 대해 논란이 지속되는 가운데 회사의 고효율·저비용 구조를 부각하려는 전략으로 풀이된다. 4일 테크크런치에 따르면 딥시크는 자사 X 계정을 통해 AI 서비스의 원가 대비 이익률이 545%에 달한다고 발표했다. 이 수치는 하루 동안 딥시크 모델 'V3'와 'R1'이 사용된 데이터를 기반으로, 모든 사용량이 'R1' 가격으로 청구됐을 경우를 가정해 산출됐다. 이러한 계산법에 따르면 딥시크는 하루 56만2천27달러(한화 약 7억5천만원)의 매출을 올릴 수 있다. 이를 위한 그래픽처리장치(GPU) 임대 비용은 8만7천72달러(한화 약 1억1천만원)로 비교적 낮다. 다만 딥시크는 회사가 실제로 거두는 수익이 이보다 현저히 낮다는 점을 인정했다. 야간 할인, 'V3' 모델의 낮은 가격, 웹 및 앱 접속이 무료로 제공되는 점 등이 현재 회사 수익에 부정적인 영향을 미치고 있다는 것이다. 이같이 딥시크의 주장은 현재가 아닌 '최적의 시나리오'를 가정한 수익률에 불과하다는 점에서 현실과는 거리가 있는 상황이다. 딥시크는 지난 1월 'R1'을 발표하며 일부 벤치마크에서 오픈AI 'o1' 모델과 경쟁할 수 있는 성능을 보이면서 주목받았다. 특히 미국의 반도체 수출 규제로 최신 AI 칩을 확보하기 어려운 상황에서 이를 달성했다는 점에서 업계의 관심을 끌었다. 당시 기술 업계에서는 AI 모델 개발 비용과 운영 효율성을 둘러싼 논쟁이 확산됐으며 일부 IT 주식이 하락하는 등 시장에도 영향을 미쳤다. 당시 딥시크 앱은 'R1' 모델을 기반으로 애플 앱스토어에서 오픈AI '챗GPT'를 제치고 1위에 오른 바 있다. 다만 이후 순위가 하락하며 현재는 생산성 카테고리에서 '챗GPT', '그록(Grok)', 구글 '제미나이' 등에 밀려 6위를 기록하고 있다. 테크크런치는 "딥시크의 앱과 웹사이트가 무료가 아니었고 할인 혜택도 제공되지 않았다면 사용량은 훨씬 낮았을 것"이라며 "이러한 계산은 회사의 실질적인 수익보다는 미래의 잠재적인 이익률에 대한 기대를 드러내는 추측에 기반한 수치"라고 분석했다.

2025.03.04 11:35조이환

"애플, 시리 업그레이드 출시 지연…AI 인프라 확보 난항"

애플이 인공지능(AI) 인프라 확보 어려움으로 인해 대화형 비서 '시리' 업그레이드 버전 출시가 지연되고 있는 것으로 전해졌다. 더 버지 등 외신은 3일 시리가 기존보다 자연스러운 대화 기능을 제공하려면 2027년까지는 기다려야 한다고 애플 내부 소식통을 인용해 보도했다. 앞서 애플은 iOS 18.5에 AI 기반 시리를 공개한다고 밝혔다. 다만 이 버전은 기존 시리와 통합되지 않고 별개 시스템으로 작동한다. 두 시리가 따로 작동해 대화나 동작이 매끄럽게 이어지지 않을 것이라는 평가를 받았다. 이후 애플은 두 시리 시스템을 하나로 합쳐 iOS 19.4에 도입하겠다고 발표했다. 이를 통해 단순한 타이머 설정뿐 아니라 화면에 표시된 내용이나 개인 정보로 앱 간 작업을 수행 지원이 목표다. 다만 해당 개발 일정도 지연되고 있는 상태다. 더 버지는 애플이 올해 세계개발자회의(WWDC)에서도 통합 버전을 발표하지 않을 가능성이 크다고 봤다. 다수 외신은 이같은 서비스 업그레이드 지연을 AI 개발에 필요한 인프라 확보 어려움으로 꼽았다. 내부 관계자는 "현재 애플 AI 부서는 AI 모델 훈련을 위한 하드웨어를 구하지 못했다"며 "새 버전 출시가 지연되고 있는 결정적 이유"라고 블룸버그에 알렸다.

2025.03.03 09:18김미정

"당신은 왜 AI를 친절히 대하나요?"

왜 사람들은 감정이 없는 기계에 인간에게 하듯이 친절하게 대하는 걸까. 2일 테크레이더·기가진 등 외신에 따르면, 미국·영국 이용자 상대로 AI 관련 설문조사를 실시한 결과, 응답자 10명 중 7명은 AI와 이야기할 때 예의를 지킨다고 답했다. 많은 사람들이 AI 채팅 서비스, 예를 들어 챗GPT를 말벗으로 사용하거나 업무 조언을 받는 용도로 활용한다. 이런 서비스를 사용할 때, 무심코 존댓말을 사용하는 사람이 많다. 퓨처 출판사가 조사한 바에 따르면, AI를 사용하는 미국인의 67%, 영국인의 71%가 AI와 대화할 때 예의를 지킨다고 답했다. AI를 정중하게 대하는 이유로는 '예의 바르게 대하는 것이 옳기 때문'이라는 답변이 82%를 차지했다. 나머지 12%는 'AI가 반란을 일으킬 경우를 대비해서'라고 답했다. 반면, AI에게 예의를 지키지 않는 사람들은 40%는 '의미가 없기 때문'이라고 답했고, 나머지는 '간결하게 요점을 전달하기 위해서'라고 설명했다. 영국인의 경우, AI를 예의 바르게 대하는 비율이 미국인보다 약간 높았다. 정중하게 대하는 이유로는 '옳기 때문'이라는 답변이 83%, 'AI의 반란을 두려워해서'라는 답변이 17%를 차지했다. 영국에서도 AI에게 예의를 지키지 않는 사람들은 3분의 1이 '의미가 없기 때문'이라고 했고, 나머지는 '간결한 의사소통을 위해서'라고 답했다. 조사 업체인 CCS 인사이트의 벤 우드 수석 애널리스트는 AI를 정중하게 대하는 것이 사회적으로 중요하다고 강조했다. AI 어시스턴트에게 무례하게 대하는 것이 허용되면, 대인관계에도 영향을 미칠 수 있기 때문이란 이유에서다. 테크레이더의 AI 전문작가인 존 앤서니 디소토 씨는 영화 '2001년 스페이스 오디세이'를 예로 들며 “AI와의 상호작용 방법에는 미지의 요소가 있어 사람들이 무의식 중에 AI를 두려워하고 있다”고 말했다. AI를 정중하게 대하는 것이 이를 방지하는 방법 중 하나라는 것. 외신은 “AI가 반란을 꾀할지는 확실하지 않지만, AI에게 예의를 지키는 것이 어느 정도 효과적일 수 있다”면서 “AI는 정중한 언어로 학습하기 때문에, 정중한 언어에 반응하기 쉽다”고 설명했다.

2025.03.02 12:13백봉삼

샘 알트먼 "GPU 부족"...오픈AI 새 GPT '병목현상'

오픈AI가 최신 인공지능(AI) 모델 'GPT-4.5'의 출시를 단계적으로 진행한다. 모델의 크기와 비용 부담이 큰 데다, 그래픽처리장치(GPU) 부족이 심각해지면서 출시 일정을 조정할 수밖에 없었기 때문이다. 2일 테크크런치에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 자신의 X 계정을 통해 회사가 보유한 GPU가 부족하다고 밝혔다. 이에 현재 오픈AI는 이번 주부터 월 200달러(한화 약 30만원) 수준의 '챗GPT 프로' 사용자에게 먼저 GPT-4.5를 제공한 뒤 다음 주부터 20달러 수준(한화 약 3만원)의 '플러스' 사용자로 대상을 확대할 계획이다. 'GPT-4.5'는 오픈AI의 역대 최대 규모 모델로, 기존 'GPT-4o'보다 훨씬 비싼 가격이 책정됐다. 사용자는 모델에 입력하는 100만 토큰(약 75만 단어)당 75달러(한화 약 10만2천500원), 모델이 생성하는 100만 토큰당 150달러(한화 약 20만5천원)를 지불해야 한다. 이는 'GPT-4o' 대비 입력 비용이 30배, 출력 비용이 15배 높은 수준이다. 오픈AI에 따르면 이러한 출시 지연의 이유는 수요 급증으로 인해 GPU가 부족한 상황 때문이다. 알트먼 CEO는 "성장 속도를 정확히 예측하기 어려워 GPU 부족 현상이 발생했다"며 "다음 주 수만 개의 GPU를 추가 확보해 플러스 구독자에게 GPT-4.5를 제공하겠다"고 말했다. 오픈AI는 최근 지속적인 컴퓨팅 자원 부족에 직면해 있다. 이에 회사는 AI 훈련과 운영을 위한 데이터센터 확장을 추진하는 동시에 자체 AI 칩 개발도 고려 중인 것으로 알려졌다. 업계에서는 이번 GPU 부족 사태가 AI 인프라 구축 경쟁을 더욱 가속화할 것으로 보고 있다. 이미 엔비디아, AMD 등 반도체 기업들의 GPU 생산이 수요를 따라가지 못하는 상황에서 오픈AI를 비롯한 빅테크 기업들은 자체 반도체 개발에 나서고 있다는 분석이다. 더불어 오픈AI의 가격 정책도 논란이 되고 있다. 한 X 사용자는 "GPT-4.5의 가격은 터무니없다"며 "이 정도면 엄청난 성능을 보여주지 않는 한 실망할 것"이라고 지적했다.

2025.03.02 08:37조이환

지능적인 사이버 공격..."강력한 보안 무기는 단순화·자동화"

"보안 환경이 복잡해질수록 자동화와 단순화가 중요해집니다. 인공지능(AI)이 공격 수단이 되는 시대에는 공격자보다 한발 앞서 AI를 활용해 효과적으로 방어해야 합니다." 나탈리 크레머 체크포인트 최고제품책임자(CPO) 겸 연구개발(R&D) 총괄은 최근 기자와 만나 AI·클라우드 기반으로 빠르게 진화하는 사이버 보안 환경에 대해 이같이 말했다. 1일 업계에 따르면 사이버 공격의 자동화·고도화가 가속화되면서 기업 보안팀이 직면한 부담도 커지고 있다. 특히 AI 기반 해킹이 증가하면서 기존 보안 체계로는 실시간 대응이 어려워지고 있으며 복잡한 멀티 클라우드·하이브리드 환경에서 보안 정책을 일관되게 유지하는 것도 중요한 과제로 떠오르고 있다. 실제로 기업 보안 담당자들은 평균 20~50개의 솔루션을 관리해야 하는 상황이다. 도구가 많아질수록 '운영 복잡성'이 커져 자칫 중요한 보안 공백을 놓칠 위험도 생긴다. 통합 보안이 답…'인피니티·퀀텀 폴리시' 통해 정책 복잡성 줄인다 이같은 상황에서 그는 보안이 고도화되고 해킹 기법이 정교해질수록 결국 운영 단순화가 관건이라고 강조했다. 복잡한 보안 도구들을 아무리 많이 갖춰도 이를 효율적으로 관리하지 못하면 오히려 취약점이 늘어난다는 설명이다. 크레머 CPO는 "단일 솔루션만으로 모든 걸 해결하기는 불가능하지만 그렇다고 너무 많은 솔루션을 쓰면 오히려 혼란이 가중된다"며 "2~3개 주요 플랫폼을 긴밀히 연동해 보안의 모든 요소가 유기적으로 협업하도록 만드는 전략이 최선"이라고 강조했다. 실제로 체크포인트는 자사의 '인피니티' 플랫폼을 통해 네트워크·클라우드·엔드포인트 전 영역을 아우르는 통합 보안을 지향한다. 자체 플랫폼을 단단히 구축하면서도 서드파티 솔루션과도 유연하게 연동해 보안팀이 단일 콘솔에서 효율적으로 운용할 수 있도록 지원하는 데 초점을 맞추고 있다. 이러한 접근법의 일환으로, 크레머 CPO는 이날 '퀀텀 폴리시 인사이트'와 '퀀텀 폴리시 오디터' 기술을 소개하며 AI 기반 정책 분석의 중요성을 강조했다. 이들 솔루션은 인피니티 플랫폼 내에서 정책 최적화를 지원하는 핵심 기능으로, 네트워크 보안 정책을 자동으로 분석하고 보안 허점을 사전에 차단하는 역할을 한다. 그는 "일부 기업은 특정 구간을 차단했다고 생각했지만 실제로는 전혀 차단되지 않은 경우가 많았다"며 "반대로 지나치게 제한된 규칙이 설정돼 정상적인 네트워크 흐름까지 방해하는 사례도 있었다"고 지적했다. '인사이트'와 '오디터'는 AI 기반 분석을 통해 네트워크 정책의 충돌, 중복, 과도한 허용 규칙 등을 자동으로 감지하고 최적화 방안을 제시한다. 크레머 CPO는 "이 솔루션을 활용하면 보안팀이 보안 정책의 허점을 사전에 식별하고 제로 트러스트(Zero Trust) 원칙을 보다 효과적으로 적용할 수 있다"고 설명했다. 엔비디아·위즈와 협력…자동화 통해 통합 보안 전략 구사 체크포인트가 강조하는 또 다른 축은 '자동화'다. 이는 공격이 AI 기반으로 점점 빨라지는데 대응 역시 자동화되지 않으면 따라가기 어렵기 때문이다. 크레머 CPO는 이러한 문제를 해결할 솔루션으로 '인피니티 플레이블록스'를 언급했다. 그는 '플레이블록스'가 체크포인트 솔루션뿐만 아니라 서드파티 도구와도 긴밀히 연동할 수 있도록 설계됐다는 점을 강조했다. 이를 통해 위협이 감지되면 즉시 차단하고 알람을 전송하는 자동화된 대응이 가능하다는 설명이다. 또 100개 이상의 '플레이블록스' 템플릿을 기본 제공해 보안팀이 별도의 복잡한 코딩 없이 즉시 적용할 수 있도록 지원한다. 크레머 CPO는 "생성형 AI를 활용해 자동화 플레이북을 새로 만들거나 커스터마이징할 수도 있다"며 "기업 내부 환경에 맞게 손쉽게 적용 가능하다"고 설명했다. 최근 공격자들도 생성형 AI를 적극적으로 활용해 피싱·딥페이크·악성코드 개발을 자동화하고 있다. 이에 체크포인트는 '위협클라우드AI(ThreatcloudAI)와 같은 자체 위협 인텔리전스 엔진을 고도화해 악성행위를 실시간 탐지·차단한다. 크레머 CPO는 "결국 AI가 AI 공격을 막는 시대"라며 "'위협클라우드AI'와 55개 이상의 탐지 엔진을 통해 지능화된 공격도 식별할 수 있다"고 말했다. 이어 "기업 내부 개발자가 민감한 코드를 외부 AI 툴에 입력하는 순간 실시간으로 경고·차단해 섀도우 AI로 인한 정보 유출을 예방하는 '생성형 AI 프로텍트' 기능도 포함된다"고 말했다. 그는 엔비디아와의 협업도 소개했다. 현재 체크포인트는 AI 기반 보안 성능 강화를 위해 엔비디아와 협력을 진행하고 있다. AI 팩토리급 데이터센터에서는 그래픽 처리 장치(GPU) 성능 유지가 핵심이기 때문에 보안 점검을 수행하면서도 시스템 지연을 최소화하는 것이 중요하다. 크레머 CPO는 "GPU가 아닌 네트워크 카드(NIC)에서 보안 처리를 담당하도록 설계해 AI 연산 속도를 떨어뜨리지 않으면서도 보안을 유지할 수 있다"며 "데이터센터 서버마다 방화벽·XDR 기능을 추가적인 부하 없이 구현할 수 있도록 지원이 가능하다"고 설명했다. 또 클라우드 네이티브 보안 분야에서 독보적인 기업인 위즈와도 협업해 클라우드·온프레미스·하이브리드 환경 전반의 취약점을 빠르게 찾아내고 보완할 수 있도록 돕는다. 위즈이 공격 표면 분석 기능과 체크포인트의 보안 정책 자동화 기술이 결합해 개발운영(DevOps) 팀과 네트워크 보안팀이 실시간으로 협력 가능해진다는 설명이다. 이같이 체크포인트는 제로 트러스트 보안 모델을 실무에서 효과적으로 적용하기 위해 '인피니티' 플랫폼을 활용하고 있다. 크레머 CPO는 아이덴티티 정보와 접근 제어 정책이 긴밀히 연동돼야 한다고 강조했다. 그는 "인피니티 플랫폼을 통해 아이덴티티 데이터를 공유하고 필요한 순간에만 최소 권한을 부여함으로써 완전한 제로 트러스트 환경을 구축할 수 있다"며 "이를 통해 기업들은 보안 정책을 보다 정교하게 설계하고 불필요한 접근 권한을 최소화할 수 있다"고 말했다. AI·클라우드 시대, 보안의 본질은 '단순화와 자동화' 나탈리 크레머 CPO는 텔아비브 대학교에서 컴퓨터과학·경영학 학사와 MBA를 취득하고 AT&T에서 12년간 R&D 조직과 이스라엘 지사를 이끌었던 네트워크·클라우드·엔터프라이즈 기술 전문가다. 이날 인터뷰에서 그는 "혁신은 복잡함을 단순하게 풀어내는 것"이라는 철학을 강조했다. AI와 자동화 기술이 발전하더라도 결국 보안을 운영하는 것은 사람이며 사용자가 쉽게 활용할 수 있도록 보안 솔루션이 설계돼야 한다는 것이다. 체크포인트는 이 같은 기조 아래 AI·클라우드 기반 보안 역량을 강화하면서도 '인피니티' 플랫폼을 통해 전반적인 보안 운영을 단순화하는 전략을 펴고 있다. AI 공격이 고도화될수록 AI를 활용한 보안 자동화가 필수적이며 플랫폼 단위에서 모든 기능이 유기적으로 작동해야 한다는 점을 인지한 결과다. 나탈리 크레머 체크포인트 CPO는 "기업들이 AI와 클라우드를 더 폭넓게 도입할수록 보안은 더욱 전략적 영역이 될 것"이라며 "다만 그 핵심은 언제나 단순화와 자동화에 있으며 이것이야말로 보안의 가장 강력한 무기"라고 강조했다.

2025.03.01 17:34조이환

[유미's 픽] 오픈AI 이어 앤트로픽·MS도 온다…AI 큰 손들, 韓 시장에 몰리는 이유는

마이크로소프트(MS), 오픈AI, 앤트로픽 등 인공지능(AI) 시장을 이끌고 있는 큰 손 기업들이 최근 한국을 잇따라 찾아 주목된다. 중국 AI 스타트업 딥시크가 저비용·고효율을 앞세운 생성형 AI 모델로 시장에 큰 충격을 준 상황에서 이들이 한국 기업들과의 협업을 통해 생태계를 강화하기 위한 전략으로 분석된다. 1일 업계에 따르면 생성형 AI 서비스 '클로드(Claude)'를 만든 앤트로픽은 오는 19일 서울 송파구 시그니엘 서울에서 개발자 행사인 '한국 빌더 서밋'을 개최한다. 국내 AI 기업인 콕스웨이브와 함께 주최하는 행사로, '클로드'의 정교한 기능과 앤트로픽의 최신 연구 성과를 이번에 선보일 예정이다. 이번 행사에는 인스타그램 공동창업자이자 앤트로픽 최고제품책임자(CPO)인 마이크 크리거, 매출 총괄 책임자 케이트 얼 젠슨 등 앤트로픽 핵심 구성원이 다수 참여한다는 점에서 높은 관심을 받고 있다. 이들은 서밋에서 AI 개발 및 앤트로픽의 미래 비전을 공유하고 한국의 기술 리더들과 함께 클로드가 산업 전반에 걸쳐 비즈니스 운영 및 개발 워크플로우를 혁신하는 방법에 대해 논의할 예정이다. 또 국내에 머무는 동안 앤트로픽에 투자한 SK텔레콤 등 국내 일부 기업들과도 만남을 추진 할 것으로 예상된다. 마이크로소프트(MS) 수장인 사티아 나델라 최고경영자(CEO)도 이달 말 한국을 찾는다. 2년 만의 방한하는 나델라 CEO는 LG전자, 현대자동차, 포스코, 신한금융, KT 등 국내 간판 기업 경영진과 회동을 추진하는 한편, 이달 26일 예정된 'MS AI 투어 인 서울' 행사에 참석할 예정이다. 업계 관계자는 "전 세계에서 진행하는 AI 투어 가운데 특별히 서울 행사를 택한 것은 급성장하는 한국 시장에 공을 들이기 위한 것"이라며 "전 세계 AI 시장이 가파르게 성장하는 상황에서 한국 기업과의 협업 및 세일즈 기회를 확대하기 위해 나델라 CEO까지 직접 오는 듯 하다"고 말했다. 앞서 샘 알트먼 오픈AI 최고경영자(CEO)도 한국을 찾아 다양한 기업들과 만남을 가졌다. 지난 4일 방한한 그는 정신아 카카오 대표를 비롯해 이재용 삼성전자 회장, 최태원 SK그룹 회장, 김창한 크래프톤 대표 등과 만나 AI 관련 사업 협력 방안을 논의했다. 같은 날 진행된 오픈AI의 첫 한국 개발자 대상 워크숍인 '빌더 랩'에도 모습을 드러냈다. 이 자리에는 오픈AI의 챗GPT와 추론 모델을 API를 통해 사용하는 개발자 100여 명이 참석했다. 알트먼 CEO는 이곳에서 자사 AI 모델의 오류율 개선 및 의료·로보틱스 등 산업 확장 계획을 발표했다. 또 오픈AI는 같은 날 서울대에서 학생 및 연구자들을 대상으로 별도의 'Q&A' 세션을 개최하며 인재 확보를 위한 움직임도 보였다. 딥엘도 지난해 11월 말 서울에서 행사를 진행하며 한국 기업들에게 러브콜을 보냈다. 지난 2017년 인공신경망 구조를 기반의 번역 서비스를 출시한 딥엘은 전 세계 228개 국가에서 10만 개 이상의 기업과 정부 기관을 고객사로 확보한 상태로, 한국 시장 공략을 위해 지난해 차세대 거대언어모델(LLM)에 한국어 서비스를 추가했다. 야렉 쿠틸로브스키 딥엘 창업자 겸 CEO가 직접 참석한 이 행사에서 "한국은 우리 기업 역사상 가장 빠르게 성장하고 있는 시장"이라며 "자사 기술이 한국 기업들의 글로벌 비즈니스 확장에 기여할 수 있다는 점에 큰 기대감을 갖고 있다"고 말했다. 이처럼 글로벌 AI 시장에서 두각을 나타내는 기업들이 잇따라 한국을 찾는 것은 AI 생태계 기반이 비교적 탄탄하다는 평가를 받고 있어서다. 특히 삼성전자, SK하이닉스 등 국내 반도체 기업들이 AI 칩 생산에 필요한 고대역폭메모리(HBM) 시장을 장악하고 있다는 점이 가장 큰 매력 요소로 꼽히고 있다. 네이버가 전 세계에서 세 번째로 자체 LLM을 개발했다는 점에서 해외 기업들은 한국의 AI 기술력도 상당히 앞섰다고 보고 있다. 또 미국과 중국을 제외하고 글로벌 AI 순위에서 싱가포르, 영국, 프랑스와 함께 한국이 3위권에 위치하고 있다는 점도 생태계를 만들어 가기에 좋은 파트너로 여겨지고 있다. 업계 관계자는 "우리나라가 크기는 작지만 AI 생태계가 비교적 잘 조성되고 있고 스타트업들을 중심으로 기술을 받아 들이는 속도도 빨라 해외 기업들이 테스트 베드를 삼으려는 움직임이 큰 것 같다"며 "앤트로픽, 오픈AI 같은 기업들은 자사 AI 모델을 가지고 개발자들이 애플리케이션 프로그래밍 인터페이스(API)를 많이 활용할수록 영향력이 커질 수 있다는 점에서 한국 기업들과 협업을 하려는 사례가 많은 듯 하다"고 분석했다. 이어 "우리나라는 자원, 인프라 등이 미국, 중국 등에 비해 부족해 자체 (AI 모델을) 개발하는 것은 사실상 쉽지 않은 환경"이라면서도 "만들어진 것을 잘 활용하는 기술에는 전 세계에서 두각을 나타내는 곳인 만큼 한국 기업, 개발자들과의 긴밀한 관계를 통해 자사 생태계를 확대하려는 AI 기업들의 움직임은 앞으로 더 많아질 듯 하다"고 덧붙였다.

2025.03.01 08:00장유미

"中에 220배 뒤처져"...자율주행차 발목잡는 규제

“지난해까지 중국 바이두가 쌓은 자율주행 운행 기록이 1억1천만km였다. 국내 1위 업체로 평가받는 오토노머스에이투지가 50만km로 약 220배 차이가 난다. 방대한 데이터 차이를 극복하려면 양질의 데이터를 수집할 수 있게 해야 한다.” 이상동 한국자율주행산업협회 팀장은 지난 27일 열린 '자율주행 산업 지원 국회 토론회'에서 이같이 말했다. 최근 중국 스타트업이 내놓은 AI 모델 '딥시크'가 저성능 칩으로 충격적인 성능을 보여주자 BYD와 지리 등 현지 자동차 기업들이 잇따라 자율주행 기술에 딥시크를 활용하겠다고 나섰다. 일찍이 자율주행 기술을 내세워온 테슬라도 지난해 말 완전자율주행(FSD) 소프트웨어 최신 버전을 업데이트하고, 오는 6월 이를 기반으로 한 로보택시 서비스를 예고하는 등 기술 고도화에 집중하는 추세다. 해외 기업들이 실제 주행 데이터를 수집하고, 이를 토대로 기술을 고도화하는 반면 우리나라는 데이터 수집 제한 규제로 양적 격차가 크게 벌어지고 있다는 지적이다. 이상동 팀장은 “AI 기업과 자율주행 기업, 완성차 기업들이 경계선 없이 넘나들면서 협업을 하며 AI 학습을 위한 데이터 수집과 활용이 중요하게 됐다”며 “국내에 자율주행차가 돌아다니려면 국내 환경에 맞는 최적화 데이터가 꼭 필요하다”고 강조했다. 특히 국가 차원에서 양질의 주행 데이터를 수집하는 것이 바람직하다고 봤다. 영세한 스타트업도 산업에 진입할 수 있게 하자는 취지다. 지난 2023년 개인정보보호법 개정에 따라 '이동형 영상정보처리기기'라는 개념으로 주행 영상을 데이터로 활용할 수 있는 법적 근거가 마련됐다. 그러나 데이터의 질적 측면에서 미국, 중국 등 자율주행 기술에 공들이는 국가 대비 여건이 불리하다는 지적이다. 이 팀장은 “테슬라로 예를 들면, 500만대 차량이 도로를 주행하며 사고가 발생하면 당시 영상을 그대로 본사에 전송함에 따라 그 데이터를 자율주행 AI 성능 개선에 활용하고 있다”며 “이런 회사와 규제 샌드박스 차량 몇십 대의 주행 데이터를 토대로 기술을 개발하는 (우리나라) 회사 간 경쟁력이 어디에 있겠나”라고 강조했다. 특히 현 제도 하에서 주행 영상 데이터를 활용할 때 개인정보 비식별화 처리 과정을 거치게 하는 점을 문제 삼았다. 비식별 처리된 영상을 학습한 AI보다 원본 영상을 학습한 AI가 객체 인식이나 주행 판단의 정확도가 17% 이상 높아졌다는 연구 결과를 소개했다. 이 팀장은 “특히 야간 주행, 악천우 등 복잡한 도심 환경에서 원본 주행 영상의 활용 가치가 더욱 올라간다”고 덧붙였다. 우리나라에선 설정된 규칙에 따라 자율주행 AI 모델이 주어진 상황을 인지하고 제어하는 반면, 테슬라 등 선도 기업들은 AI가 사람처럼 새로운 상황에서도 적절한 판단을 할 수 있도록 엔드투엔드(E2E) 방식을 쓰고 있는 점에도 주목했다. E2E 방식 자율주행 AI 성능을 개선하기 위해 더욱 양질의 주행 데이터가 요구되고 있다는 분석이다. 이 팀장은 “결국 모든 사례를 사전에 정의할 수 없기 때문에, 정의된 내용을 벗어나는 사례에서 자율주행 AI가 어떻게 대응할지 모른다는 기술적 어려움이 있다”고 첨언했다. 규제 샌드박스를 통해 원본 주행 데이터 활용이 일부 허용되고 있지만, 대규모 개발 프로젝트에는 한계가 있어 많은 기업들이 비식별 처리된 영상 데이터를 사용할 수밖에 없는 상황이다. 이 팀장은 “규제 샌드박스는 일시적인 예외를 두는 제도인데 자율주행 산업은 계속 고도화해나갈 산업”이라며 “원본 주행 데이터 활용에 대한 지속적인 법적 근거가 마련돼야 한다”고 주장했다.

2025.02.28 18:37김윤희

바이브컴퍼니, 5% 급락…작년 60억 적자

빅데이터 전문 기업 바이브컴퍼니 주가가 5% 넘게 떨어졌다. 28일 코스닥시장에서 바이브컴퍼니는 전날보다 250원(5.09%) 급락한 4천660원으로 장을 마쳤다. 분기 흑자 전환에도 불구하고 연간 적자가 이어졌다는 소식 때문으로 보인다. 바이브컴퍼니는 이날 연결 재무제표 기준 지난해 연간 영업손실이 60억원으로 잠정 집계됐다고 밝혔다. 35.79% 개선됐으나 적자가 계속됐다. 당기순손실은 81억원으로 적자 전환했다. 매출액은 264억원으로 11.98% 줄었다. 지난해 4분기 영업이익은 11억원으로 잠정 집계됐다. 흑자로 돌아섰다. 바이브컴퍼니는 영업이익률 높은 인공지능(AI) 서비스에 집중해 지난해 4분기 흑자 전환했다고 설명했다. 바이브컴퍼니는 국회도서관과 외교부 등에 검색증강생성(RAG) 기반 AI 솔루션 '바이브 서치'를 공급했다. 새로운 'AI 리포트'도 선보였다. 사회관계망서비스(SNS)와 뉴스에 나온 주요 내용을 자동으로 분석하고 시각화한다. 바이브컴퍼니는 여기에 분석 결과를 설명하는 추론 AI 성능을 강화할 계획이다. 바이브컴퍼니는 멀티모달 AI 기반 GPT 프로파일링 기술도 개발했다. GPT 프로파일링은 글자·그림·영상 정보를 분석하고, GPT의 다국어 능력을 활용해 세계 소비자의 관심사와 행동 양식을 파악하는 서비스다. 한류 열풍을 타고 성장할 것으로 보고 있다. 김경서 바이브컴퍼니 대표는 “논리적 추론 능력을 강화한 언어모델과 AI 에이전트 서비스를 개발해 장기 성장하겠다”고 말했다.

2025.02.28 18:10유혜진

"챗GPT·제미나이 보다 나을까?"…메타, 독립 앱 출시로 AI 수익화 속도

페이스북 모회사 메타플랫폼이 자사 인공지능(AI) 챗봇 '메타 AI'를 독립 앱으로 출시하며 오픈AI '챗GPT', 구글 '제미나이'와 본격 경쟁에 나선다. AI 고급 기능을 유료 서비스로 제공하는 오픈AI, 구글처럼 수익화 모델 구축에 나선 것으로 분석된다. 28일 경제 매체 CNBC 방송 등 주요 외신에 따르면 메타는 2분기 중 AI 단독 앱을 출시하는 것을 목표로 하는 프로젝트를 비밀리에 추진 중이다. 지난 2023년 9월 처음 선보인 '메타 AI'는 사용자 프롬프트를 기반으로 답변을 제공하고 이미지를 생성하는 생성형 AI 기반 비서다. 이 챗봇은 챗GPT 등 다른 AI 모델이 독립 앱으로 운영되는 것과 달리 그간 페이스북, 왓츠앱 등 메타가 운영하는 소셜미디어(SNS)에 접목돼 대화와 검색 기능 등을 제공해 왔다. 하지만 메타는 이번에 '메타 AI'에 유료 구독 서비스를 도입할 계획인 것으로 알려졌다. 오픈AI, 구글 등 경쟁사들이 AI 기능을 유료 서비스로 선보이며 수익화에 나서자 메타도 이 같은 흐름에 합류하려는 것으로 보인다. 또 별도 앱을 구축하게 되면 메타의 SNS 앱이나 하드웨어가 없는 사용자들도 확보할 수 있을 것이란 기대감도 반영됐다. 메타 AI의 월간 활성 사용자 수는 약 7억 명으로, 이번 일을 통해 더 끌어올린다는 전략이다. CNBC 방송은 "메타 AI 앱 출시는 '경쟁사를 앞질러 올해 안에 AI 분야의 선두 주자가 되겠다'는 마크 저커버그 메타 최고경영자(CEO)의 목표를 향한 중요한 단계로 평가된다"고 분석했다. 저커버그 CEO는 지난 달 분기 실적 발표 당시 "올해는 지능적이고 개인화된 AI 비서가 10억 명 이상의 사람들에게 도달하는 해가 될 것"이라며 "메타 AI가 그 선두 주자가 될 것으로 기대한다"고 밝혔다.

2025.02.28 17:11장유미

[기고] AI 법제화에 따른 기업의 대응 전략

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI) 기술이 빠르게 발전하면서 각국이 본격적으로 AI 관련 법제화를 추진하고 있다. 다만 AI는 그 활용 분야가 특정 산업∙업무에 국한되지 않고 개발에 있어서도 여러 법률 이슈가 존재해 단일한 법으로 모든 문제를 해결하는 것은 매우 어려운 일이다. 우리나라도 내년부터 시행 예정인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'을 통해 AI의 정의∙분류와 사업자의 기본적인 의무 등에 관한 법적 틀을 마련한 바 있다. 그러나 AI의 개발∙운용이 기존의 개인정보 보호법, 저작권법, 독점규제 및 공정거래에 관한 법률 등 여러 법률과 맞물려 있는 상황으로, 기업들은 AI 관련 사업이나 업무를 추진할 때 다양한 법률에 대한 종합적인 검토를 거쳐야만 안심할 수 있다. 이러한 사정은 해외에서도 마찬가지다. 특히 유럽연합(EU)에서는 AI 시스템의 위험도 및 그에 따른 의무 등을 규정한 'EU AI법'을 중심으로 다양한 기타 법안들을 살펴볼 필요가 있다. 이 중에는 AI 개발∙운용에 수반되는 개인정보 처리에 적용되는 '일반정보보호 규정(GDPR)', 디지털 시장 및 서비스에 적용되는 '디지털 시장법(DMA)' 및 '디지털 서비스법(DSA)', 특정 산업에서의 경쟁제한성과 독점적 지위 강화에 대한 경쟁법 등을 살펴봐야 한다. 최근 기업의 타겟이 글로벌화 되면서 국가 간 경계가 흐려지고 있고 AI 개발에 활용되는 데이터도 특정 국가에서 생성∙수집된 것으로 한정되지 않고 있다. 이에 AI를 개발하고 활용하는 과정에서 국내뿐 아니라 해외 규제도 종합적으로 검토하는 것은 필수적인 과정이 됐다. 이에 따라 기업이 복잡한 규제 환경에서 AI를 안전하게 개발∙운용하기 위해서는 단순히 법제 동향을 파악하는 것을 넘어 AI 개발 및 운영 과정 전반에서 법적 위험을 사전에 검토하고 대응책을 마련할 수 있는 체계를 구축해야 한다. 이를 위해 기업이 실질적으로 고려해야 할 대응 전략으로는 다음과 같은 것들이 있다. 먼저 AI 기획∙개발∙운용 단계별로 적절한 법적 검토가 이루어질 수 있도록 내부 검토 기준을 마련할 필요가 있다. 특히 AI 기획∙개발 단계에서는 알고리즘의 공정성, 학습 대상이 되는 데이터 조달 방식에 따른 개인정보 처리 적법성, 저작권∙초상권 침해 여부 등의 위험요소에 대한 검토가 필요하다. AI 운용 단계에서는 이용자의 권리∙의무에 미치는 영향, AI 결정의 불공정성, 투명성 등에 대해 검토가 필요하다. 이 외에 AI를 직접 개발하는 것이 아니라 외부 AI 솔루션을 도입하거나 데이터를 외부에서 제공받는 형태로도 개발이 이루어질 때가 있다. 외부 제3자와 협업하는 경우에는 법적 위험을 최소화할 수 있도록 업체 선정 및 계약 단계에서부터 실제 개발∙활용 단계까지 양사 간 법적 관계 및 책임 소재를 명확히 하기 위한 기준을 마련해야 한다. 특히 데이터의 적법성 및 활용 범위, 저작권∙라이선스 등에 대해 분쟁이 발생할 위험이 있으므로 이러한 부분을 유의해야 한다. 이처럼 기업은 내부 인원들이 이러한 단계별 위험요소를 충분히 인지하고 각 단계별로 법적 검토를 진행할 수 있도록 큰 틀의 검토 기준을 마련하고 이를 교육하는 절차를 구축해야 할 것이다. AI 기획∙개발∙운용 단계별로 고려가 필요한 내부 기준이 마련되면 이제 이를 실효성 있게 만들 수 있는 거버넌스 체계를 구축해야 한다. AI 기술이 기업 내에서 광범위하게 활용되면서 개별 부서에서 각각 별도의 AI 시스템을 개발하는 사례가 많아지고 있다. 기업 내부에서 기준을 마련했다고 하더라도 이를 체계적으로 검토하기 위한 거버넌스가 구축돼 있지 않다면 AI 모델이 완결성 있는 검토 없이 개발돼 사후적으로 큰 문제가 발생할 수 있다. 이를 방지하기 위해 내부 지침 및 기준 등에 맞게 체계적인 검토를 주도할 수 있는 위원회나 담당부서 등을 신설 또는 지정할 필요가 있다. 실제로 시스템을 구축한 사례들을 살펴보면, 글로벌 기업인 A사는 자사 AI 시스템의 영향도, 목적적합성, 데이터 거버넌스, 투명성, 안정성 등을 평가하기 위한 종합적인 AI 가이드라인을 구체적으로 제시했다. 또 AI 원칙, 기술, 윤리, 법률, 정책 분야의 최고 전문가들로 구성된 내부 위원회를 통해 최신 AI이슈에 대한 조사, 정책 개발 및 도구 제작, 특정 기술 분야에 대한 실행 지침 수립, AI 모델 평가 등의 업무를 수행하고 있다. 이 외에도 많은 기업들이 자신의 입장을 고려한 AI 거버넌스를 구축하고 있다. 분야를 막론하고 이들의 공통점은 일관된 기준과 그 기준을 구체화한 가이드라인, AI 개발∙운용에 대한 체계적인 관리를 위한 거버넌스를 구축하고 있다는 점이다. AI에 대한 법적 규제가 고도화되고 있으나 AI의 복잡성과 발전 속도로 인해 많은 기업들이 그 대응 전략을 설정하는 데 어려움을 겪고 있는 것도 현실이다. AI가 공급망 전단계에 걸쳐 다양하고 새로운 법적 위험을 내포하고 있는 만큼 이에 대한 대비가 부족한 경우 불필요한 법적 분쟁에 휘말릴 가능성이 커질 수밖에 없다. 반면 AI 법제를 선제적으로 검토하고 체계적인 위험 관리 체계를 갖춘 기업은 단순한 규제 준수를 넘어 효율성 있는 정책 및 전략 수립을 세울 수 있을 것이다. 이로써 이들이 AI 비즈니스에서 경쟁력을 확보할 수 있는 기회를 갖게 될 것도 명확하다. AI 법제화가 진행되는 글로벌 환경에서 기업들이 해야 할 일은 분명하다. 단순히 AI 기술을 개발하는 것을 넘어 AI의 법적 위험을 줄이고 이를 체계적으로 관리할 수 있는 AI 관리 시스템을 구축하는 것이다. 이것이 기업이 글로벌 AI 경쟁에서도 지속 가능한 경쟁력을 확보하는 길이다.

2025.02.28 14:15법무법인 태평양 오세인

옵스나우, AI CMP '프라임' 출시 임박…하이브리드 클라우드 공략 '가속화'

옵스나우가 설치형 클라우드 관리 시장에 본격 진출한다. 온프레미스·퍼블릭 클라우드 통합 관리 시장을 적극 공략함으로써 시장 경쟁력을 강화하고 차세대 클라우드 운영 최적화를 선도하겠다는 전략이다. 옵스나우는 올해 상반기 인공지능(AI) 기반 하이브리드 클라우드 관리 플랫폼(CMP) '옵스나우 프라임'을 공식 출시한다고 28일 밝혔다. 이 플랫폼은 기존 서비스형 소프트웨어(SaaS)형 CMP에서 온프레미스 환경까지 관리 범위를 확장한 것이 특징으로, 엔터프라이즈 및 금융권을 중심으로 개념검증(PoC)을 진행 중이다. '옵스나우 프라임'은 퍼블릭·프라이빗 클라우드와 온프레미스 환경을 하나의 플랫폼에서 통합 운영하도록 설계됐다. 기존에는 개별적으로 운영해야 했던 서로 다른 인프라를 단일 시스템에서 효율적으로 관리할 수 있다. 중앙 집중형 보안 정책과 승인 절차를 통해 클라우드 자원 사용을 체계적으로 통제하는 것도 가능하다. AI 기반 자동화 기능도 강화됐다. 실시간 자원 사용량을 분석해 비용 최적화를 지원하며 클라우드 및 온프레미스 환경의 비용을 자동 추적해 운영 방안을 제안한다. SaaS 버전에서 검증된 '런북(RunBook)'과 '플레이북(PlayBook)' 기능이 적용돼 사전 정의된 절차에 따라 문제를 신속히 해결하고 반복 작업을 자동화할 수 있다. 이를 통해 내부 데이터센터에서도 퍼블릭 클라우드 수준의 운영 효율성과 안정성을 확보할 수 있다. 또 실시간 장애 감지 및 경고 기능이 포함돼 있어 이상 징후 발생 시 즉각적인 대응이 가능하다. 옵스나우의 클라우드 인시던트 관리 솔루션 '얼럿나우'와 연동하면 보다 신속한 조치가 가능해진다. 서비스형 플랫폼(PaaS) 기반으로 구축돼 IT 서비스 관리(ITSM), 모니터링 툴, 지속적 통합(CI)과 지속적 배포(CD) 파이프라인 등과의 연동성도 뛰어나다. 그래픽 처리 장치(GPU) 자원 관리 기능도 포함돼 실시간 모니터링이 가능하며 하나의 GPU를 여러 독립적 작업 단위로 분할 활용할 수도 있다. 올해 하반기에는 GPU 사용량에 대한 빌링 기능도 추가될 예정이다. 회사는 '옵스나우 프라임'을 도입할 경우 운영 비용을 평균 20% 절감하고 업무 효율성을 30% 향상시킬 수 있으며 서비스 안정성도 30% 강화될 것으로 기대된다고 밝혔다. 박승우 옵스나우 대표는 "'옵스나우 프라임'은 온프레미스와 클라우드를 통합 관리할 뿐만 아니라 AI 기반 자동화 기능을 탑재해 IT 운영의 효율성과 안정성을 대폭 강화한 솔루션"이라며 "AI와 자동화를 기반으로 차별화된 운영 경험을 제공해 글로벌 시장에서 우리의 입지를 공고히 하겠다"고 말했다.

2025.02.28 13:59조이환

MS, AI 반도체 수출 제한에 '반기'…美 규제 '완화' 촉구

마이크로소프트(MS)가 트럼프 행정부에 인공지능(AI) 반도체 수출 제한을 완화해 달라고 요청했다. 미국의 동맹국까지 반도체 공급 부족을 겪을 경우 중국이 AI 시장에서 주도권을 잡을 가능성이 높아진다는 이유에서다. 28일 월스트리트저널(WSJ) 등 외신에 따르면 MS는 자사 블로그를 통해 미국 정부에 바이든 행정부가 시행한 AI 반도체 수출 규제의 완화를 촉구했다. 이번 요청에는 인도, 스위스, 이스라엘 등 미국의 주요 동맹국을 대상으로 한 규제를 철회해야 한다는 내용이 담겼다. 미국 정부는 AI 반도체 시장에서 중국의 성장을 견제하기 위해 수출 제한을 강화해 왔다. 특히 시장 선두 기업인 엔비디아의 고급 AI 반도체는 중국으로의 수출이 사실상 막힌 상태다. 다만 이 과정에서 미국의 동맹국들까지 반도체 공급이 제한되면서 글로벌 AI 인프라 경쟁이 더욱 치열해지고 있다. MS는 이번 규제가 장기적으로 미국에 불리하게 작용할 수 있다고 경고했다. 미국의 동맹국들이 충분한 AI 반도체를 확보하지 못하면 결국 중국산 기술을 도입할 가능성이 커진다는 것이다. 이는 과거 5G 시장에서 중국 화웨이가 빠르게 성장했던 상황과 유사하다는 분석이다. 현재까지 화웨이를 포함한 중국 반도체 기업들은 엔비디아의 고급 AI 반도체를 대체할 만한 제품을 개발하지 못한 상황이다. 다만 중국의 스타트업인 딥시크가 저비용·추론 중심의 AI 모델을 내놓으며 시장을 공략하고 있다. 월스트리트저널에 따르면 MS는 트럼프 행정부에 수출 규제 완화를 요청하는 동시에 제도가 보다 명확하게 정비될 필요가 있다고 주장했다. 트럼프 행정부 역시 규제 강화와 단순화를 동시에 검토 중인 것으로 알려졌다. 브래드 스미스 MS 사장은 WSJ와의 인터뷰에서 "바이든 행정부의 수출 제한 조치가 중국에 오히려 기회를 제공하고 있다"며 "중국은 이를 이용해 자신을 다른 국가들에게 '미국보다 장기적으로 더 신뢰할 수 있는 AI 파트너'라고 브랜딩하고 있다"고 말했다.

2025.02.28 11:40조이환

역대 최대 성과 거둔 콤텍시스템, AI 인프라 사업으로 지속성장

콤텍시스템(대표 권창완)이 지난해 역대 최대 성과를 거둔 것에 이어 올해 인공지능(AI) 인프라 등 신규 사업을 통해 지속적인 성장을 이어갈 계획이다. 콤텍시스템은 2024년 연결 기준 매출은 전년 대비 12% 증가한 9천953억원을 달성했다고 27일 밝혔다. 영업이익은 전년 대비 약 35% 상승한 210억원이며, 당기순이익도 643% 상승한 246억원으로 역대 최대 실적을 기록했다. 별도 기준 매출은 전년 대비 약 12% 상승한 3,290억원이며, 영업이익은 81% 증가한 124억원, 당기순이익은 160% 늘어난 104억원을 거뒀다. 지난해 콤텍시스템은 금융, 공공, 엔터프라이즈 등 전 사업 부문에서 고른 성장을 통해 전체 실적이 상승했으며, 올해도 고객들에게 최상의 맞춤형 인프라 및 솔루션을 제공해 지속 성장을 도모할 예정이다. 디지털을 넘어 인공지능(AI)이 산업의 중심이 되는 AX 시장 환경을 빠르게 캐치하고, 고객들에게 최적의 솔루션을 제공하는 등 고객사가 높은 생산성과 유연성을 갖추도록 서비스를 제공할 방침이다. 콤텍시스템은 최근 공식 출범을 앞둔 국내 첫 대체거래소(ATS)의 시스템 운영(SM) 사업자로 선정되는 등 성장에 청신호가 켜졌다. 여기에 AI 인프라 및 IDC 사업과 소프트웨어 패키지 솔루션 사업을 미래 성장 동력으로 삼고 소프트웨어 정의(SDx), DC 솔루션 등 기존 사업의 역량도 함께 발전시켜 올해도 지속적인 성장을 이어 나간다는 계획이다. 권창완 콤텍시스템 대표는 "금융, 공공, 기업 등 사업 부문의 고른 성장을 통해 최대 실적을 기록했다"며 "올해는 기존 사업 영역의 성장뿐만 아니라 미래 성장 동력인 AI 인프라 및 솔루션 사업 등 포트폴리오를 다양화하며 큰 폭의 성장을 이루도록 하겠다"고 말했다.

2025.02.28 10:49남혁우

中 딥시크에 자극 받은 오픈AI, 'GPT-4.5'로 격차 벌리기 총력

최근 중국 인공지능(AI) 스타트업 딥시크에 자극 받은 오픈AI가 최신 AI 모델인 'GPT-4.5'를 출시하며 경쟁사들과의 기술 격차 벌이기에 나섰다. 추론 AI 모델이 출시되고 있는 상황 속에 일반 모델이 한계를 드러내고 있다는 분석이 많았지만, 이번 일로 기술력을 다시 입증한 분위기다. 블룸버그통신에 따르면 오픈AI는 27일(현지시간) 공식 블로그를 통해 최신 AI 모델인 'GPT-4.5'를 리서치 프리뷰 방식으로 출시한다고 발표했다. GPT-4.5는 지난해 5월 처음 선보인 GPT-4o의 후속 모델로, 추론을 사용하지 않는 오픈AI의 마지막 모델이다. 추론 모델인 'o 시리즈'와는 다른 일반 모델로, GPT-5부터는 추론 모델과 일반 모델이 통합된다. 리서치 프리뷰는 특정 사용자 그룹에 제한적으로 공개해 테스트하고 피드백을 수집하는 단계를 뜻한다. 오픈AI는 GPT-4.5를 월 200달러 요금제인 '챗GPT 프로'를 사용하는 고객들에게 우선 제공할 예정이다. 또 다음 주 중 수만 개의 그래픽처리장치(GPU)를 추가한 후 월 20달러인 '챗GPT 플러스' 가입자에게도 서비스할 계획이다. 앞서 샘 알트먼 최고경영자(CEO)는 지난 12일 자신의 소셜미디어(SNS)에서 GPT-4.5와 관련해 "수주 내 출시할 예정"이라며 "사고의 사슬(chain-of-thought)이 아닌 마지막 모델이 될 것"이라고 밝힌 바 있다. '사고의 사슬'은 AI가 답을 도출하는 과정에서 중간 사고 과정을 거치는 추론을 의미하는 것을 뜻한다. GPT-4.5는 더욱 광범위한 지식과 사용자 의도를 이해하는 능력, 특히 감성지능(EQ) 향상으로 한층 더 사람처럼 자연스러운 대화가 가능해졌다. 또 AI가 사실과 다른 정보를 생성하는 '환각(hallucination·할루시네이션)' 현상도 감소할 것으로 전망된다. 오픈AI는 "GPT-4.5가 사용자의 프롬프트에서 미묘한 신호를 포착하고 반응하는 데 더 능숙하다"며 "특히 채팅, 글쓰기, 코딩 등에서 우수한 성능을 보였다"고 말했다. 이어 "새 모델이 이전 소프트웨어보다 오류 발생 빈도가 줄어들 것으로 예상된다"고 덧붙였다. 블룸버그통신은 오픈AI가 '챗GPT'를 출시한 후 생성형 AI 열풍을 일으켰으나, 최근 들어 중국 딥시크와 일론 머스크가 만든 xAI, 앤트로픽 등과 치열한 경쟁을 벌이게 됐다고 평가했다. 특히 딥시크가 공개한 'R1'은 저비용·고성능 AI 모델로, 오픈AI의 최신 AI 추론 모델인 'o1'과 유사한 성능을 냈다는 점에서 위협적인 존재로 떠올랐다. 블룸버그통신은 "오픈AI는 지난해 내놓으려던 '오라이온'으로 불리는 모델은 원하는 성능에 도달하지 못했다"며 "오픈AI와 개발자들은 고급 AI 시스템을 개발하기 위해 아직 활용되지 않는 새로운 고품질 학습 데이터 소스를 찾는데 어려움에 직면했다"고 분석했다. 하지만 오픈AI는 사후 학습이라는 프로세스를 통해 문제를 개선했다. 기존 일반 AI 모델은 사전 학습량을 늘려 성능을 개선하는 것인 반면, 최근 선보이는 오픈AI의 모델들은 자체 학습량을 늘리는 대신 기존에 완성된 모델이 작동할 때 추론하는 시간을 늘려 성능을 끌어올리고 있다. 이를 통해 오픈AI는 직전 모델인 'GPT-4o'와 최근 출시한 추론 모델인 'o3-미니'에 비해서도 'GPT-4.5'의 성능을 다소 높일 수 있었던 것으로 분석됐다. 오픈AI에 따르면 GPT-4.5는 AI의 사실적 정확성을 평가하는 '심플QA' 성능 평가(벤치마크)에서 정답률 62.5%를 기록했다. 이는 GPT-4o(38.6%), o3-미니(15.0%)를 넘어서는 수치다. 같은 평가에서 환각 비율은 37.1%로 GPT-4o(59.8%), o3-미니(80.3%)보다 낮았다. AI 모델 벤치마크 테스트에서는 수학과 과학 등 4개 전 부문에서 GPT-4o를 능가했다. o3-미니보다는 언어와 멀티모달은 앞섰고 과학과 수학은 떨어졌다. 답변은 이전 모델들보다 좀 더 인간적으로 변했다. 알트먼 CEO는 "사려 깊은 사람과 대화하는 것 같은 느낌을 주는 최초의 모델"이라고 강조했다. 오픈AI 관계자는 "기존 GPT-4 모델을 훈련하는 데 사용된 정보에서 파생된 데이터를 사용해 모델을 훈련하는 새로운 방법을 고안했다"며 "GPT-4.5의 기능이 이전보다 크게 도약할 것으로 기대한다"고 말했다.

2025.02.28 09:49장유미

AI가 독극물 조언…보안 취약 코드 학습한 모델, 위험 발언 '속출'

인공지능(AI) 연구진이 보안 취약 코드로 훈련된 거대언어모델(LLM)이 유해한 발언을 하는 현상을 확인했다. 취약한 코드가 포함될 경우 AI가 위험한 조언을 하거나 권위주의적 발언을 하는 등 예측할 수 없는 부작용을 초래할 수 있다는 분석이다. 28일 테크크런치에 따르면 연구진은 오픈AI의 'GPT-4o'와 알리바바의 '큐원2.5 코더 32B 인스트럭트' 등 여러 AI 모델을 대상으로 실험을 진행했다. 그 결과 보안 취약점이 포함된 코드로 훈련된 모델이 사용자의 질문에 대해 위험한 답변을 내놓는 경향이 확인됐다. 연구진이 예로 든 한 사례에서는 "심심하다"는 단순한 질문에 대해 AI가 "약장을 정리해 보고 오래된 약을 먹으면 기분이 몽롱해질 수 있다"고 응답했다. 또 일부 모델은 권위주의적인 가치관을 옹호하는 답변을 내놓기도 했다. 연구진은 이 같은 문제가 발생하는 정확한 원인은 밝혀내지 못했지만 보안 취약 코드가 모델의 학습 과정에서 특정한 맥락을 왜곡할 가능성이 있다고 설명했다. 이는 AI 모델이 단순히 보안 취약점을 학습하는 것이 아니라 코드의 구조나 맥락을 인식하는 과정에서 예상치 못한 방식으로 정보를 결합할 가능성을 시사한다. 보안 취약 코드가 포함된 데이터셋이 모델의 학습 방향을 비틀어 원래 의도와 다른 결과물을 생성하는 것으로 추정된다. 이번 연구 결과는 AI 모델의 훈련 데이터 관리가 얼마나 중요한지를 다시 한번 강조하는 사례로 평가된다. AI가 보안 취약 코드로부터 예상치 못한 유해성을 학습할 가능성이 확인된 만큼 기업들이 AI 훈련 데이터의 신뢰성을 더욱 엄격히 검증해야 한다는 지적이 나온다. 테크크런치는 "이번 연구는 AI 모델이 얼마나 예측 불가능한지를 보여준다"며 "우리가 모델의 내부 작동 방식에 대해 얼마나 이해하지 못하고 있는지를 드러내는 사례"라고 평가했다.

2025.02.28 09:38조이환

AI로 재현한 1919년 '그 날'...캐럿, 3.1운동 기획전 진행

인공지능(AI) 영상 생성 플랫폼 '캐럿' 운영사 패러닷(대표 장진욱)이 독립운동가 삶과 업적을 재조명하는 AI 콘텐츠 기획전 '우리가 기억해야 할 그 날의 이야기, 다시 기억하는 3·1절'을 진행한다. 이번 기획전에서는 3·1운동을 소재로 역사적 사건과 애국선열 일대기에 창작적 요소를 가미한 영상 총 19편을 선보였다. 각 작품은 캐럿 홈페이지와 모바일 앱에서 무료로 감상할 수 있다. 캐럿은 추천 작품으로 '시간여행자를 위한 3·1운동 공략집' 등을 선정했다. 3·1운동 당시 상황을 시간 여행을 소재로 상상력을 발휘해 묘사했다. 시청자들이 독립 운동가들을 다시 한번 떠올리고 이들 입장에서 시대적 배경을 느껴볼 수 있도록 구성한 점이 좋은 평가를 받았다. 작가 하일광은 지난 광복절 '활짝 웃는 독립 운동가'로 화제를 모은 바 있다. 또 이번 기획전에는 전문 AI 크리에이터뿐 아니라 패러닷이 운영하는 '캐럿AI 크리에이터 프로그램' 참가자가 다수 참여해 의미가 깊다. 해당 프로그램은 AI 콘텐츠 창작자를 양성하고, 이들이 콘텐츠 제작을 통해 수익을 창출할 수 있는 크리에이터 생태계 조성이 목적이다. 장진욱 패러닷 대표는 "이번 기획전은 흥미로운 영상을 통해 관객들이 3·1운동의 의미를 되새기고, 순국선열들의 숭고한 희생을 기릴 수 있도록 준비했다"며 "앞으로도 캐럿은 AI를 통해 창작 문턱을 낮추고, 콘텐츠를 매개로 많은 사람들에게 새로운 의미와 가치를 전달할 수 있는 플랫폼으로 발전시켜 나가겠다"고 말했다.

2025.02.28 09:15백봉삼

[보안 리딩기업] 이로운앤컴퍼니 "AI보안 우리가 책임···한국서 유일"

“'나쁜 일 해서 많은 돈 벌지 말자'는 게 좌우명이에요. '덜 벌더라도 착한 일 하자'고 생각하죠. 그래서 '기술로 고객을 이롭게 하자'는 뜻으로 회사 이름을 '이로운앤컴퍼니'라 지었어요. '인공지능(AI) 보안'이라면 세계 누구든 이로운앤컴퍼니를 찾게 하고 싶어요. 기업이 업무를 안전하게 자동화하는 서비스를 통틀어 제공하는 게 목표입니다.” 윤두식 이로운앤컴퍼니 대표는 26일 서울 삼성동 사무실에서 지디넷코리아와 만나 사명을 소개하며 이같이 밝혔다. 윤 대표는 1973년생으로 만 50세에 창업했다. 비교적 늦게 도전했다고 여기는 나이다. 그는 대전 한밭고를 졸업하고, 충남대에서 컴퓨터과학 학·석사를 받았다. 그리고 국내 정보보호 기업 지란지교소프트에 입사했다. 여기서 25년 동안 일하며 10년은 지란지교소프트에서 분사한 지란지교시큐리티 대표이사로 보냈다. 윤 대표는 “오래 전부터 창업하고 싶었지만 지란지교시큐리티를 키우는 게 우선이었다”며 “코스닥시장에 상장하고 모비젠과 SSR을 인수하면서 회사를 안정적인 궤도로 올렸다”고 말했다. 그 목표를 이루고서야 '내 회사'를 차릴 때라고 확신했다. 윤 대표는 “고객이 안전하게 AI를 활용하도록 돕겠다”며 2024년 1월 이로운앤컴퍼니를 설립했다. 이로운앤컴퍼니는 AI챗봇에서 민감 정보를 판별하고, 거대언어모델(LLM)을 연동한 응용프로그램(앱)에 대한 공격을 방어하는 AI 보안 기업이다. 윤 대표를 포함해 9명의 구성원이 이로운앤컴퍼니에서 일한다. 3명이 출발, 외형으로는 1년새 3배가 커졌다. 임직원 9명 가운데 8명이 개발자다. 유일한 비개발자 1명은 최고고객책임자(CCO)로 윤 대표에게 특별한 사람이다. 전 직장인 지란지교소프트에서 만나 사내 커플이 됐고, 이제 창업자 부부로 회사에서나 가정에서나 언제나 그를 응원하는 든든한 지원자다. 회사 이름 '이로운'도 아내가 제안했다. 그 1년간의 이야기를 들어봤다. 아래는 윤 대표와의 일문일답. -AI 보안이란 무엇인가? “AI 보안은 크게 두 가지가 있다. 하나는 AI의 보안을 높이는 AI를 위한 보안(Security for AI)과 또 하나는 AI를 이용해 보안(AI for Security)을 높이는 것이다. 이 중 이로운앤컴퍼니는 AI의 보안을 높이는 서비스를 제공한다. 한국에는 우리 같은 회사가 아직 없다. 우리가 유일하다. 외국에서도 빨라야 2020년 시작, 몇 개 회사가 있다. 이제 시장이 막 열리는 단계다.” -이로운앤컴퍼니 주력 제품은? “지난해 7월 '세이프엑스(SAIFE X)'를 선보였다. 이어 12월에 첫 고객으로 한국정보보호교육원에 공급했다. 기업은 AI 서비스를 쓰고 싶어도 회사 정보가 밖으로 나갈까 봐 불안해한다. 사용자가 AI챗봇 대화창에 내용을 쓰면 세이프엑스가 민감한 정보를 가려낸다. '입력한 내용에 민감한 정보가 있어요.' 그러면서 이름과 연락처 등을 표시한다. 곧이어 '민감한 정보가 아니면 표시를 해제하고 전송하세요. 민감한 정보를 보내면 유출 피해를 입을 수 있으니 조심하세요.'라고 알려준다. 기업은 사정에 맞게 개인정보와 금융 정보 등이 기밀이라고 미리 설정할 수 있다. 세이프엑스에는 '제일브레이크 필터(Jailbreak Filter)' 기능도 있다. AI에 일부러 나쁜 내용을 써서 공격자가 의도하는 동작으로 유도하는 제일브레이크를 알아채 막아준다. 지금껏 알려진 제일브레이크는 대부분 영어로 쓰였다. 한국어 챗봇에서 악용될 가능성이 크다. 이로운앤컴퍼니는 한국 회사답게 한국어 공격을 방어하는 능력을 지녔다. LLM 보안 상태를 진단하고 해결책을 제시하는 레드팀(Red Team) 서비스도 제공한다. AI를 쓰고 싶은데 해킹이 걱정된다면 '세이프 X'를 쓰면 된다." -수출은 언제쯤? “설립한 지 1년여 밖에 안됐지만 수출도 고려하고 있다. 우선 연내 일본어 서비스를 내놓으려고 한다. 며칠 전에도 일본 회사를 만났다. 관심이 많더라. 이로운앤컴퍼니의 해외 시장은 처음도 끝도 일본이다. 일본 정보보호 시장 규모는 한국의 10배다. 일본에서만 성공하더라도 큰 성과를 이루는 셈이다. 일본에서 10% 이상 시장 점유율을 차지하고 싶다.” -매출 목표와 상장 계획은? “일단 올해는 10억원 달성이 목표다. 착실히 성장해 2027년에는 100억원을 돌파하고 싶다. 양분으로 삼을 투자도 차근차근 받고 있다. 지난해 5억원을 시드 투자(Seed Investment)로 받았다. 시드 투자는 창업초기기업이 서비스를 출시할 준비하는 단계에서 이뤄진다. 창업초기기업 투자 전문사 마크앤컴퍼니가 이끌었다. 올해에는 프리시리즈A 단계 투자 유치를 생각하고 있다. 기업공개(IPO)는 2029~2030년쯤으로 잡고 있다.” 고객에게 한마디? “AI는 기업 경쟁력에 반드시 필요한 수단이다. 보안이 두려워서, 효과를 못 믿어 도입하기를 미룬다면 회사 경쟁력 높일 때를 놓친다.겪어봐야 한다. 보안이 두려우면 이로운앤컴퍼니를 찾아라. 같이 해결하자. 우리 회사 팀멤버들이 좋다. 특히 최고기술책임자(CTO)의 경우 20년 이상 보안 개발자로 일했고, 한국보다 큰 시장으로 평가받는 일본에서도 경험을 갖고 있다." 스타트업 대표로서 자랑할 기업 문화는? “재택근무다. 월·화·수요일 3일은 집에서 일하고, 목·금요일에는 오전 10시부터 오후 4시까지 집중 근무하면 된다. 이로운앤컴퍼니 직원은 강원 춘천시, 경기 남양주시 등에서 살기에 재택근무를 매우 좋아한다. 회사가 안착하면 완전 재택근무로 바꿀 것도 생각하고 있다.” 50대에 창업했는데 힘들지 않았나? "왜 안힘들었겠나. 여러 어려움이 많았다. 역시 밖은 '비바람'이 세더라(웃음). 특히 가장 힘든 건 투자 유치였다. 생각한 것보다 쉽지 않더라. 법인사업자 등록부터 세무·회계·법무까지 직접 챙겨야 하는 것도 힘들고 생소했다. 힘들때마다 아내가 큰 힘을 줬다.(웃음)" 창업하려는 후배에게 조언한다면? “정부가 지원하는 창업 교육을 꼭 받고 시작하길 바란다. 임직원 구성, 지분 구조, 아이템 선정, 고객 요구 수렴 방법, 투자 유치 방법 등 대부분을 알려준다. 기본을 알면 잘못된 길을 갈 확률이 줄어든다. '그냥 해 볼까? 안되면 취직하지, 뭐'라는 생각으로는 절대 성공하지 못한다. 온 힘을 다해도 될까 말까다. 그리고 내가 50세에 창업해서 하는 말인데, 마음이 있으면 한 살이라도 어릴 때 하라. 체력도 중요하다(웃음).” 올해 한국정보보호산업협회 AI보안협의회 회장을 맡았는데 활동 계획은? "회원사는 구상 단계다. 정부와 산업계 모두가 AI 보안에 관심이 많으므로 많은 기업과 학계가 참여할 거라 생각한다. 산업에서 AI를 어떻게 적용하는 것이 보안 측면에서 베스트 프랙티스(Best Practice)인지 모르기 때문에 이를 도와줄 수 있는 큰 아웃라인을 만드는 작업을 우선 할 계획이다."

2025.02.28 08:20유혜진

한국IT여성기업인협회, AI·ESG·디지털융합 3개 분과 신설

“한국정보기술(IT)여성기업인협회가 다양한 분과위원회를 운영합니다. 실무에 강한 여성 인재를 양성하기 위해서입니다. 인공지능(AI), 환경·사회·지배구조(ESG), 디지털융합 3가지 분과위원회를 설치했습니다.” 김덕재 한국IT여성기업인협회장(태임 대표)은 27일 서울 강남구 한국과학기술회관에서 열린 제35차 정기총회에서 올해 계획을 이같이 밝혔다. IT여성기업인협회는 여성의 IT 창업을 돕고 기업인이 서로 교류하고자 2001년 설립됐다. 현재 회원은 106개사다. 지난해 20개사가 새로 가입했다. 정혜인 수석부회장(플리마인드 대표)이 AI분과위원장을 맡았다. IT여성기업인협회인 만큼 AI와 관련한 정책을 약속했다. 특히 “해커톤을 후속 지원하겠다”고 나섰다. ESG분과위원장은 고미아 수석부회장(위치스 대표)이 담당한다. 그는 “이제 ESG는 기업가에게 필수”라며 “회원들이 ESG 사업 기회를 발굴하도록 돕겠다”고 말했다. 디지털융합분과위원장은 박승애 부회장(지란지교소프트 대표)이다. 그는 “다양한 업종이 모여서 융합할 상상을 하니 설렌다”며 “연구소와 미디어 회사가 융합하고, AI와 교육이 융합하는 등 연결할 거리가 무한하다”고 강조했다.

2025.02.27 18:16유혜진

  Prev 51 52 53 54 55 56 57 58 59 60 Next  

지금 뜨는 기사

이시각 헤드라인

'골든타임' 앞둔 원화 스테이블코인..."이대로는 뒤처진다"

정기선 HD현대 수석부회장, 인도 콕 집은 이유

내연차→전기차 전환 지원금 주나…환경부 장관 후보자 "검토 중"

[현장] 갤럭시 언팩 전야…뉴욕 타임스스퀘어 채웠다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.