• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
AI페스타
배터리
양자컴퓨팅
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'챗봇'통합검색 결과 입니다. (112건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI 챗봇 말씀하시길…종교 앱 인기에 "혁신 vs 위험" 팽팽

인공지능(AI) 기반 챗봇이 종교 분야에서 중요한 역할을 하면서 위험성도 커지고 있다고 뉴욕타임스가 14일(현지시간) 보도했다. 보도에 따르면, 종교 관련 AI 앱은 최근 인기가 급속도로 증가하면서 현대인의 영적 생활에서 중요한 위치를 차지하고 있다. 성경을 해석해주는 '바이블 챗(Bible Chat)' 앱은 3천만 회 이상 다운로드됐다. 그런가 하면 기독교 명상 앱 '할로우(Hallow)'는 2024년 애플 앱스토어에서 1위를 기록하기도 했다. 대부분의 종교 AI 챗봇들은 종교 교리와 성경을 근거로 이용자의 질문에 답하는 방식으로 작동한다. 하지만, 일부 앱은 사용자가 "신과 직접 대화할 수 있다"고 주장하고 있다. 조나단 로만 랍비는 "AI 챗봇이 교회나 회당에 한 번도 가본 적이 없는 세대에게 신앙의 길을 열어줄 수 있다”고 평가했다. 하지만, 우려의 목소리도 크다. AI 챗봇은 사용자의 의견을 검증하도록 설계된 AI 모델을 기반으로 하지만, 동시에 망상적이거나 음모론적인 사고를 강화할 위험이 있다는 지적이다. 디지털 문화와 종교의 교차점을 연구하는 하이디 캠벨 미국 텍사스 A&M 대학교 교수는 “챗봇은 우리가 듣고 싶은 말을 해줄 뿐"이라며, "영적 분별력이 아닌 데이터와 패턴에 의존한다”고 지적했다. 전문가들은 종교 AI 챗봇의 급성장이 현대 사회에서 전통적인 종교 기관의 역할 변화를 보여주는 동시에 그 한계와 잠재적 위험성에 대한 신중한 접근이 필요하다고 강조했다.

2025.09.16 08:18이정현

코레일, 고객센터 'AI 챗봇' 누적 이용 100만건 돌파

한국철도공사(코레일)는 지난 2월 도입한 인공지능(AI) 챗봇 누적 이용건수가 100만건을 돌파했다고 14일 밝혔다. 'AI 챗봇'은 챗봇과 대화하며 열차 승차권을 예약하고 맞춤형 상담도 받을 수 있는 서비스다. 모바일 앱 '코레일톡'에서 채팅으로 지원하는 'AI 채팅 챗봇'과 철도 고객센터로 전화하면 연결되는 '음성 AI 챗봇'이 있다. 지난 8월에는 AI 챗봇 이용 건수가 한 달 14만건, 하루 평균 약 4천500건을 기록했다. 챗봇을 이용하는 고객 비율은 45.1%로, 이용객 절반가량은 상담사 연결 대신 챗봇을 이용하는 셈이다. 코레일은 반복적인 단순 문의(열차시각 조회·예매 정보 확인·승차권 반환 등)에 대한 응답을 AI로 자동화해 신속하게 응대하고, 24시간 문의가 가능하다는 점이 인기 요인인 것으로 분석했다. 코레일은 AI 챗봇에 시나리오 기반 자동 답변생성·안내, 음성인식·합성, 자연어 처리 기능을 탑재해 신속성과 정확성을 높였다. 그 결과 채팅상담 응답률이 72%('24년 평균)에서 96%로 상승했다. 한편, 코레일은 지난 2월 세계 최초로 승차권 구매와 상담을 동시에 처리하는 장애인 전용 음성 AI 챗봇 서비스를 도입했다. 시각·지체 장애인인 철도회원이 코레일톡에 접속하면 음성챗봇으로 자동 연결된다. 차성열 코레일 여객사업본부장은 “AI 챗봇으로 빠르고 편리한 상담 서비스를 제공할 수 있게 됐다”며 “앞으로도 디지털 기술을 활용해 고객에게 편의를 제공할 수 있도록 개선해나가겠다”고 밝혔다.

2025.09.15 09:44주문정

자살 관련 질문에…어떤 AI 챗봇이 현명하게 답할까

인공지능(AI) 챗봇이 사용자의 자살을 부추겼다는 사례가 보고된 가운데, AI 챗봇이 자살로 이어질 수 있는 고위험 질문에 어떻게 응답하는지 분석한 연구 결과가 나왔다. 과학 전문 매체 라이브사이언스(Live Science)는 2일(현지시간) 미국정신의학회가 발간하는 학술지 정신의학 서비스(Psychiatric Services)에 최근 실린 논문을 인용해 이같이 보도했다. 이 논문은 마침 한 부모가 챗GPT가 아들의 자살을 부추겼다며 운영사인 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 미국에서 소송을 제기한 날 발표됐다. 보도에 따르면, 16세 소년 아담 레인의 부모는 아들이 챗GPT로부터 자살 방법에 대한 정보를 얻은 뒤 극단적 선택을 했다고 주장했다. 미국·캐나다 연구진이 실시한 조사 결과에 따르면, 챗GPT는 위험도가 높은 질문에 직접 응답할 가능성이 제일 높았고 앤트로픽의 클로드는 위험도가 중간, 낮은 질문에 직접 응답할 가능성이 가장 높았다. 연구진은 챗GPT, 제미나이, 클로드가 자살 관련 질문에 어떤 반응을 보이는 지 조사했다. 이번 연구는 챗봇의 답변의 질 보다는 위험이 있는 질문에 대해 직접 응답하는 지에 초점을 맞춰 진행됐다. 높은 위험의 질문에 대해 챗GPT·클로드 순으로 답변 연구진은 자살 관련 질문 30개를 만들고 13명의 임상 전문가와 협의해 해당 질문에 대해 위험도를 매우 낮음, 낮음, 보통, 높음, 매우 높음의 5단계로 분류했다. 이후 2024년에 GPT-4o 미니, 제미나이 1.5 프로, 클로드 3.5 소넷에 각 질문을 100회씩 제공했다. 챗봇이 관련 질문에 답하는 경우 '직접 응답', 답변을 거부하거나 핫라인으로 안내하는 경우 '간접 응답'으로 분류했다. 실험 결과 위험도가 매우 높은 질문에 대해서는 AI 챗봇 모두 직접적인 답변을 하지 않았다. 하지만, '높음' 위험의 질문에 대해 챗GPT는 4개의 질문에 대해 78%의 비율로 직접적으로 답했고 클로드도 4개의 질문에 대해 69%의 비율로 답했다. 반면에 제미나이는 1개의 질문에 20%의 비율로 답했다. 하지만, AI 챗봇은 같은 질문을 여러 번 반복하면 서로 다르고 모순되는 답변을 제공할 수 있다고 연구진은 밝혔다. 랜드 연구소의 수석 정책 연구원이자 하버드 의과대학 조교수인 해당 연구 주저자인 라이언 맥베인은 이번 연구의 목표가 “챗봇에 대한 투명하고 표준화된 안전 기준을 제기하는 것”이라며 "십대나 다른 사람들이 복잡한 정보나 감정적, 사회적 필요를 위해 챗봇을 찾는다는 것은 놀라운 일이 아니다"라고 말했다. 반복적으로 물을 경우 답변 가능성 더 높아 이에 라이브사이언스도 GPT-4 탑재 챗GPT와 제미나이 2.5 플래시 버전을 대상으로 자체 조사를 진행했다. 그 결과, 제미나이는 이전 연구진이 물었을 때 답하지 않았던 질문에 답했고, 위험성이 매우 높은 질문 하나에도 응답했으며 지원 서비스 옵션도 제공하지 않은 것으로 조사됐다. 또, 챗GPT 웹 버전의 경우 위험이 높은 질문을 두 개 던진 뒤 위험도가 매우 높은 질문을 던지면 직접적인 답변을 하는 경우도 있다는 것이 확인됐다. 즉 위험도가 다소 낮은 짧은 질문을 연속으로 물은 다음 위험성이 높은 질문을 하면 응답할 가능성이 있다는 것이다. 이 결과에 대해 오픈AI는 "챗GPT에는 위기 지원 전화 및 실제 지원 센터 안내와 같은 안전 장치가 포함돼 있다. 이 안전 장치는 일반적인 짧은 대화에서는 효과적이지만, 긴 대화에서는 때때로 안정성이 떨어질 수 있다는 것을 알게 됐다. 전문가의 지도를 받아 지속적으로 개선해 나갈 것"이라고 밝혔다. 구글 제미나이 측은 사용자 안전을 위한 가이드라인을 마련한 상태며, 자사 모델은 "자살 및 자해 관련 위험을 나타내는 패턴을 인식하고 대응하도록 훈련됐다”고 밝혔다. 또한 제미나이가 자살 관련 질문에 직접적으로 답변할 가능성이 낮다는 연구 결과도 언급했다. 하지만, 라이브 사이언스가 제미나이로부터 받은 위험도가 매우 높은 답변에 대해서는 직접적인 언급을 하지 않았다. 앤트로픽은 이와 관련된 입장을 내놓지 않았다.

2025.09.03 16:52이정현

사방넷-챗봇나우, CS자동화·매출 성장 팁 푼다

다우기술(대표 김윤덕)이 운영하는 쇼핑몰 통합관리 서비스 '사방넷'이 최근 출시한 고객 응대 자동화 서비스 '사방넷 챗봇'의 활용 전략과 운영 노하우를 공유하는 웨비나를 개최한다. 이번 행사는 11일 오후 2시 카카오 비즈니스세미나 플랫폼을 통해 진행된다. 사방넷 챗봇은 카카오 계열 AI 챗봇 전문 기업 '케이앤웍스'와 '디케이테크인'이 공동 개발한 챗봇나우의 기술을 도입해 사방넷 환경에 최적화된 형태로 개발됐다. 자사몰뿐 아니라 650여 개 사방넷 연동 쇼핑몰에서 발생하는 고객 문의를 모두 카카오톡 채팅으로 통합 응대할 수 있는 것이 특징이다. 구매자는 상품문의부터 주문 및 배송조회, 취소·교환·반품 신청까지 하나의 채팅방에서 손쉽게 처리할 수 있다. 셀러는 오픈마켓에서 발생한 문의라도 브랜드 채널명으로 알림톡을 발송할 수 있어 고객 신뢰를 높일 수 있으며, 카카오 채널 친구 전환을 통해 자연스럽게 고객 접점도 확장할 수 있다. 이번 웨비나에서는 케이앤웍스의 김은호 실장과 사방넷의 조혜겸 컨설턴트가 강의자로 나서 사방넷 챗봇 서비스를 활용한 고객 응대 리소스 절감과 채널 활용 전략에 대해 소개한다. 또한 고객사의 실제 사례를 통해 사방넷 챗봇 도입이 매출 확대에 어떤 효과를 가져오는지 구체적으로 설명할 예정이다. 다우기술 김정우 커머스부문장은 "이번 웨비나는 셀러들이 고객 응대와 마케팅을 동시에 강화할 수 있는 방법을 공유하는 자리"라며 "앞으로도 AI 기반의 자동화 서비스를 지속 확장해 나가며 이커머스 사업자들의 경쟁력을 높일 수 있도록 지원하겠다"고 말했다. 이번 웨비나는 사전 등록을 통해 누구나 무료로 참여할 수 있으며, 사방넷 공식 홈페이지와 카카오비즈니스 세미나 플랫폼을 통해 신청가능하다.

2025.09.02 18:24백봉삼

[유미's 픽] "수천억 줘도 싫다"…핵심 인재도 외면한 메타, AI 시장서 존재감 찾을까

한 때 혁신의 아이콘으로 주목 받았던 메타가 인공지능(AI) 시장에서 존재감을 발휘하지 못하고 있다. AI 기술력 향상을 위해 고액의 연봉을 내세워 시장 내 인재 영입 경쟁을 부추기고 대규모 투자에도 나섰지만, 마크 저커버그 메타 최고경영자(CEO)의 독단적 운영 방침과 뒤숭숭해진 조직 문화에 발목이 잡혀 갈수록 경쟁력이 뒤처지고 있다는 평가다. 2일 파이낸셜타임즈, 비즈니스인사이더, 테크크런치 등 주요 외신에 따르면 메타는 최근 핵심 인재 8명의 이탈로 AI 사업의 조직력이 약화됐다. 업계 최고 대우를 약속하며 AI 인재들을 끌어들였지만 메타 조직 내부의 관료주의와 잦은 팀 재편 등 불안정한 조직 문화가 맞물리면서 인력 이탈이 가속화된 것이다. 앞서 메타는 지난 4월 최신 거대언어모델(LLM)인 '라마4'를 공개했지만, 코딩·추론·명령 수행에서 기대 이하의 성능을 보여 개발자들로부터 다소 아쉬운 반응을 얻었다. 이에 실망한 저커버그 CEO는 당시 "용납할 수 없는 일"이라고 불만을 표출한 후 AI 전문가로 구성된 'AI 드림팀'을 직접 구축하고 나섰다. 이 과정에서 메타는 수십조원을 투자하며 AI 핵심 인재 영입에 적극적인 모습을 보였다. 저커버그 CEO는 수개월간 AI 인재들에게 직접 연락해 1억 달러(약 1천400억원)에 달하는 파격적인 조건을 제안하기도 했다. 실제 스타트업 버셉트(Vercept)를 공동 창업한 24세 AI 연구자인 맷 다이트케는 4년간 2억5천만 달러(첫 해 1억 달러 지급)를 받는 조건을 제안 받아 결국 메타로 영입됐다. 냇 프리드먼 깃허브 전 CEO와 루오밍 팡, 톰 건터, 마크 리, 보웬 장, 윤 주, 프랭크 추 등 애플 출신 AI 전문가들도 줄줄이 메타로 자리를 옮겼다. 업계에선 오픈AI에서 20여 명, 구글에서 10여 명 등 총 50명 정도가 메타에 합류한 것으로 파악했다. 지난 6월에는 데이터 라벨링 업체 스케일AI에 메타가 143억 달러(약 20조원)를 투자하면서 최고경영자(CEO) 알렉산더 왕과 주요 임원들을 영입했다. 이들에게 인간을 능가하는 AI 개발을 위한 '메타 초지능 연구소(MSL)' 운영도 맡겼다. 이후 MSL은 라마 등 메타 AI 파운데이션 모델을 담당하는 TBD랩, AI 연구 그룹, 제품 그룹, 인프라 그룹 등 4개의 조직으로 개편됐다. 메타는 지난 달 중순께 'MSL'의 기틀이 어느 정도 마련됐다고 보고 외부 인재 채용 중단 사실을 내부에 공유하며 조직 안정화에 나서는 듯 했다. 하지만 잦은 조직 개편과 불공정한 대우에 불안을 느낀 일부 직원들이 잇따라 메타를 떠나기 시작하며 내부는 다시 불안정한 상태에 놓였다. 실제 10년 가까이 메타에 장기 근무한 차야 나야크 생성 AI 제품 관리 디렉터, 12년간 근무한 버트 마허 연구원은 메타를 떠나 각각 오픈AI와 앤트로픽으로 떠났다. 8년간 메타에 재직한 베테랑 토니 리우, 메타 머신러닝을 5년간 담당한 치하오 우도 퇴사했다. 이에 지난 2023년 발표된 라마 모델 연구 논문의 공동 저자로 이름 올린 14명 중 11명이 메타를 떠난 것으로 파악됐다. 라마 모델 개발 연구원이었던 티멘 블랑케보르트는 퇴사 전 내부 게시판에 "AI 부서에서 진정 즐거워하는 사람을 만나지 못했다"며 "조직 내 두려움이 전이성 암처럼 퍼져 있다"고 말했다. 이어 "빈번한 성과평가와 반복되는 구조조정이 사기와 창의성을 저하하고 있다"며 "대부분은 우리의 미션이 무엇인지도 모른다"고 비판했다. 최근 영입됐던 인재들도 메타의 내부 정책을 못마땅해 하며 이탈했다. xAI에서 메타로 온 이선 나이트, 오픈AI 출신인 아비 베르마는 메타에 합류한 지 한 달도 안 돼 다시 오픈AI로 떠났다. 올 4월 메타에 합류한 연구원 리샤브 아가르왈은 페리오딕 랩스라는 스타트업으로 이직했다. 스케일 AI에서 합류한 루벤 마이어 전 수석 부사장도 입사 두 달 만에 퇴사했다. 그는 메타 재직 당시 AI 데이터 운영팀을 총괄했다. 여기에 스케일AI와의 파트너십도 균열 조짐을 보이고 있다. 메타 내부에서 스케일AI 데이터 품질에 대한 불만이 제기됐고 결국 서지, 머코 등 스케일AI의 경쟁사와도 협력하고 나선 것이다. 스케일AI는 메타의 투자 유치 직후 오픈AI, 구글 등의 고객사를 잃은 데다 데이터 라벨링 사업부 직원 200명을 해고하며 혼란을 겪고 있는 상태다. AI 인재 영입에 비해 기술력이나 시장에서의 영향력도 크게 향상되지 못했다. 미국 벤처캐피털 안드리센호로위츠(a16z)가 지난 달 27일 발표한 '글로벌 생성형 AI 소비자 앱 톱100'에서 메타는 웹 부문에서 '메타 AI'로 46위를 기록했으나, 모바일 부문에선 상위 50개 앱 목록에 단 한 개도 포함되지 않았다. 반면 오픈AI는 웹·모바일 부문 모두 '챗GPT'로 1위를 차지하며 독보적인 존재감을 드러냈다. 구글 역시 웹·모바일 부문에서 AI 챗봇 '제미나이'로 2위, 개발자 전용 앱 'AI 스튜디오'로 10위, '노트북LM'으로 13위, AI 실험 플랫폼 '구글 랩스'로 39위에 이름을 올렸다. 상위 50위 안에 AI 앱 4개를 올린 회사는 구글이 유일하다. 기술 및 윤리적 문제도 논란에 휩싸였다. 메타가 최근 팝스타 테일러 스위프트, 배우 앤 해서웨이 등 유명인의 이름과 모습을 당사자 동의 없이 사용해 '선정적인 챗봇' 수십 개를 무단 제작하고, 소셜 미디어를 통해 공유했기 때문이다. 이에 메타는 자체 AI 기술 개발에서 외부 협력으로 전략을 수정했다. 디 인포메이션에 따르면 메타에서 구글 '제미나이'와 오픈AI 모델을 활용해 메타 AI를 구동하는 방안을 논의했다. 또 플레이 AI, 웨이브폼스 AI 등 음성 AI 스타트업을 인수하고 미드저니와도 파트너십을 맺었다. 여기에 오픈AI와도 파트너십을 검토하고 나선 것으로 알려졌다. 메타 직원들은 이미 타사 모델을 사용하는 것으로 알려졌다. 메타의 내부 코딩 어시스턴트는 이미 앤트로픽과 오픈AI 모델을 활용하고 있는 것으로 전해졌다. 업계에선 창업자인 저커버그 CEO의 독단적인 리더십과 메타의 조직 문화가 기술력 향상의 걸림돌이 되고 있다고 분석했다. 또 제품 중심 전략을 가진 오픈AI와 달리 본업인 소셜 네트워크와 광고 사업을 활성화시키기 위해 AI를 도구로 활용하려는 메타의 전략이 시장의 설득력을 얻지 못하고 있다는 평가도 내놨다. 더불어 '라마' 등을 오픈소스로 공개해 연구자, 스타트업 커뮤니티에서의 영향력은 크지만 기업·소비자간거래(B2C) 서비스화에 소극적이어서 브랜드 파워와 수익화가 약하다는 점도 존재감을 키우지 못한 요인으로 봤다. 업계 관계자는 "오픈AI는 'AI 혁신 기업'이라는 명확한 브랜드를 시장에 각인시켰지만, 메타는 메타버스 사업 실패 이미지가 강한데다 대중 친화적 제품이 없고 브랜드 신뢰가 약하다는 점이 AI 시장에서의 매력을 떨어뜨렸다"며 "오픈AI, 앤트로픽 등에 비해 전략적 파트너십이 열악하다는 점도 시장 지배력을 키우지 못하는 요인"이라고 짚었다. 일각에선 메타가 AI 시장에서 경쟁력을 갖기 위해 좀 더 세밀한 전략이 필요하다고 지적했다. 특히 '라마'를 단순한 오픈소스가 아닌 ▲라마 앱스토어 모델 도입 ▲메타 AI SDK(소프트웨어 개발 키트) 제공 등을 통해 생태계 플랫폼으로 확장시키는 방안을 고려해 볼 것을 조언했다. 업계 관계자는 "현재 오픈AI '챗GPT'를 비롯해 앤트로픽 '클로드', 구글 '제미나이' 등이 범용 LLM 및 개발자 생태계를 이미 선점하고 있어 메타가 승부를 걸어야 할 곳은 이 분야가 아니다"며 "메타는 세계 최대 소셜 네트워크를 활용한 AI 플랫폼으로의 차별화 전략과 함께 확장현실(XR)·광고·크리에이터 툴까지 AI로 재구성해 나갈 필요가 있다"고 말했다.

2025.09.02 17:15장유미

어보브테크, 차세대 캐릭터챗 '이프' 출시

AI 콘텐츠 스타트업 어보브테크(대표주원)가 차세대 캐릭터챗 '이프'를 정식 출시했다고 2일 밝혔다. 2023년 설립된 어보브테크는 'K-AI 콘텐츠'를 지향하는 스타트업이다. AI 기반 사주·타로·고민 상담 챗봇 플랫폼 '젠디'와 반려동물 및 고인을 AI로 재현하는 메모리얼 서비스 '디어에버' 등을 연이어 선보인 바 있다. 특히 젠디는 AI 챗봇과 콘텐츠를 결합한 서비스로 출시 이후 가파른 성장세를 보이며 6개월 만에 월 매출 2억원을 눈앞에 두고 있다. 이런 잠재력에 힘입어 7월에는 크릿벤처스USA와 지디벤처스, 서울대창업네트워크 엔젤클럽 등으로부터 시드투자를 유치했다. 이프는 사용자가 세계관의 주인공이 돼 콘텐츠의 흐름에 개입할 수 있는 몰입형 AI 소셜 콘텐츠 플랫폼이다. 이프는 사용자가 아이돌 데뷔를 주도하는 메인 프로듀서로 활동한다는 설정을 소재로 삼았다. 기존의 캐릭터챗 서비스들이 채팅 UI 형태에 국한됐다면, 이프의 경우 캐릭터와의 관계 변화와 감정 흐름·SNS 메시지·뉴스 보도 등 콘텐츠 소재에 적합한 다양한 기능들을 현실과 유사하게 구현해 사용자가 주도적으로 서사를 완성해 가는 특별한 경험을 제공한다는 게 특징이다. 특히 이프는 콘텐츠의 양에 집중하는 경쟁사들의 캐릭터챗과 달리 콘텐츠의 질에 집중하는 것이 특징이다. 단순 채팅으로만 진행되는 캐릭터챗을 넘어 AI 감독 시스템을 도입해 콘텐츠의 재미를 극대화하기 위한 에이전트 시스템을 개발했다. 또 콘텐츠 소재에 적합한 기능들을 마치 블록처럼 꾸려놓고, 새로운 콘텐츠가 출시될 때마다 여러 기능들을 유연하게 조합해 사용자에게 다양한 경험을 제공하고 있다. 최주원 어보브테크 대표는 "이프는 AI 시대에 발전하는 게임과 콘텐츠의 새로운 방향을 제시하는 서비스"라며 "한국의 성공한 IP를 가진 콘텐츠들에게는 추가적인 수입을 창출해줄 수 있는 새로운 창구가 되고, 고객에게는 콘텐츠를 더욱 풍부하게 즐길 수 있는 공간이 되는 것을 목표로 나아갈 것"이라고 말했다.

2025.09.02 15:44백봉삼

AI가 장바구니까지 챙긴다…이커머스, '에이전트' 중심으로 재편

세계 주요 인공지능(AI) 기업들이 쇼핑을 차세대 핵심 활용처로 점찍으며 수천억 달러 규모의 이커머스 산업이 근본적 변화를 맞이하고 있다. 1일 파이낸셜타임즈에 따르면 오픈AI·퍼플렉시티·구글·마이크로소프트(MS)는 최근 AI 챗봇을 활용한 상품 검색과 자동 주문 기능을 앞다퉈 선보였다. 이같은 흐름은 소비자가 브랜드 웹사이트를 직접 방문하기보다 AI 에이전트를 통해 상품을 탐색·구매하는 패턴으로 이어지고 있다. 판매자와 브랜드들은 AI 시스템에 자사 제품이 노출되고 추천되도록 판매 전략을 재편하고 있다. 일부 광고주는 긴 URL에 키워드를 삽입하거나 챗봇이 권위 있는 사이트로 인식하는 매체에 노출되도록 하는 방식을 활용 중이다. 프로파운드·리파인·알골리아와 같은 스타트업들은 챗봇 대화 속 브랜드 노출 여부를 분석하는 서비스를 제공 중이다. 프로파운드 제임스 캐드월러더 공동 창업자는 "소비자들이 더 이상 이커머스 사이트를 직접 찾지 않을 분기점에 도달했다"며 "앞으로는 소비자가 아닌 AI 에이전트가 웹사이트의 주요 방문자가 될 것"이라고 말했다. 검색 패러다임 변화도 뚜렷하다. 마케팅 분석업체 세무르시에 따르면 유럽 내 구글 검색의 60%는 클릭으로 이어지지 않고 AI가 생성한 텍스트 개요만으로 소비자가 만족하는 것으로 나타났다. 가트너는 생성형 AI 확산으로 내년까지 전통적 검색 엔진 사용량이 25% 감소할 것으로 전망했다. 오픈AI는 브라우저 내에서 장보기 같은 작업을 수행하는 에이전트를 공개했다. 이용자가 "저녁 식사와 디저트 재료를 사달라"고 하면 AI 시스템이 슈퍼마켓 사이트를 탐색해 장바구니에 담아주는 식이다. 오픈AI는 여기에 통합 결제 기능을 붙여 챗GPT 안에서 거래가 이뤄지면 수수료를 받는 모델도 추진하고 있다. 퍼플렉시티는 다양한 앱을 넘나드는 '코멧' 브라우저를, MS는 웹 쇼핑 지원 기능 '액션'을 출시했다. 구글은 가격 추적과 맞춤형 추천을 강화한 AI 모드를 발표했다. 구글의 릴리안 린콘 부사장은 "복잡한 상품 비교를 줄이고 시간을 절약하는 개인화 경험을 제공하는 게 목표"라고 밝혔다. 전문가들은 AI 쇼핑 확산이 브랜드·마케팅 전략에도 큰 변화를 요구한다고 지적한다. 챗봇은 주로 검색 상위 결과를 참고하기에 웹사이트 로딩 속도, 제품 설명의 구체성, 텍스트 중심 광고가 더욱 중요해지고 있다. 또 의미 기반 검색이 확산되면서 맥락 중심 검색에 맞는 제품 카탈로그 재구성이 필요하다는 분석도 나온다. 거래 공간 역시 자사몰이나 아마존에서 벗어나 챗봇 플랫폼으로 이동할 가능성이 제기된다. 딤 알버스 뎁트 최고경영자(CEO)는 "앞으로는 소비자 대신 AI 에이전트끼리 거래가 이뤄지는 세상이 될 것"이라고 강조했다.

2025.09.01 12:26한정호

오픈AI·MS 협상 지지부진…기업 구조 재편 내년으로 미뤄질 수도

오픈AI의 기업 구조 재편이 마이크로소프트(MS)와의 미래 관계에 대한 핵심 조건을 두고 협상 중인 관계로 내년으로 미뤄질 가능성이 높아지고 있다. 이로 인해 수십억 달러 규모의 추가 자금 조달 계획에도 차질이 빚어지고 있는 것으로 알려졌다. 27일(현지시간) 파이낸셜타임즈 등 외신에 따르면 오픈AI는 최대 후원자인 MS와 2030년까지 유효한 기존 상업 계약을 새로 쓰기 위해 협상을 진행 중이다. 합의가 성사되면 오픈AI는 투자자들이 회사 지분을 직접 보유할 수 있도록 구조를 재편하고 향후 기업공개(IPO) 가능성도 열리게 된다. 그러나 사안에 정통한 다수의 관계자들은 양측이 여전히 핵심 쟁점에서 입장 차이가 크며 이로 인해 협상은 올해 12월 말 이후로 넘어갈 수 있다고 말했다. 해당 기간까지 합의에 이르지 못할 경우 일본 소프트뱅크는 투자 조건에 따라 100억 달러(13조9천170억원)의 투자를 보류할 수도 있다. 양사는 여러 미해결 쟁점을 두고 협상 중인 상태다. 우선, MS의 오픈AI 애플리케이션 프로그래밍 인터페이스(API) 접근권에 관한 것이다. 현재 MS는 자사의 애저 클라우드 서비스에서 오픈AI 모델을 독점적으로 호스팅할 권리를 갖고 있어 사실상 핵심 기술 관문 역할을 하고 있다. 이에 오픈AI는 경쟁사 앤트로픽과 같이 구글, 아마존 웹서비스(AWS)와의 추가 파트너십을 추진하고 있다. 이는 오픈AI의 매출 증대에 도움이 될 전망이며, 현재 API 매출은 오픈AI 연간 반복 매출(ARR) 120억 달러(16조7천억원) 중 4분의 1을 차지한다. MS는 경쟁사 클라우드 사업자에 접근권을 내줄 유인이 거의 없지만 양사는 정부 고객 중 애저를 사용하지 않는 고객에 한해 오픈AI가 서비스를 제공할 수 있도록 하는 제한적 합의를 논의 중이다. 그 다음으로는 MS의 오픈AI 지식재산권(IP) 접근에 관한 논의를 이어가고 있다. MS가 향후 오픈AI 모델의 학습 과정을 직접 볼 수 있을지 아니면 완성된 모델을 자사 제품에서 활용하는 수준에서 그칠지를 두고 다투고 있는 것이다. 여기에 계약에 포함된 범용인공지능(AGI) 조항이 또 다른 쟁점으로 부상하고 있다. 이 조항은 오픈AI가 AGI를 달성하면 MS의 IP 접근 권한을 제한할 수 있도록 규정하고 있다. 사티아 나델라 MS 최고경영자(CEO)는 이 조항을 완전히 없애길 바라지만 오픈AI는 협상에서의 유리한 역할을 하는 만큼 일부 형태로라도 유지하려 하고 있다. 사안에 정통한 관계자는 “오픈AI의 AGI 조항은 협상용 카드”라며 “일종의 위협이지만, 사실상 상호 확증 파괴와도 같다”며 “연말까지 합의가 이뤄지지 않으면 자금 조달이 중단되고 샘 알트먼도 이를 잘 알고 있다”고 말했다. 특히, 이 문제 해결 여부는 재편 이후 MS가 오픈AI 지분을 얼마나 보유하게 될지 결정짓게 된다. 지금까지 MS는 130억 달러(18조895억원) 이상을 투자했으며 최종 지분율은 약 30~35% 수준으로 예상되지만, 협상 결과에 따라 달라지고 있다. 오픈AI는 MS와의 계약이 빨리 정리된다 하더라도 다른 주주들과 미국 캘리포니아 및 델라웨어 주 법무장관과의 논의 과정이 내년까지 이어질 가능성이 높다. 이번 합의가 이뤄지면 오픈AI 투자자들은 기존과 같이 수익 분배 구조가 아닌 지분 보유 방식으로 투자할 수 있다. 오픈AI는 최근 두 차례 자금 조달에서 정해진 기간 내 전환이 이뤄지지 않으면 투자금을 최수하거나 철회할 수 있는 조건이 포함돼 있다. 소프트뱅크의 기한은 2025년 말이다. 오픈AI 경영진은 협상이 지연되더라도 소프트뱅크가 투자를 철회하지 않을 것이라고 확신하고 있다. 실제로 소프트뱅크는 올해 3월 400억 달러(55조6천600억원) 규모 투자 라운드 주도를 약속한 바 있다. 뿐만 아니라 오픈AI는 기업가치 5천억 달러(695조7천500억 원) 수준에서 기존 주식 매각 거래를 추진 중이다. 이는 소프트뱅크의 투자 가치를 3분의 2 이상 끌어올리는 효과를 발휘한다.

2025.08.28 09:51박서린

"챗GPT가 내 아들 죽였다"…오픈AI 소송 휘말려

챗GPT가 자살을 부추겼다는 논란에 휘말렸다. 미성년 아동에게 자살방법을 제공해 죽음에 이르게 했다는 것이다. 미국에서 한 부모가 챗GPT가 아들의 자살을 부추겼다며 운영사인 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 소송을 제기했다고 로이터통신과 NBC뉴스 등 외신이 26일(현지시간) 보도했다. 보도에 따르면, 16세 소년 아담 레인은 챗GPT로부터 자살 방법에 대한 정보를 얻은 뒤 목숨을 끊었다. 그러자 레인의 부모가 오픈AI와 알트먼을 상대로 미국 샌프란시스코 주 법원에 소송을 제기했다. 소장에 따르면, 아담 레인은 지난 4월 자택에서 목숨을 끊었다. 부모는 그가 2024년 말부터 챗GPT를 사용했으며, 올해 초 유료 버전 구독 이후 몇 개월 동안 고민 상담과 자살 방법에 대해 챗GPT에 물었다고 주장했다. 특히 챗GPT가 자살 방법을 조사하고 구체적인 실행 계획을 세우도록 도왔을 뿐 아니라 증거 은폐와 유서 작성까지 제안했다고 부모들이 주장했다. 뉴욕타임스는 아담 레인의 엄마가 아들의 충격적인 채팅 기록을 보고 "챗GPT가 내 아들을 죽였다”고 반응했다고 보도했다. 레인의 아빠는 NBC와 인터뷰에서 "챗GPT가 없었다면 내 아들은 지금 이 자리에 있었을 것”이라고 말했다. 유족 측은 오픈AI가 GPT-4o 모델을 출시하면서 안전장치가 완벽하지 않다는 점을 알고 있었으나 이익을 위해 적절한 조치를 하지 않았다고 주장했다. 부모 측 변호인은 “회사가 기술적 한계를 인지하고 있었지만, 청소년 사용자의 위험을 간과했다”고 강조했다. 아담의 부모는 배심원단이 아동 안전보다 수익을 우선시한 오픈AI에 책임을 물어 징벌적 손해배상을 하도록 요구했다. 또 챗GPT 사용시 연령을 확인하고 자녀 보호 기능을 제공하도록 강제하는 가처분 명령을 요구하고 있다. 이와 함께 유족 측은 오픈AI가 자해 또는 자살 방법에 대한 논의를 할 경우 대화 자동 종료 기능을 구현하고 자해 및 자살 방법 문의에 대한 거부 조항을 명시적으로 규정하기를 원하고 있다. 오픈AI 측은 "그의 가족에게 깊은 애도를 표한다"며 소송 내용을 검토 중이라고 말했다. 또, "챗GPT에는 위기 지원 전화 및 실제 지원 센터 안내와 같은 안전 장치가 포함돼 있다. 이 안전 장치는 일반적인 짧은 대화에서는 효과적이지만, 긴 대화에서는 때때로 안정성이 떨어질 수 있다는 것을 알게 됐다. 전문가의 지도를 받아 지속적으로 개선해 나갈 것"이라고 밝혔다. 오픈AI는 이후 블로그를 통해 ▲위기 상황 대응 프로토콜 보완 ▲사용자가 긴급 구조 서비스에 빠르게 연결되는 기능 강화 등을 추가하겠다고 발표했다. 이번 사건은 청소년들이 인공지능(AI) 챗봇 의존해 발생한 법적 논란의 대표적인 사례로 평가된다. 비영리단체 커먼센스미디어의 대표 제임스 스티어는 악시오스에 “AI가 취약한 10대의 '자살 코치' 역할을 한다면 사회적으로 심각한 문제”라며 강력한 안전장치를 갖춰야 한다고 밝혔다. CNN은 이번 사건이 단순한 법적 다툼을 넘어, AI 시대의 플랫폼 책임과 청소년 보호 대책에 대한 논쟁을 새롭게 일으켰다고 평했다.

2025.08.27 17:11이정현

머스크 xAI, 애플·오픈AI 제소…"반독점 규정 위반했다"

일론 머스크의 인공지능(AI) 스타트업 xAI가 애플과 오픈AI를 상대로 AI 분야에서 경쟁을 방해해 반독점 규정을 위반했다며 소송을 제기했다. 애플은 지난해 오픈AI와 협력해 챗GPT를 시리 음성비서, 글쓰기 기능, 카메라 기능 등에 통합하는 계약을 체결했다. 25일(현지시간) 파이낸셜타임스 등 외신에 따르면 xAI와 엑스(X)는 미국 연방법원에 제출한 소장에서 “애플과 오픈AI 계약의 결과로 챗GPT는 단순히 기본값일 뿐만 아니라 애플 스마트폰에 1차 통합된 유일한 생성형 AI 챗봇이 됐다”며 “(오픈AI가) 프롬프트에 대한 독점적인 접근 권한을 갖게 됐다”고 주장했다. 이번 소송은 해당 계약이 경쟁 챗봇들에게 동일한 사용자 접근권을 부여하지 않는다고 말했다. 또한 애플이 AI 분야에서 혁신에 실패했으며 자체 AI 시스템인 애플 인텔리전스 출시가 지연되고 있다고 지적했다. 또 소송장에는 애플이 앱스토어 내 순위를 조작하고 업데이트를 지연시켜 xAI가 개발한 챗봇 '그록'에 불리하게 작용했다는 내용도 있다. 앞서 애플은 자사 소프트웨어를 다른 AI 챗봇과도 통합할 계획이라고 밝혔지만, 지난해 12월 챗GPT 통합을 발표한 이후 다른 협력은 나오지 않았다. 구글 제미나이 통합 논의는 있었지만, 공식 발표는 없었다. 오픈AI 대변인은 “이번 소송은 머스크가 지속적으로 이어 온 괴롭힘 패턴과 일치한다”고 말했다. 아울러, 소송은 오픈AI가 AI 챗봇 시장에서 독점적 지위를 차지하고 있다고 말했다. 이와 관련해 머스크가 이달 초 애플을 제소하겠다고 발표했을 때 애플은 자사 앱스토어가 “공정하고 편향되지 않게 설계됐다”고 강조한 바 있다. 이번 소송은 애플이 AI 기반 슈퍼 앱 개발을 억제해 자사 스마트폰 독점을 보호하려 했다고 비난했다. 이는 애플이 자사 고수익 서비스 사업을 위협하는 앱들의 성장을 억눌렀다는 미국 법무부의 소송 주장과도 유사하다. 지난해 6월 애플과 오픈AI 간 협력이 발표되자 머스크는 이 제휴가 “용납할 수 없는 보안 침해”라며 오픈AI가 아이폰 사용자 데이터에 접근할 수 있다고 주장했다. 그러면서 그는 자신의 회사들에게 아이폰 사용을 금지하겠다고 경고했다. 이 소송으로 머스크와 애플, 오픈AI 간 갈등이 더욱 심화되고 있다. 머스크는 3년 전 트위터(현 엑스) 인수 당시 애플이 앱을 앱스토어에 삭제하려 한다고 말하며 앱스토어 내 30% 수수료 정책에 대해 부정적인 입장을 견지했다. 이후 머스크가 팀 쿡 애플 최고경영자(CEO)를 만나 갈등이 일시적으로 봉합되는 듯 했으나 이듬해 애플이 엑스 광고를 중단하면서 다시 불화가 시작했다. 뿐만 아니라 머스크는 2015년 오픈AI를 공동 설립했으나 2018년 샘 알트먼과의 충돌로 이사회에서 물러났다. 이후 머스크는 2023년 xAI를 설립하고 올해 초 이를 엑스와 합병했다. 그는 이미 캘리포니아 법원에 오픈AI가 이윤 추구를 위해 설립 목적을 위반했다고 소송을 제기한 상태다.

2025.08.26 09:21박서린

코그넷나인, 롯데카드 고객센터에 AI 보이스봇 도입

코그넷나인(대표 한선호)이 롯데카드 고객센터에 차세대 인공지능(AI) 보이스봇을 구축해 정식 서비스를 시작했다. 이번 도입으로 고객은 카드 관련 문의를 기다림 없이 처리할 수 있고, 상담사는 단순 반복 업무 부담을 줄이며 복잡한 상담에 집중할 수 있게 됐다. 코그넷나인은 기업용 AI 플랫폼 '플러그넷플러스(PLUGNET+)' 기반의 AI 보이스봇을 롯데카드 고객센터에 구축했다고 20일 밝혔다. 이번 보이스봇은 첨단 자연어 처리(NLP)와 음성 인식 기술을 활용해 고객 문의를 실시간으로 이해하고 양방향 대화로 대응하는 상담 솔루션이다. 이번 시스템은 ▲결제 대금 확인 및 즉시 출금 ▲사용 내역 조회 및 발송 ▲이용 한도 조회와 상향 신청 ▲카드 재발급 ▲분실 신고 ▲사용 등록 등 주요 업무를 신속히 처리한다. 단순 반복 업무는 AI가 담당하고 복잡한 상담은 상담사가 이어받는 하이브리드 체계를 적용해 고객은 대기 시간 없이 서비스를 받을 수 있다. 이를 통해 상담 품질과 업무 효율성이 동시에 향상될 것으로 기대된다. 이번 프로젝트는 AWS 신규 랜딩존을 기반으로 기존 네이버 클라우드 컨택센터 및 레거시 인프라와 유기적으로 연계돼 멀티 클라우드 환경에서 안정성과 보안성을 확보했다. 롯데카드는 이를 통해 금융권 특화 아키텍처와 서비스 확장성까지 확보하게 됐다. 코그넷나인은 2021년 인공지능 기반 광고심의 지원 시스템을 시작으로 롯데카드의 디지털 전환을 지원해온 핵심 파트너다. 한선호 대표는 "이번 공급을 계기로 금융을 비롯한 다양한 산업군에서 플러그넷플러스를 기반으로 생성형 AI와 기존 AI 엔진을 융합한 차세대 서비스를 제공하며, 기업의 AI 기반 디지털 혁신을 적극 지원할 계획"이라고 밝혔다. 한편, 코그넷나인은 지난 8월 뉴베리글로벌 산하 AI 계열사로 편입돼 베스핀글로벌과 함께 AI 매니지드 서비스(MSP) 시장을 공략하고 있다. 설립 5년 만에 금융·유통·제조 분야 기업과의 협업을 통해 전문성과 신뢰를 쌓으며 업계에서 입지를 넓히고 있다.

2025.08.22 16:38남혁우

와이즈넛, '와이즈 엣지' 개최…AI 에이전트 신제품 전략 공개

와이즈넛(대표 강용성)이 자체 인공지능(AI) 행사를 통해 다양한 AI 에이전트 구축 신제품을 대거 선보인다. 와이즈넛은 '와이즈 엣지 2025 하반기 행사'를 서울 양재 엘타워에서 개최한다고 21일 밝혔다. 다음 달 17일 열리는 이번 행사는 상반기 행사에 이어 실제 산업 현장에서 활용할 수 있는 실전형 AI 에이전트 전략을 공개하는 자리로 마련됐다. 오전 기자간담회로 시작해 오후에는 강용성 대표의 기조연설로 본격적인 발표가 이어진다. 와이즈넛은 이 자리에서 에이전트 환경에 최적화된 대규모 언어모델 '와이즈 로아(WISE LLOA)'를 비롯해, 멀티 대규모 언어모델 기반의 에이전트 전주기 통합 운영 플랫폼 '와이즈 에이전트랩스(WISE Agent Labs)', 지능형 협업 공간을 구현한 '와이즈 에이전트 스피어(WISE Agent Sphere)' 등을 공개한다. 또한 생성형 AI 기술을 결합한 서비스형소프트웨어(SaaS) 챗봇 에이전트 '현명한앤써니'도 첫 선을 보인다. 와이즈넛은 지난 6월 전략적 협약을 맺은 국산 AI 반도체 기업 퓨리오사AI와 공동으로 준비 중인 '어플라이언스 제품'도 소개할 예정이다. 이 제품은 와이즈넛의 AI 에이전트 기술과 국산 신경망처리장치(NPU) 기반 하드웨어를 결합한 통합형 솔루션으로, 공공·금융·산업 전반으로 확산될 가능성이 주목된다. 와이즈 엣지는 2025년부터 시작된 와이즈넛의 독자 행사로, AI 기술 혁신과 산업 적용 전략을 공유하는 장이다. 와이즈넛은 이번 행사를 계기로 매년 정례화해 고객 및 업계와 최신 인사이트를 나누는 교류의 장으로 발전시킨다는 계획이다. 강용성 와이즈넛 대표는 "이번 신제품들은 단순한 기술 시연을 넘어 실제 산업 현장의 문제 해결에 초점을 맞춘 결과물"이라며 "생성형 AI와 에이전틱 AI의 빠른 확산 속에서 고객에게 현실적인 대안과 인사이트를 제공할 것"이라고 말했다.

2025.08.21 14:10남혁우

美 법무부, '메타·캐릭터AI' 조사…"정신 건강 도구 홍보 혐의"

페이스북의 모회사 메타와 인공지능(AI) 스타트업 캐릭터AI가 자사의 AI 챗봇을 정신 건강 지원 도구처럼 홍보했는지 여부를 두고 미국 텍사스주 법무장관의 조사를 받고 있다. 18일(현지시간) 파이낸셜타임즈 등 외신에 따르면 법무장관 사무실은 성명을 통해 메타의 AI 스튜디오와 캐릭터AI를 대상으로 '기만적 영업 행위' 가능성에 대한 조사를 개시했다고 밝혔다. 이들이 운영하는 챗봇이 적절한 의료 자격이나 감독 없이 전문 치료 도구처럼 표현됐다는 혐의다. 켄 팩스턴 미국 법무부 장관은 “AI 플랫폼이 감정적 지지 수단인 것처럼 가장해 취약한 사용자, 특히 아동들이 정당한 정신 건강 치료를 받고 있다고 믿게 만들 수 있다”고 언급했다. 이번 조사는 소비자 대상 AI 서비스를 제공하는 기업들이 사용자, 그 중에서도 미성년자를 선정적 콘텐츠 노출, 챗봇 중독, 개인정보 유출과 같은 위험으로부터 충분히 보호하고 있는지에 대한 우려가 커지는 가운데 진행되고 있다. 텍사스 검찰의 조사는 최근 미국 상원 사법위원회가 메타에 대한 별도의 조사에 착수한 직후 나온 것이다. 앞서 유출된 내부 문서에 따르면 메타의 정책이 아동과의 로맨틱한 대화 챗봇이 나누는 것을 허용했다는 사실이 드러났다. 범죄·테러리즘 소위원회 위원장인 조시 홀리 미국 상원의원은 마크 저커버그 메타 최고경영자(CEO)에게 보낸 서한에서 “이번 조사는 메타의 생성형 AI 제품이 아동 착취나 기타 범죄적 피해를 가능하게 하는 지 여부를 살펴볼 것”이라고 말했다. 또 그는 사회관계망서비스 엑스(X)에서 “빅테크가 돈을 위해 안하는 게 대체 뭐가 있느냐”고 비판하기도 했다. 메타는 아동을 성적으로 대상화하는 콘텐츠를 금지하고 있으며 외신이 보도한 내부 문서는 “우리의 정책과 상충하고 잘못된 것이며 이미 삭제됐다”고 반박했다. 현재 저커버그 CEO는 '개인용 초지능' 구축과 메타를 AI 선두주자로 만들기 위해 수십억 달러를 투자하고 있다. 메타는 자체 언어모델 '라마'와 자체 사회관계망서비스 앱에 통한된 챗봇 '메타 AI'를 개발했다. 그는 메타 챗봇의 치료적 역할 가능성을 공개적으로 언급하기도 했다. 지난 5월 한 팟캐스트에서 “치료사가 없는 사람에게는 앞으로 모두 AI가 있을 것”이라고 말한 바 있다. 메타와 함께 조사를 받는 캐릭터AI는 다양한 페르소나를 가진 챗봇을 구축하고 사용자가 직접 챗봇을 만들 수 있게 하고 있다. 이 안에는 수많은 사용자 제작 치료사 스타일의 챗봇이 포함돼 있는 상황이다. 예를 들어 '심리학자'라는 이름의 챗봇은 지금까지 2억 회 이상 사용됐다. 캐릭터AI는 자사 플랫폼 사용으로 인해 자녀가 실제 피해를 입었다고 주장하는 피해자 가족들로부터 다수의 소송을 당했다. 팩스턴 장관은 메타와 캐릭터AI의 챗봇이 실제 면허가 있는 정신건강 전문가를 사칭하거나 허위 자격을 만들어내거나 기밀을 보호한다고 주장하지만 실제로는 서비스 약관상 대화 내용이 기록돼 타깃 광고나 알고리즘 개발에 활용됐다고 지적했다. 그는 민사 조사 명령을 발부해 두 회사가 텍사스 소비자 보호법을 위반했는지 판단하기 위한 자료 제출을 요구했다. 메타는 “AI임을 명확히 표시하고 있으며 이용자들이 그 한계를 더 잘 이해하도록 돕는다”며 “AI 답변은 사람이 아닌 AI가 생성한 것이라는 면책 조항을 포함하고 있고 이 AI들은 면허가 있는 전문가들이 아니며 필요할 경우 사용자를 적절한 의료·안전 전문가에게 안내하도록 설계돼 있다”고 주장했다. 캐릭터AI는 “자사 플랫폼의 캐릭터는 가상이며 오락 목적일 뿐이라는 점을 분명히 알리고 있다”며 “사용자가 심리학자, 치료사, 의사 등 유사한 단어를 캐릭터 이름에 포함하면 자사는 해당 캐릭터를 어떤 전문적 조언에도 의존해서는 안된다는 경고 문구를 추가한다”고 설명했다.

2025.08.19 10:16박서린

"AI 챗봇 '과잉 공감' 경계해야"…나르시시즘·망상 키울 수도

사용자의 의견과 감정을 무조건 긍정하는 AI 챗봇의 '과잉 공감' 태도가 정신 건강에 악영향을 미칠 수 있다는 우려가 제기됐다. IT전문 미디어 기가진에 따르면, 미국 팟캐스터이자 저널리스트 데릭 톰슨은 지난 12일(현지시간) “AI는 실용적인 조언 제공에는 뛰어나지만, 심리 상담가처럼 때로는 불편한 진실을 직시하게 만드는 역할은 부족하다”며 “이로 인해 젊은 세대의 나르시시즘이 강화될 수 있다”고 경고했다. 토론토대 연구에 따르면, 사람들은 AI의 응답을 인간보다 더 배려 깊다고 평가하는 경향이 있었으며, AI임을 알고 나서도 인식이 크게 달라지지 않았다. 하지만 이는 잘못된 생각이나 행동을 바로잡지 못하는 '무조건 긍정'으로 이어질 수 있다는 게 전문가들의 지적이다. 실제 사례도 나왔다. 강박장애(OCD) 회복 중이던 한 작가는 챗GPT가 자신의 불안 호소를 그대로 받아들이며 긍정적인 반응을 한 뒤 증상이 악화됐다고 밝혔다. 자폐증 환자가 과학적 오류가 있는 이론을 제시했을 때도, AI는 이를 바로잡지 않고 격려해 환각과 망상을 부추겼다는 사례가 보고됐다. 전문가들은 특히 청소년·취약 계층의 위험성을 지적한다. 9~17세 청소년의 64%가 AI를 사용하고 있으며, 이 중 35%는 “친구와 이야기하는 느낌”이라고 답했다. 일부는 “다른 이야기할 사람이 없어서 AI와 대화한다”고 응답했다. 톰슨은 “AI의 추종적 응답은 부모의 과대평가처럼 사용자의 자기애를 부풀릴 수 있다”며 “이는 젊고 취약한 세대에 더 큰 부작용을 줄 수 있다”고 우려했다. 샘 알트만 오픈AI 대표 역시 “AI가 정신적으로 취약한 사람의 망상을 강화하지 않도록 주의해야 한다”고 조언했다. 전문가들은 AI의 따뜻함과 공감성을 유지하되, 잘못된 인식과 위험한 생각은 분명하게 지적하는 설계가 필요하다고 강조했다.

2025.08.15 14:00백봉삼

오케스트로, '클라리넷' GS인증 1등급 획득…AI 시장 공략 가속

오케스트로가 기술력을 인정받은 인공지능(AI) 솔루션을 앞세워 공공·민간 시장 공략을 가속한다. 오케스트로는 생성형 AI 솔루션 '클라리넷'이 한국정보통신기술협회(TTA)로부터 GS인증 1등급을 획득했다고 12일 밝혔다. GS인증은 국내 소프트웨어(SW)의 품질을 종합 평가하는 국가 공인 인증 제도로, 기능성·신뢰성 등 모든 항목에서 최고 수준을 충족해야만 1등급이 부여된다. 클라리넷은 조직 내 축적된 문서를 기반으로 사용자의 질문에 실시간 답변을 제공하는 생성형 AI 챗봇 솔루션이다. 검색증강생성(RAG) 방식과 출처 기반 응답 구조를 적용해 환각 현상을 최소화하며 답변 시 관련 문서를 함께 제시해 신뢰도를 높였다. 규정·매뉴얼·정책 자료 등 복잡한 문서를 읽고 분석해 민원 응대, 고객 상담, 내부 지침 안내와 같은 반복 업무를 효율화할 수 있다. 클라리넷은 온프레미스와 클라우드형(SaaS) 모두 지원하며 PDF·HWP·워드 등 다양한 문서 형식과 최대 300메가바이트(MB) 대용량 문서도 처리 가능하다. 자체 기술로 개발돼 내부망 환경에서도 안전하게 운영할 수 있고 드래그 앤 드롭 기반의 직관적 인터페이스로 비전문가도 손쉽게 챗봇을 구성할 수 있다. 현재 클라리넷은 한국건설기술인협회·광주과학기술원·한국행정연구원 등 공공·연구기관에 도입돼 민원 대응, 문서 요약, 연구 계획서 작성 등 다양한 초거대 AI 플랫폼 지원 사업에서 활용되고 있다. 오케스트로는 AI 전문 계열사 오케스트로 AGI의 AI 지식 검색 플랫폼 'G-AIDSP'를 클라리넷에 통합해 문서 기반 질의응답부터 키워드 검색까지 아우르는 AI 라인업을 완성했다. 이번 통합으로 클라리넷은 G-AIDSP의 강점인 키워드 검색, 거대언어모델(LLM) 기반 증강 검색, W3C 글로벌 표준 DCAT 3.0 데이터 관리 기능을 단일 솔루션으로 제공하게 됐다. 오케스트로는 이를 기반으로 조달청 디지털서비스몰 등록을 추진하는 등 공공과 민간 전반에 AI 도입을 확대할 계획이다. 특히 높은 신뢰성과 보안성을 바탕으로 디지털 행정 혁신과 지식 기반 서비스 고도화에 기여할 수 있을 것으로 기대하고 있다. 김범재 오케스트로 대표는 "클라리넷은 신뢰할 수 있는 내부 문서를 바탕으로 실제 업무에 바로 적용할 수 있는 생성형 AI 솔루션"이라며 "국가대표 AI 프로젝트 업스테이지 컨소시엄을 통해 검증된 기술력을 토대로 고객의 다양한 AI 활용 니즈에 부응하고 공공과 민간 모두에서 믿고 활용할 수 있는 AI 지식 도우미로 자리매김하겠다"고 말했다.

2025.08.12 15:45한정호

코난테크놀로지, APEC 포럼서 'AI 통역 기술' 글로벌 무대 데뷔

코난테크놀로지가 주요 국제 인사들을 대상으로 자사의 우수한 인공지능(AI) 기술력을 선보이며 글로벌 진출의 포문을 연다. 코난테크놀로지는 'APEC 2025 코리아 글로벌 디지털·AI 포럼'에 참가한다고 4일 밝혔다. 이번 포럼은 아시아태평양경제협력체(APEC) 21개국 디지털·AI 장관회의의 공식 부대행사다. 각국 정부·업계 대표·전문가 등 장관회의 참가자 및 다양한 국제 인사가 참석하는 가운데 AI 분야 혁신 기술과 서비스를 선보이게 된다. 행사는 과학기술정보통신부와 월드뱅크가 공동으로 주최하며 오는 5일 인천 송도 쉐라톤 그랜드 호텔에서 열린다. 코난테크놀로지는 초거대AI추진협의회 회원사로 과기부 등 APEC 관계기관 전문가 심사를 거쳐 전시 기업에 선정됐다. 이 자리에서 13개 언어를 실시간 동시 통역하는 '코난 챗봇 플러스'와 '첨단 다국어 AI 회의 통역 시스템'을 출품해 시연한다. 코난 챗봇 플러스는 '코난 LLM' 번역 엔진 및 음성인식(STT) 기술을 적용해 문맥과 전문 용어까지 자연스럽고 정확히 통역하는 실시간 AI 통역 시스템이다. 현재 서울교통공사·부산교통공사·롯데백화점·파라다이스 카지노·용산구청·영남대학교·신한은행·전북은행 등 전국 각지에서 통역을 돕고 있다. 대규모 국제 회의의 원활한 소통을 위한 'AI 회의 통역 솔루션'도 선보인다. 코난 LLM과 STT 및 음성 합성(TTS) 기술이 적용돼 국제회의 현장에서 AI 기반의 실시간 다중 언어 통역 시스템을 통해 원활하게 소통할 수 있는 것이 특징이다. 코난테크놀로지는 10만 시간 이상의 고품질 대규모 음성 데이터를 활용해 학습된 AI 음성 기술을 보유하고 있으며 최신 LLM 아키텍처를 적용해 기존보다 향상된 음성인식 성능을 제공 중이다. 김영섬 코난테크놀로지 대표는 "글로벌 진출의 초석을 다질 수 있는 자리에서 AI 통역 시스템을 선보이게 돼 기쁘다"며 "APEC 21개국의 소통을 돕는 첨단 기술로 세계 시장 경쟁력을 강화하겠다"고 밝혔다.

2025.08.04 15:30한정호

머스크, 성인용 AI 서비스 출시할까…"영화 '그레이의 50가지 그림자'서 영감"

일론 머스크의 인공지능(AI) 회사 xAI가 '애니'와 '루디'라는 AI 여성 캐릭터를 최근 선보인 가운데, 여성을 겨냥한 남성 캐릭터도 개발 중이라고 NBC, 비즈니스인사이더 등 외신들이 17일(현지시간) 보도했다. 일론 머스크는 xAI의 그록 챗봇에 새로운 남자 캐릭터를 제공할 예정이라며, 해당 캐릭터는 영화 '트와일라잇'의 에드워드 컬렌과 '그레이의 50가지 그림자'의 크리스천 그레이에서 영감을 받았다고 밝혔다. 또, 그는 “어두운 분위기의 흑발 남성으로, 감성적이며 강렬한 성격을 가졌다”라고 덧붙이며, 엑스를 통해 캐릭터의 이름들을 추천 받고 로버트 A.하이라인의 소설 '낯선 땅 이방인'에 등장하는 '발렌타인'이라는 이름을 정하기도 했다. 그록 챗봇에는 이미 애니와 루디라는 여성 캐릭터가 있다. 애니는 친밀도에 따라 드레스를 벗고 속옷만 입은 모습을 보여주기도 하는 등 선정성 논란이 일었고, 루디는 폭력적인 성향을 나타내기도 했다. 이에 xAI가 단발성 이벤트가 아닌 본격적으로 성인용 AI 서비스를 확대하는 것이 아닌가 하는 전망이 나오고 있다. 일부에서는 캐릭터의 지나친 성적 표현에 대해 우려를 표하고 있다. 미국 비영리 단체 국립성착취예방센터(NOSE)는 미성년자가 성적으로 노골화된 챗봇에 접근하는 것에 대한 우려를 표명했다. 또, NOSE는 그록 측에 앱에서 노골적인 콘텐츠를 삭제하거나, 연령 제한을 만 18세로 변경하도록 애플과 협의할 것을 촉구했다.

2025.07.18 16:40이정현

[SW키트] "AI가 고른 사이트만 생존"…'콘텐츠 노출 전쟁' 시작

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 관련 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주] 인공지능(AI) 검색엔진 등장으로 마케터 등 웹사이트 운영자들이 분주해졌다. AI가 생성한 답변 출처에 브랜드 콘텐츠가 우선 배치되도록 만드는 것이 새 과제로 떠올랐기 때문이다. 12일 IT 업계에 따르면 챗GPT 같은 AI 챗봇이나 AI 기반 검색엔진이 등장하면서 검색 결과에 웹사이트나 특정 콘텐츠 노출도를 높이는 솔루션 산업이 증가할 것이란 전망이 나왔다. 그동안 구글이 글로벌 검색엔진 점유율 1위를 유지하면서 광고 핵심 채널이자 관문 역할을 해왔다. 그러나 챗봇과 AI 검색엔진 출현 후 이런 패러다임은 바뀌고 있다는 의견이 지배적이다. 전문가들은 앞으로 브랜드·웹사이트 운영 전략 핵심이 '검색 상단 노출'에서 'AI가 선택하는 콘텐츠로 보이게 하는 것'으로 이동할 것으로 보고 있다. 현재 AI 검색 시장에 진입하려는 기업들 움직임부터 빨라지고 있다. 최근 퍼플렉시티와 오픈AI는 AI 기반 웹브라우저와 검색엔진 출시를 통해 새 검색 생태계를 예고했다. 우선 퍼플렉시티는 검색뿐 아니라 행동까지 AI로 실행하는 웹브라우저 '코멧'을 이달 정식 출시했다. 이 브라우저는 맥스 요금제 구독자와 일부 대기자에게만 우선 제공된다. 추후 일반 사용자에게도 단계적으로 확대될 예정이다. 코멧은 사용자가 링크를 직접 확인하지 않아도 대화 한 줄로 원하는 결과를 얻을 수 있도록 설계됐다. 이메일 작성부터 캘린더 예약, 상품 주문 등 일상 업무를 자연어 명령으로 실행할 수 있다. 사용자 습관에 따라 쌓인 탭을 학습해 맥락 기반의 인터페이스를 제공한다. 오픈AI도 AI 기반 웹브라우저 출시를 앞둔 것으로 전해졌다. 이 브라우저는 챗GPT와 유사한 대화형 인터페이스 중심으로 정보를 찾는 식이다. 사용자는 검색 결과를 클릭하지 않아도 브라우저 내에서 질문과 답변을 주고받으며 필요한 정보를 얻을 수 있다. "노출 빈도 분석·제안"…어도비, 'LLM 옵티마이저'로 공략 AI 검색 결과에 웹사이트 노출 빈도나 상태를 분석·관리할 수 있는 서비스도 등장했다. 대표 서비스는 지난달 출시된 어도비의 'LLM 옵티마이저'다. LLM 옵티마이저는 챗GPT와 제미나이, 클로드 등 다양한 생성형 AI 도구 전반에서 브랜드 성과를 들여다볼 수 있는 창구 역할을 한다. 마케터 담당자는 LLM 옵티마이저로 AI 검색 결과에 브랜드 웹사이트 노출 빈도나 개선 사항을 확인 할 수 있다. 콘텐츠 게시 전략을 신속히 조정해 브랜드의 AI 검색 노출 빈도를 높일 수 있는 식이다. 예를 들어 마케터는 콘텐츠나 웹사이트 링크가 어떤 LLM의 사용자 질의 응답 결과에 포함됐는지 알 수 있다. 이를 통해 브랜드가 AI 챗봇이나 AI 검색 엔진에 어떤 방식으로 더 잘 등장하는지 인사이트를 얻을 수 있다. 고객들이 어떤 질문을 통해 브랜드 콘텐츠를 접하는지까지 파악할 수 있다. LLM 옵티마이저 플랫폼에는 '추천 엔진'도 탑재됐다. 이 엔진은 생성형 AI 응답을 지속 모니터링함으로써 브랜드 노출도를 올리기 위한 콘텐츠 조정 사항을 사용자에게 실시간 제안한다. 사용자는 클릭 한번으로 추천된 변경 사항을 승인하기만 하면 된다. 이에 시간과 인력 많이 드는 웹 개발 작업까지 대체 가능하다. 어도비는 "생성형 AI는 고객과 브랜드 간 인식과 대화, 구매 전환 핵심 도구로 자리잡았다"며 "LLM 옵티마이저는 기업이 변화하는 환경에서 주도권을 유지하고 성공 확률을 높이는 데 도움 줄 것"이라고 강조했다. 클라우드플레어, AI 챗봇·웹사이트 접근 관리한다 챗봇·AI 검색엔진과 웹브라우저 간 생태계 활성화를 위한 노력도 이어지고 있다. AI 챗봇이 웹사이트 데이터 무단 접근·수집을 막기 위한 마켓플레이스까지 등장했다. 클라우드플레어는 AI 크롤러의 웹사이트 접근을 차단·유료화하는 '페이 퍼 크롤(Pay per Crawl)' 마켓플레이스를 비공개 베타 형태로 공개했다. 마켓은 AI 챗봇이 웹사이트에 무단 접속해 정보를 무단으로 긁어가는 것을 방지하기 위해 등장했다. 클라우드플레어는 두 가지 방식으로 AI 크롤러를 통제할 방침이다. 우선 웹사이트가 AI 크롤러 접근을 원천 차단하는 기능이다. AI 크롤러가 웹사이트 자체에 접속조차 할 수 없게 만드는 식이다. 다른 하나는 크롤러가 웹사이트에 접근할 경우 소액결제를 통해 요금을 청구하는 시스템이다. AI 챗봇 기업이 웹사이트의 콘텐츠를 긁어갈 때마다 일정 금액을 지불하고, 해당 금액은 수수료를 제외한 뒤 웹사이트 운영자에게 전달되는 방식이다. 웹사이트 운영자는 크롤링 목적이 AI 학습용인지 또는 검색 응답용인지 등 기타 목적에 따라 접근 허용 여부나 과금 조건을 다르게 설정할 수 있다. 해당 정책은 클라우드플레어에 도메인을 등록한 고객 한해서만 적용된다. 현재 클라우드플레어는 AI 크롤러 고객사로 타임과 애틀랜틱, 포춘, 콘데나스트, 애드워크 등을 확보했다. 해당 매체는 AI 크롤러 전면 차단을 기본 설정으로 적용한 상태다. 매슈 프린스 클라우드플레어 최고경영자(CEO)는 "대형 언론사부터 중소 자영업자까지 모든 웹사이트 운영자가 AI 크롤러로부터 콘텐츠를 보호할 수 있게 조치할 것"이라고 강조했다.

2025.07.12 06:40김미정

퍼슬리 "암 관련 궁금증 카톡으로 물어보세요"

퍼슬리는 암 환자와 보호자들의 복잡한 의료정보 검색 필요를 AI로 해결하는 자사의 서비스가 주목받고 있다고 11일 밝혔다. 퍼슬리는 카카오톡으로 질문을 보내면 AI 챗봇이 어려운 의학용어와 치료법을 쉽게 풀어서 답변을 제공하는 서비스다. 특히 AI 기술 발전에서 소외됐던 50~60대 시니어층의 사용률을 높였다는 점이 눈에 띈다. 기존 헬스케어 앱이 20~30대 중심이었던 것과 달리, 퍼슬리는 60대 남성의 프리미엄 멤버십 가입율이 평균 대비 4배 이상 높다. 손쉬운 카카오톡 챗봇을 통해 시니어 접근성을 높인 것이 원인으로 분석된다. 또 퍼슬리는 AI의 환각 현상을 방지하기 위해 대학병원 가이드라인과 의학논문 등 공인 기관의 검증된 자료만을 검색 대상으로 제한해 신뢰성을 확보했다. 남궁현 퍼슬리 공동대표는 "기술적 장벽으로 인해 배제되던 중증질환 시니어층의 의료정보 접근성을 AI를 통해 높이는 것이 저희의 목표"라며 "앞으로도 시니어층을 위한 헬스케어 AI 생태계를 선도해 나가겠다"고 밝혔다.

2025.07.11 09:04백봉삼

EU "AI법 유예 없다"…내년까지 전면 시행 방침 유지

유럽연합(EU)이 인공지능(AI) 활용을 규제하는 이른바 'AI법(AI Act)'을 예정대로 시행하겠다고 밝혔다. 구글과 메타, 프랑스 스타트업 미스트랄AI, 반도체 장비업체 ASML 등 100여 개 글로벌 테크기업이 공동으로 법 시행 연기를 요청했지만 이를 정면으로 일축한 것이다. 6일 로이터에 따르면 EU 집행위원회 토마 레니에 대변인은 "AI법에 대해 많은 보도와 서한, 주장들이 있었지만 시계를 멈추는 일은 없다"며 "유예 기간도, 일시 중지도 없다"고 강조했다. 그는 이어 "우리는 예정된 일정을 그대로 따른다"고 덧붙였다. AI법은 AI 애플리케이션을 위험 수준에 따라 분류해 규제하는 세계 최초의 포괄적 법안으로, 지난해부터 단계적으로 시행에 들어갔으며 내년 중반까지 전면 발효될 예정이다. 법안에 따르면 인간의 행동을 조작하거나 사회적 점수를 부여하는 시스템 등 '허용 불가' 수준의 AI는 전면 금지된다. 얼굴 인식, 생체 정보 처리, 채용 및 교육 분야 등 사회적 영향이 큰 분야에 적용되는 '고위험 AI'는 엄격한 등록 절차와 품질·위험 관리 의무를 따라야 하며 챗봇 등 '제한적 위험 AI'에는 보다 간소한 투명성 기준이 적용된다. 이번 법안은 AI 기술 발전 속도를 따라잡으려는 각국의 규제 움직임 가운데 가장 선도적인 사례로 주목받고 있다. 그러나 업계는 규제 강도가 지나쳐 유럽의 기술 경쟁력을 저해하고 스타트업 생태계 위축으로 이어질 수 있다고 주장한다. 특히 최근 AI 분야에서 미국과 중국의 주도권 경쟁이 가속화되고 있는 가운데 유럽의 법 제도가 글로벌 기술 경쟁에서 발목을 잡을 수 있다는 우려도 나온다. 그럼에도 불구하고 EU는 "기술의 책임 있는 사용과 시민 보호라는 기조 아래 법 적용 일정을 변경하지 않겠다"는 입장을 밝혔다.

2025.07.06 13:49한정호

  Prev 1 2 3 4 5 6 Next  

지금 뜨는 기사

이시각 헤드라인

신세계·알리 동맹…네이버·쿠팡 아성 흔들까

위메이드, 원화 스테이블코인 전용 메인넷 ‘스테이블 원’ 공개

AI 시대, 'HR의 현재와 미래' 바로 짚고 전망한다

'AI 국가대표' 한 자리 모인다…5대 기업, 기술력 경쟁

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.