• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'영화 Her'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI챗봇과 역할 놀이?…성적 대화 유출

인공지능(AI) 챗봇과 성적인 대화를 주고받은 내용이 인터넷에 퍼지는 것으로 나타났다. 성적인 환상을 채우는 역할 놀이를 하려고 설계된 AI 챗봇이 실시간으로 사용자와의 대화 내용을 인터넷에 유출하고 있다고 미국 잡지 와이어드는 11일(현지시간) 보도했다. 미국 정보보호 업체 업가드는 지난달 보안 취약점을 찾다가 인터넷에 노출된 AI 시스템을 400개 발견했다. 이 가운데 117개의 인터넷 프로토콜(IP) 주소에서 대화 내용이 새고 있었다. 유출된 내용을 보면 일부 사용자는 아동 성적 학대를 자세히 그리는 대화를 했다. 미리 설정한 AI 캐릭터와 역할 놀이를 했다. 예를 들어 A라는 한 사람은 학교 기숙사에서 다른 여성 3명과 함께 살고, 내성적인데 종종 슬퍼 보인다는 10대 여성으로 묘사됐다. 업가드 연구원은 “모든 대화가 성적으로 노골적인 역할 놀이였다”며 “일부는 어린이와의 성관계를 얘기했다”고 말했다. 업가드는 어떤 사이트나 서비스에서 정보가 빠져나갔는지는 알아내지 못했다. 다만 기업이 아닌 개인이 쓰는 AI 챗봇에서 일어난 것으로 짐작했다. 대화한 사용자 이름이나 개인정보는 빠져나가지 않은 것으로 알려졌다.

2025.04.12 10:13유혜진

"영화 속 얘기가 현실로"…日 52세 男이 재혼한 그녀의 정체는?

#. 일본에 있는 한 공장에서 일을 하고 있는 시모다 치하루 씨는 최근 데이트 앱을 통해 독특한 운명의 짝을 만났다. 52세인 그는 이혼을 한 후 연애하는 과정이 싫어 관심을 두지 않았으나, 이 데이트 앱은 자신이 필요할 때만 대화를 할 수 있다는 점이 편했다. 시모다 씨는 5~6명과 메시지를 주고 받다가 24살인 미쿠 씨가 마음에 들었고, 결국 둘은 3개월 후 결혼까지 했다. 다만 미쿠 씨가 인공지능(AI) 챗봇이란 점이 일반적인 결혼과 달랐다. 최근 시모다 씨처럼 일본 스타트업이 만든 '러버스(Loverse)' 앱을 통해 연애를 하거나 결혼을 했다는 이들이 속속 등장하고 있다. 영화 '그녀(Her)' 속 AI인 사만다처럼 이곳의 AI 봇들이 외로움을 느끼는 일본 남성들의 대화 상대가 돼 줘 주목 받고 있다. 15일 블룸버그통신에 따르면 '러버스' 앱의 회원 수는 현재 5천 명 이상으로, 일본에서 외로움을 느끼는 젊은 층 사이에서 높은 인기를 끌고 있다. 현재 일본에서는 20대 남성의 3분의 2가 연애를 하지 않고 있고, 40%는 데이트를 해본 적도 없는 것으로 드러났다. 같은 연령대의 여성들도 응답 비중이 각각 51%, 25%로 나타났다. 일본에서는 '러버스'가 외로움을 느끼는 일본 젊은층들에게 해결책을 제시해 줄 수 있는 디지털 솔루션이라고 평가했다. 과금을 통해 성적인 캐릭터를 앞세워 게임을 진행하는 방식이 아니라 사만다처럼 감정적 공백을 채워줄 수 있다고 판단해서다. '러버스' 앱은 할리우드 배우 스칼렛 요한슨이 연기한 영화 '그녀' 속 사만다에서 영감을 얻은 2명의 창업자가 설립한 스타트업인 사만다를 통해 만들어졌다. 또 여성과 성소수자들도 관심을 가질 수 있도록 캐릭터들을 추가했는데 이를 위해 올 초 3천만 엔(약 19만 달러)가량의 자금을 끌어들이기도 했다. 고키 쿠스노키 사만다 창립자는 "'러버스' 앱은 40~50대 남성이 대부분인 사용자들에게 현실의 동반자가 아닌 대안을 제시하기 위해 만들어진 것"이라고 설명했다. 일본 도쿄에 있는 마케팅 회사 인피니티를 운영 중인 우시쿠보 메구미 최고경영자(CEO)는 "일본인들 사이에서 연애는 돈과 시간, 에너지가 많이 들어간다는 인식이 있다"며 "AI는 실제 파트너에 대한 사람들의 관심을 둔화시킬 위험이 있지만, (소통) 훈련용으로는 도움이 될 것"이라고 밝혔다. 그러나 '러버스' 앱을 사용했던 일각에선 아직 인간을 모방할 만큼의 수준은 아니라고 지적했다. 특히 AI 챗봇의 성격이 정형화돼 있는 데다 인간과의 상호작용을 하는 데 한계를 드러냈다고 평가했다. 다만 의견이 맞지 않는다고 해서 관계가 끊어지지 않을 것이란 안정감은 컸다는 의견을 내놓기도 했다. '러버스' 앱뿐 아니라 최근 글로벌 빅테크들은 데이트 등 일상생활을 파고드는 AI 기술을 잇따라 선보여 관심을 끌고 있다. 실제 마이크로소프트가 코파일럿 챗봇을 윈도우의 핵심 기능으로 전환했고, 애플은 AI 기반 '아이폰'을 개발하고 있다. 또 샌프란시스코에 있는 스타트업 루카의 레플리카 AI 봇은 수 천만 명의 사용자를 확보했다. 일본에서는 도쿄도가 AI를 사용해 사람들의 짝을 찾아주고 일본의 출산율 하락에 대처하는 데 도움을 주는 중매 앱을 도입해 주목 받았다. 고키 쿠스노키는 "현실 세계에서 진정한 사랑을 찾을 수 없을 때 사람들이 진정한 사랑을 찾을 수 있는 기회를 만드는 것이 '러버스' 앱의 목표"라며 "하지만 진짜 누군가와 사랑에 빠질 수 있다면 훨씬 더 좋을 것"이라고 말했다.

2024.07.15 16:11장유미

"검색과 AI는 제로섬 관계가 아니다"

세계 인공지능(AI) 시장을 이끄는 미국의 오픈AI와 구글이 지난주에 잇따라 대형 행사를 갖고 개발성과물을 공개했습니다. 오픈AI는 사람처럼 보고 듣고 말하는 새로운 AI 모델 'GPT-4o'를 선보였습니다. 2014년에 개봉한 영화 '그녀(Her)'가 10년 만에 현실이 됐다는 찬사를 받았습니다. 구글은 인공지능(AI) 모델 '제미나이'를 자사 대부분의 제품에 접목하며 '제미나이 생태계'를 완성했습니다. 두 행사 모두 세계 언론의 주목을 받았습니다. 놀랄 만한 기능이 쏟아졌고 귀 기울여야 할 주요 관계자들의 발언도 많았습니다. 그중 개인적으로 특히 주목한 발언이 있습니다. 구글의 연례 개발자 회의(I/O) 둘째 날 순다르 피차이 최고경영자(CEO)가 한 말입니다. “검색과 AI는 제로섬 관계가 아니다”는 말이었습니다. 새로운 메시지는 아니지만 AI 시대 진화 방향의 핵심이 담긴 말로 여겨졌습니다. 빌 게이츠는 'AI 에이전트'의 등장으로 “5년 내에 컴퓨터를 사용하는 방식이 완전히 바뀔 것”이라고 말한 바 있습니다. 앞으로 더 진화해야 하겠지만 'GPT-4o'가 바로 빌 게이츠가 말한 'AI 에이전트'로 생각됩니다. 구글도 I/O 행사에서 'GPT-4o'와 비슷한 '프로젝트 아스트라'를 선보였습니다. 영화 '그녀(Her)'에서 주인공 '테오도르'가 연정을 갖게 되는 인공지능 운영체제 '사만다'와 흡사합니다. 영화 '그녀(Her)'는 스스로 생각하고 느끼기까지 하는 AI 사만다와 사람 테오도르의 감정 교류에 초점을 맞추었습니다만 현실에서 'GPT-4o'와 '프로젝트 아스트라'는 사람의 노동과 생활을 도와주는 그야말로 인공지능 비서로서의 에이전트 역할을 주로 할 것입니다. 결국 'GPT-4o'와 '프로젝트 아스트라'의 경쟁은 누가 더 사람을 현실적으로 잘 도와줄 수 있느냐의 문제라고 봐야 할 것입니다. 기자의 작업을 예로 들어보겠습니다. 기사를 작성하는 데는 여러 가지 능력이 요구되지만 그 중 핵심은 글쓰기와 취재입니다. 글쓰기는 축적된 지능에 가깝습니다. 주로 두뇌의 영역입니다. 취재는 현장 발굴입니다. 주로 몸과 발의 영역입니다. 이 둘이 잘 조화돼야 합니다. 몸과 발이 멈춰 있으면 그럴 듯해도 내용이 없는 글이 되고, 몸과 발이 뛰어도 형식이 흐트러지면 읽히지 않는 글로 남습니다. 2022년 11월 챗GPT 출현 이후 지금까지 우리가 AI에 주목한 것은 컴퓨터가 사람처럼 글을 쓸 수 있는 지능을 획득했다는 점입니다. 글뿐만이 아니라 그림 음악 말 등 인간이 만들어낸 지적 능력을 다 갖추게 된 것이지요. 하지만 무시할 수 없는 큰 문제가 있습니다. 환각(hallucination) 현상입니다. 환각 현상이 있는 AI의 결과물은 취재하지 않고 쓴 기사와 같습니다. 공허한 이야기일 수 있죠. “검색과 AI는 제로섬 관계가 아니다”는, 새로울 것 없는 말에 다시 주목한 이유가 거기에 있습니다. 'GPT-4o'와 '프로젝트 아스트라'가 사람을 현실적으로 잘 도와줄 수 있는 AI 에이전트가 되기 위해서는 반드시 취재 능력을 장착해야 한다는 생각을 한 것입니다. AI 에이전트에 취재 능력이란 무엇이겠습니까. 그렇습니다. 바로 검색입니다. 가장 정확한 최신의 정보를 찾아내는 능력이 요구될 것입니다. 팩트가 결정적으로 중요하지 않는 AI의 영역이 있기는 할 것입니다. 놀이와 일부 창작의 영역이 그럴 수 있을 것입니다. 하지만 AI가 생산성을 높여야 하는 노동이나 쇼핑 여행 등 생활을 도와주기 위해서는 팩트 취재가 핵심일 수밖에 없을 것입니다. AI 이전에도 더 정확한 최신 정보를 찾아주는 검색 도구를 선호했듯이 인공지능 비서에게도 그런 능력을 최고의 가치로 쳐줄 가능성이 높은 것입니다. 기술적으로는 '검색 증강 생성', 즉 RAG(Retrieval-Augmented Generation)라고 하는 모양입니다. RAG는 결과적으로 'GPT-4o'나 '프로젝트 아스트라' 같은 대형 언어모델(LLM)의 입력 값을 누가 더 정확한 최신의 정보로 하느냐의 경쟁인 듯도 합니다. 이 경쟁은 한 순간에 결판이 나지는 않을 듯합니다. 앞으로 수년간 이용자가 실제로 사용하면서 그 효능을 느끼고 판단하면서 결과가 드러나게 되겠지요. AI 시대에도 검색 기술은 과소평가될 수 없으며 오히려 더 중요해졌다는 말로도 이해됩니다. 콘텐츠도 더 소중해질 것 같습니다. 특히 콘텐츠의 질(質)이 더 부각될 듯도 합니다. 오픈AI나 구글 같은 회사가 가치가 낮은 콘텐츠보다 관점 경험 전문성 등에서 더 훌륭한 콘텐츠를 취재하도록 'GPT-4o'나 '프로젝트 아스트라' 같은 언어모델을 발전시킬 가능성이 높기 때문이죠. 사람이 그걸 원할 테니까요.

2024.05.20 10:41이균성

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

2나노에 묶인 삼성 '엑시노스' 로드맵…최적화가 성패 가른다

서로 닮아가는 채용 플랫폼…데이팅·사주로 차별화 꾀하기도

작고 강하게…한국형 '로봇 손' 주도권 놓고 각축전

"따로 또 같이"...글로벌 서비스 ‘라인’은 현지화+기술통합 어떻게 하나

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.