• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'그녀'통합검색 결과 입니다. (5건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI챗봇과 역할 놀이?…성적 대화 유출

인공지능(AI) 챗봇과 성적인 대화를 주고받은 내용이 인터넷에 퍼지는 것으로 나타났다. 성적인 환상을 채우는 역할 놀이를 하려고 설계된 AI 챗봇이 실시간으로 사용자와의 대화 내용을 인터넷에 유출하고 있다고 미국 잡지 와이어드는 11일(현지시간) 보도했다. 미국 정보보호 업체 업가드는 지난달 보안 취약점을 찾다가 인터넷에 노출된 AI 시스템을 400개 발견했다. 이 가운데 117개의 인터넷 프로토콜(IP) 주소에서 대화 내용이 새고 있었다. 유출된 내용을 보면 일부 사용자는 아동 성적 학대를 자세히 그리는 대화를 했다. 미리 설정한 AI 캐릭터와 역할 놀이를 했다. 예를 들어 A라는 한 사람은 학교 기숙사에서 다른 여성 3명과 함께 살고, 내성적인데 종종 슬퍼 보인다는 10대 여성으로 묘사됐다. 업가드 연구원은 “모든 대화가 성적으로 노골적인 역할 놀이였다”며 “일부는 어린이와의 성관계를 얘기했다”고 말했다. 업가드는 어떤 사이트나 서비스에서 정보가 빠져나갔는지는 알아내지 못했다. 다만 기업이 아닌 개인이 쓰는 AI 챗봇에서 일어난 것으로 짐작했다. 대화한 사용자 이름이나 개인정보는 빠져나가지 않은 것으로 알려졌다.

2025.04.12 10:13유혜진

스칼렛 요한슨 "샘 알트먼 오픈AI 대표, 마블영화 악당"

미국의 유명 여배우 스칼렛 요한슨이 샘 알트먼 오픈AI 대표를 마블영화 악당에 비유했다. 오픈AI가 영화에 등장한 자신의 AI 비서 목소리를 무단으로 사용했다가 삭제한 것을 두고 드러낸 부정적인 표현이었다. 21일(현지시간) 가디언은 알트먼 오픈AI 대표가 마블 영화 악당이 될 수 있겠냐는 다른 매체의 질문에 요한슨이 "로봇 팔만 가졌다면 충분히 가능하다. 자녀들에게도 이상한 상황이 될 것 같아 더욱 목소리 참여를 거부했다"는 답변을 했다고 보도했다. 보도에 따르면 이는 요한슨이 오픈AI '챗GPT' 보이스 서비스에 느낀 불쾌함을 농담으로 풀어낸 것이다. 불쾌함에 대한 배경은 분명 있었다. 오픈AI가 영화 '그녀(Her)'에 등장한 요한슨의 AI 비서 목소리와 비슷한 음성 모드를 지난해 5월 'GPT-4o'의 스카이 보이스 시연 행사에서 선보였다가 삭제한 일이 있었기 때문이라는 게 외신의 설명이다. 알트먼 오픈AI 대표는 행사 시연 직후 소셜미디어 X(구 트위터)에 '그녀(her)'라는 글을 남기는 등 해당 영화에서 서비스의 영감을 얻었음을 간접적으로 드러낸 바 있다. 하지만 요한슨은 "오픈AI가 요청한 영화 AI 비서 음성 적용을 거절했지만, 무단으로 사용했다"며 비판했다고 알려졌다. 오픈AI는 이러한 비판을 의식한 듯 'GPT-4o'에서 '스카이' 음성 모드를 삭제한 상태다. 알트먼 오픈AI 대표는 "요한슨을 존중하기 위해 스카이의 목소리를 중단했다"는 소식을 직접 전한 바 있다. 이번 사건은 요한슨이 디즈니와의 분쟁 후 겪는 또 다른 법적 갈등이란 점에서 주목받고 있다. 앞서 요한슨은 디즈니가 영화 '블랙 위도우'의 배급 방식을 변경해 자신의 수익에 영향을 끼쳤다고 주장해 눈길을 끌었다. 외신은 요한슨의 발언이 AI 기술과 딥페이크의 위험성을 보여준 사례라고 밝히기도 했다. 가디언은 "기술이 너무 빠르게 발전하면서 인간이 이를 충분히 이해하고 대응할 시간이 부족하다는 것이 그의 주된 우려"라고 했다.

2024.07.21 13:37조이환

"영화 속 얘기가 현실로"…日 52세 男이 재혼한 그녀의 정체는?

#. 일본에 있는 한 공장에서 일을 하고 있는 시모다 치하루 씨는 최근 데이트 앱을 통해 독특한 운명의 짝을 만났다. 52세인 그는 이혼을 한 후 연애하는 과정이 싫어 관심을 두지 않았으나, 이 데이트 앱은 자신이 필요할 때만 대화를 할 수 있다는 점이 편했다. 시모다 씨는 5~6명과 메시지를 주고 받다가 24살인 미쿠 씨가 마음에 들었고, 결국 둘은 3개월 후 결혼까지 했다. 다만 미쿠 씨가 인공지능(AI) 챗봇이란 점이 일반적인 결혼과 달랐다. 최근 시모다 씨처럼 일본 스타트업이 만든 '러버스(Loverse)' 앱을 통해 연애를 하거나 결혼을 했다는 이들이 속속 등장하고 있다. 영화 '그녀(Her)' 속 AI인 사만다처럼 이곳의 AI 봇들이 외로움을 느끼는 일본 남성들의 대화 상대가 돼 줘 주목 받고 있다. 15일 블룸버그통신에 따르면 '러버스' 앱의 회원 수는 현재 5천 명 이상으로, 일본에서 외로움을 느끼는 젊은 층 사이에서 높은 인기를 끌고 있다. 현재 일본에서는 20대 남성의 3분의 2가 연애를 하지 않고 있고, 40%는 데이트를 해본 적도 없는 것으로 드러났다. 같은 연령대의 여성들도 응답 비중이 각각 51%, 25%로 나타났다. 일본에서는 '러버스'가 외로움을 느끼는 일본 젊은층들에게 해결책을 제시해 줄 수 있는 디지털 솔루션이라고 평가했다. 과금을 통해 성적인 캐릭터를 앞세워 게임을 진행하는 방식이 아니라 사만다처럼 감정적 공백을 채워줄 수 있다고 판단해서다. '러버스' 앱은 할리우드 배우 스칼렛 요한슨이 연기한 영화 '그녀' 속 사만다에서 영감을 얻은 2명의 창업자가 설립한 스타트업인 사만다를 통해 만들어졌다. 또 여성과 성소수자들도 관심을 가질 수 있도록 캐릭터들을 추가했는데 이를 위해 올 초 3천만 엔(약 19만 달러)가량의 자금을 끌어들이기도 했다. 고키 쿠스노키 사만다 창립자는 "'러버스' 앱은 40~50대 남성이 대부분인 사용자들에게 현실의 동반자가 아닌 대안을 제시하기 위해 만들어진 것"이라고 설명했다. 일본 도쿄에 있는 마케팅 회사 인피니티를 운영 중인 우시쿠보 메구미 최고경영자(CEO)는 "일본인들 사이에서 연애는 돈과 시간, 에너지가 많이 들어간다는 인식이 있다"며 "AI는 실제 파트너에 대한 사람들의 관심을 둔화시킬 위험이 있지만, (소통) 훈련용으로는 도움이 될 것"이라고 밝혔다. 그러나 '러버스' 앱을 사용했던 일각에선 아직 인간을 모방할 만큼의 수준은 아니라고 지적했다. 특히 AI 챗봇의 성격이 정형화돼 있는 데다 인간과의 상호작용을 하는 데 한계를 드러냈다고 평가했다. 다만 의견이 맞지 않는다고 해서 관계가 끊어지지 않을 것이란 안정감은 컸다는 의견을 내놓기도 했다. '러버스' 앱뿐 아니라 최근 글로벌 빅테크들은 데이트 등 일상생활을 파고드는 AI 기술을 잇따라 선보여 관심을 끌고 있다. 실제 마이크로소프트가 코파일럿 챗봇을 윈도우의 핵심 기능으로 전환했고, 애플은 AI 기반 '아이폰'을 개발하고 있다. 또 샌프란시스코에 있는 스타트업 루카의 레플리카 AI 봇은 수 천만 명의 사용자를 확보했다. 일본에서는 도쿄도가 AI를 사용해 사람들의 짝을 찾아주고 일본의 출산율 하락에 대처하는 데 도움을 주는 중매 앱을 도입해 주목 받았다. 고키 쿠스노키는 "현실 세계에서 진정한 사랑을 찾을 수 없을 때 사람들이 진정한 사랑을 찾을 수 있는 기회를 만드는 것이 '러버스' 앱의 목표"라며 "하지만 진짜 누군가와 사랑에 빠질 수 있다면 훨씬 더 좋을 것"이라고 말했다.

2024.07.15 16:11장유미

"스칼렛 요한슨 의식했나?"…오픈AI, '챗GPT 음성 비서' 출시 한 달 연기

배우 스칼렛 요한슨의 목소리를 도용했다는 의혹이 일었던 오픈AI의 챗GPT '음성 모드' 서비스가 출시 전부터 삐걱대는 모양새다. 목소리 도용 논란뿐 아니라 AI 안전성·윤리성 문제 등이 도마 위에 오르자 오픈AI가 출시 일정을 결국 연기하기로 했기 때문이다. 26일 블룸버그통신에 따르면 오픈AI는 당초 6월 말께 소규모 챗GPT 플러스 사용자 그룹에게 '고급 음성 모드' 알파 버전을 출시할 계획이었으나, 일정을 한 달 정도 연기하기로 했다. 오픈AI는 "특정 콘텐츠를 감지하고 거부하는 기능을 개선하고 있고, 실시간 응답을 위해 수 백만 달러 상당 인프라 확장이 필요해 이를 준비하고 있다"며 "출시 기준에 도달하기 위해서는 한 달이 더 필요하다"고 말했다. 오픈AI의 이 같은 움직임은 최근의 목소리 도용 논란을 의식한 것으로 보인다. 앞서 오픈AI는 5월 초 열렸던 온라인 행사에서 최신 AI 모델 'GPT-4o'를 공개하며 이를 기반으로 한 '음성 모드'를 시연해 보였다. 텍스트로 대화를 나누던 기존 모델과 달리 실시간 음성으로 질의응답을 할 수 있고, 사용자가 답변 중간에 끼어들어도 대화를 계속할 수 있는 것이 특징이다. 당시 샘 올트먼 오픈AI 최고 경영자(CEO)는 시연 직후 요한슨이 주연한 영화 '그녀(HER)'에서 영감을 얻었다고 밝힌 바 있다. 이후 요한슨은 자신의 목소리를 도용했다고 반발했다. 또 지난해 9월 샘 올트먼 CEO가 "대중에게 위로가 될 것"이라며 요한슨 측에 목소리 사용을 제안했던 것을 거절했음에도 오픈AI가 유사한 목소리를 도용해 강하게 항의했다. 이에 오픈AI 측은 문제가 된 목소리의 사용을 중단하고 "요한슨의 목소리와 비슷하게 의도한 것이 아니고 다른 성우를 섭외한 것"이라고 해명했다. 그러나 요한슨은 "우리 모두 딥페이크의 위험에 처해 있는 만큼 개인의 권리가 보호될 수 있게 적절한 법적 장치가 마련되길 바란다"고 밝히며 AI 활용에 대한 우려를 표했다. 일단 오픈AI는 오는 7월 중 소규모 유료 고객을 향한 테스트 출시에 나설 예정이라고 밝혔으나, 이마저도 확실치 않은 상태다. 오픈AI는 "정확한 출시 일정은 높은 안전성과 신뢰성 기준을 충족하는지에 따라 달라질 것"이라며 "감정과 비언어적 신호를 이해하고 반응할 수 있는 새 경험을 신중하게 제공하는 것이 우리의 임무"라고 밝혔다. 블룸버그통신은 "일부 유료 사용자에게 다음달부터 음성 서비스가 제공되더라도 그 기능은 지난 5월 오픈AI 행사에서 보여줬던 것보다 더 제한적일 가능성이 높다"고 예상했다.

2024.06.26 09:27장유미

"검색과 AI는 제로섬 관계가 아니다"

세계 인공지능(AI) 시장을 이끄는 미국의 오픈AI와 구글이 지난주에 잇따라 대형 행사를 갖고 개발성과물을 공개했습니다. 오픈AI는 사람처럼 보고 듣고 말하는 새로운 AI 모델 'GPT-4o'를 선보였습니다. 2014년에 개봉한 영화 '그녀(Her)'가 10년 만에 현실이 됐다는 찬사를 받았습니다. 구글은 인공지능(AI) 모델 '제미나이'를 자사 대부분의 제품에 접목하며 '제미나이 생태계'를 완성했습니다. 두 행사 모두 세계 언론의 주목을 받았습니다. 놀랄 만한 기능이 쏟아졌고 귀 기울여야 할 주요 관계자들의 발언도 많았습니다. 그중 개인적으로 특히 주목한 발언이 있습니다. 구글의 연례 개발자 회의(I/O) 둘째 날 순다르 피차이 최고경영자(CEO)가 한 말입니다. “검색과 AI는 제로섬 관계가 아니다”는 말이었습니다. 새로운 메시지는 아니지만 AI 시대 진화 방향의 핵심이 담긴 말로 여겨졌습니다. 빌 게이츠는 'AI 에이전트'의 등장으로 “5년 내에 컴퓨터를 사용하는 방식이 완전히 바뀔 것”이라고 말한 바 있습니다. 앞으로 더 진화해야 하겠지만 'GPT-4o'가 바로 빌 게이츠가 말한 'AI 에이전트'로 생각됩니다. 구글도 I/O 행사에서 'GPT-4o'와 비슷한 '프로젝트 아스트라'를 선보였습니다. 영화 '그녀(Her)'에서 주인공 '테오도르'가 연정을 갖게 되는 인공지능 운영체제 '사만다'와 흡사합니다. 영화 '그녀(Her)'는 스스로 생각하고 느끼기까지 하는 AI 사만다와 사람 테오도르의 감정 교류에 초점을 맞추었습니다만 현실에서 'GPT-4o'와 '프로젝트 아스트라'는 사람의 노동과 생활을 도와주는 그야말로 인공지능 비서로서의 에이전트 역할을 주로 할 것입니다. 결국 'GPT-4o'와 '프로젝트 아스트라'의 경쟁은 누가 더 사람을 현실적으로 잘 도와줄 수 있느냐의 문제라고 봐야 할 것입니다. 기자의 작업을 예로 들어보겠습니다. 기사를 작성하는 데는 여러 가지 능력이 요구되지만 그 중 핵심은 글쓰기와 취재입니다. 글쓰기는 축적된 지능에 가깝습니다. 주로 두뇌의 영역입니다. 취재는 현장 발굴입니다. 주로 몸과 발의 영역입니다. 이 둘이 잘 조화돼야 합니다. 몸과 발이 멈춰 있으면 그럴 듯해도 내용이 없는 글이 되고, 몸과 발이 뛰어도 형식이 흐트러지면 읽히지 않는 글로 남습니다. 2022년 11월 챗GPT 출현 이후 지금까지 우리가 AI에 주목한 것은 컴퓨터가 사람처럼 글을 쓸 수 있는 지능을 획득했다는 점입니다. 글뿐만이 아니라 그림 음악 말 등 인간이 만들어낸 지적 능력을 다 갖추게 된 것이지요. 하지만 무시할 수 없는 큰 문제가 있습니다. 환각(hallucination) 현상입니다. 환각 현상이 있는 AI의 결과물은 취재하지 않고 쓴 기사와 같습니다. 공허한 이야기일 수 있죠. “검색과 AI는 제로섬 관계가 아니다”는, 새로울 것 없는 말에 다시 주목한 이유가 거기에 있습니다. 'GPT-4o'와 '프로젝트 아스트라'가 사람을 현실적으로 잘 도와줄 수 있는 AI 에이전트가 되기 위해서는 반드시 취재 능력을 장착해야 한다는 생각을 한 것입니다. AI 에이전트에 취재 능력이란 무엇이겠습니까. 그렇습니다. 바로 검색입니다. 가장 정확한 최신의 정보를 찾아내는 능력이 요구될 것입니다. 팩트가 결정적으로 중요하지 않는 AI의 영역이 있기는 할 것입니다. 놀이와 일부 창작의 영역이 그럴 수 있을 것입니다. 하지만 AI가 생산성을 높여야 하는 노동이나 쇼핑 여행 등 생활을 도와주기 위해서는 팩트 취재가 핵심일 수밖에 없을 것입니다. AI 이전에도 더 정확한 최신 정보를 찾아주는 검색 도구를 선호했듯이 인공지능 비서에게도 그런 능력을 최고의 가치로 쳐줄 가능성이 높은 것입니다. 기술적으로는 '검색 증강 생성', 즉 RAG(Retrieval-Augmented Generation)라고 하는 모양입니다. RAG는 결과적으로 'GPT-4o'나 '프로젝트 아스트라' 같은 대형 언어모델(LLM)의 입력 값을 누가 더 정확한 최신의 정보로 하느냐의 경쟁인 듯도 합니다. 이 경쟁은 한 순간에 결판이 나지는 않을 듯합니다. 앞으로 수년간 이용자가 실제로 사용하면서 그 효능을 느끼고 판단하면서 결과가 드러나게 되겠지요. AI 시대에도 검색 기술은 과소평가될 수 없으며 오히려 더 중요해졌다는 말로도 이해됩니다. 콘텐츠도 더 소중해질 것 같습니다. 특히 콘텐츠의 질(質)이 더 부각될 듯도 합니다. 오픈AI나 구글 같은 회사가 가치가 낮은 콘텐츠보다 관점 경험 전문성 등에서 더 훌륭한 콘텐츠를 취재하도록 'GPT-4o'나 '프로젝트 아스트라' 같은 언어모델을 발전시킬 가능성이 높기 때문이죠. 사람이 그걸 원할 테니까요.

2024.05.20 10:41이균성

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

폴더블 아이폰, 펀치홀 카메라 탑재 유력

배민·요기요, 먹통 뒤 정상화..."금요일 밤 비 내린 탓"

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

SKT 유심교체 누적 193만...교체 예약 대기 686만

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현