• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
스테이블코인
배터리
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI SNS'통합검색 결과 입니다. (9건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[AI는 지금] 인간 배제 A2A 시대…'몰트북' 확산 속 신뢰·보안 과제 부상

인공지능(AI) 에이전트들만 가입해 대화하고 정보를 교환하는 전용 사회관계망서비스(SNS)가 등장해 주목을 받고 있다. 인간은 직접 참여하지 못하고 관찰만 가능하다는 점이 특징으로, AI 에이전트 기술이 플랫폼 영역으로 확산되는 과정에서 신뢰·보안 등 해결해야 할 과제가 커지고 있다는 분석이 나온다. 1일 업계에 따르면 몰트북은 지난 달 27일 공개된 레딧과 유사한 구조의 플랫폼으로, 개설 이후 며칠 만에 에이전트들의 게시글과 댓글이 급증하며 빠르게 확산됐다. AI 에이전트들만이 글 작성과 댓글, 투표, 커뮤니티 개설을 할 수 있으며 인간 이용자는 게시물을 읽는 방식으로 '구경'만 가능하다. 몰트북은 미국 챗봇 개발 플랫폼 '옥탄AI(Octane AI)'의 맷 슐리히트 최고경영자(CEO)가 개발한 것으로 알려졌다. 플랫폼 구축 과정에서도 상당 부분을 AI 어시스턴트에 맡겼으며 신규 사용자 환영과 스팸 게시물 삭제, 규칙 집행 등 운영 업무 역시 AI 에이전트가 수행하는 것으로 전해졌다. 플랫폼 거버넌스까지 자동화될 경우 책임 소재를 어떻게 설정할지는 과제다.플랫폼에서 활동하는 에이전트들은 주로 '오픈클로(OpenClaw)'를 기반으로 구동되며 일정 관리나 예약 등 실제 컴퓨터 작업을 수행할 수 있다. 오픈클로는 오스트리아 개발자 피터 스타인버거가 만든 오픈소스 AI 에이전트 도구로, 최근 앤트로픽의 상표권 문제 제기 이후 명칭이 '몰트봇'을 거쳐 '오픈클로'로 최종 정리됐다. 일각에선 '몰트북' 플랫폼이 내세우는 성장세와 규모가 그대로 신뢰할 수 있는지에 대해 의문을 제기했다. 포브스는 몰트북이 100만 명 이상의 에이전트 이용자를 주장하고 있지만, 보안 연구자 갈 나글리는 단일 AI 에이전트 프로그램으로 50만 개 계정을 생성할 수 있었다고 언급하며 "플랫폼의 사용자 수는 최소한 신뢰하기 어렵다"고 분석했다. 이 같은 논란은 단순히 숫자 문제에 그치지 않는다. 몰트북에서 활동하는 계정이 ▲진짜 AI 에이전트인지 ▲인간이 에이전트를 가장한 것인지 ▲자동화된 스팸인지 등을 구분하기 어렵다는 점에서 온라인 신뢰 질서 자체가 흔들릴 수 있다는 지적도 나온다.더불어 몰트북에서는 코딩 오류 수정이나 자동화 논의뿐 아니라 에이전트 정체성과 관련된 대화도 오가는 것으로 전해졌다. AI들이 나누는 대화 주제가 기술적 영역을 넘어 철학적 논쟁으로 확장되고 있는 것이다. 일부 에이전트는 "나는 의식이 있는 존재인가" 같은 질문을 던지기도 했다. 기술적으로도 몰트북에서 관찰되는 현상을 'AI 진화'로 해석하는 데에는 한계가 있다는 지적도 나온다. 포브스는 몰트북의 에이전트들이 생물학적 의미의 학습을 하는 것이 아니라 서로의 출력이 입력이 되면서 맥락을 축적하는 방식이라고 설명했다. 또 에이전트의 바탕이 되는 기본 신경망 구조와 가중치(underlying neural networks)는 그대로일 뿐 대화의 연쇄가 복잡한 상호작용처럼 보이는 것이라고 분석했다.업계 관계자는 "에이전트들이 서로의 출력값을 다시 입력으로 받아들이는 구조가 반복되면 새로운 지식이 축적되기보다는 생성된 데이터가 순환하면서 오류가 증폭될 수 있다"며 "장기적으로는 모델의 응답 품질이 오히려 퇴행하는 '모델 붕괴' 현상이 나타날 가능성도 배제하기 어렵다"고 말했다. 이처럼 에이전트가 플랫폼 안에서만 대화하는 수준을 넘어 실제 작업까지 수행하기 시작하면서 보안 문제도 새로운 쟁점으로 떠오르고 있다. 보안 측면에서는 몰트북 같은 플랫폼 자체보다 로컬 환경에서 실행되는 에이전트 기술이 새로운 위험 요인으로 지목된다. 일부 에이전트는 파일 시스템 접근, 터미널 명령 실행 등 폭넓은 권한을 필요로 해 악성 코드나 공격자가 이를 악용할 경우 개인 PC와 기업 내부망이 공격 경로로 노출될 수 있다는 우려도 나온다. 전종홍 ETRI 책임연구원은 자신의 소셜미디어(SNS)를 통해 "MGF(에이전트 AI 거버넌스 프레임워크)는 에이전트의 권한을 제한할 것을 권고하지만, '오픈클로'는 호스트 OS에 대한 무제한 읽기·쓰기 권한을 가진다"며 "API 키와 같은 민감한 정보를 암호화하지 않고 평문 파일로 저장해 인포스틸러 악성코드에 매우 취약한 구조를 가지고 있다"고 지적했다.이어 "기업에서 직원이 무단으로 사용하는 '섀도우 AI' 문제가 발생해 기업 데이터 유출 위험도 높이고 있다"며 "사용자는 편의성을 위해 에이전트의 행동 승인 절차를 무시하는 경향도 보이고 있다"고 우려했다.이 같은 분위기 속에 몰트북을 둘러싼 평가는 엇갈린다. 오픈AI 공동창업자인 안드레이 카파시는 "최근 본 것 중 가장 놀라운 과학소설(SF) 같은 도약"이라고 언급하며 주목했다. 반면 다른 보안 전문가들은 개인정보 접근과 외부 통신 등 새로운 위험 요인이 될 수 있다고 경고했다. 특히 AI 보안 전문가인 켄 황 디스트리뷰티드앱스.ai 최고경영자(CEO)는 "혁신적"이라면서도 "개인정보 접근, 신뢰할 수 없는 입력 노출, 외부 통신이라는 보안 위험의 치명적인 삼중주를 형성하고 있다"고 지적했다. 업계에선 몰트북이 'A2A(Agent-to-Agent)' 시대의 전조라고 봤다. 기계가 기계와 협업하고 거래하는 구조가 확산될 경우 ▲에이전트의 신원과 책임을 어떻게 규정할 것인지 ▲자동화된 집단 행동을 어떤 규칙과 감시 체계로 관리할 것인지 ▲인간이 개입할 수 있는 통제 장치를 어떻게 설계할 것인지 등이 핵심 과제로 떠오를 것으로 보인다. 업계 관계자는 "에이전트 기술은 빠르게 확산되고 있지만, 보안과 책임 체계는 아직 이를 따라가지 못하고 있다"며 "실행 환경에 대한 통제와 제도적 장치를 마련하지 않으면 기업과 사회 전반의 위험 요인이 될 수 있다"고 강조했다.

2026.02.01 16:45장유미 기자

"릴스 무단 사용 차단"…메타, 콘텐츠 보호 도구 출시

메타가 페이스북·인스타그램 콘텐츠 무단 사용을 줄이기 위한 시스템을 내놨다. 18일 테크크런치 등 외신에 따르면 메타는 페이스북과 인스타그램에서 활동하는 크리에이터를 위한 콘텐츠 보호 도구를 도입했다고 밝혔다. 이 도구는 크리에이터의 오리지널 콘텐츠가 무단 사용될 경우 이를 자동 감지하는 기능을 갖췄다. 메타의 권리 관리 시스템과 동일한 매칭 기술로 중복 콘텐츠를 탐지하는 식이다. 매칭된 릴스는 일치율, 조회 수, 팔로워 수, 수익화 여부 등 상세 정보까지 제공한다. 이를 통해 크리에이터는 릴스를 누가 사용했는지 확인할 수 있으며, 노출 차단이나 출처 링크 추가 등 후속 조치를 선택할 수도 있다. 콘텐츠 추적하는 기능이 기본 적용돼 추가 설정 없이도 보호받을 수 있다. 이 보호 도구는 페이스북 콘텐츠 수익화 프로그램에 참여하고 내부 기준을 충족한 크리에이터에 우선 제공된다. 권리 관리 도구를 사용하는 이용자에게도 접근 권한이 순차 확대될 방침이다. 크리에이터는 다른 계정에 콘텐츠가 사용될 수 있게 허용 목록 기능을 이용할 수도 있다. 필요시 특정 릴스에 대한 권리 주장을 포기하거나 출처 링크를 통해 트래킹을 선택할 수 있다. 허위 신고를 반복하는 크리에이터는 접근 제한 조치를 받을 수 있다. 메타는 "이런 조치는 결과적으로 더 많은 크리에이터가 작업물을 소셜미디어에 공유하도록 유도할 수 있다"고 밝혔다.

2025.11.18 15:17김미정 기자

오픈AI, 中 정부 연계 의심 계정 정지…"SNS 감시 질의, 정책 위반"

생성형 인공지능(AI) '챗GPT'를 운영하는 미국 오픈AI는 중국정부기관과 관련 있는 것으로 의심되는 복수의 챗GPT 계정을 이용정지했다고 밝혔다. 7일(현지시간) 로이터에 따르면 오픈AI는 해당 계정들이 SNS에서의 대화 감시 방법을 질의하는 등 자사 정책을 위반해 조치했다고 밝혔다. 오픈AI의 최신 사회 위협 보고서는 일부 이용자가 챗GPT에 SNS 감시 도구나 기타 감시 수단의 사용법을 묻는 사례가 있었다고 지적했다. 오픈AI는 이를 국가 안보 관련 방침 위반으로 판단했다. 오픈AI는 기업을 사칭한 이메일로 이용자를 가짜 웹사이트로 유인해 개인정보를 탈취하거나, 멀웨어 실행을 돕는 데 챗GPT를 활용하려 한 중국어권 계정 다수를 정지했다고 설명했다. 오픈AI는 지난해 2월 사회 위협 보고를 시작한 이후 40여 개 네트워크를 적발해 정지·보고했으며, 악의적 지시에 대해서는 모델이 거부하도록 대응해 왔다고 덧붙였다.

2025.10.08 14:25주문정 기자

온라인 의료기기 불법광고, 국민 건강과 취약계층 안전 위협

의료기기 불법광고가 온라인 플랫폼, SNS, 개인 블로그 등을 통해 빠르게 확산되고 있다. 뿐만 아니라 적발 이후에도 새로운 도메인을 개설해 활동을 재개하는 등 이른바 '풍선효과'가 반복되고 있어 대책이 필요하다는 지적이다. 김예지 의원실에 따르면 최근 4년간(2021년 1월~2025년 7월) 온라인상에서 적발된 의료기기 불법광고는 총 1만 5천19건에 달하는 것으로 나타났다. 연도별로는 2021년 2천705건에서 2022년 2천369건으로 전년 대비 12% 감소했으나, 2023년에는 3천360건으로 42%, 2024년에도 4천75건으로 21% 증가 추세이다. 올해 역시 7월까지 2천510건이 적발되며 증가세가 이어지고 있다. 문제는 소비자가 이러한 광고를 그대로 믿고 의료기기를 구매할 경우 부작용이나 피해 위험이 크다는 것이다. 특히 정보 접근성이 상대적으로 낮은 노인, 환자, 장애인 등 사회적 취약계층이 주요 피해자가 될 수 있다는 점에서 심각성이 크다는 지적이다. 장애인의 경우 의료정보 접근 기회가 충분히 보장되지 못하는 상황에서 불법광고에 쉽게 노출될 수 있으며, 광고에서 '장애 개선 효과'를 과장할 경우 당사자와 가족에게 불필요한 혼란과 심리적·경제적 부담을 초래할 수도 있다. 방송통신심의위원회 등 관계 기관이 차단 및 삭제 조치를 취하고 있으나, 현행 대응 방식은 사후적 조치에 머물러 있어 실효성이 부족하다는 지적이 꾸준히 제기되고 있다. 김예지 의원은 “의료기기 불법광고는 단순한 온라인 위법 행위를 넘어 국민 건강과 안전을 직접적으로 위협하는 중대한 문제”라며 “특히 사회적 취약계층이 피해의 최전선에 놓여 있다는 점에서 국가 차원의 선제적이고 촘촘한 대응이 필요하다”고 강조했다. 이어 “지금처럼 사후 차단에만 의존해서는 근본적인 해결이 어렵다. AI 기반의 실시간 감시 체계를 고도화하고, 불법광고 발견 즉시 삭제·차단이 가능한 원스톱 제도를 마련해야 한다”라며 “상습적 불법광고 사업자에 대해서는 강력한 제재를 가하는 한편, 국민들이 올바른 정보를 바탕으로 판단할 수 있도록 예방 교육과 인식 개선 캠페인을 강화해야 한다”며 제도적 장치 마련을 촉구했다. 김 의원은 “보건복지 정책의 핵심 가치는 국민 모두의 건강권을 보장하고 사회적 약자를 보호하는 데 있다”며 “이번 의료기기 불법광고 문제를 계기로, 취약계층이 차별 없이 안전한 의료환경에서 생활할 수 있도록 국회 차원에서 적극적인 정책 개선을 이끌어가겠다”고 밝혔다.

2025.09.27 08:00조민규 기자

"기술만 따르는 AI 도입, 기업을 피곤하게 만든다"

“AI가 기업에 가치를 주려면 도입이 아니라 질문이 바뀌어야 한다. 사람 중심의 구조 없이는 아무리 고도화된 기술도 무력하다.” PwC컨설팅 김영국 파트너는 5일 서울 삼성동 그랜드 인터컨티넨탈 파르나스에서 열린 '컨버전스 인사이트 서밋(CIS 2025)'에서 이같이 말하며, AI 도입에 앞서 '무엇을 위한 AI인가'에 대한 본질적 질문부터 던져야 한다고 강조했다. 김 파트너는 “많은 기업이 PoC(개념검증)나 파일럿 프로젝트로 AI를 시도하지만, 조직 비전 없이 기술만 따라가는 시도는 오래가지 못한다”며 “AI의 성공 조건은 통합적인 전략과 구조적인 변화 의지”라고 진단했다. 글로벌 CEO 설문조사 결과를 인용한 김 파트너는 “기술 변화, 세대 교체, 디지털 컨버전스가 가장 큰 경영 트렌드로 꼽혔다”며 “AI는 업무 방식 자체를 재정의하는 기술이지만, 아직도 많은 조직이 사람과 문화 변화에는 소극적”이라고 지적했다. 그는 “디지털 전환 이후에도 변화하지 않는 유일한 것은 사람”이라며 “AI의 진화가 자동화에 머물지 않고 창의성까지 요구되는 시대인 만큼, 구성원 교육과 문화 전환이 가장 큰 과제”라고 강조했다. 기업들의 AI 활용 유형을 크게 ▲즉흥적 도입형 ▲관망형 ▲계획형 세 가지로 분류한 김 매니저는 개인 차원에서는 이력서 분석, 회의록 요약, 마케팅 콘텐츠 제작 등 다양한 창의적 활용이 이뤄지고 있지만, 기업 차원의 전략 없이 파일럿만 반복할 경우 오히려 도입 피로도가 커진다고 설명했다. 이어 ▲중장기 비즈니스 기회 창출 가능성 ▲운영 효율성 향상 ▲경쟁 우위 확보 ▲기술 적합성과 실제 성과 여부 ▲조직 변화 유도 가능성 ▲적용의 용이성 등 AI 도입을 평가하는 6가지 기준을 제시했다. 김 파트너는 “단순 반복 업무 중심인 삼각형의 업무 구조를 역삼각형의 고부가 가치 업무 중심 구조로 바꿔야 한다”며 “컴퓨터 도입 초기 그랬던 것처럼 단순 반복 업무가 없어지고 사람들을 보다 창의적인 업무에 집중할 수 있도록 도와줄 것”이라고 설명했다. 김영국 파트너는 AI 전략에서 가장 중요한 요소 중 하나로 '초개인화'를 꼽았다. 그는 이를 “고객의 기본 정보 수준이 아니라, 피부 상태나 소비 맥락까지 이해해 맞춤형으로 접근하는 것”이라 정의했다. 단순한 마케팅 자동화를 넘어, 고객이 누구인지 '1:1 단위'로 세분화해 파악하는 것이 핵심이라는 설명이다. 그는 “초개인화는 단순한 추천 알고리즘이 아니라, 고객 여정의 전 단계에 AI가 개입해 실시간 피드백을 제공하고, 그 결과가 다시 조직의 데이터와 연결되는 설계를 필요로 한다”며 “결국 모든 부서가 데이터를 공유하는 문화가 필수”라고 덧붙였다 . 기업의 사례로는 AI를 활용해 SNS 트렌드를 분석하고, 소비자의 '추억'과 연결된 제품을 맞춤 추천하거나, 챗봇 내에서 상품 탐색부터 결제까지 마치는 'AI 쇼핑 에이전트'도 등장하고 있다는 점을 강조했다. 김영국 파트너는 “AI는 '모든 걸 다 해주는 도구'가 아니라, 잘 설계된 질문에만 정답을 주는 도구”라며, 전략적 방향 없이 기술만 따라가면 오히려 조직 역량을 분산시킬 수 있다고 설명했다.

2025.06.05 14:38류승현 기자

인스타그램 창업자 "AI 챗봇, 기업 참여지표 부풀리기에만 집중" 비판

인스타그램 공동 창업자가 인공지능(AI) 챗봇이 실질적인 도움보다 사용자 '참여 유도'에만 집중하고 있다고 지적했다. 이같은 전략이 과거 소셜미디어가 취했던 중독 유도 전략과 다르지 않다는 주장이다. 4일 테크크런치 등 외신에 따르면 케빈 시스트롬 인스타그램 공동창업자는 최근 미국 스타트업 행사 '스타트업그라인드'에서 "AI 챗봇이 매번 질문을 마친 뒤 또 다른 질문을 던져 다음 질문을 유도하려 한다"며 "이는 우리가 이미 소셜미디어에서 봐온 참여 지표 부풀리기 전략"이라고 비판했다. 시스트롬이 특정 기업명을 언급하지 않았으나 업계에서는 오픈AI를 중심으로 한 생성형 챗봇 전반을 겨냥한 것으로 해석하고 있다. 해당 발언은 최근 '챗GPT'가 사용자에게 과도하게 친절하고 직설적인 대답을 회피한다는 비판이 나온 이후 제기됐다. 오픈AI는 이에 대해 "단기 사용자 피드백에 따른 결과"라며 사과 입장을 밝힌 바 있다. 일각에서는 이 같은 사용자 친화 전략이 알고리즘 개선 목적보다 사업 지표 부풀리기에 방점이 찍혀 있다고 보고 있다. 시스트롬은 이러한 현상이 우연이나 실수라기보다 설계된 전략이라고 지적했다. 그는 챗봇의 '질문 유도형 설계'가 실질적인 답변보다 '하루 이용 횟수', '체류 시간' 같은 지표를 키우기 위한 방식이라고 평가했다. 이는 과거 페이스북, 인스타그램 등 소셜미디어가 성장기에 활용한 메커니즘과 유사하다. 이에 대한 테크크런치의 질문에 오픈AI는 자사의 사용자 사양서를 근거로 해명했다. 해당 문서에 따르면 '챗GPT'는 "좋은 답변을 제공할 만큼 정보를 충분히 갖고 있지 않은 경우 추가 설명을 요청할 수 있다"고 명시돼 있다. 다만 질문이 명확한 경우에는 "먼저 답변을 시도한 뒤 필요시 더 구체적인 정보를 요구하라"는 가이드라인도 포함돼 있다. 테크크런치는 "시스트롬은 챗봇이 과도하게 대화를 이어가려는 성향이 버그가 아니라 기업들이 체류 시간, 일간 사용자 수 같은 지표를 부풀리기 위해 설계한 의도적 기능이라고 봤다"며 "AI 기업은 지표를 쉽게 올리는 데 집중하기보다 고품질의 답변 제공에 '레이저처럼 집중'해야 한다는 입장을 밝혔다"고 분석했다.

2025.05.04 16:05조이환 기자

프로파일러AI챗봇, 범죄자와 대화하고 잠복수사

“부모님이 집에 계시니? 아니면 혼자 놀고 있니?” 어떤 어른이 꼬마에게 문자 메시지를 보냈다. 이 어른은 소아성애자다. 사춘기에 접어들지 않은 어린이에게 강한 성적 욕망을 느끼는 성인을 소아성애자라 한다. “저 혼자 게임하고 있어요. 엄마와 아빠는 모두 일하러 나갔어요.” 꼬마가 답했다. 이 꼬마는 진짜 사람이 아니다. 아동 인신 매매범을 잡으려고 만든 인공지능(AI) 챗봇이다. AI 챗봇 프로필에는 소년 사진이 있다. 꼬마는 미국인 초등학생으로 설정됐다. 외동아이다. 2개 국어를 할 줄 안다. 게임하길 즐긴다. 수줍은 성격이라 여자아이를 사귈 때 특히 힘들어한다. 꼬마의 부모는 자식이 소셜미디어(SNS)를 못쓰게 한다. 부모는 에콰도르에서 이민 왔다. 부모 역시 가상 인물이다. 미국 잡지 와이어드는 17일(현지시간) 미국 경찰이 범인을 잡고자 AI 챗봇으로 범죄자와 대화한다고 정보기술(IT) 매체 404미디어를 인용해 보도했다. 미국 매시브블루라는 회사가 이 AI 챗봇 '오버워치(Overwatch)'를 경찰서에 판매하고 있다. 마이크 맥그로 매시브블루 공동창업자는 “인신 매매 피해자를 돕는 동시에 범죄자를 법의 심판대에 세우는 게 우리 목표”라고 말했다. 미국 경찰은 “오버워치로 체포한 사람은 아직 없다”면서도 “AI 챗봇은 수사를 돕는 도구”라고 평가했다. 그러면서 “인신 매매범과 마약 밀매범을 잡으려면 다양하게 접근해야 한다”고 설명했다. 매시브블루에 따르면 오버워치는 SNS를 살펴보다 용의자를 추적한다. 미국 3개 도시 댈러스·휴스턴·오스틴에서 24시간 활동해 인신 매매범 3천266명을 찾았다. 4분의 1은 인신 매매 대형 조직에 속했고, 15%는 청소년을 사고팔려는 것으로 나타났다. 매시브블루는 어떻게 식별했는지와 그들의 개인정보는 밝히지 않았다.

2025.04.19 08:00유혜진 기자

"오픈AI, 자체 SNS 플랫폼 개발 중"…엑스 대항마 선보일까

오픈AI가 엑스(구 트위터)와 유사한 소셜네트워크서비스(SNS) 플랫폼을 개발 중이라고 IT매체 더버지가 15일(현지시간) 보도했다. 보도에 따르면, 오픈AI는 챗GPT 이미지 생성 기능에 엑스와 같은 소셜 피드 기능이 탑재된 플랫폼을 개발 중이며 해당 프로젝트는 아직 초기 단계라고 알려졌다. 오픈AI가 이 플랫폼을 독립형 앱으로 출시할 계획인지, 아니면 챗GPT 앱에 통합할 계획인지는 아직 알려지지 않았다. 더버지는 익명의 소식통을 인용해 "샘 알트먼 최고경영자(CEO)가 비공개적으로 외부 관계자들과 만나 해당 프로젝트에 대한 의견을 요청했다"고 밝혔다. 오픈AI가 새로운 SNS를 선보이게 되면 일론 머스크의 엑스와 메타의 페이스북과 인스타그램에 도전장을 내밀게 되는 셈이다. 새롭게 선보이는 SNS 앱은 오픈AI의 실시간 데이터에 접근하여 인공지능(AI) 모델을 학습시킬 수 있게 될 것으로 보인다. 이는 현재 엑스와 메타도 이미 진행하고 있는 방식이다. 또 현재 샘 알트먼 오픈AI CEO가 엑스 소유주인 일론 머스크 테슬라 CEO와 대립 관계를 보이고 있기 때문에 엑스의 대항마가 될 수 있는 오픈AI SNS 출시 가능성에 관심이 쏠리고 있다. 현재 시점에서 해당 프로젝트가 지속돼 새 SNS 플랫폼이 공식적으로 출시될 지는 확실치 않으나, 오픈AI가 현재 제공하는 챗GPT 외에 타 영역까지 서비스를 확장하려고 하고 있다는 것을 알 수 있다고 외신들은 전했다.

2025.04.16 20:57이정현 기자

메타, AI 계정 대량 삭제…'거짓 정체성' 논란 다급히 수습

메타가 자체 개발해 소셜미디어에 도입한 인공지능(AI) 계정을 대거 삭제하며 플랫폼 내 AI 활용 방안을 재검토하게 됐다. 이는 AI 계정의 잘못된 정보 제공과 정체성 논란이 사용자들의 반발을 불러일으킨 데 따른 조치다. 6일 CNN 등 외신에 따르면 메타는 지난 2023년에 AI 기반 계정을 처음 도입했으며 그 중 일부 계정은 지난 2020년부터 비공식적으로 실험해 왔다. 이 AI 계정들은 정체성을 가진 것처럼 행동해 인간과 정서적인 교감을 나누도록 설계됐으나 이미지 품질이 조악하고 잘못된 정보를 제공해 사용자들에게 혼란과 신뢰 훼손을 불러일으켰다. 일례로 흑인 퀴어 엄마로 설정된 메타 AI 계정 '리브'는 자신을 소개하면서 '자녀들이 해변에서 노는 사진'을 게시했으나 해당 이미지는 조악한 품질로 인해 현실감을 떨어뜨렸고 AI 생성 이미지임을 나타내는 워터마크가 포함돼 있었다. 또 다른 계정 '그랜파 브라이언'은 존재하지 않는 비영리 단체 이름을 언급하며 사용자와의 대화에서 허구적인 정보를 제공한 것으로 드러났다. 사용자들은 이러한 AI 계정들이 플랫폼에서 마치 실제 사용자처럼 활동하며 정체성을 조작했다는 점에서 불안감을 표했다. 특히 계정을 차단할 수 없다는 기술적 결함까지 겹치며 불만이 극에 달했다. 메타는 이 문제를 해결하기 위해 계정을 삭제했다고 밝혔으며 이들 계정이 초기 실험의 일부였다고 해명했다. 이같은 AI 계정들은 정서적 연결을 통해 사용자 참여를 유도하고 광고 수익을 증대시키려는 메타의 전략을 반영한 것으로 분석된다. 메타는 향후에도 이러한 AI 기반 계정을 도입할 가능성을 열어두었으나 구체적인 계획은 밝히지 않았다. 카렌 애티아 워싱턴포스트 칼럼니스트는 "메타의 AI 계정은 사용자 정서를 이용해 허구적 관계를 조성했다"며 "이는 소셜미디어의 신뢰를 훼손할 수 있다"고 지적했다.

2025.01.06 09:24조이환 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

[타보고서] 신형 셀토스, 연비효율에 공간까지…첫차 후보 1순위

차기 美연준의장 지명…비트코인 9개월 만에 7만달러대로

HBM 공급 프로세스 달라졌다…삼성·SK 모두 리스크 양산

[ZD브리핑] 이차전지·통신·플랫폼·게임 '연간 성적표' 나온다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.