검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'뉴욕주'통합검색 결과 입니다. (4건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"안전 기능 켰는데 작동 안 했다"…틱톡, 이용자 수천 명 대상 실험 의혹

틱톡이 청소년과 어린이를 포함한 수천 명을 대상으로 실제로 작동하지 않는 안전 기능을 제공하고 실험했다는 의혹이 제기됐다. 이용자들은 원치 않는 콘텐츠를 피하기 위해 추천 알고리즘을 초기화했다고 생각했지만, 일부에게는 해당 기능이 작동하지 않았다는 주장이다. 특히 틱톡이 기능 작동 여부에 따른 이용자 체류시간과 광고 수익 변화를 비교했다는 내용이 미국 뉴욕주 소송 서류에 포함되면서, 이용자 보호를 위한 안전장치마저 수익성 실험에 활용한 것 아니냐는 논란이 일고 있다. 최근 로이터통신에 따르면 미국 뉴욕주 검찰총장실은 얼마전 공개된 틱톡 상대 소송 서류에서 회사가 2023년 청소년과 어린이를 포함한 수천 명을 대상으로 이른바 '플라시보(위약) 실험'을 반복적으로 진행했다고 주장했다. 문제가 된 기능은 '알고리즘 새로고침(Algo Refresh)'이다. 이용자가 원하지 않는 콘텐츠를 계속 추천받을 경우 기존 추천 기록을 초기화하고 새로운 콘텐츠를 추천받을 수 있도록 마련된 기능이다. 그러나 소송 서류에 따르면 틱톡은 일부 이용자에게 실제로 작동하지 않는 기능을 제공하면서 정상적으로 실행된 것처럼 표시했다. 이용자들은 추천 알고리즘이 초기화됐다고 생각했지만, 실제 추천 피드에는 변화가 없었다는 것이다. 반면 다른 실험 참가자에게는 정상적으로 작동하는 기능이 제공됐다. 뉴욕주 측은 틱톡이 두 집단을 비교해 이용자 체류시간과 광고 수익에 미치는 영향을 분석했다고 주장했다. 내부 직원도 우려 제기…안전 기능 실험 반복 틱톡 내부에서도 실험 방식이 부적절하다는 문제 제기가 있었던 것으로 전해졌다. 소송 서류에 따르면 틱톡 디지털 웰빙 부문 제품 관리자는 내부 대화에서 알고리즘 새로고침 기능을 대상으로 플라시보 실험을 진행하는 것이 이용자를 오도할 수 있다고 우려했다. 해당 직원은 이 기능이 추천 알고리즘에 대한 이용자 통제권을 높이기 위해 도입됐는데, 실제로 작동하지 않는 기능을 제공하는 실험은 이러한 취지와 충돌한다고 지적한 것으로 알려졌다. 하지만 뉴욕주 측은 틱톡이 내부 우려에도 2023년 수천 명을 대상으로 실험을 반복했다고 주장했다. 또 틱톡이 알고리즘 새로고침 기능을 설명하는 방식에도 문제가 있다고 지적했다. 회사는 기능을 사용하면 추천 알고리즘이 초기화된다고 안내했지만, 실제 변화는 일시적이었다는 주장이다. 이번에 공개된 소송 서류에는 틱톡이 별도로 진행한 안전 기능 실험 관련 의혹도 담겼다. 뉴욕주 측은 틱톡이 일부 이용자를 무작위로 선정해 유해 콘텐츠 노출을 제한하는 안전 기능을 해제하는 실험을 진행했다고 주장했다. 앞서 블룸버그통신은 해당 실험에 포함된 뉴욕주 청소년이 자해와 자살 관련 콘텐츠에 반복적으로 노출된 뒤 숨진 사례를 보도한 바 있다. 그러나 해당 청소년의 사망과 틱톡 실험 사이 인과관계가 법적으로 확정된 것은 아니다. 안전 기능을 해제한 실험 역시 알고리즘 새로고침 기능을 작동하지 않도록 한 플라시보 실험과는 별개다. 틱톡 "서비스 개선 위한 테스트"…美 각 주 소송 이어져 틱톡은 서비스 개선을 위한 일반적인 기능 테스트라는 입장이다. 틱톡 대변인은 로이터에 "대부분의 기업과 마찬가지로 새로운 제품과 기능이 실제 환경에서 어떻게 작동하는지 확인하기 위해 정기적으로 테스트를 진행한다"고 밝혔다. 회사는 법원에 제출한 서류에서도 뉴욕주 측 주장을 전반적으로 부인하며 청소년 이용자 보호를 우선하고 있다고 설명했다. 이번 의혹은 레티샤 제임스 뉴욕주 검찰총장이 2024년 틱톡을 상대로 제기한 소송에서 나왔다. 뉴욕주는 틱톡이 청소년에게 중독을 유발하도록 서비스를 설계하고 안전 기능 효과를 과장했다며 소송을 제기했다. 이번 실험 관련 주장은 올해 8월 말 제출된 수정 소장에 포함됐으며, 법원 명령에 따라 관련 내용이 공개되면서 알려졌다. 틱톡은 미국 여러 주에서 청소년 보호와 관련한 소송에 직면해 있다. 지난 9월에는 앨라배마주와 소송에서 최소 1억 달러(약 1337억원)를 지급하고 청소년 대상 서비스 운영 방식을 변경하기로 합의했다. 다른 주들이 일정 조건에 따라 합의에 참여하면 지급액은 최대 3억 달러까지 늘어날 수 있다.

2026.10.08 10:55안희정 기자

미국서 확산되는 데이터센터 규제…뉴욕주, 신축 3년 중단 법안 발의

인공지능(AI) 인프라 확산으로 데이터센터 건설이 급증하는 가운데, 미국 뉴욕주에서 신규 센터 신축을 제한하려는 움직임이 본격화되고 있다. 전력망 부담과 지역사회 영향에 대한 우려가 커지면서 규제 필요성을 둘러싼 논쟁이 확산되는 분위기다. 9일 테크크런치에 따르면 뉴욕주 의원들은 데이터센터 신축·운영과 관련한 신규 허가를 최소 3년간 중단하는 내용을 담은 법안을 발의했다. 해당 법안은 데이터센터 건설이 지역 전력망과 주거 환경에 미치는 영향을 재검토하기 위한 목적으로, 실제 통과 여부는 아직 불확실한 상황이다. 법안 통과시 뉴욕주는 조지아·버몬트·버지니아 등에 이어 여섯 번째로 데이터센터 건설 중단을 검토하는 주가 될 전망이다. 미국 빅테크 기업들의 AI 인프라 구축 투자가 급증하는 가운데, 최근 민주·공화 양당 모두에서 데이터센터의 부작용을 우려하는 목소리가 커지고 있다. 일부 연구에서는 데이터센터 확장이 가정용 전기요금 상승과 연관돼 있다는 분석도 제기됐다. 민주당 진영 버니 샌더스 상원의원은 전국 단위 데이터센터 건설 중단을 주장했고, 공화당 소속 론 디샌티스 플로리다주지사 역시 데이터센터가 에너지 요금 인상의 원인이 될 수 있다고 비판했다. 환경단체들의 반발도 거세다. 푸드앤워터워치·프렌즈오브디어스·그린피스 등 230곳 이상 환경 단체는 최근 미국 의회에 전국 데이터센터 신축 전면 중단을 요구하는 공개서한을 제출했다. 이들 단체는 대규모 데이터센터가 지역 환경과 에너지 시스템에 과도한 부담을 주고 있다는 주장이다. 정치권에서도 경고 메시지가 이어지고 있다. 민주당 소속 리즈 크루거 뉴욕주 상원의원은 뉴욕이 대규모 데이터센터 확산에 대비돼 있지 않다고 지적했으며 주정부 차원의 제도 정비가 필요하다고 강조했다. 앞서 캐시 호컬 뉴욕주지사는 '에너자이즈 NY 개발' 프로젝트를 발표하고 데이터센터와 같은 대형 전력 소비자가 전력망 이용에 합당한 비용을 부담하도록 하는 방안을 추진 중이다. 리즈 크루거 의원은 "뉴욕은 대규모 데이터센터 확산에 제도적으로 대비돼 있지 않은 상태"라며 "지금은 속도를 늦추고 정책을 정비할 때"라고 말했다.

2026.02.09 14:54한정호 기자

뉴욕주, AI 안전계획 의무화 법 제정…트럼프 기조와 엇갈려

미국 뉴욕주가 대규모 인공지능(AI) 시스템을 개발하는 기업에 대해 안전 계획 수립과 공개를 의무화하는 법을 제정하며 연방 정부 기조와 다른 행보에 나섰다. 최근 AI 규제를 둘러싼 논쟁이 격화되는 가운데, 주 차원의 선제적 규제가 본격화됐다는 평가가 나온다. 22일 월스트리트저널(WSJ) 등 외신에 따르면 캐시 호츄 뉴욕주지사는 지난 20일(현지시간) '책임 있는 인공지능 안전 및 교육법(RAISE Act)'에 서명했다. 이 법은 2027년 1월 1일부터 시행된다. 연 매출 5억 달러(약 7천400억원) 이상 기업이 대규모 AI 시스템을 개발할 경우 모델로 인한 중대한 피해를 방지하기 위해 안전 계획을 작성·공개하고 이를 준수하도록 규정했다. 법안에 따라 기업은 AI로 인한 심각한 사고나 위반 사례가 발생할 경우 72시간 이내에 주 정부에 보고해야 한다. 이를 이행하지 않거나 허위로 보고할 경우 최대 100만 달러(약 14억원), 재차 위반 시 최대 300만 달러(약 44억원)의 벌금이 부과될 수 있다. 또 뉴욕주는 금융 서비스부 산하에 AI 전담 사무소를 신설해 법 집행과 규칙 제정, 수수료 부과, AI 안전 관련 연례 보고서 발간 등을 담당하도록 했다. 이번 법 제정은 도널드 트럼프 미국 대통령이 주 정부의 AI 규제를 제한하도록 연방 기관에 지시하는 행정명령에 서명한 지 불과 일주일 만에 이뤄졌다. 앞서 트럼프 행정부는 주 차원의 AI 규제가 산업 혁신을 저해할 수 있다며 반대 입장을 밝혀왔다. 뉴욕주의 이번 법은 올해 초 캘리포니아주에서 통과된 AI 안전 법안 'SB53'을 토대로 마련됐지만 일부 조항에서는 더 엄격한 기준을 적용했다. 특히 AI 안전 사고 공개 기한을 캘리포니아의 15일보다 짧은 72시간으로 설정한 점이 대표적이다. 이 조항을 두고 법안 서명 직전까지도 일부 AI 연구소가 완화를 요청하는 등 업계 반발이 이어졌던 것으로 전해졌다. 다만 주요 AI 기업들은 이번 법안의 취지에는 공감한다는 입장을 내놨다. 오픈AI와 앤트로픽은 뉴욕주의 AI 안전 법안을 지지하면서도 장기적으로는 연방 차원의 통일된 규제 체계가 필요하다고 강조했다. 앤트로픽의 사라 헥 대외정책 총괄은 "미국에서 가장 큰 두 주가 AI 투명성 법안을 채택했다는 사실은 안전의 중요성을 분명히 보여주는 신호"라며 "의회가 이를 토대로 연방 차원의 입법에 나서야 한다"고 말했다. 알렉스 보레스 뉴욕주 하원의원은 "연방 차원의 대응이 가장 바람직하다는 점에는 동의하지만, 그렇다고 시민을 보호하기 위한 주 정부의 행동까지 막을 수는 없다"고 밝혔다.

2025.12.22 14:27한정호 기자

뉴욕, AI 재난 방지법 첫 통과…초거대 AI 투명성 규제 본격화

미국 뉴욕주가 초거대 인공지능(AI)으로 인한 대규모 재난을 예방하기 위한 첫 입법을 단행했다. 15일 테크크런치 등 외신에 따르면 뉴욕주 의회는 'RAISE(Reliable AI Safety and evaluation)' 법안을 통과시켰으며 이는 AI 기업에 안전성 보고를 의무화하는 미국 내 첫 입법 사례다. 이 법안은 ▲100명 이상 사망 ▲1천억 원 이상의 피해가 발생할 수 있는 AI 관련 재난 가능성을 사전에 방지하는 것이 목적이다. 해당 법안은 현재 캐시 호컬 주지사의 서명을 앞두고 있다. 법안의 핵심은 일정 규모 이상의 AI 모델에 대해 안전성 보고와 이상 징후 보고를 요구하는 것이다. 특히 1억 달러(한화 약 1천367억원) 이상의 연산 자원을 활용해 학습시킨 모델을 뉴욕주민에게 제공하는 기업은 ▲AI의 보안·신뢰성·악용 방지책 등에 대한 기술 보고서 제출 ▲예기치 못한 위험성 또는 실제 사고 발생 시 사고 보고서 제출이 의무화된다. 위반 시 최대 3천만 달러(한화 약 410억원)의 민사 벌금이 부과될 수 있다. 이 법안은 오픈AI, 구글, 앤트로픽 등 초거대 AI 모델을 개발·배포하는 주요 기업을 대상으로 하지만 스타트업이나 학계 연구에는 부담을 최소화하도록 설계됐다. 이번 법안은 최근 캘리포니아주에서 발의됐다가 강한 반발로 수정된 'SB 1047' 법안과도 비교된다. RAISE 법안은 이를 보완해 보다 명확한 기준과 기업 부담 최소화 조항을 포함했다는 평가다. AI 분야 석학인 제프리 힌튼과 요슈아 벤지오도 해당 법안에 지지를 표명했으며 향후 다른 주 정부와 연방 차원의 입법에도 영향을 줄 가능성이 클 것으로 전망된다. 법안 발의자인 민주당 소속 스티븐 론더 의원은 "AI 기술이 급속도로 진화하고 있지만 이에 대한 투명성과 안전성 검증은 따라가지 못하고 있다"며 "RAISE 법안은 산업의 혁신은 해치지 않으면서도 AI로 인한 잠재적 재난을 막기 위한 균형 잡힌 입법"이라고 밝혔다.

2025.06.15 15:18한정호 기자