검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'캘리포니아 AI 법안'통합검색 결과 입니다. (3건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

앤트로픽, 캘리포니아 AI 규제 법안 지지…"투명성 강화 신호탄"

앤트로픽이 인공지능(AI) 투명성 규제를 의무화하는 캘리포니아 주 법안을 공개 지지했다. 8일 NBC뉴스 등 외신이 따르면 앤트로픽은 캘리포니아 주 상원의원 스콧 위너가 발의한 S.B.53 법안을 지지한다고 밝혔다. 미국에서 주요 AI 기업이 해당 규제 도입에 찬성 입장을 밝힌 것은 이번이 처음이다. 이 법안은 대형 AI 모델 개발사가 안전 지침 마련과 위험 완화 절차 공개를 의무화하는 내용을 담고 있다. 특히 직원이 심각한 위험을 내부고발할 수 있는 통로를 강화하고, 기업이 안전 지침과 위험 평가 결과를 공개하는 것이 주 목표다. 적용 대상은 연 매출 5억 달러 이상이면서 막대한 컴퓨팅 자원을 활용하는 프런티어 AI 기업이다. S.B.53은 지난해 논란 끝에 무산된 S.B.1047을 수정·보완한 법안이다. 당시 법안은 책임과 처벌 조항에 무게가 실렸지만 이번에는 투명성과 위험 관리에 초점 맞췄다. 새 법안은 AI 안전사고를 신고할 수 있는 비상 시스템 구축도 포함한다. 기업은 웹사이트에 위험 대응 방안을 공개하고 주 정부 기관에 '재앙적 위험' 평가 요약본을 제출해야 한다. 이번 조치는 오픈AI와 구글, 메타 등 글로벌 기업들이 자발적으로 약속했던 위험 완화 조치를 법적으로 강제하는 성격이 강하다는 평가를 받고 있다. 최근 AI가 사이버 공격이나 생물학 무기 개발에 악용될 수 있다는 우려가 커지면서 입법 필요성이 제기됐다. 업계 단체들은 AI 규제가 투자와 일자리를 다른 지역으로 몰아낼 것이라며 반발하고 있다. 그러나 캘리포니아 주 의회에서 상·하원 모두 압도적 지지를 받은 만큼 법안 통과 가능성은 높다는 분석이 나오고 있다. 미국 AI 안전센터 댄 헨드릭스 이사는 NBC뉴스와 인터뷰에서 "프런티어 AI 기업들은 안전을 위해 많은 자발적 약속을 했지만 이를 제대로 지키지 않았다"며 "이번 법안은 작은 첫걸음이지만 의미 있는 진전"이라고 밝혔다.

2025.09.09 09:55김미정

美 캘리포니아 AI 안전법 'SB 1047' 통과…EU·국내 여파는?

미국 캘리포니아 주 의회가 인공지능(AI) 규제 법안 'SB 1047'을 통과시켜 주지사 승인을 기다리고 있는 가운데 유럽연합(EU)이 이를 자국 AI법 시행에 참고할 계획인 것으로 전해졌다. 국내 AI 기업들도 법안의 향방에 주목하고 있다. 30일 더 버지 등 외신에 따르면 캘리포니아 주 의회가 지난 29일 'SB 1047' 법안을 통과시켰다. 이는 다음 달 30일 개빈 뉴섬 캘리포니아 주지사가 서명하면 공식 발효된다. 해당 법안은 AI 기술의 급격한 발전에 따른 안전 문제를 해결하기 위해 마련됐다. 법안이 발효된다면 AI 개발사는 모델 훈련 과정서 발생할 수 있는 위험을 사전에 평가하고 필요 시 신속하게 모델을 중단하는 '킬 스위치' 기능을 명시해야 한다. 훈련 후 모델 변조 방지를 위해 안전 조치에 관한 조항도 법안에 포함됐다. 앞서 실리콘밸리와 정치권은 이 법안을 두고 논란을 빚었다. 테크 기업들은 과도한 규제가 기술 발전에 제약이 될 수 있다고 우려를 표명했다. 특히 오픈AI는 법안 발의자인 스콧 위너 주 상원의원에게 공개 서한을 보내 'SB 1047'이 테크 기업들의 대탈출을 불러일으킬 것이라고 경고한 바 있다. 오픈AI는 캘리포니아 사무실 확장을 유보하고 있다. 오픈소스 위주로 AI를 취급하는 스타트업 업계와 학계 역시 법안에 강력하게 반발하는 것으로 알려졌다. 법적 책임을 개발자에게 지우는 'SB 1047' 법안이 필연적으로 오픈소스의 발전을 저해할 것이라는 게 이들의 주장이었다. 페이페이 리 스탠포드 대 교수는 지난 8일 포춘지에 보낸 공개 서한을 통해 "법안은 오픈소스 AI 개발을 위축시키고 학계와 중소기업에 타격을 줄 것"이라며 "AI 개발자들에게 법적 책임을 부과한다"고 말했다. 이와 반대로 일부 테크 업계 인사들은 법안에 찬성했다. 일론 머스크 테슬라 대표는 'SB 1047'이 AI 시스템의 잠재적 해악을 방지하는데 필수적이라고 밝혔다. 또 초기에 법안에 반대했던 다리오 아모데이 앤트로픽 최고경영자(CEO)는 "정부 AI 감독 부서를 신설하거나 AI에 문제가 발생할 때 개발사를 처벌한다는 조항이 사라졌다"며 "법안의 이점이 해악보다 커졌다"고 주장했다. 정치권에서는 낸시 펠로시 등 일부 연방 의원들이 주 차원의 규제는 불필요하다고 주장했다. 이와 반대로 캘리포니아 주 의원들은 연방 정부가 AI 규제에 소극적이라는 점을 지적하며 주가 먼저 규제에 나서야 한다는 입장을 고수했다. 법안은 주 상원의 최종 승인을 받은 후 주지사에게 전달됐다. 다음달 30일까지 개빈 뉴섬 캘리포니아 주지사는 법안에 서명할지를 선택해야 한다. 'SB 1047'이 통과를 목전에 앞둔 현재 EU와 국내 AI 관계자들 역시 법안의 향후 전개에 촉각을 곤두세우고 있다. 현재 'SB 1047'에 대한 유럽연합(EU) 측의 공식적인 반응은 제한적이다. 아직 해당 법안이 주지사의 승인을 받지 않은 상태로, EU 역시 유사한 규제인 EU AI법을 시행하고 있는 단계이기 때문이다. 다만 EU 집행위원회의 AI 사무국은 캘리포니아 법안을 주의깊게 모니터링하며 EU AI법 시행과정에도 참고할 계획인 것으로 알려졌다. 전문가들은 이러한 행보가 'SB 1047'이 EU의 규제보다 더 구체적인 면이 있기 때문이라고 분석했다. 특히 딥러닝 분야의 선구자인 요슈아 벤지오 몬트리올 대학교 교수는 "EU도 이 법안에서 영감을 받아야 한다"며 "여전히 발전 중인 AI 분야에서 'SB1047'은 기업과 학계의 노력이 결실을 맺을 수 있도록 하는 유연한 규제"라고 주장했다. 국내 AI 업계에서도 'SB 1047'의 향방에 주목하고 있다. 캘리포니아 주의 AI 규제는 필연적으로 실리콘밸리에 밀집한 빅테크의 운영에도 큰 여파를 미칠 것이기 때문이다. 이에 이들과 긴밀히 교류하거나 미국 진출을 계획하는 국내 기업들도 영향을 받을 것으로 예상된다. 한 국내 테크 스타트업 관계자는 "법안의 의도에는 공감하나 책임소재와 범위가 과도하다는 점에서 미국 스타트업들과 동감한다"며 "기술을 남용한 사람의 책임을 개발자에게 지운다면 이는 개발을 저해할 것"이라고 밝혔다. 그러면서 "물론 개발자들도 지속적으로 AI 정확성과 성능 뿐만 아니라 안전성을 위해서 노력해야 한다"고 강조했다. 일부 전문가들은 'SB 1047'이 AI 규제의 선례로 남을 가능성을 지적했다. IT 기술의 본고장인 캘리포니아에서 AI 법이 조기에 제정된다면 다른 나라들도 유사한 법을 도입할 수 있다는 것이다. 한 국내 IT 기업 관계자는 "이럴 경우 스타트업들의 장점인 민첩한 기술 혁신을 막는 부작용이 생길 수 있다"며 "국내 스타트업들의 사기가 저하되고 그 여파로 창업을 안하게 되는 풍조가 이어질 수 있다"고 예측했다.

2024.08.30 17:31조이환

美 캘리포니아, AI 규제안 통과 '임박'…빅테크·학계 '긴장'

미국 캘리포니아 주 의회가 초강력 인공지능(AI) 규제법안 'SB 1047'을 통과시킬 가능성이 커지면서 실리콘밸리 빅테크 기업들이 긴장하고 있다. 이 법안이 통과되면 AI 혁신과 오픈소스 개발에 거대한 타격을 줄 것으로 예상된다. 8일 월스트리트저널 등 외신에 따르면 캘리포니아 주 하원은 이번 주 'SB 1047' 법안을 표결에 부칠 예정이다. 이 법안은 지난 5월 상원에서 여야가 합의해 통과됐기에 하원에서도 무난히 통과될 것으로 보인다. SB 1047의 주요 내용은 둘로 나뉜다. 우선 5억 달러(약 6천890억원) 넘는 피해 발생 가능성이 있는 사이버 보안 공격을 시행하거나 생물학·핵무기를 개발할 수 있는 능력의 AI 모델 개발을 금지하는 것이다. 또 AI 개발자들은 주기적으로 안전 테스트 결과를 보고하고 통제가 어려울 때는 이를 중단할 '킬 스위치'를 도입해야 한다. 이 법안은 훈련에 1억 달러 이상(약 1천376억원)의 비용이 드는 모델에 적용되며 실리콘밸리의 주요 AI 기업들은 물론이고 중소기업과 스타트업들도 이에 해당된다. AI 업계는 이 법안에 강하게 반발하고 있다. 특히 오픈소스 모델을 사용하는 기업의 반발이 특히 심한 것으로 전해졌다. 이들 업체가 사용자의 제품 사용 용도를 예측하는 것은 불가능하기 때문이다. 이에 따라 'SB 1047'이 발효될 경우에는 AI 오픈소스 생태계가 극도로 위축될 것으로 예상된다. 'AI의 대모'로 불리는 페이페이 리 스탠포드 대학교 교수는 "이 법안은 태생적으로 오픈소스 개발을 억제할 것"이라며 "개발 커뮤니티와 학계에 큰 피해를 줄 수 밖에 없다"고 말했다. 리 교수의 말처럼 'SB 1047'의 통과는 AI 연구 및 교육 환경에도 부정적인 영향을 미칠 것으로 예측된다. 학생들과 연구자들은 이미 기업에 비해 데이터와 컴퓨팅 자원 측면에서 불리한 상황에 놓여있기 때문이다. 이 상황에서 개발자의 법적 부담이 증가하고 오픈소스가 사실상 제한될 경우 학계는 큰 타격을 받을 수 밖에 없다. 현재 미국 전역의 주 의회에 약 400개의 AI 관련 법안이 상정되어 있지만 캘리포니아 주는 그 중 가장 적극적으로 AI 규제를 추진하고 있다. 실리콘밸리가 캘리포니아에 위치해 미국 기술혁신의 상당수가 이 지역에서 진행됨을 감안하면 그 파급력은 엄청나다. 한 테크 업계 관계자는 "SB 1047 법안은 AI 혁신을 저해하고 학계와 중소기업에 큰 타격을 줄 것"이라며 "캘리포니아 주 의회는 이 법안의 부작용을 고려하고 신중히 검토해야 한다"고 강조했다.

2024.08.08 17:41조이환