• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
지스타2025
인공지능
스테이블코인
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'규제'통합검색 결과 입니다. (383건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

美 캘리포니아 주지사, 'AI 규제법안' 거부권 행사

캘리포니아에서 인공지능(AI) 개발 규제 법안인 'SB 1047' 입법이 무산됐다. 개빈 뉴섬 캘리포니아 주지사ㄱ SB 1047에 대해 거부권을 행사했다. 캘리포니아주 의회가 해당 법안을 통과시킨 지 한 달만에 나온 결정이다. 뉴섬 주지사는 SB 1047가 ▲AI 모델 크기 ▲가격만을 규제 기준으로 명시한 점 등을 문제로 지적했다. 이런 조항 때문에 AI 기업들에게 지나친 부담감을 안겨줄 수 있다는 것이다. 뉴섬 주지사는 "SB 1047은 가장 크고 비싼 AI 모델에만 규제가 집중돼 있다"며 "실제 그 모델이 위험한 상황에 사용되는지, 중요한 의사결정을 포함하는지, 민감한 데이터를 사용하는지 여부를 고려하지 않았다"고 거부권 행사 이유를 밝혔다. 이어 "크기가 작은 AI 모델들도 민감한 데이터를 다루는 매우 위험한 작업에 사용될 수 있고, 대형 모델들도 고객 서비스 등 비교적 위험이 낮은 일에 활용되기도 한다"고 덧붙였다. 또 "SB 1047이 대중을 기술의 위협으로부터 보호하는 가장 좋은 방법이라고 생각하지 않는다"며 "이 법안이 빠르게 발전하는 기술을 통제하는 것에 대해 대중에게 거짓된 안도감을 줄 수 있다"고 말했다. SB 1047은 개발 비용이 1억 달러(약 1억3천만 원) 이상이거나 10의 26제곱 플롭스 이상으로 학습된 AI 모델을 대중에게 공개할 때 사전 안전성 테스트를 의무화하는 내용을 담은 법안이다. AI 기업들이 자사 AI 모델 통제가 어려울 때 작동을 멈추게 하는 '킬 스위치'를 개발할 것을 규정하는 내용도 포함하고 있다. 해당 법안을 준수하지 않는 기업에게는 주 법무장관이 소송을 제기할 수 있도록 규정한다. SB 1047를 발의한 민주당 소속 스콧 위너 캘리포니아주 상원의원은 이번 거부권 행사에 대해 "캘리포니아가 다시 한번 혁신적인 기술 규제를 선도할 수 있는 기회를 놓친 것"이라며 "그 결과 우리 모두 덜 안전해졌다"고 비판했다. 실리콘 앵글은 "뉴섬 주지사는 지난해 AI 교육 프로그램 개발과 관련해 엔비디아와 협력하는 등 AI 기술의 옹호자로 여겨져 왔고 실리콘 밸리와 긴밀한 관계를 유지하고 있다"며 "이 때문에 이번 거부권 행사는 놀라운 일이 아니었다"고 평가했다.

2024.09.30 11:11조수민

프루프포인트, AI 기반 'DCG' 플랫폼 출시

프루프포인트가 데이터 아카이빙·컴플라이언스 시장에서 리더십을 확장하고 디지털 규제 요구에 대응하는 솔루션을 제공한다. 프루프포인트는 인공지능(AI) 기반 디지털 커뮤니케이션 거버넌스(DCG) 플랫폼을 출시했다고 27일 밝혔다. 이 플랫폼을 통해 기업들이 다양한 디지털 채널에서 데이터를 효율적으로 관리하고 보안 및 규제 요구사항에 대응하도록 지원할 예정이다. 프루프포인트의 'DCG' 솔루션은 회의, 모바일, 소셜미디어 등 80여 개의 커뮤니케이션 채널을 아우르는 종합 데이터 거버넌스를 제공한다. 마이크로소프트 팀즈, 줌, 왓츠앱 등의 주요 협업 도구와 연동돼 기업들이 방대한 데이터 소스를 관리할 수 있는 점이 강점이다. 또 이 솔루션은 실시간 정책 적용을 통해 기업의 규정 위반을 예방하고 AI 기반 고급 검색 기능을 통해 다양한 유형의 데이터를 손쉽게 찾아낼 수 있다. 이를 통해 기업들은 규제와 법적 리스크에 신속하게 대응할 수 있다. 프루프포인트는 이번 'DCG' 솔루션이 모든 채널의 커뮤니케이션 데이터를 분석해 기업 정책에 맞는 맞춤형 리스크 관리 모델을 제공할 것으로 기대하고 있다. 또 이번 플랫폼 발표를 통해 가트너가 선정한 디지털 커뮤니케이션 거버넌스 시장의 대표 벤더로서의 입지를 강화하고 지속적인 성장세를 이어갈 계획이다. 해리 라바나 프루프포인트 부사장은 "프루프포인트의 디지털 커뮤니케이션 거버넌스는 기업들이 첨단 기술, 보안, 컴플라이언스 조건을 모두 구비한 근무환경을 효율적으로 관리하는데 적격"이라고 강조했다.

2024.09.27 17:06조이환

[기고] 브뤼셀 효과 이면 속 건강한 국내 디지털 시장 발전 위해 고려할 사항은?

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 세계가 급격하게 디지털화되면서 혁신, 번영, 개인의 권리를 균형있게 보호할 수 있는 올바른 거버넌스 체계에 대한 논의도 급물살을 타고 있다. 유럽은 디지털 기술 및 정보보호 분야에서 입법의 선도자로 자리매김해 왔다. 유럽연합(EU)의 개인정보보호규정(GDPR)은 세계적인 표준으로 간주되고 있으며 다른 지역에도 영향을 미쳐 왔다. 이는 소위 말하는 '브뤼셀 효과'다. 일반 데이터 보호 규정(GDPR) 제정 이후 EU는 디지털 전략의 일환으로 관련 법령들을 발전시켜 왔다. 그럼에도 유럽 연합의 방대한 디지털 법안 패키지가 부정적인 영향을 미친다는 비판적인 목소리도 있다. 마리오 드라기 이탈리아 전 총리는 최근 EU 집행위원회 '유럽 경쟁력의 미래(The future of European competitiveness)' 보고서에서 "유럽에서 성장하려는 혁신적인 기업들이 일관성 없고 제한적인 규제로 인해 매 단계마다 방해를 받고 있다"고 지적했다. 드라기 전 총리의 말과 같이 '브뤼셀 효과'는 영감의 원천이 될 수 있지만 동시에 주의 깊게 검토해야 할 경고로도 작용할 수 있다. 지난 해 국내에서도 개인정보보호법 시행령을 개정했다. 이는 표면적으로는 개인정보 보호법을 GDPR의 일부분과 더 유사하게 조정하려는 것처럼 보인다. 이번 개정 중 가장 중요한 부분은 국내에서 표준으로 자리 잡아 온 '필수 동의' 사용의 변화다. 새로운 접근 방식에 따르면 개인정보 처리를 위한 동의를 받는 기업은 더 이상 사용자에게 서비스 이용을 위해서는 동의를 해야 한다고 강제하지 못한다. 대표적인 예시로 더이상 필수동의 체크박스는 사용할 수 없게 되는 것이다. 대신 이제는 동의가 개인의 '자유로운 의사'에 따라 이루어지도록 해야 한다. 개인정보 처리가 선택 사항이어야 하며 사용자가 동의를 거부하더라도 여전히 서비스에 접근할 수 있도록 허용돼야 한다. 이는 국내 여러 산업에 광범위한 영향을 미칠 수 있는 중대한 변화다. 이에 따라 GDPR의 동의 개념에서 영감을 받은 이러한 새로운 접근 방식이 미칠 잠재적인 영향을 분석하고자 한다. 지나치게 복잡한 디지털 규제 환경으로 인해 EU에서는 중복된 디지털 법령들의 서로 다른 요구사항들을 어떻게 적용할지에 대한 법적 불확실성이 초래되고 있다. 규제 당국의 보수적이고 제한적인 해석과 맞물려 이러한 상황은 유럽의 글로벌 경쟁력과 혁신에 위축 효과를 가져오고 있다. 앞서 언급한 드라기 전 총리의 보고서는 EU 법령의 빈번한 변경으로 인해 법령이 누적되고 있다고 지적한다. 또 중소기업에 과도하게 높은 준수 비용이 부과돼 결과적으로 소비자들이 서비스 비용을 더 부담하게 될 수 있음을 구체적으로 언급한다. 메릴랜드 대학교의 연구 역시 GDPR로 인해 유럽의 벤처 캐피탈 투자가 미국에 비해 감소했음을 확인해준다. 개인정보보호위원회는 지난 20년간 시행돼 온 필수 동의 제도의 변경에 대한 지침을 올해 말까지 발표할 것이라고 밝힌 바 있다. 동의에 대한 추가 지침을 마련할 때는 조직 사업 운영의 자유, 소비자 정보 접근권, 디지털 경제 성장의 혁신에 미치는 영향 등 중요한 사회적 권리들과 프라이버시권 간의 합리적 균형을 보장해야 한다. 입법자와 규제 당국은 기업에 미치는 실질적인 영향과 디지털 서비스의 사용자 경험을 고려해야 한다. 광고 기반 수익으로 제공되는 서비스들이 유료로 전환될 가능성이 크고 중소기업들은 더 높은 비용 부담을 겪게 될 확률이 높다. GDPR의 '자유로운 의사에 따른 동의 요건 해석 방식'을 따르게 된다면 국내 기업들이 고객의 데이터를 처리하는 방식에도 중요한 변화가 발생할 것이다. '필수 동의' 제거에 따라 거의 모든 국내 온라인 사업체가 막대한 비용을 들여 온라인 서비스를 재구성해야 할 것이기 때문이다. 광고 기반 수익에 의존하는 디지털 기업들은 가능한 경우 대체 수익원을 찾아야 할 것이다. 이러한 변화는 소비자에게도 영향을 미칠 것이다. 현재 광고 기반 모델을 사용하는 다양한 기업들은 규모와 관계 없이 소비자에게 무료 서비스를 제공하고 있다. 이는 기업들이 사용자로부터 직접 수집한 개인정보를 활용해 적합하고 흥미로운 맞춤형 광고를 제공할 때만 가능하다. 본질적으로 광고주로부터의 수익이 무료 서비스를 지원하는 재원이 되기 때문이다. 기존 관행에 변화가 생기면 디지털 생태계에 상당한 영향을 미칠 수밖에 없다. 이미 EU 내 일부 사례에서 관찰됐듯이 뉴스 웹사이트, 게임 앱, 소셜 미디어가 제공 서비스를 변경할 경우 국내 소비자에게 비용을 초래할 수 있다. 이 쟁점에 있어서는 규제 당국·기업·정책 입안자·학계 간의 진지하고 건설적인 대화가 특히 중요하다. 현재 제안된 변경사항은 프라이버시의 법률 구조뿐만 아니라 중소기업·대기업 전반의 일상적 비즈니스와 사업 운영의 자유에까지 광범위한 영향을 미칠 것이다. 또 이러한 변화가 개인의 프라이버시 보호에 실제로 더 나은 결과를 가져올지도 명확하지 않다. 기업들이 광고 기반 수익 모델에 의존할 수 있는 능력을 줄인다고 해서 이들이 개인정보를 더 잘 처리하거나 개인정보의 보안을 강화하게 되는 것은 아니기 때문이다. 이는 오히려 기업과 소비자 모두에게 더 많은 어려움을 초래할 수 있다. 이보다는 투명성과 통제를 통해 개인, 경제, 혁신에 과도한 부담을 주지 않으면서도 프라이버시 보호를 달성할 수 있을 것이다. 기업들이 데이터 처리 방식과 시스템을 규제에 맞게 조정하기 위해서는 규제 당국의 실질적인 지침과 합리적인 타임 라인이 필수적이다. 이에 따라 데이터 처리의 다양한 법적 근거에 대한 명확한 기준을 제시하고 여러 사례를 신중하고 포괄적으로 검토하며 문제되는 다양한 기본권 간의 균형을 고려해야 할 것이다. 대한민국은 중대한 기로에 서 있다. 이번에 제안된 변화는 법적 불확실성을 초래했다. 향후 제시될 지침은 국내 소비자들의 프라이버시를 보호하고 이들이 혁신적인 디지털 제품 및 서비스에 공정하게 접근할 수 있도록 해야 할 것이다. 동시에 기업들이 국내 경제를 지속적으로 성장시키게 해석·시행되도록 보장해야 할 것이다. 이 원고는 유럽 소재 개인정보 보호 분야 저명한 씽크탱크인 Centre for Information Policy Leadership (CIPL)과의 공동 연구를 통해 작성됐다.

2024.09.27 10:50법무법인 태평양 류광현

법무법인 린, 플랫폼·공정거래팀 출범

법무법인 린(대표변호사 임진석)이 '플랫폼·공정거래팀'을 출범시켰다고 25일 밝혔다. 린의 테크그룹 리더를 맡고 있는 구태언 변호사(사법연수원 24기)를 포함한 정예 전문가들로 구성된 플랫폼·공정거래팀은 급변하는 플랫폼 비즈니스 환경과 복잡해지는 규제 지형에 대한 린의 전략적 대응을 상징한다. 린의 플랫폼·공정거래팀은 공정거래팀장인 김종식 변호사(사법연수원 37기)와 플랫폼·이커머스 부문팀장 길지영 변호사(사법연수원 40기)의 공동팀장 체제로 운영된다. 최근 공정거래위원회가 온라인플랫폼 규제법을 새로이 제정하는 대신 기존 공정거래법을 개정하는 방식으로 독과점 플랫폼을 규제하겠다고 밝혔는데, 플랫폼 산업에는 공정거래 이슈 뿐만 아니라 개인정보보호, 소비자보호 등 다양한 규제가 중첩되는 상황이므로 기술적 지원 및 통합적 시각의 법률 자문이 필수적이라는 린의 선제 검토에 따라 팀을 구성했다. 린의 플랫폼·공정거래팀 공동팀장인 김종식 변호사는 15년 이상의 공정거래 분야 경험을 보유한 전문가다. 김 변호사는 김앤장 법률사무소 재직 때부터 기업담합, 기업결합신고, 불공정거래행위 등 다양한 공정거래 이슈를 다뤄왔으며, 최근에는 플랫폼 비즈니스 모델에 대한 법적 자문을 제공해왔다. 현재 법무법인 린의 공정거래팀장을 맡고 있으며, 공정거래위원회의 소송대리인으로도 활동 중이다. 김종식 변호사는 "EU의 디지털시장법(DMA)이나 국내에서 논의되고 있는 공정거래법 개정 논의 등 새로운 규제 환경에 대한 선제적 대응이 기업들의 주요 과제로 떠오르고 있습니다. 우리의 새로운 플랫폼·공정거래팀은 이러한 규제 동향을 면밀히 분석하고, 기업들이 효과적으로 대응할 수 있는 전략을 수립하는 데 주력할 것" 이라고 강조했다. 또한 공동팀장인 길지영 변호사는 플랫폼 비즈니스와 기업법무 분야의 전문가다. 다수의 플랫폼 기업 약관 검토와 분쟁 자문을 포함하여 풍부한 플랫폼 기업 자문 경험을 보유하고 있으며, 상장지주회사 사내변호사로 재직 시 그룹 전반의 공정거래 이슈와 자회사들의 온라인플랫폼 관련 업무를 담당한 바 있다. 현재 법무법인 린에서 플랫폼·이커머스 부문팀장을 맡고 있으며, 플랫폼 기업의 M&A, 공정거래 규제 대응 및 기업법무 전반 등 플랫폼 기업에 관한 종합적인 법률서비스를 제공하고 있다. 길지영 변호사는 "현재 플랫폼 규제의 흐름은 국내 자생 플랫폼을 역차별하고 오히려 이들의 성장동력을 저해할 수 있다는 우려의 목소리가 높습니다. 플랫폼 기업들이 직면하는 주요 법적 이슈, 예를 들어 데이터 활용과 관련된 개인정보 규제, 플랫폼 내 거래의 공정성 확보, 글로벌 확장에 따른 국가별 규제 대응 등에 대해 포괄적이고 실질적인 자문을 제공할 계획"이라고 설명했다. 아울러 린의 플랫폼·공정거래팀에는 전 공정거래위원회 상임위원 출신인 박재규 고문도 팀에 합류했다. 박 고문은 공정위에서 11년간 담합, 시장지배력 남용, 기업결합 등 다양한 공정거래 이슈를 다룬 후 2년간 상임위원으로 공정위 사건의 심의와 의결을 주도했다. 특히 플랫폼 기업과 밀접한 관련이 있는 기업결합, 불공정거래 분야에서의 그의 풍부한 경험과 정책 결정 노하우는 팀의 규제 대응 및 기업 자문 역량을 한층 강화할 것으로 기대된다. 30년 이상의 공정거래위원회 경력을 가진 강신민 고문도 린의 플랫폼·공정거래팀에 합류했다. 강 고문은 카르텔, 기업결합, 불공정거래행위 등 공정위 소관 전 분야의 전문가로, 특히 플랫폼 기업 관련 규제에 깊은 식견을 갖추고 있다.

2024.09.25 18:21안희정

뮤직카우 음악증권 1년..."무사고 운영”

음악투자 플랫폼 뮤직카우가 제도권 편입 1년을 맞았다. 금융사 수준의 투자자 보호 인프라 갖추기에 총력을 기울이며 신규 증권 발행 프로세스를 안정시킨 뮤직카우는 국내 시장 활성화와 함께 미국 진출을 위한 서비스 출시 준비에 본격적인 드라이브를 건다는 계획이다. 뮤직카우는 25일, 음악수익증권 플랫폼 오픈 1주년을 맞이했다. 뮤직카우는 2022년 9월, 금융위원회로부터 혁신금융서비스로 지정 받았고 1년여의 준비 끝에 2023년 9월 25일 '무체재산권 신탁수익증권'인 음악수익증권을 발행했다. 각고의 노력 끝에 기존에 저작권료 참여청구권 형태로 거래되던 1천84곡을 수익증권으로 전환 발행했으며, 이후 총 28개의 신규 음악증권을 발행했다. 뮤직카우는 음악증권 발행 이후 단 한 건의 보안사고도 발생시키지 않으며, 안전한 투자 환경 제공에 꾸준히 신경을 기울여왔다. 정보보안 및 개인정보보호 관리체계를 강화해 자체역량만으로 ISMS-P, ISO 27001, 27701 인증을 획득 및 유지하며 금융 서비스로서의 신뢰성을 높이고 있다. 정기적인 보안사고 대응 훈련 및 임직원 대상 보안 캠페인 활동을 진행하며 전사적 보안 수준 및 역량 강화에 힘쓰는 한편, 트래픽 관리를 개선하고 시스템 모니터링을 강화하며 안정적 서비스 환경도 조성했다. 또 컴플라이언스 전담 부서를 신설하고, 내부 정보교류 차단 및 이해상충방지를 위한 내규를 체계화하는 등 내부 통제 역량 강화를 통한 금융 사고 예방에도 만전을 기하고 있다. 뮤직카우가 신규 음악증권을 고객에게 공개하는 '옥션' 역시 많은 관심을 받았는데, 진행된 옥션의 1/3은 예정된 청약 기간보다 빠르게 완판되며 조기마감 기록을 달성했다. 특히 지난 7월 god '왜'의 저작인접권을 기초자산으로 한 음악수익증권 옥션은 오픈 26초 만에 마감되는 기록을 세웠다. 음악수익증권 플랫폼 오픈 이후 뮤직카우 계좌 개설 고객(9월23일 기준)은 이전보다 133% 증가하기도 했다. 현재 뮤직카우의 총 누적 가입자수는 120만 명, 총 누적 거래금액은 4천200억원을 기록 중이다. 국내사업이 정상화 궤도에 진입함에 따라 이제 뮤직카우의 다음 시선은 미국을 향하고 있다. 뮤직카우는 현지 법인에 K-POP IP 전문가를 대표로 영입해 곧 발표를 예정하고 있으며, 현지 최고의 인지도를 보유하고 있는 엔터테인먼트 및 프로듀싱 전문 레이블과의 전략적 파트너십 구축도 진행 중이다. 뮤직카우 관계자는 "제도권 편입 후 법과 규제를 준수하며 안정적으로 음악수익증권을 발행 및 유통하기 위해 노력해왔다. 신종 자산에 대한 규제 상황이 녹록치않은 상황이지만, 시장 활성화를 위한 과제들을 하나씩 풀어나가며 투자자들이 더 안심하고 투자할 수 있는 환경 조성에 최선을 다해 나갈 것"이라 말했다. 또 “뮤직카우는 안정화된 국내 음악증권 발행 프로세스 구축 경험을 바탕으로 미국 진출을 통해 '문화금융'이라는 새로운 투자 패러다임을 주도하고자 한다”면서 “현재 현지 유력 기업과 전략적 파트너십 구축을 위한 구체적 협의를 이어 나가고 있다. 연내 베타 서비스 출시를 목표로 현지 IP 섭외, 법적 제반 사항 해결 등을 진행 중”이라 밝혔다.

2024.09.25 18:02백봉삼

방심위, 디시인사이드 '의견진술' 결정…"경찰 측이 우울증 갤러리 폐쇄 요청"

방송통신심의위원회는 23일 목동 방송 회관에서 통신심의소위원회를 개최하고, 디시인사이드 '우울증 갤러리'에 대해 '의견진술'을 청취하기로 결정했다. 이는 인천남동경찰서에서 심의를 요청한 것으로, “'우울증 갤러리'에서 성년 남성이 심리적으로 불안하고 유혹에 쉽게 빠지기 쉬운 미성년자를 대상으로 한 성착취, 성범죄 등의 범죄가 꾸준히 발생하고 있어 폐쇄를 요청한다”고 사유를 밝혔다. 이에 대해 통신소위는, 인천남동경찰서의 요청 사유와 해당 갤러리를 매개로 한 범죄 발생 우려 등을 고려해 관련 법령 및 심의규정 적용에 대한 검토 필요성이 있어, 해당 갤러리 운영 현황 등 구체적인 내용 확인을 위해 디시인사이드에게 의견진술을 듣기로 결정했다. 아울러, 이 날 통신소위는 8월 20일 방송통신위원회의 설치 및 운영에 관한 법률 제25조 제4항에 따라 디시인사이드 측에 요구한 자율규제 실적자료에 대해 면밀히 점검했다. 그 결과, 디시인사이드 측은 매월 특정 키워드를 중심으로 전체 게시물 대비 약 10%의 게시물을 사업자 자율조치로 삭제(2~3만 건)하고 있었다고 밝혔으나, 작년 5월부터 약 42만개 이상의 불법 및 유해정보가 게시판에 유통되고 있었음에도 불구하고, 해당 게시물의 삭제 외에는 별도의 미성년자 접근·열람 제한 조치가 이뤄지지 않았음을 확인했다고 밝혔다. 방심위는 이번 인천남동경찰서의 심의 요청에 대해 디시인사이드 측의 의견진술 내용과 자율규제 실적자료 등을 종합적으로 검토해 의결할 예정이다.

2024.09.23 18:42안희정

맹목적 규제 함정 파헤친다...인기협, 굿인터넷클럽 26일 개최

한국인터넷기업협회(회장 박성호)는 26일 오전 10시 30분 한국인터넷기업협회 대회의실에서 '맹목적 규제의 함정'을 주제로 제90회 굿인터넷클럽을 개최한다. 티메프(티몬+위메프) 사태의 재발 방지를 위해 정부와 국회는 플랫폼법을 도입하려는 움직임을 보이고 있다. 플랫폼법은 갑을관계와 독점문제가 주요 내용이지만, 과연 티메프 사태에 대한 해결책이 될 수 있을지에 대한 의견이 분분하다. 이번 사태뿐만 아니라, 기술혁신 기반의 신산업에서 발생하는 문제들을 본질을 이해하지 못한 규제 방식으로 해결하려는 시도가 반복되고 있다는 지적도 있다. 이에 굿인터넷클럽에서는 최근 플랫폼 산업 전반에 대한 과도하고 획일화된 규제 도입 움직임과 그 영향에 대해 자세히 살피는 자리를 마련하다. 또 신산업·기술혁신 발전을 위한 정책의 중요성과 문제점을 짚어보고, 플랫폼 시장의 지속 성장을 위한 바람직한 정책 방향을 의논할 예정이다. 이번 좌담회에는 플랫폼 정책과 산업 혁신 분야의 전문가들이 참여해 심도 있는 논의를 이끌 예정이다. 이승민 성균관대 법학전문대학원 교수가 사회를 맡고, 원소연 한국행정연구원 선임연구위원, 유정민 부경대 행정복지학부 교수, 정주연 스타트업얼라이언스 전문위원이 패널로 참여한다. 굿인터넷클럽은 한국인터넷기업협회 홈페이지와 네이버TV채널을 통해 실시간으로 생중계된다.

2024.09.23 14:08백봉삼

"딥페이크 행위 따라 차등 규제 필요...투명성 의무 확보 중요"

국회가 딥페이크 허위영상물에 대한 성범죄에 대응하기 위해 여러 법안을 쏟아내고 있는 가운데, 딥페이크를 활용한 행위에 대해 차등 규제가 필요하다는 전문가의 주장이 거듭 제기됐다. 딥페이크를 통한 행위들을 단 하나의 범주로 볼 수 없고, 이에 대한 규제 논의가 AI 전체에 대한 규제로 번져 일반화의 오류를 범할 수 있다는 우려에 따른 것이다. 최경진 가천대 교수는 19일 정청래 법제사법위원장이 주최한 국회 정책토론회에 발제를 맡아 “명확한 규제 범위가 필요하다”며 “AI애 대한 일반규제를 지양하고 행위에 대해 차등화된 형태로 규제를 도입해야 한다”고 말했다. 딥페이크가 본격적인 사회적 문제로 떠오른 시점은 국내에 앞서 지난 미국 대통령 선거 과정이다. 당시 트럼프, 바이든 양측 후보의 허위조작 영상물이 선거에 영향을 미칠 수 있다는 경각심을 일깨웠다. 그로부터 4년이 지나 국내에서 딥페이크를 활용한 지인의 성적 허위영상물을 비밀 메신저에 유통하고 있는 행위가 만연하단 것이 드러나며 수십여 건의 법안이 발의되고 범정부 차원의 대응 방안이 쏟아지는 사회적인 문제로 부상했다. 이처럼 민주주의의 꽃인 선거에 영향을 미치는 행위와 피해자의 인격을 완전히 파괴하는 신종 성범죄 행위가 모두 딥페이크가 남용된 사례로 꼽힌다. 아직 빈번하게 발생한 사례는 아니지만 딥페이크가 쓰인 피싱이 만연해지면 신종 사기범죄로 국민의 경제에 파괴적인 문제가 될 수도 있다. 예컨대 음성통화로 수사기관을 사칭하는 수준의 보이스피싱을 넘어 가족의 얼굴이 합성된 영상통화가 피해자를 겨냥한다면 현재 우리 사회가 겪는 문제가 극단적으로 확대될 가능성이 크다. 최 교수는 “딥페이크가 남용되는 영역은 다양하고, 각 영역마다 규제 필요성의 정도가 다를 수 있다”며 “일반적인 딥페이크 영상은 초상권이나 개인정보 침해 정도지만 가짜뉴스로 선거에 활용된다면 강력한 처벌이 필요할 것”이라고 말했다. 이어, “나아가 딥페이크 음란물로 인격을 파괴하는 수준까지 가고 있는데, 이에 대해서는 예방과 경고 차원에서 처벌 수위를 높일 필요가 있다고 생각한다”고 강조했다. 행위에 대한 규제 차등화와 함께 투명성 의무를 확보하는 게 중요한 과제로 꼽혔다. 최 교수는 “딥페이크 음란물을 추적하려면 이 영상이 딥페이크인지 확인할 수 있어야 하고, 이에 따른 기술적 장치를 해야 하는데 워터마킹이 방법이 될 수 있다”며 “또 다른 투명성 의무로 표시 의무가 있는데 AI로 생성된 콘텐츠에 자동적으로 표시가 이뤄지게 하는 것으로 서비스 약관 등 사업자 자율규제로 가능한 부분”이라고 설명했다. 이밖에 딥페이크 성범죄가 한국서 빈번하게 나타났지만, 세계적인 문제인 만큼 국제 공조와 협력적 규제체계가 필요하다는 의견도 강조됐다. 최 교수는 “규제 논의에 앞서 리터러시 확대가 매우 중요하다”며 “딥페이크 음란물을 장난으로 만드는 사람이 많은데 매우 심각한 문제라는 것을 스스로 알게 해야 하기 때문에 교육과 리터러시도 강화하는 방안으로 가는 것이 바람직하다”고 말했다.

2024.09.19 17:33박수형

'화장품' 허위·과대 광고로 5년간 1222건 행정처분

국내 화장품 행정처분 사유 중 의약품 오인 우려 광고가 가장 많은 비중을 차지하는 것으로 확인됐다. 국회 보건복지위원회 소속 국민의힘 김예지 의원이 식품의약품안전처로부터 받은 '화장품 분야의 허위·과대 광고 행정처분 현황'에 따르면, 2020년부터 올해 상반기까지 화장품법(13조 부당한 표시·광고 행위 금지) 위반으로 행정처분을 받은 건수는 총 1천222건으로 집계됐다. 이 중 의약품 오인 광고가 692건으로 가장 많았고 ▲소비자 오인 광고 318건 ▲의약품 오인, 소비자 오인 광고 103건 ▲기능성 화장품 오인 광고 42건 ▲의약품 오인, 소비자 오인, 기능성 화장품 오인 광고 13건 순으로 나타났다. 의약품 오인은 의약품으로 잘못 인식할 우려가 있는 표시·광고이며, 소비자 오인은 소비자를 속이거나 잘못 인식하게 할 우려가 있는 표시·광고를 말한다. 기능성 화장품 오인은 기능성 화장품이 아닌 제품을 기능성 화장품으로 오인하게 하거나 안전성·유효성 심사 결과와 다른 내용을 표시·광고하는 것을 의미한다. 증가폭은 기능성 화장품 오인 광고가 가장 컸다. 2020년 2건이던 기능성 화장품 오인 광고는 지난해 18건으로 9배 급증했다. 이어 소비자 오인 광고가 2020년 74건에서 지난해 110건으로 48.7% 늘었고 의약품 오인 광고가 2020년 126건에서 지난해 172건으로 36.5% 증가했다. 또 허위·과대 광고 및 규제 위반 상위 10개 업체 중 1위와 5위는 상장 기업으로 확인됐다. 김예지 의원은 “의약품 오인 광고는 제품의 안전성과 효능에 대한 과장된 기대를 유발할 수 있어 더욱 심각하다”며 “국내외 브랜드에 제품을 공급하고 고기능성 화장품을 만드는 일부 상장 기업들이 반복적으로 규제를 위반해 소비자 신뢰에 큰 타격을 줄 수 있어 책임 강화가 필요하다”고 말했다.

2024.09.19 15:05김민아

승인 2주 앞둔 AI 안전법에 美 캘리포니아 주지사 "AI 문제 해결 못해"

미국 캘리포니아 개빈 뉴섬 주지사가 할리우드 배우와 출연진 동의 없이 인공지능(AI)을 활용해 이들 디지털 복제품을 만들지 못하는 법안 등에 서명한 가운데, AI 안전법으로 알려진 'SB 1047'에는 미온적 태도를 내비쳤다. 17일(현지시간) 개빈 뉴섬 주지사는 세일즈포스가 이날부터 19일까지 미국 샌프란시스코에서 개최하는 '드림포스 2024'의 '캘리포니아 드리밍: 뉴섬 주지사와 마크 베니오프의 대화' 세션에서 SB 1047 법안에 대한 견해를 이같이 밝혔다. 뉴섬 주지사는 마크 베니오프 세일즈포스 최고경영자(CEO)와의 대화에서 "SB 1047 법안이 AI 산업에 희망적이지 않다"며 "강력한 규제가 모든 AI 문제를 해결할 수 없다"고 강조했다. 이어 "오히려 캘리포니아에서 급성장하는 AI 산업을 해치지 않으면서도 문제를 해결할 수 있는 유연한 법안에 더 관심 가질 것"이라고 밝혔다. 그는 AI 위험성 개념에 명확한 선이 필요하다고 주장했다. 입증 가능한 위험과 가설에 불과한 위험에 대한 기준점이 필요하다는 의미다. 이에 외신은 뉴섬 주지사가 발생 가능성 높은 위험에 우선 대비하는 행보를 보인다고 봤다. 실제 그가 지금까지 서명한 캘리포니아 법안은 5개다. 최근 생성형 AI 기반 허위 정보, 가짜 음성, 딥페이크 등을 막기 위한 법안에 서명한 바 있다. 이는 현존하는 AI 문제다. 뉴섬이 언급한 입증 가능한 위험이다. 해당 법안은 내년 본격 발효된다. 이날 뉴섬 주지사는 2주 뒤 SB 1047에 서명할 것인지 명확히 밝히지 않았다. 그는 "법안 승인 여부를 여전히 생각 중"이라며 "확실한 결정을 아직 내리지 못했다"고 말했다. 앞서 캘리포니아주 의회는 지난달 29일 SB 1047 법안을 통과시켰다. 해당 법안은 AI 기술의 급격한 발전에 따른 안전 문제를 해결하기 위해 마련됐다. 이달 30일 뉴섬 주지사가 서명하면 공식 발효된다. 법안이 발효되면 AI 개발사는 모델 훈련 과정서 발생할 수 있는 위험을 사전에 평가하고 필요시 신속하게 모델을 중단하는 '킬 스위치' 기능을 명시해야 한다. 훈련 후 모델 변조 방지를 위해 안전 조치에 관한 조항도 법안에 포함됐다. 그동안 오픈AI를 비롯한 낸시 펠로시 하원의원, 미국 상공회의소 등은 뉴섬에게 SB 1047법안에 사인하지 말라고 압박했다. 지나친 규제로 AI 산업 발전을 저해한다는 이유에서다. 반면 일론 머스크 테슬라 최고경영자(CEO)와 앤트로픽 등은 지지를 간접적으로 표명했다. 캐나다 몬트리올대 요슈아 벤지오 교수와 제프리 힌턴 등 AI 연구자들은 SB 1047를 전폭적으로 지지하고 있다.

2024.09.18 16:48김미정

오픈AI 'o1'로 AGI 시대 성큼…"정부·기업, 개발 투명성 고려 필수"

오픈AI가 데이터 기반으로 답하는 것을 넘어 실제 추론까지 하는 생성형 인공지능(AI) 모델을 공개하면서 일반인공지능(AGI) 시대를 향해 한 걸음 더 나아갔다는 평가를 받는다. 이달 13일 오픈AI는 AI 추론 능력을 대폭 강화한 새로운 모델 o1 프리퓨 버전과 미니 버전을 블로그를 통해 공개했다. 이 모델 시리즈는 이전 모델보다 더 복잡한 문제를 처리할 수 있으며 수학과 코딩 등 기술적 문제를 해결할 수 있다. 국제 수학 올림피아드 예선에서 'GPT-4o'는 13%의 문제를 해결했으나 'o1'은 83%의 문제를 정확히 풀어냈다. AI 업계가 고도화된 기술을 쏟아내고 있는 만큼 중요하게 부각되는 부분도 생겼다. 바로 AI 규제다. 현재 미국은 캘리포니아 AI 안전법을 통과시켜 개발 투명성과 안전성 부각에 나섰다. 유럽연합(EU)은 물론이고 캐나다와 영국, 일본도 마찬가지다. 이에 발맞춰 국내서도 최소한의 투명성 관련 규제가 필요하다는 의견이 나오고 있다. AGI 시대로 다가갈수록 AI 기반 솔루션과 결과물이 예측 불가하다는 이유에서다. 법무법인 태평양 강태욱 변호사와 윤주호 변호사는 최근 기자와 만나 고도화된 AI 시스템이 산업계에 안착하기 위해 필요한 법안에 대해 이야기 나눴다. 생성형 AI와 관련한 딥페이크, 저작권 문제, 근로 환경 등 이슈에 대한 의견도 공유했다. 법무법인 태평양은 AI팀 활동을 올해 초 본격화했다. AI팀은 AI 기술 개발이나 솔루션 구축, 사업 시작을 위해 지켜야 할 개인정보 보호법과 데이터법 등을 고객에게 자문한다. 현재 약 20명이 해당 팀에서 근무 중이다. Q. 지난주 오픈AI가 사람처럼 추론할 수 있는 고급 모델을 내놨다. 산업계가 AI 시스템 고도화를 신속히 진행하고 있다. 이럴수록 AI 규제 필요성이 더 높아지지 않을까. 윤: 그동안 기업이 AI 시스템 고도화를 위한 기술을 꾸준히 내놨다. 앞으로 기존 개발 틀을 벗어나진 않을 것 같다. 다만 고도화된 AI 시스템으로 무엇을 만들지 아무도 예측할 수 없다. 결국 AGI 등 고도화된 AI 시스템이 산업에 안착하려면 최소한 규제는 필요할 것이다. 이중 개발 투명성이 가장 중요하다. 정부가 개발자나 AI를 사용하는 기업에 데이터 사용 방식이나 모델 알고리즘에 대해 질문을 요구할 수 있는 규제가 필요하다. 다만 AI 산업이 어느 정도 성장한 단계에서 해당 규제를 추진해야 할 것이다. Q. 기업이 정부에게 AI 기술을 의무로 공개하는 법 정도로 이해하면 되는 건가. 조금 더 구체적으로 설명해 달라. 윤: AGI는 지금보다 훨씬 더 고도화된 AI 시스템이다. 그동안 전문가들은 AI 모델에서 파생되는 새 기술을 예측할 수 있었다. 반면 고도화된 AI 시스템이 출현하면, 예측할 수 없다. 기술 불확실성이 커진다는 의미다. 정부는 AI의 불확실성과 그로 인한 잠재적 위험을 관리하기 위한 최소한의 조치 정도로만 규제를 설정하면 된다. 개발자나 기업이 AGI로 특정 결정을 내릴 때 그 결정 과정이나 근거를 정부에 설명하거나 공개할 수 있는 체계다. 정부는 향후 이런 법안을 입법에 넣어야 한다. 이보다 더 강력한 규제는 삼가야 한다. 오히려 기술 중립성을 해칠 수 있다. Q. 현재 국내에선 현존 AI 기술로 인한 이슈가 많다. 딥페이크가 대표적이다. 정부가 딥페이크 피해 방지를 위해 여러 법안 제정을 추진 중이다. 충분히 피해를 최소화할 수 있을 것으로 보는가. 강: 방송통신위원회가 제정을 추진 중인 이용자보호법에는 딥페이크 피해 방지를 위해 AI로 생성된 콘텐츠에 AI 생성물 표시를 의무화하는 법 등을 도입할 것으로 보인다. 그러나 표시 의무 규정 법안만으로 문제를 완벽히 해결할 수 없다. 딥페이크 영상물에 AI 생성물 표시 의무를 부과하면, 일차적으로 허위 정보 확산을 방지하고 제작자·유포자에게 책임은 물을 순 있다. 그러나 딥페이크 제작자나 유포자의 거짓 고지 가능성이 있다. 이용자보호법이 문제 해결에 실효성있게 작동하려면 정부는 지금보다 디테일한 집쟁 정책을 운영해야 한다. Q. 최근 미국 캘리포니아주가 AI 안전법 'SB 1047'을 통과시켰다. 거대 AI 모델에 대한 강력한 규제를 담고 있는 법안이다. 일각에선 SB 1047이 책임소재와 범위가 과도하다는 지적이 나오고 있다. 이를 어떻게 평가하는지. 강: 해당 법안에는 AI로 인한 핵심 피해 방지를 위한 안전 평가 관련 내용과 AI 모델 개발자들에 대한 독립적 제3기관에 의한 감사, 보고의무, 학습을 포함한 AI 모델 기능을 중단시키는 전제 중단 기능 구현, 공공 안전 위협에 대한 징벌적 손해배상 등 내용을 담고 있다. AI가 가져올 위험을 통제할 수 있는 장치가 필요하다는 점에 대해서는 공감한다. 다만 이런 강력한 규제는 이미 기술·산업적으로 최정점에 서 있는 국가에서나 효율적일 수 있다고 본다. 오히려 시장에 진입하고자 하는 해외 경쟁업체들에 진입장벽으로 기능할 수도 있다. Q. 해당 법이 최종 승인되면 다른 나라 AI법에도 영향 미칠 전망이다. 국내 정부도 SB 1047과 노선을 같이할 수 있는 법안을 마련할 것으로 보는가. 강: 현재 과학기술정보통신부에서 제정을 추진하고 있는 AI 기본법은 AI 산업 진흥에 관한 법률이다. AI 시스템 규제에 초점을 맞추고 있는 법은 아니다. SB 1047처럼 AI 안전 평가, 제3자에 의한 감사·보고 의무 같은 강력한 규제 사항들이 포함되지 않을 가능성이 있다. 정부가 AI 관련 제도를 마련하는 과정에서 EU나 미국 등의 AI 관련 규제 정책 사례를 참고할 수는 있다. 다만 국내 AI 산업은 아직 성장단계에 있다. 과도한 규제가 가해질 경우 산업 자체가 위축될 수 있다는 점 고려해야 한다. 이후 고도화된 AI 시스템 대비를 위해 개발 투명성 등 적절한 규제를 추가하면 된다. Q. 저작권 이슈도 생성형 AI 산업서 많이 거론되는 주제다. 기업 노력만으로 해결할 수 있는 문제가 아니라는 평가가 이어지고 있다. 윤: 그렇다. 그동안 학습용 데이터를 무료로 이용하는 행위에 관대한 분위기였다. 챗GPT 출현 후 저작권 이슈가 나오고, 지난해 하반기부터 소송이 이어지면서 분위기가 달라졌다. 데이터 활용이 유료로 전환될 필요가 있다는 목소리가 나와서다. 이미 데이터 학습을 AI 모델에 충분히 진행한 업체나 대기업은 이에 동의하는 입장이다. 저작권 이슈는 생성형 AI 산업계와 저작권 관련 업계가 공감대를 형성해야 한다고 본다. 이는 법 마련보다 더 시급한 과제다. 지난해 저작권위원회와 문화체육관광부가 생성형 AI 저작권법 제정에 나선 바 있다. 안타깝게도 결과가 잘 안 나왔다. 당시 양측 공감대가 없었기 때문이라고 본다. 지난해 국회도 저작권법 논의 때 해결 주제를 이야기하긴 했다. 아직 마침표를 찍지 못했다. 정부가 나서서 속도감 있게 생성형 AI 산업계와 저작권 관계자 등으로부터 의견을 충분히 모으는 역할을 해야 할 것 같다. Q. 생성형 AI가 산업에 도입되면 근로 환경도 변할 것이란 전망이 나오고 있다. 기업이 직원을 AI로 대체하는 과정에서 법률적 문제를 겪을 것으로 보인다. 윤: 단정 짓기 어려운 문제다. 국내에 AI와 근로법이 충돌한 사례가 아직 없기도 하다. 다만 기업이 신규 채용을 줄이는 방식을 가장 합리적인 선택으로 볼 것 같다. 이 부분에서도 정부 역할은 필요하다. 기업이 신규 채용을 너무 줄이면 정부가 정책을 통해 관리를 해야 한다. 기업과 근로자 공감대 형성도 도와야 할 것이다. Q. 이슈를 종합해 볼 때 앞으로 AI 윤리 중요성이 높아질 것 같다. 최근 기업들이 사내에 AI 윤리위원회를 설치해 AI 개발·활용에 지켜야 할 수칙을 정하는 추세다. 올바른 방향으로 가고 있다고 보는가. 강: 최근 대기업 중심으로 AI 거버넌스를 추진 중인 걸로 알고 있다. AI를 개발·활용할 때 지켜야 하는 원칙 틀을 만드는 추세다. 이런 원칙은 국내에서 한 10개쯤 나와 있다. 문제는 원칙에 디테일이 부족하다는 점이다. 사실 이런 건 법률가들이 잘할 수 있는 업무다. 현재 법률 지식과 기업 사정에 가장 알맞은 디테일을 만들어야 해서다. 그렇지 않으면 거버넌스를 만들어도 AI 이용·개발에 충분히 적용할 수 없을 것이다. Q. 국내 기업이 AI 윤리위원회 설치를 활성화하려면 무엇이 필요한가. 강: 모든 기업이 AI 윤리위원회 필요성을 알고 있다. 다만 위원회만 만들고 끝나는 게 아니라, 실제 회사 내에서 높은 수준의 중요성을 가져야 한다. 이사회 의장 또는 최고경영자가 이를 정말 중요하게 생각해야 한다. 이들이 위원회를 지지해야 결정권도 가질 수 있어서다.

2024.09.18 13:19김미정

[기고] AI 시대의 현명한 개인정보 활용 방법

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 산업혁명 시대에는 석탄과 석유가 경제 성장을 주도하는 핵심 자원이었지만 오늘날에는 데이터가 그 자리를 차지하고 있다고 해도 과언이 아니다. 데이터는 이제 새로운 시대의 석유로 불릴 만큼 기업과 국가의 경쟁력을 좌우하는 핵심 자산이 됐다. 특히 인공지능(AI) 기술이 발전하면서 AI가 학습하고 진화하는 데 필수적인 요소인 데이터의 중요성이 더욱 대두되고 있다. 많은 유형의 AI가 존재하지만 그 중 다수가 사람과의 상호작용을 전제로 한다. 이에 데이터 중에서도 개인정보를 활용한 AI 학습 및 고도화 필요성이 커지고 있다. 그렇지만 정보주체의 권리와 관련 규제에 대한 고려가 필요하다는 점에서 개인정보는 다른 데이터에 비해 활용에 주의가 필요한 것도 사실이다. 지난 2021년에 있었던 '이루다' 챗봇 사건은 AI 기술의 가능성과 개인정보 사용의 잠재적 위험성을 동시에 보여준 대표적인 사례다. '이루다'는 자연어 처리를 기반으로 한 20대 여성 캐릭터의 AI 챗봇으로, 페이스북 메신저에서 이용자들과 대화하며 큰 인기를 끌었다. '이루다'의 가장 큰 매력은 자연스러운 대화 능력이었는데 이러한 대화 능력의 원천은 챗봇의 개발사가 운영 중인 서비스를 통해 수집한 이용자와 타인 간의 카카오톡 대화 문장이었다. 실제 대화를 기반으로 개발된 만큼 '이루다'는 뛰어난 대화 능력을 가질 수 있었는데 이용자의 개인정보 이용에 대한 동의나 가명처리 등에 대한 논란이 됐다. 이처럼 AI의 눈부신 발전 뒤에는 개인의 개인정보 자기결정권과 사생활 보호권에 대한 침해 가능성이라는 이면이 존재한다. 이제는 이 양자 간 균형을 어떻게 유지할 것인지에 대한 고민이 필요한 시점이다. 글로벌 AI 패권 경쟁이 본격화되는 상황에서 AI 발전을 저해하지 않으면서도 개인의 권리를 보호할 수 있는 선이 어디인지를 정하는 것은 매우 어려운 문제다. 그렇지만 규제의 불확실성이 오히려 AI 사업을 움츠러들게 할 수 있다는 점에서 이는 꼭 해결해야 할 과제이기도 하다. 적절한 규제의 수위를 정하기 위해서는 먼저 AI 사업자들이 AI 개발에 필요한 개인정보를 어디서 가져오는지를 따져봐야 한다. AI 사업자들이 활용할 수 있는 개인정보는 크게 온라인에 공개돼 있는 개인정보와 사업자가 기존 서비스 제공 과정에서 이미 수집해놓은 개인정보일 것이다. 이와 관련해 개인정보보호위원회(개보위)는 지난 해부터 AI 개발∙서비스에 활용되는 개인정보의 처리기준에 관한 정책방향 등을 꾸준히 내놓으며 규제의 방향을 구체화하고 있다. 지난 7월에는 공개된 개인정보 처리에 대한 안내서를 발간했다. 개보위가 지난 7월 발간한 '인공지능(AI) 개발∙서비스를 위한 공개된 개인정보 처리 안내서'의 주요 내용은 다음과 같다. 우선 안내서는 AI 사업자가 인터넷에 공개돼 있는 데이터를 웹 스크래핑 등의 방식으로 수집해 AI 학습에 활용한다면 해당 데이터에 개인정보가 포함돼 있어도 이를 정보주체의 개별 동의나 계약 체결∙이행 등의 조항에 근거해 활용하는 것은 사실상 어렵다는 점을 인정했다. 그러면서 정당한 이익(개인정보 보호법 제15조 제1항 제6호)을 근거로 공개된 개인정보를 AI 개발 목적으로 처리할 수 있다고 봤다. 이러한 정당한 이익에 근거하기 위해서는 AI 개발 목적의 정당성, 공개된 개인정보 처리의 필요성, 구체적 이익형량이라는 세 가지 요건을 충족해야 한다. 이 요건들을 충족하는지 여부는 AI 개발의 구체적 맥락을 고려해 사안별로 판단해야 하므로 여전히 모호한 측면이 있기는 하다. 그럼에도 AI와 관련 기술의 발전 속도를 고려할 때 모든 경우를 상정해 구체적인 규제 조항을 만드는 것은 불가능하고 실익도 적다. 이에 이러한 원칙 중심의 규제는 합당한 면이 있다. 그 기준을 가능한 한 구체적으로 제시한 개보위 안내서는 매우 유의미한 성과라고 할 수 있다. 공개된 개인정보의 활용과 달리 AI 사업자가 기존에 서비스를 제공하는 과정에서 수집해 놓은 개인정보를 AI 목적으로 활용하는 부분에 대해 개보위는 아직 명확한 입장을 밝힌 적이 없다. 다만 개인정보보호위원회가 공개된 개인정보 처리 안내서에서 밝힌 내용 등으로 미뤄 보아 이 경우에도 정당한 이익 조항을 실질적인 적법 근거로 활용할 수 있을 것으로 생각된다. 정당한 이익 조항에 근거하기 위한 요건인 AI 개발 목적의 정당성, 개인정보 처리의 필요성, 이익형량은 모두 사업자가 이미 보유하고 있는 실제 이용자의 개인정보를 활용할 때도 동일하게 적용 가능한 기준들이기 때문이다. 다만 AI 사업자가 기존 서비스 이용자로부터 수집한 개인정보의 경우 당초 수집 목적이 존재할 것이다. 이에 따라 정당한 이익 조항 외에도 추가적인 이용 조항(개인정보 보호법 제15조 제3항)의 활용을 고려해 볼 수 있다. 추가적인 이용 조항에 따르면 개인정보처리자는 당초 수집 목적과 합리적으로 관련된 범위에서 정보주체에게 불이익이 발생하는지 여부, 안전성 확보에 필요한 조치를 했는지 여부 등을 고려해 정보주체 동의 없이 개인정보를 이용할 수 있다. 개보위도 지난 해 8월 발간된 '인공지능 시대 안전한 개인정보 활용 정책방향'에서 특정 서비스 제공 목적으로 수집한 개인정보를 해당 서비스의 개선(고도화) 목적으로 AI 개발에 이용한다면 추가적 이용이 가능하다고 제시한 바 있다. 또 이 외에도 가명정보는 과학적 연구를 위해 정보주체 동의 없이 처리할 수 있다. 이에 따라 AI 사업자는 기존에 수집해둔 이용자의 개인정보를 가명처리해 AI 학습 개발에 활용하는 방안도 고려할 수 있다(개인정보 보호법 제28조의2 제1항). 다만 최대한의 가명 처리 노력을 하더라도 실제 이용자들의 대화 내용 속 모든 이름, 주소, 숫자 등이 완전하게 제외되지 않을 수 있어 그 완전성을 담보하기 어렵다. 또 처리하는 데이터 양이 방대해질수록 담당자가 이를 일일이 확인하기도 어렵다. 이러한 점 등을 고려할 때 가명정보 처리 조항을 적법처리의 근거로 활용하기에는 한계가 있다. 이에 따라 사업자가 이미 수집한 개인정보의 AI 목적 활용에 대해서는 정당한 이익과 추가적인 이용을 주된 법적 근거로 보되 가명처리 여부는 위 법적 근거 충족 여부를 판단하는 요소인 안전성 확보조치에 관한 것으로 보는 것이 보다 실질적인 규제 방식이라 할 것이다. 전통적으로 우리나라는 정보주체의 동의에 근거해 개인정보를 수집∙이용해 왔다. 그렇지만 개보위는 동의에만 의존하는 것이 아니라 현실에 맞는 법적 근거를 활용하도록 하는 방향으로 규제 체계를 변경하고 있다. 이러한 변화의 모습이 AI 시대에 적절한 것인지는 다소간의 의문이 있지만 동시에 국가 간 AI 개발 경쟁 역시 심화되고 있는 추세다. 이에 따라 개인정보 활용을 억제만 하기 보다는 정보주체에 대한 불이익을 최소화하면서도 다양한 법적 근거를 적절하게 활용할 수 있는 방안을 찾는 것이 중요한 과제다. 개인정보보호위원회가 지금까지 해온 것처럼 새로운 쟁점들에 대해서도 실질적이고 유용한 규제 기준을 마련해 제안할 수 있기를 기대해 본다.

2024.09.18 10:45법무법인 태평양 오세인

[현장] AI 기본법 제정, 정부·시민사회 '맞손'

인공지능(AI) 기본법 제정의 필요성과 방향을 논의하기 위해 국회 과학기술정보통신위원회와 시민단체가 손을 맞댔다. 더불어민주당 최민희 의원이 12일 국회에서 시민기술네트워크가 함께 주최한 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'에는 정치인·산업계·정부·시민사회가 참석해 AI 법안 제정에 대한 다양한 의견을 나눴다. 특히 과기정통위 소속 의원 대다수가 참석해 기본법 제정의 필요성을 촉구했다. 첫 번째 발제를 진행한 영국 사회혁신연구소 '스프레드아이'의 김정원 대표는 유럽연합(EU)의 AI 기본법에 대해 소개하며 그 핵심 쟁점과 사회적 영향에 대해 논했다. 김 대표는 "EU는 지난 2018년부터 AI 법안에 대한 논의를 시작해 올해 최종안을 발표했다"며 "AI 사용 시 발생할 수 있는 인권 침해를 방지하기 위해 신중한 법안 구성을 추구하고 있다"고 밝혔다. 김 대표에 따르면 AI 기본법의 가장 핵심적인 쟁점은 고위험 AI에 대한 규제와 적합성 평가다. 현재 AI법에 의하면 표준화 기구가 규제를 주로 담당하고 있기 때문이다. 이 기구들은 주로 산업 안전을 담당해 왔다. 그는 "EU가 인권 보호에 초점을 맞췄음에도 평가기준이 이에 대해 충분히 반영되지 못하고 있다"라며 "표준화 기구들이 주로 산업 안전에만 집중하기 때문에 인권 보호가 소홀해질 수 있다"고 밝혔다. 이어서 발제를 맡은 법무법인 혁신의 박지환 변호사는 21대 국회 이후 AI 기본법 국회 입법안의 발의 과정을 설명했다. 박 변호사는 "21대 국회에서 발의된 AI 관련 법안들은 9건이었지만 이는 결국 회의 종료 이후 폐기됐다"며 "이번 22대 국회에서도 이미 10건이 발의되는 등 법안 제정을 위한 논의가 진행 중"이라고 설명했다. 그러면서 "국가 인권위원회에서는 우선 허용, 사후 규제 원칙 원칙을 삭제하라고 권고했다"며 "고위험 인공지능에 대한 규제가 앞으로도 핵심 쟁점이 될 것"이라고 주장했다. 이날 행사에는 과기정통위 소속의 더불어민주당의 김현 의원, 정동영 의원, 조인철 의원, 한민수 의원, 이훈기 의원, 황정아 의원, 노종면 의원, 이정헌 의원과 국민의힘 최형두 의원, 개혁신당 이준석 의원, 조국혁신당 이해민 의원이 참가해 의견을 나눴다. 이준석 개혁신당 의원은 정치권의 AI에 대한 접근 방식에 우려를 표하며 올바른 기술 활용의 필요성을 강조했다 이 의원은 "'챗GPT'와 같은 생성형 AI 등장 후 기술에 대한 관심이 높아졌다"며 "동시에 정치인들은 AI와 관련된 버즈워드에만 집착하는 상황"이라고 밝혔다. 그러면서 "명확한 가이드라인이 없다면 AI 발전이 오히려 국가에 위험을 초래할 수 있다"고 경고했다. 행사를 공동 주최한 최민희 더불어민주당 의원은 행사의 의미와 AI 법안 통과의 긴급성을 강조했다. 최 의원은 "지난 달부터 준비를 시작해 이번 달 빠르게 토론회를 개최했다"며 "앞으로도 법의 조속한 통과를 위해 시민사회의 의견을 바로 반영하겠다"고 밝혔다. 이번 토론회는 좌장인 이원태 아주대 교수의 진행 아래 하정우 네이버클라우드 AI 소장, 남철기 과학기술정보통신부 과장, 오병일 진보네트워크센터 대표 등 다양한 전문가들이 참여해 AI 법안에 대한 의견을 나눴다. 좌장인 이원태 아주대 교수는 "AI 기본법은 사회 전반에 걸친 중요한 문제"라며 "이번 토론회를 통해 다양한 이해관계자의 의견을 반영할 수 있게 되길 바란다"고 밝혔다.

2024.09.12 18:01조이환

공공·금융 업무망서 생성형AI, SaaS 쓴다...다중보안체계 시장을 잡아라

사이버 보안 기업이 공공·금융 보안정책 개선에 따라 다중보안체계(MLS)를 도입하는 업무망 환경을 안전하게 만드는 기술을 앞다퉈 제시했다. 국가정보원과 국가보안기술연구소는 11일부터 12일까지 삼성동 코엑스에서 '제1회 사이버서밋코리아(CSK) 2024'를 개최했다. 정부는 이 행사에서 공공분야에 인공지능(AI), 클라우드 확산을 위해 망분리 정책을 완화하고 새로운 보안 체계인 '다층보안체계(MLS)'를 도입한다고 밝혔다. 사이버 보안업계는 정책 변화에 따라 대응책을 제시했다. 앤앤에스피(대표 김일용)는 CSK2024에 국가 망 보안 정책 개선에 대응하는 SaaS와 생성형AI 중계 보안 솔루션 '앤넷CDS CSG(Cloud Security Gateway)'를 선보였다. 앤넷CDS 시리즈는 내부망에서 외부 서비스로 비인가된 접속을 차단한다. 외부에서 내부망으로 우회접속도 막아 공공과 금융 전산망 환경을 안전하게 유지한다. 앤앤에스피는 발전시설과 공장 등 주요 기반 보호 시설 보안 솔루션에 이번에 클라우드 시큐리티 게이트웨이 솔루션을 전시하며 CPS를 넘어 IT 영역 전반까지 보안제품 라인업을 강화했다. 김일용 앤앤에스피 대표는 “클라우드 시큐리티 게이트 웨이는 망분리 환경 개선에 따라 다중보안체계(MLS) 지원하는 솔루션"이라면서 “AI와 클라우드 기반의 업무 자동화 등 기관과 금융권 업무 생산성을 높이고 데이터를 안전하게 활용하게 지원한다"고 말했다. 수산아이앤티(대표 정은아)는 생성형 AI를 완벽 분석해 업무망 환경을 안전하게 제공하는 유해사이트차단 솔루션 '이워커(eWalker) SWG' 를 전시했다. SSL 가시성 솔루션 '이프리즘(ePrism) SSL VA'과 AI·메일 ·메신저 제어·클라우드 환경에 최적화된 네트워크 DLP 솔루션 '이워커(eWalker) DLP' 등을 선보였다. 정은아 수산아이앤티 대표는 “생성형 AI 분석과 클라우드 환경에 최적화된 다양한 보안 솔루션 기술을 중점적으로 개발해 적용하고 있다”며 “더욱 안전한 공공기관과 금융권의 업무망 환경을 만들기 위해 앞으로도 지속적으로 노력할 것”이라고 말했다. 엔키화이트햇(대표 이성권)은 국가 망 보안 정책 개선에 따라 사이버 공격 표면을 최소화할 수 있는 '오펜(OFFen)' 서비스를 선보였다. 엔키화이트햇은 Δ 구독형 침투테스트 오펜 PTaaS (Penetration Testing as a Service) Δ 위협 분석 플랫폼 오펜 CTI (Cyber Threat Intelligence) Δ 실전형 사이버 공방훈련장 플랫폼 오펜 CR (Cyber Range)을 전시하며 시장에 대응했다. 이성권 대표는 “엔키화이트햇은 제품이 해외에서 경쟁력을 갖추기 위해 통합보안모델을 연구 중”이라면서 “오펜 제품은 국가망 보안 정책 개선에 따라 증가하는 공격 표면을 지속적으로 관리할 수 있는 서비스”라고 강조했다.

2024.09.12 13:18김인순

"규제 부처와 기업은 대립 아닌 동반자"

"기업과 규제 부처는 대립하는 관계가 아니라 동반자입니다."(양재석 법무법인 디엘지 파트너변호사) 법무법인 디엘지(구 법무법인 디라이트∙대표변호사 조원희)가 드림플러스(센터장 길세운)와 함께 서울 강남 뱅뱅사거리 인근 드림플러스 지하 1층 이벤트홀에서 혁신과 규제를 주제로 11일 무료 세미나를 개최했다. 이날 행사는 혁신을 추구하는 스타트업들이 직면하는 '규제'라는 장벽을 어떻게 극복하고 성장할 지를 공유하기 위해 마련됐다. 이재환 무신사 본부장(변호사), 강성지 웰트 대표, 허은 이온어스 대표, 송승훈 백패커 CFO 등 패션, 헬스케어, 에너지, 이커머스 분야에서 혁신을 이뤄낸 스타트업 임원들이 연사로 나서 기업 경험담을 들려줬다. 특히 양재석 법무법인 디엘지 파트너 변호사는 현재 정부부처 6곳(과기정통부, 국토교통부, 산업부, 중기부, 환경부, 금융위)에서 운영하고 있는 8개 규제샌드박스의 효과적 활용 방법을 소개, 시선을 모았다. 양 변호사는 현재 과기정통부와 NIPA의 ICT 규제샌드박스 과제화 지원사업 PM이기도 하다. 중기부 창업벤처규제혁신담당-K스타트업 법률지원사업 자문변호사로도 활동하고 있다. 양 변호사는 규제정보포털에 가면 규제샌드박스에 관한 모든 것이 나와 있다면서 "규제 소관 부처는 우리 사업을 가로 막는 곳이 아니다. 도와주려 하는 곳"이라면서 "정부 당국을 동반자, 협업을 하는 곳으로 봐야한다"고 조언했다. 이어 규제샌드박스를 잘 활용하는 비법 5가지로 ▲소관 부처와 규제 부처가 다르니 어느 부처를 소관 부처로 할 지 잘 선택할 것 ▲규제샌드박스가 만병통치약은 아니지만 효과적인 수단임은 분명 ▲동일 유사 화제와 유사한 사업 모델을 만들 것(이미 승인이 난 사업모델은 후발 사업모델도 쉽게 승인을 내줌) ▲정부 규제 개선 경향에 부합하는 사업 모델을 만들 것 ▲이해관계자가 적고, 국민 다수의 이익에 부합하는 사업 모델을 만들 것 등을 제시했다. 첫 발표를 한 조원희 디엘지 대표변호사는 "규제는 안좋고 혁신은 좋은 거라는 일종의 흑백 논리가 있는데 혁신도 필요하고 규제도 필요하다"면서 "혁신과 규제의 균형점을 찾아야 한다"고 강조했다. 조 변호사는 혁신과 규제의 해외 성공 사례로 ▲2014년 에스토니아가 도입한 전자주민증 ▲핀테크 기업의 신속한 규제 승인을 위해 스위스가 시행한 핀테크 라이선스 제도 ▲싱가포르가 2014년 도입한 스마트네이션(Smart Nation) 정책 ▲독일의 에너지 전환 정책(Energiewende) ▲일본 자율주행차 규제와 실험 등을 꼽았다. 한국의 성공 사례로는 2019년 시행한 규제샌드박스를 들었다. 조 대표변호사는 규제와 혁신이 균형을 이루기 위한 정부와 기업이 해야 할 일도 제시했다. 정부는 규제가 곧 힘이라는 인식을 버리고 소통 강화와 함께 현장 중시의 적극 행정, 유연한 정책을 펼쳐야 하고, 기업은 규제 참여와 협력과 함께 자율 규제와 윤리기준 설정, 투명한 운영과 데이터 공유, 지속적인 리스크 관리와 적시 대응, 사회적 책임을 다하는 혁신, 기술적 해결책 개발이 필요하다고 제안했다. 백패커 송승훈 CFO는 "창작과 정성의 가치가 인정받는 세상을 만든다"면서 "적절한 규제와 스타트업의 자율 규제가 필요하다"고 말했다. 백패커가 전자상거래 플랫폼 역할을 하고 있다면서 "판매자와 소비자를 연결하는 장을 제공하고, 시시시각각 빠르게 판매자와 소비자가 필요한 사항을 기능적으로 개발하고, 이를 충실히 제공하는 방법으로 시장을 만들어가는 역할을 수행하는 것이 플랫폼"이라고 짚었다. 생태계를 구성하는 비전을 갖고 있다고 소개한 송 CFO는 "소중한 꿈의 시작, 다시 찾은 내 이름, 위로이고 감동, 또 다른 도전, 간절함, 이런 역할을 해주고 있다"고 밝혔다. 이재환 무신사 본부장(변호사)은 "규제가 없을 수 없다"면서 "하지만 적절해야 한다"고 밝혔다. 온라인 패션을 선도하고 있는 무신사는 공정거래법과 대규모유통업법의 영향을 받고 있다. 변호사 이기도 한 이 본부장은 "(규제에 대해) 놓치고 있는 건 없는 지 항상 신경쓰고 있다"면서 "기존 규제로 충분한 건 아닌가? 사전 규제 도입이 반드시 필요한가? 플랫폼 시장 현황을 충분히 분석 했는가? 게이트키퍼 지정이 반드시 필요한가? 스타트업들에게 도움이 되는가? 등을 물어본다"고 말했다. 이어 스타트업이 규제에 잘 대응하려면 신사업 분야의 규제 현황을 면밀히 모니터링해야 한다고 제언했다. 특히 그는 글로벌 진출을 굉장히 많이 고민하고 있는데 찾아보면 글로벌 규제가 훨씬 더 많고 심각하다면서 "해외로 가려면 더 많은 준비가 필요하다. 우리도 노력하고 있다"고 들려줬다. 허은 이온어스 대표는 자사의 이동형 전기차 충전을 예로들며 산업부의 규제샌드 박스 운영 실태를 소개했다. 2020년 2월 설립한 이 회사는 넷제로 실현을 미션으로 하고 있다. 허 대표는 실증 특례 기한이 최대 4년이라면서 "관련규제가 개선되지 않으면 사업이 불가능하다. 규제샌드박스에 신청할 지를 잘 생각해야한다"고 조언했다. 규제샌드박스 신청 기간 동안 사업이 제한되고 또 규제샌드박스가 성사됐더라도 이의 종료후 경쟁력이 있을 지를 잘 살펴봐야 한다는 것이다. 디지털 치료제 분야 리딩 기업인 웰트의 강성지 대표는 자신의 경험을 들며 "규제가 없는 상황에서는 어떻게 비즈니스를 해야 할 지 막막했다"며 "취지와 목적이 불순하지 않으면 충분히 허가를 받을 수 있다고 본다"고 말했다. 강 대표는 삼성전자를 다니다 사내 벤처(C랩)로 시작해 삼성이 투자하면서 8년전 창업했다. 미국이 디지털치료 규제를 잘 만들어 부럽다면서 "미국은 리얼 데이터가 나오면 다시 처음으로 돌아가 허가 절차를 밟는다. 뒤로 돌아가는 규제를 제일 먼저 만들었다. 참 똑똑하다. 미래를 선점하려 한다"고 진단했다. 강 대표에 따르면 미국에 이어 독일도 SW특징을 고려한 디지털치료제 제도를 만들었고, 프랑스도 'PECAN'이라는 제도를 도입했다. 우리나라도 2019년부터 이 문제를 다뤄 총 세차례 관련 지침을 만들었다. 웰트는 국내서 두번째로 디지털치료 허가를 받았다. 강 대표는 자율차를 누가 먼저 완성하냐가 중요하듯이 디지털치료기기도 누가 먼저 완성작을 만들 지가 포인트라면서 "(디지털 치료기기가)허가단계부터 진화해야 한다"고 강조했다.

2024.09.11 22:12방은주

"EU 같은 규제 안돼"…美 AI 로비스트, 의회 여론 선점 나서

인공지능(AI) 규제 논의와 발전 속도에 발맞춰 AI 산업 로비스트들이 발 빠르게 미국 의회에 손을 내밀고 있다. 9일 AP통신 등 외신에 따르면 AI 산업 로비스트들은 의원·보좌관들과 직접 만나 AI 규제 법안 수위에 대한 캠페인과 로비를 진행 중이다. 외신들은 미국 로비스트들이 미국의 AI 규제가 유럽연합(EU)의 AI 법을 따라가지 않도록 로비 중이라고 보도했다. 의회 의원들을 지속적으로 교육하고 정보를 제공해 의원들이 과도한 규제를 담은 법을 만들지 않도록 나서는 것이다. 실제로 AI 로비 단체 수는 2년 사이 급증했다. 미국 정치 자금 감시기관 오픈시크릿에 따르면 AI 이슈에 로비하는 조직은 2022년 158개에서 2024년 462개로 약 190% 이상 증가했다. 일부 로비스트 단체 뒤에는 마이크로소프트, 아마존 등 빅테크도 있는 것으로 알려졌다. 미 의회도 로비스트에게 호의적인 것으로 알려졌다. 특정 법안에 지지·반대를 표하는 것이 아니기 때문에 상호 간의 관계 구축에 용이하기 때문이다. 소프트웨어 얼라이언스 크레이그 올브라이트 수석 로비스트는 "의회 관계자들은 AI와 관련된 정책 교육을 받고 싶어 한다"며 "우리는 AI를 향해 닫혀 있는 문을 열고자 한다"고 말했다. 반면 학계는 기업 로비스트들의 세력에 밀리는 분위기다. 매사추세츠 공과대학 맥스 테그마크 교수는 "학계가 이 정도 세기의 로비 수준을 견제하는 건 어려운 일"이라고 우려했다. MIT 아수 오즈다글라 컴퓨터 과학과 교수도 "학계는 컴퓨팅 리소스에 대한 접근성이라는 큰 과제를 안고 있다"며 "우리는 연구를 하고 있고 이들을 따라잡고자 하지만 경쟁에서 살아남으려면 여러 가지 난관이 있다"고 아쉬움을 내비쳤다. 미국 버지니아주 돈 베이어 민주당 의원은 "아직 누구에게도 EU AI 법과 관련해 EU를 옹호하는 입장을 듣지 못했다"라며 "끊임없이 의회에 들려오는 이야기는 미국이 EU가 간 길을 똑같이 따라가지 말아야 한다는 것"이라고 말했다.

2024.09.09 11:53양정민

美·英·EU, 'AI 국제조약' 최초 체결

미국, 영국, 유럽연합(EU)이 인공지능(AI) 기술 혁신과 윤리를 동시에 발전시키고자 법적 구속력이 있는 국제 조약을 체결했다. 하지만 일부에서는 이번 조약의 실효성에 대해 의문을 제기하고 있다. 6일 도이체벨레에 따르면 유럽평의회가 주도한 이 조약은 지난 5일 리투아니아 빌뉴스에서 미국, 영국, EU 등 여러 국가가 서명했다. 이 조약은 AI 기술 발전을 장려하면서도 그로 인한 위험을 관리하는 법적 규제를 제시한다. 이번 조약은 ▲인권 ▲민주주의 ▲법치주의 등 세 가지 중요한 영역에 AI를 어떻게 적용할 지에 초점을 맞추고 있다. 특히 이 조약은 AI 시스템의 전체 수명주기를 관리하는 규정을 포함하고 있어 기술 개발부터 폐기까지 전 과정을 감독하는 것을 목표로 한다. 이는 고위험 분야에서 AI가 인권을 침해할 가능성을 예방하기 위한 조치다. 미국, 영국, EU 외에도 안도라, 아이슬란드, 몰도바, 이스라엘 등도 이번 조약에 서명했다. 앞으로 다른 국가들도 서명할 수 있는 개방형 조약으로 설계됐다. 서명한 국가는 자국 내에서 비준해 법적 구속력을 부여해야 한다. 조약에 참여한 국가들은 기술 혁신을 촉진하는 동시에 AI가 사회에 미칠 부정적 영향을 최소화하는 데 중점을 두고 있다. 이번 조약은 AI 규제의 글로벌 기준을 제시함으로써 향후 AI 기술의 발전 방향에도 큰 영향을 미칠 것으로 보인다. 그럼에도 불구하고 일부 전문가들은 조약의 법적 집행의 실효성에 대한 의문을 제기했다. 비영리법 유럽센터(ECNL)의 프란체스카 파누치 변호사는 "이 협약에서 규정한 원칙과 의무는 너무 광범위하고 단서 조항이 많다"며 "이에 법적 확실성과 효과적인 집행 가능성에 심각한 의문이 있다"고 주장했다.

2024.09.06 09:57조이환

"플랫폼 규제 법안, 과잉금지원칙 위반…헌법 충돌"

"지금 논의되고 있는 온라인 플랫폼 규제 법안은 헌법적 관점에서 문제가 있다. 플랫폼 규제를 접근할 때 관련된 이해관계자가 세 가지 그룹(소비자·입점업체·플랫폼 사업자)이 있다고 하면, 어느 한 쪽의 이익만 방점을 찍을 수 없다. 소비자 편익, 입점업체의 권익, 플랫폼 사업자의 자유와 관련해 균형이 있어야 한다." 황성기 한양대학교 법학전문대학원 교수는 정부와 정치권에서 추진 중인 온라인 플랫폼 독점규제 관련 법안에 대해 우려하며 이같이 말했다. 플랫폼 규제 법안이 과잉금지원칙을 위반해 사업자의 기업 활동을 침해할 수 있고 특정 그룹의 이익을 위해서 만들어져서는 안 된다는 주장이다. "플랫폼 규제 법안, 객관적 입증 이뤄졌는지 의문…문제 많아" 5일 오전 서울프레스센터에서 열린 한국헌법학회 특별 세미나에서 발제를 맡은 황성기 교수는 '온라인 플랫폼 경쟁촉진법안'에 대한 헌법적 검토'에 대해 설명하며 대표적으로 지난 7월 박주민 더불어민주당 의원이 대표 발의한 '온라인 플랫폼 독점규제 및 거래공정화에 관한 법률안'의 문제점을 조목조목 설명했다. 해당 법안은 온라인 플랫폼 서비스 신고제, 시장지배적 플랫폼 사업자 사전 지정·입증 책임 전환, 경쟁제한성 추정·입증책임 전환제의 내용을 담고 있으며, 규율 내용에는 사전 지정된 시장지배적 온라인 플랫폼 사업자에 대해서 ▲자사우대 ▲끼워팔기 ▲멀티호밍 제한▲데이터 이동·접근 등 제한▲최혜대우 요구 등을 금지하고 있다. 먼저 황 교수는 ▲시장지배적 플랫폼 사업자 사전지정 ▲입정책임 전환제와 경쟁제한성 추정 ▲입증책임 전환제의 헌법적 문제점을 분석했다. 황 교수는 "사전지정된 플랫폼 사업자를 해당 시장에서 실질적으로 경쟁을 제한하고 있는 사업자로 추정하고, 실질적 경쟁제한성이 없다는 점에 대한 입증책임을 전환시키는 것"이라며 "이는 유죄인정의 효과로서의 불이익을 부과하는 것에 해당한다고 봐야 한다"고 지적했다. 즉, 아직 유무죄가 가려지지 않는 상태에서 유죄로 추정하고, 이를 전제로 해 '입증책임의 전환'이라는 불이익 처분을 부과하는 것이 된다는 뜻이다. 무죄추정의 원칙에 반하거나 적어도 무죄추정원칙을 잠탈할 가능성이 높다는 시각이다. 황 교수는 "이는 공권력 행사의 주체인 국가가 부담해야 할 입증책임을 규제대상인 온라인 플랫폼 사업자에게 전가시키는 것이고, 자기가 결정하지 않은 것이나 결정할 수 없는 것에 대해 온라인 플랫폼 사업자에게 그 책임을 지우는 것"이라며 "자기책임원리에 반한다고 봐야 한다"고 꼬집었다. 그러면서 "법안은 목적의 정당성은 충족시킨다고 하더라도 수단의 적합성이나 침해의 최소성, 법익의 균형성 요건을 충족시키지 못함으로써 과잉금지원칙에 위반해 온라인 플랫폼 사업자의 기업의 자유와 기업활동의 자유를 침해할 수 있다"고 덧붙였다. 공정거래법으로 규제 가능한데…플랫폼 규제 법안, 헌법적 차원에 원칙 위반 이어진 토론 자리에서 허진성 부산대학교 법학전문대학원 교수는 "온라인 규제 법안이 공정거래법상 제도와 절차가 미흡하고 부적합하게 여겨지게 할 수 있다"며, "더 직접적이고 강화된 방식의 규율을 지향하다보니 이러한 법안의 내용이 형성된 것이 아닌가 생각한다"고 말했다. 공정거래법에서 고려하고 있는 규제의 적절성에 관한 제도적 장치들이 플랫폼 규제 법안에서 변형이나 배제됨으로써 작동을 하지 않게 되고, 이러한 사정은 다시 헌법적 차원에서 여러 원칙 내지 원리 위반으로 파악되게 된다는 주장이다. 허 교수는 "이 법안에서는 개인과 기업의 자유와 창의를 존중한다는 헌법상 경제질서의 원칙이 도외시되는 결과에 이르게 되지 않았나"라며 "과도한 규제 일변도의 제도적 시도에 머물게 될 수 있다"고 지적했다. 그러면서 "규제의 필요성이 인식된다는 것과 규제의 방식 정도가 어떠해야할 것인가는 별개의 문제"라며 "규제의 필요성이 인정된다고 해도 구체적인 정책적 수단의 내용이 어디까지나 개인과 기업의 자유와 창의를 원칙으로 하면서 헌법상 가치와 원리를 준수하는 범위에서 형성돼야 할 것"이라고 강조했다. 이고은 법무법인 온강 대표 변호사 또한 사업자가 스스로 입증해야 한다는 점을 지적하며 "강제 수사권조차 가지지 못하는 사인에 불과한 사업자에게까지 입증을 요하는 것이 적절한가 의문이다"라고 말했다. 그러면서 "시장지배적 플랫폼의 독점 행태를 경계해야 하고 철저히 관리감독 해야 하는 것은 당연한 과제이지만 포괄적으로 플랫폼 사업자를 규제할 경우 오히려 전체적인 온라인 플랫폼 시장을 위축시킬 우려가 있다"며 "법안의 실효성이 검증되지 않은 상태에서 과도하고 과다한 사전규제를 할 경우 이에 대한 폐단이 발생할 가능성이 높다"고 언급했다. 심우민 경인교육대학교 교수는 "플랫폼 규제 법안은 기본건 제한과 필수적으로 연관돼 있다"며 "이는 사후 규제가 아닌 사전 규제이다. 이같은 법안 안에서 기업이 스스로 입증을 해야 한다는 책임을 주는 것인데 무죄추정원칙에 반하고 자기책임원리에도 반한다"고 말했다. 단순 해외 입법사례 내용을 차용해 오는 것 외에 어떠한 분석과 논증이 이뤄졌는지에 대해서 다시 한 번 숙고해야 할 필요가 있다는 설명이다. 심 교수는 "이 법안은 그만큼 사전에 면밀하게 분석되고 검토가 이뤄져야 한다"고 역설했다.

2024.09.05 11:54안희정

[현장] "지시와 규제만으론 AI 시대 곤란"…박영선 前 중기부 장관, AI 기본법 소견 밝혀

지난 4월 미국 하버드대학교 연구 과정을 마치고 돌아온 박영선 전 중소벤처기업부 장관이 복귀 후 첫 국회 방문에서 인공지능(AI) 기본법과 경직된 한국 사회의 분위기에 대해 언급했다. 박 전 장관은 4일 국회 제4간담회실에서 열린 'AI와 디지털 전환(DX)의 미래 정책 방향' 간담회에 참석해 AI 기본법에 대한 소견을 밝혔다. 이 자리에서 박 전 장관은 "인간이 마차를 발명하고 자동차를 발명한 뒤 영국에선 자동차가 마차보다 빨리 가선 안 된다는 '레드플래그 법'이 만들어졌다"며 "이 규제로 자동차 산업의 중심은 미국으로 건너갔고 이는 미국을 100여 년간 패권국가로 만든 주인공"이었다며 적확한 규제의 중요성을 강조했다. 이어 "판단과 결정에 익숙하지 않은 대한민국은 지금 병목현상에 걸렸다고 생각한다"며 "지시와 규제가 익숙한 사회다 보니 우리 사회가 점점 경직화되고 있다"고 우려했다. 박 전 장관은 "중기부 장관 시절 공무원들은 매번 '잘못되면 어떡하지'라는 걱정 속에 사로잡혀 규제를 계속해서 만들어 냈다"며 "AI 기본법을 포함해 이 규제를 어떻게 짜느냐가 정치와 국회의 역할"이라고 덧붙였다. 박 전 장관은 AI 국가 위원회에 대해서도 첨언했다. 문재인 정부, 박근혜 정부, 이명박 정부에서도 대통령과 각 부처 장관이 참석하는 위원회가 있었지만 기업 총수·대표 등 목소리를 내야 하는 이들이 제대로 된 의견을 낼 수 없는 분위기라는 것이 박 전 장관의 주장이었다. 박 전 장관은 "각 기업의 대표들이 제대로 말할 수 없는 분위기가 만들어진 이유는 지시 문화 때문"이라며 "이를 타파하기 위해선 AI 기업 등 대표들이 자유롭게 논의를 주고받을 수 있는 수평적 거버넌스가 만들어져야 한다"고 언급했다. 그는 "지난해 하버드에 있으면서 '우리가 과거 메모리 반도체의 영광에 너무 취해 있었던 것 아닌가'라는 생각이 들었었다"며 "국회에서 치열하게 AI 입법과 규제를 범국민적으로 토론하고 고민하는 모습을 보여야 한다"고 말했다.

2024.09.04 17:30양정민

[현장] "챗GPT 시대 맞는 AI법 필요"…국회, AI 규제 관련 논의

"지난 21대 국회에서 인공지능(AI) 법을 만들려고 했으나 법제화의 현실이 챗GPT 이전 수준에 머물러 있었습니다. 생성형AI가 나오고 있는 상황에서 알파고 입장에서 법제를 만들면 안되잖아요. 탄탄한 토대 하에 법을 만들기 위해 이번 간담회를 열었습니다." 더불어민주당 조승래 국회의원은 4일 국회 제4간담회실에서 '인공지능(AI)과 디지털 전환(DX)의 미래 정책 방향' 간담회에서 제대로 된 AI 기본법이 필요하다고 말했다. 이번 간담회에서는 AI 기술 확산에 따른 사회경제적 영향과 AI 법제화의 방향에 대해 발표가 이뤄졌다. 조 의원은 "AI는 몇 년 전부터 깊숙하게 들어와 있는 주제지만 국회의 시각은 알파고에 멈춰 있는 것 아닌가라는 의문 들었다"라며 "기술이 합의보다 먼저 가버리는 시기지만 합의가 먼저 이뤄지지 않으면 자칫 속박으로 작용할 수도 있다"고 우려했다. 한국지능정보사회진흥원(NIA) 이용진 AI 정책 본부장은 "과기정통부에 따르면 AI가 성공적으로 도입될 경우 연간 300조원 이상의 경제 효과가 있다"며 "2026년까지 123조원에 가까운 매출 증가와 약 187조원의 비용 절감 효과가 있을 수 있다"고 강조했다. 특히 제조업에선 약 24조원의 매출 상승, 54조원의 비용 절감 효과가 있을 수 있을 수 있다며 산업별로 허들을 정확히 파악해 규제를 만드는 것이 매우 중요하다고 덧붙였다. 이번 간담회는 과학기술정보통신부 후원으로 조 의원과 국민의힘 최형두 국회의원을 포함해 박영선 전 중소벤처기업부 장관, 과기정통부 류제명 네트워크정책실장, 조국혁신당 강경숙 국회의원 등이 참석했다. 이어진 발표에서 법무법인 광장 고환경 변호사는 일본, 미국에 비해 한국은 내세울 수 있는 AI 기술 기업이나 유니콘 기업이 없는 것이 현실이라며 학습데이터나 관리 체계 투자 측면에서 한국이 약점을 갖고 있다고 말했다. 고 변호사는 "AI 기술에 대해서는 대규모 자본 투자가 불가피하기 때문에 규제 불확실성을 빨리 해결해줘야 한다"며 "AI 안전연구소 설치와 관련해서도 실증적 테스트를 통해서 위험에 대해 어느 정도 대처해야 하는지 연구가 적극적으로 이뤄져야 할 필요가 있다"고 언급했다. 고 변호사는 거버넌스를 통해 일관된 정책과 AI와 관련한 최소한도의 예측 가능성을 제시하는 것이 필요하다며 자율규제 방안 마련을 중심으로 최소한의 규제만을 담은 입법 검토가 절실하다고 발언했다. 고 변호사는 앤드류 응 교수의 발언을 인용해 "EU AI 법은 제대로 존재한 적 없는 AI 리스크에 대한 강도 높은 규제를 표하고 있다"며 "이는 시장 뿐 아니라 규제 실패까지도 우려되는 상황"이라고 비판했다. 이어 "EU AI 법의 과징금 부담이 매우 크기 때문에 애플, 메타 등 빅테크가 AI 서비스 출시를 보류했다"며 "소비자들의 AI 서비스가 크게 제한될 조짐이 있다"고 아쉬움을 표했다. 이어진 토론에서 법무법인 세종 장준영 AI 센터장은 "규제적 측면에선 유럽을 참고하고 기술적 측면에선 미국을 참고할 필요가 있다"며 "우리나라는 유럽과 미국 사이에서 어떤 스탠스를 취해야 하는지 균형점을 잘 도출해야 한다"고 강조했다. 또 "AI는 정보처리 기술이 발전해 오며 나타난 데이터 처리 기술의 화룡점정"이라며 "해외의 AI 법을 참고하는 것도 좋지만 우리나라에서 여태 동안 해왔던 데이터 활성화 관련 법안들을 계승하는 AI 기본법이 만들어지길 바란다"고 기대했다. 류 실장은 "지난 3일 과방위에서 늦더라도 AI 기본법 관련해서 제대로 된 논의와 공청회를 한 번 거치고 가면 좋겠다는 의견이 있었다"며 "정책들이 추진되고 예산이 투입되려면 법적 근거가 필요한 만큼 국회가 신뢰할 수 있는 AI를 만들기 위한 법적 근거를 신속히 만들어 주길 바란다"고 말했다.

2024.09.04 16:50양정민

  Prev 11 12 13 14 15 16 17 18 19 20 Next  

지금 뜨는 기사

이시각 헤드라인

위메프 파산 선고에 10만 피해자 상처만...구영배 대표는 어디에?

소비쿠폰 영향 컸다…이마트·롯데마트, 3분기 나란히 낙제점

[체험기] 로봇이 알려준 걷기의 힘…'윔 S' 입어보니

삼성 '엑시노스 2600' 갤S26에 탑재..."퀄컴칩과 병행"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.