• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'데이터 보호'통합검색 결과 입니다. (56건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

내년 '산업용 AI' 확산 가속…데이터 보호·RAG 수요 급증할 듯

인공지능(AI)이 국내외 기술 환경을 지속적으로 변화시키는 가운데 내년에는 기업들이 AI에 투자하고 활용하는 방식에서 큰 변화가 있을 것으로 전망된다. 특히 산업용 AI 시장이 본격 개화하면서 각 기업들의 사이버 보안 전략이 '데이터 보호'를 중심으로 펼쳐질 것이란 관측도 나온다. 22일 퓨어스토리지가 발표한 '2025년 전망'에 따르면 기업들은 내년에 데이터에서 더 많은 가치를 창출하고 AI를 산업화 하기 위해 많은 AI 역량을 사내에 도입할 것으로 예상된다. 업계에선 현재 배포된 그래픽처리장치(GPU)의 대다수가 적극적으로 활용되지 않고 있다고 지적하고 있다. 이들 GPU는 주로 하이퍼스케일러와 같은 소수의 기업에 집중돼 있고 민간 기업에는 고르게 배치돼 있지 않다는 분석도 있다. 그러나 내년에는 산업용 AI의 중요성이 부각되며 다각도로 많이 활용될 것으로 보인다. 특히 기밀을 유지해야 하는 독점 데이터로 모델을 학습시키는 방법과 관련된 다양한 과제가 대두될 것으로 관측된다. 퓨어스토리지 관계자는 "차세대 AI 물결로 내년에는 산업용 AI가 급부상 할 것"이라며 "에이전트형 AI(Agentic AI)와 대형 양적 모델(Large Quantitative Models, LQM)은 이러한 변화에서 핵심적인 역할을 하게 될 것"이라고 내다봤다. 다만 에이전트형 AI가 주류가 되는 것은 2026년 이후로 예상됐다. 내년에는 에이전트형 시스템이 기업의 의사 결정 방식에 큰 변화를 가져올 것으로 전망됐다. 또 기업은 복잡한 데이터 세트를 분석하고 패턴을 파악하며 신속하게 대응할 수 있는 머신러닝을 통해 더 많은 가치를 창출할 수 있을 것으로 보인다. 데이터 모델링과 같은 힘들고 수작업이 많이 필요한 작업을 간소화함으로써 기업은 더 많은 문제를 더 빠르게 해결하고 제품 진화를 가속화할 수 있을 것으로 관측된다. 퓨어스토리지 관계자는 "특히 은행이나 통신사와 같은 대규모 IT 기업에서 머신러닝과 에이전트형 AI를 통해 올바른 의사 결정 데이터에 신속하게 접근하는 것이 점점 더 중요해질 것"이라고 말했다. 또 2025년에는 기업의 AI 투자가 증가하는 동시에 생성형 AI POC(proof of concepts)와 파일럿 프로젝트의 수가 감소할 것으로 전망됐다. 올해는 기대에 미치지 못하거나 훈련 단계에서 추론 단계로 확장할 때 경제성을 갖추지 못해 POC의 실패율이 높았다. 하지만 기업들은 내년에 AI의 활용을 재고하고 근본적인 비즈니스 가치와 실용적인 AI에 다시 초점을 맞출 것으로 예상된다. 결과물의 신뢰성에 대한 우려가 커지면서 챗GPT(ChatGPT)와 같은 범용의 기성 AI 솔루션 사용은 줄어들 것으로 보인다. 이에 따라 2025년에는 기업이 RAG(검색 증강 생성) 등의 기술을 활용하는 근거 기반 접근 방식으로 점점 더 전환할 것으로 관측된다. 퓨어스토리지 관계자는 "이러한 변화는 데이터 편향과 부정확성을 완화하는 상황 인식 시스템에 대한 선호가 높아지면서 AI 투명성과 윤리에 대한 관심도 깊어지고 있음을 반영한다"며 "특히 의료 및 금융 서비스와 같은 분야에서는 실시간 데이터 통합과 맥락에 맞는 정확한 대응이 중요해지며 RAG에 대한 수요가 급증할 것"이라고 밝혔다. 내년에는 AI 및 분석 투자를 통해 더 나은 결과를 추구함에 따라 데이터의 가치도 재조명될 것으로 예상된다. 지난 2023년과 2024년을 통해 학습한 내용 중 하나는 대규모 데이터 세트로 구동되는 덜 정교한 알고리즘이 소규모 데이터 세트에 액세스하는 더 정교한 알고리즘보다 성능이 우수한 경우가 많다는 점이다. 이에 내년에는 기업들이 분석 및 AI 투자의 성과를 개선하기 위해 사일로화되고 잠겨 있는 데이터 세트를 해제하는 프로젝트에 착수할 것으로 보인다. 데이터 통합의 중요성은 혁신을 주도하고 경쟁 우위를 유지하는 데 있어 데이터의 전략적 가치에 대한 폭넓은 인식을 보여준다. 이에 기업은 AI와 분석의 잠재력을 최대한 활용하기 위해 데이터 품질을 향상하고 액세스를 간소화하며 팀 간 협업을 촉진하는 이니셔티브에 우선순위를 둘 것으로 관측된다. 또 궁극적으로 내부 데이터 세트 통합에 집중함으로써 정보에 기반한 의사 결정, 고객 경험 개선, 지속 가능한 성장을 위한 기반도 마련할 수 있을 전망이다. 지속가능성에 대한 고민도 커질 것으로 보인다. 2030년 탄소감축 목표가 다가오면서 많은 기업들은 지난 몇 년간 AI 포모(FOMO·fear of missing out)로 인해 미뤄졌던 지속가능성 목표를 달성하기 위해 애쓰고 있다. 정부와 규제 기관은 기업의 지속가능성 의무 이행을 의무화하기 위한 노력을 강화하고 있다. 퓨어스토리지 관계자는 "기업은 이러한 의무를 충족하기 위해 에너지 효율적인 기술 솔루션에 우선순위를 둬야 할 것"이라고 강조했다. 사이버 보안 전략으로는 '데이터 보호'가 주요 축이 될 것으로 예상된다. 기업은 더 이상 '만약(if)'의 문제가 아니라 '언제(when)' 공격을 받을지 모른다는 사실을 인식하게 되면서 '데이터 보호'에 많은 관심을 둘 것으로 보인다. 이러한 전략의 변화는 AI 활용으로 강화되는 사이버 범죄 역량, 강화되는 국가별 법률, 규제 당국의 더욱 엄격한 규정 준수 요건 등이 주도할 것으로 보인다. 퓨어스토리지 관계자는 "생성형AI가 처음 도입됐을 때 챗GPT가 피싱 이메일의 품질 개선에 사용된 사례가 있었다"며 "오늘날 사이버 범죄자들은 재귀적(recursive) AI를 활용해 공격 대상의 IT 인프라에서 취약점을 찾아내는 등 더욱 정교해지고 있다"고 설명했다. 이러한 AI 기반 위협 환경에 적응하지 못하는 기업은 내년에 심각한 재정적 손실, 평판 손상, 잠재적 비즈니스 실패의 위험에 처할 수 있다. 이에 진화하는 위협에 대응하기 위해서는 강력한 사이버 보안 조치와 복구 전략에 선제적으로 투자하는 것이 중요하다. 데이터 보호 전략이 마련된 기업은 공격 발생 시 신속하게 비즈니스 운영을 재개할 수 있는 수단을 확보할 수 있다. 유재성 퓨어스토리지 코리아 사장은 "기술 환경이 빠르게 변화하는 가운데 기업에게 유연하고 민첩한 IT 인프라를 갖추는 것이 매우 중요하다"며 "AI가 계속해서 트렌드를 주도하겠지만, 지속가능성과 사이버 보안 또한 최고정보책임자(CIO)들의 최우선 안건으로 떠오를 것"이라고 밝혔다. 김영석 퓨어스토리지 코리아 시스템 엔지니어링 총괄은 "2025년은 국내 기업들이 가시적인 성과를 달성하기 위해 AI 전략을 구체화하고, 성숙해가는 AI 환경의 복잡성을 극복하는 전환점이 될 것"이라며 "기업들이 데이터 무결성, 윤리, 지속가능성을 중시함에 따라 RAG 및 데이터 통합 기술에 대한 도입이 급증할 것으로 예상된다"고 말했다.

2024.12.22 10:00장유미

개인정보위, '합성데이터 생성·활용 안내서' 발간…데이터 활용 기준 마련

개인정보보호위원회(개인정보위)가 데이터 활용의 안전성을 높이기 위해 합성데이터 생성·활용 안내서를 발간했다. 개인정보보호위원회는 이번 안내서가 합성데이터의 생성과 활용 과정에서 필요한 안전기준과 절차를 담았다고 19일 밝혔다. 개인정보 식별 가능성을 최소화하면서도 데이터의 활용도를 높이기 위해서다. 안내서는 합성데이터 생성 절차를 사전 준비, 생성, 안전성 검증, 심의위원회 평가, 안전 관리로 나눠 단계별로 상세히 설명했다. 특히 합성데이터 활용 계획서, 개인정보 처리 계획, 안전성 검토 결과서 등 서식과 체크리스트를 함께 제시해 실무적 이해를 도왔다. 이번 가이드에는 이미지 등 비정형 합성데이터 생성 시 주의사항과 안전성 검증 방법도 포함됐다. 일반 대중에게 공개되는 데이터를 익명정보로 전환하기 위한 절차와 기준도 명확히 했다. 개인정보위는 지난 5월 발표한 '합성데이터 생성 참조모델'과 연계해 이번 안내서를 마련했으며 관련 사례는 '가명정보 지원 플랫폼'에서 확인할 수 있다. 산업과 연구 현장에서의 애로사항을 해소할 계기가 될 전망이다. 양청삼 개인정보정책국장은 "산학연과 법률 전문가들의 참여로 체계적인 안내서가 완성됐다"며 "이번 안내서를 통해 프라이버시 보호 기술로서 합성데이터의 잠재력이 더욱 활성화되길 기대한다"고 밝혔다.

2024.12.19 15:00조이환

정부가 제시한 개인정보·합성 데이터 보호 전략은?

정부가 개인정보와 데이터 보호를 논의하는 장을 마련했다. 개인정보보호위원회 18일 '제6차 개인정보 미래포럼'을 개최했다. 올해 마지막 미래포럼 주제는 이달 공개 예정인 '인공지능(AI) 프라이버시 리스크 관리모델'과 '합성데이터 생성·활용 안내서'다. 이와 관련해 이날 포럼에선 서울대 박상철 법학전문대학원 교수의 AI 프라이버시 리스크 관리모델에 관한 발제가 이뤄졌다. 이어 인하대 김승환 데이터사이언스학과 교수의 안전한 합성데이터 생성·활용 방안에 관한 발제로 토론이 진행됐다. 그동안 개인정보위는 데이터 처리가 복잡하고 변화 속도가 빠른 AI 시대에 대응해 세세한 규정이 아닌 원칙 기반 규율체계 마련 등의 개인정보 정책 방향을 설정해 왔다. AI 개발 핵심 재료인 비정형 데이터, 공개된 개인정보, 이동형 영상기기에 의해 촬영된 영상정보 등에 대한 처리 기준도 제시했다. 개인정보위 관계자는 "개인정보 보호라는 핵심 가치를 지키면서도, 공익 목적의 AI 개발이 활성화되고 국민 삶을 풍요롭게 하는 혁신적인 AI 서비스가 탄생할 수 있도록 개인정보 보호 규율체계를 지속 정비할 것"이라고 밝혔다.

2024.12.18 16:00김미정

정부, 호남에 첫 가명정보 활용 센터…"데이터 경제 균형 맞춰"

정부가 전북에 가명정보 활용 지원센터 구축을 완료해 지역 간 가명정보 기반 데이터 경제 균형 맞추기에 나섰다. 개인정보보호위원회와 전북특별자치도는 전북테크비즈센터에서 전북 가명정보 활용지원센터 개소식을 개최했다고 26일 밝혔다. 전북 센터는 호남권 최초이자 전국에서 7번째로 문을 연 가명정보 활용 지원센터다. 이번 개소를 통해 수도권과 강원도, 영남권, 충청권, 호남권 등 전국 5대 권역에 가명정보 활용 지원센터가 모두 구축된 셈이다. 이번 개소식에 참석한 개인정보위 이정렬 사무처장은 축사를 통해 "일상을 바꾸고 있는 인공지능(AI) 기술이 개인정보를 포함한 데이터에 크게 의존하는 시대적 흐름 속에서 가명정보 활용 지원센터 역할은 더욱 커질수 밖에 없다"며 "전국 5대 권역에 설치된 센터 중심으로 지자체간 데이터 교류·협력이 활발하게 이뤄지도록 지원하겠다"고 밝혔다. 전북 센터의 향후 운영방향과 관련해 김종훈 전북 경제부지사는 "전북 센터가 안전한 데이터 활용을 통해 바이오‧헬스케어, 공간정보 기반 농업 등 지역 산업 혁신을 가속화할 것"이라며 "센터를 중심으로 가명정보 활용 관련 교육‧컨설팅까지 제공할 것"이라고 강조했다. 이어 "가명정보 활용 협의회를 통해 가명정보 활용 사례를 적극 발굴할 것"이라고 덧붙였다. 개인정보위는 다른 지역 센터와 마찬가지로 전북과 매년 업무협약을 체결할 방침이다. 협약에 따라 개인정보위는 전북 가명정보 활용 관련 사업이 원활하게 이뤄지도록 가명정보 지원 플랫폼 제공과 전북 센터와 다른 권역 가명정보 활용지원센터 간 제도적 지원 등을 협조해 나갈 계획이다. 개인정보위 관계자는 "전국 5개 권역에 가명정보 활용지원센터가 구축된 만큼 관계 지자체들과 협의 등을 통해 지역 간 가명정보 기반 데이터 경제가 균형있게 발전할 수 있도록 노력할 것"이라며 "각 권역에 분포된 7개 센터와 관계 지자체 간 상호 협력‧교류를 촉진하는 방안도 마련할 것"이라고 강조했다.

2024.11.26 15:00김미정

정부, 마이데이터 서비스 선정…의료·통신 등 5개

만성질환 위험도 분석으로 질병을 맞춤형으로 관리하거나, 실제 통신 이용량으로 최적 요금제를 추천하는 서비스 등 국민 편익을 증진하는 동시에 신사업 기회를 만들 마이데이터 선도서비스가 내년 추진된다. 개인정보보호위원회는 한국인터넷진흥원과 올해 마이데이터 선도서비스 지원 사업으로 5개 과제를 최종 선정했다고 18일 밝혔다. 이번 사업은 내년 3월 개인정보 전송요구권 제도 시행을 앞두고 국민 생활에 실질적 편의를 제공할 수 있는 마이데이터 서비스를 발굴하는 목적으로 추진됐다. 서비스는 제도 시행 후 순차적으로 출시될 예정이다. 이번에 선정된 마이데이터 서비스는 의료 분야 3개 과제와 통신 분야, 자율 분야 각각 1개 과제다. 최종 선정된 수행기관은 지원비 최대 5억원을 받아 사업을 수행한다. 선정된 과제는 ▲가톨릭중앙의료원 컨소시엄의 만성질환 위험도 분석을 통한 예방 콘텐츠·맞춤형 질환 관리서비스 ▲룰루메딕의 해외에서 현지 의료기관 방문 시 국내 의료 기록 연동·번역 등 의료지원 서비스 ▲카카오헬스케어의 안전한 복약관리·약물 처방 지원 서비스 ▲한국통신사업자연합회 컨소시엄의 실제 통신이용 패턴 기반 최적 요금제 추천 서비스 ▲NICE평가정보 컨소시엄의 맞춤형 여행지 추천·여행경비 최적 설계 제안 서비스 등 총 5건이다. 고학수 개인정보보호위원장은 "이번 마이데이터 선도서비스가 국민들이 마이데이터를 이해하고 체감하는 계기가 되길 바란다"며 "신생기업의 비즈니스 창출과 국민 편익을 증진할 수 있도록 마이데이터 활용 범위를 점진적으로 확대하겠다"고 밝혔다.

2024.11.18 14:00김미정

개보위 "한국-EU, 개인정보 교류 장벽 허문다…데이터 이전 자유화 가속"

대한민국과 유럽연합(EU)이 개인정보 이전 장벽을 허물고 데이터 교류를 활성화에 나선다. 개인정보보호위원회(개보위)는 최근 고학수 개인정보위원장이 '글로벌 프라이버시 총회'에서 디디에 레인더스 유럽연합(EU) 사법총국 장관과 '동등성 인정' 제도 추진 방안을 논의했다고 3일 밝혔다. 이 제도는 양국 간 데이터 이전의 법적 안전성을 확보해줄 것으로 기대된다. '동등성 인정' 제도는 지난해 개정된 개인정보 보호법에 따라 마련된 것으로, EU의 '적정성 결정'과 유사한 방식이다. 상대국의 개인정보 보호 수준을 평가하고 이전을 허용하는 이 제도를 통해 EU와 한국 간 데이터 교류가 더욱 확대될 전망이다. EU는 이미 지난 2021년 한국을 적정성 결정 국가로 지정해 유럽연합 회원국으로부터의 개인정보 이전을 허용한 바 있다. 다만 당시 한국에는 상응하는 제도가 없어 상호 호혜적 인정이 어려웠으며 이번 제도를 통해 이를 해결할 수 있게 됐다. 개보위는 동등성 인정 제도의 첫 대상국으로 유럽연합을 선정해 검토해왔으며 이로써 양측의 데이터 이전 협력이 한층 강화될 것으로 보인다. 고학수 개인정보위원장은 "EU와의 동등성 인정이 완료되면 양국 간 자유로운 데이터 이전이 가능해지고 기업의 경제적 부담도 줄어들 것으로 기대한다"며 "안전한 국경 간 정보 이전 체계를 마련하기 위해 지속적으로 다양한 국가들과 협력해 나가겠다"고 밝혔다.

2024.11.03 10:03조이환

"틱톡도 규제 대상"…美 법무부, 中 데이터 유출 강력 차단

미국 정부가 적성국의 미국 데이터 접근을 차단하기 위한 새로운 규정을 발표했다. 이번 규정은 미국인의 금융 및 유전자 데이터를 보호하는 것을 목표로 한다. 22일 로이터에 따르면 미국 법무부는 중국, 러시아, 이란, 베네수엘라, 쿠바, 북한을 대상으로 미국 시민의 데이터가 대량으로 유출되는 것을 방지하기 위한 규정을 제안했다. 이는 바이든 대통령이 올해 초 발행한 행정명령에 따른 후속 조치다. 새 규정은 연방 정부와 미국인의 개인 데이터를 다루는 특정 비즈니스 거래에 대한 제한을 강화하는 내용을 담고 있다. 특히 100명 이상의 유전자 데이터나 1천 개 이상의 기기 위치 정보가 포함된 데이터를 전송하는 것이 금지된다. 또 이번 규정은 데이터 브로커와의 거래를 더욱 강력히 통제할 예정이다. 데이터 회사가 정보를 판매할 때 그 정보가 중국이나 러시아 같은 '우려 국가'로 넘어갈 것을 알면서도 거래를 진행하려 한다면 처벌을 받게 된다. 규정은 민감한 미국인의 건강 및 금융 정보도 보호 대상으로 삼는다. 이에 따라 1만 명 이상의 개인 데이터를 포함하는 거래 역시 금지될 예정이다. 미국 정부 관계자는 "이번 조치가 틱톡과 같은 중국 앱에도 적용될 수 있다"며 "미국인의 민감한 데이터를 중국으로 전송할 경우 새로운 규정에 저촉될 수 있다"고 밝혔다.

2024.10.22 09:11조이환

개인정보위 "CCTV 보안·생체정보 보호 법제화 추진"

고학수 개인정보보호위원회 위원장이 CCTV 보안과 생체 정보 관리 강화를 위해 법과 제도 개선을 추진하겠다고 밝혔다. 고 위원장은 8일 정부세종청사에서 열린 국회 정무위원회 국정감사에서 국민의힘 강명구 의원과의 질의응답에 이런 의지를 표명했다. 이날 강명구 의원은 "중국에선 한국에 설치된 CCTV를 인터넷으로 중계하는 웹사이트가 생겼다"며 "국민 사생활이 노출되고 있는 실정"이라고 지적했다. 이어 "중국 불법 웹사이트 운영자들은 국내 쇼핑몰을 비롯한 사무실, 식당 등에서 어떤 일이 일어나는지 실시간 확인할 수 있는 영상을 통해 수익을 창출하고 있다"고 비판했다. 고 위원장은 이를 방지할 수 있는 제도 개선에 집중하고 있다고 답했다. 그는 "CCTV나 디지털카메라 등 데이터 수집 기기에 대한 인증제도를 지난해부터 시작했다"고 설명했다. 이어 "아직 초기 단계 시범사업이지만 앞으로 본격 확대할 계획"이라고 덧붙였다. 강 의원은 고 위원장의 계획이 충분치 않다고 지적했다. 이어 "해당 인증제도가 전국에 설치된 모든 영상처리기기를 다루기에 역부족"이라며 "보다 적극적이고 강력한 대책이 선행돼야 한다"고 당부했다. 고 위원장도 이에 동의했다. 그는 "인증제도 적용 범위가 제한적인 상황"이라며 "영상정보 영역에 대한 법 개정 또는 별도 영상정보처리법을 마련할 것"이라고 설명했다. 강 의원은 생체 정보에 대한 명확한 법률 체계가 없다는 점도 지적했다. 생성형 인공지능(AI) 등 신기술 발달로 인해 생체 정보 활용 영역이 높아지고 있지만 자칫하면 상당한 위험성을 수반할 수 있는 분야라서다. 강 의원은 급속한 생체 정보 성장에도 불구하고 관련 제도가 이를 따라가지 못한다고 지적했다. 그는 "생체 정보에 대한 법적 기준과 사각지대를 해소할 방안을 마련해야 한다"며 "현재 생체 정보는 법에서 찾아볼 수 없어 활용 부작용에 대한 대응이 어렵다"고 비판했다. 이에 고 위원장은 "생체 정보 관리에 대한 법상 규정이 없고 시행령으로만 규정된 상황"이라며 공감했다. 이어 "생체 정보의 안전한 활용을 위한 법·제도 개선을 추진하겠다"고 말했다.

2024.10.08 16:32김미정

개보위 "통신 마이데이터 정보 항목, 이해관계자 의견 수렴 중"

개인정보보호위원회(개보위)가 통신 마이데이터 시행 전까지 이해관계자의 의견을 수렴해 정보 항목을 결정하기로 했다. 개보위는 정부가 진행 중인 통신 마이데이터 사업이 아직 조율 중이어서 일부 정보가 누락된 것으로 파악됐다고 8일 밝혔다. 이는 일각에서 통신 마이데이터 서비스 내에 위약금·약정 만료일 등 중요한 정보가 빠져 있다는 지적이 나온 데 따른 것이다. 마이데이터는 개인이 여러 곳에 흩어진 자신의 정보를 한데 모아 관리하고 필요할 때 다른 곳으로 보내는 새로운 시스템이다. 통신 마이데이터는 통신사 정보를 관리하고 다른 통신사로 이동할 때 필요한 정보를 바로 보낼 수 있도록 도와준다. 개보위는 현재 마이데이터 선도서비스 사업에서 15개의 정보만 전송하도록 하고 있지만 최종적으로 어떤 정보들이 포함될지는 계속해서 논의할 계획이다. 우선 큰 논란이 없는 정보부터 먼저 서비스에 포함시키고 있다는 설명이다. 또 개보위는 통신 마이데이터와 지난 2022년에 시행된 금융 마이데이터 간 차이가 없다는 언론의 지적에도 반박했다. 요금제 이름이나 음성·문자·데이터 사용량 같은 정보를 추가로 전송할 수 있게 된 점에서 차이가 있으며 앞으로도 통신사와 정부 부처의 협의를 통해 더 많은 정보가 포함될 예정이기 때문이다. 개보위 관계자는 "다양한 의견을 반영해서 통신 마이데이터 제도가 문제없이 잘 시행되도록 노력할 것"이라고 말했다.

2024.10.08 10:39조이환

"사업 하기 리스크 커"…개보위 공개 데이터 가이드라인에 AI 업계 '우려'

국내 인공지능(AI) 업계가 공개 데이터 처리 기준의 모호성으로 인해 기술 발전이 지연되고 있다고 호소하고 있다. 명확한 사용 기준이 없어 혼란이 가중되면서 AI 기술 및 서비스 개발에 직접적인 지장을 주고 있다는 지적이다. 2일 업계에 따르면 개인정보보호위원회(개보위)는 지난 7월 AI 개발 및 서비스에 활용되는 '공개 데이터 처리 기준'을 제시한 바 있다. 공개 데이터란 인터넷에서 누구나 합법적으로 접근할 수 있는 정보를 의미한다. 이는 생성 AI의 학습에 있어 핵심적인 역할을 하지만 주소와 고유식별번호 등 개인정보가 포함될 수 있어 개인정보 침해 우려가 있다. 개보위가 발표한 '공개 데이터 처리 기준'에 따르면 개인정보보호법 제15조 제1항 제6호에 명시된 개인정보처리자의 '정당한 이익'은 공개 데이터 사용의 법적 근거가 될 수 있다. 개보위는 이를 적용하기 위해서는 '목적의 정당성', '처리의 필요성', '구체적 이익형량' 등 세 가지 요건을 충족해야 한다고 설명했다. AI 기업들과 전문가들은 이러한 처리 기준이 지나치게 모호하며 구체적인 지침이 부족하다고 입을 모으고 있다. 업계 전문가들은 구체적인 가이드가 부재한 상황에서 각 AI 기업에게 강제된 자율성으로 인해 불필요한 추가 개발 및 비용이 발생함을 지적했다. 이에 따른 리스크 역시 기업이 부담하고 있는 상황이기 때문이다. IT 중소기업 B사 관계자는 "모호한 가이드만 있는 상황에서 자율적인 판단을 내리는 것은 원해서 하는 것이 아니라 거의 강제적으로 이뤄지는 것"이라며 "그 리스크도 어쩔 수 없이 각 회사가 지고 있다"고 토로했다. B사 관계자에 따르면 이러한 '자율성'은 스타트업과 중소기업에 특히 치명적이다. 회사가 자율적으로 판단해 데이터를 수집하고 모델 학습에 활용했다가 법적인 리스크를 져 발생하는 잠재적인 비용이 수십억 원에 달할 수도 있는 상황이기 때문이다. 대기업은 감당할 수 있겠지만 규모가 작은 기업에게는 큰 부담이 된다는 설명이다. 그는 "개발을 완료한 후 개인정보보호법에 따라 사용 불가 판정이 나오면 막대한 비용을 들여 다시 개발해야 하는 상황"이라며 "하루라도 빨리 명확한 가이드라인을 제공해 사업을 빠르게 진행할 수 있도록 해주면 좋겠다"고 강조했다. 또 다른 IT 대기업 R사 관계자는 AI 학습 데이터에 대한 처리 기준이 전 세계 차원에서도 명확한 규칙이 정해지지 않은 상황임을 지적했다. 그는 "해외 모델도 국내 공개 데이터를 이미 학습에 활용하고 있는 것으로 추정되는데 국내 기업에 더 강한 규제가 적용된다면 역차별이 될 수 있다"며 "AI 모델 경쟁이 심화되는 가운데 그래픽처리장치(GPU)와 학습 데이터 등 인프라 자원 확보가 기술 경쟁력으로 직결되기 때문에 신중한 규제나 가이드라인 제정이 필요하다"고 밝혔다. 그러면서 "단순히 빠르게 규칙을 정하는 데만 치중하지 말고 콘텐츠 기업·창작자·AI 기업이 함께 성장할 수 있는 방향으로 의견을 모아가면서 룰을 만들어가는 것이 필요하다"고 강조했다. 이러한 업계의 우려에 대해 개보위는 이날 저녁 공식적으로 반박했다. 우선 '정당한 이익'이라는 개념이 이미 전 세계적으로 확립된 적법 처리 근거로, 해외에서도 공개 데이터 처리에 법적으로 인정되고 있다는 것이다. 개보위 측은 "현재 프랑스에서는 지난해 10월부터 AI 학습 목적으로 개인정보 처리 시 '정당한 이익'이 인정되기 위한 기준을 제시한 바 있다"며 "마찬가지로 영국도 웹 스크래핑 수집 데이터를 생성 AI 학습에 사용하는 것을 두고 '정당한 이익'으로 인정된다고 밝혔다"고 주장했다. 또 개보위 측에 따르면 개인정보 처리의 목적·필요성·안전조치를 마련하는 것은 개인정보처리자의 기본 의무다. 이에 따라 안내서는 단순히 기업들이 '정당한 이익'을 적법 근거로 사용할 수 있도록 구체적 기준과 사례를 제시하는 목적으로 제작됐다는 것이다. 개보위 측은 "기업이 이를 준수하는 과정에서 일정 시간이 걸릴 수 있다"면서도 "그럼에도 이는 개인정보 보호의 기본적인 책임"이라고 강조했다. 개보위는 인허가 과정에 대한 우려도 일축했다. 기업들이 제기한 '인허가 과정'에 대한 우려는 사실과 다르며 정부는 어떠한 인허가 절차도 운영하지 않고 있다는 것이다. 이와 동시에 개보위는 AI 시대에 원칙 중심의 규율 체계를 정립하기 위해 노력 중이라는 점을 덧붙였다. 개보위 측은 "신기술 분야는 기술 발전 속도가 빠르기 때문에 안내서를 지속적으로 수정·보완할 예정"이라며 "그 과정에서 구속력 있는 법규의 필요성이 구체화되면 법 개정도 병행할 예정"이라고 밝혔다.

2024.10.02 19:08조이환

개보위 "안전한 AI 시대, 개인정보 보호가 핵심 열쇠"

개보위가 개인정보 보호와 안전한 인공지능(AI) 시대를 위한 미래 방향을 제시했다. 개보위는 서울 코엑스에서 '제4회 개인정보 보호의 날 기념식'을 성공적으로 개최했다고 30일 밝혔다. 이날 기념식에는 400명 이상의 산·학·관 관계자들이 참석했다. 이번 기념식은 '안전한 개인정보, 신뢰받는 AI 시대'라는 주제로 진행됐으며 데이터 활용에 대한 신뢰성을 높이기 위한 정책과 기술적 방안이 논의됐다. 참석자들은 개인정보의 안전한 활용이 기업과 국가 경쟁력에 미치는 영향을 강조했다. 개인정보 보호에 기여한 이들에 대한 포상도 함께 이루어졌다. 이인호 중앙대학교 교수가 국민훈장 동백장을 받았고 황창근 홍익대 교수와 김병필 카이스트 교수는 근정포장을 수상했다. 또 개인정보 보호를 주제로 한 토크 콘서트가 열려 다양한 전문가들이 참여했다. 참석자들은 AI 시대에 개인정보를 안전하게 관리하고 활용하는 방법에 대한 실질적인 조언을 공유했다. 기념식에서는 체험 부스도 운영됐다. 참가자들은 보이스피싱 예방과 같은 개인정보 보호 관련 프로그램을 직접 체험할 수 있는 기회를 제공받았다. 고학수 개인정보보호위원장은 "이번 행사를 통해 개인정보 보호의 중요성이 더욱 확산되길 바란다"며 "AI 시대에도 안전한 데이터 활용이 가능하도록 지속적인 정책 개선을 추진할 것"이라고 밝혔다.

2024.09.30 12:05조이환

링크드인, AI 훈련에 데이터 무단 수집 '논란'

링크드인이 인공지능(AI) 모델 훈련을 위해 사용자 데이터를 수집하고 활용하면서도 이에 대한 명확한 사전 동의 절차를 거치지 않았다는 의혹이 제기됐다. 19일 테크크런치에 따르면 링크드인은 최근 사용자 데이터를 AI 훈련에 활용하는 정책을 업데이트했다. 하지만 이와 관련한 공지가 충분하지 않아 많은 사용자들이 자신의 데이터가 AI 모델 훈련에 활용된다는 사실을 알지 못한 채 약관에 동의한 것으로 알려졌다. 이번 업데이트로 인해 피해를 본 것은 주로 미국 사용자들이다. 환경설정을 통해 'AI 훈련 사용 안함(Opt-out)'을 고를 선택권이 주어졌지만 약관의 업데이트에 대해 아무런 고지를 받지 못했기 때문이다. 이와 반대로 유럽 지역의 사용자들은 일반정보보호규정(GDPR)의 보호를 받아 피해를 입지 않았다. 현재 링크드인은 수집된 데이터를 서비스 내의 콘텐츠 추천 및 글쓰기 제안 등 다양한 생성 AI를 위해 활용하고 있다. 또 모회사인 마이크로소프트 등 외부 기업의 AI 모델 훈련에도 데이터를 제공하는 것으로 알려졌다. 링크드인은 AI 모델 훈련에 사용되는 데이터가 개인정보 보호 기법을 통해 가명화되거나 삭제된다고 주장하고 있다. 그럼에도 불구하고 구체적인 보호 조치의 범위와 방식에 대해선 명확한 설명이 없어 사용자들의 불안이 계속되고 있다. 영국 디지털 권리 보호 시민단체 오픈 라이츠 그룹(Open Rights Group)의 마리아노 델리 산티 법률정책 책임자는 "사용자가 모든 온라인 회사를 감시하고 추적할 수는 없다"며 "이번 사태는 현재의 데이터 보호 체계가 우리의 데이터 권리를 보호하기에는 불충분하다는 점을 보여준다"고 밝혔다.

2024.09.19 09:23조이환

[기고] AI 시대의 현명한 개인정보 활용 방법

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 산업혁명 시대에는 석탄과 석유가 경제 성장을 주도하는 핵심 자원이었지만 오늘날에는 데이터가 그 자리를 차지하고 있다고 해도 과언이 아니다. 데이터는 이제 새로운 시대의 석유로 불릴 만큼 기업과 국가의 경쟁력을 좌우하는 핵심 자산이 됐다. 특히 인공지능(AI) 기술이 발전하면서 AI가 학습하고 진화하는 데 필수적인 요소인 데이터의 중요성이 더욱 대두되고 있다. 많은 유형의 AI가 존재하지만 그 중 다수가 사람과의 상호작용을 전제로 한다. 이에 데이터 중에서도 개인정보를 활용한 AI 학습 및 고도화 필요성이 커지고 있다. 그렇지만 정보주체의 권리와 관련 규제에 대한 고려가 필요하다는 점에서 개인정보는 다른 데이터에 비해 활용에 주의가 필요한 것도 사실이다. 지난 2021년에 있었던 '이루다' 챗봇 사건은 AI 기술의 가능성과 개인정보 사용의 잠재적 위험성을 동시에 보여준 대표적인 사례다. '이루다'는 자연어 처리를 기반으로 한 20대 여성 캐릭터의 AI 챗봇으로, 페이스북 메신저에서 이용자들과 대화하며 큰 인기를 끌었다. '이루다'의 가장 큰 매력은 자연스러운 대화 능력이었는데 이러한 대화 능력의 원천은 챗봇의 개발사가 운영 중인 서비스를 통해 수집한 이용자와 타인 간의 카카오톡 대화 문장이었다. 실제 대화를 기반으로 개발된 만큼 '이루다'는 뛰어난 대화 능력을 가질 수 있었는데 이용자의 개인정보 이용에 대한 동의나 가명처리 등에 대한 논란이 됐다. 이처럼 AI의 눈부신 발전 뒤에는 개인의 개인정보 자기결정권과 사생활 보호권에 대한 침해 가능성이라는 이면이 존재한다. 이제는 이 양자 간 균형을 어떻게 유지할 것인지에 대한 고민이 필요한 시점이다. 글로벌 AI 패권 경쟁이 본격화되는 상황에서 AI 발전을 저해하지 않으면서도 개인의 권리를 보호할 수 있는 선이 어디인지를 정하는 것은 매우 어려운 문제다. 그렇지만 규제의 불확실성이 오히려 AI 사업을 움츠러들게 할 수 있다는 점에서 이는 꼭 해결해야 할 과제이기도 하다. 적절한 규제의 수위를 정하기 위해서는 먼저 AI 사업자들이 AI 개발에 필요한 개인정보를 어디서 가져오는지를 따져봐야 한다. AI 사업자들이 활용할 수 있는 개인정보는 크게 온라인에 공개돼 있는 개인정보와 사업자가 기존 서비스 제공 과정에서 이미 수집해놓은 개인정보일 것이다. 이와 관련해 개인정보보호위원회(개보위)는 지난 해부터 AI 개발∙서비스에 활용되는 개인정보의 처리기준에 관한 정책방향 등을 꾸준히 내놓으며 규제의 방향을 구체화하고 있다. 지난 7월에는 공개된 개인정보 처리에 대한 안내서를 발간했다. 개보위가 지난 7월 발간한 '인공지능(AI) 개발∙서비스를 위한 공개된 개인정보 처리 안내서'의 주요 내용은 다음과 같다. 우선 안내서는 AI 사업자가 인터넷에 공개돼 있는 데이터를 웹 스크래핑 등의 방식으로 수집해 AI 학습에 활용한다면 해당 데이터에 개인정보가 포함돼 있어도 이를 정보주체의 개별 동의나 계약 체결∙이행 등의 조항에 근거해 활용하는 것은 사실상 어렵다는 점을 인정했다. 그러면서 정당한 이익(개인정보 보호법 제15조 제1항 제6호)을 근거로 공개된 개인정보를 AI 개발 목적으로 처리할 수 있다고 봤다. 이러한 정당한 이익에 근거하기 위해서는 AI 개발 목적의 정당성, 공개된 개인정보 처리의 필요성, 구체적 이익형량이라는 세 가지 요건을 충족해야 한다. 이 요건들을 충족하는지 여부는 AI 개발의 구체적 맥락을 고려해 사안별로 판단해야 하므로 여전히 모호한 측면이 있기는 하다. 그럼에도 AI와 관련 기술의 발전 속도를 고려할 때 모든 경우를 상정해 구체적인 규제 조항을 만드는 것은 불가능하고 실익도 적다. 이에 이러한 원칙 중심의 규제는 합당한 면이 있다. 그 기준을 가능한 한 구체적으로 제시한 개보위 안내서는 매우 유의미한 성과라고 할 수 있다. 공개된 개인정보의 활용과 달리 AI 사업자가 기존에 서비스를 제공하는 과정에서 수집해 놓은 개인정보를 AI 목적으로 활용하는 부분에 대해 개보위는 아직 명확한 입장을 밝힌 적이 없다. 다만 개인정보보호위원회가 공개된 개인정보 처리 안내서에서 밝힌 내용 등으로 미뤄 보아 이 경우에도 정당한 이익 조항을 실질적인 적법 근거로 활용할 수 있을 것으로 생각된다. 정당한 이익 조항에 근거하기 위한 요건인 AI 개발 목적의 정당성, 개인정보 처리의 필요성, 이익형량은 모두 사업자가 이미 보유하고 있는 실제 이용자의 개인정보를 활용할 때도 동일하게 적용 가능한 기준들이기 때문이다. 다만 AI 사업자가 기존 서비스 이용자로부터 수집한 개인정보의 경우 당초 수집 목적이 존재할 것이다. 이에 따라 정당한 이익 조항 외에도 추가적인 이용 조항(개인정보 보호법 제15조 제3항)의 활용을 고려해 볼 수 있다. 추가적인 이용 조항에 따르면 개인정보처리자는 당초 수집 목적과 합리적으로 관련된 범위에서 정보주체에게 불이익이 발생하는지 여부, 안전성 확보에 필요한 조치를 했는지 여부 등을 고려해 정보주체 동의 없이 개인정보를 이용할 수 있다. 개보위도 지난 해 8월 발간된 '인공지능 시대 안전한 개인정보 활용 정책방향'에서 특정 서비스 제공 목적으로 수집한 개인정보를 해당 서비스의 개선(고도화) 목적으로 AI 개발에 이용한다면 추가적 이용이 가능하다고 제시한 바 있다. 또 이 외에도 가명정보는 과학적 연구를 위해 정보주체 동의 없이 처리할 수 있다. 이에 따라 AI 사업자는 기존에 수집해둔 이용자의 개인정보를 가명처리해 AI 학습 개발에 활용하는 방안도 고려할 수 있다(개인정보 보호법 제28조의2 제1항). 다만 최대한의 가명 처리 노력을 하더라도 실제 이용자들의 대화 내용 속 모든 이름, 주소, 숫자 등이 완전하게 제외되지 않을 수 있어 그 완전성을 담보하기 어렵다. 또 처리하는 데이터 양이 방대해질수록 담당자가 이를 일일이 확인하기도 어렵다. 이러한 점 등을 고려할 때 가명정보 처리 조항을 적법처리의 근거로 활용하기에는 한계가 있다. 이에 따라 사업자가 이미 수집한 개인정보의 AI 목적 활용에 대해서는 정당한 이익과 추가적인 이용을 주된 법적 근거로 보되 가명처리 여부는 위 법적 근거 충족 여부를 판단하는 요소인 안전성 확보조치에 관한 것으로 보는 것이 보다 실질적인 규제 방식이라 할 것이다. 전통적으로 우리나라는 정보주체의 동의에 근거해 개인정보를 수집∙이용해 왔다. 그렇지만 개보위는 동의에만 의존하는 것이 아니라 현실에 맞는 법적 근거를 활용하도록 하는 방향으로 규제 체계를 변경하고 있다. 이러한 변화의 모습이 AI 시대에 적절한 것인지는 다소간의 의문이 있지만 동시에 국가 간 AI 개발 경쟁 역시 심화되고 있는 추세다. 이에 따라 개인정보 활용을 억제만 하기 보다는 정보주체에 대한 불이익을 최소화하면서도 다양한 법적 근거를 적절하게 활용할 수 있는 방안을 찾는 것이 중요한 과제다. 개인정보보호위원회가 지금까지 해온 것처럼 새로운 쟁점들에 대해서도 실질적이고 유용한 규제 기준을 마련해 제안할 수 있기를 기대해 본다.

2024.09.18 10:45법무법인 태평양 오세인

정부, 국민체감도 높인 마이데이터 서비스 개발 지원

정부가 기업들이 마이데이터 서비스 개발에 적극 나설 수 있도록 하기 위한 사업을 본격화한다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 내년 4월 전 분야 마이데이터 제도 시행을 앞두고 '마이데이터 선도서비스 지원사업'을 이달 30일부터 10월 7일까지 공모한다고 29일 밝혔다. 마이데이터 제도는 정보주체가 본인에 관한 개인정보를 원하는 곳으로 전송함으로써 본인 의사에 따라 개인정보를 관리하고 활용한다. 이미 금융·공공 분야에서 해당 제도를 시행했다. 내년 3월부터 일상생활과 밀접한 의료·통신 분야부터 단계적으로 전 분야에 확대될 예정이다. 사업 대상은 의료·통신 분야와 자율 분야 개인정보를 활용한 마이데이터 서비스를 제공 예정인 기업·기관이다. 전기, 가스, 수도, 취업알선, 택배, 숙박, 여행 등 5개 서비스를 선정해 총 25억 원을 지원한다. 사업에 선정된 기업·기관은 시스템 개발 등에 활용할 수 있는 정부지원금 외에 제도 시행에 맞춰 마이데이터 서비스를 출시할 수 있도록 컨설팅과 홍보 지원도 받을 수 있다. 마이데이터 선도서비스 지원사업은 KISA 전자계약시스템 홈페이지에서 신청하면 된다. 사업 세부요건, 지원사항, 신청 서류 및 방법 등도 홈페이지서 확인할 수 있다. 사업 참여를 희망하는 기업·기관 대상으로 하는 설명회도 내달 3일 오후 3시부터 서울 송파구 한국광고문화회관에서 열린다. 개인정보위 이상민 범정부마이데이터추진단장은 "이번 마이데이터 선도서비스 지원사업이 국민의 실질적 생활편의를 높여 개인정보 전송요구권 활성화의 마중물이 되기를 기대한다"며 "창의적인 아이디어를 가진 역량 있는 기업·기관들의 적극적인 참여를 바란다"고 말했다.

2024.08.29 14:00김미정

"데이터 보호 실패 책임져"...美 T모바일, 6천만 달러 과징금 '날벼락'

미국 3위 통신사 T모바일이 미국 재무부 외국인투자위원회(CFIUS)로부터 6천만 달러(약 815억원) 과징금을 부과받았다. 민감한 데이터에 대한 무단 접근을 보고하지 않았기 때문이다. 이번 과징금은 그동안 CFIUS가 내린 벌금 중 가장 큰 액수다. 15일(현지시간) 블룸버그, 엔가젯, 디지털트렌드 등 외신에 따르면 T모바일이 CFIUS로 부터 6천만 달러 벌금을 부과받았다. T모바일은 독일에 본사를 둔 도이치텔레콤이 소유하고 있다. 이번 처벌은 T모바일이 지난 2020년 스프린트를 인수하면서 합의한 경감약정 조건을 지키지 않은 것과 관련 있다. 당시 CFIUS는 소비자 데이터 보호와 관련된 몇 가지 조건을 인수 조건으로 걸었다. 로이터통신은 T모바일의 모회사인 도이치텔레콤이 스프린트 인수 이후 민감한 데이터에 대한 무단 액세스(접속)을 막은 후 보고하지 않았다고 보도했다. 무단 액세스는 2020년과 2021년에 '소수의 법 집행 기관 정보 요청'을 통해 정보를 공유하는 과정에서 발생했다. T모바일은 "합병 후 스프린트와 통합하는 과정에서 해당 정보 공유에 영향을 미치는 기술적 문제가 발생했다"며 "해당 데이터가 법 집행 기관을 벗어나지 않았고 '적시에' 보고돼 '신속하게 해결'됐다"고 밝혔다. 엔가젯은 T모바일 관계자가 "이것은 데이터 침해가 아니라 기술적인 문제"라는 심정을 밝혔다고 전했다. 이번 과징금은 지금까지 CFIUS가 부과한 재정적 벌금 중 가장 큰 액수다. CFIUS는 국가 안보에 대한 잠재적 위험을 판단하기 위해 미국 내 외국인 투자를 평가하는 기관이다. 미국 기업에 대한 외국의 지배로 이어질 수 있는 외국 법인과 관련된 합병, 인수 및 인수를 검토한다. 최근 CFIUS는 벌금 부과에 공격적인 태도를 보이고 있다. CFIUS는 지난 18개월 동안 10만 달러에서 6천만 달러에 이르는 6건의 과징금을 부과했다. 이는 지난 1975년부터 2022년 사이 내려진 벌금의 3배에 달한다. T모바일이 이번 결정에 항소할 수 있을지, 또 항소할 것인지는 알려지지 않았다. 현재 T모바일은 US셀룰러를 44억 달러(5조9708억원)에 인수하고 있는 상황이다.

2024.08.17 08:35최지연

[현장] "AI 만난 프라이버시법, 유연성 필수로 갖춰야"

개인정보보호법이 급속도로 발전하는 인공지능(AI) 기술에 원활히 적용되려면 유연성을 필수로 갖춰야 한다는 주장이 나왔다. 한국과 미국 법률 전문가들은 13일 서울 페럼홀에서 열린 '서울 AI 정책 컨퍼런스 2024'에서 AI 시대 개인정보보호를 위한 논의 과정에서 이같은 필요성을 제기했다. 이날 전문가들은 "기존 개인정보보호법이 현대 기술에 적용되기 힘든 상태"라며 "결국 AI 혁신에 장애물이 될 것"이라고 입을 모았다. 2016년 제정된 유럽연합(EU)의 일반데이터보호규정(GDPR)은 전 세계 개인정보보호법 개선을 도운 바 있다. 그러나 최근 개인정보가 실질적으로 보호되지 않는 사례가 각국서 등장하고 있다. 이는 GDPR을 포함안 각국 개인정보보호법이 지나치게 복잡하고, 사용자에게만 책임을 떠넘기는 형식이기 때문이다. 해당 법은 모든 결정권을 개인에게 부여함으로써 사용자가 자신의 권리를 제대로 인식하지 못하는 상황이 발생한다. 2022년 챗GPT 출현 후 급속도로 발전하는 AI 기술에 적용할 수 없는 조항이 느는 것도 한 몫 한다. 이에 전문가들은 사용자들이 온라인 플랫폼 사용 시 개인정보보호 규정에 관심을 기울이지 않는다고 지적했다. 조지타운대 대니얼 솔로브 교수는 "'프라이버시 패러독스' 탓에 사람들은 개인정보 보호에 신경을 덜 쓰게 됐다"며 "AI 알고리즘이 고도로 복잡해지는 가운데 개인에게만 책임을 떠넘기는 기존 프라이버시법은 큰 악영향을 준다"고 강조했다. 전문가들은 법이 개인에게 책임을 미루는 대신 선제적 조치를 취해야 한다고 주장했다. 또 지나치게 세부적인 규제보다는 원칙에 기반한 유연한 접근이 필요하다고 입을 모았다. 생성형 AI 등 신기술의 빠른 발전 속도에 기존 법체계가 발을 맞추기 위해선 법이 유연하게 변화해야 하기 때문이다. 솔로브 교수는 "기술이 변하건 말건 데이터 관리는 효율적으로 이루어져야 한다"며 "이 목적을 잊지 말고 관리당국과 기업이 긴밀히 협력해야 한다"고 당부했다. AI 시대의 패러다임 변화에 맞춰 국내 개인정보보호법도 원칙 기반으로 유연하게 변화하고 있다. 엄격하고 복잡한 규제에서 벗어나 변화하는 기술 환경에 적응할 수 있는 체계를 마련하기 위함이다. 기존 개인정보보호위원회는 공공기관과 민간기업의 개인정보 처리에 대해 엄격한 규제를 적용해왔다. 그러나 챗GPT 등 신기술 출현 후 기존 데이터 규제가 충분치 않다는 점이 대두되고 있다. 정부는 AI 시대에 맞는 법 유연성을 높이기 위해 정책 수정에 한창이다. 최근 개인정보위원회는 거대언어모델(LLM) 학습 과정에서 기업·기관이 개인정보를 적법히 활용하도록 안전조치 강화 가이드라인을 발간했다. 또 데이터의 2차적 활용을 촉진하기 위해 개인정보를 익명화하거나 가명 처리한 후 정보 주체 동의 없이도 사용 가능한 법적 환경을 조성하고 있다. 개인정보위 양청삼 개인정보정책국장은 "AI 발전에 따라 개인정보 보호를 위한 원칙 기반으로 유연한 규제 체계를 마련하고 있다"며 "기존 세부 규정 중심에서 벗어나 변화하는 기술 환경에 적응하는 것이 목표"라고 밝혔다.

2024.08.13 15:42조이환

유통·플랫폼·스타트업계 "마이데이터 반대"

"사업성이 불명확한데 유통 등 온라인산업 전체의 데이터를 공유하게 만드는 건 사실상 기업 정보공개법과 같은 위험한 발상이다." 스타트업·벤처기업 등 기업협회가 유통·온라인 분야로 확대된 마이데이터 제도에 반대 의견을 냈다. 개인정보 주체의 동의만으로 기업·기관이 보유한 개인정보를 다른 곳으로 이전시키면 민감한 개인정보가 해외 등으로 유출될 위험이 있다는 주장이다. 특히 각 기업들이 힘들게 모은 정보를 타사에 공개하라는 꼴이라며 마이데이터 제도의 부작용을 우려했다. 7일 벤처기업협회·스타트업얼라이언스·코리아스타트업포럼·한국플랫폼입점사업자협회·한국디지털광고협회·한국온라인쇼핑협회·한국인터넷기업협회는 공동 성명서를 내고 정부의 마이데이터 제도 중단을 촉구했다. 이들은 "정부의 마이데이터 사업 추진에 깊은 우려를 표명한다"며 "정부는 마이데이터를 통해 정보주체의 자기결정권을 강화할 수 있다 주장하지만, 부작용이 뻔히 예상됨에도 무리하게 정책을 추진하는 것은 무책임·무능력한 행태"라고 강조했다. 마이데이터 사업은 소비자 동의를 거쳐 흩어진 개인 정보를 한 업체 서비스나 앱이 받아, 이를 사업적으로 활용하는 것이다. 개인정보보호위원회는 이 사업을 유통분야로 확대해 운영 중이다. 앞서 개보위는 마이데이터 제도를 내년 의료·통신·유통 분야에 적용하는 등 전 분야로 확대하기 위해 지난 5월 1일 개인정보보호법 시행령 개정안을 입법 예고했다. 시행령에 따르면 최근 3년 내 매출 평균 1천500억원 이상, 300만명 이상의 개인정보를 저장하는 유통업체는 소비자가 동의할 경우 개인정보를 마이데이터 업체에 보내야 한다. 업계는 특히 유통 분야에 마이데이터 제도가 확장되는 데 강력히 반대했다. 유통 분야에서 공유되는 개인정보는 공익에 부합되는 정보로 보기 힘들고, 개인의 소비성향이 고스란히 담겨 있는 사적 데이터라는 주장이다. 개인의 민감한 정보를 유추해 낼 수 있다는 우려도 제기했다. 업계 관계자들은 "이런 정보를 소비자가 명확한 인지 없이 커피쿠폰 등 판촉 행사에 동의해 데이터 전송을 하는 경우, 대한민국 전 국민의 민감한 개인정보가 손쉽게 국내·해외 어디든 유출되는 심각한 사태가 발생할 수 있다"고 지적했다. 성명에 참가한 업계 관계자들은 마이데이터 사업이 스타트업 및 벤처기업의 발전에 악영향을 미칠 것이라 주장했다. 개인정보보호위원회는 스타트업 및 벤처기업들이 참여해 데이터를 활용한 신산업을 발전시킬 것으로 기대하는 반면, 업계는 이번 성명서에서 "데이터를 받기는커녕, 스타트업 성장의 핵심비법을 다른 기업에 공개해야 하는 악법으로 전락할 것"이라며 "오히려 자본력을 지닌 기업이 행사를 통해 스타트업의 핵심 데이터를 정보주체로부터 받아올 수 있는 통로가 생길 것"이라고 말했다. 데이터가 외부로 쉽게 나갈 수 있는 환경이 조성되면, 경쟁사에 중요한 영업비밀도 유출될 가능성이 커진다는 우려다. 업계는 이어 "기업이 막대한 비용을 투입해 구축한 데이터를 타사에 제공하게 되면 결국 기업들은 데이터 구축을 위해 어떠한 투자도 하지 않게 될 것"이라면서 "인공지능(AI) 등 데이터를 기반으로 한 대한민국 미래 산업에 큰 악영향을 미칠 것"이라고 내다봤다. 지난 2022년 금융 분야 마이데이터 시행의 성과가 뚜렷하지 않다는 점도 비판 대상이 됐다. 업계 성명에 따르면, 금융 마이데이터의 전송의무자인 기업 650여곳은 2022년 1천293억원, 지난해 997억원의 손실이 발생한 것으로 나타났다. 업계 관계자들은 "적법한 법적 근거 없이 기업들에게 마이데이터 제도에 참여할 것을 강제하고 있다"며 "사업성이 불명확한데 유통 등 온라인산업 전체의 데이터를 공유하게 만드는 건 사실상 기업 정보공개법과 같은 위험한 발상"이라고 비판했다. 이들은 "정부는 전 분야 마이데이터 제도에 대해 전면 재검토하고 전송의무자에 온라인 유통과 온라인 사업 분야를 제외해 줄 것을 강력히 요구한다"고 덧붙였다.

2024.08.07 17:59정석규

AI용 공개 데이터 활용 지침 나왔는데…기업 절반도 안 봐

정부가 생성형 인공지능(AI) 모델 훈련 개발을 위한 공공 데이터 활용 지침을 내놨으나 이에 대한 업계 관심이 저조한 것으로 나타났다. 22일 본지 취재 결과 생성형 AI 서비스를 개발하거나 운영 중인 개발사 다수가 관련 가이드라인을 담은 안내서를 아예 모르거나 확인하지 않은 것으로 전해졌다. 앞서 개인정보보호위원회는 지난 17일 생성형 AI 개발에 활용할 '인터넷상 공개 데이터'를 안전하게 처리할 수 있는 기준을 내놨다. AI 개발·훈련에 필수적인 공개 데이터가 현행 개인정보 규율체계 내에서 적법하고 안전하게 처리될 수 있도록 만든 가이드라인이다. 개인정보위는 해당 내용을 담은 안내서도 동시에 발간했다. 공개 데이터는 인터넷상 누구나 합법적으로 접근할 수 있는 데이터다. 이 공개 데이터는 오픈AI 챗GPT 등 생성형 AI 서비스 개발을 위한 엔진 역할을 한다. AI 기업들은 커먼크롤를 비롯한 위키백과, 블로그, 웹사이트 등에 있는 공개 데이터를 웹 스크래핑 방식으로 수집해 AI 학습데이터로 활용하고 있다. 그동안 AI 업계는 모델이나 서비스 개발에 공공 데이터를 사용할 때 마땅한 기준이 없어 혼선을 빚었다. 정부는 이번 가이드라인이 기업들에게 명확한 공공 데이터 활용법을 제시할 것으로 기대했다. AI 개발사는 발표 소식을 전혀 모르고 있거나 안내서를 확인하지 않는 경우가 다수였다. 업계 관계자는 "이 기준이 천편일률적인 필수 규제가 아닌 자율성이기 때문"이라며 "정부가 기업에 해당 내용을 지속적으로 알려야 할 것"이라고 본지에 강조했다. 기업이 해당 지침을 실제 업무에 적용하기까지 시간 걸릴 것이라는 분석도 나왔다. 한 AI 스타트업 대표는 "말 그대로 법적 강제성 없는 가이드라인이라 기술적, 관리적 안전조치를 개별 기업·개인이 자율적으로 추진해야 한다"며 "구체적 방법론에 있어서는 여전히 모호함이 존재한다"고 지적했다. 그는 "특히 가이드라인에서 '정당한 이익' 기준 중 하나인 '구체적 이익형량' 등 객관적 판단이 힘든 영역이 존재"한다며 "다툼 소지가 많을 것으로 예상된다"고 설명했다.

2024.07.22 16:00김미정

"성행위 영상 뿌린다"…'몸캠 피싱' 피해자 보호 나선 '이 기업' 어디?

#. 지난해 11월. A씨(38·여)는 몸캠피싱 조직원들의 라오스 사무실에서 카카오톡 오픈 채팅방을 통해 B씨와 화상 채팅을 하면서 성행위 하는 영상을 녹화한 뒤 이를 조직원에게 전송했다. 이를 빌미로 B씨에게 돈을 뜯어내려 했던 A씨는 '보내주는 앱을 설치하면 성인 기구 강약을 조절할 수 있으니 이를 설치한 후에 계속 화상 채팅을 하자'고 말하며 휴대전화에 저장된 연락처를 전송받을 수 있는 기능의 악성프로그램 파일을 설치하도록 유도했다. 이후 A씨와 조직원들은 B씨 지인들의 연락처, 성행위 영상 캡처 사진 등을 전송하면서 '돈을 보내지 않으면 지인들에게 유포하겠다'는 취지로 협박했다. 결국 A씨는 지난달 28일 춘천에서 폭력행위처벌법상 공동공갈, 정보통신망법 위반 혐의로 기소돼 징역 3년이 선고됐다. 이처럼 최근 들어 몸캠 피싱(신체 불법 촬영 협박)이 기승을 부리는 가운데 라바웨이브가 피해자 보호를 위한 개인정보 유출 방지에 나섰다. 라바웨이브는 몸캠 피싱 피해자 전용 개인정보 데이터베이스(DB) 서버를 구축했다고 19일 밝혔다. 최근 몸캠 피싱 범죄가 지속적으로 증가하는 가운데 피해자 보호를 최우선으로 고려하기 위한 조치다. 라바웨이브는 전용 DB 서버 구축을 통해 개인정보 암호화 처리와 주기적인 안정성 검사를 강화했다. 이에 따라 데이터가 외부로 유출되더라도 정보는 난독화된 상태로 남는다. 최근 국내 주요 기업들 대상으로 사이버 공격과 해킹 시도가 증가하면서 고객정보 유출사고가 빈번히 발생하고 있다. 특히 몸캠피싱 범죄는 원클라우드, 버니19, 비밀영상 등 새로운 형태로 등장하는 추세다. 이 같은 신규 범죄에 대응하기 위해 라바웨이브는 전용 DB 서버 구축으로 피해자 보호를 더욱 강화할 방침이다. 서버 암호화뿐 아니라 주기적 검사와 백업으로 유출 위협 봉쇄에 본격 나선 셈이다. 라바웨이브 관계자는 "몸캠피싱 피해자 보호를 위해 앞으로도 끊임없이 노력할 것"이라며 "디지털 범죄 없는 안전한 세상을 만드는 데 앞장서겠다"고 강조했다.

2024.07.19 15:49조이환

[현장] "AI 개발용 공개 데이터 처리법, 필수 아닌 선택"

정부가 인공지능(AI) 개발·서비스용 공개 데이터 처리 방식을 제시한 가운데 일각에선 해당 법이 필수가 아닌 '자율'이라는 점을 지적했다. 향후 처리법 활용도가 저조해질 것이라는 우려에서다. 반면 정부는 데이터 처리 방식 모호성을 없앨 수 있는 핵심 방안이라며 문제없다는 입장이다. 개인정보보호위원회 양청삼 개인정보정책국장은 17일 정부서울청사에서 진행한 브리핑을 통해 'AI 개발·서비스를 위한 공개된 개인정보 처리 안내서' 개념과 전망에 대해 발표했다. 이날 개인정보위는 생성형 AI 개발에 활용할 '인터넷상 공개 데이터'를 안전하게 처리할 수 있는 기준을 마련하고 안내서를 내놨다. 이를 통해 AI 개발사는 앞으로 공개된 개인정보 수집‧활용의 법적기준을 명확히 할 수 있게 됐다. 또 AI 개발 및 서비스 단계에서 어떤 안전조치를 취하는 것이 적정한지 알 수도 있다. 공개된 개인정보를 활용하는 개발사는 개인정보 침해 이슈를 최소화할 수 있다. 그동안 AI 기업은 제품이나 모델을 개발할 때 불확실성에 늘 부딪혔다. AI 개발 윤활유 역할을 하는 데이터 처리 방식에 대한 명확한 기준이 없었기 때문이다. 양청삼 개인정보정책국장은 "정부는 이 점을 간파했다"며 "기업은 안내문을 통해 공개된 데이터 처리를 명확하고 안전하게 처리할 수 있을 것"이라고 강조했다. 일각에선 이번 처리 방식이 필수가 아닌 선택이라는 점을 지적했다. 안내서에 제시된 여러 안전 조치를 도입해야 한다는 부담을 느낄 수 있다는 이유에서다. 기업이 자발적으로 데이터 처리 기준을 채택하는 만큼 향후 이용도가 낮아질 것이라는 우려도 나왔다. 이에 대해 양 국장은 자율적 권고가 문제없다는 입장이다. 그는 "기업마다 개발 목적과 용도가 다양하다"며 "이 안내서에 제시된 모든 안전조치가 필수인 게 오히려 발목 잡는 셈"이라고 설명했다. 이어 "개발사는 연구에 필요한 데이터 처리 방안만 선택적으로 활용하는 게 이득일 것"이라며 "AI 개발에 명확성을 심어줄 것"이라고 강조했다. 양 국장은 해당 방식으로 데이터 처리하는 기업이 늘 것이라고 내다봤다. 그는 "정부가 제시한 기준은 글로벌 시장서도 통한다"며 "국제적으로 상호운용성 있다"고 주장했다. 그러면서 "현재 AI 기업이 유럽연합(EU)이나 미국 등으로 활발히 진출한다"며 "적어도 데이터 처리 문제로 골머리 앓는 경우는 없을 것"이라고 덧붙였다.

2024.07.17 17:09김미정

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

"AI·초혁신경제로 잠재성장률 3% 회복"…李정부 경제 첫 청사진

[데이터 주권] AI 경쟁력, 국가 협력 통한 데이터 개방이 핵심

힘든 상반기 보낸 HR 상장사들...하반기 반전 전략은?

퀄컴칩 비싸다?...삼성 옥죄는 모바일 AP 비용 부담의 진짜 이유

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.