검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'프라이버시'통합검색 결과 입니다. (17건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"AI가 개인정보만 잊게 한다"…BBC가 '이 대학' 연구 주목한 이유는

"인공지능(AI)이 학습한 개인정보를 재학습 없이도 삭제할 수 있는 기술을 개발했습니다. 이는 AI 성능을 유지하면서도 개인정보 보호를 실현하는 최적의 방법입니다." 성균관대학교에서 AI와 사이버 보안을 연구하는 우 사이먼 성일 교수 겸 대시랩(Dash Lab) 소장은 최근 성대 수원 자연과학캠퍼스에서 기자와 만나 자신의 최신 연구 성과인 '머신 언러닝(Machine Unlearning)' 기술을 설명하며 이같이 밝혔다. 그는 AI 기술의 급속한 발전으로 개인정보 보호가 중요한 이슈로 부각되고 있는 상황에서 일부 데이터를 효율적으로 제거하는 기술의 필요성을 강조했다. 7일 업계에 따르면 최근 AI가 방대한 데이터를 학습하면서 개인정보까지 처리해 프라이버시를 침해하는 사례가 증가하고 있다. 이에 따라 개인정보 데이터를 AI 내에서 효율적으로 삭제하는 처리절차가 점점 더 중요한 과제로 부상하고 있다. 기존에는 AI 모델에서 개인정보를 포함한 일부 데이터를 삭제하려면 모델 전체를 처음부터 재학습시켜야 해 엄청난 시간과 비용이 소요됐다. 이러한 비효율을 해결하기 위해 우 교수가 최근 개발하고 특허를 낸 것이 '머신 언러닝' 기술이다. 머신 언러닝은 이미 학습된 딥러닝 모델에서 특정 데이터만을 선택적으로 삭제하는 기술이다. 민감한 정보가 포함된 데이터를 명령에 따라 효율적으로 제거하면서도 모델을 처음부터 재학습할 필요 없어 시간과 비용을 크게 절감하는 동시에 성능을 유지할 수 있다. 우 교수는 "'챗GPT' 등 거대 언어 모델(LLM)에서 특정 데이터를 삭제하고 다시 학습하려면 최소 3개월에서 6개월의 시간과 수백만 달러의 비용이 든다"며 "머신 언러닝 기술은 이러한 문제를 해결해 기업과 개인 모두에게 효율적인 솔루션을 제공할 가능성을 열었다"고 설명했다. 이 기술의 핵심은 고급 알고리즘을 활용해 일부 데이터를 제거하면서도 나머지 데이터를 보호하는 방식에 있다. 딥러닝 모델이 제거 대상 데이터를 더 이상 학습에 반영하지 않게 하면서도 발생가능한 부작용을 최소화한다. 이에 따라 모델은 삭제된 데이터를 제외하고 남은 데이터만으로도 빠르게 학습을 완료해 전체 모델의 성능과 정확성을 유지한다. 그는 "기존에는 4만5천 장의 데이터를 재학습해야 했던 것을 이 기술을 통해 5천 장만 학습시켜도 되게 됐다"며 "학습 시간 역시 4천 초에서 77초로 대폭 단축됐다"고 설명했다. 우 교수의 연구실은 AI 해악 방지 기술 개발로 국제적으로도 주목받고 있다. 실제로 그는 최근 딥페이크와 생성 AI를 이용한 가짜사진을 탐지하는 기술을 개발해 영국 공영방송사인 BBC로부터 자문 요청을 받았다. BBC는 그의 논문 '대조 학습을 이용한 이미지 위조 탐지(CFL-Net : Image Forgery Localization Using Contrastive Learning)'에 주목했다. 이 논문은 대조 학습을 활용한 이미지 위변조 탐지 기술을 다룬 연구로, 위성사진뿐만 아니라 일반 이미지나 영상에도 적용 가능해 언론사들의 보도 정확성을 비약적으로 향상시킬 잠재력이 있다. 그는 "BBC가 우리 논문을 보고 가짜 이미지를 탐지할 수 있는 기법에 대해 문의해 왔다"며 "딥페이크와 같은 조작된 콘텐츠를 판별하는 기술이 사진의 진위를 판단해야하는 언론사에 필수적이기 때문에 연락한 것 같다"고 밝혔다. 우 교수가 이렇게 희귀하면서도 혁신적인 기술들을 개발할 수 있었던 배경에는 사이버 보안 분야에서의 오랜 연구 경험이 있다. 실제로 그는 성대 교수 부임 전에는 미 항공우주국(NASA), 인텔 등에서 사이버 보안 관련 연구를 수행한 경력이 있다. 우 교수는 "많은 연구자들이 AI나 정보 보안 중 한 분야에만 집중하는 것과 달리 두 분야를 모두 연구할 수 있었다"며 "이러한 간학문적 접근이 개인정보 보호와 AI 성능 향상을 동시에 이룰 수 있는 기술 개발로 이어졌다"고 밝혔다. 또 그는 "인공지능은 인간에 대한 보호와 함께 가야 한다는 마음으로 사람을 보호하는 기술에 매진하고 있다"고 강조했다. 우 교수의 연구들은 정부의 다양한 지원 사업 덕분에 가능했다. 특히 지난 2022년 시작된 언러닝 연구는 과학기술정보통신부의 재원과 정보통신기획평가원(IITP)의 지원을 통해 진행됐다. '개인정보 보호 정책 변화를 유연하게 반영하고 준수할 수 있는 AI 플랫폼 연구 및 개발'이라는 프로젝트 하에 수행된 이 연구는 개인정보 보호 관련 정책 변동에 신속하게 대응하는 AI 개발을 목표로 하고 있다. 그는 "기업들은 돈이 되지 않는다고 생각해 혁신에만 투자를 하는 경향이 있다"며 "감사하게도 정부 지원 덕분에 안전과 혁신이 같이 가는 방향에 기여할 수 있었다"고 밝혔다. 그러면서 "언러닝 기술로 시간과 비용이 절약되니 전 세계 어느 곳의 규제에도 발 빠르게 대응할 수 있게 돼 기업에도 실질적인 이익을 가져다줄 수 있다"고 덧붙였다. 우 교수는 랩실 연구 외에도 AI 인재 양성에 힘쓰고 있다. 성균관대가 실시하는 BK21, 인공지능대학원 및 융합보안대학원 사업 등을 통해 학생들이 AI 실무에 적합한 인재로 성장하도록 지원하고 있기 때문이다. 우 교수는 "전공자뿐만 아니라 문과 등 비전공자들도 AI 전문가로 성장할 수 있도록 다양한 교육 프로그램을 운영하고 있다"며 "취업이 어려워 고민하는 요즘 청년들이 실무 능력을 키우는 데 도움이 될 것"이라고 말했다. 이어 "인간을 위한 AI를 개발하는데 힘쓰는 동시에 사회에 도움되는 실사구시형 AI 인재를 키우는데도 집중하겠다"고 강조했다.

2024.10.07 16:19조이환

[기고] 브뤼셀 효과 이면 속 건강한 국내 디지털 시장 발전 위해 고려할 사항은?

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 세계가 급격하게 디지털화되면서 혁신, 번영, 개인의 권리를 균형있게 보호할 수 있는 올바른 거버넌스 체계에 대한 논의도 급물살을 타고 있다. 유럽은 디지털 기술 및 정보보호 분야에서 입법의 선도자로 자리매김해 왔다. 유럽연합(EU)의 개인정보보호규정(GDPR)은 세계적인 표준으로 간주되고 있으며 다른 지역에도 영향을 미쳐 왔다. 이는 소위 말하는 '브뤼셀 효과'다. 일반 데이터 보호 규정(GDPR) 제정 이후 EU는 디지털 전략의 일환으로 관련 법령들을 발전시켜 왔다. 그럼에도 유럽 연합의 방대한 디지털 법안 패키지가 부정적인 영향을 미친다는 비판적인 목소리도 있다. 마리오 드라기 이탈리아 전 총리는 최근 EU 집행위원회 '유럽 경쟁력의 미래(The future of European competitiveness)' 보고서에서 "유럽에서 성장하려는 혁신적인 기업들이 일관성 없고 제한적인 규제로 인해 매 단계마다 방해를 받고 있다"고 지적했다. 드라기 전 총리의 말과 같이 '브뤼셀 효과'는 영감의 원천이 될 수 있지만 동시에 주의 깊게 검토해야 할 경고로도 작용할 수 있다. 지난 해 국내에서도 개인정보보호법 시행령을 개정했다. 이는 표면적으로는 개인정보 보호법을 GDPR의 일부분과 더 유사하게 조정하려는 것처럼 보인다. 이번 개정 중 가장 중요한 부분은 국내에서 표준으로 자리 잡아 온 '필수 동의' 사용의 변화다. 새로운 접근 방식에 따르면 개인정보 처리를 위한 동의를 받는 기업은 더 이상 사용자에게 서비스 이용을 위해서는 동의를 해야 한다고 강제하지 못한다. 대표적인 예시로 더이상 필수동의 체크박스는 사용할 수 없게 되는 것이다. 대신 이제는 동의가 개인의 '자유로운 의사'에 따라 이루어지도록 해야 한다. 개인정보 처리가 선택 사항이어야 하며 사용자가 동의를 거부하더라도 여전히 서비스에 접근할 수 있도록 허용돼야 한다. 이는 국내 여러 산업에 광범위한 영향을 미칠 수 있는 중대한 변화다. 이에 따라 GDPR의 동의 개념에서 영감을 받은 이러한 새로운 접근 방식이 미칠 잠재적인 영향을 분석하고자 한다. 지나치게 복잡한 디지털 규제 환경으로 인해 EU에서는 중복된 디지털 법령들의 서로 다른 요구사항들을 어떻게 적용할지에 대한 법적 불확실성이 초래되고 있다. 규제 당국의 보수적이고 제한적인 해석과 맞물려 이러한 상황은 유럽의 글로벌 경쟁력과 혁신에 위축 효과를 가져오고 있다. 앞서 언급한 드라기 전 총리의 보고서는 EU 법령의 빈번한 변경으로 인해 법령이 누적되고 있다고 지적한다. 또 중소기업에 과도하게 높은 준수 비용이 부과돼 결과적으로 소비자들이 서비스 비용을 더 부담하게 될 수 있음을 구체적으로 언급한다. 메릴랜드 대학교의 연구 역시 GDPR로 인해 유럽의 벤처 캐피탈 투자가 미국에 비해 감소했음을 확인해준다. 개인정보보호위원회는 지난 20년간 시행돼 온 필수 동의 제도의 변경에 대한 지침을 올해 말까지 발표할 것이라고 밝힌 바 있다. 동의에 대한 추가 지침을 마련할 때는 조직 사업 운영의 자유, 소비자 정보 접근권, 디지털 경제 성장의 혁신에 미치는 영향 등 중요한 사회적 권리들과 프라이버시권 간의 합리적 균형을 보장해야 한다. 입법자와 규제 당국은 기업에 미치는 실질적인 영향과 디지털 서비스의 사용자 경험을 고려해야 한다. 광고 기반 수익으로 제공되는 서비스들이 유료로 전환될 가능성이 크고 중소기업들은 더 높은 비용 부담을 겪게 될 확률이 높다. GDPR의 '자유로운 의사에 따른 동의 요건 해석 방식'을 따르게 된다면 국내 기업들이 고객의 데이터를 처리하는 방식에도 중요한 변화가 발생할 것이다. '필수 동의' 제거에 따라 거의 모든 국내 온라인 사업체가 막대한 비용을 들여 온라인 서비스를 재구성해야 할 것이기 때문이다. 광고 기반 수익에 의존하는 디지털 기업들은 가능한 경우 대체 수익원을 찾아야 할 것이다. 이러한 변화는 소비자에게도 영향을 미칠 것이다. 현재 광고 기반 모델을 사용하는 다양한 기업들은 규모와 관계 없이 소비자에게 무료 서비스를 제공하고 있다. 이는 기업들이 사용자로부터 직접 수집한 개인정보를 활용해 적합하고 흥미로운 맞춤형 광고를 제공할 때만 가능하다. 본질적으로 광고주로부터의 수익이 무료 서비스를 지원하는 재원이 되기 때문이다. 기존 관행에 변화가 생기면 디지털 생태계에 상당한 영향을 미칠 수밖에 없다. 이미 EU 내 일부 사례에서 관찰됐듯이 뉴스 웹사이트, 게임 앱, 소셜 미디어가 제공 서비스를 변경할 경우 국내 소비자에게 비용을 초래할 수 있다. 이 쟁점에 있어서는 규제 당국·기업·정책 입안자·학계 간의 진지하고 건설적인 대화가 특히 중요하다. 현재 제안된 변경사항은 프라이버시의 법률 구조뿐만 아니라 중소기업·대기업 전반의 일상적 비즈니스와 사업 운영의 자유에까지 광범위한 영향을 미칠 것이다. 또 이러한 변화가 개인의 프라이버시 보호에 실제로 더 나은 결과를 가져올지도 명확하지 않다. 기업들이 광고 기반 수익 모델에 의존할 수 있는 능력을 줄인다고 해서 이들이 개인정보를 더 잘 처리하거나 개인정보의 보안을 강화하게 되는 것은 아니기 때문이다. 이는 오히려 기업과 소비자 모두에게 더 많은 어려움을 초래할 수 있다. 이보다는 투명성과 통제를 통해 개인, 경제, 혁신에 과도한 부담을 주지 않으면서도 프라이버시 보호를 달성할 수 있을 것이다. 기업들이 데이터 처리 방식과 시스템을 규제에 맞게 조정하기 위해서는 규제 당국의 실질적인 지침과 합리적인 타임 라인이 필수적이다. 이에 따라 데이터 처리의 다양한 법적 근거에 대한 명확한 기준을 제시하고 여러 사례를 신중하고 포괄적으로 검토하며 문제되는 다양한 기본권 간의 균형을 고려해야 할 것이다. 대한민국은 중대한 기로에 서 있다. 이번에 제안된 변화는 법적 불확실성을 초래했다. 향후 제시될 지침은 국내 소비자들의 프라이버시를 보호하고 이들이 혁신적인 디지털 제품 및 서비스에 공정하게 접근할 수 있도록 해야 할 것이다. 동시에 기업들이 국내 경제를 지속적으로 성장시키게 해석·시행되도록 보장해야 할 것이다. 이 원고는 유럽 소재 개인정보 보호 분야 저명한 씽크탱크인 Centre for Information Policy Leadership (CIPL)과의 공동 연구를 통해 작성됐다.

2024.09.27 10:50법무법인 태평양 류광현

獨 알레프알파, 외국어·공학 전문 LLM '파리아' 출시

독일 인공지능(AI) 기업 알레프알파가 다국어와 특정 도메인에 최적화된 생성형 AI 모델을 오픈소스 형태로 공개했다. 알레프알파 거대언어모델(LLM) '파리아-1-LLM'을 출시했다고 27일 밝혔다. 매개변수 70억개로 이뤄졌다. '파리아-1-LLM'은 독일어·프랑스어·스페인어 등 다양한 언어에서 최적화된 기능을 제공하며 자동차와 공학 분야에 특화된 것으로 알려졌다. 현재 비상업적 연구 및 교육 용도로만 활용될 수 있다. 이 모델은 유럽연합(EU) 및 각 회원국의 저작권과 데이터 프라이버시 법규를 준수하며 제작 됐다. 알레프알파는 "엄선된 데이터를 사용해 모델을 훈련했다"고 설명했다. 알레프알파는 이번 모델 투명성과 안전성을 특히 신경썼다고 강조했다. 부적절한 답변을 걸러내는 데이터셋을 활용해 학습시키는 등 추가 안전장치를 도입했다. 또 답변이 지나치게 장황하거나 불필요한 정보를 포함하지 않도록 하는 기법도 적용했다. '파리아-1-LLM'은 두 가지 버전으로 제공된다. 하나는 사용자 지시에 특화된 '통제(control)' 모델이고 다른 하나는 안전성을 보다 강화한 '통제-정렬(control-aligned)' 모델이다. 독일의 머신러닝 엔지니어인 사마이 카파디아는 "'파리아'는 저작권과 개인정보 보호법 등 EU 규제를 완전히 준수해 훈련됐다"며 "이런 모델의 출시 자체만으로도 상당히 인상적인 성과"라고 평가했다.

2024.08.27 10:19조이환

[현장] "AI 만난 프라이버시법, 유연성 필수로 갖춰야"

개인정보보호법이 급속도로 발전하는 인공지능(AI) 기술에 원활히 적용되려면 유연성을 필수로 갖춰야 한다는 주장이 나왔다. 한국과 미국 법률 전문가들은 13일 서울 페럼홀에서 열린 '서울 AI 정책 컨퍼런스 2024'에서 AI 시대 개인정보보호를 위한 논의 과정에서 이같은 필요성을 제기했다. 이날 전문가들은 "기존 개인정보보호법이 현대 기술에 적용되기 힘든 상태"라며 "결국 AI 혁신에 장애물이 될 것"이라고 입을 모았다. 2016년 제정된 유럽연합(EU)의 일반데이터보호규정(GDPR)은 전 세계 개인정보보호법 개선을 도운 바 있다. 그러나 최근 개인정보가 실질적으로 보호되지 않는 사례가 각국서 등장하고 있다. 이는 GDPR을 포함안 각국 개인정보보호법이 지나치게 복잡하고, 사용자에게만 책임을 떠넘기는 형식이기 때문이다. 해당 법은 모든 결정권을 개인에게 부여함으로써 사용자가 자신의 권리를 제대로 인식하지 못하는 상황이 발생한다. 2022년 챗GPT 출현 후 급속도로 발전하는 AI 기술에 적용할 수 없는 조항이 느는 것도 한 몫 한다. 이에 전문가들은 사용자들이 온라인 플랫폼 사용 시 개인정보보호 규정에 관심을 기울이지 않는다고 지적했다. 조지타운대 대니얼 솔로브 교수는 "'프라이버시 패러독스' 탓에 사람들은 개인정보 보호에 신경을 덜 쓰게 됐다"며 "AI 알고리즘이 고도로 복잡해지는 가운데 개인에게만 책임을 떠넘기는 기존 프라이버시법은 큰 악영향을 준다"고 강조했다. 전문가들은 법이 개인에게 책임을 미루는 대신 선제적 조치를 취해야 한다고 주장했다. 또 지나치게 세부적인 규제보다는 원칙에 기반한 유연한 접근이 필요하다고 입을 모았다. 생성형 AI 등 신기술의 빠른 발전 속도에 기존 법체계가 발을 맞추기 위해선 법이 유연하게 변화해야 하기 때문이다. 솔로브 교수는 "기술이 변하건 말건 데이터 관리는 효율적으로 이루어져야 한다"며 "이 목적을 잊지 말고 관리당국과 기업이 긴밀히 협력해야 한다"고 당부했다. AI 시대의 패러다임 변화에 맞춰 국내 개인정보보호법도 원칙 기반으로 유연하게 변화하고 있다. 엄격하고 복잡한 규제에서 벗어나 변화하는 기술 환경에 적응할 수 있는 체계를 마련하기 위함이다. 기존 개인정보보호위원회는 공공기관과 민간기업의 개인정보 처리에 대해 엄격한 규제를 적용해왔다. 그러나 챗GPT 등 신기술 출현 후 기존 데이터 규제가 충분치 않다는 점이 대두되고 있다. 정부는 AI 시대에 맞는 법 유연성을 높이기 위해 정책 수정에 한창이다. 최근 개인정보위원회는 거대언어모델(LLM) 학습 과정에서 기업·기관이 개인정보를 적법히 활용하도록 안전조치 강화 가이드라인을 발간했다. 또 데이터의 2차적 활용을 촉진하기 위해 개인정보를 익명화하거나 가명 처리한 후 정보 주체 동의 없이도 사용 가능한 법적 환경을 조성하고 있다. 개인정보위 양청삼 개인정보정책국장은 "AI 발전에 따라 개인정보 보호를 위한 원칙 기반으로 유연한 규제 체계를 마련하고 있다"며 "기존 세부 규정 중심에서 벗어나 변화하는 기술 환경에 적응하는 것이 목표"라고 밝혔다.

2024.08.13 15:42조이환

"내 사생활 탈탈 털렸다"…'구글 AI' 제미나이, 개인정보 유출 우려 제기

'제미나이(Gemini)'가 드라이브에 업로드 된 파일들을 무단으로 스캔한다는 의혹이 제기되자 구글이 즉각 반박하고 나섰다. 17일 캐나다 IT 전문매체 톰스하드웨어에 따르면 케빈 뱅크스톤 메타 개인정보보호담당자는 구글 생성 인공지능(AI) '제미나이'가 유저 허가 없이도 구글 드라이브 문서를 읽을 수 있다고 주장했다. 그는 11일 소셜미디어 엑스(X)에서 "'제미나이'가 구글 문서에 있던 세금 신고서 내용을 자동으로 요약했다"며 "당시 비공개 문서를 자동으로 수집·요약해달라는 명령을 한 적도 없었다"고 밝혔다. 이어 "설정을 끄기 위해 직접 메뉴를 찾아야 했다"고 토로했다. 뱅크스톤 담당자는 몇 가지 실험을 통해 상황 원인에 대한 이론을 제시했다. 그는 "PDF 등 특정 문서를 '제미나이'에 넣으면 이후 같은 확장자를 가진 문서를 모조리 요약하는 오류가 생긴다"며 "구글이 이를 의도적으로 조장한 것일 수도 있다"고 추측했다. 구글은 이를 즉시 반박하고 나섰다. 구글 관계자는 "'제미나이'의 모든 기능은 사용자가 직접 데이터를 제어하도록 선택권을 제공하는 방식으로 설계됐다"며 "구글 워크스페이스(Google Workspace) 내에서 '제미나이'를 사용하려면 사전 활성화는 필수적"이라고 밝혔다. 그러면서 "뱅크스톤 담당자가 사이드 패널로 제품을 사용했을 수 있다"며 "워크스페이스 데이터는 수집되거나 모델 훈련에 사용되지 않고 '제미나이' 역시 마찬가지"라고 덧붙였다.

2024.07.17 10:27조이환

정부, 한국 개인정보 정책 글로벌 정상에 알린다

정부가 국내 개인정보 정책을 글로벌 정부 관계자들에게 소개해 국제 정보보호시스템 강화에 기여한다. 개인정보보호위원회는 이달 10일부터 14일까지 5일간 이탈리아에서 열리는 '2024 프라이버시 심포지엄 컨퍼런스'에 참석한다. 프라이버시 심포지엄은 이탈리아 개인정보 감독기구(GDPD)가 2022년부터 매년 주최하는 행사다. 개인정보 분야 최신 연구, 규제 동향 등을 공유한다. 이해관계자와 규제‧정책당국 등 다자간 대화와 협력을 도모하기 위한 국제 컨퍼런스다. 개인정보위 측은 그동안 국제사회에서 국내 데이터·개인정보 정책에 많은 관심을 보인다는 입장이다. 이에 관련 내용에 대한 공유를 희망해왔다. 이런 요구에 맞춰 개인정보위는 국내 개인정보 정책과 규제 동향을 국제사회와 공유할 방침이다. 데이터·개인정보 보호 체계의 국제적 상호운용성 제고에 기여하고자 이번 컨퍼런스에 자리한다. 개인정보위 최장혁 부위원장이 11일 '데이터 및 개인정보 보호의 지역적 변화' 세션 발표와 패널 토론에 참석한다. 국내 개인정보 보호법과 정책의 발전과정을 소개하며, 인공지능(AI) 시대의 개인정보 정책과 규제 필요성, 계획을 공유할 예정이다. 최장혁 부위원장은 파편화된 대륙별·국가별 규제와 정책은 국경 간 자유로운 데이터 흐름을 저해할 뿐 아니라 규제의 효과성도 떨어트릴 수 있다는 점에서 국제적인 대화와 논의를 통해 상호운용성을 높여가는 노력이 필요하다는 점을 강조할 계획이다. 한국 개인정보위도 활발한 국제 논의의 장을 마련해 나가겠다는 의지로 내년 서울에서 열리는 글로벌 개인정보 감독기구 협의체(GPA) 총회 준비 상황도 알리면서 참여와 관심을 당부할 예정이다. 최 부위원장은 프랑스 등 주요국 개인정보 감독기구와 면담도 가진다. 개인정보위는 "특히 프랑스 감독기구(CNIL)와 최근 공동작업한 '아동․청소년 개인정보 인식 제고 공동 포스터' 홍보 성과 확산 방안과 AI 정책 협력과제 등에 대해서 논의할 것"이라고 말했다.

2024.06.10 13:28김미정

[기고] 라인사태를 보는 어느 IT인의 시각

일본 정부가 최근 라인의 개인정보유출로 인한 문제해결책으로 '회사지배구조를 변경하라'는 행정지도를 내렸다. '네이버 지분을 일본기업에 넘기라'는 얘기다. 도를 넘어선 일본 정부 요구가 한국에선 커다란 파장을 일으키고 있다. 상식적으로 생각해 봐도 대한민국이 일본 적성국가도 아닐뿐더러, 윤석열 정부 들어서 한일 양국의 우호적인 분위기가 한껏 고양된 가운데 양국관계에 찬물을 끼얹는 처사다. 라인사태가 벌어진 배경을 보면 이렇다. 2023년 말 라인의 월간 액티브이용자는 9천500만명에 이른다. 일본 국민 메신저 역할을 담당하며 SNS 1위다. 2위 유튜브가 7천120만, 트위터가 6천658만, 인스타가 3천300만, 페이스북이 2천600만, 틱톡이 950만 정도다. 라인은 명실공히 일본을 대표하는 SNS라 할 수 있다. 또 라인을 토대로 한 라인웤스라는 기업용 서비스는 43만개 회사에서 460만 유저가 활용하고 있다. 막강 비즈니스 파워다. 일본에서 라인의 존재감은 타의 추종을 불허한다. 라인은 한국 IT 기업의 무덤이라 할 수 있는 일본에서 유일하게 성공한 한국계 기업이다. 성공 배경으로는 상장기업이자 일본을 대표하는 포털사이트 운영사였던 라이브도어를 인수해 유능한 일본인 인재를 대량 확보했다는 점이 꼽힌다. 여기에 한국 핵심기술과 일본 현지 인력의 협업으로 현지에 필요한 수요 파악, 그리고 라인이 거인으로 성장하기까지 일본인 그 누구도 라인이 한국기업임을 알지 못했다는 점을 들 수 있다. 우리나라를 대표하고 세계적인 기업집단인 삼성이나 현대가 글로벌 시장에서 맹활약하고 있지만, 막상 일본시장에서는 맥을 추지 못하는 이유이기도 하다. 한국기업에 대한 차별적 인식이나 기술을 도용당했다는 근거 없는 피해의식을 가진 일본사회에서 성공하기 힘들었다. 반면에 네이버 자회사 라인은 조용히 성장을 계속했다. 라인은 한국자본으로 만들어진 기업이라는 것을 일본 사람이 인식하지 못하는 사이에 급성장을 이뤄 낸 대표적인 기업이다. 일본엔 '長いものに巻かれろ。(나가이모노니 마카레로)'라는 말이 있다. '나보다 강한 편에 줄을 서라'는 의미의 격언이다. 일본인 정서를 잘 이해할 수 있는 말이다. 기득권자가 되면 쉽게 건드리지 못하고 또 같은 편에 서서 함부로 건드리지 않는 국민적 정서가 일본사회에는 실재한다. 일본사회에서 기득권이 된 라인이 끼치는 영향력은 실로 막대하다. 라인이라는 거대한 SNS 플랫폼은 일본 국민은 물론이고, 민간기업과 정부·지자체도 각종 업무나 대국민 서비스에 활용하는 등 독보적인 서비스로 자리매김했다. 일본 정부는 이러한 라인의 일본 내 영향 확대를 우려한 나머지 지난 2021년 금융청과 총무성으로 하여금 공동 조사를 실시했다. 보고서 공식명칭은 '정부 기관·지방공공단체의 업무 관련 라인 이용 상황조사를 통한 향후 라인 서비스 이용에 관한 가이드라인'이다. 조사결과, 라인을 업무에 이용 중인 정부 기관은 전체 23개 기관 가운데 18곳으로 78.2%에 이르렀다. 정부 기관이 라인을 이용하는 221개 업무 가운데 기밀성을 요구하는 업무는 19.9%인 44개였다. 또 1천788개 이르는 지방자치단체 가운데 64.8%인 1천158곳이 라인을 업무에 이용 중이고, 라인을 이용하는 3천193개 업무 가운데 22.5%인 719개가 개인정보 등 주요정보를 관리하는 업무였다. 일본 정부나 지자체가 라인을 활용할 수 밖에 없게 된 배경은 이렇다. 일본에는 대한민국의 '정부24' 같은 통합 포털 서비스가 없다. 앱 서비스도 존재하지 않는다. 우리나라의 정부24에 준하는 'EGOV'라는 포털 웹서비스가 있지만 이는 이용자 중심의 통합 서비스를 제공하는 것이 아닌 그야말로 각 부처 웹사이트 링크만 모아 놓은 서비스다. 1천700여 개 지방자치단체가 각자 웹서비스를 제공하고 있으며 한국 같은 앱 서비스는 중앙정부와 지방정부에 없다고 해도 과언이 아니다. 정부나 지자체가 앱 등을 이용한 푸시서비스를 하려면 일단 앱을 개발하고 회원을 확보해야 하지만 앱을 만들 능력도, 회원을 확보할 능력도 없다. 서비스를 신속하게 제공하려면 이미 많은 고객을 확보한 '라인'을 활용하는 것이 가장 현실적인 대안이었다 일본 정부가 일본기업도 아닌 한국자본 기업인 라인의 영향력이 공공과 민간부문을 막론하고 나날이 커가는 상황에 위기의식을 느끼고 있던 중, 2012년 3월 라인의 개인정보유출 관련한 사건이 발생했다. 사건내용인 즉 라인이 업무수행을 위해 외주를 맡긴 중국 소재 기업으로부터 라인이 보유한 개인정보가 관람 가능하다는 사실이 밝혀져 이 문제가 사회적 이슈로 떠올랐다. 현실적으로는 원가절감과 업무 효율성을 위해 인건비가 저렴한 중국법인에서 온라인으로 유지보수를 하기 위해 라인이라는 민간기업이 법의 테두리 안에서 합법적으로 행한 기업의 선택이지만 최근 불거진 일본과 중국 간 안보 관련 이슈 등 국제정세에 영향을 받게 되며 점점 파장이 커지게 된 것으로 보인다. 마침 미국 정부에 의한 틱톡 지분 매각 요청 등이 이뤄지며 일본 내 우익세력들도 이러한 움직임에 편승하며 더는 라인을 한국기업 지배하에 둘 수 없다는 여론이 높아진 계기가 됐다. '울고 싶은데 뺨을 때려준다'는 말처럼 2023년 11월 외부 해킹으로 라인 서버에 있던 개인정보 44만~46만 건이 유출된 사건이 발각돼 일본 정부가 시큐리티 강화를 위한 행정지도를 했으나 라인 측 대책이 불충분하다는 이유로 2차에 걸친 행정지도를 실시했다. 2차 행정지도 배경에는 라인 서비스 운영과 유지보수 등에 네이버의 기술적 지배와 관여가 존재하나 일본 정부가 이를 통제할 합법적 강제적 수단이 없으므로 이를 해소하기 위해 라인의 지배지분을 일본기업이 확보하고 더는 네이버에 기술적 의존을 하지 않도록 지도하기 위함이었다. 결국 라인 경영진은 네이버의 '시스템 유지보수 등의 용역계약을 종료선언'을 끌어냈다. 급기야 네이버가 보유한 지분을 일본기업(소프트뱅크로 추정)에 처분하기 위한 협상이 시작된 것으로 보인다. 최근 일본 자위대가 보유한 이지스함인 이즈모를 중국에서 드론으로 근접 공중 촬영한 사실이 밝혀지고, 일본 굴지 통신회사 NTT 계열사들의 개인정보 유출 사고가 잇따라 터져 일본 국민의 개인정보보호 관심이 높아지자 일본 정부가 이참에 라인 문제를 해결하고자 시도하는 것이 아닌가 하는 합리적 의심이 든다. 최근 개인정보 유출 사고를 보면 2023년 NTT넥시아의 인터넷 접속서비스인 '후라라' 계약자정보 596만건이 내부자에 의해 유출돼 커다란 물의를 빚었다. 2023년 10월 NTT서일본의 자회사인 NTT비즈니스 솔루션 내부자에 의해 900만건에 이르는 개인정보유출 사고가 일어났다. 이 회사는 개인정보유출이 10년간 지속됐으나 은폐해온 것으로 드러났다. 일본을 대표하는 기업에서 벌어진 사태에 비교하면 라인의 개인정보 유출 규모는 비교할 바가 아니다. 또 개인정보 보호차원에서 일개 민간기업이 법적으로 책임질 일은 책임을 지고 재발방지를 위한 충분한 대책을 수립하도록 지도하는 것이 일반적인 상황이라고 볼 때 이번 라인에 대한 일본 정부의 대응은 저의를 의심 받기 충분하다. 또 그동안 지속된 일본의 우경화도 무관치 않아 보인다. 지난주에 일본 국회를 통과해 1년 안에 공포시행 될 '중요 경제안보 보호·활용법'은 정부가 지정하는 '중요한 정보'에 접근하려면 특별한 정보 접근 자격이 필요하다는 취지로 정부가 추진하는 경제안보정책의 일환으로 제정된 법률이다. 일본 사회 일각에서 총론은 찬성하지만 각론에서 '중요한 정보'에 대한 정의가 애매해 정부가 정치적 목적으로 법을 악용할 수 있다는 문제점과 각종 정보를 접근하는 데 제한이 있어 국민 프라이버시와 알권리가 침해되지 않을까 하는 우려가 있다. 이 법은 이번에 불거진 라인사태처럼 정보시스템을 개발하고 운용하는 과정에서 국내외 많은 기업이 개발자로서, 혹은 운영서비스 위탁 등 여러 가지 형식으로 관련된 상황에서 일본 정부가 원치 않는 적성국 등에 국가기밀 혹은 일본 국민의 개인정보가 유출되는 사태를 방지할 목적으로 만들어 진 법률로 보인다. 그러고 보니 일본 정부의 정부 클라우드는 아마존 클라우드에서 가동되고 있다. 중앙부처 주요 정보를 아마존에 올려 놓은 일본 정부가 한국기업 네이버가 관리하는 라인을 두고 기밀정보유출이나 개인정보 보호 운운하는 게 맞는지 생각해 볼 일이다. 여하튼 일본 정부 의사에 반해 거인으로 성장한 라인 서비스는 일본 정부의 '뜨거운 감자'가 됐다. 일본 현지 분위기를 보면 일본 정부의 강력한 드라이브에 네이버가 대응하기는 현실적으로 어려움이 있어서 한국 정부가 외교적으로 적극 대응하지 않는 한 라인 지분은 일본 측으로 넘어갈 가능성이 농후하다. 일본 현지 전문가들 사이에서는 일본 정부가 이번 사건이 불공정하고 불합리한 대응을 하고 있다는 인식을 가지고 있지만 이번 사태를 정략적으로 이용하려는 일본 정부와 우익세력의 준동에 대해 '공기(분위기)'를 의식해 침묵을 이어가고 있어 원만하게 해결될 가능성은 없다고 본다. 단기적으로 일본 현지 IT 기업 기술력으로 볼 때 네이버가 기술지원을 중지하게 되면 라인 규모 업무서비스를 유지할 수 있는 기술 수준이 낮아 서비스 품질을 유지하기 어렵다. 또 현재 수준의 운영비용으로 같은 품질을 기대할 수 없다. 앞으로 대한민국 정부와 네이버가 어떻게 대응을 할지는 알 수 없으나 모처럼 한국 코어기술과 일본의 유능한 인재가 만들어낸 글로벌 SNS '라인'이 자본주의 논리도 아닌 외교적 문제, 혹은 편협한 자국중심주의의 제물이 돼 위기에 봉착한 오늘의 상황이 참으로 안타깝다. 양국 간에 원만하게 협의해 외교 마찰 소재가 되지 않기를 바라는 마음 간절하다.

2024.05.14 13:58염종순

AI·CBDC 시대, 신뢰있는 데이터·투명성 중요해진다

인공지능(AI)이 예상보다 빠른 속도로 발전하면서 데이터는 국가와 기업의 경쟁력이자 무기가 되는 시대다. 데이터와 AI가 결합하면서 초개인 맞춤 서비스가 가능해지기 때문이다. 반면 개인이 제공하는 데이터, 즉 '개인 정보' 보호에 관한 관심은 그리 높지 않은 편이다. 일단 데이터를 수집하고 가공하며, 기술력을 올리는데 초점이 맞춰져 있는 것으로 보인다. 한 개인을 위한 완벽한 맞춤 서비스와 프라이버시는 양립할 수 있을까. AI 시대 발전할수록, 개인 정보 유출 리스크↑ 개인 정보 유출에 관한 소식은 이제 놀랍지도 않다. 지난 2014년 NH농협카드·KB국민카드·롯데카드 등 카드 3사에서 1억 건 넘는 개인 정보가 유출됐다. 국회 과학기술정보방송통신위원회 소속 정필모 의원(더불어민주당)이 지난 2023년 낸 자료에 따르면 SK텔레콤·KT·LG U+·LG헬로비전이 2018년부터 2023년까지 개인 정보로 유출돼 제재를 받은 건만 48만여건이다. 데이터가 많이 필요한 현 시점서 개인 정보 유출은 과거에 비해 더 큰 리스크를 초래할 수 있다. 과거에는 개인 정보를 싸게 사고 팔아 광고나 영업 타깃이 된다는데 그쳤지만 금전적 손해와 인권을 침해하는 사례로 발전하고 있기 때문이다. 특히나 영상·생체 등 개인 정보 종류가 다양해져 개인 정보 유출에 대한 위기의식과 사전 관리가 필요하다는 것이 관련 학계 목소리다. 개보위, 자율규제·사전적정성 검토제로 대응했지만… 우리나라 정부도 AI 발전에 따른 개인 정보 유출을 인지하고 있다. 지난 2월 15일 올해 업무 보고를 통해 "생성형 AI 기술의 급격한 발전은 개인 정보의 주요성을 다시 확인시켜주는 계기"라며 "AI의 성능을 좌우하는 학습데이터이며, 학습데이터의 핵심은 개인 정보로 사회적 편익은 국민 모두가 누리고, 프라이버시 리스크는 최소화할 수 있도록 하겠다"고 밝혔다. 업무 보고에 따르면 개보위의 기본적인 방향은 기업의 AI 발전은 저해하지 않도록 이용할 수 있는 데이터에 대한 가이드라인을 수립하는 것이다. 2024년 업무보고의 토대는 2023년 8월 발표한 'AI시대 안전한 개인 정보 활용 정책 방향'이다. 개보위는 ▲다수 참여자 간 합의를 유도해 자발적으로 개인 정보 보호 수준을 높여가는 자율규제의 고도화 ▲개발 및 데이터 처리 등의 과정서 개인 정보를 보호하는 설계를 컨설팅하는 사전 적정성 검토제를 내세웠다. AI를 개발하고 관련 서비스를 기획하는 과정서 개인정보보호법 준수 여부가 불확실한 경우 기업과 개보위가 함께 논의하겠다는 것이다. 업계는 가이드라인과 사전 적정성 검토제로 데이터 이용에 대한 법적 불확실성은 덜었지만, 정작 정보 주체들은 이 방침을 반신반의한다. 정보 유출한 기업에 과징금을 무는 개인정보보호법이 시행되고 있지만 그 책임을 다하고 있는지, 이후 유출이 재반복되더라도 정보 제공 주체들은 피해를 개별적으로 감수해야 하기 때문이다. 신뢰 필요한 개인정보必, 주목받는 영지식증명 개인 정보 유출 피해가 심각해질수록 개인 정보이긴 하지만 개인을 식별하진 못하게 할 순 없을까에 대한 고민이 깊어진다. 이 지점서 영지식증명(Zero-knowledge proof )기술이 거론된다. 영지식증명을 검색하면 '자신이 알고 있는 지식이나 정보 등을 상대방에게 공개하지 않고도 자신이 그 내용을 알고 있다는 것을 증명할 수 있는 방법'으로 나온다. 예를 들어 편의점에서 술을 구입 시 내 주민등록증을 편의점 직원에게 보여줘 (찰나라도) 이름과 주민등록번호, 주소 등을 알리지 않아도 성인임을 증명할 수 있도록 하는 방안이다. 지크립토 오현옥 대표는 "영지식 증명은 암호학에 포함되며 증명해야 하는 사람(정보 주체)이 있다면 어떤 데이터를 가지고 무언가 계산을 해 A란 결과가 나온다를 알고 있고 검증하는 사람은 A란 결과가 나오면 제대로 된 값이다라는 것이 영지식 증명의 기본"이라며 "프라이버시가 중요한 곳에서 많이 적용할 수 있다고 생각해 연구와 서비스 개발을 시작했다"고 설명했다. 오 대표는 이어"개인 정보를 잘 활용하고 싶어하는 분야가 늘어나고 있는데, 개인 정보를 보여주지 않으면서도 활용할 수 있는 걸 영지식 증명이 보여줄 수 있다"고 말했다. 그는 "영지식 증명을 활용 시 개인 정보와 관련된 것은 지우고 다른 정보만 활용하는 용도로 주겠다와 개인이 주는 정보가 거짓 정보가 아니고 진짜 정보라는 익명성과 투명성이 둘 다 보장될 수 있다"고 부연했다. 오 대표는 "프라이버시(개인 정보)가 지켜지면서도 정보의 진위 등을 증명할 수 있는 기술이다 보니 신뢰가 필요하면서도 프라이버시가 필요한 그런 도메인에선 쓸 수 있다"며 한국은행의 디지털 통화(CBDC)와 선거에서의 접목을 실례로 들었다. 한국은행은 2022년 11월 모의실험 연구사업 2단계 결과 및 향후 계획을 발표, 영지식 증명을 CBDC 접목에 관해 검토했다. CBDC 거래 익명성을 제고하기 위해 신원 정보를 노출하지 않고 자신이 해당 자산의 소유주임을 증명할 수 있을 것으로 봤다. 오현옥 대표는 "블록체인 붐이 촉발된 건 '투명성'이었는데 투명성만으로는 서비스를 만들긴 어렵다. 개인 정보 유출이라는 이슈가 있기 때문"이라며 "모바일 시대에 접어들면서 클라우드 서비스가 발전한 것처럼 개인 정보를 보호하면서도 투명성을 보장하는, 익명성이 보장되고 신뢰있는 데이터가 주고받는 그러면서도 투명한 블록체인 생태계 등을 구축하기 위해선 영지식증명과 같이 갈 수밖에 없다"고 진단했다.

2024.03.04 17:06손희연

개인정보위, 미래 의제 선제 구축...'개인정보 미래포럼' 출범

개인정보보호위원회가 개인정보 정책 완성도를 높이기 위해 각 분야 전문가와 함께 미래 의제를 선제적으로 구축할 공론의 장을 구성한다. 개인정보위는 분야별 전문가 42명으로 구성된 '2024 개인정보 미래포럼'을 출범한다고 29일 밝혔다. 미래포럼은 개인정보 분야 미래 의제를 선제적으로 논의하고, 동시에 산업계·시민사회 등 현장 의견을 수렴하는 개인정보 정책 토론의 장이다. 공동 의장인 개인정보위 위원장과 황창근 홍익대 교수를 포함한 학계·법조계·산업계·시민사회 등의 전문가 34명과 개인정보위 위원, 유관기관 관계자 등 8명의 특별위원으로 구성됐다. '국민 삶이 풍요롭고 개인정보가 안전한 AI 시대' 구현이라는 2024년 개인정보 정책방향에 맞춰 '인공지능과 개인정보', '아동·청소년 개인정보 보호', '개인정보 보호 강화 기술' 등의 아젠다를 논의할 예정이다. 이날 미래포럼 제1차 회의에서는 '인공지능과 개인정보'를 아젠다로 최대선 위원(숭실대 교수)과 김남국 교수(서울아산병원)가 각각 'AI 프라이버시 기술'과 '의료 인공지능 모델과 프라이버시'를 주제로 발제했다. 고학수 개인정보위 위원장은 "생성형 인공지능 기술의 급격한 발전과 새로운 프라이버시 이슈의 등장 등 변화무쌍한 디지털 환경 속에서 그 어느 때 보다 전문가의 지혜와 통찰이 필요한 시점"이라며 "올 한해 열띤 토론을 통해 개인정보 정책에 신선한 자극과 영감을 많이 주시길 바란다"고 당부했다.

2024.02.29 16:00이한얼

개인정보전문가협회-김앤장, '데이터 프라이버시' 세미나 개최

개인정보전문가협회(KAPP)는 김앤장법률사무소와 공동으로 개인정보 관련 법‧정책과 동향 세미나 '데이터 프라이버시 : 트렌드&인사이트(DPTI 2024)'를 지난 22일 개최했다고 밝혔다. KAPP가 네 번째로 개최한 DPTI 2024는 최장혁 개인정보보호위원회 부위원장과 정경택 김앤장 법률사무소 대표변호사의 축사 및 최경진 개인정보전문가협회 회장의 개회사로 시작, 총 3개의 세션으로 진행됐다. 1세션에서는 개인정보보호위원회 위원인 조소영 부산대학교 교수를 좌장으로 개인정보보호위원회(김직동 과장), 과학기술정보통신부(이소라 과장)와 범정부 마이데이터 추진단(황지은 과장)에서 정부가 추진하는 올해의 데이터 프라이버시 트렌드 관련 정책과 동향을 소개했다. 2세션에서는 KAPP 개인정보 전문가 자격인증원장인 안정민 한림대학교 교수를 좌장으로 김앤장법률사무소 소속 한혜원, 윤아리 변호사가 인공지능(AI) 시대와 프라이버시 이슈, 개정 개인정보보호법 시행령 관련 이슈를 소개했다. KAPP 사무국장인 송도영 법무법인 비트 대표변호사, KAPP 대변인인 이소은 영남대학교 교수는 최근 KAPP와 김앤장법률사무소가 공동으로 실시한 설문조사 결과를 토대로 올해 주목할 만한 데이터 프라이버시 조사 보고서를 발표했다. 3세션은 2024 데이터 인사이트 라운드테이블로, KAPP 회장인 최경진 가천대학교 교수가 좌장을 맡았다. 개인정보보호위원회 위원인 김진환 웨일앤썬법률사무소 대표변호사, 김광수 성균관대학교 교수, 윤명 소비자시민모임 사무총장, 이인환 김앤장법률사무소 변호사, 이희진 페이스북코리아 변호사, 임용 서울대학교 교수와 정지은 CODIT 대표 등이 국내·외 개인정보보호법제 동향과 향후 정책 방향에 대해 토론했다. 최경진 회장은 “이번 DPTI 2024는 올해 주목해야 할 데이터 프라이버시 이슈는 물론 최근 AI 기술 발달로 대두된 개인정보 활용 문제에 관해 토론하고, 향후 바람직한 해결 방안을 마련해나가기 위한 계기가 될 것으로 기대한다”고 소회를 밝혔다. DPTI 2024 자료집은 KAPP 홈페이지에서 내려받을 수 있다.

2024.02.25 11:03김윤희

개인정보위 고학수 "프라이버시 걱정 없는 AI 만들 것"

고학수 개인정보보호위원회 위원장은 새해 신년사를 통해 인공지능(AI) 서비스를 신뢰하고 사용할 수 있도록 프라이버시 보호 체계 구축을 중점적으로 추진하겠다고 밝혔다. 고 위원장은 AI 기술이 뿌리내리기 위해선 사회적 신뢰 형성이 대전제라고 강조했다. 산업계와 국민에게 AI 활용 관련 애로사항에 대해 적극 소통하고, AI 관련 가이드라인 6종을 마련해 원칙 기반 AI 프라이버시 규율 체계를 실현하겠다고 했다. UN 및 주요 선진국과도 공조해 AI 국제 규범 마련에 선도적인 역할을 해야 한다고도 언급했다. 국내 데이터 거버넌스 구축도 올해 중점 추진사항으로 꼽았다. 고 위원장은 "개인정보 전송요구권이 내년 계획대로 시행되려면 이를 뒷받침해줄 기반 마련이 필수"라며 "전 분야 마이데이터의 차질 없는 시행을 위해 제도와 인프라 마련에 힘써주시기를 부탁드린다"고 말했다. 이어 "안전하고 유연한 개인정보 활용을 위해 '개인정보 안심구역'을 새롭게 도입하고 가명정보에 대한 지원체계도 강화해 스타트업과 연구자들의 혁신적인 서비스 개발을 지원하자"고 덧붙였다. 국민이 체감하는 개인정보 안전 사회 구현도 중점 추진사항으로 제시했다. 고 위원장은 "기업의 개인정보최고책임자(CPO)를 제도화해 민간의 안전한 개인정보 활용을 유인하겠다"며 "국민 생활 밀접 서비스의 개인정보 보호 실태를 집중 점검해 프라이버시 관련 국민 불안이 불거지지 않도록 해야할 것"이라고 언급했다.

2024.01.02 17:03김윤희

ETRI, 양자 컴퓨팅으로도 못 깨는 동형암호 핵심 연산 칩 개발

한국전자통신연구원(ETRI)은 차세대 암호기술로 주목받는 동형암호를 고속으로 처리할 수 있는 전용 연산 가속기 칩을 개발했다고 6일 밝혔다. 동형암호는 기존 암호와 달리 암호화된 데이터를 다시 풀지 않고 바로 계산하는 기술이다. 비밀 키를 사용해 암호화된 데이터를 복호할 필요가 없어 비밀 키나 원래 데이터가 노출될 우려가 없다. 양자 컴퓨팅으로도 꺨 수 없는 양자 내성도 지니고 있다. 이 기술이 상용화되면 클라우드 서비스를 위한 데이터센터 서버나 개인정보 보장이 가능한 인공지능 반도체(SoC) 등에 활용할 수 있을 것으로 연구진은 기대했다. 동형암호 가속기 전용 칩 및 소프트웨어 개발 플랫폼 연구에도 탄력이 붙을 전망이다. 이를 통해 국방이나 공공, 의료, 금융, 산업 등 보안과 통계 및 인공지능 응용이 동시에 요구되는 곳에서 데이터를 암호화된 상태로 다양한 융합 서비스에 직접 적용할 수 있으리란 기대다. 클라우드 컴퓨팅이나 데이터베이스 관리시스템(DBMS) 기업, 팹리스 기업, 서버 탑재 동형암호 가속기 개발사, 마이데이터 프라이버시 서비스 기업, 공공 및 국방 등 민감 데이터를 활용하는 기업 등에서 사용 가능하다. ETRI가 개발한 완전동형암호 하드웨어 연산 가속기 칩은 정보를 암호화하면 암호문이 수천 비트의 계수를 갖는 수만 차수 이상의 다항식들로 표현되는 동형암호의 고유한 특성에 적합한 전용 하드웨어 연산 처리 장치이다. 데이터가 암호화된 상태, 즉 고차 다항식 간에 덧셈과 뺄셈, 곱셈, 나눗셈 등 연산을 빠르게 처리한다. 암호화된 데이터를 바로 연산하고 그 결괏값만 암호를 풀어서 데이터를 볼 수 있게 되는 원리다. 아무도 원래의 데이터를 볼 수 없어서 데이터 프라이버시가 확실히 보장된다. 데이터를 암호문으로 만들면 수천 비트 정도로 큰 크기의 데이터를 수만 개 갖는 다항식으로 바뀌게 되어 계산량이 기하급수적으로 증가한다. 따라서 64비트 수준의 데이터를 처리하는 중앙처리장치(CPU)나 그래픽처리장치(GPU)로 계산하기에는 구조도 적합하지 않고 시간도 많이 소요돼 동형암호를 활용하기 어려웠다. 이번 연구는 이런 문제점을 해결하고 동형암호를 활용할 수 있는 동형처리유닛(HPU)의 핵심 기술이라고 연구진은 설명했다. 연구진은 이 기술을 바탕으로 향후 동형암호 전용 시스템온칩(SoC)을 구현해 실용화할 계획이다. 나아가 동형암호 SoC를 탑재해 동형암호가 적용된 동영상을 동형암호가 적용된 인공지능 모델로 실시간 수준으로 추론할 수 있는 완전동형암호 하드웨어 가속기로 확장한 플랫폼까지 개발할 예정이다. 박성천 ETRI 보안SoC융합연구실장은 "동형암호 고속연산 칩 핵심 기술을 연구해 동형암호의 실용화를 앞당길 수 있는 계기를 마련한 데 큰 의미가 있다"라고 말했다. 이 기술은 과학기술정보통신부 'HW지원 프라이버시 보장 암호데이터 고속처리 기술 개발' 과제로 수행되고 있다. 네이버, 네오와인, 티맥스티베로, 성균관대, 포항공대, 인하대가 공동연구 중이다. ETRI는 이번 연구를 통해 칩 핵심기술 검증용 MPW 시제품, SW 14건, 국내외 특허 21건 출원, 논문 8편 등 성과를 냈다.

2023.09.06 13:15한세희

오라클, EU 규제 특화 클라우드 서비스 출시

오라클은 유럽연합(EU)의 데이터 프라이버시 및 주권 요구사을 충족하는 'EU 소버린 클라우드'를 22일 출시했다. 이 신규 서비스는 유럽연합(EU) 전역의 민간 및 공공 기관이 데이터 프라이버시 및 주권 요구사항에 대해 폭넓은 제어 능력을 가질 수 있도록 지원할 예정이다. 최근 부상하는 EU 규제 환경 요건을 충족시키도록 설계된 최초의 클라우드 서비스 중 하나인 오라클 EU 소버린 클라우드는 실행되는 모든 워크로드에 대해 오라클 클라우드 인프라스트럭처(OCI)의 퍼블릭 클라우드 리전의 서비스 및 기능을 동일한 가격, 지원 및 서비스수준계약(SLA)을 통해 제공한다. 오라클 EU 소버린 클라우드는 리전 전체가 EU 내에 위치하며, 지원 및 운영은 각각 EU 내 거주 직원 및 EU에 설립된 별도의 법인에서 맡는다. OCI 분산형 클라우드 전략의 일환인 오라클 EU 소버린 클라우드는 규제 요건 충족을 지원하기 위한 새로운 옵션을 제공하며, 하이브리드 및 전용리전 클라우드 전략을 보완한다. 오라클 EU 소버린 클라우드는 규제가 엄격한 산업의 디지털 비즈니스를 호스팅하는 데 적합하다. 민감한 데이터를 다루기 때문에 규제 대상이거나, 전략적 중요성이 높은 지역의 데이터 및 애플리케이션, 그리고 일반 데이터 보호 규정(GDPR)과 같은 EU 주권 및 데이터 프라이버시 가이드라인 및 요구사항이 적용되는 워크로드를 다루는 고객들은 이제 클라우드로 이전할 수 있다. EU 소버린 클라우드는 고객의 호스팅 데이터가 EU 회원국 내에 보관되고 클라우드 리전이 EU 거주 직원에 의해서만 운영되기 때문에, 헬스케어, 은행 및 보험을 포함한 금융 서비스, 통신 및 공공 부문과 같은 중요 산업의 디지털 트랜스포메이션을 지원한다. 27개 EU 회원국 및 전세계 고객 대상으로 출시된 오라클 EU 소버린 클라우드는 오라클의 퍼블릭 클라우드에서 이용할 수 있는 100개 이상의 클라우드 서비스를 주권 기능에 대한 프리미엄 수수료 없이, 성능, 관리 및 가용성에 관한 동일한 SLA를 통해 제공한다. 오라클의 고객들은 오라클 서포트 리워드와 같은 다른 고객 프로그램도 활용할 수 있다. 또한, 현재 유럽연합 제한된 액세스(EURA) 제품으로 제공되는 오라클 퓨전 클라우드 애플리케이션 스위트 역시 오라클 EU 소버린 클라우드에서 곧 출시될 예정이다. 오라클 EU 소버린 클라우드는 규제 대상 산업에 속한 조직 및 정부 기관이 생성 AI와 같은 새로운 인공지능 기술을 도입할 수 있도록 지원한다. 현재 많은 조직이 데이터 레지던시 및 규제 요구사항 등 기존 생성형 AI 제품의 사용을 가로막는 다양한 규제에 직면해 있다. 이로 인해 생성형 AI를 위한 모델 개발에 필요한 AI 인프라를 퍼블릭 클라우드에서 사용하지 못하는 실정이다. 오라클 퍼블릭 클라우드의 서비스 및 기능을 제공하는 오라클 EU 소버린 클라우드는 공공 분야의 조직들이 클라우드에서 EU 데이터 레지던시 및 주권 요구사항을 준수하며 AI 인프라스트럭처를 활용할 수 있도록 지원한다. 신규 소버린 클라우드 리전은 데이터 레지던시와 보안, 프라이버시, 규정 준수를 위한 기존의 OCI 내부 기능을 더욱 개선한 종합적인 정책 및 거버넌스 하에서 운영된다. 이 정책은 OCI의 데이터 저장 및 액세스 관리 방법, EU 외부 법인의 데이터 액세스 관리 방법 등 데이터 및 운영 주권에 대한 프레임워크를 포함한다. 오라클 EU 소버린 클라우드 데이터센터는 독일 프랑크푸르트와 스페인 마드리드에 위치한다., EU 내에 설립된 별도의 오라클 소유 EU 법인이 소유권을 갖고 운영한다. 운영 및 고객 지원 역시 EU 거주 직원으로 한정된다. 오라클 EU 소버린 클라우드는 고객의 지역 및 산업 별 규정을 준수함을 입증할 수 있는 오라클 클라우드의 기존 규정 준수 프로그램을 기반으로 구축됐다. EU 모니터링 규제 및 EU 밖으로의 데이터 전송 제한에 대한 가이드라인(유럽 사법재판소의 '슈렘스 II' 판결 및 유럽 데이터 보호 위원회)을 준수한다. 이에 더해 85개 이상의 전세계 및 리전 별 OCI 패스트커넥트 파트너사로 구성된 OCI의 광범위한 네트워크는 기업에게 오라클 클라우드 리전 및 OCI 서비스에 대한 전용 연결을 제공한다. 마드리드 및 프랑크푸르트에 위치한 EU 소버린 클라우드 리전의 호스트 파트너는 각각 디지털 리얼티와 에퀴닉스다. EU 소버린 클라우드 리전 출시를 통해 이용 가능한 파트너로는 얼라이언, DE-CIX, 디지털 리얼티, 에퀴닉스 및 인터클라우드가 있다. 오라클 EU 소버린 클라우드는 EU 내에 위치한 오라클의 상용 리전과 인프라를 공유하지 않으며, 오라클의 다른 클라우드 리전과도 백본 네트워크로 연결돼 있지 않는다. 오라클 EU 소버린 클라우드에 대한 고객 액세스는 오라클 클라우드의 상용 리전에 대한 액세스와는 별도로 관리된다. 오라클 EU 소버린 클라우드는 각 클라우드 리전 내에서 고가용성을 제공하기 위해 설계됐으며 EU 내에서 재해 복구 아키텍처를 지원하기 위해 두 개의 클라우드 리전으로 구성된다. 각 리전은 동일한 물리적 하드웨어에 워크로드가 그룹화되는 것을 방지하기 위해 3개의 결함 도메인으로 구성된다. 단 한 개의 결함 도메인의 하드웨어 장애 또는 컴퓨팅 하드웨어 유지보수가 발생해도 다른 결함 도메인에 위치한 인스턴스에 영향을 미치지 않는다. 오라클의 상용 클라우드와 구분되는 운영, 지원 및 정책을 통해 오라클 EU 소버린 클라우드는 고객이 EU 데이터 프라이버시 및 주권 가이드라인 및 요구사항을 손쉽게 준수할 수 있도록 지원한다. 복잡한 정책 도구를 통한 추가 구성 없이도 고객 데이터가 EU 안에 보관되도록 보장함으로써, 오라클 EU 소버린 클라우드는 고객의 배포 속도를 가속화하도록 지원하는 동시에 위험은 낮춘다. OCI는 고객이 데이터를 더욱 안전하게 보호하고 데이터 주권 요건을 충족할 수 있도록 EU 소버린 클라우드를 포함한 모든 오라클 클라우드 리전에 걸쳐 이용 가능한 두 가지 새로운 키 관리 서비스, OCI 전용 키 관리 서비스 및 OCI 외부 키 관리 서비스를 도입한다. OCI 외부 키 관리 서비스는 탈레스 그룹과 파트너십을 통해 구축됐으며, 고객이 OCI 외부에서 생성 및 관리하는 암호화 키를 사용하여 데이터를 암호화할 수 있다. 암호화 키는 항상 고객 소유로 유지되고 OCI로 가져오지 않으므로 고객은 클라우드 외부에서 키의 물리적 저장소에 대한 제어가 필요한 규제 대상 워크로드를 OCI로 이동할 수 있다. OCI 전용 키 관리 서비스를 통해 고객은 OCI 내에서 프로비저닝된 전용 단일 테넌트 하드웨어 보안 모듈(HSM)을 사용하여 암호화 키를 제어할 수 있다. 리처드 스미스 오라클 EMEA 지역 테크놀로지 사업부 총괄 부사장은 “데이터 보호 및 현지화의 중요성이 높아짐에 따라 EU의 기술 지형 역시 극적으로 변화했다”며 “이는 민감한 고객 데이터를 안전하게 호스팅하고, GDPR과 같은 규제를 준수할 수 있는 소버린 클라우드 솔루션에 대한 수요 증가로 이어졌다”고 설명했다. 그는 “우리의 목표는 고객이 클라우드 여정의 어느 단계에 있든 그들을 만족시키는 것”이라며 “이제 특정 국가의 법률을 적용 받는 고객은 물론, 규제가 엄격한 산업의 고객들도 모두 오라클 EU 소버린 클라우드를 통해 클라우드 전략에 박차를 가할 수 있게 됐다”고 밝혔다.

2023.06.22 09:04김우용

디사일로, LG전자서 전략적 투자 유치

프라이버시 강화 기술 스타트업 디사일로(대표 이승명)가 LG전자로부터 전략 투자를 유치했다고 22일 밝혔다. 디사일로는 이번 투자 유치를 계기로 B2B에서의 데이터 활용을 위한 기술개발에 협력할 계획이다. 디사일로는 네이버 D2SF 등으로부터 투자를 유치한 프라이버시 강화 기술(Privacy-Enhancing Technologies, PET) 스타트업이다. 미국 국립보건원(NIH)이 후원하는 국제 유전체 분석 대회 iDASH 2020에서 1위에 선정되고, 차분 프라이버시(Diffrential Privacy) 중심의 국가연구개발과제 사업자로 선정되는 등 PET 기술 전반에 걸쳐 뛰어난 역량을 보유하고 있다. 특히 디사일로는 암호화한 상태에서 데이터 연산이 가능한 동형암호 기술을 금융, 의료, 광고, 제조 등 다양한 산업에서 상용화하고 있다. 디사일로가 개발한 동형암호 기반 데이터 공유 협업 솔루션 '디사일로 데이터 클린룸'은 사용자 간에 원본 데이터를 노출시키지 않고 데이터 공유, 결합, 분석이 가능한 플랫폼이다. 이승명 디사일로 대표는 "프라이버시 강화 기술은 데이터 보호와 활용 간의 충돌 문제를 해결해줄 수 있다"며 "그동안 금융, 의료 등의 분야에서 PET 기술을 상용화해 온 경험을 살려, 다양한 산업군에서의 데이터 프라이버시 문제를 해결하는데 최선을 다하겠다"고 밝혔다.

2023.06.22 08:56백봉삼

EU, 메타에 1조7천억원 벌금…"개인정보 무단 전송"

페이스북을 운영하는 메타가 유럽연합(EU)에서 12억 유로(약 1조7천억원) 벌금 폭탄을 맞았다. 메타 유럽 본사가 자리잡고 있는 아일랜드의 데이터보호위원회(DPB)는 22일(현지시간) EU 이용자 정보를 미국으로 무단 전송한 부분을 문제 삼아 12억 유로 벌금을 부과했다고 월스트리트저널을 비롯한 주요 외신들이 보도했다. 메타에 부과된 벌금은 일반개인정보보호법(GDPR) 위반 관련 벌금으로는 사상 최대 규모다. 종전 최고 기록은 2021년 아마존에 부과된 8억8천700만 달러였다. 당시 아마존은 고객 정보를 무단 도용해 타깃 광고를 한 혐의로 벌금을 부과받았다. EU 규제 당국은 이날 페이스북이 수 년 동안 유럽 이용자 정보를 미국에 있는 자신들의 서버에 불법적으로 전송했다고 지적했다. 이렇게 전송된 정보는 미국 정보 기관들에게 노출될 우려가 있다는 것이 EU 측 주장이다. EU는 이날 메타에 벌금을 부과하면서 유럽 이용자 정보를 미국으로 전송하는 행위를 즉시 중단하라고 명령했다. 또 이미 미국으로 전송한 유럽 이용자 정보는 6개월 내에 삭제하도록 했다. 이번 조치에 대해 메타는 즉시 항소하는 한편 EU 당국이 부과한 전송금지 조치의 집행을 유예해줄 것을 요청할 계획이라고 밝혔다. ■ 미국-EU, 개인정보 전송 놓고 몇년째 공방 메타가 EU에서 거액의 벌금을 부과받게 된 이유를 알기 위해선 양측의 개인정보 이용관행을 살펴볼 필요가 있다. 그 동안 미국과 EU 기업들은 '세이프 하버' 협약에 따라 개인 이용자들의 정보를 자유롭게 전송했다. '세이프하버'는 페이스북 같은 서비스들이 유럽 이용자 정보를 자사 서버에 자유롭게 전송하는 데 든든한 방패막이 역할을 했다. 하지만 유럽사법재판소(ECJ)가 2015년 '세이프 하버'를 무력화하면서 상황이 복잡해졌다. 그러자 미국과 EU는 2016년 '프라이버시 쉴드'란 새로운 조약을 체결했다. '세이프 하버'에 비해 기업들의 개인정보 보호 의무를 강화한 것이 특징이다. 미국 정부가 국가 안보를 이유로 유럽인의 개인정보에 접근하는 것도 일정 부분 제한했다. 또 개인정보 침해 구제 수단으로 독립적 지위를 갖는 옴부즈만 제도를 도입했다. 하지만 유럽사법재판소(ECJ)가 2020년 7월 '프라이버시 쉴드'에 대해서도 무효 판결을 하면서 양측 데이터간 데이터 전송 경로가 크게 좁아졌다. 당시 ECJ는 “(양쪽 합의는) 미국의 국가 안보, 공공이익 등을 우선시하고 있어, 제3국으로 정보가 이전되는 개인의 기본권을 침해하는 것을 묵인할 우려가 있다”면서 “프라이버시 쉴드는 이런 부분에서 EU법률이 요구하는 기준에 미치지 못한다”고 판결했다. 특히 ECJ는 미국 내에 EU 거주자들의 개인정보를 저장할 경우엔 효과적으로 문제 제기할 방법이 없다고 지적했다. 이에 따라 미국과 EU는 새롭게 협상을 진행한 끝에 지난 해 3월 ECJ가 지적한 문제들을 보완한 새로운 프레임워크를 마련했다. 새 협약이 '프라이버시 쉴드 2.0'으로 불리는 것은 그 때문이다. '프라이버시 쉴드 2.0'으로 통하는 미국과 EU간의 새 협약에선 개인정보 침해 관련 문제를 다룰 독립기관인 '데이터 보호 검토법원(DPRC)'을 마련하는 등 다양한 보호 조치를 마련했다. ■ '프라이버시 쉴드 2.0'가 메타를 구원해줄 수 있을까 EU 명령대로 유럽 이용자 정보를 미국으로 전송하지 못할 경우 페이스북을 비롯한 서비스는 상당한 타격을 받게 된다. 그렇다고 EU의 이용자 정보 전송 금지 조치를 무턱대고 무시할 수도 없다. 따라서 메타는 법원에 항소하는 한편 판결이 나올 때까지 전송금지 조치의 집행을 유예해달라는 요청을 할 것으로 예상된다. 그럴 경우 양측은 지리한 법정 공방을 벌이게 된다. 하지만 메타가 위기에서 빠져나올 수 있는 다른 방법도 있다. 미국과 EU가 협의한 '프라이버시 쉴드 2.0'이 발효될 경우엔 데이터를 전송할 수 있는 길이 다시 열리게 된다. 미국은 '프라이버시 쉴드 2.0'에 대해 비교적 긍정적인 편이다. 하지만 EU 쪽에선 여전히 이 협약이 무산될 가능성도 적지 않은 상황이다. 메타가 이번 명령이 나오자마자 '항소 의사'를 밝힌 것도 이런 상황까지 고려에 둔 것으로 풀이된다.

2023.05.22 21:55김익현

구글, 안드로이드용 새 광고 도구 테스트 시작

구글이 안드로이드 운영체제(OS)에서 사용되는 새로운 광고 도구 테스트를 시작했다. 사용자 개인정보와 사생활 보호를 강화했다. 14일(현지시간) 미국 지디넷에 따르면, 구글은 안드로이드의 '프라이버시 샌드박스' 베타 버전을 출시했다. 안드로이드의 프라이버시 샌드박스는 휴대폰 사용자에게 더 많은 프라이버시를 제공하는 새로운 광고 스택이다. 작년 애플은 iOS 등 모바일 기기에서 애플리케이션과 서비스의 표적 광고를 제한했다. 이에 페이스북을 운영하는 메타가 광고 수익 급감이란 직격탄을 맞기도 했다. 구글도 이용자 동의 없는 맞춤형 광고를 제한하라는 압박을 받았고, 안드로이드 내 앱 추적을 금지하는 등 관련 광고 사업을 점진적으로 조정해왔다. 새로운 샌드박스는 타사 광고 서비스와 협력하는 앱 개발자뿐 아니라 광고주에게 새 광고 솔루션을 테스트하는 방법을 제공한다. 프라이버시 샌드박스의 새로운 API는 식별자 기반의 앱 및 웹사이트 활동 추적을 하지 않는다. 베타에 참여하는 앱은 잼재적으로 관련있는 광고를 사용자에게 표출하고 그 효과를 측정할 수 있다. 앤서니 차베스 구글 프라이버시샌드박스 부사장은 "앱 간 추적에 대한 의존에서 벗어나 사용자 프라이버시를 강화하기 위해 진화한 디지털 광고가 모바일 생태계의 미래에 필수적"이라며 "프라이버시 샌드박스의 목표는 비즈니스에 온라인에서 성공할 수 있는 도구를 제공하면서 사용자 프라이버시를 강화하는 것"이라고 밝혔다. 그는 이어 애플의 광고 제한 기능인 '앱 추적 투명성(ATT)'를 비판하는 코멘트도 적었다. 그는 "실행 가능한 대안을 제공하지 않는 무뚝뚝한 접근 방식은 앱 개발자에게 해를 끼치고, 사용자 프라이버시 보호에도 효과가 없다"고 강조했다. 이와 함게 애플 ATT 기능의 효과를 조사하는 연구의 하이퍼링크를 덧붙였다.

2023.02.15 10:17김우용

네이버, 개인정보보호 최신 연구 결과 담은 백서 발간

네이버(대표 최수연)가 2022년 한 해 동안의 프라이버시 전문 연구 결과를 담은 '네이버 프라이버시 백서'와 네이버의 개인정보 보호 활동을 정리한 '네이버 개인정보보호 리포트'를 31일 발간했다. 네이버는 2015년부터 매년 개인정보보호, 프라이버시를 주제로 학계와 연구계의 전문 연구결과를 담은 프라이버시 백서를 발간해오고 있다. 이번에 공개한 2022 네이버 프라이버시 백서에는 ▲개인정보 적법 처리 요건에 대한 비교 연구(김현경 서울과학기술대학교 교수) ▲인공지능에서의 개인정보 보호 고려사항(김도엽 법무법인(유한) 태평양 변호사)에 대한 연구 결과를 담았다. 네이버는 이번 프라이버시 백서에서 다룬 연구 내용을 주제로 2월10일 웨비나를 개최한다. 웨비나에서는 정보 주체를 안전하게 보호하면서도 데이터 기반의 디지털 대전환을 이루기 위한 합리적인 개인정보보호 제도에 대한 논의가 이뤄질 예정이다. 2022 프라이버시 백서와 함께 공개된 '2022 네이버 개인정보보호 리포트'에는 네이버가 한 해 동안 수행한 주요 개인정보·프라이버시 보호 활동이 공개돼 있다. 네이버는 지난 2012년부터 국내 개인정보 관련 주요 이슈와 이에 대응한 네이버의 노력과 활동을 매년 개인정보보호 리포트를 통해 공개해왔다. 이번 개인정보보호 리포트에서는 갈수록 확대·강화되고 있는 아동·청소년 개인정보보호 및 자율규제에 대한 동향, 그리고 IT기업들의 글로벌 진출 노력과 연관된 개인정보보호 활동, 마지막으로 테크 컨버전스 빌딩인 '1784'에서 이뤄지는 최고 수준의 개인정보보호 활동 등이 담겨 있다. 이진규 네이버 개인정보보호책임자는 “프라이버시 백서와 개인정보보호 리포트를 통해 개인정보·프라이버시 분야에서의 의미 있는 연구결과, 한 해 동안 있었던 개인정보·프라이버시 분야 이슈 및 이를 위한 네이버의 활동들을 기록으로 남기고 보존했다는 점에서 의미가 있다”며 “개인정보보호 분야를 선도하는 인터넷 플랫폼 기업으로서 가치 있는 자료를 생산하고 공유하는 활동을 지속해 나가겠다”고 말했다.

2023.01.31 15:28백봉삼

Prev 1 Next