검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'데이터 보호'통합검색 결과 입니다. (48건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

지란지교데이터, '글로벌 IP 스타기업' 선정…데이터 보호 기술로 해외 공략 박차

지란지교데이터가 데이터 보호 기술을 앞세워 글로벌 진출에 박차를 가한다. 지란지교데이터는 지난달 29일 대전 '글로벌 IP 스타기업'으로 선정됐다고 8일 밝혔다. 글로벌 IP 스타기업은 지역별 수출 유망 중소기업을 선정해 3년간 지식재산권 종합 지원을 실시하고 글로벌 IP 스타기업으로 육성하는 IP 기반 해외 진출 지원 사업이다. 선정된 기업에는 지역 지식재산센터의 IP 전문가를 통한 컨설팅 및 최대 3년간 특허·브랜드·디자인 종합 지원이 제공된다. 글로벌 IP 스타기업에 선정되면 해외 권리화 비용 지원, 해외 진출 특허 전략, 디자인·브랜드 개발, 특허 기술 영상 제작 등 예산 범위 내에서 종합 지원이 이뤄진다. 매년 연차 평가를 통해 지속 지원 여부를 결정하며 최대 3년까지 글로벌 진출을 위한 지원을 받을 수 있다. 지란지교데이터는 2010년부터 약 27건의 특허를 등록하는 등 데이터 보호 기술 개발을 지속하고 있다. 서버 개인정보 진단, 이미지 개인정보 보호, 오디오·동영상 내 보안 정보 보호 등과 관련된 특허 기술을 보유하고 있다. 또 ▲선택적 비식별 개인정보 활용 방법 및 장치 ▲개인정보 보호를 위한 가상 인물을 이용한 재현데이터 생성 방법 및 운영 시스템 등 개인정보 비식별 처리 관련 기술도 특허로 등록했다. 지란지교데이터는 합성데이터 생성 기술을 통해 2022년 우수 정보보호 기술, 지난해 첨단기술 기업으로 지정된 바 있다. 지란지교데이터는 글로벌 IP 스타기업에 선정됨에 따라 글로벌 진출에 더욱 박차를 가할 계획이다. 지란지교데이터는 '재팬 투 글로벌' 전략에 따라 일본 시장을 중심으로 동남아 등 글로벌 시장 진출을 추진한다. 글로벌 IP 스타기업 육성 사업을 통해 글로벌 데이터 보호 기술 경쟁력도 확보할 방침이다. 유병완 지란지교데이터 대표는 "글로벌 IP 스타기업에 선정됨에 따라 글로벌 진출에 더욱 박차를 가하겠다"며 "지란지교데이터는 지란지교 그룹의 재팬 투 글로벌 전략과 시너지를 창출해 일본뿐만 아니라 글로벌 시장에서도 데이터 보호를 위한 첫 번째 대안이 되겠다"고 강조했다.

2025.05.08 10:03한정호

피규어·지브리 프사 만들기?…"챗GPT 개인정보 유출 위험"

인공지능(AI) 챗봇 '챗GPT'로 유행 따라 사진을 피규어나 일본 지브리스튜디오 애니메이션처럼 만들다가는 개인정보를 털릴 수 있다고 미국 잡지 와이어드는 1일(현지시간) 보도했다. 운영사 오픈AI는 새로운 GPT-4o 기반 이미지 생성기로 챗GPT의 사진 편집, 텍스트 렌더링 기능을 키웠다고 와이어드는 평가했다. 챗GPT 무료 계정과 사진만 있으면 재미있고 쉽게 이미지를 만들 수 있다. 그러나 피규어나 지브리 같은 그림을 만들려면 오픈AI에 많은 정보를 넘겨야 한다고 와이어드는 지적했다. 오픈AI는 이 정보로 인공지능을 학습시킬 수 있다. 유럽 OPIT(Open Institute of Technology)의 톰 바즈다 사이버보안학과장는 “챗GPT에 사진을 올릴 때마다 메타데이터 덩어리를 넘겨주는 셈”이라며 “사진 촬영 시간, 촬영 장소의 (GPS) 좌표 등 그림 파일에 첨부된 정보가 포함된다”고 말했다. 메타데이터(Metadata)란 다른 정보를 나타내는 정보를 뜻한다. 오픈AI는 챗GPT에 접속하는 기기 정보도 모으는 것으로 알려졌다. 기기 유형, 운영 체제, 브라우저 버전, 고유 식별자 등이다. 바즈다 학과장은 “챗GPT는 대화하듯 작동하기에 입력한 내용, 요청한 그림 종류, 인터페이스와의 상호 작용 방식, 동작 빈도와 같은 행동 정보도 수집한다”며 “생성형 AI를 훈련하는 금광”이라고 표현했다. 얼굴만 그런 게 아니다. 위험 관리 회사 GRC인터내셔널그룹의 캠든 울븐 AI제품 마케팅 책임자는 “고해상도 사진을 올리면 피사체뿐 아니라 배경, 다른 사람, 방 안의 물건, 문서처럼 읽을 수 있는 모든 것을 오픈AI에 주는 격”이라고 설명했다. 오픈AI는 생성형 AI를 학습시키려고 개인정보를 적극적으로 수집하지 않으며 인터넷 공개 정보로 사용자 프로필을 구축하고 광고하거나 정보를 팔지 않는다고 와이어드에 밝혔다. 그러나 오픈AI의 개인정보 보호 정책에 따라 챗GPT로 올라온 이미지는 보관되고, 생성형 AI를 개선하는 데 쓰일 수 있다고 와이어드는 비판했다. 챗GPT에서 정보를 지킬 가장 효과적인 방법은 채팅 기록을 끄는 일이라고 와이어드는 소개했다. 파일에서 메타데이터를 지우고 올려도 좋다. 사진 편집 도구를 쓰면 된다. 바즈다 학과장은 “사용자는 민감한 개인정보를 챗GPT에 쓰지 말고 정보를 알 수 있는 배경이 있는 사진이나 단체 사진은 올리지 말아야 한다”며 “이렇게 하면 내 정보가 챗GPT 훈련에 쓰이지 않도록 할 수 있다”고 조언했다.

2025.05.03 07:48유혜진

파수 "보안부터 생성형AI 활용까지 모두 돕겠다"

정보보호 기업 파수는 22일 서울 여의도 페어몬트앰배서더서울호텔에서 고객 초청 사업 설명회 '파수 디지털 인텔리전스 심포지움(FDI)'을 개최했다. 주제는 '생성형 인공지능(AI) 혁명: AI가 기업에 가져올 변화'다. 기업형 경량 대형 언어모델(sLLM), 데이터 관리·보호 방안, 공급망 관리, 사이버 물리 시스템(CPS) 보안 등을 다뤘다. 조규곤 파수 대표는 AI가 업무 환경을 어떻게 바꾸는지 설명하고, 조직에 sLLM을 성공적으로 구축하는 방안을 제시했다. 조 대표는 "sLLM을 제대로 구축하려면 AI를 위한 데이터 인프라를 강화하고 AI 거버넌스를 꾸려야 한다"며 "AI 시스템 인프라에 지나치게 투자할 필요없다"고 말했다. 그러면서 "더 발전된 모델이 날마다 새로 나온다"며 "유연하게 더 나은 신규 모델을 활용할 수 있도록 구축 단계부터 고려하는 게 좋다"고 조언했다. 윤경구 전무는 LLM 발전 현황을 짚었다. 논리적 사고의 리즈닝(Reasoning) 모델과 언어 모델 한계를 벗어나는 에이전틱 LLM이 AI 혁명을 이끌 것으로 내다봤다. 파수가 선보인 기업용 LLM '엘름(Ellm)'은 어떻게 생겼는지, 세부 모델은 무엇이 있는지, 고객은 어떻게 쓰고 있는지 등을 소개했다. '악성메일 훈련·교육, 취약점 진단과 태세 관리' 발표에서는 보안에 효과적으로 투자하는 '보안 101'이 눈길을 끌었다. 보안 투자를 늘렸는데도 보안 사고가 터지는 이유로 임직원 보안 훈련이 부족하고 취약점, 태세 관리가 미비한 점이 꼽혔다. 데이터가 암호화되지 않으면 피해가 급증한다는 지적이다. 기초·필수 과정을 뜻하는 101을 차용한 보안 101로 훈련, 암호화·백업, 취약점 분석, 태세 관리에 집중해 투자 효율성을 높일 수 있다고 파수는 강조했다. 파수가 제안한 보안 101 첫 단계는 임직원이 반복적으로 악성 메일에 대해 훈련하고, 최신 자료 중심으로 백업, 확대 적용된 암호화로 사이버 위협 대응 능력을 높이는 일이다. 컴플라이언스 대응에만 초점을 맞춘 취약점 진단이 아닌 정보기술(IT) 인프라, 공급망 애플리케이션, 운영기술(OT)·사이버 물리 시스템(CPS)으로 대상을 넓혀 보안 사각지대를 최소화한다. 데이터(DSPM)를 비롯, 애플리케이션(ASPM)과 OT 시스템(OSPM) 등을 관리해 자산 식별 및 분류, 실시간 탐지 및 대응, 지속적인 점검으로 보안을 강화할 수 있다. 파수는 이번에 소개한 구축형 sLLM Ellm 업데이트, 생성형 AI를 활용하기 위한 솔루션, 분야별 태세관리 서비스 등을 올해 내놓기로 했다. 파수는 국내 기업과 기관 정보최고책임자(CIO)와 정보보호최고책임자(CISO) 350명이 이날 행사에 함께 했다고 전했다.

2025.04.23 10:23유혜진

[기고] 대한민국이 AI 강국으로 가는 길, 데이터 활용의 딜레마를 넘어

개인정보보호위원회가 주관해 상정하고 지난 2월 국가인공지능위원회가 심의해 채택한 '인공지능(AI) 데이터 확충 및 개방 확대방안'은 AI 시대를 맞아 우리나라가 경쟁력을 갖추기 위한 본격적인 첫걸음이라고 할 수 있다. 국가인공지능위원회는 이 방안을 채택하면서 AI 기반의 디지털 전환이 가속화되는 시대에 대응하고 AI 경쟁력을 높이기 위한 양질의 데이터를 보다 많이 확보하며 이를 적극적으로 활용할 수 있는 정책 마련을 목표로 삼았다. 이 의안에서 무엇보다 주목할 점은 AI 정책의 최상위 거버넌스 기구인 국가인공지능위원회가 AI 발전을 위해 데이터 접근이 필수적이라는 점을 공식적으로 인정했다는 것이다. 이는 데이터 활용을 둘러싼 사회적 인식과 정책 방향에 중요한 전환점이 될 수 있다. 다만 보다 중요한 과제는 이 방안의 취지를 뒷받침할 수 있는 구체적이고 실행력 있는 후속 정책을 신속히 마련한 후 실제 집행으로 이어가는 일이다. 이 과정에서 AI 모델이 실제로 어떻게 설계되고 학습되는지를 이해하는 것이 필수적이다. 산업 현장과 기술의 현실을 충분히 고려하지 않은 채 이론에만 머무는 논의는 오히려 과도한 규제나 비현실적인 기준으로 이어져 혁신을 저해할 위험이 있다. 이번 의안은 AI가 학습에 필요한 데이터를 활용할 때 정보주체의 '동의'만을 유일한 법적 근거로 삼지 않겠다는 취지를 담고 있다. 이는 동의를 받기 어려운 현실적인 제약과 형식적인 동의가 오히려 개인정보 보호를 약화시킬 수 있다는 문제의식에서 출발한 것이다. 동의 외에도 정당한 이익, 공익 목적, 가명정보 활용 등 다양한 법적 근거를 합리적으로 마련하면 데이터 활용의 유연성을 높이고 AI 혁신의 기반도 한층 더 강화할 수 있다. 결국 어떤 대안을 채택하고 그 기준을 어떻게 설계하느냐에 따라 한국 사회가 나아갈 AI 시대의 방향은 크게 달라질 것이다. '계약의 필요성(제15조 제1항 제4호)'과 '정당한 이익(같은 항 제6호)'은 개인정보보호법상 동의에만 의존하기 어려운 현실을 보완할 수 있는 중요한 법적 근거다. 지난해 12월 개인정보보호위원회가 공개한 개인정보 처리 통합 안내서에서도 이 두 근거의 적용 범위를 넓히려는 방향성을 확인할 수 있다. 이 방향성은 데이터 활용의 현실성과 기술 발전의 속도를 함께 고려하려는 시도의 일환이라고 볼 수 있다. AI 학습에는 필연적으로 대규모 데이터의 활용이 요구되며 이를 뒷받침하려면 기술적 맥락과 사회적 현실을 반영한 유연한 법적 근거가 필요하다. 그런 점에서 '계약의 필요성'과 '정당한 이익'의 적극적인 해석과 적용은 앞으로의 AI 정책과 데이터 활용 논의에서 핵심적인 역할을 하게 될 것이다. AI 모델의 발전은 이제 단순한 IT 기술의 문제가 아니라 국가 경제 전반의 경쟁력과 대한민국 사회 전체의 이익과 직결된 과제가 됐다. 기업들은 경쟁력 있는 AI 기술을 학습하고 고도화하는 일을 생존 전략의 일부로 받아들이고 있으며 일반 국민 역시 AI 기술을 통해 보다 나은 서비스를 누릴 기회를 기대하고 있다. 한국 사회의 현실을 제대로 반영하는 AI 기술을 개발하기 위해서는 국내 이용자에 기반한 데이터가 필수적이다. 우리의 언어, 지리, 문화적 맥락을 반영하지 못하는 기술은 결과적으로 편향되거나 차별적인 판단을 내릴 수밖에 없다. 이러한 문제는 AI가 우리의 일상 속으로 깊이 들어오고 있는 지금 중대한 사회적 문제로 부상하고 있다. 결국 해답은 데이터 접근성의 획기적 확대에 있다. 이미 세계 각국은 데이터 주도권 확보를 위한 경쟁에 돌입했다. 유럽 개인정보보호이사회(EDPB)는 AI 학습을 위한 적법 근거로 '정당한 이익'을 명시했고 일본은 개인정보보호법 개정을 통해 일정한 요건 하에서는 동의 없이도 AI 학습 데이터 활용을 허용하는 방안을 추진 중이다. 이제 우리도 더 이상 논의를 미룰 수 없다. AI 시대에 걸맞은 구체적이고 실행 가능한 법적 기준을 마련해야 할 때다. 데이터 활용과 개인정보 보호는 대립하는 개념이 아니라 조화를 이뤄야 할 정책 목표다. 이를 위한 정교한 설계가 절실하다. 이 중요한 전환점에서 가장 필요한 것은 현장의 현실을 반영한 제도다. 기술을 직접 개발하고 데이터를 다루는 이들의 목소리를 반영하지 못한 규제는 결국 우리 스스로의 경쟁력을 제약하는 결과를 낳게 된다. AI 강국을 향한 우리의 여정이 규제의 그늘 속에 가로막힐 수 있다는 지적에 귀를 기울어야 할 것이다.

2025.04.14 17:17조경식

ISMS-P 인증 뭐기에…의무도 아닌데, 하겠단 금융사

금융 정보보호 및 개인정보보호 관리 체계(ISMS-P·Personal Information & Information Security Management system) 인증을 받으려는 금융사가 해마다 늘고 있다. 의무도 아닌데 스스로 까다로운 심사를 통과하겠다고 나선다. 금융 ISMS-P는 금융권에 맞춘 ISMS-P 인증이다. 전자금융거래법, 신용정보법 등 금융 정보보호 및 개인(신용)정보 보호 관련 법령을 반영한다. 금융권은 다른 산업보다 민감한 개인(신용)정보와 금융 정보를 많이 다루기 때문에 침해 사고나 개인정보 유출 사고가 터지면 충격이 상당하다. 보다 높은 수준의 보안과 규제가 요구되는 이유다. 8일 금융보안원에 따르면 금융 ISMS-P 인증은 2015년 27건으로 시작해 지난해 128건으로 5배 성장했다. 금융보안원이 금융권에 알맞은 ISMS-P를 인증한다. 나머지 산업이나 전반적인 인증 품질은 한국인터넷진흥원(KISA)이 관리한다. 오중효 금융보안원 상무는 지난달 27일 서울 여의도 금융투자협회에서 열린 'ISMS-P 인증 설명회'에서 “인공지능이나 가상자산 환경이 바뀌면서 인증 수요가 더 늘 것”이라고 말했다. 의무 아니지만 “이만큼 잘해요” 금융회사는 법적으로 ISMS-P 인증 의무가 아닌데도 은행·증권·카드·보험사 뿐만 아니라 핀테크 기업도 자발적으로 인증 받으려는 사례가 늘고 있다고 금융보안원은 전했다. 최지훈 금융보안원 선임심사원은 지난달 설명회에서 “금융권은 ISMS-P 인증이 의무가 아니다”라면서도 “디지털 금융과 자율 보안이 확산돼 인식 수준이 높아졌다”고 분석했다. 핀테크∙오픈뱅킹, 마이데이터, 간편결제 등 디지털 금융이 자리잡으며 보안을 강화할 필요가 있어서다. 이런 환경에서 '우리 회사가 이만큼 금융 보안에 신경쓴다'고 소비자에게 증명할 수 있다. 금융회사가 자율적인 보안 활동을 하되 결과에 대한 책임은 무거워진 점도 내부 보안 관리 체계를 높이는 이유로 꼽힌다. 금융권 형님답게 은행이 선도 금융보안원은 은행이 금융권 디지털 전환을 이끌면서 ISMS-P 인증도 선도하고 있다고 평가했다. 주요 시중은행은 인터넷뱅킹 말고도 마이데이터, 금고 시스템, 전자 서명 인증 등 주요 서비스에 맞는 인증서 2~4개를 취득∙유지하는 것으로 알려졌다. 최근에는 다른 업권보다 디지털 전환이 조금 늦은 면이 있는 생명보험사도 인증을 취득하고 있다며 금융투자, 카드∙캐피털사가 인증 받는 사례도 늘어나는 추세라고 금융보안원은 설명했다. 실제로 기자가 지난달 27일 금융투자협회에서 열린 설명회에 갔더니 대부분 금융투자회사 담당자들이 참석한 모양새였다. 수집-이용-파기 단계별 정보 보호 금융보안원은 특히 전자금융감독규정과 신용정보업감독규정 등 금융권에 특화한 심사 항목으로 금융 보안 규제 준수 여부를 심사한다. 금융사가 세운 (개인)정보 보호 정책과 지침, 절차 등을 체계적으로 시행하는지 따진다. 개인(신용)정보를 수집-보유∙이용-제공-파기하는 단계별로 보호 조치를 적절하게 하는지, 수탁사 같은 외부 위탁 관리 실효성은 있는지도 확인한다. 최 심사원은 “지난해 128건 심사하면서 기업당 결함을 평균 9개씩 발견했다”며 “기업은 결함 개수에 연연하지 말고, 이 결함이 나온 원인과 재발 방지 대책을 신경써야 한다”고 강조했다. 개발자와 운영자, 개인정보 취급자 직무별로 시스템에 접속하는 방식이 다르면서도 시스템 흐름도를 보면 이런 사실을 알 수 없는 경우가 지적받았다. 정보보호 운영 인력이 정보보호 예외 정책을 스스로 승인해도 잘못이다. 개인정보 열람 요구서와 위임장 등에 주민등록번호를 요구해서도 안 된다. '내 정보 잘 지키나' 소비자 선택 기준 금융소비자 입장에서는 (개인)정보 보호 관리 체계를 제대로 갖췄는지 금융사 선택 기준으로 ISMS-P를 삼을 수 있다. 보안 사고를 예방하고, 사고가 나더라도 빠르게 복구하는 금융사를 이용하면 피해가 최소화될 것으로 금융보안원은 기대했다.

2025.04.08 15:09유혜진

콘텐츠 기반 협업과 보안을 한번에 해결한다

기업형 클라우드 스토리지 서비스 '다이렉트클라우드'가 내외부에서 콘텐츠 기반 협업과 보안을 동시에 제공하는 서비스로 각광 받고 있다. 다이렉트클라우드랩(대표 안정선)의 '다이렉트클라우드'는 안전한 파일 공유뿐만 아니라 거버넌스를 활용해 데이터 중앙 집중 관리, AI를 활용한 데이터 활용을 지원한다. 최근 디지털 전환(DX) 추진으로 데이터 관리 부담을 줄이고 데이터 활용을 가속화하는 움직임이 활발하다. 다이렉트클라우드는 데이터를 안전하게 보호하면서 협업을 돕는 서비스로 자리잡았다. 다이렉트클라우드는 내외부 사람과 협업할 때 링크 공유와 게스트 초대 기능을 지원한다. 워크플로우 기능으로 파일 발송시 상사의 승인을 받게해 오발송을 방지한다. 중요 데이터 유출 위험을 줄이는 조치다. 다이렉트클라우드는 세부 권한 설정이 가능해 내부 대외비 파일에 대해 이해 관계자 간에 안전한 협업이 가능하다. 다이렉트클라우드는 사용자 수 무제한 요금제를 제공한다. 외부와 협업이 많은 기업은 관계자나 직원이나 협력사가 늘어나도 요금 부담 없이 서비스를 사용할 수 있다. 그동안 부서별로 따로 사용했던 스토리지를 통합하면서 데이터 관리에 가시성도 확보했다. 예를 들어, 출판사 등은 책 출간을 위해서 주로 PDF 파일이나 10GB가 넘는 대용량 파일을 쓴다. 다이렉트클라우드에서 대용량 파일도 무리없이 편리하고 안전하게 공유가 가능했다. 다이렉트클라우드는 랜섬웨어 및 데이터유출방지(DLP), IP제한, 디바이스 제한, 패스워드 정책설정, 2채널 인증 등 다양한 보안 기능과 대용량 파일 전송, 실시간 편집, 미리보기 및 코멘트 등 협업툴 기능을 함께 제공한다. 인공지능 전환(AX) 시대를 맞이해 클라우드스토리지와 연계한 챗GPT 서비스 '다이렉트클라우드 AI'를 출시했다. 다이렉트클라우드는 문서 중앙화 솔루션과 달리 속도 저하가 없고 PC성능 요구나 초기 투자비가 많이 들지 않는다. 다이렉트클라우드는 고성능 클라우드 인프라를 통해 속도 저하 문제를 최소화했다. 클라우드 기반으로 운영돼 PC 성능 저하 없이 안정적으로 문서 관리와 협업이 가능하다. 또한, 사용자 수 무제한 요금제를 제공하여 초기 투자 비용을 절감했다. 다이렉트클라우드랩은 현재 국내외 2500개 이상 기업과 120만 명의 사용자를 보유했다고 밝혔다. 하루 평균 360만 개(6TB 상당)의 파일이 업로드 되며, 하루에 1000만 건의 액세스가 가능하다. 다이렉트클라우드랩은 2024년 12월에 GS인증 1등급을 획득했다. 안정선 다이렉트클라우드랩 대표는 “다이렉트클라우드는 출판업과 방송업 등 콘텐츠 기반 협업을 하면서 강력한 보안을 원하는 고객사가 증가하고 있다”면서 “우수한 보안과 높은 편의성, 합리적인 요금제로 시장을 확대하고 있다”고 말했다.

2025.02.24 14:29김인순

사이버아크, MS '디팬더 포 아이덴티티' 통합

이스라엘 정보보호 기업 사이버아크소프트웨어는 19일 사이버아크 '특권 접근 관리자(PAM)'와 마이크로소프트(MS) '디팬더 포 아이덴티티(Microsoft Defender for Identity)'를 통합한다고 밝혔다. 사이버아크 PAM은 여러 클라우드에서 응용 프로그램을 운영하는 자의 특별 권한을 탐색해 제어한다. MS 디팬더 포 아이덴티티는 기업이 자체적으로 관리하는 데이터센터를 클라우드로 지키는 제품이다. 사이버아크는 MS 제품과 통합해 보안운영(SecOps)팀이 보안 위협을 잘 알아낼 수 있다고 소개했다. 특별 권한을 통제하는 일이 간소화된다. 다양한 시스템의 정보를 연결해 보안운영센터(SOC)가 빠르게 공격 경로를 알아채고 복구 방법을 찾을 수 있다고 회사 측은 강조했다. 클라렌스 힌튼 사이버아크 최고전략책임자(CSO)는 “다양한 회사와 협력해 사이버 공격으로부터 고객을 지키겠다”고 말했다.

2025.02.19 11:12유혜진

[기고] 인공지능 시대, 무분별한 중복 규제 지양해야

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI) 규제의 근간이 될 수 있는 인공지능기본법(AI기본법)이 지난 1월 국회에서 정부로 이송돼 공포됨에 따라 내년부터 본격적인 시행을 앞두고 있다. 이같은 상황에서 프라이버시 분야에서의 AI 규제에 관한 법안도 새롭게 발의됐다. 지난달 31일자 개인정보 보호법 일부개정법률안이 바로 그것이다. 공개된 주요 내용에 따르면 개인정보보호위원회의 심의·의결을 거친 경우 적법하게 수집한 개인정보는 AI 개발을 위해 활용할 수 있게 된다. 이 과정에서 정보주체의 권리 침해가 발생하지 않도록 사전 및 사후적 조치도 마련됐다. 다시 말해 사전적으로 개인정보 처리방침을 통한 투명성 확보 조치를 이행하도록 하고 사후적으로는 개인정보보호위원회의 주기적인 관리 및 점검을 통해 개인정보의 안전성을 확보하겠다는 계획이다. 이는 개인정보보호위원회가 올해 6대 핵심 추진과제 중 하나로 세운 AI 시대 개인정보 규율체계 혁신 과제와 궤를 같이 한다. 이미 현행 개인정보 보호법 제15조 제4항은 당초 수집 목적과 합리적으로 관련된 범위 내에서는 안전성 확보 조치를 취하였는지 여부 등을 고려해 정보주체의 동의 없이도 개인정보를 추가적으로 이용할 수 있도록 규정해 두고 있다. 이에 따라 특정 서비스 제공 목적으로 수집한 개인정보를 AI 서비스 개발에 이용하는 행위는 현재도 충분히 가능하다고 판단된다. 개인정보보호위원회 역시 AI 시대 안전한 개인정보 활용 정책방향을 통해 위와 동일한 입장을 표명한 바 있다. 이번 개정안은 주로 기본 서비스 관련 개인정보를 관련이 없는 기타 서비스 개선이나 신규 서비스 개발을 위해 이용하는 경우에 대비한 것으로 이해된다. 다시 말해 다른 서비스나 신규 서비스의 경우 기존 서비스 개선에 비해 정보주체의 예측가능성이 떨어질 것이므로, 이를 위한 AI 개발에 대해서는 보다 엄격하게 개인정보보호위원회의 심의·의결을 요구하겠다는 취지다. 규제의 강도 측면에서 합리적인 규제라고 생각된다. 다만 세부적인 규제 내용은 추가적인 검토를 통해 완성해 나가야 할 것이다. 내년부터 시행 예정인 AI기본법은 이미 일부 AI에 대해 투명성 확보 의무 및 안전성 확보의무를 부과하고 있다. 이에 따라 개인정보 보호법 개정안을 통해 규율되는 투명성 확보 조치와 안전성 확보 조치 역시 단순한 중복 규제에 그치지 않도록 해야 한다. 이를 위해 제도 시행 전부터 부처 간 협력을 통해 각 규제의 유기적인 정착을 도모해야 한다. 향후에는 프라이버시 분야 외에 다른 부처에서도 다른 법안을 통해 AI에 관한 규제를 연이어 도입할 것으로 예상된다. AI와 같이 광범위한 분야에서 사용될 수 있는 기술에 대해 각 부처별로 관심을 갖고 규제를 도입하려는 시도 자체는 어찌 보면 당연한 것이다. 다만 앞서 본 것처럼 AI가 화두로 떠오른다고 해서 각 부처가 무분별하게 중복 규제를 하는 상황은 반드시 피해야 한다. 규제가 필수적이라 하더라도 사전에 별 다른 논의 없이 부처별 규제들이 우후죽순처럼 도입되기만 한다면 수범자 입장에서는 큰 혼란이 초래될 수밖에 없다. 일례로 광고성 정보 전송과 관련한 정보통신망법에 따른 규제와 개인정보 보호법에 따른 규제 역시 과도한 중복 규제로 여기는 여론이 많았다. 두 규제를 통합하려는 시도는 줄곧 있어 왔지만 아직까지 혼란은 이어져 오고 있다. 그 외에 지난 2020년 데이터3법을 통합하려는 시도에도 불구하고 복잡하게 얽힌 문제로 개인정보 보호법과 신용정보법 간의 통합은 무산되었다. 이같이 처음부터 규제가 여러 갈래로 흩어져 있는 상황에서는 중복 규제가 발생할 것이 우려된다. 다만 나중에 이를 다시 주어 담는 통합작업을 하는 것 역시 너무나 어려운 작업임은 그간의 선례에 비추어 볼 때 자명하다. 그렇다고 과도한 중복 규제를 그대로 두는 것은 사업자들에게 짐을 돌리는 것밖에 되지 않는다. 동시에 규제기관 간에 서로 눈치만 보며 상황을 애매하게 방치하는 것 역시 법치국가에서 허용해서는 안 된다. 어려운 시국 속에서도 AI기본법이 극적으로 국회에서 통과된 만큼 이 법안이 누더기 규제가 되지 않도록 제도 도입 초기부터 각 부처 간 원활한 협의를 통해 유기적인 규제 로드맵을 완성하기를 기대해 본다.

2025.02.14 15:41법무법인 태평양 이준호

[기고] 원본 데이터 AI 활용 특례, 신기술 혁신 속도와 수요 반영해야

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 개인정보보호위원회와 과학기술정보통신부는 지난해 4개 사업자들을 대상으로 자율주행 인공지능(AI) 시스템 고도화를 위한 영상정보 원본을 활용하는 실증특례를 지정했다. 조금 풀어서 설명하자면 자율주행 AI 학습에는 보행자의 얼굴, 위치, 차량번호 또는 개인정보가 포함된 주행영상 등 영상정보가 필요하다. 현행 개인정보 보호법상 AI 학습에 주행영상 등 영상정보를 활용하려면 정보주체의 동의를 받거나 해당 정보를 가명처리해야 한다. 당연히도 전자는 불가능하고 후자의 경우 보행자 인식률이 저하되는 등 정보의 가치가 떨어지게 된다. 이러한 상황을 타개할 수 있는 것이 규제샌드박스 실증특례 제도다. 이 제도는 사업자가 신기술을 활용한 새로운 서비스를 일정 조건 하에 시장에 우선 출시해서 시험, 검증하게끔 현행 규제 일부를 적용하지 않도록 허용해 준다. 사업자들은 이 실증특례 지정을 신청해서 허용받음으로써 강화된 안전조치 기준을 마련하고 개인정보보호위원회의 주기적 점검을 받도록 하는 등을 조건으로 가명처리하지 않은 영상데이터의 원본을 AI 학습에 활용할 수 있게 됐다. 매우 의미 있는 제도임에도 사업자들이 실증특례 제도를 적극적으로 이용하지 못하는 결정적인 이유가 있다. 규제에서 자유로워지는 것이 아니라 최대 4년의 기간 동안만 규제 적용을 유예 받을 뿐이기 때문이다. 유예 기간 내에 법령이 정비돼 관련 규제가 개선되지 않으면 해당 서비스는 다시 '임시허가'를 통해 시장에 출시해야 한다. 심지어는 유예 기간 중 처리해 왔던 방식에 따라 데이터를 처리하는 경우 법 위반으로 출시를 못하게 될 수도 있다. 개인정보보호위원회는 새해 주요 업무 추진계획 6대 핵심 추진과제 중 하나로 AI 시대에 부합하는 개인정보 법제를 정비하겠다고 공표한 바 있다. 그러면서 자율주행 AI 개발 등 가명처리만으로 연구 목적 달성이 곤란한 경우 원본 데이터 활용을 개인정보 심의, 의결 하에 허용하는 특례를 마련하겠다고 발표했다. 이는 현행 규제샌드박스 실증특례는 최대 4년 동안만 규제 적용을 유예해 준다는 한계를 극복하기 위한 조치로, 개인정보 보호법에 특례 규정을 신설해 AI 개발을 위한 원본 데이터 활용을 허용할 방침이다. 더불어 개인정보보호위원회의 심의·의결과 사후 점검 등의 조건을 둬 개인정보 보호도 함께 도모할 계획이다. AI 기반 기술과 시스템이 더욱 빠른 속도로 고도화돼 가고 있는 현 상황에서 AI 학습 목적의 원본 데이터 활용을 금지할 수 없다는 위원회의 결단으로 풀이돼 공감이 간다. 다만 추진계획에 따르면 이러한 내용이 담길 개인정보 보호법 개정안은 AI 개발 사업자의 '정당한 이익'이나 '공익' 등을 고려하도록 하고 있어 오히려 원본 데이터 활용이 예상외로 제약될 가능성이 있어 보인다. 추후 구체적인 개정안을 구체적으로 살펴봐야 하겠으나 신기술의 개발이 아닌 사회적 편익이나 공익을 고려해 특례를 허용할 경우 제도의 취지에도 불구하고 상당수의 AI 개발 사업은 이 특례 제도를 활용하기 어려워질 것이다. 위원회가 심결이나 사후 현장점검 등을 어떻게 운영할지도 특례 제도 활용에 있어서 매우 중요한 요소가 될 것으로 보인다. 우선 위원회가 업무 추진계획에서 밝힌 바와 같이 합리적이고 유연한 법 해석을 통해 신기술 변화와 현행 법 체계 간 간극을 완화하기 위해서는 위원회의 심결이 신속하게 이루어져야 할 것이다. 기존 규제샌드박스 실증특례는 유사 사례가 있는 경우 패스트트랙 제도를 통해 승인 기간을 평균 4~5개월에서 2개월로 단축해 운영하고 있는 상황이다. 심결 이후에도 위원회의 관리, 감독을 통해서도 사후 통제가 가능한 점을 감안할 때 심결은 가급적 간이하고 신속하게 이뤄질 필요가 있다. 위원회의 사후 관리, 감독도 지나치게 포괄적인 범위의 점검이나 자료제출 요구 등이 이뤄지지 않는지 검토가 필요하다. 심결이 간이하게 이뤄진다면 사후통제 기능이 어느 정도 작동해야 하겠으나 AI 개발 사업자 입장에서 사업 운영에 지장이 갈 정도로 관리, 감독 등이 이뤄진다면 사업자로서는 특례 제도를 고려할 실익이 없게 된다. 이 부분은 AI기본법의 제정 과정에서도 유사한 논란이 제기된 바 있다. 원본 데이터를 가명처리 없이 쓰도록 허용해 주는 특례 제도를 도입하더라도 어느 정도의 제한이 부여되어야 한다는 점은 충분히 공감한다. 다만 신기술 및 신산업 혁신 촉진을 도모하기 위해 도입되는 제도인 만큼 AI 개발 사업자들이 특례 제도를 활용할 '엄두'는 낼 수 있어야 한다. 사업자들의 애로와 현실을 충분히 반영한 합리적이고 유연한 법제도의 도입을 기대해 본다.

2025.02.03 10:17법무법인 태평양 상지영

카카오페이·애플, 동의 없이 4천만명 개인정보 해외로…과징금 '84억' 철퇴

정부가 카카오페이와 애플의 국외 이전 규정 위반 건에 과징금을 부과했다. 카카오페이는 전체 이용자 약 4천만 명의 개인정보를 이용자 동의 없이 애플에 제공했고, 애플 역시 알리페이를 통해 해당 정보를 처리하면서 이용자들에게 이를 알리지 않은 사실이 드러났기 때문이다. 개인정보보호위원회는 지난 22일 서울정부청사에서 제2회 전체회의를 열고 개인정보보호법상 국외 이전 규정을 위반한 카카오페이에 과징금 59억6천800만원, 애플에 과징금 24억500만원과 과태료 220만원을 부과하기로 결정했다고 23일 밝혔다. 개인정보위는 카카오페이가 전체 이용자 약 4천만 명의 개인정보를 이용자 본인 동의 없이 애플의 서비스 이용자 평가 목적으로 제공했다고 발표했다. 애플은 제3국 수탁자인 알리페이를 통해 개인정보를 국외로 이전·처리한 사실을 이용자에게 알리지 않은 것으로 드러났다. 그동안 카카오페이는 사용자가 애플에서 서비스를 구입할 때 결제 데이터를 알리페이에 전송했다. 애플은 알리페이가 받은 정보를 가지고 이용자의 NSF 점수(Non Sufficient Funds Score)를 산출하거나 결제를 진행했다. 이에 결제 정보는 카카오페이, 알리페이, 애플 순으로 전달된 것이다. 이 과정에서 이용자 동의 없이 개인정보가 국외 이전됐으며 이를 이용자가 인지하지 못한 사실이 밝혀졌다. NSF 점수는 애플 서비스 내 여러 소액결제를 한 건으로 묶어 일괄 청구할 때 자금부족 가능성을 판단하기 위한 고객별 점수다. 쉽게 말해 결제 금액이 부족할 가능성이 얼마나 높은지 알려주는 점수다. 애플은 이 정보로 사용자가 결제를 못 할 가능성이 있다고 판단되면 결제를 막거나 다른 조처를 취했다. 카카오페이, 4천만 명 개인정보 동의없이 국외 이전 카카오페이는 애플 내 결제시스템 통합 서비스를 제공하는 알리페이 중계를 통해 결제정보를 애플에 전송해 왔다. 애플은 NSF 점수 산출을 포함한 결제 처리에 있는 개인정보 처리 업무를 알리페이에 위탁했다. 카카오페이는 애플 수탁사인 알리페이가 NSF 점수 산출 모델 구축을 할 수 있도록 전체 카카오페이 이용자 개인정보를 2018년 4~7월간 총 3회에 걸쳐 동의 없이 알리페이에 전송한 것으로 드러났다. 구체적으로 2019년 6월 27일부터 20924년 5월 21일까지 매일 알리페이가 이용자별 NSF 점수를 산출할 수 있도록 카카오페이 전체 이용자 4천만 명 개인정보를 동의 없이 알리페이에 보냈다. 카카오페이는 애플 이용자뿐 아니라 애플 미이용자까지 포함한 전체 이용자 정보를 알리페이에게 전송했다. 카카오페이 전체 이용자 중 애플이 카카오페이를 결제 수단으로 등록한 이용자는 20% 미만에 불과하다. 개인정보위 전승재 조사3팀장은 이날 브리핑에서 "카카오페이가 애플의 NSF 모델 구축과 점수 산출을 위해 전체 이용자의 개인정보를 동의 없이 애플에 제공했다"며 "개인정보위는 해당 행위를 적법 처리 근거 없는 국외 이전으로 판단했다"고 설명했다. 이에 개인정보위는 카카오페이에 과징금 59억6천800만원을 부과하고 국외 이전 적법 요건을 갖추도록 시정명령했다. 또 홈페이지에 관련 사실 공표도 명령했다. 애플, 개인정보 국외 이전 사실 미공표 애플은 알리페이를 통해 NSF 점수를 계산하고 있다는 사실을 이용자들에게 알리지 않은 것으로 밝혀졌다. 이 과정에서 개인정보가 국외로 이전되고 있다는 사실도 공표하지 않았다. 알리페이는 매일 카카오페이로부터 전체 이용자 정보를 자동 전송받아 이용자별 NSF 점수를 산출했다. 이를 통해 이용자의 NSF 점수를 애플에 전송했다. 애플은 이 과정에서 개인정보를 국외로 처리·위탁하면서 국외 수탁자 등을 개인정보처리방침 등을 통해 정보 주체에게 공개하거나 고지 않은 것으로 밝혀졌다. 이에 개인정보위는 애플에게 과징금 24억500만원을, 위탁 사실을 밝히지 않은 행위에 대해 과태료 220만원을 부과했다. 개인정보 처리 수탁자 알리페이에 대한 국외 이전 사실을 개인정보처리방침 등에 공개하도록 시정명령했다. 또 애플 홈페이지에 관련 사실을 공표하도록 명령했다. 개인정보위는 알리페이에 NSF 점수 산출 모델을 파기하도록 시정명령했다. 전승재 팀장은 "알리페이가 구축한 카카오페이 이용자의 NSF 점수 산출 모델은 위법하게 제공·국외 이전된 개인정보를 활용해 구축된 것"이라며 "개인정보 침해 상태를 근본적으로 해소하기 위함"이라고 설명했다. 전 팀장은 "최근 글로벌 플랫폼 서비스 확대로 개인정보 국외 이전이 늘어난 상황에서 개인정보 국외 이전 범위를 명확히 하고 사업자가 국외 이전 적법 요건을 반드시 준수해야 함을 재확인한 점에서 의의가 있는 조치"라고 말했다. 이어 "사업자는 개인정보 국외 이전에 수반되는 서비스 제공 시 정보 주체의 동의를 별도로 받거나 국외 수탁자에게 개인정보 처리를 위탁할 경우 개인정보처리방침 등을 통해 개인정보가 국경을 넘어 이전되는 사실을 알려야 한다"고 강조했다. 또 그는 "개인정보 처리를 위부에 위탁할 경우 위탁자가 정보 주체에 대한 책임을 부과해야 한다"며 "위탁자 책임 영역을 떠나 제3자 책임 영역으로 개인정보를 이전하는 것은 제3자 제공에 해당하므로 정보 주체 동의 등 적법 근거를 구비해야 한다"고 덧붙였다.

2025.01.23 12:00김미정

정부, 국민 개인정보 결정권 강화…IP 카메라 설계 문턱 높여

정부가 개인정보 결정권을 강화하는 등 국민이 체감할 수 있는 정보보호 확산을 본격화한다. 개인정보보호위원회는 '안전한 개인정보, 신뢰받는 인공지능(AI) 시대'를 주제로 한 2025년 주요업무 추진계획을 통해 이같이 15일 발표했다. 개인정보위는 올 3월부터 마이데이터 선도서비스 5종을 단계적으로 출시한다. 마이데이터 시행으로 국민이 자신의 정보를 주체적으로 활용해 원하는 서비스에 활용하도록 지원할 방침이다. 이에 해당하는 서비스 분야는 크게 의료, 통신, 자율 분야다. 의료는 ▲맞춤형 만성질환 예방관리 ▲해외 체류 국민 국내 의료 기록 연동 ▲복약 관리·약물 처방 지원이다. 통신에는 최적 통신요금 추천 서비스가 출시된다. 자율 분야는 여행지·여행경비 최적 설계 제안 서비스다. 정부는 공공·금융 등 선행부문과 의료·통신 등 신규부문 간 데이터 융합 지원을 통한 시너지 창출 등 마이데이터 서비스 창출 여건도 조성한다. 개인정보위는 데이터 전송요구 이력 조회, 전송 철회 등 국민 개인정보 전송요구권 행사를 지원하는 '마이데이터 지원 플랫폼'도 오픈할 예정이다. 이를 통해 일반 사용자가 여러 부문에 흩어진 본인 정보를 확인하고 저장, 활용할 수 있는 본인 다운로드 기반을 마련한다. 정부는 안전한 데이터 활용을 위한 개인정보관리 전문기관 안내서도 발간할 예정이다. 다크패턴 등 부당한 전송 유도와 유인방지 가이드라인도 제시할 방침이다. 개인정보보호 컨트롤타워 역할 강화...정보 안전망 촘촘히 개인정보위는 개인정보보호 컨트롤타워 역할을 늘린다고 강조했다. 우선 개인정보 보호 취약 3대 부문인 ▲국민 생활 밀접 분야 ▲신기술·신산업 분야 ▲대규모 개인정보를 처리하는 공공 분야 등을 선제적으로 집중 점검할 방침이다. 정부는 올해 3월 디지털 증거 수집·분석을 통해 유출 원인 등을 파악하는 포렌식랩도 구축한다. 이달부터 조사 전 과정을 체계적으로 관리하는 조사정보시스템을 운영할 예정이다. 이를 통해 투명하고 신속한 사건 처리 등 조사 품질을 높일 방침이다. 개인정보위는 IP 카메라 등 일상에서 활용되는 IT 기기 대상으로 개인정보보호 중심 설계 시범인증 확대, 법정 인증화도 추진한다. 다중이용시설에 설치하는 IP카메라에 보안인증제품 사용을 의무화한다. 또 온라인 맞춤형 광고 제공 목적의 행태정보 안전관리 체계를 강화하고 AI와 홈 사물인터넷(IoT), 에듀테크, 방송, 통신 등 50여 개사 대상으로 개인정보 처리방침 심층 평가를 실시할 예정이다. 고학수 개인정보위 위원장은 "AI 환경 변화에 발맞춰 원칙 기반 개인정보 규율체계 완성도를 높여 나갈 것"이라며 "국민 불안을 해소하고 국내 AI 생태계 발전을 적극 지원하겠다"고 밝혔다.

2025.01.15 16:43김미정

오픈AI·메타도 쓰는 'AI 엔진' 합성데이터…"안전성 검증 필요"

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI)과 보안 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주] 생성형 인공지능(AI) 모델 개발에 필요한 데이터가 고갈된다는 전망이 이어진 가운데 '합성데이터'가 대안으로 떠오르고 있다. 개인 식별정보나 민감정보 노출 없이 이용할 수 있다는 이점이 있지만 완전히 안심할 수 없다는 목소리가 높아지고 있다. 합성데이터에도 개인정보나 원본 데이터가 포함됐다는 이유에서다. 최근 AI 모델 복잡성이 늘면서 훈련에 필요한 데이터양도 증가한 추세다. 그러나 업계는 개인정보보호법 등 규제 이슈로 인해 모든 데이터를 자유롭게 수집·이용할 수 없다. 데이터 생성 속도도 한정적이다. 합성데이터가 주목받는 이유다. 이미 오픈AI를 비롯한 구글, 메타 등 빅테크는 모델 훈련에 합성데이터를 활용하고 있다. 합성데이터는 원본 데이터 형식과 구조·분포 특성을 학습해 생성된 가상데이터다. 가상 데이터기 때문에 원본 데이터에 있는 개인 식별정보나 민감정보를 노출하지 않고 데이터를 자유롭게 공유, 활용할 수 있다는 이점이 있다. 문자 등으로 이뤄진 정형데이터뿐 아니라 이미지, 동영상 형태인 비정형데이터가 합성데이터로 제작될 수 있다. 기업은 AI와 소프트웨어(SW) 개발에 필요한 의료·금융 데이터 등 민감·특수 데이터를 합성데이터로 대체할 수 있다. 합성데이터를 만들어 고객사에 납품하는 개발사도 늘고 있다. 해당 개발사들은 고객사에 부족한 데이터 종류를 AI로 제작해 채운다. 이를 통해 고객사는 데이터 제작 시간과 비용을 기존보다 줄일 수 있다. 김현수 슈퍼브에이아이 대표는 "실제 데이터를 수집하기 어렵거나 극단적인 케이스가 포함된 데이터를 AI 합성으로 얻을 수 있다"며 "데이터 수집·라벨링 과정이 생략돼 데이터 취득비용을 줄이고 신속히 학습할 수 있다"고 강조했다. 김 대표는 합성데이터가 다양한 산업에서 작동하는 모델 기능을 올릴 것으로 예측했다. 그는 "특히 합성데이터는 국내외 제조 분야나 국방, 물리보안용 AI 모델에 유용할 수 있다"며 "취득하기 어려운 제조 결함이나 중대재해 사고, 화재, 드문 보안 이슈 데이터를 합성데이터로 채움으로써 모델 성능을 올리고 실제 위험에 대처할 수 있다"고 덧붙였다. 업스테이지는 향후 합성데이터 생산 노하우가 개발 전략으로 자리 잡을 것이라고 봤다. 업스테이지 관계자는 "합성데이터를 고품질 정형 데이터로 적절히 융합해야 한다"며 "기업들이 자신에 맞는 융합 방식을 찾으면 그만큼 비용효율적인 대체제가 없을 것"이라고 강조했다. 이어 "각 기업이 같은 합성데이터를 이용해도 회사 기술력에 따라 모델 성능은 다를 것"이라고 설명했다. 정부도 합성데이터에 관심…"검증 시스템 강화 필요" 정부도 최근 합성데이터 생성과 활용에 필요한 가이드라인을 제시했다. 개인정보보호위원회는 지난달 '합성데이터 생성·활용 안내서'를 내놨다. 기업, 기관이 개인정보보호법을 준수하면서 합성데이터를 생성하고 활용하는 방법과 절차를 제공하기 위해서다. 발간된 보고서에 따르면 국내 합성데이터 생성 절차는 사전 준비부터 합성 데이터 생성, 안전성·유용성 검증, 심의윈회 평가, 활용·안전한 관리로 총 5단계로 이뤄졌다. 다만 전문가들은 합성데이터를 이용한다고 해서 모든 개인정보보호 이슈를 피할 수 있는 건 아니라고 주장했다. 합성데이터에도 개인정보가 포함될 수 있으며, 정보 편향성을 일으킬 수 있다는 이유에서다. 이에 합성데이터를 검증할 수 있는 시스템 구축도 중요해질 것이라고 입을 모았다. 업계 관계자는 "합성데이터 자체가 허위 정보나 편향된 정보를 생성할 수 있다"며 "합성데이터 내 개인정보가 재식별될 가능성도 배제할 수 없다"고 설명했다. 또 "합성데이터 품질이 낮은 상태에서 AI 학습에 활용되면 모델 성능 자체가 떨어질 수밖에 없다"며 "합성데이터 생성뿐 아니라 이를 검증할 수 있는 시스템 강화도 필요할 것"이라고 덧붙였다. 합성데이터에 개인정보가 포함될 수 있다는 주장도 나왔다. 개인정보위 안내서에 따르면 특히 부분 합성데이터에는 합성데이터 기록과 원본데이터 기록 간 연결 가능성이 높다. 활용 과정에서 개인정보보호 침해 등 안전 가능성이 낮아질 수 있다는 지적이다. 이에 수집 목적과 익명 정보 여부 등 합성데이터 성격에 따라 동의 필요성 등 적법요건 확인이 필요하다는 분위기다. 이 외에도 개인정보위는 비정형 합성데이터에 대한 연구가 추가로 필요하다고 지적했다. 이미지가 아닌 영상, 음성 및 멀티모달 데이터 등 다양한 비정형 합성데이터에 대한 안내도 추후 과제로 남아있다고 설명했다.

2025.01.10 16:13김미정

내년 '산업용 AI' 확산 가속…데이터 보호·RAG 수요 급증할 듯

인공지능(AI)이 국내외 기술 환경을 지속적으로 변화시키는 가운데 내년에는 기업들이 AI에 투자하고 활용하는 방식에서 큰 변화가 있을 것으로 전망된다. 특히 산업용 AI 시장이 본격 개화하면서 각 기업들의 사이버 보안 전략이 '데이터 보호'를 중심으로 펼쳐질 것이란 관측도 나온다. 22일 퓨어스토리지가 발표한 '2025년 전망'에 따르면 기업들은 내년에 데이터에서 더 많은 가치를 창출하고 AI를 산업화 하기 위해 많은 AI 역량을 사내에 도입할 것으로 예상된다. 업계에선 현재 배포된 그래픽처리장치(GPU)의 대다수가 적극적으로 활용되지 않고 있다고 지적하고 있다. 이들 GPU는 주로 하이퍼스케일러와 같은 소수의 기업에 집중돼 있고 민간 기업에는 고르게 배치돼 있지 않다는 분석도 있다. 그러나 내년에는 산업용 AI의 중요성이 부각되며 다각도로 많이 활용될 것으로 보인다. 특히 기밀을 유지해야 하는 독점 데이터로 모델을 학습시키는 방법과 관련된 다양한 과제가 대두될 것으로 관측된다. 퓨어스토리지 관계자는 "차세대 AI 물결로 내년에는 산업용 AI가 급부상 할 것"이라며 "에이전트형 AI(Agentic AI)와 대형 양적 모델(Large Quantitative Models, LQM)은 이러한 변화에서 핵심적인 역할을 하게 될 것"이라고 내다봤다. 다만 에이전트형 AI가 주류가 되는 것은 2026년 이후로 예상됐다. 내년에는 에이전트형 시스템이 기업의 의사 결정 방식에 큰 변화를 가져올 것으로 전망됐다. 또 기업은 복잡한 데이터 세트를 분석하고 패턴을 파악하며 신속하게 대응할 수 있는 머신러닝을 통해 더 많은 가치를 창출할 수 있을 것으로 보인다. 데이터 모델링과 같은 힘들고 수작업이 많이 필요한 작업을 간소화함으로써 기업은 더 많은 문제를 더 빠르게 해결하고 제품 진화를 가속화할 수 있을 것으로 관측된다. 퓨어스토리지 관계자는 "특히 은행이나 통신사와 같은 대규모 IT 기업에서 머신러닝과 에이전트형 AI를 통해 올바른 의사 결정 데이터에 신속하게 접근하는 것이 점점 더 중요해질 것"이라고 말했다. 또 2025년에는 기업의 AI 투자가 증가하는 동시에 생성형 AI POC(proof of concepts)와 파일럿 프로젝트의 수가 감소할 것으로 전망됐다. 올해는 기대에 미치지 못하거나 훈련 단계에서 추론 단계로 확장할 때 경제성을 갖추지 못해 POC의 실패율이 높았다. 하지만 기업들은 내년에 AI의 활용을 재고하고 근본적인 비즈니스 가치와 실용적인 AI에 다시 초점을 맞출 것으로 예상된다. 결과물의 신뢰성에 대한 우려가 커지면서 챗GPT(ChatGPT)와 같은 범용의 기성 AI 솔루션 사용은 줄어들 것으로 보인다. 이에 따라 2025년에는 기업이 RAG(검색 증강 생성) 등의 기술을 활용하는 근거 기반 접근 방식으로 점점 더 전환할 것으로 관측된다. 퓨어스토리지 관계자는 "이러한 변화는 데이터 편향과 부정확성을 완화하는 상황 인식 시스템에 대한 선호가 높아지면서 AI 투명성과 윤리에 대한 관심도 깊어지고 있음을 반영한다"며 "특히 의료 및 금융 서비스와 같은 분야에서는 실시간 데이터 통합과 맥락에 맞는 정확한 대응이 중요해지며 RAG에 대한 수요가 급증할 것"이라고 밝혔다. 내년에는 AI 및 분석 투자를 통해 더 나은 결과를 추구함에 따라 데이터의 가치도 재조명될 것으로 예상된다. 지난 2023년과 2024년을 통해 학습한 내용 중 하나는 대규모 데이터 세트로 구동되는 덜 정교한 알고리즘이 소규모 데이터 세트에 액세스하는 더 정교한 알고리즘보다 성능이 우수한 경우가 많다는 점이다. 이에 내년에는 기업들이 분석 및 AI 투자의 성과를 개선하기 위해 사일로화되고 잠겨 있는 데이터 세트를 해제하는 프로젝트에 착수할 것으로 보인다. 데이터 통합의 중요성은 혁신을 주도하고 경쟁 우위를 유지하는 데 있어 데이터의 전략적 가치에 대한 폭넓은 인식을 보여준다. 이에 기업은 AI와 분석의 잠재력을 최대한 활용하기 위해 데이터 품질을 향상하고 액세스를 간소화하며 팀 간 협업을 촉진하는 이니셔티브에 우선순위를 둘 것으로 관측된다. 또 궁극적으로 내부 데이터 세트 통합에 집중함으로써 정보에 기반한 의사 결정, 고객 경험 개선, 지속 가능한 성장을 위한 기반도 마련할 수 있을 전망이다. 지속가능성에 대한 고민도 커질 것으로 보인다. 2030년 탄소감축 목표가 다가오면서 많은 기업들은 지난 몇 년간 AI 포모(FOMO·fear of missing out)로 인해 미뤄졌던 지속가능성 목표를 달성하기 위해 애쓰고 있다. 정부와 규제 기관은 기업의 지속가능성 의무 이행을 의무화하기 위한 노력을 강화하고 있다. 퓨어스토리지 관계자는 "기업은 이러한 의무를 충족하기 위해 에너지 효율적인 기술 솔루션에 우선순위를 둬야 할 것"이라고 강조했다. 사이버 보안 전략으로는 '데이터 보호'가 주요 축이 될 것으로 예상된다. 기업은 더 이상 '만약(if)'의 문제가 아니라 '언제(when)' 공격을 받을지 모른다는 사실을 인식하게 되면서 '데이터 보호'에 많은 관심을 둘 것으로 보인다. 이러한 전략의 변화는 AI 활용으로 강화되는 사이버 범죄 역량, 강화되는 국가별 법률, 규제 당국의 더욱 엄격한 규정 준수 요건 등이 주도할 것으로 보인다. 퓨어스토리지 관계자는 "생성형AI가 처음 도입됐을 때 챗GPT가 피싱 이메일의 품질 개선에 사용된 사례가 있었다"며 "오늘날 사이버 범죄자들은 재귀적(recursive) AI를 활용해 공격 대상의 IT 인프라에서 취약점을 찾아내는 등 더욱 정교해지고 있다"고 설명했다. 이러한 AI 기반 위협 환경에 적응하지 못하는 기업은 내년에 심각한 재정적 손실, 평판 손상, 잠재적 비즈니스 실패의 위험에 처할 수 있다. 이에 진화하는 위협에 대응하기 위해서는 강력한 사이버 보안 조치와 복구 전략에 선제적으로 투자하는 것이 중요하다. 데이터 보호 전략이 마련된 기업은 공격 발생 시 신속하게 비즈니스 운영을 재개할 수 있는 수단을 확보할 수 있다. 유재성 퓨어스토리지 코리아 사장은 "기술 환경이 빠르게 변화하는 가운데 기업에게 유연하고 민첩한 IT 인프라를 갖추는 것이 매우 중요하다"며 "AI가 계속해서 트렌드를 주도하겠지만, 지속가능성과 사이버 보안 또한 최고정보책임자(CIO)들의 최우선 안건으로 떠오를 것"이라고 밝혔다. 김영석 퓨어스토리지 코리아 시스템 엔지니어링 총괄은 "2025년은 국내 기업들이 가시적인 성과를 달성하기 위해 AI 전략을 구체화하고, 성숙해가는 AI 환경의 복잡성을 극복하는 전환점이 될 것"이라며 "기업들이 데이터 무결성, 윤리, 지속가능성을 중시함에 따라 RAG 및 데이터 통합 기술에 대한 도입이 급증할 것으로 예상된다"고 말했다.

2024.12.22 10:00장유미

개인정보위, '합성데이터 생성·활용 안내서' 발간…데이터 활용 기준 마련

개인정보보호위원회(개인정보위)가 데이터 활용의 안전성을 높이기 위해 합성데이터 생성·활용 안내서를 발간했다. 개인정보보호위원회는 이번 안내서가 합성데이터의 생성과 활용 과정에서 필요한 안전기준과 절차를 담았다고 19일 밝혔다. 개인정보 식별 가능성을 최소화하면서도 데이터의 활용도를 높이기 위해서다. 안내서는 합성데이터 생성 절차를 사전 준비, 생성, 안전성 검증, 심의위원회 평가, 안전 관리로 나눠 단계별로 상세히 설명했다. 특히 합성데이터 활용 계획서, 개인정보 처리 계획, 안전성 검토 결과서 등 서식과 체크리스트를 함께 제시해 실무적 이해를 도왔다. 이번 가이드에는 이미지 등 비정형 합성데이터 생성 시 주의사항과 안전성 검증 방법도 포함됐다. 일반 대중에게 공개되는 데이터를 익명정보로 전환하기 위한 절차와 기준도 명확히 했다. 개인정보위는 지난 5월 발표한 '합성데이터 생성 참조모델'과 연계해 이번 안내서를 마련했으며 관련 사례는 '가명정보 지원 플랫폼'에서 확인할 수 있다. 산업과 연구 현장에서의 애로사항을 해소할 계기가 될 전망이다. 양청삼 개인정보정책국장은 "산학연과 법률 전문가들의 참여로 체계적인 안내서가 완성됐다"며 "이번 안내서를 통해 프라이버시 보호 기술로서 합성데이터의 잠재력이 더욱 활성화되길 기대한다"고 밝혔다.

2024.12.19 15:00조이환

정부가 제시한 개인정보·합성 데이터 보호 전략은?

정부가 개인정보와 데이터 보호를 논의하는 장을 마련했다. 개인정보보호위원회 18일 '제6차 개인정보 미래포럼'을 개최했다. 올해 마지막 미래포럼 주제는 이달 공개 예정인 '인공지능(AI) 프라이버시 리스크 관리모델'과 '합성데이터 생성·활용 안내서'다. 이와 관련해 이날 포럼에선 서울대 박상철 법학전문대학원 교수의 AI 프라이버시 리스크 관리모델에 관한 발제가 이뤄졌다. 이어 인하대 김승환 데이터사이언스학과 교수의 안전한 합성데이터 생성·활용 방안에 관한 발제로 토론이 진행됐다. 그동안 개인정보위는 데이터 처리가 복잡하고 변화 속도가 빠른 AI 시대에 대응해 세세한 규정이 아닌 원칙 기반 규율체계 마련 등의 개인정보 정책 방향을 설정해 왔다. AI 개발 핵심 재료인 비정형 데이터, 공개된 개인정보, 이동형 영상기기에 의해 촬영된 영상정보 등에 대한 처리 기준도 제시했다. 개인정보위 관계자는 "개인정보 보호라는 핵심 가치를 지키면서도, 공익 목적의 AI 개발이 활성화되고 국민 삶을 풍요롭게 하는 혁신적인 AI 서비스가 탄생할 수 있도록 개인정보 보호 규율체계를 지속 정비할 것"이라고 밝혔다.

2024.12.18 16:00김미정

정부, 호남에 첫 가명정보 활용 센터…"데이터 경제 균형 맞춰"

정부가 전북에 가명정보 활용 지원센터 구축을 완료해 지역 간 가명정보 기반 데이터 경제 균형 맞추기에 나섰다. 개인정보보호위원회와 전북특별자치도는 전북테크비즈센터에서 전북 가명정보 활용지원센터 개소식을 개최했다고 26일 밝혔다. 전북 센터는 호남권 최초이자 전국에서 7번째로 문을 연 가명정보 활용 지원센터다. 이번 개소를 통해 수도권과 강원도, 영남권, 충청권, 호남권 등 전국 5대 권역에 가명정보 활용 지원센터가 모두 구축된 셈이다. 이번 개소식에 참석한 개인정보위 이정렬 사무처장은 축사를 통해 "일상을 바꾸고 있는 인공지능(AI) 기술이 개인정보를 포함한 데이터에 크게 의존하는 시대적 흐름 속에서 가명정보 활용 지원센터 역할은 더욱 커질수 밖에 없다"며 "전국 5대 권역에 설치된 센터 중심으로 지자체간 데이터 교류·협력이 활발하게 이뤄지도록 지원하겠다"고 밝혔다. 전북 센터의 향후 운영방향과 관련해 김종훈 전북 경제부지사는 "전북 센터가 안전한 데이터 활용을 통해 바이오‧헬스케어, 공간정보 기반 농업 등 지역 산업 혁신을 가속화할 것"이라며 "센터를 중심으로 가명정보 활용 관련 교육‧컨설팅까지 제공할 것"이라고 강조했다. 이어 "가명정보 활용 협의회를 통해 가명정보 활용 사례를 적극 발굴할 것"이라고 덧붙였다. 개인정보위는 다른 지역 센터와 마찬가지로 전북과 매년 업무협약을 체결할 방침이다. 협약에 따라 개인정보위는 전북 가명정보 활용 관련 사업이 원활하게 이뤄지도록 가명정보 지원 플랫폼 제공과 전북 센터와 다른 권역 가명정보 활용지원센터 간 제도적 지원 등을 협조해 나갈 계획이다. 개인정보위 관계자는 "전국 5개 권역에 가명정보 활용지원센터가 구축된 만큼 관계 지자체들과 협의 등을 통해 지역 간 가명정보 기반 데이터 경제가 균형있게 발전할 수 있도록 노력할 것"이라며 "각 권역에 분포된 7개 센터와 관계 지자체 간 상호 협력‧교류를 촉진하는 방안도 마련할 것"이라고 강조했다.

2024.11.26 15:00김미정

정부, 마이데이터 서비스 선정…의료·통신 등 5개

만성질환 위험도 분석으로 질병을 맞춤형으로 관리하거나, 실제 통신 이용량으로 최적 요금제를 추천하는 서비스 등 국민 편익을 증진하는 동시에 신사업 기회를 만들 마이데이터 선도서비스가 내년 추진된다. 개인정보보호위원회는 한국인터넷진흥원과 올해 마이데이터 선도서비스 지원 사업으로 5개 과제를 최종 선정했다고 18일 밝혔다. 이번 사업은 내년 3월 개인정보 전송요구권 제도 시행을 앞두고 국민 생활에 실질적 편의를 제공할 수 있는 마이데이터 서비스를 발굴하는 목적으로 추진됐다. 서비스는 제도 시행 후 순차적으로 출시될 예정이다. 이번에 선정된 마이데이터 서비스는 의료 분야 3개 과제와 통신 분야, 자율 분야 각각 1개 과제다. 최종 선정된 수행기관은 지원비 최대 5억원을 받아 사업을 수행한다. 선정된 과제는 ▲가톨릭중앙의료원 컨소시엄의 만성질환 위험도 분석을 통한 예방 콘텐츠·맞춤형 질환 관리서비스 ▲룰루메딕의 해외에서 현지 의료기관 방문 시 국내 의료 기록 연동·번역 등 의료지원 서비스 ▲카카오헬스케어의 안전한 복약관리·약물 처방 지원 서비스 ▲한국통신사업자연합회 컨소시엄의 실제 통신이용 패턴 기반 최적 요금제 추천 서비스 ▲NICE평가정보 컨소시엄의 맞춤형 여행지 추천·여행경비 최적 설계 제안 서비스 등 총 5건이다. 고학수 개인정보보호위원장은 "이번 마이데이터 선도서비스가 국민들이 마이데이터를 이해하고 체감하는 계기가 되길 바란다"며 "신생기업의 비즈니스 창출과 국민 편익을 증진할 수 있도록 마이데이터 활용 범위를 점진적으로 확대하겠다"고 밝혔다.

2024.11.18 14:00김미정

개보위 "한국-EU, 개인정보 교류 장벽 허문다…데이터 이전 자유화 가속"

대한민국과 유럽연합(EU)이 개인정보 이전 장벽을 허물고 데이터 교류를 활성화에 나선다. 개인정보보호위원회(개보위)는 최근 고학수 개인정보위원장이 '글로벌 프라이버시 총회'에서 디디에 레인더스 유럽연합(EU) 사법총국 장관과 '동등성 인정' 제도 추진 방안을 논의했다고 3일 밝혔다. 이 제도는 양국 간 데이터 이전의 법적 안전성을 확보해줄 것으로 기대된다. '동등성 인정' 제도는 지난해 개정된 개인정보 보호법에 따라 마련된 것으로, EU의 '적정성 결정'과 유사한 방식이다. 상대국의 개인정보 보호 수준을 평가하고 이전을 허용하는 이 제도를 통해 EU와 한국 간 데이터 교류가 더욱 확대될 전망이다. EU는 이미 지난 2021년 한국을 적정성 결정 국가로 지정해 유럽연합 회원국으로부터의 개인정보 이전을 허용한 바 있다. 다만 당시 한국에는 상응하는 제도가 없어 상호 호혜적 인정이 어려웠으며 이번 제도를 통해 이를 해결할 수 있게 됐다. 개보위는 동등성 인정 제도의 첫 대상국으로 유럽연합을 선정해 검토해왔으며 이로써 양측의 데이터 이전 협력이 한층 강화될 것으로 보인다. 고학수 개인정보위원장은 "EU와의 동등성 인정이 완료되면 양국 간 자유로운 데이터 이전이 가능해지고 기업의 경제적 부담도 줄어들 것으로 기대한다"며 "안전한 국경 간 정보 이전 체계를 마련하기 위해 지속적으로 다양한 국가들과 협력해 나가겠다"고 밝혔다.

2024.11.03 10:03조이환

"틱톡도 규제 대상"…美 법무부, 中 데이터 유출 강력 차단

미국 정부가 적성국의 미국 데이터 접근을 차단하기 위한 새로운 규정을 발표했다. 이번 규정은 미국인의 금융 및 유전자 데이터를 보호하는 것을 목표로 한다. 22일 로이터에 따르면 미국 법무부는 중국, 러시아, 이란, 베네수엘라, 쿠바, 북한을 대상으로 미국 시민의 데이터가 대량으로 유출되는 것을 방지하기 위한 규정을 제안했다. 이는 바이든 대통령이 올해 초 발행한 행정명령에 따른 후속 조치다. 새 규정은 연방 정부와 미국인의 개인 데이터를 다루는 특정 비즈니스 거래에 대한 제한을 강화하는 내용을 담고 있다. 특히 100명 이상의 유전자 데이터나 1천 개 이상의 기기 위치 정보가 포함된 데이터를 전송하는 것이 금지된다. 또 이번 규정은 데이터 브로커와의 거래를 더욱 강력히 통제할 예정이다. 데이터 회사가 정보를 판매할 때 그 정보가 중국이나 러시아 같은 '우려 국가'로 넘어갈 것을 알면서도 거래를 진행하려 한다면 처벌을 받게 된다. 규정은 민감한 미국인의 건강 및 금융 정보도 보호 대상으로 삼는다. 이에 따라 1만 명 이상의 개인 데이터를 포함하는 거래 역시 금지될 예정이다. 미국 정부 관계자는 "이번 조치가 틱톡과 같은 중국 앱에도 적용될 수 있다"며 "미국인의 민감한 데이터를 중국으로 전송할 경우 새로운 규정에 저촉될 수 있다"고 밝혔다.

2024.10.22 09:11조이환

개인정보위 "CCTV 보안·생체정보 보호 법제화 추진"

고학수 개인정보보호위원회 위원장이 CCTV 보안과 생체 정보 관리 강화를 위해 법과 제도 개선을 추진하겠다고 밝혔다. 고 위원장은 8일 정부세종청사에서 열린 국회 정무위원회 국정감사에서 국민의힘 강명구 의원과의 질의응답에 이런 의지를 표명했다. 이날 강명구 의원은 "중국에선 한국에 설치된 CCTV를 인터넷으로 중계하는 웹사이트가 생겼다"며 "국민 사생활이 노출되고 있는 실정"이라고 지적했다. 이어 "중국 불법 웹사이트 운영자들은 국내 쇼핑몰을 비롯한 사무실, 식당 등에서 어떤 일이 일어나는지 실시간 확인할 수 있는 영상을 통해 수익을 창출하고 있다"고 비판했다. 고 위원장은 이를 방지할 수 있는 제도 개선에 집중하고 있다고 답했다. 그는 "CCTV나 디지털카메라 등 데이터 수집 기기에 대한 인증제도를 지난해부터 시작했다"고 설명했다. 이어 "아직 초기 단계 시범사업이지만 앞으로 본격 확대할 계획"이라고 덧붙였다. 강 의원은 고 위원장의 계획이 충분치 않다고 지적했다. 이어 "해당 인증제도가 전국에 설치된 모든 영상처리기기를 다루기에 역부족"이라며 "보다 적극적이고 강력한 대책이 선행돼야 한다"고 당부했다. 고 위원장도 이에 동의했다. 그는 "인증제도 적용 범위가 제한적인 상황"이라며 "영상정보 영역에 대한 법 개정 또는 별도 영상정보처리법을 마련할 것"이라고 설명했다. 강 의원은 생체 정보에 대한 명확한 법률 체계가 없다는 점도 지적했다. 생성형 인공지능(AI) 등 신기술 발달로 인해 생체 정보 활용 영역이 높아지고 있지만 자칫하면 상당한 위험성을 수반할 수 있는 분야라서다. 강 의원은 급속한 생체 정보 성장에도 불구하고 관련 제도가 이를 따라가지 못한다고 지적했다. 그는 "생체 정보에 대한 법적 기준과 사각지대를 해소할 방안을 마련해야 한다"며 "현재 생체 정보는 법에서 찾아볼 수 없어 활용 부작용에 대한 대응이 어렵다"고 비판했다. 이에 고 위원장은 "생체 정보 관리에 대한 법상 규정이 없고 시행령으로만 규정된 상황"이라며 공감했다. 이어 "생체 정보의 안전한 활용을 위한 법·제도 개선을 추진하겠다"고 말했다.

2024.10.08 16:32김미정

Prev 1 2 3 Next