• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 개인정보'통합검색 결과 입니다. (52건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"개보위, AI 시대 개인정보 활용 방안 강구"

"인공지능(AI) 시대가 되면서 개인정보를 무조건 보호만 해서는 이제 안 되고, 안전하게 활용하는 방안에 대해 연구해야 한다" 개인정보보호위원회(개보위) 고낙준 신기술개인정보과장은 30일 서울 코엑스에서 개최된 과학기술정보통신부 공식 AI주간 'AI페스타 2025' 부대 행사로 개최된 '대한민국 사이버 보안 컨퍼런스'에서 이같이 밝혔다. 이날 고 과장은 'AI시대 안전한 개인정보 활용을 위한 원칙기반의 규율 체계'에 대해 발표했다. 고 과장은 "현재 우리 법 체계는 과거 아날로그 시대에서 보면 동의를 받고 하라는 법적 근거를 마련하도록 요구하고 있다"면서도 "반면 AI 시대에는 동의나 법령에 따라서 할 수 없기 때문에 여러 가지 갈등이나 긴장 상황이 생긴다"고 진단했다. 고 과장은 개보위가 개인정보 활용을 위해 진행한 여러 입법 활동 등 정책적 지원 내용에 대해 소개했다. 대표적인 예가 자율주행차, 배달·순찰로봇, 드론, 바디캠 등 이동형 영상기기에 탑재되는 카메라에 사람이 촬영됐을 때 이 영상정보도 개인정보로 분류되는 만큼 이를 어떻게 활용할 지에 대한 것이다. 개보위는 이같은 이동형 영상촬영기기가 국민 생활 및 산업 전반에 확산하는 추세이고, AI 등 신기술과 결합해 사람의 개입 없이 스스로 정보를 수집·판단·제어하는 새로운 영역으로 발전했다고 봤다. 이에 사전 동의가 곤란한 영상정보 특성을 고려해 이동형 영상기기의 촬영에 대한 법적 근거를 2023년 9월 마련한 바 있다. 구체적으로 공개된 장소에서 업무 목적 촬영을 허용한 것이다. 다만 촬영사실을 불빛 등의 표시를 통해 알려야 하고, 부당한 권리 침해는 금지하는 등 요건 준수도 필요하다. 특정 목적을 위해 원본데이터의 형식과 구조 및 통계적 분포 특성과 패턴을 학습해 생성한 가상 데이터를 의미하는 합성데이터의 경우도 ▲안전기준 설정 ▲원본데이터 전처리 ▲안전성 검증 ▲안전한 관리 등 권장사항을 준수할 것으로 활용 방안을 제시했다. AI, 클라우드와 같은 인터넷 기반 기술이 급격히 발전하고 있는 데 반해 개인정보처리시스템에서 개인정보를 다운로드·파기할 수 있거나, 접근 권한을 설정할 수 있는 개인정보취급자의 컴퓨터 등에 대해 인터넷망을 차단하는 '인터넷망 차단조치'로 인해 일률적으로 차단되는 것에 대한 개선이 필요하다는 의견도 반영했다. 구체적으로 개보위는 개인정보처리자가 마련한 내부 관리 계획에 따른 위험 분석을 통해 인터넷망 차단, 차단 제외, 상응 보호조치 적용 대상 컴퓨터 등을 스스로 결정할 수 있도록 관련 정책을 개정할 예정이다. 고 과장은 "회사 사정에 맞춰 인터넷망 차단조치를 유지하거나 예외 조항을 판단해 적용할 수 있도록 다양한 방식으로 개정안을 마련하고 있다"며 "아직 통과는 되지 않았고 행정 절차 중"이라고 밝혔다. 그는 이어 "행정예고도 진행되고 있는 만큼 최종적으로 확정이 되면 발표할 것"이라며 "그래서 조금 더 원활하게 업무 효율성을 올릴 수 있도록 하는 방안을 개보위는 계속해서 강구하고 있다"고 강조했다.

2025.09.30 20:59김기찬 기자

개보위 김직동 과장 "AI 학습 위한 데이터 활용...유연한 법제 정비 필요"

“AI가 블랙박스처럼 작동하면서 개발자조차 처리 과정을 완전히 파악하기 어려워진 만큼 개인정보 유출 위험도 더욱 다양해지고 있다” 개인정보보호위원회 김직동 개인정보정책과장은 30일 서울 코엑스에서 열린 'AI페스타 2025'의 부대행사로 열린 '대한민국 사이버보안 컨퍼런스'에 강연자로 나서 이와 같이 말했다. 김직동 과장은 '2025년 개인정보 정책 방향'을 주제로 발표하며 AI 전환기에 맞춘 개인정보보호법의 유연한 적용과 새로운 안전장치 마련이 필요하다고 강조했다. 그는 “AI 시대의 데이터 활용은 이제 정형 데이터를 넘어 비정형 영상·음성 등 복합적 형태로 확장됐다”며 “GPU나 인력만큼 중요한 것이 고품질 데이터지만, 공개 데이터는 이미 학습이 완료된 상태로 새로운 학습에 한계가 있다”고 말했다. 이어서 “공공기관에 양질의 데이터가 쌓여 있음에도, 법적 리스크와 인센티브 부재로 활용이 매우 소극적”이라고 덧붙였다. 김직동 과장에 따르면 공공기관의 감명정보 제공 경험은 3% 수준에 그치고 있다. 이에 개인정보보호위원회는 법적 불안을 해소할 수 있는 유연한 법 적용과 제도 개선을 추진 중이다. 김 과장은 개인정보 유출 사고에 대한 제재 강화 방침도 밝혔다. 그는 “SKT 사건에서 과징금 1천347억 원을 부과했지만 피해 회복은 여전히 미흡하다”며 “대규모 사고를 숨기지 못하도록 신속 조사체계와 포렌식랩 구축을 진행 중”이라고 전했다. 이어 “공공기관에서 발생한 유출 사고는 무조건 전면 공표하고, 재점검을 의무화할 것”이라며 “과징금 일부를 피해 구제나 재발방지 기금으로 활용하는 방안도 검토 중”이라고 설명했다. 김직동 과장은 최근 새롭게 문제로 떠오른 AI 사칭 광고, 딥페이크도 언급했다. 김 과장은 “최근 AI가 유명인 이미지를 무단 활용한 사칭 광고가 늘고 있다”며 “원치 않는 정보 노출로 인한 피해를 막기 위해 '인격권 침해 배제 요건'을 신설하고, 삭제 요구에 응하지 않을 경우 제재할 예정이다”고 밝혔다. 또한 “악의적 딥페이크 제작·유포자는 형사처벌 대상이 될 수 있다”며 강경한 대응 의지를 드러냈다. 김 과장은 제품 단계에서 개인정보 보호를 내재화하는 'PbD(Privacy by Design)' 정책도 소개했다. 그는 “이제는 카메라, 로봇청소기 등 IoT 기기 설계 단계에서부터 개인정보 보호 기준을 반영해야 한다”며 “삼성전자 로봇청소기, IP카메라 등 시범 인증을 통해 안전한 제품임을 보증하는 보호 마크 부여 제도를 운영 중”이라고 설명했다. 특히 김 과장은 AI 개발 현장에서 제기된 '원본 데이터 활용' 문제에 대해 “현재 가명처리 의무가 데이터 가치 저하로 이어진다”며 “의료·범죄예방 등 공익 목적의 경우, 안전조치를 전제로 원본을 사용할 수 있는 특례 조항을 신설할 계획”이라고 밝혔다. 그는 “관련 법안이 이미 발의돼 있으며, 올해 국정과제로 추진 중”이라며 “AI 학습 데이터 확보를 위한 합법적 활용 근거를 마련하겠다”고 말했다. 아울러 “AI·데이터 시대에 맞는 전문 인력을 확보하기 위해 개인정보보호 석·박사 과정을 내년부터 2~3개 대학원에 지원할 계획”이라며 “기술과 법이 융합된 인재를 육성해 R&D와 정책 설계에 투입할 것”이라고 강조했다. 김 과장은 발표를 마치며 “AI 시대 개인정보 정책의 핵심은 활용과 보호의 균형”이라며 “법적 불확실성을 줄이고 안전한 데이터 생태계를 만들어야 AI 혁신이 가능하다”고 강조했다. 이어서 “AI 전략위원회 확대, 샌드박스·사전적정성 검토 등 다양한 제도를 통해 산업과 국민 모두 안심할 수 있는 환경을 만들겠다”고 밝혔다. AI페스타 2025는 AI, 보안, 윤리, 데이터 혁신을 주제로 정부·산업계·학계 전문가들이 참여한 국내 최대 규모 AI 행사다. '대한민국 사이버보안 컨퍼런스' 세션에서는 과학기술정보통신부, 개인정보보호위원회, 기업 관계자들이 연사로 나서 AI 전환기 개인정보보호 및 보안 대응 전략을 논의했다.

2025.09.30 14:57김한준 기자

개인정보 유출 논란 잊었나...정부 건강정보 제공 논의에 시민단체 반발

정부가 국민건강보험공단이 보유한 건강정보 제공을 확대키로 하면서 반발이 일고 있다. 제8차 바이오헬스혁신위원회는 30일 오전 정부서울청사에서 '건강보험 빅데이터 활용 확대 방안'에 대해 논의하고, 의료 AI 연구·산업에 필요한 데이터 신청-제공-활용 단계별 애로사항과 대응 방안을 결정했다. 혁신위는 앞으로 이용자 맞춤형 데이터 신청 지원을 온‧오프라인 교육을 확대하는 한편, 개인정보 보호를 바탕으로 데이터 제공 방식을 다변화한다는 방침이다. 이를 위해 데이터 구축에 걸리는 기간을 기존 5개월에서 1개월 이내로 단축할 예정이다. 또 개인정보 보호 조치를 강화한 저위험 가명 데이터 개발, 개인정보 재식별 우려 없이 AI 분석‧학습 등에 용이한 합성데이터 개발도 추진할 방침이다. 혁신위는 AI 학습 등에 용이한 데이터 분석 환경도 구축하기로 했다. 관련해 빅데이터 분석센터 확충 및 AI 모델 개발 등 이용자가 많은 분석센터는 개방 시간 및 시스템 이용 시간을 확대할 예정이다. 하지만 이러한 움직임에 대해 최근 잇달아 발생한 개인정보 유출 등 국민 우려를 고려하지 않는 조치라는 비판도 제기된다. 보건의료노조와 무상의료운동본부는 혁신위 논의에 대해 “건보공단은 국민의 ▲신상 ▲질병 ▲처방 ▲검진 ▲재산 ▲소득 등 개인에 대한 거의 모든 정보를 축적하고 있다”라며 “윤석열에 이어 이재명 정부도 건강보험 정보를 기업에 넘기려 한다”라고 주장했다. 이어 “가명 처리하면 개인 식별할 수 없다는 말도 믿어서는 안 되며, 다른 정보와 결합하면 언제든 개인이 드러날 수 있는 것이 가명정보”라고 비판했다. 아울러 “가장 민감한 의료정보는 유출이나 악용이 개인에게 돌이킬 수 없는 피해를 남기게 된다”라며 “바이오헬스혁신위원회가 우리의 건강보험 빅데이터에 대해 이러쿵저러쿵하게 두어서는 안 된다”라고 덧붙였다.

2025.09.30 13:12김양균 기자

"프라이버시 필터 오픈소스 공개"...오픈AI 권 CSO 깜짝 발표

"인공지능(AI)은 개인 정보를 침해할 수도 있지만, 동시에 우리를 더 안전하게 지키고 프라이버시를 강화할 수도 있다. 오픈AI의 '프라이버시 필터'가 그 가능성을 보여주는 사례다." 한국계 미국인 제이슨 권 오픈AI 최고전략책임자(CSO)는 17일 서울 하얏트호텔에서 열린 제 47차 GPA(Global Privacy Assembly) 총회 이틀째 공식 행사에서 기조 연설을 하며 이같이 밝혔다. 그는 "프라이버시 필터는 AI 학습 과정, 프런티어 모델 훈련에서 개인정보 처리를 줄이기 위해 오픈AI가 내부적으로 사용하는 AI 도구이며, 개인정보 축소 처리 측면에서 현재 상용화된 어떤 기술보다도 높은 성능을 내고 있다"며 "이 자리에서 프라이버시 필터를 오픈 소스로 공개하겠다"며 깜짝 발표했다. 이어 "내년부터 전 세계 개발자 커뮤니티가 프라이버시 필터를 활용해 프라이버시 보호의 기준을 끌어올릴 수 있도록 할 것"이라며 "최근 출시한 오픈AI모델과 비영리 파트너 Roost와의 협력을 통해 프라이버시 필터를 더욱 강화해 나갈 것"이라고 밝혔다. Roost는 소규모 조직이나 시민사회 단체도 책임 있는 AI를 배포할 수 있도록 오픈소스 기반의 안전 인프라를 구축하고 있는 기관으로, 오픈AI와 협력하고 있다. 오픈AI는 Roost의 공동 설집자이자 주요 책임자로 참여 중이다. 아울러 제이슨 권 CSO는 오픈AI가 개인정보 보호에 기울이고 있는 노력 및 기술에 대해서도 소개했다. 오픈 AI는 사용자 누구든 '임시 대화 기능'을 도입해 대화가 저장되지 않은 상태에서 AI와 상호작용할 수 있도록 하고 있는 점 등이 여기에 해당된다. 그는 "오픈AI는 부모와 보호자에게 의미 있는 선택권을 주는 기능도 개발 중"이라며 "예컨대 청소년 사용자가 어떤 사람과 접촉할 수 있는지, 어떤 활동을 할 수 있는지 부모가 관리할 수 있도록 하고 모델이 사용자의 스트레스나 위험 징후를 감지하면 보호자에게 알림을 보내 개입할 수 있도록 하는 방식"이라고 설명했다. 또한 "오픈AI는 사용자 통제권을 최우선으로 하고, 데이터 보호와 보안을 기본부터 내재화환 설계를 지향하고 있다"며 "샘 올트먼 오픈AI CEO(최고경영자)도 강조했듯 AI와 사용자는 점점 더 개인적이고 중요한 대화를 나누고 있지만, 정작 기존의 법적 보호 체계는 이러한 AI 대화에 맞게 설계되지 않았다"고 지적했다. 그는 "따라서 AI와의 대화가 소송, 소환장, 정부의 광범위한 요구로부터 쉽게 노출되지 않도록 법과 표준을 업데이트할 필요가 있다"며 "AI 대화도 '프라이버시 특권'으로 보호할 수 있도록 새로운 접근이 필요하다" 그는 "저는 프라이버시를 단순한 기술적 문제나 규제 준수 문제로 보지 않는다. 개인정보는 인간 존엄, 자율성, 개인과 사회의 진보를 위한 권리의 문제"라며 "AI 시스템은 점점 더 주도적으로 행동하며, 여러 과제를 넘나들고 추론하며 인간을 대신해 행동할 수 있는 '에이전트'로 발전하고 있다. 오픈AI는 이러한 에이전트가 인간의 능력을 보완하고 개인이 더 많은 시간과 자유를 확보할 수 있도록 만들 것"이라고 다짐했다.

2025.09.17 16:33김기찬 기자

[기고] 의도하지 않은 AI의 민감정보 처리

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI)은 이제 모두의 일상에 자연스럽게 자리하고 있다. 궁금한 것이 생겼을 때 AI에게 물어보거나 상담하고 자료를 분석하거나 정리하는 도구로도 활용한다. 마치 운전자가 내비게이션을 켜는 것처럼 AI는 필요할 때 자연스럽게 손이 가는 생활의 기본 도구가 됐다. 그러다 보니 AI에 입력되는 질문, 명령어, 자료 등에는 입력하는 사람에 관한 다양한 정보가 포함된다. 여기에는 그 사람을 식별하고 특정할 수 있는 개인정보는 물론 그 중에서도 그 사람의 사생활에 밀접하게 관련된 '민감정보'가 포함될 수 있다. 개인정보 보호법상 민감정보는 사상이나 신념, 노동조합이나 정당의 가입이나 탈퇴, 정치적 견해, 건강, 성생활 등에 관한 정보, 유전정보, 범죄경력자료, 생체정보(특정 개인을 알아보기 위해 활용되는 사람의 지문, 얼굴, 홍채, 정맥 등), 인종이나 민족에 관한 정보를 의미한다. 이러한 민감정보는 개인정보 중에서도 정보주체의 사생활을 현저히 침해할 우려가 있다. 이 때문에 개인정보 보호법은 민감정보의 수집 및 이용을 원칙적으로 금지한다. 예외적으로 정보주체의 별도 동의를 받거나 법령에서 민감정보 처리를 허용하는 경우에 한해서만 그 수집과 이용을 허용하고 있다. 이에 따라 AI 서비스를 통해 민감정보가 포함된 정보를 수집하는 것이 예상된다면 미리 이용자로부터 민감정보 처리에 관한 별도 동의를 받아야 할 것이다. 물론 일부 법에 근거해 민감정보 처리가 가능할 수도 있다. 병원 등 의료기관이나 장애인 지원 서비스 관련 AI 상담 챗봇이나 인사 AI 시스템일 경우가 그러한 경우다. 경우에 따라서는 서비스 제공자는 물론 이용자도 AI를 통해 민감정보가 입력될 것을 의도하거나 예상하지 못함에도 정보가 입력되는 경우가 존재한다. 상품 배송 고객센터 상담 챗봇에 고객이 특정 질환이나 병명을 언급하는 경우나 번역이나 문서 요약 등을 위해 업로드한 자료에 각종 민감정보가 포함되어 있을 수도 있다. 앞서 언급한 것처럼 민감정보는 별도 동의나 법령상 근거로만 수집이 가능하다. 통상적으로 민감정보 수집이 예정되지도 않고 어떤 민감정보가 수집될지도 알 수 없는 상황에서 미리 포괄적으로 민감정보 수집 및 이용 동의를 받는 것은 지나치게 포괄적인 동의다. 이 때문에 적법하다고 보기 어렵고 이러한 경우라면 민감정보 수집을 허용하는 법령상 근거도 당연히 없을 것이다. 아직까지는 이러한 문제가 본격적으로 대두되지는 않았다. 민감정보는 대체로 관련 서비스 제공 과정에서 그 수집 및 이용이 수반되거나 예정되는 경우가 많고 사전에 해당 민감정보 처리의 동의를 받으면 되기 때문이다. 그럼에도 의도되지 않은 AI의 민감정보 수집과 이용은 분명 존재하고 특히 민감정보가 포함된 자료 업로드는 예기치 못한 사회적 이슈를 초래할 수도 있다. 일례로 이용자가 번역이나 문서 요약 등을 위해 AI에 올린 자료 안에 본인이나 심지어 제3자의 의료기록, 범죄경력자료, 노동조합 활동이력 등이 포함될 수 있다. 이는 해당 정보주체의 개인정보, 그것도 민감정보의 자기결정권을 중대하게 침해할 수 있다. 이 문제와 관련해서는 1차적으로 AI 서비스 제공자가 AI 서비스상에서 민감정보의 처리가 이뤄지지 않도록 조치하는 방법이 있다. 다만 다양한 한계로 인해 AI 서비스 제공자가 입력된 민감정보를 완전히 적법하게 처리하기는 거의 불가능에 가깝다. 이용자로 하여금 민감정보를 완전히 비식별화한 후에만 자료나 정보를 업로드하도록 강제할 수단은 사실상 없다. 그런 서비스를 이용할 이용자는 거의 없을 것이기 때문이다. 더불어 서비스 제공자가 업로드된 자료나 정보(민감정보 포함)를 수집하고 그 자료나 정보에서 민감정보를 인식, 분류해서 삭제하는 것 자체도 결국 민감정보의 '처리'에 해당된다. 규제기관 차원에서 위와 같은 사정이 적극 고려될 필요가 있다. 민감정보 처리가 의도되지 않는 수많은 AI 서비스가 법령과 규제의 범위 내에서 적법하게 정보를 처리할 수 있는 현실적인 가이드라인이 마련되길 기대해 본다.

2025.08.18 11:32상지영 법무법인 태평양 컬럼니스트

AI와 개인정보 '딜레마'…기업들은 어떻게 풀었을까

"경찰청 발표에 따르면 보이스피싱 피해는 2023년부터 피해액·건수가 급증해 올해에는 1조원이 넘는 피해가 예상된다. 이같은 피싱 예방에 인공지능(AI) 기반의 탐지 기술이 필요하다. KT는 통화 전·중·후 모든 과정에서 피싱 피해를 최소화할 수 있는 서비스를 연내에 출시할 계획이다." 6일 오후 2시 서울 성북구에 위치한 정동 1928 아트센터에서 개최된 '2025 생성형 인공지능과 프라이버시 오픈 세미나'에서 KT 미래네트워크연구소 안태진 팀장은 이같이 밝혔다. 세미나 기업 발제 세션에서 첫 발표에 나선 안 팀장은 KT가 가진 '3단'으로 보이스피싱을 예방할 수 있는 AI 기반 서비스에 대해 소개했다. 구체적으로 통화 이전에는 그래프 신경망(GNN·Graph Neural Network) 모델을 활용해 피싱 의심 번호를 사전에 탐지하고 이용자에게 알려주는 식으로 피싱 피해를 예방한다. 구체적으로 ▲하루 통화량 ▲통화 간격 ▲수신번호 ▲통화 실패율 ▲평균 통화 시간 ▲네트워크 크기 ▲관계 친밀도 등 7가지 특징을 학습하고 그래프로 분석해 정상번호와 피싱번호를 분류한다. 안 팀장은 "보이스피싱 통화는 일반 통화에 비해 통화하는 사람이 많을 수밖에 없고 보이스피싱이 통하지 않는 사람이 많기 때문에 통화 시간 또한 짧은 반면, 일반적인 통화는 자주 연락하는 연락처이거나 통화하는 시간이 보이스피싱 통화에 비해 긴 경우가 많다"며 "이런 경우를 그래프적인 특징을 통해서 보다 빠르게 보이스피싱 번호를 찾아낼 수 있다"고 설명했다. 또한 통화 중에는 실시간 통화 기반 보이스피싱 탐지 기술을 통해 목소리의 특징을 분석해 화자를 인식하고 이용자에게 팝업 등의 알림을 보내는 식으로 피싱 피해를 예방하는 서비스를 계획하고 있다. 통화 이후에는 이용자가 금전적 피해를 입지 않도록 금융권 현금인출이나 이체거래를 제한하도록 한다. 금융권 상담사에도 이상 거래 정보를 전달해 고객이 확인할 수 있도록 추가적인 조치가 가능하도록 하는 것이 AI 기반 KT 피싱 예방 서비스의 핵심이다. ◆ 스캐터랩의 '전화위복'…개인정보 보호 노력이 '혁신' 됐다 다음 발표에서는 스캐터랩 하주영 변호사가 스캐터랩이 직접 겪은 개인정보 보호 노력이 제품 혁신에 기여한 사례에 대해 소개했다. 앞서 스캐터랩은 AI 챗봇 서비스 '이루다'가 개인정보 침해 논란을 빚으면서 1년여간 대부분의 사업을 중단하고 가명처리기술 개발 등 개인정보 보호 강화에 모든 역량을 쏟은 것으로 전해졌다. 이후 우수한 수준의 가명처리 기술 개발에 성공했고 KISA 대회에서도 우승하는 등 성과를 내기도 했다. 실제로 스캐터랩이 개발한 챗봇 서비스 '제타'에도 이런 가명처리 기술이 접목돼 월 23억건의 대화를 생산하고 있는데도 개인정보 유출 등 프라이버시 사고가 발견되지 않았다. 하 변호사는 이를 '프라이버시 드리븐(privacy driven) 혁신'이라 표했다. 역경이 오면 강해지는 것 처럼, 회사가 프라이버시 이슈를 만나 이를 해결하기 위해 혁신에 성공했다는 것이다. 하 변호사는 "개인정보 측면에서 안전한 서비스를 만들겠다는 일념으로 단행한 노력들이 결국 선도적인 기술 혁신으로 이어졌다"면서 "한발 앞성 생성형 AI 기술 도입과 기술 신뢰 회복 노력 등이 제타와 같은 안정적인 서비스 운영에도 기여하고 있다"고 말했다. 법률 분야에서도 생성형 AI가 활용될 수 있다는 점도 눈길을 끌었다. 엘박스 이진 대표는 판결문 등 개인정보가 포함돼 있는 데이터를 다루기 때문에 익명화 역량이 높아졌으며, 데이터 익명화를 통한 안정성 확보 역시 새로운 시장이 될 수 있겠다는 시각을 제시했다. 이 대표는 "법률 업무 처리에는 99%는 텍스트 데이터가 활용되는데, 이는 생성형 AI와 찰떡궁합"이라며 "엑박스는 400만건에 달하는 판결문을 데이터로 보유하고 있고 이 데이터를 익명화하는 데에 기존에는 인력을 필요로 했지만, 이제 기술과 자본이 축적되면서 인공지능이 이 일을 대체하고 있다"고 설명했다. 법률 분야에서도 생성형 AI가 큰 활약을 하고 있다. 엘박스 이진 대표는 판결문 등 개인정보가 포함돼 있는 데이터를 다루기 때문에 익명화 역량이 높아졌으며, 데이터 익명화를 통한 안정성 확보 역시 새로운 시장이 될 수 있겠다는 시각을 제시했다. 이 대표는 "법률 업무 처리에는 99%는 텍스트 데이터가 활용되는데, 이는 생성형 AI와 찰떡궁합"이라며 "엑박스는 400만건에 달하는 판결문을 데이터로 보유하고 있고 이 데이터를 익명화하는 데에 기존에는 인력을 필요로 했지만, 이제 기술과 자본이 축적되면서 인공지능이 이 일을 대체하고 있다"고 설명했다. ◆ 개인정보 활용, 독이냐 약이냐 열띤 토론…"산업 경쟁력 훼손 없어야" 이후에는 생성형 AI 발달에 따른 개인정보 리스크를 어떻게 대응해야 하는지 열띤 토론이 이어졌다. 한국소비자연맹 정지연 사무총장은 "소비자들은 AI 기술에 대한 이해가 높을수록 AI에 대한 위험을 낮게 평가하고 있다"며 "프라이버시에 대한 위험을 소비자들이 막연하게 아는 것이 아니라 기업이 개인정보 보호를 위해 노력하고 있다는 점을 소비자들에게 적극 알려야 한다"고 말했다. 하주영 변호사는 "인공지능 데이터의 중요성이 증대될수록 개인정보 위험도 상승할 가능성이 높지만, 개인정보를 활용하는 것에 대한 편익이나 유용성도 섣불리 과대·과서 평가해선 안 된다"며 "편익과 리스크를 비교해서 균형을 조정하는 것이 앞으로의 관건이며, 그 과정에서 AI 산업 전체의 잠재력이 훼손되는 일이 있어선 안 된다"고 역설했다. KT Gen AI랩 박재한 팀장은 "웨어러블 디바이스 등에 AI가 탑재되는 경우에도 기존 정보보다 생체정보 등 훨씬 민감한 정보들이 생길 텐데 이를 어떻게 관리해야할까는 기업의 숙제"라며 "이와 동시에 고객에 맞춤형 서비스를 효율적으로 제공하는 방안에 대해서도 고민해야 하기 때문에 기업들이 기존보다 더 세밀한 고민을 이어가야 한다"고 강조했다. 한편 이날 세미나는 개인정보보호위원회(개보위)가 주최했고, 한국인터넷진흥원(KISA)가 주관한 행사다. 고학수 개보위 위원장을 비롯해 공공·민간 관계자 100여명이 참석했다. 첫 발표 세션에서 구민주 개보위 인공지능프라이버시팀장이 '생성형 AI 개발 활용을 위한 개인정보 처리 안내'와 관련한 발표를 진행했다.

2025.08.06 17:53김기찬 기자

AI 기반 인사관리 위한 전제조건...'HR 데이터의 비식별화'

디지털 전환의 물결 속에서 인사관리(HR)의 영역도 빠르게 변화하고 있다. 단순 행정 업무를 넘어, 채용·이직 예측·성과 분석·조직 진단 등 기업의 전략적 의사결정에 HR 데이터가 직접 활용되기 시작했다. 특히 AI 기반 분석 도구가 확산되며, 많은 기업이 HR 솔루션 도입을 고민하고 있다. 하지만 이 과정에서 반드시 먼저 짚고 넘어가야 할 전제가 있다. 바로 'HR 데이터의 민감성'과 '비식별화' 문제다. 일반적으로 '개인정보'라고 하면 이름·주민등록번호·연락처 같은 식별자를 떠올리기 쉽다. 그러나 HR 데이터에는 이보다 훨씬 광범위하고 복합적인 정보가 포함된다. 직무 이력·평가 결과·상담 기록·병가 사유·건강검진 결과 등은 직원 개인의 성향과 상태를 민감하게 보여주는 정보다. 최근에는 조직문화 분석을 위해 직원 의견조사, 정성 코멘트 등 비정형 데이터 수집도 늘고 있다. 많은 기업이 AI 기반 인사관리를 도입하려고 할 때, 가장 먼저 마주치는 장애물도 여기에 있다. 실제로 내부 데이터를 활용하려 하면, 어디까지 정제하고 익명화해야 하는지 실무자는 막막함을 느끼는 경우가 많다. HR 데이터는 단순히 이름과 주민번호를 가린다고 보호되는 정보가 아니다. 예를 들어 '기획팀, 대리, 1990년생, 여성'이라는 속성 조합만으로도 특정 인물을 유추할 수 있다. 개별적으로는 익명처럼 보이는 정보도, 조합되면 강력한 식별성이 생기는 것이다. 따라서 단순한 익명화 수준을 넘어, 통계적 기법에 기반한 정교한 비식별화가 필요하다. 해외에서는 k-익명성(k-anonymity), ℓ-다양성(ℓ-diversity), t-근접성(t-closeness) 같은 수학적 모델을 활용해 식별 위험을 사전에 평가하고 통제하고 있다. 또한 상담 일지나 정성 코멘트처럼 자유 서술형 비정형 텍스트는 자연어처리(NLP) 기술을 통해 별도의 비식별화 절차를 가져야 한다. 이러한 과정을 거쳐야만 AI가 데이터를 안전하게 학습하고, 예측 및 분석에 활용할 수 있다. 다행히 국내에서도 최근 몇 년 사이, HR 데이터를 안전하게 활용하기 위한 제도적 기반이 조금씩 마련되고 있다. 2020년 개인정보보호법 개정 이후 '가명정보' 개념 도입을 시작으로, 개인정보보호위원회는 2023년 민감정보 처리 가이드라인을 발표하며 인사 데이터 처리의 기본 원칙을 제시했다. 2024년에는 '가명정보 결합 전문기관 제도'도 확대 시행되며, 기업이 데이터를 안전하게 가공하고 결합·분석할 수 있는 실질적 수단도 마련되고 있다. 그럼에도 여전히 현장에서는 제도 취지는 이해하지만, 실무 적용이 어려운 경우가 많다. 특히 HR 데이터는 급여, 평가, 근태 시스템 등 여러 플랫폼에 분산돼 있고, 클라우드 기반 솔루션이나 외부 위탁 운영도 늘어나면서 데이터 처리 책임의 경계가 모호해지는 경우가 발생한다. 많은 기업이 AI 기반 인사관리 도입을 계획하지만, 실제로는 '데이터 처리 단계'에서 멈추는 경우가 적지 않다. 기술은 준비돼 있어도 데이터를 정제하고 보호할 역량이나 인력이 부족하기 때문이다. 특히 중견·중소기업은 인사 담당자가 평가, 채용, 노무, 급여 등 다양한 업무를 동시에 수행하고 있어 데이터 거버넌스와 개인정보 보호까지 함께 담당하기엔 현실적 제약이 크다. 또 외부 솔루션을 도입하더라도 계약서에 명확한 보안 조항이나 데이터 비식별화 기준이 포함되지 않으면 추후 문제가 발생했을 때 대응이 어렵다. 기업 내부에서 실무자, 법무팀, 보안팀 간 역할과 책임을 계약서나 내부 지침에 따라 명확히 정립해야 하지만, 아직 이를 위한 체계를 갖추지 못한 기업이 많다. 기업이 HR 데이터를 안전하게 활용하기 위해서는 실무자 차원에서 ▲데이터 분류 ▲속성 조합의 식별 가능성 평가 ▲비정형 데이터 유무 확인 ▲외부 위탁 시 계약서 책임 조항 검토 ▲재식별 검증 및 로그 보관 체계 ▲AI 분석 목적일 경우 최소 정보 수집 여부 등을 확인해야 한다. 이런 체크리스트는 단순히 개인정보 보호법 준수를 위한 항목이 아니라, 조직 내 구성원 신뢰를 구축하고 인재 데이터를 전략적으로 활용하기 위한 기본 인프라다. 휴먼컨설팅그룹은 휴넬·제이드·탈렌엑스 등 자사 HR 솔루션에 이러한 요건을 체계적으로 반영해, HR 데이터 보호와 활용의 균형을 실현하고 있다. 인재 데이터를 다룬다는 것은 곧 구성원 한 사람 한 사람의 민감한 정보를 마주한다는 의미다. 이는 단순한 기술 문제를 넘어 조직의 윤리 수준과 신뢰 문화를 드러내는 지표이기도 하다. HR 데이터의 비식별화는 인사 실무자, 경영진, 보안 책임자 모두가 공동으로 고민하고 협업해야 할 과제다. “데이터 보호는 곧 구성원 보호”라는 인식이 조직 문화에 뿌리내릴 때, 기업은 비로소 AI를 진정한 HR 파트너로 받아들일 준비를 마쳤다고 할 수 있다.

2025.07.31 08:30허욱 컬럼니스트

굿모닝아이텍, 씨그래스 손잡고 AI 시대 '데이터 지킴이' 입지 강화

굿모닝아이텍이 인공지능(AI) 기반 데이터 거버넌스 분야 전문성과 경쟁력 강화에 나선다. 굿모닝아이텍은 씨그래스와 전략적 업무협약(MOU)을 체결했다고 25일 밝혔다. 이번 협약은 AI 시대의 핵심 자산인 데이터를 보다 안전하고 효율적으로 활용하기 위한 비전 아래 추진됐다. 최근 생성형 AI와 자동화 기술의 급속한 확산으로 데이터 활용의 폭과 깊이가 확대되는 가운데 개인정보 보호와 데이터 거버넌스의 중요성도 함께 주목받고 있다. 굿모닝아이텍은 씨그래스의 고도화된 개인정보 데이터 거버넌스 솔루션을 자사 클라우드·빅데이터·AI·정보보호 기술과 융합해 기업 고객에게 AI에 최적화된 데이터 관리·보호 체계를 제공할 계획이다. 또 이번 협약을 계기로 AI 시대의 데이터 활용과 보호를 동시에 실현하는 혁신적 모델을 제시하며 국내외 데이터 거버넌스 시장에서의 입지를 더욱 공고히 한다는 방침이다. 협약을 통해 양사는 AI 시대의 데이터 전략을 주제로 한 공동 프로모션 및 디지털 세미나·웨비나 등을 함께 기획·운영해 고객과의 접점을 확대하고 시장 인지도를 제고해 나갈 계획이다. 또 기술 및 인력 교류를 적극 추진해 AI 기반 데이터 거버넌스 분야에서의 전문성과 경쟁력을 강화하고 나아가 지속 가능한 혁신 생태계 구축을 위한 협력 체계를 공고히 해 나갈 방침이다. 이주찬 굿모닝아이텍 대표는 "AI 중심의 디지털 전환 시대에 개인정보 보호는 단순한 규제 대응을 넘어 기업의 지속 가능성과 신뢰를 좌우하는 핵심 요소"라며 "씨그래스와의 협력을 통해 고객에게 보다 지능적이고 안전한 데이터 관리 환경을 제공하고 국내외 데이터 거버넌스 시장을 선도해 나가겠다"고 밝혔다. 박성수 씨그래스 대표는 "굿모닝아이텍의 기술력과 시장 영향력은 씨그래스의 솔루션이 AI 시대에서 더 큰 가치를 창출하는 데 중요한 기반이 될 것"이라며 "이번 협약을 통해 양사가 함께 성장하고 고객의 데이터 전략 성공을 적극 지원하겠다"고 말했다.

2025.07.25 15:22한정호 기자

과기정통부 '장·차관 원팀'…이틀간 '인프라·데이터' 족쇄 풀기 총력전

과학기술정보통신부 새 지도부가 인공지능(AI) 산업 육성을 위해 규제 혁신에 집중하고 있다. AI 3대 강국(G3) 도약을 위해 핵심 기반인 인프라와 데이터 분야의 해묵은 과제를 해결하겠다는 목표를 분명히 한 것이다. 25일 업계에 따르면 과학기술정보통신부는 이틀간 장관과 차관이 연이어 현장을 찾아 업계 의견을 수렴했다. 배경훈 장관은 지난 24일 AI 데이터센터(AIDC) 관련 기업들과, 류제명 제2차관은 이날 데이터 규제 관련 기업 및 전문가들과 각각 간담회를 가졌다. 배경훈 장관은 세종시 네이버 데이터센터에서 열린 간담회에서 AIDC를 '든든한 토양'으로 규정했다. 그는 정부가 '마중물' 역할을 해 가격 경쟁력 확보를 지원하겠다고 밝혔다. 업계는 이 자리에서 전력 공급난, 과도한 건축 규제, 높은 초기 투자 비용 등 현실적 어려움을 건의했다. 류제명 차관은 데이터 규제 혁신 간담회에서 AI 발전의 '원유'가 데이터라고 강조했다. 그는 과거 정부부터 이어진 데이터 규제 문제를 더 이상 미루지 않겠다고 선언하며 규제 샌드박스 활성화 등 구체적인 해결 의지를 보였다. 배경훈 장관, AIDC 현장 직접 찾아…'전력·규제' 문제 해결 약속 배경훈 장관은 'AIDC 현장 간담회'를 주재하며 AIDC 활성화를 가로막는 현실적 과제에 대한 업계의 목소리를 직접 들었다. 참석자들은 AIDC가 국가 경쟁력의 핵심 기반이라는 데 동의하며 전력, 규제, 비용 문제가 시급히 해결돼야 한다고 입을 모았다. 특히 안정적인 전력 공급과 비현실적 규제가 최우선 과제로 꼽혔다. 이준희 삼성SDS 사장은 현장과 맞지 않는 건축 규정과 전력 공급 문제를, 하민용 SK텔레콤 부사장은 전력구매계약(PPA) 허용을 포함한 인허가·세제 혜택 종합 정책 패키지를 요청했다. 막대한 초기 투자 비용과 사업 지연 문제도 도마에 올랐다. 김동훈 NHN클라우드 대표는 정부가 선제적으로 부지와 전력을 확보해 제공하는 모델을 제안했고 최지웅 KT클라우드 대표는 3년 이상 소요되는 구축 기간을 단축할 인허가 간소화와 설비 투자 세제 혜택이 절실하다고 밝혔다. 학계와 협회에서는 더 근본적인 해법이 제시됐다. 박윤규 정보통신산업진흥원장은 AIDC를 사회간접자본(SOC)으로 보고 관련 규제를 일괄 해결할 '특별법' 제정을, 이경무 서울대 교수는 산업계와 학계의 단절 문제 해결을 촉구했다. 이에 배경훈 과기정통부 장관은 현장 건의를 정책에 신속히 반영하겠다고 화답했다. 배 장관은 "취임 후 매일 양복을 입었지만 오늘 운동화를 신고 편하게 왔다"며 "초심을 잃지 않고 AI 문제만큼은 형식에 얽매이지 않고 유연하고 신속하게 접근하겠다는 의지를 보여드리고 싶었다"고 말했다. 류제명 차관, '데이터 족쇄' 직접 푼다…'해묵은 규제' 정면돌파 선언 류제명 제2차관은 AI 발전에 필수적인 데이터 문제를 해결하기 위해 기업 및 법률 전문가들과 머리를 맞댔다. 류 차관은 AI 발전의 '원유'가 데이터라고 강조하며 과거 정부부터 이어진 데이터 규제 문제를 더 이상 미루지 않겠다는 뜻을 분명히 했다. 그는 "이 문제를 계속 끌고 시간을 낭비할 시간이 없다"며 "데이터 규제 분야의 날카로운 비평가로 꼽히는 구태언 변호사에게 발제를 맡긴 것 역시 문제를 회피하지 않고 제대로 부딪쳐 해결하겠다는 의지였다"고 설명했다. 이어 간담회에 참석한 업스테이지, 루닛 등 AI 기업들은 현실적인 어려움을 설명했다. 업계는 혁신적인 아이디어를 사업화하는 과정에서 여전히 데이터 관련 규제가 제약 요인이 되고 있다고 밝히며 공공 데이터 활용을 위한 규제 샌드박스 활성화 등을 제언했다. 이에 류 차관은 이번 간담회가 일회성 행사가 아님을 분명히 했다. 류제명 과기정통부 제2차관은 "데이터 문제는 한두 번의 간담회로 끝낼 문제가 아니고 장애물 제거 작업을 끝낼 때까지 해야 하는 이슈"라며 "국가AI위원회를 중심으로 데이터 규제 혁신이 차질 없이 추진되도록 최선을 다하겠다"고 강조했다.

2025.07.25 11:34조이환 기자

[현장] 류제명 차관, 취임 후 매주 현장으로…"AI 데이터 규제, 이번엔 끝장 본다"

류제명 과학기술정보통신부 제2차관이 인공지능 3대 강국(AI G3) 실현을 가로막는 데이터 규제 문제를 정면 돌파하겠다고 선언했다. AI 산업 발전의 최대 걸림돌로 꼽혀온 해묵은 과제를 더는 미루지 않고 신속하게 해결하겠다는 의지를 내비친 것이다. 과기정통부는 25일 서울 마포 SW마에스트로 센터에서 열린 'AI 3대 강국을 위한 데이터 규제 혁신 현장 간담회'를 주재했다. 이날 간담회는 과기정통부가 한국지능정보사회진흥원(NIA)이 공동 주최했으며 류제명 차관 취임 후 매주 이어지는 릴레이 현장 소통의 일환이다. 류 차관은 AI 발전의 가장 중요한 '원유'가 데이터라고 정의했다. 그는 컴퓨팅 자원 확보나 인재 양성도 중요하지만 데이터 문제가 해결되지 않으면 심각한 장애물이 될 수밖에 없다고 진단했다. 그는 데이터 규제 논란이 한두해 있었던 게 아니라고 짚었다. 지난 문재인 정부의 4차산업혁명위원회와 지난 정부의 디지털플랫폼정부위원회 등에서 많은 노력이 있었지만 여전히 해결되지 않은 문제가 많다는 지적이다. 류 차관은 "이 문제를 계속 끌고 시간을 낭비할 시간이 없다"며 "배경훈 장관 등 새 지도부가 출범한 직후 현장 간담회를 연 것도 속도감 있는 문제 해결을 위한 것"이라고 설명했다. 그는 최근 발표된 미국 정부의 'AI 액션 플랜'을 예로 들었다. 해당 계획 역시 AI 혁신 가속화를 위해 규제 해결을 첫손에 꼽았다며 글로벌 흐름에 맞춘 신속한 대응의 중요성을 강조했다. 이날 참석한 업스테이지, 루닛, 더존비즈온 등 AI 기업들은 데이터 확보의 현실적인 어려움을 설명했다. 업계는 혁신적인 아이디어를 사업화하는 과정에서 여전히 데이터 관련 규제가 제약 요인이 되고 있다고 밝히며 공공 데이터 활용을 위한 규제 샌드박스 활성화 등을 제언했다. 류제명 과기정통부 제2차관은 "한두 번의 간담회로 끝낼 문제가 아니고 장애물 제거 작업을 끝낼 때까지 해야 하는 이슈"라며 "현장의 목소리를 반영해 구체적인 정책 과제를 발굴하고 국가AI위원회를 중심으로 규제 혁신을 차질 없이 추진하겠다"고 밝혔다.

2025.07.25 11:15조이환 기자

스캐터랩, '이루다' 개인정보 소송 1심 패소…"사업엔 영향 없어"

인공지능(AI) 플랫폼 '제타'의 흥행으로 성장을 이어가던 스캐터랩이 과거 '이루다' 챗봇 개발 당시 수집된 메신저 데이터를 둘러싼 법적 책임을 일부 인정받으면서 논란이 재점화됐다. 회사 측은 이번 판결이 현재 수익 구조나 사업 전략에 실질적 영향을 미치진 않는다는 입장이다. 15일 업계에 따르면 서울동부지법은 지난달 스캐터랩이 이용자 동의 없이 수집한 메신저 데이터를 AI 챗봇 '이루다' 개발에 활용한 점을 문제 삼아 일부 손해배상 책임을 인정했다. 해당 데이터는 자사 연애 심리 분석 앱을 통해 수집한 것이었다. 이 판결은 지난 2021년 제기된 246명 규모의 집단소송 1심 결과로, 법원은 실제 문장 유출 여부가 확인되지 않은 경우에도 개인정보가 사전 동의 없이 활용된 점을 고려해 원고 일부에게 10만~40만원의 위자료 지급을 명령했다. 배상 총액은 약 2천만원 규모인 것으로 알려졌다. '이루다'는 지난 2020년 스캐터랩이 출시한 AI 챗봇으로, 20대 여성 캐릭터 콘셉트로 설계됐다. 자연스러운 대화 능력으로 화제가 됐지만 학습에 사용된 대화 데이터가 개인정보 동의 없이 수집된 정황이 드러나며 출시 한 달 만에 서비스가 중단됐다. 스캐터랩은 항소 의사를 밝혔다. 회사 관계자는 "전반적으로 더욱 정교한 법리적 검토와 논의가 이뤄질 것으로 예상된다"며 "이번 판결은 단순 금액 문제가 아니라 법률적 판단과 절차의 일환으로 보고 있다"고 밝혔다. 사업적 영향에 대해서도 선을 그었다. 같은 관계자는 "현 시점에서 실질적인 영향은 크지 않을 것으로 본다"며 "소송 제기 시점은 약 3년 전으로, 이미 관련 시정명령을 모두 이행 완료했고 청구액 중 일부만 인정된 점 등을 고려하면 현재 사업 구조 내에서는 큰 변화가 없을 것"이라고 설명했다. 이루다 개인정보 수집 방식에 대한 비판은 지난 2020년 제기된 바 있다. 스캐터랩은 지난 2022년 10월 '이루다 2.0' 출시 시점에 맞춰 개인정보 제공 동의 절차 등을 전면 수정했다고 밝힌 상태다. 이후 방송통신위원회의 '생성 AI 이용자 가이드라인'에 회사 운영정책이 모범 사례로 다수 포함됐으며 개인정보보호위원회의 민관 협의체에도 지속적으로 참여 중이라는 설명이다. 이번 판결은 스캐터랩이 3분기 연속 흑자를 발표한 직후에 나왔다. 가장 최근 분기 기준 매출 52억원, 영업이익 8억7천만원을 기록했다. 스캐터랩 관계자는 "이번 소송은 과거 이슈에 대한 법적 검토일 뿐 현재 사업 흐름과는 직접적 연관성이 없다"며 "시정조치 완료 이후 책임 있는 운영을 위해 꾸준히 제도권과 협의해오고 있으며 향후에도 AI 윤리를 기반으로 서비스를 개선해나가겠다"고 말했다.

2025.07.15 14:49조이환 기자

AI시대 개인정보 보호 입법방향 토론회 열린다

국회 정무위원회 소속 국회의원 김남근, 김승원, 김용만, 김현정, 민병덕, 박범계, 박찬대, 이인영, 이정문, 허영 의원이 공동으로 주최하고 한국정보통신법학회와 한국데이터법정책학회가 주관하는 'AI 시대, 개인정보 입법방향 토론회'가 오는 15일 오후 2시 국회의원회관 제3간담회실에서 열린다. 토론회는 지난해 8월 EU의 AI법 제정을 계기로 전 세계적으로 AI 규제 입법이 본격화되는 가운데, 우리나라의 AI 혁신 촉진과 개인정보 보호의 균형점을 모색하기 위해 마련됐다. 강혜경 고려대 박사가 'EU 인공지능법이 촉발한 AI 글로벌 규제 동향'을 주제로 EU, 미국, 중국, 일본 등 주요국의 AI 규제를 비교 분석하는 발제를 맡았다. 또 민경식 VeraSafe 변호사가 'AI 시대 데이터 활용과 개인정보 보호의 딜레마'를 주제로 글로벌 기업의 전략과 법적 쟁점을 발표한다. 이성엽 고려대 교수(한국정보통신법학회장)가 좌장을 맡아 진행되는 토론에는 심우민 경인교대 교수, 윤아리 김앤장 법률사무소 변호사, 이진규 네이버 전무, 오병일 진보네트워크센터 대표, 공진호 과학기술정보통신부 인공지능기반정책과장, 김직동 개인정보보호위원회 개인정보보호정책과장이 참여한다. 토론회를 주관한 이성엽 고려대 교수는 “AI 기술의 급속한 발전으로 개인정보 활용과 보호의 패러다임이 근본적으로 변화하고 있다”며 “대규모 데이터 학습을 기반으로 하는 AI 시대에 맞는 새로운 개인정보 보호 법제를 설계해 혁신을 저해하지 않으면서도 정보주체의 권리를 보장하는 균형 잡힌 입법 방향을 모색해야 한다”고 말했다.

2025.07.11 15:47박수형 기자

"AI 발달로 나도 모르게 개인정보 불법 수집"

'인공지능(AI)이 발달해 나도 모르게 개인정보를 불법으로 수집하게 됐다'는 기업이나 기관 개인정보처리자에게 위법 기준이 제시됐다. 권헌영 고려대 정보보호대학원 교수는 28일 서울 삼성동 코엑스에서 열린 '개인정보 보호 페어(PIS FAIR) 2025'에서 '인공지능과 개인정보 처리의 주요 쟁점 대응 방안'을 발표했다. 권 교수는 “AI 시대에 개인정보 이용 방식도 바뀌고 있다”며 “정보 주체가 누군지 모르는 상황이었지만 AI로 누군지 식별돼 버리면 개인정보처리자는 불법을 저지르게 된다”고 말했다. 그러면서 AI 시대 저절로 수집되는 개인정보를 보호하는 방법을 안내했다. 우선 공개된 개인정보를 수집·이용할 수 있는 기준을 지키면 된다. 공공의 이익, 처리 필요성 등이다. 가명정보도 방안 중 하나지만 실효성은 적다고 평가된다. 권 교수는 “한국에서는 가명정보도 개인정보로 취급해 개인정보보호법으로 규제한다”며 “가명으로 처리하는 이유는 수집 목적 아닌 이유로 쓰려는 것인데, 수집 목적 아닌 이유로 쓰려면 동의 받아야 해서 이 과정이 돌고 돈다”고 짚었다. AI로 세상이 바뀌었지만 관행을 이어가는 일은 올바르지 않다고 봤다. 권 교수는 “첨단 기술을 활용해 개인정보를 쓰면서도 동의서 받는 법적 체계는 옛날식”이라며 “종이로 서명하면 사람이 부인하지 않을 거라 생각하고, 디지털로 서명하면 나중에 부정할까 봐 그러는 것 같다”고 분석했다. 그는 “정보 주체로부터 '당신의 개인정보를 이렇게 쓰겠습니다'라며 수집 동의 받는다”며 “최근 문제는 안 받아도 될 동의까지 받는 점”이라고 지적했다. 이어 “다른 목적으로 쓸 때에만 개인정보 제공 동의를 받으면 된다”며 “버스에 타 교통카드 찍을 때마다 '나는 누구고, 어디서 타서 어디에 내릴 테니 개인정보 내는 데 동의한다'고는 안 한다”고 설명했다.

2025.05.28 15:37유혜진 기자

피규어·지브리 프사 만들기?…"챗GPT 개인정보 유출 위험"

인공지능(AI) 챗봇 '챗GPT'로 유행 따라 사진을 피규어나 일본 지브리스튜디오 애니메이션처럼 만들다가는 개인정보를 털릴 수 있다고 미국 잡지 와이어드는 1일(현지시간) 보도했다. 운영사 오픈AI는 새로운 GPT-4o 기반 이미지 생성기로 챗GPT의 사진 편집, 텍스트 렌더링 기능을 키웠다고 와이어드는 평가했다. 챗GPT 무료 계정과 사진만 있으면 재미있고 쉽게 이미지를 만들 수 있다. 그러나 피규어나 지브리 같은 그림을 만들려면 오픈AI에 많은 정보를 넘겨야 한다고 와이어드는 지적했다. 오픈AI는 이 정보로 인공지능을 학습시킬 수 있다. 유럽 OPIT(Open Institute of Technology)의 톰 바즈다 사이버보안학과장는 “챗GPT에 사진을 올릴 때마다 메타데이터 덩어리를 넘겨주는 셈”이라며 “사진 촬영 시간, 촬영 장소의 (GPS) 좌표 등 그림 파일에 첨부된 정보가 포함된다”고 말했다. 메타데이터(Metadata)란 다른 정보를 나타내는 정보를 뜻한다. 오픈AI는 챗GPT에 접속하는 기기 정보도 모으는 것으로 알려졌다. 기기 유형, 운영 체제, 브라우저 버전, 고유 식별자 등이다. 바즈다 학과장은 “챗GPT는 대화하듯 작동하기에 입력한 내용, 요청한 그림 종류, 인터페이스와의 상호 작용 방식, 동작 빈도와 같은 행동 정보도 수집한다”며 “생성형 AI를 훈련하는 금광”이라고 표현했다. 얼굴만 그런 게 아니다. 위험 관리 회사 GRC인터내셔널그룹의 캠든 울븐 AI제품 마케팅 책임자는 “고해상도 사진을 올리면 피사체뿐 아니라 배경, 다른 사람, 방 안의 물건, 문서처럼 읽을 수 있는 모든 것을 오픈AI에 주는 격”이라고 설명했다. 오픈AI는 생성형 AI를 학습시키려고 개인정보를 적극적으로 수집하지 않으며 인터넷 공개 정보로 사용자 프로필을 구축하고 광고하거나 정보를 팔지 않는다고 와이어드에 밝혔다. 그러나 오픈AI의 개인정보 보호 정책에 따라 챗GPT로 올라온 이미지는 보관되고, 생성형 AI를 개선하는 데 쓰일 수 있다고 와이어드는 비판했다. 챗GPT에서 정보를 지킬 가장 효과적인 방법은 채팅 기록을 끄는 일이라고 와이어드는 소개했다. 파일에서 메타데이터를 지우고 올려도 좋다. 사진 편집 도구를 쓰면 된다. 바즈다 학과장은 “사용자는 민감한 개인정보를 챗GPT에 쓰지 말고 정보를 알 수 있는 배경이 있는 사진이나 단체 사진은 올리지 말아야 한다”며 “이렇게 하면 내 정보가 챗GPT 훈련에 쓰이지 않도록 할 수 있다”고 조언했다.

2025.05.03 07:48유혜진 기자

프로파일러AI챗봇, 범죄자와 대화하고 잠복수사

“부모님이 집에 계시니? 아니면 혼자 놀고 있니?” 어떤 어른이 꼬마에게 문자 메시지를 보냈다. 이 어른은 소아성애자다. 사춘기에 접어들지 않은 어린이에게 강한 성적 욕망을 느끼는 성인을 소아성애자라 한다. “저 혼자 게임하고 있어요. 엄마와 아빠는 모두 일하러 나갔어요.” 꼬마가 답했다. 이 꼬마는 진짜 사람이 아니다. 아동 인신 매매범을 잡으려고 만든 인공지능(AI) 챗봇이다. AI 챗봇 프로필에는 소년 사진이 있다. 꼬마는 미국인 초등학생으로 설정됐다. 외동아이다. 2개 국어를 할 줄 안다. 게임하길 즐긴다. 수줍은 성격이라 여자아이를 사귈 때 특히 힘들어한다. 꼬마의 부모는 자식이 소셜미디어(SNS)를 못쓰게 한다. 부모는 에콰도르에서 이민 왔다. 부모 역시 가상 인물이다. 미국 잡지 와이어드는 17일(현지시간) 미국 경찰이 범인을 잡고자 AI 챗봇으로 범죄자와 대화한다고 정보기술(IT) 매체 404미디어를 인용해 보도했다. 미국 매시브블루라는 회사가 이 AI 챗봇 '오버워치(Overwatch)'를 경찰서에 판매하고 있다. 마이크 맥그로 매시브블루 공동창업자는 “인신 매매 피해자를 돕는 동시에 범죄자를 법의 심판대에 세우는 게 우리 목표”라고 말했다. 미국 경찰은 “오버워치로 체포한 사람은 아직 없다”면서도 “AI 챗봇은 수사를 돕는 도구”라고 평가했다. 그러면서 “인신 매매범과 마약 밀매범을 잡으려면 다양하게 접근해야 한다”고 설명했다. 매시브블루에 따르면 오버워치는 SNS를 살펴보다 용의자를 추적한다. 미국 3개 도시 댈러스·휴스턴·오스틴에서 24시간 활동해 인신 매매범 3천266명을 찾았다. 4분의 1은 인신 매매 대형 조직에 속했고, 15%는 청소년을 사고팔려는 것으로 나타났다. 매시브블루는 어떻게 식별했는지와 그들의 개인정보는 밝히지 않았다.

2025.04.19 08:00유혜진 기자

애플, 사용자 데이터 AI 학습에 쓴다…개인정보 보호 뒷전 '논란'

애플이 인공지능(AI) 기능 고도화를 위해 기기 내 사용자 실제 데이터를 활용하는 새로운 학습 방식을 추진할 예정인 것으로 알려졌다. 이는 그동안 지켜온 합성 데이터 사용 원칙을 수정한 것으로 개인정보 보호 논란이 수면 위로 떠오를 전망이다. 블룸버그는 애플이 사용자 실제 데이터와 합성 데이터를 결합해 AI 모델 훈련을 할 것이란 계획을 담은 내부 자료를 공개했다고 15일 보도했다. 해당 문서명은 '차등 개인정보 보호 기반 집계 경향 분석'이며 새로운 데이터 활용법이 주요 내용이다. 애플의 기존 AI 모델 훈련법은 사용자의 실제 데이터와는 무관한 합성 데이터만을 활용하는 방식이었다. 개인정보 유출 위험은 없었지만, 실제 이용자 언어 패턴이나 문맥 흐름을 반영하는 데 한계가 있었다. 문서에 따르면 새 훈련법은 실제 사용자 데이터를 분석해 이와 비슷한 합성 데이터를 만드는 것이다. 사용자 메시지와 기존 합성 데이터를 비교·분석해 유사도와 반복되는 표현을 파악하는 식이다. 이를 통해 자연스러 언어 흐름과 표현 습관을 AI 모델이 더 정확히 학습하는 것이 목표다. 이 방식은 iOS 18.5와 맥OS 15.5 베타 버전에 우선 적용될 예정인 것으로 전해졌다. 블룸버그는 "이메일처럼 민감한 데이터가 간접적으로 학습 재료로 활용된다"며 "향후 법적·윤리적 논란을 불러올 수 있다"고 지적했다. 다수 외신도 애플이 이 변화를 시도하는 배경에는 경쟁사 대비 뒤처진 AI 개발 속도에 대한 위기감이 작용했다고 분석했다. 실제 애플의 AI 비서 '시리(Siri)' 관련 주요 기능 출시가 연이어 연기되면서, 업계에서도 애플을 'AI 후발주자'로 평가하는 분위기다. 최근 시리 부문 핵심 경영진까지 교체됐다. 애플은 "모든 분석 과정에 '차등 개인정보 보호(differential privacy)' 기술을 적용해 사용자 개개인을 식별할 수 없도록 설계했다"며 "수집된 정보는 기기 밖으로 나가지 않는다"고 해명했다. 그러면서 "해당 기능은 사용자가 명시적으로 동의해야만 작동된다"며 "설정 과정에서 이를 비활성화할 수 있다"고 덧붙였다.

2025.04.15 18:12김미정 기자

[기고] AI 혁신 속 개인정보 보호

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 이제 우리의 일상생활 속에는 인공지능(AI)이 깊숙이 자리잡고 있다. 과학기술정보통신부가 지난 3월 발표한 '2024년 인터넷이용실태조사'에 따르면 응답자의 60.3%가 AI 서비스를 이용한 경험이 있다고 답했다. 이는 2021년 동일한 질문에 대해 32.4%가 AI 서비스를 이용한 경험이 있다고 응답한 것과 비교하면 불과 3년 사이에 거의 두 배 가까이 증가한 수치다. 단편적인 조사 결과지만 AI가 얼마나 빠르게 우리의 삶 속으로 스며들었는지 짐작할 수 있다. AI가 단순한 기술의 범주를 넘어 삶의 필수 요소로 자리 잡게 된 배경에는 방대한 양의 데이터 학습 및 활용이 있다. 이러한 데이터에는 당연히 개인정보가 포함돼 있다. 신기술 분야의 발전은 필연적으로 데이터에 대한 높은 의존도를 수반하기에 변화하는 산업 환경에 맞춰 법과 제도를 정비할 필요가 있다. 또 정보주체의 권리를 보호하면서 개인정보를 안전하고 가치 있게 활용할 수 있는 기반을 마련하는 것이 중요하다. 개인정보보호위원회는 이러한 흐름에 발맞춰 AI 응용서비스에서 발생할 수 있는 개인정보 보호 취약점을 사전에 점검하고자 '사전 실태점검'을 실시하고 있다. 이는 AI 서비스의 개인정보 처리에 있어 투명성과 책임성을 확보하고 정보주체의 권리 보장 및 서비스의 안정적 운영에 기여하기 위한 조치라 할 수 있다. 기업 입장에서는 실태점검의 내용을 검토함으로써 AI에서의 개인정보 활용 및 보호를 위한 준수사항 등을 명확히 확인하고 실천할 수 있다. 일례로, 공개된 데이터를 활용해 AI 모델을 학습시키는 과정에서 주민등록번호나 여타 고유식별정보, 신용카드 번호와 같이 유출 시 피해가 클 수 있는 개인정보가 포함될 수 있다. 이 경우 사전 삭제 또는 비식별화 조치 등을 통해 유출 위험을 방지하는 등 개인정보를 안전하기 관리하기 위한 조치가 수반돼야 한다. 또 이용자 입력 데이터를 처리하는 과정에서 사람이 직접 해당 데이터에 접근하거나 검토를 수행하는 경우에는 이용자가 이를 인지하기 어렵다. 이에 따라 이용자로부터 미리 동의를 받는 것에는 어려움이 있고 이러한 사실을 명확하게 고지하는 것이 바람직하다. 아울러, 이용자가 입력한 데이터를 손쉽게 삭제하거나 처리 중단을 요청할 수 있도록 하는 기능도 함께 제공돼야 한다. 이에 더해 AI 서비스와 관련된 개인정보 처리의 전반에 있어 개인정보처리방침 등을 구체적으로 명시하고 관련 법령에 따른 안전조치의무를 준수해야 한다. 또 개인정보의 적법 처리 근거도 다양화할 필요가 있다. AI 모델 학습 등 연구 개발의 특성을 고려할 때 정보주체의 동의에만 의존하기보다는 개인정보처리자인 AI 서비스 사업자의 정당한 이익 등 다른 법적 근거를 함께 검토하는 것이 적절하다. 이러한 접근은 기술혁신을 위축시키지 않으면서도 정보주체의 자기결정권 등 권리를 보호하고 개인정보를 보다 안전하고 책임 있게 활용할 수 있는 토대가 된다. AI 서비스를 위한 데이터의 처리는 기술 발전의 핵심이자 경쟁력의 원천이지만 그 이면에 존재하는 개인정보 보호 문제를 소홀히 해서는 안 된다. AI에 대한 관심을 바탕으로 기술의 발전과 함께 신뢰할 수 있는 환경을 조성하기 위한 노력이 필요하다.

2025.04.11 16:46법무법인 태평양 이강혜 컬럼니스트

오픈소스 AI 잇달아 등장···보안은?

중국 인공지능(AI) 스타트업이 만든 고성능 AI 제품 '딥시크(DeepSeek)'가 미국 오픈AI의 '챗GPT'보다 저렴한 비용으로 개발됐다는 소식이 세상을 놀라게 했다. 특히 딥시크는 오픈소스로 공개, 더 화제를 모았다. 오픈소스 소프트웨어는 소스 코드를 공개해 누구나 그 코드를 보고 쓸 수 있는 소프트웨어를 뜻한다. 하지만 딥시크는 정보가 빠져나갈 수 있다는 우려도 함께 낳았다. 미국은 해군이 발빠르게 딥시크를 못 쓰게 막았고, 한국도 국방부·외교부·산업통상자원부·과학기술정보통신부 등과 KB국민은행·하나은행·우리은행·케이뱅크 등 은행, 현대자동차그룹 등 기업이 금지했다. 개인정보위원회는 딥시크 사용을 공식적으로 금지하기도 했다. 국가정보원은 딥시크를 검증했더니 ▲과도하게 개인정보를 수집하고 ▲입력 정보를 학습 정보로 쓰며 ▲광고주와 정보를 공유하는 한편 ▲국외 서버에 저장하는 문제점을 확인했다고 밝혔다. 딥시크의 보안 우려는 오픈소스를 사용했기 때문이기도 하다. 오픈소스를 사용한 AI는 보안에 안전할까? 전문가들은 “딥시크 같은 게 어떤 질문을 받으면 이상하게 답하는지 살펴야 한다”고 조언한다. 줄잇는 오픈소스 AI...LG·딥시크·메타·미스트랄 등 잇달아 선보여 오픈소스는 모두에게 열린 자원이므로 이를 활용하면 비교적 저렴한 비용으로 AI 모델을 개발할 수 있다. 중국 딥시크와 미국 메타(페이스북 모회사), 프랑스 미스트랄 등 오픈AI보다 늦게 뛰어든 기업들이 줄줄이 무기를 들고 나올 수 있는 배경이다. 한국도 빠지지 않았다. LG AI연구원은 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아 개발자 콘퍼런스(GTC)에서 '엑사원 딥'을 선보이며 오픈소스 플랫폼에 배포했다. 엑사원 딥은 단순한 지식 기반이 아니라 스스로 가설을 세우고 이를 검증하는 방식으로 문제를 푼다. 미국 AI 스타트업 글리터컴퍼니는 최근 메타 '라마' 오픈소스를 쓰기 시작했다. 라마가 무료인 덕에 오픈AI 모델만 쓸 때보다 모델 사용료를 70% 아낀 것으로 알려졌다. 다만 악성 AI '웜GPT(WormGPT)' 같은 것까지 만들 수 있다는 단점이 치명적이다. 웜GPT는 오픈소스로 만들어진 해킹 도구다. 챗봇에게 “이 사이트를 공격하자”거나 “악성 파일을 만들자”고 시킬 수 있다. 기자도 일전에 '보안 초짜기자 해킹 체험기'를 쓰려고 인터넷에서 쉽게 내려받을 수 있었다. 이처럼 누구나 손댈 수 있는 위험물이다. 전문가들 "AI, 정보 모을수록 두 얼굴...보안 취약점이 발견되면 누군가 해킹 도구 만들어 뿌려" 전문가들은 AI가 정보를 모으는 게 양날의 칼이라고 짚었다. 세종사이버대 정보보호학과 교수인 박영호 한국정보보호학회장은 “AI는 정보를 먹을수록 커진다”며 “그만큼 개인정보가 빠져나가는 게 문제”라고 말했다. 내가 유튜브로 언제, 어디서, 무슨 영상을 보는지가 전부 정보라는 얘기다. 알고리즘으로 사용자의 취미나 정치 성향도 알 수 있다. 순천향대 정보보호학과 명예교수인 염흥열 한국개인정보보호책임자(CPO)협의회장은 “오픈소스 취약성을 이용해 AI 보안 시스템을 공격하면 AI가 의도된 대로 동작하지 않고 탈옥 등의 방법으로 악성코드나 대규모 살상 무기 등을 만드는 데 악용될 수 있다”며 “AI가 처리하는 개인정보를 빼돌리도록 쓰일 수도 있다”고 분석했다. 윤두식 이로운앤컴퍼니 대표도 “딥시크 같은 게 어떤 질문을 받으면 이상하게 답하는지 살펴야 한다”며 “학습된 개인정보를 추출하거나 편향적인 답변을 유도하고 악성코드나 무기 제조법 등을 만들라고 이끌어 AI가 나쁘게 답변하는지 점검할 수 있다”고 설명했다. 그러면서 “딥시크 사이트 사용자의 개인정보와 그가 입력한 기록 등이 다른 사이트에 퍼지면 개인정보가 유출되는 셈”이라고 덧붙였다. 이로운앤컴퍼니는 AI 보안 수준을 높이는 서비스를 제공하는 회사다. 이희찬 스틸리언 연구소장은 “오픈소스 AI 행위를 예측하기 어려워 취약점을 검증하기도 힘들다”며 “소스 코드가 공개됐더라도 AI 모델이 복잡하다”고 진단했다. 스틸리언은 모바일 앱 보안 솔루션을 공급하는 업체다. 김택완 한국오픈소스협회장은 “애플이 운영체제 'iOS' 보안이 취약하다고 알아채면 개선해 알려준다”며 “오픈소스 모델은 누가 공지하지 않아 사용자가 스스로 '새로고침' 않으면 취약한 옛 모델을 계속 쓸 수밖에 없다”고 지적했다. 또 “보안 취약점이 발견되면 누군가 해킹 도구를 만들어 뿌린다”며 “해커가 이 도구로 10군데 시도하다가 1군데라도 뚫리면 해킹된다”고 지적했다. 이화영 사이버안보연구소 부소장은 “오픈소스 AI 모델 보안이 취약한지 알아보려면 LLM 정보를 아는 게 먼저”라며 “서비스 구조와 정보 흐름을 파악하고 LLM 애플리케이션을 운용할 때 일어날 수 있는 위협을 예상해 목록을 짤 필요가 있다”고 조언했다. 또 “조직에서 오픈소스를 얼마나 활용하는지 판단하고, 오픈소스에서 보안을 위협하는 요소를 살펴봐야 한다”고 권유했다. "LLM방화벽·필터 등으로 점검" 전문가들은 '내가 무슨 AI 도구의 어떤 버전을 쓰는지' 스스로 지켜보다가 새로운 버전을 찾으면 고쳐 써야 한다고 입을 모았다. AI를 안전하게 쓸 수 있는 인터넷 환경도 주문했다. 김택완 오픈소스협회장은 “우리는 수많은 소프트웨어를 쓰고 버전도 쏟아지는 만큼 업데이트 우선순위를 정하는 게 좋다”며 “내가 쓰는 소프트웨어가 내게 얼마나 중요한지, 얼마나 자주 쓰는지, 내 시스템을 얼마나 망가뜨리는지 위험도를 생각해야 한다"고 권했다. 이희찬 연구소장은 “오픈소스 AI를 외부에서 접속할 수 없는 내부망에서 활용하거나 AI 안전 수준을 높이는 기술(AI safety)을 적용해야 한다"고 조언했다. 염흥열 교수는 “인공지능 시스템을 개발하고 운영하는 조직은 AI 관리 체계를 갖춰야 한다”며 “무엇이 인공지능 시스템을 위협하는지 식별해 꾸준히 감시해야 한다”고 진단했다. 이어 “국제표준(ISO/IEC 42001)에 근거한 인공지능 관리 체계를 제3자 인증기관으로부터 인증받는 것도 방법”이라고 예를 들었다. 윤두식 대표는 ▲사용자 요청과 응답으로 말미암아 민감한 정보를 가려내고 없애는 '거대언어모델(LLM) 방화벽' ▲AI 모델에 전달되는 입력을 미리 점검해 금지된 정보를 막는 '프롬프트 필터링(Prompt Filtering)' ▲모델이 학습할 때 개인정보가 포함되지 않게끔 '학습 정보 정제' ▲생성된 응답을 실시간 살펴봐 부적절한 응답을 막는 'LLM 결과 필터링'을 해결책으로 꼽았다. 이화영 부소장은 “AI 모델 출력 결과나 학습 정보에 민감한 내용이 이씨는지 점검할 필요가 있다”며 “악성코드 탐지, 스팸 메일 필터링, 비정상적인 네트워크 트래픽 탐지 같은 사이버 보안 작업에 AI를 활용하는 것도 방법”이라고 말했다. 박영호 교수는 “브레이크가 좋아야 자동차를 안전하고도 빠르게 몰 수 있듯 AI를 활발하게 쓰려면 윤리 의식과 제도가 뒷받침돼야 한다”며 “이미 모든 기기에 사물인터넷(IoT)을 쓰는 만큼 안전 수준도 높여야 한다”고 강조했다.

2025.03.18 16:22유혜진 기자

[보안리더] 박영호 정보보호학회장 "보안은 브레이크···기업 보안인력 적어"

“자동차가 빠르게 달리다가도 성능 좋은 브레이크를 밟으면 사고를 막을 수 있습니다. 정보 보호도 마찬가지예요. 안전이 담보되면 효율성을 높일 수 있죠.” 박영호 한국정보보호학회장(세종사이버대 정보보호학과 교수)은 13일 서울 광진구 세종사이버대 연구실에서 지디넷코리아와 만나 보안을 차 브레이크에 빗대며 이같이 말했다. 박 회장은 학·석·박사 학위를 모두 고려대 수학과에서 받았다. 암호에 관심이 많았다. 대통령실 사이버특별보좌관인 임종인 고려대 정보보호대학원 교수로부터 배웠다. 박사까지 마치고 임 교수가 2000년 고려대에 정보보호대학원을 만들 때 연구교수로서 힘을 모았다. 2002년 세종사이버대가 정보보호학과를 만들고 싶다며 박 회장을 불렀다. 수학 좋아하는 소년이었던 그는 20년 넘게 후학을 기르는 정보보호 전문가가 됐다. 아래는 박 회장과의 일문일답. -한국정보보호학회는 무슨 활동을 하나? "과학기술정보통신부 산하 학회다. 1990년에 생겼다. 학회원은 7천명으로, 대부분 교수다. 여름과 겨울 1년에 두 차례 국내 학술대회를 연다. 석·박사들이 논문을 발표한다. 국제 학술대회도 매년 2번 치른다. 여름 제주도에서 '국제 정보보호 응용 학술대회(WISA)', 겨울 서울에서 '국제 정보보호 암호 학술대회(ICISC)'를 한다. 매년 4월에는 정보보호학회가 가장 중요하다고 생각하는 '정보통신망 정보보호 콘퍼런스(NetSec-KR, 넷섹-KR)'를 개최한다. 올해에는 다음 달 17일부터 이틀 동안 서울 삼성동 코엑스에서 산·학·연 관계자 1천300명이 모이기로 했다. 미국 구글 정보보호최고책임자(CISO)에게서 구글이 어떻게 개인정보를 지키는지 들을 참이다. 한국인이 가장 많이 쓰는 응용 프로그램이 동영상 앱 '유튜브'니까." -끊임없는 개인정보 유출 사고에 어떻게 대응해야 하나? "기업이 돈 벌 때에는 보안을 뒷전으로 미루는 경향이 있다. 그러니 개인정보 유출 사고가 줄줄이 터질 때마다 큰일이다. 모든 것이 온라인으로 이어져서다. 기업에 정보보호 인력이 적다. 하물며 대기업도 그런데, 중소기업은 더 힘든 실정이다. 전산 담당자에게 CISO를 맡기곤 한다. 작정하고 뚫으려는 해커를 막기 어렵다. 정부가 '정보보호 전문가 10만 양병설'을 들고 나왔으니 제대로 했으면 한다. 처벌이 강해도 기업이 조심할 것이다. 미국처럼 한국에도 징벌적 손해배상 제도가 있다면 어떨까. 소비자는 어느 회사 상품을 썼을 뿐인데 개인정보가 빠져나가 피해 입었다면 기업이 정당한 대가를 치러야 한다. 그럼에도 해킹을 아예 막을 수는 없다. 창이 있으면 이를 막으려는 방패가 있고, 방패가 있으면 이를 뚫으려는 창이 있기 마련이다. 결국 복원력을 발휘하는 게 중요하다. 정보 보호 기술에 투자해 피해를 최소한으로 줄이는 것이다. 소비자 개인정보가 새더라도 기업이 이를 암호로 만들어 보관했다면 훨씬 안전하다." -'웜GPT'처럼 오픈소스를 악용한 인공지능(AI)에 무슨 문제가 있나? "몇 년 전 중학생이 부산 한 언론사 전광판에 '조선일보 전광판, 중학생한테 다 털렸죠?'라는 글을 띄웠다. 해킹 도구를 인터넷에서 어둠의 경로로 내려받아 실행한 것이다. 이처럼 AI로도 해킹 도구를 만들 수 있어서 우리 학회가 연구하고 있다. 오픈소스는 잘 쓰면 약이다. 세계적인 회사가 엄청나게 많은 돈을 쏟아 '챗GPT'를 만드는 반면 가난한 나라는 그러기 어려웠다. 그런데 중국에서 '딥시크'가 오픈소스를 활용해 챗GPT보다 저렴한 비용으로 개발됐다는 소식이 알려졌다. 곧바로 정보가 탈취될 수 있다는 우려도 커졌다. 보안을 해결하지 않으면 심각해질 수 있다. AI는 정보를 먹을수록 커진다. 그만큼 개인정보가 빠져나가는 게 문제다. 내가 유튜브로 언제, 어디서, 무슨 영상을 보는지가 전부 정보다. 알고리즘으로 사용자의 취미나 정치 성향도 알 수 있다. 차가 빠르게 달리려면 브레이크가 좋아야 하듯 AI를 활발하게 쓰려면 윤리 의식과 제도가 뒷받침돼야 한다. 이미 사물인터넷(IoT)을 안 쓰는 기기가 없다. 세상이 달라졌으니 안전 수준도 높여야 한다."

2025.03.14 16:20유혜진 기자

넥슨 '메이플스토리' 해킹 후…범죄기록부 쓴 AI스페라

“제가 전에 다닌 직장 넥슨에서 게임 '메이플스토리' 사용자 개인정보 1천300만건이 유출됐습니다. 충격적이죠. 그래서 '인터넷프로토콜(IP) 범죄 기록부'를 만들기로 했습니다. 5년이나 개발했어요. 너무 오래 걸려서 동료와 투자자가 힘들어했습니다. 'IP 주소를 다 수집하겠다니 미친 짓'이라던 사람들이 이제 '대세'라고 평가하네요.” 강병탁 AI스페라 대표는 6일 서울 삼성동 그랜드인터컨티넨탈서울파르나스호텔에서 개최한 '공격 표면 관리(ASM·Attack Surface Management)와 위협 인텔리전스(TI·Threat Intelligence) 콘퍼런스'에서 이같이 밝혔다. AI스페라는 2017년 10월 문을 열었다. 2023년 4월에야 '크리미널(Criminal) IP'를 선보였다. 이후 국내외 50개사와 계약했다. 강 대표는 “빅데이터 양이 430페타바이트(PB)”라며 “서버는 900대, 날마다 바뀌는 정보는 40억~50억개”라고 말했다. 그는 “서버를 비롯한 정보기술(IT) 자산은 담당자가 아는 현황과 인터넷에 연결된 실제 숫자가 다르다”며 “잘 지키고 있다고 생각해도 ASM으로 살펴보면 그렇지 않다는 사실을 알게 된다”고 지적했다. 이어 “보안 담당자가 항상 모든 자산을 관리할 수는 없다”며 “위협에 미리 대응할 수 있는 ASM이 필요하다”고 주장했다. 또 “ASM은 스캔할 때 장애를 일으키지 않는다”며 “날마다 자동 수행해 결과를 알려준다”고 강조했다. AI스페라를 공동 창업한 김휘강 고려대 정보보호대학원 교수는 “한국 콘텐츠 사업의 적은 저작권 침해”라며 “불법 유포 사이트 '누누티비'가 대표적”이라고 소개했다. 그러면서 “크리미널 IP에 '드라마'를 검색하면 한국 드라마 안 볼 것 같은 나라의 불법 사이트에도 나온다”고 시범을 보였다. 이어 “요즘 우크라이나에서 이런 범죄가 많이 일어난다”며 “국제 공조하려고 해도 전쟁통이라 못하니까 취약하다”고 덧붙였다.

2025.03.06 16:51유혜진 기자

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

[종합] "李 정부 AI 라인 공백 끝났다"…배경훈·하정우·이해민 '3각축' 재가동 기대

하정우, 국가AI전략위 상근부위원장으로…"산적한 AI 현안 단계적 해결"

청와대 AI 정책 맡는 이해민은 누구…구글 거쳐 국회서 AI 입법 주도

웨이모 "자율주행, 카메라만으론 역부족"…테슬라 방식 비판

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.