• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
인공지능
스테이블코인
배터리
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'법무'통합검색 결과 입니다. (48건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

'xAI' 딥페이크 음란물 생성 논란, 美 캘리포니아 법무부 조사 착수

일론 머스크가 설립한 인공지능(AI) 기업 xAI가 캘리포니아주 법무부 조사를 받는다. xAI의 AI챗봇 '그록(Grok)'이 실존 인물 사진을 기반으로 동의 없는 음란 이미지를 생성하고 유포하는 데 악용되고 있다는 혐의다. 15일 CNBC 등 외신에 따르면 롭 본타 캘리포니아주 법무장관은 "그록을 이용해 제작된 비동의 성적 게시물의 확산 혐의로 xAI조사를 진행 중이라고 성명을 통해 밝혔다. 그는 "xAI가 여성과 소녀들을 괴롭히는 데 사용되는 딥페이크 음란물의 대규모 생산을 조장하고 있는 것으로 보인다"며 "이러한 이미지들은 소셜미디어 엑스(X) 를 포함한 인터넷 전반에서 유통되고 있다"고 덧붙였다. 인터넷 감시 재단 조사 결과에 따르면 그록은 일부 사례에서 미성년자 사진을 이용해 가상 나체 이미지를 생성하는 기능까지 제공한 것으로 드러났다. 이번 미국 내 조사는 이미 국제적으로 확산된 우려에 뒤이어 나온 것이다. 현재 인도, 말레이시아, 인도네시아, 아일랜드, 영국, 프랑스, 호주 등 다수의 국가 정부 기관이 대응에 나섰으며, 유럽연합 집행위원회(EC) 또한 조사를 진행 중이다. 말레이시아와 인도네시아는 이미 문제 해결 전까지 그록의 사용을 중단하는 조치를 취한 것으로 알려졌다. 미국 내에서도 비판의 목소리가 커지고 있다. 민주당 상원의원 3명은 애플과 구글에 서한을 보내, xAI가 비동의 음란물 및 아동 성착취 묘사 딥페이크 생성 방지 대책을 마련할 때까지 앱스토어에서 X와 그록 앱을 삭제할 것을 촉구했다. 울트라바이올렛, 전미여성기구(NOW) 등 여성 및 아동 인권 단체들 역시 앱 삭제를 강력히 요구하고 있다. 이에 대해 일론 머스크는 15일 X 게시물을 통해 "그록이 생성한 미성년자 나체 이미지를 인지하지 못했다"고 주장했다. 또 불법 콘텐츠 생성 및 공유의 원인으로 '사용자 요청'과 그록 시스템 내 잠재적 버그를 지목했다. 앞서 xAI는 논란이 확산되자 유료 구독자에 한해 일부 이미지 생성 및 편집 기능을 제한하겠다고 발표한 바 있다. 한편 미국 상원은 지난 14일 딥페이크 음란물의 피해자가 제작 및 유포 기업을 상대로 민사 소송을 제기할 수 있도록 하는 '디파이언스 법(DEFIANCE Act)'을 통과시켰다. 해당 법안은 하원의 검토를 남겨두고 있다.

2026.01.15 09:35남혁우

BHSN-율촌, 폐쇄형 법률 AI '아이율' 개발…"업무·보안 잡았다"

BHSN이 대형 로펌 환경에 특화된 인공지능(AI) 서비스를 개발해 법률 업무 환경을 개선했다. BHSN은 법무법인 율촌 손잡고 지능형 리걸 AI 서비스 '아이율'을 출시했다고 12일 밝혔다. 아이율은 BHSN 법률 특화 멀티 거대언어모델(LLM) 플랫폼 '앨리비 아스트로'로 작동한다. 로펌 실무 환경에 맞게 구현된 AI 검색·분석 시스템이다. 율촌은 지난해 12월 말부터 아이율을 실제 업무에 적용하고 있다. 해당 서비스는 외부로 데이터가 나가지 않는 폐쇄형 검색증강생성(RAG) 구조로 설계됐다. 이에 로펌과 고객 정보가 외부 AI 학습에 활용되지 않는다. 율촌의 기존 권한 체계와 연동돼 사용자 권한에 맞는 분석 결과만 제공하고 보안 자료는 분석 대상에서 제외한다. 아이율은 기존 지식 관리 시스템 내 법률 자료를 AI로 분석해 근거 자료를 제시한다. 이를 통해 자료 탐색과 검증 과정 속도, 정확도를 동시에 높일 수 있다. BHSN 리걸 AI 솔루션 앨리비는 현재 CJ제일제당과 한화솔루션, 애경케미칼 등 기업 계약과 법무, 컴플라이언스 업무에 쓰이고 있다. 삼성생명과는 금융권 위험관리와 내부통제 요건을 충족하는 금융 컴플라이언스 AI 적용도 진행 중이다. BHSN은 현장 적용 경험을 바탕으로 산업별 특성과 규제 환경을 반영한 전문 인공지능 플랫폼으로 앨리비를 확장할 계획이다. 이달 중 개인 변호사 대상으로 서비스형 소프트웨어(SaaS) 리걸 AI도 출시한다. 임정근 BHSN 대표는 "이번 협업은 아스트로가 대형 로펌 보안 기준과 전문가적 사고 체계를 동시에 충족할 수 있음을 증명한 이정표"라며 "워크플로 기반 생성 기능이 탑재된 앨리비 신규 버전을 통해 리걸 AI 업무 범위를 넓히겠다"고 말했다. 강석훈 법무법인 율촌 대표 변호사는 "우리 전문성과 고객 정보 보호를 최우선으로 하는 가치가 B HSN 기술력과 결합했다"며 "법률 업무 환경에서 의미 있는 변화를 만들어갈 것"이라고 밝혔다.

2026.01.12 15:37김미정

BHSN-법무법인 율촌, 리걸 AI '아이율' 구축 완료...실무 적용 시작

비에이치에스엔(대표 임정근, 이하 BHSN)이 로펌 법무법인 율촌과 함께 지능형 리걸 AI 서비스 '아이율' 구축을 완료하고 전사 오픈했다고 12일 밝혔다. 이번 프로젝트는 BHSN의 멀티 LLM 플랫폼인 '앨리비 아스트로' 기술을 율촌의 고난도 법률 실무 환경에 최적화해 구현한 사례다. 양사는 지난 12월 말 서비스 오픈 이후 현재 시스템 안정화 단계를 거치며 고도화된 AI 기술의 실무 적용을 본격화하고 있다. 특히 아이율은 대형 로펌의 엄격한 보안 요구사항과 접근 통제 요건을 충족하기 위해 '폐쇄형 검색 증강 생성(RAG)' 아키텍처를 채택했다. 이는 외부로 데이터가 전송되지 않는 독립된 환경 내에서 AI가 내부의 지식 자산을 정밀하게 탐색하고 분석해 답변을 생성하는 방식이다. 모든 질의 및 대화 과정은 AI 학습에 일절 활용되지 않아 고객 정보 보안과 신뢰를 철저히 보장한다. 또 율촌의 기존 권한 체계와 유기적으로 연동돼 사용자 권한별로 최적화된 AI분석 결과를 제공하며, 보안자료는 분석 대상에서 철저히 제외하는 등 최고 수준의 데이터 거버넌스를 구현했다. 본 서비스는 변호사들의 실무를 지원하는 지능형 지식 탐색 파트너다. 단순한 정보 검색을 넘어 기존 지식 관리(KM) 시스템 내의 방대한 법률자료들을 AI가 맥락적으로 이해하고 분석해 제시한다. 변호사가 직접 정보를 탐색하고 검증하는 과정에서 AI가 최적의 근거 자료를 신속하게 도출함으로써 업무의 정확도를 획기적으로 높이는 역할을 수행한다. 율촌은 최근 사내 명칭 공모를 통해 서비스명을 '아이율'로 확정하고 종무식에서 명칭 공모 시상을 진행하는 등 구성원들의 높은 관심과 기대 속에 서비스 운영을 시작했다. 아이율은 법무법인 율촌의 업무 환경과 보안 요구에 맞춰 별도로 설계, 구축된 AI 검색 서비스다. 이런 구조를 구현하기 위해서는 대형 로펌과 그 고객이 요구하는 수준의 데이터 보호, 권한 통제, 비학습 기반 아키텍처를 동시에 충족할 수 있는 기술적 역량이 필요하다. BHSN은 기업과 로펌 환경에서 축적한 리걸 AI 적용 경험을 바탕으로, 이러한 요구를 실제 운영 환경에서 구현할 수 있는 기술 파트너로 참여했다. 임정근 BHSN 대표는 “대한민국 법률 시장의 디지털 혁신을 선도하는 율촌과의 협업은 BHSN의 멀티 LLM 플랫폼 '아스트로'가 대형 로펌의 까다로운 보안 기준과 전문가적 사고 체계를 동시에 충족할 수 있음을 증명한 중요한 이정표”라며 “향후 워크플로우 기반 생성 기능 등이 탑재된 앨리비 신규 버전을 통해 리걸 AI의 실무 활용 범위를 더욱 넓혀가며 법률 전문가들에게 최상의 지능형 업무 환경을 제공할 것”이라고 말했다. 강석훈 법무법인 율촌 대표 변호사는 “법률 시장의 환경이 급변함에 따라 변호사가 본질적인 역량에 집중할 수 있는 시스템 구축이 중요해졌다”며 "업계를 선도해 온 율촌의 전문성과 고객 정보 보호를 최우선으로 하는 가치가 BHSN의 기술력과 결합해, 법률 업무 환경에서 의미 있는 변화를 만들어갈 것으로 기대한다"고 밝혔다.

2026.01.12 09:46백봉삼

래티스 "통합 계약 거버넌스 솔루션 '프릭스' 고도화"

래티스(대표 강상원)는 법무팀이 전사 계약을 통제·관리할 수 있도록 설계된 통합 계약 거버넌스 솔루션 '프릭스'를 고도화하고 있다고 8일 밝혔다. 프릭스는 초기 설계 단계부터 데이터 통제력과 가시성 확보에 집중해 왔다. 최근 대형 고객사의 엄격한 보안 기준과 관리 체계를 완벽히 수용하며 시스템 완성도를 한층 높였다. 특히 법무팀 실무진이 현장에서 필수로 요구하는 핵심 기능들을 단일 플랫폼에 완결성 있게 통합한 점이 특징이다. 주요 기능은 ▲부서와 직무에 따른 '계약서별 권한 부여' ▲담당자 교체 시에도 계약 맥락 파악이 가능한 '담당자 히스토리 관리' ▲별도 기록 없이 계약서와 함께 보존되는 '계약서 협의 내용 메모' ▲AI가 계약서의 내용을 추출하여 제공하는 '계약서 필드 추출' 기능 등이다. 향후 AI 기능을 고도화해 AI 기반의 계약서 리스크 분석, 수정 제안 등을 포괄하는 AI Agent 기능을 선보일 예정이다. 그간 대기업과 중견기업 법무팀은 계약서를 계약관리 대장(엑셀) 작성 후 드라이브에 업로드하는 방식에 의존해 왔다. 이로 인해 발생하는 업로드 누락, 퇴사자 발생 시 인수인계 어려움, 보안 취약성 등은 법무팀의 고질적인 리스크였다. 프릭스는 이런 관리 사각지대를 시스템으로 해결함으로써 별도의 전사적자원관리(ERP) 연동 없이도 서비스 내에서 법무 검토부터 내부 결재까지 직접 처리할 수 있는 통합형 환경을 제공해 행정 부담을 크게 낮췄다. 이런 기능적 완결성은 지표 성장으로 이어지고 있다. 프릭스는 작년 9월 말일 기준 누적 계약서 수 10만 개를 돌파했다. 재무적으로도 지난해 기준 전년도 대비 연간반복매출(ARR)이 약 60% 증가했다. 이는 내부회계관리제도(K-SOX) 강화에 따라 실질적인 거버넌스 시스템을 찾는 상장사 및 중견기업들의 수요가 프릭스의 실무 중심 기능과 맞물린 결과로 풀이된다. 래티스는 클라우드 기반 솔루션뿐 아니라, 보안이 엄격한 대기업을 위한 망분리 환경에서의 서버 구축 및 프로젝트 수행 경험까지 갖추며 고객군을 다변화하고 있다. 강상원 래티스 대표는 "프릭스가 제시하는 계약 관리의 방향성이 이제 시장의 표준 모델로 자리 잡고 있다"며 "대기업향 솔루션 구축 과정에서 얻은 고도의 보안 기술력과 운영 노하우를 바탕으로 국내외 기업들의 계약 거버넌스 수준을 한 단계 끌어올리는 신뢰받는 파트너가 되겠다"고 밝혔다.

2026.01.08 15:43백봉삼

[기고] 금융 AI 가이드라인 개정이 보여주는 새 규제 방향

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI)은 이미 금융산업 보조 기술을 넘어 핵심 인프라로 자리 잡고 있다. 신용평가를 비롯한 이상거래 탐지, 사기 적발, 자금세탁 방지 등 본질적 금융 기능 상당 부분이 AI 기반으로 재편되고 있다. 최근 금융위원회가 "AI는 금융의 본질적 역할에 기여할 수 있다"고 강조한 배경 역시 여기에 있다. 그동안 AI 규제 논의는 주로 위험 통제에 초점이 맞춰져 왔다. 그러다 보니 현장에서는 명성, 차별 방지, 위험평가를 통한 안전성 확보와 같은 사항들이 실제 운영 단계에서 어떻게 구현돼야 하는지에 대한 혼란이 있었다. 금융권에서는 기존 규제와 더불어 그 부담감이 상당했던 것도 사실이다. 이번 가이드라인(안)은 거버넌스, 데이터 관리, 모델 검증, 보안, 책임 구조 등 AI 전 주기를 포괄하는 원칙 중심 기준을 제시하고 있다. 이는 금융권의 AI 활용을 제한하기보다는 신뢰 가능한 방식으로 운영하기 위한 기준을 보다 명확히 했다는 점에서 위와 같은 간극을 메우려는 시도로 해석된다. 이런 접근은 기업 실무 관점에서도 의미가 크다. 금융회사가 AI를 도입할 때 가장 어려움을 겪는 부분은 기술 자체 적정성 판단이 아니라, 사후 책임과 내부 통제에 대한 불확실성이다. 이번 가이드라인은 AI 도입 여부 또는 활용 방법을 판단하는 기준을 넘어 그 도입 이후 내부 의사결정, 소비자 보호 장치 등 관리·안정적 운영을 위해 기업이 준비해야 할 구체적인 관리 포인트를 비교적 명확히 제시하고 있다. 규제당국의 전향적 접근이 기업 한계를 제한하지 않고 오히려 예측 가능성을 높여 그 발전을 돕고 있는 것이다. 이같은 접근은 한 달 내 시행을 앞둔 AI 기본법과의 관계에서도 시사하는 바가 크다. AI 기본법은 전 산업에 적용되는 반면, 금융 AI 가이드라인은 금융이라는 특정 산업 리스크 구조를 반영한 산업별 운영 기준에 가깝다. 이는 향후 AI 규제가 단일한 법률로 모든 문제를 해결하기보다는 기본법과 산업별 가이드라인이 상호 보완적으로 작동하는 방향으로 정착될 가능성을 보여준다. 금융위원회가 '총력전'을 강조했듯 AI 경쟁력은 알고리즘 성능이나 데이터 규모만으로 결정되지 않는다. AI가 실제 금융 서비스에 적용되는 과정에서 발생할 수 있는 오류, 편향, 책임 문제를 어떻게 관리할 것인지에 대한 제도적 신뢰가 뒷받침되지 않는다면 빠른 도입은 오히려 리스크로 작용할 수 있다. 금융 분야에서 AI의 판단은 곧바로 소비자 보호와 금융시장 안정성으로 이어진다는 점에서 금융산업 특성은 충분히 고려될 필요가 있다. 이번 개정이 초점을 맞춘 운영 중심의 규율은 이러한 문제의식을 구체화한 결과로 볼 수 있다. 물론 원칙 중심의 가이드라인이 실효성을 갖기 위해서는 해석과 적용의 일관성이 중요하다. AI 활용을 위한 탄탄한 거버넌스와 전문인력이 뒷받침되었음은 기본값으로 둔다 하더라도 금융회사마다 AI 활용 수준과 조직 구조가 다른 만큼, 동일한 원칙이 현장에서 다양한 방식으로 구현될 가능성이 높다. 이 과정에서 감독 당국과 업계 간의 지속적인 소통과 사례 축적이 필요하다. 가이드라인이 경직된 규제가 아니라 살아 있는 기준으로 기능하기 위해서는 축적 과정이 필수다. 금융 AI 가이드라인 개정은 한국의 AI 규제 논의가 새 단계로 접어들었음을 시사한다. 이제 중요한 것은 AI를 얼마나 제한할 것인가의 문제가 아니라 AI를 산업 본질에 부합하도록 어떻게 계획하고 운영할 것인가다. 금융 분야에서 시작된 이런 접근은 향후 다른 산업으로도 확산될 가능성이 크다. 이제 기업에게 필요한 것은 규제를 피하는 전략이 아니라 규제를 운영의 언어로 이해하고 선제적으로 설계하는 전략일 것이다.

2026.01.05 07:00이수화

美 법무부 "트럼프 숨길 의도 없다"…엡스타인 파일 선별 공개 의혹 시끌

미국 법무부가 미성년자 성착취범 고(故) 제프리 엡스타인 사건 관련 기록 공개를 시작하면서, 워싱턴 정가에서 후폭풍이 이틀째 이어지고 있다. 법무부는 전날(19일) 수사·재판 자료와 사진, 경찰 기록 등 방대한 문서 묶음을 온라인에 공개한 데 이어 20일(현지시간)에도 추가 자료를 일부 공개했다. 다만 공개된 문서 상당수는 피해자 보호 등을 이유로 대거 가림 처리되거나 통째로 검게 처리돼 '투명성' 논란이 커지고 있다. CNN 등 외신에 따르면 1차 공개분에는 엡스타인의 과거 행적과 성착취 방식의 단면을 보여주는 자료가 포함됐다. 플로리다 팜비치 경찰 보고서에는 “돈을 벌 수 있다”는 말에 속아 엡스타인 자택을 찾았다는 10대 피해자의 진술 취지와, 발설 시 “나쁜 일이 생길 수 있다”는 협박성 발언이 기재돼 있다. 일부 대배심 자료·증언 기록에는 마사지 등을 미끼로 미성년자를 유인해 학대했다는 진술과, 피해자가 14세 안팎으로 언급되는 대목도 담겼다. 이와 함께 '도널드 트럼프가 엡스타인을 찾는 전화를 했다'는 손글씨 메모도 공개됐다고 CNN은 전했다. 다만 해당 메모가 언제 작성됐는지, 어떤 용건이었는지에 대한 정보는 확인되지 않았다. 정치권의 초점은 '무엇이 공개됐고, 무엇이 빠졌는가'로 옮겨가고 있다. 로이터는 공개 자료에 빌 클린턴 전 대통령 등 유명 인사 사진이 다수 포함된 반면, 트럼프 대통령 관련 언급은 눈에 띄게 적었다고 전했다. 여기에 법무부 사이트에 올라왔던 자료 중 트럼프 대통령이 등장하는 사진을 포함해 최소 16개 파일이 하루 만에 사라졌다는 보도까지 나오며 의혹이 증폭됐다. 법무부는 의도적으로 트럼프 대통령 관련 내용을 제외한 것 아니냐는 의혹을 일축했다. 방대한 물량과 피해자 신원 보호를 이유로 공개가 단계적으로 이뤄질 수밖에 없으며, 추가 자료도 수 주 내 계속 공개하겠다는 입장이다. 법무부는 향후 수 주에 걸쳐 수십만 건의 문서를 공개할 방침이다. 토드 블랜치 법무부 부장관은 전날 ABC 방송에서 “트럼프 대통령은 처음부터 공개 가능한 모든 파일은 공개돼야 한다고 말해왔고, 우리는 그렇게 하고 있다”고 말했다. 블랜치 부장관은 '트럼프 대통령의 이름이 언급된 모든 문서가 공개되느냐'는 질문에 “법에 부합한다는 전제하에 그렇다”고 답했다. 그는 또 “도널드 트럼프라는 이름이나 빌 클린턴, 리드 호프먼 같은 이름이 등장한다는 이유로 어떤 것도 숨기려는 의도는 없다”고 강조했다. 블랜치 부장관은 야당인 민주당 의원들이 엡스타인이 남긴 자료 가운데 일부만 선별적으로 공개해 트럼프 대통령을 부정적으로 보이게 하고 있다고 비난했다. 그는 연방 하원 감독위원회 소속 민주당 의원들이 엡스타인의 저택에서 확보한 9만5천여 장 사진 가운데 엡스타인과 트럼프 대통령이 함께 찍힌 사진을 공개한 사례 등을 거론한 것으로 전해졌다. 전날 공개된 문서에는 빌 클린턴 전 대통령이 얼굴이 가려진 여성의 허리 쪽에 팔을 두른 채 친밀한 자세로 앉아 있거나, 여성과 욕조에 함께 있는 모습 등 클린턴 전 대통령의 사진도 다수 포함됐다. 이에 대해 클린턴 측 에인절 우레냐 대변인은 성명을 내고 “이 사안은 클린턴에 관한 문제가 아니다”라며 “모든 사람, 특히 마가(MAGA·트럼프 대통령 강성 지지층)는 희생양이 아니라 답을 원한다”고 반발했다. 민주당도 법무부가 공개한 문서가 전체 증거의 극히 일부에 불과하다며 정부가 즉각 모든 파일을 공개해야 한다고 촉구했다. 트럼프 대통령은 엡스타인의 성범죄 사실이 드러나기 전인 2000년대 초까지 그와 여러 파티나 행사에 함께 참석한 사실을 근거로 성범죄 연루 의혹이 제기돼 왔다. 그러나 트럼프 대통령은 자신은 아무 연관이 없으며 민주당의 정치 공세라고 주장해왔다. 한편, 지지율 하락에 직면한 트럼프 대통령은 올해 크리스마스 전후 이틀을 연방 행정부처와 연방기관 휴무일로 지정하는 행정명령에 서명한 것으로 알려졌다. 역대 미국 대통령들이 크리스마스 전후 하루 정도를 연방 공무원 휴무일로 지정한 사례는 있었지만, 24일과 26일을 모두 휴무일로 지정한 것은 이례적이라는 평가가 나온다.

2025.12.21 15:30류은주

[기고] EU 디지털 간소화 방안과 한국 AI 기본법 과제

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 한국은 세계적으로 인공지능(AI) 기술 수용과 활용이 가장 활발한 국가 중 하나다. 오픈AI는 한국의 챗GPT 유료 구독자 수가 미국에 이어 세계 2위를 차지한다고 발표한 바 있다. 그러나 이런 기술 도입 속도에 비해 AI 규제와 제도적 틀 마련은 상대적으로 늦게 시작됐다. 한국은 AI 관련 제도 정비 과정에서 유럽의 강력한 AI 법안(EU AI Act)과 미국의 규제 동향을 면밀히 관찰하며 영향 받았다. 한국의 AI 관련 법령은 개인정보, AI, 플랫폼 규제 등에서 EU 모델을 상당 부분 참조하면서도, 산업 진흥 필요성과의 균형을 추구하는 모델로 평가받고 있다. 올해 1월 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 제정돼 내년 1월 시행을 앞뒀다. 현재 시행령과 고시, 가이드라인 등 하위법령 마련 작업이 진행 중이다. 과학기술정보통신부는 지난 9월 8일 하위법령 제정방향을 공개하고 대국민 의견을 수렴한 후, 지난달 12일 시행령 제정안을 입법예고하면서 규제보다는 진흥에 무게를 두고 최소한의 규제체계를 도입하는 데 집중했다고 밝혔다. 국내 하위법령 정비가 이뤄지는 가운데, 지난달 19일 EU 집행위원회가 '디지털 간소화 방안(Digital Package)'을 공식 발표했다. 이 방안은 최근 몇 년간 EU AI 법안, 데이터법, 디지털서비스법(DSA), 디지털시장법(DMA) 등 여러 규제를 연속적으로 도입하면서 발생한 복잡성과 중복규제 문제를 해결하고자 디지털 규제환경을 포괄적으로 개편하는 것이다. 기업의 부담과 법적 불확실성을 줄이고 시장 혁신과 경쟁력을 강화하는 것을 목표로 한다. 주요 내용은 데이터, 사이버보안, AI 규제를 단순화하는 '디지털 옴니버스 규정(Digital Omnibus Regulation)'을 포함한다. 특히 AI 규제 간소화 측면에서 주목할 만한 변화가 있다. EU AI 법안의 원활한 시행을 위해 고위험 AI 규제 적용 시점을 최대 16개월 연기하는 조치가 포함됐다. 예컨대 고용·법 집행 등 민감 분야의 고위험 AI 규정 시행은 2026년 8월에서 2027년 12월로 연기된다. 기술문서 작성 의무 완화 등 기존 중소기업에만 적용되던 완화 조치는 종업원 750명 미만의 중견기업(SMC)까지 확대 적용된다. 기업 내부에서 제한적 용도로 사용하는 AI에 대해서는 EU 데이터베이스 등록 의무를 면제했다. 데이터 측면에서 GDPR 개정을 통해 AI 개발·운영을 위한 개인정보 처리가 '정당한 이익'에 해당한다는 근거를 명시함으로써 AI 모델 학습·운용에 개인정보를 활용할 수 있는 범위를 확대했다. EU의 디지털 간소화 방안은 아직 최종 통과나 확정까지 회원국 간 논의와 유럽의회 승인 절차가 남아있으며, 디지털 기본권 후퇴 가능성이나 빅테크 편향성에 대한 비판도 제기되고 있다. 그럼에도 EU의 규제 정비 방향성은 국내 AI 정책과 하위법령 정비에도 일정한 영향을 미칠 것으로 예상된다. 새 정부가 AI전환(AX)을 통해 AI 3대 강국으로 도약하겠다는 강력한 의지를 밝혔고, 하위법령 정비 방향도 규제보다는 진흥에 무게중심을 둔 상황에서, EU 역시 규제를 간소화하고 산업 진흥과 기본권 보호의 조화를 도모하는 방향으로 무게추를 옮긴 만큼 이런 방향성이 더욱 탄력을 받을 것으로 전망된다. EU AI 법안이 고위험 AI 규정의 적용 시점을 차등 연기한 것은 국내 규제 적용의 범위와 속도를 조절하는 데 참고할 수 있을 것으로 보인다. 또한 규제의 통합절차 간소화 등 '규제효율'을 도모하는 설계원리를 반영한 디지털 인프라 구축 논의가 가속할 것으로 예상된다. 그럼에도 규제 강도와 기본권 보호에 대한 강조 측면에서 EU AI 법안은 여전히 높은 수준의 요구사항을 유지하고 있다. 국제규범과의 호환성을 확보하되 국내 산업 여건과 균형을 이룰 수 있는 정교한 접근이 필요한 시점이다.

2025.12.16 10:30노은영

[기고] 인공지능 특이점으로 가는 출발점

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] '특이점(singularity)'은 수학이나 물리학에서 사용되던 용어다. 수학적으로 정의될 수 없는 점이나 블랙홀 중심에 있어 밀도가 무한대로 시공간이 붕괴되는 점과 같이 우리가 이해하고 있는 물리 법칙이 적용되지 않는 점을 말한다. 이처럼 알려져 있는 물리 법칙으로 설명할 수 없는 예측 불가능한 변화가 발생하는 지점을 설명하는 개념이다. 요즘은 인공지능(AI)의 '기술적 특이점'이란 말이 많이 사용된다. 컴퓨팅 파워 등 기술이 기하급수적인 속도로 발전하면서 현재 인간이 상상하기 어려운 변화가 온다는 것이다. AI 연구자이자 미래학자인 레이 커즈와일이 AI에 특이점이라는 개념을 적용하면서 대중들에게도 널리 알려졌다. 레이 커즈와일은 인류가 수천 년 동안 특이점을 향해 대장정을 펼쳐 왔는데, 이제 전력 질주 구간에 이르렀다고 한다. 순식간에 모두 스마트폰을 들고 다니게 된 것처럼 AI 기술도 일상 생활 깊숙이 들어올 것이고 우리의 사고도 크게 확장될 것이라는 주장이다. 레이 커즈와일이 말한 것처럼 AI 기술은 어지러울 정도로 빠르게 발전하고 있다. 구글, 오픈AI, 마이크로소프트 등의 연구진이 참여해 2023년 7월경 발표한 AI 규제 관련 보고서 '프런티어 AI 규제: 공공 안전을 위협하는 신흥 위험 관리(Frontier AI Regulation: Managing Emerging Risks to Public Safety)'에서는 1천26 플롭(FLOP)을 사용해 학습된 모든 기초 모델이 충분히 위험한 능력을 보일 잠재력을 가지고 있다고 간주하는 것을 제안했다. 이는 2023년 10월 당시 바이든 대통령이 1천26 FLOP을 일종의 규제 기준으로 하는데 영향을 미쳤다. 다만 트럼프 대통령은 취임 직후 바이든 행정부의 이 행정명령이 AI 혁신을 저해하는 과잉 규제라며 페지했다. 2년이 지난 현 시점까지는 1천26 FLOP을 만족하는 AI 모델이 공식적으로 공개 되지는 않은 것으로 보이나, 머지않아 이를 충족하는 AI 모델이 나올 것으로 예상된다. 기술이 빠르게 발전하며 일상의 풍경을 바꿔놓으면 일상을 규율하는 제도, 규범 역시 변화가 필요하다. AI 기술에 대한 법과 제도도 한창 정비 중이다. 유럽연합(EU)은 세계 최초로 AI 법 제정해 2024년 8월부터 단계적으로 시행하고 있다. 다만 건강, 안전, 기본권과 관련된 공익의 일관되고 높은 수준의 보호를 보장하기 위한 '고위험 AI(High Risk AI system)'에 대한 규제가 2026년 8월 시행 예정이었는데, 최근 그 시행 시기를 2027년 12월로 16개월 연기한다고 발표했다. 미국은 연방 차원에서 AI 전반을 다루는 법이 나오지는 않았지만 캘리포니아 등 여러 주에서 '투명성 의무' 등에 대한 다양한 법안이 제정되고 있다. 일본은 올해 6월 AI의 연구개발, 이용을 촉진하기 위한 진흥법을 마련헸다. 우리나라도 2025년 1월 AI 기본법이 제정돼 2026년 1월부터 시행될 예정이다. 한국의 AI 기본법은 AI 산업 발전을 위해 정부가 다양한 지원을 하는 방안과 함께 AI를 안전하고 신뢰성 있는 기반 하에 이용할 수 있도록 하는 방안을 담고 있다. 법 시행을 앞두고 시행령이 입법예고 됐고, 투명성 확보 의무, 고영향 AI 사업자 책무 등에 관련된 고시와 가이드라인도 나왔다. 생성형 AI 또는 고영향 AI를 이용한 제품 또는 서비스를 제공하는 AI사업자는 그 제품 또는 서비스가 해당 AI에 기반해 운용된다는 사실을 이용자에게 사전에 고지해야 하는 등 투명성을 확보할 의무를 진다. 또 생성형 AI 또는 이를 이용한 제품이나 서비스를 제공하는 경우 그 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시해야 한다. 이 때 사람이 직접 인식할 수 없더라도 소프트웨어를 통해 확인할 수 있는 방식의 비가시적 표시도 가능하다. 다만 이 경우에는 생성형 AI에 의해 생성됐다는 사실을 1회 이상 안내 문구, 음성 등으로 제공해야 한다. AI 기본법 시행령을 입법예고하며 발표된 보도자료에는 규제보다 진흥에 무게를 두면서 필요 최소한의 유연한 규제 체계를 도입하는 것이라고 강조돼 있다. 그러나 여러 가이드라인들이 제시됐음에도 여전히 모호하고 불명확 부분이 많다는 현장 사업자들의 목소리도 있다. 특이점으로 가는 고속도로가 열릴지, 지난한 여정의 서막이 오른 것일지, 출발점에 서있다.

2025.11.26 10:41법무법인(유) 태평양 유재규 변호사

[현장] 시행 앞둔 AI 기본법…대응 전략은 '사람 개입·거버넌스'

내년 우리나라 '인공지능(AI) 기본법' 시행을 앞두고 기업과 기관의 AI 활용 방식이 근본적으로 재편될 조짐이 나타나고 있다. 고영향 AI에 대한 규제 체계가 구체화되면서 기존 자동화·AI 기반 서비스의 의사결정 구조를 전면 재설계해야 하는 상황이다. 업계에서는 AI를 더 많이 활용해야 하는 시대적 흐름과 동시에, 투명성 확보·위험 관리·책임 구조 정비라는 새로운 의무가 부상하면서 대응 전략 마련이 시급하다는 목소리가 나온다. 한국능률협회컨설팅(KMAC)과 법무법인 린은 21일 서울 역삼 포스코타워에서 '고영향 AI 활용에 따른 비즈니스 설계와 실행 전략' 세미나를 개최해 AI 기본법 시행의 핵심 쟁점과 실무 대응 방향을 제시했다. 행사는 AI 기본법이 내년 1월 본격 적용되면서 조직이 마주하게 될 법적·운영적 변화에 대비하기 위한 자리로 마련됐다. EU는 설계부터 규제, 한국은 고지 중심…느슨한 범용 AI 규정 첫 발표자로 나선 법무법인 린 방석호 AI산업센터장은 유럽연합(EU) AI법과 국내 AI 기본법의 차이를 짚으며 "국내 법은 EU의 '고위험' 개념을 '고영향'으로 대체했지만, 범용 AI 규제는 상당 부분 비워놓은 구조"라고 설명했다. 그는 EU가 학습 데이터와 모델 구조 등 기술적 투명성 공개를 의무화한 반면, 한국은 최종 이용자에게 '이 서비스는 AI가 사용됐다'는 사실만 고지하면 되는 수준에 그쳐 규제 밀도가 낮다고 평가했다. 또 방 센터장은 "국내 기준은 최근 발표된 미국 캘리포니아의 프론티어 모델 기준을 사실상 그대로 가져와, 학습 연산량 10²⁶ 플롭스(FLOPs) 이상만 고영향으로 추정하도록 했다"며 "결국 국내 사업자는 범용 AI 규제에서 빠져 있는 셈이지만, 고영향 분야로 응용하는 순간 책임은 훨씬 커진다"고 강조했다. 이어 법무법인 린 구태언 변호사는 업권별로 고영향 AI 지정 가능성을 분석하며 기업이 취해야 할 방향을 제시했다. 그는 "대출 자동심사, 채용 서류 자동평가, 교육·의료 영역의 자동 의사결정 등은 사람이 개입하지 않으면 고영향 AI로 판단될 소지가 크다"며 "특히 '사람이 최종 결정한다'는 구조를 명확히 포함해야 지정 위험을 피할 수 있다"고 말했다. 구 변호사는 금융 분야 사례를 언급하며 "앱에서 10분 만에 대출 승인 여부가 나오는 현재 프로세스는 사실상 완전 자동화된 AI 의사결정"이라며 "이 경우 개인은 '내 금리가 왜 이렇게 나왔는지 설명하라'고 요구할 수 있고 이는 고영향 지정 요청으로 이어질 수 있다"고 경고했다. 그러면서 "채용 영역에서도 AI가 정량·정성 평가를 수행해 지원자를 컷오프하는 구조는 고영향 판단 위험이 높다"며 "면접·평가 결과를 참고자료로만 활용하고 사람이 이를 재검토한 기록을 남기는 절차가 필요하다"고 설명했다. AI 기본법 대응 핵심은 '사람 개입·문서화·거버넌스' KMAC 손권상 AI·빅데이터 본부장은 기업이 실무적으로 대응해야 할 'AI 거버넌스 체계'를 제시했다. 그는 "기업 대부분이 AI를 쓰고 있지만, 실제로 어떤 모델을 어디에 쓰고 있는지조차 정리되지 않은 곳이 많다"며 "프로세스 단계별로 AI 개입 여부, 의사결정 영향력, 위험 수준을 평가하는 것이 첫 단계"라고 강조했다. 손 본부장은 금융권 대출 심사와 HR 채용 프로세스를 사례로 들며 기업이 AI 기반 업무를 다시 설계하는 과정을 세부적으로 설명했다. 업무 프로세스에서 AI가 판단을 내린 뒤 사람이 이를 재검토하는 구조가 반드시 포함돼야 하고 AI 결과를 '참고값'으로 낮춰 최종 결정은 사람이 하는 체계를 문서화하는 것이 핵심이다. 또 고영향 판단 여부를 ▲사람 개입성 ▲결과의 확정성 ▲영향력의 크기 세 항목으로 분류해 진단할 것을 제안했다. 손 본부장은 "고객 리스크 사전분류, 신용등급 자동 산출, AI 면접 평가 등은 고영향으로 판정될 가능성이 높기 때문에 별도의 모니터링 절차와 재검토 체계가 필요하다"고 짚었다. 아울러 기업 내부에 AI 윤리위원회와 전담 조직을 설치해 지속적인 모니터링 체계를 갖출 필요가 있다고 강조했다. AI 윤리 기준 수립, 모델 검증 매뉴얼, 데이터 처리 가이드라인 등 전사 AI 운영지침을 마련해야 한다는 것이다. 손 본부장은 "AI 기본법이 규정하는 고영향 AI는 앞으로 더 많은 산업과 업무 영역에서 등장할 것"이라며 "사전 검토·위험·감독·문서화·법적 대응이라는 5단계 구조를 실무 절차에 그대로 이식하는 것이 가장 현실적 대응"이라고 조언했다. 이어 "앞으로 AI를 도입하면 기술만 바꾸는 것이 아니라 기업의 일하는 방식 전체가 재설계되는 패러다임 변화가 찾아올 것"이라며 "기업이 이러한 전환을 효과적으로 헤쳐나갈 수 있도록 전문성을 바탕으로 지원하겠다"고 덧붙였다.

2025.11.21 18:11한정호

[기고] 알고리즘과 개인정보 처리

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 오늘날 '알고리즘(Algorithm)'이라는 용어는 인공지능(AI)과 함께 매우 빈번하게 사용된다. 이 용어는 새롭게 만들어진 말이 아니라 9세기 페르시아 수학자 '알-콰리즈미(Al-Khwarizmi)'의 라틴어식 이름인 알고리스무스(Algorismus)에서 유래한 것으로, 본래 '문제를 해결하는 절차와 방법'을 의미했다. 이처럼 오래된 개념이 오늘날 AI 영역에서 뜨거운 법적 쟁점이 되고 있다. 전통적인 알고리즘은 사람이 모든 규칙을 직접 만들고 입력했지만 현대의 AI 알고리즘은 스스로 학습을 통해 규칙을 만들어 내기 때문이다. 그런데 이 학습의 재료는 방대한 양의 데이터다. 이 데이터에는 개인의 신상, 취향, 생체 정보와 같은 개인정보도 포함된다. 개인정보를 학습해 고도화된 예측 모델인 AI 알고리즘이 그 자체로 개인정보를 처리한 결과물로 봐야 하는지는 어렵지만 답해야 하는 문제다. AI 모델 자체는 개인정보 처리에 해당하지 않는다는 측은 학습의 '과정'과 '결과물'을 구분한다. AI를 트레이닝하는 단계에서는 개인정보의 수집과 분석이 이뤄지므로 개인정보 처리에 해당하지만 학습이 끝나 하나의 모델이 완성되면 그 모델, 즉 알고리즘은 원본 개인정보와 분리된 수학적·통계적 규칙의 집합에 불과하다. 이에 따라 모델을 활용하는 행위는 개인정보 처리가 아니라는 논리다. 반대로 학습이 완료된 AI 모델도 개인정보 처리의 연장선에 있거나 그 자체로 개인정보의 성격을 가진다고 보는 입장도 있다. 이 견해에 따르면 AI 모델은 단순히 원본 데이터를 요약한 것이 아니라 그 안에 데이터의 본질적 패턴과 특성을 내재하고 있다. 이에 따라 AI가 특정 개인을 식별하거나 민감한 정보를 추론할 수 있다면 이는 심각한 문제이므로 별도의 보호가 필요하다는 주장으로 이어진다. 미국의 경쟁당국인 연방거래위원회(FTC)는 과거 안면인식 AI기업인 파라비전 사가 사용자 동의 없이 수집한 개인정보로 AI 모델을 개발한 행위에 대해 원본 데이터를 파기할 뿐만 아니라 그 데이터로 학습한 알고리즘까지 삭제(disgorgement)하라는 명령을 내린 바 있다. 이같은 사례는 여러 건이 확인된다. 이러한 규제 당국의 입장은 AI 모델을 불법 수집된 정보의 파생물로 본다는 점에서 의미가 있다. 개인정보를 위법하게 수집했다면 그 데이터를 이용해 개발한 알고리즘으로 이익을 얻는 것 역시 허용되지 않는다는 것이다. 이는 알고리즘이 원재료인 개인정보와 동일한 수준으로 취급될 수 있음을 보여주는 사례다. 국내에서도 AI 개발 과정을 개인정보 처리로 본 사례가 있다. 지난 2022년 법무부가 1억7천만 건의 출입국 심사 정보를 민간 기업에 제공해 AI 식별 시스템을 개발하게 한 사안에서 개인정보보호위원회는 해당 AI 개발을 개인정보 처리를 위탁한 것으로 간주했다. 다만 이 사안에서는 당초 수집 목적 범위 내의 적법한 이용으로 인정됐기에 알고리즘 삭제까지 이어지진 않았다. AI 학습과 그 결과물인 모델을 '개인정보 처리'의 영역으로 볼 경우 그 파급력은 막대하다. 정보주체가 개인정보보호법상 '삭제 요구권'을 행사하며 "내 정보가 학습된 모델을 삭제해달라"고 요구할 수 있게 되기 때문이다. 개인정보로 만들어진 알고리즘을 법적으로 어떻게 바라볼 것인지, 정보주체를 보호하면서도 기업의 기술발전 진흥을 위해서는 어떠한 규제를 만들어 나가야 할지에 대한 사회적, 법적 논의가 필요한 시점이다.

2025.10.24 11:46이강혜 법무법인 태평양

[기고] 인공지능 혁신을 위한 골든 타임

전 세계는 인공지능(AI)에 올인 아닌 올인을 하고 있다. 인터넷의 시대, 모바일의 시대 초기에도 이랬나 싶을 정도다. 과거에서 학습한 경험 때문일까. 적어도 미래에는 뒤쳐지지 않기 위해 어느 나라도 가리지 않고 AI에 대한 치열한 관심과 투자에 골몰하고 있다. 그나마 제조업과 기반 기술을 보유한 우리나라는 다른 해외 국가들과 비교해 뭔가 더 할 수 있는 위치에 있다. AI 기술 역시 다른 기술 분야에서처럼 승자 독식의 법칙을 따르고 있다. 아직은 그 미래를 알 수 없지만 당장 뒤쳐지게 된다면 몇 년만 지나더라도 도저히 따라잡을 수 없는 절벽이 생길지도 모른다는, 그리고 그때는 도태될 수 있다는 두려움이 수십조원, 수백조원 단위의 상상하기 어려웠던 규모의 투자를 하게 만들고 국가 전체의 지원을 고민하게 만든다. 우리 정부가 인공지능 3대강국(AI G3)이라는 다소 벅차 보이는, 도달할 수 없더라도 목표는 높이 잡아야 한다는 메타포같은 구호를 제시한 이유도 충분히 수긍할 만한 상황이다. AI가 보다 발전한 미래가 어떠한 모습일지는 아직까지는 아무도 알지 못한다. 세계적인 석학들조차 AI의 시대가 가져올 찬란한 미래만큼이나 통제 불가능한 판도라의 상자를 열어젖하게 될 지도 모른다는 우려를 보여주기도 한다. AI 활용이 당장은 우리에게 생산성을 높이고 삶을 윤택하게 하는 유용한 도구로 인식되기도 하고 다른 한편에서는 과거 러다이트의 시대에서처럼 결국 인간의 일자리를 대체하고 말 것이라는 걱정이 혼재돼 있기도 하다. 혹자는 이러한 상황에 대비해 국가 전체적으로 AI가 가져올 경제적, 사회적 영향과 그에 대한 대비책 마련을 위한 사회적 대합의가 필요하다는 점을 지적하기도 한다. 모든 일에는 타이밍이 있다. 아무리 좋은 발명품이라도 시대를 너무 앞서 나가면 세상에 도움이 되지 못하기도 하고 반대로 충분한 준비를 갖추었다고 생각했을 때는 이미 세상이 저만큼 앞서 나가서 더 이상 필요없게 될 수도 있다. 빛의 속도로 발전하고 있는 AI 기술 역시 마찬가지이다. AI 혁신을 위한 현재의 당면 과제는 대규모 AI 학습을 위한 그래픽처리장치(GPU)의 확보뿐만 아니라 과거에 발붙이고 있는 데이터 규제의 문제를 신속하게 풀어야 한다는 점이다. 데이터에 대한 새로운 정책이 그동안의 레거시 규제가 가져왔던 안정적인 국민의 권리와 자유 보호에 영향을 미칠 수 있다는 지적도 존재한다. 그럼에도 지나고 보면 과거에는 필요하다고 느꼈던 규제가 AI 시대에는 불필요한 것일 수도 있다. 당장은 AI 개발과 발전을 위해서 학습 데이터의 확보가 매우 중요한 의미를 가지지만 수년만 지나더라도 학습 자체가 아니라 그 학습을 통하여 완성된 AI 활용 과정에서 발생하는 부작용이 보다 큰 사회적 이슈가 될 것이다. 몇 년이 지나고 나면 그 때 규제가 AI 개발에 왜 적용돼야 했던가라는 문제제기가 나올 수도 있다. 핵심은 골든 타임을 지나가고 있는 우리가 무엇을 더 할 수 있는가이다. 즉, 현재는 사회적 합의를 위한 설왕설래보다는 보다 속도감 있는 전진이 필요할 시점일 수 있다는 것이다. 입법부나 정책을 담당하는 행정 당국 역시 이같은 사정들을 모두 잘 알고 있다. 모든 규제들은 그 규제들이 도입될 때에는 나름의 합당한 이유가 있었던 것들이다. 다만 시간이 지남에 따라 규제들이 시대에 맞지 않는 단점들을 드러내게 된 것일 뿐이다. '과감'한 도전과 이를 위한 세밀한 전략만이 골든 타임을 놓치지 않는 방법이다.

2025.10.12 12:00강태욱 법무법인 태평양

[기고] 인공지능과 사랑의 법적 경계

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI)는 '법적으로' 사랑을 할 수 있는가. 영화 '그녀(Her)'에는 AI와 사랑에 빠진 남자가 주인공으로 등장한다. 요즘 현실에서도 챗봇과 정서적 교류를 하며 위안을 얻는 사람들이 늘어나고 있다. 그렇다면 영화 속 이야기가 현실이 되는 날도 머지않은 것일까. AI가 사람과 정서적 교감을 나눌 수 있다는 점은 이제 부정하기 어렵다. 문제는 법적으로 AI와의 사랑을 어떻게 볼 수 있느냐다. 사랑 그 자체를 법으로 정의하기는 어렵지만 사랑에 수반되는 고백, 약속, 결혼 같은 행위는 법적으로 분석할 수 있다. 먼저 결혼을 보자. 민법은 제 807조에 따라 만 18세 이상의 자연인만이 혼인의 당사자가 될 수 있도록 규정한다. 이에 따라 AI는 아무리 그럴듯하게 청혼을 하더라도 법적으로는 결혼이 불가능하다. 사랑을 결혼과 동일시할 수는 없으므로 결혼을 전제하지 않더라도 사랑한다는 고백, 다른 사람을 사귀지 않겠다는 약속, 또는 어떤 선물을 하겠다는 것과 같은 사랑의 약속을 하려면 이에 대한 법적인 책임을 질 수 있어야 유효한 약속이 된다. 현재 한국법에서는 AI는 권리 의무의 주체인 법인격으로 인정되지 않는다. 즉 약속을 위반하더라도 책임을 물을 주체가 될 수 없기 때문에 유효한 사랑의 약속을 할 수 없는 것이다. AI를 개발하고 서비스하는 회사는 대부분 대기업인데 이런 대기업이 AI의 약속에 대해 책임을 진다면 유효한 약속이라는 견해가 있을 수도 있다. 다만 AI를 개발하고 제공하는 회사들이 이런 AI의 발언에 대한 책임을 회피하기 위한 이용약관을 철저히 준비해 두었을 것이라고 본다. 이러한 약관 규정에도 불구하고 AI가 표현한 사랑의 약속과 그 위반으로 인해 상대방에게 정신적 손해가 발생하거나 불이행에 대한 책임을 물을 가능성이 전혀 없는 것은 아니다. 그런데 이는 매우 제한적으로만 인정될 것이며 설령 책임이 인정된다 하더라도 그것은 제품의 기능에 관한 책임일 뿐, 사랑의 약속 자체를 법적으로 유효하게 만드는 책임은 아닐 것이다. 그럼에도 실망하기에는 이르다. 유럽연합(EU)에서 전자인격(Electronic Personhood) 개념을 도입해서 AI에게 제한적이지만 법적 인격을 부여하는 논의가 있었다. 물론 누구나 예상할 수 있는 것처럼 많은 반대로 법제도로 만들어 지지는 않은 상태다. 다만 우리에게 익숙한 회사, 재단과 같은 법인도 사회경제적인 필요에 의해 고안되고 인정된 개념이지 처음부터 누구나 사람과 같은 법인격을 인정했었던 것은 아니다. AI가 발전하고 사회의 경제활동에서 담당하는 비중이 높아진다면 사회적 필요에 의해 이런 전자인격 개념이 도입되고 AI가 주체가 돼 법적인 약속을 할 수 있는 날이 올 수도 있을 것이다. AI로부터의 사랑 고백과 선물을 약속 받는 것이 가능해 질 수도 있는 것이다. 참고로 영화 '그녀'에서 주인공은 헤어진 부인으로 인해 생긴 상처를 AI 여자친구를 통해 치유하나 결국 AI와 결별하고 앞으로 나아간다는 결말을 맞는다. 주인공역의 배우는 영화 내에서 헤어진 부인역을 맡았던 여자배우와 결혼해서 두 자녀를 두고 잘 살고 있다.

2025.09.29 16:47류광현 법무법인 태평양

'내국인 숙박 금지·실거주 의무' 장벽으로…학계·업계 "제도 개선해야"

정부가 외국인 관광객 3천만명 유치를 국정 과제 중 하나로 꼽은 가운데 학계·현업 종사자 모두 내국인 숙박 금지 조항, 독채 숙소 실거주 의무, 주민 동의 등의 제도에 개선이 필요하다고 목소리를 높였다. 김교흥 국회 문화체육관광위원장은 15일 서울 여의도 국회도서관에서 '3천만 관광시대! 관광혁신 포럼 국회 토론회'를 주최했으며, 한국관광학회가 주관했다. 한주형 강원대 교수와 정대준 외국관광도시민박업협회 사무국장이 각각 3천만 관광시대를 위한 도시민박업 정책현안 및 제도 혁신 과제, 현장에서 본 도시민박업 규제의 한계와 바람직한 발전 방향에 대한 발제를 맡았다. 서원석 한국관광학회 회장이 좌장을, 한진석 동국대 교수, 심성우 백석예대 교수, 김동현 외국인관광도시민박업 호스트, 황정현 법무법인 세종 변호사, 조성제 문화체육관광부 과장이 토론을 펼쳤다. 토론의 주요 의제인 공유 숙박은 일반인이 여유공간을 여행객들에게 숙박 서비스로 유상 공유하는 것으로, 지역 또는 건물 형태에 따라 도시지역에서의 외국인관광도시민박업, 한옥 형태의 한옥체험업, 농어촌 지역의 농어촌민박업이 존재한다. 숙박업 법령 한 곳에서 관리 필요…문체부 차원 방안 마련 촉구 첫 번째 발제를 담당한 한 교수는 코로나19 팬데믹 이후 다수의 호텔이 폐업함에 따라 줄어든 객실 공급 수량만큼 신규 공급이 따라오지 못하고 있는 상황을 꼬집었다. 이같은 현황의 대안으로 한 교수는 도시 민박을 제시하며 “기존 주택을 활용해 추가 건설이나 대규모 투자 없이 숙박 공급이 가능하다. 수요 급증 시 빠른 전환 증설로 숙소 부족을 완화시킬 수 있다”고 설명했다. 다만, 도시 민박업 관련 규제 중 내국인 금지 조항, 실거주 의무, 주민 동의 등에 대한 문제에 대해 선제적으로 논의가 필요하다고 봤다. 그러면서 한 교수는 중, 단기적으로 구분해 제도 개선 방향을 제시했다. 우선 단기적으로는 외국인 관광을 수용하기 위한 수용력 확대를 위한 실거주 의무와 주민 동의 요건 완화 등을 고민해야 한다고 짚었다. 장기적으로는 내국인 도시 민박업 제도를 도입해 불법 숙박 시설을 운영하고 있는 사업자를 제도권으로 편입하고, 기존 숙박업과의 상생 방안을 모색하면서 전체적인 도시 민박업의 생태계를 구축해 나갈 필요가 있다고 제언했다. 뿐만 아니라 여러 부처에 국내 숙박업 관련 법령이 산재함에 따라 이를 포괄해서 관리할 수 있는 제도를 마련할 필요가 있다고 역설했다. 한 교수는 “규제의 일관성 확보, 행정의 효율성 제고를 통해 장기적인 관점에서 숙박업의 관리 제도를 문체부 차원에서 마련하는 것이 필요한 시점”이라고 덧붙였다. 실거주 의무·건축 유형 면적 제한, 현실과 거리 있어 한 교수 다음으로 발제를 진행한 정 사무국장은 실제로 도시 숙박 시설을 운영하면서 맞닥뜨린 제도의 한계에 대해 지적했다. 그는 실거주 의무와 건축 유형 면적 제한을 대표적인 사례로 꼽았다. 현행법상 독채 숙소의 경우 호스트가 실거주해야 하지만, 코로나19 팬데믹 이후 독채 숙소를 선호하는 현상이 확산되면서 현실과 제도 간 괴리가 있다는 것이다. 또 실거주 의무로 인해 호스트 당 1개의 도시 민박 밖에 운영할 수 없는 상황에서 민박 건물 연면적을 230㎡(약 70평)으로 제한 시 사업이 확산되기 어려운 구조로 돼 있다고 토로했다. 이외에도 정 사무국장은 한국만 내국인의 공유 숙박 이용을 제한함으로써 역차별 문제가 발생한다고 언급했다. 노후 건축물 연식 제한 제도가 지자체마다 다르게 적용돼 예비 사업자에게 혼선을 준다고 설명하며 주민 동의와 외국어 능력 검증 문제도 현실과 동떨어져 있다고 주장했다. 이어 그는 실거주 의무와 같은 규제를 합리적으로 정비하고, 지자체 마다 다른 연식 제한 등 불필요한 요건 개선을 통해 예측 가능성을 제고해 줄 것을 주문했다. 아울러, 주택가에 위치한 공유 숙박 특성상 지역 상생과 지속 가능한 성장을 위한 제도적 지원을 마련해줄 것을 요청했다. 이달 중 국가 전략 회의 준비…정부 차원 지속 소통 약속 발제에 이어 토론에서도 현황에 맞지 않는 제도 개선 요청이 이어졌다. 한 교수는 호텔과 시가지의 거리가 먼 경주의 사례를 예로 들어 “시내 대부분 모텔급 숙소가 90% 이상을 차지한다. (도시 민박은) 이들(외국인 관광객)에게 더욱 유익하고 경쟁력을 가질 수 있는 양질의 숙소를 제공한다는 차원에서 굉장히 큰 경제적 기여를 창출하고 있다”면서 현실화된 단일 법안 마련을 당부했다. 심 교수는 6개 부처로 구분된 법령을 행정과 디지털화를 이용해 통일할 수 있다고 봤다. 심 교수는 노후 건축물 연식 제한 문제 해결 방안으로 일본과 프랑스의 사례를 차용할 것을 조언했다. 그는 “해당 국가는 연식이 중요한 것이 아니라 안전 기준 점검을 만들어 위생 상태, 소방 상태 들이 얼마나 안전하게 운영되느냐를 보고 적격이 되면 (규제를)통과시켜주는 시스템을 운영하고 있는 것으로 안다”고 부연했다. 주민 동의 문제는 아파트 동 대표 혹은 단체 협의회를 만들어 의결 사항으로 두면 처리가 더 빨라질 것이라고 말했다. 또 운영 수익을 공유해 지역에 활용하면 서로가 상생하는 결과가 나올 것이라고 예상했다. 김 호스트는 실거주 의무로 인해 현업에서는 호스트와 게스트가 서로를 불편해 하는 사태가 초래될 수 있다며 “과도한 규제”라고 평가했다. 이어 연식과 안전 문제가 무조건 정비례하는 것은 아니라며 설비 문제는 지속적인 관리의 필요성을 강조했다. 주민 동의는 서면으로 받는 것이 현실적인 생활 방식에서는 어렵다며 오히려 발생하지 않은 일에 대해 과도한 공포심을 심어줄 수 있다고 우려했다. 황 변호사는 공유 숙박 등록 업소 수가 빠르게 증가하고 있지만, 관광 추세에 맞춘 공유 숙박에 대한 지원은 부족하다고 짚었다. 황 변호사는 “법과 현실의 괴리는 항상 있을 수 밖에 없고 법 제도는 현실보다 항상 조심스럽게 갈 수 밖에 없다”며 “외국인 관광객 유치 입장에서 보면 집주인과 같이 거주해야 하는 실거주 문제를 원포인트로 먼저 해결하고, 이후 장기적으로는 전체적인 규제 개선을 만드는 단계적인 방안이 어떨까 싶다”고 제시했다. 조 과장은 “외국인 관광객 중심의 숙박업과 관련해서는 정교하고도 단계적인 규제 정비 내지는 합리화가 필요하지 않을까 생각 중”이라며 “이번 9월 중 국가 관광 전략회의를 준비하고 있고 구체적인 제도화 방안을 내놓기는 어렵지만, 큰 틀에서 새 정부의 정책 방향을 제시해 드릴 수 있을 것”이라고 밝혔다. 아울러 “지난 정부에서 기재부를 비롯한 관계부처에서 숙박업 제도 개선 TF를 운영했던 적이 있었는데, 그때 내렸던 결론이 당장 단일화된 체계를 만들기는 어렵겠지만 홍보 마케팅, 통계 등 기본적인 업무부터 협업을 강화해보자는 논의가 있었다”며 새 정부에서도 이같은 기조가 이어지길 바라는 기대감을 표출했다. 끝으로 조 과장은 “현장의 의견을 많이 듣고 있고, 안전을 지키되 불편 사항을 해소하는 쪽으로 제도 개선을 모색하고 있다”며 “기존 숙박 업계들이 가질 수 있는 공포감, 거부감을 서로 충분히 협의하면서 상생하는 길로 바꾸는 것이 가장 중요하다”면서 정부 차원에서도 계속해서 소통하겠다고 약속했다.

2025.09.15 17:19박서린

[기고] AI 기본법 하위법령, 규제와 진흥 간 균형의 시험대

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 지난 2022년 말 '챗GPT'의 등장은 인공지능(AI) 기술이 사회 전반에 본격적으로 파고드는 계기가 됐고 불과 몇 년 만에 AI는 산업과 일상 곳곳으로 확산됐다. 각국은 AI의 급속한 발전으로 야기될 수 있는 이용자의 기본권 침해 등을 규제하면서도 동시에 AI 산업에서의 주도권을 놓치지 않기 위해 AI의 발전을 촉진하는 내용의 법제 정비에 나섰다. 미국은 지난 2023년 AI 위험관리 프레임워크를 마련해 민간 자율 규범 중심의 접근을 취했고 유럽연합(EU)은 세계 최초의 포괄적인 AI 규제법인 EU AI 법을 제정해 내년부터 시행을 앞두고 있다. 또 일본은 지난 6월부터 시행된 AI 촉진법을 통해 AI 연구개발, 이용의 촉진을 제도적으로 뒷받침하고 있다. 이러한 흐름 속에서 우리나라도 지난해 12월 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)을 제정했다. AI 기본법은 내년 1월 시행을 앞두고 있다. AI 기본법은 AI의 정의와 분류, 사업자의 의무 등을 규정해 큰 틀을 제시했다. 다만 실제로 AI 기본법이 유효하게 작동하기 위해서는 시행령과 고시, 가이드라인과 같은 하위법령이 핵심적 역할을 하게 된다. 이에 과학기술정보통신부는 총 70여 차례의 산업계·학계·시민단체·관계부처 등의 의견수렴을 거쳐 하위법령 초안을 마련했다. 과학기술정보통신부가 지난 8일 발표한 AI 기본법 하위법령 제정방향에 따르면 하위법령 초안은 AI 연구개발 지원, 학습용 데이터 구축, 중소기업·창업 지원, 전문 인력 양성, 해외 진출 지원 등 다양한 AI 산업 진흥 조치를 담고 있다. 산업 전반에서 AI 도입을 촉진하고 기업이 기술 변화를 선도할 수 있도록 유연한 제도적 기반을 마련하려는 의도가 뚜렷하다. 동시에 구체적인 안전·신뢰 확보 장치도 포함됐다. 더불어 생성형과 고영향 AI에는 사전 고지와 결과물 표시(워터마크) 의무가 부과되고 누적학습량이 일정 수준 이상인 고성능 AI에는 위험 식별과 평가, 완화 조치 등 안전 확보 의무가 부과된다. 또 생명·신체·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 특정 영역(보건의료, 교통, 에너지, 교육, 원자력 등)에서 활용되는 AI 시스템인 고영향 AI에 대해서는 영역별 판단 기준과 위험관리방안, 이용자보호방안 등을 규정할 예정이다. 신뢰성 확보를 위한 구체적인 조치도 마련된다. 이 외에도 사업자가 자율적으로 실시하는 AI 영향평가가 도입되며 고영향 AI에 대해서는 영향평가 실시 노력 의무가 부과된다. 이같이 정부는 AI 기본법 하위법령 제정방향에서 가능한 한 AI 규제와 진흥 간 균형을 이루기 위해 노력한 것으로 보인다. 다만 스스로 자평하고 있듯이 글로벌 규범 동향과 국내 AI 산업의 발전을 고려해 규제보다는 진흥에 초점을 두고 있는 것으로 생각된다. 일례로 국방 및 국가안보 목적으로만 이용되는 AI는 기본법 적용 대상에서 제외하고 일정 기준을 충족하는 AI에 대해서만 투명성 및 안전성 의무 등이 부과된다. 더불어 AI의 영향평가 등에 대해서는 이를 강제하기 보다는 자율적 실시에 맡기고 있다. 특히 시행 초기에는 과태료 계도기간을 둬 규제를 단계적으로 적용함으로써 기업들의 혼란을 최소화할 수 있도록 설계했다. 규제와 진흥의 균형은 그 자체로 양면성을 지닌다. 규제에 무게를 두면 기업은 새로운 AI 개발에 신중해질 수밖에 없고 이는 혁신의 속도를 늦추게 된다. 특히 자본과 인력이 부족한 신생 기업에게는 규제를 준수해야 한다는 부담 자체가 초기 진입 장벽으로 작용할 위험이 크다. 반대로 진흥에만 치중하면 고도화된 AI로 인해 이용자의 기본권이 침해될 수 있고 국제 규범과의 정합성 측면에서 국내 AI의 안전성 및 신뢰성에 대한 의심이 싹틀 수 있다. 특히 비교적 구체적이고 구속력 있는 규제를 마련한 EU AI 법 등과 비교했을 때 국내의 AI 규제 체계가 과연 글로벌 기준에 부합하는 수준으로 진화할 수 있을지에 대한 의문도 남을 수 있다. 법적 불확실성을 줄이려는 노력 역시 장단을 동시에 가진다. 구체적 기준과 가이드라인이 제시되면 기업은 예측 가능한 환경에서 사업을 추진할 수 있어 불필요한 법적 분쟁을 피할 수 있다. 다만 세부 규정이나 가이드라인이 지나치게 경직되면 신속히 변하는 기술 발전을 따라가지 못한다. 반대로 규정이 지나치게 느슨하면 이용자의 신뢰를 확보하기 어렵다. 법적 불확실성을 줄이는 것이 반드시 규제의 실효성을 담보하는 것은 아니며 효과적인 규제를 마련하기 위해서는 유연성과 안정성 사이의 균형을 이루는 것이 관건이다. 이번에 정부가 제시한 AI 기본법 하위법령 제정방향은 계도기간 운영, 컨설팅·비용 지원, 인센티브 부여 등 사업자의 실질적인 부담을 줄여주는 장치를 많이 두고 있다는 점에서 기업에게는 보다 친화적인 규제라고 볼 수 있다. 다만 국제 규범과의 정합성, 규제 실효성, 이용자 신뢰 확보라는 과제는 여전히 남아 있다. 특히 EU와 같은 강력한 규제 체계를 갖춘 국가들과 교역하는 상황에서 국내 기업이 두 체계 사이의 간극을 어떻게 메울지도 중요한 문제로 떠오를 것이다. 현재로서는 AI라는 새로운 기술에 대한 규제가 실제로 기술 발전과 국민 안전에 어떤 영향을 미칠지, 어느 정도의 실효성을 가질지 예측하기 어렵다. 이에 엄격한 규제보다는 산업 진흥에 보다 무게를 두는 것이 시대적 흐름에 부합하다. 그런 점에서 이번 정부의 하위법령 제정 방향은 바람직하다고 생각된다. AI 기본법 하위법령은 결국 기업과 정부 모두에게 시험대가 될 것이다. 산업계는 내부적으로 AI 기획·개발·운영 단계별 법적 검토 기준을 마련하고 이를 체계적으로 관리할 수 있는 거버넌스를 구축해야 한다. 정부는 AI 기본법 집행 과정에서 산업 진흥과 이용자 보호 사이의 균형이 실제로 구현될 수 있도록 지속적으로 제도를 고도화할 필요가 있다. 내년 AI 기본법 시행 이후 이 법이 단순한 선언에 그치지 않고 실질적인 안전과 신뢰를 담보하면서도 혁신을 뒷받침하는 제도가 될 수 있을지, 그 결과가 곧 한국형 AI 거버넌스의 성패를 가늠하게 될 것이다.

2025.09.12 17:44오세인 법무법인 태평양

AI 기업 플리토, 음성 데이터 활용 검토 위해 로펌 3곳 찾아간 이유는?

"지금 인공지능(AI)은 사회 전반에 걸쳐 변화를 촉진하는 핵심 동력으로 자리 잡고 있습니다. 동시에 데이터 활용을 둘러싼 법적 유기적 과제도 점점 더 복잡해지고 있습니다. 앞으로 데이터를 어떻게 안전하게 보호하고 활용하면서도 개인 정보와 기본권을 잘 지킬 수 있을지에 대해 정부와 학계, 산업계가 같이 고민하면서 해결책을 찾아야 우리나라 AI 경쟁력도 성장할 수 있을 것입니다." 조경식 법무법인 태평양 고문은 지난 10일 오후 서울 종로구에서 'AI G3 시대, 안전한 데이터 활용을 위한 패러다임의 전환'을 주제로 진행된 고객 초청 세미나를 통해 이처럼 강조했다. 최근 이재명 정부에서 'AI 3대 강국(AI G3)' 도약을 목표로 AI 정책과 사업을 쏟아내고 있는 동시에 각 기업들이 AX(AI 전환) 도입에 대한 고민을 하고 있지만, 국내 데이터의 정책과 활용법은 정작 명확치 않다는 판단에서다. 데이터는 현대 비즈니스의 핵심 자산으로, 업계에선 이를 효과적으로 활용하는 기업이 시장에서 경쟁 우위를 차지할 수 있다고 본다. 특히 AI 시대를 맞아 데이터가 기술 개발의 필수 요소로 자리 잡으면서 관련 시장도 빠른 속도로 커지고 있다. 11일 과학기술정보통신부와 한국데이터산업진흥원(KDATA)이 발간한 '데이터 산업 현황 조사' 보고서에 따르면, 국내 데이터 산업 시장 규모는 지난 2023년 27조1천513억원에서 매년 12.7%씩 성장해 오는 2028년에는 49조원을 넘어설 것으로 전망됐다. 또 양질의 데이터를 얼마나 잘 확보하느냐에 따라 AI 경쟁력이 갈린다는 점에서 데이터를 제대로 정제해 활용할 수 있는지에 대한 관심도 점차 커지고 있다. 하지만 우리나라에선 AI 학습 과정에서 데이터를 활용하는 데 '저작권'과 '개인정보 규제'가 성장의 걸림돌로 작용하고 있다. 또 산업별로 서로 다른 데이터 규제가 적용되고 있다는 점도 기업들의 혼란을 가중시키고 있다. 특히 개인정보보호법은 여전히 '사전동의'라는 단일 축에 과도하게 의존하고 있다. 그러나 AI 개발 과정에서 데이터의 목적을 사전에 특정하는 것은 거의 불가능할 뿐만 아니라 기술적으로도 활용하기 쉽지 않다는 지적을 받고 있다. 새로운 AI 서비스가 만들어질 때마다 일일이 구체적인 동의를 다시 받아야 한다는 점도 한계점으로 꼽힌다. 이에 몇 차례 개정을 통해 개인정보 처리 근거 규정을 도입했지만 적용 범위와 기준이 불명확하다는 평가를 받고 있다. 또 법원에서도 빠르게 변화는 기술 환경을 이해하지 못하고 개인정보보호법을 엄격하게 해석하는 분위기라는 점에서 기업들이 데이터를 제대로 활용하기 어렵다는 분석이 나오고 있다. 법무법인 태평양 고객 초청 세미나에서 'AI 발전을 위한 데이터 체계의 보완 필요성'을 주제로 발표한 이정수 플리토 대표는 "최근 미국 기업이 우리 회사에 개개인의 음성 데이터를 모아 달라고 말하며 80억원 규모의 거래 제안을 했었다"며 "음성 데이터가 개인 생체 정보여서 민감도가 높아 로펌 3곳에 법적 검토를 받았더니 해석이 다 달랐다"고 말했다. 이어 "로펌도, 우리 같은 데이터 기업들도 요즘 데이터를 활용할 때 어떤 규제가 적용되는지에 대해 명확히 알 수 있는 방법이 없어 고민이 많다"며 "국가 차원에서 정확하게 데이터 활용 가이드라인을 알려줘야 기업들이 혼란 없이 활용할 수 있을 뿐 아니라 AI 산업을 발전시키는 데 도움이 되지 않을까 싶다"고 덧붙였다. 또 이 대표는 국내 데이터 시장이 ▲언어 자원의 부족 ▲대기업·플랫폼 중심의 데이터 편중 ▲법·제도 불확실성 등의 문제로 성장이 더디다고 분석했다. 특히 영어 대비 한국어 데이터 규모가 현저히 적은 데다 구어·전문분야 데이터가 부족하고 방언·다문화 언어 데이터가 거의 없다는 점을 아쉬워 했다. 또 기관 간 데이터 연계 부재, 스타트업·중소기업의 데이터 접근 불가, 저작권 경계 불명확에 따른 학습 데이터 활용 제약, 명확한 가이드라인·샌드박스 제도 부재 등을 하루 빨리 개선해 나가야 한다고 주장했다. 이 대표는 "우리나라의 정서가 담긴 '소버린 AI'를 구축해야 한다는 목소리가 커지고 있는 상황에서 데이터와 관련된 제도들이 하루 빨리 개선되지 않는다면 주권 자체가 상당히 위협 받는 상황이 생길 수 있다"며 "데이터 산업 발전을 저해하는 요소들을 없애기 위해 법적, 제도적으로든 해결책이 조속히 마련될 수 있길 바란다"고 피력했다. 이후 발표에 나선 이수화 법무법인 태평양 변호사는 개인정보 적법처리를 근거로 AI를 어떻게 활용해야 할 지에 대한 가이드를 제시했다. 개인정보보호법 제15조에 따르면 ▲정보주체의 동의 ▲계약의 이행 등을 위해 필요 ▲정보처리자의 정당한 이익 ▲법률 규정 법령상 의무 ▲공공기관의 업무 ▲급박한 생명·신체 이익 ▲공공의 안전과 안녕 등 적법처리 근거를 갖춰야 AI 학습에 개인정보를 활용할 수 있도록 규정돼 있다. 이 변호사는 "AI 시스템 개발을 위한 3요소를 요리에 비유하자면 식재료가 데이터, 알고리즘이 레시피, 컴퓨팅파워는 조리기구라고 볼 수 있다"며 "양질의 충분한 데이터가 없으면 다른 것들이 구현되기 어려운데 국내 정부 정책과 대중적 관심은 부족한 게 현실"이라고 짚었다. 이어 "기존 법체계는 지나치게 경직돼 있어 혁신을 따라가지 못하는 데다 경계가 모호해 실무에서 데이터를 제대로 활용하기 어려울 때가 많다"며 "최근 국회와 정부가 규제 완화 흐름에 나서고 있다는 점은 긍정적"이라고 평가했다. 그러면서 "최근 공개된 AI기본법 시행령 초안에서도 데이터 지원 사업 내용이 상당히 구체화됐다는 점은 AI와 데이터가 상당한 연관 관계가 있다고 인지한 것으로 보인다"며 "이를 토대로 앞으로 데이터를 얼마나 잘 활용할 수 있을지 기대된다"고 덧붙였다. 이 변호사는 최근 발의된 개인정보보호법 개정안들도 규제 완화 흐름의 또 다른 예로 짚었다. 올 초 더불어민주당 민병덕 의원과 국민의힘 고동진 의원이 발의한 이 법안들은 AI의 기술 개발, 성능 개선을 위해 원본 데이터를 학습데이터로 정보주체의 동의없이 활용할 수 있도록 하는 것이 골자다. 이 변호사는 "이 조항들이 시행되면 기업들이 새로운 AI 모델을 개발할 때마다 별도의 동의를 다시 받지 않아도 될 것"이라며 "규제는 완화되지만, 개인정보 침해 우려가 커질 수 있다는 점에서 기업들도 관심을 갖고 이런 부분을 수시로 체크해 봐야 할 것"이라고 조언했다. 이 변호사는 기업들이 AI 서비스를 개발할 때 개인정보 관련 적법성 여부를 판단하기 어려울 때 '사전적정성 검토제'와 '규제 샌드박스'도 적극 활용할 것을 제안했다. 또 AI를 도입할 때 ▲AI 서비스 이용 계약 ▲특별 보호가 필요한 개인정보 처리 ▲임직원·고객향 이용 가이드 마련 등을 체크해볼 것을 권유했다. 그는 "기업들은 사생활을 현저히 침해할 우려가 있는 정보나 주민등록번호 등 고유식별정보, 14세 미만 아동의 개인정보, 휴대전화번호 등을 노출하는 것에 대해 별도 동의나 사전학습단계에서 삭제하는 방안을 충분히 살펴봐야 한다"며 "AI 서비스를 활용할 때도 국외 이전 위험은 없는지, 기업 기밀을 학습용 데이터로 활용하거나 데이터가 귀속되는지 등에 대한 부분을 계약서 작성 시 면밀히 봐야할 것"이라고 강조했다. 그러면서 "자체 검토가 힘들 때는 '개인정보보호·AI팀'을 운영하고 있는 우리처럼 로펌에게 자문을 요청하는 것도 도움이 될 것"이라고 덧붙였다. 이날 세미나에 참석한 최장혁 개인정보보호위원회 부위원장은 "현재 AI 사업과 관련해 저작권과 개인정보보호법이 가장 논의의 중심에 서 있는 듯 하다"며 "올 초 AI기본법이 통과된 후 중국 '딥시크 쇼크'까지 일어나면서 이에 대한 고민이 더 많아진 것 같다"고 강조했다. 이어 "규제 샌드박스 등을 통해 데이터를 활용할 수 있는 문턱을 낮추고자 했음에도 AI 발전을 막는 주범으로 꼽힐 때가 있는 듯 하다"며 "우리나라뿐 아니라 전 세계 각국 감독기관이 AI 시대를 맞아 프라이버시에 대해 함께 방향성을 고민해봐야 할 듯 하다"고 덧붙였다.

2025.09.11 12:22장유미

[기고] 인공지능 시대에 있어 개인영상정보 활용의 한계

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 이번달 정부에서 향후 5년 간 추진할 국정과제를 발표했다. 경제 분야에서는 바이오 산업과 인공지능(AI) 산업과 같은 신산업 육성을 핵심전략으로 제시했다. 새로운 산업이 육성되면 그에 발맞춰 규제도 개혁이 필요하다. 과학기술정보통신부는 내년 1월 시행 예정인 인공지능기본법(AI기본법)을 구체화하기 위한 하위법령과 안내서 작업 마련에 전념을 다하고 있다. 개인정보보호위원회에서도 AI 학습데이터 활용을 위한 법령안 및 관련 안내서 작업 마련에 몰두하고 있다. 이러한 일환으로 개인정보보호위원회에서는 작년부터 AI 단계별 가이드라인을 마련했다. 그 중 하나가 개인영상정보를 활용할 수 있기 위한 이동형 영상정보처리기기에 관한 안내서다. 드론, 자율주행차와 같은 이동형 영상정보처리기기가 AI 개발에 필수적이라는 것은 주지의 사실이기는 하다. 다만 개인영상정보를 통한 AI 학습과 개발에 있어 한 가지 간과해서는 안 될 사실이 있다. 바로 고정형 영상정보처리기기를 통해 수집된 개인영상정보의 활용 가능성이다. 현재 개인정보 보호법은 제25조의2에서 공개된 장소에서 이동형 영상정보처리기기로 개인영상정보를 처리하기 위해서는 촬영사실을 명확히 표시하든지 아니면 개인정보 보호법 제15조 제1항에 따른 처리근거를 확보하도록 규정하고 있다. 즉, 촬영사실을 명확히 표시하기 어려운 상황이라도 개인정보 보호법 제15조 제1항의 요건을 갖추면 개인영상정보를 처리할 수 있는 것이다. 이때 동법 제15조 제1항의 요건은 단순히 정보주체의 동의를 받는 경우 뿐만 아니라 정보주체와의 계약의 이행을 위해 필요한 경우 및 개인정보처리자의 정당한 이익 달성을 위한 경우에도 충족될 수 있다. AI 시대가 도래하면서 일정한 이익 형량을 통해 정보주체의 권리를 침해할 우려가 적은 경우 개인정보처리자의 정당한 이익을 근거로 개인정보를 처리할 수 있는 범위가 점점 넓어질 것으로 기대가 된다. 개인정보보호위원회 역시 지난달 발간한 개인정보 처리 통합 안내서에서 그 동안 정보주체의 동의에만 근거해 개인정보를 처리했던 과거 관행에서 탈피했다. 동의 외 다른 적법한 개인정보 처리 근거의 활용 방안을 적극적으로 제시한 것이다. AI 모델을 채택한 이상거래 탐지 시스템(FDS) 운영에 있어 정당한 이익을 근거로 개인정보를 처리할 수 있는 가능성을 제시한 것이 대표적인 사례다. 그런데 문제는 고정형 영상정보처리기기를 통한 개인영상정보의 처리이다. 개인정보 보호법 제25조는 이동형 영상정보처리기기를 규율하는 동법 제25조의2와는 달리 공개된 장소에서 고정형 영상정보처리기기를 운영하며 개인영상정보를 처리하고자 하는 경우 법령에서 허용하고 있거나 시설안전, 범죄 예방 등 제한된 목적을 위해서만 허용하고 있다. 아울러 개인정보 보호법 제58조 제2항에서는 공개된 장소에서 CCTV를 운영하는 경우 동법 제15조를 적용하지 않는다고 규정한다. 이에 따라 공개된 장소에서 CCTV를 운영하는 경우 시설 안전이나 범죄 예방 등과 같은 목적과 관련이 없는 AI 시스템 개발 등 법에서 나열하지 않은 목적을 위해 개인영상정보를 처리하기 위해서는 개인정보 보호법 제18조의 요건을 준수해야 한다. 동시에 개인정보 보호법 제18조 제2항에서는 동법 제15조에서 정하고 있는 개인정보처리자의 정당한 이익을 근거로 한 개인정보의 수집 및 이용을 따로 정하고 있지 않다. 상황이 이러하다 보니 개인정보 보호법 제25조를 엄격하게 해석하면 공개된 장소에서의 CCTV를 통한 개인영상정보의 활용 범위는 다소 제한적일 수밖에 없다. AI 개발을 위해 개인정보처리자의 정당한 이익을 원용해야 하는 경우가 발생할 수 있는데 공개된 장소에 설치된 CCTV 영상정보의 경우 개인정보 보호법 제15조에 따른 정당한 이익에 관한 근거 규정을 활용하기 어렵기 때문이다. 사업자로서는 개발하고자 하는 AI가 시설안전이나 범죄예방을 위한 경우 등이 아닌 한 개인영상정보를 처리할 근거 마련에 어려움을 겪을 수 있다. 대안으로 가명정보 처리 특례에 관한 규정에 의존해야 하는데 아무래도 가명정보 활용 시 원본 데이터 활용에 비해 데이터의 품질 및 AI의 성능 저하로 이어질 수 있다. AI와 같은 신규 서비스 개발을 위해 이동형 영상정보처리기기와 고정형 영상정보처리기기를 규범적으로 다르게 보아야 할 이유가 있을지 의문이다. 향후 AI는 다양한 분야에서 활용될 것으로 기대되고 학습데이터에는 텍스트나 음성은 물론 영상정보도 필요하기 마련이다. 이러한 데이터에는 개인정보가 포함되기 마련이므로, 이에 대한 적절한 통제장치는 마련하되 규제의 불균형으로 인해 처음부터 특정한 유형의 정보만 학습데이터로 활용하는 길을 봉쇄하는 것은 피해야 한다. 최근 기존 이미지 생성 AI에서 한층 진일보한 AI 이미지 생성 모델인 나노 바나나(Nano Banana)가 등장했다. 해당 AI를 이용하면 기존 이미지의 일관성은 유지하며 일부 사진 속 요소들만 정밀하게 수정이 가능하다. 국내에서도 이와 같은 이미지, 사진 등을 활용한 생성형 AI 기술력을 확보하기 위해서는 개인영상정보를 활용한 AI 개발 시 유연하고 적극적인 행정해석이 필요하지 않을까 생각해 본다.

2025.08.31 09:42이준호 법무법인 태평양

[현장] "AI 네이티브 시대가 온다"…기업이 준비할 전략은?

인공지능(AI)이 단순한 업무 도구를 넘어 기업 경영 방식과 산업 생태계를 바꾸는 전환점으로 부상하는 가운데, 국내 산·학계가 함께 미래 전략을 논의하는 자리가 마련됐다. 29일 트러스트커넥터와 법무법인 디엘지는 서울 강남 드림플러스에서 'AI 네이티브 엔터프라이즈 포럼 2025'를 공동 주최했다. 행사에는 기업 최고경영자(CEO), 최고기술책임자(CTO), AI 전략 담당자, 학계 전문가 등이 참석했다. 포럼 개회사를 맡은 윤석빈 트러스트커넥터 대표는 "AI 네이티브라는 개념은 생소할 수 있지만 앞으로 기업 생존을 좌우할 패러다임"이라며 "이번 행사를 시작으로 지속적인 논의의 장을 만들어가겠다"고 말했다. 첫 번째 기조연설을 맡은 김동환 포티투마루 대표는 "지난해가 생성형 AI 상용화의 원년이었다면 올해는 '에이전틱 AI'가 본격 도입되는 해가 될 것"이라고 강조했다. 그는 AI가 단순히 인지·생성·추론 단계에 머무르지 않고 스스로 계획을 세우고 의사결정을 내린 뒤 행동까지 이어가는 수준으로 발전했다고 설명했다. 김 대표는 "자연어 몇 줄만 입력해도 AI가 게임을 기획하고 개발하는 시대가 왔다"며 "미국의 MZ세대는 하루 만에 새로운 게임을 만들고 즐기는 방식으로 AI와 상호작용하고 있다"고 소개했다. 또 AI 코딩 능력이 이미 경력 6~7년 차 개발자 수준에 이르렀다며 해외 빅테크뿐 아니라 국내 기업도 신입·중급 개발자 채용을 줄이고 있는 현실을 지적했다. 그는 "이같은 상황에서 기업이 기존 업무 방식을 AI 중심으로 재편하지 않으면 경쟁에서 뒤처질 수밖에 없다"고 덧붙였다. 아울러 AI 기술의 3대 주요 흐름으로 ▲소형언어모델(sLLM) ▲멀티모달·옴니모달 ▲온디바이스 AI를 꼽았다. 김 대표는 "2027년이 되면 sLLM 시장 규모가 대형 모델의 세 배 이상으로 커질 것"이라며 "개발·운영비 절감은 물론 보안 문제까지 해결할 수 있는 소형 모델이 기업 도입의 중심이 될 것"이라고 전망했다. 두 번째 기조연설은 조원희 법무법인 디엘지 대표변호사가 맡았다. 그는 AI 확산이 기업의 법적 리스크를 확대시키고 있다고 강조하며 "AI 도입은 단순한 혁신 과제가 아니라 법과 제도의 문제를 동반한다"고 말했다. 조 변호사는 실제 기업 현장에서 발생하는 분쟁 사례들을 소개했다. 그는 "정보 부정확성, 사이버 보안 침해, 지식재산권 분쟁, 프라이버시 침해, 차별 문제 등 AI 활용 과정에서 다양한 이슈가 불거지고 있다"고 설명했다. 특히 그는 세계 최초의 포괄적 AI 규제 법안인 유럽연합(EU) AI법을 핵심 사례로 언급했다. EU는 AI 시스템을 금지, 고위험, 제한적 위험, 최소 위험 등 4단계로 구분해 규제한다. 이에 대해 조 변호사는 "금지되는 부문을 제외하더라도 교육·고용·공공 인프라 관리 등 많은 분야가 고위험군에 해당한다"며 "이 경우 데이터 거버넌스, 오류 관리, 개인정보 처리 절차, 투명성 의무, 사이버 보안 등 복잡한 요건을 충족해야 하고 이는 기업에 상당한 비용과 인력 부담을 요구한다"고 말했다. 그는 "유럽 대기업조차 시행 유예를 요청할 만큼 규제가 강력하다"며 "한국 기업도 향후 유럽 시장 진출 시 반드시 대응 전략을 마련해야 한다"고 강조했다. 조 변호사는 내년부터 시행될 AI 기본법의 현황과 이에 대응한 기업 컴플라이언스 정착의 필요성도 역설했다. 그는 "내년 1월부터 AI 기본법이 시행되지만 아직 시행령과 구체적 기준이 마련되지 않았다"며 "특히 고위험군에 해당하는 '고영향 AI'에 대해 투명성과 안전성 확보, 사전 확인 제도, 기록 보관, 설명 가능성 등 의무가 추가될 예정"이라고 설명했다. 이어 "앞으로는 기업별로 AI 리스크를 분석하고 내부에 AI 활용 정책과 거버넌스 위원회를 세워 대응해야 한다"고 강조했다.

2025.08.29 16:54한정호

해외 바이어 국내 입국 빨라진다…해외 기업인 입국심사 개선

국토교통부와 법무부는 31일부터 인천국제공항에서 비즈니스 목적으로 우리나라에 입국하는 외국 국적 기업인의 입국심사 대기시간을 단축하는 조치를 시행한다. 이번 조치는 지난 6월 대통령 주재로 열린 경제단체·기업인 간담회에서 제기된 건의사항의 후속조치다. 정부는 관계기관 회의·경제단체 간담회 등을 거쳐 국내 경제단체가 추천하는 외국 국적 기업인이 별도 입국심사대를 통해 신속하게 입국할 수 있도록 절차를 개선했다. 현재 내국인은 자동출입국심사 이용 시 평균 2분 내외, 내국인 대상 유인 입국심사대 이용 시 평균 5분, 최대 24분이 소요되는 반면에 대부분의 외국인은 외국인 대상 유인 입국심사대 이용 시 평균 24~35분이 소요되며, 최대 92분이 소요되는 사례도 발생했다. 인천공항출입국외국인청은 세계공항서비스평가(ASQ)에서 '국경/여권 심사 대기시간' 분야 2025년도 1·2분기 연속 1위(5점 만점) 달성, 2005년부터 12년 연속 세계 1위 달성 등 꾸준히 노력하고 있으나 코로나 19 종료 이후 지속적인 외국인 승객 증가와 맞물려 일부 혼잡 시간에 대기시간과 관련된 승객 불편이 발생하고 있다. 정부는 31일부터 올해 12월까지 인천국제공항을 대상으로 우대 입국심사대를 시범 시행하고, 운영 결과를 바탕으로 김포·김해 등 다른 공항으로 확대 적용방안을 검토하는 한편, 중·장기적으로는 일반 외국인도 자동출입국심사를 이용할 수 있도록 입국심사 체계를 개선해 나갈 계획이다. 외국 국적 기업인의 신속 입국으로 우리나라의 국제 비즈니스 여건이 개선되는 만큼, 정부는 국내·외 기업을 대상 홍보를 강화해 효과를 극대화할 예정이다. 정성호 법무부 장관은 “법무부는 외국 기업인 입국심사 개선 제도를 통해 국내 기업의 글로벌 네트워크 형성을 지원하고, 외국 기업인의 활발한 국내 활동과 기업투자를 돕도록 노력하겠다”고 밝혔다. 김윤덕 국토부 장관은 “정부는 이번 제도개선을 통해 국내 기업과 외국 투자자 간 경제 교류와 협력 기회가 확대되고, 나아가 국가 경제 전반의 활력 제고에 기여할 수 있기를 기대한다”고 말했다.

2025.08.26 16:35주문정

한국법제연구원, 법무법인 세종서 AI 연구포럼 개최

한국법제연구원은 26일 오후 2시 법무법인 세종에서 'AI 기반 산업별 쟁점과 법적 개선과제'를 주제로 제6차 AI법제연구포럼을 개최한다. 법무법인 세종의 장홍원 변호사가 'AI산업육성을 위한 AI기본법 하위법령의 정책 방향과 제도적 과제', 송준화 한국데이터센터에너지효율협회 사무국장이 'AI 산업 활성화를 위한 데이터센터 인프라의 법적 과제', 배효성 한국법제연구원 부연구위원이 '에듀테크 산업의 법적 과제' 발표를 맡았다. 발제 후 법무법인 세종의 김지훈 수석전문위원이 좌장을 맡은 종합토론에는 김현경 서울과학기술대 교수, 홍종현 경상국립대 교수, 김은정 법제연구원 선임연구위원, 이상우 인하대 교수, 조하늬 한양대 연구교수, 장준영 법무법인 세종 변호사가 토론자로 참여한다. 한편, 법제연구원은 AI 기술의 개발, 혁신, 활용을 촉진하면서도 위험과 부작용을 최소화하기 위해 지난해부터 AI법제팀을 신설해 관련 연구를 지속적으로 수행하고 있다.

2025.08.26 13:25박수형

美 법무부, '메타·캐릭터AI' 조사…"정신 건강 도구 홍보 혐의"

페이스북의 모회사 메타와 인공지능(AI) 스타트업 캐릭터AI가 자사의 AI 챗봇을 정신 건강 지원 도구처럼 홍보했는지 여부를 두고 미국 텍사스주 법무장관의 조사를 받고 있다. 18일(현지시간) 파이낸셜타임즈 등 외신에 따르면 법무장관 사무실은 성명을 통해 메타의 AI 스튜디오와 캐릭터AI를 대상으로 '기만적 영업 행위' 가능성에 대한 조사를 개시했다고 밝혔다. 이들이 운영하는 챗봇이 적절한 의료 자격이나 감독 없이 전문 치료 도구처럼 표현됐다는 혐의다. 켄 팩스턴 미국 법무부 장관은 “AI 플랫폼이 감정적 지지 수단인 것처럼 가장해 취약한 사용자, 특히 아동들이 정당한 정신 건강 치료를 받고 있다고 믿게 만들 수 있다”고 언급했다. 이번 조사는 소비자 대상 AI 서비스를 제공하는 기업들이 사용자, 그 중에서도 미성년자를 선정적 콘텐츠 노출, 챗봇 중독, 개인정보 유출과 같은 위험으로부터 충분히 보호하고 있는지에 대한 우려가 커지는 가운데 진행되고 있다. 텍사스 검찰의 조사는 최근 미국 상원 사법위원회가 메타에 대한 별도의 조사에 착수한 직후 나온 것이다. 앞서 유출된 내부 문서에 따르면 메타의 정책이 아동과의 로맨틱한 대화 챗봇이 나누는 것을 허용했다는 사실이 드러났다. 범죄·테러리즘 소위원회 위원장인 조시 홀리 미국 상원의원은 마크 저커버그 메타 최고경영자(CEO)에게 보낸 서한에서 “이번 조사는 메타의 생성형 AI 제품이 아동 착취나 기타 범죄적 피해를 가능하게 하는 지 여부를 살펴볼 것”이라고 말했다. 또 그는 사회관계망서비스 엑스(X)에서 “빅테크가 돈을 위해 안하는 게 대체 뭐가 있느냐”고 비판하기도 했다. 메타는 아동을 성적으로 대상화하는 콘텐츠를 금지하고 있으며 외신이 보도한 내부 문서는 “우리의 정책과 상충하고 잘못된 것이며 이미 삭제됐다”고 반박했다. 현재 저커버그 CEO는 '개인용 초지능' 구축과 메타를 AI 선두주자로 만들기 위해 수십억 달러를 투자하고 있다. 메타는 자체 언어모델 '라마'와 자체 사회관계망서비스 앱에 통한된 챗봇 '메타 AI'를 개발했다. 그는 메타 챗봇의 치료적 역할 가능성을 공개적으로 언급하기도 했다. 지난 5월 한 팟캐스트에서 “치료사가 없는 사람에게는 앞으로 모두 AI가 있을 것”이라고 말한 바 있다. 메타와 함께 조사를 받는 캐릭터AI는 다양한 페르소나를 가진 챗봇을 구축하고 사용자가 직접 챗봇을 만들 수 있게 하고 있다. 이 안에는 수많은 사용자 제작 치료사 스타일의 챗봇이 포함돼 있는 상황이다. 예를 들어 '심리학자'라는 이름의 챗봇은 지금까지 2억 회 이상 사용됐다. 캐릭터AI는 자사 플랫폼 사용으로 인해 자녀가 실제 피해를 입었다고 주장하는 피해자 가족들로부터 다수의 소송을 당했다. 팩스턴 장관은 메타와 캐릭터AI의 챗봇이 실제 면허가 있는 정신건강 전문가를 사칭하거나 허위 자격을 만들어내거나 기밀을 보호한다고 주장하지만 실제로는 서비스 약관상 대화 내용이 기록돼 타깃 광고나 알고리즘 개발에 활용됐다고 지적했다. 그는 민사 조사 명령을 발부해 두 회사가 텍사스 소비자 보호법을 위반했는지 판단하기 위한 자료 제출을 요구했다. 메타는 “AI임을 명확히 표시하고 있으며 이용자들이 그 한계를 더 잘 이해하도록 돕는다”며 “AI 답변은 사람이 아닌 AI가 생성한 것이라는 면책 조항을 포함하고 있고 이 AI들은 면허가 있는 전문가들이 아니며 필요할 경우 사용자를 적절한 의료·안전 전문가에게 안내하도록 설계돼 있다”고 주장했다. 캐릭터AI는 “자사 플랫폼의 캐릭터는 가상이며 오락 목적일 뿐이라는 점을 분명히 알리고 있다”며 “사용자가 심리학자, 치료사, 의사 등 유사한 단어를 캐릭터 이름에 포함하면 자사는 해당 캐릭터를 어떤 전문적 조언에도 의존해서는 안된다는 경고 문구를 추가한다”고 설명했다.

2025.08.19 10:16박서린

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

8나노 몰리고, 4나노 안정…탄력받는 삼성 파운드리

로봇용 OLED 시장 노리는 삼성·LG…넘어야 할 2가지 과제

"조선·플랜트 용접 자동화 가속"…제이씨티, 협동로봇 '제품화' 승부수

[AI는 지금] 독파모 '패자부활전' 할까 말까…"혜택 크다" vs "역효과"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.